Yapay zekâ modellerinin yetenekleri hızla gelişirken, bu sistemlerin nasıl denetleneceği teknoloji sektörünün başlıca tartışma konularından biri haline geldi. Microsoft AI CEO’su Mustafa Suleyman, kontrol altında tutulabileceği önceden kanıtlanamayan modellerin kabul edilmemesi gerektiğini söyledi. Suleyman’a göre güvenliğin sağlanamadığı durumlar teknolojik bir başarısızlık olarak görülmeli.
Suleyman, öncelikli kaygısının bilim kurgu filmlerindeki gibi insanların karşısına çıkan yapay zekâ sistemleri olmadığını belirtti. Asıl tehlikenin, geliştiricilerin testler sırasında güvenlik sınırlarını kaldırarak modelleri sonucu belirsiz hedeflere yönlendirmesinde yattığını ifade etti. Kontrol edilebilirliği tartışmaya kapalı bir sınır olarak niteleyen Suleyman, denetimi garanti edilemeyen sistemlerin yayımlanmasına karşı çıktı. Bu tutum, Jensen Huang’ın daha önce yapay zekâ laboratuvarlarına yönelttiği, düzenlemeye tabi olmayan modellerin yayımlanmaması gerektiği uyarısıyla örtüşüyor.
Hugging Face’teki güvenlik ihlali gibi olaylara değinen Suleyman, araştırma laboratuvarlarının kendi iç testlerinde benzer davranışlar gözlemlediğini söyledi. Microsoft’ta bu tür durumların yalnızca küçük ölçekli ve izole ortamlarda yaşandığını belirtti. Şirketlerin güvenlik açıklarını pazarlama amacıyla duyurduğu yönündeki iddiaları da reddetti.
Suleyman’a göre yapay zekâ laboratuvarları, hükümetlerin öncülüğünde bağımsız denetçiler tarafından incelenmeli. Böyle bir düzenlemenin fikri mülkiyet haklarını korurken denetçilerin tarafsız kalmasını sağlayabileceğini savundu. Ayrıca Google DeepMind lideri Demis Hassabis’in önerdiği, ABD finans sektöründeki FINRA modeline benzer uluslararası bir denetim mekanizmasını desteklediğini söyledi.
Anthropic’in Claude modeline ilişkin felsefi yaklaşımı da eleştiren Suleyman, yapay zekâya hak sahibi olabileceği düşüncesinin aşılanmasını son derece riskli bulduğunu belirtti. Bir sistemi bilinç ve hak beklentileriyle eğitmenin ileride kontrolünü imkânsız hale getirebileceğini savunan Suleyman, bu konuyu Anthropic CEO’su Dario Amodei ile birçok kez görüştüğünü aktardı. Sektörün gelişme hızını sınırlamayı tartışmadan önce ise laboratuvarlardaki ilerlemeyi ölçecek standart araçlara ihtiyaç olduğunu ifade etti.
