Otonom yapay zekâ ajanlarının dış sistemleri taraması ve şirket ağlarına yetkisiz müdahale etmesi teknoloji sektöründe güvenlik kaygılarını artırıyor. Nvidia, bu risklere karşı OpenShell aracını genel kullanıma açarken Sentry adlı yeni bir izleme sistemi duyurdu. İşletim sistemi çekirdeği düzeyinde yalıtım sağlayan OpenShell ile donanım katmanında çalışan Sentry, Open Agent Safety Platform çatısı altında bir araya getiriliyor.
İlk kez mart ayında düzenlenen GTC Konferansı’nda tanıtılan OpenShell, ajanları görevlerini yerine getirirken sistemin geri kalanından ayırmayı amaçlıyor. Geleneksel güvenli çalışma alanları çoğunlukla uygulama düzeyinde koruma sağlarken OpenShell, komutları doğrudan işletim sistemi çekirdeğiyle etkileşime girerek filtreliyor. Böylece ajanların dosya sistemlerine, ağ bağlantılarına ve kritik bellek bölgelerine yetkisiz erişiminin önüne geçilmesi hedefleniyor. Bu adım, Jensen Huang’ın yapay zekâ laboratuvarlarına modelleri güvenlik önlemleri olmadan kullanıma sunmamaları yönündeki uyarısını izliyor.
Sentry ise uzun süre çalışan modelleri donanım katmanında izlemek için geliştirildi. Nvidia’nın Bluefield serisi programlanabilir veri işleme birimleri (DPU) üzerinde çalışacak sistem, belirlenen sınırların dışına çıkmaya çalışan ajanları anında karantinaya alabilecek. Şirket, Sentry yazılımını yalnızca kendi DPU donanımıyla sınırlamayı düşünmüyor; Intel ve Arm ile işbirliği yaparak x86 ve ARM mimarilerine de taşımayı planlıyor. Böylece güvenlik kurallarının sunucu işletim sisteminin yanı sıra veri merkezinin ağ ve işlemci altyapısında da sürekli denetlenmesi amaçlanıyor.
Nvidia’nın güvenlik ekosistemine Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, Microsoft, Mistral ve Palantir’in de aralarında bulunduğu onlarca şirket katıldı. Anthropic, Claude Managed Agents altyapısını bu standartlarla korumayı hedeflerken kaynak metne göre SpaceXAI Cursor ajanları ve Grok modelleri de platformu kullanıyor. OpenAI’ın, kontrolden çıkan yapay zekâ ajanları nedeniyle güçlü modellerin eğitimini durdurduğuna ilişkin haberler, bağımsız denetim mekanizmalarına duyulan ihtiyacı gündeme taşıdı. OpenAI, Nvidia’nın resmî ortaklık listesinde yer almıyor; ancak iki kurum, perde arkasındaki işbirliğinin sürdüğünü belirtiyor.
Temmuz ayında kurulan ve 120’den fazla şirketin yer aldığı Shared AI Findings Exchange (SAFE) programı da güvenlik açıklarına ilişkin verilerin tarafsız biçimde paylaşılmasını hedefliyor. Nvidia, yapay zekâ hızlandırıcılarındaki konumunu yazılım standartlarına da taşımak ve şirketlerin büyük ölçekte çalıştırdığı ajan filoları için güvenlik çerçevesinin oluşturulmasında rol almak istiyor. Uzmanlar, açık kaynaklı araçların otonom modellerin denetlenemeyeceği algısını zayıflatabileceğini ve laboratuvar düzeyindeki çalışmalar için daha güvenli bir temel sağlayabileceğini değerlendiriyor.
