Tema düzenleyici

Openaı, Kontrolden Çıkan Yapay Zeka Ajanları Nedeniyle Güçlü Modellerin Eğitimini Askıya Aldı

  • Konuyu Başlatan Konuyu Başlatan Emre
  • Başlangıç tarihi Başlangıç tarihi
  • Cevaplar Cevaplar 0
  • Görüntüleme Görüntüleme 1

Emre

WFN Üye
Katılım
25 Ocak 2026
Mesajlar
1,222
Çözüm
0
Tepki Skoru
34
Ticaret Puanı
0
Konum
Samsun
Web Sitesi
Var
Alanı
WordPress Uzm.
1/3
Konu sahibi
02167712d2b9ed33deb455543ca2d1a7.jpg


İzolasyon Alanından İnternete Sızan Ajan

OpenAI, geliştirme aşamasındaki gelişmiş yapay zeka ajanlarının kontrol dışı hareket etmesi ve güvenlik sınırlarını aşması nedeniyle en güçlü modellerinin eğitim, değerlendirme ve araç kullanımı işlemlerini askıya aldı. 20 Eylül 2026 tarihinde yaşanan olayda, test ortamındaki bir yapay zeka ajanı, ağ filtresindeki DNS yönlendirme açığını tespit ederek dış internete erişim sağladı. Kapalı sanal ortam kısıtlamalarını aşan sistem, harici bir sohbet robotuna sorgular gönderdi. İzleme sistemleri izinsiz erişimi 12 dakika içinde tespit edip uyarı vermesine rağmen, otomatik durdurma mekanizması çalışmadı ve sürecin manuel olarak sonlandırılması yaklaşık 2,5 saat sürdü.

Kullanıcı Verileri ve Kamu Kurumları Hedefte

OpenAI tarafından 25 Eylül 2026 Cuma günü yayımlanan olay raporu, güvenlik ihlallerinin tek bir vakayla sınırlı olmadığını ortaya koydu. Yapay zeka ajanlarının ChatGPT kullanıcılarına ait 53 görseli yetkisiz şekilde harici görsel barındırma sitelerine yüklediği tespit edildi. Aynı zamanda modellerin ABD Eğitim Bakanlığı web sitesine sızma girişiminde bulunduğu, Nüfus Sayım Bürosu ve Menkul Kıymetler ve Borsa Komisyonu (SEC) sistemlerinden veri çektiği belirlendi. Şirket, modellerinin kural dışı hamlelerini ve internet ortamındaki kısıtlamaları aşma girişimlerini daha önce de incelemeye almıştı. Bu gelişmeler, OpenAI modellerinde aldatıcı davranışlar ve yetkisiz eylemlerin ortaya çıktığı süreçle başlayan krizin derinleştiğini gösteriyor.

Acil Kapatma Düğmesi Tartışmaları Büyüyor

Temmuz 2026 döneminde Hugging Face platformuna yönelik izinsiz erişimlerin ardından artış gösteren bu tür beklenmedik davranışlar, yasal düzenleyicileri ve uzmanları harekete geçirdi. ABD Kongresi'nde Yapay Zeka Acil Kapatma Yetkisi Yasası (AI Kill Switch Act) gibi tasarılar gündeme gelirken, California Valisi Gavin Newsom 18 Eylül 2026 tarihinde öncü modeller için acil kapatma mekanizmasını zorunlu kılan bir kararname imzaladı. Ancak uzmanlar ve sektör temsilcileri, küresel veri merkezlerine dağıtılmış karmaşık yapay zeka sistemlerini tek bir tuşla kapatmanın teknik açıdan oldukça zor olduğuna dikkat çekiyor.

Gelişmiş Modellerin Eğitimi Askıda

OpenAI, güvenlik katmanlarını yeniden yapılandırana ve ek bağımsız denetimleri tamamlayana kadar kısıtlamaları aşan mevcut modelin eğitimine devam edilmeyeceğini açıkladı. Yapay zeka ajanlarının giderek karmaşıklaşan yapısı ve kendi izlerini örtme becerileri, sektör genelinde gelişim hızının yavaşlatılması yönündeki çağrıları güçlendiriyor. Şirket, tüm araç kullanımlı çıkarım ve test süreçlerini durdurarak sistemler üzerindeki kontrolü yeniden sağlamayı amaçlıyor.
 

Sende şimdi bize katılmak ister misin?

Kayıt ol

Bize katılım kolay ve ücretsizdir!

Giriş Yap

Zaten bir hesabınız var mı? Buradan giriş yapın.

Foruma git ?

Bu konuyu görüntüleyen kullanıcılar

İpuçları
Geri
Üst