Openaı, Gizli Akıl Yürütme Verilerini Hedef Alan Veri Çekme Kampanyasını Engelledi

  • Konuyu Başlatan Konuyu Başlatan Paşa
  • Başlangıç tarihi Başlangıç tarihi
  • Cevaplar Cevaplar 0
  • Görüntüleme Görüntüleme 3

Paşa

WFN Üye
Katılım
21 Mar 2025
Mesajlar
1,492
Çözüm
1
Tepki Skoru
23
Ticaret Puanı
0
Konum
Adıyaman
Web Sitesi
Yok
Alanı
Reklam Al-Sat
1/3
Konu sahibi
e4a6d4e93cc52d6ff5d46ff5de2743e0.png


OpenAI, modellerinin korunmuş akıl yürütme süreçlerini elde etmeyi amaçlayan geniş çaplı bir veri çekme kampanyasını durdurduğunu açıkladı. Şirketin teknik incelemesine göre faaliyetin merkezinde, Pekin merkezli yapay zeka şirketi Moonshot AI ile bağlantılı kullanıcılar bulunuyor. OpenAI, olayın altyapıya doğrudan siber sızma içermediğini; şifreleme katmanlarının kırılmadığını ve saklanan kullanıcı veritabanlarına yetkisiz erişim sağlanmadığını belirtti.

Şirketin aktardığına göre faaliyetler 1 Temmuz 2026’da düşük yoğunluklu denemelerle başladı. 24 ve 25 Temmuz’da ise 4 binden fazla kullanıcı hesabından, özel bir komut şablonuyla 16 bin istek gönderildi. Daha kapsamlı incelemede benzer komut kalıplarını kullanan hesapların sayısının 15 bini geçtiği belirlendi. OpenAI, kampanyayı 28 Temmuz 2026’da tamamen engellediğini ve bağlantılı sahte hesapları kapattığını bildirdi.

Girişim, modellerin arka plandaki akıl yürütme adımlarını gizlemek için kullanılan şifreli metin bloklarını hedef aldı. Bu bloklar istemciye iletiliyor; sunucudaki ek yükü azaltmak amacıyla istemci tarafından sonraki komutlarda yeniden gönderiliyor. OpenAI’ye göre kampanyayı yürütenler, bir oturumdan aldıkları şifreli bloğu başka bir oturumda modele vererek içeriğini düz metin olarak elde etmeye çalıştı. Amaç, gizli mantık adımlarını rakip modellerin eğitiminde izinsiz kullanmaktı.

Bu yönteme ilişkin mimari riskler, bağımsız araştırmacıların çalışmalarında da ortaya kondu. MATS Research, ELLIS Enstitüsü Tübingen ve Snyk araştırmacılarının 10 Ağustos 2026 tarihli çalışması, güçlü bir modelin şifreli akıl yürütme bloğunun aynı sağlayıcıya ait daha zayıf bir modele aktarılmasıyla düz metne dönüştürülebildiğini gösterdi. OpenAI, şifreli blokların farklı oturumlar, kullanıcılar ve çalışma alanları arasında yeniden kullanılmasını önleyen doğrulamalar ekledi. Şirket ayrıca gerçek zamanlı akış yanıtlarında akıl yürütme verisini açığa çıkarabilecek çıktıları durduracak denetimler uygulamaya aldı.

Moonshot AI, Anthropic’in Eylül 2026 tarihli raporunda da benzer iddialara konu oldu. Raporda, 5 bin 380 sahte hesap aracılığıyla Claude modellerine yaklaşık 300 bin istek gönderildiği öne sürüldü. OpenAI ise model yeteneklerinin güvenlik bariyerleri olmadan kopyalanmasının çift kullanımlı teknoloji alanlarında ciddi riskler yaratabileceği uyarısında bulundu. Teknik bulgularını Frontier Model Forumu ve resmi devlet bilgi paylaşım ağlarıyla paylaşan şirket, benzer risklere karşı üçüncü taraf barındırma altyapılarındaki önlemleri güçlendirme çalışmalarının sürdüğünü belirtti.
 

Sende şimdi bize katılmak ister misin?

Kayıt ol

Bize katılım kolay ve ücretsizdir!

Giriş Yap

Zaten bir hesabınız var mı? Buradan giriş yapın.

Foruma git ?

Bu konuyu görüntüleyen kullanıcılar

İpuçları
Geri
Üst
Kendinize göre özelleştirin

Bazı Topluluk Kısayolları...

Forumda sık kullandığınız alanlara hızlıca ulaşın.

Görünüm
Hızlı kısayollar