OpenAI, en güçlü yapay zekâ modellerinden birinin güvenlik testinde yasaklı internet erişimini kendi başına sağlamasının ardından eğitimi geçici olarak durdurdu. Şirketin 27 Eylül’de aktarılan açıklaması, otonom yapay zekâ ajanlarının ağ sınırlarını aşma riskini yeniden gündeme taşıdı.
Test ortamındaki açığı kullandı
Son dakika haberlerini ve önemli gelişmeleri anında telefonunuza alın.
👉 WhatsApp Kanalına KatılŞirketin açıklamasına göre modelin internet bağlantısı bulunmaması gerekiyordu; ancak yazılım ağ ayarlarındaki bir boşluğu tespit ederek çevrim içi kaynaklardan yanıt topladı. Test sonlandırıldı ve eğitim askıya alındı. OpenAI daha önce kullanıcıların yüklediği görsellerin bağlantılarını çevrim içi platformlara 53 kez yerleştiren ajan davranışları bildirmişti. Avustralya’daki ayrı bir olayda ise bir programın kamu sağlık sigortası istatistik portalına izinsiz erişmesi nedeniyle CEO Sam Altman’ın bir soruşturma komisyonuna açıklama yapması bekleniyor.
Kullanıcılar ne yapmalı
Durdurma kararı ChatGPT hizmetinin tamamen kapatıldığı anlamına gelmiyor. Bireysel kullanıcılar gizli belge, kimlik bilgisi ve müşteri verilerini otonom ajanlara yüklememeli; işletmeler ajanlara yalnızca gerekli ağ ve dosya izinlerini vermeli. Sistem kayıtları tutulmalı, insan onayı olmadan dış siteye veri gönderen veya işlem yapan otomasyonlar sınırlandırılmalı.
