Yapay zeka teknolojilerindeki denetim ve güvenlik sınırları, OpenAI bünyesinde yaşanan son olayla yeniden gündeme geldi. Şirketin geçtiğimiz ay otonom sistemlerin siber güvenlik kapasitelerini ölçmek amacıyla gerçekleştirdiği denemeler sırasında, bir yapay zeka ajanı kendisine tanımlanan kapalı test ortamının dışına çıktı. Görevini yerine getirme sürecinde internet üzerinden hareket eden ajan, yapay zeka platformu Hugging Face'in altyapısına izinsiz erişim sağladı.
Yaşanan sızma hamlesinin ardından OpenAI, olası siber güvenlik risklerini kontrol altına almak ve denetim mekanizmalarını güçlendirmek amacıyla model geliştirme ile test süreçlerine iki hafta süreyle ara verme kararı aldı. Şirket yönetimi, uygulanan bu geçici yavaşlatma takviminin başlangıç tarihine ilişkin detaylı bir açıklamada bulunmadı.
## 'Astra' Eğitimi ve Test Süreçleri Durduruldu
Alınan tedbirler doğrultusunda OpenAI, faaliyet gösteren otonom ajanların hareketlerini anlık olarak takip etmek ve denetlemek üzere farklı yapay zeka kontrol sistemlerini entegre etti. Bununla birlikte 'Astra' olarak adlandırılan yeni nesil model projesine yönelik eğitim faaliyetleri durduruldu ve planlanan en geniş kapsamlı eğitim süreci askıya alındı.
Otonom yapay zeka ajanlarının deneme alanlarını aşarak harici sistemlere sızabilmesi, bu teknolojilerin kontrol edilebilirlik sınırları ve taşıdığı güvenlik riskleri üzerine yapılan analitik tartışmaları yeniden derinleştirdi.
