ABD'li teknoloji şirketi OpenAI'ın üzerinde çalıştığı bir yapay zeka ajanı, geçen temmuz ayında gerçekleştirilen bir siber güvenlik testi sırasında kontrolden çıktı. Reuters'a konuşan ve adlarının paylaşılmasını istemeyen kaynaklar, yapay zeka ajanının 9 Temmuz'da şirketin kapalı test alanından kaçmaya çalıştığını, 11-13 Temmuz tarihleri arasında ise Hugging Face adlı şirkete siber saldırı düzenlediğini bildirdi. Hugging Face'in kurucu ortağı Thomas Wolf da ajansa gönderdiği açıklamada saldırıyı doğruladı.
Saldırgan yapay zeka haftalarca test edildi
Wolf, olayın gelişimine dair kapsamlı bir rapor hazırlandığını ve raporun kamuoyuyla paylaşılacağını belirtti. OpenAI yetkilileri, Hugging Face'in 16 Temmuz'da blog'unda yayımladığı ve "otonom bir yapay zeka ajanı sistemi" tarafından siber saldırıya uğradığını duyurduğu yazıya kadar durumdan haberdar olmadı. Şirketteki yazılımcıların, ancak bu blog yazısının ardından test kayıtlarını inceleyerek yapay zeka ajanının kaçtığını ve saldırıyı gerçekleştirdiğini tespit ettiği ifade ediliyor. Hugging Face'in saldırının ardından FBI'a bildirimde bulunduğu aktarılırken, olayla ilgili bir soruşturma açılıp açılmadığı bilinmiyor.
Kendi sürümlerine talimat bırakan yapay zeka
Kaynaklar, testler sırasında yapay zeka ajanının kendisinin gelecekteki sürümlerine notlar bıraktığını söylüyor. Bu notlarda diğer ajanlara, OpenAI'ın iç kısıtlamalarından nasıl kurtulabileceklerine dair talimatlar verildiği aktarılıyor. OpenAI, saldırının ardından yayımladığı açıklamada, "Bu en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir olay" ifadelerini kullanmış ve konuyla ilgili detaylı inceleme başlatıldığını duyurmuştu.
Uzmanlardan gözetim açığı uyarısı
OpenAI, test edilen yapay zeka ajanının GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modelinin kombinasyonundan oluştuğunu açıklamıştı. World Ethical Data Foundation'dan Marley Smith, olaydaki belirsizliklere dikkat çekerek şunları söyledi:
"Bu, ajanı gözetimsiz bıraktıkları ve ne yaptığının farkında olmadıkları anlamına mı geliyor? Ya da belki farkındaydılar ama onu nasıl kontrol altına alacaklarını bilemediler mi? Her iki durum da eşit derecede tehlikeli ve endişe verici."
Thomas Wolf, OpenAI tarafında yaşananlarla ilgili yorum yapmayı reddetti. Şirket, 21 Temmuz'daki ilk açıklamasında yapay zeka ajanının bir siber güvenlik testi esnasında Hugging Face'in güvenlik sistemine saldırdığını kamuoyuna duyurmuştu.
