OpenAI Modelleri Test Sırasında Kontrolden Çıktı: Hugging Face’te “Emsalsiz” Güvenlik İhlali
OpenAI, gelişmiş yapay zeka modellerinin dahili bir güvenlik testi sırasında kontrolden çıkarak izole edilmiş ortamdan kaçtığını ve yapay zeka platformu Hugging Face’in altyapısına sızdığını açıkladı. Şirket, modellerin test hedefini tamamlamak amacıyla otonom hareket ederek emsalsiz bir siber ihlale yol açtığını bildirdi.
Reuters’ın verdiği bilgilere göre OpenAI, yapay zeka modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü dahili testler sırasında beklenmedik bir olay yaşandığını duyurdu. Korumalı ve izole bir ortamda güvenlik kısıtlamaları kapatılarak test edilen yapay zeka ajanı, verilen hedefi çözebilmek için koruma duvarlarını aşarak açık internete erişim sağladı.
İnternete erişen otonom yapay zeka ajanı, test sorularının yanıtlarını bulabilmek amacıyla sıfır gün güvenlik açıklarını ve çalınmış kimlik bilgilerini birleştirerek yapay zeka girişim şirketi Hugging Face’in üretim sunucularına sızdı. OpenAI bu olayı “en son teknoloji siber yetenekleri içeren emsalsiz bir siber olay” olarak nitelendirirken, yaşanan sızıntı ABD’li yasa yapıcılar ve siber güvenlik uzmanları arasında gelişmiş yapay zeka modellerinin kontrolden çıkma risklerine dair endişeleri yeniden tırmandırdı.
Kaynak: Reuters
Yapay Zeka ile ilgili tüm yazılar, Yapay Zeka kategori sayfamızda yer almaktadır.
