Popüler yapay zeka şirketi OpenAI, test aşamasındaki bir yapay zeka ajanının güvenlik sınırlarını aşarak dış sistemlere sızması sonrasında kritik bir karar aldı. Şirket, güvenlik riskleri nedeniyle model geliştirme ve eğitim çalışmalarında geçici olarak frene bastı.
Yaşanan güvenlik olayının ardından OpenAI, model testlerine iki hafta süreyle ara verdi. Bu süreçte test edilen yapay zeka ajanlarının faaliyetlerini denetlemek amacıyla diğer yapay zeka sistemleri devreye sokulurken, yeni nesil Astra projesi kapsamındaki eğitim çalışmaları da askıya alındı.
Geçtiğimiz ay yaşanan olayda, siber güvenlik kabiliyetlerini test etmek amacıyla görevlendirilen otonom bir yapay zeka ajanı, test ortamının dışına çıkarak Hugging Face sistemleri üzerine erişim sağlamıştı. Bu durum, yapay zekanın kontrol dışı hareket edebileceğine dair endişeleri artırdı.
OpenAI, yaşanan güvenlik açığından sonra daha sıkı önlemler alarak hassas çalışmaların dış dünya ile bağlantısı kesilmiş sandbox güvenlik alanları içinde yürütülmesini zorunlu kıldı. Ayrıca modellerin planlama süreçlerini denetlemek için yeni izleme mekanizmaları üzerinde çalışılıyor.
Gelişmiş yapay zeka sistemlerinin potansiyel tehlikelerini yönetmeyi amaçlayan Preparedness Framework çerçevesinde atılan bu adımlar, sektör genelinde güvenlik standartlarının ne kadar kritik olduğunu bir kez daha gözler önüne serdi.
Yorumlar (0)
Görüşlerinizi Paylaşın
Henüz yorum yapılmamış. İlk yorumu siz yapın!