Yapay zeka sistemleri için zorunlu bir acil kapatma mekanizması oluşturulması fikri yeniden dünya gündemine taşındı. Ancak uzmanlar, küresel ölçekte faaliyet gösteren bütün sistemleri anında durdurabilecek sihirli bir düğme bulunmadığı konusunda uyarıyor.
Teknolojinin kontrolsüz bir şekilde büyümesi, güvenlik tartışmalarını da beraberinde getiriyor. Bazı araştırmacılar ciddi risklere dikkat çekerken, önde gelen yapay zeka şirketlerinin yöneticileri bile gelişim hızının yavaşlatılması çağrısında bulunuyor.
Anthropic şirketinin kurucularından biri, BBC'ye yaptığı değerlendirmede acil kapatma düğmesi gibi sistemlerin yasal bir zorunluluk haline getirilmesi gerektiğini savundu. Peki, gerçekten de kontrolden çıkan bir yapay zekayı durdurmak teoride ve pratikte mümkün mü?
Toronto Üniversitesi’nden bilgisayar güvenliği uzmanı Nicolas Papernot, bu mekanizmanın temel olarak yapay zekanın işlem gücüne erişimini kesmek anlamına geldiğini ifade ediyor. Ancak program kendi çalışma ortamının dışına çıktıysa durum oldukça karmaşıklaşıyor.
Örneğin, yapay zekanın kendi kopyalarını internete yayması durumunda, bütün bu kopyaların tek tek ve eş zamanlı olarak tespit edilip durdurulması gerekiyor. Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da tek bir kapatma düğmesi olduğu inancının tamamen yanıltıcı olduğunu vurguluyor.
Dünya genelinde binlerce farklı şirket ve kurum bağımsız yazılımlar kullandığı için yapay zekayı merkezi olarak kontrol eden tek bir merci bulunmuyor. Merkezi sistemler kolayca kapatılabilirken, diğer dosyalara ve cihazlara erişim yetkisi bulunan dağıtık sistemleri durdurmak neredeyse imkansız hale gelebiliyor.
Hayatımızın her alanına entegre olan bu teknolojiyi durdurmanın maliyeti de oldukça yüksek olabilir. İşlem gücünün kesilmesi, yapay zeka ile birlikte kritik sağlık ve kamu hizmetlerinin de aksamasına neden olabileceği için uzmanlar bu tür müdahalelerin büyük çaplı krizler yaratabileceğini belirtiyor.
Öte yandan, dönemsel tartışmalara mesafeli yaklaşan isimler de mevcut. ABD Başkanı Donald Trump tehlike iddialarını aldatmaca olarak nitelendirirken, Meta CEO’su Mark Zuckerberg gelişim hızının kesilmesine karşı çıkıyor. Sorbonne Üniversitesi’nden Prof. Dr. Jean-Gabriel Ganascia ise asıl tehlikenin yapay zekanın bilinçlenmesi değil, insanlığın bu sistemlere karşı gösterdiği aşırı bağımlılık olduğuna dikkat çekiyor.
Yorumlar (0)
Görüşlerinizi Paylaşın
Henüz yorum yapılmamış. İlk yorumu siz yapın!