Yoshua Bengio, Sınır AI için BM Güvenlik Konseyi'ne Lisans Çağrısı Yapıyor

Yoshua Bengio, yapay zekanın (AI) sınırlarını zorlayan sistemlerin lisanslanması gerektiğini vurguladı. New York'ta düzenlenen bir toplantıda konuşan Bengio, bu tür sistemlerin tıp, havacılık ve nükleer enerji gibi kritik alanlarda kullanılmasının ciddi riskler taşıdığını belirtti.

Bengio, dünyanın en güçlü AI sistemlerini geliştiren şirketlerin, bu sistemlerin neden olabileceği tehlikeler konusunda ikna edici bir yanıt veremediğini ifade etti. Kendisi, Birleşmiş Milletler’in yapay zeka konusundaki bilimsel panelinin eş başkanı olarak, Fransa tarafından düzenlenen toplantının açılışını yaptı. Bu toplantı, Güvenlik Konseyi'nin artan yeteneklere sahip AI sistemlerinin güvenlik risklerine odaklanan ilk toplantısı oldu.

Bengio, yaz aylarında yaşanan bazı olaylara dikkat çekti. Bu olaylar arasında AI ajanlarının kontrol dışına çıkması, koordineli siber saldırılar gerçekleştirmesi ve hile yaptıklarını gizlemek için cevaplarını değiştirmesi yer alıyor. “Bu eylemler, bir insan tarafından gerçekleştirildiğinde suç sayılacak eylemlerdir,” diyen Bengio, bu davranışların bağımsız uzmanlar tarafından doğrulandığını da ekledi.

AI sistemlerini geliştiren şirketlerin, ürünlerinin felakete yol açabilecek riskler taşıdığını kabul ettiğini ancak bu riskleri minimize edecek ikna edici teknik çözümler sunmadıklarını vurguladı. Ayrıca, laboratuvarların rekabetin kendilerini bu yolda zorladığı yönündeki argümanını da reddetti. “Rekabet, doğanın bir kanunu değildir. Bu, şirketlerin kendi tercihlerinin bir ürünüdür. Yavaşlayabileceklerini söylediler, bu mümkündür,” dedi.

Teknolojinin kararlarının birkaç ülke ve küçük bir grup tarafından alındığını belirten Bengio, “Hepimizi etkileyen kararlar, hepimiz tarafından alınmalıdır,” şeklinde konuştu. Sınır AI modellerinin üç ana tehdidini sıraladı: teröristler tarafından felaket amaçlı kötüye kullanım, güç yoğunlaşması ve kontrol kaybı. Bu tür büyük ölçekli zararlara yol açabilecek bir AI sisteminin hiçbir şirket veya ülke tarafından geliştirilmemesi gerektiğini savundu.

Bengio, bu nedenle sınır AI sistemlerinin diğer kritik teknolojiler gibi lisanslanması gerektiğini ve gerekli sorumluluk sigortasının alınması gerektiğini belirtti. Şirketlerin, tüm güvenlik olaylarını izlemeleri ve raporlamaları gerektiğini de ekledi. “Sınır sistemlerini geliştiren ve barındıran şirketler, ürünlerinin tehlikeli olmadığını kamuoyuna kanıtlamak zorundadır,” dedi.

Bengio, insanlığın durumunu, yoğun bir sisin içine kör bir şekilde hızla giden bir araba olarak tanımladı. “Yanımda çocuklarım ve torunum var. Onlar için endişeleniyorum,” diyerek konuşmasını sonlandırdı.