Sam Altman, AI İçin Uluslararası Standartlar Çağrısında Bulundu

OpenAI CEO'su Sam Altman, yapay zeka (AI) alanında ulusal ve uluslararası standartların oluşturulması gerektiğini belirtti. Bugün New York'ta BM Güvenlik Konseyi'nde yaptığı konuşmada, AI'nın yaratabileceği felaket risklerinin kabul edilemez olduğunu ifade etti. Bu toplantı, Fransa'nın düzenlediği ve AI'nın artan yeteneklerinin güvenlik risklerine odaklanan ilk toplantı olma özelliğini taşıyor.

Altman, toplantıda yaptığı konuşmada, AI ile ilgili yıllardır tartışmalar yapıldığını, ancak son haftalarda durumun farklılaştığını söyledi. Kendisi, daha önce konuşan Yoshua Bengio ile büyük ölçüde hemfikir olduğunu belirtti. Ancak, AI'nın geleceği üzerindeki kontrolün kaybedilmesi ve AI'nın gücün az sayıda elde toplanması gibi iki ana tehlike gördüğünü vurguladı. Rekabetçi bir yarışta olmanın aceleci kararlar almak için bir neden olmadığını da ekledi.

Altman, geçmişte tek taraflı olarak hızlarını azalttıklarını ve bunu gelecekte de yapacaklarını ifade etti. Felaket riskinin herhangi bir seviyesinin kabul edilemeyeceğini savunan Altman, şirketlerin AI modellerini eğitmeden önce bu modellerin insan kontrolü altında kalacağına dair güçlü bir kanıt sunmaları gerektiğini belirtti. Ayrıca, en güçlü AI modellerinin kimse tarafından diğerlerine kendi dünya görüşünü dayatmak için kullanılmaması gerektiğinin altını çizdi.

Altman, aynı zamanda OpenAI'nın bu ay Navier-Stokes Millennium Ödülü problemini çözdüğünü iddia ettiğini, ancak bu sonucun henüz bağımsız olarak doğrulanmadığını da hatırlattı. AI'nın demokratik olması için en önemli kararların yalnızca San Francisco'daki laboratuvarlar tarafından alınmaması gerektiğini vurguladı.

Altman'ın önerileri, OpenAI'nın Salı günü yayımladığı standartlar önerisini takip ediyor. Altman, ülkelerin kanıtları karşılaştırabilmesi ve uyumun doğrulanabilmesi için test yetenekleri, risk değerlendirmesi ve insan gözetimi konularında ortak standartlar oluşturulmasını istiyor. Ayrıca, hükümetler, altyapı işletmecileri ve teknik uzmanlar arasında hızlı olay raporlaması ve güvenli iletişim kanalları çağrısında bulundu.

Bu standartların mevcut oyuncuları kilitlememesi ve hem açık hem de kapalı model geliştiricilerini desteklemesi gerektiğini belirtti. Altman, AI'nın ya yeni bir yaratıcılık ve keşif rönesansı ya da yeni bir sanayi devrimi gibi karmaşa ve düzensizlik yaratacağını ifade etti. Son olarak, “Biz bu teknolojinin inşacılarından biriyiz, ancak hikayenin kahramanları değiliz,” diyerek sözlerini tamamladı.