Yapay zeka teknolojileri gelişirken, bu sistemlerin kötü niyetli kişilerin eline geçmesiyle yaratabileceği riskler de artıyor. Son yıllarda yapay zeka, yalnızca bilgiye erişim ve kod yazma gibi basit görevlerle sınırlı kalmayıp, biyolojik araştırmalardan siber saldırılara kadar birçok karmaşık alanda kullanılmaya başlandı. Anthropic, Claude yapay zeka modelinin kötüye kullanımına dair endişe verici bulgular içeren bir rapor yayımladı.
Biyolojik Silahlar ve Yapay Zeka
Raporda, Claude'un biyolojik silah çalışmalarında kullanıldığına dair çarpıcı örnekler yer alıyor. Kötü niyetli aktörlerin, Claude'u askeri bir araştırma enstitüsü adına hazırlanmış gibi gösterilen bir fon başvurusunda kullandıkları belirtiliyor. Amaçları, virüslerin bulaşıcılığını ve ölümcüllüğünü artırmaya yönelik araştırmalar yapmak. Özellikle Chikungunya virüsü ve H5N1 kuş gribi üzerinde yoğunlaşan bu girişimlerde, Claude'dan virüslerin bağışıklık sisteminden kaçmasını ve daha kolay bulaşmasını sağlayacak araştırmaların planlanmasında yararlanıldığı ifade ediliyor.
Siber Saldırılar ve Gözetleme
Anthropic'in raporunda yalnızca biyolojik tehditler değil, aynı zamanda siber saldırılar ve kitlesel gözetleme faaliyetleri de dikkat çekiyor. Rusya ile bağlantılı Midnight Blizzard ve ShinyHunters gibi grupların, yapay zekayı siber saldırıların farklı aşamalarında kullandığı tespit edildi. Özellikle ShinyHunters'ın "vibe hacking" yöntemi, hedef belirleme aşamasında yapay zekanın önemli bir rol oynadığını gösteriyor.
Rekabet ve Teknoloji Hırsızlığı
Yapay zeka modellerinin çıktılarından yararlanarak rakip modeller geliştirme çabaları da raporda yer alıyor. Anthropic, Alibaba ve diğer bazı şirketlerle ilişkilendirilen vakalarda Claude'un çıktılarının kullanılarak yeni modellerin oluşturulmaya çalışıldığını belirtiyor. Örneğin, Alibaba'nın Claude'a günde 3 milyonun üzerinde istek gönderdiği ve bu şekilde sahte hesaplar oluşturduğu aktarılıyor.
Seçim Manipülasyonu
Raporda dikkat çeken bir diğer konu ise İstanbul merkezli bir teknoloji şirketinin Claude kullanarak seçim manipülasyonu yapması. Bu sistem, Malezya'daki 222 seçim bölgesindeki seçmen verilerini işleyerek sahte hesaplar ve haber siteleri aracılığıyla propaganda yürütmüştür.
Yapay Zeka ve Gelecek Riskleri
Yapay zeka geliştikçe, kötü niyetli kullanımın yaratabileceği tehditler de büyüyor. Bu sistemler, bilgiye erişimi ve karmaşık işlemleri kolaylaştırırken, aynı zamanda kötü amaçlarla kullanılma olasılığını artırıyor. Anthropic, raporda yer alan tüm kötü niyetli girişimlerin tespit edilerek engellendiğini belirtse de, yapay zekanın potansiyel tehditleri konusunda endişeler devam ediyor. Ayrıca, raporun yayımlanmasının ardından şirketin eski araştırmacısı Jacob Coxon'ın "hayatlarımızla kumar oynuyorlar" açıklaması, durumu daha da düşündürücü hale getiriyor.
Yorumlar 0
Yorum kurallarıHenüz yorum yok. İlk yorumu siz yapın.