Yapay zeka hatası, ABD-Çin savaşı riskini artırdı

Son günlerde yapay zeka ile ilgili yaşanan bir olay, ABD ve Çin arasında potansiyel bir savaşın eşiğine gelinmesine neden oldu. İki kaynağa göre, ABD askeri personeli bir gemiye çıkmaya hazırlanırken, askeri uçaklar da havalanmıştı. Ancak, operasyon öncesinde yapılan detaylı incelemelerde, istihbarat raporunun yapay zeka tarafından hazırlandığı ve geminin taşıdığı yükün yanlış tanımlandığı ortaya çıktı.

Hatalı İstihbarat Raporu

Olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) tarafından elde edilen geminin yük manifestosuna ilişkin istihbarat bilgileri bulunuyordu. Bir analist, geminin taşıdığı malzemeleri değerlendirmek için bir sohbet botuna başvurdu. Yapay zeka, geminin nükleer silah programına ait malzemeler taşıdığı sonucuna vardı. Ancak, bu değerlendirmenin hatalı olduğu belirtiliyor.

Kaynaklardan biri, bu hatalı raporun nükleer güçler arasında ciddi bir çatışma riskini artırabileceğini ifade etti. Gerçekte gemide hangi yükün bulunduğu ise henüz belirsizliğini koruyor.

Yapay Zeka Kullanımının Yaygınlaşması

Hatalı raporun, resmi istihbarata dönüştüğü ve analistin yapay zekanın değerlendirmesine dayanarak bir rapor oluşturduğu bildirildi. Bu durum, hatalı yapay zeka çıktısının askeri karar alma süreçlerinde resmi bir belge olarak kullanılmasına yol açtı. ABD ordusu, istihbarat analizi ve lojistik gibi alanlarda yapay zeka kullanımını artırmaya devam ediyor. Savunma Bakanı Pete Hegseth, ocak ayında yapay zeka hızlandırma stratejisini açıkladı ve bu teknolojinin yaklaşık üç milyon askeri ve sivil personele sunulmasını hedefledi.

Güvenlik Standartları Eksikliği

Ancak, CNN'in ulaştığı yetkililere göre, ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor. Üretilen bilgilerin doğrulanması için ortak bir sistemin olmaması, hatalı sonuçların istihbarat raporlarına girmesi ve dolayısıyla askeri kararları etkileme riskini artırıyor. Bu durum, özellikle genç çalışanların yapay zeka çıktısına daha fazla güvenmesi nedeniyle daha da tehlikeli hale geliyor.

Artan Yapay Zeka Hataları

Yapay zeka, ABD ordusunda istihbarat analizinin yanı sıra hedef belirleme süreçlerinde de daha fazla kullanılmaya başlandı. Ancak, insan denetiminin eksikliği, sivil kayıplar ve dost ateşi riskini artırıyor. Hatalı veya güncel olmayan verilerle çalışan sistemler, yanlış hedef seçimine ve ciddi can kayıplarına yol açma potansiyeline sahip. Örneğin, Anthropic'in Claude modeli, İran'a yönelik saldırılarda aktif olarak kullanıldı ve bu tür yapay zeka destekli hedef analizlerinin bazı trajik olaylara katkıda bulunmuş olabileceği öne sürüldü.

Sonuç olarak, yapay zeka ile ilgili bu tür hataların artması, askeri stratejilerin yeniden gözden geçirilmesi gerektiğini gösteriyor. Yapay zeka araçlarının kullanımı yaygınlaşırken, güvenlik standartlarının belirlenmesi ve insan denetiminin artırılması büyük önem taşıyor.