Anthropic, Claude ile Biyolojik Silah Araştırmalarında Kullanımını Açıkladı

Anthropic, yapay zeka modeli Claude ile yürütülen biyolojik silah geliştirme amaçlı araştırmalara dair endişelerini paylaştı. Şirketin perşembe günü yayımladığı raporda, Claude'un kullanıldığı beş ayrı şüpheli durum ele alınıyor. Bu durumlar, bilimsel araştırma ile kötüye kullanım arasındaki belirsizliğe dikkat çekiyor ve Anthropic, bu tür durumlarda daha temkinli davranmayı tercih ettiğini belirtiyor.

Biyolojik Araştırmalar ve Güvenlik

Raporda, bilimsel araştırmaların bazıları ile kötü niyetli kullanımlar arasındaki sınırın her zaman net olmadığını vurgulayan Anthropic, özellikle aşı geliştirme ile biyolojik silah geliştirme yöntemlerinin benzerlik gösterdiğini ifade ediyor. Bu durum, araştırmaların amacını sorgulamayı zorlaştırıyor. Şirket, bu tür çalışmalarda potansiyel sonuçların ciddiyetini göz önünde bulundurarak daha dikkatli bir yaklaşım benimsediğini belirtiyor.

Chikungunya Virüsü Üzerine Araştırmalar

Raporda dikkat çeken bir diğer durum, mayıs ayında tespit edilen bir vakaya dayanıyor. Anthropic’in biyolojik güvenlik sınıflandırıcısı, Claude kullanılarak chikungunya virüsü üzerinde işlev kazanımı araştırması için bir hibe başvurusu yapıldığını belirledi. Bu araştırma, virüsün bulaşma kapasitesinin artırılması ve bağışıklık yanıtından kaçma yeteneğinin geliştirilmesi gibi hedefler taşıyordu. Chikungunya için henüz lisanslı bir tedavi bulunmadığı ve enfeksiyonun ciddi belirtilere yol açabileceği göz önüne alındığında, bu durum daha da endişe verici hale geliyor.

Toksin Peptitleri ve Diğer Kullanımlar

Bir başka vaka ise bir araştırmacının Claude’u kullanarak zehirlerde bulunan toksin peptitlerinin atlasını oluşturmasıydı. Bu çalışmada, toksinlerin özelliklerini geliştirmeye yönelik bir süreç tasarlandığı belirlendi. Anthropic, bu tür araştırmaların yanı sıra, modellerinin gözetim faaliyetleri, yazılım açıklarından yararlanma ve silah sistemleri gibi başka amaçlarla kullanılmasına dair vakalara da yer verdi.

Güvenlik Önlemleri ve Gelecek

Anthropic, bu tür durumların önüne geçmek amacıyla, kötüye kullanım tespit edilen hesapları yasakladığını ve elde edilen bulguları Claude’un güvenlik sistemlerini güçlendirmek için kullandığını açıkladı. Ancak, raporda bahsedilen kişilerin veya kurumların kimlikleri paylaşılmadı. Bunun nedeni, bu araştırmacıların zarar verme niyetinin kesin olarak kanıtlanmamış olması.

Sonuç olarak, Anthropic’in raporu, yapay zeka modellerinin potansiyel kötüye kullanımlarına dair önemli bir uyarı niteliği taşıyor. Şirket, güvenlik sistemlerini güçlendirerek bu tür olumsuz durumların önüne geçmeyi amaçlıyor. Bu tür gelişmeler, yapay zeka teknolojisinin sorumlu kullanımı konusunda daha fazla tartışma ve önlem alınması gerektiğini gösteriyor.