Güvenilir AI Platformları Nasıl Saldırı Yüzeyi Oluyor?

Güvenilir AI platformları, günlük iş akışlarının bir parçası haline geldikçe, saldırganlar için yeni bir hedef haline geliyor. Huntress Security Operations Center (SOC), günlük risklerin, AI şirketlerine veya modellerine yönelik saldırılardan ziyade, insanların zaten güvendiği AI özelliklerinin kötüye kullanılmasından kaynaklandığını belirtiyor.

AI Platformlarındaki Tehditler

Son dokuz ay içerisinde Huntress, saldırganların paylaşılabilir AI içeriklerini, kamuya açık mini uygulamaları ve sponsorlu arama sonuçlarını kullanarak AI kullanıcılarını hedef alıp kötü amaçlı yazılım dağıttıkları olayları takip etti. Bu süreçte, saldırganların bazı gerçek AI platformu özelliklerini kötüye kullandıkları gözlemlendi:

• Claude Artifacts: Claude'un bir sohbet önizleme penceresinde oluşturduğu ve kullanıcıların paylaşabileceği içerikler.
• claude.ai/share bağlantıları: Claude sohbetinin yayınlandığında oluşturulan paylaşılabilir URL'ler; bu bağlantılar, forumlar veya sosyal medya gibi tarayıcı dostu alanlarda paylaşıldığında arama motorlarında görünür hale gelebiliyor.
• ChatGPT ve Grok sohbetleri: chatgpt.com ve grok.com üzerinde barındırılan, paylaşılan ve dizine eklenebilir sohbetler.

Bu tür saldırılar, kullanıcıların tanıdığı platformlar ve markalar etrafında döndüğü için, kötü niyetli talimatlar veya indirmeler meşru gibi görünmekte. Bu kampanyalar genellikle birkaç saat veya gün sürse de, bu süre, kurbanları kandırmak için yeterli olabiliyor.

Ransomware Saldırılarına Karşı Ne Yapmalısınız?

Eğer bir ransomware saldırısına maruz kaldıysanız, ne yapmanız gerektiğini düşünmelisiniz. Dosyalarınız şifrelenmiş, operasyonlarınız durmuş ve saldırgan belirlediği fiyatı bekliyor. Ödeme yapmalı mısınız? Müzakere mi etmelisiniz? Yoksa hiç mi yanıt vermemelisiniz? Huntress, gerçek işletmelere karşı kullanılan taktiklerden yola çıkarak bir simülasyon sunuyor.

FakeAgent: Kötü Amaçlı Reklamcılık

Huntress, Temmuz ayında 29'dan fazla kuruluşa ulaşan FakeAgent adlı bir kampanya tespit etti. Bu kampanya, gerçek claude.ai alanında barındırılan kötü amaçlı bir Claude Artifact ile başladı. Kamuya açık Artifact'ler, hafif demolar için tasarlandığından, saldırganlar ikna edici bir sahte Claude Desktop indirme sayfası oluşturdu. Bing'de Claude masaüstü uygulamasını arayan kurbanlar, sahte sayfaya yönlendirildi ve burada gerçek gibi görünen bir indirme bağlantısına tıkladıklarında SectopRAT kötü amaçlı yazılımını indirdiler.

AI Destekli Sorun Giderme Tehditleri

Başka bir olayda, bir kurban Google'da "Claude on Mac" araması yaparak sahte bir Apple Destek kurulum kılavuzuna yönlendirildi. Bu sayfa, Anthropic'in kendi alanında yer aldığı için, genellikle karşılaşılan uyarıları taşımıyordu. Aralık ayında ise, "macOS'ta disk alanını temizle" araması, gerçek çözümler yerine ClickFix tarzı talimatlar veren yüksek sıralı ChatGPT ve Grok sohbetlerini ortaya çıkardı.

Güvenlik Önlemleri

Bu saldırılar, AI platformlarının güvenliğini aşmadı, ancak kullanıcıların tanıdığı markalara ve gerçek alanlara olan güvenlerini istismar etti. Savunucular, panoya dayalı yürütme ve AI destekli sorun giderme süreçlerini güvenlik riski olarak değerlendirmelidir. Script yürütmesini kısıtlamak, uygulama beyaz listesini zorunlu kılmak ve yeni planlı görevler ile antivirüs hariç tutma değişikliklerini izlemek önemlidir. Şüpheli AI barındıran içerikleri platform sağlayıcısına hızlı bir şekilde bildirmek de kritik bir adımdır.

Sonuç

Bu tür kampanyalar genellikle kısa ömürlüdür, ancak hızlı raporlama ve katmanlı kontroller, saldırganların bu fırsatları istismar etme süresini kısaltabilir. Eğer bu tür taktiklerle ilgileniyorsanız, her ay düzenlenen Tradecraft Tuesday etkinliğine katılabilirsiniz.