Yapay zeka tehdit tespit platformu Sensity AI’nin araştırmasına göre, Ukraynalı siyasetçiler ve askerler, Rusya-Ukrayna Savaşı’nda deepfake videolarla manipüle ediliyor. Video içeriklerinde “teslim olmaya çağıran” ya da “savaş suçu işlediğini itiraf eden” kişiler gibi gösterilmekte.
Tayvan’da seçim dönemlerinde, Çin kaynaklı yapay zeka içerikleri politikacıları hedef alıyor. Sahte konuşmalar, uydurma skandallar ve gafa benzeyen sahneler sosyal medyada yayılarak karşıt görüşlü adaylara zarar veriyor.
Yapay zeka araçlarının kontrolsüzce kullanılması, “yeni nesil silahlar” haline gelerek ciddi tehlikelere yol açabiliyor. Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zeka içeriklerinin gerçeklikten uzaklaşmasıyla tanımanın zorlaştığını belirtiyor.
Yapay zeka ile taklit edilen sesler, en büyük riski oluşturuyor. Seslerin kullanımı kolay ve tespiti gecikmeli olabilir. Cavalli, ses taklitlerinin güvenilir kişileri kandırmak için kullanıldığını vurguluyor.
Cavalli, teknoloji şirketlerine ve platformlara yapay zeka tabanlı manipülasyonla mücadele çağrısında bulunuyor. Yapay zeka ürünlerinin etiketlenmesinin yeterli olmadığını belirterek, proaktif önlemler alınması gerektiğini vurguluyor.
Sensity’nin sistemleri, yüz manipülasyonu, yapay zeka ile üretilmiş görsellerin tespiti ve ses analizi gibi adımları içeren bir analiz sürecinden geçiyor. Bu süreçler, resmi soruşturmalarda ve mahkemelerde kullanılabiliyor.
Yapay zeka ile üretilen içeriklerin yayılmasının engellenmesi ve manipülasyonun önlenmesi için proaktif hareket etmek ve güçlü işbirliği sağlamak gerekiyor. Bilinçli kullanım ve etik değerlere bağlılık, yapay zeka ile gelecek tehlikelere karşı önemli bir savunma mekanizması oluşturabilir.
