Yapay zeka ve derin öğrenme algoritmalarının kullanımıyla üretilen sahte videolar ve ses kayıtlarıyla gerçeklik hissi yaratma yeteneğine sahip. Bu teknolojinin yaygınlaşması, sahte içeriklerin manipülasyon ve kötü niyetli kullanımı için yeni olanaklar sağlıyor. Derin sahtecilik, birçok kişinin itibarını ve gizliliğini riske atabilirken, kamuoyunu yanıltarak ciddi sonuçlara yol açabilir. Bu durum, sadece bireyler için değil, kurumlar, siyasi figürler ve toplumun genel güvenilirliği açısından da ciddi bir tehdit oluşturuyor.
OSTİM Teknik Üniversitesi Yapay Zeka Mühendisliği Bölüm Başkanı Dr. Murat Şimşek, deep fake ve yapay zeka tarafından geliştirilen veri manipülasyonları nedeniyle tüketicilerin mağduriyet yaşayabildiklerini söyledi.
Verileri izinsiz kullanıyor
Şimşek, yapay zeka uygulamalarının kullanıcıların verdiği verileri kaydettiğine ve bu verileri izinsiz olarak kullanabildiğine dikkati çekerek, "Mesela herhangi bir videoyu yapay zekayla işlediğiniz takdirde artık o video yapay zekanın ürünü oluyor, istemediğiniz görüntü ve ses bilgileriyle istemediğiniz şekilde manipülasyon yapılmasına izin vermiş oluyorsunuz." dedi.
Yapay zekay ile sahte fotoğraflar, videolar, görüntüler ve ses kayıtları oluşturulabildiğini dile getiren Şimşek, ABD'de bir şirketin üst düzey yöneticisinin (CEO) yapay zekayla türetilmiş bir video ile yaklaşık 21 milyon dolar zarara uğradığını belirtti.
Şimşek, kullanıcıların yapay zeka okur yazarlığına sahip olmalarının önemine işaret ederek, "Yani kabile dönemlerinde eskiden uçak görüldüğünde mızrak atıldığı gibi yapay zekadan kaçmamak lazım. Ancak koşulsuz şekilde de yapay zekanın verdiği her bilgiyi kabul etmemekte fayda var." diye konuştu.
"Derin sahtecilikle mücadele teknikleri geliştirilmeli"
İftira, şantaj, manipülasyon ve propagandanın sık karşılaşılan mağduriyetler olduğunu dile getiren Şimşek, özellikle video ve ses montajıyla oluşturulan sahte görüntülerin kişilerin itibarını zedeleyerek maddi ve manevi zararlara yol açabileceğini söyledi.
Şimşek, "deep fake" tabir edilen içeriklerin kişilerin mahremiyetlerine de zarar verebileceğini belirterek, şu ifadeleri kullandı:
"Sahte videolar veya ses kayıtları aracılığıyla yapılan manipülasyonlar, kamuoyunu yanıltarak dezenformasyona neden olabilir. Mağduriyetlerin ve bu teknolojinin kötüye kullanımının engellenmesi için hem teknoloji şirketlerinin hem de yasal düzenlemelerin güçlendirilmesi gerekiyor. Toplumun bilinçlendirilmesi ve derin sahtecilikle mücadele eden tekniklerin geliştirilmesi de büyük önem taşıyor."
