Emma Watson Yapay Zekanın Kurbanı Oldu!
Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, her zaman faydalı işler için kullanılmıyor. Bunun en açık örneklerinden biri derin sahte . Bir kişinin görüntü ve seslerinin istenildiği gibi değiştirilebilmesini sağlayan teknoloji, özellikle ünlü isimler için. sahte görüntüler oluşturmak içinkullanılıyor.
Son gelişmeler, suç olarak bile görülmeye başlayan deepfake teknolojisi değişti ve hayatımızda kaldı. devam edecektir bu ortaya çıkarıyor. Çünkü Türkiye’de erişime kapatılan 4chan adlı platformun kullanıcıları dünyaca ünlü isimlerin seslerini kullanarak uydurma içerikler üretmeye başladı. Oluşturulan sahte içerikte, ElevenLabs adlı bir ekip tarafından geliştirildi. ses klonlama yapay zekasındankullanıldı…
Emma Watson ve Joe Rogan gibi isimlerin sahte konuşmaları oluşturuldu!
4chan kullanıcılarının hedeflediği isimler dünyaca ünlü oyunculardır. Emma Watson ünlü komedyen Joe Rogan ve ABD’nin ünlü köşe yazarı Ben Sharpio idi. Kimliği belirsiz kullanıcılar, Emma Watson’a Adolf Hitler’in yazdığı “Kavgam” romanından bir bölüm okuturken, Ben Sharpio ABD’li siyasetçi Alexandria Ocasio-Cortez’den bahsediyordu. ırkçı cümleler kurdular . Üstelik sahte seslendirmeler sadece bunlar değildi. Homofobik, transofobik ve şiddet içeren açıklamalar da paylaşıldı.
Henüz beta aşamasında olan ElevenLabs konuyla ilgili açıklama yaptı!
4chan’daki paylaşımlardan haberdar olan ElevenLabs grubu, şu an beta aşamasında olan yapay zeka hakkında açıklama yaptı. Ses klonlama için yapay zekaya gösterilen ilgiden memnun olduklarını dile getiren yetkililer, şunları kaydetti: suistimalleriniz Bununla ilgili yeni güvenlik özelliklerinin farkında olduklarını ve üzerinde çalışacaklarını açıkladılar. Ancak bu çabalar ne kadar etkili olacak? Henüz bilinmiyor.
Deepfake teknolojisi İngiltere’de suç sayılıyor!