Anadolu Üniversitesi Sosyal Medya ve Dijital Güvenlik Eğitim, Uygulama ve Araştırma Merkezi (SODİGEM) Uzmanı Dr. Öğr. Üyesi Serap Uğur, yapay zeka tabanlı "OmniHuman-1" adlı uygulamanın getirdiği yenilikler ve olası riskler hakkında değerlendirmelerde bulundu. Uğur, bu modelin tek bir görsel üzerinden gerçekçi insan videoları üretebildiğini belirterek, sahte içerik oluşturma riskine dikkat çekti.
Gerçekçi Videolar ve Mahremiyet Riski
Dr. Uğur'un açıklamasına göre, OmniHuman-1, insan animasyonları oluşturmak için yüz ve vücut hareketlerini doğal bir şekilde taklit edebiliyor. Hareket verilerini kullanarak daha gerçekçi sonuçlar sunan bu model, yalnızca konuşma hareketlerini değil, şarkı söyleme, nesne kullanımı ve diğer detayları da işleyerek sahte videoların daha inandırıcı hale gelmesine olanak sağlıyor.
Bu teknolojiyle ilgili en büyük risklerden birinin bireylerin izni olmadan dijital temsillerinin oluşturulması olduğunu vurgulayan Uğur, "Tek bir fotoğraf ve ses kaydıyla sahte videolar üretmek mümkün. Bu durum, kişisel gizliliğin ihlal edilmesine ve kötü niyetli kullanımlara kapı aralayabilir" dedi. Ayrıca, sahte videoların yayılmasıyla birlikte kimlik sahtekarlığı, dolandırıcılık ve dezenformasyon gibi risklerin de arttığını belirtti.
Yapay Zeka İçin Etik ve Güvenlik Önlemleri Gerekli
Uğur, yapay zeka destekli içeriklerin etik kullanımına yönelik düzenlemelerin artırılması gerektiğine dikkat çekerek, özellikle Avrupa’daki Genel Veri Koruma Tüzüğü (GDPR) gibi veri güvenliği yasalarının önemini vurguladı. Yapay zeka tarafından üretilen içeriklerin etiketlenmesi, Deep Fake tespit programlarının geliştirilmesi ve dijital kimlik doğrulama sistemlerinin güçlendirilmesi gibi önlemlerin alınmasının gerekliliğine işaret etti.
Özellikle medya sektöründe bu tür yapay zeka modellerinin kullanımıyla ilgili ciddi etik tartışmaların yaşanabileceğini ifade eden Uğur, modelin haber sunucuları, seslendirmenler ve dublörler gibi meslek gruplarını da etkileyebileceğini söyledi. Ayrıca, eğitim alanında sanal öğretmenlerin kullanımının kolaylık sağlayabileceğini, ancak bu durumun insan faktörünün azalmasına ve mesleki kayıplara yol açabileceğini dile getirdi.
RSS