Anadolu Üniversitesi Sosyal Medya ve Dijital Güvenlik Eğitim, Uygulama ve Araştırma Merkezi (SODİGEM) Uzmanı Dr. Öğr. Üyesi Serap Uğur, yapay zeka destekli OmniHuman-1 adlı uygulamanın fotoğraflardan son derece gerçekçi insan videoları üretebilme kapasitesine sahip olduğunu belirterek, bu teknolojinin mahremiyet ihlallerine yol açabileceği konusunda uyarıda bulundu. Uğur, sosyal medyada paylaşılan tek bir görselin dahi sahte ve manipülatif içerikler oluşturmak için kullanılabileceğini ifade etti.
Gerçekçi Animasyonlar, Yeni Riskler
Dr. Uğur yaptığı açıklamada, OmniHuman-1’in insan animasyonu alanında önemli yenilikler sunduğunu ancak bununla birlikte ciddi riskler barındırdığını belirtti. Modelin, yüz ve vücut hareketlerini doğal bir şekilde canlandırabildiğini vurgulayan Uğur, şunları söyledi:
"OmniHuman-1, tek bir kare fotoğraftan yola çıkarak tam vücut animasyonları oluşturabiliyor. Konuşma hareketlerinin yanı sıra, şarkı söyleme ve insan-nesne etkileşimlerini de gerçekçi bir şekilde yansıtıyor. Bu özellikleri sayesinde sahte videoların ve manipülatif içeriklerin üretilmesi oldukça kolay hale geliyor. Kötü niyetli kişiler, izinsiz görüntülerden gerçeğe çok yakın videolar oluşturabilir ve bu durum ciddi gizlilik ihlallerine yol açabilir."
Bu tür yapay zeka uygulamalarının etik tartışmalara neden olabileceğine dikkat çeken Uğur, bu modellerin bireylerin kimliklerini taklit etmek ve sahte haberler yaymak için de kullanılabileceğini belirtti.
Etik ve Güvenlik Önlemleri Şart
Uğur, yapay zeka teknolojilerinin kullanımında etik ve güvenlik konularına daha fazla önem verilmesi gerektiğini vurgulayarak, bu tür uygulamaların denetlenmesi ve sınırlarının belirlenmesi gerektiğini ifade etti. Sahte videoların tespit edilmesi için daha gelişmiş Deep Fake analiz programlarına ihtiyaç duyulduğunu belirten Uğur, şu önerilerde bulundu:
"Yapay zeka destekli içeriklerin etik çerçevede kullanılması için yasal düzenlemelerin güçlendirilmesi gerekiyor. Ayrıca, sosyal medya platformları ve ilgili kurumlar, bu tür sahte içeriklere karşı dijital doğrulama sistemlerini devreye sokmalı ve farkındalık çalışmaları yürütmelidir."
RSS