Deutsche Telekom ve üretici ajans adam&eveBERLIN tarafından hazırlanan yeni bir kampanya, verilerin kötüye kullanımı ve yapay zekanın (AI) yükselişi sayesinde ebeveynlerin karşı karşıya kaldığı artan riskleri ortaya koyuyor.
Hızla gelişen Deepfake teknolojisinin çocukların resimleri üzerinde nasıl bir etki bırakacağına dikkat çekmek isteyen firma, çok konuşulacak bir reklam filmi hazırladı.
Firma özellikle de sosyal medya hesapları üzerinden çocukların görüntülerinin paylaşılmaması gerektiğine vurgu yaparak ebeveynleri söz konusu teknoloji için hazırladığı reklam filmiyle uyardı.
EBEVEYNLER EN BÜYÜK KORKULARIYLA YÜZLEŞTİ
Film, aynı biçimde gerçekleşebilecek bir sosyal deneyi sahneliyor. ‘Ella’ adı verilen dokuz yaşındaki bir çocuğun görüntüsü filmin kahramanı olarak görev yapıyor.
En son yapay zeka teknolojisinin yardımıyla kısa bir süre içerisinde küçük kızın bir deepfake’i oluşturuldu. Videoda, küçük kızın paylaşılan resimleri kullanılarak 9 yaşındaki kızın yetişkin çağına eriştiğinde nasıl görüneceği vurgulanarak bir kadına dönüştürülüyor.
Ebeveynleri en çok korkutan detay ise çocuklarının küçüklük resimlerinin kullanılarak yapay zeka tarafından yetişkin bir birey olduklarında sahip olacakları yüz hatlarının gerçeğe yakın bir biçimde tasarlanması oldu.
Bu durum ise çocukların yıllar sonraki yetişkinlik dönemine ulaştıklarında hiç işlemeyecekleri suçlardan dolayı kimliklerinin zorbalığa maruz kalacağını gösteriyor.
“LÜTFEN BENİ PAYLAŞMAYIN”
Deepfake yapay zeka ile oluşturulan yetişkin Ella, gerçekleştirmiş olduğu ilk konuşmasında ailesini sosyal medyadaki paylaşımlar hakkında uyardı. Ella sosyal medya üzerinde yapılan paylaşımlar sonucunda ortaya çıkabilecek bütün sorunları acı gerçekliğiyle birlikte “Lütfen beni paylaşmayın” mesajını vererek ebeveynlerine aktardı.
Dokuz yaşındaki küçük kız çocuğunun görüntüleri kullanılarak oluşturulan yetişkin kadının ebeveynlerine yapmış olduğu açıklama şu şekilde;
“Biliyorum bu fotoğraflar anılarınız. Ama başkaları için birer veri”
“Selam anne, selam baba, benim, Ella. Benden biraz daha büyük, dijital bir versiyonum. Teknolojinini günümüzde nelere kadir olduğunu görmek şaşırtıyor değil mi? Tek ihtiyacın birkaç fotoğraf. Sosyal medyada sizin paylaştıklarınız gibi. Bu fotoğraflar herkes tarafından kullanılabiliyor. Biliyorum, bu fotoğraflar sizin anılarınız. Ama başkaları için birer veri.
“Kimliğimin çalındığı, işlemediğim bir suçtan hapse girdiğim bir gelecek”
Benim içinse korkunç bir geleceğin başlangıcı olabilir. Kimliğimin çalındığı, hiç işlemediğim bir suçtan hapse girdiğim bir gelecek. Kredi notumun yok edildiğini düşün baba… Ya da sesimin kopyalanmasıyla size gönderilen bir mesajla dolandırıldığınızı düşün anne…Okulda herkesin güldüğü komik bir kare haline gelmek istemiyorum. Hele hele bunu hiç istemiyorum.
“İnternet paylaşımları, dijital parmak izi aslında”
İnternet paylaşımları, dijital parmak izi aslında. Bunlar hayatımın kalanında peşimden gelebilir. Size bunları anlatıyorum çünkü beni sevdiğinizi ve bana zarar gelecek hiçbir şeye izin vermeyeceğinizi biliyorum.
Anne, baba, lütfen benim sanal mahremiyetimi koruyun.”
BİLİNÇSİZ PAYLAŞIMLAR KİMLİK HIRSIZLIĞINI ARTIYOR
Uzmanlar, 2030 yılına kadar tüm kimlik hırsızlığı vakalarının üçte ikisinin bu şekilde gerçekleşeceğini tahmin ediyor.
Çocukların fotoğraflarını ve isim ya da yaş gibi diğer verilerini sosyal medya ve kısa mesaj servisleri aracılığıyla dikkatsizce paylaşan veliler, istemeden de olsa çocukları risklere maruz bırakmaktadır.
Olası sonuçlar arasında veri simsarları tarafından profil çıkarma, bilgisayar korsanlığı, yüz tanıma, pedofili ve gizlilik ve güvenliğe yönelik diğer tehditler yer almaktadır.
