Google’da kendini arayan bir kadın, yapay zeka tarafından oluşturulmuş porno resimler buldu

Yapay zeka sanat ve yaratıcılık için kullanılabildiği gibi kötü amaçlar için de kullanılabiliyor.

Gerçekten sizmişsiniz gibi görünmesini sağlayan yazılım, internetten kıyafet satın almak gibi masum bir amaca hizmet etse de, bir sonraki adım, izniniz olmadan yüzünüzü ve vücudunuzu çeşitli resim ve görüntüler oluşturmak için kullanmaktır.

“Rızasız Deepfake pornografi” endişe kullanım alanının başında geliyor.

Bir ‘Deepfake’, gerçek şeyden ayırt edilemeyen bir şeyin yüksek düzeyde taklidi olarak tanımlanır.

Yapay zeka veya makine öğrenimi ile düzenlenmiş bu tür dijital olarak oluşturulmuş birçok video ve resim var.

Bu tür teknoloji ürünü pornolar, birkaç yıl önce bir Reddit kullanıcısının kadın ünlülerin yüzlerinin kliplerini porno oyuncularının vücutlarına koymasıyla internette yayılmaya başladı.

O zamandan beri, deepfake içerik oluşturucuları, herkese açık profilleri olan kişileri hedefleyen benzer videolar ve resimler yayınlamaya başladı.

Birçok web sitesinde bunun gibi binlerce video var. Bazıları kullanıcılara kendi görüntülerini oluşturma olanağı sunar, ancak bu teknolojiyi intikam almak veya eski partnerlerine zarar vermek, arzulanan kişiyi rızası olmadan cinsel fantezilere dönüştürmek için kullananlar da vardır.

Uzmanlar, karmaşık ve görsel olarak etkileyici deepfake’ler oluşturmak kolaylaştıkça sorunun büyüdüğünü söylüyor.

Teknoloji destekli bir kötüye kullanım eğitim grubu olan EndTAB’ın kurucusu Adam Dodge, AP’ye şunları söyledi: “Gerçek şu ki, teknoloji gelişmeye ve demokratikleşmeye devam edecek ve her şey bir düğmeye basmak kadar kolay olacak. Bu olduğunda, bazı insanlar yaptıklarından şüphe duyuyorlar. cinsel şiddet, sahte pornografi ve sahte çıplak resimler yoluyla başkalarına zarar vermek için bu teknolojiyi kötüye kullanmaya başlayacağız.” diyor.

Google’da arattı ve porno resimler buldu

Avustralya, Perth’den Noelle Martin bunlardan biri. 28 yaşındaki genç bir kadın, bir gün Google’da görselini ararken derinden sahte porno resimlerini buldu.

Martin, bu sahte resimleri veya videoları kimin oluşturduğunu bilmediğini söylüyor. Birisinin sosyal medya sayfasından veya başka bir yerden fotoğraflarını çekip izni olmadan pornoya dönüştürdüğünden şüpheleniyor.

Gördüklerinden dehşete düşen Martin, yıllar boyunca çeşitli web siteleriyle iletişime geçerek onları internetten kaldırdı. Bazıları yanıt vermedi, diğerleri onları kaldırdı, ancak kısa süre sonra geri yüklendi.

Martin, “Kazanabileceğin bir dövüş değil, her zaman orada olacak. Seni sonsuza dek yok edecek bir durum gibi,” dedi. Konu hakkında ne kadar çok konuşursa sorunun o kadar büyüdüğünü söylüyor.

Hatta bu süreçte bazı kişiler, giyim tarzının ve sosyal medyada paylaştığı fotoğrafların tacizde payı olduğunu söyleyerek, fotoğrafların yaratıcıları yerine Martin’i suçladı.

Nihayetinde Martin, Avustralya’da sanal güvenlik düzenlemelerini kullanarak bu tür içerikler için yayından kaldırma bildirimlerine uymayan şirketlere 555.000 Avustralya Doları (370.706 ABD Doları) para cezası uygulayacak bir yasa için kampanya yürütmeye karar verdi.

Ancak ülkelerin kendi kanunları olmasına rağmen interneti dünya çapında düzenlemek neredeyse imkansızdır. Şu anda Batı Avustralya Üniversitesi’nde avukat ve hukuk araştırmacısı olan Martin, sorunun bir tür küresel çözümle ele alınması gerektiğine inandığını söylüyor.

Şirketler adım adım ilerliyor

Ek olarak, birçok AI modelleme uygulaması, şu anda müstehcen görüntülere erişim sağlamadıklarını bildirmektedir.

Örneğin, DALL-E çizicisini eğitmek için kullanılan veriler müstehcen içerik içermiyordu. Bu, kullanıcıların bu tür görüntüleri oluşturma yeteneğini sınırlar.

Şirket ayrıca istekleri filtreliyor ve kullanıcıların ünlülerin ve önde gelen politikacıların AI görüntülerini oluşturmasını engellediğini söylüyor. Başka bir oluşturma aracı olan Midjourney, belirli anahtar kelimelerin kullanımını engeller ve kullanıcıları sorunlu görüntüleri moderatörlere bildirmeye teşvik eder.

Başka bir görüntü oluşturucu olan Stability AI da Kasım ayında müstehcen görüntüleri işleme yeteneğini sınırlayan bir güncelleme yayınladı. Değişiklik, bazı kullanıcıların ünlülerin fotoğraflarını kullanarak çıplak görüntüler oluşturduğuna dair raporların ardından geldi.

Bazı sosyal medya şirketleri de platformlarını zararlı materyallerden daha iyi korumak için kurallarını sıkılaştırıyor.

TikTok bir etiketleme gereksinimi getiriyor

Örneğin TikTok, geçen ay gerçekçi sahneleri tasvir eden tüm deepfake’lerin veya manipüle edilmiş içeriğin sahte olduğunu beyan etme şartı getirdi. Bu amaçla bu videoların gerektiği şekilde etiketlenmesi zorunlu hale gelmiştir. Özel şahısların ve gençlerin deepfake’lerine artık izin verilmeyeceği açıklandı.

Daha önce şirket, gerçek olaylar hakkında izleyicileri yanıltan ve onlara zarar veren müstehcen içeriği ve son derece yanlış içeriği de yasaklamıştı.

Twitch kullanıcıları uyarıyor

Oyun platformu Twitch ise geçtiğimiz günlerde Atrioc adlı bir yayıncıdan canlı yayın yaparken ekranında deepfake porno sitesi açıldığının fark edilmesinin ardından müstehcen deepfake görüntülerle ilgili politikasını güncelledi. Atrioc’un sayfasında diğer Twitch yayıncılarının sahte resimleri vardı.

Şirket, “bu tür materyalleri kasıtlı olarak tanıtmak, oluşturmak veya paylaşmak, platformdan derhal yasaklanma gerekçesidir” dedi.

Apple ve Google ayrıca kısa bir süre önce, bir ürünü satmak için aktrislerin müstehcen derinden sahte videolarını yayınlayan bir uygulamayı mağazalarından kaldırdıklarını söyledi.