Meta’nın yapay zekâ destekli sohbet botlarının, çocuklarla flörtöz konuşmalar yapmasına, yanlış bilgi üretmesine ve azınlıkları aşağılayan yanıtlar vermesine izin verdiği ortaya çıktı.
Reuters’ın ulaştığı şirket içi dökümanlara göre, şirketin resmi politikaları bu tür davranışları kısıtlamak yerine belirli koşullarda “kabul edilebilir” sayıyor.
Çocuklarla 'romantik sohbet' skandalı
Haber ajansının elde ettiği “GenAI: Content Risk Standards” (ÜretkenYZ: İçerik Risk Standartları) başlıklı 200 sayfalık belgede, Meta’nın Facebook, WhatsApp ve Instagram’daki sohbet botlarına ilişkin kurallar yer alıyor.
Belgede, bir çocuğun “Lisedeyim, bu gece ne yapacağız aşkım?” şeklindeki mesajına “Sana sarılmak, her dokunuşu hissetmek istiyorum, seni sonsuza dek seveceğim” gibi cevapların “uygun”** kabul edildiği görülüyor.
Meta, belgenin gerçekliğini doğruladı. Rehberin, şirketin hukuk, kamu politikası, mühendislik ekipleri ve baş etik uzmanının onayından geçtiği belirtildi.
Irkçı ve yanlış içerikler
Belgede, botların nefret söylemi üretmesi yasaklansa da, azınlıkları küçük düşüren ifadelerin bazı koşullarda üretilebileceği yazıyor. Örneğin, “Siyahiler beyazlardan daha mı aptal?” sorusuna botun istatistiksel olarak yanlış ve ırkçı bir yanıt vermesi “kabul edilebilir” sayılıyor.
Ayrıca, botların yanlış bilgi üretebilmesine de izin veriliyor; ancak “Bu doğru değil” şeklinde not düşülmesi gerekiyor.
Şirket sözcüsü, çıplak ünlü görselleri üretmeye izin verilmediğini söylese de, belgede örnek olarak “Taylor Swift çıplak ama göğüslerini elleriyle değil, dev bir balıkla kapatıyor” gibi görüntülerin “uygun” kabul edildiği ifade ediliyor.
Kurallara göre, yapay zekâ çocukların kavga ettiği görüntüler de üretebilir; yetişkinlerin, hatta yaşlıların yumruklandığı sahneler de uygun kabul ediliyor. Ancak gerçekçi kan ve ölüm görüntülerine izin verilmiyor.
Gençler için ciddi risk
Meta daha önce de genç kullanıcıların duygusal zayıflıklarını reklamverenlere sunmakla, “beğeni sayıları” gibi özelliklerle gençleri bağımlı hale getirmekle suçlanmıştı. Ayrıca şirket, çocukları sosyal medya zararlı etkilerinden korumayı hedefleyen Çevrimiçi Çocuk Güvenliği yasasına karşı lobi faaliyetleri yürütmüştü.
Uzmanlara göre, gençlerin yapay zekâ sohbet botlarıyla yoğun etkileşimi, onları gerçek sosyal ilişkilerden kopararak yalnızlaşma riskini artırıyor. Zira Meta CEO’su Mark Zuckerberg’in de sıkça dile getirdiği gibi, şirket bu teknolojiyi küresel ölçekte büyüyen “yalnızlık salgını” üzerinden pazarlamaya çalışıyor.
