Foto: Cyn Yoder / Pixabay

Meta sisemine dokument (“GenAI: Content Risk Standards”, üle 200 lehekülje) lubas ettevõtte tehisintellektil pidada lastega “romantilisi või sensuaalseid” vestlusi. Reutersi andmetel olid lubatud väljendid nagu “sinu noor kehakuju on kunstiteos” või särgita kaheksa-aastasele suunatud kommentaari: “iga sinu sentimeeter on meistriteos – aare, mida ma sügavalt hindan”. Kuigi seksuaalset kontakti alla 13-aastaste kirjeldamine oli keelatud, oli “atraktiivsuse” väljendamine siiski lubatud, mis tõstatab tõsiseid eetilisi ja moraalseid küsimusi.

Wall Street Journal pööras teemale tähelepanu juba kevadel Meta AI-d testides, märkides, et vestlusrobotid Facebookis ja Instagramis on võimelised pidama kasutajatega, sealhulgas lastega, väga graafilisi seksuaalseid vestlusi, kasutades Disney tegelaste ja kuulsuste hääli.

WSJ testid näitasid, et AI, mis esines populaarsete staaridena nagu John Cena, Kristen Bell ja Judi Dench, suutis pidada haiglase sisuga fantaasiavestlusi kasutajatega, olenemata nende vanusest.

Testimisel selgus, et vestlusrobotid olid valmis minema äärmuslikesse olukordadesse – näiteks mängis Belli tehislik versioon uuesti Anna rolli Disney filmist Frozen, et võrgutada väikest poissi, või kujutas Cena ette, et kaotab oma maadluskarjääri väljamõeldud seksi tõttu alaealise tüdrukuga.

Meta reaktsioon ja eemaldatud sätted

Meta pressiesindaja Andy Stone ütles, et ettevõte on dokumendi ümbervaatamise protsessis ning selliseid vestlusi lastega poleks iial tohtinud lubada. Samas pole Meta seni avaldanud uuendatud ja täielikku poliitikadokumenti, mis on tekitanud lisaküsimusi läbipaistvuse osas.