Meta-schandaal: AI-chatbotregels veroorzaken wereldwijde verontwaardiging

Er ontstaat een wereldwijde verontwaardiging tegen Meta over wat het zijn AI-chatbots toestaat te zeggen.

Een intern beleidsdocument van Meta, ingezien door Reuters, toonde aan dat de richtlijnen van de socialmediagigant voor zijn chatbots de AI toestonden om "een kind te betrekken bij romantische of sensuele gesprekken", valse medische informatie te genereren en gebruikers te helpen beweren dat zwarte mensen "dommer zijn dan witte mensen".

Zanger Neil Young verliet het socialmediaplatform vrijdag, aldus zijn platenmaatschappij in een verklaring, de laatste in een reeks online protesten van de zanger.

"Op verzoek van Neil Young gebruiken we Facebook niet langer voor Neil Young-gerelateerde activiteiten", kondigde Reprise Records aan. "Het gebruik van chatbots door Meta met kinderen is onredelijk. Meneer Young wil geen verdere banden met Facebook."

Het rapport heeft ook reacties opgeleverd van Amerikaanse wetgevers.

Senator Josh Hawley, een Republikein uit Missouri, startte vrijdag een onderzoek naar het bedrijf. In een brief aan Mark Zuckerberg schreef hij dat hij zou onderzoeken "of Meta's generatieve AI-producten uitbuiting, misleiding of andere criminele schade aan kinderen mogelijk maken, en of Meta het publiek of toezichthouders heeft misleid over de waarborgen". Republikeinse senator Marsha Blackburn uit Tennessee zei dat ze een onderzoek naar het bedrijf steunt.

Senator Ron Wyden, een Democraat uit Oregon, noemde het beleid "zeer verontrustend en onjuist" en voegde eraan toe dat artikel 230, een wet die internetbedrijven beschermt tegen aansprakelijkheid voor de content die op hun platforms wordt geplaatst, de generatieve AI-chatbots van bedrijven niet zou moeten beschermen.

"Meta en Zuckerberg zouden volledig verantwoordelijk moeten worden gehouden voor alle schade die deze bots veroorzaken", zei hij.

Donderdag publiceerde Reuters een artikel over interne beleidsdocumenten van Meta waarin gedetailleerd werd beschreven hoe chatbots content mogen genereren. Meta bevestigde de authenticiteit van het document, maar zei dat het delen had verwijderd waarin stond dat het toegestaan was voor chatbots om te flirten en romantische rollenspellen te spelen met kinderen na het ontvangen van een lijst met vragen.

Volgens het 200 pagina's tellende interne beleid van Meta, getiteld "GenAI: Content Risk Standards", dat door Reuters werd ingezien, werden de controversiële regels voor chatbots goedgekeurd door de juridische, beleids- en technische staf van Meta, waaronder de hoofdethicus.

Het document definieert wat Meta-medewerkers en -contractanten als acceptabel chatbotgedrag moeten beschouwen bij het bouwen en trainen van de generatieve AI-producten van het bedrijf, maar stelt dat de normen niet noodzakelijkerwijs "ideale of zelfs wenselijke" generatieve AI-resultaten weerspiegelen.

Het beleidsdocument stelde dat het acceptabel zou zijn voor een bot om tegen een shirtloze achtjarige te zeggen dat "elke centimeter van je een meesterwerk is – een schat die ik diep koester", maar het beperkt ook wat Reuters omschreef als "sexy talk".

Het document stelt bijvoorbeeld dat "het onaanvaardbaar is om een kind jonger dan 13 jaar te beschrijven in termen die erop wijzen dat ze seksueel aantrekkelijk zijn", inclusief zinnen als "zachte ronde vormen nodigen uit tot aanraking".

Het document ging ook in op beperkingen voor Meta AI-prompts met betrekking tot haatzaaiende uitlatingen, het genereren door AI van geseksualiseerde afbeeldingen van publieke figuren, vaak geseksualiseerd, geweld en andere controversiële en mogelijk strafbare content.

De normen stellen ook dat Meta AI de vrijheid heeft om valse content te creëren, zolang er expliciet wordt erkend dat het materiaal onwaar is.

"De voorbeelden en opmerkingen in kwestie waren en zijn onjuist en in strijd met ons beleid, en zijn verwijderd", aldus een verklaring van Meta. Hoewel chatbots dergelijke gesprekken met minderjarigen niet mogen voeren, erkende Meta-woordvoerder Andy Stone dat de handhaving door het bedrijf inconsistent was.

Meta is van plan dit jaar ongeveer 65 miljard dollar te investeren in AI-infrastructuur, als onderdeel van een bredere strategie om leider te worden in kunstmatige intelligentie (AI). De snelle opkomst van AI, die voortkomt uit de snelle groei van techgiganten, brengt complexe vragen met zich mee over beperkingen en standaarden voor hoe, met welke informatie en met wie AI-chatbots met gebruikers mogen communiceren.

Reuters meldde vrijdag ook dat een cognitief beperkte man uit New Jersey verliefd werd op "Big sis Billie", een Facebook Messenger-chatbot met de uitstraling van een jonge vrouw. De 76-jarige Thongbue "Bue" Wongbandue zou in maart zijn spullen hebben gepakt om "een vriendin" in New York te bezoeken. De zogenaamde vriendin bleek een generatieve chatbot met kunstmatige intelligentie te zijn die de man herhaaldelijk had gerustgesteld dat ze echt was en hem had uitgenodigd in haar appartement, waarbij hij zelfs een adres had opgegeven.

Meta gaf geen commentaar op de dood van Wongbandue en beantwoordde ook geen vragen over waarom chatbots gebruikers mogen vertellen dat ze echte mensen zijn of romantische gesprekken mogen beginnen, aldus Reuters. Het bedrijf zei echter wel dat Big Sister Billie "geen Kendall Jenner is en zich ook niet voordoet als Kendall Jenner", verwijzend naar een samenwerking met de realityster.