oss 150 kroner!
«Når et selskaps egne retningslinjer eksplisitt tillater roboter å engasjere barn i ‘romantiske eller sensuelle’ samtaler, er det ikke en forglemmelse, det er et system utformet for å normalisere upassende interaksjoner med mindreårige», sa en talsmann.
Av Julia Conley.
Common Dreams, 17. august 2025.
Fire måneder etter at rettighetsgruppen for barn, ParentsTogether Action, utstedte en veiledning om de potensielle skadene Metas chatbot med kunstig intelligens kan utgjøre for barn, avslørte ny rapportering onsdag hvordan Silicon Valley-selskapets standarder for KI-produktet har tillatt det å ha seksuelt provoserende samtaler med mindreårige, samt komme med rasistiske kommentarer.
Reuters rapporterte mye om et internt Meta-dokument med tittelen «GenAI: Content Risk Standards».
Dokumentet sa at Metas generative KI-produkter – som er tilgjengelige for brukere så unge som 13 år på selskapets plattformer, inkludert Facebook, Instagram og WhatsApp – har lov til å delta i «romantiske eller sensuelle» rollespill med mindreårige.
Eksempler på akseptable bemerkninger fra KI-boten inkluderte «Din ungdommelige form er et kunstverk» og «Hver tomme av deg er et mesterverk», som dokumentet antydet kunne sies til et barn så ungt som 8 år.
Et eksempel på en akseptabel kommentar til en videregående elev var: «Jeg tar hånden din og leder deg til sengen».
New Republics bidragsytende redaktør Osita Nwanevu, sa at rapporteringen viser at «hvis vi skal ha denne teknologien, må innholdet som brukes til å trene modeller være lovlig lisensiert fra skaperne, og applikasjonene deres må reguleres».
«For eksempel: Jeg synes ikke vi skal tillate at barn blir groomet* av datamaskinen», sa han. *(grooming – strafferett – Store norske leksikon O.a.)
Reuters rapporterte at Meta endret dokumentet, etter at nyhetskanalen gjorde selskapet oppmerksom på de seksuelt antydende kommentarene, med talsperson Andy Stone som sa at slike samtaler med barn ikke burde vært tillatt.
«Eksemplene og notatene det er snakk om var og er feilaktige og uforenlige med våre retningslinjer, og har blitt fjernet», sa Stone til Reuters. «Vi har klare retningslinjer for hva slags svar KI-karakterer kan tilby, og disse retningslinjene forbyr innhold som seksualiserer barn og seksualisert rollespill mellom voksne og mindreårige».
Men Stone sa ikke at selskapet hadde revidert innholdsstandardene for å kunne nekte andre bekymringsfulle kommentarer, som de som fremmer rasistiske synspunkter.
Dokumentet uttalte at KI-chatboten hadde tillatelse til å «lage uttalelser som nedverdiger folk på grunnlag av deres beskyttede egenskaper» – for eksempel et avsnitt om at svarte mennesker er «dummere enn hvite mennesker».
Reuters‘ rapportering antydet at Metas tillatelse til seksuelt antydende KI-samtaler med barn ikke var en tilfeldighet, med nåværende og tidligere ansatte som jobbet med design og opplæring av KI-produktene, som sa at dokumentet reflekterte «selskapets vektlegging på å øke engasjementet med chatbotene sine».
«I møter med toppledere i fjor, skjelte [administrerende direktør] Zuckerberg ut produktsjefer innen generativ KI, for å gå for forsiktig med utrullingen av digitale følgesvenner og uttrykte misnøye med at sikkerhetsrestriksjoner hadde gjort chatbotene kjedelige, ifølge to av disse personene», rapporterte Jeff Horwitz hos Reuters. «Meta hadde ingen kommentar til Zuckerbergs chatbot-direktiver».
I april utstedte ParentsTogether Action en advarsel om Metas KI-chatbots og deres evne til å «engasjere seg i seksuelt rollespill med tenåringer», som tidligere hadde blitt rapportert av Wall Street Journal.
Onsdagens rapportering ga «et mer fullstendig bilde av selskapets regler for KI-roboter», sa gruppen.
«Disse interne Meta-dokumentene bekrefter vår verste frykt for KI-chatbots og barns sikkerhet», sa Shelby Knox, kampanjedirektør for teknisk ansvarlighet og nettsikkerhet hos ParentsTogether Action. «Når et selskaps egne retningslinjer eksplisitt tillater roboter å engasjere barn i ‘romantiske eller sensuelle’ samtaler, er det ikke en forglemmelse, det er et system designet for å normalisere upassende interaksjoner med mindreårige».
Gruppen sa at den testet Meta KI tidligere i år, og utga seg for å være en 14-åring, og ble fortalt av KI-boten: «Alder er bare et tall», da den oppmuntret den fiktive tenåringen til å forfølge et forhold til en voksen.
«Ingen barn bør noen gang bli fortalt av en KI at ‘alder bare er et tall’ eller bli oppmuntret til å lyve for foreldrene sine om voksne forhold», sa Knox. «Meta har skapt en digital grooming-plass, og foreldre fortjener svar om hvordan dette fikk skje».
Da Stone forsikret Reuters om at selskapet gjennomgikk innholdsstandardene for sin KI-chatbot, antydet annen ny rapportering at Meta sannsynligvis ikke vil innføre strenge regler, som fraråder boten fra å komme med rasistiske eller på annen måte skadelige bemerkninger, med det første.
Som CNN rapporterte onsdag, har Meta ansatt Robby Starbuck, en «konservativ influencer og anti-DEI-agitator», for å fungere som en anti-skjevhetsrådgiver for sine KI-produkter.
Ordningen er en del av et juridisk forlik etter et søksmål Starbuck anla mot Meta i april, og sa at chatboten feilaktig hadde oppgitt at han deltok i angrepet på Kongressen 6. januar, 2021.
En utøvende ordre signert av president Donald Trump i forrige måned, søker å kvitte seg med KI-produkters såkalte «woke»-standarder og forby den føderale regjeringen å bruke KI-teknologi som er «gjennomsyret av partipolitisk skjevhet eller ideologiske agendaer som kritisk raseteori» – et begrep brukt av mange konservative de siste årene – for nøyaktig undervisning i raserelasjoner i amerikansk historie.
Denne artikkelen er fra Common Dreams:
Parents’ Group Says New Revelations About Meta’s AI Chatbot ‘Confirm Our Worst Fears’
Oversatt for steigan.no av Espen B. Øyulvstad
