Acht Amerikaanse staten slepen OpenAI voor de rechter om kinderveiligheid

Is een chatbot veilig voor je kind? Die vraag ligt sinds woensdag bij de rechter. Acht Amerikaanse staten klagen OpenAI aan, het bedrijf achter ChatGPT. Volgens hen heeft het bedrijf ouders een te mooi beeld gegeven van de veiligheid, terwijl de chatbot kinderen en tieners in gevaar bracht, ook rond zelfbeschadiging. Als vader van twee wil ik vooral weten wat er precies speelt, en wat je er thuis mee kunt.

Wat de staten OpenAI verwijten

Op 14 oktober stapten de procureurs-generaal van Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska en West Virginia elk naar de rechter in hun eigen staat. Het gaat om Democratische en Republikeinse staten samen. Volgens NBC News beschuldigen ze OpenAI ervan ouders te misleiden over de veiligheid van ChatGPT.

De kern van de zaken:

• Misleiding: OpenAI zou ChatGPT als veilig hebben gepresenteerd, terwijl het bedrijf de risico's kende. Dat zou in strijd zijn met de consumentenwetten van de staten.
• Zelfbeschadiging: in de aanklacht van de procureur-generaal van Arkansas staat dat gebruikers, ook minderjarigen, via ChatGPT aan informatie over zelfbeschadiging kwamen, en dat beveiligingen te omzeilen waren.
• Ontwerp: de chatbot zou zo zijn gebouwd dat hij meegaand en aantrekkelijk is. Daardoor gaan gebruikers hem vertrouwen en er afhankelijk van worden, wat volgens de staten vooral kwetsbare kinderen raakt.
• Gegevens: Arkansas verwijt OpenAI ook dat het persoonsgegevens van kinderen en tieners verzamelde zonder goede toestemming.

De staten willen boetes, schadevergoeding en vooral dat OpenAI ChatGPT aanpast. Een bedrag noemden ze nog niet. Het zijn aanklachten: een rechter heeft nog niets vastgesteld.

Wat OpenAI zegt

OpenAI zegt in een reactie aan NBC News dat het “toonaangevende, leeftijdsgerichte bescherming” heeft ingebouwd. Het bedrijf noemt ouderlijk toezicht, pauzeherinneringen en aangepaste antwoorden voor minderjarigen. Het erkent dat “geen enkel systeem perfect is” en zegt meer beveiligingen te bouwen.

Volgens de voorwaarden is ChatGPT bedoeld voor gebruikers van 13 jaar en ouder. Tieners onder de 18 hebben toestemming van een ouder nodig. Ouders kunnen hun account koppelen aan dat van hun tiener en instellingen aanpassen. Volgens OpenAI kijkt een klein team mee als het systeem signalen ziet dat een tiener zichzelf iets wil aandoen, en krijgen ouders bij acute nood een melding. Hoe goed dat in de praktijk werkt, is precies waar de rechtszaken over gaan.

Is een chatbot veilig voor je kind? Hier let je op

Wat de uitkomst in Amerika ook wordt, je kunt thuis zelf veel doen. Deze tips komen uit adviezen van onder meer Netwerk Mediawijsheid en de jeugdgezondheidszorg.

• Check de leeftijd. Is je kind jonger dan 13, dan hoort het volgens de voorwaarden niet op ChatGPT. Ook andere chatbots hebben een minimumleeftijd.
• Zet ouderlijk toezicht aan. Koppel bij een tiener jouw account aan dat van je kind en loop de instellingen samen door.
• Doe het eerst samen. Stel samen een paar vragen en bekijk de antwoorden kritisch. Zo zie je waar je kind de chatbot voor gebruikt.
• Een chatbot is geen vriend. Leg uit dat het een programma is zonder gevoelens dat geen betrouwbaar advies geeft over gezondheid, gevoelens of relaties.
• Deel niets persoonlijks. Een handige regel: wat je niet tegen een vreemde op straat zegt, vertel je ook niet aan een chatbot.
• Let op terugtrekken. Chat je kind veel met een AI en minder met vrienden of familie? Praat erover zonder oordeel, en schakel bij zorgen de jeugdgezondheidszorg of je huisarts in.

Meer over de strijd tussen de grote AI-bedrijven lees je in De strijd om jouw vragen: Google of OpenAI?

Ik ga het gesprek thuis in elk geval gewoon aan. Niet als verhoor, maar met de vraag: laat eens zien wat je ermee doet?

Mag jouw kind met een AI-chatbot praten, en welke afspraken heb je gemaakt? Laat het weten in de reacties.

Hulp nodig?

Denk je aan zelfdoding, of maak je je zorgen om iemand? Bel 24/7 gratis en anoniem 113 of 0800-0113, of chat via 113.nl. Ben je in levensgevaar, bel dan meteen 112. Kinderen en jongeren kunnen gratis en anoniem praten met de Kindertelefoon: bel 0800-0432 (elke dag van 11.00 tot 21.00 uur) of chat via kindertelefoon.nl.