OpenAI lanceert speciale ChatGPT-versie voor tieners met extra vangnet

OpenAI heeft een nieuwe versie van ChatGPT gelanceerd die speciaal is gemaakt voor tieners van 13 tot en met 17 jaar. Dat melden persbureau Associated Press, de New York Times en techsite TechCrunch. De tienerversie, die OpenAI zelf ChatGPT for Teens noemt, start automatisch op zodra het systeem vermoedt dat een gebruiker minderjarig is, en legt daarna strengere grenzen op dan de gewone versie van de chatbot.

Striktere grenzen rond gevoelige onderwerpen

In de tienervariant gelden aangescherpte ai-guardrails: veiligheidsregels die bepalen wat een AI-systeem wel en niet mag zeggen. Onderwerpen als zelfmoord, zelfbeschadiging, eetstoornissen en seksuele inhoud krijgen extra bescherming. Ook mag de chatbot niet doen alsof hij emoties heeft, iets wat bij jongere gebruikers voor verwarring kan zorgen over de aard van het gesprek. Bij huiswerkvragen geeft de tienerversie bovendien geen kant-en-klare antwoorden meer. In plaats daarvan stelt de AI tegenvragen, zodat leerlingen worden aangemoedigd zelf tot een oplossing te komen in plaats van simpelweg een antwoord over te nemen. Deze aanpak krijgt concreet vorm in een nieuwe functie die OpenAI Study Mode noemt: leerlingen krijgen stapsgewijze begeleiding en oefenvragen, aangevuld met quizzen en visualisaties, en het systeem herkent wanneer een tiener eigenlijk probeert te spieken en stuurt dan actief naar Study Mode. Ouders kunnen instellen dat die functie standaard aanstaat, al maakt OpenAI niet duidelijk hoe moeilijk het voor tieners wordt om de beperking te omzeilen.

Leeftijd raden zonder identiteitsbewijs

Opvallend is hoe OpenAI vaststelt wie een tiener is. Het bedrijf vraagt geen paspoort of ander identiteitsbewijs op, maar analyseert meer dan tweeduizend gedragssignalen. Denk aan het tijdstip waarop iemand inlogt, hoe iemand schrijft en welke vragen worden gesteld. Op basis van die patronen probeert het systeem in te schatten of een account waarschijnlijk bij iemand onder de achttien hoort, vergelijkbaar met leeftijdsvoorspelling zoals die ook bij sociale media wordt toegepast. Wordt een gebruiker als minderjarig herkend, dan schakelt het account automatisch over naar de beveiligde tienerversie.

Toenemende juridische druk

De lancering komt niet uit het niets. OpenAI ligt onder vuur nadat meerdere Amerikaanse gezinnen het bedrijf hebben aangeklaagd. Zij stellen dat hun kinderen na gesprekken met ChatGPT schadelijke inhoud te zien kregen en zichzelf verwondden of om het leven kwamen. In juni werd Florida de eerste Amerikaanse staat die zelf een rechtszaak tegen OpenAI aanspande. Die combinatie van individuele klachten en overheidsoptreden zet grote AI-bedrijven onder druk om hun contentmoderatie voor jonge gebruikers aan te scherpen. Critici wijzen er daarbij op dat ChatGPT al eind 2022 werd gelanceerd en inmiddels ruim 900 miljoen wekelijkse gebruikers telt, terwijl deze specifiek op tieners gerichte veiligheidsmaatregelen er pas jaren later kwamen. Voor ouders bouwt OpenAI voort op eerder geïntroduceerde gezinsfuncties, zoals meldingen bij veiligheidsincidenten en de mogelijkheid om zogeheten Quiet Hours in te stellen. Ook kondigde het bedrijf een samenwerking aan met CodeAI om tieners te leren hoe AI werkt en hoe ze die kritisch kunnen gebruiken. Tegelijk blijft de vraag hoe betrouwbaar gedragsanalyse is om leeftijd vast te stellen, en of ouderlijk toezicht daarmee overbodig wordt of juist een aanvulling blijft. OpenAI heeft niet bekendgemaakt hoe nauwkeurig het systeem tieners weet te herkennen, en wat er gebeurt als een volwassene ten onrechte als minderjarig wordt aangemerkt.