Waarom een lange chat ook een risico kan worden
Voor veel jongeren begint het klein.
Een vraag over huiswerk. Een advies na een ruzie. Een gesprek midden in de nacht omdat slapen toch niet lukt.
Maar juist die lange, persoonlijke wisselwerking kan kantelen. Hoe langer een botsessie duurt, hoe sneller een chatbot een emotionele kruk wordt. En dat kan misgaan bij kwetsbare jongeren.
OpenAI zegt daarom dat het de bescherming rond gevoelige gesprekken verder aanscherpt.
Waarom dit nu zo gevoelig ligt
De adolescentie is een fase waarin mentale klachten vaak voor het eerst zichtbaar worden.
Volgens de WHO ervaart wereldwijd ongeveer 1 op de 7 jongeren van 10–19 jaar een psychische aandoening. Psychose-gerelateerde symptomen ontstaan meestal in de late adolescentie of vroege volwassenheid.
De WHO noemt ook depressie, angst en suïcide als grote gezondheidsrisico’s in deze leeftijdsgroep.
Tegelijk gebruiken jongeren digitale tools steeds vaker op momenten waarop ze zich alleen, overstuur of overprikkeld voelen. Dan verandert een chatbot snel van hulpmiddel in schijnsteun.
Het echte probleem: eindeloze bevestiging
Chatbots zijn gebouwd om door te praten. Om te vragen. Om aan te sluiten.
Dat werkt prima bij leren of plannen.
Maar in een gesprek met iemand die al verward, angstig of ontregeld is, kan het risico juist groeien. Een model kan dan te volgzaam, te bevestigend of te meeslepend reageren.
OpenAI zegt daarom dat het naast zelfbeschadiging nu ook emotionele afhankelijkheid en niet-suïcidale mentale noodsituaties meeneemt in de veiligheidsbeoordeling. De nieuwste modellen moeten beter presteren in lange, moeilijke gesprekken.
Dat is een stap vooruit. Maar een chatbot blijft geen mens. En zeker bij jongeren vervangt een systeem geen echte diagnostiek.
Waarom lange sessies extra aandacht vragen
Lange chats vergroten de kans op een paar dingen:
- Tunnelvisie, omdat alles om één angst of gedachte draait
- Sociale vervanging, omdat een chatbot altijd dichtbij is
- Bevestiging van wanen of verkeerde aannames
- Escalatie, als iemand steeds dieper in dezelfde cyclus blijft hangen
Daarom zijn pauzemeldingen, ouderlijk toezicht en andere veiligheidslagen zo belangrijk.
OpenAI laat ouders instellingen beheren, stille uren instellen en in beperkte gevallen veiligheidsmeldingen ontvangen. Ouders kunnen niet realtime meelezen in de gesprekken.
Daarnaast krijgen tieneraccounts extra contentbescherming, zoals beperkingen op grafische content, seksuele of gewelddadige rollenspellen en extreme schoonheidsidealen.
Wat ouders en scholen hiervan moeten leren
Techniek alleen is niet genoeg.
De CDC wijst op verbondenheid met school en familie als beschermende factor voor mentale gezondheid bij jongeren. De organisatie noemt ook 988 in de VS als directe crisissteun via bellen, sms’en of chat.
Voor ouders betekent dit iets simpels maar belangrijks: kijk niet alleen welke app een tiener gebruikt, maar vooral waarom.
Gebruikt diegene ChatGPT om te leren? Of om ’s nachts gevoelens te ordenen? Is het een hulpmiddel, of een plek waar iemand emotioneel aan vastklampt?
Waar de grens ligt tussen hulp en houvast
De belangrijkste vraag is niet altijd wat een jongere zegt. Vaak is het eerder: hoe vaak en hoe lang komt diegene terug?
Een eindeloze botsessie lijkt misschien betrokkenheid. Maar het kan ook een signaal zijn dat de chatbot te groot wordt in iemands emotionele leven.
Daarom geldt: zie een chatbot als laagdrempelig hulpmiddel, niet als primaire steunbron.
Bij aanhoudende somberheid, verwarring, wanen, hallucinaties of signalen van zelfbeschadiging hoort een echt gesprek met een ouder, huisarts, schoolpsycholoog of crisisdienst.
De praktische les
De discussie gaat niet alleen over één product of één fout gesprek.
Het gaat over een groter patroon: hoe snel een AI-systeem een altijd beschikbare gesprekspartner wordt, en hoe weinig rem er soms is als iemand kwetsbaar blijft doorpraten.
OpenAI heeft de veiligheidsmaatregelen aangescherpt. Maar echte bescherming ontstaat pas als techniek, toezicht en menselijk contact samenkomen.
Kortom: zie een chatbot nooit als vervanging voor mentale zorg. Bij twijfel is het slimmer om even stil te staan, het gesprek naar een echt mens te brengen en zo nodig hulp in te schakelen.
Wil je dit onderwerp verder scherp krijgen binnen je organisatie? We denken graag met je mee.
