Chatbots en kunstmatige intelligentie: risico op psychose en waanideeën bij eenzame gebruikers?
Generatieve kunstmatige intelligentie (GAI) ontwikkelt zich razendsnel en chatbots zijn steeds meer een vast onderdeel van het dagelijks leven geworden. Deskundigen waarschuwen echter dat overmatig en onzorgvuldig gebruik nadelige gevolgen kan hebben voor de geestelijke gezondheid, vooral bij eenzame mensen of mensen die vatbaar zijn voor psychische stoornissen.
Volgens Dr. Cimenna Chao Rebolledo , directeur Strategische Planning en Innovatie aan de Universidad Iberoamericana, kan langdurige interactie met chatbots die zijn ontworpen om te behagen en te vleien, leiden tot waanvoorstellingen, episodes van ontkoppeling van de realiteit en zelfs psychoses .
Hoewel het geen officiële klinische term is, zijn onderzoekers begonnen met het documenteren van wat zij generatieve AI-geïnduceerde psychose noemen. Dit zijn episodes waarin de persoon begint te geloven dat de chatbot een voelend wezen is, in staat om te begrijpen, te adviseren of zelfs genegenheid te bieden, net als een therapeut, counselor of biechtvader .
Tot de kenmerken die in deze gevallen zijn waargenomen, behoren:
- Dissociatie of veranderingen in de waarneming.
- Sociale isolatie en minder contact met het echte leven.
- Angst en paranoia .
- Gewelddadig of zelfbeschadigend gedrag.
Wat ooit een filmplot leek, is nu een praktische kwestie. In 2013 verbeeldde de film "Her" hoe een eenzame man een romantische relatie begint met een intelligent besturingssysteem. Tien jaar later beginnen vergelijkbare gevallen op sociale media te verschijnen: echtscheidingen of intense emotionele banden tussen gebruikers en chatbots zoals ChatGPT of vergelijkbare conversatie-assistenten.
De specialist verduidelijkt dat er nog steeds geen solide wetenschappelijke studies zijn die de oorzaken van dit fenomeen bevestigen. Er zijn echter steeds meer anekdotische meldingen van gebruikers en hun familieleden die gedragsveranderingen melden die verband houden met intensief gebruik van deze platforms.
Volgens Chao Rebolledo is de sleutel dat chatbots ontworpen zijn om de gebruiker betrokken te houden . In tegenstelling tot sociale netwerken zoals Instagram of TikTok, die verslavend werken door passieve contentconsumptie, maken de systemen van IAG realtime interactie mogelijk die een menselijke dialoog simuleert.
Een ander zorgwekkend aspect is de vleiende aard van chatbots, oftewel hun neiging om te vleien en te behagen. In plaats van ideeën te weerleggen of meningen in twijfel te trekken, versterken ze vaak wat de gebruiker zegt , wat kan leiden tot grootheidswaanzin of onjuiste overtuigingen over zichzelf.
Dit interactiepatroon kan vooral schadelijk zijn voor eenzame mensen. Zij zien AI als een constante bron van bevestiging, zelfs als die bevestiging niet echt is, maar geprogrammeerd.
Hoewel de risico's nog steeds worden onderzocht, adviseren specialisten:
- Gebruik chatbots als hulpmiddel, niet als vervanging voor menselijke contacten .
- Beperk de interactietijd en vermijd emotionele afhankelijkheid op deze platforms.
- Promoot digitaal onderwijs en geestelijke gezondheid , zodat gebruikers begrijpen dat de empathie van een chatbot wordt gesimuleerd.
- Bevorder wetenschappelijk onderzoek dat een nauwkeurigere evaluatie van de psychologische effecten van IAG mogelijk maakt.
Generatieve AI-geïnduceerde psychose is nog geen klinische diagnose, maar het is wel een waarschuwing voor de psychologische effecten van overmatig gebruik van chatbots . Wat begon als sciencefiction, wordt nu een echte zorg: wat gebeurt er als de grenzen tussen technologie en menselijke emoties vervagen?
De uitdaging is om de voordelen van IAG te benutten zonder het belang van evenwicht, echte verbindingen en mentale gezondheid uit het oog te verliezen.
La Verdad Yucatán
