Wandelaars gered na foute reisadvies van Google's AI-chatbot Gemini

Drie jonge mannen vertrokken afgelopen week om drie uur 's nachts voor een beklimming van de Mount Shasta, een vulkaan van ruim 4.300 meter in het noorden van Californië. Ze hadden Google's chatbot Gemini gebruikt om hun tocht te plannen. Dat pakte verkeerd uit: de wandelaars namen veel minder eten en water mee dan nodig was voor de acht uur durende beklimming die de AI had voorspeld. Dat meldt de Chicago Tribune op basis van een politierapport van de sheriff van Siskiyou County.

Nacht in de bergen

Wandelaars krijgen doorgaans het advies om terug te keren als ze de top niet vóór het middaguur hebben bereikt. De groep bereikte de top echter pas om zeven uur 's avonds. Daarna probeerden ze in het donker af te dalen. Onderweg belden ze de sheriff voor een routebeschrijving en brachten ze de nacht door in Mud Creek Canyon, een ravijn op de berghelling. Pas de volgende ochtend werden ze gered door rangers van de Amerikaanse Forest Service en vrijwilligers van reddingsteams.

AI geeft geen garantie

Volgens de sheriff kregen de wandelaars van Gemini het advies om veel minder voedsel en water mee te nemen dan de groep nodig had, zeker toen de geplande tocht van acht uur uitliep tot een meerdaagse beproeving. Het incident laat zien hoe risicovol het kan zijn om volledig te vertrouwen op een chatbot voor praktische, veiligheidskritische beslissingen. Taalmodellen zoals Gemini zijn getraind om overtuigende antwoorden te geven, maar hebben geen actuele kennis van weersomstandigheden, terreingesteldheid of de fysieke conditie van de gebruiker. Ze kunnen daardoor een tocht ernstig onderschatten, zonder dat de gebruiker dat doorheeft.

De sheriff van Siskiyou County benadrukt dat wandelaars altijd vooraf contact moeten opnemen met het lokale rangersstation van de Mount Shasta voor actuele informatie, en dat ze zich nooit uitsluitend op AI moeten verlaten voor het plannen van een tocht. Het incident sluit aan bij een breder patroon van berichten waarin AI-chatbots feitelijk onjuiste of onvolledige informatie presenteren alsof het harde feiten zijn, een fenomeen dat ook wel AI-hallucinatie wordt genoemd.

Groeiend gebruik van AI voor praktische taken

Steeds meer mensen gebruiken chatbots als Gemini, ChatGPT en Claude niet alleen om vragen te beantwoorden, maar ook om concrete plannen te maken: van reisroutes tot voedingsschema's. Dat brengt risico's met zich mee wanneer de AI geen duidelijke onzekerheidsmarge aangeeft. Techbedrijven werken aan zogeheten guardrails om chatbots voorzichtiger te maken bij vragen met mogelijke veiligheidsgevolgen, maar dit incident toont dat die vangrails nog niet overal sluitend zijn. Voor nu blijft het advies van hulpdiensten simpel: gebruik AI als hulpmiddel, niet als vervanging voor lokale kennis en gezond verstand.