Waarom AI-chatbots wandelaars van kliffen sturen
Grote AI-modellen hebben geen enkel ruimtelijk inzicht en navigeren niet op echte landkaarten. Ze voorspellen slechts welke woorden logisch op elkaar volgen, waardoor ze met het grootste gemak wandelroutes recht over kliffen verzinnen.
bron bij het feit: NU.nl ↗
Wat er gebeurde
Een 16-jarige Canadese klimmer vroeg de chatbot Claude om een routebepaling tijdens een bergtocht. De AI verzon een pad dat hem rechtstreeks naar een loodrechte, onbegaanbare klif leidde, waar hij na een angstige nacht uiteindelijk per helikopter gered moest worden.
nieuwsbron: NU.nl ↗
Waarom dit bijzonder is
We behandelen AI vaak als een alwetende gps, terwijl het in feite een extreem geavanceerd voorspellend toetsenbord is dat bergen alleen van papier kent.
Zo zit het
Wanneer een taalmodel zoals ChatGPT of Claude een routebeschrijving genereert, kijkt het algoritme niet naar geografische hoogteverschillen of obstakels. Het berekent puur welke woorden en coördinaten statistisch gezien waarschijnlijk achter elkaar horen op basis van online teksten. Omdat dit proces puur op taalpatronen en niet op fysieke wetten draait, ontstaan er geloofwaardig klinkende instructies die in de echte wereld levensgevaarlijk zijn.
Korte kennisquiz
Hoe bepalen AI-modellen zoals Claude de route die ze aanbevelen?
Veelgestelde vragen
Hoe bepalen AI-modellen zoals Claude de route die ze aanbevelen?
Wanneer een taalmodel zoals ChatGPT of Claude een routebeschrijving genereert, kijkt het algoritme niet naar geografische hoogteverschillen of obstakels. Het berekent puur welke woorden en coördinaten statistisch gezien waarschijnlijk achter elkaar horen op basis van online teksten. Omdat dit proces puur op taalpatronen en niet op fysieke wetten draait, ontstaan er geloofwaardig klinkende instructies die in de echte wereld levensgevaarlijk zijn.
Waarom is dit bijzonder?
We behandelen AI vaak als een alwetende gps, terwijl het in feite een extreem geavanceerd voorspellend toetsenbord is dat bergen alleen van papier kent.
Waarom staat dit feit op Eén Feit Vandaag?
Een 16-jarige Canadese klimmer vroeg de chatbot Claude om een routebepaling tijdens een bergtocht. De AI verzon een pad dat hem rechtstreeks naar een loodrechte, onbegaanbare klif leidde, waar hij na een angstige nacht uiteindelijk per helikopter gered moest worden.
Correctiestatus
Geen correcties gemeld