En AI-hallusinasjon er når kunstig intelligens genererer falsk informasjon som likevel virker overbevisende. Det er en av de viktigste begrensningene å forstå når du bruker AI.
Hvorfor det skjer
Modellene genererer den mest sannsynlige teksten, ikke den sanneste. Når de ikke «vet» noe, kan de finne på et plausibelt svar — navn, datoer, sitater eller kilder som ikke finnes.
Hvor det er farligst
Ved faktaopplysninger: tall, lover, sitater, medisinske eller juridiske referanser. AI kan finne på en lov, en statistikk eller en bok med full naturlighet.
Hvordan du beskytter deg
Sjekk alltid viktige fakta mot en pålitelig kilde; be om kilder og kontroller dem; og vær skeptisk til svar som er mistenkelig spesifikke. AI-tekstdetektorer er upålitelige: OpenAI la ned sin egen detektor i 2023 på grunn av lav treffsikkerhet (fanget bare ~26 % av AI-tekst), og studier viser høye falsk-positiv-rater, særlig for dem som skriver på et andrespråk. Ikke behandle resultatet fra en AI-detektor som bevis.
Å redusere oppspinn med dine egne kilder
Den som vil videre enn én enkelt chatbot kan se mot plattformer som osFoundry (agentisk AI med din egen modell, som også kan selv-hostes) for å knytte sammen ulike AI-funksjoner.
Les også
Dette er generell informasjon, ikke juridisk eller skattemessig rådgivning. Regler, priser og frister endrer seg; sjekk offisielle kilder.