[Skilpadda]

Hvis man bruker ChatGPT til noe som helst der det faktisk spiller rolle om resultatet er korrekt, så MÅ man sjekke resultatet kjempegrundig. Den skriver godt formulerte avsnitt som ser helt tilforlatelige ut, og som vanligvis stemmer, men man har ingen garanti for at den ikke bare finner på noe som er helt feil. Eller, «finner på» er misvisende; den «vet» og «skjønner» ingenting, den bare genererer ord som ser ut som de passer sammen. (Den skrev for eksempel i en ellers helt fin tekst om isbjørner, basert på en eksisterende tekst om isbjørner, at en av tingene isbjørn spiser er pingviner. )

Som Neil Gaiman sa: «ChatGPT doesn't give you information. It gives you information-shaped sentences.»