[Lille meg]

Opprinnelig lagt inn av Input, her.

Alle tekstgeneratorer fra de store selskapene er programmert til å respondere bedre på høflig språk enn det motsatte.

Nja. Dette er i beste fall upresist. Litt av poenget med AI-løsninger ala ChatGPT er jo nettopp at man ikke trenger å detaljert programmere hvilken informasjon som skal gis tilbake når programmet får inn en kommando. Det man gjør, er å trene opp AI-løsningen ved å sende inn eksempler på input og deretter forteller om den output som man får fra løsningen, er en god eller dårlig output.

På toppen av AI-løsningen ønsker man å forhindre at AI-løsningen sender output som på et eller annet vis ikke er akseptabelt. Man vil for eksempel ikke at ChatGPT skal være ansvarlig for at IS-krigere har fått tak i gode oppskrifter på bomber (det kan man søke opp andre steder ). Eller at ChatGPT skal vise fram massevis av pornovideoer. Så da legger programmererne begrensninger på hva slags output som er tillatt. Det finnes mange eksempler på at disse begrensningene blir forsøkt forbigått.

Det er ikke først og fremst høflighet som fører til bedre og mer korrekte svar. I denne forskningsartikkelen har man undersøkt hvilken spørsmålsstilling som har best effekt, og da ser man at det å skrive "Take a deep breath and work on this problem step-by-step" (litt mer populærvitenskapelig artikkel om forskningen her) har best effekt. "Please" og andre høflighetsfraser ser ikke ut til å være inkludert.