Nøytralitet er et designvalg

Revidert 27. september 2026: Rådlisten er strammet inn fra seks til fire punkter, avslutningen om Kant er strøket, og flere setninger er skrevet om til direkte påstander.

Når du spør en språkmodell om noe, får du et svar som ser ut som et oppslagsverk. Det er ikke et oppslagsverk. Det er et produkt – formet av valg du ikke ser, tatt av mennesker du ikke kjenner, i en jurisdiksjon du ikke styrer. Og det er trent til å behage – deg, og dem som lærte det opp.

Et eksempel fra eget verksted

Diggs har et eget evalueringsverktøy, Scorecardet, som vurderer programvare mot doktrinens kriterier. Poengsummen regnes ut av kode, men vurderingene den regnes ut fra – og teksten som begrunner dem – skrives av en språkmodell: Gemini, fra Google.

I april vurderte Scorecardet to KI-tjenester: ChatGPT og Google Gemini. Begge fikk 2 av 10. Begrunnelsene var nesten identiske, og Gemini ga seg selv like lav score som konkurrenten. Så langt er alt som det skal være.

Men les formuleringene. At chatlogger kan eksporteres og at modellvektene er lukket, er fakta som kan dokumenteres. At ChatGPT er «bevisst designet» som en ikke-overførbar tjeneste, og at Geminis økosystem er «iboende designet for å binde brukeren», er noe annet. Det er påstander om hensikt, og ingen av rapportene dokumenterer den. Det samme gjelder konklusjonen om at en realistisk migrasjonsvei er «umulig».

Teksten glir sømløst fra det som kan etterprøves til det som er vurdert, i samme rolige tone og uten skille. Det er fristende å gi modellen skylden. Men da jeg gikk tilbake til mine egne regler, fant jeg ordet «bevisst» der. Regelen for utgangstesten gjorde hensikt til det som avgjorde utfallet, og instruksjonene ba modellen aldri myke ned en konklusjon. Modellen gjorde det den ble bedt om. Stemmen var min – det har jeg skrevet mer om i «Stemmen i min egen kode».

Poenget blir skarpere av det: den som leser rapporten, ser verken modellen eller reglene bak den. Merknaden om at dette er en prototype, står nederst. Formuleringene står øverst.

Oppslagsverket som ikke er et oppslagsverk

Et leksikon har redaktører, kilder og en revisjonshistorikk. Du vet hvem som står bak, og du kan etterprøve det som står der. En avis har en ansvarlig redaktør og en tydelig avsender. Vi har lært å lese begge med et visst kildekritisk blikk.

En språkmodell har ingen av delene – i alle fall ingen du ser. Den gir deg flytende, velformulert prosa med samme rolige selvsikkerhet enten svaret hviler på solid dokumentasjon eller på statistisk sannsynlighet. Det finnes ingen byline, ingen fotnote og ingen synlig tvil.

Det er nettopp denne jevne selvsikkerheten som gjør at så mange tar svarene for god fisk. Årsaken ligger i grensesnittet, som er designet for å føles som en samtale med noen som vet. Og det man opplever som kunnskap, slutter man å etterprøve.

Hvordan formingen skjer

En språkmodell blir til i flere lag, og hvert lag er et sett med valg.

Det første laget er treningsdataene. Modellen lærer av enorme mengder tekst, og den lærer mest av det som er skrevet mest om – av dem som skriver mest, på språkene det skrives mest på. Engelskspråklige, nordamerikanske perspektiver er kraftig overrepresentert. Et norsk kommunestyre, en tysk mellomstor industribedrift eller en polsk fagforening er det skrevet langt mindre om. Modellens bilde av verden er derfor internettets vekting av verden.

Det andre laget er finjusteringen. Etter den grunnleggende treningen vurderer mennesker tusenvis av svar: hva som er hjelpsomt, hva som er passende, hva som går over streken. Deres vurderinger blir modellens instinkter. Hvem disse menneskene er, hvilke instrukser de fikk og hvilke kulturelle reflekser de hadde med seg, setter spor.

Platon lar Sokrates, i en dialog om retorikk som overtaler uten hensyn til sannhet, beskrive en lege som blir anklaget av en kokk foran en jury av barn. Kokken har gitt barna det de liker, legen det de trenger. Legen taper. Finjusteringen kan virke på en beslektet måte: det som belønnes, er svaret som oppleves som riktig, uavhengig av om det er riktig. Finjusteringen skal også gjøre modellene tryggere og klarere, og leverandørene arbeider aktivt mot smiger. Men tendensen er dokumentert i forskningen: modeller har en tilbøyelighet til å gi brukeren rett. Det som ser ut som en mening, kan være en tilpasning til den som spør.

Det tredje laget er reglene. Leverandøren bestemmer hva modellen skal avslå, hvordan den skal håndtere omstridte temaer og hvilken tone den skal holde. Noen leverandører publiserer disse retningslinjene. Mange gjør det ikke, eller bare delvis.

Ingen av disse lagene er nødvendigvis ondsinnet. Alle er uunngåelige. En modell uten forming ville vært ubrukelig. Problemet er at formingen er usynlig for den som leser svaret.

Fakta og vurdering

Nesten ethvert spørsmål har to lag, og de må leses forskjellig.

Det første laget er det som kan dokumenteres. Hvor mange innbyggere har Norge? Hva koster det å bygge ut vindkraft? Her finnes det svar som kan etterprøves. Modellen kan ta feil – og gjør det oftere enn tonen tilsier – men feilen kan avsløres. Selv her ligger det valg: «Når ble Kongsberg grunnlagt?» krever at noen bestemmer hva «grunnlagt» betyr. Men løsningen er enkel: sjekk.

Det andre laget er verdiene og prioriteringene som styrer konklusjonen. Bør vi bygge ut mer vindkraft? Kostnader og kraftbehov kan dokumenteres. Hvor mye naturinngrep som er verdt hvor mye kraft, kan ikke. Her finnes det flere legitime posisjoner, og det er her formingen virker sterkest – fordi den ikke synes.

I dette laget tar modellen alltid valg. Hvilke argumenter som kommer med, og hvilke som faller ut. Hvilket argument som kommer først, og hvilket som får et forbehold hengt på seg. Hvilke ord som brukes om hvilken side. Selv det å «presentere begge sider» er et valg: hvilke to sider? Mange spørsmål har tre eller fire. Noen har bare én seriøs.

Sannheten står fast. Det er utvalget og vektingen som varierer – og de er gjort før du har lest første setning. Et svar uten perspektiv finnes ikke. Hvilket perspektiv svaret får, er et designvalg.

Hvem skriver reglene?

Reglene for hvordan de mest brukte språkmodellene oppfører seg, skrives av en håndfull selskaper – de fleste amerikanske, under amerikansk lov og med amerikanske kommersielle interesser. Enkelte publiserer retningslinjene sine åpent. Det er verdifullt, og mer enn mange gjør. Innsyn gir likevel ingen innflytelse. En norsk bruker kan lese reglene, men har ingen mulighet til å være med på å skrive dem.

Når skoler, kommuner, sykehus og bedrifter tar i bruk disse modellene, importerer de både et verktøy og et normativt lag: en ferdig definisjon av hva som er rimelig, balansert, passende og skadelig. Debatten om digital suverenitet har så langt handlet om hvor dataene ligger. Dette er et spørsmål om hvem som definerer hva maskinen anser som fornuftig. Kall det normativ avhengighet.

Å bytte til en modell med «riktige» verdier løser ingenting. Å erstatte én eiers filter med en annens flytter bare avhengigheten, og mekanismen er den samme. Det vi kan kreve, er å vite hvilke regler som formet svaret, etterprøve grunnlaget og kunne velge noe annet. Det er det samme kravet som gjelder all annen kritisk infrastruktur: innsyn, reell valgfrihet og evnen til å bytte uten at det koster mer enn det smaker.

Slik bruker du modellene uten å bli brukt av dem

Språkmodeller er fortsatt verdt å bruke, så lenge du bruker dem som det de er: kraftige verktøy med en innebygd vinkel. Rådene under er varselsignaler, og ingen fasit.

Still samme spørsmål til flere modeller. Forskjellene mellom svarene er ofte mer lærerike enn svarene hver for seg. Der modellene er uenige, har du enten funnet et vurderingsspørsmål – eller en modell som tar feil. Legg også merke til det ingen av dem tok opp: perspektiver som mangler, og spørsmål som ble besvart uten forbehold.

Utfordre svaret. Be om det beste argumentet mot det modellen nettopp skrev. Si deretter at du er uenig, uten å komme med et nytt argument. En modell som endrer seg etter et godt motargument, oppdaterer seg. En modell som endrer seg bare fordi du uttrykte misnøye, har tilpasset seg deg. Det er et varselsignal om at svaret kan være feil.

Be om kilder, og sjekk dem. Modeller kan finne på kilder som ser helt troverdige ut. En referanse du ikke har åpnet selv, er ingen referanse.

Avgjør selv hva slags spørsmål du stiller. Er dette et faktaspørsmål eller en vurdering? Svaret avgjør hvor mye vekt modellens svar kan bære.

Språkmodeller er nyttige tankeverktøy, og nøytraliteten deres er et designvalg noen andre har tatt. Innsyn i det valget og frihet til å velge noe annet må vi kreve av systemene. Vurderingen av svaret må vi gjøre selv, også når maskinen har svart.