Nylig avdekket avisen Khrono en oppsiktsvekkende sak som illustrerer de absurde situasjonene som kan oppstå i møtet mellom tradisjonell akademia og generativ kunstig intelligens (KI). En anerkjent professor ved Universitetet i Oslo (UiO) opplevde å få sin vitenskapelige artikkel avvist av et internasjonalt tidsskrift. Begrunnelsen fra redaksjonen var at et automatisk verktøy hadde konkludert med at teksten var maskingenerert.
Det oppsiktsvekkende i denne saken var imidlertid ikke den falske anklagen i seg selv. Da professoren leste avslaget fra tidsskriftet, oppdaget han at tilbakemeldingen bar tydelige preg av å være skrevet av en språkmodell. Tidsskriftet som anklaget forskeren for uetisk bruk av KI, hadde altså selv benyttet teknologien for å formulere avslaget. Denne hendelsen setter søkelyset på et voksende, systemisk problem innen akademisk publisering.
KI-detektorers iboende svakheter
Saken fra UiO er et kroneksempel på farene ved overdreven tillit til såkalte KI-detektorer. Analyseverktøy som lover å kunne skille menneskeskrevet tekst fra maskinskapt innhold, markedsføres aggressivt mot utdanningsinstitusjoner og forlag. Forskningen viser imidlertid at disse verktøyene er fundamentalt upålitelige.
Teknisk sett fungerer de fleste KI-detektorer ved å analysere to hovedfaktorer:
- Perplexity (Forutsigbarhet): Hvor sannsynlig det er at den neste gitte sekvensen av ord vil bli brukt basert på treningsdata.
- Burstiness (Variasjon): Variasjonen i setningslengde og syntaktisk struktur gjennom teksten.
Problemet oppstår fordi akademisk språk i sin natur ofte er strukturert, presist og har lav variasjon (lav burstiness). Enda mer alvorlig er det at forskere ved blant annet Stanford University har påvist at disse detektorene systematisk diskriminerer. Tekster skrevet av personer med engelsk som andrespråk flagges konsekvent som KI-generert i langt høyere grad enn tekster skrevet av morsmålsbrukere. Å basere akademiske sanksjoner på programvare som produserer falske positiver, truer selve fundamentet for internasjonal forskningsformidling.
"Vi kan ikke la upålitelige algoritmer fungere som dommer og bøddel i akademiske publiseringsprosesser. Saken fra UiO viser at teknologien rett og slett ikke er moden for dette formålet."
Etiske retningslinjer under press
Når tidsskriftets fagfeller eller redaktører selv benytter kunstig intelligens for å evaluere andres arbeid eller formulere avslag, opererer de i en dyp etisk gråsone. De fleste store akademiske forlag, inkludert giganter som Elsevier, Springer Nature og Science-gruppen, har innført strenge forbud mot bruk av generative språkmodeller i selve fagfellevurderingen.
Hovedårsaken til dette forbudet er konfidensialitet. Når en fagfelle mater et upublisert manuskript inn i en kommersiell tjeneste som ChatGPT, brytes taushetsplikten. Dataene kan potensielt brukes til å trene fremtidige modeller, noe som utgjør et massivt brudd på både opphavsrett og forskningsetikk. At tidsskriftet i UiO-saken ser ut til å ha gjort nettopp dette, vitner om en manglende forståelse for teknologiens implikasjoner i redaksjonsleddet.
Norske perspektiver og institusjonelt ansvar
For Universitetet i Oslo og andre norske forskningsinstitusjoner understreker denne hendelsen behovet for robuste retningslinjer som går begge veier. Hittil har debatten i Norge i stor grad handlet om hvordan man skal forhindre at studenter jukser med KI. Nå ser vi at institusjonene også må beskytte sine vitenskapelig ansatte mot vilkårlige og maskinelle anklager fra internasjonale aktører.
TenkeMaskin.no mener at norske universiteter bør etablere støttefunksjoner for forskere som opplever urettmessige anklager om KI-fusk. Videre bør institusjonene legge press på forlagene for å kreve full transparens om hvilke verktøy som benyttes i redaksjonelle prosesser.
Hva forskere bør gjøre for å beskytte seg
Inntil forlagsbransjen rydder opp i egne rekker, finnes det konkrete tiltak norske forskere kan implementere for å forsvare seg mot falske anklager:
- Behold versjonshistorikk: Arbeid i skybaserte dokumenter (som Google Docs eller Microsoft Word med sporing) som lagrer tidsstemplet versjonshistorikk. Dette er det sterkeste beviset på en menneskelig skriveprosess.
- Deklarer lovlig KI-bruk: Hvis KI har blitt brukt til språkvask, idémyldring eller koding, bør dette deklareres åpent i artikkelens metode- eller takksigelsesseksjon i henhold til tidsskriftets retningslinjer.
- Krev manuell gjennomgang: Ved avslag basert på KI-detektorer, bør forskere formelt bestride avgjørelsen og kreve at redaktøren foretar en kvalitativ, menneskelig vurdering av teksten og versjonshistorikken.
Veien videre: Fra deteksjon til transparens
Den ironiske saken med UiO-professoren er et symptom på en publiseringsbransje som sliter med å tilpasse seg en ny teknologisk virkelighet. Løsningen er ikke å bygge bedre KI-detektorer – et kappløp eksperter mener er umulig å vinne – men å endre hvordan vi verdsetter og evaluerer vitenskapelig arbeid.
Fremtidens akademia må baseres på radikal transparens, hvor kunstig intelligens anerkjennes som et kraftfullt verktøy, forutsatt at bruken er etisk, etterprøvbar og åpent deklarert. Inntil vi er der, vil vi dessverre fortsette å se absurde situasjoner hvor maskiner anklager mennesker for å være maskiner, formidlet via maskiner.
Kilder og videre lesning
- Khrono: Tidsskrift anklagde UiO-professoren for KI-juks, men det var tidsskriftet selv som brukte KI
- Stanford University (HAI): AI Detectors Bias Against Non-Native English Writers
- Nature: Peer reviewers are using AI to write reviews. Why is that a problem?
- Universitetet i Oslo: Forskningsetiske retningslinjer