I et dokument som markerer et betydelig skifte i strategien for kunstig intelligens, har OpenAI signalisert at de utforsker muligheten for å tillate brukere å generere «Not Safe For Work» (NSFW) innhold med deres modeller. Dette fremkommer i deres nylig publiserte «Model Spec»-utkast, som skisserer hvordan selskapet ønsker at deres AI-modeller skal oppføre seg.
For TenkeMaskin.no sine lesere er dette en utvikling som krever en grundig gjennomgang. Er dette slutten på det mange har kalt «AI-puritanisme», eller åpner vi nå en dør som burde forblitt lukket?
Hva sier egentlig OpenAI?
OpenAI har historisk sett hatt svært strenge filtre. ChatGPT har vært kjent for å nekte å skrive alt fra mild erotikk til grovt språk. I det nye utkastet til retningslinjer, Model Spec, skriver selskapet imidlertid at de ønsker å utforske muligheten for å tillate innhold som er «NSFW», forutsatt at det er produsert av samtykkende voksne og ikke bryter med loven.
Det er viktig å presisere hva dette ikke innebærer. OpenAI er krystallklare på at:
- Innhold som skildrer seksuelt misbruk av barn (CSAM) forblir strengt forbudt.
- Innhold som fremmer ikke-samtykkende seksuell vold eller «deepfakes» av ekte personer er uaktuelt.
Målet, ifølge OpenAI, er å skape modeller som er nyttige for voksne mennesker i lovlige kontekster, uten å være moraliserende.
Hvorfor endre kurs nå?
Det er flere grunner til at OpenAI vurderer denne endringen, og mange analytikere vil hevde at det var uunngåelig.
1. Kampen mot «Jailbreaking»
Når AI-modeller har for strenge filtre, bruker brukere mye tid på å «jailbreake» dem – altså lure modellen til å bryte sine egne regler. Dette skaper et katt-og-mus-spill som stjeler ressurser fra viktigere sikkerhetsarbeid. Ved å tillate lovlig vokseninnhold, kan OpenAI fokusere ressursene sine på å stoppe faktisk skadelig innhold, som desinformasjon og cyberangrep.
2. Konkurransesituasjonen
Markedet for språkmodeller er i endring. Elon Musks Grok og diverse åpne kildekode-modeller (som kjøres lokalt uten sensur) har posisjonert seg som alternativer til det «woke» eller «snerpete» ChatGPT. Hvis OpenAI fortsetter å nekte å skrive en romantisk novelle som inneholder intime scener, risikerer de å miste en stor del av brukermassen til mindre regulerte konkurrenter.
Etisk analyse: Er det dumt å la være?
Det etiske dilemmaet her er ikke svart-hvitt. Man kan argumentere for at det ville være «dumt» av OpenAI å ikke gjøre dette, basert på et pragmatisk syn på teknologi.
Argumentet for liberalisering
Å behandle voksne brukere som voksne er et prinsipp som står sterkt i vestlige demokratier, inkludert Norge. En AI som nekter å diskutere seksualitet, anatomi eller erotisk litteratur, blir et mindre nyttig verktøy for forfattere, helsepersonell og vanlige mennesker. Overdreven sensur kan også føre til «falske positive», der modellen nekter å svare på legitime helsespørsmål om reproduktiv helse fordi ordfilteret slår inn.
Argumentet mot (Risikoen)
På den andre siden frykter kritikere at dette vil normalisere syntetisk pornografi. Selv om OpenAI forbyr generering av bilder av ekte personer (deepfakes), er grenseoppgangen vanskelig. Hvis en bruker ber om «en kvinne som ligner på [kjendis]», og systemet ikke fanger det opp, har vi et problem. Videre er det en bekymring for at AI-generert porno kan forsterke urealistiske kroppsidealer og stereotypier, ettersom modellene er trent på internett-data som ofte inneholder slike skjevheter.
Et norsk perspektiv
I Norge har vi en relativt liberal holdning til seksualitet og nakenhet, kombinert med et sterkt fokus på personvern og vern mot overgrep. OpenAIs forslag om å tillate NSFW, men slå hardt ned på ikke-samtykkende innhold, harmonerer godt med norsk lovgivning. Det sentrale spørsmålet for norske lovgivere og Datatilsynet vil være hvordan OpenAI garanterer at disse modellene ikke kan misbrukes til å skape krenkende innhold av norske borgere.
Konklusjon
OpenAIs trekk er ikke bare en flørt med pornoindustrien; det er en erkjennelse av at AI skal være et generelt verktøy for menneskeheten – med alle våre feil, mangler og behov. Å tviholde på en puritansk standard i en verden der teknologien blir allemannseie, er sannsynligvis en tapende strategi. Utfordringen blir å åpne slusene for frihet uten å drukne i uetisk innhold.