Hva viste brukertesten?
Under en brukertest lot vi barn og unge vurdere et bilde med tjenesten. Hovedresultatet viste et stort, grønt tall: 10 av 100. Lenger ned på siden sto to detektorer og ropte varsku – 76 og 99. Konklusjonen deres? «Siden sier at bildet er ekte.» Ingen scrollet ned til signaltabellen.
Det ubehagelige var at feilen ikke lå hos modellene. Den lå hos oss. Det sterkeste visuelle signalet på siden – et stort tall på grønn bakgrunn – sa noe analysen aldri kunne stå inne for.
Fravær av advarsel leses som godkjenning
Dette er et velkjent fenomen fra forskning på feilinformasjon. I en mye sitert studie fra 2020 («the implied truth effect», Pennycook m.fl.) fikk noen falske nyhetsoverskrifter en advarsel – og da steg troverdigheten til de falske overskriftene som ikke hadde advarsel. Fravær av varsel ble lest som et stille godkjentstempel. Nyere forskning viser dessuten at folk følger merkelapper selv når merkelappene tar feil.
Legg til fargekonvensjonen vår: grønt betyr godkjent, trygt, kjør. Et lavt, grønt tall blir dermed lest som «bestått» – uansett hvor mange forbehold som står i liten skrift lenger ned. Og forskning på oppmerksomhet er tydelig på at forklaringer under første skjermhøyde ofte aldri blir lest.
Hva endret vi?
✓ SLIK SER RESULTATET UT NÅ
- Kategorien er hovedsvaret – øverst står det hva analysen fant, for eksempel «Ingen tydelige KI-tegn funnet», ikke et tall.
- Forbeholdet bor inne i selve kortet. «Dette bekrefter ikke at bildet er ekte eller uredigert» står i samme boks som kategorien – et skjermbilde kan aldri vise konklusjonen løsrevet fra forbeholdet.
- Tallene er flyttet ned til en egen seksjon, «Måleverdier», for den som vil se detaljene. De er analyseutslag – ikke sannsynligheter.
- Grønnfargen er borte. «Ingen tydelige funn» vises i nøytral blå. Informasjon, ikke godkjenning.
Er verktøyene uenige, sier vi det med ord – før du ser tallene: «Analysene spriker. Ingen av verdiene bør leses som fasit.» Hvorfor detektorer spriker, og hva det lærer deg, har vi skrevet mer om.
Hvorfor sier vi ikke «trolig ekte»?
Den gamle beste-kategorien vår het faktisk «Trolig ekte fotografi». Det høres hyggelig ut – og er akkurat den typen formulering en slik analyse ikke kan bære. Verktøy som dette kan finne mistenkelige tegn. De kan ikke bevise at et bilde er ekte. Et KI-bilde uten metadata, uten merking og uten synlige feil kan gli rett gjennom – og et enkelt skjermbilde fjerner de fleste sporene hos alle slike tjenester, ikke bare vår.
Derfor beskriver alle kategoriene nå hva analysen fant: «Ingen tydelige KI-tegn funnet», «Enkelte mulige KI-tegn», «Flere tegn på KI-generering». Aldri hva bildet er.
«Ingen tydelige KI-tegn funnet» betyr «vi fant lite» – ikke «bildet er ekte». Den forskjellen er hele grunnen til at resultatsiden ser ut som den gjør.
Ærlighet koster litt – og er verdt det
Vi vet at et grønt stempel og en prosent hadde føltes mer fornøyd-ut-av-butikken. Men en tjeneste som denne har én jobb: å hjelpe deg å vurdere et bilde uten å gi deg falsk trygghet – i noen retning. Falske beskyldninger mot ekte bilder veier tyngst hos oss (helt ekte bilder kan nemlig slå ut på detektorer), men falsk frikjenning er den samme feilen med motsatt fortegn. Hva tjenesten faktisk kan – og ikke kan – har fått sin egen gjennomgang.
Les også: kan en KI-detektor brukes som bevis? · spørsmålene ingen bildeanalyse kan besvare.