Ko programska verjetnost postane dokaz avtorstvaMarca 2026 je postal zelo odmeven primer, ki dobro pokaže temeljno težavo današnjih detektorjev besedil, ustvarjenih z umetno inteligenco: odlomek iz romana Frankenstein Mary Shelley iz leta 1818 je sodobni AI-detektor označil kot 100-odstotno ustvarjen z umetno inteligenco. Rezultat je na prvi pogled absurden, vendar je prav zato uporaben za razumevanje omejitev teh sistemov.
Kaj se je dejansko zgodilo?
- marca 2026 je britansko tehnološko podjetje TECHOSAURUS objavilo preizkus, pri katerem so začetni odlomek iz Frankensteina vnesli v orodje Decopy AI. Detektor, ki se trži kot orodje z zelo visoko natančnostjo, je besedilo Mary Shelley označil kot 100 % AI-generated. Preizkus so po navedbah avtorja članka tudi posneli. Primer torej ni znanstvena raziskava, temveč praktična demonstracija napačne klasifikacije – vendar prav zaradi jasnega in preverljivega izvora zelo nazorno pokaže, kaj tak rezultat v resnici pomeni in česa ne pomeni.
Zakaj se AI-detektorji sploh motijo?
Večina detektorjev nima neposrednega dokaza o tem, kdo je neko besedilo napisal. Ne preverjajo »digitalnega podpisa« avtorja, temveč razvrščajo jezikovne in statistične vzorce. Ocenjujejo na primer predvidljivost besedila, strukturo stavkov, izbiro besedišča, ponavljanje in slogovno pravilnost ter nato izračunajo, kako podobno je besedilo vzorcem, ki jih sistem povezuje z izhodi velikih jezikovnih modelov.
Težava je očitna: jezikovni modeli so se učili prav iz človeškega jezika. Lastnosti, ki jih detektor prepozna kot »značilne za AI«, zato niso last umetne inteligence. Ljudje so jih uporabljali že stoletja. Dobro strukturirano, slogovno dosledno ali predvidljivo besedilo je lahko povsem človeško – in prav primer Frankensteina to slikovito pokaže.
Poleg tega je meja med »človeškim« in »AI-besedilom« vedno manj jasna. Človek lahko svoje besedilo popravi z umetno inteligenco, AI-generirano besedilo pa lahko človek temeljito preoblikuje. Nastaja hibridno avtorstvo, ki ga preprost odstotek tipa »87 % AI« ne more zanesljivo razložiti.
Tudi ponudniki sami priznavajo omejitve
Turnitin v svojih uradnih navodilih izrecno opozarja, da njegov model lahko napačno prepozna človeško napisano besedilo kot AI-generirano in obratno ter da rezultat ne sme biti edina podlaga za neugoden ukrep proti študentu. Pri rezultatih pod 20 % Turnitin natančnega odstotka praviloma ne prikazuje več, ker je v tem območju večja verjetnost lažno pozitivnih rezultatov.
Vanderbilt University je šla še dlje. Že leta 2023 je Turnitinov AI-detektor onemogočila zaradi pomislekov glede zanesljivosti, preglednosti delovanja, zasebnosti in nevarnosti lažnih obtožb. Univerza danes poudarja, da rezultat detektorja sam po sebi ne zadostuje za ugotovitev kršitve akademske integritete.
Negotovost je postala poslovni model
Okoli nezanesljivosti zaznavanja AI je medtem zrasla cela industrija. Ena storitev vam pove, da je vaše besedilo ustvarila umetna inteligenca. Druga obljublja, da ga bo »počlovečila«. Tretja ponuja način, kako AI-besedilo narediti »nezaznavno«. Institucije kupujejo detektorje, študenti, raziskovalci in zaposleni pa storitve za preverjanje ali izogibanje tem detektorjem. Negotovost sama je postala tržno zanimiva.
To je nevaren premik: verjetnostna klasifikacija se lahko neopazno spremeni v dokazno presojo.
Kaj bi morali storiti namesto slepega zaupanja odstotku?
Diploma študenta, ugled raziskovalca, pisatelja ali integriteta zaposlenega ne bi smeli biti odvisni od programske oznake »87 % AI«, kot da bi šlo za laboratorijsko meritev avtorstva. Enostavno to ne gre. Če obstaja utemeljen sum zlorabe umetne inteligence, je treba presojati širši kontekst: osnutke, zgodovino različic dokumenta, uporabljene vire, raziskovalne zapiske, predhodni slog avtorja, njegovo vsebinsko znanje in način nastajanja besedila.
Detektor lahko sproži vprašanje. Ne more pa nanj sam odgovoriti.
Kaj pa, če je Mary Shelley leta 1818 pri pisanju romana res uporabljala AI?
Potem imamo precej večji problem, kot smo mislili.
Ne samo, da je umetna inteligenca obstajala 200 let pred ChatGPT-jem – Mary Shelley je očitno imela tudi dostop do interneta, elektrike in računalnika.
Če temu vendarle ni tako in lahko sodobna programska oprema več kot dve stoletji po objavi Frankensteina samozavestno razglasi del besedila za »100 % AI«, potem naše prvo vprašanje morda ne bi smelo biti:
»Ali je to napisala umetna inteligenca?«
Ampak tudi:
»Kako zanesljiv je sistem, ki o tem odloča?«