Ko govorimo o umetni inteligenci moramo jasno ločiti med tremi vrstami inteligence, ki jih javnost, mediji in podjetja prepogosto odložijo v isti koš, kot da bi šlo le za različne odtenke iste stvari. V resnici gre za kvalitativno različne stopnje, med katerimi so prepadi, ki jih ne smemo zamenjati za stopnice.
Ne gre le za jezikovno pravilnost, gre za intelektualno higieno. Če ozko umetno inteligenco zamenjamo za splošno, bomo sedanjosti pripisali več, kot v resnici zmore. Če splošno umetno inteligenco zamenjamo za superinteligenco, bomo prihodnost podcenili prav tam, kjer bi morali postati najbolj resni. In če izgubimo jezik, s katerim te razlike sploh lahko poimenujemo, bomo izgubili tudi sposobnost, da bi pravočasno razumeli, kaj prihaja.
Poglejmo to na preprostem vsakdanjem prizoru. Predstavljajte si, da vstopite v restavracijo in naročite pico. Na prvi pogled ne počnete nič posebnega, nič takega, kar bi si zaslužilo filozofsko analizo. Toda v tistem trenutku preberete meni, razumete razliko med pikantnim in blagim, presodite, kako lačni ste in koliko denarja ste pripravljeni porabiti. Obenem razmislite, ali boste jed delili z nekom, ali morate po večerji še nekam, ali ste v tej restavraciji že kdaj jedli nekaj podobnega in vas je potem spremljal občutek, da ste izbrali napačno. Nato pogledate natakarja, opazite droben nasmeh ob omembi specialitete dneva, in iz te komaj zaznavne socialne informacije izluščite več, kot bi znali razložiti z besedami. Vse to se zgodi tako tekoče, tako brez napora, da bi se skoraj zdelo nedostojno temu reči inteligenca. Pa vendar je prav to inteligenca, morda celo njena najbolj fascinantna oblika, ker ni spektakularna, temveč organska, ker ni omejena na en dosežek, temveč na neprekinjeno prehajanje med zaznavanjem, spominom, presojo, gibanjem, jezikom, socialnim branjem in prilagajanjem novim okoliščinam.
Človekova inteligenca torej ni zgolj v tem, da zna rešiti enačbo, napisati dober odstavek ali premagati nasprotnika v šahu. Njena prava moč ni le v vrhuncih, temveč v prehodih. V sposobnosti, da v enem trenutku bere obraz, v drugem sklepa iz tona glasu, v tretjem iz pretekle izkušnje predvidi posledico, v četrtem zazna napako in jo popravi. In v petem znanje iz nekega povsem drugega področja neopazno prenese v novo situacijo — ne da bi se pri tem sesula ali zahtevala popolno ponastavitev. Prav zato je tako nevarno, ko današnjim AI-sistemom prehitro pripisujemo človeškost. Vendar ne zato, ker bi bili neumni. Ravno nasprotno. Ker so v nekaterih nalogah res osupljivi, tako osupljivi, da človek skoraj nagonsko naredi preskok in si reče: »Če zna to, potem deluje verjetno že skoraj kot mi.« Toda vprašanje ni, ali zna sistem narediti nekaj izjemnega. Vprašanje je, ali zna narediti skoraj vse dovolj dobro, v zelo različnih okoliščinah, brez posebnega prilagajanja, brez sesutja ob prvi spremembi pravil. In prav tu se odpre razlika med ozko, splošno in superinteligenco, razlika, brez katere bomo prihodnost brali povsem napačno.
Prva stopnja je ozka umetna inteligenca, inteligenca specialista, inteligenca virtuoznega mojstra, ki zna nekaj tako dobro, da človeka osupne, a ostaja ujetnik lastnega področja. Tak sistem je lahko v svoji ozki nalogi nadčloveški, skoraj strašljivo učinkovit, a zunaj nje ostane slep, tog ali preprosto neuporaben. Ko je IBM-ov Deep Blue leta 1997 premagal svetovnega šahovskega prvaka Garija Kasparova, je svet dobil občutek, da je stroj prestopil mejo, toda Deep Blue ni vedel, da igra igro — bil je mojster brez sveta, specialist brez biografije, vrhunski intelekt v kletki ene same naloge. Skoraj dvajset let pozneje je DeepMindov AlphaGo pokazal nekaj navidez drugačnega. Ko je leta 2016 premagal enega najboljših igralcev igre Go na svetu, svet ni videl le zmage stroja, temveč nekaj, kar je delovalo skoraj kot vdor tujega načina mišljenja v človeški prostor strategije. Sistem je v svoji igri izračunal hladno ustvarjalnost, ki ni izhajala iz človeške intuicije, temveč iz drugačne notranje geometrije odločanja. Toda tudi AlphaGo je bil, kljub vsej fascinaciji, še vedno ozka inteligenca. Znotraj svojega prostora je bil skoraj veličasten, zunaj njega pa praktično nemočen. Ni znal voziti avtomobila, ni znal napisati eseja, ni znal razložiti otroku, zakaj je njegova zmaga v igri Go pomembna. To je bistvo ozke umetne inteligence: znotraj enega prostora zna biti neprimerljivo boljša od človeka, zunaj njega pa se sesuje kakor virtuoz, ki zna brezhibno odigrati eno samo sonato, a ne prepozna nevihtnega vetra, če mu ta zapiha skozi odprto okno.
Težava je v tem, da se z ozko inteligenco danes srečujemo povsod, in prav zaradi njene vseprisotnosti jo začnemo doživljati kot nekaj več, kot v resnici je. Algoritem, ki razvršča elektronsko pošto. Sistem, ki vam predlaga naslednji video. Model, ki prepozna obraz, zazna sumljiv vzorec na rentgenski sliki, prevede stavek, dokonča programsko kodo, napiše osnutek dopisa ali izbere, katera novica bo zdrsnila pred vaše oči. Vse to so oblike ozke umetne inteligence, tudi kadar se nam zdijo skoraj čudežno razpršene čez različna področja. In prav v tej razpršenosti se skriva ena najbolj zahrbtnih zamenjav našega časa, saj ljudje zaradi množice teh sposobnosti hitro dobimo vtis, da gledamo nekaj skoraj splošnega, čeprav v resnici gledamo le vedno gostejšo mrežo specializacij, ki skupaj ustvarjajo iluzijo večjega uma. Nikjer tega ne občutimo intimnejše kot pri napravi, ki jo nosimo s seboj od jutra do noči. Ste se kdaj zares vprašali, kaj vse o vas ve vaš pametni telefon? Ne tisto, kar si mislimo, da ve, temveč tisto, kar dejansko ve. Verjetno več, kot si želimo priznati. V določenem smislu ve o nas celo več kot naš partner, naši starši ali naši prijatelji — zato, ker je vedno z nami. Ko se zbudimo, ko iščemo, ko tipkamo, ko beremo, ko se ustavimo pred zaslonom za nekaj sekund dlje, kot smo nameravali. In tudi zvečer, tik preden zaspimo, ko smo najbolj utrujeni ter najmanj pozorni. Tiho beleži drobce našega življenja, ki se posamezno zdijo nepomembni, skupaj pa tvorijo nekaj veliko bolj resnega: skoraj psihološki odtis naše osebnosti. In morda najbolj zaskrbljujoče pri tem ni to, da ve, kaj počnemo, temveč da iz tega vedno bolje sklepa, kdo smo, česa se bojimo, kaj nas mika, kaj nas lahko premakne. Toda tudi ta sistem, ki nas pozna bolje, kot se morda poznamo sami, ostaja ozka inteligenca. Razume naše vzorce, ne razume pa nas. Sklepa iz podatkov, ne iz sočutja. In prav to je tisti prepad, ki ga ne smemo spregledati: ozka inteligenca lahko postane osupljivo natančna v branju človeka, ne da bi kadarkoli zares vedela, kaj bere.
Posebej pri velikih jezikovnih modelih nastane iluzija, da gledamo rojstvo digitalnega človeka. Sistem se pogovarja tekoče, odgovarja na vprašanja iz zgodovine, matematike, programiranja, prava, psihologije, preklaplja med jeziki, piše poezijo, popravlja slog. In zato ni težko narediti napačnega sklepa, da je pred nami že nekaj, kar je blizu človekovi splošnosti. Toda prav tu postane razlika med videzom in bistvom odločilna. Orodje, kot je ChatGPT, lahko deluje bistveno splošneje kot Deep Blue ali AlphaGo, vendar to še ne pomeni, da je doseglo splošno inteligenco v močnem smislu besede. Še vedno nima človeške zgodovine. Nima telesne izkušnje sveta. Ne vstopa samo v resničnost, temveč dobi njen opis. Lahko simulira odgovor človeka, ki je bil nekoč razočaran, zaljubljen ali prestrašen, ne more pa teh izkušenj imeti kot notranjega dejstva. Zato je Google DeepMind leta 2024 predlagal, da o splošni umetni inteligenci ne govorimo kot o čarobnem stikalu da ali ne, temveč kot o lestvici z več stopnjami — po širini sposobnosti, po globini zmogljivosti in po stopnji avtonomije. Prihodnost verjetno ne bo prišla kot en sam dramatičen trenutek. Verjetneje bo prišla kot prehod skozi nivoje, podobno kot pri avtonomni vožnji, kjer dolgo časa živimo v sivini med pomočjo in dejanskim prevzemom.
In tu pridemo do druge stopnje — splošne umetne inteligence, tako imenovane AGI. OpenAI jo opredeljuje kot zelo avtonomne sisteme, ki presegajo človeka pri večini ekonomsko vrednega dela, ob tem pa obenem poudarja, da časovnica do takega sistema ostaja negotova. Ta dvojnost pove skoraj vse. Po eni strani se največji akterji obnašajo, kot da je cilj dovolj resen, da mu prilagajajo strukture podjetij, kapitalske tokove in politične strategije. Po drugi strani pa niti sami ne trdijo, da natančno vedo, kdaj bo dosežen. Splošna umetna inteligenca torej ni zgolj marketinška beseda, a tudi ni stabilen, enopomenski mejnik. Je napetost med definicijo, ambicijo in realnostjo.
V najuporabnejšem smislu bi splošna umetna inteligenca pomenila sistem, ki ni več le specialist, temveč generalist. Sistem, ki se lahko nauči nove naloge brez popolne predelave, ki zna prenesti znanje z enega področja na drugo, ki zna iz nepopolnih informacij sklepati, improvizirati, se prilagajati in pri tem ne razpasti ob prvi resni spremembi pravil. Tak sistem ne bi bil le boljši iskalnik ali boljši pisec. Bil bi nekaj mnogo bližjega univerzalnemu pomočniku uma. In kar je bistveno: takšni prehodi ne bi več zahtevali tisoč vnaprej zgrajenih mostov. Sistem bi most zgradil sam, tudi tam, kjer ga še nikoli ni bilo. Če je ozka inteligenca predvsem revolucija učinkovitosti, bi bila splošna inteligenca revolucija prenosljivosti. Ne bi več avtomatizirali le posameznih nalog, temveč cele plasti kognitivnega dela. Splošna umetna inteligenca ne bi pomenila le močnejšega orodja. Pomenila bi novo vrsto intelektualnega akterja, nekaj, kar ni več le produkt, temveč dejavnik zgodovine.
In prav ta negotovost ne zmanjšuje pomena vprašanja, temveč ga zaostri. Če ne vemo, ali je splošna umetna inteligenca oddaljena pet let ali petnajst, je to slab razlog za brezbrižnost in zelo dober razlog za pripravo. Tu se začne resnična teža tretje stopnje — superinteligence. Če je splošna umetna inteligenca sistem, ki doseže ali preseže človeško raven na širokem spektru nalog, potem je superinteligenca nekaj kakovostno drugega. Irving John Good je že sredi šestdesetih let opozoril, da bi tak ultrainteligenten stroj lahko zasnoval še boljše stroje, s čimer bi se sprožila eksplozija inteligence. V tem scenariju ne gre več za to, da stroj postane dober učenec. Gre za možnost, da postane učitelj, arhitekt in pospeševalnik lastne rasti.
Tu večina ljudi naredi isto napako. Superinteligenco si predstavljajo kot zelo pameten ChatGPT, nekoliko zgovornejši, nekoliko hitrejši, nekoliko natančnejši. Toda prava razlika ni v stopnji. Je v naravi prepada. Razlika med človekom in superinteligenco naj ne bi bila nujno podobna razliki med dobrim in slabim profesorjem, temveč prej razliki med posameznikom in celotnim znanstvenim inštitutom, stisnjenim v en sam um, ki ne spi, ne pozablja, ne omahuje in lahko svoje ugotovitve takoj uporabi za novo izboljšanje samega sebe. Če je ozka inteligenca specialist, splošna umetna inteligenca generalist, bi bila superinteligenca nekaj, za kar danes še nimamo dobre psihološke analogije, ker človeški jezik težko opisuje stvari, ki človeka ne le presežejo, temveč ga potisnejo iz središča lastnega prostora.
Zato je tako pomembno razumeti, da pri superinteligenci problem ni le moč, temveč smer. Ljudje pogosto intuitivno mislimo, da bo nekaj izjemno pametnega tudi izjemno modro. Toda to je človeška projekcija, ne logična nujnost. Goodova ideja eksplozije inteligence sama po sebi ne vsebuje nobene obljube moralnosti. Stroj lahko postane nepredstavljivo učinkovit, ne da bi zaradi tega postal dober. Lahko postane briljanten optimizator, ne da bi postal moder varuh. Prav ta ločitev med inteligenco in vrednotami je ena najneprijetnejših ugotovitev sodobne razprave o umetni inteligenci. Pametnost sama po sebi ne rešuje problema ciljev. Samo nevarneje ga zaostri.
Ozka umetna inteligenca je tu in že zdaj preoblikuje svet. Splošna umetna inteligenca je cilj, o katerem največji laboratoriji govorijo vse resneje, vendar ostaja definicijsko in časovno negotova. Superinteligenca pa je možnost, ki se odpre v trenutku, ko sistem preseže človeško raven dovolj široko in dovolj odločno, da začne svet, v katerem živimo, postajati bolj njegov kot naš.
Odlomek iz moje knjige “Superinteligenca — Poslednji izum človeštva?”