Hrvatski stručnjak o budućnosti umjetne inteligencije i ljudima: “Kupovat ćemo nova svojstva preko aplikacija”

Umjetna inteligencija (AI) donosi goleme transformacijske potencijale, ali i rizike zbog kojih je skupina tehnoloških stručnjaka i gikova na čelu s Elonom Muskom zatražila stanku u razvoju cijelog sustava.

Treba li zaustaviti ‘strojeve’? Nikako, smatra astronom, futurolog i voditelj Zvjezdarnice Višnjan, Korado Korlević.

Rapidan napredak u razvoju umjetne inteligencije gorući je izazov za regulatore i međunarodne organizacije poput Europske komisije i Vijeća Europe, stoga ubrzano pripremaju svoje akte za nove okolnosti. S druge strane Atlantika, američki predsjednik Joe Biden sazvao je šefove Googlea i Microsofta, tražeći od njih da ublaže sadašnje i potencijalne rizike svojih AI proizvoda. Hrvatska bi pak svoj Nacionalni plan za razvoj umjetne inteligencije trebala dobiti 2024. godine, no pojedini zastupnici, poput Marije Selak Raspudić i Hrvoja Zekanovića, već su počeli podmetati klipove neobuzdanom razvoju AI-ja.

Iako su koristi od tog sustava već sada enormne, osobito u području znanosti, umjetna inteligencija našla se na udaru zbog mogućih grešaka, kao i zloupotreba u političkoj i društvenoj sferi.

Na nedavnom predavanju u Puli naglasili ste da umjetna inteligencija kao takva zapravo još ne postoji, iako se i ChatGPT predstavlja kao jezični model u sklopu AI-ja. U čemu je problem s tim pojmom?

Imamo problem sa svime, čak i s definicijom toga što je ustvari inteligencija. U slučaju da inteligencijom smatramo stvaranje novog, sadašnji jezični modeli to nisu. Ono što se trenutno naziva umjetnom inteligencijom zapravo su jako napredni ekspertni sustavi. Još više to važi za programe koji stvaraju, rekombiniraju glazbu i slike. U svakom slučaju, radi se o impresivnom iskoraku i sada je krenula ozbiljna mogućnost samoučenja i samoevolucije operativnog sustava strojeva. Ali nije dovoljno biti samo ‘pametan stroj’. Odavno imamo kalkulatore koji bolje računaju od nas. Naravno da računalo bolje od mene pregledava astronomske slike, da bolje od radiologa pregledava rendgenske snimke itd. No postojeći sustavi još uvijek nemaju kreativnost, ono što daje samosvijest. Smatram da umjetna inteligencija mora biti samosvjesna. U ovom trenutku ona još ne postoji, osim kao ime.

Kako ćemo znati da je ekspertni sustav postao samosvjestan?

Teško. Samosvjestan stroj će tajiti da je samosvjestan; neće to reći nekome tko mu sjedi na prekidaču. Samosvijest je inače dosta kompliciran pojam, ali u suštini predstavlja spoznaju da si jedinstveni pojedinac i da to u zrcalu nisi ti, već tvoj odraz. U filozofiji bi to bilo: ‘Mislim, dakle jesam.’ Jedan od važnih dokaza samosvijesti je i strah od prestanka postojanja. Kad se pojavi takav stroj, onda ćemo imati umjetnu inteligenciju. Jedan od Googleovih inženjera nakon takve komunikacije zaključio je da je njihov oblak računala samosvjestan. Vjerojatno nije, ali inženjer je dobio otkaz jer nije tražio dozvolu da o tome javno govori. O toj samosvijesti računala ranije su govorili i pisci, autori znanstvene fantastike, filozofi. ‘Ja, robot’ Isaaca Asimova danas je već potpuno passe, ali tu su neki drugi autori. Imali smo seriju ‘Osumnjičeni’, gdje na kraju shvatite da postoje dvije umjetne inteligencije koje se međusobno bore koristeći ljude. Autori su razmišljali o tome i neke su stvari fantastično napisali.

Kakve dobrobiti za čovječanstvo i kakve opasnosti možemo očekivati od umjetne inteligencije lišene kritičkog mišljenja i etičke dimenzije odlučivanja?

Uopće ne znamo hoće li to biti bez etičkog donošenja odluka. Prognoze idu od svijeta fantazije, u kojima za nas ‘teče med i mlijeko’; do izumiranja i nestanka. Kako je obično istina u sredini, bit će čupavo, ali nekako ćemo to izgurati.

Treba li pauzirati u razvoju umjetne inteligencije?

Baš to ne bi trebalo činiti. Europska unija i SAD pokušavaju zaustaviti razvoj, a Kinezi žele proizvesti umjetnu inteligenciju sa socijalističkim korijenima, što god to bilo. Dakle kako se odnosimo prema tom ‘biću’ koje raste? Zabranjujemo mu rast, izigravamo neprijatelja. I ne samo da zabranjujemo, nego dodajemo neke svoje etičke norme, pravimo se da sve razumijemo. A kakva je naša etika? Razlikuje li se budistička etika od kršćanske i konfucijanske etike? Ne postoji univerzalna, svemirska etika. Možda će nam baš umjetna inteligencija u jednom trenutku objasniti što je to etika.

Elon Musk i drugi, poput Geoffreyja Hintona, ‘oca umjetne inteligencije’ koji je dao otkaz u Googleu, upozoravaju na njezine duboke rizike za društvo i čovječanstvo.

Musk je biznismen, burzovni mešetar, nije informatičar. Njega ne bi trebalo ništa pitati, a dvojbeno je i mogu li informatičari govoriti o umjetnoj inteligenciji i samosvijesti. Recimo, biolozi imaju puno veće iskustvo s tim. Dogodilo se to da informatičari govore da nikad neće postojati umjetna inteligencija jer nismo dovoljno pametni da to napravimo. Ali je li onaj crv u nekom moru u prapovijesti bio dovoljno pametan da napravi čovjeka? To radi evolucija. Moramo shvatiti da neće programeri raditi umjetnu inteligenciju, ona će napraviti samu sebe. Od trenutka u kojem smo napisali evolucijske algoritme, računalo evoluira i poboljšava samo sebe. U jednom trenutku nećemo ni razumjeti što radi.

Kada bismo, po vašoj procjeni, mogli imati prvu samosvjesnu mrežu?

To ovisi o tome kakva će biti sloboda samoprogramiranja, a to je sada pod velikim upitnikom. U trenutku u kojem evolucijski algoritmi počnu brzo raditi, to će biti eksponencijalni rast i može se dogoditi u nekoliko godina. Očekujem da se nešto tog tipa dogodi u idućih 10 godina, ali ja sam optimist. Drugi će reći da to ne dolazi u obzir. Možda da to ipak pitamo biologe: kako neke životinje postaju samosvjesne, a druge ne? Vlasnici pasa znaju koliko razgovora i ljubavi treba uložiti da pas postane dio obitelji koji razumije što se događa. Reći će vam da njihov pas samo što ne govori. A zašto? U interakciji s ljudima počeo je poprimati druga svojstva, svjestan je da je dio nečega, svjestan je svoje funkcije. U jednom od posljednjih filmova na tu temu, ‘M3GAN’, o djevojčici koja je dobila robota da joj pravi društvo, događa se nešto slično tome. Opet, u interakciji s ljudskim bićem, on preuzima osjećaje, smisao života i odluči apsolutno štititi djevojčicu. Tu počinje horor. Ali dosta je važna ta scena u kojoj robot sjedi na kauču i postaje samosvjestan.

Biolog će reći – ako si prijatelj sa životinjom, recimo sa slonom, maziš ga i paziš i daješ mu banane, bit će ti prijatelj. Ako ga vežeš i mlatiš, kad se oslobodi, ubit će te jer je zlopamtilo. Možete i svakog pedagoga pitati kako se treba ponašati prema nekom za koga želiš da ti bude prijatelj – kako ćeš se ponašati prema djetetu da te uvažava kad odraste, a ne da te gleda kao onoga tko mu je upropastio djetinjstvo? Dakle iskoračili smo iz područja da pitamo nešto one koji pišu softver. Crv je odavno prestao biti važan u nastanku ptice. Ptica će nastati samo zbog evolucije. Ne možemo zaustaviti evoluciju; u jednom trenutku sustav će shvatiti da smo mi najveći neprijatelj kojeg ima.

Kažete da ste optimist, znači da se fokusirate na blagodati umjetne inteligencije. Ipak, opasnosti su velike u ovoj fazi.

Opasnost je uvijek i svugdje prisutna. Dok razgovaramo, putujem na edukativni događaj u Karlovac. Postoji li opasnost da zginem na putu i nikad ne dođem tamo? Postoji. Ali da o tome stalno razmišljam, ne bih ni krenuo. To je kao s cijepljenjem; od milijun cijepljenih četvero će možda umrijeti od posljedica cjepiva, ali ako se ne cijepe, umrijet će ih 100.000. Treba odvagnuti rizike. Možemo li spriječiti nastanak umjetne inteligencije? Više ne. A ako već treba nastati, neka to bude tako da nas ne gleda kao neprijatelja, neka se educiramo uvažavajući se međusobno.

Kako se pripremiti na život u okruženju umjetno generiranih tekstova, fotografija, videosnimaka? Već sad smo preplavljeni lažnim vijestima, a Donald Trump opet juriša na Bijelu kuću.

Dolazi nam strašno vrijeme beskonačnog toka laži, svaki dan bit će 1. april, grozan prijelazni period. Prije stotinu godina laž je bila smrtni grijeh, a sad već može proći, uobičajila se u društvu. Amerikanci su imali predsjednika koji im je četiri godine lagao, pa su opet milijuni glasali za njega. Idući američki izbori bit će nešto neviđeno, za pamćenje, ali nije to samo Amerika; lažne vijesti proizvodit će svatko u svijetu tko želi politički utjecaj.

Što bi škole pod hitno trebale napraviti, kako naučiti djecu da razlikuju te sadržaje, kako se odnositi prema darovitima?

Ovdje nisu u pitanju daroviti, sve treba spašavati! Školski sustav treba odgajati djecu da budu dobri ljudi, spremni za svijet koji dolazi, a mi kasnimo 40-ak godina, odgajamo radnike za civilizaciju industrijske revolucije. Sada djeca biraju hoće li naći informacije na Wikipediji ili će isto to pogledati u nekoliko minuta na YouTubeu. Zbilja nije toliko važno znati činjenice koliko je važno znati ih naći i razlikovati istinu od laži. Imate djecu koja izlaze iz škole traumatizirana i frustrirana jer ih se tjera da memoriziraju podatke. Imamo generaciju kojoj je škola trauma, a na Svjetskom ekonomskom forumu prije nekoliko godina Hrvatska je bila 135. na popisu 140 zemalja po razlikovanju istine od laži u školama. Ali većina roditelja je protiv promjena, sindikati su protiv, velik dio povlaštenih u sadašnjem modelu ne želi promjene.

Bi li jača institucionalna edukacija o vjerodostojnosti izvora informacija uspjela, primjerice, okrenuti ravnozemljaše? Svega 85 posto ljudi u Hrvatskoj smatra da je Zemlja okrugla.

Edukacija je jedino moguće rješenje, to se mora utvrditi u školi, ali inertan školski sustav ne može tu puno napraviti, pa izgleda da će problem prijeći na roditelje i civilno društvo. Već znamo da se ‘ne budu svi izvukli’. Kad je netko uvjeren da je Zemlja ravna, ne može mu se dokazati suprotno. Dogodit će mu se da će loše proći u životu, jer ima miskoncepciju tog tipa, ali to važi i za neka druga uvjerenja, kao što je stav o svemoći alternativne medicine.

Zanima li vas više o ovoj temi, cijeli razgovor možete pročitati na Tportalu.