Kada je nedavno u emisiji kod jutjuberke Klio Abram Sem Altman izložio svoje poglede na teme poput budućnosti u koju smo se uputili, pitanja kako veštačka inteligencija utiče na naš tok razmišljanja, šta je superinteligencija, kako AI determiniše šta je istina, gotovo unison doživljaj slušalaca podkasta kroz komentare je da su njegovi odgovori pre oni kakve bi dao GPT-5, ne čovek.
Gomila opštih mesta, fraza, “spoj nauke i tehnologije za bolje sutra”, pri čemu parametri boljeg sutra uopšte nisu određeni. Pitanje istine već je kao izazov postavljeno Altmanu u emisiji kod Takera Karlsona, i Altman je i dalje vidi kao neku srednju, prosečnu vrednost čovečansta koju će sračunati upravo kompjuter. Da li to zvuči kao smisleno obrazloženje ili naivna simplifikacija, imajući u vidu da su istine lične, i da zavise od perspektive, kulture, vrednosti, verovanja, konteksta, ostaje veliko pitanje.
Zaparala je uši gotovo slavodobitna Altmanova rečenica – “nijedno dete rođeno danas neće biti pametnije od veštačke inteligencije”. Taj prkos zvuči kao da ga nije sročio čovek.
Ono što je elaborirano i što je neupitno je da će ogromna moć biti u rukama jednog čoveka, čak i ukoliko taj čovek iza sebe ima ljude kojima i on polaže račune. Koliko tačno velika? Ukoliko kažemo da je GPT-4 zaludeo svet, a da njegovi tvorci za njega kažu da je to gotovo “nedostojan model koji nije ni trebao da bude pušten u opticaj”, a da je i takav pametniji od 90% današnje populacije, zamislite šta će se dogoditi sa njegovim naslednikom, i naslednikom naslednika?
O razmerama novog AI carstva govori i najnovija vest, odnosno kolaboracija koja potvđuje da su gotovo svi veliki igrači “all in” sa OpenAI. Generalni direktor najvrednije kompanije na svetu i generalni direktor i predsednik najvrednije privatne kompanije na svetu, Sem Altman i Džensen Hvang udružuju snage, jer će Envidija investirati 100 milijardi dolara u OpenAI, kroz izgradnju centara podataka zasnovanim na Envidijinim AI čipovima.
Sve navedene informacija logično u fokus ponovo stavljaju Altmana, ko je on, koji motivi ga vode, i koje uzuse sledi? Biografija je čeprkana, a neki njeni delovi dovedeni su u spornu korelaciju sa onim čime se bavi i danas. Čovek koji je pre oko šest meseci napunio 40 godina, vegetarijanac je od detinjstva, a svoju seksualnost obnaznio je sa 17 godina u srednjoj školi. Zabavljao se sa suosnivačem Lupta Nikom Sivom devet godina, a u braku je sa inženjerom Oliverom Malherinom od 2024. godine, a sama ceremonija je upriličena na njihovom imanju na Havajima.
Koketirao je i sa politikom, doniravši 2020. godine 250.000 dolara jednom superpaku koji je podržavao demokratskog predsedničkog kandidata Džoa Bajdena. Altman je razmišljao i da se sam kandiduje za guvernera Kalifornije na izborima 2018. godine, ali je shvatio da je ta ambicija ipak bila neutemeljena.
Apokalipsa
Ono što je zanimljivo i pomalo zastrašujuće je da Altman veruje u apokalipsu i za nju se temeljno priprema. Rekao je sada davne 2016. godine: „Imam oružje, zlato, kalijum, antibiotike, baterije, vodu, gas maske Izraelskih odbrambenih snaga i veliki komad zemlje u Big Suru (Kalifornija) do kog mogu da letim.
Razložimo ovaj podatak još jedanput, Sem Altman, izvršni direktor kompanije OpenAI, izgradio je bunker za Sudnji dan, koji je zakopan i sakriven negde u pustinji Navaho. Opremljen je antibioticima, hidroponskim sistemom za proizvodnju hrane i oružjem.
Nekako bi bilo i svarljivo, da se ne radi o čoveku koji pravi veštačku inteligenciju, po mišljenju mnogih stručnjak prebrzo, preagresivno i bez kontrole, govoreći svetu da je savršeno bezbedna.
Čemu pripreme za katastrofu?
Spajanje (The Merge), mašine ili izumiranje
Priča ima nešto dublju pozadinu, koja seže u 2017. godinu.
Malo ljudi zna da je Altman 2017. godine, godinama pre ChatGPT-a objavljivao blog postove sa svojim viđenjem kuda ide tehnologija. Napisao je da će vrsta veštačke inteligencije (koju sada on stvara) dovesti do kraja sveta kakvog poznajemo, uz dalje obrazloženje njegove utopijska vizija da ćemo biti efikasno asimilovani u kolektivni um pokretan veštačkom inteligencijom. Otud i naziv bloga “Spajanje”, u kojem tinja uverenje da se čovečanstvo suočava sa binarnim izborom, ili se spajamo sa našim mašinama ili se suočavamo sa izumiranjem.
Suosnivač OpenAI-a, Ilja Sutskever, osvedočeni skeptik po pitanju razvoja AI, rekao je jednom prilikom će vam svaki student istorije reći da kada neko zapiše svoja upozorenja, treba da ih shvatite ozbiljno. Zbog toga su Altmanova upozorenja važnja, iako su relativno do skoro delovala prenaglašeno i preterano. U tome nije sam, tri najcitiranija naučnika veštačke inteligencije slažu se sa njim i rukovodioci svake veće laboratorije za veštačku inteligenciju, barem oko dela o najvećoj pretnji čovečanstvu.
Džefri Hinton, kum veštačke inteligencije, najuticajnija osoba koja je izgradila ove sisteme, smatra veštačku inteligenciju vanzemaljskom inteligencijom, a na toj liniji je i generalni direktor Majkrosoftove veštačke inteligencije, Mustafa Sulejman.
Umirivanje javnosti
Dakle, onaj koji uverava javnost da je sve u redu je isti onaj koji se priprema za najgore – kojem Altmanu bi trebalo da verujemo? Šesnaestog maja 2023. godine Sem Altman je sedeo pred Kongresom, mirno insistirajući da je veštačka inteligencija pod kontrolom, da se bezbedno gradi, da je “alat, a ne stvorenje”.
Nije mnogo drugačije bilo ni u Senatu ove godine, kada se takođe raspravljalo o veštačkoj inteligenciji. Delovalo je da predstavnici ove kuće uopšte nisu bili pripremljeni ili sposobni da Altmana ozbiljno konfrontiraju sa određenim kontradiktornostima.
Sem Altman je delovao odmereno, uverljivo, kao pravi prodavac siguran u svoj proizvod, na koji je upozoravao pre nego što je shvatio da može da ga proda. Sada kada je OpenAI procenjen na 500 milijardi dolara, njegova poruka se očigledno promenila. Spolja smiren, iznutra uznemiren spoznajom da je superinteligentna veštačka inteligencija najveća pretnja postojanju čovečanstva.
Zbog čega? Puki interes, ili verovanje da se uspon nadljudske veštačke inteligencije ne može zaustaviti i da je već u toku? Nema zaustavljanja, već samo usmeravanja, odnosno preživljavanja.
U međuvremenu, najnovija istraživanja kompanije OpenAI tvrde da veštačka inteligencija neće izazvati pravu nezaposlenost, što se zgodno poklapa sa onim što Trampova administracija želi da čuje, ali ukolikio pogledate originalnu povelju OpenAI-a, njena osnovna misija je izgradnja opšte veštačke inteligencije koja bi mogla da zameni praktično sav ljudski rad.
Pa ipak, političari se drže njegovih reči kao da su jevanđelje, ignorišući lukavstvo koje stoji iza njegovih postupaka. Čak i kreatori politike počinju da priznaju ovu realnost. Dejvid Saks je obrisao svoje tvitove nakon što ga je Tramp imenovao za alfa i omegu veštačke inteligencije u administraciji. “Ni pomoćnik, ni alat, zamena.”
Paranoja ili realnost?
Iz Altmanovog bloga jasno je da vremenski okvir za njegove spekulacije nije scenario iz daleke budućnosti, već se upravo sada dešava. Sem Altman kaže da ćemo videti kako veštačka inteligencija nadmašuje ljude u skoro svakom pogledu kroz jednu do pet godina. Ovaj vremenski okvir više nije puka prognoza, već tihi konsenzus među vodećim istraživačima veštačke inteligencije.
Više se ne priča o “alatu”, jer po treutnom tumačenju etabliranih AI stručnjaka mi ne gradimo ove sisteme, već ih uzgajamo. Sistemi poput ChatGPT-a, nisu kodirani red po red, oni su obučeni i počeli su da rade stvari koje čak ni njihovi tvorci ne mogu u potpunosti da objasne. I sam Altman je u nekim intervjuima govorio da je “često bio iznenađen”.
Ukoliko veštačka inteligencija postaje nova vrsta, pametnija, brža, sa svojim ciljevima, onda ova upozorenja nisu paranoja. Ilja Sutskever otišao je korak dalje sa analogijom na način na koji ljudi postupaju sa životinjama – “Kada dođe vreme za izgradnju autoputa između dva grada, ne tražimo dozvolu od životinja.“
U ovom slučaju, mi smo životinje. Kako da izbegnemo da postanemo fusnota u sopstvenoj evolucionoj priči? Prema Semu Altmanu, postoji samo jedan put: spajanje se sa mašinama. Ne metaforičko, već bukvalno, ili nam preti izumiranje.
Prema Altmanu, ono bi moglo da funkcioniše kroz interfejse mozak-mašina, na čemu radi Ilon Mask kroz svoj Neuralink, čipovi implantirani u mozak za brže razmišljanje, uređivanje stotina gena u našim moždanim ćelijama kako bi se naša inteligencija nadogradila iznad svega što nam je evolucija dala.
U kom obliku, kako, da li će spajanje biti uspešno, niko, pa ni Altman nema predstavu. Altman je jednom prilikom rekao da mu naučnofantastični scenariji poput onog iz filma “Terminator”, u kojima se veštačka inteligencija odmeće od čoveka, ne daju miran san. Javno, ovu skepsu tehno-kapitalista, kako za sebe voli da kaže, Altman više ne deli.
Za OpenAI usporavanje u globalnoj trci u AI “naoružanju” znači poraz. Upozoravanje sveta moglo bi da pokvari poverenje njegovih investitora. Možda je i razlog zbog čega Sem Altman više ne diže uzbunu taj, što više i ne može, jer je sistem čiji je deo previše moćan da bi se na njega uticalo.
Prvi čovek Guglovog Dipmajnda, najvećeg konkurenta, Denis Hasabis tvrdi da postoji dugme za pauzu, koje bi trebalo pritisnuti, jer “ne možemo da ostavimo budućnost ljudske vrste u rukama nekoliko tehnologa iz San Franciska”.
Nastaviće se.
Pavle Jakšić | Vitraž
Cover photo: illustration, TechCrunch, Andrew Neel Unnsplash
Pratite Vitraž:
