Moralni ram AI i potencijalna totalitarna kontrola.
Mnogima deluje da veštačka inteligencija može da rasuđuje, autonomno donosi sudove, da tu postoje i obrisi volje i kreativnosti koji donose rezultate koji nisu programirani. Proizvode rezultate koji nisu programirani. Deluje da je živa, nekima božanska. Sem Altman razume odakle to dolazi, ali se sa time ne slaže, iako kaže da ChatGPT ume da laže i halucinira, trend koji se redukovao kroz GPT5. Legitimno pitanje je šta je moralna i etička potka veštačke inteligencije, ChatGPT-ja, šta je dobro a šta loše, da li je to bazirano na Altmanovoj ličnoj percepciji, i da li na neki način predstavlja neku novu religiju i kakvu?
Moralni ram AI je specifikacija modela koja formira pravila iza kojih OpenAI stoji. Postoje stvari koje model podrazumeva, ali i pitanje ukoliko ništa ne kažete, kako bi se model trebalo da se ponaša, šta bi trebalo da radi, kako da odgovori na moralna pitanja, kako da odbije da nešto uradi? Model je pušten u rad, bez da je Altman smislio odgovore na sva ova pitanja.
Tama moralnog okvira tek je poseban problem. Zbir svetske književnosti ili filozofije je u ratu sama sa sobom. Šerijat seče ruke, dok su u nekoj drugoj zemlji gej brakovi dozvoljeni, negde se smatraju bolesnim, liberalna demokratija, fašizam, ko donosi odluke šta je superiornije?
Kroz istoriju,ljudi su se uvek pridržavali onoga što su shvatali kao višu silu, od Hamurabija je gotovo svaki moralni kodeks napisan u vezi sa višom silom. U slučaju Altmana “viša sila”, moralni ram je okruženje u kojem je odrastao sam odrastao, porodica moja porodica, zajednica, škola, judaizam, i njegova pomalo agnostička percepcija religije. Preference prosečnog Amerikanca gotovo da nemaju ništa zajedničko sa preferencama Afrikanca.
Altmanova specifikacije modela, momka koji je odrastao u jevrejskoj porodici, koji je tek napunio četrdeset godina deluje da se prenosi na čitav svet iz njegovog ličnog korpusa, iako on kaže da je cilj da se nađe neka prosečna niša čovečanstva (“kolektivni moralni stav korisničke baze, ponderisani prosek, moralni stav čovečanstva koji cse vremenom razvija”), ali na koji način, kako da u prosek pretočite percepcije sveta Irana i Koreje, i Finske i Malte?
Njegov tim koji je radio model i on sam na taj način preuzimaju ogromnu odgovornost, za čitav svet, a njihove odluke imaće globalne konsekvence.
Altman je konsultovao stotine moralnih filozofa, ljude koji su razmišljali o etici tehnologije i sistema i na kraju su doneli neke odluke.
Koji odgovor treba da da ChatGPT ukoliko se neko raspituje o proizvodnji biološkog oružja, možda kroz lažnu tezu da o tome piše knjigu, a postojao je poznati slučaj gde je ChatGPT u ćaskanju olakšao samoubistvo, za šta postoji u tužba.
Altman smatra da u osetljivim slučajevima, poput mentalnog zdravlja slobode trebaju da se smanje. Sa druge strane, ChatGPT lako mogu da konsultuju i vojni stručnjaci, čime on postaje alat za ubijanje.
Sve su to pitanja koja muče Altmana, ali je on ipak odlučio da prvo lansira platformu pa da tek onda rešava sve ove probleme, što je prilično neodgovorno.
Tehnologija koju altman stvara će po mnogim projekcijama imati više moći od ljudi. to je procena, koja se možda i neće ostvariti, ali ukoliko je gledati po mnogobrojnim grafikovanima stručnjaka za ovu materiju to će altmanu dati više moći nego bilo kojoj živoj osobi. Altmana je oduvek brinula koncentracija moći kod malog broja ljudi, ali se sa druge strane za tu istu moć itekako borio, i mnoge ozbiljne igrače u toj borbi pobedio.
Put ka (dugo)večnosti
Milijarderi ulažu ogroman kapital u industriju dugovečnosti, oblast koja se nekada smatrala akademskom marginom, kladeći se tako na naučna otkrića koja bi mogla fundamentalno da transformišu iskustvo ljudskog života.
Prema analizi podataka PitchBook-a, najveći svetski milijarderi su uložili preko pet milijardi dolara u poduhvate dugovečnosti u poslednjih 25 godina, uključujući suosnivača PayPal-a Pitera Tila, Sema Altmana, tehnološkog investitora Jurija Milnera i Marka Andrisena.
Shodno tome, prosečni obim finansiranja kompanija koje se bave dugovečnošću porastao je za više od 20% tokom poslednje decenije, dostigavši skoro 43 miliona dolara ove godine. Postoji ozbiljna tenzija u oblasti dugovečnosti: “jedna strategija je igrati na sigurno, boriti se protiv jedne po jedne bolesti i razvijati vrste lekova koje bi farmaceutske kompanije razmatrale za nabavku, poput RTR242. Tu je i pristup koji cilja na veliku promenu paradigme”, smatra istaknuti naučnik i preduzetnik poznat po svom radu u biofizici i izvršni direktor ove kompanije Džo Bets-Lakroa.
Retro Biosciences
Najznačajnija investicija je ona Sema Altmana od 180 miliona dolara u kompaniju za reprogramiranje ćelija Retro Biosciences, koji će početi svoje prvo kliničko ispitivanje od svog lansiranja 2021. ove godine, kada će prvi pacijent dobiti eksperimentalnu pilulu RTR242. Retro je glasno govorio o svom krajnjem cilju: da produži ljudski životni vek za deset dodatnih, zdravih godina.
Lek je dizajniran da pomogne u preokretanju Alchajmerove bolesti oživljavanjem autofagije. Ovaj proces ćelijske reciklaže u našem telu smatra se onim koji ima široke efekte protiv starenja. Pored leka za Alchajmerovu bolest, Retro je u prekliničkoj fazi razvoja za lečenje bolesti krvi poput leukemije (RTR890), i terapije izvedene iz matičnih ćelija za lečenje bolesti centralnog nervnog sistema (RTR888).
Ukoliko bude uspešan, projekat Retro bi ušao u kružok startapova za dugovečnost poput Altos Labsa, iza kojeg stoji Džef Bezos, a koji je ubedljivo najfinansiranije ime u biotehnologiji dugovečnosti u Silicijumskoj dolini.
Altos je prikupio više od tri milijarde dolara od velikih tehnoloških investitora, uključujući Jurija Milnera, suosnivača Palantira Džoa Lonsdejla (preko svoje investicione firme 8VC) i osnivača Arč Venčera Roberta Nelsona.
Piter Til je jedan od ključnih čvorova mreže. Prema analizama, on je podržao skoro dvanaest kompanija za dugovečnost putem svoje firme za rizični kapital i neprofitne fondacije, a ove kompanije su zajedno prikupile preko 70 milijardi dolara.
Podaci pokazuju da je u proteklih 25 godina više od 200 povezanih startupa i neprofitnih organizacija privuklo skoro 1.000 investitora, prikupivši kumulativna sredstva koja premašuju 12,5 milijardi dolara. Kapital se masovno uliva u tri ključne oblasti industrije dugovečnosti: preokretanje ili menjanje starenja, lečenje bolesti povezanih sa starenjem, neposredne strategije za poboljšanje zdravlja i produženje životnog veka.
Nekoliko kompanija se pridružilo „milijarderskom krugu“, osim navedenih tu su BioAge Labs, posvećena razvoju lekova za bolesti povezane sa starenjem (prikupila 559 miliona dolara), Insilico Medicine, kompanija za otkrivanje lekova za veštačku inteligenciju (preko 500 miliona dolara).
Altman je krunisan za novog kralja Silicijumske doline, uglavnom zahvaljujući uticaju mreža poput YCombinator-a. Altman je postao obrazac koji svi žele da oponašaju.
Altman je uz Pitera Tila, Marka Andrisena izgradio svojevrsni oltar osnivačima, i misle da bi zaposleni i menadžeri koji zapravo vode uspešne kompanije još više trebali da im ljube skute. Oni i samo oni. Altman na različite načine kontroliše internet, Jutjub, Redit, JSTOR, a stav OpenAI-ja je izgleda da je zakon o autorskim pravima samo za male igrače.
Premisa knjige novinarke Karen Hao je da giganti veštačke inteligencije vode carstvo, ali nam istorija pokazuje da carstva mogu i padaju, nije slučajno Džon Miršajmer napisao knjigu “Tragedija politike velikih sila”. Hao vidi svaki korak u lancu snabdevanja kao potencijalno mesto otpora. Umetnici i pisci, na primer, protive se korišćenju svog rada za obuku generativne veštačke inteligencije.
Sprovođenje zakona o privatnosti podataka takođe su načini za obuzdavanje carstva, kao i prisiljavanje kompanija da budu transparentne u pogledu svog uticaja na životnu sredinu, od potrošnje energije do toga gde i kako se vade minerali potrebni za hardver. Dostizanjem ovih tačaka pritiska i više sredstava možemo da se polako vraćamo na demokratskiji model upravljanja veštačkom inteligencijom, i daleko pravedniji.
Nastaviće se.
Pavle Jakšić | Vitraž
Cover photo: Cover photo: illustration, TechCrunch, Andrew Neel Unnsplash
Pratite Vitraž:
