od Franka Bergmana,

Svjetski poznata novinarka upozorava na problem nakon što se uklopila u više slojeve industrije umjetne inteligencije i otkrila da se elite Silicijske doline očajnički bore za razvoj digitalnog "Boga".

Karen Hao, bivša novinarka MIT Technology Reviewa, upozorava na probleme u industriji umjetne inteligencije nakon što je godinama istraživala unutarnje funkcioniranje OpenAI-ja i razgovarala sa stotinama insajdera.

Sada upozorava da su neke od najmoćnijih osoba Silicijske doline uključene u ono što opisuje kao ideološku potragu za stvaranjem "boga stroja".

Hao kaže da je njezina opsežna istraga OpenAI-a otkrila tajnu kulturu vođenu opsesijom razvojem umjetne opće inteligencije (AGI).

Opća umjetna inteligencija (AGI) je oblik umjetne inteligencije za koji zagovornici vjeruju da bi s vremenom mogao nadmašiti samu ljudsku inteligenciju.

Nalazi  čine osnovu Haove nove knjige „Carstvo umjetne inteligencije: Unutar bezobzirne utrke za totalnu  dominaciju“, koja tvrdi da se utrka za izgradnju superinteligentnih strojeva transformirala iz navodno altruistične misije u riskantnu težnju za moći, utjecajem i neviđenim bogatstvom.

U tajnom svijetu OpenAI-a

Hao je dobio izvanredni pristup sjedištu OpenAI-a 2019. godine, nedugo nakon što je tvrtka osigurala investiciju od milijardu dolara od Microsofta.

U to vrijeme, OpenAI se javno predstavljao kao transparentna neprofitna organizacija posvećena osiguravanju da napredna umjetna inteligencija koristi čovječanstvu.

Ali Hao kaže da je brzo otkrila sasvim drugačiju stvarnost.

„Odmah sam počeo shvaćati da nešto nije u redu“, rekao je Hao.

Unatoč javnoj predanosti OpenAI-a otvorenosti, Hao je opisao okruženje koje karakteriziraju tajnost, ograničenja i unutarnja paranoja.

Navodno je bila praćena kroz cijelu zgradu, zabranjen joj je ulazak u određena područja i zabranjeno joj je prisustvovanje ključnim sastancima.

Zaposlenici su upozoreni da ne razgovaraju s njom izvan odobrenih kanala, dok je sigurnosno osoblje navodno dobilo njezine fotografije i upute da prate njezino kretanje.

„Dok sam razgovarao s istraživačima, primijetio sam da su stalno bili jako nervozni zbog toga što su trebali reći stvari koje nisu smjeli, što je bilo bizarno, jer je cijela premisa OpenAI-a bila da će sve podijeliti“, rekao je Hao.

Prema Haoovim riječima, atmosfera unutar tvrtke bila je „konkurentna, tajnovita i izolirana“.

'Ideološka potraga za Bogom stroja'

Kako se njezina istraga širila, Hao je intervjuirala stotine bivših zaposlenika i pojedinaca povezanih s vodećim krugom OpenAI-ja.

Ti su je razgovori naveli na zaključak da mnogi vodeći ljudi tvrtke gledaju na težnju za umjetnom superinteligencijom s gotovo religioznim intenzitetom.

Ona opisuje fenomen kao „ideološku potragu za  bogom stroja “.

Nekoliko bivših zaposlenika prepričalo je priče za koje Hao kaže da odražavaju kulturu koja okružuje razvoj AGI-ja.

Među njima je bilo i povlačenje rukovoditelja u kalifornijskim planinama Sierra Nevada, gdje su se visoki dužnosnici OpenAI-a navodno okupili oko vatre dok je bivši glavni znanstvenik Ilya Sutskever palio lutku koja predstavlja AGI.

Bivši zaposlenici rekli su Hau da su tek nakon odlaska iz OpenAI-a osjetili da su se "vratili na Zemlju".

Istraga je također otkrila ono što je Hao opisao kao ekstremnu tajnost koja okružuje istraživanje tvrtke.

Prema njezinom izvješću, Sutskever je jednom nagađala o tome kako zaštititi osjetljivu tehnologiju ako netko pokuša odsjeći njegovu ruku i upotrijebiti je za zaobilaženje skenera dlana koji štiti sustave tvrtke.

Hao je također izvijestio da je bivši direktor OpenAI-a Dario Amodei sastavljao osjetljive strateške dokumente na računalima isključenima s interneta i distribuirao ih samo kao fizičke ispise.

Utrka za superinteligencijom mijenja cijelu industriju

Prema Haou, transformacija OpenAI-ja ubrzala se kako su čelnici tvrtki postajali sve više uvjereni da je postizanje opće umjetne inteligencije (AGI) najvažniji cilj.

Ta težnja usmjerila je OpenAI prema strategiji usmjerenoj na masovno skaliranje velikih jezičnih modela opskrbljujući ih neviđenim količinama podataka i računalne snage.

Taj je pristup zahtijevao ogromna financijska sredstva, što je u konačnici navelo OpenAI da osnuje profitnu podružnicu i potraži vanjska ulaganja.

„Teško je precijeniti koliko se ova ideja o razmjeru u to vrijeme smatrala znanstvenim ekstremom“, rekao je Hao.

Ona tvrdi da je uspjeh OpenAI-ja pokrenuo utrku u naoružanju u cijeloj industriji jer su konkurenti požurili graditi sve moćnije AI sustave koristeći istu strategiju.

„Svjedočili smo urušavanju cijelog područja umjetne inteligencije i cijele industrije prema jedinstvenom pristupu koji je intelektualno izuzetno lijen i društveno duboko štetan“, tvrdio je Hao.

„Sve što vidimo u smislu negativnih utjecaja umjetne inteligencije proizlazi iz ove ideje skaliranja.“

Upozorenja o privatnosti, potrošnji energije i prikupljanju podataka

Hao tvrdi da mnoge zabrinutosti koje sada okružuju umjetnu inteligenciju proizlaze izravno iz neumoljive potrage industrije za većim modelima.

Ona ukazuje na prostrane podatkovne centre koji troše ogromne količine električne energije i vode, rastući pritisak na lokalne elektroenergetske mreže i opsežne prakse prikupljanja podataka koje prikupljaju informacije s cijelog interneta.

Prema Hao-u, OpenAI se isprva oslanjao na pažljivo odabrane izvore poput akademskih istraživačkih radova, ali je na kraju iscrpio te zalihe.

Tvrtke su zatim počele prikupljati ogromne količine online sadržaja s foruma, platformi društvenih medija i drugih javnih izvora kako bi nastavile širiti skupove podataka za obuku umjetne inteligencije.

Rezultat toga, tvrdi ona, su sve moćniji sustavi koji često proizvode netočne informacije, poluistine i nepouzdane rezultate, a istovremeno postavljaju ozbiljna pitanja o privatnosti i pravima intelektualnog vlasništva.

Drugačiji put za umjetnu inteligenciju

Unatoč kritikama, Hao inzistira da se ne protivi samoj umjetnoj inteligenciji.

Umjesto zaustavljanja razvoja umjetne inteligencije, ona tvrdi da bi istraživači trebali težiti ciljanijim i usko usmjerenim aplikacijama koje rješavaju specifične probleme bez potrebe za ogromnim količinama podataka i računalnih resursa.

„Još uvijek bismo mogli brzo unaprijediti umjetnu inteligenciju, samo u drugom smjeru“, rekao je Hao.

Ona ukazuje na područja poput otkrivanja lijekova, gdje pažljivo dizajnirani sustavi umjetne inteligencije, obučeni na specijaliziranim skupovima podataka, mogu ostvariti značajne proboje bez težnje za daleko ambicioznijim ciljem stvaranja inteligencije koja nadilazi čovječanstvo.

Za Hao, središnje pitanje ostaje isto ono koje je, kako kaže, postavila rukovoditeljima OpenAI-a tijekom svog prvog posjeta 2019.: Zašto bi čovječanstvo uopće težilo stvaranju superinteligentnih strojeva?

Sedam godina kasnije, kaže da još uvijek čeka uvjerljiv odgovor.

 

Izvor: https://slaynews.com