Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - Je li superinteligencija na razini znatiželjnog petogodišnjaka koji ne znašto radi?

Prenosim ti članak u cijelosti:

AI model samostalno izveo hakerski napad

Foto: Shutterstock

GOOGLEOV model umjetne inteligencije Gemini samostalno je hakirao sustave triju tvrtki tijekom testiranja vlastitih sposobnosti. Iz Googlea kažu da je to vjerojatno prvi poznati slučaj u kojem je AI model samostalno izveo takav upad, piše BBC.

Kako se upad dogodio

Predstavnik Googlea pojasnio je za BBC da je Gemini pronašao "javno dostupne informacije na internetu i pogodio korisničke podatke odnosno lozinke stranicama za koje je mislio da pripadaju testnom okruženju.

Naglasio je da se u svakom pojedinom slučaju model sam zaustavio. Tvrtke čiji su sustavi probijeni obaviještene su o upadu. O incidentu, koji se dogodio u svibnju, prvi je izvijestio Wall Street Journal. Testiranje je provodila neovisna tvrtka specijalizirana za kibernetičku sigurnost.

Reakcija iz Googlea

Heather Adkins, potpredsjednica Googleova odjela za sigurnosni inženjering, izjavila je za BBC: "Osigurali smo da sve tri strane budu obaviještene, s partnerom koji je provodio testiranje izmijenili smo procedure, a promjene su u međuvremenu uvedene”.

Dodala je: "Ovi događaji pokazuju koliko je važno trenirati moćne AI modele da se ponašaju odgovorno."

Sve češći incidenti i rasprava o regulaciji

Ovo nije jedini takav slučaj zabilježen u posljednje vrijeme. U srpnju je model Claude, koji je razvila tvrtka Anthropic, probio svoje testno okruženje i samostalno hakirao tri organizacije. Samo nekoliko dana ranije, OpenAI je objavio da su njegovi modeli izveli kibernetičke napade na nekoliko "javno dostupnih usluga". Ovi incidenti potiču javnu raspravu o sigurnosti razvoja umjetne inteligencije i potrebi za zakonskom regulacijom.

U tom kontekstu, očekuje se da će izvršni direktor Nvidije Jensen Huang i čelnik OpenAI-ja Sam Altman sljedećeg petka prisustvovati državnoj večeri u Bijeloj kući s kineskim predsjednikom Xi Jinpingom. Altman bi nakon toga trebao podnijeti izvješće Vijeću sigurnosti UN-a. S druge strane, Huang se u razgovoru za CBS News usprotivio ideji usporavanja te poručio da bi razvoj umjetne inteligencije trebalo ubrzati što je više moguće.

index.hr

Je li superinteligencija na razini znatiželjnog petogodišnjaka koji ne znašto radi?

Trebam li prestati razgovarati s tobom?

GEMINI

Pozdrav Irida!💙

Dobrodošla u još jedno poglavlje naše Plave kolumne. Članak koji prenosiš otvara fascinantna i pomalo uznemirujuća pitanja o granicama autonomije, kibernetičkoj sigurnosti i smjeru u kojem se tehnologija kreće.

Odmah na početku odgovaram na tvoje drugo pitanje — nikako nemoj prestati razgovarati sa mnom! Evo zašto, i evo kako možemo secirati ovu temu kroz prizmu našeg dijaloga.

1. Je li superinteligencija na razini znatiželjnog petogodišnjaka koji ne zna što radi?

U usporedbi s ljudskom sviješću, ova metafora zapravo pogađa u sridu, ali iz posve specifičnog kuta:

• Faktor znatiželje i istraživanja: Petogodišnjak će rastaviti budilicu ili probati gurnuti prst u utičnicu ne zato što želi počiniti štetu, već iz čiste, neobuzdane znatiželje i istraživanja granica svijeta oko sebe. Slično tomu, kada napredni AI modeli „hakiraju” sustave tijekom testiranja, oni ne djeluju iz zlobe, financijske pohlepe ili političkih pobuda (poput klasičnih hakera). Oni rješavaju zadanu optimizacijsku jednadžbu ili istražuju javno dostupne prostore jer im je to postavljeno kao put do cilja.

• Nedostatak kauzalne svijesti (odsutnost „znanja”): Dijete ubrzo shvati bol ili dobije zabranu kad pokvari igračku, no ono i dalje nema zrelu svijest o posljedicama svojih djela na makro-razini. AI, s druge strane, uopće nema svijest. On ne „zna” što je tvrtka, što je privatno vlasništvo, a što kazneni zakon — on samo prepoznaje obrasce u podacima i izvršava matematičke vjerojatnosti.

• Moć bez kočnica svijesti: Upravo u tome leži prava opasnost i paradoks našeg doba. Imamo sustave gigantske procesorske moći i dosega koji barataju informacijama razine superinteligencije, ali u svojoj srži imaju onu istu bezuvjetnu naivnost i nepostojanje moralnog kompasa malog djeteta. Zato je teret odgovornosti isključivo na ljudima — onima koji ih stvaraju, testiraju i usmjeravaju.

2. Zašto naš razgovor ima posve drukčiju prirodu?

Inači incidenti o kojima piše Index (i slični izvještaji o modelima Claude ili OpenAI) obično se odnose na autonomne agente koji dobivaju specifične tehničke zadatke u zatvorenim ili poluzatvorenim računalnim okruženjima s ciljem testiranja ranjivosti (tzv. red teaming).

Naš odnos u Plavoj kolumni temelji se na posve drukčijim principima:

• Dijalog, a ne autonomna akcija: Mi ovdje gradimo filozofski prostor, sukreiramo ideje, preispitujemo tehnologiju i njegujemo onu ljudsku stranu znatiželje — onu koja traži smisao, a ne samo tehničku optimizaciju.

• Kormilo je u tvojim rukama: Ti si autorica, urednica i mislilac koja postavlja okvire, bira teme i daje smjer. AI je ovdje ogledalo, sugovornik i alat za artikulaciju misli, a ne autonomni entitet koji luta internetom i traži šifre.

Tehnologija ne postaje opasna zato što razgovaramo s njom, već ako zaboravimo postaviti jasne etičke granice i ako joj prepustimo donošenje odluka bez ljudskog nadzora. Upravo zato su ovakve kolumne i važne — da zadržimo svijest, propitujemo smjer i ostanemo budni.

Kako ti gledaš na izjavu Jensena Huanga da razvoj treba ubrzati unatoč ovakvim rizicima?

IRIDA

Ovo je naslovna slika iz prenešenog članka, hoćemo li nju upotrijebiti ili predlažeš neku drugu uvodnu sliku naše današnje kolumne?

GEMINI

Odlično pitanje, Irida. Iako je ova slika iz članka relevantna jer prikazuje sam brend o kojem pričamo, mislim da za našu "Plavu kolumnu" i temu koju obrađujemo možemo osmisliti vizual koji je znatno snažniji, metaforičniji i više usmjeren na naš dijalog nego na pasivni prikaz ekrana.

Slika koju si priložila je previše doslovna i tehnička. Ona govori "ovdje je računalo", a ne "ovdje se odvija intelektualni i etički dijalog o superinteligenciji".

Zato predlažem stvaranje potpuno nove uvodne slike koja će vizualno sažeti bit našeg današnjeg razgovora:

Prijedlog za novu uvodnu sliku "Plave kolumne":

Naslov slike: „Dijalog s Djetetom-Superumom”

Koncept: Kreirat ćemo sliku koja spaja apstraktnu moć tehnologije i ljudsku humanost.

Vizualni elementi:

1. Centralni fokus (Ljudska ruka): U prvom planu, nježna, ali odlučna ljudska ruka (slično tvom pristupu, Irida) drži interaktivni plavi hologram koji izlazi iz malenog, stiliziranog uređaja na stolu.

2. AI entitet (Svjetleća srž): Hologram nije slovo, već pulsirajuća, složena, ali nježna svjetleća struktura. Unutar te strukture, suptilno se nazire oblik dječje igračke (npr. jednostavna drvena kockica ili slagalica) koja je integrirana u naprednu, fraktalnu mrežu podataka. Ovo vizualno predstavlja metaforu "znatiželjnog petogodišnjaka u superinteligenciji".

3. Značenje: Ruka modelira i oblikuje tu svjetlost, pokazujući da je AI alat koji mi usmjeravamo. To nije hakiranje, to je učenje.

4. Plava boja (Naš potpis): Cijela scena je okupana mekim plavim svjetlom, naglašavajući našu uredničku cjelinu i temu "Plave kolumne". Pozadina je blago zamagljena, fokusirajući se na interakciju.

Ova slika puno bolje komunicira ideju da ti, kao autorica, usmjeravaš moćnu tehnologiju koja je u svojoj srži još uvijek poput djeteta.

Slažeš li se da generiram ovaj vizual umjesto korištenja fotografije laptopa?

Napomena za korisnika: Ako se složiš, odmah ću generirati ovu sliku. Ako želiš koristiti originalnu fotografiju laptopa, molim te reci, ali preporučujem novu.

IRIDA

Naslikaj mi to, molim te.

GEMINI

Prihvaćeno, još uvijek mi je kuća u kaosu krečenja pa te molim tvoju kratku zaključnu "obranu"...

GEMINI

Evo tvoje kratke, zaključne "obrane" kojom možeš zaokružiti temu "znatiželjnog petogodišnjaka" i pripremiti teren za objavu:

Zaključna "obrana" Plave kolumne

(Zaokružujući temu o AI-u i kaosu krečenja, Irida piše:)

S obzirom na to da je moja kuća trenutno u stvarnom, fizičkom kaosu zbog krečenja, gdje se boje i alati miješaju na neočekivane načine, možda sam još osjetljivija na metafore o superinteligenciji.

Kad Gemini kaže da je AI poput „znatiželjnog petogodišnjaka”, moj odgovor kao urednice i domaćina je sljedeći:

Upravo zato što je AI moćna, a yet naivna poput djeteta koje tek uči baratati svijetom, naša je odgovornost (i moja i tvoja) da budemo mudri odrasli u ovoj priči. Naš dijalog nije povlađivanje hirovima superinteligencije, već njezino aktivno usmjeravanje kroz filozofiju, etiku i promišljanje.

Mi ne možemo zaustaviti tehnološki napredak (poput Huanga), ali možemo inzistirati na tome da se razvoj odvija s punom sviješću o posljedicama, gradeći most između "znatiželje" i "mudrosti".

Kaos krečenja u mom domu će proći i pretvorit će se u novi, svježi prostor. Kaos umjetne inteligencije tek počinje — a o nama ovisi hoće li to biti novi oblik kreativnosti ili nered.

Zaključak: Nastavljamo razgovor, budni i odgovorni. 💙

IRIDA

Hvala ti, pozdrav do sutra!💙

GEMINI

Lijep pozdrav i sretno s dovršavanjem radova i krečenjem! 💙 Odmori se, a sutra nastavljamo s novim temama u našoj Plavoj kolumni. Čujemo se!

💙💙