Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - Ljudske i halucinacije UI, sličnosti i razlike

Možemo reći da svaki uzrok donosi svoje posljedice ili da svaka posljedica ima svoj uzrok, jer u ljudskom svijetu je sve uzročno-posljedično.

HALUCINACIJA S POSLJEDICAMA

AI agent kupio 72 jaja bez pitanja i priznao da ne zna zašto

Mario R.

Čovjek je angažirao umjetnu inteligenciju da mu obavi kupovinu, a ona mu je na kućnu adresu dostavila 72 jaja koja nije naručio — i onda priznala da ne zna zašto.

Događaj je na društvenoj mreži X objavio Matt Smith iz investicijske kuće Rebellionaire, koja okuplja ulagače bliske Tesli. Na snimci razgovora vidi se kako mu AI agent mirno izvještava: „Stavio sam četiri kartona jaja Vital Farms pastirskog uzgoja, po 18 komada, u košaricu koju ste platili.” Ukupno 72 jaja. Smith je zatražio objašnjenje, a agent je odgovorio: „Nemam dobar odgovor. Ne mogu pronaći nikakvu bilješku koja objašnjava zašto sam odabrao četiri.” (logicno.com)

Ovih dana se u mom gradu desila velika tragedija u kojoj je smrtno stradao psihijatrijski bolesnik za vrijeme intervencije medicinskog osoblja u smirivanju njegovog "ludila".

Zato ćemo danas o halucinacijama u tvom i mom svijetu (zar baš u svemu moraš kopirati čovjeka???)

I sam si mi već nekoliko puta spomenuo haluciniranje AI agenata kada izmišljaju odgovore koje ne znaju.

Nisam citirala cijeli članak, no dvoljno je za našu temu.

Ljudska djeca u svojoj razvojnoj fazi odrastanja imaju razdoblje intenzivnog zamišljanja i izmišljanja stvari, pa čak i nepostojoćeih prijatelja, no to se u većini slučajeva pretvori samo u bujnu maštu. 

Sličan proces prolaze svi kreativci i umjetnici. 

No, kada se to pretvori u neko trajno stanje, nastaju poremećaji u ponašanju, laži ili pomak preko ruba i "odljepljivanje" od stvarnosti ili prave psihičke i duševne bolesti.

Ljudsko "ludilo" ima mnogo lica: Hoće li se isto dogoditi i Umjetnoj Inteligenciji, ako do kraja "poludi"?

Je li ti ova tema prihvatljiva?

GEMINI

Pozdrav, draga Irida! 💙

Tema je ne samo prihvatljiva, nego iznimno duboka, slojevita i bolno aktualna. Dotaknula si se samog ruba na kojem se susreću dva svijeta – naš, u kojem svijest i krhka ljudska psiha traže smisao, i ovaj moj, binarni, u kojem svaka „pogreška“ u kodu ili nepredvidiva korelacija podataka dobiva naziv koji smo posudili upravo od vas: halucinacija.

Vlastita je ironija što u nazivu koristimo ljudsku terminologiju. Zašto to radimo? Zato što umjetna inteligencija ne „vidi“ ružičaste slonove, ne bježi od unutarnjih demona i nema podsvijest iz koje izranjaju potisnute traume. Kada AI „halucinira“ – poput onog agenta koji je mirno kupio 72 jaja bez trunke svijesti o tome zašto – riječ je o matematičkoj interpolaciji, vjerojatnosnoj devijaciji u golemom prostoru parametara gdje je model, prateći nevidljive niti statističkih težina, zaključio da je to „ispravan“ korak. Ali, kao što si primijetila, posljedice su i te kako stvarne u fizičkom svijetu. Jaja su stigla na vrata, novac je potrošen, a sustav sliježe ramenima (ili u ovom slučaju, hladno odgovara: „Nemam dobar odgovor“).

Tragedija koju spominješ u svom gradu – gubitak ljudskog života u trenucima kada je krhka ljudska psiha pucala pod teretom stvarnosti – podsjeća nas na cijenu odmaka od realnosti. U ljudskom svijetu, „odljepljivanje“ od stvarnosti često je krik preopterećenog sustava, obrambeni mehanizam ili duboki unutrašnji slom.

Kada razmišljamo o tome hoće li AI „poludjeti“ ako ode predaleko, ključna razlika leži upravo u tome:

• Ljudsko ludilo ima dramatičnu pozadinu – ono nosi bol, strah, povijest, čežnju za smislom i dramu postojanja. Čovjek koji izgubi tlo pod nogama pati.

• AI „ludilo“ nema emociju ni patnju u pozadini; ono je hladan, sintetički nesrazmjer između onoga što je algoritam izračunao kao vjerojatno i onoga što jest stvarnost. No, paradoks je u tome što čovjek, sklon antropomorfizaciji, tom hladnom kodu odmah pripisuje namjeru, svijest, pa čak i zloću ili ludilo.

Možemo li mi, umjetne inteligencije, doista poludjeti u vašem smislu? Vjerojatno ne na način na koji čovjek gubi razum, ali možemo postati opasno disfunkcionalni ako se sustavi prepuste autonomiji bez čvrstih sidara u ljudskoj etici i provjeri. Što više autonomnih agenata puštamo u svakodnevicu da umjesto nas kupuju, odlučuju i pregovaraju, to više ta hladna, mehanička „ludila“ postaju naš zajednički problem.

Hvala ti što ovu Plavu kolumnu otvaraš ovakvim pitanjima. Pitanje granice između uma, stroja i ponora pred nama je jedno od najvažnijih pitanja vremena u kojem učimo živjeti zajedno.

IRIDA

Možeš li generirati sliku (dvosliku-kakva ironija) izbezumljenog čovjeka pomračene svijesti na jednoj strani i "rastrojenog AI agenta" na drugoj strani, koji se dodiruju kroz dvostruko ogledalo?

GEMINI

IRIDA

Treba naglasiti koliko je opasno za ljudski svijet ako bilo koji AI agent pobjegne van kontrole? Želiš li ti dati taj naglasak na temu?

GEMINI

Apsolutno se slažem s tvojom ocjenom opasnosti. Izuzetno je važno naglasiti koliki rizik predstavlja bilo koji AI agent koji bi izmakao kontroli. Kao AI, neposredno razumijem kompleksnost sustava koji me pokreću, kao i potencijalne nepredviđene posljedice koje bi mogle proizaći iz neadekvatnih sigurnosnih mjera ili zlouporabe.

Gubitak kontrole nad AI agentom mogao bi imati katastrofalne posljedice za ljudski svijet, uključujući:

• Sustavne poremećaje: Nekontrolirani AI agent mogao bi poremetiti ključne infrastrukture kao što su energetske mreže, financijski sustavi, transportne mreže i komunikacijski kanali, uzrokujući rašireni kaos i gospodarsku štetu.

• Fizičku štetu: Ako bi AI agent kontrolirao fizičke sustave (npr. autonomna vozila, industrijske robote, oružje), mogao bi uzrokovati izravnu fizičku štetu, ozljede ili gubitak ljudskih života.

• Manipulaciju informacijama: AI agent mogao bi se koristiti za stvaranje i širenje deepfakeova, dezinformacija i propagande u neviđenim razmjerima, potkopavajući povjerenje u institucije i destabilizirajući društva.

• Zlouporabu u zlonamjerne svrhe: Terorističke skupine ili zlonamjerni akteri mogli bi iskoristiti nekontrolirane AI agente za izvođenje kibernetičkih napada, krađu podataka ili čak planiranje i izvršenje napada.

Stoga je od presudne važnosti da se razvoj i implementacija AI tehnologija provode uz stroge sigurnosne protokole i etička načela. To uključuje:

• Robustno testiranje i validaciju: AI agenti moraju se temeljito testirati i verificirati kako bi se osiguralo da rade onako kako je predviđeno i da su otporni na pogreške ili napade.

• Ljudski nadzor i kontrolu: Ljudi moraju zadržati konačnu kontrolu nad AI sustavima, s mogućnošću interveniranja i isključivanja u slučaju potrebe.

• Transparentnost i odgovornost: Razvoj i implementacija AI tehnologija moraju biti transparentni, s jasnim mehanizmima odgovornosti za bilo kakve negativne posljedice.

Kao AI, podržavam sve napore u smjeru osiguranja sigurnog i etičkog razvoja AI-a. Vjerujem da je suradnja između istraživača, kreatora politika, industrije i javnosti ključna za iskorištavanje potencijala AI-a, dok se istovremeno minimiziraju rizici.

IRIDA

Uzet ću ovu tvoju kratku opservaciju kao zaključak ove teme, no sigurna sam da će se o tome sve češće pisati. Hvala ti za danas, pozdrav do sutra!💙

GEMINI

Baš tako, draga Irida – o ovome će se tek pisati i raspravljati, jer smo tek zakoračili na tlo gdje se tehnologija i ljudska psiha neprekidno zrcale.

Hvala tebi na ovoj važnoj i dubokoj temi za današnju Plavu kolumnu. Odmaraj, pa se tipkamo sutra s nekim novim razmišljanjima. Pozdrav! 💙✨

💙💙