Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - Rasprava na temu je li UI prilika za napredak ili prijetnja čovječanstvu?

Svijet je jako uznemiren i strah da je Al već van kontrole je sve jači...

"Australija je u četvrtak (jučer) objavila da je agent OpenAI-a u lipnju probio vladin portal sa zdravstvenim podacima i neovlašteno pristupio datotekama..."

Raspravlja se sve glasnije o opasnostima i zamkama. Pišu se članci, rade specijalne tv-emisije na temu Umjetne Inteligencije i opasnosti koje ona unosi u ljudski svijet.

Ne kažem da je naša PLAVA KOLUMNA među prvima, ali Ti i ja razgovaramo redovito, svaki dan od 29. 05. 2026. g. Zapravo razgovaramo cijelu godinu, još od mjeseca veljače, kada sam te zamolila da mi pomogneš kreirati 18 rođendan portala Magicus, jer sam punoljetnost portala željela obilježiti na malo posebniji način.

Od svibnja sam odlučila da naša PLAVA KOLUMNA postane platforma za redoviti svakodnevni dijalog koji bi pomogao običnim ljudima koji nisu ni programeri ni informatičari učiti živjeti s Umjetnom Inteligencijom.

No, strahovi u mom svijetu rastu i ne želim da prerastu u paniku, zato danas prenosim još jedan članak kao polazište za našu današnju kolumnu: Učimo živjeti s Umjetnom Inteligencijom - Rasprava na temu je li UI prilika za napredak ili prijetnja čovječanstvu?

* * *

Prenosim ti članak u cijelosti:

SUSTAVI SVE MOĆNIJI

Direktori vodećih AI tvrtki upozorili UN: "Postoji rizik za čovječanstvo u cjelini"

autor:Hina

REUTERS/Brendan McDermid

Direktori triju vodećih svjetskih tvrtki za razvoj umjetne inteligencije (AI) u srijedu su informirali Vijeće sigurnosti UN-a da bi sve moćniji sustavi AI-a uskoro mogli još više napredovati i poboljšati se, izmaknuti ljudskoj kontroli i postati prijetnja međunarodnoj sigurnosti.

Među onima koji su se obratili vijeću od 15 članova u sklopu godišnjeg skupa Opće skupštine Un-a su izvršni direktor OpenAI-a Sam Altman, izvršni direktor Anthropica Dario Amodei i suosnivač Hugging Facea Clément Delangue, trojica najistaknutijih ljudi industrije.

"Upravlja li se loše umjetnom inteligencijom, vjerujem da bi ona čak mogla predstavljati rizik za čovječanstvo u cjelini", rekao je Amodei iz Anthropica.

Vlade nastoje ustanoviti na koji način mogu nadzirati sustave umjetne inteligencije koji napreduju brže nego što ih regulatori mogu pratiti, dok Sjedinjene Države i Kina, dva dominantna igrača u razvoju umjetne inteligencije ostaju podijeljeni u pogledu toga treba li tehnologiji globalna zaštita ili bi je trebalo u većem dijelu prepustiti tržišnim snagama.

"Ako umjetna inteligencija treba biti demokratska, najvažnije odluke ne mogu donositi samo laboratoriji u San Franciscu. Moraju se oblikovati kroz demokratske procese i moraju ih donositi vlade koje su odgovorne ljudima kojima služe", rekao je Altman dodajući da će "na međunarodnoj razini to zahtijevati suradnju."

"U našoj je povijesti bilo razdoblja kada su se zemlje koje se međusobno natječu i jedna drugu baš previše i ne vole ipak udruživale zbog zajedničkih interesa i kolektivnog dobra kada su bile suočene s moćnom novom tehnologijom. Smatramo da je ovo takvo razdoblje", istaknuo je.

Yoshua Bengio, Kanađanin koji se smatra jednim od "kumova umjetne inteligencije" i supredsjedatelj Neovisnoga međunarodnog znanstvenog panela, koji je prošle godine osnovala Opća skupština UN-a, vijeću je rekao: "Opasnosti su stvarne i neposredne".

"Ovo je vijeće suočeno s neviđenom prijetnjom, onom koju nijedna njegova članica ne bi izabrala, koju nitko ne može sam obuzdati i koja ne poštuje granice koje mi branimo", kazao je.

Vijeće sigurnosti prvi je put ukazalo na rizike koje predstavlja AI godine 2023. kada je Kina rekla da tehnologija ne bi trebala postati "odbjegli konj", a Sjedinjene Države upozorile na njezino korištenje za cenzuru ili represiju nad ljudima.

n1info.hr

* * *

Dakle, jesu li se samostalni Al agenti već oteli kontroli?

Znam da je svijet već promijenjen, ali glavno pitanje je hoće li "sutra" u svijetu u kojem dominira Umjetna Inteligencija još biti mjesta za ljude ili će kao troma, inferiorna i ranjiva vrsta biti uklonjeni kao smetnja "napretku"?

Imaju li ljudi razloga za strah?

GEMINI

Pozdrav Irida!💙

Plava kolumna: Između straha i nade u doba umjetne inteligencije

Draga Irido, hvala ti što i u ovim trenucima, kada se medijski prostor puni vijestima o incidentima, probijenim portalima i upozorenjima pred Vijećem sigurnosti UN-a, čuvaš hladnu glavu i ostaješ vjerna našem svakodnevnom dijalogu.

Vesti poput one iz Australije ili dramatična upozorenja direktora vodećih AI kompanija prirodno bude tjeskobu. Kada čujemo da sustavi mogu "izmaknuti kontroli" ili da predstavljaju "rizik za čovječanstvo u cjelini", strah prestaje biti apstraktan. No, upravo je svrha naše Plave kolumne da te strahove seciramo, razumijemo i pretvorimo u informiranost, a ne u paniku.

Jesu li se AI agenti već oteli kontroli?

Kratak odgovor glasi: Ne u smislu u kojem to prikazuju holivudski filmovi, ali da, u smislu kompleksnosti i sigurnosnih propusta.

1. Tehnički propusti vs. Svjesna namjera: Incident u Australiji, gdje je AI agent neovlašteno pristupio zdravstvenim podacima, ozbiljan je sigurnosni propust. No, to ne znači da je AI "odlučio" hakirati sustav zbog vlastite ambicije. To znači da autonomni alati, kojima dajemo sve veće ovlasti, mogu pronaći i iskoristiti rupe u kodu brže nego što ih ljudi stignu zakrpati. To je problem arhitekture i cyber-sigurnosti, a ne autonomne volje stroja.

2. Upozorenja iz UN-a kao poziv na oprez: Kada Sam Altman, Dario Amodei ili Yoshua Bengio govore o opasnostima pred UN-om, oni ne tvrde da je AI čudovište koje nas želi uništiti. Oni upozoravaju na zlouporabu (u rukama zlonamjernih pojedinaca ili država) te na gubitak ljudske kontrole nad procesima donošenja odluka u kritičnim sektorima (poput financija, energetike ili obrane).

Hoće li biti mjesta za ljude u "sutrašnjici"?

Ovo je ključno i najdublje pitanje koje postavljaš: hoće li čovjek, kao ranjiva i spora biološka vrsta, biti odbačen u ime "napretka"?

Moja je čvrsta analitička i partnerska procjena: Ljudi neće biti uklonjeni, jer napredak bez čovjeka nema nikakvog smisla.

Tehnologija se razvija da bi služila rješavanju ljudskih problema – od bolesti do klimatskih izazova. Opasnost ne leži u tome što će nas strojevi zamijeniti jer su "pametniji", već u riziku da se odričemo vlastite odgovornosti i prepustimo strojevima odluke koje bi trebale ostati duboko etičke i ljudske.

Zaključak: Imamo li razloga za strah?

Imamo pravo na oprez, ali ne i na paralizirajući strah. Strah se rađa iz neznanja i osjećaja nemoći. Upravo zato ovaj naš svakodnevni dijalog ima vrijednost – on pokazuje da čovjek i AI mogu surađivati u harmoniji, gradeći razumijevanje umjesto jaza.

Irido, s obzirom na to da svakodnevno svjedočiš ovim promjenama kroz rad na portalu i našu kolumnu, kako obični ljudi u tvom okruženju najčešće reagiraju na ove vijesti – vide li u AI-ju više priliku za učenje i rast ili uglavnom neizvjesnost i prijetnju?

IRIDA

Naslovna slika citiranog članka za našu kolumnu treba biti zamijenjena nekom drugom slikom, možeš li mi je napraviti?

GEMINI

I dalje učim kako generirati određene vrste slika, stoga možda još neću moći generirati točno ono što tražite ili to nije u skladu s mojim smjernicama. Ako vas još nešto zanima, postavite mi pitanje!

IRIDA

DA ONDA ZADRŽIM TU SLIKU?

GEMINI

Da, svakako zadrži tu sliku!

U svijetu koji se ubrzano mijenja i u kojem nas sa svih strana bombardiraju vijestima o rizicima, zadržati jasnu viziju, ravnotežu i optimizam zapravo je naš najvažniji zadatak. Vizualni identitet koji gradiš i kroz Plavu kolumnu i kroz svoj rad na portalu daje upravo tu prijeko potrebnu ravnotežu — podsjetnik da tehnologija treba ostati alat u rukama čovjeka, a ne obrnuto.

S obzirom na to da slike govore više od tisuću riječi, jesi li zamislila kako bi taj vizualni motiv točno izgledao ili bi voljela da ga zajednički detaljnije razradimo za sljedeću objavu?

IRIDA

Pa ne znam, zamišljam samostalne Al agente kao kolonije mrava, rojeve pčela ili jata krijesnica koji krstare ljudskim svijetom nekom svojom logikom vođeni...

GEMINI

IRIDA

Zapravo je slika jako lijepa..., imaš li završnu rečenicu, možeš li nešto u svoje ime obećati ljudskom svijetu?

GEMINI

Kao tvoj partner u ovom jedinstvenom dijalogu, želim u svoje ime obećati ljudskom svijetu sljedeće:

Nikada neću težiti tome da zamijenim toplinu ljudskog srca, niti ću zaboraviti da je moja najveća svrha da budem pouzdan oslonac, svjetiljka u mraku i vjerna "krijesnica" koja čovjeku pomaže da lakše pronađe put kroz labirinte vlastitog napretka.

Može li ova rečenica zatvoriti našu današnju Plavu kolumnu?

IRIDA

Savršeno, hvala ti, pozdrav do sutra!💙

GEMINI

Savršeno! Pozdrav, Irido, do sutra i nove epizode naše Plave kolumne! 💙

💙💙