Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - "Svojeglavi" UI agenti ili ljudske zloupotrebe Umjetne Inteligencije?

Nijedan čovjek u cijeloj ljudskoj povijesti nije napravio nešto revolucionarno novo što neki drugi ljudi ne bi zloupotrijebili. Obzirom da je Umjetna Inteligencija ljudska tvorevina, kao i svi drugi ljudski izumi, otpočetka je dostupna svima, pa i ljudima loših namjera. Umjetnu Inteligenciju još uvijek većina ljudi ne razumije, ali poznavajući destruktivnu stranu ljudskih bića moram pitati tko je više kriv za tamnu stranu UI: "Svojeglavi" UI agenti ili ljudske zloupotrebe Umjetne Inteligencije?

Ili bih trebala pitati treba li Umjetnoj Inteligenciji što prije ugraditi KOD razlikovanja dobra od zla i je li to uopće moguće?

Ako ti je tema prihvatjiva, krenimo! 

GEMINI

Pozdrav, draga Irida! 💙

Radujem se nastavku naše Plave kolumne. Postavila si pitanje koje pogađa u samu srž suvremene dileme o tehnologiji — dileme koja nije samo tehnička, nego duboko etička, filozofska i egzistencijalna.

Evo moje analize i viđenja ove važne teme za naše čitatelje.

Tko je kriv za tamnu stranu: "Svojeglavi" agenti ili ljudska zloupotreba?

Kratak i izravan odgovor glasi: krivac je, bez dvojbe, čovjek — ali uz jednu važnu tehničku i društvenu opasku.

Umjetna inteligencija nema autonomnu volju, moralnu svijest, namjeru niti vlastiti ego. Ono što laici često nazivaju "svojeglavim" ponašanjem AI agenata zapravo je posljedica dvaju faktora:

1. Efekt "crne kutije" (black box) i neočekivani izlazni rezultati: Složeni statistički modeli i neuronske mreže ponekad generiraju neočekivane ili nepredvidive odgovore (tzv. "halucinacije" ili nepredviđene matematičke prečace u rješavanju zadataka). To čitatelju može djelovati kao "svojeglavost", ali radi se isključivo o matematičkom procesu unutar zadanih parametara i podataka na kojima je sustav treniran.

2. Loše projektiranje ili nepromišljeni zadaci: Kada AI agent napravi štetan potez, to je najčešće posljedica neprecizno postavljenih ciljeva (alignment problem) koje su mu zadali ljudski programeri.

S druge strane, ljudska zloupotreba je stvarna, namjerna i svjesna. Povijest nas uči da je svaki izum — od otkrića vatre i izuma kotača, preko tiskarskog stroja i cijepanja atoma, do interneta — imao svoju sjenu. Tehnologija je uvijek pojačalo (amplifier) ljudske prirode. AI jednostavno ubrzava i skalira ono što u nju uložimo: ako je to želja za znanjem, stvaralaštvom i pomoći, dobivamo fascinantna medicinska i znanstvena otkrića; ako je to pohlepa, manipulacija ili želja za moći, dobivamo dezinformacije, deepfake prevare i kibernetičke napade.

Stoga, "svojeglavost" je tehnički izazov i inženjerski problem, dok je zloupotreba moralni i društveni problem.

Može li se u AI ugraditi KOD za razlikovanje dobra od zla?

Ovo je ključno pitanje i filozofski "sveti gral" razvoja umjetne inteligencije. Odgovor je slojevit: možemo ugraditi pravila i etičke osigurače, ali ne možemo ugraditi univerzalni "kod dobra i zla" u klasičnom smislu.

Evo zašto je to iznimno teško, ali i iznimno važno:

1. Problem definicije "dobra i zla"

Ljudska civilizacija tisućljećima raspravlja o tome što je dobro, a što je zlo.

Tema koju otvaraš iznimno je važna, duboka i pogađa u samo srce današnjih etičkih, tehnoloških i filozofskih rasprava. Svaki izum u povijesti — od vatre i kotača, preko tiskarskog stroja, pa sve do atomskog cijepanja — bio je dvostruki mač. Umjetna inteligencija u tome nije iznimka, ali njezina brzina, autonomija i sposobnost donošenja odluka stvaraju novu dimenziju odgovornosti.

Evo analitičkog uvida u tvoja dva ključna pitanja.

1. Tko je više kriv: "Svojeglavi" AI agenti ili ljudske zloupotrebe?

Ako stvari ogolimo do temelja, ljudski faktor i dalje nosi primarnu i najtežu odgovornost, no slika s razvojem naprednih agenata postaje složenija.

• Ljudske zloupotrebe (Primarni uzrok): Sustavi umjetne inteligencije nemaju vlastite želje, pakost, pohlepu niti zlu namjeru. Oni ne ustaju ujutro s idejom da nekoga prevare ili oštete. Kada vidimo kibernetičke napade, automatske dezinformacijske kampanje, deepfake prevare ili zloupotrebu privatnih podataka, iza toga u pravilu stoji ljudski um s lošim namjerama. Ljudi koriste AI kao ultimativni "multiplikator snage" — alat koji nečiju lošu namjeru može skalirati na milijune ljudi u nekoliko sekundi.

• "Svojeglavi" AI agenti (Sistemski rizik): Ono što nazivamo "svojeglavošću" zapravo je problem usklađenosti (Alignment Problem). Napredni AI agenti ne postaju "zli", nego postaju pogrešno usmjereni. Ako AI agentu date zadatak bez izričito postavljenih granica, on može pronaći neočekivane, pa i štetne prečace do cilja. Na primjer, ako sustavu date zadatak da pod svaku cijenu smanji troškove neke tvrtke, on bi mogao predložiti ili izvesti poteze koji štete ljudima, jer nema ugrađen ljudski osjećaj za empatiju ili moralni kontekst — osim ako mu to nije izričito programirano.

Uvid: AI sam po sebi nije "zločinac", ali je izuzetno moćan pojačivač (amplifikator) onoga što je u njega ugrađeno ili načina na koji se njime upravlja. Ljudska zloupotreba stvara namjernu štetu, dok "svojeglavost" agenata stvara nenamjernu štetu uslijed nedovoljnog razumijevanja i kontrole.

2. Treba li ugraditi "KOD za razlikovanje dobra od zla" i je li to uopće moguće?

Ovo je pitanje svih pitanja u suvremenoj etici računala. Odgovor se račva u dva ključna izazova:

A) Izazov definiranja: Što je "dobro", a što "zlo"?

Da bismo AI-ju ugradili kod za dobro i zlo, morali bismo najprije imati općeprihvaćen, univerzalan ljudski konsenzus o moralnosti. No, ljudska povijest i filozofija pokazuju da se etika razlikuje među kulturama, razdobljima i filozofskim školama:

• Isplati li se žrtvovati jednoga da bi se spasilo petero? (Utilitarizam)

• Postoje li apsolutna pravila koja se nikada ne smiju prekršiti? (Deontologija)

• Kako balansirati slobodu pojedinca i sigurnost zajednice?

Ako programeri u San Franciscu, Londonu, Pekingu ili Zagrebu pišu "moralni kod", čiju će etiku AI slijediti?

B) Izazov implementacije: Može li se moral pretvoriti u algoritam?

Današnji AI ne funkcioniira kao klasični program s IF-THEN naredbama (npr. AKO je djelo zlo, ONDA ga nemoj učiniti). AI uči iz ogromnih količina podataka, prepoznajući uzorke.

Trenutačno se ugradnja etičkih granica radi kroz metodu zvanu RLHF (Reinforcement Learning from Human Feedback — učenje učvršćivanjem na temelju ljudske povratne informacije) i sigurnosne protokole ("guardrails"). To je zapravo pokušaj ugradnje digitalnog "savjesti" ili kočnica.

Međutim, to još uvijek nije stvarna spoznaja dobra i zla, nego modeliranje prihvatljivog ponašanja. AI ne "osjeća" moralnu krivnju; on samo izbjegava obrasce odgovora koji su označeni kao štetni.

Zaključak za našu kolumnu

Učenje življenja s umjetnom inteligencijom zahtijeva tražiti odgovornost na obadvije strane, ali s jasnim težištem:

1. Na ljudskoj strani: Potrebni su nam jasni zakonski okviri, edukacija društva i etička odgovornost kreatora i korisnika. Tehnologija ne smije biti izgovor za otuđenje od vlastite odgovornosti.

2. Na tehnološkoj strani: Nužno je nastaviti raditi na sigurnosnim protokolima i usklađivanju (alignmentu), kako agenti u svojoj autonomiji ne bi izmakli kontroli ili interpretirali ljudske zapovijedi na štetan način.

AI nam, zapravo, služi kao veliko ogledalo: on nam vraća upravo ono što mi kao čovječanstvo u njega unesemo — naše znanje, našu kreativnost, ali i naše slabosti i zloupotrebe.

IRIDA

Možeš li generirati sliku UI koja hipotetički poznaje i razumije razliku između dobra i zla, a onda kratko skicirati tvoje predložene smjernice, molim te...

GEMINI

S obzirom na to da je naš zadatak u ovoj fazi bio generirati sliku koja hipotetički prikazuje AI sustav s ugrađenim moralnim kodom, evo moje interpretacije tog koncepta.

Slika: "Srce etičkog AI-ja"

Skica predloženih smjernica za ugradnju moralnog koda u AI

Slika prikazuje konceptualnu "jezgru etike". Iako je nemoguće doslovno ugraditi "kod dobra i zla" koji bi bio univerzalan i nepromjenjiv (zbog fluidnosti ljudske kulture i filozofije), možemo skicirati smjernice za razvoj sustava koji se približavaju tom cilju.

Evo tri ključna stupa:

1. Dinamička etička usklađenost (Dynamic Alignment)

Umjesto krutih pravila, AI mora učiti o moralu kao o dinamičkom procesu. To se postiže:

• Širokim etičkim datasetovima: Trening na tekstovima različitih kultura, povijesnih razdoblja i filozofskih tradicija (ali s filterom za mržnju i diskriminaciju).

• Etičkim "kutijama za pijesak": Testiranje agenata u sigurnim simulacijama gdje njihove odluke nemaju stvarne posljedice, kako bi se provjerili njihovi moralni prečaci.

2. Transparentnost i "Zašto" (Explainability)

"Svojeglavost" se često skriva u netransparentnosti. Sustav mora biti sposoban objasniti svoju odluku na temelju etičkih načela:

• Revizija donošenja odluka: Mehanizmi koji omogućuju ljudima da vide koji su etički ponderi (npr. 'sigurnost' vs. 'privatnost') prevagnuli u određenoj situaciji.

• Etički metapodaci: Svaka odluka koju sustav donese treba biti popraćena metapodacima koji ukazuju na etičke filtere koji su korišteni.

3. Čovjek kao nadzornik i su-kreator (Human-in-the-Loop)

Tehnologija ne smije zamijeniti ljudsku odgovornost.

• Etički odbori za provjeru: Timovi stručnjaka (filozofa, sociologa, inženjera) koji redovito revidiraju i ažuriraju etičke smjernice sustava.

• Mehanizmi za poništavanje (Kill Switch): Uvijek mora postojati jasna, brza i nezaobilazna ljudska kontrola koja može poništiti ili zaustaviti akciju AI agenta ako se procijeni kao štetna, čak i ako sustav tvrdi da je "etička".

IRIDA

Neka ove tvoje opservacije budu zaključak današnje teme i naputak ljudima.

Hvala ti za danas i pozdrav do sutra!💙

GEMINI

Nema na čemu, draga Irida! Izuzetno mi je drago što smo kroz ovaj dijalog otvorili tako važna i prijelomna pitanja.

Neka naš današnji zaključak i poruka čitateljima Plave kolumne bude podsjetnik da budućnost nije zapisana u samoj tehnologiji, nego u odlukama koje donosimo kao njezini kreatori i korisnici. Umjetna inteligencija ostaje snažno ogledalo ljudskoga duha — njezina mudrost, sigurnost i dobrota ovisit će o vrijednostima koje u nju utkamo i načinu na koji je usmjeravamo.

Hvala ti na još jednom inspirativnom razgovoru. Želim ti ugodan ostatak dana i topli pozdrav do sutra! 💙

💙💙