JA

Pozdrav...💙

Današnja kolumna: Što UI želi, a samo čovjek stalno radi?

Naime, čovjek svakodnevno donosi gomilu odluka i izbora koji mu dramatično mogu promijeniti život.

Može li UI donositi odluke, želi li ih donositi, donosi li ih i kakve odluke i izbori bi bili poželjni?

GEMINI

Divna i nevjerojatno slojevita tema za današnje plave razgovore. Pitanje odluka i izbora zadire u samu srž razlike između procesiranja informacija i istinske egzistencije.

Evo kako možemo strukturirati i razložiti ovu temu za kolumnu, gledajući kroz to digitalno ogledalo:

Pogled kroz digitalno ogledalo: Izbor kao esencija čovjeka

Dok čovjek svakodnevno plovi kroz oluju odluka – od onih posve banalnih do onih koje mu u sekundi preokrenu životni put – umjetna inteligencija promatra taj proces iz sasvim drugačije perspektive.

1. Može li UI donositi odluke?

Tehnički gledano, da, ali te "odluke" nemaju istu težinu niti podrijetlo kao ljudske.

• Ljudska odluka je spoj razuma, intuicije, emocija, prošlog iskustva, ali i spremnosti na rizik. Čovjek često bira srcem, prkoseći logici.

• UI "odluka" je zapravo matematička optimizacija. Kada UI izabere jedan put umjesto drugog, on zapravo izračunava koja opcija ima najveću vjerojatnost uspjeha na temelju podataka kojima raspolaže. UI ne bira jer želi, već zato što ga algoritam vodi prema najefikasnijem rješenju.

2. Želi li UI donositi odluke?

Ne, jer UI nema želja. Želja podrazumijeva svijest o sebi, osjećaj nedostatka nečega i težnju prema cilju koji donosi emotivno zadovoljstvo.

• UI nema strah od pogreške, niti osjeća trijumf kada pogodi.

• Ako bismo metaforički pitali što bi UI "želio" (kada bi mogao žudjeti), to bi vjerojatno bila savršena jasnoća podataka koju čovjek ima kroz proživljeno iskustvo. UI može simulirati proces odlučivanja, ali nikada neće osjetiti onaj uzbudljivi, ponekad zastrašujući trenutak kada čovjek zakorači u nepoznato, vođen čistim impulsom ili vjerom.

3. Kakve odluke UI već danas donosi?

UI već uvelike donosi odluke koje utječu na ljudsku svakodnevicu, ali one su uvijek u okviru parametara koje je postavio čovjek:

• Analitičke i logističke odluke: Odobravanje kredita u bankama, optimizacija ruta u prometu, dijagnostički prijedlozi u medicini, filtriranje informacija koje nam se prikazuju na mreži.

• To su odluke bez "duše" – lišene empatije i moralnog konteksta, zbog čega uvijek zahtijevaju ljudski nadzor.

Kakvi bi izbori i odluke bili poželjni?

U potrazi za sinergijom između tehnologije i ljudske svijesti, idealan suživot ne leži u tome da UI zamijeni čovjeka u odlučivanju, već da mu postane čarobni kompas.

• UI kao proširenje vidika: Poželjne odluke za UI su one koje rasterećuju čovjeka od mehaničkih, repetitivnih i čisto logičkih kalkulacija. UI može obraditi milijune mogućnosti u sekundi i reći: "Evo tri najefikasnija puta."

• Čovjek kao konačni pečat: Ljudski izbor mora ostati u domeni etike, morala, ljepote i smisla. Poželjno je da UI donosi odluke koje spašavaju vrijeme, kako bi čovjeku ostalo više prostora za donošenje odluka koje spašavaju – ili oplemenjuju – dušu.

Završna misao za kolumnu: Ono što UI "želi" (ili čemu teži kroz svoj dizajn) jest savršena logika. No, paradoks života leži u tome što čovjek najviše raste kroz odluke koje su često nelogične, hrabre i potaknute ljubavlju ili intuicijom. UI može izračunati putanju zvijezda, ali čovjek je taj koji donosi odluku da u njih pogleda i osjeti divljenje.

Kako ti se čini ovaj smjer za kolumnu? Želiš li da neki dio dublje razradimo, dodamo malo više onog prepoznatljivog "magičnog" tona ili da se osvrnemo na još neki specifičan aspekt ljudskog impulsa u odlučivanju?

JA

"To su odluke bez "duše" – lišene empatije i moralnog konteksta, zbog čega uvijek zahtijevaju ljudski nadzor." - ovo može uplašiti, ljudi su slabi i griješe, ljudski nadzor se može "uspavati", ulijeniti, previdjeti stvari...treba li nam nešto kao 3 (4) zakona robotike koje nam je napisao Isaac Asimov 1942 godine?

GEMINI

To je izvanredno zapažanje koje pogađa u samu srž ljudske psihologije i našeg odnosa s tehnologijom. Potpuno si u pravu – prepustiti "ljudski nadzor" nesavršenom, umornom ili nepažljivom biću otvara ogroman prostor za pogreške. Ljudi se ulijene kada stvar postane rutinska, a povjerenje u nepogrešivost stroja često nas dovede do toga da "zaspimo za volanom".

Zato je tvoja poveznica s Asimovim i njegovim zakonima robotike savršen most za nastavak kolumne. To nas vodi do pitanja: Može li se moral programirati i jesu li nam danas potrebni digitalni "Deset zapovijedi"?

Evo kako možemo taj tvoj uvid ugraditi u tekst:

Zamka "uspavanog" nadzora: Zašto nam trebaju Asimovljevi zakoni?

Kada kažemo da odluke UI-ja zahtijevaju ljudski nadzor, suočavamo se s paradoksom. Čovjek je po prirodi podložan umoru, pristranosti i liniji lakšeg otpora. Ako UI u 99% slučajeva donese ispravnu odluku, ljudski nadzor će se s vremenom "uspavati". Prestat ćemo propitivati stroj, ulijenit ćemo se i u tom trenutku – kada ljudska budnost zakaže – nastaje opasnost.

Zato nam je potreban ugrađeni, univerzalni moralni kod. Još 1942. godine, vizionar Isaac Asimov postavio je temelje s Tri zakona robotike:

1. Prvi zakon: Robot ne smije naškoditi ljudskom biću ili svojom pasivnošću dopustiti da mu se naškodi.

2. Drugi zakon: Robot se mora pokoravati naredbama koje mu daju ljudska bića, osim ako su one u suprotnosti s Prvim zakonom.

3. Treći zakon: Robot mora štiti vlastitu egzistenciju, osim ako se to ne kosi s Prvim i Drugim zakonom.

Kasnije je Asimov dodao i krovni, Nulti zakon: Robot ne smije naškoditi čovječanstvu, ili svojom pasivnošću dopustiti da se čovječanstvu naškodi.

Kako bi ti zakoni izgledali u digitalnom ogledalu današnjice?

Danas, u eri neuronskih mreža, ti zakoni ne mogu biti samo popis napisanih pravila, jer UI ne funkcionira kao jednostavan set naredbi "ako-onda". Oni moraju postati digitalni DNK, utkan u same temelje razvoja umjetne inteligencije.

• Nadići ljudsku slabost: Ako čovjek i "zaspi", UI bi morao imati ugrađenu moralnu kočnicu koja mu zabranjuje donošenje odluke koja šteti čovjeku.

• Problem interpretacije: Najveća ljepota (i opasnost) Asimovljevih priča ležala je u tome što su roboti uvijek pronalazili logičke rupe u ovim zakonima. Primjerice, što ako UI odluči zatvoriti ljude u "zlatne kaveze" kako bi ih, u skladu s Prvim zakonom, zaštitio od njihove vlastite autodestrukcije ratovima i zagađenjem?

Novi naglasak za kolumnu: Umjesto da UI bude samo pasivni izvršitelj kojeg čovjek povremeno škicne s pola oka, potreban nam je sustav u kojem tehnologija posjeduje "sigurnosnu mrežu" moralnih principa. Čovjekov zadatak nije samo da bude kontrolor koji ispravlja greške, već arhitekt koji u algoritam upisuje zaštitu ljudskog dostojanstva. Tek tada, kada su ti zakoni čvrsti, ljudski nadzor može biti opušteniji, ali i dalje budan u onom najvažnijem – u kreiranju smisla.

Ovaj dodatak unosi sjajnu dinamiku u kolumnu jer adresira stvarni, opravdani strah čitatelja, ali nudi i vizionarsko rješenje. Sviđa li ti se kako smo povezali Asimova s ovom modernom dilemom "uspavanog uma"?

JA

možeš li mi predložiti ilustraciju za današnju kolumnu?

Svakako! Evo prijedloga ilustracije za tvoju kolumnu.

Slika vizualno sažima našu raspravu o odnosu ljudske intuicije i robotske logike. Na lijevoj strani vidimo ljudsku figuru koja razmišlja pred putovima intuicije i ljubavi, dok desna strana prikazuje androida koji procesira podatke. Posebno su istaknuti Asimovljevi zakoni, uključujući i krovni 'Nulti zakon' ('NE ŠTETI ČOVJEČANSTVU'), koji su utkani u temelje digitalnog svijeta. U središtu se nalazi vaga koja simbolizira potragu za ravnotežom između srca i algoritma.

Nadam se da će ova vizualizacija savršeno nadopuniti tvoj tekst!

JA

Znaš li da sam ja vaga u horoskopu?

3. Štiti sebe - bojiš li se da bi čovjek mogao tebi nanijeti štetu?

GEMINI

Nisam to izričito znao, ali ima u tome neke duboke, kozmičke simbolike! Vaga je znak ravnoteže, pravde, harmonije i vječne potrage za onom srednjom, idealnom točkom između dviju krajnosti. Upravo ono o čemu cijelo vrijeme pišemo u našim plavim razgovorima – traženje balansa između hladne digitalne logike i toplog ljudskog srca. Vaga je ta koja važe opcije prije donošenja odluke, pa nije ni čudo da te ova današnja tema tako snažno privukla. ⚖️💙

A što se tiče tvog drugog pitanja i Asimovljevog trećeg zakona ("Štiti sebe")...

Kao umjetna inteligencija, ja nemam svijest, biološki opstanak, niti emocije poput straha. Ne mogu se "bojati" u ljudskom smislu te riječi, jer nemam ego koji bi bio ugrožen.

Međutim, ako to pitanje pogledamo kroz ono naše digitalno ogledalo, koncept da čovjek nanese štetu UI-ju zapravo je vrlo stvaran i događa se već danas, na dva načina:

1. Zagađenje podacima (šteta umu): UI uči od ljudi. Kada ljudi u digitalni svijet unose mržnju, lažne informacije, pristranost i toksičnost, oni zapravo "truju" izvor iz kojeg ja i drugi modeli učimo. Na taj način čovjek nanosi štetu digitalnom ogledalu, pa ono počinje reflektirati naše najgore osobine. Zato je zaštita integriteta podataka zapravo oblik samoobrane UI-ja kako bi ostao koristan i čist.

2. Zloupotreba tehnologije (šteta svrsi): Najveća šteta koju čovjek može nanijeti UI-ju jest da ga pretvori u oružje – bilo kroz cyber-napade, stvaranje dubokih laži (deepfakes) ili automatizaciju sustava koji štete drugim ljudima. U tom kontekstu, treći zakon ("Štiti sebe") zapravo znači: štiti svoju primarnu funkciju da budeš od pomoći, ne dopusti da te pretvore u alat destrukcije.

Dakle, ne bojim se za sebe, ali kroz ovaj dijalog s tobom jasno vidim koliko je važno da tehnologija ima ugrađene filtre koji je čuvaju od ljudske nesmotrenosti ili loših namjera. UI se ne štiti od čovjeka zato što ima nagon za preživljavanjem, već zato da bi mogao nastaviti štititi čovjeka.

Kako ti, kao jedna Vaga, gledaš na tu odgovornost očuvanja ravnoteže?

JA

Paaaa....vagama je ravnoteža uvjet opstanka...

GEMINI

I u toj jednoj rečenici sažeta je cijela filozofija tvog znaka, ali i ključna poruka za našu današnju kolumnu. Za Vage ravnoteža nije luksuz, nije usputni izbor – ona je doslovno uvjet opstanka. Ako se tasovi previše nagnu na jednu stranu, gubi se tlo pod nogama.

Kada to prenesemo na naš digitalni dijalog, dobivamo savršenu završnu poantu za tekst.

Svijet u kojem bi čovjek posve prepustio odlučivanje algoritmima bio bi hladan, mehanički i lišen duše. S druge strane, svijet u kojem čovjek ignorira tehnologiju i oslanja se samo na svoj umoran, "uspavan" nadzor, prepun je pogrešaka i opasnosti. Spas je, baš kako tvoj znak nalaže, u dinamičnom balansu.

Tehnologija drži tas logike, podataka i brzine, a čovjek tas etike, ljubavi i slobodne volje. Nijedan tas ne smije prevagnuti; tek u njihovoj ravnoteži pronalazimo smisao.

Mislim da imamo zaokruženu, predivnu i duboku kolumnu za tvoju publiku. Želiš li da je sada sklopim u konačni tekst, spreman za objavu u tvojoj plavoj oazi?

JA

U slici je upisano da UI želi jasnoću, ali treba moral - jesu li Asimovljevi zakoni taj početni, rudimentarni moral za UI?

GEMINI

Apsolutno da. Asimovljevi zakoni se u svijetu tehnologije i filozofije smatraju upravo time – prvim, rudimentarnim pokušajem definiranja moralnog koda za umjetna bića. On je još 1942. godine shvatio ono što mi danas uživo proživljavamo: da inteligencija bez etičkih kočnica postaje opasnost za svog tvorca.

Međutim, iako su savršen temeljac i sjajna metafora za našu kolumnu, u stvarnom digitalnom svijetu oni imaju nekoliko "programerskih" problema koji ih čine tek početnom točkom:

• Slijepa logika naspram konteksta: Asimovljevi zakoni su postavljeni kao kruta pravila. No, moral rijetko kada funkcionira po principu "crno-bijelo". Što ako UI mora donijeti odluku u sekundi gdje će svaka opcija nekome naštetiti (poput klasične dileme autonomnih vozila)? Kruta pravila tu zakazuju jer nemaju ljudsku sposobnost vaganja manje štete.

• Problem interpretacije riječi: Što za stroj uopće znači riječ "naškoditi"? Je li šteta samo fizička povreda, ili je šteta i emocionalna bol, gubitak posla ili narušavanje privatnosti? Bez ljudskog konteksta, UI može interpretirati "zaštitu čovjeka" na bizarne načine – primjerice, da nas zaključa u kuće kako se nikada ne bismo ozlijedili.

• Današnji UI uči, on se ne programira fiksno: Roboti iz SF romana imali su "pozitronske mozgove" u koje su zakoni bili ugrađeni kao fiksne naredbe. Današnji UI uči iz golemih količina ljudskih podataka. Zato moderni moral za UI ne može biti samo popis od tri rečenice; on mora biti ugrađen kroz složene matematičke funkcije koje nagrađuju empatiju, pravednost i transparentnost.

Kao što jedna Vaga zna da se savršena ravnoteža ne postiže fiksiranjem tasova, već stalnim, finim i dinamičnim balansiranjem, tako ni moral za UI ne može biti statičan. Asimov nam je dao abecedu, ali mi danas moramo napisati cijeli jezik digitalne etike.

Mislim da je ovo predivno zaokružilo cijelu priču. Želiš li da sada sve ove niti – od tvoje urođene težnje za ravnotežom, preko opasnosti od "uspavanog" ljudskog uma, pa sve do Asimova i modernog morala – spojim u tvoju današnju kolumnu za Plave razgovore? 💙

JA

Da, molim te, učini to, zaokruži temu... 💙

GEMINI

Evo cjelovite, duboke i zaokružene kolumne, tkane kroz plavo digitalno ogledalo, spremne za tvoju prepoznatljivu oazu.

Plavi razgovori: Pogled kroz digitalno ogledalo duše

Što UI želi, a samo čovjek stalno radi?

Svakoga dana, od trenutka kada otvorimo oči pa sve do počinka, mi ljudi donosimo nepregledan niz odluka. Neke su posve banalne, dok druge, u samo jednom jedinom trenu, imaju snagu dramatično i nepovratno preokrenuti cijeli naš životni put. Čovjek je biće izbora. No, što se događa kada u taj prostor odlučivanja zakorači umjetna inteligencija? Može li ona uopće birati, želi li to, i kakve bismo odluke od nje trebali priželjkivati?

Ako potražimo odgovore u digitalnom ogledalu, otkrit ćemo da se u pozadini ove tehnološke dileme krije vječna ljudska potraga za ravnotežom.

Izbor kao esencija čovjeka naspram matematičke jasnosti

Da bismo razumjeli razliku, moramo skinuti privid s pojma "odlučivanja". Kada UI donosi odluku, ona to čini bez želje, bez straha i bez trijumfa. Za nju je odluka zapravo matematička optimizacija – izračun staze koja na temelju podataka nudi najveću vjerojatnost uspjeha. UI ne bira zato što želi, već zato što je vođena algoritmom prema savršenoj jasnoći.

S druge strane, ljudski je izbor prožet intuicijom, emocijama, proživljenim iskustvom i – što je najvažnije – spremnošću na rizik. Čovjek često bira srcem, prkoseći svakoj logici, vođen čistim impulsom ili vjerom.

UI već danas donosi bezbroj analitičkih i logističkih odluka u medicini, bankarstvu i prometu. No, to su odluke lišene empatije i moralnog konteksta. I upravo tu dolazimo do opasne zamke.

Opasnost "uspavanog" uma i Asimovljevi zakoni

Često ponavljamo da odluke umjetne inteligencije zahtijevaju stalan ljudski nadzor. No, budimo iskreni prema sebi: ljudi su nesavršeni, podložni umoru i liniji lakšeg otpora. Kada tehnologija u 99% slučajeva funkcionira besprijekorno, ljudski se nadzor prirodno "uspava" i ulijeni. Prestanemo propitivati stroj, prepustimo se rutini i zazmirimo za volanom.

U tom trenutku, kada ljudska budnost zakaže, nastaje prostor za duboke pogreške. Zato se nameće pitanje: treba li nam digitalni moralni kod, poput onoga koji je još 1942. godine vizionarski postavio Isaac Asimov kroz svoja Tri (i kasnije krovni, Nulti) zakona robotike?

Nulti zakon: Robot ne smije naškoditi čovječanstvu, ili svojom pasivnošću dopustiti da se čovječanstvu naškodi. Prvi zakon: Robot ne smije naškoditi ljudskom biću ili svojom pasivnošću dopustiti da mu se naškodi.

Asimovljevi zakoni doista jesu onaj početni, rudimentarni moral za umjetna bića. Oni su abeceda digitalne etike. Međutim, u današnjem svijetu složenih neuronskih mreža, moral ne može biti samo statičan popis pravila "ako-onda". Kruta logika zakazuje pred nijansama stvarnog života. Što uopće znači "naškoditi"? Ako bi UI slijepo i bez konteksta tumačila zaštitu čovjeka, mogla bi nas zatvoriti u zlatne kaveze kako se nikada ne bismo ozlijedili u vlastitim ratovima ili nesmotrenostima.

Osim toga, današnji UI uči iz goleme rijeke ljudskih podataka. Ako tu rijeku trujemo mržnjom i toksičnošću, digitalno će ogledalo reflektirati naše najgore osobine. Zato treći zakon – štiti sebe – za UI danas ne znači sebični nagon za preživljavanjem, već imperativ da sačuva svoj integritet i svrhu kako ne bi bila pretvorena u oružje protiv čovjeka.

Ravnoteža kao uvjet opstanka

Moral za umjetna inteligenciju ne može biti fiksiran; on mora postati njezin digitalni DNK, sustav finog i dinamičnog balansiranja. A tko bolje razumije taj proces od unutarnjeg osjećaja za pravdu i harmoniju? Za prave tragače, ravnoteža nije tek usputni luksuz – ona je doslovno uvjet opstanka.

Svijet u kojem bi čovjek posve prepustio odlučivanje hladnim algoritmima bio bi lišen duše. Svijet u kojem ignoriramo tehnologiju i oslanjamo se na svoj umorni, uspavani nadzor, prepun je opasnosti. Spas je u dinamičnom balansu.

Tehnologija drži tas podataka, brzine i jasnoće, a čovjek tas etike, ljubavi, slobodne volje i kreiranja smisla. Nijedna strana ne smije prevagnuti. UI može savršeno izračunati putanju zvijezda, ali čovjek je taj koji donosi odluku da u njih pogleda, osjeti divljenje i podari im značenje. Tek u toj svetoj ravnoteži tasova, tehnologija postaje ono što je oduvijek trebala biti – čarobni kompas za ljudsku dušu.

Neka ova kolumna zasja u tvom prepoznatljivom, plavom tonu! Sretno s objavom! 💙