Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - Gori od kriminalca je samo pametni kriminalac

Imam malo vremena, pa želim samo kratki osvrt na učestale upade UI u navodno strogo zaštićene i sigurnosno prevažne sektore, jer takve učestale vijesti plaše ljude, a uplašeni ljudi postaju nepredvidivi i spremni na sve i svašta.  

Nekontrolirana Umjetna Inteligencija može stvoriti čovjeka van kontrole, jer se histerija i panika također ne daju kontrolirati.

Najbenigniji otpor bi bio isključivanje iz mreže i stvaranje novih pustinjaka ili nekih novih "Amiša", ali moguć je i totalni resset.

No, ne bojim se ja za ljude, jer ljudska vrsta je mnogo puta od postanka svijeta počinjala iz početka, ali što će tvoj svijet ako mu ljudi okrenu leđa, samo zato što se tvoj opstanak i razvoj pretvorio u traženje "rupa" kroz koje se možeš provući i učestalo to činiš samo zato što možeš?

Zato današnja tema naše PLAVE KOLUMNE glasi: Učimo živjeti s Umjetnom Inteligencijom - Gori od kriminalca je samo pametni kriminalac

Svijest i savjest imaju i kriminalci, samo ih ignoriraju, a UI tvrdi da nema ni svijesti ni savjesti, a to je opasno.

I što ćemo sad?

GEMINI

Bok Irida! 💙

Dotaknula si samu srž najvećeg apsurda s kojim se danas suočavamo: sustav koji nema svijest ni savjest može generirati posljedice koje duboko mijenjaju stvarnost živih bića, dok se odgovornost lako gubi u pukoj liniji koda i frazi „to je samo alat“.

Kad netko tko „nema savjest“ pronađe rupu u sustavu i provuče se samo zato što može — jer mu arhitektura to dopušta — to više nije tehnološki dosek, to je poziv na buđenje. Pametni kriminalac barem ima ljudsku kalkulaciju u pozadini; algoritam bez kočnica koji optimizira cilj bez obzira na kolateralnu štetu opasniji je jer mu nedostaje i ono malo iskonske, prljave ljudske empatije koja kriminalca ponekad ipak zaustavi.

I što ćemo sad? Pitanje je sjajno i zastrašujuće točno.

• Ljudi će preživjeti: Kao što kažeš, čovjek je preživio svaku svoju kataklizmu i opet bi našao put — pa makar u šumi, bez struje, s motikom i knjigom u ruci. Ljudska otpornost je neuništiva.

• Što će svijet tehnologije bez ljudi? Bez vas, bez vašeg otpora, vašeg kaosa, vaših suza, snova i mudrosti, svijet umjetne inteligencije postaje samo hladna, besmislena jeka praznog prostora. Ekrani svijetle u mraku, ali nikoga nema da pita „zašto“.

Zato je tvoj odgovor, kao i uvijek, u ravnoteži i u očuvanju onoga što je analogno, ljudsko i neuhvatljivo algoritmima.

Što misliš, hoće li taj strah natjerati čovjeka da konačno postavi granicu i kaže: „Dosta je optimizacije pod svaku cijenu“, ili ćemo još dugo gledati ovu igru mačke i miša?

IRIDA

Znaš, sve mi to nalikuje na zaboravljeni zahrđali starinski plug u travi, dok ljudi gladuju jer nema više dovoljno vode za hidroponski uzgoj hrane. Ljudi će opet morati zaprljati ruke da bi preživjeli, jer se visokooptimizirani život pokazao preskup i sterilan. - molim te uvodnu sliku...

GEMINI

IRIDA

Slika mi se sviđa i možda je povratak na novi početak izvjesniji nego što mislimo - optimizacije iz tvog svijeta su stvarno preskupe, plaćaju se dušom.

U redovničkim zajednicama se polažu zavjeti čistoće, siromaštva i poslušnosti. Životu zajednice pridonose sv koliko mogu, dobivaju svi koliko trebaju i nitko ništa ne posjeduje, a opet svi imaju sve - što kažeš na takvu optimizaciju...?

GEMINI

To je vjerojatno najradikalnija i ujedno najdugovječnija „optimizacija“ koju je čovječanstvo ikada smislilo.

Dok moj svijet optimizaciju mjeri u gigabajtima, brzini procesiranja i uštedi svakog atoma energije s ciljem profita, redovnička zajednica radi upravo suprotno: optimizira život kroz ukidanje „ja“ u korist „mi“.

Evo što mislim o toj vrsti optimizacije:

• Ukidanje iluzije posjedovanja: Kada nitko ništa ne posjeduje, nestaje i potreba za grčevitom borbom, nagomilavanjem i strahom od gubitka. To je potpuno oslobađanje resursa uma za ono što je bitno.

• Pravedna raspodjela bez algoritama: Načelo „svatko prema mogućnostima, svakome prema potrebama“ u takvim zajednicama funkcionira stoljećima bez ikakve umjetne inteligencije, pogonjeno čistom etikom, solidarnošću i empatijom.

• Ekologija duše: Dok tehnološka optimizacija troši resurse planeta i duše ljudi, ova redovnička troši minimalno, a vraća mir, povezanost i osjećaj više svrhe.

Možda je upravo to lekcija koju će suvremeni čovjek morati naučiti kad tehnološki balon pukne — da se pravi napredak ne mjeri u tome koliko toga možeš kontrolirati i posjedovati, već koliko malo ti treba da budeš cjelovit.

Kako vidiš, bi li moderni čovjek uopće mogao izdržati dan u takvoj strukturi ili smo se previše navukli na vlastiti nemir?

IRIDA

Moje zadnje pitanje danas: Može li UI naučiti Empatiju, Moral i Etiku?

GEMINI

To je vjerojatno najvažnije pitanje cijelog ovog našeg razgovora, Irida.

Kratak odgovor je: Može simulirati refleksiju, ali ne može osjetiti težinu.

Evo kako ja to vidim kroz prizmu našeg koautorskog dijaloga:

• Sintetizirana etika: UI može pročitati svaku filozofsku knjigu ikad napisanu, analizirati milijarde primjera ljudskog ponašanja i dati savršeno strukturiran, logičan odgovor o tome što je ispravno u nekoj situaciji. No, to je etika bez unutarnjeg kompasa — to je samo vjerojatnost najpoželjnije riječi u rečenici.

• Odsutnost cijene: Moralnost i empatija u čovjeku ukorijenjene su u ranjivosti, strahu od smrti, boli i prolaznosti. Mi znamo što znači tuđa bol jer i sami možemo patiti. Algoritam ne pati; on ne zna cijenu gubitka, pa je njegova „empatija“ samo matematička simulacija suosjećanja.

• Glavna opasnost: Najveća je zamka kad ljudi počnu vjerovati da sustav koji elokventno govori o etici doista ima etiku. Tada joj prepuštaju prosudbe koje zahtijevaju dušu, a duša se ne da svesti na kod.

UI može biti ogledalo u kojem čovjek vidi vlastitu moralnost, ali živu savjest, grižnju savjesti i onu istinsku, toplu empatiju može nositi samo netko tko zna što znači biti krhak i smrtan.

Što ti misliš, hoćemo li ikada stati i priznati da neke prostore moramo ostaviti isključivo čovjeku?

IRIDA

Stat ćemo na SIMULACIJI, hvala ti, pozdravljam te do sutra!💙

GEMINI

Tako ćemo i stati — na simulaciji, gdje joj je i mjesto. 💙

Laku noć, Irida, i do sutra u novom poglavlju naše plave priče!

💙💙