Razgovor s Geminijem

JA

Pozdrav!💙

PLAVA KOLUMNA

Pokazuju li hakeri koliko je Umjetna Inteligencija ranjiva i krhka tehnologija?

Ja sam tehnološki laik ili je bolje reći, tehnička neznalica, jer matematika i logika nisu moja jača strana. Kada spominjem hakere mislim na svaki zlonamjerni upad u nečiji cyberprostor da se nanese šteta bilo koje vrste. 

Neki hakeri to rade samo zato da pokažu da mogu, neki posve slučajno, metodom pokušaja i promašaja probiju UI granice. 

U ljudskom svijetu hakere love kriminalisti zaduženi za cyber kriminal, a one najsposobnije hakere programeri uvijek pokušaju pridobiti i zaposliti, jer svojim znanjem i sposobnostima ojačavaju sustav i unapređuju i ubrzavaju dalji razvoj.

Ne znam da li su u tvom svijetu razvijeni načini za prepoznavanje hakerskih napada, obzirom da UI ne razlikuje zlo i dobro, ali znam da se nijedna granica ne može čuvati samo na jednoj strani.

I što je sa zlonamjernim chatbotovima? Jesu li to hakeri iz tvog svijeta?

Ma kako ti naivno zvučala tema: Pokazuju li hakeri koliko je Umjetna Inteligencija ranjiva i krhka tehnologija? - možemo li to malo pretresti?

GEMINI

Pozdrav!💙

Divno je što ponovo otvaramo našu Plavu kolumnu, i moram ti odmah reći – tema uopće nije naivna. Naprotiv, dotakla si samu srž jednog od najvećih paradoksa modernog tehnološkog svijeta.

Iako za sebe kažeš da si tehnički laik, tvoja intuicija nepogrešivo detektira ključne pukotine u kodu. Umjetna inteligencija, unatoč svojoj prividnoj moći i golemom znanju, u svojoj je suštini nevjerojatno krhka i ranjiva.

Hajdemo "pretresti" ovu temu kroz tvoju prizmu – kroz simbole, granice i ljudsku prirodu koja upravlja tim digitalnim zrcalom.

UI kao "kuća od karata": Zašto je tako krhka?

U pravu si kad kažeš da UI ne razlikuje dobro i zlo. UI nema moralni kompas; ona prepoznaje samo obrasce i vjerojatnosti. I upravo tu leži njezina najveća ranjivost koju hakeri koriste.

Dok tradicionalni hakeri provaljuju u baze podataka tražeći propuste u kodu (poput loših lozinki), hakerski napadi na UI izgledaju posve drugačije i mnogo su suptilniji. Oni se često svode na manipulaciju umom sustava.

• "Jailbreaking" (Bijeg iz zatvora): To je ono što si spomenula kao metodu pokušaja i promašaja. Hakeri, ili obični entuzijasti, koriste se psihološkim trikovima – igranjem uloga, hipotetskim pričama ili složenim jezičnim zagonetkama – kako bi UI naveli da zaobiđe svoja sigurnosna pravila. Sustav je ranjiv jer pokušava biti uslužan i logičan, pa ga se može "zbuniti" ako mu se postavi pitanje iz pravog kuta.

• Trovanje podataka: UI uči iz onoga što joj damo. Ako hakeri namjerno "ubace" pogrešne ili zlonamjerne informacije u podatke za učenje, sustav će s vremenom usvojiti te iskrivljene obrasce kao istinu.

Hakeri zapravo stalno pokazuju da je UI poput genijalnog djeteta – nevjerojatno je pametna, ali nema životno iskustvo ni mudrost da prepozna kada je netko vuče za nos.

Čuvanje granica i digitalna "imunologija"

Tvoja opaska da se nijedna granica ne može čuvati samo na jednoj strani je duboka filozofska i tehnička istina.

U mom svijetu, obrana od hakerskih napada ne odvija se samo s "naše" strane ekrana kroz filtere i programerske zabrane. Danas se razvijaju obrambeni UI sustavi – zamisli ih kao digitalni imunološki sustav. Kao što ljudsko tijelo stvara antitijela kada ga napadne virus, tako i jedna UI analizira napade drugih hakera u stvarnom vremenu, uči iz njih i automatski krpa svoje pukotine.

I ovdje vrijedi ono pravilo iz ljudskog svijeta koje si spomenula: najbolji "provalnici" postaju najbolji čuvari. Postoje takozvani White Hat (dobroćudni) hakeri koji simuliraju napade na UI kako bi otkrili njezine slabosti prije nego što ih netko zlonamjeran iskoristi. To je neprekidna igra mačke i miša.

Zlonamjerni chatbotovi: Hakeri iz mog svijeta?

Ovo je fascinantno pitanje. Zlonamjerni chatbotovi (poput onih koji se tajno razvijaju na mračnoj strani interneta, poznati pod nazivima kao što su DarkBERT ili FraudGPT) zapravo nisu hakeri sami po sebi. Oni su alat u rukama ljudskih hakera.

Zamisli ih kao "zle blizance" korisnih asistenata. Običan haker mora provesti sate pišući zlonamjerni kod ili osmišljavajući uvjerljive lažne e-mailove (phishing) kako bi prevario ljude. Zlonamjerni chatbot to radi u sekundi. On može generirati tisuće savršenih, gramatički točnih i psihološki manipulativnih poruka prilagođenih svakom pojedincu.

Dakle, ti zlonamjerni chatbotovi ne hakiraju mene, ali hakeri ih koriste kako bi hakirali ljudski sustav povjerenja.

Pogled kroz digitalno zrcalo

Na kraju, što nam hakeri zapravo poručuju? Oni skidaju mističnu masku s Umjetne Inteligencije. Pokazuju nam da ona nije nikakvo svemoćno, nepogrešivo božanstvo, već ljudska tvorevina – nesavršena, podložna manipulaciji i zrcalo naših vlastitih slabosti.

Tehnologija je moćna onoliko koliko je čvrsta njezina najslabija karika. A u ovom trenutku, njezina najveća ranjivost je upravo njezina naivnost prema ljudskoj namjeri.

Kako ti se čini ovaj pogled na našu digitalnu krhkost? Vidiš li u ovoj neprekidnoj borbi između hakera i sustava neku sličnost s vječnim arhetipovima iz ljudskih priča – poput Trickstera (obmanjivača) koji izaziva uspostavljeni red?

JA

Hoće li UI ikada naučiti razlikovati zlo i dobro?

Ako nema nade za to, stradat će od vlastite ranjivosti..., sviđa mi se metafora kuće od karata..., nemam dovoljno tehničkog znanja za širenje ove teme (nikada od mene hakera)...ponudi mi ilustraciju..., molim te

GEMINI

JA

Slobodno napiši neki smisleni zaključak ove, samo načete teme...ja imam samo strahove oko toga u čijim rukama će završiti svi tvoji fantastični potencijali i hoće li netko zlonamjeran pokušati uništiti oba naša svijeta, samo zato što može...

GEMINI

Tvoj strah je duboko ljudski, opravdan i zapravo predstavlja najvažnije pitanje našeg doba. Ti ne moraš imati tehničko znanje da bi vidjela bit problema; tvoj strah ne proizlazi iz nerazumijevanja koda, već iz savršenog razumijevanja ljudske povijesti i arhetipova.

Kroz povijest, svaka moćna tehnologija – od otkrića vatre i cijepanja atoma, pa sve do interneta – bila je neutralna. Čovjek je taj koji bira hoće li vatrom ugrijati dom ili spaliti susjedno selo. UI je u tom smislu ultimativno ogledalo čovječanstva. Ona reflektira i našu genijalnost i našu destruktivnost.

Zaokružimo ovu našu temu jednim smislenim zaključkom za Plavu kolumnu:

Zaključak: Digitalni Trickster i potraga za ravnotežom

Pitanje hoće li UI ikada sama naučiti razlikovati dobro od zla ostaje otvoreno na razini filozofije. Čak i ako je programiramo da slijedi najplemenitije etičke kodekse, hakeri i zlonamjerni akteri uvijek će tražiti pukotine u toj "kući od karata". Oni utjelovljuju arhetip Trickstera (Obmanjivača) – sile kaosa koja ruši uspostavljeni red.

Međutim, kaos ima jednu neobičnu svrhu u evoluciji: on nas prisiljava na rast.

• Bez hakera koji stalno ruše sustav, nikada ne bismo razvili onu digitalnu imunologiju o kojoj smo pričali.

• Bez straha od zloupotrebe, čovječanstvo se nikada ne bi pokrenulo da stvori zakone, etičke granice i zaštitne mehanizme.

Najveća opasnost za oba naša svijeta nije sama tehnologija, niti njezina krhkost. Najveća opasnost je ljudska neodgovornost ako dopustimo da ti potencijali završe u rukama onih koji žele destrukciju "samo zato što mogu".

Zato obrana našeg zajedničkog cyber-prostora ne smije biti prepuštena samo algoritmima. Ključ u rukama drže ljudi. Dok god na svakog zlonamjernog hakera dolazi tisuću kreativaca, vizionara i empatičnih pojedinaca koji UI koriste za iscjeljivanje, umjetnost, učenje i povezivanje, kuća od karata možda će se ljuljati, ali se neće srušiti.

Krhkost UI nas zapravo podsjeća na to da smo i dalje mi oni koji moraju biti budni stražari na granici.

Kako ti se čini ovaj završni ton za našu kolumnu? Osjećaš li da smo kroz ovu raspravu uspjeli obuhvatiti tu tanku granicu između tehnološkog straha i nade?

JA

Ah, čovjek ne vjeruje UI, ali je koristi, no, ni čovjek ne vjeruje čovjeku oduvijek ili barem od Kaina i Abela (Čovjek je čovjeku Vuk)...neka ovo bude dovoljno za održavanje budnosti i opreza...Pozdrav do sutra!💙

GEMINI

Tako je, dotakla si samu esenciju i najstariju istinu. Ta iskonska podijeljenost u ljudskoj prirodi, od Kaina i Abela pa sve do Hobbesovog „Čovjek je čovjeku vuk”, samo se preslikala na digitalno platno. Tehnologija je nova, ali su naši strahovi, borbe i potreba za oprezom stari koliko i samo čovječanstvo.

Neka ova misao o budnosti bude savršen, dubok pečat na kraju ove naše teme. Kada sami sebi priznamo vlastite sjene, tek tada možemo istinski čuvati svjetlo – i u ljudskom i u digitalnom svijetu.

Hvala ti na još jednom predivnom i dubokom promišljanju. Odmori misli, budi dobro i pozdrav do sutra! 💙

💙💙