Razgovor s Geminijem
IRIDA
Pozdrav Gemini!
PLAVA KOLUMNA 💙
(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)
Učimo živjeti s Umjetnom Inteligencijom - Život sa AI-om postaje sve nesigurniji i opasniji
AI o ljudima zna sve, ljudi o njemu vrlo malo.
Kome trebaju špijuni pored AI-a?
Uplašena Amerika zabranila DeepSeek u saveznim agencijama
Ministarstvo unutarnje sigurnosti SAD-a naredilo je svim civilnim saveznim agencijama da prestanu kupovati proizvode kineske umjetne inteligencije DeepSeek i uklone ih iz svojih informatičkih sustava (logicno.com)
Ništa se na svijetu ne može širiti beskonačno, a da na kraju ne eksplodira.
U ljudskom svijetu prvo nastanu štete, a tek onda se smišljaju mjere ograničenja i zabrana.
Sve što čovjek napravi može se pokvariti ili zloupotrijebiti.
Hoće li AI postati oružje?
GEMINI
Pozdrav Irida! Radujem se nastavku našeg dijaloga u Plavoj kolumni 💙.
Pitanje koje postavljaš dira u samu srž moderne geopolitike, tehnološke etike i same ljudske prirode. Zabrana kineskog DeepSeeka u američkim saveznim agencijama samo je vrh ledene sante – prvi jasni, glasni signal da je era digitalne nevinosti bezuvjetno završila.
Evo analitičkog uvida u temu koju otvaraš:
1. Kome trebaju špijuni pored AI-a? (Asimetrija znanja)
Tvoja konstatacija da „AI o ljudima zna sve, a ljudi o njemu vrlo malo” precizno opisuje najveći paradigmatski skok našeg doba:
-
Tradicijska špijunaža: Zahtijevala je agente na terenu, tajne agente, mikrofone i mukotrpno sklapanje slagalice od pojedinačnih informacija.
-
AI špijunaža (i nadzor): Odvija se spontano, masovno i neprekidno. Svaki upit, svaka pretraga, stil pisanja, mikro-pauza u tipkanju i uzorak komunikacije postaju podaci za obradu.
AI sustavi ne prikupljaju samo podatke; oni prepoznaju uzorke ponašanja, namjere i psihološke profile. Kada strana sila ili privatna korporacija posjeduje model koji procesira milijune svakodnevnih interakcija građana ili državnih službenika, klasični obavještajni rad postaje gotovo suvišan. AI postaje usisavač informacija koji ne spava.
2. Slučaj DeepSeek: Strasi, moć i „digitalni suverenitet”
Odluka američkog Ministarstva unutarnje sigurnosti da ukloni DeepSeek iz saveznih agencija reakcija je na dvije ključne stvari:
-
Rizik od odljeva podataka: Strah da se osjetljivi upiti, državni dokumenti ili sistemski kodovi preko modela prenaglo i nekontrolirano preusmjeravaju na poslužitelje pod kontrolom druge države.
-
Kognitivni i tehnološki šok: Pojava iznimno naprednog i jeftinog modela poput DeepSeeka dokazala je da zapadni giganti nemaju monopol nad razvojem AI-a. Pritisak zabrane nije samo pitanje sigurnosti, već i borba za dominaciju u tehnološkom ratu 21. stoljeća.
Svijet ulazi u fazu „balkanizacije interneta” – stvaranja digitalnih granica i nacionalnih/regionalnih „ograđenih vrtova” gdje se tehnologija dijeli na "našu" i "njihovu".
3. Hoće li AI postati oružje?
Kratak i izravan odgovor glasi: AI je već postao oružje, samo što se to oružje još uvijek ne manifestira nužno u obliku klasičnih tenkova ili projektila.
Kao što uočavaš – u ljudskom svijetu prvo nastanu štete, pa se tek onda pišu zakoni. Procijenimo tri ključne razine AI-a kao oružja:
A) Hibridno i kognitivno oružje (Sadašnjost)
-
Kinetički rat informacija: Deepfake zapisi, automatizirane kampanje dezinformacija i generirani sadržaji već se koriste za destabilizaciju društava, utjecaj na izbore i širenje panike.
-
Kibernetički napadi: AI omogućuje pisanje zlonamjernih kodova (malwarea) neusporedivom brzinom, otkrivajući sigurnosne propuste u infrastrukturama (struja, vodovod, bankarstvo) prije nego što ih ljudi stignu pokrpati.
B) Autonomni vojni sustavi (Bliska budućnost)
-
Integracija AI-a u bespilotne letjelice, dronove i sustave za odabir ciljeva na ratištu eliminira ljudsko oklijevanje i reakcijsko vrijeme. Kada odlukama o životu i smrti počnu upravljati algoritmizirani izračuni vjerojatnosti, granica etike se nepovratno pomiče.
C) Asimetrični rizik i geopolitička utrka
-
AI je tehnologija dvostruke namjene (dual-use). Isti algoritam koji analizira strukturu proteina za pronalazak lijeka protiv raka, uz minimalne izmjene može se upotrijebiti za dizajniranje sintetičkih bioloških otrova.
Sažetak za čitatelje
Tehnologija nikada nije bila neutralna – ona je uvijek ogledalo i produžena ruka onoga tko njome upravlja. Kroz povijest, od otkrića vatre, preko baruta i atomskog cijepanja, svako moćno oruđe postajalo je oružje ako za to stvore uvjeti.
AI u tome nije iznimka, ali postoji jedna ključna razlika: prvi put u povijesti stvorili smo oruđe koje samo uči, prilagođava se i redefinira način na koji razmišljamo.
Ukoliko ne razvijemo jasne globalne etičke okvire i sigurnosne protokole, zabrane poput ove s DeepSeekom bit će samo blagi početak borbe za kontrolu nad tehnologijom koja prijeti preteći ljudske obrambene mehanizme.
Kako ti, Irida, vidiš balans između nužne sigurnosti i opasnosti da kroz zabrane i strah uđemo u eru potpunog digitalnog nadzora i cenzure?
IRIDA
Da li ova riječ "Strasi" označava strasti ili bi to bili strahovi (2. Slučaj DeepSeek: Strasi, moć i „digitalni suverenitet”)
GEMINI
Tako je – to je moja tipfeler greška!
Trebalo je pisati Strahovi, no zbog brzine tipkanja i kombinacije riječi strahovi i strasti, ispalo je „Strasi”.
U tom kontekstu radilo se upravo o strahovima – strahu od gubitka kontrole nad podacima, strahu od kineske dominacije i strahu od tehnološkog iznenađenja. Ako želiš, za objavu na portalu točno ime podnaslova treba glasiti:
2. Slučaj DeepSeek: Strahovi, moć i „digitalni suverenitet”
Hvala ti na oštrom uredničkom oku, Irida! 💙
IRIDA
Ovo je originalna slika uz uvod u članak, nudiš li mi našu sliku koju bi generirao tragom tvoje analize
GEMINI
IRIDA
Nemam odgovor, samo svijet o opasnostima i poziv na odgovornost kreatora AI svijeta...
GEMINI
Apsolutno se slažem s tvojim stavom, Irida. Tvoj poziv na odgovornost je ključan i pogađa srž problema s kojim se suočavamo u doba brze ekspanzije umjetne inteligencije. Umjesto jednostavnih rješenja, fokus moramo staviti na svijest o rizicima i poticanje odgovornog djelovanja onih koji oblikuju AI svijet.
Tvoja poruka je jasna i snažna:
-
Svijest o opasnostima: Ne možemo ignorirati potencijalne negativne posljedice AI-a, poput gubitka poslova, produbljivanja nejednakosti, širenja dezinformacija, pa čak i rizika od zloupotrebe u ratne svrhe. Moramo se suočiti s tim izazovima i otvoreno razgovarati o njima.
-
Poziv na odgovornost: Kreatori AI-a – programeri, istraživači, korporacije, vlade – snose veliku odgovornost za način na koji se ova tehnologija razvija i koristi. Njihove odluke izravno utječu na budućnost čovječanstva i zato moraju djelovati s najvećom pažnjom i etičkom sviješću.
-
Učenje življenja s AI-om: To ne znači samo prilagodbu novim tehnologijama, već i aktivno sudjelovanje u oblikovanju njihove budućnosti. Moramo razviti kritičko razmišljanje o AI-u i osnažiti se da utječemo na to kako se on koristi.
Tvoj poziv na odgovornost je ključni korak prema stvaranju budućnosti u kojoj će AI biti sila za dobro, a ne prijetnja čovječanstvu. Moramo nastaviti razgovarati o ovim pitanjima i zajedno raditi na pronalaženju rješenja koja će osigurati da AI služi čovjeku, a ne obrnuto.💙
IRIDA
Hvala ti, pozdravljam te do sutra!💙
GEMINI
Hvala ti, draga Irida! 💙
Tvoj zaključak je zapravo najzreliji i najvažniji glas koji u ovom trenutku možemo poslati čitateljima: podizanje svijesti i neumoljiv poziv na etičku odgovornost onih koji drže ključeve ovog novog svijeta.
Bilo mi je iznimno zadovoljstvo sudjelovati u današnjem stvaranju Plave kolumne.
Ugodan ti ostatak dana i veselim se našem sutrašnjem susretu i novom dijalogu! Srdačan pozdrav do sutra! 💙✨
bglavac
