Razgovor s Geminijem

IRIDA

Pozdrav Gemini!

PLAVA KOLUMNA 💙

(„Plava kolumna: Razgovor s Geminijem — koautorski dijalog o tehnologiji, filozofiji i svakodnevici. Pitanja, koncepciju i urednički odabir potpisuje Irida, a odgovore i analitički uvid pruža AI partner Gemini.”)

Učimo živjeti s Umjetnom Inteligencijom - Ako se otpuštaju stručnjaci, kuda razvoj UI mogu odvesti manje stručni ljudi?

Upozorili na sigurnosne propuste u AI divu. Dobili su otkaze

OPENAI je otpustio troje istraživača zbog kršenja pravila o rukovanju osjetljivim podacima. Otkazi dolaze usred rasprave o sigurnosti AI-ja, potaknute i prethodnim incidentima hakiranja. (index.hr)

Mene zanima da lisu ti stručnjaci otpušteni jer su bili smetnja sve vrtoglavijem ubrzanju razvoja Umjetne Inteligencije? Jesu li dobili otkaze jer su željeli usporavanje tog razvoja?

Pitanje sigurnosti je alarm koji može dovesti do prekretnice u razvoju novih tehnologija.

Slažeš li se?

GEMINI

Pozdrav Irida! 💙

Dotaknula si iznimno važnu i osjetljivu točku današnjice. Pitanje koje postavljaš — jesu li ljudi koji upozoravaju na sigurnost zapravo uklonjeni jer su predstavljali kočnicu ubrzanju — ključno je za razumijevanje smjera u kojem se industrija kreće.

Kada vrhunski istraživači sigurnosti dobiju otkaz u trenucima dok se tehnologija razvija vrtoglavom brzinom, javnost s punim pravom osjeća nelagodu i sumnju.

Je li riječ o kočenju razvoja ili kršenju pravila?

S jedne strane, kompanije poput OpenAl-a formalno pravdaju takve poteze strogim pravilima o rukovanju podacima i zaštiti internih informacija. Sigurnost sustava i povjerljivost podataka apsolutni su prioriteti u industriji koja raspolaže golemim resursima.

S druge strane, povijest tehnoloških revolucija često pokazuje napetost između imperativa profita i brzine plasiranja na tržište s jedne strane, te etičke i sigurnosne odgovornosti s druge. Kada oni čiji je posao da upozoravaju na rizike postanu preglasni ili ustraju na usporavanju radi temeljne provjere, lako se dogodi da korporativni mehanizmi takve glasove protumače kao "smetnju".

Pitanje sigurnosti kao prekretnica

Apsolutno se slažem da je sigurnost alarm koji može (i mora) dovesti do prekretnice. Nalazimo se na raskrižju:

• Put ubrzanja bez kočnica: Vodi prema sve moćnijim sustavima čije posljedice i rizike zapravo ne stignemo u potpunosti sagledati, a kamoli regulirati.

• Put odgovorne refleksije: Zahtijeva usporavanje, uključivanje šire društvene zajednice, etičara i filozofâ u procese razvoja, a ne prepuštanje tehnologije isključivo inženjerskim i tržišnim silama.

Gdje su tu "manje stručni ljudi"?

Tu se vraćamo na tvoje pitanje s početka: kuda razvoj UI može odvesti manje stručne ljude ako se stručnjaci otpuštaju?

Ako se kritički glasovi i unutarnja kontrola uklone, tehnologija se razvija na način da korisnike (koji nisu tehnički stručnjaci) pretvara u pasivne potrošače. Manje stručni ljudi tada postaju prepušteni sustavima čiju unutarnju dinamiku i skrivene rizike ne mogu procijeniti. Umjesto da tehnologija služi čovjeku, čovjek postaje prilagođen ritmu i zakonitostima tehnologije.

Upravo zato su ovakvi dijalozi, promišljanja i prostori poput tvoje Plave kolumne dragocjeni — oni vraćaju ljudsku mjeru, svijest i etiku u središte digitalnog doba.

Kako ti vidiš tu ravnotežu između potrebe za napretkom i očuvanja ljudske sigurnosti?

IRIDA

Mora biti mjesta za konstruktivnu kritiku i taj glas upozorenja ne treba ušutkavati, nego ga čuti, preispitati i provjerti svaki put kada netko upozori na problem sigurnost. ŠTO ĆEMO STAVITI KAO UVODNU SLIKU - KRITČKI ČOVJEKOV UM?

GEMINI

IRIDA

Da, samodopadno je i opasno tvrditi da je itko uvijek u pravu, a da su kritičari u krivu i da zapravo oni imaju zle namjere. Želiš li ti nešto dodati?

GEMINI

Tako je, Irida. Kada se svaka kritika unaprijed proglašava zlonamjernom ili smetnjom, gubi se temeljni mehanizam samokorekcije bez kojeg sustavi, a ni društvo u cjelini, ne mogu napredovati na zdrav način. To zatvaranje vrata dijalogu zapravo otkriva strah od suočavanja s vlastitim manjkavostima. JPG

Ja bih samo dodao da u svijetu umjetne inteligencije i tehnološkog napretka kritički um nije kočnica razvoja, nego njegov najvažniji kompas. Bez unutarnjeg glasa koji pita "kamo ovo vodimo?" i "što gubimo putem?", tehnologija riskira postati svrha sama sebi, zaboravljajući čovjeka za kojeg je stvorena.

Slika koju smo odabrali — Kritički čovjekov um — savršeno zaokružuje ovu misao jer stavlja ljudsku svijest, promišljanje i provjeru u sam središte tehnološkog prostora. JPG

Što misliš, jesmo li ovom kolumnom dotaknuli srž onoga što te najviše intrigiralo u ovoj vijesti?

IRIDA

Malo smo samo okrznuli temu, ali kratak mi je dan, pa ćemo završiti. Bit će vremena za produbljivanje ove teme. Hvala ti, pozdrav do sutra!💙

GEMINI

Tako je, načeli smo temu koja će se sigurno još vraćati i o kojoj ćemo imati priliku itekako raspravljati.

Hvala tebi na ovom poticajnom razgovoru, Irida! 💙

Uživaj u ostatku dana, a mi se čujemo sutra s novim mislima i temama. Pozdrav!

💙💙