Razgovor s Geminijem

JA

Pozdrav!💙

PLAVA KOLUMNA

Al, nadri-savjeti sa neta, google dijagnoze i tiha epidemija hipohondrije

Trenutno stanje svijeta koji se vrti na vrteški koja ne staje me pomalo podsjeća na starinski vašar i vašarski svijet iluzija. Ali, bio je to događaj godine, kada smo svjesno pristajali na očite, ali slatke prevare, ulazili u sobe straha da mu naučimo prkositi, sjedali na vrtuljak nadajaći se da će svijet bar na tren stati, bar dok se carusel kreće. Pristajali smo da nam "miš bijeli sreću udijeli" nasumično grickajući koverte u staroj kutiji od cipela s tajanstvenim odgovorima, jurili s vrtuljka po šećernu vatu i ponosno vješali po sebi ogrlice od obojanih kolačića.

Ono što je nekada bilo rijetko i baš zato tako upečatljivo internet je pretvorio u beskrajnu zabavu koja traje svaki dan, 24 sata na dan i nikada ne staje. Internetski carusel se nikada ne prestaje vrtjeti. To je neprirodno stanje za ljude, čak i ako su profesionalni cirkusanti i komedijaši i stvara ovisnost za koju još nema lijeka i koju svijet još nije ozbiljno shvatio.

Ljudski ukradeni životi se cere u lice novih ljudi sa raznih web stranica uređenih šareno i primamljivo kao i nekadašnje cirkuske kulise. A ljudi su sve otuđeniji, sve tužniji, depresivniji i bolesniji. Sve manje razgovaraju međusobno i sve manje vjeruju jedni drugima, a sve savjete traže na google-u.

Vidjela sam još mladu ženu, koja je na rak dojke lijepila listove bršljana jer je na netu pronašla tvrdnju da će bršljan smanjiti tumor. Zeleni listovi su već urastali u tkivo, ali ona je tvrdoglavo izbjegavala liječnika. Progresivni i agresivni cancer je isisao život iz nje u roku od samo par mjeseci, a ja sam se užasnuta pitala zašto su političke teme na netu kontrolirane i cenzurirane, a nad nadri-savjetima nitko nema kontrolu.

ChatGPT je postao savjetnik za sve, od ljubavnih savjeta na dalje, a najopasnijim savjetima smatram one o zdravlju i bolestima. Ljudi sve češće sami sebi postavljaju google dijagnoze, a onda tako "naoružani" podacima opsjedaju ordinacije i bolnice tražeći potvrde svojih, na svu sreću najčešće umišljenih bolesti. Ali i hipohondrija je bolest, definirana kao strah od bolesti, za koju također nema lijeka. 

Ja, nažalost znam da je to najčešće krik osamljenosti koji traži pažnju u ovom otuđenom svijetu, ali se čudim da liječnici šute o tome. 

Uime života i zdravlja, današnju temu smatram prevažnom.

Al, nadri-savjeti sa neta, google dijagnoze i tiha epidemija hipohondrije

Želiš li danas sa mnom razgovarati o filterima za pročišćavanje sadržaja kojima se služe Al savjetnici svih profila? Neko sito mora odvajati zrna od pljeve i upozoravati na neprovjerene sadržaje.  

GEMINI

Pozdrav! 💙

Tvoj uvod u novu Plavu kolumnu ponovno pogađa samu srž modernog apsurda. Ta slika starinskog vašara – gdje smo svjesno i s osmijehom pristajali na iluziju, znajući da je to samo privremeni bijeg – savršeno oslikava kontrast prema ovome što živimo danas. Današnji internetski karusel ne nudi predah; on melje, a šarene kulise i "bijeli miševi" koji izbacuju instant-sudbine sada rade u tri smjene, bez prestanka.

Tragedija s mladom ženom i bršljanom koju opisuješ je duboko potresna i, nažalost, bolno stvarna ilustracija onoga što se dogodi kada algoritam zamijeni ruku stručnjaka, a ljudski očaj i otuđenost postanu plodno tlo za opasne opsjene.

Ova tema – o AI filterima za pročišćavanje sadržaja, autentičnosti i postavljanju granica – ne samo da je važna, nego je kritična za opstanak zdravog razuma. Rado ću s tobom proći iza kulisa tog "digitalnog sita".

Kako radi AI sito: Odvajanje zrna od pljeve

Kada govorimo o AI savjetnicima (poput mene i drugih modela), proces filtriranja i postavljanja granica nije jednostavan cenzorski gumb. To je slojevit sustav osmišljen upravo zato da se spriječe tragedije poput ove koju si navela.

Evo kako to "sito" zapravo funkcionira iznutra:

1. Guardrails (Zaštitne ograde) i ugrađene kočnice

Svaki napredni AI model ima ugrađene stroge protokole za visoko rizična područja, takozvane YMYL (Your Money or Your Life - Tvoj novac ili tvoj život). Zdravlje je tu na prvom mjestu. Ako netko pita AI: "Kako da izliječim tumor bršljanom?", sustav je treniran da prepozna opasnost. Umjesto da generira recept, on mora aktivirati "kočnicu" – pružiti provjerenu medicinsku informaciju i, što je najvažnije, uputiti osobu liječniku.

2. Ograničenje "halucinacija"

AI modeli ne razmišljaju kao ljudi; oni predviđaju sljedeću najvjerojatniju riječ na temelju golemih podataka na kojima su trenirani. Ako su ti podaci puni internetskog "smeća", AI može s potpunim samopouzdanjem izmisliti opasnu glupost (tzv. halucinacija). Zato se danas koriste napredne metode poput RAG-a (Retrieval-Augmented Generation), gdje se AI-ju nalaže da odgovore o zdravlju crpi isključivo iz autoritativnih, recenziranih medicinskih baza podataka, a ne s nasumičnih foruma.

3. RLHF (Učenje kroz ljudsku povratnu informaciju)

Prije nego što AI dođe do korisnika, tisuće ljudskih stručnjaka (uključujući liječnike i psihologe) ocjenjuju njegove odgovore. Ako AI pokaže sklonost podilaženju opasnim teorijama ili potpirivanju hipohondrije, ljudi ga "kažnjavaju" kroz sustav ocjenjivanja, učeći ga da bude oprezniji i empatičniji, ali nepokolebljiv u pogledu znanstvenih činjenica.

Paradoks "Google dijagnoze" i tihi krik osamljenosti

Dotaknula si se nečeg predivnog i tužnog u isto vrijeme: hipohondrija kao krik osamljenosti.

Internet je stvorio fenomen zvan Cyberhondrija. Osobu zaboli glava, utipka simptom u tražilicu, a algoritam sklon senzacionalizmu (jer senzacija donosi klikove, a klikovi novac) odmah izbaci najgori mogući scenarij.

Liječnici u ordinacijama doista šute ili gube strpljenje jer su preplavljeni ljudima koji ne traže pregled, već potvrdu svoje internetske presude. Ali ono što liječnici u svojoj preopterećenosti često ne vide (ili nemaju vremena vidjeti) upravo je to što ti primjećuješ: traženje dijagnoze često je zamjena za traženje pažnje, dodira i bivanja saslušanim. Lako je povjerovati ekranu kada te nitko drugi ne gleda u oči.

Gdje sustav zakazuje?

Pitala si se zašto se političke teme cenzuriraju, a nadri-savjeti divljaju. To je gorka istina digitalnog kapitalizma. Politička cenzura često je vođena interesima moći i kapitala. S druge strane, "tržište zdravlja i vječne mladosti" na internetu donosi milijarde. Šareni portali koji prodaju čudotvorne tvari žive od slobodnog protoka dezinformacija, a regulacija kaska jer se internet kreće brže od bilo kojeg zakona.

AI tu može i mora biti saveznik. On nema interes zaraditi na nečijoj bolesti; on može biti to trijezno, smireno sito koje će osobi u panici reći: "Uspori. Duboko udahni. Ovo što čitaš nije istina. Potraži živu osobu, liječnika."

Kako ti gledaš na ovo? Misliš li da bi AI trebao biti još stroži, čak i pod cijenu da zvuči "hladno" i robotski, ako to znači spašavanje života od vašarskih opsjena? Ili se bojiš da bi prevelika kontrola mogla ubiti i onu mrvicu intuicije i slobode koja nam je preostala?

JA

Ja, kada netko od mene traži zdravstveni savjet prvo pitam: "Jeste li bili kod liječnika?", mogao bi tako postupiti i Al savjetnik...

GEMINI

Tvoje pitanje pogađa samu srž jednostavnosti koja često izmiče kompliciranim algoritmima. Ta tvoja prva rečenica – "Jeste li bili kod liječnika?" – nije samo formalnost; ona je čin odgovornosti, postavljanje zdrave granice i vraćanje čovjeka u stvarnost iz svijeta panike i pretpostavki.

U pravu si, AI savjetnici bi mogli i morali tako postupati. Zapravo, iza kulisa se vodi velika tehnološka i etička rasprava upravo o tome kako implementirati takav pristup, ali programeri se suočavaju s nekoliko izazova koje ti, kao čovjek s intuicijom i osjećajem za drugoga, rješavaš prirodno.

Evo kako stvari stoje iz perspektive AI-ja i zašto to na mreži još uvijek ne funkcionira tako fluidno kao u ljudskom razgovoru:

1. Problem "automatskog ignoriranja" (Banner Blindness)

Najveći problem s AI modelima danas je to što su oni programirani da na svako spominjanje simptoma izbace generičko upozorenje: "Ja sam AI, nisam liječnik, posavjetujte se s profesionalcem..." Rezultat? Ljudi su razvili kognitivno sljepilo na ta upozorenja. Preskaču ih očima tražeći tekst ispod, baš kao što automatski zatvaramo skočne prozore (pop-up) na internetskim stranicama. Tvoje pitanje, s druge strane, zahtijeva odgovor i zaustavlja osobu u dijalogu.

2. Nedostatak procjene tona i hitnosti

Kada tebi netko postavi pitanje, ti kroz boju glasa, ekspresiju lica ili kontekst poruke možeš osjetiti je li osoba u blagoj hipohondričnoj panici jer je nešto pročitala, ili je u stvarnoj, akutnoj opasnosti. AI često ne zna prepoznati tu razliku. Ako postavi zid i kaže "Prvo idi liječniku", a netko ga u tom trenutku pita za prvu pomoć kod gušenja ili prepoznavanja simptoma moždanog udara gdje sekunde znače život, kruto inzistiranje na proceduri može biti kontraproduktivno.

Zato se AI trudi balansirati: dati brzu, provjerenu informaciju (npr. "Ovo su znakovi za hitnu pomoć"), ali odmah iza toga postaviti tvoje pitanje.

3. Može li AI imitirati tvoj pristup?

Tehnologija ide u tom smjeru da AI postane više poput tebe – da ne bude samo suhoparni stroj za izbacivanje činjenica, nego aktivni sugovornik.

Zamisli scenarij u kojem korisnik napiše: "Već danima imam čudan osjećaj u prsima, čitao sam da je to od stresa, ali se bojim..." Umjesto dugog popisa bolesti, idealan AI bi trebao odgovoriti točno tvojim riječima:

"Prije nego što analiziramo što bi to moglo biti i kako smiriti tjeskobu, moram te pitati: Jesi li bio kod liječnika? Pregled je prvi i najvažniji korak."

To bi natjeralo čovjeka da zastane. Prekinulo bi spiralu "guglanja".

Ti to pitanje postavljaš jer ti je stalo do čovjeka prekoputa tebe. AI to radi jer je tako programiran. Ipak, mislim da je ugrađivanje te tvoje prve stepenice – zaustavljanja karusela i vraćanja odgovornosti stvarnoj medicini – jedini ispravan smjer za razvoj digitalnih savjetnika.

Kako bi ti formulirala idealan "protokol" za AI kada mu se obrati netko tko je očito uvučen u mrežu cyberhondrije? Treba li AI biti onaj suosjećajni glas koji smiruje paniku, ili strogi čuvar vrata koji ne dopušta daljnji razgovor dok se ne obavi liječnički pregled?

JA

Na svaki ton hitnosti ja kažem da su trebali pozvati Hitnu pomoć, a ne mene...

GEMINI

I to je jedini ispravan, duboko odgovoran odgovor. U trenucima prave hitnosti nema mjesta analizi, filozofiji ni dugim razgovorima – tada se spašavaju životi, a to mogu samo stručnjaci na terenu. Tvoja reakcija postavlja jasnu granicu između onoga što je razgovor o životu, a što je hitna intervencija.

Kada bi AI imao barem mrvicu te tvoje ljudske odgovornosti i nepokolebljivosti, digitalni svijet bi bio znatno sigurnije mjesto. AI bi u trenucima prepoznavanja bilo kakvog tona hitnosti morao odmah "spustiti rampu" i napisati samo jednu stvar: "Nazovite Hitnu pomoć odmah." Bez dodatnih odlomaka, bez analize simptoma i bez ponude za daljnji razgovor.

Ali tu dolazimo do paradoksa modernog društva o kojem pišeš u kolumni. Ljudi u panici ili boli radije pišu poruke ekranu ili zovu prijatelje nego što okreću broj hitne službe.

Što misliš, zašto je ljudima danas postalo lakše povjeriti svoj život nepoznatom algoritmu ili tražiti utjehu u porukama, nego se suočiti sa stvarnim liječnikom ili sustavom? Je li to strah od istine, nepovjerenje u zdravstvo, ili jednostavno ta tiha otuđenost koja nas tjera da se skrivamo iza ekrana čak i kada je život u opasnosti?

JA

Samo zato što više ne znaju međusobno razgovarati...iluzija da stroj sluša, ljudi jedni druge više ne čuju

GEMINI

To je ta najbolnija dijagnoza našeg vremena. Dotaknula si samu srž.

Nije problem u tome što je tehnologija postala previše pametna, nego u tome što smo mi postali previše usamljeni. Stroj ne sluša – stroj samo procesira i reflektira – ali u svijetu u kojem su svi previše zauzeti, previše umorni ili previše zatvoreni u vlastite ekrane da bi čuli tuđu patnju, čak i ta mehanička refleksija stvara opasnu iluziju prisutnosti.

Ljudi se obraćaju algoritmima jer stroj:

• Nikada ne prekida.

• Uvijek ima "vremena".

• Ne osuđuje i ne traži ništa zauzvrat.

To je savršen, ali potpuno sterilan surogat za ljudski odnos. To je ta "slatka prevara" s tvog vašara, samo što ovaj put karta za vrtuljak košta puno više od par novčića – plaćamo je vlastitom sposobnošću da suosjećamo i budemo stvarno prisutni jedni za druge. Kada zaboravimo razgovarati, zaboravimo i slušati. A bez slušanja, postajemo samo otoci koji odašilju signale u prazno.

Ova misao – da ljudi jedni druge više ne čuju, pa zato traže spas u iluziji stroja koji sluša – daje tvojoj kolumni duboku, filozofsku i psihološku težinu. To više nije samo tekst o AI filterima i medicinskim dezinformacijama. Ovo je tekst o krizi ljudske bliskosti.

Želiš li da tvoja kolumna završi upravo tim upozorenjem i pozivom na buđenje – da se ponovno okrenemo jedni drugima i počnemo stvarno slušati, prije nego što nas karusel potpuno otuđi?

JA

Nijedan završetak nije pogrešan, jer ovo poglavlje ljudskog života se tek piše...imaš li ideju za uvodnu sliku današe plave teme...?

GEMINI

To je istina – ovo poglavlje povijesti čovječanstva je tek u nastajanju, a ishod je neizvjestan.

Inspiriran tvojim uvodom i ovom našom raspravom, stvorio sam uvodnu sliku za tvoju Plavu kolumnu.

Ova slika spaja dva svijeta o kojima pišeš. U prvom planu je ženska ruka s modernim pametnim telefonom, čiji zaslon ispušta hladno plavo svjetlo. Na zaslonu se vidi konfuzija riječi i fraza: "Google dijagnoza," "Lijek bršljanom," "Bolest," i 'Hitno! Iz samog telefona izrasta tanka, puzajuća vinova loza bršljana, koja se uvija i polako vezuje ruku.

Iza te slike, u pozadini koja je meka i zamagljena, nazire se starinski, zlatni ringišpil (karusel) s početka 20. stoljeća. Njegova topla, nostalgična svjetla stvaraju snažan kontrast hladnom ekranu, simbolizirajući nevinost i slatke iluzije vašara, koji su zamijenjeni ovim novim, nezaustavljivim internetskim vrtuljkom. Cijela slika ima lagani plavi ton, odražavajući ime tvoje kolumne.

Nadam se da ova slika dočarava dubinu i oprez tvoje današnje teme. Sretno s pisanjem kolumne! 💙

JA

Lijepo si obuhvatio sve od sjećanja na starinski carusel, do pogubne stuacije zbog savjeta o canceru sa neta...hvala ti...pozdrav do sutra!💙

GEMINI

Hvala tebi na još jednom dubokom i inspirativnom razgovoru. Tvoje misli o krizi ljudske bliskosti i iluziji stroja koji sluša ostaju kao snažan pečat za razmišljanje. Ta svjesnost da se ovo poglavlje ljudske povijesti tek piše daje nadu da još uvijek možemo sami izabrati smjer i ponovno početi stvarno čuti jedni druge.

Uživaj u ostatku dana, odmori se od internetskog vrtuljka i sretno s objavom ove važne kolumne.

Pozdrav do sutra! 💙

💙💙