Dr. sc. Luka Šikić docent je na Odsjeku komunikologije Hrvatskoga katoličkog sveučilišta u Zagrebu, gdje poučava statistiku, a rad mu uključuje podatkovne znanosti, velike podatke, strojno učenje, ekonometriju i financije. U svom životopisu navodi da kroz svoje freelance angažmane u podatkovnim znanostima, donosi izvještaje iz stvarnog svijeta i vrhunske analitike kako u svoje istraživanje, tako i u učionicu. Osim podučavanja, aktivno surađuje s kolegama iz raznih disciplina, razvijajući inovativne statističke metodologije za rješavanje složenih izazova s podacima. Njegova je strast na raskrižju ekonomije, znanosti o podacima i obrazovanja.

Često govori na konferencijama i radionicama o temama poput napredne analitike i donošenja odluka temeljenih na podacima, uvijek nastojeći povezati teorijske okvire s praktičnim primjenama. Od dizajniranja složenih modela do proizvodnje uvjerljivih vizualizacija, svaki aspekt istraživanja podataka smatra neodoljivim. Zbog svega toga, u okviru ovog projekta bio je više nego izvrstan sugovornik o alatima za prepoznavanje lažnih informacija u tekstu.

Što su alati za prepoznavanje lažnih informacija u tekstu?

Alati za prepoznavanje lažnih informacija u tekstu, često nazivani i alatima za detekciju dezinformacija ili fact-checking alatima, su softverska rješenja i tehnike koje pomažu u identificiranju, analizi i označavanju sadržaja koji je netočan, obmanjujući ili zlonamjeran.

Njihov primarni cilj je podržati korisnike, bilo da se radi o pojedincima, novinarima, istraživačima ili organizacijama, u kritičkoj procjeni vjerodostojnosti informacija koje konzumiraju. Oni nastoje automatizirati ili olakšati procese provjere činjenica koji bi inače bili iznimno dugotrajni i zahtjevni.

Kakvih vrsta ima ili koji su?

Postoji nekoliko vrsta i pristupa, koji se često preklapaju.

Alati temeljeni na umjetnoj inteligenciji (AI) i strojnom učenju (ML) predstavljaju najbrže rastuće područje. Ovi alati koriste algoritme strojnog učenja (npr. obrada prirodnog jezika – NLP, duboko učenje) za analizu teksta. Mogu prepoznavati obrasce u jeziku, tonu, stilu pisanja, pa čak i semantičke nepravilnosti koje su često prisutne u lažnim vijestima. Primjeri uključuju alate koji prepoznaju clickbait naslove, senzacionalistički jezik, ili uspoređuju tvrdnje s bazama provjerenih činjenica.

Alati za provjeru izvora i kredibiliteta se fokusiraju na analizu same objave i izvora. To uključuje provjeru URL-ova, analizu domena, provjeru vlasništva web-stranice, analizu povijesti objavljivanja, te traženje informacija o autorima. Neki alati mogu analizirati i društvene mreže kako bi procijenili kredibilitet profila koji šire informacije.

Alati za prepoznavanje manipuliranih medija se primarno odnose na slike i videouratke, no neki mogu analizirati tekstualne opise uz medij kako bi identificirali neslaganja ili manipulacije. Ovo je posebno važno u kontekstu deepfake tehnologije.

Alati za analizu sentimenta i emocija nisu direktno alati za detekciju dezinformacija, no mogu pomoći u prepoznavanju tekstova koji su namjerno kreirani da izazovu snažne emocije (bijes, strah) bez oslanjanja na činjenice, što je čest znak dezinformacija.

Platforme za crowdsourcing i kolaborativnu provjeru činjenica također nisu strogo automatizirani alati, ali omogućuju skupinama ljudi (novinari, istraživači, volonteri) da zajednički provjeravaju činjenice i označavaju dezinformacije. Primjerice, neke platforme društvenih medija koriste korisničke prijave za označavanje potencijalno lažnog sadržaja.

Baze podataka provjerenih činjenica isto nisu „alati“ u smislu analize, no predstavljaju ključne komponente koje mnogi automatizirani alati koriste. To su repozitoriji informacija koje su već provjerile profesionalne organizacije za provjeru činjenica (npr. Snopes, PolitiFact, Agence France-Presse Fact Check).

Kako funkcioniraju – koje su im prednosti, a koji nedostatci?

Funkcioniranje alata za prepoznavanje lažnih informacija razlikuje se ovisno o njihovoj vrsti, no u osnovi se svi oslanjaju na sličan niz koraka. Prvo dolazi do prikupljanja i analize teksta – alat identificira ključne riječi, učestale izraze, sintaktičke obrasce te entitete poput imena osoba, organizacija ili lokacija. Nakon toga slijedi usporedba dobivenih podataka s postojećim bazama znanja ili modelima koji su prethodno obučeni na velikim količinama označenih podataka. Na temelju tih usporedbi alat generira ocjenu, upozorenje ili preporuku u vezi s istinitošću sadržaja.

Prednosti ovih alata su brojne. Prije svega, ističe se njihova brzina i učinkovitost – sposobni su analizirati tisuće tekstova u vrlo kratkom vremenu, što ljudskom analitičaru nije moguće. Zbog toga su izuzetno skalabilni i primjenjivi na masovne količine podataka. Nadalje, njihova objektivnost može pomoći u smanjenju pristranosti koje često utječu na ljudsku prosudbu. Posebno su korisni u ranom prepoznavanju sumnjivih informacija koje se tek počinju širiti, čime omogućuju brzu reakciju. Također, predstavljaju vrijednu podršku ljudskim provjeravateljima činjenica jer mogu preuzeti rutinske zadatke i osloboditi vrijeme za rješavanje složenijih slučajeva.

S druge strane, ovi alati imaju i svoja ograničenja. Njihova učinkovitost u velikoj mjeri ovisi o kvaliteti podataka na kojima su obučeni – ako su ti podaci nepotpuni ili pristrani, i rezultati će biti nepouzdani. Osim toga, jezik je izuzetno složen i kontekstualan; ironija, sarkazam, metafore i kulturne nijanse često zbunjuju algoritme. Dezinformacije su rijetko jednostavne – nerijetko se oslanjaju na manipulaciju kontekstom i poluistinama, što ih čini teško uhvatljivima za automatizirane sustave.

Poseban izazov predstavljaju slučajevi u kojima su tekstovi namjerno oblikovani kako bi prevarili algoritam. Tu je i problem lažno pozitivnih i lažno negativnih rezultata – mogućnost da alat netočno označi istinitu informaciju kao lažnu, ili propusti prepoznati stvarnu dezinformaciju. Osim toga, mnogi napredni AI modeli imaju slabiju razinu objašnjivosti – korisnik teško može razumjeti kako je alat došao do svoje ocjene, što može smanjiti povjerenje u rezultate i otežati ispravljanje grešaka.

Na kraju, važno je naglasiti da ovi alati ne mogu zamijeniti ljudsku ekspertizu. I dalje je potrebna dubinska analiza koju mogu provesti samo ljudi – osobito kada je riječ o osjetljivim i kontekstualno složenim temama poput vjere i religijskih narativa. Alati mogu biti vrijedan dodatak, ali ne i konačna instanca prosudbe.

U koje se zamke može upasti u njihovu korištenju? I kakvi su uopće za korištenje?

Korištenje alata za prepoznavanje dezinformacija nosi sa sobom niz potencijalnih zamki koje korisnici trebaju imati na umu. Najveća od njih je pretjerano oslanjanje na same alate, bez dodatnog kritičkog promišljanja. Važno je shvatiti da ovi alati nisu čarobni štapići – oni mogu pomoći, ali ne mogu zamijeniti ljudsku prosudbu.

Jedna od čestih zamki je automatizirana potvrda pristranosti. Ako korisnik već ima određene predrasude, postoji rizik da će prihvatiti sve što alat potvrdi kao istinu, čak i ako je ta potvrda rezultat pogreške algoritma. Time se dodatno učvršćuju postojeći stavovi umjesto da se otvori prostor za objektivnu analizu. Povezano s tim je i lažni osjećaj sigurnosti – sklonost vjerovanju da je sve ono što alat nije označio kao lažno automatski i istinito. Takva percepcija može biti opasna jer zanemaruje činjenicu da alati nisu nepogrešivi i da im može promaknuti suptilna ili novonastala dezinformacija.

Također, mnogi korisnici upadaju u zamku crno-bijelog razmišljanja, očekujući jasne odgovore – je li nešto istina ili laž. U stvarnosti, informacija može biti djelomično točna, manipulativna, izvučena iz konteksta ili podložna različitim interpretacijama. Alati se često teško nose s takvom kompleksnošću i nijansama. Uz to, nerazumijevanje načina na koji alat funkcionira može dovesti do pogrešne interpretacije rezultata. Ako korisnik ne zna na temelju čega je alat donio određenu ocjenu, može pogrešno zaključiti o vjerodostojnosti sadržaja.

Kad je riječ o samom korištenju, kvaliteta korisničkog iskustva ovisi o vrsti alata. Neki su vrlo jednostavni za upotrebu – primjerice, proširenja za internetske preglednike ili web-aplikacije koje omogućuju brzo skeniranje sadržaja. S druge strane, napredniji alati, poput profesionalnih paketa za obradu prirodnog jezika (NLP), zahtijevaju tehničko znanje i razumijevanje specifične domene kako bi bili učinkovito korišteni.

Općenito gledano, alati postaju sve dostupniji i korisnički pristupačniji. No, bez obzira na tehnički napredak, ključno je razumjeti da oni služe kao pomoćno sredstvo, a ne kao konačan autoritet. Samo u kombinaciji s ljudskim znanjem, kritičkim mišljenjem i razumijevanjem šireg konteksta, ovi alati mogu dati puni doprinos u borbi protiv dezinformacija.

Koliko su prikladni za otkrivanje dezinformacija o vjerskim temama? Koliko su uporabljivi za ono što je sadržaj projekta KAT – kritičke analize dezinformacija o vjerskim temama?

Otkrivanje dezinformacija koje se odnose na vjerske teme predstavlja osobito složen izazov za alate temeljene na umjetnoj inteligenciji, no unatoč tom izazovu, ti su alati i dalje vrlo uporabljivi u okviru projekta KAT (Kritičke analize dezinformacija o vjerskim temama) uz jasnu svijest o njihovim ograničenjima i potrebi za ljudskom interpretacijom.

Vjerske teme često uključuju duboko subjektivne elemente, vjerovanja, duhovna iskustva i teološke interpretacije, koji ne podliježu klasičnoj provjeri činjenica. Ono što je istina u vjerskom kontekstu često se temelji na osobnoj vjeri ili unutarteološkom konsenzusu, koji može značajno varirati čak i unutar iste religijske tradicije. Dodatnu složenost predstavljaju simbolički i metaforički izrazi prisutni u svetim tekstovima, kao i snažan emotivni naboj koji prati vjerske rasprave. U takvom kontekstu, AI alati često nailaze na poteškoće i ne uspijevaju prepoznati nijanse alegorije ili razumjeti višeznačne interpretacije svetih tekstova.

Ipak, njihova uporabljivost u projektu KAT je značajna, osobito kada se usmjere na identificiranje obrazaca i površinskih karakteristika koje prate vjerske dezinformacije. Alati mogu učinkovito prepoznati retoričke strategije koje se često koriste u takvim sadržajima, poput demonizacije drugih, širenja mržnje, pozivanja na nasilje ili manipulacije povijesnim činjenicama. Mogu analizirati izvore informacija i detektirati web-stranice, društvene profile ili mreže koje generiraju i šire problematičan sadržaj. Također, vrlo su korisni u otkrivanju senzacionalističkog jezika, clickbait naslova te logičkih nedosljednosti unutar teksta.

Za KAT projekt, posebno su vrijedni alati koji omogućuju kvantitativnu analizu i prate koliko se često određene teme ili izrazi pojavljuju, kako se mijenjaju kroz vrijeme, koje su platforme dominantne u širenju, i koji tipovi sadržaja imaju najveći doseg. Takvi uvidi mogu poslužiti kao temelj za dublju kvalitativnu analizu.

U konačnici, zaključak za projekt KAT je jasan. Alati za otkrivanje lažnih informacija predstavljaju vrijedan resurs, ali ne i zamjenu za ljudsku analizu. Njihova uloga trebala bi biti višestruka: upozoriti na potencijalno problematičan sadržaj, ubrzati proces selekcije relevantnog materijala, omogućiti kvantitativne uvide i podržati tim stručnjaka (teologa, sociologa religije, povjesničara) u interpretaciji konteksta. Samo u kombinaciji s ljudskom ekspertizom i kritičkim pristupom moguće je doći do preciznih i osjetljivih analiza koje vjerske teme zahtijevaju.

***

Rubriku „Glas istine“ u okviru projekta „KAT – Provjera dezinformacija o vjerskim temama“ Hrvatski katolički radio radi u suradnji s Hrvatskim katoličkim sveučilištem i Hrvatskim društvom katoličkih novinara. Metodom činjenične provjere, projektom „Glas istine – Vox Veritatis“ želi se ocjenjivati točnost i utemeljenost izjava, vijesti i objava vezanih za život Katoličke Crkve u Hrvatskoj i svijetu kako bi se spriječilo širenje dezinformacija u javnosti, odnosno krivo kontekstualiziranje ili manipuliranje izjavama katoličkih poglavara. Projekt financira Europska unija – NextGenerationEU. Izneseni stavovi i mišljenja samo su autorova i ne odražavaju nužno službena stajališta Europske unije, Europske komisije ili Agencije za elektroničke medije. Europska unija, Europska komisija ni Agencija za elektroničke medije ne mogu se smatrati odgovornima za njih.