Na dogodku Napaka 404: Resnica ne obstaja, ki je potekal v prostorih Triglav LAB, so sogovorniki razpravljali o tem, kako v času, ko se sodobna tehnologija razvija z neslutenim razmahom, razlikovati resničnost od dezinformacij in manipulacij ter kakšno vlogo lahko za krepitev zaupanja v podatke in njihovo varnost odigrajo podjetja iz finančne, zdravstvene, logistične in telekomunikacijske panoge.

Ljubljana – Na dogodku Napaka 404: Resnica ne obstaja, ki je potekal v prostorih Triglav LAB, so sogovorniki razpravljali o tem, kako v času, ko se sodobna tehnologija razvija z neslutenim razmahom, razlikovati resničnost od dezinformacij in manipulacij ter kakšno vlogo lahko za krepitev zaupanja v podatke in njihovo varnost odigrajo podjetja iz finančne, zdravstvene, logistične in telekomunikacijske panoge. 

 
“Na vseh nivojih družbe je nujen premislek o posledicah, ki jih prinaša izjemno hiter razvoj tehnologije. Družbene spremembe se dogajajo hitreje, kot se zdi, zato je nujno nenehno izobraževanje in razumevanje tehnologije ter razmišljanje o prekvalifikacijah in dokvalifikacijah ljudi na trgu dela. Regulatorji in politika so pogosto nekompetentni in niti ne vedo, kaj se zares dogaja, zato ne sprejemajo ustreznih ukrepov. Razmah umetne inteligence jih bo zato najverjetneje presenetil,” je v razpravi poudaril strokovnjak za umetno inteligenco Marko Grobelnik.

 
Po besedah Tineta Kračuna, direktorja Inštituta za strateške rešitve, ki je organiziral dogodek, je pomembno, da v času, ko tehnologije omogočajo realistično posnemanje glasu, obraza ali sloga pisanja ter zmanjšujejo razliko med resničnostjo in potvorbo, vzpostavimo mehanizme za razlikovanje resničnih informacij od dezinformacij.
Dr. Jure Stojan, partner ter direktor raziskav in razvoja na Inštitutu za strateške rešitve, je dejal, da nas zgodovina lahko nauči dveh pomembnih stvari o sodobnih tehnologijah. Prvič, predvidimo lahko, katerim človeškim potrebam bo nova tehnologija poskušala zadostiti, vendar ne moremo niti slučajno napovedati, kakšne bodo te oblike. In drugič, napovemo lahko, kako se bodo pri uvajanju novih tehnologij izrazile človeku lastne hibe. »Vsaka tehnologija, za katero so pričakovali, da bo človeka razbremenila dela in jo kot takšno iznajdbo tudi prodajali, je človeku na koncu prinesla še več dela,« je dejal dr. Stojan.

Resnice ne moremo skrčiti na zbirko izoliranih dejstev, saj dejstva brez konteksta ne ustvarijo pomena. Šele z razmislekom, povezovanjem in interpretacijo oblikujemo resnično razumevanje, je razložil futurist in raziskovalec Andraž Bole. Jedro tako imenovane kognitivne odpornosti je zato sposobnost analitičnega in sistemskega mišljenja. Namesto da sprejemamo informacije površinsko, razčlenjujmo probleme na osnovna načela, prepoznavajmo povezave med pojavi ter ločujmo bistveno od nebistvenega, je poudaril Bole.

Če ne bomo dovolj hitri, bo odločitev sprejela tehnologija
Prof. Marko Grobelnik iz Laboratorija za umetno inteligenco na Inštitutu Jožef Stefan opozarja, da umetno inteligenco pogosto še vedno razumemo kot izboljšano različico obstoječih orodij, čeprav v resnici oblikuje povsem novo družbeno in tehnološko realnost. Zaradi eksponentnega razvoja hitro preoblikuje področja od trga dela do informacijske krajine. Najnovejši modeli, kot so Gemini 3, GPT-5.1 in Grok 4.1, ter širitev avtonomnih taksijev, na primer Waymo, že nadomeščajo cele poklice. Ob tem se ruši tradicionalni pogled na delo kot temelj preživetja, skupna družbena realnost pa razpada zaradi mehurčkov, deepfake vsebin in sintetične propagande.
Družba bo morala znova opredeliti vrednost človeka, odgovornost avtonomnih sistemov in zagotoviti infrastrukturo resnice, sicer bo družbeni konsenz oblikovala tehnologija sama, v korist le redkih. Grobelnik poudarja, da so zaradi hitrega razvoja nujni premišljen družbeni odziv, izobraževanje o tehnologiji ter pospešene prekvalifikacije. Regulatorji in politika za razvojem večinoma zaostajajo, zato jih bodo spremembe, ki jih prinaša umetna inteligenca, najverjetneje presenetile.

Človek v dvojni vlogi: največje tveganje in najboljši varnostnik
Maja Javoršek, direktorica Skladnosti poslovanja v Zavarovalnici Triglav, je izpostavila, da so v zavarovalniškem okolju podatki temelj poslovanja, zakonitosti in zaupanja, a največ incidentov povzroči človek. Kljub tehničnim zaščitam napake nastajajo zaradi neprevidnosti, slabih gesel, radovednosti ali ignoriranja opozoril. Statistika kaže, da iz človeških napak izvira kar 95 % varnostnih incidentov in dve tretjini kršitev varnosti podatkov. Hkrati pa je človek tudi ključni varnostni steber. Redno izobraževanje, ozaveščanje, simulacije napadov in jasna, enostavna pravila bistveno zmanjšajo tveganje. Nujna je varnostna kultura, ki združuje tehnologijo in psihologijo: zaposleni morajo razumeti svojo odgovornost in vpliv svojih dejanj. Osnovno sporočilo ostaja: človek je hkrati največje tveganje in najpomembnejši varnostnik: razlika je v znanju, pozornosti in kulturi ravnanja s podatki.

Napadalci napredujejo bistveno hitreje kot obramba
Dalibor Vukovič, strateški vodja za kibernetsko varnostne rešitve na Telekomu Slovenije, je predstavil primer nočnega napada na slovensko proizvodno podjetje. Napadalci so z ukradenimi podatki prodrli v notranje omrežje, a je hiter in strokovno pravilen odziv omejil trajanje napada na le sedem minut ter preprečil milijonsko škodo. Kibernetske grožnje se sicer po besedah Vukoviča najpogosteje zgodijo ponoči ali med prazniki. Vidnost nad dogajanjem v omrežju je nujna, saj brez nje podjetja pogosto sploh ne opazijo napada. Kibernetska varnost je uspešna le, če ima podporo vodstva in če obrambne ekipe razmišljajo tako dinamično kot napadalci. “Napadalci napredujejo bistveno hitreje kot obrambna tehnologija. Danes kibernetska zaščita ni modna muha, ampak je nekaj, kar nujno potrebujemo. To velja tudi za telefone, saj smo brez napredne zaščite izjemno ranljivi,” je opozoril Vukovič.

Kdo si upa na letalo, ki ga upravlja umetna inteligenca?
“Umetna inteligenca deluje na naše telo kot bergla, zaradi nje ves čas nekoliko šepamo. Kritično razmišljanje in razvijanje kulture dvoma morata zato postati sestavni del našega delovanja. Pomembna je določitev odgovornosti. Posameznikom omogočimo v podjetjih orodja, znanja in veščine, hkrati pa jim damo tudi odgovornost. Ljudje se morajo zavedati, da so za rezultate svojega dela odgovorni sami, je poudarila Maja Javoršek.
Dr. Franc Bračun, pomočnik uprave NLB, pristojen za področje podatkov in umetne inteligence, je v razpravi o naprednih tehnologijah in varnosti dejal, da sodeč po izkušnjah banke ljudje, posebej v zadnjem času, vse preveč zaupamo tehnologiji. Vse večji izziv je po Bračunovih besedah, kako zaščititi napade na identiteto. Predpogoj za zagotavljanje varnosti je sistemska zaščita. Obrambo pred tveganji je treba graditi na tehničnih sredstvih. Drug ukrep je ta, da naj vse pomembne odločitve sprejema človek, ne pa umetna inteligenca. “Kdo bi si danes upal na letalo, ki ga ne upravlja človek, ampak naprava?“ je ponazoril. Tretji pomemben korak je izobraževanje, kar je ključ do gradnje odpornosti, ki jo gradijo v NLB.

Kako je umetna inteligenca postala sestavni del ekipe
Slavko Ovčina, direktor IKT-rešitev pri Pošti Slovenije, je opisal primer glasovne asistentke Pie, ki razume vsa slovenska narečja in temelji na najnovejših dosežkih umetne inteligence. Pia strankam Pošte Slovenije omogoča naraven pogovor v slovenskem jeziku, zagotavlja hitro in učinkovito komunikacijo po vsej državi, izboljšuje uporabniško izkušnjo, skrajšuje čas reševanja vprašanj in postavlja nove standarde v digitalni komunikaciji. “Če bi se ob vzpostavljanju projekta Pia zavedali vseh nevarnosti umetne inteligence, Pie verjetno danes ne bi bilo. Skozi proces smo jo postopno optimizirali. Ljudje so Pio sprejeli kot del ekipe, po njeni zaslugi pa smo izboljšali in skrajšali številne procese,” je dejal Ovčina.

Razpravo sta moderirala Barbara Matijašič, MBA, direktorica projektov na Inštitutu za strateške rešitve, in Andraž Bole. Fotografije dogodka so priložene spodaj.­ 

Dogodek je del serije strateških pogovorov v sklopu iniciative The Adriatic: inFocus, s katero na ISR odpiramo prostor za razmislek o varnosti in odpornosti slovenskega gospodarstva. Svet se sooča s tektonskimi geopolitičnimi pretresi, zato želimo oblikovati platformo za iskanje inovativnih, prožnih in dolgoročno vzdržnih rešitev. 

VIR: Inštitut za strateške rešitve (ISR)­