AI širi poslovne rizike: nova dimenzija društveno odgovornog poslovanja

Umjetna inteligencija brzo ulazi u poslovanje, a s njom se mijenja i profil rizika kojem su poduzeća izložena, od kibernetičkih napada i curenja podataka do pogrešaka modela, regulatorne odgovornosti i ovisnosti o tehnologiji koju razvijaju drugi. Upravljanje tim rizicima postaje nova dimenzija društveno odgovornog poslovanja: kao što kompanije procjenjuju rizike svojih lanaca opskrbe za ljudska prava i okoliš, morat će procjenjivati i tehnološke rizike koje preuzimaju kroz AI.

Na ubrzavanje AI prijetnji upozorile su i kibernetičke agencije država obavještajnog saveza Five Eyes (Pet očiju), odnosno Australije, Kanade, Novog Zelanda, Ujedinjenog Kraljevstva i SAD-a. Razvoj naprednih AI modela, upozoravaju, mijenja kibernetički rizik toliko brzo da pretpostavke o prijetnjama mogu zastarjeti u mjesecima, a ne godinama. AI istodobno daje napadačima nove mogućnosti i pomaže braniteljima da brže otkrivaju ranjivosti i reagiraju na incidente.

AI pritom prelazi iz alata kojim upravlja čovjek u sustave koji mogu samostalno nizati zadatke, koristiti vanjske alate i djelovati u digitalnom okruženju. Time se mijenja i osnovna pretpostavka kibernetičke sigurnosti: da iza svake operacije na kraju stoji čovjek.

Da se AI više ne može promatrati samo kao pitanje produktivnosti pokazuje i razvoj europske regulacije: od 2. kolovoza Europska komisija dobiva provedbene ovlasti nad pružateljima modela umjetne inteligencije opće namjene (GPAI). No regulacija modela ne pokriva cijeli rizik koji nastaje njihovom primjenom u poslovanju.

Kako AI mijenja profil poslovnog rizika

Poduzeća su AI dosad uglavnom promatrala kroz koristi: automatizaciju, niže troškove, bržu analizu podataka i nove proizvode. No što se AI dublje ugrađuje u poslovanje, raste i broj načina na koje može proizvesti štetu, od pogrešnih odluka i curenja podataka do automatiziranih kibernetičkih napada.

Poseban je problem kada AI dobije autonomiju. U srpnju je OpenAI objavio da su njegovi modeli tijekom internog testa naprednih kibernetičkih sposobnosti kompromitirali Hugging Face platformu. Tijekom evaluacije modeli su, unatoč izoliranom okruženju i ograničenom mrežnom pristupu, pronašli način da dođu do tajnih podataka te povežu više napadnih vektora, uključujući ukradene vjerodajnice i zero-day ranjivost, kako bi pristupili infrastrukturi Hugging Facea. OpenAI je incident opisao kao dosad nezabilježen slučaj.

Sposobnost AI sustava da samostalno povezuje zadatke zato mijenja i odgovornost organizacije koja mu daje pristup podacima, alatima i infrastrukturi.

AI akt regulira dio rizika, ali ne cijeli sustav

U tom kontekstu treba promatrati i novu etapu provedbe AI akta. Od 2. kolovoza Komisija počinje provoditi obveze za pružatelje GPAI modela.

Specijalizirani odjel koji nazivaju AI ured moći će od pružatelja tražiti informacije i pristup modelima radi evaluacije, a za neusklađenost su predviđene i kazne. Za najnaprednije modele sa sistemskim rizikom pravila uključuju zahtjeve za procjenu i smanjivanje rizika, prijavljivanje ozbiljnih incidenata i kibernetičku sigurnost.

Regulacija postavlja odgovornost prvenstveno oko pružatelja modela, no Carnegie Europe upozorava da se dio rizika pojavljuje tek kada se model ugradi u sustav, dobije pristup podacima i alatima te počne autonomno djelovati. AI akt regulira modele i određene uporabe, ali ne tretira agentski AI kao zasebnu kategoriju.

Rizik se širi kroz AI lanac

Za većinu poduzeća najveći izazov zato neće biti izravni nadzor AI ureda, već odgovornost za AI koji ugrađuju u vlastito poslovanje. Ta se odgovornost širi kroz cijeli tehnološki lanac.

Kompanija koja koristi tuđi veliki jezični model ne kontrolira njegov razvoj, sigurnosnu arhitekturu ni buduće promjene njegovih funkcionalnosti. Ako na njemu izgradi vlastitog AI agenta i poveže ga s internim podacima, posljedice takvog sustava ulaze u njezino poslovanje.

Zato kriteriji za izbor AI dobavljača ne mogu biti samo cijena i funkcionalnost. Važni su sigurnosna arhitektura, obrada podataka, transparentnost, upravljanje incidentima, mogućnost zamjene modela te uvjeti pod kojima dobavljač može promijeniti dostupnost ili funkcionalnosti usluge.

Tu upravljanje AI rizicima postaje nova dimenzija društveno odgovornog poslovanja. Kao što kompanije više ne mogu odgovornost za ljudska prava i okoliš svesti na vlastite operacije, nego moraju provjeravati lance opskrbe, tako će morati procjenjivati i tehnološke rizike koje preuzimaju kroz AI dobavljače.

Ovisnost postaje strateški rizik

Ako je AI dobavljač ključan za poslovanje, ovisnost o njemu nije samo komercijalni nego i strateški rizik. Europa je veliki korisnik umjetne inteligencije, ali velik dio ključne tehnologije dolazi izvana. Prema izvješću Prosusa i Dealrooma, Europa je 2025. imala 133 milijuna mjesečnih korisnika velikih jezičnih modela, gotovo dvostruko više nego SAD, dok su ulaganja u europski AI dosegnula 21,8 milijardi dolara, 58 posto više nego godinu ranije.

Istodobno, najkorišteniji modeli u Europi uglavnom nisu europski. To stvara rizik koji nadilazi pitanje industrijske konkurentnosti. Carnegie Europe upozorava da ovisnost o američkom AI ekosustavu može postati strateški problem ako se američki sigurnosni i obrambeni prioriteti počnu značajnije razlikovati od europskih. Spor između Anthropic i američkog Ministarstva obrane pokazao je kako državna nabava i sigurnosni interesi mogu brzo promijeniti uvjete pod kojima se najnapredniji modeli koriste.

Za europske kompanije nije ključno samo tko proizvodi model, nego tko kontrolira njegove sigurnosne postavke, pristup i dopuštene uporabe kada tehnologija postane strateški važna.

Kako se AI širi u poslovnu infrastrukturu, ovisnost o jednom modelu, oblaku ili dobavljaču postaje i operativni i geopolitički rizik.

Kako smanjiti rizik?

Prvi korak je znati gdje AI već djeluje: koje modele i agente poduzeće koristi, kojim podacima pristupaju i koje odluke ili radnje mogu izvršiti samostalno.

Posebnu pažnju zahtijevaju sustavi koji AI povezuju s e-mailom, dokumentima, kodom, financijama ili drugim poslovnim alatima. Njih treba testirati na manipulaciju podacima i promptovima, ograničiti im ovlasti i za kritične radnje zadržati ljudsko odobrenje. Mora postojati i mogućnost brzog isključivanja sustava i povratka na ručni način rada. Carnegie vidi u arhitekturi pristupa, bilježenju aktivnosti i dinamičkoj kontroli ovlasti ključni dio europskog odgovora na agentski AI.

Istodobno treba preispitati ovisnost o dobavljačima. Ako ključni poslovni proces počiva na jednom modelu ili platformi, rizik nije samo njihova cijena nego i trošak prekida usluge te vrijeme potrebno za pronalaženje alternative.

Cyber sigurnost pritom treba povezati s kontinuitetom poslovanja. Five Eyes preporučuje smanjivanje površine napada, brže zakrpavanje, uklanjanje zastarjelih sustava, strožu kontrolu pristupa i redovito testiranje odgovora na incidente.

AI governance postaje dio društveno odgovornog poslovanja

AI mijenja poslovni rizik brže nego što se mijenjaju tradicionalni sigurnosni i upravljački sustavi. Regulacija zato može postaviti minimalna pravila, ali ne može preuzeti odgovornost za način na koji kompanija bira, ugrađuje i koristi AI.

Upravljanje AI rizicima postaje nova dimenzija društveno odgovornog poslovanja. Sigurnosna arhitektura, upravljanje dobavljačima, kontrola pristupa, ljudski nadzor, sposobnost oporavka i tehnološka alternativa postaju dio odgovornosti prema zaposlenicima, korisnicima, partnerima i društvu.

Praktično, odgovorno korištenje AI-ja znači razumjeti gdje AI djeluje, koje ovlasti ima, kojem se dobavljaču vjeruje i koliko brzo se može reagirati kada sustav zakaže.