Streloviti razvoj umjetne inteligencije (AI) u posljednjih godinu dana iznenadio je gotovo cijeli svijet. Nešto što je donedavno bilo apstraktan pojam za ljude izvan IT industrije, sada je ušlo u svakodnevni život „svih nas“, prije svega dolaskom ChatGPT-ja. On i slični sustavi umjetne inteligencije mijenjaju način na koji se rade brojni poslovi, zbog čega se sve više postavlja pitanje – što u budućnosti donosi razvoj AI-ja.
Kako bi taj razvoj stavila u određene zakonske okvire, Europska unija trenutno raspravlja o Aktu o AI-ju, zakonu o umjetnoj inteligenciji, čiji je cilj regulirati daljnji razvitak, implementaciju i korištenje umjetne inteligencije u državama članicama. To bi bio prvi zakon na svijetu koji definira i kontrolira rizike AI-ja. U svojoj srži ovaj akt nastoji uspostaviti ravnotežu između promicanja inovacija i zaštite temeljnih prava pojedinaca i društva.
Što pokriva Akt?
Akt pokriva širok raspon primjene umjetne inteligencije i kategorizira AI sustave u četiri kategorije rizika: minimalni rizik, ograničavajući rizik, visoki rizik i neprihvatljivi rizik. U minimalni i ograničavajući rizik ubrajaju se aplikacije kao što su videoigre, filtri neželjene pošte, chatbotovi poput ChatGPT-a i slično.
Najveći dio sustava umjetne inteligencije koji se trenutno koriste u Europskoj uniji pripadaju ovim kategorijama. Sustavi visokog rizika su oni koji mogu uzrokovati štetu ljudima ili društvu, poput onih koji se koriste u zdravstvu, prijevozu i provođenju zakona. Neprihvatljivi rizik obuhvaća upotrebu umjetne inteligencije koja krši temeljna ljudska prava, poput društvenog bodovanja ili neselektivnog nadzora. Također, obuhvaća i biometrijske identifikacijske sustave s omogućenom umjetnom inteligencijom u javnim prostorima, osim pod određenim okolnostima, te glasovne asistente koji koriste subliminalne poruke.
Što znači usvajanje Akta?
Ako bude usvojen, Zakon o umjetnoj inteligenciji zahtijevat će od tvrtki koje razvijaju, implementiraju ili upravljaju visokorizičnim sustavima umjetne inteligencije da ispunjavaju stroge zahtjeve, uključujući transparentnost, ljudski nadzor i kvalitetu podataka. Osim toga, zakon nalaže da će tvrtke morati dati jasne informacije o mogućnostima AI sustava, ograničenjima i namjenama za njihovu upotrebu. Nadalje, zakon bi zahtijevao od tvrtki da redovito prate i ocjenjuju svoje AI sustave kako bi osigurali da rade kako je predviđeno.
Očekuje se da će EU u sljedećih nekoliko mjeseci glasovati o Aktu o umjetnoj inteligenciji. Bude li usvojen, zakon će stupiti na snagu u članicama EU-a dvije godine nakon donošenja, kako bi tvrtke i organizacije imale vremena uskladiti se s novim propisima.
Provedba Akta o AI-ju imala bi u teoriji značajan utjecaj na budućnost umjetne inteligencije. Osigurala bi okvir za etičku i odgovornu upotrebu umjetne inteligencije u EU. Ustvari, ovim se zakonom nastoji promicati povjerenje u sustave umjetne inteligencije osiguravajući da su njihov razvoj, implementacija i upotreba transparentni, pošteni i odgovorni. Također će osigurati jednake uvjete za tvrtke i organizacije koje posluju u Europskoj uniji, budući da će podlijegati istim zahtjevima.
Što to znači za razvoj AI?
Zakon o umjetnoj inteligenciji vjerojatno će utjecati i na globalni razvoj umjetne inteligencije. Budući da je EU jedno od najvećih tržišta za AI, tvrtke će se morati uskladiti s novim propisima ako žele poslovati na području Unije. Nadalje, druge zemlje mogle bi se ugledati na pristup Europske unije regulaciji umjetne inteligencije kao model za vlastito zakonodavstvo.
Ipak, postoji zabrinutost da bi predloženi zakon mogao ugušiti inovacije i konkurentnost u industriji umjetne inteligencije. Neki kritičari tvrde da su propisi prestrogi i da bi mogli spriječiti manje tvrtke da uđu na tržište. Drugi tvrde da je definicija visokorizičnih AI sustava preširoka i da bi mogla uključivati sustave koji ne predstavljaju značajan rizik.
Naposljetku, predloženi Akt o umjetnoj inteligenciji značajan je korak prema reguliranju razvoja, implementacije i upotrebe umjetne inteligencije u EU. Ako se usvoji, pružit će okvir za etičku i odgovornu upotrebu umjetne inteligencije, istovremeno promičući inovacije i štiteći temeljna ljudska prava. Zakonodavstvo će imati značajan utjecaj na budućnost umjetne inteligencije, kako u EU tako i globalno. Međutim, postoji zabrinutost da bi zakon mogao ugušiti inovacije i konkurentnost u industriji, stoga je važno postići ravnotežu između regulacije i poticanja inovativnosti, a te se zabrinutosti moraju riješiti u konačnoj verziji Akta.
Autor: Robert Dimitrovski, Direktor razvoja u BISS-u
