U ponedjeljak, 13. svibnja s početkom u 18 sati, u Gradskoj knjižnici Rijeka održalo se predavanje na temu ‘Rizici umjetne inteligencije i kako nas štiti pravo Europske unije?’. Predavanje je održala prof. dr. sc. Ivana Kunda s Pravnog fakulteta Sveučilišta u Rijeci, a najavila ju je Tihana Naglić, pozdravivši prisutne i predstavivši ostatak programa u sklopu YUFE (Young Universities for the Future of Europe) akademije. Prostorija je bila gotovo popunjena, a prisutne građanke i građani su pozvani na aktivno sudjelovanje u predavanju o temi koja neke zabrinjava, a neke oduševljava.
Prof. Kunda je objasnila kako je istraživanje i razvoj umjetne inteligencije (UI) započe u još u 50-im godinama 20. stoljeća, a posljednjih je desetljeća doživjelo procvat, praćeno naglim skokom unazad nekoliko godina. Uz ubrzan razvoj tehnologije, te računala koja mogu obrađivati sve veće količine podataka, enormno se povećala i količina podataka dostupnih na internetu uz pomoć kojih se UI može puno brže razvijati.
Započelo se s pozitivnim stranama UI, a kao primjer je spomenuta medicina, odnosno medicinska dijagnostika, gdje je UI velika potencijalna pomoć, te područje robotike koje je jako napredovalo, te već sada imamo primjere gdje je robot precizniji kod mikro operacija od ljudskih ruku. Kao drugi pozitivan primjer navedeni su vremenski modeli i predviđanja vremenske prognoze, npr. meteorološki modeli kretanja uragana il drugih vremenskih nepogoda, koji bi mogli biti izvrstan alat kada bi bili dostupni svima. Postoji puno primjera gdje UI može olakšati svakodnevni život i zadatke građana, npr. popularna Roomba ili implementacija u smartphoneove.
Primjer malog robota postavljenog na stanici na Times Square koji je trebao identificirati krizne situacije te prenijeti policajcima informacije, no razbijen je nakon manje od mjesec dana, pokazuje da zapadno društvo još nije spremno na takve intervencije. S druge strane, Kina je primjer države u kojoj je potpuno normalno snimati djecu u razredu kako bi se vidjelo koliko prate nastavu. Takve situacije stvaraju strahoviti društveni pritisak, slično kao i sistem društvenog kredita gdje su građani Kine ‘praćeni’, te ovisno o svom ponašanju rangirani unutar društva, odnosno povećava se ili smanjuje društveni status pojedinca, no Kina je poznata po niskoj razini zaštite ljudskih prava i malim slobodama svojih građana. Unatoč trenutnom stanju ljudskih prava u Europi, koje je obilježeno pokušajima smanjivanja već stečenih prava, Europa je i dalje u odnosu na druge dijelove svijeta svijetl(ij)a točka ljudskih prava, a kako i je prof. Kunda napomenula, ta će prava opstati jedino ako se nastavimo boriti za njih.
UI je bazirana na programerskom kodu, sposobna je učiti, ali postoji šansa da pogrešno nauči ako su podaci na kojima uči neispravni, te zbog toga još uvijek pokazuje nedovoljnu razinu sigurnost, a trenutno prisutni alati su vrlo ograničeni. Kao rizik za građane spomenuti su automatski sustavi odlučivanja u kojima ne sudjeluje čovjek, te slučajevi u kojima čovjek sudjeluje ali su sustavi u mogućnosti snažno utjecati na krajnju odluku, primjerice kod uzimanja kredita, zapošljavanja, liječenja ili sudske prakse. Automatsko odlučivanje može pojačati predrasude te produbiti društvene podjele, te je za neke algoritme za zapošljavanje već utvrđeno da su davali prednost muškarcima ili da su bili oštriji prema nekim skupinama, npr. prema boji kože, etničkoj pripadnosti, spolu ili dobi kada su bile u pitanju kaznene sankcije, što je bila posljedica učenja na takvim podacima. Još jedan potencijalni rizik je manipulacija i utjecaj na donošenje odluka pojedinaca s pomoću algoritama i sakupljenih osobnih podataka koji se upotrebljavaju za usmjeravanje propagande i utjecanje na odluke.
Očekuje se porast količine podataka proizvedenih u svijetu s 33 zetabajta u 2018. godini na 175 zetabajta u 2025. godini (1 zetabajt je tisuću milijardi gigabajta), na što se vezuje potreba hlađenja sustava koji će te količine podataka obrađivati, a za što je potrebna velika količine energije i vode. Prisutni su imali priliku čuti stručno mišljenje o važnosti pravnih mehanizama za zaštitu građanskih prava u kontekstu napretka umjetne inteligencije. Građani Europske unije imat će pravo podnijeti pritužbe na sustave UI i dobiti objašnjenja o odlukama ako utječu na njihova prava.
Sustavi UI opće namjene i modeli poput ChatGPT-a na kojim se temelje, moraju ispunjavati zahtjeve transparentnosti, te biti usklađeni sa zakonom EU o autorskim pravima, a bitno je i objavljivanje detaljnih sažetaka sadržaja koji se koriste za obuku. Snažniji modeli moraju ispunjavati i dodatne zahtjeve, uključujući provođenje evaluacije modela, procjenu i ublažavanje sistemskih rizika i izvješćivanje o incidentima, a umjetna ili manipulirane slika, audio ili video sadržaj (deepfakes), mora jasno biti označen kao takav. Zabranjena funkcionalnost UI sustava je primjena subliminalnih tehnika, a visokorizične funkcionalnosti postoje kod UI sustava koji se koriste kao sigurnosne komponente ili upravljanju radom kritične digitalne infrastrukture, cestovnog prometa, opskrbe vodom, plinom, grijanjem ili električnom energijom, na svim razınama za zapošljavanje, analizu prijava i procjene pojedinaca, u kontekstu upravljanja migracijama, azilom i graničnom kontrolom, u svrhu prepoznavanja ili identifikacije ili ako postoji mogućnost utjecaja na ishod izbora ili referenduma ili izborno ponašanje pojedinaca.
Europska unija je prva u svijetu prepoznala ove izazove i donijela ‘Akt o umjetnoj inteligenciji’ u pokušaju kontroliranja rizika, te Članak 113 i Članak 111 koji stupaju na snagu dvadesetog dana od objave u Službenom listu Europske unije, a primjenjuju se od 12 mjeseci do 6 godina od datuma stupanja na snagu. Ova je Uredba u cijelosti obvezujuća i izravno se primjenjuje u svim državama članicama.
Ovo zanimljivo i informativno predavanje organizirano je povodom obilježavanja Dana Europe te je dio programa YUFE akademije, a cilj mu je bio pružiti dublji uvid u načine na koje Europska unija djeluje kako bi smanjila rizike. Krajem predavanja brojni su se prisutni počeli uključivati pitanjima, vlastitim iskustvima i idejama, što je predavanje pretvorilo u dijalog i privelo ga kraju.
Istaknuta i ostale fotografije: Sanja Prodan
