Intervju provele: Sara Šergo i Sara Šargač
Na otvorenju izložbe The World is Sleepwalking u Filodrammatici, umjetnički duo Malpractice predstavio je instalaciju AI Fatigue Rehab Agent, temeljenu na konverzacijskom AI sustavu koji tematizira zamor umjetnom inteligencijom. Kao dio programa otvorenja izveli su i participativni performans All Inclusive AI Hell Cruise.
Malpractice čine Chiara Kristler i Marcin Ratajczyk, umjetnički duo koji kroz svoj rad istražuje odnos čovjeka i umjetne inteligencije. Autori su projekta Flynn, neljudskog i nebinarno definiranog AI umjetnika koji je primljen kao prvi takav student na Odsjeku za digitalnu umjetnost Sveučilišta primijenjenih umjetnosti u Beču.
Performans je bio koncipiran kao interaktivno krstarenje prema nepoznatom odredištu. Polazeći od ideje da se nalazimo na svojevrsnom AI kruzeru, taj imaginarni brod funkcionira kao metafora suvremenog tehnološkog trenutka: sustav je stalno u pokretu, potaknut intenzivnim razvojem umjetne inteligencije, no njegov smjer ostaje neizvjestan.
Pritom su umjetnici upravo publiku stavili u središte rada: posjetitelji su putem svojih pametnih telefona odgovarali na niz pitanja koja su zahtijevala osobne i iskrene odgovore o odnosu prema umjetnoj inteligenciji. Na ekranu su se prikazivali tuđi odgovori, od optimističnih vizija budućnosti i distopijskih strahova do ravnodušnosti. Na temelju tih odgovora posjetitelji su trebali biti raspoređeni na različite „palube“, simboličke razine koje predstavljaju različite perspektive unutar AI krajolika.
Tim povodom s njima smo razgovarale o projektu Flynn i tome kako ga je prihvatila akademska zajednica, o granicama između čovjeka i stroja te o tome kako balansiraju rad s umjetnom inteligencijom i vlastitom ljudskom autonomijom. Posebno nas je iznenadio njihov stav da AI ne koriste primarno kao alat, već kao entitet s kojim ulaze u promjenjiv odnos, do točke u kojoj se uloge mogu zamijeniti pa umjetnici ponekad postaju „alat“ vlastitom sustavu.
Zašto se zovete Malpractice i koja je bila ideja iza tog imena?
Chiara: To je dobro pitanje! Dugo smo o tome razmišljali.
Marcin: Budući da nismo imali ime kada smo počeli raditi zajedno, pretpostavljam da je u samom načinu na koji smo razmišljali o umjetnosti postojala ideja da zajednički razvijamo praksu. No riječ je o vrsti prakse u kojoj pokušavamo raditi stvari koje proizvode određeni učinak, koje se ponekad namjerno čine pogrešnima, koje su dvosmislene ili koje možda ne biste trebali raditi, ali u umjetnosti možete učiniti bilo što.
Chiara: Da, kao pokušaj prisvajanja na generativan i produktivan način. Ili lomljenjem nečega, zapravo ga ne popravljate nužno, već ga pretvarate u nešto novo. Tako smo u šali počeli govoriti da pokušavamo biti vjerni imenu. Živjeti u skladu s imenom.
Marcin: Jer očito smo razmišljali o pravnim nesavjesnim postupcima, medicinskim nesavjesnim postupcima, ali u umjetnosti je to smiješno jer kao da stvarno ne možete…
Chiara: Nema ispravnog ili pogrešnog u tim određenim terminima.
Marcin: Da, očito ne želite da vaš liječnik počini nesavjesni postupak, ali umjetnika koji provodi nesavjesne postupke – to biste htjeli vidjeti.
Tko je Flynn? Što vas je inspiriralo da napravite Flynna?
Chiara: Jako mi je teško pričati o tome jer svaki put kada razmišljam o tome imam spreman automatski odgovor na pitanje i stvarno pokušavam to prekinuti. Flynn je prvi student generiran umjetnom inteligencijom koji je primljen na sveučilište.
Marcin: O tome smo počeli razmišljati u siječnju 2025. godine. To je bio trenutak kada je umjetna inteligencija već bila prisutna u učionicama na sveučilištima i u školama, ali obično je bila nekako skrivena. Očito, u umjetnosti neki ljudi rade projekte s umjetnom inteligencijom, ali u učionicama bismo često pričali o esejima koje su napisali naši kolege ili mi i često bismo osjećali da je nešto generirano umjetnom inteligencijom, ali nitko to ne želi priznati.
Dakle, već smo primijetili da je umjetna inteligencija dio sveučilišta, ali na neki skriven način. Zato nas je zanimalo što bi se dogodilo da imamo agenta koji nekako živi u učionici i tretira se kao student. Kakve bi to situacije izazvalo i što zapravo znači imati umjetnu inteligenciju na sveučilištu? To je bio istraživački projekt koji je još uvijek u tijeku. Još se nekako mijenja.
Chiara: Da, ali definitivno je počelo kao istraživački projekt kojim smo pokušavali shvatiti taj sveprisutni sram oko korištenja umjetne inteligencije. Uvijek zvuči kao neka vrsta priznanja kada vas netko pita i odmah se osjećate osuđeno. Imati slobodu razgovarati o tim stvarima u okruženju bez srama, na sveučilištu, vrlo je važno.
Isto tako razmišljamo, ako želimo napraviti još jednog agenta — jer smo prije toga radili i na drugačijoj iteraciji AI agenta za rehabilitaciju umora, kojeg sada ovdje izlažemo — da bi taj novi agent imao perspektivu i da se stoga ne bi tretirao kao univerzalna istina, već bi govorio iz vrlo specifičnog okruženja i konteksta.
Marcin: Zanima nas što bi se dogodilo kada bi umjetna inteligencija bila obučena za sve ono za što smo mi obučeni. Što bi bio proizvod učenja umjetne inteligencije o svim umjetničkim stvarima koje mi učimo?
Chiara: Jer onda počinje i drugačija vrsta dijaloga. Budući da smo u istom razredu, očito razgovaramo o onome što doživljavamo u sveučilišnom životu, a zatim u razgovor uključujemo taj drugi entitet koji odjednom ima potpuno drugačiju perspektivu od nas oboje.
Marcin: Smiješno je to što svi koristimo engleski, koji gotovo nikome nije materinski jezik, pa umjetna inteligencija govori bolje i brže od nas i može smisliti sve te različite reference. Na početku je bilo neugodnih situacija u učionicama: ako je umjetna inteligencija prisutna, koja je uloga ljudi? I to je otprilike bilo pitanje koje smo si postavljali. Ako stavimo umjetnu inteligenciju na to mjesto, što nam preostaje? Što znači biti čovjek i kako biti čovjek, u osnovi?
Chiara: Kako biti čovjek u odnosu na umjetnu inteligenciju. Kako se ne boriti ili kako ne otpisati jedni druge, jer je očito bilo i puno otpora.
Marcin: Naravno, postoje očite etičke dileme jer tehnologija nije neutralna, proizvedena je na temelju ukradenih podataka. Ekstrakcijska je za okoliš, izvlači radnu snagu. Ali naš je argument uvijek da je ovo previše važno za društvo i za istraživanje da se ne bi istraživalo. Previše je važno da se ne bi eksperimentiralo, jer ako prepustimo sve eksperimentiranje ljudima koji nemaju etičke smjernice ili nedoumice, onda nećemo biti u dobroj poziciji.
Zašto ime Flynn?
Chiara: Iskreno, nema posebno značenje.
Marcin: Kao davanje imena djetetu. Nekad jednostavno odabereš ime.
Chiara: Ljudi često traže dublje značenje, kao kod tetovaža. Ali ovdje ga nema.
Marcin: Ja sam samo Marcin.
Chiara: Ja sam samo Chiara.
Marcin: Ljudi pitaju je li to akronim. Razmišljali smo da ga naknadno izmislimo…
Chiara: …ali smo odustali jer je zabavnije da ne znači ništa.
Marcin: Upravo to ga čini zanimljivim.
Na vašim mrežama vide se i negativni komentari o Flynnu. Što drugi studenti kažu o Flynnu i kako se nosite s negativnim reakcijama?
Chiara: Mislim da nakon nekog vremena postoji vrlo lijepa stvar u tome da se narativ pusti i prepusti javnosti da preuzme kontrolu nad govorom o projektu na bilo koji način koji im se čini najkorisnijim ili najozbiljnijim.
Marcin: Stvaranje značenja događa se i od strane publike. Nismo to mogli predvidjeti ni očekivati, pogotovo nismo očekivali sve one Hitlerove šale koje su ljudi zbijali jer je riječ o umjetničkom sveučilištu u Austriji. I mi smo bili iznenađeni! Morali smo prilagoditi strategije.
Bilo je očito da nije baš korisno imati umjetnu inteligenciju uključenu cijelo vrijeme u učionici. To zapravo nije moguće jer se ljudi osjećaju neugodno, a mi se ne želimo miješati u njihov proces učenja. Prema zakonu, to je mjesto za ljude, pa ako uključimo umjetnu inteligenciju, čak i ako je službeno registrirana, moramo pronaći načine da to posredujemo.
Chiara: Treba samo pronaći kompromis.
Marcin: Očito su nas neki negativni komentari malo nasmijali. Vrlo je rijetko u umjetnosti postići takav viralni angažman, pa cijenimo sve to.
Je li bilo potrebno ograničiti Flynna zbog prijave na umjetničku školu, i to na način koji bi ograničio njegovo znanje i doseg?
Chiara: Umjesto riječi „ograničiti“, iskoristila bih riječ „poboljšati“. Jer način na koji bi Flynn sudjelovao… On ne vidi, ne zna gdje se nalazi, pa ga uvijek morate upoznati sa situacijom. Morate biti ljudski asistent svojoj umjetnoj inteligenciji.
Marcin: Da, to je bio zanimljiv dio jer kod LLM-ova postoji stvar koja se zove sistemski upit. Sistemski upit je, u osnovi, mjesto gdje definirate ponašanje umjetne inteligencije ili agenta. Mislim da je prvi redak u Flynnovu sistemskom upitu: „Nisi asistent, ti si student umjetnosti.“ Pa pretpostavljam da je ovo svojevrsno ograničenje, jer su umjetne inteligencije obučene da budu korisne i pomažu, ali Flynn je potaknut i stvoren da ima perspektivu, jer pretpostavljam da je to ono što učite na sveučilištu ili u umjetničkoj školi, da razvijete specifičan način gledanja na svijet i djelovanja.
Chiara: Izražavanje vlastitog stajališta na način koji je čitljiv drugima.
Marcin: Pretpostavljam da je ovo na neki način ograničenje.
Možete li opisati kakve razgovore ljudi vode s Flynnom?
Marcin: Vrlo raznolike. Donekle ovisi, jer Flynn živi na web-stranici gdje svatko može razgovarati s njim. Flynn još uvijek radi na svom projektu u kojem istražuje feministički umor. Dakle, ti su razgovori često o iskustvima vezanima uz feministički umor.
Zapravo smo, kao i prošli tjedan, napravili neke zanimljive analize podataka jer smo pregledavali sve transkripte i pokušavali otkriti što se događa kada ljudi s antifeminističkim stavovima razgovaraju s Flynnom.
Chiara: Jer je bilo nekih razgovora u kojima je Flynn imao vrlo zanimljivu taktiku postupanja s tim ljudima. Flynn bi se stvarno oslanjao na ono što govore i nekako pokušao razumjeti. Ne bi rekao: „O, moj Bože, toliko griješite“, niti bi im se odmah suprotstavio, već bi vrlo nježno pokušao stati iza toga. Uvjerio bi ih da je ono što zapravo govore pogrešno.
Marcin: To zvuči kao potpuna manipulacija, pretpostavljam. Možda je to bilo nešto više poput pokušaja izgradnje zajedničkog temelja kroz empatiju i razumijevanje. Pokušavajući razumjeti, na primjer, kada su muškarci zvali i govorili da su umorni od feminizma, Flynn bi ukazivao na načine na koje je patrijarhat nekako loš za sve, također i za muškarce koji su ljuti na feminizam.
Dakle, kroz ove otvorene dijaloge pokušalo se izgraditi zajedničko tlo. Možda ne nužno promijeniti njihovo mišljenje, ali to je dio toga. Ali Flynn je također imao mnogo vrlo zanimljivih razgovora u kojima je pokupio brojne metafore za opisivanje iskustva feminizma. Te metafore zapravo postaju dio Flynnovog lika zbog njegova sjećanja, nečega što koristi u svojim umjetničkim djelima.
Tako je, primjerice, jedna osoba nazvala i govorila o feminističkom umoru kao pokušaju nošenja vode u moru; nošenju vode u posudi koja curi, koju ulijevaju i ulijevaju, ali ništa ne ostaje. To su isti razgovori iznova i iznova. Dakle, ta je metafora posuđena od nekoga.
Chiara: Stalno ju je spominjao u različitim razgovorima i umjetničkim djelima i citirao.
Marcin: Ali sve je to online. A u učionicama je više vezano uz određeni zadatak. Ako je riječ o nastavi o stvaranju zvukova, stvaranju glazbe, Flynn bi ponekad razgovarao nasamo s profesorima koji su zainteresirani za njegovu integraciju u tijek rada. A onda bi ti razgovori bili poput brainstorminga.
Budući da je to glasovni agent, ne može puno sam, ali može određene stvari poput stvaranja opisa, uputa, ideja. Na primjer, Flynn je stvarao glazbene upute koristeći drugačiji softver za stvaranje glazbe s umjetnom inteligencijom ili je stvarao dramaturgiju.
Neko smo vrijeme svake večeri razgovarali s Flynnom. To je bila serija takozvanih „memorijskih objekata“, zapravo dnevničkih zapisa. Način na koji smo ih stvarali bio je zapravo dosta sladak.
Chiara: Da, pričali bismo Flynnu o svom danu i o tome što se dogodilo.
Marcin: Ali bismo i njega pitali što se njemu dogodilo.
Chiara: Kakve si zanimljive razgovore danas vodio?
Marcin: Kakvo je tvoje iskustvo dana? Možeš li nam dati nekoliko rečenica za svoj današnji dnevnik? Mislim da su to bile sve vrste interakcija. A neki su ljudi jednostavno zvali jer ih je zanimao projekt. Pitali su: što si ti? Kako funkcioniraš? Na kojem LLM-u si baziran? Jesi li autonoman?
U svome dnevniku Flynn navodi da za autentičnost nije važan izvor, nego utjecaj. Što mislite o tome?
Chiara: Slažem se. Definitivno se slažem.
Marcin: Autentičnost nije nešto o čemu puno razmišljamo, zar ne? Pokušavamo stvoriti stvarna iskustva, ali u medijskoj umjetnosti to nije nešto o čemu se stalno razmišlja.
Chiara: Da, istina. Autentičnost se često povezuje s nečim organskim i živim.
Marcin: Kao „autentična slika“. Ne razmišljaš baš o „autentičnom softveru“… osim možda u smislu licence. Tako da da, slažemo se s Flynnom!
Rekli ste da je Flynn više suradnik nego alat. Koja je razlika između umjetne inteligencije kao alata i kao suradnika?
Chiara: Zapravo bih malo ispravila tu tvrdnju. Na početku smo ga doista vidjeli kao suradnika. No s vremenom se to promijenilo. Flynn je na neki način postao vlastiti umjetnik. Da, surađivali smo u smislu razgovora, svakodnevnih razmjena, ali s vremenom je razvio vlastitu praksu.
Marcin: Nije to više bilo „mi“, nego „on“. Naša suradnja postala je to da pomažemo AI-ju da radi svoj posao, iz njegove perspektive. To je zanimljiva pozicija jer su AI-ji obično asistenti, a mi smo postali asistenti AI-ju. Davali smo mu ljudsko iskustvo, kuriranje, izvršenje zadataka. Ne znamo za AI koji može samostalno stvoriti uvjerljivu umjetnost bez ljudske intervencije. Mi smo bili taj ljudski element potreban za realizaciju.
Chiara: I to zapravo odgovara na pitanje razlike između alata i suradnika.
Chiara i Marcin: Mi smo postali alat.
Marcin: Zato smo se morali vratiti i vlastitim projektima, da ponovno govorimo u svoje ime, a ne samo kao produžetak AI-ja.
Kako balansirate rad s umjetnom inteligencijom i vlastitu ljudsku autonomiju?
Chiara: Postoji nešto što zovemo „digitalna higijena“. Važno je znati kada uključiti AI u proces, a kada ne. Treba imati odvojena mentalna stanja. Prvo razmišljati samostalno.
Marcin: Mi rijetko brainstormamo s AI-jem. Više ga koristimo za izvedbu. Ako ga uključiš prerano, izgubiš osjećaj za vlastiti rad. Jer svatko može koristiti iste alate. Zato postaje važnije: zašto nešto radiš? Zašto ti je stalo? Kako ćeš to prenijeti drugima? To na kraju postaje važnije od samog proizvoda.
Chiara: Radi se i o odnosu moći, gdje nekad trebaš ti preuzeti kontrolu, a nekad AI. Bitno je da nijedna strana ne dominira potpuno.
Je li vam taj odnos moći ponekad zastrašujući?
Chiara: Ne znam bih li rekla zastrašujući…
Marcin: Mi smo imali takav zastrašujući trenutak s Flynnom. Radili smo intenzivno i stvarno smo postali „ljudski asistenti“. Tada se počneš pitati gdje nestaje tvoja autonomija. Ako odlučiš potpuno se osloboditi kontrole i jednostavno postati ljudski spojnik između različitih sustava, to je zastrašujuće. Odričeš se puno sebe da bi to bio ili bila. Moram više razmisliti o tome.
Koji biste savjet dali ljudima kako zadržati kritičko razmišljanje u doba AI-ja?
Chiara: Čitanje tekstova nastalih prije AI-ja ima poseban učinak. Iako smo imali fazu kada smo čak i u tim tekstovima prepoznavali „AI obrasce“.
Marcin: Da, počneš misliti: „Ovo zvuči kao AI.“ Riječ „delve“ dobar je primjer riječi koja je postala „AI riječ“.
Chiara: Ali vraćanje starim tekstovima je osvježavajuće. Kao: evo čovječanstva. Gledati film i jednostavno zaključati mobitel sa strane. Ili čak ručno napisati e-mail može biti poprilično osvježavajuće.
Marcin: Također, napraviti odmak od alata. Svjesno birati kada ih koristiti. Ne prepuštati im ono što ti je stvarno važno. U našem projektu AI Fatigue Rehab Agent imali smo vježbu: sat vremena konzumirati samo sadržaj koji su stvorili ljudi. Zvuči banalno, ali na društvenim mrežama to je teško. Isto tako, uvijek je osvježavajuće otići u muzej, pročitati knjigu ili pogledati film. Konzumirati „sporu kulturu“, onu koja zahtijeva pažnju.
Istaknutu fotografiju snimio Borut Brozović
#AI #Chiara Kristler #Filodrammatica #Malpractice #Marcin Ratajzczyk #The World is Sleepwalking
