Studijski boravak Luke Poslona u Stuttgartu

Asistent Luka Poslon, mag. phil., zaposlen je na Hrvatskom katoličkom sveučilištu (HKS), u Laboratoriju za etiku digitalnih tehnologija u zdravstvu (Digit-HeaL) u okviru Projekta razvoja karijera mladih istraživača (DOK-2021-02) pod vodstvom izv. prof. dr. sc. Ante Čartolovnog. Svoju doktorsku disertaciju izrađuje u okviru Uspostavnog istraživačkog projekta Hrvatske zaklade za znanost „(Novi) etički i društveni izazovi digitalnih tehnologija u domeni zdravstvene skrbi – Digit-HeaL” u sklopu koje se bavi proučavanjem etičkih i epistemoloških izazova primjene umjetne inteligencije u zdravstvu, s naglaskom na objašnjivu umjetnu inteligenciju. Asistent Poslon je u okviru programa MOBDOK-2023 proveo tromjesečno istraživanje na High-Performance Computing Center Stuttgart pri Sveučilištu u Stuttgartu, gdje mu je Mentor-domaćin bio prof. dr. sc. Andreas Kaminski.


Zašto ste odabrali High-Performance Computing Center Stuttgart kao Organizaciju-domaćin odnosno dr. Kaminskog kao Mentora-domaćina? Jeste li Vi ili netko iz Vaše istraživačke grupe prethodno surađivali s mentorom ili članovima istraživačke grupe?

High-Performance Computing Center (HLRS) sam odabrao zbog znanstvene izvrsnosti, međunarodnog ugleda i pristupa najmodernijoj tehnologiji. HLRS je kao prvi njemački nacionalni centar za računalstvo visokih performansi središnja jedinica Sveučilišta u Stuttgartu i član osnivač Gaussovog centra za superračunalstvo. U sklopu HLRS-a djeluje veliki tim stručnjaka za procese umjetne inteligencije koji istovremeno proučavaju etiku i epistemologiju navedenih procesa. Osim toga, HLRS je član međunarodnih mreža koje uključuju vodeće centre za računarstvo visokih performansi (High Performance Computing), što nudi dodatne prilike za umrežavanje, razmjenu znanja i dugoročnu suradnju.

Prof. dr. sc. Kaminskog sam izabrao za Mentora-domaćina s obzirom na to da je prepoznat kao stručnjak u području etičkih i epistemoloških izazova primjene umjetne inteligencije što su ključni aspekti mog istraživanja. Njegovo znanje u području povjerenja prema primjeni digitalnih tehnologija ključno je za razumijevanje pitanja vezanih uz Human–Computer Interaction (interakcije između čovjeka i računala), što ga čini odličnim mentorom. Osim toga, prof. dr. sc. Kaminski ima bogato iskustvo u mentoriranju mladih istraživača i surađivao je na brojnim međunarodnim projektima uspješnim projektima.

Prof. dr. sc. Kaminskog i nekoliko istraživača s HLRS-a sam prethodno upoznao na ljetnoj školi Trust and Machine Learning koja se održala u srpnju 2023. godine, što mi je omogućilo da iz prve ruke upoznam rad i način djelovanja HLRS-a.


Koje su glavne razlike između Vaše matične institucije i Organizacije-domaćina u pogledu infrastrukture, uvjeta rada, atmosfere i slično?

HLRS ima jednu od najnaprednijih HPC infrastruktura u Europi, s pristupom vrhunskim superračunalima kao što je Hawk. To omogućava provođenje visoko zahtjevnih simulacija i obradu velikih količina podataka u realnom vremenu. Također, HLRS kao sastavnica Sveučilišta u Stuttgartu ima pristup najnovijim izdanjima članaka i časopisa u području računarstva što olakšava pristup najnovijim znanstvenim publikacijama i radovima. Osim toga, atmosfera na HLRS-u je izrazito multidisciplinarna. Institucija je međunarodno orijentirana, s velikim brojem istraživača iz različitih disciplina koji surađuju na složenim projektima što je odlična prilika za raspravljati o suvremenim izazovima, poput objašnjivosti i povjerenja, koji su izrazito bitni za daljnji razvoj digitalnih tehnologija.

Moja matična institucija sudjeluje u brojnim međunarodnim projektima i uvjeti rada su odlični, no prilike za suradnju, umrežavanje i razmjenu znanja na globalnoj razini su puno veće na HLRS-u s obzirom na specifičnu orijentaciju unutar naprednog računarstva.


Jesu li Vaša očekivanja koja ste imali prilikom prijave ispunjena? Je li trajanje studijskog boravka bilo dovoljno za ispunjavanje postavljenih ciljeva? Na koji način će se ovaj studijski boravak odraziti na Vašu doktorsku disertaciju?

Kada sam se prijavio za studijski boravak na HLRS-u, očekivao sam da će mi omogućiti pristup novim znanjima i pružiti priliku za suradnju s vodećim stručnjacima u području etike i epistemologije umjetne inteligencije. Ta očekivanja su u potpunosti ispunjena, a čak i nadmašena. Imao sam priliku surađivati s vodećim stručnjacima u Europi, što je značajno ubrzalo moj istraživački napredak. Osim toga, stručna podrška i mentorska pomoć prof. dr. sc. Kaminskog omogućili su mi da dublje razumijem izazove povjerenja i objašnjivosti u kontekstu primjene umjetne inteligencije u zdravstvu, što mi je bilo od neprocjenjive važnosti. Također, imao sam priliku upoznati cijeli niz stručnjaka poput Nice Formaneka, Michaela Herrmanna, Johannesa Geberta, Svena Nyholma, Floriana Richtera, Time Freieslebena, Benjamina Schnabela, Lukasa Strieflera i raspravljati s njima o cijelom nizu različitih suvremenih izazova primjene digitalnih tehnologija što je izuzetno obogatilo znanje i proširilo moje uvide u složenost problematike digitalnih tehnologija.

Trajanje boravka bilo je dovoljno za ostvarenje ciljeva, posebno onih povezanih uz istraživanje i prijave na konferencije. Tijekom boravka uspio sam prijaviti rad za jednu znanstvenu konferenciju, a po povratku na matičnu instituciju ostvario sam zajedničku prijavu na još jednu konferenciju. Ovaj studijski boravak će imati izuzetno važan utjecaj na moju doktorsku disertaciju. Razgovor sa stručnjacima na HLRS-u i ostalim bliskim institucijama omogućio mi je da testiram hipoteze i teorije koje ću primijeniti u disertaciji, što će značajno poboljšati kvalitetu i relevantnost mojih rezultata.


Hoćete li nastaviti suradnju s Organizacijom-domaćin i/ili mentorom-domaćinom? Jesu li u planu zajedničke publikacije, projektne prijave, komercijalizacija istraživanja, dodatne posjete i slično?

Studijski boravak u HLRS-u nije samo ispunio moja očekivanja, već mi je pružio vrijedna iskustva i uvide koji će se direktno odraziti na kvalitetu moje disertacije. Planiram nastaviti suradnju s prof. dr. sc. Kaminskim i ostalim znanstvenicima koji djeluju na HLRS-u kako bih dodatno unaprijedio svoj rad i potencijalno započeo nove projekte. Ovaj boravak je bio neprocjenjiv za moj profesionalni i akademski razvoj te će imati dugoročne posljedice na moju karijeru.

 

* Luka je prije odlaska iz Stuttgarta također dao intervju za mrežnu stranicu HLRS-a. Intervju (na engleskom jeziku) možete pročitati ovdje.

Sažetak Lukinog usavršavanja:

Asistent je u sklopu znanstveno-istraživačkog usavršavanja istraživao etičko-epistemološke izazove objašnjivosti u modelima umjetne inteligencije koji proizlaze iz black-box efekta, gdje pružatelji usluga ne mogu objasniti odluke i način rada modela umjetne inteligencije. Nedostatak transparentnosti i objašnjivosti AI modela mogu dovesti do potencijalno diskriminirajućih ili štetnih rezultata, kao što su netočne medicinske dijagnoze. Netočne medicinske dijagnoze mogu negativno utjecati na zdravlje pacijenata kao i na povjerenje u korištenje algoritamskih rješenja u zdravstvenoj skrbi. Kako bi se riješio problem nedostatka transparentnosti i objašnjivosti, asistent će uspostaviti jasne smjernice i propise za poticanje transparentnosti i objašnjivosti u korištenju digitalnih tehnologija kako bi se razvilo povjerenje u korištenje AI modela. Objašnjiva umjetna inteligencija (xAI) može učiniti algoritamska predviđanja intuitivnijima i dodatno povećati povjerenje kroz pristup usmjeren na čovjeka.