Interpretacija mehanizmov za razložljivo biometrično umetno inteligenco (MIXBAI)

Nedavni napredki na področju umetne inteligence so omogočili pomembne preboje v avtomatiziranih biometričnih sistemih, v smislu odločitvenih in generativnih aplikacij. V številnih aplikacijah lahko avtomatizirani biometrični sistemi, ki jih poganja umetna inteligenca, dosegajo ali presegajo človeške sposobnosti, hkrati pa omogočajo uporabo biometričnih sistemov v velikem obsegu v primerjavi z ročnimi, s strani človeka nadzorovanimi rešitvami. Glede na zmogljivost in vse bolj razširjeno uporabo avtomatiziranih biometričnih sistemov je za raziskovalce pomembno, da znajo pojasniti njihovo delovanje in ugotoviti, ali njihove biometrične odločitve temeljijo na trdnih načelih, tj. tako, da so sprejete na pošten, nepristranski in nediskriminatoren način, pri čemer se v največji možni meri spoštujeta načeli zasebnosti uporabnikov in varstva njihovih osebnih podatkov. Biometrični sistemi, ki izpolnjujejo ta merila, so zelo zaželeni, kar izkazujejo tudi nedavno predlagani predpisi na nacionalni ravni in ravni EU v zvezi z varstvom podatkov, zasebnostjo uporabnikov, pravico do pojasnila in podobnimi pravnimi okviri. Interpretacija mehanizmov je družina novejših predlaganih metod za razlago najsodobnejših modelov umetne inteligence z globokim učenjem, katere cilj je ustvariti razumevanje modelov globokega učenja na ravni njihovih minimalnih funkcijskih komponent, v nasprotju s prejšnjimi metodami, katerih cilj je bil ustvariti atribucije odločitev, medtem ko se model obravnava samo kot zalključeno celoto. V okviru predlaganega raziskovalnega projekta MIXBAI bomo razširili zmogljivosti najnovejših tehnik pojasnjevanja umetne inteligence in jih uporabili pri preučevanju sodobnih biometričnih sistemov umetne inteligence, da bi pripravili takšne razlage modelov in odločitev, ki bodo omogočile varno in zakonito uporabo avtomatiziranih biometričnih sistemov umetne inteligence v različnih obstoječih in prihodnjih regulativnih okvirih. Povečanje preglednosti sprejemanja odločitev biometričnih umetnih inteligenc bo povečalo tudi zaupanje uporabnikov v te sisteme in preprečilo morebitne javne polemike v zvezi z njihovo uporabo.