Reliability Assessment Methods for Explainable Artificial Intelligence

Nel ripensare alla me stessa di ormai quasi 5 anni fa, appena laureata ed un po' "smarrita" rispetto alle diverse strade che potessi avere di fronte, mi piace sempre ricordare di come, quasi per caso, mi fossi affacciata al mondo della ricerca, intraprendendo questo percorso di dottorato.Compiere questa scelta ha significato per me non solo affrontare tematiche scientifiche quasi completamente nuove, imparando nuovi argomenti e soprattutto imparando ad apprenderli, ma mettermi alla prova con quanto di più avessi sempre ritenuto essere troppo al di là della mia zona di comfort: dal presentare le mie ricerche in pubblico, al partecipare ad eventi per "semplice" networking.Ed è così che questi 3 anni mi hanno permesso di crescere sotto il punto di vista professionale, trovando una direzione che la me neolaureata non sentiva di avere, ma anche dal punto di vista personale.Grazie al dottorato, posso dire -sono sincera, non senza una buona dose di orgoglio -di avere fatto un importante passo in avanti nel migliorare quelli che sono sempre stati un po' i miei limiti personali: avere parlato in pubblico ormai non so quante volte; avere partecipato a conferenze dove ho essenzialmente parlato con sconosciuti o di fronte ai guru degli argomenti che stavo studiando; di avere trascorso alcuni mesi all'estero, da sola, lontana da casa.E, perchè no, ci tengo anche a ricordare di tutte le belle opportunità che ho avuto di vedere nuovi posti nel mondo: dalla mia adorata Siviglia, a Lisbona, alla Bassa Sassonia, a Cipro e Malta e, non da ultimo, alla California.Chi mai avrebbe pensato di andare anche in America?! Penso e spero che queste righe abbiano dato un quadro, seppur non esaustivo, di ciò che per me sono stati questi 3 anni.Ma niente di tutto quello che ho citato sarebbe stato possibile senza tutte le persone che mi hanno accompagnato in questo bel percorso (e che, almeno per ora, non si libereranno di me), spronandomi sempre in tutte le attività.Ci tengo quindi a ringraziare tutto il mio gruppo di ricerca.Grazie ai miei supervisor, Maurizio Mongelli e Fabrizio Dabbene, per la loro importante guida scientifica, che mi hanno dato sempre le giuste motivazioni e permesso di avere tante belle opportunità.Grazie ai miei compagni di avventura nonchè preziosi collaboratori: grazie ad Alberto, che mi ha aiutata a fare un pochino più mia la matematica e mi ha sempre supportato quando più ne avevo bisogno; grazie a Marta, con cui ho condiviso tante vi belle esperienze, soprattutto nella nostra "terra d'origine" dell'ingegneria biomedica.Grazie anche ai collaboratori "passati", Giacomo, Ivan e Vanessa, che hanno contribuito con me ad alcuni lavori che oggi presento in questa tesi.E grazie infine a tutti gli altri colleghi di Genova, "quelli dei pranzi belli': Alessandra, Barbara, Enrico (a cui va la menzione speciale per avermi avviato al python e no, non rinnego il passato cyber), Martina, Sabrina, Sandro, Paola, con cui le risate non mancano mai.Non posso poi non ringraziare la mia famiglia: i miei genitori, che mi hanno aiutato tanto in questi anni, permettendomi di essere giunta a questo importante traguardo; mia sorella Elena, che -seppur a suo modo -sa sempre come rincuorarmi e che, finalmente, adesso non mi sentirà più dire "I'm Sara Narteni, a PhD student,..." mentre provo le presentazioni.Grazie ai miei nonni, Anna, Armando e Mariuccia, che per me ci sono sempre, anche se per loro il funzionamento di un dottorato rimarrà un mistero maggiore di quelli che si nascondono dietro all'Intelligenza Artificiale ;-).Non so bene cosa mi riserverà il futuro, ma... Ad Maiora!Sara vii "La vita non è facile per nessuno di noi.Ma cosa importa?Bisogna perseverare e, soprattutto, avere fiducia in sé stessi.Bisogna credere di essere dotati per qualcosa e che questa cosa deve essere raggiunta."M. Curie Alla mia famiglia.A.2 Examples from REXASI-PRO safety analysis.Each spider chart shows how different combinations of values for the ODD variables (reported in bold) determine a different ASIL level of risk for the individuated malfunctioning behaviors and hazards (QM: quality management; ASIL-A: low risk; ASIL-B: moderate risk; ASIL-C: high risk).ASIL is in turn assigned from exposure, severity and controllability scores.Risk levels other than QM require the introduction of safety goals to mitigate them. . . . . . . . . . . . . . . . . . . . .124 A.3 Schematic summary of the rule-based OoD detection approach. . . .126 A.4 Visual intuition behind the need for deep probabilistic scaling approach.The goal is to understand which samples are "not conformal" with respect to a target class. . . . . . . . . . . . . . . . . . . . . .128 A.5 Distribution of uncertainty of MNIST17 and PneumoniaMNIST.Shown in blue and yellow, respectively, are the uncertain classifications for class '1' and class '7' for MNIST1-7 and for class "normal" and class "pneumonia" for PneumoniaMNIST. . . . . . . . . . . . . . . . .