Verso sistemi AI Responsabili: un approccio Metodologico per l'integrazione della Explainable AI nei Sistemi di Supporto alle Decisioni

Decision-making processes are critical to the success of any organization, as they directly affect the company’s ability to achieve its goals. Such processes over the years have become extremely “Knowledge Intensive”, i.e., they have become collections of activities that require a significant amount of specialized knowledge or expertise. Moreover, they rely heavily on experience, intuition, and expert judgement, built on large volumes of information that, once handled, processed and analysed, turn into valuable knowledge, useful, precisely, to promote effective and efficient decisions for the company. The implementation of support technologies to optimise these types of processes is certainly represented by Decision Support System (DSS). Decision support systems are information systems that help users make decisions based on analyses of varying complexity performed on company and non-company data using various technologies. Over the years, DSS have undergone important evolutions, marked in particular by technological advances in the Information Technology domain, with particular emphasis in recent years on the progress made in the Artificial Intelligence (AI) domain. The integration of AI in the DSS stems, in fact, from the need to manage the growing complexity and volume of available data, linked, above all, to unstructured information. AI can rapidly process large amounts of data, identify patterns and trends, and provide valuable insights that can improve the efficiency and effectiveness of decisions...

I processi decisionali sono fondamentali per il successo di qualsiasi organizzazione, poiché influiscono direttamente sulla capacità dell’azienda di raggiungere i suoi obiettivi. Tali processi negli anni sono diventati estremamente “Knowledge Intensive” ovvero si sono trasformati in collezioni di attività che richiedono una significativa quantità di conoscenza o competenza specialistica. Inoltre, si basano fortemente sull’esperienza, l’intuizione, il giudizio degli esperti, costruiti su grossi volumi di informazioni che una volta trattati, lavorati e analizzati si trasformano in conoscenza preziosa, utile, appunto, a promuovere decisioni efficaci ed efficienti per l’azienda. L’adozione di un supporto tecnologico, al fine di migliorare tali tipologie di processi, è rappresentata sicuramente dai Decision Support Systems (DSS). I sistemi di supporto alle decisioni sono sistemi informativi che aiutano gli utenti a prendere decisioni basandosi su analisi, di varie complessità, operate sui dati aziendali e non, grazie all’utilizzo di tecnologie di diversa natura. Negli anni i DSS hanno avuto delle evoluzioni importanti, scandite in particolare dagli avanzamenti tecnologici avuti nel dominio dell’Information Technology, con particolare accezione, negli ultimi anni, dei progressi avuti nell’ambito dell’intelligenza artificiale (IA), da questo punto in poi Artificial Intelligence (AI). L’integrazione dell’AI, nei DSS nasce, infatti, dalla necessità di gestire la crescente complessità e il volume dei dati disponibili, legata, soprattutto, alle informazioni non strutturate. L’AI, infatti, può elaborare rapidamente grandi quantità di dati, identificare modelli e tendenze, e fornire intuizioni preziose che possono migliorare l’efficienza e l’efficacia delle decisioni...