Dott. Maurizio Doria

Tag: governance algortmica

  • Governance dell’intelligenza artificiale: DAAF all’opera.

    Governance dell’intelligenza artificiale: DAAF all’opera.

    Nel tempo delle tecnologie emergenti, la domanda cruciale non è quanto siano potenti gli algoritmi, ma se le istituzioni siano ancora in grado di custodire la dignità e la libertà umana. La governance dell’intelligenza artificiale si trova oggi a un bivio etico e operativo. La Magnifica humanitas (l’enciclica di Leone XIV dedicata all’IA), l’attività scientifica del centro di ricerca LEITAI e l’architettura del framework DAAF convergono, da prospettive diverse, su un unico postulato: l’algoritmo deve restare uno strumento al servizio della persona.

    Indice della Guida alla Governance Algoritmica

    1. Che cos’è il DAAF e perché definisce la governance dell’intelligenza artificiale

    Il Democratic Algorithmic Accountability Framework (DAAF) è un meta–framework che nasce per restituire centralità giuridica e organizzativa alla persona nei processi decisionali automatizzati. Non si tratta di un modello astratto, ma di una vera e propria architettura tecnica: mappa i sistemi di IA ad alto rischio, definisce la sorveglianza umana attiva (human oversight) e impone la tracciabilità delle decisioni attraverso matrici matematiche e registri di override.

    L’obiettivo cardine del protocollo è duplice: evitare che l’algoritmo si trasformi in un “decisore occulto” nelle organizzazioni e rendere pienamente verificabile la responsabilità penale e civile del CdA, della Direzione Generale e degli organi di controllo. In questo senso, il DAAF si qualifica come un pilastro essenziale per la corretta governance dell’intelligenza artificiale, spostando l’asse dalla sola compliance documentale alla progettazione ingegneristica della catena di comando algoritmica.

    2. LEITAI: il laboratorio scientifico di diritto ed etica dell’IA

    Il Centre for Law and Ethics of Innovation, Technology and Artificial Intelligence (LEITAI) costituisce il polo di ricerca interuniversitario che unisce le competenze di Universitas Mercatorum, Pegaso e San Raffaele. In una prospettiva laica e metodologica, il LEITAI opera come un laboratorio di filosofia pubblica applicata: un ecosistema in cui giuristi, filosofi e tecnologi analizzano come l’impiego dei sistemi intelligenti ridisegni i poteri, i diritti dei lavoratori e i bilanciamenti democratici delle istituzioni.

    La sua missione scientifica lo rende il ponte ideale tra le grandi domande di senso poste dal dibattito pubblico e le esigenze concrete di regolazione che emergono nei contesti professionali ed economici. Sviluppare una solida governance dell’intelligenza artificiale richiede infatti categorie normative dinamiche, capaci di anticipare l’impatto dei modelli fondativi (Foundation Models) senza bloccare lo sviluppo industriale, ma incanalandolo dentro percorsi formativi avanzati di AI Literacy.

    3. “Magnifica humanitas”: una lettura laica dell’enciclica sul paradigma tecnocratico

    La Magnifica humanitas, pur essendo formalmente un documento del magistero di Leone XIV, si presenta nei contenuti come un saggio di dottrina sociale e filosofia politica applicato alle tecnologie emergenti. Il testo denuncia con forza il cosiddetto “paradigma tecnocratico” – ovvero la tendenza a considerare l’ottimizzazione matematica e la performance aziendale come unici criteri di razionalità e di merito, riducendo l’individuo a un mero nodo di flusso informativo sacrificabile.

    In un’ottica laica, l’enciclica agisce come una forte voce morale nel dibattito globale sulla governance dell’intelligenza artificiale, affiancandosi alle linee guida delle grandi organizzazioni internazionali. Il DAAF affronta questo preciso nodo sul piano organizzativo: attraverso la scomposizione dei pesi decisionali e la motivazione obbligatoria dell’intervento umano (human-in-the-loop), il framework rende visibile e controllabile ciò che il paradigma tecnocratico tende strutturalmente a occultare.

    4. Dall’AI Act all’ingegneria della governance nelle imprese cooperative

    Il quadro regolatorio introdotto dall’AI Act europeo impone presidi rigorosi per la gestione dei rischi legati all’automazione. In questo scenario, il centro LEITAI elabora la “grammatica” di una regolazione compatibile con lo Stato di diritto, mentre il framework DAAF ne costruisce la “sintassi operativa” all’interno dei processi aziendali. Questo connubio si rivela straordinariamente fecondo per il mondo cooperativo e per le imprese ad alto contenuto umano (welfare, sanità, logistica, credito mutualistico).

    Sul piano del diritto societario, l’adozione combinata di questi modelli previene la nascita della pericolosa e paradossale figura dell’“amministratore di fatto algoritmico”, blindando la riserva di cognizione umana in capo ai soggetti designati e garantendo il rispetto degli adeguati assetti organizzativi imposti dall’art. 2086 del Codice Civile. Custodire la persona significa trasformare i valori morali e la ricerca scientifica in una rigorosa ingegneria della dignità.

    Per comprendere come le matrici del DAAF integrino i requisiti di compliance dell’AI Act europeo tutelando la responsabilità civile dei Consigli di Amministrazione, esplora i modelli operativi nell’ Hub dei Framework di Governance Strategica o richiedi un audit tecnico indipendente contattando direttamente l’ Osservatorio.

  • L’ Algoritmo ha preso il controllo del CdA: I rischi della Governance Algoritmica

    L’ Algoritmo ha preso il controllo del CdA: I rischi della Governance Algoritmica

    La governance algoritmica ha superato la frontiera della mera transizione digitale per trasformarsi nel più insidioso fattore di rischio giuridico per i Consigli di Amministrazione contemporanei. Nel 2026, l’introduzione di agenti AI autonomi nei processi decisionali d’impresa rischia di configurare un cortocircuito normativo senza precedenti: l’algoritmo che agisce, de facto, come un Amministratore di Fatto dell’organizzazione societaria.

    Indice dell’Analisi Strategica

    Diagramma concettuale di governance algoritmica nel CdA con un agente LLM che sostituisce il processo decisionale umano riducendolo a mera ratifica.
    L’impatto della governance algoritmica nei processi decisionali del Consiglio di Amministrazione: il rischio della ratifica acritica.

    1. L’illusione del copilota: Il salto di specie degli agenti autonomi

    Fino a ieri, il dibattito sull’applicazione dell’intelligenza artificiale nei contesti direzionali si è adagiato sulla rassicurante metafora del “copilota tecnologico”: un software evoluto, relegato a elaborare enormi volumi di dati grezzi per presentare report predittivi che l’organo amministrativo umano restava libero di vagliare, accogliere o scartare. Questa narrazione è oggi superata dall’evoluzione tecnologica dei sistemi agentici ed autonomi.

    Nel contesto operativo del 2026, le grandi organizzazioni e le cooperative complesse integrano “sciami di agenti” capaci non solo di analizzare, ma di negoziare contratti di fornitura, ottimizzare in autonomia la turnazione della manodopera in base ai flussi logistici e allocare budget finanziari su mercati spot in frazioni di secondo. Quando l’output della macchina non è più una traccia consultiva, ma un comando operativo immesso direttamente nel workflow aziendale, la linea di demarcazione tra strumento di supporto e organo deliberativo si dissolve. L’uomo non guida più: ratifica.

    2. Il cortocircuito civilistico: L’algoritmo come Amministratore di Fatto (Art. 2639 c.c.)

    L’approccio dell’Ingegneria della Governance impone di analizzare questo fenomeno attraverso la lente rigorosa del Diritto Positivo. Ai sensi dell’art. 2639 del Codice Civile, la qualifica di amministratore non è circoscritta esclusivamente a chi investe il ruolo per formale investitura assembleare (amministratore di diritto). Essa si estende inderogabilmente a colui che esercita in modo continuativo e autonomo i poteri tipici inerenti alla qualifica o alla funzione direttiva d’impresa.

    Se un Consiglio di Amministrazione o una Direzione Generale si limitano a validare sistematicamente ed acriticamente le decisioni strategiche formulate da un algoritmo di intelligenza artificiale — per l’impossibilità tecnica o cognitiva di comprenderne la logica interna (black box) — si configura una traslazione surrettizia del potere gestorio. Sotto il profilo dogmatico, il software cessa di essere una res e assume i tratti funzionali dell’amministratore di fatto. Ma poiché un algoritmo non possiede personalità giuridica né capacità patrimoniale per rispondere dei danni cagionati, la responsabilità civile, penale ed amministrativa si abbatte, per proprietà transitiva e in modalità illimitata, sui consiglieri umani che hanno abdicato al proprio dovere di direzione.

    3. La crisi della Business Judgment Rule e gli adeguati assetti ex Art. 2086 c.c.

    Questo scenario scardina il principale scudo protettivo del management: la Business Judgment Rule (la regola della insindacabilità giudiziale delle scelte di merito economico). La giurisprudenza di legittimità accorda l’esimente agli amministratori solo a conditione che la decisione sia stata assunta con la diligenza richiesta dalla natura dell’incarico, previa un’istruttoria approfondita, consapevole e documentata. Delegare la scelta strategica a un sistema algoritmico non trasparente azzera l’istruttoria umana, configurando una colpa specifica per omessa vigilanza algoritmica.

    L’impatto di tale omissione si proietta direttamente sulla violazione del secondo comma dell’art. 2086 del Codice Civile. L’obbligo di istituire assetti organizzativi, amministrativi e contabili adeguati impone che la governance algoritmica sia presidiata da specifici protocolli di controllo e tracciabilità. L’omessa istituzione di presidi informativi capaci di decodificare l’azione dell’IA costituisce, di per sé, un grave sintomo di inadeguatezza dell’assetto aziendale, esponendo l’organo amministrativo a revoca giudiziale e a pesanti azioni di responsabilità in caso di insolvenza o di emersione della crisi.

    4. Il Framework DAAF come scudo immunitario della Governance Algoritmica

    Per neutralizzare il rischio di “esautoramento tecnologico” del CdA e garantire la piena conformità ai dettati dell’AI Act europeo (Regolamento UE 2024/1689), l’Osservatorio ha codificato il modello **DAAF** (*Democratic Algorithmic Accountability Framework*). Questo meta-framework metodologico si innesta all’interno dell’architettura dei Framework di Governance d’impresa per ripristinare il principio cardine dell’antropocentrismo giuridico e della sorveglianza umana attiva.

    Il DAAF non si limita a richiedere una conformità documentale cartacea, ma ingegnerizza i flussi decisionali attraverso l’applicazione combinata di matrici macro-sistemiche (modello APPNIE) e algoritmi di selezione e filtraggio a imbuto (Value Creation Wheel – VCW). Il framework impone la scomposizione matematica di ogni decisione algoritmica ad alto rischio (HR, Logistica, Finanza), costringendo il sistema a esibire i pesi logici e i dati sorgente in un formato intellegibile per l’organo di controllo umano, ripristinando la legittimità della firma e della responsabilità gestoria.

    5. Azioni di mitigazione immediata per Direzioni Generali e CdA

    Al fine di mettere in sicurezza l’organizzazione dal rischio di revoca degli assetti e blindare la responsabilità dei consiglieri, la Direzione Generale deve implementare tre linee d’azione preventive:

    • Auditing della Catena Decisionale: Censire analiticamente tutti i software e i sistemi di intelligenza artificiale operanti in azienda, mappando le aree in cui la macchina genera output ad attivazione automatica o vincolante per il personale.
    • Istituzione del Registro dell’Override Umano: Implementare un protocollo strutturato in cui ogni scostamento, modifica o rifiuto delle raccomandazioni algoritmiche da parte del manager umano venga registrato e motivato sotto il profilo della convenienza economica, fornendo la prova legale della reale supervisione d’impresa.
    • Allineamento dei Modelli Organizzativi 231: Integrare i presidi di governance algoritmica all’interno dei protocolli del Modello 231 e dei sistemi di gestione della sicurezza nei luoghi di lavoro, neutralizzando il rischio di bias discriminatori o reati informatici societari, secondo le linee tracciate per i MOG semplificati.

    L’evoluzione tecnologica non esime il vertice aziendale dai doveri di diligente e prudente gestione, ma ne innalza la complessità analitica. Per approfondire come le dinamiche dell’esegesi giurisprudenziale impattino sulla stabilità organizzativa e sulla tutela contrattuale degli enti mutualistici e delle imprese complesse, si rimanda al saggio: Il duplice rapporto del socio: analisi tecnica Sentenza Milano 2024.

    Se la tua organizzazione complessa, ente di controllo o cda intende implementare i protocolli scientifici del Framework DAAF o verificare la conformità degli assetti aziendali ex art. 2086 c.c. applicando i modelli di ingegneria forense, scopri le soluzioni sistemiche sviluppate all’interno del mio Hub dei Framework di Governance Strategica.

    Questo programma di ricerca permanente persegue l’obiettivo di tracciare le linee di una transizione digitale sicura ed antropocentrica. Per quesiti metodologici, abstract tecnici o proposte strutturate di collaborazione accademica indipendente, è possibile attivare un confronto directo contattando l’ Osservatorio.

  • AI Act e cooperative: come governare i sistemi algoritmici tra rischio, accountability e explainability

    AI Act e cooperative: come governare i sistemi algoritmici tra rischio, accountability e explainability

    AI Act cooperative: la governance algoritmica richiede presidi organizzativi chiari su responsabilità, sorveglianza umana e controllo dei sistemi AI.


    L’AI Act cooperative apre una fase nuova per la governance algoritmica nelle imprese mutualistiche. Nelle cooperative che utilizzano sistemi di intelligenza artificiale per selezione, gestione e valutazione dei lavoratori, la regolazione europea impone di ripensare presidi organizzativi, responsabilità interne e controllo degli algoritmi. Quando tali strumenti incidono su selezione del personale, allocazione delle attività, valutazione delle performance, monitoraggio o supporto a decisioni organizzative relative ai lavoratori, il tema si colloca nel punto di intersezione tra regolazione europea dell’intelligenza artificiale, diritto dell’organizzazione d’impresa e responsabilità dei centri decisionali interni.

    In questa prospettiva, il problema non consiste nello stabilire se l’algoritmo debba o meno entrare nella gestione cooperativa. Il punto, più precisamente, è verificare secondo quali condizioni un ente cooperativo possa utilizzare sistemi di intelligenza artificiale o strumenti algoritmici mantenendo la tracciabilità del processo decisionale, la riconducibilità della responsabilità a soggetti umani determinati e un livello adeguato di intelligibilità degli output prodotti dal sistema.

    Per le AI Act cooperative il tema centrale non è se usare o meno sistemi AI, ma come governarli.

    Un registro interno dei sistemi AI è un presidio essenziale per qualsiasi AI Act cooperative che gestisca processi HR con algoritmi.

    1. Accountability algoritmica nelle AI Act cooperative.

    Nelle cooperative che utilizzano sistemi di intelligenza artificiale per selezione, gestione e valutazione dei lavoratori, la regolazione europea impone di ripensare presidi organizzativi, responsabilità interne e controllo degli algoritmi. Quando tali strumenti incidono su selezione del personale, allocazione delle attività, valutazione delle performance, monitoraggio o supporto a decisioni organizzative relative ai lavoratori, il tema si colloca nel punto di intersezione tra regolazione europea dell’intelligenza artificiale, diritto dell’organizzazione d’impresa e responsabilità dei centri decisionali interni. In questa prospettiva, il problema non consiste nello stabilire se l’algoritmo debba o meno entrare nella gestione cooperativa. Il punto, più precisamente, è verificare secondo quali condizioni un ente cooperativo possa utilizzare sistemi di intelligenza artificiale o strumenti algoritmici mantenendo la tracciabilità del processo decisionale, la riconducibilità della responsabilità a soggetti umani determinati e un livello adeguato di intelligibilità degli output prodotti dal sistema. Per le AI Act cooperative il tema centrale non è se usare o meno sistemi AI, ma come governarli. Un registro interno dei sistemi AI è un presidio essenziale per qualsiasi AI Act cooperative che gestisca processi HR con algoritmi. 1. Il quadro regolatorio dell’AI Act Il Regolamento (UE) 2024/1689, noto come AI Act, adotta un’impostazione risk-based e include tra i sistemi di intelligenza artificiale ad alto rischio quelli impiegati in ambito occupazionale, nella gestione dei lavoratori e nell’accesso al lavoro, come indicato nell’Annex III. In tali contesti, l’uso dell’AI non viene vietato, ma sottoposto a obblighi rafforzati in materia di documentazione, sorveglianza umana, gestione del rischio, qualità dei dati e trasparenza, con ricadute operative rilevanti anche per gli enti che utilizzano il sistema nella propria organizzazione. L’interesse della cooperativa, sotto questo profilo, è duplice. Da un lato vi è un’esigenza di conformità normativa in senso stretto. Dall’altro vi è un’esigenza di tenuta organizzativa, poiché l’impiego di strumenti opachi o scarsamente governati può accrescere rischio reputazionale, rischio contenzioso e rischio di inefficienze decisionali difficilmente correggibili ex post.

    2. La specificità organizzativa della cooperativa

    Nelle cooperative il tema della governance algoritmica assume una specificità ulteriore per la particolare struttura dell’ente. Le decisioni organizzative si collocano entro una rete di competenze che coinvolge organi amministrativi, direzione, funzioni di controllo e, a seconda dei casi, soggetti preposti alla vigilanza e alla gestione del personale. Anche quando la cooperativa adotta un modello gestionale fortemente accentrato, resta essenziale evitare che il sistema algoritmico si trasformi, di fatto, in un decisore occulto non sottoposto a verifica sostanziale.

    Il primo rischio non è tanto la presenza dell’algoritmo nel processo, quanto l’assenza di un chiaro presidio organizzativo sul suo impiego. Se non è definito chi valida l’output, chi ne controlla l’affidabilità, chi valuta gli scostamenti rispetto al risultato atteso e chi gestisce le contestazioni, la cooperativa si espone a una zona grigia nella quale la decisione risulta formalmente umana ma sostanzialmente eterodiretta dal sistema.

    3. Accountability organizzativa nella governance algoritmica

    Il concetto di accountability, in questo ambito, non deve essere inteso in senso meramente dichiarativo. Esso richiede che ogni passaggio decisionale rilevante sia imputabile a un centro di responsabilità interno identificabile, dotato di effettiva capacità di intervento e di strumenti minimi per comprendere il funzionamento operativo del sistema utilizzato.

    Per una cooperativa ciò implica almeno tre verifiche preliminari. La prima riguarda la mappatura dei casi d’uso: occorre individuare in quali processi il software produce un mero supporto informativo e in quali, invece, orienta in modo significativo una decisione concernente lavoratori, candidati o soci-lavoratori. La seconda concerne la collocazione della decisione finale: deve essere chiaro quale funzione, ruolo o organo abbia il compito di approvare, correggere o disattendere l’output del sistema. La terza riguarda la conservazione della traccia decisionale, cioè la possibilità di ricostruire ex post dati utilizzati, criterio di funzionamento dichiarato, output prodotto e motivazione dell’eventuale conferma o override umano.

    4. Explainability funzionale e controllo sostanziale

    Un secondo snodo riguarda l’explainability dei sistemi AI utilizzati in cooperativa. In termini tecnico-giuridici, il problema non coincide con la necessità di rendere accessibile il codice sorgente, né con la pretesa di tradurre integralmente un modello computazionale complesso in linguaggio ordinario. La questione più concreta è se la cooperativa sia in grado di fornire una spiegazione funzionale sufficiente per l’uso organizzativo del sistema e per il controllo della decisione.

    Una explainability adeguata dovrebbe consentire almeno di chiarire: la finalità del sistema; la tipologia di dati considerati; i principali fattori che incidono sull’output; i limiti noti del modello; i casi in cui è richiesto un intervento umano rafforzato; e il percorso attraverso il quale un esito può essere riesaminato internamente. Una cooperativa che non riesca a rispondere in modo ordinato a queste domande difficilmente potrà sostenere di avere un controllo sostanziale sul proprio processo decisionale assistito da intelligenza artificiale.

    5. Presidi minimi per la governance algoritmica nelle cooperative

    In assenza di modelli settoriali già consolidati, può essere utile individuare un set minimo di presidi organizzativi compatibile anche con realtà cooperative prive di strutture di compliance particolarmente evolute. L’obiettivo è costruire una governance algoritmica prudente, orientata alla gestione del rischio e alla difendibilità delle decisioni.

    5.1 Registro interno dei sistemi algoritmici

    Un primo presidio consiste nell’istituzione di un registro interno dei sistemi algoritmici utilizzati in processi sensibili. Per ciascun sistema dovrebbero essere indicati finalità, fornitore, funzione aziendale responsabile, categoria di soggetti coinvolti e livello di impatto stimato. Questo strumento consente alla cooperativa di avere una visione complessiva dell’uso di AI nell’organizzazione e di collegare ogni sistema a un centro di responsabilità definito.

    5.2 Scheda sintetica di impiego e responsabilità interna

    Un secondo presidio consiste nell’adozione di una scheda sintetica di impiego del sistema, destinata alla direzione e alle funzioni di controllo. La scheda dovrebbe contenere le informazioni minime su base giuridico-organizzativa: perimetro d’uso, tipo di decisioni interessate, margini di supervisione umana, possibilità di riesame, eventuali indicatori di anomalia o bias. Parallelamente, è opportuno formalizzare un punto di responsabilità interna, evitando che la gestione dell’AI venga dispersa tra ufficio IT, HR e management senza un referente effettivo.

    5.3 Riesame periodico degli effetti organizzativi

    Un terzo presidio riguarda il riesame periodico del funzionamento del sistema e dei suoi effetti organizzativi. La conformità, in materia di intelligenza artificiale, non può essere considerata un adempimento puntuale da assolvere al momento dell’acquisto del software. I rischi emergono spesso nell’uso concreto, nell’interazione con i dati organizzativi e nella ripetizione seriale delle decisioni.

    Per questa ragione, anche nelle cooperative di dimensione media appare opportuno prevedere una verifica periodica sugli effetti del sistema: analisi dei casi in cui l’intervento umano abbia corretto o disatteso l’output algoritmico, valutazione di eventuali pattern ricorrenti di errore o di contestazione, aggiornamento dei parametri di rischio e delle misure di controllo.

    6. Una lettura prudenziale per il settore cooperativo

    Per il mondo cooperativo, la governance algoritmica dovrebbe essere letta anzitutto come tema di prudenza organizzativa. Non si tratta soltanto di aderire a un nuovo lessico regolatorio europeo, ma di presidiare un passaggio in cui strumenti ad alta intensità informativa possono incidere su rapporti di lavoro, equilibri interni e qualità delle decisioni manageriali.

    In questa chiave, l’adozione di procedure di accountability e explainability non rappresenta un aggravio formale privo di utilità pratica. Al contrario, costituisce una misura di stabilizzazione della responsabilità decisionale, di riduzione dell’opacità organizzativa e di migliore difendibilità delle scelte adottate dall’ente in caso di contestazione interna o esterna.

    7. Conclusione

    L’AI Act non impone alle cooperative di rinunciare all’innovazione organizzativa, ma richiede che l’uso di sistemi algoritmici in ambiti sensibili sia accompagnato da presidi di controllo coerenti con la natura e con la responsabilità dell’ente. In assenza di tali presidi, il rischio non è solo regolatorio: è la progressiva opacizzazione della decisione organizzativa, con conseguente indebolimento della capacità della cooperativa di governare in modo consapevole processi che restano, in ultima istanza, giuridicamente e organizzativamente propri.