L’AI Act cooperative apre una fase nuova per la governance algoritmica nelle imprese mutualistiche. Nelle cooperative che utilizzano sistemi di intelligenza artificiale per selezione, gestione e valutazione dei lavoratori, la regolazione europea impone di ripensare presidi organizzativi, responsabilità interne e controllo degli algoritmi. Quando tali strumenti incidono su selezione del personale, allocazione delle attività, valutazione delle performance, monitoraggio o supporto a decisioni organizzative relative ai lavoratori, il tema si colloca nel punto di intersezione tra regolazione europea dell’intelligenza artificiale, diritto dell’organizzazione d’impresa e responsabilità dei centri decisionali interni.
In questa prospettiva, il problema non consiste nello stabilire se l’algoritmo debba o meno entrare nella gestione cooperativa. Il punto, più precisamente, è verificare secondo quali condizioni un ente cooperativo possa utilizzare sistemi di intelligenza artificiale o strumenti algoritmici mantenendo la tracciabilità del processo decisionale, la riconducibilità della responsabilità a soggetti umani determinati e un livello adeguato di intelligibilità degli output prodotti dal sistema.
Per le AI Act cooperative il tema centrale non è se usare o meno sistemi AI, ma come governarli.
Un registro interno dei sistemi AI è un presidio essenziale per qualsiasi AI Act cooperative che gestisca processi HR con algoritmi.
1. Accountability algoritmica nelle AI Act cooperative.
Nelle cooperative che utilizzano sistemi di intelligenza artificiale per selezione, gestione e valutazione dei lavoratori, la regolazione europea impone di ripensare presidi organizzativi, responsabilità interne e controllo degli algoritmi. Quando tali strumenti incidono su selezione del personale, allocazione delle attività, valutazione delle performance, monitoraggio o supporto a decisioni organizzative relative ai lavoratori, il tema si colloca nel punto di intersezione tra regolazione europea dell’intelligenza artificiale, diritto dell’organizzazione d’impresa e responsabilità dei centri decisionali interni. In questa prospettiva, il problema non consiste nello stabilire se l’algoritmo debba o meno entrare nella gestione cooperativa. Il punto, più precisamente, è verificare secondo quali condizioni un ente cooperativo possa utilizzare sistemi di intelligenza artificiale o strumenti algoritmici mantenendo la tracciabilità del processo decisionale, la riconducibilità della responsabilità a soggetti umani determinati e un livello adeguato di intelligibilità degli output prodotti dal sistema. Per le AI Act cooperative il tema centrale non è se usare o meno sistemi AI, ma come governarli. Un registro interno dei sistemi AI è un presidio essenziale per qualsiasi AI Act cooperative che gestisca processi HR con algoritmi. 1. Il quadro regolatorio dell’AI Act Il Regolamento (UE) 2024/1689, noto come AI Act, adotta un’impostazione risk-based e include tra i sistemi di intelligenza artificiale ad alto rischio quelli impiegati in ambito occupazionale, nella gestione dei lavoratori e nell’accesso al lavoro, come indicato nell’Annex III. In tali contesti, l’uso dell’AI non viene vietato, ma sottoposto a obblighi rafforzati in materia di documentazione, sorveglianza umana, gestione del rischio, qualità dei dati e trasparenza, con ricadute operative rilevanti anche per gli enti che utilizzano il sistema nella propria organizzazione. L’interesse della cooperativa, sotto questo profilo, è duplice. Da un lato vi è un’esigenza di conformità normativa in senso stretto. Dall’altro vi è un’esigenza di tenuta organizzativa, poiché l’impiego di strumenti opachi o scarsamente governati può accrescere rischio reputazionale, rischio contenzioso e rischio di inefficienze decisionali difficilmente correggibili ex post.
2. La specificità organizzativa della cooperativa
Nelle cooperative il tema della governance algoritmica assume una specificità ulteriore per la particolare struttura dell’ente. Le decisioni organizzative si collocano entro una rete di competenze che coinvolge organi amministrativi, direzione, funzioni di controllo e, a seconda dei casi, soggetti preposti alla vigilanza e alla gestione del personale. Anche quando la cooperativa adotta un modello gestionale fortemente accentrato, resta essenziale evitare che il sistema algoritmico si trasformi, di fatto, in un decisore occulto non sottoposto a verifica sostanziale.
Il primo rischio non è tanto la presenza dell’algoritmo nel processo, quanto l’assenza di un chiaro presidio organizzativo sul suo impiego. Se non è definito chi valida l’output, chi ne controlla l’affidabilità, chi valuta gli scostamenti rispetto al risultato atteso e chi gestisce le contestazioni, la cooperativa si espone a una zona grigia nella quale la decisione risulta formalmente umana ma sostanzialmente eterodiretta dal sistema.
3. Accountability organizzativa nella governance algoritmica
Il concetto di accountability, in questo ambito, non deve essere inteso in senso meramente dichiarativo. Esso richiede che ogni passaggio decisionale rilevante sia imputabile a un centro di responsabilità interno identificabile, dotato di effettiva capacità di intervento e di strumenti minimi per comprendere il funzionamento operativo del sistema utilizzato.
Per una cooperativa ciò implica almeno tre verifiche preliminari. La prima riguarda la mappatura dei casi d’uso: occorre individuare in quali processi il software produce un mero supporto informativo e in quali, invece, orienta in modo significativo una decisione concernente lavoratori, candidati o soci-lavoratori. La seconda concerne la collocazione della decisione finale: deve essere chiaro quale funzione, ruolo o organo abbia il compito di approvare, correggere o disattendere l’output del sistema. La terza riguarda la conservazione della traccia decisionale, cioè la possibilità di ricostruire ex post dati utilizzati, criterio di funzionamento dichiarato, output prodotto e motivazione dell’eventuale conferma o override umano.
4. Explainability funzionale e controllo sostanziale
Un secondo snodo riguarda l’explainability dei sistemi AI utilizzati in cooperativa. In termini tecnico-giuridici, il problema non coincide con la necessità di rendere accessibile il codice sorgente, né con la pretesa di tradurre integralmente un modello computazionale complesso in linguaggio ordinario. La questione più concreta è se la cooperativa sia in grado di fornire una spiegazione funzionale sufficiente per l’uso organizzativo del sistema e per il controllo della decisione.
Una explainability adeguata dovrebbe consentire almeno di chiarire: la finalità del sistema; la tipologia di dati considerati; i principali fattori che incidono sull’output; i limiti noti del modello; i casi in cui è richiesto un intervento umano rafforzato; e il percorso attraverso il quale un esito può essere riesaminato internamente. Una cooperativa che non riesca a rispondere in modo ordinato a queste domande difficilmente potrà sostenere di avere un controllo sostanziale sul proprio processo decisionale assistito da intelligenza artificiale.
5. Presidi minimi per la governance algoritmica nelle cooperative
In assenza di modelli settoriali già consolidati, può essere utile individuare un set minimo di presidi organizzativi compatibile anche con realtà cooperative prive di strutture di compliance particolarmente evolute. L’obiettivo è costruire una governance algoritmica prudente, orientata alla gestione del rischio e alla difendibilità delle decisioni.
5.1 Registro interno dei sistemi algoritmici
Un primo presidio consiste nell’istituzione di un registro interno dei sistemi algoritmici utilizzati in processi sensibili. Per ciascun sistema dovrebbero essere indicati finalità, fornitore, funzione aziendale responsabile, categoria di soggetti coinvolti e livello di impatto stimato. Questo strumento consente alla cooperativa di avere una visione complessiva dell’uso di AI nell’organizzazione e di collegare ogni sistema a un centro di responsabilità definito.
5.2 Scheda sintetica di impiego e responsabilità interna
Un secondo presidio consiste nell’adozione di una scheda sintetica di impiego del sistema, destinata alla direzione e alle funzioni di controllo. La scheda dovrebbe contenere le informazioni minime su base giuridico-organizzativa: perimetro d’uso, tipo di decisioni interessate, margini di supervisione umana, possibilità di riesame, eventuali indicatori di anomalia o bias. Parallelamente, è opportuno formalizzare un punto di responsabilità interna, evitando che la gestione dell’AI venga dispersa tra ufficio IT, HR e management senza un referente effettivo.
5.3 Riesame periodico degli effetti organizzativi
Un terzo presidio riguarda il riesame periodico del funzionamento del sistema e dei suoi effetti organizzativi. La conformità, in materia di intelligenza artificiale, non può essere considerata un adempimento puntuale da assolvere al momento dell’acquisto del software. I rischi emergono spesso nell’uso concreto, nell’interazione con i dati organizzativi e nella ripetizione seriale delle decisioni.
Per questa ragione, anche nelle cooperative di dimensione media appare opportuno prevedere una verifica periodica sugli effetti del sistema: analisi dei casi in cui l’intervento umano abbia corretto o disatteso l’output algoritmico, valutazione di eventuali pattern ricorrenti di errore o di contestazione, aggiornamento dei parametri di rischio e delle misure di controllo.
6. Una lettura prudenziale per il settore cooperativo
Per il mondo cooperativo, la governance algoritmica dovrebbe essere letta anzitutto come tema di prudenza organizzativa. Non si tratta soltanto di aderire a un nuovo lessico regolatorio europeo, ma di presidiare un passaggio in cui strumenti ad alta intensità informativa possono incidere su rapporti di lavoro, equilibri interni e qualità delle decisioni manageriali.
In questa chiave, l’adozione di procedure di accountability e explainability non rappresenta un aggravio formale privo di utilità pratica. Al contrario, costituisce una misura di stabilizzazione della responsabilità decisionale, di riduzione dell’opacità organizzativa e di migliore difendibilità delle scelte adottate dall’ente in caso di contestazione interna o esterna.
7. Conclusione
L’AI Act non impone alle cooperative di rinunciare all’innovazione organizzativa, ma richiede che l’uso di sistemi algoritmici in ambiti sensibili sia accompagnato da presidi di controllo coerenti con la natura e con la responsabilità dell’ente. In assenza di tali presidi, il rischio non è solo regolatorio: è la progressiva opacizzazione della decisione organizzativa, con conseguente indebolimento della capacità della cooperativa di governare in modo consapevole processi che restano, in ultima istanza, giuridicamente e organizzativamente propri.
