L’intelligenza artificiale potrà mai essere responsabile delle decisioni in materia di sicurezza ? Un caso studio.

A cura della Redazione

Il dibattito è aperto e incalzante: chi risponde delle decisioni dell’IA ?Nel caso studio affrontato oggi (ne seguiranno altri), l’intelligenza artificiale sta trasformando rapidamente logistica, magazzini e centri di distribuzione, rendendo i processi più efficienti e migliorando la produttività. Tuttavia, quando si parla di tutela delle persone, emerge un principio fondamentale: l’automazione può supportare il lavoro, ma non deve mai assumere il controllo esclusivo delle funzioni di sicurezza. La prevenzione degli infortuni richiede infatti sistemi affidabili, prevedibili e verificabili, capaci di proteggere i lavoratori anche quando la tecnologia commette errori. Per RSPP, HSE Manager e HR il tema rappresenta una delle sfide più importanti dei prossimi anni.

COSA TRATTA

L'intelligenza artificiale sta entrando con crescente rapidità nei luoghi di lavoro. Un esempio molto concreto è rappresentato dai magazzini e dalla logistica in generale, dove l’automazione viene spinta moltissimo negli ultimi anni del post-pandemia.Proviamo quindi ad analizzare nel concreto il contesto della logistica automatizzata e supportata dall’IA.

Magazzini automatizzati, veicoli autonomi, sistemi di movimentazione intelligente delle merci e robot collaborativi stanno modificando il modo in cui le aziende organizzano le attività operative. La promessa è quella di una maggiore efficienza, una riduzione dei tempi morti e una migliore gestione delle risorse.Tuttavia, dietro questa evoluzione tecnologica si nasconde una domanda cruciale: fino a che punto è opportuno affidare all'intelligenza artificiale decisioni che possono influire direttamente sulla salute e sicurezza delle persone? La risposta che sta emergendo con sempre maggiore forza tra professionisti della sicurezza, esperti di robotica industriale e organismi normativi è chiara: l'intelligenza artificiale può supportare i processi produttivi, ma non dovrebbe mai essere l'unico elemento responsabile delle funzioni di sicurezza.

Nei moderni magazzini convivono lavoratori, muletti, robot mobili autonomi, scaffalature, aree di carico e scarico, attraversamenti pedonali e zone caratterizzate da continui cambiamenti organizzativi. Si tratta di ambienti dinamici in cui anche una piccola anomalia può generare conseguenze molto rilevanti.L'intelligenza artificiale eccelle nel riconoscere schemi, elaborare grandi quantità di dati e adattarsi a situazioni variabili. Può ottimizzare percorsi, evitare congestioni, migliorare la gestione dei flussi logistici e apprendere dall'esperienza operativa. Ma queste capacità si basano su valutazioni probabilistiche e non garantiscono una prevedibilità assoluta del comportamento.

Quando la posta in gioco è l'incolumità di una persona, l'imprevedibilità non è accettabile.Per questo motivo la progettazione della sicurezza deve seguire una logica differente rispetto alla progettazione dell'automazione. I sistemi deputati ad arrestare un robot, limitarne la velocità o impedire una collisione devono essere indipendenti dalle funzioni intelligenti che governano i movimenti e le decisioni operative.In altre parole, se il sistema di navigazione interpreta erroneamente l'ambiente circostante, il sistema di sicurezza deve comunque essere in grado di intervenire e proteggere le persone presenti.Si tratta di un principio che da decenni caratterizza l'ingegneria della sicurezza industriale: le protezioni devono continuare a funzionare anche in presenza di guasti, errori software, perdite di segnale o condizioni non previste.

L'attenzione non riguarda esclusivamente la tecnologia installata ma anche il contesto in cui viene utilizzata. Due magazzini apparentemente simili possono presentare rischi completamente differenti : 

  • Pavimentazioni deteriorate,
  • corridoi stretti,
  • illuminazione non uniforme,
  • zone cieche,
  • interferenze tra mezzi e pedoni
  • particolari modalità operative

possono alterare in modo significativo il livello di rischio.

Per questo motivo una corretta valutazione preventiva rappresenta ancora oggi uno degli strumenti più efficaci di prevenzione. Nessun sistema tecnologico, per quanto evoluto, può sostituire l'analisi delle condizioni reali di lavoro effettuata da professionisti competenti. Un altro aspetto sempre più rilevante riguarda l'arrivo dei robot umanoidi nei contesti produttivi. Anche se la loro diffusione industriale è ancora limitata, molte aziende stanno sperimentando soluzioni capaci di svolgere attività fisiche similari a quelle svolte dagli operatori.In questo scenario emergono nuove criticità.

Un robot umanoide che perde alimentazione o subisce un malfunzionamento può generare rischi differenti rispetto a un tradizionale robot mobile. Diventa quindi necessario sviluppare nuove metodologie di valutazione del rischio, nuove procedure operative e nuovi criteri di progettazione delle misure di sicurezza.Per gli HSE Manager e gli RSPP il vero tema non è decidere se adottare o meno l'intelligenza artificiale. La questione centrale consiste nel governarne l'utilizzo in modo sicuro. La tecnologia deve essere considerata uno strumento al servizio della prevenzione e non un sostituto del sistema di gestione della sicurezza.

Le organizzazioni che stanno ottenendo i migliori risultati sono quelle che integrano innovazione tecnologica, cultura della sicurezza, formazione continua e monitoraggio dei dati. In questo percorso anche la digitalizzazione svolge un ruolo strategico, consentendo di raccogliere informazioni utili sui near miss, monitorare i comportamenti a rischio, gestire la manutenzione e verificare in tempo reale l'efficacia delle misure preventive.La sicurezza del futuro non dipenderà soltanto dalla qualità degli algoritmi, ma soprattutto dalla capacità delle aziende di mantenere l'essere umano al centro delle decisioni che riguardano la protezione delle persone.

MODIFICHE AL DVR

L'introduzione di sistemi basati su intelligenza artificiale, robot mobili autonomi, robot collaborativi o altre forme di automazione avanzata può richiedere un aggiornamento del Documento di Valutazione dei Rischi.In particolare occorre valutare:

  • nuove interferenze tra lavoratori e sistemi automatizzati;
  • rischi derivanti da malfunzionamenti hardware e software;
  • perdita di controllo operativo in condizioni anomale;
  • procedure di emergenza e arresto sicuro;
  • attività di manutenzione e intervento tecnico;
  • esigenze formative specifiche per operatori, preposti e manutentori;
  • impatti organizzativi derivanti dall'introduzione delle nuove tecnologie.

PROCEDURE DI SICUREZZA

L'adozione di sistemi di automazione intelligente può richiedere l'introduzione o la revisione delle procedure aziendali relative a:

  • accesso alle aree automatizzate;
  • gestione delle interferenze uomo-macchina;
  • manutenzione ordinaria e straordinaria;
  • gestione dei guasti e delle anomalie software;
  • procedure di lockout/tagout ove applicabili;
  • formazione e addestramento degli operatori;
  • gestione delle emergenze che coinvolgono sistemi robotizzati e veicoli autonomi.

COSA DICE LA LEGGE

La normativa italiana ed europea impone che la sicurezza dei lavoratori sia garantita attraverso misure tecniche, organizzative e procedurali adeguate. Tra i principali riferimenti:

  • D.Lgs. 81/2008, con particolare riferimento agli obblighi di valutazione dei rischi e di tutela dei lavoratori.
  • Regolamento Macchine (UE) 2023/1230, che introduce requisiti aggiornati per macchine, sistemi automatizzati e tecnologie digitali.
  • Direttiva 2006/42/CE per le attrezzature immesse sul mercato prima dell'applicazione completa del nuovo Regolamento Macchine.
  • Regolamento Europeo sull'Intelligenza Artificiale (AI Act), che introduce obblighi specifici per i sistemi AI ad alto rischio.
  • Norme tecniche armonizzate relative alla sicurezza funzionale, ai sistemi di comando e ai robot industriali e collaborativi.

Il principio cardine della normativa resta invariato: il datore di lavoro deve garantire che ogni tecnologia utilizzata non determini rischi inaccettabili per i lavoratori e che le funzioni di sicurezza siano efficaci, affidabili e verificabili.

INDICAZIONI OPERATIVE

  1. verificare che i sistemi di sicurezza siano indipendenti dalle logiche di intelligenza artificiale;
  2. richiedere evidenze documentali sulle prestazioni e sulle certificazioni delle funzioni di sicurezza;
  3. effettuare valutazioni dei rischi specifiche prima di ogni introduzione tecnologica;
  4. testare periodicamente scenari di guasto e perdita di funzionalità;
  5. monitorare near miss e anomalie mediante strumenti digitali di raccolta dati;
  6. aggiornare formazione e addestramento in funzione delle nuove tecnologie adottate
  7. coinvolgere lavoratori, preposti e manutentori nelle fasi di progettazione e implementazione;
  8. definire responsabilità chiare tra fornitori, integratori e organizzazione aziendale;
  9. predisporre sistemi di audit periodici sulle prestazioni di sicurezza;
  10. utilizzare dashboard e strumenti digitali per il monitoraggio continuo degli indicatori di rischio.

Il 20% che conta (per l'80% dei risultati)

Chi gestisce salute e sicurezza dovrebbe ricordare soprattutto cinque concetti fondamentali:

A. l'intelligenza artificiale può migliorare l'efficienza, ma non deve sostituire le funzioni critiche di sicurezza;

B. ogni sistema automatizzato deve essere progettato per mantenere la protezione delle persone anche in caso di errore o guasto;

C.  la valutazione dei rischi specifica del sito resta indispensabile;

D.  formazione, procedure e cultura organizzativa sono importanti quanto la tecnologia;

E. la raccolta e l'analisi dei dati consentono di individuare tempestivamente criticità e opportunità di miglioramento.

La vera innovazione non consiste nell'affidare la sicurezza alle macchine, ma nell'utilizzare l'intelligenza artificiale per supportare decisioni sempre più efficaci, mantenendo il controllo della prevenzione nelle mani di persone competenti e consapevoli.

Riproduzione riservata ©