Cose da sapere
- Investire nell’intelligenza artificiale dà i suoi frutti solo in presenza di controlli in grado di garantire risultati accurati, affidabili e allineati agli obiettivi della tua organizzazione.
- Una gestione efficace dell’AI inizia con l’individuare le principali aree di rischio, e con la loro mappatura rispetto alle normative attuali ed emergenti.
- Comprendendo il tuo ruolo all’interno della catena del valore dell’AI, potrai dare la giusta priorità ai requisiti legali e di compliance che ti riguardano.
- L’AI necessita di supervisione umana, con controlli e responsabilità ben definiti in ogni fase, dalla progettazione al monitoraggio delle prestazioni.
- Introducendo controlli proporzionati al rischio, puoi proteggere la tua organizzazione senza rallentare l’innovazione.
Non basta investire per poter ottenere benefici dall'AI; che tu sia uno sviluppatore o un utente di AI, devi gestirla in maniera efficace, tramite una supervisione chiara, ruoli definiti e controlli in grado di allineare rischio, compliance e innovazione lungo tutto il suo ciclo di vita.
Cosa succede quando l’AI va più veloce del controllo?
Come molte organizzazioni, starai probabilmente correndo per sfruttare l'intelligenza artificiale per ridurre i costi, incrementare l'innovazione e distinguerti dalla concorrenza. In pochissimi anni l’AI è passata da ruolo marginale a elemento chiave per la strategia e la crescita a lungo termine. Il punto non è più chiedersi se investire o meno nell’intelligenza artificiale ma decidere dove investire, e in che misura.
Eppure l’AI può ancora sbagliare. Il Chicago Sun-Times ha recentemente riportato un elenco di libri da leggere, generato dall’AI, che non esistono, mentreiTutor Group ha dovuto pagare un risarcimento di 365.000 dollari perché il proprio strumento di recruitment basato su intelligenza artificiale ha automaticamente respinto i candidati di genere femminile over 55. Esempi che mostrano quanto velocemente gli errori dell’intelligenza artificiale possono avere conseguenze nella vita reale.
Utilizzare l'intelligenza artificiale può far risparmiare tempo e denaro, ma non gestirla correttamente può allo stesso modo farli perdere entrambi. Gli errori possono minare la fiducia, esporre a rischi legali e danneggiare la reputazione.
La difficoltà è che talvolta, nella fretta di adottarla, si tralascia di identificare o gestire i nuovi rischi. Secondo la nostra ricerca, solo il 47% delle organizzazioni controlla l’uso dell’AI con processi formali e solo il 57% ritiene che la propria forza lavoro disponga delle competenze per utilizzarla in maniera efficace. E' in questo gap tra adozione e controllo che gli investimenti nell’AI iniziano a non dare i risultati sperati.
Affinché gli investimenti nell’intelligenza artificiale siano proficui, servono sistemi di gestione che garantiscano i giusti risultati.
Qual è il tuo ruolo nell’utilizzo dell’AI?
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere il proprio ruolo nel ciclo di vita AI.
Prima di progettare un sistema efficace di gestione dell’AI, devi fare chiarezza su come si inserisce nella tua organizzazione.
- Qual è la tua vision per l'AI?
- Cosa vuoi ottenere?
- Dove iniziano e dove finiscono le tue responsabilità?
Le situazioni possono essere diverse: la tua organizzazione costruisce soluzioni di AI? Ti occupi di integrarle negli ambienti dei tuoi clienti? Oppure sei un semplice utente di sistemi di AI sviluppati da terzi?
Il ruolo della tua organizzazione definisce il tuo rischio e la tua accountability in maniera diretta. Riferendoti alla definizione dei ruoli degli stakeholder data dalla ISO/IEC 42001, lo standard internazionale per i sistemi di gestione dell’AI, individua il ruolo che meglio ti rappresenta.
- Produttore: si assume i rischi di progettazione, soprattutto in tema di sicurezza informatica.
- Partner: si assume il rischio di implementazione.
- Fornitore: è responsabile dell'affidabilità, della sicurezza e della continuità del servizio.
- Cliente: è il responsabile finale della modalità in cui l'AI viene utilizzata.
I ruoli definiscono anche le capacità necessarie. Se ti occupi di sviluppare soluzioni di AI avrai bisogno di competenze tecniche approfondite, mentre come cliente ti serve maggiore consapevolezza a livello di organizzazione.
Non esiste un modello universale di gestione dell’AI. Ma una volta che avrai definito i tuoi ruoli, potrai determinare le tue responsabilità specifiche. Questo diventerà il punto di partenza per creare strutture di governance adatte alle tue esigenze. Un'adozione responsabile dell'AI protegge la tua organizzazione e favorisce al contempo l'innovazione.
Quali sono i rischi e gli obblighi dell'intelligenza artificiale?
Una volta compreso il tuo ruolo, il passo successivo è identificare i rischi a cui sei esposto e come la normativa si applica alla tua situazione. L'EU AI Act fornisce ad esempio un framework per un’adozione più sicura e responsabile in Europa.
Probabilmente sei già soggetto a obblighi legali che prescindono dall’applicazione di leggi specifiche sull'AI, come le normative su privacy, sicurezza informatica e sicurezza dei prodotti. I requisiti sulla trasparenza e l’automazione dei processi decisionali previsti dal Regolamento generale sulla protezione dei dati (GDPR) sono in vigore da anni. La compliance non inizia con le leggi specifiche sull’intelligenza artificiale: bisogna esaminare anche gli altri obblighi di conformità vigenti.
Comprendendo innanzitutto il tuo ruolo, potrai concentrarti sui rischi e gli obblighi più importanti. Con AI Foundation Framework di BSI puoi identificare i rischi nel contesto della tua organizzazione al fine di introdurre il livello di controllo adeguato. Senza soffocare l'innovazione.
Sei ancora "in the loop"?
Per costruire fiducia, l’AI ha bisogno della supervisione umana. In quale forma dipende dall'utilizzo, ma la responsabilità va sempre ricondotta all’individuo, dalle posizioni apicali dell'organizzazione a discendere. Integrare ruoli e responsabilità a ogni livello serve a evitare che vengano omessi.
Puoi chiederti: la nostra supervisione copre l'intero ciclo di vita dell'AI?
E questo da progettazione e concept fino al monitoraggio dei risultati per verificarne accuratezza, distorsioni e rischi. Allo stato attuale, solo il 33% delle imprese dispone di un processo definito per l'introduzione di nuovi tool di intelligenza artificiale. In sua assenza, diventa difficile garantire accuratezza e accountability man mano che l'uso dell'AI si estende. Solo il 35% ha standardizzato la modalità per valutare se l’AI e in linea con le aspettative. Una supervisione efficace richiede che i parametri decisionali entro cui l'AI deve operare siano definiti da un essere umano. E sempre un essere umano deve garantirne l’affidabilità.
Per raggiungere questo obiettivo, bisogna investire in competenze e formazione allineate alle best practice internazionali. Negli ambienti di sviluppo software si potrebbero introdurre delle verifiche obbligatorie che permettono di passare alla fase successiva solo dopo aver esaminato rischi e controlli. O magari prendere in considerazione l'intelligenza artificiale centrata sull'uomo (Human-Centered AI, HCAI) come metodologia di progettazione, mettendo bisogni e valori umani al centro della soluzione di AI. Tutte modalità che possono supportare l'adozione della AI responsabile e l'innovazione.
Se stai pensando di integrare l'AI nell'organizzazione, valuta la tua situazione attuale.
- Che ruolo hai nel ciclo di vita dell'AI?
- In che modo il tuo ruolo influisce sui rischi e sulle responsabilità?
- E come puoi integrare la responsabilità umana all'interno dell'intero ciclo?
Se operata in maniera efficace, la gestione non dovrebbe diventare un onere superfluo ma ridurre il rischio e creare opportunità per generare valore a lungo termine.
Come procedere con sicurezza
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere in che fase ti trovi e su cosa concentrarti in futuro.
La modularità di AI Foundation Framework di BSI ti aiuta a valutare le capacità attuali, identificare il profilo di rischio specifico e dare priorità alle azioni concrete che avranno il maggiore impatto.
All’interno del framework, il modulo AI Management si focalizza sull’efficacia della gestione dei sistemi di intelligenza artificiale nella pratica. Basato sugli standard riconosciuti ISO e NIST, ti aiuta a:
- valutare l'efficacia dei tuoi controlli;
- migliorare la supervisione umana;
- potenziare le aree chiave come gestione del ciclo di vita, documentazione e rischio del fornitore;
- prepararti alla certificazione ISO/IEC 42001 se questo è il tuo obiettivo.
Portando a termine il modulo AI Management, puoi ridurre il rischio e creare valore man mano che i tuoi sistemi e capability AI evolvono.
