Ciò che devi sapere
- Investire nell’intelligenza artificiale dà i suoi frutti solo in presenza di controlli in grado di garantire risultati accurati, affidabili e allineati agli obiettivi della tua organizzazione.
- Una gestione efficace dell’AI inizia dall’individuare le principali aree di rischio, mappandole rispetto alle normative attuali ed emergenti.
- Comprendendo quale sia il tuo ruolo all’interno della catena del valore dell’AI, potrai dare la giusta priorità ai requisiti legali e di compliance che ti riguardano.
- L’AI necessita di supervisione umana, con controlli e responsabilità ben definiti in ogni fase, dalla progettazione al monitoraggio delle prestazioni.
- Introducendo controlli proporzionati al rischio, puoi proteggere la tua organizzazione senza rallentare l’innovazione.
L’investimento non basta a valorizzare al massimo l’intelligenza artificiale; che tu sia uno sviluppatore o un utente di AI, devi gestirla in maniera efficace, mettendo insieme una supervisione chiara, ruoli definiti e controlli in grado di allineare rischio, compliance e innovazione lungo tutto il suo ciclo di vita.
Cosa succede quando l’AI va più velocem dei controlli?
Come molte organizzazioni, starai probabilmente cercando di sfruttare al massimo l'intelligenza artificiale per ridurre i costi, incrementare l'innovazione e distinguerti dalla concorrenza. In pochissimi anni l’AI è passata da ruolo marginale a elemento chiave per la strategia e la crescita a lungo termine. Il punto non è più chiedersi se investire o meno nell’intelligenza artificiale: dobbiamo decidere dove investire e l’entità dell’impegno.
Anche se l’AI continua a commettere errori. Il Chicago Sun-Times ha recentemente riportato un elenco di libri da leggere, generato dall’AI, che non esistono. iTutor Group ha dovuto pagare un risarcimento di 365.000 dollari dopo che il suo strumento di assunzione basato sull'intelligenza artificiale ha automaticamente scartato le candidate dai 55 anni in su. Esempi che mostrano con quanta velocità gli errori dell’intelligenza artificiale possano tradursi in conseguenze nella vita reale.
L’intelligenza artificiale può farti risparmiare tempo e denaro. Ma se non la gestisci in maniera corretta, puoi facilmente perdere entrambi. Gli errori possono minare la fiducia, esporti a rischi legali e danneggiare la tua reputazione.
La difficoltà è che talvolta, nell’impeto di adottarla, si tralascia di identificare o gestire i nuovi rischi. Secondo la nostra ricerca, solo il 47% delle organizzazioni controlla l’uso dell’AI con processi formali. E solo il 57% ritiene che la propria forza lavoro disponga delle competenze per utilizzarla in maniera efficace. In questo gap tra adozione e controllo gli investimenti nell’AI iniziano a non dare i risultati sperati.
Affinché valga la pena investire nell’intelligenza artificiale, servono sistemi di gestione che garantiscano i giusti risultati.
Che ruolo hai nell’utilizzo dell’AI?
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere il tuo ruolo nel suo ciclo di vita.
Prima di progettare un sistema efficace di gestione dell’AI, devi fare chiarezza su come si inserisce nella tua organizzazione.
- Qual è la tua vision per l’AI?
- Cosa vuoi ottenere?
- Le tue responsabilità, dove iniziano e dove finiscono?
Se la tua organizzazione costruisce soluzioni di AI, oppure ti occupi di integrarle negli ambienti dei tuoi clienti, o ancora, sei un semplice utente di sistemi di AI sviluppati da terzi,
è il ruolo della tua organizzazione a definire il rischio e l’accountability in maniera diretta. Scegli quello che più ti si addice tra le definizioni della ISO/IEC 42001, lo standard internazionale per la gestione dell’AI.
- Produttore: ti assumi i rischi di progettazione, soprattutto in materia di sicurezza informatica.
- Partner: ti assumi il rischio di implementazione.
- Fornitore: sei responsabile dell'affidabilità, della sicurezza e della continuità del servizio.
- Cliente: sei il responsabile finale del modo in cui l'AI viene utilizzata.
I tuoi ruoli definiscono anche le capacità di cui hai bisogno. Se ti occupi di sviluppare soluzioni di AI, servono competenze tecniche approfondite, mentre come cliente dovrai avere una consapevolezza più ampia dell’organizzazione.
Non esiste un modello universale di gestione dell’AI. Ma una volta che avrai definito i tuoi ruoli, puoi determinare le tue responsabilità specifiche. Questo diventerà il punto di partenza per creare strutture di governance adatte alle tue esigenze. Un'adozione responsabile dell'AI protegge la tua organizzazione e favorisce al contempo l'innovazione.
Quali sono i tuoi rischi e i tuoi obblighi?
Una volta compreso il tuo ruolo, il passo successivo è identificare i rischi a cui sei esposto e come la normativa si applica alla tua situazione. Ad esempio, l’AI Act della UE fornisce un framework per un’adozione più sicura e responsabile in Europa.
Potresti tuttavia essere già sottoposto a obblighi legali, indipendentemente dall’applicazione di leggi specifiche sull'AI, come la legislazione in materia di privacy, sicurezza informatica e sicurezza dei prodotti. I requisiti sulla trasparenza e l’automazione dei processi decisionali previsti dal Regolamento generale sulla protezione dei dati (GDPR) sono in vigore da anni. La compliance non inizia con le leggi specifiche sull’intelligenza artificiale: è necessario analizzare anche gli obblighi di conformità già in essere.
Comprendendo in primo luogo il tuo ruolo, potrai concentrarti sui rischi e gli obblighi più importanti. AI Foundation Framework di BSI ti aiuta a farlo identificando i rischi nel contesto della tua organizzazione e permettendoti di introdurre il livello di controllo adeguato. Senza reprimere l'innovazione.
Sei ancora nel loop?
Per costruire fiducia, l’AI ha bisogno della supervisione umana. Sebbene la forma possa variare a seconda dell'utilizzo, la responsabilità deve sempre essere riconducibile all’individuo, partendo dalle posizioni più in alto dell'organizzazione e scendendo verso il basso. Con ruoli e responsabilità definiti a ogni livello per evitare che vengano elusi.
La domanda da porsi è: la nostra supervisione copre l'intero ciclo di vita dell'AI?
Dalla progettazione e ideazione al monitoraggio dei risultati per verificarne accuratezza, distorsioni e rischi. Allo stato attuale, solo il 33% delle imprese dispone di un processo definito per l'introduzione di nuovi tool di intelligenza artificiale. In sua assenza, diventa difficile garantire accuratezza e accountability man mano che l'uso dell'AI si allarga. Solo il 35% ha standardizzato la modalità per valutare se l’AI si sta comportando in base alle aspettative. Una supervisione efficace richiede che i parametri decisionali entro cui l'AI deve operare siano definiti da un essere umano. E sempre un essere umano deve garantirne l’affidabilità.
Per raggiungere questo obiettivo, bisogna investire in competenze e formazione in linea con le best practice internazionali. Nei contesti di sviluppo software, si potrebbero introdurre dei checkpoint obbligatori che consentono di passare alla fase successiva solo dopo la revisione di rischi e controlli. O magari considerare l'intelligenza artificiale centrata sull'uomo (HCAI) come una metodologia di progettazione che pone i bisogni e i valori umani al centro della propria soluzione AI. Tutte modalità che possono supportare un’adozione responsabile e l’innovazione nel campo dell’intelligenza artificiale.
Se stai pensando di integrare l'AI nella tua organizzazione, valuta la situazione attuale.
- Qual è il tuo ruolo nel ciclo di vita dell'AI?
- In che modo influisce sui rischi e sulle responsabilità?
- E come integrare la responsabilità umana durante questo ciclo?
Una buona gestione non dovrebbe diventare un onere superfluo ma ridurre i rischi e creare opportunità per generare valore a lungo termine.
Come progredire con sicurezza
Una gestione efficace dell’intelligenza artificiale inizia dal comprendere il punto in cui ti trovi attualmente e su cosa concentrarti in futuro.
La modularità di AI Foundation Framework di BSI ti aiuta in tal senso a valutare le tue capacità attuali, identificare il tuo profilo di rischio specifico e dare priorità alle azioni pratiche che avranno il maggiore impatto.
All’interno del framework, il modulo AI Management si concentra sull’efficacia della gestione dei sistemi di intelligenza artificiale nella pratica. Basato sugli standard riconosciuti ISO e NIST, ti aiuta a:
- valutare l'efficacia dei tuoi controlli;
- migliorare la supervisione umana;
- potenziare le aree chiave come gestione del ciclo di vita, documentazione e rischio del fornitore; e
- prepararti alla certificazione ISO/IEC 42001 se questo è il tuo obiettivo.
Portando a termine il modulo AI Management, puoi ridurre il rischio e creare valore man mano che i tuoi sistemi e capability AI si evolvono.
