Ce que vous devez savoir
- Votre investissement dans l’IA paie seulement s’il y a des contrôles en place pour vous assurer que les données sortantes sont exactes et fiables, et qu’elles correspondent aux objectifs de votre organisation.
- Une gestion efficace de l’IA commence par l’identification de vos zones principales de risque et leur correspondance avec les réglementations actuelles et émergentes.
- Clarifier votre rôle dans la chaîne de valeur de l’IA vous aidera à prioriser les exigences juridiques et de conformité qui vous concernent le plus.
- L’IA a besoin d’une surveillance humaine, avec une imputabilité claire et des contrôles en place à chaque stade, allant de sa conception à la surveillance de son rendement.
- L’introduction de contrôles proportionnels à vos risques protégera votre organisation, sans ralentir l’innovation.
L’investissement seul n’est pas suffisant pour tirer pleinement parti de la valeur de l’IA. Que vous la développiez ou que vous l’utilisiez, vous avez besoin d’une gestion efficace de l’IA. La gestion combine une surveillance claire, des rôles définis et des contrôles qui alignent le risque, la conformité et l’innovation à l’ensemble du cycle de vie de l’IA.
Que se passe-t-il quand l’IA évolue plus rapidement que les contrôles?
Comme plusieurs autres organisations, vous vous empressez probablement d’exploiter l’intelligence artificielle (IA) pour réduire vos coûts, favoriser l’innovation et vous démarquer de vos concurrents. En quelques années à peine, l’IA est passée d’un élément en périphérie à l’une des considérations clés pour la stratégie et la croissance à long terme. Vous ne vous demandez plus si vous devriez investir dans l’IA, vous devez maintenant décider où investir et à quelle hauteur.
Pourtant, l’IA peut quand même se tromper. Le Chicago Sun-Times a récemment publié une liste de livres qui n’existent pas, générée par l’IA. iTutor Group a dû débourser 365 000 $ après que son outil de recrutement à base d’IA ait rejeté systématiquement les candidatures des femmes de 55 ans et plus. Ces exemples prouvent que les erreurs de l’IA peuvent rapidement entraîner des conséquences réelles.
L’IA peut vous faire gagner du temps et de l’argent. Mais si elle n’est pas bien gérée, elle peut aussi vous faire perdre les deux. Les erreurs peuvent amoindrir la confiance, vous exposer à des risques juridiques et nuire à votre réputation.
Le défi est le suivant : dans cette précipitation qui est d’adopter l’IA, les nouveaux risques ne sont pas toujours identifiés ou gérés. Notre recherche démontre que seulement 47 % des organisations surveillent leur utilisation de l’IA à l’aide de processus formels. Et seulement 57 % croient que leur main-d’œuvre possède les compétences nécessaires pour utiliser l’IA d’une manière efficace. Cet écart entre adoption et contrôle démontre où les investissements en IA commencent à avoir un rendement inférieur.
Pour que les investissements en vaillent la peine, vous avez besoin de systèmes de gestion qui vous assurent que l’IA vous fournit les bons résultats.
Quel est votre rôle par rapport à l’utilisation de l’IA?
Une gestion de l’IA efficace commence par comprendre votre rôle au sein de son cycle de vie.
Avant de concevoir un système de gestion de l’IA efficace, vous avez besoin de clarté quant à ses fonctionnalités dans votre organisation.
- Quelle est votre vision pour l’IA?
- Que voulez-vous accomplir?
- Où vos responsabilités commencent-elles et où se terminent-elles?
Votre organisation pourrait monter des solutions d’IA. Vous pourriez les intégrer à des environnements client. Ou vous pourriez simplement utiliser des systèmes d’IA développés par des tiers.
Le rôle de votre organisation détermine directement vos risques et votre imputabilité. À l’aide des rôles des parties prenantes définis dans la norme internationale de gestion de l’IA ISO/IEC 42001, pensez aux rôles qui vous conviennent le mieux.
- Producteur : vous êtes responsable des risques, surtout par rapport à la cybersécurité.
- Partenaire : vous êtes responsable de l’implémentation.
- Fournisseur : vous êtes responsable de la fiabilité, de la sûreté et de la continuité du service.
- Client : vous détenez l’imputabilité ultime relativement à la façon dont l’IA est utilisée.
Vos rôles déterminent aussi les capacités dont vous avez besoin. Si vous développez des solutions d’IA, vous aurez besoin d’une expertise technique approfondie. Alors que si vous êtes client, vous aurez besoin de connaissances organisationnelles plus larges.
Il n’y a pas de modèle universel pour la gestion de l’IA. Mais lorsque vous aurez défini vos rôles, vous pourrez déterminer vos responsabilités précises. Ceci deviendra votre ligne de base pour concevoir des structures de gouvernance qui auront du sens pour vous. Une adoption responsable de l’IA protège votre organisation tout en laissant place à l’innovation.
Où se trouvent vos risques et obligations en matière d’IA?
Une fois que vous comprenez votre rôle, il vous faut identifier là où votre organisation est exposée au risque et comment la réglementation s’applique à vous. Par exemple, la Loi sur l’intelligence artificielle de l’UE fournit un cadre pour une adoption plus sûre et plus responsable de l’IA en Europe.
Mais vous pourriez avoir déjà des obligations juridiques, sans égard à des lois dédiées à l’IA : les lois sur la protection de la vie privée, de la cybersécurité et de la sûreté des produits pourraient s’appliquer à vous. Les exigences relatives à la transparence et à la prise de décision automatisée du Règlement général sur la protection des données (RGPD) sont en vigueur depuis plusieurs années. Vous devrez aussi examiner vos obligations actuelles en matière de conformité, car celle-ci ne commence pas avec des lois spécifiques à l’IA.
En commençant par comprendre votre rôle, vous pourrez vous concentrer sur les risques et les obligations les plus importants. Le Cadre de modèle fondateur de l’IA de BSI vous aide en identifiant les risques dans le contexte de votre organisation. Vous pourrez donc mettre en place le bon niveau de contrôle. Sans brimer l’innovation.
Êtes-vous toujours dans la partie?
L’IA a besoin de surveillance humaine pour instaurer la confiance. Bien que cela semblera différent en fonction de la façon dont vous l’utiliserez, l’imputabilité devra toujours être reliée à des individus. Son point de départ se trouve tout en haut de votre organigramme et se déroule vers le bas. Avec des rôles et des responsabilités intégrés à chaque niveau pour les empêcher de tomber aux oubliettes.
Posez-vous la question suivante : pouvons-nous surveiller clairement l’ensemble du cycle de vie de l’IA?
De la conception et du concept à la surveillance des données sortantes, il faut confirmer leur exactitude ainsi qu’identifier les biais et les risques. En ce moment, seulement 33 % des entreprises ont un processus défini pour l’introduction de nouveaux outils d’IA. Sans processus, il devient difficile d’assurer l’exactitude et l’imputabilité au fil de l’augmentation de l’utilisation de l’IA. Seulement 33 % ont instauré une procédure standardisée pour évaluer si l’IA agit comme prévu. Une surveillance efficace nécessite l’humain pour définir les limites de l’IA en matière de prise de décision. Ainsi qu’un humain qui s’assurera que vous pouvez avoir confiance en cesdites limites.
Pour ce faire, vous devez investir dans les compétences et la formation connexes aux meilleures pratiques internationales. Dans les environnements de développement logiciel, vous pourriez introduire des points de contrôle obligatoires pour stopper la progression jusqu’au prochain stade jusqu’à ce que les risques et les contrôles aient été examinés. Comme méthodologie de conception, vous pourriez aussi envisager l’IA centrée sur l’humain, plaçant ainsi les besoins et les valeurs de l’humain au cœur de votre solution d’IA. Tout ceci peut contribuer à une adoption et une innovation responsables de l’IA.
Si vous envisagez d’intégrer l’IA dans votre organisation, faites d’abord le point.
- Quel rôle jouez-vous dans le cycle de vie de l’IA?
- Comment cela a-t-il une incidence sur vos risques et votre imputabilité?
- Et comment pouvez-vous intégrer la responsabilité humaine dans le cycle de vie de l’IA?
Lorsque tout est bien fait, la gestion n’est pas nécessairement un fardeau. Elle devrait même réduire les risques et créer des opportunités pour que vous puissiez gagner de la valeur à long terme.
Comment avancer en toute confiance
Pour une gestion efficace de l’IA, commencez par comprendre où vous en êtes aujourd’hui et où vous irez ensuite.
Le Cadre de modèle fondateur de l’IA modulaire de BSI vous aide en ce sens. Il vous aide à évaluer vos capacités actuelles, à identifier votre profil de risque spécifique et à prioriser les étapes pratiques qui auront le plus grand impact.
Au sein du cadre, le module « Gestion de l’IA » est axé sur la façon dont vos systèmes d’IA sont concrètement gérés. Basé sur les normes reconnues ISO et NIST, le module vous aide avec ce qui suit :
- évaluer l’efficacité de vos contrôles;
- améliorer la surveillance humaine;
- renforcer les domaines clés comme la gestion du cycle de vie, la documentation et les risques liés au fournisseur; et
- vous préparer pour la certification ISO/IEC 42001 s’il s’agit de votre objectif.
En faisant le module « Gestion de l’IA », vous pouvez réduire les risques et créer de la valeur au fil de l’évolution de vos systèmes et capacités d’IA.
