Ce que vous devez savoir
- Votre investissement dans l’IA ne devient rentable que si des contrôles sont mis en place afin de faire en sorte que les résultats soient précis, fiables et en adéquation avec les objectifs de votre organisation.
- Pour gérer efficacement l’IA, vous devez commencer par identifier vos principaux domaines de risque et les mettre en correspondance avec les réglementations actuelles et émergentes.
- En clarifiant votre rôle dans la chaîne de valeur de l’IA, vous hiérarchiserez mieux les exigences juridiques et de conformité qui sont les plus importantes pour vous.
- L’IA nécessite une supervision humaine et l’établissement de responsabilités claires et de contrôles à chaque étape, de la conception au suivi des performances.
- La mise en place de contrôles adaptés à votre niveau de risques permettra de protéger votre organisation sans freiner l’innovation.
L’investissement à lui seul ne suffit pas pour exploiter pleinement le potentiel de l’IA. Que vous la mettiez au point ou que vous en fassiez seulement usage, vous devez gérer efficacement l’IA. Un management alliant une supervision claire, des rôles bien définis et des contrôles permettant de coordonner les risques, la conformité et l’innovation tout au long du cycle de vie complet de l’IA.
Que se passe-t-il lorsque l’IA évolue plus vite que les mécanismes de contrôle ?
Comme de nombreuses entreprises, vous vous empressez sans doute de tirer parti de l’intelligence artificielle (IA) pour réduire vos coûts, augmenter l’innovation et vous démarquer de vos concurrents. En seulement quelques années, l’IA est passée d’un statut marginal à celui de véritable pilier de la stratégie et de la croissance à long terme. Vous ne vous demandez plus si vous devez investir dans l’IA : vous décidez désormais où et combien investir.
Pourtant, l’IA n’est pas infaillible. Récemment, le Chicago Sun-Times a publié une liste d’ouvrages qui n’existent pas, générée par IA. La société iTutor Group a dû verser une indemnité de 365 000 $ quand son outil de recrutement basé sur l’IA a rejeté automatiquement des candidates de 55 ans et plus. Ces exemples montrent à quelle vitesse les erreurs commises par l’IA peuvent avoir des répercussions concrètes.
L’IA peut vous faire gagner du temps et de l’argent. Mais, lorsqu’elle n’est pas bien gérée, elle peut tout autant vous faire dilapider les deux. Les erreurs peuvent ébranler la confiance, vous exposer à des risques juridiques et nuire à votre réputation.
La difficulté, c’est que, dans la précipitation à adopter l’IA, les nouveaux risques ne sont pas toujours identifiés ni gérés. Nos recherches montrent que seules 47 % des organisations contrôlent l’utilisation de l’IA au moyen de processus formels. Et seules 57 % estiment que leur personnel dispose des compétences nécessaires pour utiliser efficacement l’IA. C’est là que les investissements consentis dans l’IA commencent à montrer leurs limites.
Pour que vos investissements dans l’IA valent la peine, vous devez vous doter de systèmes de management qui vous garantissent d’obtenir les résultats escomptés.
Quel est votre rôle dans l’utilisation de l’IA ?
Pour gérer efficacement l’IA, vous devez commencer par comprendre votre rôle dans le cycle de vie de l’IA.
Avant de pouvoir concevoir un système efficace de management de l’IA, vous devez avoir une vision claire de la manière dont l’IA s’intègre à votre organisation.
- Quelle est votre vision de l’IA ?
- Quel est l’objectif à atteindre ?
- Où commencent et où s’arrêtent vos responsabilités ?
Votre entreprise conçoit peut-être des solutions d’IA. Peut-être les intégrez-vous aux environnements des clients. Peut-être aussi utilisez-vous simplement des systèmes d’IA mis au point par des tiers.
Le rôle que joue votre organisation a une incidence directe sur vos risques et votre imputabilité. En vous appuyant sur les rôles des parties prenantes définis dans la norme internationale relative au management de l’IA, ISO/IEC 42001, déterminez les rôles qui vous correspondent le mieux.
- Producteur : vous assumez des risques liés à la conception, notamment autour des questions de cybersécurité.
- Partenaire : vous assumez les risques liés à la mise en œuvre.
- Fournisseur : vous êtes responsable de la fiabilité, de la sécurité et de la continuité du service.
- Client : l’imputabilité finale vous revient quant à l’utilisation qui est faite de l’IA.
Votre rôle détermine également les compétences dont vous avez besoin. Si vous mettez au point des solutions d’IA, vous devez disposer d’une expertise technique approfondie. En tant que client, en revanche, vous devez avoir une vision plus globale de l’organisation.
Il n’existe pas de modèle universel en matière de management de l’IA. Mais une fois votre rôle défini, vous pouvez déterminer vos responsabilités spécifiques. De là, vous pourrez concevoir des structures de gouvernance adaptées à vos besoins. Une adoption responsable de l’IA protège votre organisation tout en favorisant l’innovation.
Quels sont vos risques et vos obligations en matière d’IA ?
Une fois que vous aurez compris votre rôle, l’étape suivante consistera à identifier les niveaux auxquels vous êtes exposé à des risques et à déterminer la manière dont la réglementation s’applique à vous. Par exemple, la loi sur l’intelligence artificielle de l’UE établit un cadre visant à garantir une adoption plus sûre et plus responsable de l’IA en Europe.
Mais vous avez peut-être déjà des obligations légales, que des lois spécifiques à l’IA s’appliquent ou non. En effet, peut-être êtes-vous concerné par les législations relatives à la protection de la vie privée, à la cybersécurité et à la sécurité. Les exigences en matière de transparence et de prise de décision automatisée prévues par le Règlement général sur la protection des données (RGPD) sont en vigueur depuis des années. La conformité ne débute pas avec les lois spécifiques à l’IA : vous devez également tenir compte de vos obligations actuelles en matière de conformité.
En commençant par bien comprendre votre rôle, vous pourrez vous concentrer sur les risques et obligations les plus importants. Le cadre de référence pour l’IA de BSI vous aide à y parvenir en identifiant les risques propres à votre contexte organisationnel. Vous pouvez ainsi mettre en place le niveau de contrôle qui convient sans freiner l’innovation.
Vous suivez ?
L’IA a besoin d’une supervision humaine pour instaurer la confiance. Même si elle peut prendre différentes formes selon la manière dont vous l’utilisez, l’imputabilité doit toujours pouvoir être attribuée à des personnes spécifiques. Ce principe s’applique à tous les niveaux de votre organisation. Les rôles et responsabilités sont intégrés à chaque niveau afin d’éviter tout report.
Posez-vous la question suivante : disposons-nous d’une supervision claire tout au long du cycle de vie de l’IA ?
De la conception et de l’élaboration du concept au contrôle des résultats en matière de précision, de biais et de risques. À l’heure actuelle, seules 33 % des entreprises disposent d’un processus défini pour la mise en place des nouveaux outils d’IA. Sans cela, il devient difficile de garantir la précision et l’imputabilité à l’heure où l’IA est de plus en plus utilisée. Seules 35 % des entreprises disposent d’une méthode standardisée pour évaluer le bon fonctionnement de l’IA. Pour qu’une supervision soit efficace, il faut qu’un être humain définisse les limites que l’IA ne doit pas franchir en matière de prise de décision. Quelqu’un doit aussi garantir que vous pouvez faire confiance à ces limites.
Pour y parvenir, vous devez investir dans le développement de compétences et la formation en vous appuyant sur les meilleures pratiques internationales. Dans les environnements liés au développement de logiciels, vous pouvez mettre en place des points de contrôle obligatoires, qui empêchent de passer à l’étape suivante tant que vous n’avez pas examiné les risques et les contrôles. Vous pouvez également envisager l’IA centrée sur l’humain (HCAI) comme étant une méthodologie de conception qui place les besoins et les valeurs humaines au cœur de votre solution d’IA. Tous ces outils peuvent favoriser une adoption responsable de l’IA et l’innovation.
Avant d’envisager d’intégrer l’IA à votre entreprise, faites le point.
- Quel rôle jouez-vous dans le cycle de vie de l’IA ?
- En quoi cela a-t-il une incidence sur vos risques et votre imputabilité ?
- Et comment intégrer la responsabilité humaine à toutes les étapes du cycle de vie de votre IA ?
Un management efficace ne doit pas devenir un fardeau inutile : il doit vous permettre de réduire vos risques et de créer des opportunités pour constituer une valeur ajoutée sur le long terme.
Comment aller de l’avant en toute confiance
Un management efficace de l’IA commence par une bonne compréhension de votre situation actuelle et des points sur lesquels vous devez désormais vous concentrer.
Le cadre de référence pour l’IA modulaire de BSI vous aide à y parvenir. Il vous aide à évaluer vos capacités actuelles, à identifier votre profil de risque spécifique et à hiérarchiser les mesures concrètes qui auront le plus d’impact.
Dans ce cadre, le module de management de l’IA s’intéresse à la qualité du management de vos systèmes d’IA dans la pratique. Sur la base des normes ISO et NIST reconnues, il vous aide à :
- évaluer l’efficacité de vos contrôles
- améliorer la supervision humaine
- renforcer des domaines clés tels que le management du cycle de vie, la consignation et les risques liés aux fournisseurs et
- préparer la certification pour la norme ISO/IEC 42001, si tel est votre objectif.
En suivant le module de management de l’IA, vous pourrez réduire les risques et créer de la valeur ajoutée à mesure que vos systèmes et capacités d’IA évoluent.
