Lo que necesita saber
- Su inversión en IA solo rinde cuando existen controles que garanticen que los resultados sean precisos, fiables y estén alineados con los objetivos de su organización.
- Una gestión de IA eficaz comienza por identificar las áreas clave de riesgo y compararlas con las normativas vigentes y emergentes.
- Comprender su función en la cadena de valor de la IA le ayuda a priorizar los requisitos legales y de conformidad que le resulten más relevantes.
- La IA necesita supervisión humana, con una rendición de cuentas clara y controles en cada etapa, desde el diseño hasta el monitoreo del rendimiento.
- La implantación de controles proporcionales al riesgo protegerá a su organización sin frenar la innovación.
La inversión por sí sola no basta para potenciar al máximo el valor de la IA. Tanto si la desarrolla como si la utiliza, necesita una gestión de IA eficaz. Una gestión que combine una supervisión clara, funciones definidas y controles que alineen el riesgo, la conformidad y la innovación a lo largo de todo el ciclo de vida de la IA.
¿Qué ocurre cuando la IA avanza más rápido que el control?
Como muchas otras organizaciones, probablemente la suya esté buscando cómo aprovechar el potencial de la inteligencia artificial (IA) para reducir costes, impulsar la innovación y diferenciarse de la competencia. En apenas unos años, la IA ha pasado de ocupar un papel secundario a convertirse en un factor clave para la estrategia y el crecimiento a largo plazo. La cuestión ya no es si debe invertir en IA, sino dónde debe hacerlo y cuántos recursos debe destinar a ello.
Sin embargo, la IA aún puede equivocarse. El Chicago Sun-Times publicó recientemente una lista de lecturas generadas por IA que incluían libros inexistentes. iTutor Group tuvo que pagar una indemnización de 365 000 dólares después de que su herramienta de selección de personal basada en IA rechazara automáticamente a candidatas mayores de 55 años. Estos ejemplos muestran cómo los errores derivados del uso de la IA pueden tener rápidamente consecuencias reales.
La IA puede ahorrarle tiempo y dinero. No obstante, si no se gestiona correctamente, también puede hacerle perder ambos. Los errores pueden minar la confianza, exponer a su organización a riesgos legales y dañar su reputación.
El problema es que, en el afán por adoptar la IA, no siempre se identifican ni se gestionan adecuadamente los nuevos riesgos. Nuestra investigación muestra que solo el 47 % de las organizaciones controla el uso de la IA mediante procesos formales, y que solo el 57 % considera que su plantilla cuenta con las competencias necesarias para utilizarla de forma eficaz. Esta brecha entre adopción y control puede hacer que las inversiones en IA no alcancen el rendimiento esperado.
Para que la inversión en IA merezca la pena, se necesitan sistemas de gestión que permitan obtener los resultados esperados.
¿Qué función cumple en el uso de la IA?
Una gestión de IA eficaz comienza por comprender cuál es su función en el ciclo de vida de la IA.
Antes de poder diseñar un sistema de gestión de IA eficaz, debe tener claro cómo se integra la IA en su organización.
- ¿Cuál es su visión con respecto a la IA?
- ¿Qué desea lograr?
- ¿Dónde comienzan y terminan sus responsabilidades?
Su organización podría desarrollar soluciones de IA. Podría integrarlas en los entornos de los clientes. O simplemente podría utilizar sistemas de IA desarrollados por terceros.
El rol que desempeña su organización influye directamente en los riesgos que asume y en sus responsabilidades. Teniendo en cuenta los roles de las partes interesadas definidos en la norma internacional de gestión de la IA, ISO/IEC 42001, identifique cuál o cuáles corresponden mejor a la actividad de su organización.
- Productor: usted asume los riesgos del diseño, especialmente en lo que respecta a la ciberseguridad.
- Socio: usted asume el riesgo de la implantación.
- Proveedor: usted es responsable de la fiabilidad, la seguridad y la continuidad del servicio.
- Cliente: usted es el máximo responsable de cómo se utiliza la IA.
Sus funciones también determinan las competencias que necesita. Si usted se dedica al desarrollo de soluciones de IA, necesitará experiencia técnica exhaustiva. Como cliente, en cambio, necesitará una visión más amplia de la organización y de cómo se utiliza la IA en ella.
No existe un modelo único de gestión de la IA válido para todas las organizaciones. No obstante, una vez que haya definido sus roles, podrá determinar con mayor claridad sus responsabilidades específicas. Esto le proporcionará un punto de partida para desarrollar estructuras de gobernanza que considere lógicas. Una adopción responsable de la IA ayuda a proteger a su organización sin frenar la innovación.
¿Cuáles son sus riesgos y obligaciones en materia de IA?
Una vez que comprenda su función, el siguiente paso es identificar en qué ámbitos está expuesto al riesgo y cómo se aplica la normativa en su caso. Por ejemplo, la Ley de Inteligencia Artificial (IA) de la UE proporciona un marco para una adopción de la IA más segura y responsable en Europa.
Sin embargo, su organización puede estar sujeta a otras obligaciones legales, con independencia de que le resulte aplicable una normativa específica sobre IA; la legislación sobre privacidad, ciberseguridad y seguridad de los productos podría ser relevante para usted. Los requisitos de transparencia y toma de decisiones automatizada establecidos en el Reglamento General de Protección de Datos (RGPD) han estado en vigor durante muchos años. El cumplimiento normativo no comienza con las leyes específicas sobre IA; también es necesario revisar las obligaciones de conformidad actuales.
Al comprender cuál es su función en primer lugar, podrá centrarse en los riesgos y las obligaciones más importantes. El Marco de Fundamentos de la IA de BSI le ayuda a lograrlo al identificar los riesgos en el contexto de su organización, de modo que pueda establecer el nivel de control adecuado. Sin que esto limite la innovación.
¿Mantiene una supervisión adecuada?
La IA necesita supervisión humana para generar confianza. Aunque la forma de ejercer esa supervisión dependerá de cómo se utilice la IA, la rendición de cuentas debe estar siempre vinculada a las personas. Este principio debe aplicarse desde la alta dirección y extenderse a todos los niveles de la organización. Y las funciones y responsabilidades deben estar claramente definidas en todos los niveles para evitar que la responsabilidad se diluya.
Pregúntese: ¿tenemos una supervisión clara de todo el ciclo de vida de la IA?
Desde el diseño y el concepto hasta el monitoreo de los resultados para verificar la precisión, el sesgo y el riesgo. En la actualidad, solo el 33 % de las empresas tiene un proceso definido para la introducción de nuevas herramientas de IA. Sin esto, resulta difícil garantizar la precisión y la rendición de cuentas a medida que se expande el uso de la IA. Solo el 35 % dispone de un método estandarizado para evaluar si la IA funciona según lo previsto. Para una supervisión eficaz, es necesario que un ser humano defina las medidas de protección respecto de la toma de decisiones dentro de las cuales opera la IA. También es necesario que una persona sea responsable de garantizar que esas medidas de protección sean fiables.
Para ello, es necesario invertir en habilidades y formación basadas en buenas prácticas internacionales. En los entornos de desarrollo de software, se pueden introducir puntos de control obligatorios que impidan pasar a la siguiente fase hasta que se hayan evaluado los riesgos y los controles. También puede considerar la IA centrada en el ser humano (HCAI, por sus siglas en inglés) como una metodología de diseño, que sitúa las necesidades y los valores humanos en el centro del diseño de las soluciones de IA. Todo ello contribuye a fomentar una adopción responsable de la IA sin frenar la innovación.
A la hora de integrar la IA en su organización, empiece por evaluar su situación actual.
- ¿Qué función desempeña dentro del ciclo de vida de la IA?
- ¿Cómo influye esto en sus riesgos y responsabilidades?
- ¿Y cómo se puede integrar la responsabilidad humana a lo largo de todo el ciclo de vida de la IA?
Cuando se lleva a cabo correctamente, la gestión no debería convertirse en una carga innecesaria. Debería reducir su riesgo y crear oportunidades para que genere valor a largo plazo.
Cómo avanzar con confianza
Una gestión de IA eficaz comienza por comprender cuál es su situación actual y dónde debe centrar sus esfuerzos a continuación.
El Marco de Fundamentos de la IA modular de BSI le permite lograrlo. Le ayuda a evaluar sus competencias actuales, identificar su perfil de riesgo específico y a priorizar las medidas prácticas que tendrán el mayor impacto.
Dentro de este marco, el módulo de Gestión de IA se centra en la eficacia con la que se gestionan sus sistemas de IA en la práctica. Sobre la base de normas ISO y NIST reconocidas, le ayuda a:
- Evaluar la eficacia de sus controles.
- Mejorar la supervisión humana.
- Fortalecer áreas clave como la gestión del ciclo de vida, la documentación y el riesgo de los proveedores.
- Prepararse para obtener la certificación de la norma ISO/IEC 42001, si ese fuera su objetivo.
Al completar el módulo de Gestión de IA, podrá reducir riesgos y generar valor a medida que evolucionen sus sistemas y capacidades de IA.
