Lo que necesita saber
- Su inversión en IA solo rinde cuando existen controles que garanticen que los resultados sean precisos, fiables y estén alineados con los objetivos de su organización.
- Una gestión de IA eficaz comienza por identificar las áreas clave de riesgo y compararlas con las normativas vigentes y emergentes.
- Comprender su función en la cadena de valor de la IA le ayuda a priorizar los requisitos legales y de conformidad que le resulten más relevantes.
- La IA necesita supervisión humana, con una rendición de cuentas clara y controles en cada etapa, desde el diseño hasta el monitoreo del rendimiento.
- La implantación de controles proporcionales al riesgo protegerá a su organización sin frenar la innovación.
La inversión por sí sola no basta para potenciar al máximo el valor de la IA. Tanto si la desarrolla como si la utiliza, necesita una gestión de IA eficaz. Una gestión que combine una supervisión clara, funciones definidas y controles que alineen el riesgo, la conformidad y la innovación a lo largo de todo el ciclo de vida de la IA.
¿Qué ocurre cuando la IA avanza más rápido que el control?
Al igual que muchas organizaciones, es probable que usted esté compitiendo por aprovechar la inteligencia artificial (IA) para reducir costes, aumentar la innovación y diferenciarse de sus competidores. En tan solo unos años, la IA ha pasado de ser un elemento secundario para convertirse en una consideración clave para la estrategia y el crecimiento a largo plazo. La cuestión ya no es si debe invertir en IA, sino dónde debe hacerlo y cuántos recursos debe destinar a ello.
Sin embargo, la IA aún puede equivocarse. El Chicago Sun-Times publicó recientemente una lista de lectura de libros inexistentes, generados por IA. iTutor Group enfrentó una indemnización de 365 000 USD después de que su herramienta de reclutamiento basada en IA rechazara automáticamente a las candidatas mayores de 55 años. Estos ejemplos demuestran la rapidez con la que los errores de la IA pueden tener consecuencias en el mundo real.
La IA puede ahorrarle tiempo y dinero. No obstante, cuando no se gestiona correctamente, puede conducir al derroche de ambos con la misma facilidad. Los errores pueden minar la confianza, exponerlo a riesgos legales y dañar su reputación.
El problema radica en que, en la prisa por adoptar la IA, no siempre se identifican ni se gestionan los nuevos riesgos. Nuestra investigación muestra que solo el 47 % de las organizaciones controla el uso de la IA mediante procesos formales. Y solo el 57 % considera que su plantilla tiene las habilidades necesarias para utilizar la IA de manera eficaz. Es a partir de esta brecha entre la adopción y el control cuando las inversiones en IA comienzan a tener un rendimiento inferior al esperado.
Para que la inversión en IA merezca la pena, se necesitan sistemas de gestión que garanticen la obtención de los resultados correctos.
¿Qué función cumple en el uso de la IA?
Una gestión de IA eficaz comienza por comprender cuál es su función en el ciclo de vida de la IA.
Antes de poder diseñar un sistema de gestión de IA eficaz, debe tener claro cómo se integra la IA en su organización.
- ¿Cuál es su visión con respecto a la IA?
- ¿Qué desea lograr?
- ¿Dónde comienzan y terminan sus responsabilidades?
Su organización podría desarrollar soluciones de IA. Podría integrarlas en los entornos de los clientes. O simplemente podría utilizar sistemas de IA desarrollados por terceros.
La función que desempeña su organización influye directamente en su riesgo y rendición de cuentas. Teniendo en cuenta las funciones de las partes interesadas definidas en la norma internacional de gestión de IA, ISO/IEC 42001, considere qué funciones se adaptan mejor a sus necesidades.
- Productor: usted asume los riesgos del diseño, especialmente en lo que respecta a la ciberseguridad.
- Socio: usted asume el riesgo de la implantación.
- Proveedor: usted es responsable de la fiabilidad, la seguridad y la continuidad del servicio.
- Cliente: usted es el máximo responsable de cómo se utiliza la IA.
Sus funciones también determinan las capacidades que necesita. Si usted se dedica al desarrollo de soluciones de IA, necesitará experiencia técnica exhaustiva. Como cliente, usted necesita un conocimiento más amplio de la organización.
No existe un modelo único que sirva para todos los casos de gestión de IA. No obstante, una vez que haya definido sus roles, podrá determinar sus responsabilidades específicas. Esto le proporcionará un punto de partida para desarrollar estructuras de gobernanza que considere lógicas. La adopción responsable de la IA protege a su organización al tiempo que fomenta la innovación.
¿Cuáles son sus riesgos y obligaciones en materia de IA?
Una vez que comprenda su función, el siguiente paso es identificar en qué ámbitos está expuesto al riesgo y cómo se aplica la normativa en su caso. Por ejemplo, la Ley de Inteligencia Artificial (IA) de la UE proporciona un marco para una adopción de la IA más segura y responsable en Europa.
Sin embargo, es posible que ya tenga obligaciones legales, independientemente de si se aplican leyes específicas sobre IA; la legislación sobre privacidad, ciberseguridad y seguridad de los productos podría ser relevante para usted. Los requisitos de transparencia y toma de decisiones automatizada establecidos en el Reglamento General de Protección de Datos (RGPD) han estado en vigencia durante muchos años. El cumplimiento normativo no comienza con las leyes específicas sobre IA; también es necesario revisar las obligaciones de conformidad actuales.
Al comprender cuál es su función en primer lugar, podrá centrarse en los riesgos y las obligaciones más importantes. El Marco de Fundamentos de la IA de BSI le ayuda a lograrlo al identificar los riesgos en el contexto de su organización, de modo que pueda establecer el nivel de control adecuado. Sin que esto limite la innovación.
¿Mantiene una supervisión adecuada?
La IA necesita supervisión humana para generar confianza. Si bien esto tendrá un aspecto diferente según cómo se utilice, la rendición de cuentas debe estar siempre vinculada a las personas. Esto repercute desde la dirección de la organización hacia todos los niveles. Y las funciones y responsabilidades deben estar claramente definidas en todos los niveles para evitar que la responsabilidad se diluya.
Pregúntese: ¿tenemos una supervisión clara de todo el ciclo de vida de la IA?
Desde el diseño y el concepto hasta el monitoreo de los resultados para verificar la precisión, el sesgo y el riesgo. En la actualidad, solo el 33 % de las empresas tiene un proceso definido para la introducción de nuevas herramientas de IA. Sin esto, resulta difícil garantizar la precisión y la rendición de cuentas a medida que se expande el uso de la IA. Solo el 35 % dispone de un método estandarizado para evaluar si la IA funciona según lo previsto. Para una supervisión eficaz, es necesario que un ser humano defina las medidas de protección respecto de la toma de decisiones dentro de las cuales opera la IA. También es necesario que una persona sea responsable de garantizar que esas medidas de protección sean fiables.
Para ello, es necesario invertir en habilidades y formación basadas en las buenas prácticas internacionales. En los entornos de desarrollo de software, se pueden introducir puntos de control obligatorios que impidan pasar a la siguiente fase hasta que se hayan evaluado los riesgos y los controles. También puede considerar la IA centrada en el ser humano (HCAI, por sus siglas en inglés) como una metodología de diseño, que sitúa las necesidades y los valores humanos en el centro de su solución de IA. Todo esto puede contribuir a la adopción responsable de la IA y a la innovación.
Al considerar la integración de la IA en su organización, evalúe la situación.
- ¿Qué función desempeña dentro del ciclo de vida de la IA?
- ¿Cómo influye esto en sus riesgos y responsabilidades?
- ¿Y cómo se puede integrar la responsabilidad humana a lo largo de todo el ciclo de vida de la IA?
Cuando se lleva a cabo correctamente, la gestión no debería convertirse en una carga innecesaria. Debería reducir su riesgo y crear oportunidades para que genere valor a largo plazo.
Cómo avanzar con confianza
Una gestión de IA eficaz comienza por comprender cuál es su situación actual y dónde debe centrar sus esfuerzos a continuación.
El Marco de Fundamentos de la IA modular de BSI le permite lograrlo. Le ayuda a evaluar sus capacidades actuales, identificar su perfil de riesgo específico y a priorizar las medidas prácticas que tendrán el mayor impacto.
Dentro de este marco, el módulo de Gestión de IA se centra en la eficacia con la que se gestionan sus sistemas de IA en la práctica. Sobre la base de normas ISO y NIST reconocidas, le ayuda a:
- Evaluar la eficacia de sus controles.
- Mejorar la supervisión humana.
- Fortalecer áreas clave como la gestión del ciclo de vida, la documentación y el riesgo de los proveedores.
- Prepararse para obtener la certificación de la norma ISO/IEC 42001, si ese fuera su objetivo.
Al completar el módulo de Gestión de IA, podrá reducir riesgos y generar valor a medida que evolucionen sus sistemas y capacidades de IA.
