Evaluación de Riesgos de la Inteligencia Artificial

Diplomados Virtuales Gratis

Diplomado

NUEVO

El Diplomado en Evaluación de Riesgos de la Inteligencia Artificial desarrolla competencias para identificar, analizar, valorar y gestionar riesgos asociados a sistemas de IA. Integra NIST AI RMF, ISO/IEC 23894 e ISO/IEC 42001 para evaluar sesgos, deriva de modelos, privacidad, seguridad y otros riesgos algorítmicos, fortaleciendo la gobernanza y el uso confiable de la inteligencia artificial.

*Educación informal – No conduce a título o certificado de aptitud ocupacional – Decreto 1075 de 2015 (artículo 2.6.6.8)

Presentación

El Diplomado en Evaluación de Riesgos de la Inteligencia Artificial desarrolla competencias para identificar y gestionar los riesgos asociados al diseño, desarrollo, implementación, uso y retiro de sistemas de IA. La formación aborda la naturaleza sociotécnica del riesgo, las características de una inteligencia artificial confiable y categorías como sesgo, deriva del modelo, alucinaciones, opacidad de caja negra, ataques adversarios y vulneraciones de la privacidad. También permite elaborar inventarios de sistemas de inteligencia artificial como base para estructurar los procesos de evaluación de riesgos en las organizaciones.

La formación permite aplicar las funciones Gobernar, Mapear, Medir y Gestionar del NIST AI RMF 1.0, junto con ISO/IEC 23894:2023 e ISO 31000, para identificar y valorar riesgos algorítmicos. Integra técnicas de análisis de casos de uso, escenarios, árboles de fallo, matrices de probabilidad e impacto y registros de riesgo con responsables, controles, métricas y niveles de criticidad.

Objetivo

Formar profesionales capaces de evaluar los riesgos de los sistemas de inteligencia artificial a lo largo de todo su ciclo de vida, aplicando los marcos de referencia internacionales de mayor adopción —el AI Risk Management Framework 1.0 del NIST, la guía ISO/IEC 23894:2023 de gestión de riesgos de IA y la norma certificable ISO/IEC 42001:2023 de sistemas de gestión de IA— para identificar, analizar, valorar, tratar y monitorear riesgos algorítmicos como el sesgo, la deriva del modelo, la opacidad, las alucinaciones y los ataques adversarios. El participante desarrollará la capacidad de construir inventarios y registros de riesgo de IA, medir el desempeño y la equidad de los modelos, comunicar hallazgos a públicos técnicos y directivos, y estructurar la gobernanza y la documentación exigida por reguladores, organismos de certificación y auditores en contextos organizacionales reales.

Participantes

El diplomado está dirigido a profesionales de tecnologías de la información, ciencia de datos y desarrollo de modelos que requieren incorporar criterios de riesgo a su trabajo técnico; a especialistas de gestión de riesgos, cumplimiento normativo, auditoría interna y control interno que deben extender sus metodologías a sistemas algorítmicos; a abogados corporativos, oficiales de protección de datos y responsables de gobierno corporativo que enfrentan la aplicación progresiva del Reglamento (UE) 2024/1689; y a directivos, gerentes de innovación y líderes de transformación digital responsables de aprobar, desplegar y supervisar soluciones de inteligencia artificial en sus organizaciones.

Generalidades del Diplomado

Evaluación de Riesgos de la Inteligencia Artificial

*Imagen usada con fines ilustrativos

Qué se estudia en el Diplomado Virtual

Evaluación de Riesgos de la Inteligencia Artificial

Competencia General: Identificar los riesgos asociados al ciclo de vida de los sistemas de inteligencia artificial para establecer la línea base de evaluación en la organización.

Fundamentos del Riesgo de la Inteligencia Artificial

Definir qué es un sistema de inteligencia artificial y cuáles son sus componentes técnicos según la terminología normalizada ISO/IEC 22989 y el Reglamento Europeo de IA.
Explicar la naturaleza sociotécnica del riesgo de inteligencia artificial y sus diferencias frente al riesgo del software tradicional.
Clasificar las categorías de riesgo algorítmico: sesgo, deriva del modelo, alucinaciones, opacidad de caja negra, ataques adversarios y vulneración de la privacidad.
Reconocer las características de una inteligencia artificial confiable: validez, seguridad, resiliencia, rendición de cuentas, transparencia, explicabilidad, privacidad y equidad.
Describir las fases del ciclo de vida del sistema de IA y los actores que intervienen en el diseño, desarrollo, despliegue, uso y retiro.
Elaborar el inventario de sistemas de inteligencia artificial de la organización como insumo base del proceso de evaluación de riesgos.

Competencia General: Aplicar los marcos NIST AI RMF, ISO/IEC 23894 e ISO 31000 en la identificación y valoración de los riesgos de los sistemas de inteligencia artificial de la organización.

Marcos y Técnicas de Evaluación de Riesgos de IA

Aplicar las cuatro funciones del NIST AI RMF 1.0 —Gobernar, Mapear, Medir y Gestionar— al análisis de un sistema de inteligencia artificial en operación.
Utilizar la guía ISO/IEC 23894:2023 y el ciclo de riesgo de la norma ISO 31000 para estructurar la identificación de riesgos algorítmicos.
Implementar técnicas de identificación de riesgos de IA: análisis de casos de uso, talleres de escenarios, árboles de fallo y análisis de partes afectadas.
Desarrollar matrices de probabilidad e impacto con criterios de severidad para valorar y priorizar los riesgos identificados.
Emplear el AI RMF Playbook del NIST y las listas de verificación de controles para documentar hallazgos y evidencias.
Construir el registro de riesgos de inteligencia artificial con responsables, controles asociados, métricas y niveles de criticidad por sistema.

Competencia General: Analizar y comunicar los resultados de la evaluación de riesgos de IA mediante métricas e informes técnicos que sustenten decisiones directivas.

Programa Integral de Tratamiento de Datos Personales

Medir el desempeño, la robustez y la equidad de los modelos mediante métricas cuantitativas de exactitud, error y sesgo por subgrupo.
Analizar la deriva de datos y la deriva del modelo con indicadores de monitoreo posdespliegue y umbrales de alerta.
Interpretar los resultados de pruebas adversarias y ejercicios de red teaming aplicados a modelos de propósito general.
Aplicar técnicas de explicabilidad e interpretabilidad para sustentar hallazgos ante públicos técnicos y no técnicos.
Elaborar el informe de evaluación de riesgos de IA con hallazgos priorizados, riesgo residual y planes de tratamiento.
Comunicar recomendaciones y niveles de riesgo aceptable a la alta dirección, comités de riesgo y partes interesadas externas.

Competencia General: Gestionar el sistema de gobernanza de riesgos de IA conforme a la norma ISO/IEC 42001 y a los requisitos regulatorios vigentes para asegurar el cumplimiento organizacional.

Gobernanza, Cumplimiento Normativo y Estándares Profesionales

Evaluar las obligaciones del Reglamento (UE) 2024/1689 y su calendario de aplicación para prácticas prohibidas, transparencia, modelos de propósito general y sistemas de alto riesgo.
Diseñar un sistema de gestión de inteligencia artificial conforme a la norma ISO/IEC 42001:2023 con políticas, roles, controles y mejora continua.
Auditar los controles de riesgo de IA mediante evidencias documentales y trazabilidad de las decisiones del ciclo de vida.
Formular el plan de tratamiento del riesgo y el esquema de monitoreo continuo con indicadores de seguimiento y umbrales de escalamiento.
Justificar la documentación técnica, los registros y la evaluación de conformidad exigidos por organismos de supervisión y certificación.
Integrar la ética aplicada, la alfabetización en IA y las buenas prácticas del sector en la cultura de gobernanza de la organización.

Contenido Relacionado con