Marco de Gestión de Riesgos en Inteligencia Artificial
IA Confiable en Infraestructura Crítica
Raymond Sheh, Martin Stanley
National Institute of Standards and Technology (NIST) – Information Technology Laboratory (ITL)
Para responder a la creciente demanda de seguridad, protección, confiabilidad, capacidad y eficiencia, la Infraestructura Crítica (CI) dependerá cada vez más de avances tecnológicos como la Inteligencia Artificial (IA) en entornos de Tecnologías de la Información (IT), Tecnologías Operacionales (OT) y Sistemas de Control Industrial (ICS).
Sin embargo, la adopción de IA en estos entornos de alta criticidad exige un requisito fundamental: la confianza en los sistemas de IA.
Con este objetivo, el NIST desarrolló el AI Risk Management Framework (AI RMF), un marco que define y promueve la confiabilidad de los sistemas de IA mediante un enfoque repetible y basado en todo su ciclo de vida, permitiendo a las organizaciones aprovechar los beneficios de la IA mientras gestionan sus riesgos de forma adecuada.
Un paso estratégico hacia la IA en Infraestructura Crítica
Como parte de su estrategia de liderazgo tecnológico en el siglo XXI, el NIST, a través de su laboratorio ITL, está impulsando el desarrollo del perfil:
“Trustworthy AI in Critical Infrastructure Profile”
Este perfil está diseñado para:
- Guiar a los operadores de infraestructura crítica en prácticas específicas de gestión de riesgos en IA.
- Facilitar la comunicación de requisitos de confiabilidad entre equipos, desarrolladores y stakeholders.
- Alinear el uso de IA en toda la cadena de valor, incluyendo ciclo de vida y cadena de suministro.
Casos de uso de IA confiable en Infraestructura Crítica
El perfil aborda características clave de confiabilidad en sistemas de IA. Algunos ejemplos incluyen:
- Agentes de IA para ciberseguridad autónoma, con controles validados y verificados.
- Sistemas de monitoreo inteligente en plantas industriales, resistentes a ataques adversariales.
- Asistentes de diagnóstico con IA, con trazabilidad y auditoría de decisiones (AI Bill of Materials).
- Modelos neuro-simbólicos basados en física, para garantizar estabilidad del sistema.
- Robots y vehículos autónomos, con sensores redundantes y mecanismos de seguridad determinísticos.
- Gemelos digitales impulsados por IA, para gestión proactiva de centros de datos críticos.
- Sistemas de optimización resilientes, capaces de degradarse de forma controlada.
- Plataformas de cumplimiento y gestión de riesgos con IA, transparentes y explicables.
Objetivos del perfil
Este marco busca operacionalizar la gestión de riesgos en IA en escenarios complejos, alineando múltiples dominios: IA, IT, OT, ICS, ciberseguridad y desarrollo de software.
Entre sus principales aportes destacan:
Interoperabilidad y estandarización
Armoniza definiciones y conceptos clave entre sectores para facilitar la colaboración.
Gestión de riesgos adaptada a entornos críticos
Considera realidades como sistemas legacy, activos distribuidos y limitaciones operativas.
Requisitos estrictos de operación
Incluye lineamientos sobre:
- Comportamiento determinístico
- Explicabilidad
- Degradación controlada
- Operación segura ante fallos
Robustez ante amenazas adversariales
Refuerza la resiliencia de la IA en todas las etapas de su ciclo de vida.
Validación rigurosa (TEVV)
Impulsa pruebas, evaluación, verificación y validación robustas.
Visibilidad en la cadena de suministro
Promueve transparencia y colaboración en el ecosistema de IA.
Enfoque práctico
Define acciones medibles para organizaciones en cualquier nivel de madurez.
Participación del ecosistema
El NIST invita a empresas, reguladores, academia, industria y comunidad tecnológica a participar activamente mediante:
- Seminarios y sesiones de trabajo
- Propuestas técnicas
- Documentos de posición
- Retroalimentación en borradores
Áreas clave de interés incluyen:
- Casos de uso actuales y emergentes de IA en infraestructura crítica
- Desafíos de gobernanza en entornos OT e ICS
- Reinterpretación de políticas de ciberseguridad en el contexto de IA
- Barreras y puntos de fricción en la adopción de IA
- Identificación de vacíos en guías prácticas
Hacia una adopción confiable de la IA
El objetivo final es proporcionar a los sectores de infraestructura crítica la confianza necesaria para adoptar soluciones basadas en IA de forma segura, mientras que desarrolladores y proveedores podrán innovar con mayor claridad y alineación regulatoria.
El resultado: un ecosistema de IA más seguro, transparente y confiable.
Nota Netmask
En Netmask, entendemos que la adopción de tecnologías como la Inteligencia Artificial en entornos críticos no es solo una decisión tecnológica, sino una estrategia de negocio que impacta la seguridad, continuidad y resiliencia de las organizaciones.
Por eso, acompañamos a nuestros clientes en cada etapa de este viaje tecnológico, integrando innovación, ciberseguridad y gobierno de riesgos para implementar soluciones de IA confiables, alineadas con estándares internacionales y preparadas para los desafíos del entorno IT y OT.