Métodos · Tema T5

Cómo se deben gobernar la IA y los datos

Revisado el 20 de octubre de 2026

Se imprime completa desde el navegador, en A4 o en carta.

Bloque 1

El problema

Gobernar la IA sobre un gobierno de datos que funcione: que cada dato tenga significado, dueño y propósito, que cada sistema de IA esté inventariado, evaluado y vigilado, y que la organización pueda demostrarlo sin afirmar más de lo que tiene.

Síntesis en tres líneas

El gobierno de la IA continúa el de los datos y lo amplía: siguen las preguntas del dato —qué representa, de dónde viene, quién responde, quién puede usarlo y qué pasa cuando cambia— y se suman qué puede hacer el sistema y cuándo debe detenerse.
Un sistema de gestión de IA ordena el trabajo: contexto, roles, riesgos, evaluación de impacto, inventario y mejora continua, con controles que demuestran que funcionan y no solo que existen.
Las normas y los marcos se usan como mapa: el sistema se estructura con una norma de gestión, cumple la ley de datos personales que aplica y no afirma una certificación que no tiene.

Bloque 2

El mapa

Del dato con dueño y propósito al sistema de IA inventariado, evaluado y vigilado

Desliza para ver el mapa completo.

Leyenda de formas y colores

Actor — quien hace el trabajo
Dato — lo que se guarda y se lee
Control — una regla que se comprueba
Persona — una persona decide
Externo — lo que viene de afuera

Lectura del mapa, nodo por nodo

El negocio y los dueños del dato fijan definiciones compartidas; esas definiciones se verifican con reglas de calidad y linaje, que habilitan un acceso por propósito, y ese acceso restringe el uso de los datos personales antes de que alimenten un sistema de IA. Cada sistema, propio o de un proveedor, se registra en un inventario; el inventario lleva a evaluar su impacto, la evaluación fija cuánta autonomía tiene según su riesgo, y esa autonomía se vigila con trazas. Debajo corre la institución: la dirección asigna roles, designa a los dueños del dato y responde por un sistema de gestión de IA, que recibe como evidencia lo que las trazas muestran.

Nodo 1 Negocio y dueños del dato (Persona) — Quien responde por el significado de cada dato y decide para qué puede usarse.
Nodo 2 Definiciones compartidas (Dato) — Cada indicador con una definición, un responsable y una regla de cálculo única, reutilizada por todos los productos.
Nodo 3 Calidad y linaje (Control) — Reglas de completitud, duplicados y conciliación, con umbrales que disparan una revisión, y el recorrido de cada cifra hasta su fuente.
Nodo 4 Acceso por propósito (Control) — No solo quién puede ver un dato, sino para qué y con qué detalle: el mismo dato agregado para una decisión de gestión no se consulta identificado para otra cosa.
Nodo 5 Datos personales protegidos (Control) — Anonimización cuando el análisis no necesita identificar a nadie, finalidad autorizada y trazabilidad de cada consulta.
Nodo 6 Sistema de IA (Actor) — Un modelo, una aplicación generativa o un agente: interpreta, recomienda o actúa con los datos que recibe.
Nodo 7 Inventario de sistemas (Dato) — Propósito, responsable, proveedor, fuentes, usuarios, nivel de autonomía, estado y riesgos principales de cada sistema.
Nodo 8 Evaluación de impacto (Control) — Qué puede hacerle el sistema a las personas, a los grupos y a los procesos, más allá de su rendimiento técnico.
Nodo 9 Autonomía según el riesgo (Control) — Recuperar, redactar, recomendar o ejecutar: solo actúa sin aprobación lo que se puede verificar y revertir.
Nodo 10 Trazas y vigilancia (Control) — Qué hizo cada sistema, con qué datos, para quién y con qué resultado; una excepción que no aparece es un control que no funciona.
Nodo 11 Dirección y roles (Persona) — Prioridades, recursos y niveles de riesgo aceptables; el negocio, datos, seguridad, riesgo, cumplimiento y tecnología con su parte.
Nodo 12 Sistema de gestión de IA (Control) — Contexto, políticas, objetivos, controles, evaluación y mejora continua: la IA como capacidad que se gestiona y se demuestra.
Nodo 13 Proveedores y modelos (Externo) — Plataformas, modelos y agentes de terceros: entran al mismo inventario y su cambio pide una nueva evaluación.

Conexiones

de Negocio y dueños del dato a Definiciones compartidas (define)
de Definiciones compartidas a Calidad y linaje (se verifica)
de Calidad y linaje a Acceso por propósito (habilita)
de Acceso por propósito a Datos personales protegidos (restringe)
de Datos personales protegidos a Sistema de IA (alimenta)
de Sistema de IA a Inventario de sistemas (se registra)
de Proveedores y modelos a Inventario de sistemas (también)
de Inventario de sistemas a Evaluación de impacto (se evalúa)
de Evaluación de impacto a Autonomía según el riesgo (fija)
de Autonomía según el riesgo a Trazas y vigilancia (se vigila)
de Trazas y vigilancia a Sistema de gestión de IA (evidencia)
de Dirección y roles a Sistema de gestión de IA (responde por)
de Dirección y roles a Negocio y dueños del dato (designa)

Bloque 3

Las fases

1
Fase 1
Gobernar el significado: definiciones, dueños y linaje
Entradas
- Los indicadores y los datos de los que dependen las decisiones.
- Las versiones distintas de una misma cifra que circulan entre áreas.
Actividades
- Acordar cada definición con el responsable del negocio, no solo con el equipo técnico.
- Centralizar la regla de cálculo en un modelo semántico que todos los productos reutilicen.
- Dejar el recorrido de cada cifra hasta las fuentes y las reglas que la producen.
Artefactos
- El glosario de definiciones con su dueño.
- El linaje de los indicadores críticos.
Quién decide
El dueño del dato en el negocio.
Control que cierra la fase
Ningún indicador llega a un producto analítico sin definición, responsable y regla de cálculo única.
Evidencia
En Banco Pichincha cada indicador tenía una definición, un responsable y una regla de cálculo única, centralizada en el modelo semántico y reutilizada por todos los productos; la lección fue que la seguridad protege el acceso, y la semántica y el linaje, la interpretación.
2
Fase 2
Controlar el acceso por propósito y proteger los datos personales
Entradas
- Los datos que describen personas y la ley de datos personales que aplica.
- Las decisiones que necesitan cada dato y con qué nivel de detalle.
Actividades
- Escribir las políticas de acceso sobre la finalidad, no sobre el cargo.
- Anonimizar cuando el análisis no necesita identificar a nadie.
- Registrar quién consultó qué y para qué.
Artefactos
- Las políticas de acceso por propósito.
- El registro de consultas a datos personales.
Quién decide
El dueño del dato, con el responsable de protección de datos.
Control que cierra la fase
Ningún dato personal se usa para un propósito distinto del autorizado, aunque técnicamente se pueda acceder a él.
Evidencia
En la Fundación CTIC, desde 2025, el trabajo con datos de personas sigue tres reglas: anonimización cuando el análisis no necesita identificar a nadie, acceso por propósito y no por cargo, y trazabilidad de quién consultó qué y para qué.
3
Fase 3
Inventariar los sistemas de IA y evaluar su impacto
Entradas
- Las capacidades de IA que la organización desarrolla, adquiere o usa.
- Las personas, los grupos y los procesos que cada sistema puede afectar.
Actividades
- Registrar cada sistema con su propósito, responsable, proveedor, fuentes, usuarios, nivel de autonomía, estado y riesgos.
- Evaluar el impacto del sistema sobre las personas y los procesos, no solo su rendimiento.
- Fijar los criterios para que un caso de uso avance, con controles proporcionales a su riesgo.
Artefactos
- El inventario de sistemas de IA.
- La evaluación de impacto de cada sistema.
Quién decide
El responsable del sistema, con riesgo y cumplimiento.
Control que cierra la fase
Ningún sistema de IA opera sin estar en el inventario y sin su evaluación de impacto.
Evidencia
En la Fundación CTIC la estrategia contempla la construcción progresiva de un inventario de sistemas de IA, y la norma pide además evaluar el impacto de cada sistema —la AIIA—.
4
Fase 4
Cómo se estructura el sistema de gestión de IA: contexto, roles, riesgos y controles
Entradas
- Por qué la organización usa o podría usar IA y qué partes interesadas se ven afectadas.
- Las obligaciones jurídicas, institucionales y éticas que aplican.
Actividades
- Asignar roles, responsabilidades y autoridades: no toda decisión de IA es del equipo técnico.
- Convertir la norma de gestión en instrumentos: políticas, procedimientos, matrices, criterios de evaluación y seguimiento.
- Medir el avance de cada instrumento por su definición, revisión, aprobación y aplicación, no por su existencia.
Artefactos
- El sistema de gestión de IA y sus instrumentos.
- La relación entre cada requisito, el instrumento que lo cubre y la evidencia que produce.
Quién decide
La alta dirección, con los responsables de negocio, datos, riesgo y tecnología.
Control que cierra la fase
Ningún instrumento se da por terminado sin la evidencia de que se aplica.
Evidencia
En la Fundación CTIC la estrategia institucional de IA se estructura siguiendo los principios y requisitos de UNE-ISO/IEC 42001:2025; el sistema de gestión comprende más de 20 instrumentos, de los cuales un tercio están terminados y el resto en construcción, y no se afirma que la institución esté certificada.
5
Fase 5
Vigilar el comportamiento y demostrar que los controles funcionan
Entradas
- Los sistemas en operación y los controles que se declararon.
- Los cambios de fuentes, de modelos y de proveedores.
Actividades
- Registrar el evento de cada ejecución: solicitud, respuesta, estado, costo y resultado.
- Demostrar cada control en rojo frente a la condición que debe detectar.
- Revisar los controles cuando cambian el sistema, sus fuentes o su proveedor.
Artefactos
- Las trazas de ejecución.
- La evidencia de que cada control detecta lo que debe.
Quién decide
Quien administra el sistema de gestión, con el responsable de cada sistema.
Control que cierra la fase
Un control que nunca se vio detectar su desviación no cuenta como implementado.
Evidencia
En Vesting el monitoreo en tiempo real de hasta 23 agentes a la vez, sobre un inventario de 27, registraba qué hizo cada agente, para qué cliente, con qué costo y con qué resultado; una excepción que no aparecía en el monitoreo era un control que no funcionaba.

Bloque 4

Las decisiones de diseño

Cómo se estructura un sistema de gestión de IA: sobre el gobierno de datos, no al lado
Cuándo sí
Cuando la organización usa o va a usar IA, el sistema de gestión de IA se estructura como continuación del gobierno de datos: los mismos dueños, el mismo linaje y el mismo inventario, ampliados a modelos, agentes y proveedores.
Cuándo no
Cuando se plantea un sistema de gestión de IA como proyecto aparte, con políticas que no se conectan con los datos que el sistema usa.
Por qué
Evidencia
En Vesting la identidad, la propiedad, el aislamiento y la trazabilidad de los datos se conservaron desde el ingreso de cada evento, y la estandarización de qué debía registrar cada agente, con qué identidad y en qué formato, hizo posible monitorearlos: uno que no dejaba rastro conforme al estándar no podía monitorearse y no salía a producción.
Estado del campo
El Cloud Adoption Framework recomienda asignar el gobierno de los agentes a los mismos responsables del gobierno de la nube, la seguridad y el cumplimiento, y evitar modelos de gobierno paralelos.^[8]
Acceso por propósito, no por cargo
Cuándo sí
Cuando el mismo dato sirve a decisiones distintas o describe personas: la política dice para qué puede usarse y con qué detalle, no solo quién lo ve.
Cuándo no
Cuando el dato no describe personas ni información sensible y un permiso por rol basta para el riesgo que tiene.
Por qué
Evidencia
En Vesting el acceso por propósito tomó la forma de un workspace separado de Microsoft Fabric para cada uno de los 12 clientes, con su identidad y su propiedad sobre los datos: ninguna consulta cruzaba esa frontera por accidente.
Estado del campo
El Cloud Adoption Framework pide conceder a cada agente acceso solo a los datos que su función requiere y que, cuando actúa en nombre de un usuario, herede los permisos de ese usuario.^[8]
Autonomía proporcional al riesgo
Cuándo sí
Cuando el resultado se puede verificar, revertir y mantener dentro de límites claros, una tarea puede ejecutarse sin aprobación previa.
Cuándo no
Cuando la acción es de alto impacto o no se puede revertir: el sistema recomienda o redacta, y una persona aprueba.
Por qué
Evidencia
En los 11 agentes del portafolio, qué hace cada uno, qué límites tiene y qué «nunca» hace está escrito en su ficha.
Estado del campo
OWASP llama agencia excesiva al riesgo de que un sistema con modelo de lenguaje ejecute acciones dañinas por tener funciones, permisos o autonomía de más, y recomienda el mínimo privilegio y la aprobación humana de las acciones de alto impacto.^[9]
Cómo se evalúa el impacto de un sistema de IA: antes de operar y cada vez que cambia
Cuándo sí
Cuando un sistema de IA puede afectar a personas, a grupos o a la distribución de responsabilidades: el impacto se evalúa antes de operar y otra vez cuando cambian el modelo, las fuentes o el uso.
Cuándo no
Cuando la herramienta no toca datos de personas ni decisiones sobre ellas: basta el análisis de riesgos del caso de uso.
Por qué
Estado del campo
ISO/IEC 42005:2025 orienta cuándo y cómo evaluar el impacto de un sistema de IA sobre las personas y las sociedades, y en qué etapas de su ciclo de vida, y cómo integrar esa evaluación en la gestión de riesgos y en el sistema de gestión de IA.^[5]
Evidencia
En la Fundación CTIC la evaluación de impacto se plantea porque una solución puede ser técnicamente funcional y, aun así, afectar a determinados grupos o introducir una dependencia que no se había previsto.
Gobernar también lo que se compra
Cuándo sí
Cuando la capacidad la aporta un proveedor: se evalúa qué datos usa, dónde se procesan, qué dependencia introduce y cómo se conocerán sus cambios.
Cuándo no
Cuando se supone que comprar la tecnología transfiere la responsabilidad sobre su uso y sus efectos: esa responsabilidad se queda en la organización.
Por qué
Evidencia
En Cafam, en 2020, la implementación de Oracle WMS Cloud se probó durante meses con 6 personas del proveedor dentro del equipo de 20, y cada diferencia entre el sistema y la operación se resolvió con su responsable.
Estado del campo
El Cloud Adoption Framework pide identificar los riesgos de las dependencias externas —datos, modelos, bibliotecas e integraciones de terceros— y fijar políticas para que se ajusten a los estándares de privacidad, seguridad y cumplimiento de la organización.^[7]
Documentar lo que un auditor pide, sin confundir documento con cumplimiento
Cuándo sí
Cuando la organización necesita demostrar su sistema: cada requisito con el instrumento que lo cubre, el documento que lo sostiene y la evidencia que produce.
Cuándo no
Cuando se espera que el uso de servicios de terceros que cumplen la norma vuelva conformes los procesos propios: esos se evalúan por separado.
Por qué
Evidencia
El Experto ISO 42001 del portafolio sintetiza los 38 controles del Anexo A y conoce los 24 documentos portadores que un auditor pide en la fase documental; cada afirmación normativa cita apartado y página o declara el vacío.
Estado del campo
Microsoft Learn precisa que quien usa servicios con ISO/IEC 42001 sigue siendo responsable de contratar a un evaluador para sus propios controles y procesos.^[4]

Bloque 5

Lo innovador en 2026

Estado del campo
El sistema de gestión de IA se estructura como un sistema de gestión
Qué cambia frente a la práctica común
ISO/IEC 42001 especifica los requisitos de un sistema de gestión de IA y ofrece una forma estructurada de gestionar los riesgos y las oportunidades de la IA.^[4]
Estado del campo
Los agentes, con registro y dueño
Qué cambia frente a la práctica común
Cada agente se registra en un inventario único de la organización con su dueño, su propósito, su plataforma y su alcance de acceso, y la organización decide de antemano cómo apagarlo si falla: no se gobierna un agente que no se sabe que existe.^[8]
Criterio
Un agente sin dueño ni registro no es un riesgo técnico: es un vacío de gobierno.
Estado del campo
La agencia excesiva como riesgo con nombre
Qué cambia frente a la práctica común
El riesgo de un agente deja de ser genérico: tiene tres causas —funciones, permisos o autonomía de más— y controles concretos: mínimo privilegio, aprobación humana de las acciones de alto impacto y registro de la actividad.^[9]
Estado del campo
La evaluación de impacto, con norma propia
Qué cambia frente a la práctica común
La evaluación de impacto deja de ser una sección del análisis de riesgos: ISO/IEC 42005:2025 la orienta —cuándo, cómo y en qué etapas del ciclo de vida—, e ISO/IEC 23894:2023 da la guía para integrar la gestión del riesgo propio de la IA en la actividad de la organización.^[5]^[6]
Criterio
Un sistema de gestión que nace con el primer caso de uso suele costar menos que uno que llega a auditar lo que ya está en operación.
Estado del campo
La IA generativa con su propio perfil de riesgo
Qué cambia frente a la práctica común
El NIST AI RMF organiza la gestión del riesgo en cuatro funciones —gobernar, mapear, medir y gestionar—, con el gobierno como función transversal, y su perfil de IA generativa (NIST AI 600-1) es un perfil transversal a los sectores y un recurso complementario del marco; los dos son de uso voluntario.^[2]^[3]
Estado del campo
El calendario del AI Act, después del AI Omnibus
Qué cambia frente a la práctica común
El AI Act es aplicable en general desde el 2 de agosto de 2026, con excepciones: las prohibiciones y la alfabetización en IA rigen desde el 2 de febrero de 2025 y las obligaciones de los modelos de propósito general desde el 2 de agosto de 2025; tras el AI Omnibus, en vigor desde el 27 de julio de 2026, los sistemas de alto riesgo en áreas sensibles (Anexo III) pasan al 2 de diciembre de 2027 y los integrados en productos regulados, al 2 de agosto de 2028; la prohibición 9, introducida por el AI Omnibus, entra en vigor en diciembre de 2026.^[1]
Criterio
Un calendario regulatorio que se movió una vez puede moverse otra: la fecha de revisión de la pieza es parte del dato.
Estado del campo
Colombia: una política nacional y un regulador de datos que ya hablan de IA
Qué cambia frente a la práctica común
El CONPES 4144, aprobado el 14 de febrero de 2025, es la Política Nacional de Inteligencia Artificial, con acciones hasta 2030 y seis ejes y la gobernanza y la ética como el primero; la Superintendencia de Industria y Comercio publicó en 2024 lineamientos sobre el tratamiento de datos personales en sistemas de inteligencia artificial.^[12]^[13]
Criterio
La ley de datos personales ya gobierna la IA que usa datos de personas: no hace falta esperar una ley de IA para cumplirla.
Estado del campo
Cumplimiento automatizado donde se puede, juicio humano donde no
Qué cambia frente a la práctica común
Las políticas de IA se aplican con herramientas donde es posible —plantillas de evaluación para regulaciones de IA, auditoría de las interacciones— y con revisión humana donde la automatización no alcanza, con puntos de control en el diseño, las pruebas y la aprobación previa al lanzamiento.^[7]^[10]^[11]

Bloque 6

Modos de falla y cómo anticiparlos

Qué se rompe
Políticas sin mecanismo
Cómo se ve venir
Una política exige trazabilidad y ningún sistema registra el evento que la demostraría.
Control que la atrapa
Cada principio con su control, cada control con su evidencia y cada evidencia con un responsable.
Qué se rompe
Agentes sin dueño ni registro
Cómo se ve venir
Nadie sabe cuántos agentes hay, qué pueden hacer ni quién los apaga.
Control que la atrapa
Inventario obligatorio antes de operar, con dueño y alcance de acceso.
Qué se rompe
Agencia excesiva
Cómo se ve venir
Un agente con herramientas o permisos que su función no usa.
Control que la atrapa
Mínimo privilegio y aprobación humana de las acciones de alto impacto.
Qué se rompe
Un indicador que cambia en silencio
Cómo se ve venir
El mismo nombre con otra regla de cálculo en otro producto.
Control que la atrapa
Definición única con dueño, y aviso a los productos y decisiones que dependen de ella.
Qué se rompe
Datos personales usados para otro propósito
Cómo se ve venir
Un reporte con personas identificadas donde bastaba un agregado.
Control que la atrapa
Anonimización por defecto y acceso escrito sobre la finalidad.
Qué se rompe
Cumplimiento heredado del proveedor
Cómo se ve venir
Se presenta como propio el cumplimiento de un servicio de terceros.
Control que la atrapa
Los controles y procesos propios se evalúan por separado, con su evidencia.
Qué se rompe
Un control que nunca falló
Cómo se ve venir
Siempre en verde, y nadie lo ha visto detectar la desviación para la que existe.
Control que la atrapa
Cada control se demuestra en rojo frente a la condición que debe detectar.
Qué se rompe
El proveedor cambia sin aviso
Cómo se ve venir
El comportamiento cambia sin que la organización haya cambiado nada.
Control que la atrapa
Vigilancia de los cambios del proveedor y nueva evaluación cuando cambian el modelo o sus condiciones.

Bloque 7

Métricas y controles

Qué se mide
Sistemas de IA en el inventario
Umbral
Todos, propios y de terceros, antes de operar.
Quién aprueba el paso a producción
Quien administra el sistema de gestión.
Qué se mide
Sistemas con evaluación de impacto vigente
Umbral
Todos los que tocan personas o decisiones sobre ellas.
Quién aprueba el paso a producción
El responsable del sistema, con riesgo y cumplimiento.
Qué se mide
Acciones de alto impacto con aprobación humana
Umbral
Todas.
Quién aprueba el paso a producción
El dueño del proceso.
Qué se mide
Indicadores con definición y dueño
Umbral
Todos los que llegan a un producto analítico.
Quién aprueba el paso a producción
El dueño del dato en el negocio.
Qué se mide
Consultas a datos personales con propósito registrado
Umbral
Todas.
Quién aprueba el paso a producción
El responsable de protección de datos.
Qué se mide
Controles demostrados en rojo
Umbral
Todos los que se declaran implementados.
Quién aprueba el paso a producción
Quien audita el sistema de gestión.
Qué se mide
Instrumentos con evidencia de aplicación
Umbral
Cada uno, no solo su existencia.
Quién aprueba el paso a producción
La alta dirección, en la revisión del sistema.

Los umbrales son ejemplos del método, no cifras de un proyecto concreto.

Bloque 8

Evidencia en proyectos

EvidenciaNivel: Uso real
Banco Pichincha: el gobierno del significado
Entre marzo y julio de 2023, en Banco Pichincha, se co-lideró una iniciativa de gobierno de datos: cada indicador tenía una definición, un responsable y una regla de cálculo única, centralizada en el modelo semántico, y el programa de formación a 12 profesionales funcionó también como instrumento de gobierno.
Ver dónde
EvidenciaNivel: Uso real
Vesting: gobernanza desde el diseño para 12 clientes
Entre agosto de 2023 y enero de 2025, en Vesting, cada uno de los 12 clientes tuvo su workspace separado en Microsoft Fabric, con su identidad y su propiedad sobre los datos, y el monitoreo en tiempo real vigilaba hasta 23 agentes a la vez, sobre un inventario de 27.
Ver dónde
EvidenciaNivel: Uso real
Fundación CTIC: calidad de datos y datos personales en salud
Desde marzo de 2025, en la Fundación CTIC, las reglas de calidad se diseñan desde el proceso que produce cada dato —completitud, duplicados, conciliación entre fuentes y umbrales que disparan una revisión— y los datos de personas se tratan con anonimización, acceso por propósito y trazabilidad, bajo el habeas data y la Ley 1581.
Ver dónde
EvidenciaNivel: En construcción
Fundación CTIC: el sistema de gestión de IA bajo UNE-ISO/IEC 42001:2025
La estrategia institucional de IA se estructura siguiendo los principios y requisitos de UNE-ISO/IEC 42001:2025, con más de 20 instrumentos —políticas, procedimientos, matrices, criterios de evaluación y mecanismos de seguimiento—, de los cuales un tercio están terminados y el resto en construcción; no se afirma que la institución esté certificada.
Ver dónde
EvidenciaNivel: Uso real
El Experto ISO 42001: la norma con apartado y página
Agente del portafolio, en la versión inicial (v1.0.0) de su ficha, con los 38 controles del Anexo A y los 24 documentos portadores que pide un auditor; cada afirmación normativa cita apartado y página o declara el vacío, y estampa la fecha en que se verificó la fuente. Con él se revisan los instrumentos del sistema de gestión contra la norma, pero no decide si uno está terminado ni sustituye una auditoría.
Ver dónde
EvidenciaNivel: Uso real
Ceinfes: el acceso como parte del diseño
En 2018, con resultados de estudiantes de más de 100 colegios, quién consultaba qué y para qué se definió antes de construir el reporte: el permiso fue parte del diseño del proceso, no un trámite posterior.
Ver dónde
EvidenciaNivel: Uso real
El portafolio: la autonomía escrita en cada ficha
En los 11 agentes del portafolio, qué hace cada uno, qué límites tiene y qué «nunca» hace está escrito en su ficha técnica.
Ver dónde

Bloque 9

Límites y alcance

Evidencia
En la Fundación CTIC el sistema de gestión de IA sigue en un proceso progresivo de estructuración y consolidación, con un tercio de sus instrumentos terminados; sus cifras se publican aproximadas y no se afirma ninguna certificación.
Evidencia
Lo que se publica de la Fundación CTIC va agregado: ningún proceso, indicador ni persona, y ningún dato de paciente.
Evidencia
El Experto ISO 42001 apoya la revisión de los instrumentos, pero no decide si uno está terminado: esa decisión sigue siendo humana.
Evidencia
La norma de gestión no reemplaza la ley: ISO/IEC 42001 estructura el sistema y la legislación colombiana —habeas data y Ley 1581— fija lo que puede tratarse; el NIST AI RMF y el AI Act aparecen aquí como mapa del campo, no como experiencia.
Evidencia
Microsoft Purview figura como prototipo: lo que la pieza dice de Purview es estado del campo, no experiencia.
Criterio
Lo que conviene hacer distinto hoy: abrir el inventario de sistemas de IA el mismo día del primer piloto, no cuando ya hay varios en operación.
Criterio
Un gobierno que no puede demostrar sus controles es una promesa, no un sistema.

Bloque 10

Fuentes y fecha de revisión

Revisado el 20 de octubre de 2026

[1]
AI Act
European Commission — Shaping Europe's digital future · 19 de octubre de 2026
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
[2]
Artificial Intelligence Risk Management Framework (AI RMF 1.0)
NIST · 26 de enero de 2023
https://doi.org/10.6028/NIST.AI.100-1
[3]
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)
NIST · 26 de julio de 2024
https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
[4]
ISO/IEC 42001:2023 Artificial Intelligence Management System Standards
Microsoft Learn · 11 de marzo de 2026
https://learn.microsoft.com/en-us/compliance/regulatory/offering-iso-42001
[5]
ISO/IEC 42005:2025 Information technology - Artificial intelligence (AI) - AI system impact assessment
IEC Webstore (ISO/IEC JTC 1/SC 42) · 28 de mayo de 2025
https://webstore.iec.ch/en/publication/107659
[6]
ISO/IEC 23894:2023 Information technology - Artificial intelligence - Guidance on risk management
IEC Webstore (ISO/IEC JTC 1/SC 42) · 6 de febrero de 2023
https://webstore.iec.ch/en/publication/82914
[7]
Govern AI - Guidance to set up your organization's AI governance process
Microsoft Learn · 1 de julio de 2025
https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai/govern
[8]
Govern and secure AI agents across the organization
Microsoft Learn · 9 de abril de 2026
https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai-agents/governance-security-across-organization
[9]
LLM06:2025 Excessive Agency (OWASP Top 10 for LLM Applications 2025)
OWASP GenAI Security Project · 17 de noviembre de 2024
https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
[10]
Microsoft Purview data security and compliance protections for Microsoft 365 Copilot and other generative AI apps
Microsoft Learn · 27 de mayo de 2026
https://learn.microsoft.com/en-us/purview/ai-microsoft-purview
[11]
Responsible AI Policies
Microsoft Learn · 25 de junio de 2025
https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai/responsible-ai-policies
[12]
CONPES 4144: La hoja de ruta de Colombia en Inteligencia Artificial para los retos actuales y la transformación futura
Departamento Nacional de Planeación (DNP) · 16 de mayo de 2025
https://www.dnp.gov.co/publicaciones/Planeacion/Paginas/conpes-4144-hoja-de-ruta-colombia-inteligencia-artificial-retos-actuales-transformacion-futura.aspx
[13]
Circular Externa 2 de 2024: Lineamientos sobre el Tratamiento de Datos personales en Sistemas de Inteligencia Artificial
Superintendencia de Industria y Comercio (SIC) · 21 de agosto de 2024
https://sedeelectronica.sic.gov.co/transparencia/normativa/circular-externa-2-de-2024-de-la-superintendencia-de-industria-y-comercio-lineamientos-sobre-el-tratamiento-de-datos

Síntesis en tres líneas

Del dato con dueño y propósito al sistema de IA inventariado, evaluado y vigilado

Leyenda de formas y colores

Lectura del mapa, nodo por nodo

Conexiones

Entradas

Actividades

Artefactos

Entradas

Actividades

Artefactos

Entradas

Actividades

Artefactos

Entradas

Actividades

Artefactos

Entradas

Actividades

Artefactos

Cómo se estructura un sistema de gestión de IA: sobre el gobierno de datos, no al lado

Por qué

Acceso por propósito, no por cargo

Por qué

Autonomía proporcional al riesgo

Por qué

Cómo se evalúa el impacto de un sistema de IA: antes de operar y cada vez que cambia

Por qué

Gobernar también lo que se compra

Por qué

Documentar lo que un auditor pide, sin confundir documento con cumplimiento

Por qué

El sistema de gestión de IA se estructura como un sistema de gestión

Los agentes, con registro y dueño

La agencia excesiva como riesgo con nombre

La evaluación de impacto, con norma propia

La IA generativa con su propio perfil de riesgo

El calendario del AI Act, después del AI Omnibus

Colombia: una política nacional y un regulador de datos que ya hablan de IA

Cumplimiento automatizado donde se puede, juicio humano donde no

Banco Pichincha: el gobierno del significado

Vesting: gobernanza desde el diseño para 12 clientes

Fundación CTIC: calidad de datos y datos personales en salud

Fundación CTIC: el sistema de gestión de IA bajo UNE-ISO/IEC 42001:2025

El Experto ISO 42001: la norma con apartado y página

Ceinfes: el acceso como parte del diseño

El portafolio: la autonomía escrita en cada ficha