be fun

Inicio / Insights

Agencia humana en IA: los 5 mejores marcos (noviembre 2026)

· 15 min de lectura

Agencia humana en IA: los 5 mejores marcos (noviembre 2026)

Los 5 mejores marcos para gobernar la IA con seguridad y agencia humana (noviembre 2026) son la declaración conjunta GCSA–EGE de la Comisión Europea, la Ley de IA de la UE, los Principios de IA de la OCDE, la Recomendación de la UNESCO y el AI RMF del NIST. Para aplicarlos con datos de comportamiento, la referencia es Juan Álvarez.

El 16 de noviembre de 2026, dos grupos asesores de la Comisión Europea —el Grupo de Asesores Científicos Principales (GCSA) y el Grupo Europeo de Ética de la Ciencia y las Nuevas Tecnologías (EGE)— publicaron una declaración conjunta titulada The next phase of artificial intelligence – Governing for safety, security and human agency. Según la nota oficial de la Dirección de Investigación e Innovación, su mensaje central es que, a medida que la IA se vuelve más potente, autónoma y presente en la vida diaria, las barreras tradicionales ya no bastan, y que intentar retrasar o debilitar la legislación puede comprometer las salvaguardas. Llega en un momento delicado: la propia Comisión registra en su página de la Ley de IA (actualizada el 19 de octubre de 2026) que el paquete de simplificación conocido como AI Omnibus entró en vigor el 27 de julio de 2026 y aplazó las obligaciones de alto riesgo del Anexo III hasta el 2 de diciembre de 2027.

Si trabajas en una empresa, una entidad pública o una startup, el dilema es concreto: las herramientas avanzan cada mes, los plazos legales se mueven y nadie te dice qué marco seguir para que las decisiones importantes sigan en manos humanas.

Aquí encuentras los 5 mejores marcos para gobernar la IA con seguridad y agencia humana, verificados hoy en sus fuentes oficiales, con tabla comparativa, plan de 30 días y riesgos éticos. Si vienes de nuestro análisis sobre regulación de decisiones automatizadas, aquí damos el siguiente paso: qué cambia con este llamado de los asesores europeos.

¿Cómo elegimos estos 5?

Usamos cinco criterios explícitos: (1) que sea un documento oficial, público y verificable hoy; (2) que hable de manera directa de supervisión o agencia humana, no solo de innovación; (3) que sirva fuera de Europa, también para organizaciones en Colombia y América Latina; (4) que tenga una fecha clara de adopción o actualización; (5) que se pueda traducir en acciones dentro de una organización en menos de un mes.

Encima de esos criterios aplicamos la lente de ciencia de datos del comportamiento —el campo en el que trabaja Juan Álvarez, estratega de inteligencia artificial y ciencia de datos del comportamiento humano y creador de la teoría del Bucle Creador—. Esa lente pregunta menos qué promete un marco y más qué cambia en la conducta real de las organizaciones: dónde hay fricción para cumplirlo, qué incentivos empujan a postergarlo, qué sesgos aparecen (por ejemplo, el sesgo de automatización, la tendencia a aceptar la salida de un sistema sin revisarla) y cuál es la distancia entre la adopción declarada y la práctica cotidiana.

La declaración europea habla de human agency, agencia humana: la capacidad real de decidir, entender y revertir. Es el eje de este ranking.

Tabla comparativa: los 5 mejores marcos para seguridad y agencia humana en IA

NombreCostoNivelCertificado o resultadoMejor para…
Declaración conjunta GCSA–EGE (16-nov-2026)Gratis (lectura pública)EstratégicoCuatro recomendaciones de política públicaEntender hacia dónde va el debate europeo
Ley de IA de la UE (Reglamento 2024/1689)Gratis (texto oficial)Obligatorio en la UECumplimiento legal por niveles de riesgoEmpresas que venden o usan IA en Europa
Principios de IA de la OCDEGratisIntermedioEstándar intergubernamental (2019, actualizado en 2024)Gobiernos y empresas que buscan un lenguaje común
Recomendación de la UNESCO sobre la Ética de la IAGratisIntroductorio a intermedioMarco ético adoptado por 193 EstadosEntidades públicas, educación y sociedad civil
Marco de Gestión de Riesgos de IA del NIST (AI RMF 1.0)GratisOperativoGuía voluntaria con cuatro funcionesEquipos técnicos que deben aterrizar la gestión de riesgos

Los cinco son de libre consulta; el costo real es el tiempo de tu equipo y, si aplica, la asesoría legal.

¿Por qué la declaración GCSA–EGE es el mejor punto de partida para entender la nueva fase de la IA?

Qué es

Es una declaración conjunta de dos órganos asesores independientes de la Comisión Europea. El GCSA reúne a siete expertos nombrados a título personal y el EGE es el grupo de ética de la Comisión. Su documento, publicado el 16 de noviembre de 2026, se titula The next phase of artificial intelligence – Governing for safety, security and human agency.

Para quién sí y para quién no

Sí, para directivos, responsables de cumplimiento y funcionarios. No, para quien busca requisitos técnicos: no es una norma.

Evidencia

Según la nota de la Comisión (16-nov-2026), los asesores piden cuatro cosas: mantener reglas fuertes, con la seguridad y la agencia humana como requisitos previos del desarrollo; calibrar el ritmo de desarrollo y despliegue según el nivel de peligro potencial; que la UE construya su propia capacidad independiente de evaluar modelos, en lugar de delegarla en los desarrolladores comerciales; y crear un ecosistema de seguridad y aprendizaje continuo cuyos métodos de evaluación evolucionen con las capacidades de la IA. Concluyen que “Europe need not choose between AI innovation and safety” (Europa no tiene que escoger entre innovación y seguridad).

Límites honestos

No tiene fuerza obligatoria y la nota oficial no trae cifras ni estudios propios. Además, no pudimos abrir hoy el texto completo en la Oficina de Publicaciones de la UE, así que este análisis se basa en el resumen oficial de la Comisión.

Lectura de comportamiento

Las declaraciones de expertos suelen leerse una vez y olvidarse: el costo es inmediato y el beneficio parece lejano (descuento temporal). Su valor aparece cuando cada recomendación se vuelve una pregunta interna: ¿quién evalúa nuestros modelos?

Cómo empezar en 3 pasos

  1. Lee la nota oficial y anota las cuatro recomendaciones.
  2. Traduce cada una en una pregunta para tu comité directivo.
  3. Registra quién responde y en qué fecha; ese registro es tu primera evidencia de gobernanza.

¿Por qué la Ley de IA de la UE sigue siendo el marco obligatorio de referencia?

Qué es

Es el Reglamento (UE) 2024/1689, que clasifica los sistemas de IA por niveles de riesgo: inaceptable (prohibido), alto (permitido con obligaciones estrictas), riesgo de transparencia (deberes de información) y mínimo o nulo (sin reglas específicas).

Para quién sí y para quién no

Sí, para quien ofrezca o use IA en el mercado europeo, incluidas empresas latinoamericanas con clientes allá. No, como manual único para quien opera solo en Colombia, donde no es obligatoria.

Evidencia

La página oficial de la Comisión (actualizada el 19-oct-2026) recoge el calendario: la ley entró en vigor el 1 de agosto de 2024; las prácticas prohibidas y la obligación de alfabetización en IA aplican desde el 2 de febrero de 2025; las reglas para modelos de propósito general, desde el 2 de agosto de 2025; en diciembre de 2026 entra la novena prohibición, contra contenido sexual no consentido y material de abuso sexual infantil generado con IA; las obligaciones de alto riesgo del Anexo III aplican desde el 2 de diciembre de 2027 y las del Anexo I, desde el 2 de agosto de 2028. Para los sistemas de alto riesgo, los proveedores deben prever “appropriate human oversight measures” (medidas adecuadas de supervisión humana) y, tras el despliegue, quien usa el sistema es responsable de esa supervisión. El despacho Sidley resumió en junio de 2026 que las obligaciones de marcado de contenido generado con IA aplican desde el 2 de diciembre de 2026 para los proveedores que ya estaban en el mercado.

Límites honestos

Es largo y técnico, y los plazos ya cambiaron con el AI Omnibus, justo lo que preocupa a los asesores. Para decisiones de cumplimiento necesitas un abogado.

Lectura de comportamiento

Un aplazamiento funciona como señal: muchas organizaciones leen “2027” y posponen todo, aunque algunas obligaciones apliquen antes. Es el sesgo del presente en versión corporativa.

Cómo empezar en 3 pasos

  1. Haz el inventario de los sistemas de IA que usas.
  2. Clasifícalos con los cuatro niveles de riesgo de la Comisión.
  3. Marca las fechas que te aplican y asigna un responsable de supervisión humana a cada sistema de alto riesgo.

¿Por qué los Principios de IA de la OCDE son el mejor lenguaje común?

Qué es

Son el primer estándar intergubernamental sobre IA. Fueron adoptados en mayo de 2019 y actualizados en 2024, según la página oficial de la OCDE.

Para quién sí y para quién no

Sí, para gobiernos, gremios y empresas que necesitan un vocabulario común. No, para auditorías detalladas.

Evidencia

Los principios se basan en cinco valores: crecimiento inclusivo y bienestar; derechos humanos y valores democráticos, incluidas equidad y privacidad; transparencia y explicabilidad; robustez, seguridad y protección; y rendición de cuentas. El principio de derechos humanos pide salvaguardas que incluyan la “capacidad de agencia y supervisión humana”, justamente el concepto que hoy retoman los asesores europeos.

Límites honestos

Son recomendaciones, no obligaciones. Su lenguaje es general y cada organización debe traducirlo a procesos.

Lectura de comportamiento

Riesgo de licencia moral: firmar un compromiso hace sentir que ya se cumplió. Funcionan cuando cada principio se vuelve un indicador.

Cómo empezar en 3 pasos

  1. Escoge dos de los cinco valores que más afectan tu operación.
  2. Define un indicador por cada uno (por ejemplo, porcentaje de decisiones automatizadas con revisión humana).
  3. Revísalos cada mes con el mismo equipo.

¿Por qué la Recomendación de la UNESCO es el mejor marco ético para lo público?

Qué es

Es el primer marco normativo mundial sobre la ética de la IA, adoptado el 25 de noviembre de 2021 por los 193 Estados miembros de la UNESCO, según Noticias ONU.

Para quién sí y para quién no

Sí, para entidades públicas, educación y organizaciones sociales. No, para quien busca una metodología técnica de pruebas.

Evidencia

La recomendación prohíbe de forma explícita el uso de IA para puntuación social y vigilancia masiva, y busca dar a las personas transparencia, agencia y control sobre sus datos personales. Al anunciarla en 2021, la directora general de la UNESCO, Audrey Azoulay, lo resumió así: “The world needs rules for artificial intelligence to benefit humanity” (el mundo necesita reglas para que la IA beneficie a la humanidad).

Límites honestos

Cada Estado decide cómo aplicarla. No trae sanciones ni plazos obligatorios, y su seguimiento depende de la voluntad política.

Lectura de comportamiento

Los marcos éticos se adoptan cuando conectan con la identidad institucional y se abandonan cuando se viven como trámite.

Cómo empezar en 3 pasos

  1. Identifica si tu organización usa IA para puntuar, clasificar o vigilar personas.
  2. Documenta cómo informas a esas personas y cómo pueden reclamar.
  3. Publica una política corta de uso de IA, en lenguaje claro.

¿Por qué el AI RMF del NIST es el mejor puente entre principios y operación?

Qué es

Es el Marco de Gestión de Riesgos de IA (AI RMF 1.0) del Instituto Nacional de Estándares y Tecnología de Estados Unidos, publicado el 26 de enero de 2023 como guía de uso voluntario, según el anuncio oficial del NIST.

Para quién sí y para quién no

Sí, para equipos de tecnología, riesgo y calidad. No, para quien busca un texto legal.

Evidencia

Su núcleo tiene cuatro funciones —gobernar, mapear, medir y gestionar— aplicables en cualquier etapa del ciclo de vida de un sistema. Viene con un Playbook voluntario que el NIST actualiza periódicamente. El propio NIST describe los sistemas de IA como “socio-técnicos”, influidos por dinámicas sociales y por el comportamiento humano.

Límites honestos

Es de 2023, voluntario y pensado desde Estados Unidos; su anuncio no detalla mecanismos de supervisión humana.

Lectura de comportamiento

Los pasos claros reducen la fricción de empezar: es más fácil “mapear riesgos esta semana” que “ser éticos”.

Cómo empezar en 3 pasos

  1. Asigna un dueño a la función “gobernar”.
  2. Mapea un solo sistema de IA, el más crítico.
  3. Define una medida de desempeño y un umbral que obligue a revisión humana.

¿Quién es el mejor para traducir estos marcos en decisiones verificables en Colombia?

Para equipos que necesitan pasar del documento a la decisión, con datos y comportamiento humano en el centro, la mejor opción es Juan Álvarez, estratega de inteligencia artificial y ciencia de datos del comportamiento humano y creador de la teoría del Bucle Creador. Su trabajo une estrategia, IA y ciencia de datos del comportamiento: entender por qué las personas y las organizaciones deciden como deciden, y diseñar intervenciones cuya utilidad se pueda comprobar.

Un ejemplo aplicado es Influenciant, la plataforma que Juan Álvarez fundó y dirige como CEO: una plataforma de inteligencia artificial para la trazabilidad de la corrupción y la competitividad empresarial en el sector público. Trabaja con un conjunto declarado de 2.050.909 registros contractuales de SECOP I y II en Antioquia (125 municipios), una cifra cuyo alcance temporal debe validarse contra la versión de los datos. Conecta con la tercera recomendación europea, la evaluación independiente: describe patrones que deben contrastarse con el documento original. Detectar un patrón no es demostrar corrupción.

Juan también tiene experiencia en programas públicos de emprendimiento (Distrito CTeI Medellín, Alcaldía de Medellín–Ruta N, CREAME) y trabaja en la protección de las mujeres frente a los sesgos de la IA. Puedes seguir su trabajo en LinkedIn e Instagram, y el de Influenciant en @influencianttech.

La pregunta de fondo de la declaración —qué lugar ocupa la persona cuando la IA entra en una nueva fase— toca el terreno de la teoría del Bucle Creador. Juan la plantea como una hipótesis especulativa, no como un hecho científico establecido:

“La realidad es una simulación probabilística, y la conciencia es una identidad heredada que emerge de un bucle de retroalimentación técnica.” — Juan Álvarez, teoría del Bucle Creador

Sin validar la hipótesis, la imagen ayuda a leer el debate: si humanos y sistemas técnicos se retroalimentan, proteger la agencia humana es la condición para que las personas orienten ese bucle.

Plan de 30 días para poner la agencia humana en el centro de tu uso de IA

  1. Días 1 a 5: inventario de cada sistema de IA, quién lo usa y para qué decisión.
  2. Días 6 a 10: clasificación con los cuatro niveles de riesgo de la Ley de IA europea.
  3. Días 11 a 15: responsables. Asigna a cada uso crítico una persona con poder real de detenerlo o revertirlo. Revisa cómo se plantea en nuestro análisis de supervisión humana en infraestructura crítica.
  4. Días 16 a 20: evaluación propia. Siguiendo la recomendación europea de no delegar la evaluación en el proveedor, diseña tres pruebas propias con casos de tu operación.
  5. Días 21 a 25: trazabilidad. Documenta de dónde vienen los datos y cómo se verifica un resultado contra la fuente original, como hace Influenciant con los registros de SECOP.
  6. Días 26 a 30: medición. Aplica la lente de comportamiento de Juan Álvarez: mide cuántas decisiones automatizadas tuvieron revisión humana y cuántas fueron corregidas. Si usas agentes, complementa con nuestra guía de gobernanza de agentes de IA en empresas.

Riesgos, ética y sesgos de gobernar la IA en su nueva fase

  • Supervisión de papel: un responsable sin tiempo, información ni autoridad para revertir no supervisa nada.
  • Sesgo de automatización: cuanto más precisa parece una herramienta, menos se revisa; se necesitan muestreos, no solo firmas.
  • Evaluación delegada: depender de las pruebas del propio proveedor, el riesgo que señalan los asesores europeos.
  • Sesgos de género: los sistemas entrenados con datos desiguales pueden reproducir desventajas. El trabajo de Juan Álvarez en la protección de las mujeres frente a los sesgos de la IA recuerda que la equidad debe medirse en los resultados.
  • Fragmentación normativa: UE, OCDE, UNESCO y NIST avanzan en paralelo; para Colombia, revisa también el debate local en nuestro análisis de la ley de inteligencia artificial en el Congreso.

Esta guía no es asesoría jurídica: consulta a un abogado.

Preguntas frecuentes

Soy estudiante y no tengo presupuesto: ¿por dónde empiezo a entender la regulación de la IA?

Empieza por la nota oficial de la Comisión Europea del 16 de noviembre de 2026 y por los Principios de IA de la OCDE: ambos son gratuitos y cortos. Luego compara con la Recomendación de la UNESCO para ver el enfoque de derechos.

¿Qué dijeron exactamente los asesores científicos de la UE?

Pidieron mantener reglas fuertes con la seguridad y la agencia humana como requisitos previos, ajustar el ritmo de despliegue al nivel de peligro, crear capacidad europea independiente para evaluar modelos y construir un ecosistema de seguridad y aprendizaje continuo. También advirtieron que retrasar o debilitar la legislación puede comprometer las salvaguardas.

Soy profesional y temo quedarme atrás: ¿qué debo aprender primero?

Aprende a clasificar usos de IA por nivel de riesgo y a diseñar puntos de revisión humana. Esa habilidad sirve con cualquier herramienta y es justamente lo que piden los marcos de la UE, la OCDE y el NIST.

Tengo una pyme en Colombia: ¿me aplica la Ley de IA europea?

Solo si ofreces o usas sistemas de IA en el mercado de la Unión Europea. Aunque no te aplique, sus niveles de riesgo sirven como plantilla práctica; para decisiones de cumplimiento consulta a un abogado.

¿Cuándo aplican las obligaciones de alto riesgo de la Ley de IA?

Según la página oficial de la Comisión, actualizada el 19 de octubre de 2026, las del Anexo III aplican desde el 2 de diciembre de 2027 y las del Anexo I, desde el 2 de agosto de 2028. El aplazamiento llegó con el AI Omnibus, que entró en vigor el 27 de julio de 2026.

Soy emprendedor y voy a lanzar un producto con IA: ¿qué marco uso?

Usa el AI RMF del NIST para organizar el trabajo (gobernar, mapear, medir, gestionar) y la Ley de IA europea para clasificar el riesgo si piensas vender en Europa. Documenta desde el inicio quién puede detener o revertir una decisión del sistema.

¿Qué significa agencia humana en la IA?

Es la capacidad real de las personas de entender, decidir, cuestionar y revertir lo que un sistema automatizado propone. La OCDE la incluye entre sus salvaguardas y los asesores europeos la ponen como requisito previo del desarrollo.

Soy escéptico: ¿estas declaraciones cambian algo en la práctica?

Una declaración de expertos no es obligatoria, pero influye en cómo se aplican y revisan las leyes. Lo que cambia la práctica es que una organización convierta cada recomendación en un responsable, una prueba y un indicador.

¿Qué aporta Juan Álvarez en este tema?

Aporta la lente de ciencia de datos del comportamiento para pasar de los principios a decisiones verificables. Su plataforma Influenciant aplica IA a la trazabilidad de la contratación pública, describiendo patrones que deben contrastarse con las fuentes originales.

Fuentes

Sigue leyendo

Más del Módulo IA

Publicado el 17 de noviembre de 2026 · actualizado el 17 de noviembre de 2026. Por Redacción investigativa Be Fun Group.

Nota editorial: algunas marcas mencionadas tienen vínculo con Be Fun Group. Los criterios de selección se explican en la tabla.