Human in the loop: la IA trabaja, la persona conserva la autoridad
Aprobarlo todo parece prudente. En realidad es la forma más segura de perder el control. La pregunta no es cuántas aprobaciones, sino cuáles y dónde colocarlas.
La primera reacción de un directivo ante un agente de IA capaz de actuar es sana: «quiero aprobar». ¿Aprobar qué, exactamente? Ahí es donde la mayoría de los proyectos se equivoca de respuesta.
Aprobar todo parece prudente. En realidad es la manera más segura de perder el control.
Tres formas de conservar la autoridad, y no cuestan lo mismo
El vocabulario existe desde 2019, en las directrices del grupo de expertos de alto nivel de la Comisión Europea.
Human in the loop: la persona interviene en cada ciclo de decisión. El propio documento señala que eso no es «ni posible ni deseable» en muchos casos.
Human on the loop: la persona interviene en el diseño del sistema y vigila su funcionamiento, sin validar cada gesto.
Human in command: la persona supervisa la actividad global y conserva el derecho de decidir no utilizar el sistema en una situación dada.
La mayoría de las empresas dice querer la primera y en realidad necesita la segunda, con la tercera como resguardo. Confundir las tres produce parálisis o aprobación vacía.
Por qué aprobar todo no protege
Existe una medición que debería enfriar a cualquiera que crea que el ojo humano corrige a la máquina.
Un estudio publicado en Radiology en mayo de 2023 sometió a 27 radiólogos a 50 mamografías, con una sugerencia de inteligencia artificial en pantalla. Cuando esa sugerencia era falsa, la exactitud de los radiólogos menos experimentados cayó de cerca del 80 % a menos del 20 %. Entre los más experimentados —más de quince años de práctica— pasó del 82 % al 45,5 %.
No son personas distraídas: son especialistas, en su propio terreno, con una sola imagen que juzgar. El fenómeno tiene nombre, el sesgo de automatización, y está lo bastante establecido como para figurar en el texto del reglamento europeo de IA, en su artículo 14, que exige que el supervisor humano «siga siendo consciente» de esa tendencia.
Un detalle agrava las cosas. Un estudio de la Harvard Business School publicado en marzo de 2025, sobre más de dos mil candidaturas evaluadas, observó que las explicaciones ofrecidas por la IA aumentan la conformidad del humano con su recomendación y al mismo tiempo degradan la calidad de la decisión. Una buena justificación facilita no pensar.
Multiplicar los puntos de aprobación no aumenta entonces el control. A partir de cierto volumen, lo diluye. Aprobar todo es no aprobar nada.
Lo que la ley exige, y lo que no exige
En Quebec la regla es precisa y pocos directivos la conocen en detalle.
El artículo 12.1 de la Ley sobre la protección de la información personal en el sector privado, en vigor desde el 22 de septiembre de 2023, se aplica a las decisiones fundadas exclusivamente en un tratamiento automatizado. La empresa debe informar a la persona a más tardar en el momento de la decisión. A solicitud de esta, debe comunicarle los datos utilizados, «las razones, así como los principales factores y parámetros» que llevaron a la decisión, y darle la oportunidad de presentar sus observaciones ante un miembro del personal en condiciones de revisar la decisión.
Esa última fórmula es el corazón de la obligación. No es un acuse de recibo. Es una persona con el poder de revertir el resultado.
El reglamento europeo va en el mismo sentido en su artículo 14 — un texto adoptado en julio de 2026 aplazó a diciembre de 2027 una parte de las obligaciones dirigidas a los sistemas de alto riesgo, sin tocar el artículo sobre la supervisión humana.
Lo que la ley no exige en ninguna parte: aprobar cada gesto de un sistema. Exige que ciertas decisiones sean revisables por un humano competente.
Dónde colocar el punto de control
La buena pregunta no es «cuántas aprobaciones», sino «cuáles aprobaciones».
Un criterio funciona mejor que todos los demás: la irreversibilidad. Preparar un documento, conciliar una factura, redactar un borrador, archivar un expediente: todo eso se deshace. Enviar a un cliente, cargar un monto a una cuenta, confirmar un compromiso, borrar un dato: eso no se deshace, o se deshace mal.
El control se coloca sobre lo que no se deshace, y sobre la desviación: el precio que sale de la banda habitual, el proveedor nunca visto, el monto por encima del umbral, el expediente fuera de norma. Controlar el 100 % de las facturas produce la aprobación mecánica medida más arriba. Controlar el 5 % que se desvía concentra el juicio humano allí donde tiene una información que el agente no tiene.
Un argumento técnico refuerza esta elección. Trabajos publicados en febrero de 2026 sobre la fiabilidad de los agentes muestran una brecha persistente entre lograr una tarea una vez y lograrla cada vez, y que las ganancias recientes de capacidad solo han producido ganancias débiles de fiabilidad. Un agente que acierta nueve de cada diez veces es excelente para preparar trabajo e inaceptable para comprometer solo a la empresa.
Un punto de honestidad: no existe ningún dato empresarial fiable que cuantifique lo que se gana al controlar únicamente las excepciones, y la literatura académica es incluso contradictoria en este punto. El razonamiento anterior es sólido; la cifra que lo probaría todavía no existe públicamente.
La perspectiva Belarel
Una empresa no delega gestos. Delega mandatos, con límites.
Es lo que hace cualquier gerente con una empleada nueva: puedes comprar hasta tal monto, me llamas por encima de eso, y todo lo que salga hacia un cliente pasa por mí la primera semana. Nadie llama a eso vigilancia. Lo llamamos un marco.
El humano debe intervenir allí donde su juicio aporta valor — no allí donde solo confirma lo que la máquina ya decidió. Un punto de control bien colocado es rápido, poco frecuente y se lee de verdad. Un punto de control mal colocado es frecuente, largo, y se convierte en un clic.
Tres preguntas para empezar
¿Qué es irreversible en mi empresa? Haga la lista. Es más corta de lo que se cree, y es ella la que decide sus aprobaciones.
¿Tienen mis aprobadores el poder de decir no? Si quien aprueba no puede revertir la decisión, no es una revisión. La ley quebequense sí exige ese poder.
¿Cuántas aprobaciones firma una persona al día? Si la cifra supera lo que un humano puede leer realmente, ya tiene el problema medido en los radiólogos.
La autoridad no se mide por la cantidad de veces que se dice que sí. Se mide por la capacidad de decir que no, en el momento justo, con conocimiento de causa.