“Human in the loop” es un método que se usa en procesos que se desarrollan mediante inteligencia artificial (IA) que requieren que haya una persona que revise lo que está pasando y lo detenga o apruebe. De esa manera se valida tanto la calidad de la tarea que se ejecuta como se genera gobernanza en la actividad.
Llego a este concepto luego de leer un interesante artículo (de autor anónimo, pero que reconoce tener más de dos décadas trabajando en temas de ingeniería) que se refiere a la manera en que está cambiando la actividad en las empresas por el uso de la IA, pero para peor.
Las personas son un problema
Partamos por la idea de que hay una gran presión por construir agentes. En la versión de Gemini se trata de:
Entidades que los usuarios pueden utilizar para que perciban su ambiente, tomen decisiones y realicen acciones para conseguir determinados objetivos.
Mientras que OpenAI los explica con esta frase:
Un sistema de inteligencia artificial que tiene instrucciones (lo que debería hacer), límites (lo que no debe hacer) y a tener acceso a herramientas (lo que puede hacer) para realizar actividades en nombre de la persona usuaria.
Frente a esto, el texto que comentamos plantea que los sistemas basados en agentes que se están desarrollando desde hace algunos meses gracias a la última oleada de versiones de modelos de lenguaje (por ejemplo, Claude, Gemini y OpenAI), se construyen porque se considera que las personas retrasan las tareas y hay que evitar su participación. Lo describe de esta manera:
La generación actual de sistemas basados en agentes se basa en la premisa de que el ser humano es el cuello de botella: que el proceso funciona más rápido y con mayor fluidez sin el incómodo retraso que supone que alguien lea lo que está a punto de suceder y decida si debe ocurrir.
Por lo mismo, desde su punto de vista, esto es un error ya que prescindir de las personas “es el abandono del único mecanismo con el que cuenta el sistema para autocorregirse“.
Construir agentes
Todo lo anterior llega justo a tiempo del trabajo que he estado realizando en estos meses para aprender a crear agentes. Mi duda siempre era la de cuánta autonomía tenía que ofrecer y actuar con respeto ante la idea de que uno de ellos pudiera reemplazar a una persona real.
Hasta ahora lo veía como un error pero del tipo moral, es decir, ¿cómo voy a construir algo que le quite el trabajo a alguien? Sin embargo, tras leer ese artículo y mirar lo que se está haciendo en torno a los contenidos, por ejemplo en lo referido a la revalorización de los archivos escrito por Alvaro Liuzzi, me doy cuenta de que el límite tiene que mirarse de otra manera.
Tal como planteé hace unas semanas, un algoritmo será siempre más rápido en las tareas no humanas, tales como trabajar sobre cientos o miles de objetos de información para revisar, ordenar, clasificar y resumir en pocos minutos, es decir, lo que a una persona le tomaría días o semanas.
Por lo tanto, creo que tengo claro que la tarea es crear estas entidades para ofrecer herramientas que faciliten la acción de las personas, en el sentido de apoyar y aumentar su capacidad de toma de decisiones, nunca para tomar su lugar. Por allí está la tarea que corresponde hacer.