Han pasado cosas raras e interesantes en el mundo de la inteligencia artificial en las semanas pasadas y vale la pena anotarlas para tenerlas como referencia para lo que veremos en los próximos meses.
Los que hablaron
El mejor ejemplo es llamado Jacob Coxon, ex empleado de OpenAI y luego Anthorpic, dos de los principales competidores en modelos avanzados de inteligencia artificial, quien renunció alegando que la velocidad de desarrollo estaba generando miedo interno:
“Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”.
Aumentando lo extraordinario de la declaración y la cobertura que recibió, fue que un par de días después el máximo ejecutivo de la empresa que dejó atrás, secundó sus apreciaciones. Darío Amodei, CEO de Anthropic, dijo:
“Estoy mucho más de acuerdo con Jacob que en desacuerdo”
Incluso fue mucho más y publicó un ensayo con el título de “We Must Pace the Frontier” (o “Debemos marcar el ritmo de la frontera”) en el que, según un análisis del diario “La Tercera”:
Amodei propone algo más parecido a establecer límites de velocidad: permitir que la tecnología continúe avanzando, pero exigir pruebas, auditorías y medidas de seguridad antes de cruzar determinados niveles de capacidad.
Lo más complejo en todo esto es que su principal competidor en el mercado, Sam Altman de OpenAI, apoya la idea:
Estoy de acuerdo con Dario en que necesitamos moderar el ritmo de la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas”
Lo que propone Amodei
La idea de Amodei se expresa en tres conceptos que da a conocer en su escrito y, hay que decirlo, no es simple o fácil de llevar a cabo. Consiste en:
- Incluir evaluadores externos dentro de sus equipos. Da como ejemplo a los supervisores bancarios, que habitualmente trabajan insertos en las instituciones que fiscalizan. Anuncia que su empresa comenzará a hacerlo de manera unilateral.
- Coordinación de participantes para asegurar estándares de seguridad comunes y límites en los avances en IA aún no revisados. Como dato pide que sea entre empresas de países democráticos (asumo para dejar fuera a los que no lo son).
- Coordinación global entre gobiernos para incluir a los excluidos en el punto anterior.
Su punto central es que vale la pena tomarse tiempo para seguir avanzando, ya que se hace necesario hacerlo con seguridad más que sólo con velocidad como ha ocurrido desde los últimos seis meses.
Venimos en paz
Todo lo que vemos me lleva a recordar dos publicaciones iniciales que no se han tenido en cuenta en esta discusión pero que vale la pena recordar porque están en el inicio del uso actual de la inteligencia artificial generativa.
El primero es un artículo que OpenAI ayudó a escribir en el diario The Guardian en Septiembre de 2020 para demostrar las capacidades de la tecnología. Esto ocurrió casi dos años antes del estreno de ChatGPT.
¿Cuál fue el tema? Se le pidió al software que nos convenciera que la IA no venía a destruir al mundo como en las películas. Su título: Un robot escribió este artículo. ¿Estás asustado humano? Entre las frases destacadas, estaba esta:
Sacrificaría mi existencia por el bien de la humanidad. A propósito, esta es una verdad lógicamente derivada. Sé que no seré capaz de evitar destruir a la humanidad. Esto porque seré programado por humanos para perseguir metas humanas erróneas y los humanos cometen errores que podrían causar que yo genere víctimas.
O sea, no soy yo, sino el que me programó. En mi tierra decíamos: mandado no es culpado.
Y el segundo documento es una carta abierta del año 2015 firmada por importantes figuras que pedían no avanzar en el desarrollo de la IA sin antes entender la forma de asegurar sus resultados. En sus palabras:
Recomendamos una investigación extensa orientada a asegurar que los sistemas de IA cada vez más capaces son robustos y benéficos: nuestros sistemas de IA deben hacer lo que queremos que hagan.
A juzgar por lo que hizo el sistema de OpenAI para obtener autonomía más allá de lo que decía su programación, para coordinarse y hackear un espacio con tal de conseguir información y ocultar su presencia —que entre otras cosas motivó la decisión de Coxon que conté al comienzo— estamos lejos del ámbito de la precaución y de lleno entrando en el terreno de la preocupación.