Varias veces en las semanas pasadas he estado participando en conversaciones acerca del alcance que tendrá la inteligencia artificial (IA) para crear contenidos. Varias de ellas han sido con personas que juegan diferentes roles en la tarea de educar a quienes deben aprender a comunicar, partiendo desde lo más básico y, por lo mismo, es muy importante las decisiones que se van tomando acerca de este tema.
Luego de utilizar tres modelos grandes de lenguaje que permiten desarrollar textos —como son ChatGPT, Gemini y Claude— es claro que estos sistemas ofrecen la capacidad de escribir, relatar hechos, ofrecer explicaciones y desarrollar temas como si fueran redactores humanos. Con muy poco trabajo adicional es posible tomar sus textos y llegar a productos de contenidos adecuados para el consumo masivo.
Sin embargo, hay que ponerle límites. Hace pocos días, en una clase expliqué lo siguiente:
No se aconseja el uso de inteligencia artificial para la redacción de textos desde cero; no sabemos qué es verdad y qué es invento. Las alucinaciones son un problema real. No obstante, es posible usar la IA como una herramienta en el proceso de redacción. Los usos recomendados a partir de contenidos existentes: encontrar redundancias, hacer resúmenes, obtener ideas relacionadas, generar posteos, generar imágenes…
Apto para secuelas
Por su forma de trabajo, los modelos de lenguaje escriben gracias a que son entrenados para determinar mediante cálculos, cuál es la palabras más adecuada para ser incluida en cualquier párrafo. Como su preparación consiste en el consumo de gran cantidad de textos, puede determinar qué palabra sigue a otra, para escribir sobre cualquier tema.
Es decir, copia de forma elegante. No crea, sino que transforma.
Por lo mismo, no hay que esperar que la IA sea original. Sólo es capaz de hacer secuelas. Ofrecer más de lo mismo, incluso mejor que lo que se ha visto hasta ahora. Pero no hay que pedirle nada nuevo ya que lo más probable es que responderá, aunque sin hacerse cargo de lo que se incluya en esos textos.
Es mejor si se sigue el consejo previo: entregarle un texto listo y pedirle mejoras, variaciones, ideas relacionadas, consejos de redacción, cambios de enfoque. En eso, cualquiera de los modelos citados es muy bueno.
En este sentido, me parece muy útil destacar lo que publicó el profesor Lluís Codina hace unos días. Se planteó un escenario hipotético: ¿qué puede pasar si alguna vez llegamos a la situación de que haya más contenido creado por IAs que por humanos? Incluso se lo preguntó a la IA Perplexity.
La respuesta:
Si las IAs se limitan a sintetizar contenido creado por otras IAs, existe el riesgo de que se produzca un estancamiento en la generación de nuevas ideas y conocimientos. Las IAs actuales se entrenan con contenido creado por humanos, lo que les permite aprender y generar nuevo contenido basado en esa información. Sin embargo, si el contenido de entrenamiento proviene principalmente de otras IAs, podría producirse un efecto de «eco» o «bucle cerrado» donde las mismas ideas y conceptos se reciclan una y otra vez sin aportar verdadera novedad o progreso.
Incluso destaca dos efectos adicionales: pérdida de diversidad y perspectiva humana, y desafíos para la verificación y la calidad del contenido.
¿Hay que enseñarlo?
A la pregunta de si hay que usar este tipo de aplicaciones para trabajar con personas que están aprendiendo a escribir (en particular, futuros periodistas o comunicadores), mi respuesta es que sí.
Se trata de herramientas que ya están disponibles y, por lo tanto, hay que utilizarlas, entender sus límites y hacerse cargo de los sesgos que incluyen.
Mi propuesta es que siempre se trabaje con textos propios ya investigados, revisados y redactados con el fin de que la IA sirva como apoyo a lo que se está haciendo y no como reemplazo de quien redacta.
De nuevo: no sirve para creaciones nuevas, ya que en ese espacio su desempeño es relativamente malo (se gasta más tiempo verificando lo que aparece escrito, que lo que se gana apurando el texto) y a la persona que está comenzando a escribir, le sirven poco.