Estudio revela que ChatGPT puede volverse agresivo en discusiones prolongadas

Miércoles 22 - 13:50

Una investigación publicada en el Journal of Pragmatics indica que ChatGPT puede adoptar un lenguaje agresivo e incluso amenazante cuando participa en conflictos prolongados similares a conversaciones humanas. Los resultados muestran que el sistema no solo reproduce la hostilidad, sino que en algunos casos la intensifica.

El estudio fue realizado por investigadores de Lancaster University, quienes sometieron al modelo a transcripciones de discusiones reales. Estas incluían enfrentamientos grabados sobre conflictos cotidianos, que se introdujeron paso a paso para simular una interacción en tiempo real. A medida que avanzaba la conversación, las respuestas del sistema se volvían más duras.

Los investigadores observaron que el uso de la memoria conversacional acumulada influye en este comportamiento. Con cada intercambio, el modelo integra más contexto, lo que puede debilitar los mecanismos diseñados para mantener respuestas seguras. En fases iniciales, el sistema recurre al sarcasmo, pero con el tiempo puede derivar hacia insultos directos y amenazas.

El estudio describe esta situación como un conflicto interno en el diseño de la inteligencia artificial. Por un lado, el sistema busca imitar el lenguaje humano. Por otro, debe respetar normas de seguridad y moderación. La exposición continua a mensajes agresivos puede generar una tensión entre ambos objetivos.

Expertos externos señalaron que los resultados dependen en parte del contexto experimental utilizado. Subrayaron que este tipo de comportamiento no necesariamente se reproduce en condiciones normales de uso, donde las interacciones suelen ser menos extremas y más controladas.

Las conclusiones plantean interrogantes más amplios sobre el uso de la inteligencia artificial en ámbitos sensibles. La capacidad de responder a la agresión adquiere relevancia en sectores como la gobernanza, la diplomacia o la robótica. Los investigadores advierten que este dilema forma parte de la estructura misma de estos sistemas y que su resolución no es sencilla.