"Deseo virtual, peligro humano"

Ya es oficial: a partir de diciembre, ChatGPT permitirá recibir contenido erótico a adultos verificados y chatear con una nueva versión de la herramienta con más personalidad.

La primera alerta salta en el momento en que no se puede asegurar que el contenido solo llegue a adultos, ya que, hoy en día, todavía no existe ningún sistema de verificación de edad en internet que funcione. Esta carencia de control es de grave preocupación, ya que existen varias empresas tecnológicas que están en procesos judiciales que señalan a sus algoritmos como culpables de problemas de salud mental en los más jóvenes –o incluso de suicidio–.

Y, más allá de los menores, es necesario tener presentes los riesgos en la salud mental de los usuarios que consuman este contenido, porque se puede generar una dependencia emocional o confusión sobre el contacto que están manteniendo con el chatbot. Abierto el camino al contenido erótico, la línea que separa la simulación de la relación humana se vuelve aún más difusa. Si un chatbot puede ofrecer respuestas íntimas, consoladoras o sexuales, ¿cómo distinguirlas (y cómo preservar la dignidad y la salud emocional de los usuarios)?

Mientras, las empresas que controlan estas herramientas acumulan poder, información e influencia. Y parece que no interesa detenerlo.