Openai se retira de su proyecto de chatgpt adulto
La empresa liderada por Sam Altman cancela planes de lanzamiento indefinido de su versión madurascente del popular chatbot después de citar problemas en el entrenamiento de modelos y seguros para controlar la edad de los usuarios.
La búsqueda de un equilibrio
OpenAI, creada por los fondadores de Twitter y el equipo de desarrollo detrás de Gmail, se lanzó a la búsqueda de un equilibrio entre la innovación y los valores morales. Su proyecto de ChatGPT adulto, anunciado en octubre pasado, pretendía ofrecer a los usuarios verificados contenido erótico en sus conversaciones, pero ahora se ha visto obligada a replantearse.
Algunas fuentes informales sugieren que el entrenamiento de modelos diseñados para evitar el contenido erótico ha sido un desafío, ya que no generaban el nuevo material de ese tipo. Además, se han encontrado dificultades para eliminar comportamientos ilegales, como la bestialidad o el incesto.
Además, el sistema de control de edad ha presentado un margen de error superior al 10 por ciento, lo que podría permitir que una gran cantidad de menores accedieran al modo adulto en lugar de restringirles el acceso.
La decisión de OpenAI de suspender indefinidamente su proyecto de ChatGPT adulto es un reflejo de la complejidad de balancear la innovación tecnológica con los valores morales y legales. La empresa sigue trabajando en entender mejor cómo desarrollar inteligencia artificial que beneficie a la sociedad sin generar riesgos.