Sam Altman responde a la controversia por el contenido erótico en ChatGPT: OpenAI no es la "policía moral del mundo"

El CEO de OpenAI, Sam Altman, declaró el miércoles que la empresa “no es la policía moral del mundo elegida democráticamente”. Esto se produce después de su decisión de relajar las restricciones de contenido de ChatGPT, permitiendo la existencia de contenidos como el material erótico, una medida que generó una fuerte oposición.

En los últimos meses, esta startup de inteligencia artificial ha estado bajo un escrutinio cada vez mayor, con la atención puesta en cómo protege a los usuarios (especialmente a los menores de edad). Por ello, OpenAI ha ido perfeccionando gradualmente sus medidas de control de seguridad.

Sin embargo, Altman publicó el martes en la red social X que, dado que la empresa ya puede mitigar “riesgos graves para la salud mental”, OpenAI ahora puede “relajar de manera segura” la mayoría de las restricciones de contenido.

En diciembre pasado, Altman ya había señalado que ChatGPT permitiría la existencia de más tipos de contenido, incluido el material erótico.

El miércoles, Altman volvió a publicar en X para intentar aclarar esta medida. Señaló que OpenAI “valora mucho el principio de ‘tratar a los usuarios adultos como adultos’”, pero que aún así no permitirá “contenido que cause daño a otras personas”.

Altman escribió: “Así como la sociedad distingue otros límites razonables (por ejemplo, las películas clasificadas como R), queremos adoptar un enfoque similar en este aspecto”.