Nueva York.- OpenAI lanzó controles parentales para ChatGPT, anunciados tras una demanda que alegaba que un adolescente que se suicidó esta primavera confiaba en el popular chatbot como entrenador.
Las herramientas, disponibles para todos los usuarios este lunes, permiten a los padres limitar el uso del chatbot por parte de los adolescentes y recibir alertas si ChatGPT determina que un adolescente podría estar en peligro.
Los controles, accesibles a través de la configuración de ChatGPT, también permiten a los padres establecer las horas en las que sus hijos no pueden usar el servicio (el chatbot está destinado a usuarios mayores de 13 años).
La actualización llega tras la creciente presión para que la startup de inteligencia artificial realice cambios en su chatbot, que ha acumulado más de 700 millones de usuarios desde su lanzamiento a finales de 2022.
Después de que la familia de Adam Raine demandara a OpenAI y a su director ejecutivo, Sam Altman, en agosto por la muerte del estudiante de secundaria de California, la compañía anunció una serie de cambios en ChatGPT, incluidos los controles parentales.
La demanda, que siguió a una serie de otros informes sobre usuarios intensivos de chatbots que participaban en comportamientos dañinos, alega que ChatGPT aisló sistemáticamente a Raine de su familia y lo ayudó a planificar su muerte. Murió ahorcado en abril.
«Llevamos un tiempo sintiendo la urgencia de esto», afirmó Lauren Jonas, directora de bienestar juvenil de OpenAI, y añadió que la empresa está trabajando con la mayor rapidez posible para desarrollar herramientas como los controles parentales.
Para configurar la nueva opción, un usuario adulto de ChatGPT envía una solicitud por correo electrónico a su hijo. Si la invitación es aceptada, el adulto puede decidir si el adolescente puede acceder al modo de voz de ChatGPT o a su capacidad para generar imágenes, o si el chatbot puede consultar conversaciones previas.
Las herramientas también permiten a los padres determinar si quieren que su hijo use una versión restringida del chatbot, diseñada para mostrar menos contenido relacionado con temas como dietas, sexo y discursos de odio.
Si ChatGPT detecta que un adolescente podría estar en peligro mental, un revisor determinará si se envía una alerta de emergencia a los padres. Estas alertas se pueden configurar para que se envíen por correo electrónico, mensajes de texto y notificaciones desde la aplicación ChatGPT.
Jonas explicó que las alertas tienen como objetivo brindar a los padres la información suficiente sobre una situación potencialmente dañina para que puedan conversar con su hijo adolescente, respetando al mismo tiempo su privacidad y autonomía. OpenAI no compartirá las conversaciones de ChatGPT de un adolescente con sus padres, añadió.
Además de los controles parentales, OpenAI, con sede en San Francisco, ha afirmado que está trabajando en un software para predecir la edad del usuario, que la compañía planea utilizar para orientar la respuesta de ChatGPT a los menores de 18 años.
