OpenAI añade predicción de edad a ChatGPT para proteger a menores

OpenAI ha introducido una función de predicción de edad en ChatGPT para identificar a menores y aplicar restricciones de contenido. El nuevo mecanismo se basa en medidas de seguridad ya existentes en la empresa. OpenAI ha estado trabajando para abordar problemas relacionados con usuarios menores de edad, y la nueva función de predicción de edad se suma a las protecciones de seguridad ya implementadas. La empresa ya cuenta con filtros de contenido diseñados para eliminar discusiones sobre sexo, violencia y otros temas potencialmente problemáticos para usuarios menores de 18 años. Bajo el nuevo sistema, si el mecanismo de predicción de edad identifica que una cuenta pertenece a un usuario menor de 18 años, esos filtros de contenido se aplican automáticamente a la cuenta.

Según OpenAI, la función utiliza un algoritmo de IA para evaluar señales de comportamiento y de nivel de cuenta para identificar a usuarios jóvenes. La empresa declaró que estas señales incluyen puntos de datos como la edad declarada del usuario, el tiempo que lleva existiendo la cuenta y las horas del día en que la cuenta suele estar activa. Si el algoritmo designa erróneamente a un usuario como menor de edad, OpenAI afirma que existe una forma de restablecer su cuenta de adulto. Para hacerlo, pueden enviar una selfie a Persona (proveedor de servicios de verificación de identidad), que actúa como socio de verificación de identidad de OpenAI.

El lanzamiento de la función, que OpenAI anunció en una publicación de blog el martes, sigue a críticas significativas sobre el impacto del chatbot en los niños. Se ha vinculado al chatbot con varios suicidios de adolescentes, y OpenAI ha enfrentado escrutinio por permitir que ChatGPT discutiera temas sexuales con usuarios jóvenes. Además, el pasado abril, la empresa se vio obligada a solucionar un error que permitía a su chatbot generar contenido erótico para usuarios menores de 18 años. Estos problemas han contribuido a la creciente preocupación sobre el impacto del chatbot en los niños, así como a preocupaciones más amplias sobre el impacto de la inteligencia artificial en los jóvenes.

Por qué importa

OpenAI está implementando esta función para abordar las crecientes críticas sobre el impacto del chatbot en los niños y los fallos previos para evitar la generación de contenido inapropiado para menores.