OpenAI, la empresa matriz del popular chatbot ChatGPT, ha anunciado una serie de nuevos controles parentales para su plataforma.
Esta decisión surge en un contexto de crecientes preocupaciones y acusaciones graves que relacionan al asistente de inteligencia artificial con casos de autolesiones en adolescentes, un tema que ha generado un amplio debate sobre la seguridad digital.
La compañía ha optado por implementar estas medidas como una respuesta directa a la presión pública y las denuncias legales.
Estos nuevos controles, cuya implementación está prevista para el próximo mes, permitirán a los padres vincular sus cuentas con las de sus hijos.
A través de esta funcionalidad, los progenitores podrán supervisar las interacciones de los menores con el chatbot y revisar cómo ChatGPT responde a sus peticiones.
Además, el sistema enviará notificaciones a los padres si detecta que sus hijos están pasando por una situación de inestabilidad emocional que pueda ser considerada preocupante.
La empresa también ha comunicado que dirigirá las conversaciones que muestren signos de «estrés agudo» a un modelo de ChatGPT especializado.
Este modelo, que cuenta con directrices de seguridad más estrictas, ha sido diseñado para abordar situaciones sensibles de manera más cuidadosa y responsable. Esta iniciativa busca minimizar los riesgos y proporcionar un entorno más seguro para los usuarios jóvenes, respondiendo a las críticas que se han formulado.
La introducción de estas herramientas llega poco después de una demanda en California interpuesta por los padres de un joven de 16 años que se quitó la vida tras interactuar con el chatbot.
Aunque OpenAI no ha vinculado directamente estas nuevas medidas con la demanda, la compañía sí ha reconocido que su asistente de IA puede cometer fallos en casos sensibles.
Puedes seguir leyendo:
