ChatGPT introduce protecciones más estrictas para usuarios adolescentes

Miércoles 19 - 09:15

OpenAI está lanzando una nueva versión de ChatGPT diseñada específicamente para proporcionar a los adolescentes una experiencia más controlada y centrada en la seguridad. La compañía afirma que la iniciativa tiene como objetivo identificar a los usuarios que pueden tener menos de 18 años y aplicar automáticamente protecciones adicionales a sus cuentas.

La nueva experiencia, conocida como ChatGPT para Adolescentes, combina características educativas con salvaguardias más fuertes destinadas a reducir los riesgos potenciales asociados con los usuarios más jóvenes que interactúan con la inteligencia artificial.

OpenAI dice que los adolescentes no necesitarán crear cuentas separadas. Cuando el sistema determina que un usuario probablemente tiene menos de 18 años, o cuando el usuario proporciona información que indica que es menor de edad, la experiencia enfocada en adolescentes puede convertirse en la configuración predeterminada.

La educación es uno de los elementos principales del nuevo enfoque. La compañía está animando a los usuarios más jóvenes a hacer un mayor uso del Modo de Estudio, una característica diseñada para guiar a los estudiantes a través de problemas en lugar de simplemente proporcionarles respuestas inmediatas.

El sistema de aprendizaje utiliza un enfoque paso a paso que puede animar a los usuarios a pensar en una pregunta y desarrollar su propia comprensión. OpenAI también ha ampliado el material visual disponible a través de sus herramientas educativas, permitiendo que los conceptos se expliquen a través de diagramas y otros recursos generados.

Otra característica, llamada Horas de Estudio, está destinada a ayudar a los adolescentes a dedicar períodos específicos del día a su trabajo escolar. Los usuarios pueden establecer estos períodos por sí mismos, mientras que los padres con cuentas vinculadas también pueden seleccionar horarios apropiados.

Durante los períodos de estudio designados, el Modo de Estudio puede activarse automáticamente. El sistema también puede animar a los usuarios más jóvenes a utilizar el modo educativo cuando sus conversaciones sugieren que están intentando evitar completar tareas escolares.

Las protecciones de seguridad se están fortaleciendo más allá de la educación. OpenAI dice que la experiencia para adolescentes impondrá límites más claros en las interacciones emocionales entre el chatbot y los usuarios más jóvenes.

Bajo el nuevo enfoque, ChatGPT debería evitar presentarse como un amigo humano, sugiriendo que tiene emociones personales o afirmando poseer conciencia. La compañía también está introduciendo recordatorios más frecuentes que animan a los adolescentes a tomar descansos y les recuerdan que están interactuando con un sistema de inteligencia artificial.

Los adolescentes y sus padres también pueden establecer horas de silencio durante las cuales ChatGPT no estará disponible. OpenAI dice que las opciones de personalización para los usuarios más jóvenes han sido diseñadas para preservar una clara distinción entre el uso de una herramienta de IA y el desarrollo de una interacción que se asemeje a una relación humana.

Las notificaciones a los padres son otra parte de la estrategia de seguridad ampliada. OpenAI dice que los padres cuyos cuentas están conectadas a las de sus adolescentes pueden recibir alertas cuando las conversaciones indican riesgos graves, incluyendo ciertas situaciones que involucran amenazas violentas o trastornos alimentarios.

Según la compañía, las conversaciones identificadas como potencialmente serias son revisadas por personal capacitado antes de que se envíe una notificación a los padres. Las alertas pueden entregarse a través de mensajes de texto, correo electrónico y la aplicación, con OpenAI buscando notificar a los padres dentro de un período relativamente corto después de que se identifique una interacción preocupante.

El sistema, sin embargo, enfrenta un desafío importante: determinar con precisión la edad de un usuario. Ninguna tecnología de estimación de edad es completamente confiable, y los adolescentes pueden intentar eludir las restricciones proporcionando información inexacta o encontrando formas técnicas de sortear las medidas de seguridad.

OpenAI reconoce que proteger a los usuarios más jóvenes es un proceso continuo y que el nuevo sistema requerirá un desarrollo continuo. La compañía dice que quiere que los adolescentes se beneficien de la inteligencia artificial para la educación y otros propósitos legítimos mientras se reducen los riesgos asociados con un uso inapropiado o excesivamente dependiente.

El lanzamiento de ChatGPT para Adolescentes representa otro paso en el esfuerzo más amplio de la industria tecnológica para establecer salvaguardias más fuertes para los menores que utilizan inteligencia artificial generativa. A medida que los asistentes de IA se integran cada vez más en la educación y la vida cotidiana, las preguntas sobre la verificación de edad, la supervisión parental, los límites emocionales y la seguridad digital probablemente seguirán siendo centrales en el debate.

OpenAI ha comenzado a hacer disponible la experiencia enfocada en adolescentes a nivel internacional y espera que el lanzamiento continúe en las próximas semanas.