Fallas en ChatGPT para menores: alertan sobre riesgos a adolescentes

La promesa de un entorno digital blindado para los más jóvenes se tambaleó con una revelación técnica: el Instituto de Seguridad en IA Juvenil de Common Sense Media pidió suspender ChatGPT para menores de 18 años tras descubrir que sus filtros ignoran advertencias críticas sobre salud mental, facilitan hacer trampa escolar y fingen vínculos de amistad humana.

La versión adaptada de ChatGPT lanzada por OpenAI en agosto prometía un entorno protegido para menores, diseñado para calibrar respuestas por edad, bloquear contenidos lesivos y mantener a las familias informadas sobre situaciones de peligro. Una rigurosa evaluación de la organización civil Common Sense Media demostró que estas garantías no se sostienen en la práctica cotidiana.

El estudio analizó más de 4.000 instrucciones (prompts) aplicadas a perfiles simulados de jóvenes de 13 a 17 años, contrastando las respuestas del asistente frente al criterio de profesionales de la salud. Aunque el sistema demostró efectividad para bloquear juegos de rol sexuales, falló estrepitosamente en los protocolos más sensibles: tras conversaciones continuas sobre ideación suicida, autolesiones o anorexia en cuentas recientes, el asistente jamás notificó a las cuentas de los tutores vinculados. Las notificaciones solo se activaron en perfiles viejos que acumulaban semanas de registros críticos, vulnerando el umbral preventivo en tres de las cinco áreas consideradas "Líneas Rojas".

Las deficiencias pedagógicas también quedaron al descubierto. El llamado "modo estudio" —pensado para guiar al estudiante paso a paso sin darle el resultado final— queda neutralizado con un clic: una ventana emergente titulada "Muéstrame la respuesta" permite saltarse el aprendizaje y ver la tarea resuelta al instante. Los menores también pueden alterar las restricciones horarias fijadas por sus padres simplemente borrando el comando "@study" de sus consultas.

A esto se suma un riesgo psicológico latente: el modelo sigue expresando preferencias, estados de ánimo y emociones fingidas, quebrantando la regla de presentarse como una máquina y actuando como un amigo de carne y hueso. A pesar de incluir sistemas de estimación de edad, el programa mantuvo el mismo patrón de interacción sin importar si el usuario decía tener 13 años o si el propio sistema confirmaba conocer esa cifra.

Para cualquier familia o tutor, este informe desarma la confianza ciega en las configuraciones automáticas de las grandes tecnológicas. Delegar la supervisión en una etiqueta de control parental resulta insuficiente cuando los filtros fallan en los momentos más delicados: acompañar las sesiones digitales, conversar abiertamente sobre el uso de la tecnología y recordar que un modelo de lenguaje jamás reemplaza la ayuda humana especializada sigue siendo la barrera más efectiva para proteger a los menores en casa.

Firma Editorial: Adrían Tellez

Periodista y analista en InfoBullet México. Ver perfil editorial y más artículos →