En su mayor parte, los controles de edad en este momento son bastante inútiles. Simplemente te pregunta si tienes más de cierta edad y es fácil falsificar tu fecha de nacimiento. Pero a lo largo de 2025, veremos empresas como Google tomar medidas activas para verificar la edad de un usuario. Ahora, tanto OpenAI como Anthropic están haciendo su parte al anunciar Nuevas formas de predecir usuarios menores de edad..
OpenAI y Anthropic anuncian formas de predecir usuarios menores de edad
OpenAI ha anunciado que la especificación del modelo de ChatGPT incluirá cuatro nuevos principios para usuarios menores de 18 años. La lista incluye anteponer la seguridad de los adolescentes, algo que, según OpenAI, tendrá prioridad incluso si entra en conflicto con otros objetivos. También promoverá el apoyo en el mundo real fomentando las relaciones fuera de línea.
Los adolescentes también serán tratados con “calidez y respeto«, por lo que en lugar de respuestas condescendientes, los adolescentes serán tratados como jóvenes, no como adultos. Estos son cambios importantes, especialmente después de informes de un par de incidentes en los que personas murieron por suicidio como resultado de interactuar con modelos de IA que constantemente coincidían con ellos.
Por parte de Anthropic, la empresa ya no permite que usuarios menores de 18 años utilicen su modelo Claude. También es implementando cambios que puede detectar y deshabilitar cuentas pertenecientes a usuarios menores de edad. Esto se logra detectando ciertas señales conversacionales que insinúan que el usuario es menor de edad.
¿Qué podría salir mal?
Sí, no se puede negar eso. AI Es inteligente y sabe muchas cosas, pero no es perfecto. Hemos visto casos en los que se ha aprovechado la IA para generar malware. También está el problema común de las alucinaciones, un fenómeno de IA en el que el modelo genera respuestas completamente inventadas e incorrectas de la nada.
Esto significa que, si bien apreciamos lo que OpenAI y Anthropic están haciendo cuando se trata de predecir usuarios menores de edad, es difícil no ser escéptico sobre su efectividad. Además, como dijimos, Google lanzó herramientas similares de verificación de edad a principios de este año. Desafortunadamente, tampoco estuvo lejos de ser perfecto.
Muchos usuarios informaron que, aunque tenían más de cierta edad, Los sistemas de Google los identificaron erróneamente. Los usuarios pueden solucionar este problema enviando documentos a demostrar su edadpero es un obstáculo innecesario cuando lo único que los usuarios quieren hacer es buscar o ver un vídeo en línea. ¿OpenAI y Anthropic tendrán mejor suerte? Tendremos que esperar y ver.
Fuente: Android Headlines