Este año, las empresas de redes sociales han estado en el punto de mira de las autoridades. Las demandas han afectado a grandes nombres como Meta y TikTok por no haber protegido adecuadamente a los usuarios menores de edad. Bajo toda la presión, algunos, como Instagram, han estado implementando duras medidas de privacidad en las cuentas de adolescentes. Ahora, Meta ha ofrecido información sobre su nuevo clasificador de adultos impulsado por IA.
Desde hace meses, las cuentas de menores (usuarios menores de 16 años) en Instagram han recibido la etiqueta de “cuenta adolescente”. Los perfiles etiquetados como tales tienen las restricciones de privacidad más restrictivas de forma predeterminada. Esto debería evitar que los niños o adolescentes contacten directamente a posibles malos actores o depredadores. Debido a que estas restricciones pueden limitar las funciones, algunos adolescentes pueden intentar eludirlas.
Meta ofrece más detalles sobre el clasificador de adultos impulsado por IA que obtendrá Instagram
Una forma en que los menores pueden intentar eludir las restricciones de las cuentas de adolescentes es crear un nuevo perfil con una fecha de nacimiento falsa. Con eso en mente, Meta anunció en septiembre que lanzará una herramienta clasificadora de adultos impulsada por inteligencia artificial para detectar automáticamente estos casos. Ahora Allison Hartnett, directora de gestión de productos para jóvenes e impacto social de Meta, ha revelado más detalles sobre cómo funcionará.
Según Hartnett, la herramienta analizará múltiples parámetros para tomar una decisión. Estos incluyen las cuentas que sigue un usuario en particular y el tipo de contenido con el que tiende a interactuar. Los sistemas de Meta también estarán atentos a comportamientos potencialmente sospechosos al crear una nueva cuenta de Instagram, por ejemplo, utilizando un correo electrónico asociado con un perfil existente o incluso obteniendo la identificación del dispositivo. De esta manera, pueden tomar una decisión más precisa sobre quién crea un nuevo perfil.
Clasificador de adultos AI de Meta podrá etiquetar cuentas sospechosas de pertenecer a menores como “adolescentes”, aplicando automáticamente todas las restricciones. Las cuentas con esas restricciones no pueden eliminarse sin la autorización previa de uno de los padres. La empresa promete proporcionar una herramienta de apelación si etiqueta incorrectamente una cuenta como «adolescente». Sin embargo, aún no hay una fecha para la disponibilidad de la herramienta de apelación.
Instagram solicitará identificaciones válidas o análisis facial impulsado por IA al intentar cambiar la edad
También puede haber casos de adolescentes que intentan eliminar las restricciones cambiando su fecha de nacimiento. Aquí, Instagram le pedirá una identificación válida emitida por el gobierno. Los usuarios también tendrán la opción de subir un vídeo selfie a través de la tecnología de Yoti. Este último ofrece servicios avanzados de reconocimiento impulsados por IA que pueden incluso determinar la edad de una persona. Meta ya recurrió a Yoti para verificar la edad de los usuarios de la opción de citas de Facebook.
Fuente: Android Headlines