Amazon denunció recientemente material de abuso sexual infantil (CSAM) mientras revisa los datos de entrenamiento de IA al Centro Nacional para Niños Desaparecidos y Explotados. La autoridad oficial recibió más de un millón de informes relacionados con CSAM, y una gran parte de ellos fueron reportados solo por Amazon. Sin embargo, algunos críticos han planteado dudas sobre la falta de detalles claros en el informe oficial de la empresa.
Amazon informa CSAM en datos de entrenamiento de IA a la autoridad de seguridad infantil
Un investigación reportada por Bloomberg revela que el Centro Nacional para Niños Desaparecidos y Explotados recibió más de un millón de informes CSAM relacionados con la IA en 2025. La mayoría de esos informes provinieron de Amazon. El gigante tecnológico dijo que detectó el material mientras escaneaba datos de fuentes externas utilizadas para entrenar sus sistemas de inteligencia artificial. La empresa afirmó además que no pudo identificar la fuente del contenido.
Los funcionarios del NCMEC dicen que el número de informes de Amazonas destacó. El director ejecutivo, Fallaon McNuty, añade que otras empresas suelen proporcionar suficientes detalles para que las fuerzas del orden actúen. Sin embargo, Amazon no adjuntó la información de origen, lo que dificultó el uso de los informes. Dice además que esto plantea serias dudas sobre cómo AI Se recopilan datos de entrenamiento. El informe también enfatiza la necesidad de realizar controles de seguridad adecuados y cómo se pueden utilizar en todas las plataformas.
La creciente demanda de IA destaca la necesidad de una aplicación adecuada de la ley
Para aclarar su posición, Amazonas dice que utilizó reglas de escaneo amplias al revisar los datos de entrenamiento. En ocasiones, este método puede dar lugar a muchos falsos positivos. Además, la compañía dice que no ha encontrado evidencia de que se haya utilizado CSAM en el entrenamiento de su modelo de IA. Además, el gigante dice que envió informes a través de un sistema separado porque los datos provienen de terceros y no incluyen detalles a nivel de usuario.
Amazon dice que sigue comprometido con la uso responsivo y desarrollo de la IA y protecciones de seguridad para niños. Además, esta no es la primera vez que se cuestionan los valores morales de las empresas y desarrolladores de IA. Se han presentado varias demandas contra empresas, incluidas OpenAI, Character.AI y Meta, por delitos relacionados.
Fuente: Android Headlines