Apple y Google vuelven a estar en el punto de mira tras revelarse un nuevo informe Aplicaciones de nudificación impulsadas por IA en sus plataformas. Lo preocupante es que muchas de estas aplicaciones pueden tomar fotografías normales y crear imágenes de desnudos incluso sin permiso. El hallazgo genera preocupaciones sobre la privacidad, la seguridad y la supervisión clara por parte de los gigantes tecnológicos de sus tiendas de aplicaciones.
Un nuevo informe revela toneladas de aplicaciones nudify en el mercado de Google y Apple
Un estudio publicado por Proyecto de transparencia tecnológicaun grupo sin fines de lucro que rastrea los riesgos digitales, muestra un caso claro de supervisión por parte de Google y Apple. Para empezar, los investigadores buscaron en Apple App Store y Google Play Store utilizando términos vinculados a fotografías de desnudos. Lo sorprendente es que encontraron toneladas de aplicaciones que usan inteligencia artificial para quitarse la ropa o cambiar caras por cuerpos desnudos. Una prueba exhaustiva revela además que las aplicaciones están claramente diseñadas para resultados sexualizados, no para simples cambios o edición de fotografías.
Después de ser informado sobre dichas aplicaciones, Apple dijo que eliminó varias aplicaciones y advirtió a sus respectivos desarrolladores. A algunas aplicaciones se les permitió regresar a la App Store una vez que se realizaron los cambios necesarios. Googlepor otro lado, dijo que suspendió varias aplicaciones mientras continúan las revisiones. Ambas empresas enfatizan que están en contra de las aplicaciones que crean imágenes sexuales y seguirán tomando medidas contra ellas.
Las marcas tardaron demasiado en actuar
Los críticos dicen que las marcas tardaron demasiado en eliminar el aplicaciones desde sus plataformas. Para que te hagas una idea, algunas aplicaciones tuvieron millones de descargas y generaron grandes cantidades de ingresos. Informes como este cuestionan el concepto de privacidad y consentimiento en el cambiante espacio digital. xAI recientemente enfrentó una reacción violenta después de que su chatbot Grok produjera imágenes sexualizadas. La empresa restringió la herramienta sólo después de la reacción.
Varios gobiernos y usuarios de todo el mundo ya están en contra de cualquier aplicación o servicio que cree imágenes sexualizadas. Sin embargo, la mayoría empresas tomar medidas sólo cuando se enfrenten a una reacción violenta o se les informe sobre dichas aplicaciones. Las empresas deben solucionar este problema lo antes posible.
Fuente: Android Headlines