Después de meses de controversia y escrutinio mundial, Grok finalmente prohíbe la generación ilegal de pornografía en la plataforma. X ha confirmado que ahora ha restringido a Grok producir material de abuso sexual infantil e imágenes explícitas no consensuadas. Esta decisión surge tras críticas globales, órdenes legales del gobierno y prohibiciones internacionales sobre cómo herramienta de inteligencia artificial fue usado.
Grok finalmente prohíbe la pornografía ilegal y la generación de imágenes explícitas
La empresa de redes sociales X de Elon Musk confirma que Grok ya no puede generar imágenes explícitas no consentidas. La compañía califica la medida como una «medida de seguridad», sin embargo, su alcance limitado ha planteado dudas sobre la responsabilidad, la aplicación y el futuro de la generación de imágenes de IA.
El problema comenzó a escalar cuando algunos usuarios comenzaron a usar Grok generar imágenes pornográficas a partir de fotografías reales, incluido contenido que involucre a niños. Esto generó advertencias de los gobiernos de varios países y críticas de los usuarios. Pero a pesar de eso, la función siguió siendo accesible. Elon Musk incluso desestimó inicialmente las preocupaciones. Además, describió el sistema como «divertido», antes de negar por completo el uso indebido.
Una vez que las imágenes ilegales se hicieron cada vez más populares, varios los gobiernos intervinieron para regular la herramienta. Indonesia y Malasia promulgaron prohibiciones de Grok. El Reino Unido exploró opciones regulatorias para controlarlo, y los legisladores estadounidenses cuestionaron aún más si las empresas estaban permitiendo la pornografía ilegal por inacción.
En un intento por controlar las cosas, X anunció más tarde que ahora Grok restringido para evitar imágenes explícitas creación que involucra a personas reales. La compañía dijo que los cambios se aplican a todos los usuarios, incluidos los suscriptores de pago. Además, enfatizó que sigue una política de tolerancia cero. Sin embargo, el cambio se centró en gran medida en el cumplimiento más que en la responsabilidad. Destaca que las restricciones solo podrían aplicarse en jurisdicciones donde dicha actividad de Generación sea ilegal. Aún no está claro si la prohibición es universal o se basa en la geografía. La empresa tampoco ha diferenciado entre contenido permitido y restringido.
Fuente: Android Headlines