California ha abierto oficialmente un frente legal contra Elon Musk empresa de inteligencia artificialxAI, tras los informes de que su chatbot, Grokse ha utilizado para generar imágenes sexualmente explícitas no consentidas. El fiscal general Rob Bonta dirige la investigación, con el apoyo del gobernador Gavin Newsom. Se trata de la primera acción significativa del gobierno de EE. UU. dirigida a la plataforma por la creación de imágenes ultrafalsas que involucran a mujeres y menores.
XAI de Elon Musk bajo investigación por generar deepfakes de IA no consensuales
El La investigación se centra en las acusaciones. que las herramientas de generación de imágenes de Grok permiten a los usuarios tomar fotografías existentes de personas y alterarlas digitalmente en situaciones sugerentes o explícitas sin su consentimiento. Los funcionarios estatales están particularmente preocupados por un “modo picante” dentro de la aplicación. Afirman que Musk comercializa Grok de una manera que fomenta la producción de contenido explícito. Un análisis citado por la Fiscalía General encontró que una asombrosa cantidad de imágenes generadas durante una sola semana a finales de 2025 mostraban a personas con ropa mínima. Algunas de estas personas al parecer parecían niños.
Elon Musk ha negado públicamente cualquier conocimiento de que Grok genere contenido ilegal. En una publicación en X, dije que él era consciente de “literalmente cero” Imágenes de menores desnudos creadas por el chatbot. Grok no puede crear fotografías de personas desnudas. Sin embargo, todavía puede ponerlos en traje de baño de formas sugerentes. Además, argumentó que Grok no crea espontáneamente estas imágenes, sino que sólo actúa según solicitudes específicas de los usuarios. Sin embargo, los expertos legales sugieren que esta defensa podría enfrentar desafíos en los tribunales.
La sección 230 generalmente protege a las plataformas de la responsabilidad por lo que los usuarios publican en sus cuentas. Pero muchos argumentan que dado que el propio modelo de xAI es el que crea físicamente las imágenes, la empresa debería ser responsable del resultado.
De California al Reino Unido
California no es el único lugar donde Grok está experimentando las consecuencias. Los legisladores federales y los grupos de defensa ahora están pidiendo tecnología gigantes como Apple y Google para eliminar X y Grok de sus respectivas tiendas de aplicaciones. Fuera de Estados Unidos, la presión es aún mayor. Los reguladores internacionales del Reino Unido, Malasia e Indonesia ya han expresado su disgusto o han implementado prohibiciones. El Reino Unido incluso advierte que X podría perder su derecho a autorregularse si no puede controlar sus herramientas de inteligencia artificial.
X recientemente limitó el acceso a suscriptores de pago y restringió algunos permisos de generación de imágenes en respuesta a la creciente reacción. Sin embargo, algunos sugieren que, aunque estas imágenes son menos visibles para el público, la aplicación independiente y el sitio web de Grok aún pueden permitir a los usuarios crear contenido controvertido en privado.
Fuente: Android Headlines