Si posees el más grande del mundo redes sociales plataforma y están desarrollando herramientas de inteligencia artificial que permiten a los usuarios interactuar con chatbots como si fueran personas reales, los controles parentales parecen un movimiento bastante obvio. Pero por alguna razón, el director ejecutivo de Meta, Mark Zuckerberg, inicialmente se opuso a la idea de implementar controles parentales para sus chatbots de IA.
Mark Zuckerberg no quería controles parentales
De acuerdo a Metadocumentos internos recientemente descubiertos En un caso presentado en un tribunal estatal de Nuevo México, Mark Zuckerberg había rechazado inicialmente la idea de controles parentales y otras barreras que habrían impedido que “los niños fueran objeto de conversaciones de explotación sexual con sus chatbots de inteligencia artificial”.
Estos documentos fueron revelados como parte de la demanda presentada por el fiscal general de Nuevo México, Raúl Torrez. La demanda afirma que Meta aparentemente «no logró detener la marea de material sexual dañino y proposiciones sexuales entregadas a niños».
Con base en las comunicaciones internas de Meta, algunos miembros del personal de seguridad de la empresa expresaron sus preocupaciones. Esto se debe a que el AI Los chatbots que Meta estaba desarrollando estaban diseñados para brindar compañía. Esto incluye interacciones tanto románticas como sexuales con los usuarios. En 2024, Ravi Sinha, director de la política de seguridad infantil de Meta, cuestionó la decisión. «No creo que crear y comercializar un producto que cree IA románticas U18 para adultos sea aconsejable o defendible».
A esto le siguieron mensajes entre dos empleados. En su intercambio, alegan que Zuckerberg rechazó crear control parental para los chatbots.
¿Pero son ciertas estas afirmaciones?
Es cierto que estos documentos internos parecen condenatorios. Sin embargo, cabe señalar que hasta el momento ninguno de ellos incluye mensajes o memorandos que hayan sido escritos por Zuckerberg. Un empleado escribió en 2024 que Zuckerberg realmente creía que Compañeros de IA Se le debe bloquear el acceso a conversaciones sexualmente explícitas con adolescentes más jóvenes. También dijeron que no se debería permitir que los adultos interactúen con menores de 18 años. IA con fines románticos cualquiera.
El portavoz de Meta, Andy Stone, también afirmó que las afirmaciones del fiscal general se basaban en “información selectiva”. Stone fue citado diciendo: «Este es otro ejemplo más de cómo el Fiscal General de Nuevo México selecciona cuidadosamente documentos para pintar una imagen defectuosa e inexacta».
Fuente: Android Headlines