Los chatbots no son nuevos. De hecho, casi se podría considerar que los primeros chatbots fueron un precursor del AI lo sabemos hoy. Sin embargo, a medida que más empresas recurren a la IA para dar a sus chatbots un impulso cerebral muy necesario, eso también conlleva peligros. Por eso California es el primer estado de EE. UU. en introducir Nuevas leyes diseñadas para regular los chatbots de IA..
California quiere regular los chatbots con IA
Gobernador Gavin Newsom recientemente firmado Proyecto de ley del Senado 243 (SB 243), que convierte a California en el primer estado en implementar protocolos de seguridad integrales para chatbots de IA. La legislación histórica está dirigida a los principales operadores de chatbot, incluidos OpenAI y Meta. Ahora exige que estas empresas implementen protecciones específicas para los menores que utilizan sus plataformas.
Según la nueva ley, las empresas de chatbot deben notificar a los menores que están interactuando con IA, no con un humano. La legislación también exige pausas periódicas durante las conversaciones. Esto abordará las preocupaciones sobre el tiempo excesivo frente a la pantalla y el apego poco saludable a los compañeros de IA. Estos requisitos tienen como objetivo mantener la conciencia y evitar que los usuarios jóvenes desarrollen relaciones poco realistas con la inteligencia artificial.
El proyecto de ley también exige que las empresas impidan que sus chatbots de IA de California generen contenido dañino relacionado con el suicidioautolesiones o material sexualmente explícito. También permitirá a las víctimas de pornografía deepfake solicitar una reparación civil de hasta 250.000 dólares.
Según Newsom, «Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin barreras de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños. Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por la tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin los límites y la responsabilidad necesarios».
La regulación de la IA
La capacidad de California para promulgar estas protecciones casi enfrentó un obstáculo importante. El “One Big Beautiful Bill” del presidente Trump, firmado en julio de 2025, inicialmente incluía una disposición que habría prohibió a los estados promulgar sus propias regulaciones sobre IA durante 10 años. Sin embargo, la prohibición de 10 años de la regulación estatal de la IA enfrentó la oposición de los legisladores entre ambos partidos que abogaron por preservar la autoridad regulatoria estatal.
Hay quienes creen que la regulación frenará el avance de la IA. Sin embargo, sostiene Newsom, «Podemos seguir siendo líderes en inteligencia artificial y tecnología, pero debemos hacerlo de manera responsable, protegiendo a nuestros niños en cada paso del camino. La seguridad de nuestros niños no está a la venta».
Fuente: Android Headlines