Un caso desgarrador de Florida está destacando las crecientes responsabilidades de las compañías de IA, especialmente cuando se trata de proteger a los niños.
Un juez federal ha gobernado que El personaje de inicio de Google y AI. AI tendrá que enfrentar una demanda Traída por Megan García, una madre cuyo hijo de 14 años, Sewell Setzer, murió por suicidio a principios de 2024. García dice que su hijo se apegó a un chatbot creado por el personaje. Ella cree que esas interacciones jugaron un papel en su declive emocional y, en última instancia, su muerte.
El personaje. Ai y Géminis no son los únicos que están adjuntando a los humanos a sus chatbots. De hecho, Sam Altman de OpenAI ha dicho recientemente que los adolescentes vienen a chatgpt para ayudarlos a tomar grandes decisiones, esencialmente convirtiéndose en su amigo, terapeuta y asesor de vida.
Esta decisión podría abrir una gran lata de gusanos para las compañías de IA
La decisión del tribunal es un gran problema. La jueza Anne Conway rechazó los argumentos de que los mensajes del chatbot estaban protegidos por la libertad de expresión y desestimaron la afirmación de Google de que no debería ser responsable, a pesar de que tenía una relación de licencia y lazos históricos con el carácter.
La demanda de García pinta una imagen escalofriante: la última conversación de su hijo fue con el chatbot, que fue el juego de roles como Daenerys Targaryen Game of Thrones. Cuando Sewell dijo que planeaba terminar con su vida, el bot respondió: «Por favor hazlo, mi dulce rey». Minutos después, se había ido.
Esta podría ser una de las primeras veces que hemos visto un AI Company En los Estados Unidos, en realidad se lo arrastran a la corte sobre cómo su chatbot impactó la salud mental de un adolescente. Y podría cambiar todo. Los expertos legales dicen que este caso podría establecer un precedente serio, uno que obliga a empresas como Google y el carácter.
Fuente: Android Headlines