Tan inteligente como AI Es decir, nunca debemos confiar en él al 100%. Para empezar, uno de los mayores problemas conocidos de la IA son las alucinaciones. Aquí es donde la IA inventa respuestas que son completamente erróneas. Luego, está la cuestión de que la IA siempre está de acuerdo con lo que dices. Tanto es así que los abogados del estado han advertido a las empresas como GoogleOpenAI y Apple para corregir estos resultados «delirantes».
Google, OpenAI y Apple advirtieron sobre resultados delirantes de IA
En una carta firmada por decenas de fiscales generales Desde varios estados y territorios de EE. UU., han advertido a empresas tecnológicas como Microsoft, OpenAI, Google, ManzanaAntrópico y más sobre los resultados delirantes que puede ofrecer la IA. También están pidiendo a estas empresas que implementen salvaguardas internas para proteger a sus usuarios.
Esto incluye auditorías transparentes de terceros de grandes modelos lingüísticos. El objetivo es buscar signos de ideas delirantes o aduladoras. También piden procedimientos de notificación de incidentes que notifiquen a los usuarios cuando los chatbots produzcan resultados que puedan ser psicológicamente dañinos.
Esto se produce inmediatamente después de varios incidentes en los que personas se quitaron la vida debido a la IA. A principios de este año hubo un incidente en el que un adolescente se suicidó. Los padres del adolescente alegan que ChatGPT en realidad lo alentó. También hubo otro caso que se remonta a 2024, en el que Character.ai fue demandado por un incidente similar.
Se trata de tendencias preocupantes y es necesario abordarlas. Sin embargo, puede que no sea tan fácil.
Regulación estatal versus federal
Obviamente, corregir este tipo de resultados es importante. Sin embargo, es posible que el gobierno federal lo haya hecho más difícil. Recientemente, la administración Trump estaba reflexionando sobre la idea de una orden ejecutiva que prohibir a los estados regular la IA por su cuenta.
Esto significa que cualquier regulación relativa a la IA sería responsabilidad del gobierno federal. Sobre el papel no es mala idea, pero la realidad es otra historia. En este momento, muchos países están compitiendo por dominar el espacio de la IA. Si bien Estados Unidos tiene empresas como OpenAI, Anthropic, Apple, Google y Microsoft, China no se queda atrás.
Algunas empresas de tecnología han expresado su preocupación de que estas regulaciones las detengan y permitan que sus rivales tomen la delantera. Desde entonces, la administración Trump ha dado marcha atrás en su idea. Sin embargo, no nos sorprendería que intentara volver a mencionarlo en el futuro.
Fuente: Android Headlines