La implementación de inteligencia artificial ha traído grandes avances a la industria tecnológica. Sin embargo, en los últimos años, algunos nombres destacados en el segmento han compartido sus puntos de vista con respecto al desarrollo «agresivo» de la tecnología. En línea con eso, Eric Schmidt, ex Google El CEO es advertencia, junto con otros expertos, sobre los riesgos de perseguir un «proyecto de Manhattan» para AGIS.
El ex CEO de Google y otros expertos comparten su visión en un proyecto de Manhattan de los Estados Unidos para AGI
Eric Schmidt, Alexandr Wang, CEO de AI a escala, y Dan Hendrycks, centro para el director de seguridad de IA, firmó un documento de política en el que advierten sobre las posibles represalias contra los Estados Unidos en un escenario en el que intentan liderar la tecnología de AGI (agentes AI). De acuerdo a el papel «Estrategia de superinteligencia«,» Países tecnológicamente poderosos como China podrían responder a los Estados Unidos en forma de posibles ataques cibernéticos. Estas situaciones conducirían a la desestabilización de las relaciones internacionales y escaladas en conflictos.
«[A] Proyecto de Manhattan [for AGI] supone que los rivales aceptarán un desequilibrio u omnicida duradero en lugar de moverse para evitarlo«, Lee el periódico. «Lo que comienza como un impulso para una superpena y el control global corre el riesgo de provocar contramedidas hostiles y tensiones crecientes, socavando así la estabilidad de la estrategia que pretende asegurar.«
El papel parece referirse a una iniciativa estadounidense que sugirió una especie de «proyecto de Manhattan» para el desarrollo de AGI. El programa sería similar al que condujo a la creación de la bomba atómica hace décadas. Energy Chris Wright, Secretario de Energía de los Estados Unidos, recientemente expresó la idea junto con Greg Brockman, cofundador de Operai, en un sitio de supercomputador.
Esta no es la primera vez que Eric Schmidt advierte sobre los riesgos de la IA en el mundo de hoy. El ex CEO de Google expresó sus preocupaciones a mediados de febrero con respecto al uso potencial de las plataformas de IA Para ataques terroristas basados en armas biológicas.
El documento sugiere una postura defensiva al deshabilitar «Proyectos de IA amenazantes«A través de los ataques cibernéticos
El documento sugiere que Estados Unidos debería adoptar una postura defensiva con respecto a AGIS. Es decir, vigile el desarrollo de la tecnología por parte de los países rivales. Los co-firmantes sugieren que Estados Unidos debe deshabilitar «Proyectos de IA amenazadores» si detectado. Dicen que el país debería «expandir [its] Arsenal de ataques cibernéticos«Prepararse para tales situaciones. También están a favor de que los Estados Unidos limiten el acceso a chips AI avanzados y sus modelos de IA de código abierto.
La opinión es un poco fatalista, pero en línea con lo que Schmidt ha expresado recientemente. Sin embargo, el documento contradice algunos de los consejos del ex CEO de Google. Anteriormente, abogaba por los Estados Unidos que compitieran activamente por el dominio en el campo AI. Pero cuando habla de AGIS, Eric Schmidt parece abogar por una postura más defensiva que agresiva.
Fuente: Android Headlines