En su apuesta a largo plazo en el segmento de la IA, Google compró DeepMind en 2014. Hoy en día, esta última está profundamente integrada en el organigrama de la empresa, perdiendo autonomía. Sin embargo, existe cierto desacuerdo interno con respecto al manejo de algunas cuestiones. Básicamente, una parte de los empleados de Google en DeepMind está en contra de los contratos militares.
La preocupación surge del Proyecto Nimbus, un contrato de 1.200 millones de dólares en el que Google proporcionaría Servicios impulsados por IA y herramientas derivadas del trabajo de DeepMind al ejército israelí. Google no está solo en esto, ya que Amazon también está involucrado. A mediados de mayo, 200 empleados de DeepMind firmaron una carta diciendo que estaban «preocupados por los recientes informes sobre los contratos de Google con organizaciones militares».
200 empleados de Google DeepMind firmaron una carta contra los contratos militares
Si bien se escuchó por primera vez sobre el Proyecto Nimbus en 2023, las protestas de los empleados en su contra aumentaron este año. Los informes de abril afirmaron que Google despidió a 28 empleados que participaron en las protestas. Las tensiones parecen haber ido en aumento desde entonces, aunque hubo novedades que se mantuvieron en secreto. Por ejemplo, una reciente Informe de tiempo reveló la existencia de la carta antes mencionada. Aunque han pasado 3 meses, personas involucradas en el asunto di eso no han “recibido ninguna respuesta significativa del liderazgo”.
La principal preocupación de los empleados de DeepMind es que su tecnología se utilice con fines militares. «Cualquier participación en la fabricación de armas y militares afecta nuestra posición como líderes en IA ética y responsable, y va en contra de nuestra declaración de misión y de los principios de IA declarados», se lee en la carta. Los empleados sienten que Google es “inespecífico” o vago cuando se refieren a Nimbus. Incluso consideran que existen cláusulas que permitirían a la empresa suministrar su tecnología con fines militares.
DeepMind perdió mucha independencia
Actualmente, DeepMind y Google Brain son un equipo centrado en la IA. La fusión se produjo en 2023 tras un intento de DeepMind de buscar una gestión más independiente, algo que tenían al principio. Sin embargo, DeepMind ahora sigue una política ética general de Google. Parte de esa política dice que la empresa puede desarrollar tecnologías que causen daño si «los beneficios superan sustancialmente los riesgos». Pero no está claro quién o cómo determina Google si cruza o no la línea.
Mientras tanto, un portavoz de Google dijo que Nimbus no es lo que la gente piensa. Una declaración oficial dijo que el proyecto “no está dirigido a cargas de trabajo militares, clasificadas o altamente sensibles relevantes para armas o servicios de inteligencia”. Mientras tanto, los empleados de DeepMind sienten que no pueden hacer mucho al respecto. «Si bien es posible que DeepMind no haya estado contento con trabajar en IA militar o contratos de defensa en el pasado, creo que esta ya no es nuestra decisión», dijo uno de ellos a TIME.
El personal tiene dudas sobre cómo se utiliza realmente la tecnología DeepMind
Actualmente, sólo es seguro que Israel y su Ministerio de Defensa tengan acceso al software Cloud de Google. El gigante de Mountain View ha integrado en este último tecnologías impulsadas por la IA, como en muchos de sus servicios. Estados Unidos también estaría obligando a Israel a comprar inteligencia artificial tecnología de Google y Amazonas. Sin embargo, la posición de Google es que el software no se utiliza con fines militares ni para la fabricación de armas. Lamentablemente, los empleados de la empresa no tienen forma de corroborar si esto es cierto.
Fuente: Android authority