Caitlin Kalinowski, directora de robótica y hardware de AbiertoAIacaba de dimitir de la empresa. Esta es una respuesta directa a una nueva y destacada contrato de defensa entre OpenAI y el Pentágono de EE.UU.. El acuerdo ha provocado un acalorado debate sobre la rapidez con la que AI debería utilizarse en sistemas militares.
Kalinowski, que anteriormente dirigió equipos de hardware en Meta, se unió a OpenAI a finales de 2024. Lideraría la expansión de la empresa hacia la IA física y robótica. Sin embargo, su tiempo en la empresa llegó a su fin repentinamente cuando OpenAI anunció un acuerdo con el Departamento de Defensa. Según sus declaraciones públicas, la decisión de irse fue una decisión de “principios”, centrada en la creencia de que el acuerdo carecía de suficiente deliberación y de barreras de seguridad claramente definidas.
Por qué renunció la jefa de robótica de OpenAI, Caitlin Kalinowski
En sus redes sociales, Kalinowski detallado las dos cosas específicas que le preocupaban: la vigilancia de ciudadanos estadounidenses sin supervisión judicial y el desarrollo de armas letales autónomas. Reconoció que la IA desempeña un papel importante en la seguridad nacional. Sin embargo, argumentó que estas “líneas rojas” específicas merecían un escrutinio más cuidadoso del que permitía la asociación actual.
Kalinowski aclaró que su problema No fue por una asociación de defensa en sí, sino más bien por la naturaleza “apresurada” del anuncio. Desde su punto de vista, es un gran riesgo avanzar sin reglas de seguridad y gobernanza completamente desarrolladas. Dejó en claro que todavía respeta al director ejecutivo Sam Altman y que su partida no se debe a un conflicto personal sino a un desacuerdo sobre el proceso.
El enfrentamiento de la industria
El momento del acuerdo de OpenAI añadió más leña al fuego. El acuerdo se cerró poco después de que la empresa rival Anthropic se negara a conceder a los militares acceso ilimitado a sus modelos por razones éticas similares. En una medida sin precedentes, el Pentágono posteriormente calificó a Anthropic como un “riesgo para la cadena de suministro”. Esto llevó al gobierno a recurrir rápidamente a OpenAI y Google para llenar el vacío.
Mientras tanto, OpenAI ha defendido la asociación. La compañía afirmó que el acuerdo crea un camino responsable para el uso de la seguridad nacional al tiempo que prohíbe explícitamente la vigilancia nacional y el armamento autónomo. El la compañía le dijo a NPR que sigue comprometido a colaborar con la sociedad civil y sus propios empleados en estos temas delicados.
Fuente: Android Headlines