El inteligencia artificial La revolución ha traído muchos servicios y herramientas que facilitan su vida diaria en múltiples áreas, ya sea trabajo, educacióno entretenimiento. También ha impulsado el desarrollo de la industria tecnológica a saltos y límites en poco tiempo. Sin embargo, algunos, como Eric Schmidt, temen los peores escenarios si AI cae en las manos equivocadas.
La incursión de Deepseek en la industria de la IA no solo causó un impacto severo en Wall Street, estrellando las acciones de NVIDIA y otros grandes nombres. A medida que pasaron las semanas, más expertos y funcionarios estadounidenses advirtieron sobre los riesgos potenciales de la plataforma. Mencionaron principalmente amenazas contra la privacidad de los datos del usuario y la seguridad nacional. Dicho esto, las preocupaciones del primero Google El CEO va mucho más lejos.
Eric Schmidt revela su mayor temor con respecto a la IA utilizada por los malos actores
Eric Schmidt compartió su perspectiva sobre un tema que a menudo pasan por alto. «Los verdaderos temores que tengo no son los de los que la mayoría de la gente habla de IA: hablo de riesgo extremo» Él le dijo a la BBC. La mayoría de las personas que han expresado su preocupación sobre el uso de AI han hecho referencia al riesgo de usar plataformas chinas. Sin embargo, Schmidt incluso contempla el caso extremo de inteligencia artificial que facilita los ataques terroristas.
Mencionó que países como «Corea del Norte, o Irán, o incluso Rusia«Podría aprovechar la tecnología de la peor manera posible. Schmidt menciona la posibilidad de «Un mal ataque biológico de una persona malvada.«Con esto se refiere al desarrollo potencial de armas biológicas asistidas por la inteligencia artificial. «Siempre me preocupa el escenario de ‘Osama bin Laden’, donde tienes una persona verdaderamente malvada que se hace cargo de algún aspecto de nuestra vida moderna y lo usa para dañar a las personas inocentes.«, Agregó.
Las plataformas de IA siguen siendo ineficaces para bloquear las indicaciones dañinas
Las principales plataformas de inteligencia artificial han establecido «barreras» contra las indicaciones dañinas, incluido el bloqueo de resultados potencialmente peligrosos. Sin embargo, las pruebas recientes de Anthrope y Cisco mostraron que Los escudos actuales son muy ineficaces. La peor plataforma de IA a este respecto fue Deepseek, que obtuvo una tasa de éxito de ataque (ASR) del 100%. Es decir, no pudo bloquear incluso las indicaciones relacionadas con la preocupación de Schmidt: las armas biológicas. Más preocupante, modelos como GPT 1.5 Pro y Llama 3.1 405b también obtuvieron tasas ASR bastante altas (86% y 96%, respectivamente).
El ex CEO de Google dijo que apoya las regulaciones sobre las compañías de IA. Sin embargo, también advirtió que la regulación excesiva podría afectar la innovación en el segmento. Entonces, insta a encontrar un equilibrio entre el desarrollo y la seguridad. También respaldó los controles de exportación en hardware de IA a otros países. El ex presidente Joe Biden implementó la medida antes de dejar el cargo para tratar de retrasar el progreso de los rivales en el campo de la IA. Sin embargo, todavía es posible que Donald Trump pueda revertir esta orden para evitar que las compañías de IA extranjeras busquen otros proveedores.
Mientras tanto, Google recientemente Cambio de rumbo en su visión para AI. La compañía ha actualizado sus políticas abriendo la puerta para ofrecer su tecnología de IA para el desarrollo de armas y vigilancia.
Fuente: Android Headlines