Hay un montón de rumores en torno a la generación AI hoy en día, pero también hay mucho miedo a su alrededor. Esto se debe a que tiene el potencial de causar daños importantes si termina en las manos equivocadas. Bueno, según un nuevo informe, sólo deberías estar moderadamente preocupado por la IA de OpenAI. GPT-4o es de riesgo medio.
Respaldado por Microsoft AbiertoAI ha estado en las noticias últimamente por su nuevo equipo de seguridad. Anteriormente, el equipo estaba formado por miembros ajenos a la empresa, que es la mejor ruta. De esta manera, las personas pueden evaluar los protocolos de seguridad con imparcialidad. Sin embargo, el nuevo equipo de seguridad está formado por miembros de la propia empresa. Es un poco difícil confiar en las opiniones de las personas vinculadas a la empresa.
GPT-4o es de riesgo medio
OpenAI acaba de lanzar la tarjeta del sistema para GPT-4o. Se trata básicamente de una boleta de calificaciones llena de información sobre cómo la empresa mantiene seguro su modelo. Describe las medidas de seguridad y los riesgos.
Según la tarjeta, GPT-4o obtuvo una puntuación de riesgo medio. No es tan malo como parece. La seguridad del modelo se evaluó en cuatro áreas: persuasión, ciberseguridad, amenazas biológicas y autonomía del modelo. El modelo recibió una puntuación de riesgo bajo en los últimos tres. En cuanto a Persuasión, la modelo obtuvo una puntuación media. Dado que la puntuación general se define por la puntuación más alta de cualquier área, el modelo tiene una puntuación general Media.
¿Qué quiere decir esto? Hay ocasiones en las que este modelo puede producir un texto más persuasivo que un texto escrito por humanos. Eso da miedo, ya que la gente puede utilizar texto escrito por ChatGPT engañar a las masas para sus propias necesidades. Entonces, eso es algo que la empresa deberá abordar.
¿Podemos confiar en esto?
La pregunta aquí es si podemos confiar o no en esta evaluación. Una vez más, esto estuvo a cargo principalmente de un equipo interno. No importa cuánto la empresa reclame su responsabilidad, no podemos pasar por alto ese hecho. No importa lo bueno que sea un estudiante, serás un poco escéptico si califica su propio examen de matemáticas.
Fuente: Android authority