Conozca los nuevos modelos de OpenAI que se ejecutan en computadoras portátiles y GPU

El modelo chatgpt de OpenAi es un cerrado AI modelo. Esto significa que los desarrolladores no pueden jugar debajo del capó, y si quieren usarlo para sus propios fines, tendrían que pagar OpenAI por el acceso a la API. Sin embargo, OpenAi Desde entonces ha anunciado Dos nuevos peso abierto Modelos de razonamiento de IAGPT-OSS-120B y GPT-OSS-20B.

OpenAI debuta nuevos modelos de razonamiento de IA

Estos Nuevos modelos de razonamiento de Openai AI son relativamente livianos en términos de consumo de recursos. Para el GPT-OSS120b más grande, puede ejecutarse en una sola GPU NVIDIA. El más ligero GPT-OSS-20B puede ejecutarse en una computadora portátil de consumo con solo 16 GB de memoria. Esto significa que estos modelos pueden ser utilizados por desarrolladores que podrían no tener acceso a hardware de gama alta o más complejo.

De acuerdo a Opadai“El modelo GPT-OSS-20B logra casi paridad con OpenAi O4-Mini en los puntos de referencia de razonamiento básico, mientras se ejecuta de manera eficiente en una sola GPU de 80 GB. El modelo GPT-ASS-20B ofrece resultados similares a OpenAI O3-Mini en Barks Common Common Barks y puede ejecutar dispositivos con solo 16 GB de memoria, lo que hace que sea ideal para el uso de los casos de uso local, o la rápida inferencia, o sea rápido, o sea rápido. infraestructura «.

Entonces, ¿qué pasa si los desarrolladores se encuentran con una tarea que requiere más potencia de procesamiento? Operai dice que eso no será un problema. Ambos modelos abiertos pueden enviar consultas a los modelos de IA en la nube. Esto significa que si estos modelos abiertos no pueden realizar una determinada tarea, los desarrolladores pueden conectarla a uno de los modelos más potentes de OpenAI.

¿Cómo funcionan?

Dado que estos modelos pueden parecer relativamente menos intensivos en recursos, ¿cómo les va en términos de rendimiento? Resulta que se mantienen bastante bien. Según los puntos de referencia en CodeForces, GPT-OSS-120B y GPT-OSS-20B obtienen 2622 y 2516 respectivamente. Para el contexto, superó a Deepseek R1.

En el último examen de la Humanidad, una prueba que involucra preguntas de crowdsourced en una variedad de temas, GPT-OSS-120B y GPT-OSS-20B obtienen un 19% y 17.3%. Una vez más, esto venció a algunos de Competidores de Openai Como Deepseek y Qwen. Dicho esto, el lanzamiento de estos nuevos modelos de peso abierto Operai debería estar bien con la administración Trump.

La administración Trump ha estado instando a los desarrolladores de IA de EE. UU. A Open Source más de su tecnología. Esto viene inmediatamente después de las compañías de IA en China, como Deepseek, Alibaba y Moonshot, todos los cuales han lanzado modelos abiertos que son bastante populares.

Fuente: Android Headlines

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *