viendo un IA moderna realizar puede parecer como presenciar un truco de magia. Ya sea Géminis, ChatGPT o claudioestos modelos a menudo proyectan un aura de sabiduría casi infinita, resolviendo problemas complejos de codificación o escribiendo poesía en segundos. Sin embargo, una nueva investigación realizada por científicos de Stanford, Caltech y Carleton College sugiere que debajo de la brillante superficie del modelo de IA, hay algunas grietas sorprendentemente profundas que los llevan a fallar incluso en la lógica básica.
El estudio revela que incluso los modelos de lenguaje grande (LLM) más avanzados con frecuencia no superan las pruebas de razonamiento básico que un niño pequeño podría navegar (a través de Mecánica Popular). A menudo tratamos a estos sistemas como si estuvieran «pensando». Sin embargo, la realidad es que se basan en matemáticas complejas y patrones vinculados entre sí. Este enfoque les permite adivinar la siguiente palabra de una oración con una precisión sorprendente, pero no significa que realmente «entiendan» la lógica detrás de lo que están diciendo.
La IA carece de la “teoría de la mente” del cerebro humano, lo que lleva a fallos en la lógica matemática
Una de las partes más interesantes de la investigación tiene que ver con la inteligencia social. Los seres humanos aprenden reglas sociales y matices morales a través de años de experiencias sutiles del mundo real. La IA, por otro lado, no tiene lo que los científicos llaman una «teoría de la mente». Esto significa que estos modelos tienen dificultades para inferir lo que una persona podría estar pensando o para predecir el comportamiento basándose en reglas éticas. Los investigadores dicen que la IA no está preparada para tomar decisiones clave que requieran un juicio humano debido a la falta de una brújula moral confiable.
El fracaso se extiende también al mundo de las matemáticas y la lógica formal. Se podría esperar que una computadora fuera perfecta en matemáticas, ¿verdad? Bueno, el estudio muestra que los LLM luchan con la lógica «trivial», como comprender que si A es igual a B, entonces B debe ser igual a A. También sufren de sesgos, como darle demasiada importancia al primer elemento de una lista. Esto refleja los errores humanos, pero sin nuestra capacidad natural para darnos cuenta cuando algo se siente «mal».
Incluso el razonamiento físico presenta un desafío. Cuando se les pide que planifiquen tareas en un espacio tridimensional o gestionen movimientos robóticos, los modelos a menudo pierden la pista del plan si la indicación se expresa de forma ligeramente diferente. Esto demuestra que la IA se basa en patrones de datos a corto plazo en lugar de una comprensión sólida a largo plazo de cómo funciona el mundo físico.
Un análisis necesario para comprender verdaderamente la IA
A pesar de estos hallazgos, los científicos no sugieren que la IA sea un fracaso. En cambio, ven estas vulnerabilidades como una hoja de ruta necesaria para el futuro. Identificando dónde está tecnología Las rupturas son el primer paso hacia la construcción de sistemas más resilientes. Así como la computación temprana requería un riguroso análisis de fallas para volverse confiable, la IA actual debe someterse al mismo escrutinio para dejar de ser un “autocompletado picante” y convertirse en un socio verdaderamente inteligente. Al fin y al cabo, los sistemas de IA de hace unos años no tienen nada que ver con los actuales.
No se trata de ser escéptico y gritar “la IA es mala” todo el tiempo, sino de reconocer las limitaciones actuales de la tecnología. Saber exactamente qué pueden y qué no pueden hacer nuestras herramientas es fundamental para utilizarlas correctamente. Básicamente, es el mismo enfoque que adoptamos con nuestras herramientas del mundo real. Entonces, ¿por qué no reflejar ese comportamiento en nuestros “socios digitales”?
Fuente: Android Headlines