Elon Musk ha entrado en el ámbito del conocimiento con el lanzamiento de Grokipedia, una nueva enciclopedia en línea impulsada por su xAI modelos. Como su nombre indica, es un competidor directo de la popular Wikipedia. De hecho, Musk afirma que Grokipedia “purgar la propaganda“se encuentra en Wikipedia y supera a su rival”en varios órdenes de magnitud en amplitud, profundidad y precisión..”
Sin embargo, el cofundador de Wikipedia, Jimmy Wales, no está de acuerdo con esa afirmación. En una reciente cumbre de la CNBC, Wales desestimó la amenaza de Grokipedia, argumentando que la razón subyacente tecnología—Large Language Models (LLM)—simplemente no es capaz de producir una enciclopedia confiable.
Jimmy Wales de Wikipedia no está preocupado por la Grokipedia impulsada por IA de Elon Musk
El escepticismo de Gales se debe a que Grokipedia está impulsada por AI. Es consciente de los defectos de los LLM como Grok y ChatGPT, que tienden a «cometer errores masivos”y fabricar fuentes, es decir, “alucinaciones de IA”. Wales compartió un ejemplo en el que un miembro de la comunidad de Wikipedia descubrió que una fuente había utilizado un LLM para generar citas de libros. Esto supuestamente resultó en el chatbot “muy felizmente haciendo[ing] arriba libros.”
Para probar LLM, Gales a menudo consulta temas oscuroscomo la identidad de su esposa (una “no famoso pero conocido» figura en la política británica). Afirma que esta búsqueda siempre da como resultado una respuesta plausible pero, en última instancia, incorrecta.
“Sabemos que ChatGPT y todos los demás LLM no son lo suficientemente buenos para escribir entradas wiki.”, afirmó Wales, enfatizando la dependencia de la verificación humana y la supervisión comunitaria que Wikipedia ha desarrollado durante décadas.
La cuestión del sesgo y las fuentes
Musk y sus aliados critican con frecuencia a Wikipedia por un supuesto «sesgo de despertar» y por excluir a los medios conservadores como fuentes. La propia entrada de Grokipedia en Wikipedia acusa al sitio de tener un «sesgo ideológico sistémico».
Wales defendió firmemente la política editorial de Wikipedia. Dijo que la prioridad de la organización es la neutralidad en el abastecimiento. “No tratamos a los chiflados al azar de la misma manera que The New England Journal of Medicine, y eso no nos hace despertar.«, dijo Wales. También agregó que respondiendo a las críticas de «Reforzar la apuesta por ser neutral y tener mucho cuidado con las fuentes.”es esencial.
La Fundación Wikimedia todavía reconoce que la IA plantea desafíos, en particular la disminución de las visitas humanas y el aumento de la extracción de datos de Wikipedia para entrenar modelos de IA. Sin embargo, considera que el enfoque de Wikipedia es mejor y más fiable. “Este conocimiento creado por humanos es en el que confían las empresas de IA para generar contenido; Incluso Grokipedia necesita que Wikipedia exista”, señala la Fundación.
En última instancia, Gales considera que la mayor amenaza no es un reemplazo directo de la IA. En cambio, lo ve como la capacidad de los LLM para generar sitios web falsos plausibles, que podrían engañar al público en general.
Fuente: Android Headlines