Google es uno de los principales nombres en el inteligencia artificial campo. La división DeepMind de la compañía produce docenas de desarrollos y tecnologías que eventualmente encuentran su camino en los productos y servicios principales de Google. Recientemente, Google Deepmind compartió un documento de seguridad que advirtió sobre la era AGI. Sin embargo, hay voces que se oponen a las conclusiones del documento.
OpenAi acuñó el término AGI (inteligencia general artificial) hace un tiempo. Se refiere a sistemas de inteligencia artificial capaces de realizar prácticamente cualquier tarea que un humano pueda hacer. Hay puntos de vista muy diferentes entre los expertos en el campo sobre cuándo llegará AGIS. Algunos son optimistas, mientras que otros lo son menos.
El documento de seguridad revela la visión de Google Deepmind de AGI
Según Google Deepmind, los verdaderos AGI podrían llegar Ya en 2030. «[We anticipate] El desarrollo de un AGI excepcional antes del final de la década actual «, dice el documento.» Un AGI excepcional es un sistema que tiene una capacidad que coincide al menos el percentil 99 de adultos calificados en una amplia gama de tareas no físicas, incluidas tareas metacognitivas como aprender nuevas habilidades. «
Sin embargo, la empresa no retrata esta realidad potencial como completamente positivo. El documento advierte que estos sistemas podrían causar «daño severo. » También dice que la llegada de la tecnología podría implicar «Riesgos existenciales» eso «destruir permanentemente a la humanidad. «
El equipo de DeepMind destaca las diferencias clave entre su enfoque de «mitigación de riesgos AGI» y el de los demás. La rama de Google dice que antrópico pone menos énfasis en «capacitación, monitoreo y seguridad robustos. » Por otro lado, Operai es demasiado optimista sobre «automatización«La investigación de alineación, según Deepmind. La investigación de alineación es un método de investigación de seguridad de IA.
La superinteligencia de IA no es viable, la compañía cree
Los investigadores de DeepMind también tienen dudas sobre la viabilidad de la «superinteligencia» de la IA, algo Operai también se ha referido. El periódico dice que actualmente no hay «Innovación arquitectónica significativa«Eso apunta en esa dirección. Sin embargo, sí ven la posibilidad de»Mejora recursiva de IA«Con la tecnología existente. Es decir, la IA que puede crear AIS más avanzadas a través de la investigación. Sin embargo, DeepMind advierte que esto sería muy peligroso.
«La naturaleza transformadora de AGI tiene el potencial de beneficios increíbles y daños graves,«El documento dice».Como resultado, para construir de manera responsable, es fundamental que los desarrolladores de IA fronteriza planeen de manera proactiva mitigar los daños graves. «
Hay expertos que no están de acuerdo con DeepMind
Hay algunas voces en la industria que no están de acuerdo con las conclusiones del informe DeepMind. Heidy Khlaaf, científica jefe de IA en el Instituto sin fines de lucro AI Now, afirma que todavía es demasiado pronto para esperar que el concepto AGI sea «rigurosamente evaluado científicamente. » Matthew Guzdial, profesor asistente de la Universidad de Alberta, dice que la mejora recursiva de AI mencionada por Deepmind también es poco realista.Nunca hemos visto ninguna evidencia para que funcione«, Dijo.
Sandra Wachter, una investigadora que estudia tecnología y regulación en Oxford, cree que la verdadera preocupación es la capacitación de Future AIS con «salidas inexactas. » Ella parece referirse al creciente uso de datos sintéticos en la industria.
«Con la proliferación de salidas generativas de IA en Internet y el reemplazo gradual de datos auténticos, los modelos ahora están aprendiendo de sus propias salidas que están plagadas de maletas o alucinaciones«, Dijo ella».En este punto, los chatbots se usan predominantemente para fines de búsqueda y búsqueda de verdad. Eso significa que estamos constantemente en riesgo de ser alimentados con malas y creerlas porque se presentan de manera muy convincente. «
Fuente: Android Headlines