Resumen: Un documento de Apple filtrado revela cómo la compañía clasifica las respuestas de IA basadas en seis criterios clave, incluidas la veracidad, la perjudicia, la concisión y la satisfacción general del usuario. Si bien Apple tiene como objetivo garantizar que su IA permanezca segura y útil, su inteligencia actual de Apple todavía se queda atrás de los competidores.
La mayoría de los sistemas de IA son capaces de responder preguntas básicas que les arroja. La calidad de sus respuestas se basa en una variedad de factores, como los datos utilizados para entrenarlos. Sin embargo, algunos sistemas de IA Gana una etiqueta «peligrosa» Basado en la forma en que responden. Entonces, la pregunta es, ¿cómo deciden las empresas qué es una buena o mala respuesta? Si bien no podemos hablar por los demás, sí sabemos qué Manzana Piensa en base a su clasificación de preferencias.
Sistema de clasificación de respuesta de Apple
Danny Goodwin en Search Engine Land logró obtener Un documento de Apple de 170 páginas llamado «Vendor de clasificación de preferencias V3.3». Según Goodwin, «Establece el sistema utilizado por los revisores humanos para calificar respuestas de asistente digital. Las respuestas se juzgan en categorías como la veracidad, la perjudicia, la concisión y la satisfacción general del usuario. El proceso no se trata solo de verificar los hechos. Está diseñado para garantizar que las respuestas generadas por IA sean útiles, seguras y se sientan naturales para los usuarios».
Goodwin no comparte el documento real, pero hizo un resumen muy completo de los diversos criterios que Apple usa cuando se trata de clasificar su preferencia por las respuestas de AI.
Según el documento, Apple tiene seis categorías de calificación. Esto consiste en las siguientes instrucciones, lenguaje, concisión, veracidad, daños y satisfacción. Los revisores humanos basan sus calificaciones en estas categorías. Por ejemplo, bajo «siguientes instrucciones», evalúan si el asistente digital completó la tarea según lo solicitado.
Bajo «lenguaje», los revisores no solo necesitan considerar si el asistente digital entendía la solicitud basada en el idioma del usuario, sino también si comprende el contexto cultural y regional detrás de él. Esto incluye cosas como modismos, unidades de medición y más.
Importancia de estas clasificaciones
Entonces, ¿por qué son importantes estas clasificaciones? Obviamente, es fundamental que las empresas que buscan desarrollar o implementar AI Necesito considerar cómo se usará. Hemos visto cómo algunos sistemas de IA mal diseñados Incluso permite a los usuarios generar malware, dar instrucciones para hacer armas, etc.
Apple quiere evitar este tipo de controversia, por lo que tiene sentido que tengan una clasificación de preferencias. Dicho esto, Los esfuerzos de AI de Apple han sido decepcionantes, y la inteligencia de Apple todavía se queda muy por detrás de la competencia. Con suerte, además de garantizar algún tipo de control de calidad en sus respuestas de IA, Apple también está trabajando para asegurarse de que la inteligencia de Apple sea al menos útil.
Fuente: Android Headlines