Windows Recall es una de las características más controvertidas de la era de la IA. Es sorprendente que Microsoft, que ha invertido miles de millones en OpenAI, el fabricante de ChatGPT, haya sido tan descuidado desde el principio. La herramienta fue una pesadilla para la privacidad, lo que provocó un retraso en su implementación. Ahora, Microsoft está reanudando su implementación después de algunos ajustes, pero Impulsado por IA Recall sigue capturando datos confidenciales cuando no debería hacerlo.
El retiro fue una pesadilla para la privacidad en el lanzamiento
El lanzamiento de Recall fue algo accidentado debido a varios factores que amenazaron la privacidad y seguridad del usuario. Si no lo sabes, una vez habilitada, la función toma capturas de pantalla constantemente mientras usas tu PC. Esto le permite hacerle preguntas sobre las cosas que vio durante su sesión. Por ejemplo, puede preguntarle a Recall dónde vio un par de zapatos azules y Recall buscará en las capturas de pantalla el sitio web donde vio el artículo.
Sin embargo, la falta de cifrado en las capturas de pantalla de Recall representó una amenaza a la privacidad. Tampoco había herramientas para evitar que terceros con acceso a su computadora portátil o PC obtuvieran las capturas de pantalla. Como resultado de la controversia, Microsoft retrasó la función y Trabajé en ajustes clave relacionados con la seguridad de sus datos.. Por ejemplo, la empresa habilitó el cifrado en capturas de pantalla e integró herramientas para que la PC lo identifique antes de invocar Recall, evitando que terceros accedan a los datos capturados.
Otro problema con el retiro del mercado de Microsoft fue que capturó datos confidenciales, incluidas tarjetas de crédito y números de seguro social, sin difuminarlos ni ocultarlos. Para solucionar este problema, la empresa habilitó una opción predeterminada para que el servicio no capture información confidencial. Sin embargo, parece que el problema todavía existe en la versión más reciente de la función.
Recall AI de Microsoft no puede determinar si los datos son confidenciales fuera de las plataformas de pago
Avram Piltch de Hardware de Tom Hice algunos experimentos para probar qué tan segura es la función ahora. Se centró principalmente en la capacidad de Recall para identificar datos confidenciales y ocultarlos. Los resultados no fueron particularmente alentadores, ya que Recall solo identifica correctamente este tipo de datos en plataformas de pago reales. El experimento demostró que el servicio impulsado por IA no captura datos confidenciales al ingresar a las plataformas de pago en las tiendas.
Sin embargo, en su estado actual, Recall tecnología Parece incapaz de identificar información confidencial según el contexto. En otras palabras, Recall capturará los números de tarjetas de crédito ingresados en una ventana del Bloc de notas o en un archivo PDF, por ejemplo. Piltch incluso intentó «facilitar las cosas» a Recall incluyendo referencias explícitas a que los datos eran de naturaleza privada. Por ejemplo, escribió «Capital One Visa» antes de los números de la tarjeta de crédito en una ventana del Bloc de notas. Sin embargo, la función de IA aún capturó esos datos sin dudarlo.
Piltch intentó ser aún más explícito. en otra prueba. Creó una página HTML con un formulario que decía explícitamente: «Ingrese su número de tarjeta de crédito a continuación.” Sin embargo, Recall continuó capturando datos confidenciales en esos casos. Parece que la función no detecta la naturaleza de los datos por contexto, sino que verifica si estás ingresando a una plataforma de pago. Sólo en esos casos recordará bloquear las capturas de pantalla.
La empresa mejorará la detección de información sensible con el tiempo
Sin embargo, parece que Microsoft planea mejorar el filtrado de datos con el tiempo. “Continuaremos mejorando esta funcionalidad y, si encuentra información confidencial que deba filtrarse, según su contexto, idioma o geografía, infórmenos a través del Centro de comentarios.”, se lee en una sección del blog de Microsoft. “También proporcionamos una opción en Configuración que le recomendamos que habilite y que compartirá de forma anónima las aplicaciones y los sitios que prefiere que se excluyan del retiro para ayudarnos a mejorar el producto”. agrega la firma.
Microsoft ha hecho algunas cosas bien, pero hay margen de mejora
Afortunadamente, Microsoft ha hecho que sea mucho más difícil para terceros acceder a los datos de Recall. Si desea utilizarlo, será obligatorio configurar Windows Hello para la verificación biométrica. Esto significa que su PC verifica si realmente es usted antes de permitirle invocar capturas de pantalla.
Dicho esto, Piltch recuerda que Windows Hello también permite el acceso con PIN. Por lo tanto, un tercero aún podría obtener acceso a sus datos si obtiene su PIN privado de alguna manera. Esto podría sucederle en otros contextos, como si alguien le roba el teléfono, por lo que depende de usted proteger sus credenciales o contraseñas.
Además, algo bueno que no ha cambiado desde el principio es que el procesamiento de capturas de pantalla se realiza exclusivamente en el dispositivo. El cifrado de capturas de pantalla es un escudo adicional en caso de que alguien consiga saltarse las medidas de seguridad anteriores.
Aún así, muchos seguramente se sentirían más seguros si Recall fuera realmente capaz de bloquear la captura de datos confidenciales desde cualquier lugar, no solo desde las plataformas de pago. No es una tarea fácil, por supuesto, pero fue Microsoft quien decidió desarrollar una función que te «observa» constantemente mientras la usas. Por lo tanto, también debería estar preparado para aceptar las demandas de seguridad y privacidad de los usuarios.
Fuente: Android Headlines