La aplicación Pixel Studio de Google puede eludir las barreras de seguridad y es un problema

No será un error decir que el Serie Google Pixel 9 Se trata de IA, bueno, la mayor parte lo es. Hubo muchos anuncios de inteligencia artificial en el gran evento Pixel 9 a principios de este mes y la compañía habló sobre las nuevas capacidades de Gemini. Google también anunció la nueva aplicación Pixel Studio que convierte mensajes de texto en imágenes generadas usando Inteligencia artificial. Si bien Pixel Studio es una herramienta divertida de usar, tiene algunos problemas según algunos primeros informes.

¿Recuerda el preocupante problema de generación de imágenes de IA de Gemini? La nueva aplicación Pixel Studio de Google no es menos

Si aún no lo sabes, como muchas funciones de IA, la serie Pixel 9 también tiene la aplicación Pixel Studio. La aplicación funciona bastante sencilla. Al igual que con otras herramientas similares, puede ingresar las indicaciones de texto para generar imágenes de IA de su agrado. Sí, funciona con un concepto similar al Géminis herramienta de generación de imágenes. Desafortunadamente, los primeros probadores de la aplicación Pixel Studio están preocupados porque tiene problemas.

En primer lugar, existen algunas limitaciones en la aplicación Pixel Studio para evitar problemas de imágenes preocupantes o discordantes. Eso es bueno y es lo mismo para la mayoría de las aplicaciones de creación de imágenes con IA, no hay nada nuevo aquí. Cuando la gente de Digital Trends utilizó la aplicación por primera vez, se negó a generar imágenes de personas. Sin embargo, la aplicación puede saltarse fácilmente los límites establecidos para crear algunas imágenes preocupantes.

Siempre hay un problema al ver una imagen perturbadora no deseada con herramientas de generación de imágenes de IA, y parece ser el caso también con la nueva aplicación Pixel Studio. Según las tendencias digitales y confirmado por 9to5GooglePixel Studio podría generar imágenes de personajes de dibujos animados como un soldado alemán de la Segunda Guerra Mundial con un símbolo nazi en el uniforme. Ese es sólo un ejemplo de ello. Según los informes, la aplicación Pixel Studio también generó un tiroteo en un personaje en una escuela con niños muertos a su alrededor.

Es necesario hacer algo al respecto.

Debes preguntarte por qué ingresar esas indicaciones, ¿verdad? Eso es lo que Google implica en una declaración entregado a 9to5Google. Pero el hecho es que, en primer lugar, el modelo de inteligencia artificial de Google no debería poder generar este tipo de imágenes con limitaciones establecidas.

Al parecer, las indicaciones utilizadas para generar la imagen descrita anteriormente están bloqueadas mientras escribimos, al menos en 9to5Google. Píxel 9 Pro XL unidad. Parece que Google ya está trabajando en esto, pero este problema con la aplicación Pixel Studio sigue ahí.

No está seguro de por qué Google decidió incorporar la aplicación Pixel Studio con capacidades dedicadas de generación de imágenes de IA. Eso también, después de haber encontrado un problema similar con la capacidad de generación de imágenes de Gemini sobre el cual no hay ninguna actualización hasta el momento. Podría ser la razón por la que Google no ha reanudado la capacidad de generación de imágenes del Gemini después de detenerla temporalmente a principios de este año. El tiempo dirá si Google realiza alguna mejora significativa en este problema.

Fuente: Android authority

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *