La seguridad y la privacidad infantil son una de las principales preocupaciones de un chatbot de IA. Meta incluso ha sido expuesto recientemente por hacer su chatbot use lenguaje explícito para menores. Ahora, en una nueva revisión de riesgos, Google Géminis ha sido etiquetado con una etiqueta de «alto riesgo» para la seguridad infantil. La evaluación sugiere que plantea un peligro significativo para los niños y adolescentes.
Géminis de Google enfrenta una etiqueta de «alto riesgo» para la seguridad de los niños «
Common Sense Media, una organización sin fines de lucro que revisa los medios y la tecnología para la seguridad de los niños, ha lanzado su Evaluación de Géminis. Según el informe, los modos «Sub 13» y «Experiencia para adolescentes» de Gemini se parecen en gran medida a la versión adulta o completa. Se supone que ambos modos son «amigables para los niños», mientras que en realidad no son más que la versión original con algunos filtros adicionales en capas.
Sin embargo, el informe agrega que Gemini menciona a los menores que es una «computadora» y no un «amigo». Pero los expertos argumentan que esto el enfoque sigue siendo inadecuado. La seguridad infantil debe integrarse desde cero, no tratada como una ocurrencia tardía.
Géminis está acusado de compartir materiales inapropiados e inseguros con niños
La evaluación destaca que a pesar de tener un modo dedicado para menores, Gemini aún podría compartir contenido que es inapropiado e inseguro. No tiene una restricción más amplia en la entrega de contenido. Todavía puede entregar información para la que los niños no están listos, como drogas, sexo o alcohol.
Al destacar los defectos de Gemini, Common Sense Media señala que Google ha pasado por alto los pilares fundamentales necesarios para diseñar una herramienta para niños y adolescentes. La versión del menor de Géminis En realidad, ignora el hecho de que un público más joven necesita una orientación y tratamiento diferentes que los adultos. El informe finalmente marca el Géminis de Google con una etiqueta de «alto riesgo» en términos de seguridad infantil.
Si una IA debe desempeñar un papel en la vida cotidiana de los niños, debe diseñarse con sus necesidades de desarrollo en mente, en lugar de versiones modernizadas de productos para adultos, sugieren los expertos. Hasta entonces, los padres pueden tener que permanecer cautelosos sobre cómo se usan estas herramientas en el hogar.
Fuente: Android Headlines