Google presentó este miércoles una innovadora herramienta denominada ‘Acerca de esta imagen’, diseñada para permitir a los usuarios verificar si una imagen fue creada mediante inteligencia artificial (IA) y obtener información detallada sobre la misma.
Esta función, accesible a través de Circle to Search o Google Lens, permite a los usuarios determinar rápidamente la autenticidad de una imagen mediante el acceso a sus metadatos, la fuente original y la presencia de una marca de agua de Google AI que “ayuda a evaluar su legitimidad”.
“Es crucial recordar que quienes publican imágenes pueden añadir o eliminar metadatos. Cuando estén disponibles, se podrán visualizar los metadatos que los creadores y editores de imágenes hayan incorporado, incluyendo campos que pueden indicar si una imagen ha sido generada o mejorada por IA”, explicó Nidhi Hebbaren, gerente de producto, en un comunicado.
Adicionalmente, esta herramienta puede identificar si la imagen fue generada con IA, siempre que contenga la marca de agua SynthID de Google DeepMind, incrustada en los píxeles de la imagen.
Los usuarios también tendrán acceso a “más contexto”, como las páginas web que han publicado la imagen y los comentarios de diversas fuentes, incluyendo sitios de noticias y de verificación de datos.
“Esta información puede ser útil para evaluar las afirmaciones hechas sobre una imagen y para consultar evidencias y perspectivas de otras fuentes“, añadió Hebbaren.
‘Acerca de esta imagen’ está disponible en 40 idiomas a nivel mundial, incluidos español, francés, alemán, hindi, japonés y portugués, entre otros.
Google ajusta su buscador para ocultar ‘deepfakes’
Google también ha introducido nuevas funciones de seguridad en línea para facilitar la eliminación de ‘deepfakes’ -imágenes generadas por IA que insertan el rostro de una persona en el cuerpo de otra o manipulan lo que una persona dice- de los resultados de su buscador, evitando que aparezcan en los primeros lugares.
El proceso comienza con la petición del usuario para eliminar un ‘deepfake’ explícito. El sistema de Google intentará filtrar todos los resultados explícitos en búsquedas similares y eliminar cualquier imagen duplicada.
“Cada avance tecnológico trae nuevas oportunidades para ayudar a las personas, pero también nuevas formas de abuso que debemos combatir (…) Ha habido un aumento alarmante en las imágenes y vídeos generados con IA que muestran a personas en contextos sexualmente explícitos, distribuidos en la web sin su consentimiento”, señaló Emma Higham, gerente de producto, en un comunicado.
Higham detalló que varios expertos y víctimas contribuyeron a la creación de estas nuevas funciones.
“Estos esfuerzos están diseñados para brindar mayor tranquilidad a las personas, especialmente si les preocupa que aparezca contenido similar sobre ellas en el futuro”, agregó Higham.
Las páginas web que sufran una cantidad significativa de eliminaciones por imágenes explícitas falsas serán degradadas en las clasificaciones de búsqueda de Google.
“Es esencial distinguir entre el contenido explícito real y consensuado (como las escenas de desnudos de un actor) y el contenido falso explícito (como los ‘deepfakes’ que muestran a dicho actor). Aunque diferenciar este tipo de contenido es un desafío técnico para los motores de búsqueda, estamos realizando mejoras constantes para mostrar mejor el contenido legítimo y bajar la clasificación del contenido falso explícito“, concluyó Higham.
