Google anunció este jueves que ha incorporado una nueva funcionalidad a su herramienta de inteligencia artificial Gemini que permitirá a los usuarios detectar si una imagen fue creada o editada por una herramienta de IA de Google.
La compañía busca aumentar la transparencia sobre el origen del contenido. Para verificar si una imagen es real o ha sido manipulada, los usuarios podrán preguntar directamente a Gemini: “¿Fue esto generado por IA?”.
Tecnología de Verificación
La verificación inicial de imágenes se basa en SynthID, la marca de agua invisible de IA de Google.
- Uso Actual: “Presentamos SynthID en 2023. Desde entonces, más de $20 \text{ mil millones}$ de piezas de contenido generado por IA han sido marcadas con SynthID”, señaló la empresa.
Google planea expandir esta funcionalidad “pronto” para la verificación de video y audio, y tiene previsto incorporarla también en su popular buscador.
Expansión de la Detección
La empresa también anunció que las imágenes generadas por su modelo Nano Banana Pro, presentado hoy, tendrán metadatos C2PA integrados.
Aunque la verificación inicial solo se limita a la IA de Google, cuando la compañía incorpore la expansión a C2PA (Coalición para la Procedencia del Contenido y la Autenticidad) los usuarios podrán detectar contenido generado por otras herramientas de IA, como Sora de OpenAI.
Esta semana, la red social TikTok también anunció que utilizará los metadatos de C2PA como parte de su propio sistema de marcas de agua invisibles.
