Google lanzó un «detector» de IA: cómo saber si una imagen, video o audio se creó con inteligencia artificial

Las redes sociales están inundadas de contenido generado con inteligencia artificial y, gracias al avance de la tecnología, cada vez es más difícil distinguir algo real de un deepfake. Para facilitar esa tarea, Google lanzó SynthID Detector, una herramienta que permite saber si una imagen, texto, video o audio fue creado con IA.

Si bien la plataforma empezó a desarrollarse en 2023, esta semana la empresa decidió ampliar el acceso para que esté disponible de manera gratuita y abierta al público en general. El objetivo es identificar el contenido creado o modificado por inteligencia artificial para «fomentar la transparencia y la confianza en la IA generativa».

Google explicó que SynthID «inserta marcas de agua digitales directamente en imágenes, audio, texto o video generados por IA. Estas marcas de agua se integran en productos de consumo basados en IA generativa y son imperceptibles para los humanos, pero pueden ser detectadas por la tecnología de SynthID».

Esta marca de agua se añade en el momento de la creación del contenido, sin alterar su calidad; también resiste «modificaciones como el recorte, la aplicación de filtros, el cambio de velocidad de fotogramas o la compresión con pérdida».

SynthID está disponible a través de Gemini, Search y Chrome. Para saber si una imagen, audio o video fue creado con IA, simplemente hay que subir el archivo al chat y preguntarle si fue generado o modificado con inteligencia artificial. Google lo rastreará en busca de la marca de agua y, en caso de encontrarla, se lo informará al usuario.

Por el momento, la herramienta detecta si un contenido ha sido creado usando la inteligencia artificial de Google o de sus socios, entre los que se incluyen OpenAI, NVIDIA, Kakao y, próximamente, Apple. Según la compañía, recibe más de un millón de solicitudes diarias para verificar contenidos.

Fuente: C5N