Google Él hizo muchas inteligencia artificial (IA) anuncios basados en la noche del martes durante la sesión magistral de I/O 2024. Esto incluye nuevos modelos de IA, actualizaciones de los modelos principales existentes, integración de funciones de IA en los productos de Google y más. El gigante tecnológico también se centró en la seguridad de la IA y amplió el uso de su tecnología nativa de marca de agua para contenido generado por IA, llamada SynthID. Este nuevo conjunto de herramientas ahora incluirá marcas de agua para el texto creado por mellizo Aplicación, cliente web y vídeos creados por Veo.
SynthID fue el primero quitar el velo Por Google Mente profunda en agosto de 2023 como proyecto piloto destinado a clasificar correctamente el contenido generado por IA. La necesidad de una solución de este tipo se ha sentido debido a la aparición de casos en los que estos medios creados artificialmente se han compartido como reales. Se han utilizado para difundir información errónea y delitos cibernéticos como el phishing. El gigante tecnológico utilizó la tecnología por primera vez en noviembre de 2023, cuando se utilizó para marcar con agua el audio generado por IA a través de su modelo Lyria. El conjunto de herramientas agregó marcas de agua como formas de onda al audio para hacerlo imperceptible pero detectable.
Ahora, Google está ampliando el uso de SynthID para incluir la creación de texto y vídeo. El texto creado con la aplicación y el sitio web de Gemini ahora tendrá una marca de agua. Para ello, el conjunto de herramientas se centrará en el propio proceso de creación. Cada modelo de IA basado en texto utiliza tokens (que pueden ser palabras, clips de audio o frases) para el entrenamiento. El proceso de capacitación también incluye comprender el flujo de uso de estos tokens o el orden que deben seguir los tokens para generar la respuesta más consistente.
SynthID proporciona “información adicional en la distribución del token en el punto de creación ajustando la probabilidad de creación del token”. De esta forma, a determinadas palabras de un bloque de texto generado se les asigna un número. Cuando detecta si se utilizó IA para crear el texto, compara la puntuación con puntuaciones de probabilidad ajustadas para determinar si la fuente podría ser un modelo de IA. DeepMind fue destacado en un correo Esta técnica es útil cuando la IA crea texto creativo largo, ya que es más fácil para los modelos probabilísticos verificar cómo se generó. Sin embargo, para respuestas realistas más cortas, la detección puede no ser tan precisa.
La compañía también está ampliando SynthID para presentar recientemente videos Veo generados por IA. Google dijo que la tecnología incorporará marcas de agua directamente en los píxeles de cada fotograma de vídeo, que serán imperceptibles para el ojo humano pero que aparecerán cuando se utilice el sistema de detección.
En los próximos meses, Google planea abrir marcas de agua de texto de código abierto con SynthID a través de su kit de herramientas de IA responsable. También se publicará un artículo de investigación detallado que explica la tecnología de marcas de agua en textos.