Categories
News

La tecnología de marca de agua con IA de Google DeepMind SynthID es de código abierto para empresas y desarrolladores

[ad_1]

Google DeepMind El miércoles se lanzó una nueva tecnología de código abierto para marcar con agua texto generado por inteligencia artificial. La herramienta de marca de agua, denominada SynthID, es una herramienta de inteligencia artificial (IA) que se puede utilizar en diferentes métodos, incluidos texto, imágenes, videos y audio. Sin embargo, actualmente sólo ofrece la herramienta de marca de agua de texto para empresas y desarrolladores. La empresa aspira a que la herramienta se adopte más ampliamente para que el contenido generado por IA pueda descubrirse fácilmente. Las personas y las empresas pueden acceder a la herramienta a través del kit de herramientas de IA responsable actualizado del gigante tecnológico con sede en Mountain View.

Google DeepMind es una tecnología de marca de agua de texto con IA de código abierto

en un correo En Además del kit de herramientas Responsible GenAI, también se puede descargar desde la lista de Hugging Face en Google.

El texto generado por IA ya ha comenzado a inundar Internet. Implementación del laboratorio de IA de Amazon Web Services A el estudia A principios de este año, afirmó que hasta el 57,1 por ciento de todas las oraciones en línea traducidas a dos o más idiomas pueden haber sido generadas utilizando herramientas de inteligencia artificial.

Si bien los chatbots de IA que llenan Internet con tonterías generadas por IA pueden parecer un caso de spam inofensivo, tienen un lado oscuro. En manos de malos actores, las herramientas de inteligencia artificial pueden usarse para generar desinformación o contenido engañoso a gran escala. Dado que gran parte del discurso social ocurre en línea, tales acciones pueden influir en eventos de la vida real, como las elecciones, y pueden usarse para crear propaganda contra figuras públicas.

De todos los métodos, medir el texto generado por IA ha demostrado ser la tarea más difícil hasta la fecha. Esto se debe en gran medida a que no es posible poner marcas de agua en las palabras, e incluso si lo fuera, los malos actores siempre pueden reelaborar el contenido con un segundo ciclo de producción.

Sin embargo, SynthID de Google DeepMind utiliza un nuevo método para marcar el texto generado por IA. La herramienta utiliza aprendizaje automático para predecir qué palabras podrían aparecer después de una palabra en particular en una oración. Por ejemplo, considere la frase “John se sentía muy cansado después de trabajar todo el día”. Aquí, sólo puede aparecer un número limitado de palabras después de “extremadamente”.

Basándose en un análisis de los patrones de creación de contenido de varios modelos de IA, SynthID puede predecir qué palabra aparecerá después de “muy” y reemplazarla con otro sinónimo encontrado en su base de datos. La herramienta de marca de agua incrustará dichas palabras en toda la parte del contenido. Posteriormente, cuando la herramienta verifica el contenido generado por la IA, busca la cantidad de esas palabras para determinar su autenticidad.

En particular, para fotos y videos, SynthID agrega una marca de agua directa para encuadrar los píxeles para que permanezcan invisibles pero aún puedan detectarse en la herramienta. Para el audio, las ondas sonoras primero se convierten en un espectrograma y se agrega una marca de agua a esos datos visuales. Estas capacidades actualmente no están disponibles para nadie fuera de él. Google.

[ad_2]

Source Article Link

Categories
News

Google DeepMind usa SynthID para marcar el contenido generado por la IA de Gemini y Veo

[ad_1]

Google Él hizo muchas inteligencia artificial (IA) anuncios basados ​​​​en la noche del martes durante la sesión magistral de I/O 2024. Esto incluye nuevos modelos de IA, actualizaciones de los modelos principales existentes, integración de funciones de IA en los productos de Google y más. El gigante tecnológico también se centró en la seguridad de la IA y amplió el uso de su tecnología nativa de marca de agua para contenido generado por IA, llamada SynthID. Este nuevo conjunto de herramientas ahora incluirá marcas de agua para el texto creado por mellizo Aplicación, cliente web y vídeos creados por Veo.

SynthID fue el primero quitar el velo Por Google Mente profunda en agosto de 2023 como proyecto piloto destinado a clasificar correctamente el contenido generado por IA. La necesidad de una solución de este tipo se ha sentido debido a la aparición de casos en los que estos medios creados artificialmente se han compartido como reales. Se han utilizado para difundir información errónea y delitos cibernéticos como el phishing. El gigante tecnológico utilizó la tecnología por primera vez en noviembre de 2023, cuando se utilizó para marcar con agua el audio generado por IA a través de su modelo Lyria. El conjunto de herramientas agregó marcas de agua como formas de onda al audio para hacerlo imperceptible pero detectable.

Ahora, Google está ampliando el uso de SynthID para incluir la creación de texto y vídeo. El texto creado con la aplicación y el sitio web de Gemini ahora tendrá una marca de agua. Para ello, el conjunto de herramientas se centrará en el propio proceso de creación. Cada modelo de IA basado en texto utiliza tokens (que pueden ser palabras, clips de audio o frases) para el entrenamiento. El proceso de capacitación también incluye comprender el flujo de uso de estos tokens o el orden que deben seguir los tokens para generar la respuesta más consistente.

SynthID proporciona “información adicional en la distribución del token en el punto de creación ajustando la probabilidad de creación del token”. De esta forma, a determinadas palabras de un bloque de texto generado se les asigna un número. Cuando detecta si se utilizó IA para crear el texto, compara la puntuación con puntuaciones de probabilidad ajustadas para determinar si la fuente podría ser un modelo de IA. DeepMind fue destacado en un correo Esta técnica es útil cuando la IA crea texto creativo largo, ya que es más fácil para los modelos probabilísticos verificar cómo se generó. Sin embargo, para respuestas realistas más cortas, la detección puede no ser tan precisa.

La compañía también está ampliando SynthID para presentar recientemente videos Veo generados por IA. Google dijo que la tecnología incorporará marcas de agua directamente en los píxeles de cada fotograma de vídeo, que serán imperceptibles para el ojo humano pero que aparecerán cuando se utilice el sistema de detección.

En los próximos meses, Google planea abrir marcas de agua de texto de código abierto con SynthID a través de su kit de herramientas de IA responsable. También se publicará un artículo de investigación detallado que explica la tecnología de marcas de agua en textos.

[ad_2]

Source Article Link