Google DeepMind El miércoles se lanzó una nueva tecnología de código abierto para marcar con agua texto generado por inteligencia artificial. La herramienta de marca de agua, denominada SynthID, es una herramienta de inteligencia artificial (IA) que se puede utilizar en diferentes métodos, incluidos texto, imágenes, videos y audio. Sin embargo, actualmente sólo ofrece la herramienta de marca de agua de texto para empresas y desarrolladores. La empresa aspira a que la herramienta se adopte más ampliamente para que el contenido generado por IA pueda descubrirse fácilmente. Las personas y las empresas pueden acceder a la herramienta a través del kit de herramientas de IA responsable actualizado del gigante tecnológico con sede en Mountain View.
Google DeepMind es una tecnología de marca de agua de texto con IA de código abierto
en un correo En Además del kit de herramientas Responsible GenAI, también se puede descargar desde la lista de Hugging Face en Google.
El texto generado por IA ya ha comenzado a inundar Internet. Implementación del laboratorio de IA de Amazon Web Services A el estudia A principios de este año, afirmó que hasta el 57,1 por ciento de todas las oraciones en línea traducidas a dos o más idiomas pueden haber sido generadas utilizando herramientas de inteligencia artificial.
Si bien los chatbots de IA que llenan Internet con tonterías generadas por IA pueden parecer un caso de spam inofensivo, tienen un lado oscuro. En manos de malos actores, las herramientas de inteligencia artificial pueden usarse para generar desinformación o contenido engañoso a gran escala. Dado que gran parte del discurso social ocurre en línea, tales acciones pueden influir en eventos de la vida real, como las elecciones, y pueden usarse para crear propaganda contra figuras públicas.
De todos los métodos, medir el texto generado por IA ha demostrado ser la tarea más difícil hasta la fecha. Esto se debe en gran medida a que no es posible poner marcas de agua en las palabras, e incluso si lo fuera, los malos actores siempre pueden reelaborar el contenido con un segundo ciclo de producción.
Sin embargo, SynthID de Google DeepMind utiliza un nuevo método para marcar el texto generado por IA. La herramienta utiliza aprendizaje automático para predecir qué palabras podrían aparecer después de una palabra en particular en una oración. Por ejemplo, considere la frase “John se sentía muy cansado después de trabajar todo el día”. Aquí, sólo puede aparecer un número limitado de palabras después de “extremadamente”.
Basándose en un análisis de los patrones de creación de contenido de varios modelos de IA, SynthID puede predecir qué palabra aparecerá después de “muy” y reemplazarla con otro sinónimo encontrado en su base de datos. La herramienta de marca de agua incrustará dichas palabras en toda la parte del contenido. Posteriormente, cuando la herramienta verifica el contenido generado por la IA, busca la cantidad de esas palabras para determinar su autenticidad.
En particular, para fotos y videos, SynthID agrega una marca de agua directa para encuadrar los píxeles para que permanezcan invisibles pero aún puedan detectarse en la herramienta. Para el audio, las ondas sonoras primero se convierten en un espectrograma y se agrega una marca de agua a esos datos visuales. Estas capacidades actualmente no están disponibles para nadie fuera de él. Google.