muerto Lanza una nueva herramienta que puede agregar una marca de agua invisible a los videos creados con inteligencia artificial (IA). La nueva herramienta, llamada Video Seal, se une a las herramientas de marca de agua existentes de la compañía, como Audio Seal y Watermark Anything. La empresa ha sugerido que la herramienta será de código abierto, pero aún no ha publicado el código. Curiosamente, la compañía afirma que la tecnología de marca de agua no afectará la calidad del video, pero será resistente a los métodos comunes para eliminarla de los videos.
Los deepfakes han inundado Internet desde la llegada de la inteligencia artificial generativa. Los deepfakes son contenidos artificiales, normalmente creados mediante inteligencia artificial, que muestran objetos, personas o escenarios falsos y engañosos. Este contenido se suele utilizar para difundir información engañosa sobre una figura pública, crear contenido sexual falso o realizar estafas.
Además, a medida que mejoren los sistemas de inteligencia artificial, el contenido deepfake será más difícil de reconocer, lo que hará más difícil distinguirlo del contenido real. Según McAfee reconocimientoel 70 por ciento de las personas ya sienten que no confían en su capacidad para distinguir entre voz real y voz generada por inteligencia artificial.
De acuerdo a Datos internos Por Sumsub El fraude profundo aumentó un 1.740 por ciento en América del Norte y un 1.530 por ciento en la región de Asia y el Pacífico en 2022. Resulta que el número se multiplicará por diez entre 2022 y 2023.
A medida que crece la preocupación por los deepfakes, muchas empresas que desarrollan modelos de IA han comenzado a lanzar herramientas de marcas de agua que pueden identificar contenido sintético a partir de contenido real. A principios de este año, Google Liberado SynthID para marcar con agua textos y vídeos generados por inteligencia artificial. Microsoft también ha lanzado herramientas similares. Además, la Alianza para la Autenticidad y el Origen del Contenido (C2PA) también está trabajando en nuevos estándares para identificar el contenido generado por IA.
Ahora Meta tiene Liberado Su herramienta Video Seal para marcar videos con IA. Los investigadores destacan que la herramienta puede marcar cada fotograma de vídeo con una etiqueta imperceptible que no puede ser manipulada. Se dice que es resistente a técnicas como el desenfoque, el recorte y la compresión del software. Sin embargo, a pesar de la adición de la marca de agua, los investigadores afirman que la calidad del vídeo no se verá comprometida.
Meta ha anunciado que Video Seal será de código abierto bajo una licencia permisiva; sin embargo, la herramienta y su código base aún no se han lanzado al dominio público.