La tecnología deepfake se está convirtiendo rápidamente en la última “caja de Pandora” de inteligencia artificial. Ya no solo se produce contenido satírico para políticos (¿quién olvidará alguna vez al Papa Moncler, un deportista?), ahora estamos viendo cómo la IA generativa se utiliza activamente como arma, desde falsificaciones políticas engañosas, anuncios de celebridades e incluso escolares que falsifican fotografías explícitas de sus compañeros de clase.
Como capacidades Herramientas de inteligencia artificial En la carrera por delante de la organización, muchos están cada vez más preocupados por la amenaza real que representa. Se ha introducido nueva legislación, pero la mayor parte de ella es demasiado limitada o demasiado vaga para proteger a las personas de manera integral. Por otro lado, estas nuevas reglas tienen implicaciones que podrían detectar fácilmente a los profesionales que intentan utilizar la IA generativa de manera legítima.
Entonces, ¿qué protecciones legales existen actualmente en el Reino Unido en relación con los deepfakes y qué comportamientos están prohibidos?
Graeme Murray es asociado senior de Marks & Clerks y Michael Shaw es socio de Marks & Clerk.
Variedades faciales
Primero, es importante definir qué es lo que realmente hace que un deepfake sea un deepfake. Después de todo, las similitudes existen en la naturaleza (hay un viejo dicho que dice que siete personas en el mundo se parecen a usted), pero ¿cuán similares están protegidos por las regulaciones y dónde pueden tropezar en su negocio? Un ejemplo útil de esto es la sentencia de 2019 contra la empresa de cigarrillos electrónicos Diamond Mist. La publicidad de la empresa incluía un anuncio con la frase “Mo está loco por el mentol” acompañado de fotografías de un modelo masculino calvo y cejas pobladas.
Mo Farah recurrió a Twitter para quejarse de la posible confusión y la gente preocupada creyó que respaldaba el producto. En última instancia, la Agencia de Normas de Publicidad (ASA) dictaminó que el anuncio efectivamente daba una “impresión engañosa”: si bien “Mo” es un apodo común, la cabeza y las cejas del modelo “recordaban” lo suficiente al atleta como para que los espectadores pudieran asociarlo con él. . Mo Farah es una de las personalidades más famosas del Reino Unido con este nombre.
Y aquí está el quid de la cuestión: aunque la foto no era deepfake, era lo suficientemente similar como para confundir a los espectadores, y lo mismo ocurre con las fotos deepfake. Si es lo suficientemente engañoso como para confundir a otra persona, tiene motivos para considerar presentar una demanda.
Por el contrario, como empresa, debe considerar todas las interpretaciones posibles de las imágenes para asegurarse de poder utilizar la IA generativa sin tener complicaciones legales. El hecho de que la imagen genérica de la IA que utilizas para escribir un artículo de LinkedIn parezca genérica no significa que lo sea. La voz, los gestos y el contexto son factores que se tienen en cuenta. Pero la pregunta al final es: ¿Confundió a los espectadores?
Legislación actual sobre deepfakes
Hasta la fecha, no existe ninguna ley en el Reino Unido que proporcione una protección integral contra los deepfakes. En cambio, los individuos están protegidos bajo una variedad de regulaciones dependiendo de la naturaleza del deepfake.
ley de seguridad en internet
La Ley de Seguridad en Internet tiene una disposición importante contra los deepfakes. Si bien ha sido ilegal compartir imágenes íntimas o explícitas de alguien sin su consentimiento desde 2015, la Ley de Seguridad en Línea ha empeorado esta disposición para hacer ilegal compartir imágenes íntimas de alguien generadas por IA sin su consentimiento. Es importante destacar que, a diferencia de la sentencia para contenido íntimo genuino, no es necesario demostrar que el creador tenía la intención de causar angustia en el caso de imágenes falsas, aunque este es otro delito grave si se puede probar la intención sexual. Es importante señalar que esta disposición no penaliza la creación de contenido deepfake, solo su intercambio. La Ley de Seguridad en Internet también se centra principalmente en eliminar contenido ofensivo; A muchos les preocupa que las disposiciones resulten ineficaces mientras la creación de deepfakes íntimos siga sin estar regulada y los perpetradores queden impunes.
Agencia de normas de publicidad
La ASA interviene cuando los anuncios contienen contenido engañoso. En el caso de los deepfakes, esto suele ocurrir en el caso de publicidad fraudulenta o clickbait; Es poco probable que esto afecte a la gente corriente, y quienes dirigen empresas deberían saber que no deben utilizar celebridades, que normalmente marcan su apariencia, gestos y voces, por ejemplo.
Sin embargo, lo más interesante es el área gris de similitud que los deepfakes exacerbarán. Una cosa que el caso Mo Farah destacó particularmente es que el parecido no necesita ser idéntico, sólo necesita confundir al espectador lo suficiente como para crear dudas razonables. Con la IA generativa extraída de material protegido por derechos de autor, ahora existe el riesgo de que las empresas violen accidentalmente las regulaciones de la ASA al utilizar resultados de IA genéricos que, sin darse cuenta, se parecen lo suficiente a celebridades de la vida real como para causar confusión. La intención en este caso es irrelevante: lo único que importa es si los espectadores fueron engañados, y eso podría llevar a las empresas a tener problemas con la ASA.
derecho civil
El último recurso para los ciudadanos del Reino Unido es el derecho civil. Aunque no existe una legislación específica que aborde los deepfakes, las personas pueden solicitar asilo en los siguientes casos:
- Privacidad: los deepfakes pueden considerarse una violación del derecho de un individuo privacidadespecialmente si pueden demostrar que el creador del contenido utilizó datos personales para crearlo, lo cual está protegido por el RGPD del Reino Unido y la Ley de Protección de Datos de 2018.
- Acoso: Múltiples deepfakes con la intención de causar ansiedad o angustia pueden formar la base de un reclamo de acoso.
- Difamación: si un deepfake tiene un impacto negativo en la reputación de una persona al retratarla de manera falsa o dañina, existe la posibilidad de que se presente un caso por difamación.
En tales casos, sería mejor que la persona buscara orientación legal sobre cómo proceder.
El futuro de la legislación deepfake
Entonces, ¿hacia dónde irá la legislación a partir de aquí? Con suerte, en el futuro. El gobierno del Reino Unido ha dado un gran paso atrás en este tema en el período previo a las elecciones, pero con la ley de IA de la UE a la cabeza, es probable que pronto veamos nuevas regulaciones.
Pero el problema más importante es la implementación. De los tres organismos que analizamos anteriormente, la Ley de Seguridad en Línea, la Agencia de Normas de Publicidad y el Código Civil del Reino Unido, se centran en regular la producción caso por caso. Actualmente, el Reino Unido no cuenta con ninguna regulación ni propuestas para introducir mayores medidas de seguridad en torno a los propios programas. De hecho, muchos están celebrando la falta de regulación en el Reino Unido tras la ley de IA de la UE, con la esperanza de que suponga una bendición para las industrias de la IA.
Sin embargo, las estrategias actuales siguen siendo ineficaces. Las víctimas necesitan apoyo legal para lograr avances en los casos, y los creadores siguen escapando de las repercusiones. Del mismo modo, controlar la tecnología a gran escala se considera poco práctico; basta con mirar el Reglamento General de Protección de Datos (GDPR) para entenderlo. Los esfuerzos para lograrlo, como la ley de IA de la UE, aún no logran abordar el problema, ya que las tecnologías generativas de código abierto siguen sin estar completamente reguladas.
Parece que se necesitará un árbitro independiente (el panel de IA de Ofcom), pero aún está por ver qué tan independiente o efectivo será. Esperemos que el nuevo gobierno pueda lograr algún tipo de equilibrio entre la industria y la protección personal. un trabajo innovación.
Hemos enumerado las mejores computadoras portátiles empresariales..
Este artículo se produjo como parte del canal Expert Insights de TechRadarPro, donde mostramos las mejores y más brillantes mentes de la industria tecnológica actual. Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro