La semana pasada estalló una pelea después de que la actriz Scarlett Johansson se quejara de que una de las voces del chatbot de OpenAI se parecía demasiado a ella. No es de ella, la empresa lo creó utilizando grabaciones de otra persona. Sin embargo, la empresa tiene comentó la voz Por respeto a las preocupaciones de Johansson. Pero el revuelo mediático abrió la puerta a una discusión más amplia sobre los derechos de las personas a expresar sus personalidades. En el La era de la inteligencia artificial generativa (genAI), ¿Son suficientes las leyes actuales para proteger el uso de la apariencia y la voz de una persona?
La respuesta no siempre es clara, dice Carys Craig, investigador de propiedad intelectual de la Universidad de York en Toronto, Canadá, quien hablará sobre el tema el próximo mes en la Asociación de Abogados de Canadá. Transmisión web.
Varios miembros del Congreso de los Estados Unidos, el año pasado, Pidió una ley federal Establecer esta protección a nivel nacional. Algunos juristas dicen que es necesario tomar medidas para mejorar los derechos de privacidad en Estados Unidos. Pero también advierten que las leyes redactadas apresuradamente pueden infringir la libertad de expresión o crear otros problemas. “Es complicado”, dice Meredith Rose, analista legal de la organización pública sin fines de lucro Public Knowledge Group en Washington, D.C. “Hay muchas cosas que podrían salir mal”.
“Apresurarse a organizar esto podría ser un error”, dice Craig.
Engañame
GenAI se puede utilizar para clonar fácilmente voces o rostros para crear falsificaciones profundas, donde la apariencia de una persona se imita digitalmente. Él hizo a la gente Deepfakes por diversión y para avanzar en la educación o la investigación. Sin embargo, también se han utilizado para difundir información errónea, intentar influir en las elecciones, crear imágenes sexuales no consensuadas o engañar a la gente para quitarle dinero.
Muchos países tienen leyes que previenen este tipo de actividades dañinas y nefastas, independientemente de si están relacionadas con la IA o no, dice Craig. Pero cuando se trata de proteger a una persona específicamente, las leyes actuales pueden ser suficientes o no.
Los derechos de autor no se aplican, dice Craig, porque están diseñados para proteger obras específicas. “Desde la perspectiva de la propiedad intelectual, la respuesta a si tenemos derechos sobre nuestros sonidos, por ejemplo, es no”, afirma. La mayoría de las discusiones sobre derechos de autor e IA se centran en cambio en si el material protegido por derechos de autor puede usarse para entrenar tecnología y cómo, y si el material nuevo que produce puede protegerse mediante derechos de autor.
Aparte de las leyes de derechos de autor, algunos territorios, incluidos algunos estados de EE. UU., tienen “derechos de publicidad” que permiten a un individuo controlar el uso comercial de su imagen, para proteger a la celebridad de pérdidas financieras. Por ejemplo, en 1988, mucho antes de que la IA entrara en escena, la cantante y actriz Bette Midler ganó “Personalización de voz”. asunto contra Ford Motor Company, que utilizó una vocalista para versionar una de sus canciones en un comercial. En 1992, la presentadora de un programa de juegos, Vanna White, ganó un premio. asunto Contra la división americana de Samsung cuando puso un robot disfrazado en un comercial.
“Tenemos un caso que involucra a alguien que realmente venció virtualmente a un robot”, dice Rose. A medida que la IA entre en escena, dice, los casos se volverán “cada vez más absurdos”.
Cómo evitar que los deepfakes de IA abrumen a la sociedad y la ciencia
Aún queda mucho por probar en los tribunales. Por ejemplo, el mes pasado el rapero Drake lanzó una canción con pistas generadas por IA del fallecido rapero Tupac Shakur. Drake eliminó la canción de los servicios de transmisión después de recibir una carta de cese y desistimiento de los herederos de Shakur. Pero no está claro, dice Craig, si el componente de inteligencia artificial de la canción es ilegal. En Tennessee, una ley aprobada este año, llamada Ley de Garantía de Seguridad de la Imagen y la Imagen de la Voz (ELVIS), busca proteger a los actores de doblaje de todos los niveles de fama de la “explotación injusta de sus voces”, incluido el uso de clones de inteligencia artificial.
En Estados Unidos, los actores tienen algunas protecciones contractuales contra la inteligencia artificial: el acuerdo que en diciembre puso fin a una huelga en Hollywood organizada por el Screen Actors Guild y la Federación Estadounidense de Artistas de Radio y Televisión incluía disposiciones para impedir que los cineastas usaran sin autorización una réplica digital. de un actor. El consentimiento del individuo en cada caso.
Mientras tanto, las empresas de tecnología individuales tienen sus propias políticas para ayudar a prevenir el uso indebido de la IA genética. Por ejemplo, OpenAI, con sede en San Francisco, California, no ha lanzado al público en general el software de clonación de audio que utilizó para generar sonidos en su chatbot. Reconocimiento “Emitir una retórica que suene como la voz de la gente conlleva serios riesgos”. Las políticas de uso de los socios que prueban la tecnología “prohíben la suplantación de otro individuo u organización sin consentimiento o derecho legal”.
Otros países están adoptando enfoques tecnológicos para detener el abuso: el mes pasado, la Comisión Federal de Comercio de EE. UU. Anunciar a los ganadores Por el desafío que enfrenta “proteger a los consumidores del uso indebido de la reproducción de voz basada en inteligencia artificial para fraude y otros daños”. Esto incluye métodos para marcar el audio real con marcas de agua en el momento de la grabación y herramientas para detectar audio generado por genAI.
amplia gama
Más preocupante que la pérdida de ingresos para los actores, dicen Rose y Craig, es el uso de inteligencia artificial para clonar imágenes de personas para usos que incluyen la pornografía no consensuada. “En primer lugar, tenemos leyes inadecuadas e insuficientes en torno a las imágenes no consensuadas, por no hablar de la IA”, afirma Rose. Añade que el hecho de que ahora sea más fácil crear pornografía falsa, incluidas imágenes de menores, debería ser motivo de grave preocupación. Algunos juristas, incluido Daniel Citron de la Universidad de Virginia en Charlottesville, están pidiendo reformas legales que reconozcan la “privacidad íntima” como un derecho civil estadounidense, similar al derecho a votar o al derecho a un juicio justo.
Rose dice que las leyes actuales sobre derechos de publicidad no son adecuadas para cubrir a personas no famosas. “El derecho a la publicidad se basa en personas conocidas y distinguidas en aplicaciones comerciales”, afirma. “Esto tiene sentido para Scarlett Johansson, pero no para una joven de 16 años que está siendo utilizada en fotografías no consensuadas”.
Sin embargo, Rose dice que las propuestas para extender los derechos de publicidad a particulares en Estados Unidos podrían tener consecuencias no deseadas. Ha escrito al Congreso de Estados Unidos expresando su preocupación de que algunas de las leyes propuestas puedan permitir abusos por parte de empresas poderosas. Por ejemplo, una aplicación de teléfono inteligente para crear nuevas fotografías podría incluir una cláusula en sus términos de servicio que “otorgue a la aplicación una licencia irrevocable y sin restricciones para hacer uso de la fotografía del usuario”.
También hay un problema similar, dice Rose: una imagen o voz de alguien generada aleatoriamente por IA seguramente se parecerá al menos a una persona real, que luego podría buscar una compensación.
Las leyes están destinadas a proteger a las personas. Podría correr el riesgo de ir demasiado lejos y amenazar la libertad de expresión. “Cuando tienes derechos demasiado amplios, limitas la libertad de expresión”, dice Craig. “Las restricciones sobre lo que permitimos controlar a los titulares de derechos de autor existen por una razón; para permitir que las personas se inspiren, creen cosas nuevas y contribuyan a la conversación cultural”, dice. Parodias y otras obras que se basan en una obra original y la transforman. a menudo caen dentro del alcance del uso legítimo legal, como debería ser” versión muy restringida [of these laws] “Eliminaría la parodia”, dice Rose.
