[ad_1]
Google anunció Comenzará a implementar una nueva función para ayudar a los usuarios a “comprender mejor cómo se creó y editó un contenido específico”.
Esto se produce después de que la empresa se uniera. Alianza de autenticidad y procedencia del contenido (C2PA) (un grupo de marcas importantes que intentan combatir la difusión de información errónea en línea) y ayudó a desarrollar lo último Credenciales de contenido estándar. Amazonas, Adobe y microsoft También son miembros del comité.
Su lanzamiento está previsto para los próximos meses. Google La compañía dice que utilizará las pautas de credenciales de contenido existentes, conocidas como metadatos de imágenes, dentro de los parámetros de búsqueda para agregar una etiqueta a las imágenes creadas o editadas por IA, brindando más transparencia a los usuarios. Estos metadatos incluyen información como el origen de la imagen, así como cuándo, dónde y cómo se creó.
Sin embargo, el estándar C2PA, que ofrece a los usuarios la posibilidad de rastrear el origen de diferentes tipos de medios, ha sido rechazado por muchos desarrolladores de IA, como Black Forrest Labs, la empresa detrás del modelo Flux que Grok de X (anteriormente Twitter) utiliza para generar imágenes.
Este reconocimiento de IA lo llevará a cabo el Google existente Acerca de esta imagen ventana, lo que significa que también estará disponible para los usuarios a través lente de google Y la función “Circuito de búsqueda” en Android. Cuando esté disponible, los usuarios podrán tocar los tres puntos encima de una imagen y elegir “Acerca de esta imagen” para comprobar si la imagen fue generada por IA, por lo que no será tan clara como esperábamos.
¿Es esto suficiente?
Si bien Google necesita hacer esto Algo Con respecto a las imágenes generadas por IA en los resultados de búsqueda, la pregunta sigue siendo si marcarlas como ocultas es suficiente. Si la función funciona como se indica, los usuarios deberán realizar pasos adicionales para verificar si la imagen se creó con IA antes de que Google lo confirme. Aquellos que aún no conocen la existencia de la función Acerca de esta imagen tal vez ni siquiera se den cuenta de que hay una nueva herramienta disponible para ellos.
Si bien en videos falsos se han visto casos como el que ocurrió a principios de este año cuando Un empleado de finanzas fue defraudado por 25 millones de dólares Para un grupo que pretende ser su director financiero, las imágenes generadas por IA son casi problemáticas. Donald Trump recientemente Publicó fotos digitales de Taylor Swift y sus fans. Apoyó falsamente su campaña presidencial y Swift fue víctima de agresión sexual basada en imágenes cuando Sus fotos de desnudos generadas por IA se volvieron virales.
Si bien es fácil quejarse de que Google no se está esforzando lo suficiente, Meta no está dispuesta a dejar salir al gato de la bolsa. Gigante de las redes sociales Actualizado recientemente Su política es hacer que las etiquetas sean menos visibles y mover la información relevante al menú de publicaciones.
Si bien esta actualización de la herramienta Acerca de esta imagen es un primer paso positivo, se necesitarán medidas adicionales estrictas para mantener a los usuarios informados y protegidos. Más empresas, como los fabricantes de cámaras y los desarrolladores de herramientas de inteligencia artificial, también deberán aceptar y utilizar marcas de agua C2PA para garantizar que este sistema sea lo más efectivo posible, ya que Google dependerá de estos datos. Hay algunos modelos de cámaras como Leica M-11P y el nikon z9 Tiene funciones de credenciales de contenido integradas, mientras que Adobe ha implementado una versión beta en ambos. Photoshop Y sala de luz. Pero nuevamente, depende del usuario utilizar las funciones y proporcionar información precisa.
en Un estudio realizado por la Universidad de WaterlooSólo el 61% de las personas puede distinguir entre imágenes generadas por IA y imágenes reales. Si estas cifras son exactas, el sistema de clasificación de Google no proporcionaría ninguna transparencia adicional para más de un tercio de las personas. Sin embargo, es un movimiento positivo de Google en la batalla para frenar la desinformación en línea, pero sería bueno si los gigantes tecnológicos hicieran estas clasificaciones más accesibles.
También te puede gustar…
[ad_2]
Source Article Link