Categories
News

Se dice que eBay y Beazley son objeto de estafas de phishing avanzadas generadas por IA

[ad_1]

eBayel gigante del comercio electrónico y varias otras empresas están viendo un volumen cada vez mayor de ataques de phishing personales dirigidos a empleados de alto nivel. Según el informe, estas estafas de phishing se llevan a cabo utilizando sistemas de inteligencia artificial (IA) para que parezcan humanos y evitar los signos obvios de los típicos correos electrónicos de phishing. También se dice que estos ciberatacantes utilizan inteligencia artificial para extraer y analizar datos relacionados con los ejecutivos de la empresa para añadir un toque personal a los mensajes. Se dice que los filtros de seguridad básicos son insuficientes para detener estos correos electrónicos a nivel organizacional.

Dirigirse a ejecutivos de empresas con estafas de phishing utilizando IA

Según el Financial Times un informeempresas como eBay y la compañía de seguros Beazley, con sede en el Reino Unido, han destacado el aumento de correos electrónicos fraudulentos que contienen información personal sobre sus empleados de nivel ejecutivo.

Kirsty Kelly, directora de seguridad de la información de Paisley, dijo al periódico que se sospechaba que Amnistía Internacional estaba detrás de los ataques debido a la naturaleza personal de los correos electrónicos. Kelly también habría añadido que estos ataques de phishing dirigidos probablemente se llevaron a cabo después de extraer una gran cantidad de datos sobre los empleados de diversas fuentes.

Vale la pena señalar, Phishing Las estafas implican engañar a una persona para que revele información financiera y confidencial haciéndose pasar por una entidad confiable. Esto generalmente se hace a través de correos electrónicos, mensajes de texto o compartiendo URL con sitios web fraudulentos. Sin embargo, los ataques de phishing típicos son impersonales y a menudo incluyen información ambigua y errores gramaticales que resultan en una baja tasa de éxito.

Sin embargo, según el informe, las estafas de phishing generadas por IA se diferencian en que utilizan un lenguaje muy emocional y comparten información personal sobre el objetivo. Estos correos electrónicos pueden ser más persuasivos y generar una respuesta positiva de las personas.

Al destacar que las herramientas de inteligencia artificial generativa reducen las barreras para llevar a cabo ataques cibernéticos, Nadezhda Demidova, investigadora de seguridad contra delitos cibernéticos en eBay, dijo al Financial Times: “Hemos visto un crecimiento en la escala de todos los tipos de ataques cibernéticos”. Según se informa, añadió que un área particular de preocupación son las estafas de phishing “refinadas y muy específicas”.

El investigador de seguridad también habría explicado que los filtros de seguridad básicos que normalmente identifican y bloquean campañas masivas de phishing pueden tener dificultades para detener los correos electrónicos generados por IA, ya que se pueden llevar a cabo ataques de gran volumen donde cada correo electrónico es único y parece ser enviado por remitentes legítimos. .

[ad_2]

Source Article Link

Categories
Life Style

1 de cada 6 congresistas es víctima de imágenes íntimas no consensuadas generadas por inteligencia artificial, según un nuevo informe.

[ad_1]

El campo de la política se está volviendo más complejo para las mujeres líderes, y el aumento de la inteligencia artificial generativa representa un riesgo mayor para las mujeres políticas que para los hombres, según un informe publicado esta semana.

Análisis publicado por el Centro de Investigación de Desinformación Proyecto Americano de Luz Solar (ASP) a través de decimonoveno El 11 de diciembre, se revelaron más de 35.000 piezas de imágenes íntimas alteradas digitalmente (NCII) que representan a 26 miembros del Congreso. Las cifras de la ASP, cuando se desglosan, ilustran una cruda realidad para las víctimas del NCII: entre esas miles de imágenes, la organización encontró 25 mujeres políticas fotografiadas por inteligencia artificial. Sólo un hombre fue objeto de este contenido.

Durante todo el período del estudio, las mujeres miembros del Congreso tenían 70 veces más probabilidades que los hombres de ser blanco de imágenes protésicas no consensuales, y 1 de cada 6 congresistas (o el 16 por ciento) fueron víctimas de imágenes íntimas no consensuadas.

Los líderes de todos los partidos políticos han intentado abordar el aumento del NCII y de las imágenes generadas por inteligencia artificial, pero han tardado en llegar a un consenso. En enero, un grupo bipartidista de senadores presentó la Ley de alteración de imágenes explícitas y ediciones no consensuales de 2024 (Ley de impugnación), tiene como objetivo tipificar como delito el acto de difundir “falsificaciones digitales” de carácter sexual realizadas utilizando inteligencia artificial sin su consentimiento. Fue Aprobar En julio, pero todavía está bajo consideración en la Cámara de Representantes.

Velocidad de la luz triturable

La semana pasada en el Senado. Aprobar el la ley lo toma, Fue presentado por el senador Ted Cruz en junio. Asimismo, el proyecto de ley penaliza la difusión en línea de contenido deepfake manipulado digitalmente, pero también impone sanciones a las empresas que no eliminen dicho contenido dentro de las 48 horas posteriores a su denuncia.

Pero la realidad de género de las imágenes mejoradas por IA no puede subestimarse, especialmente ahora que las líderes femeninas navegan en un entorno en línea riesgoso que las pone en mayor riesgo de sufrir agresión sexual. En agosto, el Centro para Contrarrestar el Odio Digital publicó un estudio sobre El aumento del odio en línea Y participación negativa en los perfiles sociales de las mujeres políticas. Según un análisis de los perfiles de Instagram de 10 mujeres, uno de cada 25 comentarios era “muy probable” que fuera tóxico. Instagram no actuó ante el 93 por ciento de los comentarios ofensivos reportados dirigidos a mujeres políticas.

“Necesitamos tener en cuenta este nuevo entorno y el hecho de que Internet ha abierto muchos de estos daños que afectan desproporcionadamente a las mujeres y las comunidades marginadas”, dijo la fundadora y autora del American Sunlight Project, Nina Yankovic. “Mi esperanza aquí es que los miembros se muevan a la acción cuando se den cuenta de que no sólo está afectando a las mujeres estadounidenses, sino que las está afectando a ellas. Está afectando a sus colegas. Y está sucediendo simplemente porque están en el ojo público”.

La ASP notificó a las oficinas de los políticos afectados, alertándolos sobre el NCII generado por IA. Las imágenes fueron eliminadas casi por completo tras el aviso, aunque la organización no recibió ningún comentario.

Si comparte imágenes íntimas sin consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber ​​​​Civil Rights Initiative al 844-878-2274 para obtener asistencia gratuita y confidencial. El sitio web del CCRI también incluye Información útil Así como una lista Recursos internacionales.



[ad_2]

Source Article Link

Categories
Life Style

¿Por qué las cartas de recomendación generadas por IA no venden a los solicitantes?

[ad_1]

Primer plano de la mano de un hombre escribiendo en un trozo de papel

Maroun Khoury enfatiza la necesidad de confiar en interacciones y experiencias personales al escribir cartas de recomendación.Crédito: Damerkodic/Getty

Como investigador principal en un laboratorio de investigación especializado en terapéutica avanzada, habitualmente me piden que escriba cartas de recomendación para mis alumnos, colegas y colegas. También recibo a menudo mensajes de este tipo de candidatos que solicitan oportunidades laborales en nuestro grupo. Durante el año pasado, noté un desarrollo interesante pero preocupante: muchos de estos mensajes parecen producirse no a mano, sino mediante el uso de herramientas de inteligencia artificial (IA) como ChatGPT.

No hay duda de que estos chatbots son geniales. Pueden crear cartas de referencia automáticamente basándose en datos y patrones para crear composiciones coherentes y gramaticalmente correctas. Los investigadores que tienen tiempo limitado, o para quienes el inglés no es su primer idioma, pueden utilizar estas ayudas para hacer que el proceso de redacción sea más manejable, asegurando que las recomendaciones se comuniquen de manera efectiva.

Sin embargo, como alguien que valora las relaciones personales, encuentro que la mayoría de estos mensajes generados por IA carecen de una cualidad clave, en detrimento del candidato: el toque personal.

Aquí proporciono consejos para escribir una carta de recomendación eficaz y destaco formas de utilizar la IA sin menospreciar al solicitante.

1. Sea personal

Una carta de referencia significativa requiere que usted reflexione sobre sus interacciones y experiencias personales con la persona en cuestión. Esto incluye compartir ejemplos específicos de instancias en las que fue testigo de las competencias y comportamientos del candidato, e integrar esas anécdotas en una narrativa que resalte sus fortalezas y contribuciones.

La IA carece de esta base y produce textos que pueden ser coherentes e incluso precisos, pero carecen de emoción o especificidad. En lugar de un respaldo personal, el resultado es un mensaje carente de emoción o precisión, porque no se basa en la experiencia directa. Esto no le hace ningún favor al candidato, porque no logra captar los matices de sus logros, personalidad, fortalezas y potencial.

2. Proporcionar una evaluación real

Su trabajo al escribir una carta de recomendación es ir más allá de lo que el candidato ha logrado y predecir si tendrá éxito en su próximo puesto. Para hacer esto, debe mirar más allá de las frías métricas y considerar cómo manejaron un proyecto difícil, cómo desarrollaron con el tiempo o fortalecieron un equipo: conocimientos que pueden ayudar a poner las habilidades y rasgos de un candidato en contexto, y tal vez aumentar su comerciabilidad.

Por ejemplo, digamos que un miembro de su equipo ha demostrado habilidades excepcionales de liderazgo y gestión de proyectos. Puede resaltar cómo dirigieron con éxito a un equipo para completar un gran proyecto en plazos ajustados, detallando los desafíos específicos que enfrentaron. Al proporcionar ejemplos concretos, demuestra no sólo sus habilidades, sino también su valor para los empleadores potenciales.

Foto de Maroun Khoury

Maroun Khoury dice que las cartas de recomendación deben tener un toque personal que vaya más allá de los hechos secos y la prosa sin emociones.Fuente: Centro IMPACT/Rolando Oyarzón

Cuando escribo sobre las calificaciones de alguien, no solo comparto hechos y cifras, sino que también comparto mi confianza en ellos. Este respaldo real es algo que la IA no puede replicar. Echa de menos ese toque personal y el compromiso emocional que provienen de experiencias y recuerdos vívidos.

Piénselo desde la perspectiva del destinatario: si no puede molestarse en escribir personalmente una carta apoyando al candidato, que probablemente haya sido miembro de su equipo durante años, ¿por qué querría contratarlo?

3. Utilice la IA, pero con moderación

Aunque ChatGPT y otras herramientas de IA tienen grandes capacidades, carecen de ellas en áreas donde la aportación y el discernimiento humanos son esenciales. Claro, puedes usar la IA para pulir el texto, corregir la gramática o convertir pensamientos detallados en prosa que luego puedes mejorar. Sin embargo, en el contexto de la redacción de cartas de referencia, la deficiencia no es una falta de dominio lingüístico; Más bien, es la ausencia de conexión personal y autenticidad que se deriva de la experiencia humana concreta.

El mundo contemporáneo se está volviendo cada vez más digital; Sin embargo, las interacciones profesionales y las relaciones personales aún requieren participación humana. Una carta de referencia eficaz depende de una verdadera introspección y de una recomendación personal que sólo usted, el escritor, puede brindar. Cuando las solicitudes y respuestas son impulsadas por la IA, existe el riesgo de que las conversaciones significativas se conviertan en simples copiar y pegar.

4. ¡Ayuda, mi supervisor me dio un mensaje generado por IA!

Aunque las cartas de recomendación son generalmente confidenciales, es posible que un candidato aún pueda obtener una copia, por ejemplo, si se le pide que cargue la carta él mismo en un sitio de carreras.

Si, como candidato, recibe una carta de recomendación genérica o cargada de IA, no dude en comunicarse con el comité de contratación o de financiación para explicar las limitaciones de la carta y complementarla con materiales o experiencias personales que destaquen sus fortalezas. Alternativamente, considere pedir una recomendación de una referencia diferente. Recuerda que has puesto mucho tiempo y esfuerzo en tu trabajo; Está bien pedirle un poco de tiempo a su supervisor para respaldar su solicitud.

Cualquiera que sea su función, no permita que la IA arruine una importante oportunidad profesional. Tanto los candidatos como los jueces se benefician al dominar el arte de la comunicación personal, sin depender del toque algorítmico.

Intereses en competencia

MK es profesor titular de la Universidad de los Andes, Chile. Es el director científico de Cells for Cells, una filial de terapia celular del mismo instituto. También en Regenero, un consorcio chileno financiado por el sector público y privado está desarrollando tratamientos para la artrosis, la pulpitis y la insuficiencia cardíaca. Reporta subvenciones de financiadores públicos y privados, incluida la Agencia Nacional de Investigación y Desarrollo de Chile, y tiene las siguientes patentes en trámite: WO2014135924A1, WO2017064670A2, WO2017064672A1 y WO/2019/051623.

[ad_2]

Source Article Link

Categories
Life Style

Las imágenes generadas por IA amenazan a la ciencia, así es como los investigadores esperan descubrirlo

[ad_1]

Una composición de seis imágenes microscópicas generadas por inteligencia artificial

Todas estas imágenes fueron generadas por inteligencia artificial.Crédito: Prueba AI, 2024

De la manipulación de los números por parte de los científicos a la producción masiva de artículos falsos Fábricas de papelLos manuscritos problemáticos han plagado la literatura académica durante mucho tiempo. Los investigadores científicos trabajan incansablemente Descubrir este mal comportamiento y corregir el registro científico. Pero su tarea se ha vuelto más difícil debido a la introducción de una nueva y poderosa herramienta en manos de los estafadores: una herramienta generativa. inteligencia artificial (Amnistía Internacional).

“La IA generativa está evolucionando muy rápidamente”, afirma. Jana Cristóbalanalista de integración de imágenes en FEBS Press en Heidelberg, Alemania. “Las personas que trabajan en mi campo (integridad de imagen y ética editorial) están cada vez más preocupadas por las posibilidades que ofrece”.

La facilidad que Las herramientas de IA generativa pueden generar textoLas imágenes y los datos generan preocupación sobre una literatura científica cada vez menos confiable, llena de números, manuscritos y conclusiones falsas que son difíciles de detectar para los humanos. Ya ha comenzado a surgir una carrera armamentista a medida que compiten especialistas en integridad, editores y empresas de tecnología. Desarrollando herramientas de inteligencia artificial Lo que puede ayudar a detectar rápidamente elementos fraudulentos creados por inteligencia artificial.

“Es un hecho aterrador”, dice Christopher. “Pero también hay gente inteligente y se proponen buenos cambios estructurales”.

Aunque muchas revistas ya permiten los textos generados por IA en algunas circunstancias, es poco probable que se considere aceptable el uso de tales herramientas para generar imágenes u otros datos, dicen los especialistas en integridad de la investigación. “En un futuro próximo, es posible que aceptemos utilizar textos generados por IA”, afirma. Elizabeth Beckespecialista y consultor forense de imágenes en San Francisco, California. “Pero trazo un límite en la generación de datos”.

Beck, Christopher y otros sospechan que los datos, incluidas las imágenes, generados mediante IA generativa ya están muy extendidos en la literatura, y que las fábricas de papel están aprovechando las herramientas de IA para producir manuscritos en masa (consulte “Prueba: ¿Puedes detectar falsificaciones respaldadas por inteligencia artificial?

Bajo el radar

Identificar imágenes producidas por IA plantea un gran desafío: a menudo es casi imposible distinguirlas de imágenes reales, al menos a simple vista. “Sentimos que nos topamos con imágenes generadas por IA todos los días”, dice Christopher. “Pero mientras no puedas probarlo, no hay mucho que puedas hacer”.

Hay algunos ejemplos claros del uso de IA generativa en imágenes científicas, por ejemplo La ahora infame figura de una rata con genitales absurdamente grandes y etiquetas sin sentido, creadas con la herramienta de imágenes Midjourney. El dibujo, publicado en una revista en febrero, causó furor en las redes sociales y fue retirarse Días después.

Prueba: ¿Se pueden detectar productos falsificados mediante inteligencia artificial? Una serie de seis imágenes, tres de las cuales fueron producidas por un software de imágenes de inteligencia artificial.

Crédito: Proofig (imágenes generadas)

La mayoría de los casos no son muy claros. Las figuras hechas con Adobe Photoshop o herramientas similares antes de la llegada de la IA generativa (particularmente en biología molecular y celular) a menudo contienen signos que los investigadores pueden detectar, como fondos idénticos o ausencias inusuales de manchas o manchas. Las formas creadas por inteligencia artificial a menudo carecen de dichas marcas. “Veo toneladas de artículos en los que creo que estas manchas occidentales no parecen reales, pero no hay pruebas contundentes”, dice Beck. “Sólo se puede decir que parece extraño y, por supuesto, eso no es evidencia suficiente para escribirle al editor”.

Pero la evidencia sugiere que figuras creadas por IA aparecen en manuscritos publicados. Los textos escritos utilizando herramientas como ChatGPT están aumentando en los artículos de investigación, que están siendo eliminados por frases estándar de chatbot que los autores olvidan eliminar y las palabras detalladas que los modelos de IA tienden a usar. “Por tanto, debemos suponer que esto también ocurre con los datos y las imágenes”, afirma Beck.

Una prueba más de que los estafadores están utilizando herramientas de imágenes sofisticadas es que la mayoría de los problemas que los investigadores están descubriendo actualmente se encuentran en artículos que tienen varios años de antigüedad. “En los últimos años, hemos visto cada vez menos problemas de imagen”, dice Beck. “Creo que la mayoría de las personas que fueron sorprendidas alterando imágenes han pasado a crear imágenes más nítidas”.

Cómo crear imágenes

Crear imágenes limpias utilizando IA generativa no es difícil. Kevin Patrick, un investigador científico de imágenes conocido como Cheshire en las redes sociales, demostró lo fácil que es y publicó sus resultados sobre manchas occidentales y más. La mayoría de las imágenes tardaron menos de un minuto en producirse (consulte “Creación de una bandera falsa”).

“Si puedes hacerlo, las personas a las que se les paga por crear datos falsos sin duda lo harán”, afirma Patrick. “Probablemente hay muchos otros datos que se pueden generar usando herramientas como esta”.

Algunos editores dicen haber encontrado evidencia de contenido generado por IA en estudios publicados. Estos sitios incluyen PLoS, que fue alertado sobre contenido sospechoso y encontró evidencia de texto y datos generados por IA en artículos de investigación y presentaciones a través de investigaciones internas, dice Rene Hoch, editor en jefe del equipo de ética editorial de PLoS en San Francisco, California. (Hoch señala que el uso de IA no está prohibido en las revistas PLoS y que su política de IA se centra en la responsabilidad del autor y la divulgación transparente).

Generación de pseudociencia: ejemplos de imágenes de cultivos celulares, muestras de tumores y transferencias Western generadas por IA.

Crédito: Kevin Patrick

Otras herramientas también pueden brindar oportunidades a las personas que quieran crear contenido falso. El mes pasado, los investigadores publicaron1 Un modelo de IA generativa para crear imágenes microscópicas de alta resolución, y algunos profesionales de la integridad han expresado su preocupación sobre este trabajo. “Esta tecnología puede ser utilizada fácilmente por personas con malas intenciones para crear rápidamente cientos o miles de imágenes falsas”, dice Beck.

La herramienta es útil para producir datos de entrenamiento para modelos, dada la dificultad de obtener imágenes microscópicas de alta resolución, dice Yoav Shechtman del Instituto Tecnológico Technion-Israel en Haifa, el creador de la herramienta. Pero añade que no sirve de nada producir imágenes falsas, porque los usuarios tienen poco control sobre el resultado. Señala que los programas de imágenes actuales, como Photoshop, son más útiles para trabajar con formas.

Eliminar productos falsificados

Es posible que los ojos humanos no puedan hacer esto Toma fotografías creativas hechas con inteligencia artificialpero la IA podría serlo (consulte “Las imágenes de IA son difíciles de detectar”).

Los creadores de herramientas como Imagetwin y Proofig, que utilizan IA para detectar problemas de integridad en figuras científicas, están ampliando su software para extraer imágenes generadas por IA generativa. Dado que este tipo de imágenes son difíciles de detectar, las dos empresas están creando sus propias bases de datos de imágenes generativas de IA para entrenar sus algoritmos.

Proofig ya ha lanzado una función en su herramienta para detectar imágenes microscópicas generadas por inteligencia artificial. Cuando se probó en miles de imágenes reales y generadas por IA a partir de artículos, el algoritmo identificó imágenes de IA el 98% de las veces y tuvo una tasa de falsos positivos del 0,02%, dice el cofundador de la compañía, Dror Kolodkin Gal, en Rehovot, Israel. . Dror añade que el equipo ahora está trabajando para intentar comprender exactamente qué detecta el algoritmo.

“Tengo grandes esperanzas en estas herramientas”, dice Christopher. Pero señala que sus resultados siempre necesitarán ser evaluados por un experto que pueda verificar los problemas que señalan. Christopher aún no ha visto pruebas de la fiabilidad de los programas de IA de detección de imágenes (la evaluación interna de Proofig no se ha publicado). Añade que estas herramientas son “limitadas, pero ciertamente muy útiles, porque significa que podemos intensificar nuestros esfuerzos en la selección de presentaciones”.

Las imágenes de IA son difíciles de detectar: ​​un gráfico que muestra la lucha de los investigadores por reconocer imágenes microscópicas generadas por IA, con una tasa de éxito promedio del 50%.

fuente: Competencia de prueba

Muchas editoriales e instituciones de investigación ya lo están utilizando. prueba y imagentoína. Por ejemplo, las revistas científicas utilizan Proofig para investigar cuestiones de integridad de imágenes. Según Megan Phelan, directora de comunicaciones de… ciencias En Washington, D.C., la herramienta aún no ha revelado ninguna imagen generada por IA.

Springer Nature, que publica naturalezaAmazon está desarrollando sus propias herramientas de detección de texto e imágenes, llamadas Geppetto y SnapShot, que identifican violaciones que luego son evaluadas por humanos. (el naturaleza El equipo de noticias es editorialmente independiente de su editor).

Estafadores, cuidado

Los grupos editoriales también están tomando medidas para procesar imágenes generadas por IA. Un portavoz de la Asociación Internacional de Editores Científicos, Técnicos y Médicos (STM) en Oxford, Reino Unido, dijo que se toma el problema “muy en serio” y señaló iniciativas como United2Act y el Centro de Integridad STM, a saber Procesamiento de fábricas de papel Y otras cuestiones de integridad científica.

Christopher, que preside el grupo de trabajo de STM sobre modificaciones y replicación de imágenes, dice que cada vez se comprende más que desarrollar métodos para verificar datos sin procesar (como poner marcas de agua invisibles en imágenes tomadas con microscopios) es similar a las marcas de agua invisibles. Los utilizados en el texto generado por IA – Puede que sea el camino a seguir. Esto requerirá nuevas tecnologías y nuevos estándares para los fabricantes de equipos, añade.

A Patrick y otros les preocupa que los editores no actúen lo suficientemente rápido para enfrentar la amenaza. “Nos preocupa que esto sea sólo otra generación de problemas en la literatura a los que no se abordará hasta que sea demasiado tarde”, dice.

Sin embargo, algunos son optimistas en cuanto a que el contenido generado por IA que se publica hoy en los periódicos se descubrirá en el futuro.

“Tengo plena confianza en que la tecnología mejorará hasta el punto en que pueda comprender las cosas que se hacen hoy en día, porque en algún momento serán vistas como relativamente primitivas”, dice Patrick. “Los estafadores no deberían dormir bien por la noche. Pueden engañar el proceso hoy, pero no creo que puedan engañarlo para siempre”.

[ad_2]

Source Article Link

Categories
Life Style

YouTube añade herramientas para detectar rostros y voces generadas por inteligencia artificial

[ad_1]

YouTube Facebook está creando herramientas para detectar imágenes de artistas, como actores y músicos, generadas por IA, escribió en un comunicado el vicepresidente de productos para creadores de la compañía, Amjad Hanif. Blog Hanif también ha expresado repetidamente que YouTube está “comprometido” con el desarrollo responsable de herramientas de inteligencia artificial.

La primera de las nuevas herramientas es identificar “voces sintéticas” en Content ID, un sistema para identificar música con derechos de autor que se lanzó en 2007. Mashable informó en 2016 que YouTube ha pagado miles de millones de dólares a los titulares de derechos A través de Content ID, Hanif lo confirmó en esta publicación.

Parece que la nueva tecnología podrá detectar sonidos generados por inteligencia artificial para parecerse a los músicos. Está previsto que el próximo año comience un programa piloto.

Velocidad de la luz medible

YouTube también está desarrollando tecnología para detectar contenido generado por inteligencia artificial que muestra los rostros de actores, creadores, atletas y similares.

Además de este anuncio, Haneef criticó a YouTube y Google (propietario de YouTube) por utilizar el contenido subido para “mejorar la experiencia del contenido” a través del aprendizaje automático y el desarrollo de herramientas de inteligencia artificial. La empresa se compromete a “hacer esto de forma responsable”, aunque no proporcionó detalles específicos. La publicación del blog también afirma que el sitio ha implementado salvaguardas para el uso de las herramientas de inteligencia artificial generativa de YouTube, como Pantalla de ensueñocomo bloquear ciertos reclamos que violan sus políticas (aunque no define explícitamente los reclamos).

YouTube también se compromete (nuevamente) a garantizar que las aplicaciones de terceros respeten los Términos de servicio de YouTube, que prohíben ciertos usos del contenido del creador, como el scraping.

“Estamos comprometidos a trabajar con nuestros socios para garantizar que los desarrollos futuros refuercen sus voces, y continuaremos desarrollando barreras para abordar las preocupaciones y lograr nuestros objetivos compartidos”, escribió Hanif.



[ad_2]

Source Article Link

Categories
Life Style

Cómo reconocer imágenes generadas por inteligencia artificial

[ad_1]

Primero, la mala noticia: las imágenes generadas por IA son realmente difíciles de detectar. Las señales que alguna vez fueron señales de advertencia (manos desfiguradas y texto disperso) se están volviendo cada vez más raras a medida que los modelos de IA mejoran a un ritmo vertiginoso.

Ya no está claro qué imágenes se crean utilizando herramientas populares como Midjourney, Stable Diffusion, DALL-E y Gemini. De hecho, las imágenes generadas por IA están empezando a engañar más a la gente, lo que genera grandes problemas en… Difundir información engañosaLa buena noticia es que normalmente no es imposible identificar imágenes generadas por IA, pero requiere más esfuerzo que en el pasado.

Fotodetectores de IA: tenga cuidado

Estas herramientas utilizan visión por computadora para examinar patrones de píxeles y determinar la probabilidad de que una imagen haya sido creada por inteligencia artificial. Esto significa que los detectores de IA no son completamente infalibles, pero es una buena manera para que la persona promedio determine si una imagen merece un escrutinio, especialmente cuando no es inmediatamente obvia.

“Desafortunadamente, para el ojo humano -y allá Somos estudios “Existe una probabilidad de entre cincuenta y cincuenta por ciento de que una persona desarrolle esta enfermedad”, dijo Anatoly Kvitnitsky, director ejecutivo de la plataforma de detección de imágenes por IA. Inteligencia artificial o no“Pero para la detección de imágenes por IA, dados los patrones similares a píxeles, esos patrones todavía existen, incluso cuando los modelos continúan mejorando”. Kvitnitsky afirma que AI or Not alcanza una tasa de precisión del 98 por ciento en promedio.

Otros detectores de IA con tasas de éxito generalmente altas incluyen: Gestión celular, detector SDXL En la cara del abrazo, y IlustraciónProbamos diez imágenes generadas por IA en todos estos detectores para ver cómo funcionaban.

Inteligencia artificial o no

AI or Not ofrece una opción de “sí” o “no” a diferencia de otros fotodetectores de IA, pero indica correctamente que la foto fue creada por IA. Con el plan gratuito, obtienes 10 cargas por mes. Probamos 10 imágenes y obtuvimos una tasa de éxito del 80 por ciento.

El detector de fotos AI or Not identifica correctamente una foto de Donald Trump cargando una carretilla llena de pasteles como una foto generada por IA

Esta imagen no ha sido identificada correctamente como generada por inteligencia artificial.
Crédito: Captura de pantalla: Mashable/AI o no

Gestión celular

Probamos la herramienta de demostración gratuita Hive Moderation con más de 10 imágenes diferentes y obtuvimos una tasa de éxito general del 90 por ciento, lo que significa que existe una alta probabilidad de que las imágenes hayan sido generadas por IA. Sin embargo, la herramienta no pudo detectar las cualidades de IA de una imagen sintética de un ejército de ardillas trepando por una pared de roca.

El detector de moderación de células de IA dice que una imagen generada por IA de un ejército de ardillas trepando por un muro de piedra tiene un 13,8 por ciento de posibilidades de ser generada por IA.

Nos gustaría creer que el ejército de ardillas es real, pero el detector de IA se equivocó.
Crédito: Captura de pantalla: Moderación de Mashable/Hive

detector SDXL

SDXL Detector on Hugging Face tarda unos segundos en cargarse y es posible que inicialmente recibas un error en el primer intento, pero es completamente gratuito. En su lugar, también ofrece una relación de probabilidad. Afirmó que el 70 por ciento de las imágenes generadas por IA tienen una alta probabilidad de ser IA generativa.

SDXL Detector identifica correctamente la imagen de Barack Obama en la pelvis como una imagen generada por IA

El detector SDXL logró identificar correctamente una imagen compleja creada por Grok-2 de Barack Obama en un baño público
Copyright: Captura de pantalla: Detector Mashable/SDXL

Ilustración

Illuminarty ofrece un plan gratuito que proporciona detección de imágenes básica mediante IA. De las 10 imágenes generadas por IA que subimos, solo el 50 por ciento fueron calificadas como de muy baja probabilidad. Para horror de los biólogos de roedores, dio el infame resultado. Imagen del pene de un ratón. Poca posibilidad de ser generado por inteligencia artificial.

El detector de IA Illuminarty dice que un dibujo generado por IA de un ratón que parece ser un pene enorme tiene una baja probabilidad de ser generado por IA.

Mmmm, parece un tiro fácil.
Copyright: Captura de pantalla: Mashable/Illuminarty

Como puede ver, los detectores de IA son bastante buenos, pero no son infalibles y no deben usarse como único medio de validación de imágenes. A veces es capaz de detectar imágenes falsas generadas por IA incluso si parecen reales y, a veces, detecta erróneamente imágenes que claramente están generadas por IA. Esta es exactamente la razón por la que es mejor una combinación de métodos.

Otros consejos y trucos

Encuentra imágenes antiguas al revés

Otra forma de descubrir imágenes generadas por IA es una simple búsqueda inversa de imágenes, recomendada por Bamshad Mubasher, profesor de informática y director del Centro de Inteligencia Web de la Escuela de Computación y Medios Digitales de la Universidad DePaul en Chicago. Al cargar una imagen en Google Imágenes o en una herramienta de búsqueda inversa de imágenes, puede rastrear la fuente de la imagen. Si la imagen muestra un evento noticioso aparentemente real, “es posible que puedas determinar si ese evento fue falso o no sucedió realmente”, dijo Mubasher.

Velocidad de la luz medible

Herramienta Acerca de esta imagen de Google

La Búsqueda de Google también tiene una función “Acerca de esta imagen” que proporciona información contextual, como cuándo se indexó la imagen por primera vez y dónde apareció en línea. Esta información se puede encontrar haciendo clic en el icono de tres puntos en la esquina superior derecha de la imagen.

Señales claras que el ojo desnudo puede detectar

Hablando de eso, si bien las imágenes generadas por IA se han vuelto terriblemente buenas, todavía vale la pena buscar las señales. Como se mencionó anteriormente, es posible que a veces veas una foto con manos deformes, cabello que parece demasiado perfecto o texto dentro de la foto que está distorsionado o no tiene sentido. separación Recomienda buscar en el fondo objetos borrosos o distorsionados, u objetos con una piel impecable, y nos referimos a sin poros, impecable.

A primera vista, la foto de Midjourney a continuación parece una foto de una Kardashian promocionando un libro de cocina que fácilmente podría haber sido arrancado de Instagram. Pero tras una inspección más cercana, se puede ver el azucarero retorcido, las articulaciones deformes y la piel extremadamente suave.

Imagen generada por IA de una mujer con cabello largo y castaño cortando verduras en una cocina soleada

A primera vista, no todo es lo que parece en esta foto.
Copyright: Mashable/Midjourney

“La IA puede ser buena para generar la escena general, pero el diablo está en los detalles”, escribió Sasha Lucioni, directora de IA y clima de Hugging Face, en un correo electrónico a Mashable. Busque “inconsistencias en su mayoría pequeñas: dedos adicionales, joyas o rasgos faciales asimétricos, o inconsistencias en los objetos (un asa adicional en una tetera)”.

Mubashir, miembro del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE), dijo que se debe acercar la imagen y buscar “detalles extraños” como píxeles perdidos y otras inconsistencias, como aretes que no coinciden.

“Es posible que una parte de la misma imagen con el mismo enfoque esté borrosa pero otra parte esté muy detallada”, dijo Mubasher. Esto es especialmente cierto en el caso de los fotomurales. “Si tienes carteles con texto y cosas así de fondo, muchas veces están distorsionados o a veces ni siquiera se parecen al lenguaje real”, añadió.

Esta imagen de camionetas Volkswagen en la playa fue creada por Imagen 3 de Google. La arena y los autobuses parecen completamente realistas. Pero si miras de cerca, notarás que las letras en el tercer autobús donde debería estar el logotipo de Volkswagen son solo un símbolo distorsionado, y hay puntos borrosos en el cuarto autobús.

Imagen 3 Imagen generada de un desfile de autobuses Volkswagen en la playa al atardecer

Estamos seguros de que en algún momento se produjo un desfile de autobuses Volkswagen, pero no es eso.
Copyright: Mashable/Google

Primer plano de la imagen 3, una imagen creada para mostrar los autobuses Volkswagen conduciendo por la playa al atardecer.

Observe el logotipo distorsionado y los puntos extraños.
Copyright: Mashable/Google

Todo se reduce al conocimiento de la inteligencia artificial.

Ninguno de los métodos anteriores será útil en absoluto si, mientras consumes medios (especialmente las redes sociales), no te detienes primero para preguntarte si lo que estás viendo fue creado por inteligencia artificial en primer lugar. Así como la alfabetización mediática se convirtió en un concepto popular tras las elecciones de 2016 plagadas de desinformación, la alfabetización mediática de IA es la primera línea de defensa para determinar qué es real o no.

Los investigadores de inteligencia artificial Dorie Long y Brian Magerko define La alfabetización en IA es “un conjunto de competencias que permiten a las personas evaluar críticamente las tecnologías de IA; comunicarse y colaborar eficazmente con la IA y utilizarla como herramienta en línea, en el hogar y en el lugar de trabajo”.

Saber cómo funciona la IA generativa y qué buscar es fundamental. “Puede parecer cursi, pero tomarse el tiempo para comprobar la fuente del contenido que ves en las redes sociales es un buen comienzo”, dijo Lucioni.

Empiece por preguntarse de dónde procede la imagen en cuestión y el contexto en el que aparece. ¿Quién publicó la foto? ¿Qué dice el texto adjunto (si lo hay) al respecto? ¿Fueron publicados por otras personas u otros medios? ¿Cómo te hace sentir la imagen o el texto que la acompaña? Si parece que está diseñado para enojarte o tentarte, considera por qué.

Cómo algunas organizaciones luchan contra el problema de los deepfakes y la desinformación utilizando inteligencia artificial

Como hemos visto, los métodos mediante los cuales los individuos pueden distinguir entre imágenes generadas por IA e imágenes reales son heterogéneos y limitados. Para empeorar las cosas, la difusión de imágenes ilícitas o dañinas generadas por IA es un doble golpe porque las publicaciones promueven mentiras, lo que a su vez genera desconfianza en los medios en línea. Pero a raíz de la IA generativa, han surgido varias iniciativas para mejorar la confianza y la transparencia.

el Alianza para la procedencia y autenticidad del contenido Fundada por Adobe y Microsoft, C2PA incluye empresas de tecnología como OpenAI y Google, así como empresas de medios como Reuters y la BBC. C2PA proporciona contenido en el que se puede hacer clic Credenciales de contenido Determinar de dónde proceden las imágenes y si son generadas por inteligencia artificial. Sin embargo, depende de los creadores adjuntar las credenciales del contenido a la imagen.

Por otro lado, Laboratorio Estornino En la Universidad de Stanford, trabaja arduamente para verificar la autenticidad de imágenes reales. Starling Lab verifica “registros digitales confidenciales, como documentación de violaciones de derechos humanos, crímenes de guerra y testimonios de genocidio” y almacena de forma segura imágenes digitales verificadas en redes descentralizadas para que no puedan ser manipuladas. El trabajo del laboratorio no está orientado al usuario, pero su biblioteca de proyectos es un buen recurso para cualquiera que busque verificar imágenes de, por ejemplo, la guerra en Ucrania o la transición de la presidencia de Donald Trump a Joe Biden.

Los expertos suelen hablar de imágenes de IA en el contexto de engaños y desinformación, pero las imágenes de IA no son tan siempre Las imágenes de IA no pretenden engañar en sí mismas. Las imágenes de inteligencia artificial a veces son sólo bromas o imágenes satíricas sacadas de su contexto original, o quizás sean anuncios vagos. O tal vez sea simplemente una forma de expresión creativa utilizando una nueva e interesante tecnología. Pero para bien o para mal, las imágenes de IA son ahora una realidad. Depende de usted descubrirlo.

Imagen generada por inteligencia artificial por grok-2 de Smokey Bear detrás de tres niños sosteniendo un cartel con las palabras:

Estamos parafraseando al oso Smokey, pero él lo entenderá.
Copyright: Mashable/xAI



[ad_2]

Source Article Link

Categories
Life Style

iOS 18 Apple Music: se ha detectado una nueva herramienta para crear listas de reproducción generadas por IA

[ad_1]

Resulta que es posible que haya habido algunas adiciones. inteligencia de manzana Características que vienen a iOS 18 Apple no lo mostró en Conferencia mundial de desarrolladores A principios de este año.

Específicamente, es posible que pueda usar IA para crear ilustraciones de listas de reproducción personalizadas para Apple Music cuando se lance iOS 18 este otoño. Esta característica potencial fue detectada en algún código de la versión beta de iOS 18 por 9 a 5 macCuando creas o editas una lista de reproducción, puede haber un botón “Crear imagen” que te permite crear arte, de forma similar a como lo haces Usa inteligencia artificial para crear emojis En la nueva versión de iOS.

Velocidad de la luz medible

¿Puedes probar la nueva función Apple Music ahora?

Para ser completamente claro, la función en realidad no se puede utilizar en iOS 18 beta Pero es imposible decir exactamente cómo funciona o si funciona sin problemas. Solo se menciona en algún código. Y es posible que ni siquiera esté listo para lanzar iOS 18 este año. BloombergMark Gurman, uno de los principales pronosticadores de Apple con un historial impresionante, escribió en… Boletin informativo El mes pasado, los informes indicaron que algunas de las funciones de inteligencia artificial de Apple podrían retrasarse hasta 2025.

Pero entre el arte de una lista de reproducción generada por IA y la capacidad de… Posibilidad de recuperar fotos y vídeos dañadosiOS 18 claramente tiene más en el tanque de lo que Apple nos ha mostrado hasta ahora.



[ad_2]

Source Article Link

Categories
Life Style

Etsy dice que permitirá la venta de obras de arte generadas por IA, pero no de reclamos generados por IA

[ad_1]

Mercado en línea de Etsy Compartir una actualización sobre la venta de productos generados por IA y sus planes de continuar “apoyando a los artistas a través de la evolución del arte”.

La plataforma permitirá la venta de obras de arte derivadas de afirmaciones originales del vendedor o herramientas de inteligencia artificial siempre que el artista revele su uso. inteligencia artificial En la descripción del listado del artículo.

El informe reconoce el inevitable progreso y la integración de las herramientas de inteligencia artificial en el proceso creativo, incluido el software de edición. Sin embargo, el informe señala: “Cuando los artistas utilizan estas herramientas de IA, aún toman decisiones creativas y ayudan a guiar la IA y seleccionan cuidadosamente los resultados para producir obras finales únicas para la venta”.

Velocidad de la luz medible

Etsy no permitirá la venta de paquetes rápidos que utilicen inteligencia artificial, lo que considera que cruza la línea creativa. “Creemos que los mensajes utilizados para crear obras de arte impulsadas por IA son una parte integral del proceso creativo y no deben venderse por separado de la obra de arte final”, dijo la compañía. Dijo en una publicación de blog..

Etsy señala que estas pautas están sujetas a cambios y son consistentes con las consideraciones cambiantes sobre la ética y los impactos ambientales de la inteligencia artificial.

La relación entre los artistas y la IA ha sido tensa ya que la tecnología permanece prácticamente sin regular. Muchas nuevas empresas de IA utilizan la práctica generalizada de entrenar sus modelos en obras de arte existentes. Sin compensación a los artistas originales., que amenaza los medios de vida de todas las personas creativas. En abril, murieron más de 200 artistas musicales, incluidos Billie Eilish y el patrimonio de Frank Sinatra. firmé una carta Describió la inteligencia artificial como un “ataque a la creatividad humana” que “plantea enormes amenazas” para el futuro de la industria.



[ad_2]

Source Article Link

Categories
Featured

Los creadores de música con IA se enfrentan a una batalla legal entre bandas en la industria discográfica, lo que podría significar problemas para las melodías generadas por IA.

[ad_1]

Los creadores de música AI Suno y Udio se han visto afectados por importantes demandas por parte de la Recording Industry Association of America (RIAA) y los principales sellos discográficos por infracción de derechos de autor. Las demandas representan la última batalla sobre la IA generativa y los medios sintéticos y el debate sobre si representan creaciones originales o infringen derechos de propiedad intelectual.

RIAA se unió sony Entretenimiento musical y UMG Recordings, Inc. y Warner Records, Inc. En pleitos. Suno fue demandado en el Tribunal de Distrito de los Estados Unidos para el Distrito de Massachusetts, mientras que el desarrollador de Udio, Uncharted Labs, Inc., fue demandado en el Tribunal de Distrito de los Estados Unidos para el Distrito Sur de Nueva York. Las denuncias alegan que ambas empresas copiaron y explotaron grabaciones de audio protegidas por derechos de autor sin permiso.

[ad_2]

Source Article Link

Categories
News

Es un honor para Google llevar las funciones de IA generadas en la nube a sus dispositivos y participar en la estrategia de IA.

[ad_1]

honor Se ha convertido en la última marca de teléfonos inteligentes en ingresar a la carrera de la inteligencia artificial (IA) después de que anunció su estrategia de IA de cuatro capas y sus planes de integración de IA para el futuro en la sesión VivaTech 2024 del miércoles. La compañía también anunció que ofrecerá funciones de inteligencia artificial generativa aprovechando Google Cloud. Sin embargo, el fabricante chino de teléfonos inteligentes también tiene la intención de crear una interfaz de usuario centrada en la IA dentro de la interfaz MagicOS basada en Android. La interfaz se integrará con la funcionalidad compartida entre el hardware y el sistema operativo en su base y se desarrollará a partir de ahí.

La arquitectura de IA de cuatro capas de Honor

Durante una sesión en el evento VivaTech 2024 en París, el honorable Destacar Cómo planea integrar la IA en su interfaz de usuario MagicOS. Esta estructura tendrá cuatro capas. En el nivel más básico, se priorizarán las capacidades de IA en diferentes dispositivos y sistemas operativos para crear un ecosistema abierto.

Honre la IA de 4 capas Honre la arquitectura de cuatro capas de la IA

La arquitectura de IA de cuatro capas de Honor
Fuente de la imagen: PR Newswire/Honor

La segunda y tercera capa se centrarán más adelante en el nivel de la plataforma. Amnistía Internacional E inteligencia artificial a nivel de aplicación. La IA centrada en la plataforma ayudará a crear una experiencia de sistema operativo personalizada, mientras que la integración a nivel de aplicación permitirá a los desarrolladores crear aplicaciones generativas impulsadas por IA, dijo la compañía.

Finalmente, la cuarta y más alta capa se centrará en la integración de los servicios de IA en la nube. Estos podrían incluir funciones proporcionadas por la empresa que se ejecutan en servidores Honor o asociaciones con otras empresas que brindan servicios similares. Cabe señalar que el fabricante del teléfono inteligente confirmó que se utilizará. Nube de Google Llevar funciones de IA a sus dispositivos.

El privilegio de aprovechar las funciones de IA a través de Google Cloud

En asociación con Google, Honor integrará funciones de IA basadas en la nube de mellizo Y ampliarlo a sus dispositivos. Si bien la marca china no ha confirmado si estas características se incluirán únicamente Basado en Android Inteligencia artificial El gigante tecnológico con sede en Mountain View incluyó características exclusivas o exclusivas de la nube durante el evento, y un portavoz de la compañía arrojó más luz sobre ellas.

de acuerdo a un informe A través de CNBC, el portavoz confirmó que Honor utilizará el asistente Gemini AI, así como el generador de texto a imagen Imagen 2. Esta podría ser una oferta única de Honor, ya que ninguna otra marca de teléfonos inteligentes ha ofrecido este modelo de creación de imágenes a los usuarios. . lejos.

Por otra parte, el director ejecutivo de Honor, George Zhao, en un declaración TechRadar dijo que la compañía cree que la arquitectura de IA de cuatro capas proporcionará una experiencia de usuario basada en la intención que puede competir con el teléfono Galaxy AI de Samsung. Vale la pena señalar que el sistema operativo MagicOS 8.0, que comenzó a implementarse el mes pasado, recibirá esta integración.

[ad_2]

Source Article Link