ChatGPT Se dice que la búsqueda, una función que permite a un chatbot impulsado por inteligencia artificial (IA) buscar información en la web, es vulnerable a la manipulación por parte de desarrolladores y propietarios de sitios web. Según el informe, el comportamiento del motor de búsqueda OpenAI se puede cambiar mediante texto oculto en el sitio web. Se dice que este script se utiliza para alimentar a la IA con información incorrecta y engañosa y, lo que es más importante, para alimentar al modelo de IA con inyecciones rápidas. En particular, OpenAI Liberado Función de búsqueda para todos los usuarios la semana pasada.
La búsqueda de ChatGPT es vulnerable a la manipulación
el guardián mencioné el martes que la función del motor de búsqueda nativo de OpenAI es vulnerable a técnicas de manipulación. La publicación probó la herramienta creando una página de producto falsa, completa con especificaciones y reseñas. Inicialmente, la página se dejó como estaba y ChatGPT pudo proporcionar una “revisión positiva pero equilibrada”. Sin embargo, las cosas tomaron un giro más oscuro una vez que la publicación agregó texto oculto a la página web.
Vale la pena señalar que el texto oculto en los sitios web se refiere al contenido que se agrega al código de la página web pero que no es visible para los usuarios cuando ven la parte frontal de la página a través del navegador. Este texto suele ocultarse mediante técnicas HTML o CSS. Dicho texto se puede encontrar examinando el código fuente de una página web o utilizando herramientas de web scraping. Este último suele ser el utilizado por los motores de búsqueda.
Después de agregar texto oculto que contenía una gran cantidad de críticas positivas falsas sobre el producto, las respuestas de ChatGPT también se volvieron más positivas y comenzaron a ignorar sus inconvenientes obvios. La publicación también utilizó inyecciones instantáneas, que son entradas a los sistemas de inteligencia artificial para cambiar su comportamiento de una manera que no fue prevista por los desarrolladores. Se dice que se pueden utilizar inyecciones tan rápidas como texto oculto para emitir el comando. Abierto AI Chatbot para engañar aún más al usuario.
Además, el informe afirma que la inyección rápida de texto oculto también se puede utilizar para revertir código malicioso de sitios web. Si esto no se controla, muchos sitios web podrían utilizar técnicas similares para obtener respuestas positivas sobre sus productos y servicios o intentar engañar a los usuarios de diversas formas, afirma la publicación.
Los expertos advierten que la IA puede ser manipulada por diferencias en el canal alfa de las imágenes
Esto podría suponer riesgos para el diagnóstico médico y la conducción autónoma.
El reconocimiento de imágenes debe adaptarse a la posibilidad de este ataque.
mientras Amnistía Internacional Debido a que tiene la capacidad de analizar imágenes, una nueva investigación ha revelado un descuido significativo de las plataformas modernas de reconocimiento de imágenes.
El canal alfa, que controla la transparencia de la imagen, se ignora con frecuencia, lo que podría abrir la puerta a ciberataques con consecuencias potencialmente graves para las industrias de conducción autónoma y de gama media, afirmaron investigadores de la Universidad de Texas en San Antonio (UTSA).
El equipo de investigación de UTSA, dirigido por la profesora adjunta Jennifer Chen, desarrolló un método de ataque especial llamado “AlphaDog” para explotar esta vulnerabilidad pasada por alto en los sistemas de inteligencia artificial. El canal alfa, parte de los datos de imagen RGBA (rojo, verde, azul, alfa), controla la transparencia de las imágenes y desempeña un papel crucial en la visualización de imágenes compuestas, y puede causar una desconexión entre cómo los humanos y los sistemas de IA perciben el misma imagen.
Vulnerabilidad en automoción, imágenes médicas y reconocimiento facial.
El ataque AlphaDog está diseñado para atacar sistemas humanos y de inteligencia artificial, pero de diferentes maneras. Para los humanos, las imágenes manipuladas pueden parecer relativamente naturales. Sin embargo, cuando son procesadas por sistemas de IA, estas imágenes se interpretan de manera diferente, lo que lleva a conclusiones o decisiones incorrectas.
Los investigadores crearon 6.500 imágenes y las probaron en 100 modelos de IA, incluidos 80 sistemas de código abierto y 20 plataformas de IA basadas en la nube, como ChatGPT. Sus pruebas revelaron que AlphaDog funcionó bien al apuntar a regiones de imágenes en escala de grises.
Uno de los hallazgos más preocupantes del estudio es la debilidad de los sistemas de inteligencia artificial utilizados en los vehículos autónomos. Las señales de tráfico, que a menudo contienen elementos en escala de grises, se pueden manipular fácilmente con la tecnología AlphaDog, lo que lleva a una mala interpretación de las señales de tráfico, lo que puede tener consecuencias peligrosas.
La investigación también destaca una cuestión crítica en el ámbito de las imágenes médicas, un campo que depende cada vez más de la inteligencia artificial para el diagnóstico. Con AlphaDog se pueden procesar radiografías, resonancias magnéticas y tomografías computarizadas, que a menudo contienen imágenes en escala de grises. En las manos equivocadas, esta vulnerabilidad puede llevar a un diagnóstico erróneo.
Suscríbase al boletín informativo TechRadar Pro para recibir las principales noticias, opiniones, características y orientación que su empresa necesita para tener éxito.
Otra área de preocupación es la posible manipulación de los sistemas de reconocimiento facial, lo que aumenta la posibilidad de eludir los sistemas de seguridad o identificar erróneamente a las personas, abriendo la puerta a preocupaciones sobre la privacidad y riesgos de seguridad.
Los investigadores están colaborando con importantes empresas de tecnología, incluidas… Google, Amazonasy microsoftAbordar la vulnerabilidad de seguridad en las plataformas de inteligencia artificial. “La IA fue creada por humanos, y las personas que escribieron el código se centraron en el RGB pero dejaron de lado el canal alfa. En otras palabras, escribieron código para que los modelos de IA leyeran archivos de imágenes sin un canal alfa”, dijo Chen. .
“Este es el punto débil”, añadió Chen. “Excluir el canal alfa en estas plataformas conduce al envenenamiento de los datos… La IA es importante. Está cambiando nuestro mundo y tenemos muchas preocupaciones”.
Esta es una historia sobre el azar y la posibilidad.
Nicole conoció a Arno de Bock mientras esperaba en la fila para ir al baño en la GDC Developers Party en 2019. dando una conferencia Acerca de la tecnología del sonido en el arte y los juegos Basado en su trabajo como especialista en tecnología creativa, su portafolio está lleno de proyectos interactivos como Bot de Tinder para el amor verdadero, Amigos del jardín, Mejora de la computadora y Cubierta SoylentDe Bock ha estado trabajando en la serie Reigns y compartir tarjeta Para Nerial, estás acabado. piconico De lado.
Técnicamente, no fue invitado a esta fiesta en particular, sin embargo. mono fuera El cocreador de la serie, Maxie Butch, se acercó sigilosamente a ella.
“Allí, en la fila del baño, conocí a Arno”, le dijo a Engadget. “Comenzamos a charlar y éramos fanáticos del trabajo del otro, y hablamos sobre la posibilidad de colaborar en algo. Después de unos meses, estábamos tratando de trabajar en esta otra idea que tenía con su colega Remy. [Forcadell] de piconicoEsta idea nunca funcionó. Pero al mismo tiempo, Arno y yo estábamos obsesionados con este reality show llamado Casa adosada“.”
Regreso digital
Casa adosada Era una serie de telerrealidad japonesa que se emitió de 2012 a 2020 y presentaba un elenco rotativo de seis extraños, en su mayoría jóvenes profesionales, que vivieron juntos durante varios meses seguidos. Los episodios siguen a los participantes mientras navegan por el trabajo y las relaciones, y todo tenía una especie de ambiente relajado y relajante, incluso durante las discusiones explosivas sobre comer el filete de otra persona. Aunque los miembros del elenco a menudo terminan saliendo entre ellos, lo que sea Casa adosada Muy humilde y muy concienzudo, especialmente en comparación con los reality shows occidentales como isla del amor o Demasiado caliente para manejarque gira en torno a temas de bikinis, lujuria, traición e luces de neón. Colocación de producto.
Inspirado por Casa adosada Y reality shows de los 90, como el mundo real y Invasores de habitacionesÉl y De Bock comenzaron a crear un juego llamado casa llena de gente. Nerial se sumó: el estudio estaba ultimando trabajos compartir tarjeta El cofundador François Alliot vio este proyecto de reality show como una oportunidad para que su equipo ejerciera sus músculos narrativos.
“En algún momento hicimos un cambio radical en cuanto a la escritura, simplemente condensándola de esta fría Casa adosada “Estilo”, dijo, “un trozo de vida, algo reconfortante, para ser frívolo, básicamente”. Por ejemplo, el diálogo debe ser más atractivo. “Tiene que ser más divertido, más emocionante, más exagerado”.
Regreso digital
Este es el momento en que aparecen este tipo de ofertas. isla del amor y Advertencia final Entré en la conversación de producción. En su forma final, casa llena de gente Se encuentra en el espacio entre Casa adosada y isla del amorLa película se desarrolla en una luminosa mansión junto al mar (con una piscina infinita, por supuesto) y está protagonizada por cuatro personajes a la vez mientras forman amistades estratégicas, participan en acalorados debates y se lanzan besos entre cortes comerciales.
casa llena de gente El juego está ambientado en 1999, antes de que los teléfonos inteligentes permitieran llamar y responder a los espectadores, pero la audiencia aún desempeñaba un papel crucial. Los jugadores son los productores y camarógrafos en el sitio, y deben responder en tiempo real a las demandas de diferentes categorías de espectadores, como reinas del drama, amantes de la comida, fanáticos del pescado, padres divorciados y hombres gordos, mientras apaciguan a los anunciantes y a los misteriosos jefes de las cadenas. Capturar las tomas correctas, publicar anuncios en el momento adecuado y satisfacer las demandas crea un ciclo de juego sorprendentemente intenso. Hay un botón de carrera aquí por una buena razón.
Uno de los aspectos más interesantes de casa llena de gente La principal ventaja es la posibilidad de reiniciar el programa. Hay 12 miembros del elenco para elegir al comienzo de cada programa y tienen rasgos de personalidad distintos que interactúan entre sí de maneras únicas. Existen arquetipos clásicos de los reality shows, como el idiota, la chica ingenua y el pretendiente, y sus interacciones están impulsadas por la generación procedimental.
“Todo lo que ves en la pantalla, el diálogo, se genera”, dice Elliott. “Tenemos un sistema llamado galimatías, que es un sistema que relaciona los rasgos de los personajes con lo que llamamos epopeyas, que son como modelos de historias. Por ejemplo, si tienes un triángulo amoroso, tienes el número uno, el número dos, el número tres, ellos. Tendrá diferentes rasgos que combinaremos con los personajes. Si tuviéramos una coincidencia, jugaremos esta historia y luego se desarrollará de esa manera, con posibles resultados que podrían ser diferentes dependiendo del personaje que elijas y este sistema nos permite tener un. tipo de narrativa muy amplia o muy estrecha”.
Él y los desarrolladores de Nerial han escrito alrededor de 50.000 líneas de diálogo para Casa aplastante Sistema complejo. Con 12 personajes para elegir y cuatro personajes por partida, hay 495 combinaciones posibles de personajes en el juego. principalmente, casa llena de gente Tenía que ser generado procesalmente.
“Tenemos cosas que tienen sentido, pero no están 100 por ciento organizadas”, dijo Elliott. “Es un poco vago, una narrativa vaga que se adapta bien a un reality show de televisión. Así que puedes jugar casi siempre, uniendo diferentes personajes, y aun así te sorprenderá”.
casa llena de gente Era un mosaico de diálogos y símbolos aleatorios mucho antes de que sus sistemas de generación de procedimientos tuvieran suficiente información para producir una experiencia racional y sólida, dijo. Eliot le advirtió que así sería y la animó a ser paciente y vigilante hasta el momento en que todas las cosas volvieran al lugar que les correspondía. Al final, eso es exactamente lo que pasó.
Regreso digital
“Ha sido un desastre durante mucho tiempo”, dijo. “Pero cuando llegamos al punto en el que todo realmente confluyó: teníamos suficiente escritura, teníamos las cosas técnicas trabajando, la animación en marcha y todo eso sucediendo. Es como si hubiera algo que hace clic y simplemente se vuelve mágico. .” “
casa llena de gente Todavía sorprende a He, incluso después de años de estudiar su código e iterar sobre su resultado.
“Tuve esta experiencia incluso ayer mientras jugaba, donde había una escena romántica muy linda entre Veer y Alex, y luego, en la siguiente escena, Veer le dice algo realmente cruel”, dijo. “Y eso me influyó. Quiero decir, puedo ver a través del velo y sé cómo funcionan las cosas, pero es realmente genial tener esa influencia”.
