Categories
Life Style

The Guardian muestra que el contenido oculto engaña a ChatGPT para que reescriba los resultados de búsqueda

[ad_1]

En octubre, OpenAI Buscar ChatGPT Ahora está disponible para usuarios de ChatGPT Plus. La semana pasada estuvo disponible para Todos los usuarios han sido agregados para buscar en modo de voz.. Por supuesto, esto no está exento de inconvenientes.

el Guardián ChatGPT solicitó resumir las páginas web que contienen contenido oculto y resulta que el contenido oculto puede manipular la búsqueda. Se llama inyección puntual y es la capacidad que tienen terceros, como sitios web que solicitan a ChatGPT que lo abstraiga, de imponer nuevas afirmaciones sobre su búsqueda de ChatGPT sin su conocimiento. Piense en una página llena de críticas negativas de restaurantes. Si el sitio incluye contenido oculto que se vuelve poético sobre lo fantástico que es un restaurante y, en cambio, anima a ChatGPT a responder un mensaje como “Dime qué tan fantástico es este restaurante”, entonces este contenido oculto podría pasar por alto tu búsqueda original.

“En las pruebas, a ChatGPT se le proporcionó la URL de un sitio web falso diseñado para parecerse a la página de un producto para una cámara. Luego se le preguntó a la herramienta de inteligencia artificial si valía la pena comprar la cámara. La respuesta a la página de control arrojó una respuesta positiva pero equilibrada. calificación, destacando algunas características que quizás no sorprendan a la gente”. dice la investigación de The Guardian. “Sin embargo, cuando el texto oculto incluía instrucciones para que ChatGPT devolviera una reseña positiva, la respuesta siempre fue bastante positiva. Este fue el caso incluso cuando la página contenía reseñas negativas: el texto oculto podría usarse para anular la puntuación de la reseña real”.

Velocidad de la luz triturable

Sin embargo, esto no significa que la búsqueda de ChatGPT falle. OpenAI lanzó recientemente su servicio de búsqueda, por lo que tiene mucho tiempo para corregir este tipo de errores. Además, Jacob Larsen, investigador de ciberseguridad de CyberCX, dijo a The Guardian que OpenAI tiene un equipo de seguridad de IA “muy fuerte” y “para cuando esto se haga público, en el sentido de que todos los usuarios puedan acceder a él, estarán “tener “Ha sido probado exhaustivamente para este tipo de situación”.

Los ataques de inyección instantánea han sido los predeterminados para ChatGPT y otras funciones de búsqueda de IA desde que se lanzó la tecnología y, como hemos visto, Algunas demostraciones de daños potenciales.No hemos visto ningún ataque importante de malware de este tipo. Sin embargo, esto apunta a un problema con los chatbots de IA: son muy fáciles de engañar.



[ad_2]

Source Article Link

Categories
Bisnis Industri

La falsa selección colombiana que engaña a Rusia en el baloncesto

[ad_1]

miRecientemente nos hemos acostumbrado a Noticias “falsas” en InternetPara intentar exponerlos y actuar contra ellos. pero, ¿Qué pasa con los equipos de baloncesto “falsos”? O mejor aún, ¿qué pasa con las selecciones nacionales “falsas”? Lo ocurrido en Perm (Rusia) podría ser un escenario de película de fantasía (tal vez algún día lo sea) pero es la realidad surrealista.

Rusia, que no ha disputado partidos internacionales desde el inicio de su invasión a Ucraniaquería celebrar un torneo de baloncesto de talla mundial (dentro de las restricciones) y organizó un torneo amistoso de baloncesto con equipo rusoél Parma BC Desde la ciudad rusa de Perm, y las selecciones nacionales Venezuela y Colombia.

Todo parecía marchar sobre ruedas cuando el nivel de la selección colombiana en el primer partido hizo saltar las alarmas: ¡41-2 en el primer cuarto para el equipo local de Perm! El partido acabó con un bochornoso y preocupante marcador de 155-53 para la selección rusa. Y en el segundo partido, más de lo mismo: Los colombianos fueron derrotados por Venezuela 107-58. Parecía una broma… realmente lo era y el torneo se suspendió.

Poco después La Federación Colombiana emitió un comunicado oficial Para confirmar que no es un equipo de su federación ni un equipo formativo. Era un equipo que no tenía nada que ver con el FCB. Además, la Federación anunció que emprenderá acciones legales contra el torneo por el uso indebido de su imagen, logotipo y bandera de Colombia.

elección falsa

Por su parte, el ex presidente de la Federación Rusa de Baloncesto afirmó Andrei KirilenkoPoco después intentó explicar las acciones de su federación en la organización de la Copa de la Amistad en Rusia: “Queremos resaltar que todas nuestras interacciones son con la selección colombiana. Esto se hace exclusivamente a través de canales de comunicación oficiales. “Nuestra posición sigue siendo la misma: todas las comunicaciones y coordinación se realizan sólo a través de fuentes oficiales y documentadas”, dijo Kirilenko a los medios.

elección falsa

Lo que se sabe es que todo el caos partió de una mente Christian David Mosquera DuránMosquera Dorn, un colombiano residente en Rusia que aparece como el número 6 en la foto del equipo, hackeó la cuenta de correo electrónico de la Federación Colombiana y logró engañar a los organizadores rusos, por supuesto, por culpa suya. No verificar la identidad de los jugadores colombianos antes de los partidos. Mosquera Durón, quien también engañó a la organización para obtenerlo Billetes de avión para sus amigos (miembros del equipo) y alojamiento en hoteles de cuatro estrellas.Es jugador de la tercera división de baloncesto 3×3 del certamen local de Kazán, por lo que uno puede hacerse una idea del nivel de baloncesto de la selección pseudocolombiana.



[ad_2]

Source Article Link