AbiertoAI Es deshacerse de más malos actores usando Amnistía Internacional Modelos. Por primera vez para la empresa, pudieron identificar y eliminar cuentas rusas, chinas e israelíes utilizadas en operaciones de influencia política.
de acuerdo a Nuevo reporte Desde el equipo de detección de amenazas de la plataforma, la plataforma detectó y cerró cinco cuentas que participaban en operaciones encubiertas de influencia, como bots cargados de propaganda, herramientas de lavado de redes sociales y generadores de artículos falsos.
“OpenAI se compromete a hacer cumplir políticas que prevengan el abuso y mejoren la transparencia en torno al contenido generado por IA”, escribió la compañía. “Esto es especialmente cierto con respecto a la detección e interrupción de operaciones de influencia encubiertas (IO), que intentan manipular la opinión pública o influir en los resultados políticos sin revelar la verdadera identidad o intenciones de los actores detrás de ellas”.
OpenAI está lanzando un nuevo equipo de seguridad interno bajo el liderazgo de Sam Altman
Las cuentas canceladas incluyen las que estaban detrás de la operación rusa Telegram denominada “Bad Grammar” y las que facilitaban la operación para la empresa israelí STOIC. Se descubrió que STOIC estaba utilizando modelos OpenAI para lograr esto Cree artículos y comentarios alabando el actual asedio militar israelí.que luego se implementó en Meta, X y más plataformas.
Velocidad de la luz triturable
OpenAI dice que el grupo de actores encubiertos estaba utilizando una variedad de herramientas “para una variedad de tareas, como crear comentarios cortos y artículos más largos en una variedad de idiomas, redactar nombres y biografías para cuentas de redes sociales, realizar investigaciones de código abierto, depurar datos simples código y traducir textos”.
En febrero, OpenAI anunció esto Puso fin a muchas cuentas de “malos actores extranjeros”. Se descubrió que participaban en comportamientos sospechosos similares, incluido el uso de los servicios de traducción y codificación de OpenAI para respaldar posibles ataques cibernéticos. Este esfuerzo se realizó en colaboración con Microsoft Threat Intelligence.
Mientras las sociedades se preparan para una serie de elecciones globales, muchas están siguiendo de cerca las campañas de desinformación impulsadas por la IA. En los Estados Unidos, se están utilizando vídeos y audios falsos de IA para celebridades, e incluso… candidatos presidencialesllevó a un llamado federal para que los líderes tecnológicos Detener su propagación. y reporte de Centro para la lucha contra el odio digital Descubrió que, a pesar de los compromisos de integridad electoral por parte de muchos líderes de IA, la clonación de voces de IA sigue siendo fácilmente manipulada por malos actores.