Como cualquier modelo genAI, Googlemellizo Las respuestas a veces pueden ser incorrectopero en este caso el motivo puede ser que quienes realizan la prueba no tienen la experiencia necesaria para comprobar su validez.
Según TechCrunch, la compañía que se propone mejorar la precisión de Gemini ahora hace que sus evaluadores evalúen las respuestas incluso si no tienen “conocimiento del dominio”.
El informe plantea dudas sobre el rigor y los estándares que Google dice que aplica a su prueba Gemini para garantizar su precisión. En la sección “Construir responsablemente” de Gemini 2.0 anuncioGoogle dijo que “trabaja con evaluadores confiables y expertos externos y realiza evaluaciones exhaustivas de riesgos, seguridad y garantía”. Se hace un énfasis razonable en evaluar las respuestas a contenidos sensibles y dañinos, pero se presta menos atención a las respuestas que no son necesariamente peligrosas pero sí inexactas.
Velocidad de la luz triturable
Google parece ignorar el problema de las alucinaciones y los errores simplemente agregando el descargo de responsabilidad de que “Géminis puede cometer errores, así que verifíquelo dos veces”, lo que efectivamente los exime de cualquier responsabilidad. Pero eso no explica por qué los humanos trabajan detrás de escena.
Anteriormente, GlobalLogic, una subsidiaria de Hitachi, instruyó a sus ingenieros y analistas puntuales a omitir una respuesta de Gemini que no entendieran completamente. “Si no tiene la experiencia en tareas (por ejemplo, programación, matemáticas) para evaluar este mensaje, omita esta tarea”, decían las instrucciones vistas por el medio.
Pero la semana pasada, GlobalLogic cambió sus instrucciones y dijo: “No debe omitir las indicaciones que requieren conocimientos especializados del dominio” y, en su lugar, “evalúe las partes de la instrucción que comprende” y tenga en cuenta que no tienen la experiencia necesaria en esa área. . Analízalos. En otras palabras, la experiencia no se considera un requisito previo para este trabajo.
Los contratistas ahora solo pueden omitir reclamos en los que “falta completamente información”, según TechCrunch, o que contienen contenido confidencial que requiere un formulario de consentimiento.
Se ha descubierto a ciberdelincuentes ejecutando un nuevo esquema de fraude malicioso dirigido a contratistas que buscan trabajo con el gobierno de Estados Unidos.
Los investigadores de Perception Point revelaron que la campaña “Uncle Scam” elude los controles de seguridad para entregar mensajes de phishing sofisticados diseñados por LLM para ser muy convincentes.
Los atacantes utilizan herramientas avanzadas, incluidas herramientas de phishing impulsadas por IA y… microsoft Plataforma Dynamics 365, para implementar ataques persuasivos de varios pasos.
(Crédito de la imagen: Punto de percepción)
Uso indebido de Microsoft Dynamics 365 y LLM
La campaña comienza con un correo electrónico de phishing que parece provenir de una agencia gubernamental legítima de EE. UU., como la Administración de Servicios Generales (GSA).
El correo electrónico invita a los destinatarios a presentar ofertas para proyectos federales, simulando avisos de adquisiciones reales, pero al hacer clic en el enlace proporcionado en el correo electrónico, el usuario es redirigido a un sitio web falso de la Administración de Servicios Generales que se parece mucho al sitio legítimo.
Los atacantes hicieron todo lo posible para copiar el sitio web oficial, incluso agregaron enlaces de navegación y una barra de búsqueda que redirige a los usuarios a páginas reales de GSA. Como referencia, la gama GSA legítima es www.gsa.gov, Mientras que el dominio fraudulento puede tener este formato “gsa-gov-dol-procurement-notice(.)procure-rfq(.)online”.
Una vez en el sitio de phishing, se solicita a los usuarios que se registren para una Solicitud de cotización (RFQ) proporcionando su correo electrónico y otros detalles. Este paso adicional no es sólo para mostrar, está diseñado para hacer que su intento de phishing sea más convincente y evitar la detección. Los atacantes complican aún más las cosas al incluir una página CAPTCHA, lo que dificulta que las herramientas de seguridad automatizadas accedan a la página de recopilación de credenciales.
Suscríbase al boletín TechRadar Pro para recibir todas las noticias, opiniones, funciones y orientación que su empresa necesita para tener éxito.
(Crédito de la imagen: Punto de percepción)
Uno de los elementos clave que hace que esta campaña de phishing sea particularmente efectiva es el uso indebido de la plataforma de marketing Dynamics 365 de Microsoft. Los atacantes explotan el dominio “dyn365mktg.com”, asociado con Dynamics 365, para enviar correos electrónicos maliciosos. Debido a que este dominio está previamente autenticado por Microsoft y cumple con los estándares DKIM y SPF, es más probable que los mensajes de phishing eviten los filtros de spam y lleguen a las bandejas de entrada de destinatarios desinformados.
Esta credibilidad incorporada, junto con la alta capacidad de entrega de los correos electrónicos de este dominio, hace que un intento de phishing parezca legítimo y aumenta sus posibilidades de éxito. El uso de una plataforma de marketing confiable como Dynamics 365 agrega una capa de credibilidad a los mensajes de phishing, haciéndolos más convincentes y más difíciles de detectar.
La campaña “Uncle Scam” también utiliza modelos de lenguaje grandes (LLM) para elaborar correos electrónicos de phishing. Estos modelos avanzados permiten a los atacantes crear mensajes de phishing de alta calidad y con contexto preciso que imitan el tono y la estructura de las comunicaciones legítimas. Estos correos electrónicos suelen ser lingüísticamente correctos y tienen un tono profesional, ya que incorporan detalles específicos de las secciones burladas.
El uso de LLM permite a los atacantes escalar de manera eficiente sus esfuerzos de phishing. Pueden producir múltiples versiones del mismo mensaje de phishing con ligeras diferencias. Esta escalabilidad garantiza que cada correo electrónico sea único pero de calidad constante, lo que dificulta que las víctimas detecten el fraude.
Para proteger a su organización de ser víctima de sofisticados ataques de phishing como Uncle Scam, Perception Point recomienda tomar las siguientes precauciones:
Vuelva a verificar el correo electrónico del remitente: verifique siempre la dirección de correo electrónico del remitente para detectar signos de suplantación de identidad.
Pase el cursor sobre un enlace antes de hacer clic en él: antes de hacer clic en cualquier enlace, coloque el cursor sobre él para revelar la URL real y asegurarse de que sea legítima.
Busque errores: preste atención a errores gramaticales simples, redacción inusual o inconsistencias en el contenido del correo electrónico.
Aproveche las herramientas de detección avanzadas: implemente soluciones de seguridad de múltiples capas basadas en inteligencia artificial para detectar y neutralizar intentos de phishing sofisticados.
Eduque a su equipo: capacite periódicamente a los empleados sobre cómo reconocer correos electrónicos fraudulentos y la importancia de comprobar las comunicaciones no solicitadas.
Confíe en sus instintos: si un correo electrónico o una oferta parece demasiado bueno para ser verdad, probablemente lo sea. Verifique siempre la autenticidad de dichas comunicaciones a través de canales confiables.
Las tácticas de los ciberdelincuentes están evolucionando y la campaña de phishing “Uncle Scam” es un recordatorio de este hecho. Los piratas informáticos han desarrollado estafas de phishing muy convincentes y difíciles de detectar con la ayuda de plataformas confiables como Microsoft Dynamics 365 y herramientas avanzadas de inteligencia artificial. Sin embargo, mediante la vigilancia y medidas proactivas correctas, las organizaciones y empresas pueden protegerse de estas amenazas.
El Ministerio de Medio Ambiente del estado de Abia ha suspendido los servicios de todos los proveedores de servicios ambientales y agentes de recaudación de ingresos previamente acreditados en el estado.
La suspensión entra en vigor inmediatamente.
Una declaración emitida el jueves por el Comisario de Medio Ambiente, Philemon Ogbonna, afirmó que el ministerio había identificado a personas y empresas sin licencia que se hacían pasar por agentes autorizados.
Para garantizar la transparencia, el Ministerio ha pedido a todos los proveedores de servicios de presentación de informes y agentes de recaudación de ingresos que verifiquen y vuelvan a verificar sus aprobaciones.
“Por lo tanto, todos aquellos que se consideren proveedores de servicios y agentes recaudadores de ingresos del Ministerio de Medio Ambiente están obligados a informar al Ministerio para la verificación y verificación de su aprobación y actividades.
“Tenga en cuenta que esta oportunidad de verificar y volver a verificar todas las aprobaciones anteriores caducará ocho semanas después de la publicación de este aviso público”, dijo.
El Comité de Peticiones Públicas de la Cámara de Representantes ha convocado a Agip Oil Company de Nigeria a comparecer ante ella el 26 de junio para responder preguntas sobre la supuesta deuda de 80 millones de dólares de De Kwon Services, una empresa nigeriana local.
El comité expresó su descontento por la falta de pago y la falta de comparecencia de AGIP Oil Company en la audiencia de investigación celebrada en Abuja el jueves, diciendo que es desafortunado que no se pague a una empresa local por un trabajo bien hecho y que los extranjeros patrocinen el mismo trabajo.
De Coon es una empresa local, dirigida por el profesor Nelson Onubogu, director general y director ejecutivo de la empresa.
El comité dijo que la ley es capaz de frustrar a los contratistas locales, añadiendo que no sería un buen augurio presionar a los nigerianos a dejar de trabajar mientras se alienta a los extranjeros.
El miembro del comité Matthew Mugo había señalado durante la sesión que la falta de asistencia de la AGIP equivalía a una falta de respeto.
“Es lamentable que personas que se supone deben rendir cuentas ante los nigerianos no lo sean. Cuando una comisión como ésta tiene el mandato constitucional de abordar cuestiones relacionadas con las vidas de los nigerianos, exige una organización, pero la negativa debería ser motivo de preocupación. ,” él dijo.
