Google El jueves (30 de mayo) publicó una explicación de la debacle causada por su herramienta de búsqueda impulsada por inteligencia artificial (IA), AI Overviews, que generó respuestas inexactas a múltiples consultas. Se ha introducido una función de inteligencia artificial para buscar en Google I/O 2024 el 14 de mayo, pero, según se informa, se enfrentó a un escrutinio poco después por proporcionar respuestas extrañas a las consultas de búsqueda. En una extensa explicación, Google reveló la posible causa detrás del problema y los pasos tomados para solucionarlo.
respuesta de google
en un blog correo, Google comenzó explicando cómo su función AI Overviews funciona de manera diferente a otros chatbots y modelos de lenguaje grandes (LLM). Según la empresa, Amnistía Internacional Las pantallas genéricas simplemente no generan “resultados basados en datos de entrenamiento”. En cambio, se dice que está integrado en sus “sistemas de clasificación web subyacentes” y está destinado a realizar tareas de “búsqueda” tradicionales desde un índice. Google también afirmó que su herramienta de búsqueda de inteligencia artificial “generalmente no causa alucinaciones”.
“Debido a que la precisión es de suma importancia en la búsqueda, la función AI Overviews está diseñada para mostrar solo información respaldada por los resultados web más importantes”, dijo la compañía.
¿Y luego qué pasó? Según Google, una de las razones fue la incapacidad de la función AI Overviews para filtrar contenido sarcástico e ilógico. Al señalar la consulta de búsqueda “¿cuántas piedras debo comer?”, que arrojó resultados que sugerían que una persona consumía una piedra por día, Google dijo que antes de la búsqueda “prácticamente nadie hacía esta pregunta”.
Esto, según la empresa, ha creado un “vacío de datos” donde el contenido de alta calidad es limitado. Con esta consulta en particular, también se publicó contenido satírico. “Entonces, cuando alguien hizo esta pregunta en una búsqueda, apareció una descripción general de la IA estrechamente vinculada a uno de los únicos sitios web que abordaba la pregunta”, explicó Google.
La compañía también admitió que AI Overviews tomó referencias de foros, que a pesar de ser una “gran fuente de información real y de primera mano”, pueden conducir a “consejos poco útiles”, como Usar pegamento en pizza Para hacer palitos de queso. En otros casos, la función de búsqueda también malinterpretó el idioma de las páginas web, lo que generó respuestas inexactas.
Google dijo que “trabajó rápidamente para abordar estos problemas, ya sea mediante mejoras en nuestros algoritmos o mediante procesos implementados para eliminar respuestas que no cumplan con nuestras políticas”.
Medidas adoptadas para mejorar la descripción general de la IA
Google ha tomado las siguientes medidas para mejorar las respuestas a las consultas generadas por la función AI Overviews:
- Ha creado mejores mecanismos para detectar consultas irracionales, limitando la inclusión de contenido sarcástico e irracional.
- La compañía dice que también ha actualizado sistemas para limitar el uso de contenido generado por usuarios en respuestas que puedan brindar consejos engañosos.
- Las resúmenes de IA de temas de noticias importantes no se mostrarán cuando la “frescura y el realismo” sean primordiales.
Google también afirmó que monitoreó comentarios externos e informes de una pequeña cantidad de respuestas de AI Overviews que violaban su contenido. Sin embargo, dijo que las posibilidades de que esto sucediera eran “menos de una entre 7 millones de consultas únicas”.