[ad_1]
- AWS revela comprobaciones de inferencia automatizadas
- La nueva herramienta buscará reducir las alucinaciones de la IA comparando las respuestas con los datos de los clientes.
- Los clientes recibirán respuestas de IA para ver qué tan precisas son
Las empresas lo utilizan cada vez más Herramientas de inteligencia artificial Dadas sus operaciones y misiones clave, las alucinaciones han demostrado ser cada vez más desafiantes.
Para tratar de abordar esto, Amazonas AWS ha anunciado una nueva herramienta para abordar las alucinaciones.
revelado en Re-AWS: inventado en 2024 En este evento, un nuevo sistema automatizado de verificación del razonamiento busca reducir los errores potencialmente dañinos causados por alucinaciones, que podrían dejar a las empresas enfrentando riesgos de seguridad o pérdidas financieras.
¿El fin de las alucinaciones de la inteligencia artificial?
En su nivel más básico, las alucinaciones ocurren cuando un sistema o servicio de IA se comporta incorrectamente o se vuelve poco confiable, a menudo debido a problemas con errores en los datos con los que fue entrenado.
Descrita por la empresa como “la primera y única protección pública de IA que ayuda a prevenir errores fácticos debido a alucinaciones de modelos”, AWS Automated Inference Checks busca resolver este problema comparando las respuestas generadas por el modelo con la información proporcionada por el cliente. Si no puede determinar si la respuesta coincide exactamente, la respuesta se devuelve al formulario para su verificación.
Disponibles como parte de Amazon Bedrock Guardrails, el sistema de la compañía para mantener los modelos de IA precisos y confiables, las nuevas pruebas también intentarán ver cómo llegó el modelo a su respuesta y, si lo considera incorrecto, lo comparará con las respuestas del cliente. . Información.
Luego presentará su respuesta junto con la respuesta inicial del modelo, lo que significa que los clientes pueden ver la brecha potencial entre la verdad y la respuesta y ajustar su modelo en consecuencia.
AWS dio un ejemplo de un proveedor de atención médica que utiliza la herramienta para garantizar que las consultas de los clientes sobre políticas específicas obtengan respuestas precisas.
“Con el tiempo, a medida que la IA generativa transforme más negocios y experiencias de los clientes, la inferencia se convertirá en una parte esencial de cada aplicación”, afirmó el Dr. Swami Sivasubramanian, vicepresidente de IA y datos de AWS.
“Con el lanzamiento de estas nuevas capacidades, estamos innovando en nombre de los clientes para resolver algunos de los desafíos más importantes, como las alucinaciones y los costos, que enfrenta toda la industria al pasar a producción aplicaciones de IA generativa”.
También te puede gustar
[ad_2]
Source Article Link
