La Unión Americana de Libertades Civiles hace sonar la alarma sobre la creciente dependencia del país de las fuerzas policiales. inteligencia artificial.
en seis paginas papel blanco Publicado el 10 de diciembre, el grupo de derechos civiles más grande del país advierte que la aplicación de tecnología popular de inteligencia artificial generativa, como chatbots y herramientas de dibujo, está superando el progreso tecnológico y representa una amenaza para las libertades civiles estadounidenses.
La organización destaca específicamente el uso de Draft One, una controvertida herramienta de inteligencia artificial generativa que ayuda a los agentes de policía a redactar informes basados en el audio de la cámara corporal y se basa en el modelo GPT-4 de OpenAI. Muchos departamentos de policía de todo el país han estado probando gradualmente herramientas de inteligencia artificial durante el año pasado, incluido Draft One. Este número es en alturamientras ciudades de todo Estados Unidos promocionan características creativas de IA como una solución a las limitaciones de presupuesto y personal.
Los expertos han Criticó la implementación para esta tecnología, citando el papel esencial que desempeñan los informes policiales en el proceso de toma de decisiones judiciales, desde la investigación y el descubrimiento hasta la sentencia.
Velocidad de la luz triturable
“La función coercitiva de redactar una justificación, luego jurar lo que es y publicar ese registro a otros profesionales del derecho (fiscales/jueces) es un control del poder policial”, escribió el experto en derecho Andrew Guthrie Ferguson en un artículo. Reseñas de la Primera Ley A partir de informes policiales generados por inteligencia artificial. El informe fue citado por la Unión Estadounidense de Libertades Civiles en su libro blanco.
La ACLU identifica cuatro áreas principales de preocupación en su libro blanco, incluido el proceso de rendición de cuentas necesario para los informes escritos por humanos que describe Ferguson. En su análisis, la organización enfatiza la incertidumbre que generan los sesgos y alucinaciones inherentes a la propia tecnología, y cuestiona la transparencia de estos procesos para el público en general, sin mencionar sus implicaciones para la privacidad de los datos. Según la organización, confiar más en la interpretación de herramientas de inteligencia artificial generativa que en la memoria humana y las observaciones personales de un oficial de policía va en detrimento de un proceso judicial justo.
Si la inteligencia artificial es la próxima frontera para los agentes de policía, la ACLU insta a su uso sólo después de registrar la memoria humana. La organización explica que las herramientas de inteligencia artificial pueden transcribir narrativas verbales grabadas en audio creadas por oficiales relevantes, que pueden enviarse una al lado de la otra para su revisión.
Pero, contrariamente a las recomendaciones de los grupos de derechos civiles, los líderes de Amnistía Internacional están invirtiendo constantemente en policía y Aplicaciones militares De su tecnología.
“Los informes policiales desempeñan un papel fundamental en nuestro sistema judicial. Son fundamentales para los procedimientos penales que determinan la inocencia, la culpabilidad y el castigo de las personas y, a menudo, son el único relato oficial de lo que sucedió durante un incidente en particular”, escribió la ACLU. “La tecnología de informes de inteligencia artificial elimina importantes elementos humanos de los procedimientos policiales y es demasiado nueva, demasiado poco probada, demasiado poco confiable, demasiado opaca y demasiado parcial para incorporarla a nuestro sistema de justicia penal”.