[ad_1]
El gobernador de California, Gavin Newsom, vetó el domingo un proyecto de ley de seguridad de la IA muy cuestionado después de que la industria tecnológica planteara objeciones, diciendo que podría expulsar a las empresas de inteligencia artificial del estado y obstaculizar la innovación.
Newsom dijo que el proyecto de ley “no tiene en cuenta si Sistema de inteligencia artificial Se implementa en entornos de alto riesgo, implica tomar decisiones críticas o utilizar datos confidenciales” y aplicará “estándares estrictos incluso a la funcionalidad básica, siempre que sea un sistema grande el que lo implemente”.
Newsom dijo que ha pedido a los principales expertos en IA generativa que ayuden a California a “desarrollar barreras de seguridad viables” centradas “en el desarrollo de análisis de rutas experimentales basadas en la ciencia”. También ordenó a las agencias estatales ampliar su evaluación de riesgos de eventos potencialmente catastróficos asociados con el uso de inteligencia artificial.
Inteligencia artificial generativa -que puede generar texto, imágenes y videos en respuesta a mensajes abiertos- ha generado entusiasmo y temores de que pueda dejar obsoletos algunos trabajos, alterar las elecciones y posiblemente dominar a los humanos con efectos desastrosos.
El autor del proyecto de ley, el senador demócrata Scott Wiener, dijo que la legislación es necesaria para proteger al público antes de que los avances en inteligencia artificial se vuelvan imprácticos o incontrolables. La industria de la inteligencia artificial está creciendo rápidamente en California y algunos líderes han cuestionado el futuro de estas empresas en el estado si el proyecto de ley se convierte en ley.
Weiner dijo el domingo que el veto hace que California sea menos segura y significa que “las empresas que apuntan a crear tecnología muy poderosa no enfrentan ninguna restricción vinculante”. “Los compromisos voluntarios de la industria no son ejecutables y rara vez funcionan bien para el público”, añadió.
“No podemos esperar a que ocurra un desastre importante antes de tomar medidas para proteger al público”, dijo Newsom, pero agregó que no estaba de acuerdo. “Debemos encontrar una solución que no dependa del análisis empírico de la trayectoria de los sistemas de IA y de los sistemas de inteligencia artificial. .” capacidades.”
Newsom dijo que trabajará con la Legislatura en la legislación sobre IA durante su próxima sesión. Esto llega en un momento en que la legislación para establecer salvaguardias se ha estancado en el Congreso de Estados Unidos y la administración Biden está presentando propuestas para la supervisión regulatoria de la inteligencia artificial.
“Puede estar justificado un enfoque exclusivo de California, especialmente en ausencia de una acción federal por parte del Congreso”, dijo Newsom.
La Cámara del Progreso, una coalición de la industria tecnológica, elogió el veto de Newsom y dijo: “La economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.
Entre otras cosas, la medida habría exigido pruebas de seguridad de muchos de los modelos de IA más avanzados cuyo desarrollo costó más de 100 millones de dólares (alrededor de 838 millones de rupias) o que requieren una cierta cantidad de potencia informática. Los desarrolladores de programas de IA que operan en el estado también necesitarán identificar formas de desactivar los modelos de IA, un interruptor de apagado eficaz.
El proyecto de ley habría creado una entidad gubernamental para supervisar el desarrollo de los llamados “modelos de frontera” que van más allá de las capacidades de los modelos actuales y más avanzados.
El proyecto de ley enfrentó una fuerte oposición de una amplia gama de grupos. alfabeto Googleapoyado por Microsoft AbiertoAIy Metaplataformastodos los cuales están desarrollando modelos de IA generativa, han expresado su preocupación por la propuesta.
Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se opusieron. Seguidores incluidos Elon Musk, director ejecutivo de Teslaque también dirige una empresa de inteligencia artificial llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superarían los costos, aunque agregó que todavía había algunos aspectos que parecían preocupantes o ambiguos.
Newsom firmó por separado una legislación que exige que el estado evalúe las amenazas potenciales que plantea la IA generativa a la infraestructura crítica de California.
Newsom dijo que el estado está realizando un análisis de riesgos de los proveedores de infraestructura energética y del sector energético previamente contratados y realizará la misma evaluación de riesgos con los proveedores de infraestructura de agua el próximo año y más tarde con el sector de las telecomunicaciones.
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).
[ad_2]
Source Article Link
