Categories
News

El gobernador de California, Gavin Newsom, veta el controvertido proyecto de ley de seguridad de la IA

[ad_1]

El gobernador de California, Gavin Newsom, vetó el domingo un proyecto de ley de seguridad de la IA muy cuestionado después de que la industria tecnológica planteara objeciones, diciendo que podría expulsar a las empresas de inteligencia artificial del estado y obstaculizar la innovación.

Newsom dijo que el proyecto de ley “no tiene en cuenta si Sistema de inteligencia artificial Se implementa en entornos de alto riesgo, implica tomar decisiones críticas o utilizar datos confidenciales” y aplicará “estándares estrictos incluso a la funcionalidad básica, siempre que sea un sistema grande el que lo implemente”.

Newsom dijo que ha pedido a los principales expertos en IA generativa que ayuden a California a “desarrollar barreras de seguridad viables” centradas “en el desarrollo de análisis de rutas experimentales basadas en la ciencia”. También ordenó a las agencias estatales ampliar su evaluación de riesgos de eventos potencialmente catastróficos asociados con el uso de inteligencia artificial.

Inteligencia artificial generativa -que puede generar texto, imágenes y videos en respuesta a mensajes abiertos- ha generado entusiasmo y temores de que pueda dejar obsoletos algunos trabajos, alterar las elecciones y posiblemente dominar a los humanos con efectos desastrosos.

El autor del proyecto de ley, el senador demócrata Scott Wiener, dijo que la legislación es necesaria para proteger al público antes de que los avances en inteligencia artificial se vuelvan imprácticos o incontrolables. La industria de la inteligencia artificial está creciendo rápidamente en California y algunos líderes han cuestionado el futuro de estas empresas en el estado si el proyecto de ley se convierte en ley.

Weiner dijo el domingo que el veto hace que California sea menos segura y significa que “las empresas que apuntan a crear tecnología muy poderosa no enfrentan ninguna restricción vinculante”. “Los compromisos voluntarios de la industria no son ejecutables y rara vez funcionan bien para el público”, añadió.

“No podemos esperar a que ocurra un desastre importante antes de tomar medidas para proteger al público”, dijo Newsom, pero agregó que no estaba de acuerdo. “Debemos encontrar una solución que no dependa del análisis empírico de la trayectoria de los sistemas de IA y de los sistemas de inteligencia artificial. .” capacidades.”

Newsom dijo que trabajará con la Legislatura en la legislación sobre IA durante su próxima sesión. Esto llega en un momento en que la legislación para establecer salvaguardias se ha estancado en el Congreso de Estados Unidos y la administración Biden está presentando propuestas para la supervisión regulatoria de la inteligencia artificial.

“Puede estar justificado un enfoque exclusivo de California, especialmente en ausencia de una acción federal por parte del Congreso”, dijo Newsom.

La Cámara del Progreso, una coalición de la industria tecnológica, elogió el veto de Newsom y dijo: “La economía tecnológica de California siempre ha prosperado gracias a la competencia y la apertura”.

Entre otras cosas, la medida habría exigido pruebas de seguridad de muchos de los modelos de IA más avanzados cuyo desarrollo costó más de 100 millones de dólares (alrededor de 838 millones de rupias) o que requieren una cierta cantidad de potencia informática. Los desarrolladores de programas de IA que operan en el estado también necesitarán identificar formas de desactivar los modelos de IA, un interruptor de apagado eficaz.

El proyecto de ley habría creado una entidad gubernamental para supervisar el desarrollo de los llamados “modelos de frontera” que van más allá de las capacidades de los modelos actuales y más avanzados.

El proyecto de ley enfrentó una fuerte oposición de una amplia gama de grupos. alfabeto Googleapoyado por Microsoft AbiertoAIy Metaplataformastodos los cuales están desarrollando modelos de IA generativa, han expresado su preocupación por la propuesta.

Algunos demócratas en el Congreso de Estados Unidos, incluida la representante Nancy Pelosi, también se opusieron. Seguidores incluidos Elon Musk, director ejecutivo de Teslaque también dirige una empresa de inteligencia artificial llamada xAI. Anthropic, respaldada por Amazon, dijo que los beneficios del proyecto de ley probablemente superarían los costos, aunque agregó que todavía había algunos aspectos que parecían preocupantes o ambiguos.

Newsom firmó por separado una legislación que exige que el estado evalúe las amenazas potenciales que plantea la IA generativa a la infraestructura crítica de California.

Newsom dijo que el estado está realizando un análisis de riesgos de los proveedores de infraestructura energética y del sector energético previamente contratados y realizará la misma evaluación de riesgos con los proveedores de infraestructura de agua el próximo año y más tarde con el sector de las telecomunicaciones.

© Thomson Reuters 2024

(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).

[ad_2]

Source Article Link

Categories
Bisnis Industri

El gobernador de California veta el proyecto de ley de seguridad de la IA

[ad_1]

El domingo, el gobernador de California, Gavin Newsom, vetó el proyecto de ley 1047 del Senado, un conjunto de controvertidas normas de seguridad de la IA con varios mandatos para las empresas, objetando su enfoque. Por lo tanto, muchos de los actores de la IA del estado, incluida Apple, no tendrán que cambiar su forma de operar ni enfrentar posibles sanciones debido a esta legislación en particular.

Pero a pesar de dejar la SB 1047 sin firmar, Newsom dijo que cree en la necesidad de regular la seguridad de la IA.

El gobernador de California veta el proyecto de ley de seguridad de la IA

Newsom vetó la SB 1047 el domingo al enviar el proyecto de ley sin firmar al Senado de California. Con un mensaje explicativo.. El proyecto de ley, la Ley de Innovación Segura para Modelos Fronterizos de IA, llegó al escritorio de Newsom a continuación. Pasar el Senado Bajo la autoría principal de Senador Scott Wiener (D-San Francisco) A finales de agosto. Si se convirtiera en ley con la firma de Newsom, la SB 1047 probablemente tendría un impacto inteligencia de manzanaDesarrollo e implementación. Manzana Impulsar la inteligencia artificial continua Debut con próximas iOS 18.1 y Mac Secuoya 15.1 Versiones. Requiere nuevas funciones de IA iPhone 15 Pro o posterior, o dispositivos iPad y Mac con chip M1 o posterior.

Pero incluso con el fracaso de la SB 1047, la industria emergente de la IA sabe que se avecina una regulación. Pero hasta ahora no parece haber ningún comentario de Apple sobre la SB 1047 o la regulación de seguridad de la IA en general.

Varios motivos de veto

El gobernador Newsom citó varias razones para vetar la legislación, incluida la carga que supone para las empresas, así como su amplitud:

Aunque bien intencionado, el SB 1047 no tiene en cuenta si el sistema de IA se implementa en entornos de alto riesgo, implica tomar decisiones críticas o utilizar datos confidenciales. En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones básicas, siempre que exista un gran sistema que las implemente. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología.

Dijo que la SB 1047 podría desalentar la innovación. “Pueden surgir modelos más pequeños y especializados que sean igual o incluso más riesgosos que los modelos a los que se dirige la SB 1047, con el costo potencial de disminuir la innovación que impulsa el progreso para el bien común”, escribió Newsom.

Todavía es necesario regular la inteligencia artificial

Newsom dijo que cree que deberían existir barreras de seguridad, incluidas consecuencias para las empresas u otros malos actores que incumplan futuras regulaciones. Pero no cree que el país deba “conformarse con una solución que no dependa del análisis empírico de la trayectoria de los sistemas y capacidades de IA”.

Por su parte, Weiner, autor principal de la SB 1047, calificó el veto como un revés en una publicación en X (antes Twitter).

“Este veto nos deja con la incómoda realidad de que las empresas que pretenden crear tecnología extremadamente poderosa no enfrentan restricciones vinculantes por parte de los responsables políticos estadounidenses, especialmente dada la continua parálisis del Congreso a la hora de regular la industria tecnológica de manera significativa”, escribió.

¿Qué había en la SB 1047?

A pesar de la oposición de muchos miembros de la industria tecnológica, como OpenAI, el proyecto de ley ha recibido un amplio apoyo bipartidista. Llegó después de la administración Biden. Directrices de inteligencia artificial Apple y otras empresas tecnológicas se han comprometido a seguir, pero el nuevo proyecto de ley contiene más detalles e incluye mandatos ejecutables. En otras palabras, tenía cierto poder del que carecían las directrices de la Casa Blanca.

La SB 1047 se centró en regular los modelos de IA de vanguardia, que podrían afectar futuras funciones de IA en Mac y otros dispositivos. Ha requerido que los desarrolladores de IA realicen pruebas de seguridad en modelos avanzados de IA cuyo desarrollo costó más de 100 millones de dólares o que requieren una cierta cantidad de potencia informática. Las empresas deben demostrar la capacidad de cerrar rápidamente formularios inseguros y protegerse contra modificaciones maliciosas.

Además, el proyecto de ley otorga al fiscal general del estado el poder de procesar a los desarrolladores que no cumplan con las reglas. Incluía salvaguardias para los denunciantes que señalan los riesgos de la IA y requería que los desarrolladores contrataran auditores externos para evaluar sus precauciones de seguridad.



[ad_2]

Source Article Link