[ad_1]
Amnistía Internacional Los líderes de la industria han unido fuerzas para formar la Coalición para una Inteligencia Artificial Segura (CoSAI), lo que indica un paso importante hacia una regulación más estricta. Emergiendo como respuesta al panorama fragmentado de la IA protecciónCuando los gobiernos carecen de experiencia y los desarrolladores carecen de un marco práctico y unificado, estos líderes buscan establecer estándares sobre regulaciones de seguridad de la IA, sin obstaculizar el desarrollo tecnológico y la innovación.
Se espera que el mercado mundial de IA crezca a una tasa compuesta anual del 37,3 % entre 2023 y 2030, alcanzando un valor de £1.433,3 mil millones de libras esterlinas para 2030. A medida que continúa remodelando las industrias, muchos argumentarán que los protocolos regulatorios y de seguridad están muy atrasados.
La pregunta es: ¿Qué importancia tiene esta alianza para la industria de la IA? ¿Qué dicen los críticos sobre las empresas que establecen sus propias reglas?
CEO y cofundador de Seismic.
Alianza para una IA segura
Gartner espera que el gasto global en productos y servicios de seguridad de la información y gestión de riesgos alcance los £173,2 mil millones de libras esterlinas en 2023, lo que refleja una creciente conciencia de la importancia de proteger los sistemas y datos de inteligencia artificial.
CoSAI es una alianza industrial recientemente formada que tiene como objetivo crear medidas integrales de seguridad de IA para abordar los riesgos actuales y futuros. Reúne a actores clave, incluidos Google, microsofty OpenAI, Amazon, Anthropic, NVIDIA, IBM e Intel, para colaborar en el desarrollo de estándares y mejores prácticas para la seguridad de la IA.
La alianza busca abordar una amplia gama de preocupaciones de seguridad a lo largo del ciclo de vida de la IA, incluida la construcción, integración, implementación y operación de sistemas de IA. En concreto, se centrará en mitigar riesgos potenciales como el robo de modelos, Datos envenenamiento, inyección instantánea, uso indebido generalizado y ataques de inferencia, al mismo tiempo que se busca desarrollar medidas de seguridad integrales para abordar los riesgos tradicionales y específicos de la IA.
¿Por qué el gobierno está adoptando una actitud negativa?
Normalmente, la idea de que los gobiernos permitan a los líderes de la industria redactar regulaciones para sus propios productos es absurda. Pero cuando una tecnología es tan revolucionaria (y evoluciona con la misma rapidez) como la inteligencia artificial, el debate cambia.
De repente, los grandes actores eran los únicos aptos para escribir las reglas porque eran ellos los que fabricaban la tecnología; Son las personas que saben qué es, cuáles son sus riesgos y cómo es probable que se desarrolle.
Hasta que el gobierno se ponga al día, por supuesto.
Pero esto llevará tiempo, y el riesgo de permitir que la IA siga propagándose y desarrollándose sin un marco central unificado es muy alto. Algunas regulaciones son mejores que ninguna y, aunque el cumplimiento será voluntario, las empresas que opten por ignorarlas pueden enfrentar consecuencias retroactivas por parte de su gobierno en el futuro.
Lo que dicen los críticos
Si bien esta alianza significa que los líderes de la IA han tomado voluntariamente la iniciativa en la autorregulación, el proyecto también enfrenta importantes críticas. En primer lugar, existe una clara preocupación de que los gigantes de la industria estén tratando de controlar el ritmo del desarrollo de la IA y aislar a la industria de la nueva competencia mediante la creación de regulaciones a su favor. En segundo lugar, la membresía limitada de la alianza, en su mayoría grandes empresas de tecnología, genera preocupaciones sobre si es realmente capaz de abordar toda la gama de desafíos de seguridad de la IA.
Finalmente, a pesar de ser una coalición centrada en la seguridad, muchos han cuestionado la falta de participación de figuras destacadas. ciberseguridad Empresas como Palo Alto Networks o Fortinet.
Estos son puntos válidos, pero la cosa es…
No puedes mantener al genio de la IA en una botella
A pesar de los llamamientos para detener el crecimiento de la inteligencia artificial por parte de actores destacados, incluidos Elon Musk y… manzana El cofundador Steve Wozniak (notablemente ausente de la lista de miembros de CoSAI), la mayoría de la gente se da cuenta de que el genio ha salido de la botella.
En muchos sentidos, esto deja a las empresas en una posición similar a la que ocurrió con el RGPD; Preocupaciones de datos de larga data privacidad Había llegado a un punto de ebullición, pero las empresas carecían de un marco concreto que les dijera qué hacer al respecto. Luego se reunieron en torno a un marco unificado. La alianza es el comienzo de ese proceso. Esfuerzos de autorregulación como este son clave para ayudar a los gobiernos y reguladores que no pueden seguir el ritmo de la tecnología. Puede que no sea ideal que esté dirigido por creadores y desarrolladores de tecnología, pero ¿cuál es la otra opción? Esperamos que CoSAI actúe como catalizador de medidas más concretas para garantizar que la IA se utilice de forma ética y segura.
Mientras tanto, esto probablemente será beneficioso para todos, incluida la industria del software de habilitación. Incluso si la gran mayoría del uso de la IA en programas de empoderamiento es mucho menos grave de lo que la Alianza fue creada para abordar, sigue siendo valiosa para nosotros. Clientela Para respuestas y confirmaciones.
Sentencia final sobre CoSAI
Nadie, incluidos los fundadores de CoSAI, dice que esta alianza sea la mejor solución para la regulación de la IA a largo plazo. En un mundo ideal, el gobierno ya habría creado e implementado regulaciones integrales de seguridad y ética para la IA. Y lo harán con el tiempo. Sin embargo, las empresas necesitan ahora un marco unificado.
Por lo tanto, la coalición se convierte en un marcador de posición hasta que el gobierno esté listo para hacerse cargo. Esto es algo bueno. Es una señal positiva para todas las industrias, ya que mueve la aguja para garantizar el uso responsable y controlado de esta tecnología revolucionaria. Si bien todavía hay críticas justificables, es importante recordar que este es sólo el primer paso, y las directrices y regulaciones que surjan de esta alianza serán monitoreadas y examinadas por todos. Por ahora, este es un buen paso en la dirección correcta.
Hemos presentado el mejor software de cifrado.
Este artículo se produjo como parte del canal Expert Insights de TechRadarPro, donde mostramos las mejores y más brillantes mentes de la industria tecnológica actual. Las opiniones expresadas aquí son las del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, obtenga más información aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro
[ad_2]
Source Article Link