OpenAI está creando un comité de seguridad y protección a medida que comienza a probar su próximo gran modelo de IA

AbiertoAI El martes, la compañía anunció la formación de un nuevo comité para supervisar las medidas de seguridad tomadas en los proyectos y operaciones de la compañía. El Comité de Seguridad está formado por miembros seleccionados de la Junta Directiva y está encargado de evaluar y desarrollar aún más las operaciones y salvaguardas de la empresa de inteligencia artificial con sede en San Francisco. El nuevo comité se formó cuando OpenAI comenzó a probar su modelo de inteligencia artificial (IA) de próxima generación. Vale la pena señalar que la empresa recientemente abonado Su Especificación de modelo, un documento que destaca el enfoque de la empresa hacia la construcción de un modelo de IA responsable y ético.

Comité de seguridad y protección de OpenAI

en Entrada en el blogLa empresa destacó los detalles de su comité recién formado. “Hoy, la junta directiva de OpenAI formó un comité de seguridad liderado por los directores Brett Taylor (presidente), Adam D'Angelo, Nicole Seligman y Sam Altman (CEO). Este comité será responsable de hacer recomendaciones a toda la junta directiva. sobre decisiones de seguridad y protección “, decía la publicación. Crítico para los proyectos y operaciones de OpenAI”.

Además de los directores, el jefe de preparación de OpenAI, Alexander Madry, el jefe de sistemas de seguridad, John Shulman, el jefe de seguridad Matt Knight y el jefe científico, Jakub Paczucki, también formarán parte del panel.

La primera tarea del comité será evaluar y desarrollar aún más los procesos y salvaguardas de AI durante los próximos 90 días. Luego, el comité compartirá sus conclusiones y recomendaciones con toda la Junta Directiva. Las recomendaciones se someterán a una revisión de la junta directiva, después de lo cual OpenAI compartirá públicamente las recomendaciones aprobadas.

OpenAI comienza a probar el modelo de IA de próxima generación

Estas novedades en OpenAI están relacionadas con la nueva iniciativa de la compañía. Ha comenzado a probar la próxima generación de su modelo de IA. Lo describió como un modelo de IA “de frontera” y destacó que este modelo de lenguaje grande (LLM) aún por probar acercaría a la empresa un paso más a la inteligencia artificial general (AGI).

AGI es un tipo de inteligencia artificial que puede comprender, aprender y aplicar conocimientos en una amplia gama de tareas del mundo real similares a la inteligencia humana. Algunas definiciones de AGI también destacan que es capaz de funcionar de forma autónoma y puede desarrollar un cierto nivel de autoconciencia.