Los expertos de OpenAI y Google DeepMind tienen serias advertencias sobre la IA

Para OpenAI, las últimas semanas han sido así para hacer varios titulares -Y no por las mejores razones. La historia no termina ahí: muchos empleados actuales y anteriores de OpenAI, junto con empleados de Google DeepMind, ahora critican a sus principales empresas de IA por la censura, una cultura de crítica asfixiante y una falta general de transparencia.

en Carta abierta, los denunciantes esencialmente han defendido el derecho a criticar públicamente la tecnología de inteligencia artificial y los riesgos asociados con ella. Debido a la falta de obligación de compartir información con agencias gubernamentales y reguladores, “los empleados actuales y anteriores se encuentran entre las pocas personas que pueden conservar su información”, escribieron. [these corporations] “Responsables con el público”, y dijo que muchos de ellos “temen diversas formas de represalias” por hacerlo.

Los firmantes exigieron que las empresas de inteligencia artificial avanzada se adhieran a ciertos principios, incluida la facilitación de un proceso anónimo para que los empleados planteen preocupaciones sobre riesgos y que las empresas apoyen una “cultura abierta de crítica”, siempre que los secretos comerciales estén protegidos por la ley. la operacion. También pidieron a las empresas que no tomen represalias contra quienes “compartan públicamente información confidencial de riesgo después de que otras operaciones fracasen”.

En la carta, el grupo también abordó los riesgos de la IA de los que son conscientes: desde afianzar las desigualdades existentes hasta exacerbar la desinformación y el potencial de extinción humana.

Daniel Kokotaglo, ex investigador de OpenAI y uno de los organizadores del grupo, Le dijo al New York Times Que OpenAI está “corriendo precipitadamente” hacia la cima del juego de la IA. La empresa se ha enfrentado a un escrutinio por sus operaciones de seguridad. Lanzamiento reciente del equipo de seguridad interno También es sorprendente que esto sea cierto. Sam Altman, director ejecutivo Él se sienta sobre su cabeza.