anterior Abierto AI El miembro de la junta explicó por qué Los directores tomaron la ahora infame decisión de despedir al director ejecutivo Sam Altman en noviembre pasado.. Hablando en una entrevista sobre Presentación TED sobre Inteligencia Artificial La investigadora de Podcast AI, Helen Toner, acusó a Altman de mentir y obstruir la junta directiva de OpenAI, tomar represalias contra quienes lo criticaron y crear una “atmósfera tóxica”.
“el [OpenAI] “La junta directiva es una junta sin fines de lucro que fue creada expresamente con el propósito de garantizar que la misión de bien público de la empresa sea primordial, y que esté por encima de las ganancias y los intereses de los inversores y otras cosas”, dijo Toner. Presentación TED sobre Inteligencia Artificial Anfitrión Bilawal Sidhu. “Pero durante años, Sam hizo que fuera muy difícil para la junta directiva hacer ese trabajo, ya sabes, reteniendo información, tergiversando cosas que estaban sucediendo en la empresa y, en algunos casos, mintiendo abiertamente a la junta”.
Es posible que el tweet haya sido eliminado.
OpenAI despidió a Altman el 17 de noviembre del año pasadoEste es un paso impactante que sorprendió a muchos dentro y fuera de la empresa. Según Toner, la decisión no fue fácil de tomar, ya que fueron necesarias semanas de intensas discusiones. Dijo que el secreto que lo rodea también fue intencional.
“Para todos nosotros estaba muy claro que tan pronto como Sam tuviera alguna idea de que podríamos hacer algo que entraría en conflicto con él, haría todo lo que estuviera en su poder, haría todo lo que estuviera en su poder para socavar la junta, para evitar que “Ni siquiera lo sé”, dijo Toner. “Llegué al punto de poder despedirlo”. “Así que fuimos muy cuidadosos y muy intencionales acerca de a quién se lo dijimos, que básicamente no fue nadie más que nadie por adelantado”. nuestro equipo legal.”
Desafortunadamente para Toner y el resto de la junta directiva de OpenAI, su cuidadosa planificación no produjo el resultado deseado. Si bien Altman fue inicialmente derrocado, OpenAI rápidamente lo volvió a nombrar CEO el siguiente Días de protesta, acusaciones e incertidumbre. La compañía también creó una junta directiva casi completamente nueva, destituyendo a quienes habían intentado despedir a Altman.
¿Por qué la junta directiva de OpenAI despidió al director ejecutivo Sam Altman?
Toner no habló específicamente de los efectos de esa época turbulenta en el podcast. Sin embargo, detalló por qué la junta de OpenAI llegó a la conclusión de que Allman debería irse.
A principios de esta semana, Toner y su ex miembro de la junta directiva Tasha McCauley Publicó una editorial en El economista Informando que decidieron despedir a Altman debido a “patrones de comportamiento de larga data”. Toner ahora ha proporcionado ejemplos del comportamiento mencionado en su conversación con Sidhu, incluida una afirmación de que no se informó a la junta de OpenAI cuándo sucedió. ChatGPT Fue puesto en libertad y sólo fue descubierto a través de las redes sociales.
“Cuando salió ChatGPT [in] noviembre de 2022, y no se informó previamente al Directorio. “Conocimos GPT en Twitter”, afirmó Toner. “Sam no informó a la junta que era propietario del fondo inicial OpenAI, a pesar de que constantemente afirmó que era un miembro independiente de la junta y que no tenía ningún interés financiero en la empresa. En múltiples ocasiones, nos proporcionó información inexacta sobre el pequeño número. de los procesos de seguridad formales que tenía implementados”, lo que significaba que era imposible para la junta saber qué tan bien estaban funcionando estos procesos de seguridad o qué podría ser necesario cambiar.
OpenAI está lanzando un nuevo equipo de seguridad interno bajo el liderazgo de Sam Altman
Toner también acusó a Altman de atacarla deliberadamente después de que ella se opusiera a un artículo de investigación del que era coautora. Valioso “Descifrando la intención: inteligencia artificial y señales costosas” El documento analiza los riesgos de la IA e incluye un análisis de las medidas de seguridad tanto de OpenAI como de su competidor Anthropic.
pero, Altman supuestamente consideró que el artículo académico era demasiado crítico con OpenAI y elogioso de su competencia.. tóner dijo Presentación TED sobre Inteligencia Artificial Después de la publicación del artículo en octubre del año pasado, Altman comenzó a difundir mentiras a otros miembros de la junta en un intento de que la despidieran. Ella dijo que el presunto incidente dañó la confianza de la junta en él, ya que para entonces estaban discutiendo seriamente despedir a Altman.
Velocidad de la luz triturable
“[F]”O en cualquier caso individual, Sam siempre podría dar algún tipo de explicación inofensiva de por qué no fue gran cosa o fue malinterpretado o lo que sea”, dijo Toner. “Pero el resultado final fue que después de años de este tipo de cosas, fuimos nosotros cuatro quienes lo despedimos. [OpenAI board members Toner, McCauley, Adam D’Angelo, and Ilya Sutskever] Llegamos a la conclusión de que no podíamos creer las cosas que Sam nos decía.
“Y ese es un lugar muy poco práctico para estar como junta directiva, especialmente una junta que se supone debe proporcionar supervisión independiente de la empresa, no sólo ayudar al CEO a recaudar más dinero, ya sabes. No confiar en la palabra de la junta directiva. El CEO, que “Es el principal canal de la empresa, la principal fuente de información sobre la empresa. Es absolutamente imposible”.
Toner dijo que la junta de OpenAI ha intentado abordar estos problemas y establecer nuevas políticas y procesos. Sin embargo, según se informa, otros ejecutivos comenzaron a contarle a la junta directiva sobre sus experiencias negativas con Altman y la “atmósfera tóxica que estaba creando”. Esto incluía acusaciones de mentira y manipulación, capturas de pantalla de respaldo de conversaciones y otros documentos.
“Usaron la frase 'abuso psicológico' para decirnos que no creían que él fuera la persona adecuada para dirigir la empresa”. [artificial general intelligence]“Nos dijeron que no creían que él pudiera o cambiaría, que no tenía sentido darle retroalimentación y que no tenía sentido tratar de resolver estos problemas”, dijo Toner.
El director ejecutivo de OpenAI acusado de tomar represalias contra los críticos
También tomó tinta Fuerte protesta de los empleados de OpenAI contra el despido de Altman. mucho Publicación en las redes sociales en apoyo al director ejecutivo derrocadoMientras que más de 500 de los 700 empleados de la empresa afirmaron que dimitirían si no se le restituía en su puesto. Según Toner, a los empleados se les hizo creer en la falsa dicotomía de que si Altman no regresaba “inmediatamente, sin ninguna responsabilidad”. [and a] “Una nueva placa de su elección”, OpenAI, será destruida.
“Entiendo por qué no querer arruinar la empresa llevó a mucha gente a alinearse, ya sea porque en algunos casos estaban a punto de ganar mucho dinero con esta próxima oferta pública, o simplemente porque amaban a su equipo, no lo hicieron. “No quieren perder”, dijo Toner. “Se preocupaban por el trabajo que estaban haciendo”. “Y, por supuesto, mucha gente no quería que la empresa colapsara, incluidos nosotros”.
También afirmó que el miedo a represalias por oponerse a Altman puede haber contribuido al apoyo que recibió de los empleados de OpenAI.
“Lo vieron vengarse de la gente, vengarse de ellos por posturas críticas del pasado”, dijo Toner. “Tenían mucho miedo de lo que les pudiera pasar. Entonces, cuando algunos empleados empezaron a decir: 'Espera, no quiero que la empresa colapse, como, traigamos a Sam de vuelta', fue muy difícil para aquellas personas que habían sido a través de experiencias horribles para decir eso por miedo a… “Si Sam permaneciera en el poder como finalmente lo hizo, les haría la vida miserable”.
Finalmente, Toner señaló el problemático historial laboral de Altman, que inicialmente salió a la luz después de su fallido despido de OpenAI. Refiriéndose a informes que Altman fue despedido de su puesto anterior en Y Combinator Debido a su supuesto comportamiento egoísta, Toner afirmó que OpenAI no era la única empresa que tenía los mismos problemas con él.
“Luego, en su trabajo anterior a ese, que era su único otro trabajo en Silicon Valley, su startup Loopt, el equipo directivo aparentemente acudió a la junta directiva dos veces y le pidió que lo despidiera por lo que llamaron 'comportamiento engañoso y disruptivo'”. Toner continuó.
“Si realmente miras su historial, no tiene una serie brillante de referencias. Este no fue un problema específico de los personajes en el tablero, por mucho que le gustara retratarlo de esa manera”.
Toner y McCauley no son los únicos ex alumnos de OpenAI que expresan preocupaciones sobre el liderazgo de Altman. El investigador jefe de seguridad Jan Lyke dimitió A principios de este mes, citó desacuerdos con las prioridades de la administración y argumentó que OpenAI debería centrarse más en cuestiones como la seguridad y el impacto social. (Sutskever, científico jefe y ex miembro de la junta directiva, también dimitióaunque indicó su deseo de trabajar en un proyecto personal.)
Como respuesta, Altman y el presidente Greg Brockman defendieron el enfoque de seguridad de OpenAI. La compañía también anunció esta semana que Altman tomará el mando. El nuevo equipo de Seguridad y Protección de OpenAI. mientras, Leike se unió a Anthropic.