Cuando era el ex científico jefe de OpenAI Ilya Sutskever Dejó la empresa en mayo y todos se preguntaron por qué.
De hecho, el Los recientes disturbios internos En OpenAI y A Demanda a corto plazo Uno de los primeros defensores de OpenAI, Elon Musk, era bastante escéptico sobre la conexión de la mente humana. Con el meme “¿Qué vio Elijah?”.refiriéndose a la teoría de que Sutskever vio algo preocupante en la forma en que el CEO Sam Altman dirigió OpenAI.
Ahora, Sutskever tiene una nueva empresa, y eso puede ser una pista de por qué dejó OpenAI en el apogeo de sus poderes. El miércoles, Sutskever tuiteó que fundaría una empresa llamada Inteligencia súper segura.
“Nos esforzaremos por lograr una superinteligencia segura de manera directa, con un enfoque, un objetivo y un producto, y lo haremos a través de avances revolucionarios producidos por un pequeño equipo de primera”, escribió Sutskever.
Velocidad de la luz triturable
Es posible que el tweet haya sido eliminado.
El sitio web de la empresa es actualmente sólo un mensaje de texto firmado por Sutskever y por los cofundadores Daniel Gross y Daniel Levy (Total Fue uno de los fundadores del motor de búsqueda Cue, que fue adquirido por Apple en 2013, mientras él… Recopilación Dirigí el equipo de mejora en OpenAI). La carta reitera que la seguridad es el elemento clave en la construcción de una súper IA.
“Tratamos la seguridad y las capacidades en paralelo, como problemas técnicos que deben resolverse mediante ingeniería revolucionaria y descubrimientos científicos. Planeamos mejorar las capacidades lo más rápido posible y al mismo tiempo garantizar que nuestra seguridad permanezca siempre a la vanguardia”, decía la carta. “Nuestro único enfoque significa que no nos distraemos con gastos administrativos o ciclos de productos, y nuestro modelo de negocio significa que la seguridad, la protección y el progreso están todos aislados de las presiones comerciales a corto plazo”.
Si bien Sutskever nunca ha explicado públicamente por qué dejó OpenAI, en cambio elogiar A pesar de la trayectoria “milagrosa” de la empresa, vale la pena señalar que la seguridad es el foco de su nuevo producto de IA. almizcle Y muchos otros han advertido que OpenAI también lo es imprudente Sobre la construcción de AGI (inteligencia general artificial) y la salida en sí Sutskever et al. El equipo de OpenAI centrado en la seguridad señala que es posible que la empresa haya sido negligente a la hora de garantizar que AGI se construyera de forma segura. Musk también se opuso a la participación de Microsoft en OpenAI, alegando que la empresa estaba Giré De una organización sin fines de lucro a una “subsidiaria de facto de código cerrado” de Microsoft.
En una entrevista con Bloomberg, publicado el miércoles, Sutskever y sus cofundadores no nombraron ningún patrocinador, aunque Gross dijo que recaudar capital no sería un problema para la startup. Tampoco está claro si el trabajo de SSI se publicará como código abierto.