Safe Superintelligence (SSI), recientemente cofundada por el ex científico jefe de OpenAI, Ilya Sutskever, ha recaudado mil millones de dólares en efectivo para ayudar a desarrollar sistemas de IA seguros que superan con creces las capacidades humanas, dijeron ejecutivos de la compañía a Reuters.
SSI, que actualmente cuenta con 10 empleados, planea utilizar el dinero para adquirir potencia informática y contratar a los mejores talentos. Se centrará en formar un equipo pequeño y de gran confianza de investigadores e ingenieros dividido entre Palo Alto, California y Tel Aviv, Israel.
La empresa se negó a revelar su valoración, pero fuentes cercanas al asunto dijeron que estaba valorada en 5.000 millones de dólares (alrededor de 41.993 millones de rupias). La financiación subraya cómo algunos inversores todavía están dispuestos a apostar fuerte por talentos excepcionales centrados en las startups. Investigación de inteligencia artificialEsto a pesar de una disminución general del interés en financiar este tipo de empresas que pueden no ser rentables durante algún tiempo, lo que ha llevado a muchos fundadores de startups a dejar sus puestos en favor de empresas tecnológicas gigantes.
Entre los inversores se encontraban importantes empresas de capital riesgo como Andreessen Horowitz, Sequoia Capital, DST Global y SV Angel. También participó en la conferencia NFDG, una sociedad de inversión administrada por Nat Friedman y el director ejecutivo de SSI, Daniel Gross.
“Es importante para nosotros estar rodeados de inversores que comprendan, respeten y apoyen nuestra misión, que es apuntar directamente a una superinteligencia segura y, especialmente, pasar dos años en investigación y desarrollo de nuestro producto antes de lanzarlo al mercado”, dijo Gross en una entrevista.
La seguridad de la IA, que se refiere a evitar que la IA cause daño, es un tema candente en medio de preocupaciones de que una IA deshonesta pueda actuar contra los intereses de la humanidad o incluso causar la extinción de los humanos.
Un proyecto de ley en California que busca imponer reglas de seguridad a las empresas ha dividido a la industria. Se oponen empresas como: AbiertoAI y Googley cuenta con el apoyo de Anthropic y Elon Musk xAI.
Sutskever, de 37 años, es uno de los tecnólogos más influyentes en el campo de la inteligencia artificial. Cofundó SSI en junio con Gross, quien anteriormente dirigió iniciativas de inteligencia artificial en Apple, y Daniel Levy, ex investigador de OpenAI. Sutskever es el científico jefe, Levy es el científico principal, mientras que Gross es responsable de la potencia informática y la recaudación de fondos.
nueva montaña
Sutskever dijo que su nuevo proyecto tenía sentido porque “identificó una montaña que era un poco diferente de aquello en lo que estaba trabajando”.
El año pasado, estuvo en la junta directiva de la empresa matriz sin fines de lucro de OpenAI, que votó a favor de destituir al director ejecutivo de OpenAI. Sam Altman Debido a un “corte de comunicaciones”.
A los pocos días, revocó su decisión y se unió a casi todos los empleados de OpenAI para firmar una carta exigiendo el regreso de Altman y la renuncia de la junta. Pero un giro de los acontecimientos disminuyó su papel en OpenAI. Fue destituido del directorio y dejó la empresa en mayo.
Después de la partida de Sutskever, la compañía desmanteló su equipo de “Superalineación”, que había estado trabajando para garantizar que la IA siguiera siendo compatible con los valores humanos en preparación para el día en que la IA supere la inteligencia humana.
A diferencia de la estructura corporativa poco convencional de OpenAI, que se implementó por razones de seguridad de la IA pero hizo posible el despido de Altman, SSI tiene una estructura de ganancias regular.
Actualmente, SSI se está centrando en gran medida en contratar personas que se ajusten a su cultura.
Gross dijo que pasan horas verificando que los candidatos tengan “buen carácter” y buscan personas con habilidades extraordinarias en lugar de enfatizar demasiado las calificaciones y la experiencia en el campo.
“Una de las cosas que nos emociona es cuando encuentras gente interesada en el trabajo, y no interesada en el espectáculo o el ruido”, añadió.
SSI dice que planea asociarse con proveedores de nube y compañías de chips para financiar sus necesidades de potencia informática, pero aún no ha decidido con qué compañías trabajará. Las nuevas empresas de IA suelen trabajar con empresas como Microsoft y Nvidia para satisfacer sus necesidades de infraestructura.
Sutskever fue uno de los primeros defensores de la escalabilidad, la hipótesis de que los modelos de IA mejorarán su rendimiento dadas cantidades masivas de potencia informática. La idea y su implementación han provocado una ola de inversiones en IA en chips, centros de datos y energía, sentando las bases para avances en IA generativa como… chat gbt.
Sutskever dijo que abordaría la expansión de manera diferente que su empleador anterior, sin compartir detalles.
“Todo el mundo se limita a decir la hipótesis de la expansión. Todo el mundo ignora la pregunta: ¿qué estamos expandiendo?” Como él dijo.
“Algunas personas pueden trabajar muchas horas y luego recorrer el mismo camino más rápido. Ese no es nuestro estilo. Pero si haces algo diferente, es posible hacer algo especial”.
© Thomson Reuters 2024
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).