Ilya Sutskever parlant a la Universitat de Tel Aviv el 5 de juny de 2023.Jack Guez/AFP a través de Getty Images
Ilya Sutskever, un pioner en IA. investigador i cofundador d'OpenAI que recentment va deixar l'A.I. L'empresa després d'un intent fallit de destituir el CEO Sam Altman, està llançant un nou A.I. empresa que pretén posar la seguretat en primer lloc. Coneguda com a Safe Superintelligence, Inc. (SSI), la startup es centrarà singularment a crear de manera segura una IA. sistema capaç de superar els humans en intel·ligència. Perseguirem superintel·ligència segura en un tir directe, amb un enfocament, un objectiu i un producte, va dir Sutskever de la nova empresa en una publicació a X.
Les preocupacions pel que fa a l'amenaça existencial que suposa A.I. han estat abundants entre els que treballen amb la tecnologia i han provocat diferències en els enfocaments de seguretat entre empreses líders com OpenAI. Poc després que Sutskever deixés OpenAI al maig després d'un mandat de gairebé deu anys, Jan Leike —amb qui va dirigir conjuntament un equip de seguretat dissolt des de llavors que supervisava els riscos a llarg termini de la IA— també va dimitir i va dir que la cultura i els processos de l'empresa s'han produït. va passar al seient del darrere dels productes brillants.
https://x.com/ilyasut/status/1803472979873128498
Els altres cofundadors de SSI inclouen Daniel Gross, que abans va dirigir A.I. esforços a Apple (AAPL) i va ser soci de Y Combinator; i Daniel Levy, que anteriorment va treballar al costat de Sutskever a OpenAI com a membre del seu personal tècnic. Tot i que el trio no ha revelat els detalls de com perseguiran exactament la IA segura, van descriure la missió de SSI com una que faltarà. distracció per despeses generals de gestió o cicles de producte i romandre aïllat de les pressions comercials a curt termini. La startup, que tindrà oficines a Palo Alto, Califòrnia i Tel Aviv a Israel, encara no ha revelat el seu model de negoci o inversors.
Un A.I. més buscat. expert
La primera gran ruptura de Sutskever al món de la IA. va tenir lloc el 2012 quan estudiava a la Universitat de Toronto amb Geoffrey Hinton, un A.I. acadèmic sovint conegut com el Padrí de l'A.I. Un A.I. El laboratori creat per Sutskever, Hinton i un altre estudiant va ser adquirit per Google, que va portar a Sutskever com a investigador científic el 2013.
El científic informàtic es va unir finalment a OpenAI com a cofundador i científic en cap el 2015. Tant OpenAI com Demis Hassabis, Google DeepMind estaven interessats a contractar Sutskever en aquell moment, va dir el cofundador d'OpenAI Elon Musk durant un podcast recent. Aquesta va ser una de les batalles de reclutament més dures que he tingut mai, va dir.
Musk, que ha parlat sobre els perills de la IA, sembla que no està convençut per la nova empresa de Sutskever. Qualsevol donat A.I. La startup està condemnada a convertir-se en el contrari del seu nom, va escriure el CEO de Tesla i SpaceX a X.
https://x.com/elonmusk/status/1803783427616821401
Sutskever va ser titular l'any passat com a membre de la junta de quatre persones d'OpenAI que va afirmar haver perdut la confiança en Altman i el va retirar breument de l'empresa al novembre abans de reinstal·lar ràpidament el conseller delegat enmig d'un rebuig d'empleats i inversors. Poc després de l'eliminació fallida, Sutskever semblava haver canviat de parer i va dir que lamentava profundament el seu paper en l'acomiadament. El mateix Sutskever va renunciar com a científic en cap de l'A.I. empresa sis mesos després. En aquell moment, va insinuar a SSI afirmant que estava passant a un projecte que és personalment significatiu per a ell.