El CEO d'OpenAI, Sam Altman, ha parlat anteriorment del seu desig d'aconseguir un raonament a nivell humà en IA.Justin Sullivan/Getty Images
Com a part del camí d'OpenAI cap a la intel·ligència general artificial (A.G.I), un terme per a la tecnologia que coincideix amb la intel·ligència dels humans, l'empresa està intentant habilitar la intel·ligència artificial. models per realitzar raonaments avançats. Aquest treball s'està duent a terme sota un projecte secret amb el nom en codi ' Maduixa ”, segons va informar Reuters, que va assenyalar que el projecte es coneixia anteriorment com a Q* o Q Star. Tot i que el seu nom pot haver canviat, el projecte no és precisament nou. Investigadors i cofundadors d'OpenAI anteriorment han advertit contra la iniciativa, amb la preocupació perquè, segons es diu, participi en la breu destitució de Sam Altman com a conseller delegat d'OpenAI al novembre.
Strawberry utilitza un mètode únic de post-entrenament A.I. models, un procés que millora el seu rendiment després d'haver estat entrenat en conjunts de dades, segons Reuters, que va citar documents interns d'OpenAI i una persona familiaritzada amb el projecte. Amb l'ajuda de conjunts de dades d'investigació profunda, l'empresa pretén crear models que mostrin raonaments a nivell humà. S'ha informat que OpenAI està investigant com Strawberry pot permetre que els models puguin completar tasques durant un període de temps prolongat, buscar a la web per si mateixos i prendre accions sobre les seves troballes i realitzar el treball dels enginyers. OpenAI no va respondre a les sol·licituds de comentaris de Startracker.
Elon Musk i Ilya Sutskever van expressar la seva preocupació sobre Q*
Altman, que ha fet anteriorment va reiterar el desig d'OpenAI de crear models capaços de raonar , va perdre breument el control de la seva empresa l'any passat quan la seva junta el va acomiadar durant quatre dies. Poc abans de l'expulsió, s'havien convertit en diversos empleats d'OpenAI preocupat pels avenços presentat pel que llavors es coneixia com a Q*, un projecte encapçalat per Ilya Sutskever, antic científic cap d'OpenAI. El mateix Sutskever havia començat a preocupar-se per la tecnologia del projecte, igual que els empleats d'OpenAI que treballaven en IA. seguretat en el moment. Després de la seva reincorporació, Altman es va referir a les notícies sobre Q* com a fuga desafortunada en una entrevista al Verge.
Elon Musk, un altre cofundador d'OpenAI , també ha donat l'alarma sobre Q* en el passat. El multimilionari, que va trencar els llaços amb l'empresa el 2018, es va referir al projecte en una demanda presentada contra OpenAI i Altman que des de llavors ha estat abandonada. Mentre es parlava de l'estreta associació d'OpenAI amb Microsoft (MSFT), la demanda de Musk va afirmar que els termes de l'acord dicten que Microsoft només té drets sobre el pre-A.G.I d'OpenAI. tecnologia i que correspon al consell d'OpenAI determinar quan l'empresa ha aconseguit A.G.I.
Musk va argumentar que el model GPT-4 d'OpenAI constitueix un AGI, que creu que suposa una greu amenaça per a la humanitat, segons la demanda. Els documents judicials van indicar que OpenAI està desenvolupant actualment un model conegut com a Q* que té un reclam encara més fort a A.G.I.
Reunions internes recents han suggerit que OpenAI està avançant ràpidament cap al tipus de raonament a nivell humà en què està treballant Strawberry. En una reunió de totes les mans d'OpenAI celebrada a principis d'aquest mes, la companyia va donar a conèixer un sistema de cinc nivells per fer un seguiment del seu progrés cap a A.G.I., segons informa Bloomberg. Tot i que la companyia va dir que actualment es troba al primer nivell, conegut com a chatbots, va revelar que gairebé ha arribat al segon nivell de raonaments, que implica una tecnologia que pot mostrar la resolució de problemes a nivell humà. Els passos posteriors consisteixen en A.I. sistemes que actuen com a agents que poden prendre accions, innovadors que ajuden a la invenció i organitzacions que fan la feina d'una organització.