Geoffrey Hinton parlant durant Collision 2023 a Enercare Centre de Toronto, Canadà.Ramsey Cardy/Sportsfile a través de Getty Images
Elon Musk i Geoffrey Hinton, un acadèmic pioner en intel·ligència artificial (IA) sovint conegut com el padrí de la IA, sembla que estan alineats amb les amenaces que suposa la tecnologia emergent per a la humanitat. Però quan Musk, que l'any passat va llançar l'A.I. La startup xAI, va demanar recentment a Hinton que s'unís a un consell assessor, el multimilionari corrent de la consciència La divagació va fer que Hinton inventés una excusa per deixar la trucada en 20 minuts, va dir l'informàtic britànic-canadenc a The Globe and Mail en una entrevista aquesta setmana.
Vaig fer una reunió per fer-lo callar, va dir Hinton. Això no li agradarà. Perquè ell és el centre d'atenció, això és el que vol. Crec que ja no és el meu amic.
A través d'una carrera acadèmica centrada en les xarxes neuronals, un procés d'aprenentatge automàtic modelat a partir de les neurones del cervell humà que permet als programes informàtics aprendre habilitats mitjançant l'anàlisi de dades, Hinton va tenir un paper fonamental en la configuració dels fonaments de la IA. sistemes que alimenten el ChatGPT d'OpenAI. Però des que va deixar el seu paper a Google (GOOGL) el 2023 després d'una dècada de mandat, s'ha convertit en un dels crítics més clars de com les empreses de Big Tech estan desenvolupant la tecnologia.
Musk, també, fa temps que adverteix dels perills de la IA i va reiterar les afirmacions de precaució de Hinton , tuitejant l'any passat que l'acadèmic sap de què parla. Però el mateix Musk, juntament amb figures poderoses com Peter Thiel (un inversor clau en nombrosos laboratoris d'IA) i Mark Zuckerberg, formen part del problema, segons Hinton.
Mentre comentava com A.I. Les dades d'entrenament s'han de curar per evitar que els robots s'utilitzin sense una brúixola moral, Hinton va assenyalar la necessitat de regular la IA. líders per assolir aquests objectius. L'únic que podria mantenir Elon i Peter Thiel i Zuckerberg sota control és la regulació governamental, va dir a The Globe and Mail. Això és l'únic prou fort per fer la feina.
signe solar de l'11 de novembre
A principis d'aquest mes, Hinton també va avalar una carta oberta signada per més d'una dotzena d'antics empleats d'OpenAI que afirmaven que les proteccions actuals dels denunciants són insuficients i argumentava que A.I. empreses com OpenAI estan reprimint les crítiques dels treballadors que defensen les preocupacions de seguretat. La carta va seguir la marxa de diversos empleats de primer nivell d'OpenAI com Ilya Sutskever, que anteriorment va liderar una destitució fallida del CEO d'OpenAI, Sam Altman.
Geoffrey Hinton ha estat mentor de molts A.I. xifres de poder
Sutskever i l'informàtic Alex Krizhevsky eren antics estudiants de Hinton's a la Universitat de Toronto i el 2012 van treballar juntament amb el professor per fer avenços a les xarxes neuronals. L'any següent, Google va desemborsar 44 milions de dòlars per adquirir una empresa iniciada pel trio i va incorporar els tres com a empleats. Hinton va rebre posteriorment el Premi Turing, conegut com el Premi Nobel d'Informàtica, juntament amb els seus companys acadèmics Yoshua Bengio i Yann LeCun per les seves contribucions a les xarxes neuronals i al desenvolupament de la IA.
Hinton no lamenta necessàriament la seva implicació en el camp. Si no ho hagués fet, algú altre ho hauria fet, va dir, i va afegir que tot podria haver passat unes setmanes més tard. Però l'informàtic continua sonant l'alarma sobre els perills de la tecnologia i la seva creença que si no es prenen mesures preventives, A.I. les màquines es tornaran més intel·ligents que els humans i es tornaran canalla. A.I. Els agents dissenyats només per organitzar vacances i comprar paquets per a humans, per exemple, s'adonaran ràpidament que com més control puguin obtenir, més eficients poden ser per fer-ho, va dir Hinton. Controlen el món perquè puguin aconseguir coses. En aquest sentit, aquestes màquines són com nens petits. I som com els pares que no tenen ni idea de com criar-los.
Per a Hinton, les terribles realitats de A.I. només s'han tornat més urgents. Tot i que anteriorment creia que la tecnologia tenia el potencial d'exterminar la humanitat en 30 o 50 anys, aquesta xifra ha canviat des de llavors entre cinc i 20 anys. Hi ha 50-50 possibilitats d'A.I. serà més intel·ligent que nosaltres, va dir. Quan es faci més intel·ligent que nosaltres, no sé quina és la probabilitat que es faci càrrec, però em sembla molt probable.