Mi columna en Invertia de esta semana se titula «La IA, los accels y los decels» (pdf), y es un intento de explicar toda la telenovela acaecida en OpenAI a lo largo de la semana, y encuadrarla dentro de las colisiones entre distintas culturas que están teniendo lugar.
Finalmente, Sam is back. Varios días de conversaciones, varias personas desaparecidas del Consejo, un par de ellas más incorporadas en su lugar, y el convencimiento de que es mejor dejar a los científicos que se dediquen a la ciencia y se mantengan alejados del management.
Vamos por partes: Sam Altman y Greg Brockman se reincorporan a sus puestos como si nada hubiera ocurrido. El bueno de Adam D’Angelo se queda en el Consejo para dar continuidad al Consejo anterior (y porque fue el único que supo reaccionar adecuadamente), desaparecen Tasha McCauley y Helen Toner, y el que aparentemente empezó todo el lío para después arrepentirse, Ilya Sutskever, abandona el consejo pero continúa trabajando en la compañía. Es decir, déjame aquí a Adam, que sabe cómo funciona un Consejo y qué se espera de el, envía a Ilya de vuelta al laboratorio y adviértele de que no vuelva a tomar una decisión de management en lo que le quede de vida, y quítame a Tasha y a Helen por haber puesto sus lealtades en el lado equivocado.
Además, se incorporan al consejo dos perfiles muy relevantes: por un lado, Bret Taylor, una de las personas con más experiencia en Silicon Valley (fundador en FriendFeed, y puestos de altísimo nivel en Facebook/Meta y en Salesforce). Y por otro, Lawrence Summers, uno de los economistas más relevantes (ex-Secretario del Tesoro bajo la presidencia de Bill Clinton, Director del Consejo Nacional de Economía de los Estados Unidos, y Economista Jefe del Banco Mundial) y también, posiblemente, más peligrosos por su inveterada tendencia hacia el laissez faire. Es un creyente en la importancia de la inteligencia artificial en el futuro, pero si hace lo mismo que hizo en la crisis económica de 2008, acabaremos con Skynet tomando el control del mundo entero y con legiones de Terminators viajando desde el futuro y apareciendo por los lugares más insospechados…
Al final, lo que dije en su momento: el más listo de la clase sigue siendo un Satya Nadella que supo cubrir todas sus bases, y hacerlo además con una agilidad muy poco habitual en compañías de ese tamaño: primero tranquilizó a OpenAI, de la que posee un 49% e inversiones comprometidas muy importantes para asegurar la competencia de Microsoft en inteligencia artificial y la incorporación de sus prestaciones en todos sus productos, después ató a Sam y Greg para que no se fueran muy lejos y se aseguró de que no se lanzasen a crear otra compañía (lo que habría significado seguramente tener que volver a tomar una cara posición inversora en ella), y finalmente, se congratula porque se mantiene la situación anterior y OpenAI sigue vivita y coleando y dispuesta a cumplir todos sus acuerdos.
Veremos ahora cómo se recupera la calma en OpenAI, cuánto dura ahí un Ilya (i love you all) que, aunque arrepentido, fue quien abrió la caja de los truenos, pero que es una pieza importante en la compañía, y cómo reacciona una Mira Murati que llegó a ser reina por un día (fue CEO interina exactamente veinticuatro horas) pero que rápidamente cambió de lado y supo dejar sus lealtades bien claras. Dudo que esto quede en un simple «vaya semanita», pero seguramente, por el bien de todos, se terminen las luchas internas durante una buena temporada.
This article is also available in English on my Medium page, «OpenAI: it’s like nothing happened, or is it?»
Y con el chico de Twitch ¿Qué hacemos?
Nada, ni ha llegado a molestarse. Ha dicho que muy honrado por la llamada, que se alegra de haber contribuido a arreglas el problema, y que hasta más ver…
Para aclarar un poco el origen de la disputa;
Altman se quedó en minoría después de que tres miembros del consejo de administración abandonaran OpenAI, cuando ya llevaban más de un año de enfrentamientos, dado que tanto Ilya Sutskever como Helen Toner, dos de los teóricos de la junta original «sin-ánimo-de-lucro» del OpenAI ‘Non profit’, estaban criticando la actividad de la OpenAI «capped profit».
Es decir, las dos organizaciones que coexisten en OpenAI, una con propósito comercial, la que lanzó chatGPT, y la matriz fundada por Elon Musk (surprise), que es un pequeño engendro ideológico pseudo NGO.
Our structure – OpenAI
Tanto Sutskever, como Helen Toner y Adam D’Angelo , están afiliados a una organización rival, «Effective Altruism» y, en cierta medida, estaban preconizando un modelo similar al de Anthropic, una compañía rival con los mismos fundamentos y financiada por Google. (surprise, again) e incluso se consideró una fusión con esta última tras el despido de Altman.
El detonante, o excusa para el despido, fue un Paper de Helen Toner donde se elogiabaa Anthropic, la compañía comercial rival, por adherirse al credo de los «decel».
Decoding Intentions – Artificial Intelligence and Costly Signals (El paper de la discordia)
Aquí, lo que tenemos es, un consejo de administración plagado de creencias ideológicas, sobre si Terminator existe o no, que es una chorrada como un camión, y la compañía dedicada al desarrollo de productos comerciales a los que, por supuesto, les parece una melonada de la organización NGO lo del riesgo de una AGI (porque la AGI son los padres)
Con esa parte ideológica de la organización liberada de ningún contrapeso o control en el consejo de administración, se decidió dar un golpe de mano y tomar el control del OpenAI «capped-profit» despidiendo a Sam Altman.
[EOF]
–
Escena post-creditos
Skynet le ha mandado tres corazoncitos a Ilya Sutskever, que ya va camino de Anthropic en cuanto haga el vesting.
Pues yo no sé si será AGI o no AGI, pero empresas en Silicon valley no es que haya muchas es que hay muchísimas y que concretamente en esta metan nada más y nada menos que a Bret Taylor y Lawrence Summers y alguna gente más «sin importancia» que va a llegar…, esto es casi como meter control gubernamental y no se si será por AGI pero lo que si te digo yo es que no es por vender patatas
No es meter control gubernamental, es traerse a un tío con la agenda de contactos de Larry Summers para «facilitar» la interacción con el regulador…
Lo que pase en OpenAI me la refanfinfla, si ellos se van al garete, otros seguirán el sendero que han abierto. No estoy seguro que haya saturado la be recha que se ha abierto, es imposible seguir con el Consejo de Administración en contra. Pero como digo allá ellos a mi me importa un pito.
Como pasa con X, mientras funcione ,si me da un servicio como ChatGPT fenómeno, Si desaparecen por sus bobadas, pues que se lo va a hacer, buscaremos otra parecida que sin dudar aparecerá para cubrir su hueco.
El asunto es si es posible ser un «decel» en un mundo donde Rusia y China son totalmente «acel» para su propio beneficio.
El primero que consiga una Superinteligencia va a ser imbatible, así que el asunto es mas o menos como lo de los dos grandes partidos con la ley de Amnistia….¿Es peligroso ser «acel»? ..Absolutamente…Pero ¿no será aún mas peligroso ser «decel»?.
Ya te digo yo que si el gobierno USA tiene preeminencia no la va a desaprovechar.
To be AGI or not to be AGI… hay que ver lo siliconados que empiezan a estar los comentarios.
Pero teniendo en cuenta que no pienso montarme un diccionario particular, será cuestión de ir volviendo al Shakespeare y sus malditos y maldecidos
reyes (amantes…) ,dejando a tanto CEO y CEA, incluso CEE, ir de la Ceca a la Meca… y volver más siliconado de lo que se llegó, al nuevo Hollywood Tecnológico.
Parafraseando a GORKI, digamos que cada vez me la sudan más las tribus tecnológicas, que pretenden escribir una New Biblia, bien llenita de mentiras incomprobables.
No olvidemos nunca, sobre todo cuando nos subamos muy arriba en modo friki tecnológico, que una sola Biblia fue capaz de parir a tres religiones que se llevan a matar, entre ellas y con el resto del mundo.
Pues parece que la cosa se está poniendo fea.
Si acabamos de empezar con la IA y ya sucede esto….
https://elpais.com/tecnologia/2023-11-23/investigadores-de-openai-avisaron-de-un-avance-que-amenazaba-a-la-humanidad-antes-del-despido-de-altman.html