Este mail de Altman a Elon Musk fue el primer paso para fundar OpenAI: "sería bueno que Google no sean los primeros"
Publicado el 19/11/2024 por Diario Tecnología Artículo original
El conflicto legal que mantienen Elon Musk y Sam Altman ha facilitado que salgan a la luz una serie de correos electrónicos entre los fundadores de OpenAI (figuras prominentes de Silicon Valley como Elon Musk, Sam Altman, Andrej Karpathy, Ilya Sutskever y Greg Brockman) que exponen cómo se gestaron decisiones clave sobre la compañía y cómo se dio forma a su visión sobre la IA durante aquellos primeros pasos.
Los primeros pasos
En mayo de 2015, Sam Altman propuso a Elon Musk una idea que sentaría las bases de OpenAI:
"He estado pensando mucho sobre si es posible impedir que la Humanidad desarrolle IA. Pienso que la respuesta es casi definitivamente 'no'.
Si de todos modos va a suceder, parece que sería bueno que alguien que no sea Google lo haga primero.
¿Alguna idea sobre si sería bueno que Y Combinator iniciara un Proyecto Manhattan para la IA?".
"Probablemente valga la pena conversar al respecto", contestó Elon Musk dos horas más tarde.
La idea giraba en torno a una organización sin fines de lucro (qué lejos queda eso) que promoviera la distribución equitativa de los beneficios de la IA, un concepto ambicioso que buscaba atraer a los mejores talentos con una estructura híbrida entre los incentivos del mundo empresarial y la misión social de una fundación.
Altman sugirió que un equipo reducido de expertos iniciales podría sentar las bases para el proyecto, poniendo sobre la mesa nombres de figuras influyentes como Bill Gates, Dustin Moskovitz y Pierre Omidyar, además de los propios Altman y Musk.
"Estoy de acuerdo en todo", contestó Musk. Y este intercambio inicial de pareceres fue la piedra sobre la que se asentó una de las entidades más influyentes en el campo de la IA.
Una batalla contra DeepMind
Los correos también reflejan el respeto/temor hacia el predominio de Google DeepMind en el campo de la IA. Karpathy calculó que DeepMind podría estar operando con un presupuesto anual cercano a los 500 millones de dólares, una cifra que, aunque considerable, representa una fracción del potencial de ingresos de Alphabet.
Con recursos masivos, infraestructuras avanzadas y acceso a un tercio de toda la investigación global en IA, Google representaba un competidor formidable. Musk calificó a DeepMind como una amenaza potencial debido a su "filosofía de una sola mente para gobernar el mundo".
Los impulsores de OpenAI también muestran en sus correos una preocupación constante sobre cómo competir con Google DeepMind, que ya estaba avanzando rápidamente en el desarrollo de IA: para atraer a los mejores investigadores, OpenAI diseñó un paquete de compensación que combinaba salarios competitivos y participación en la estructura de financiación de Y Combinator.
Sin embargo, también se enfrentaron a contraofertas agresivas de DeepMind y otras grandes empresas tecnológicas. En un correo de diciembre de 2015, Altman destacó que DeepMind había comenzado a ofrecer "ofertas masivas" a los empleados de OpenAI, intentando descarrilar su progreso. "Si no atraemos a los mejores talentos, seremos irrelevantes", advertía Musk dos meses después.
Un visionario... hasta cierto punto
Entre las figuras destacadas en esta narrativa, Andrej Karpathy se erige como un pensador visionario: En sus correos, Karpathy señaló que el progreso en IA está impulsado principalmente por la disponibilidad de sistemas computacionales masivos, datos y la infraestructura para procesarlos. Esta perspectiva subraya la importancia de invertir en capacidad computacional, incluso por encima de los avances algorítmicos.
Y esa perspectiva ha funcionado bien durante algunos años, aunque ya sabemos que cada vez tiene menos recorrido.
El debate sobre el poder dentro de OpenAI
La tensión sobre cómo estructurar la gobernanza de OpenAI emergió como un tema central. Musk buscaba asegurar un control firme, argumentando que era necesario para garantizar que OpenAI se mantuviera fiel a su misión. Sin embargo, Sutskever y Brockman expresaron preocupaciones sobre el riesgo de concentrar demasiado poder en una sola persona. El primero de ellos escribía lo siguiente en uno de sus e-mails:
"El objetivo de OpenAI es hacer que el futuro sea mejor y evitar una dictadura de la IA general. A ti te preocupa que Demis [Hassabis, CEO de DeepMind] pueda crear una dictadura de la IA general. A nosotros también. Por lo tanto, es una mala idea crear una estructura de la que tú pudieras convertirte en dictador si así lo deseas".
Este desacuerdo condujo a debates internos intensos y, eventualmente, a la salida de Musk de la junta directiva en 2018.
Curiosamente, ambos puntos de vista terminaron teniendo razón: como Elon Musk temía, OpenAI renegó rápidamente tanto de su faceta 'open' como de su naturaleza carente de ánimo de lucro, y como Sutskever temía, la compañía terminó degenerando en una estructura de concentración personalista del poder... sólo que éste ahora es ejercido por Sam Altman.
Vía | LessWrong
Imagen | Marcos Merino mediante IA
19_Nov_2024"> Marcos Merino .