El CEO de OpenAI, Sam Altman, sabía que el proyecto Q*, la IA generativa que superaba la inteligencia humana, estaba lista e iba a ser peligrosa para la humanidad. Y no se lo dijo a su junta directiva de su empresa, que había recibido esa misma semana una carta escrita por varios investigadores de la empresa advirtiendo de que habían descubierto una IA que podía ser peligrosa para la humanidad. Venían a decir que ya estaba hecho; habían descubierto un alter ego de Matrix, o de Skainet, o Terminator o la mismísima Hall 9000.
Altman se lo había callado. Solo había comentado el jueves, un día antes de lo despidieran (el pasado viernes día 17), que conocía un avance técnico reciente logrado por la compañía y que le había permitido «descorrer el velo de la ignorancia y avanzar la frontera del descubrimiento». No había informado a una junta formada en su mayoría por personas con intenciones altruistas, que preferían crear y comercializar una IA más segura para la humanidad, a desarrollar y vender como churros IA generativa, sin cuidar que no fuera dañina para los seres humanos, a la corta o a la larga.
El negocio tras el asombroso éxito de ChatGPT en apenas un año era redondo y los inversores como Microsoft, que es dueño del 49% de OpenAI, querían seguir haciendo caja
El negocio tras el asombroso éxito de ChatGPT en apenas un año era redondo y los inversores como Microsoft, que es dueño del 49% de OpenAI, querían seguir haciendo caja. El CEO, Sam Altman se había «vendido» al diablo del dinero.
Así, esa carta de la que se supo más tarde que pronto y el algoritmo de la IA fueron claves para que la junta destituyera a su CEO. Con él, antes de que cuatro días después, este pasado martes por la noche, volviera al frente de la compañía, más de 700 empleados, en solidaridad con su jefe, habían amenazado con renunciar a sus puesto de trabajo y pedir ser incorporados al equipo de Microsoft iba a montar con Altman al frente.
OPENAI Y SU ‘MATRIX: EL PROYECTO Q*
La comercialización de avances en la IA generativa antes de que se pudieran medir sus consecuencias fue una de las razones de que la junta, que inicialmente concebía la empresa como una organización sin ánimo de lujo, perdiera la confianza en su CEO. La empresa ha reconocido esta semana en un mensaje interno dirigido a todo el personal que era verdad, que existía un proyecto de investigación llamado Q*.
Q* es la ‘Matrix’ de OpenAI capaz de decidir los caminos del dinero a nivel mundial, sin la intervención de brokers, analistas, economistas y seres humanos en general
Trabajadores de la empresa han dejado que trascienda la información que apunta a que ese proyecto, que se pronunciaría Q-Star, puede ser un «gran avance» en la búsqueda de la startup de la inteligencia artificial general (AGI), conocido como los sistemas autónomos de IA que superan a los humanos en tareas, principalmente relacionadas con los análisis económicos y financieros. La ‘Matrix’ de OpenAI capaz de decidir los caminos del dinero a nivel mundial, sin la intervención de brokers, analistas, economistas y seres humanos en general.
Gracias a que la startup cuenta ya con extraordinarios recursos informáticos, ese nuevo modelo pudo resolver problemas matemáticos, no demasiado complejos, pero que hasta ahora no habían podido resolver las máquinas, por lo que parecía que la investigación en esta superinteligencia iba a ser un éxito. La IA hasta ahora escribe y traduce bien, pero lo de razonar las matemáticas, no le resultaba tan sencillo. Y esta super IAG es capaz de no solo dar respuestas correctas, como una calculadora. También puede generalizar, aprender y comprender, tal y como aseguraron fuentes de la empresa a Reuters.
En la carta que enviaron a la junta, los científicos del departamento Q* señalaron la destreza y el peligro potencial de la IA, aunque se desconocen las preocupaciones de seguridad exactas señaladas en la misiva. Y ante estas informaciones cabe recordar que mundillo techy, más allá de las ideas llevadas a la pantalla por guionistas y escritores, como Matrix, Terminator o Hall 9000, lleva ya unas cuantas décadas debatiendo el peligro que suponen las máquinas muy inteligentes, si, por ejemplo, pudieran decidir que la destrucción de la humanidad era de su interés.
esta super IAG es capaz de no solo dar respuestas correctas, como una calculadora. También puede generalizar, aprender y comprender
Altman se ha esforzado, y mucho, para conseguir hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento en la historia y atrajo la inversión (y los recursos informáticos) necesarios de Microsoft para acercarse a AGI. El culebrón de su despido y su reincorporación posterior este martes, ayudado por el empuje de Microsoft, su potencial económico y la necesidad de no perder ni un solo cliente ante sus competidores, tiene que ver con lo que dijo en público en una reciente intervención en la Cumbre de Cooperación Económica Asia-Pacífico en San Francisco.
Sam reconoció que «cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante». También dijo que para él, «poder hacer eso es el honor profesional de mi vida». La junta, tras escucharle y haber leído la carta, ató cabos y le destituyó.
La nueva junta directiva de Open AI está formada, entre otros grandes directivos, por Bret Taylor, ex codirector ejecutivo de Salesforce y Larry Summers, exsecretario del Tesoro de EE. UU., junto con el director ejecutivo y actual director de Quora, Adam D’Angelo. Bret Taylor, que presidirá la junta, tiene 43 años, es programador informático y empresario estadounidense y miembro de la junta directiva de Shopify.
Larry Summers tiene ya 68 años y es un economista que además de haber estado en su puesto en el gobierno estadounidense entre 1999 a 2001, es profesor de la Universidad Charles W. Eliot, presidente emérito de Harvard y forma parte de la junta directiva de Jack Dorsey’s Block y Skillsoft. Por su parte, D’Angelo, de 39 años, es un empresario de Internet estadounidense, licenciado en Ciencias de la Computación, que anteriormente fue CTO de Facebook durante casi dos años, hasta junio de 2008. Recientemente también se le conoce como fundador del sitio web social de preguntas y respuestas y del mercado de conocimientos en línea con sede en California, Quora.
