La carta del punto de inflexión

Reuters citó el 23 de noviembre a fuentes exclusivas que dijeron que cuatro días antes de que el CEO Sam Altman fuera despedido, varios investigadores de OpenAI enviaron una carta a la junta directiva de la compañía advirtiendo sobre un poderoso descubrimiento de inteligencia artificial (IA) que podría amenazar a la humanidad. La carta no reportada previamente y el algoritmo de IA fueron desarrollos clave antes de que el cofundador de OpenAI, Sam Altman, fuera despedido el 17 de noviembre. Regresó para asumir el cargo el 21 de noviembre (hora de EE. UU.) después de dos negociaciones con OpenAI. La carta fue uno de los motivos que la junta directiva de OpenAI incluyó en su lista de despidos, según las fuentes, aunque en un comunicado oficial la compañía solo dijo que Altman "no fue coherente ni directo en sus comunicaciones con la junta".

Según fuentes, una de las gerentes senior de OpenAI desde hace mucho tiempo, Mira Murati, mencionó un proyecto llamado Q* a los empleados el 22 de noviembre y dijo que la junta directiva de la compañía recibió una carta antes de despedir al Sr. Altman. Una de las fuentes reveló que OpenAI ha avanzado en el proyecto Q*, lo que podría suponer un gran avance en la búsqueda de la superinteligencia, también conocida como inteligencia artificial general (AGI).

Aunque el modelo sólo realiza cálculos matemáticos de nivel escolar primario, resolver dichos problemas hace que los investigadores sean muy optimistas sobre el éxito futuro de Q*. Los investigadores ven las matemáticas como un prerrequisito para el desarrollo de una IA generativa. La IA generativa ahora puede escribir y traducir idiomas, aunque las respuestas a la misma pregunta pueden ser muy diferentes. Pero conquistar las matemáticas, donde solo hay una respuesta correcta, implica que la IA razonará mejor, como los humanos. Los investigadores creen que esto podría aplicarse a nuevos estudios científicos.

¿Peligro potencial?

En una carta a la junta directiva de OpenAI, los investigadores describieron el poder potencial y los peligros de la IA, según las fuentes. Los científicos informáticos han debatido durante mucho tiempo los peligros que plantean las máquinas superinteligentes, como por ejemplo si podrían decidir destruir a la humanidad para su propio beneficio. En ese contexto, el Sr. Altman lideró los esfuerzos para convertir ChatGPT en una de las aplicaciones de software de más rápido crecimiento en la historia y atraer la inversión y los recursos informáticos necesarios para acercarse a la AGI. Además de anunciar una serie de nuevas herramientas en un evento este mes, el Sr. Altman dijo a los líderes mundiales en San Francisco la semana pasada que cree que la IAG está a nuestro alcance. Un día después, fue despedido por la junta directiva de OpenAI. OpenAI y el Sr. Altman no han hecho comentarios sobre la carta.

Preocupados por los riesgos potenciales de la IA, muchos gobiernos occidentales y empresas tecnológicas han acordado un nuevo mecanismo de pruebas de seguridad. Sin embargo, según AFP, el secretario general de la ONU, Antonio Guterres, dijo que el mundo todavía está "tratando de ponerse al día" en los esfuerzos por regular la IA, lo que corre el riesgo de tener consecuencias negativas a largo plazo para todo, desde el empleo hasta la cultura.