Un matemático de la Universidad de Nueva York (NYU) afirma que uno de los modelos de OpenAI llegó a los mismos resultados inéditos que él, solo un día después de que supieran su nombre. Ahora, este matemático mantiene sus ideas originales fuera de las herramientas de inteligencia artificial de la empresa. OpenAI dice que sus indicaciones no pudieron haber influido en su sistema.
Tristan Buckmaster advirtió sobre esto pocos días después de que OpenAI publicara 722 artículos matemáticos escritos por IA. Dijo que una de sus cuentas aún tenía activado el entrenamiento del modelo por defecto.
Buckmaster expone qué sucedió con su trabajo inédito
Buckmaster y Levent Alpöge, un matemático de Anthropic, empresa rival de OpenAI, pasaron casi un año trabajando en una aproximación al problema de Navier-Stokes, un desafío sobre dinámica de fluidos que ofrece un premio de 1 millón de dólares.
El matemático usó Codex, el asistente de programación de OpenAI, en una cuenta personal de pago para trabajar en el problema. Sus borradores quedaron guardados en los servidores de OpenAI.
Contó a CNBC que OpenAI no había hecho avances antes de que él revelara su nombre. Después, dijo, sus agentes llegaron “exactamente a donde estábamos” en un solo día.
En septiembre, Buckmaster dijo que no estaba acusando a nadie, según informó BeInCrypto. Ahora considera sospechoso el momento en que ocurrieron los hechos.
“Antes de que supieran mi nombre, no habían avanzado nada. Después de saber mi nombre, de repente comenzaron desde donde lo dejamos nosotros… Lo encuentro sospechoso”, dijo.
Antes de que OpenAI anunciara su prueba sobre Navier-Stokes el 8 de septiembre, Buckmaster afirma que le ofrecieron ser el único autor si dejaba fuera a Alpöge. Él rechazó la propuesta.
OpenAI rechaza cualquier relación con sus datos.
“Podemos decir categóricamente que es imposible que las indicaciones de Dr. Buckmaster en Codex durante los últimos dos meses hayan influido en el sistema de ninguna manera, incluido el entrenamiento”, informó ABC, citando a un portavoz de OpenAI.
Buckmaster dijo que ese período de tiempo seguía cambiando. Una declaración posterior de la empresa lo fijó en el 3 de julio.
¿Por qué Buckmaster aconseja a los investigadores mantener sus ideas fuera de la IA?
Buckmaster sigue usando Codex, pero ya no ingresa ideas que quiera mantener originales.
Explicó que los revisores de subvenciones suelen pegar propuestas de investigación en herramientas de IA para redactar resúmenes, entregando así planes inéditos a empresas de IA.
El lanzamiento de octubre de OpenAI usó información de 4,000 problemas matemáticos sin resolver. Buckmaster dijo que esto arruinó programas de investigación de matemáticos en etapas tempranas de sus carreras.
El investigador principal de OpenAI, Sébastien Bubeck, dijo al New York Times que sus ofrecimientos fueron para ayudar a Buckmaster.
Un portavoz dijo que OpenAI ha hecho “avances importantes” sobre otro de los problemas de 1 millón de dólares.
El post ¿Puedes confiarle tus mejores ideas a ChatGPT? Profesor de la NYU recomienda pensarlo dos veces fue visto por primera vez en BeInCrypto.