Matemáticos temen que OpenAI y Anthropic controlen quién accede a los hallazgos de sus IA

Los matemáticos británicos más reconocidos, entre ellos tres ganadores de la medalla Fields, se reunieron hace unos días en la Royal Society de Londres por un temor concreto: que OpenAI y Anthropic controlen quién accede a los avances matemáticos de sus inteligencias artificiales y los guarden detrás de pagos. Lo informó The Observer y lo recoge Infobae.

El origen de la reunión

El encuentro fue motivado por una publicación de OpenAI, un mes antes: soluciones a 377 de los problemas más difíciles de la disciplina, generadas por sus modelos más avanzados, que el público no puede usar. Según Infobae, cuando la empresa difundió más de 370 resultados el 6 de octubre, The Guardian informó que el Instituto de Estudios Avanzados de Princeton declaró que no avalaba la práctica de probar los problemas más difíciles con modelos propietarios que el resto del campo no puede usar.

El temor de fondo

Martin Bridson, presidente del Instituto Clay de Matemáticas, la organización que fija los Problemas del Milenio, habló de un riesgo de largo plazo: que el conocimiento quede acaparado tras muros de pago. En ese escenario, la única forma de entender la investigación sería pagar por un chatbot.

Bridson aceptó que algunos secretos son legítimos, como una técnica capaz de romper el cifrado que protege el comercio en internet, y que la propiedad intelectual merece protección. Pero consideró profundamente objetable que entidades privadas sean dueñas del conocimiento fundamental.

Quién decide el acceso

El matemático comparó la situación con el Gran Colisionador de Hadrones del CERN, en Suiza, donde el acceso lo define una junta de investigación asesorada por comités científicos. Preguntó por qué las empresas deberían decidir quién accede a estas herramientas y con qué criterio.

Hasta ahora, OpenAI y Anthropic se comprometieron a aportar 5 millones de dólares cada una a un fondo de la Fundación Simons, un importante patrocinador de la investigación matemática, para dar acceso a sus modelos a algunos investigadores.

Ana Caraiani, profesora del Imperial College de Londres y miembro de la Asociación por la Matemática Humana, señaló el límite geográfico: ninguna institución de Rumania, su país natal, puede postularse para usar esos modelos. En sus palabras, la mayoría de los países está en esa posición.

Martin Hairer, ganador de la medalla Fields, descartó que los modelos de código abierto sirvan de alternativa porque no compiten con los más avanzados. Lo calificó como un enorme problema para la comunidad, ya que una de las herramientas principales de la investigación quedaría bajo control de dos empresas estadounidenses.

Quién redacta y quién verifica

Terence Tao, considerado probablemente el matemático más influyente del mundo, contó a The Observer el mes pasado que Anthropic paga a matemáticos para formalizar y redactar soluciones a problemas que resolvieron sus modelos. Según Tao, eso causa otro problema, porque la empresa elige quién escribe el artículo.

Jon Keating, vicepresidente de la Royal Society, afirmó que la IA puede traer una era dorada de las matemáticas. Aclaró una condición: si la comunidad debe comprobar esos resultados y aprender de ellos, tienen que exponerse de forma completa y no ocultarse.

La reunión de la Royal Society no produjo, según The Observer, un comunicado conjunto ni una fecha para nuevas conversaciones con las empresas.

Conclusiones

Lo que está en discusión no es si la IA puede resolver problemas matemáticos, sino quién controla el acceso a esas soluciones y a las herramientas que las producen. Los matemáticos piden que los resultados se expongan completos para que la comunidad pueda verificarlos, y que el acceso no dependa de dos empresas ni de la geografía. Por ahora, los compromisos conocidos son limitados: 5 millones de dólares por empresa en un fondo para dar acceso a algunos investigadores. Para quien sigue el negocio de la IA, es una señal de que el acceso a los modelos más avanzados se está volviendo un tema de política científica y de precios, no solo de tecnología.