Los investigadores de IA afirman haber realizado el primer descubrimiento científico del mundo utilizando un modelo de lenguaje grande, una hazaña que sugiere que la tecnología detrás de ChatGPT y programas similares puede generar información más allá del conocimiento humano.
Estos hallazgos surgen de Google DeepMind, donde los científicos están investigando si los grandes modelos de lenguaje, que impulsan los chatbots modernos como ChatGPT de OpenAI y Bard de Google, pueden hacer algo más que simplemente recombinar la información aprendida en el entrenamiento y generar nuevos conocimientos.
«Cuando comenzamos el proyecto, no había indicios de que produciría algo realmente nuevo», dijo Pushmeet Kohli, jefe de IA para ciencia en DeepMind. «Hasta donde sabemos, esta es la primera vez que se realiza un descubrimiento científico verdaderamente nuevo con un modelo de lenguaje grande».
Los grandes modelos de lenguaje, o LLM, son potentes redes neuronales que aprenden patrones de lenguaje, incluido el código informático, a partir de grandes cantidades de texto y otros datos. Desde la rápida llegada de ChatGPT el año pasado, la tecnología ha depurado software defectuoso y ha producido de todo, desde ensayos universitarios e itinerarios de viajes hasta poemas sobre el cambio climático al estilo de Shakespeare.
Pero aunque los chatbots han demostrado ser enormemente populares, no generan nuevos conocimientos y son propensos a la invención, lo que da como resultado respuestas fluidas y plausibles, en línea con los mejores pubs, pero profundamente defectuosas.
Para crear «FunSearch», abreviatura de «búsqueda en el espacio funcional», DeepMind aprovechó su LLM para escribir soluciones a problemas en forma de programas informáticos. El LLM se combina con un «evaluador» que califica automáticamente los programas según su desempeño. Luego, los mejores programas se combinan y se devuelven a LLM para mejorarlos. Esto impulsa al sistema a desarrollar constantemente programas débiles para convertirlos en programas más potentes que puedan descubrir nuevos conocimientos.
Los investigadores lanzaron FunSearch en dos acertijos. El primero fue un desafío de larga data y algo oscuro en matemáticas puras conocido como Problema al poner la funda. Se trata de encontrar el mayor conjunto de puntos en el espacio donde tres puntos no forman una línea recta. FunSearch ha producido software que genera nuevos conjuntos grandes que van más allá del mejor trabajo de los matemáticos.
El segundo rompecabezas fue Problema de embalaje del contenedor, que busca las mejores formas de empaquetar artículos de diferentes tamaños en contenedores. Si bien se aplica a objetos físicos, como la forma más eficiente de organizar cajas en un contenedor de envío, las mismas matemáticas se aplican a otras áreas, como la programación de tareas informáticas en centros de datos. El problema generalmente se resuelve empacando los artículos en el primer contenedor que tiene espacio o en el contenedor que tiene menos espacio disponible donde aún cabe el artículo. FunSearch encontró un mejor enfoque que evita dejar pequeños vacíos que probablemente nunca se llenarán, según los resultados publicados en naturaleza.
«en el último dos o tres Años Sir Tim Gowers, profesor de matemáticas de la Universidad de Cambridge, que no participó en la investigación, dijo: «Ha habido algunos ejemplos interesantes de matemáticos humanos que colaboran con inteligencia artificial para avanzar en problemas no resueltos». «Este trabajo nos brinda potencialmente otra herramienta muy interesante para este tipo de colaboraciones, permitiendo a los matemáticos buscar de manera eficiente construcciones inteligentes e inesperadas. Mejor aún, estas construcciones son susceptibles de interpretación humana».
Los investigadores ahora están explorando una variedad de problemas científicos que FunSearch puede abordar. Un factor limitante importante es que los problemas necesitan soluciones que puedan verificarse automáticamente, lo que descarta muchas cuestiones en biología, donde las hipótesis a menudo deben probarse mediante experimentos de laboratorio.
Después de promocionar el boletín
El impacto más inmediato puede ser para los programadores informáticos. Durante los últimos 50 años, el proceso de programación ha mejorado enormemente gracias a que los humanos han creado algoritmos más especializados. «Esto en realidad será transformador en la forma en que las personas abordan la informática y descubren algoritmos», dijo Kohli. «Por primera vez, estamos viendo que los MBA no sólo toman el control, sino que ciertamente ayudan a ampliar los límites de lo que es posible en los algoritmos».
«Lo que encuentro realmente emocionante, incluso más que nuestros hallazgos específicos, son las perspectivas que sugieren para el futuro del mundo», afirmó Jordan Ellenberg, profesor de matemáticas en la Universidad de Wisconsin-Madison y coautor del artículo. Interacción hombre-máquina en matemáticas.
«En lugar de encontrar una solución, FunSearch crea software que encuentra la solución. Resolver un problema en particular puede no darme ninguna idea de cómo resolver otros problemas relacionados. Pero el software que encuentra la solución es algo que un humano puede leer e interpretar, y luego, con suerte, generaré ideas para el problema”. El siguiente problema y el siguiente problema y el siguiente.