En septiembre, OpenAI anunció que su nueva tecnología de inteligencia artificial necesitaba menos de una semana para resolver el problema de Navier-Stokes , un rompecabezas matemático que había desconcertado a las mentes más brillantes del mundo durante décadas. En las semanas siguientes, la compañía publicó una avalancha de hallazgos adicionales que asombraron a destacados matemáticos y plantearon nuevas preguntas sobre el futuro de un campo académico que durante mucho tiempo se ha considerado la cúspide del logro humano.
Pero las implicaciones de las nuevas habilidades matemáticas de la IA van mucho más allá de la investigación académica. Utilizando técnicas similares, Silicon Valley está desarrollando sistemas de IA que buscan eliminar los peligrosos fallos, o «errores», del software informático mundial. Del mismo modo que un sistema de IA puede resolver un problema matemático, puede demostrar que una aplicación de software está libre de errores, al menos en teoría.
Este esfuerzo integral por garantizar la integridad del software, que los científicos denominan «verificación de software», es de vital importancia, ya que internet se enfrenta a su mayor amenaza de ciberseguridad en décadas. Ahora que los principales sistemas de IA pueden infiltrarse en el software, identificando y explotando sus fallos con una velocidad asombrosa , el mundo necesita una nueva generación de IA capaz de eliminar estas vulnerabilidades.
&Truth, una nueva empresa emergente con sede en Palo Alto, California, se encuentra entre las muchas compañías que trabajan para desarrollar este tipo de tecnología. Al igual que las empresas emergentes de Silicon Valley Axiom y Logical Intelligence, y los laboratorios de IA líderes como Anthropic y OpenAI, &Truth espera verificar el software del mundo utilizando un lenguaje de programación especializado llamado Lean, la misma herramienta que permite a las tecnologías de IA resolver problemas matemáticos multimillonarios.
“Es posible hacer algo que antes no era posible”, afirmó Clark Barrett, profesor de la Universidad de Stanford, cofundador de &Truth y codirector ejecutivo de la empresa. “Ya hemos visto lo que ha sucedido en matemáticas: la demostración de estas enormes conjeturas abiertas. Podemos aplicar los mismos métodos formales a la verificación de software”.
Los errores de software surgen cuando las aplicaciones realizan acciones para las que no fueron diseñadas. Una aplicación podría almacenar información en la base de datos incorrecta o escribir demasiada información en la memoria del sistema, provocando que esta se desborde en un registro de memoria erróneo y corrompa otros datos. Los atacantes maliciosos pueden aprovechar estos errores para infiltrarse en la aplicación.
La verificación de software busca prevenir este tipo de errores a nivel lógico. El objetivo es demostrar formalmente que una aplicación se comporta únicamente como fue diseñada, de forma similar a como los matemáticos resuelven problemas matemáticos: paso a paso, mediante un razonamiento lógico.
Los ingenieros experimentados pueden verificar el software manualmente, pero esto requiere años de trabajo. Ahora, empresas como &Truth están desarrollando sistemas de IA capaces de verificar el software en cuestión de horas o días, lo que finalmente proporcionaría una forma práctica de garantizar la integridad del software informático.
Lean, el lenguaje de programación en torno al cual giran estos esfuerzos, fue inventado hace más de una década por un investigador de Microsoft llamado Leonardo de Moura. Lo diseñó como una herramienta para programadores humanos, pero ahora que las tecnologías de IA pueden generar su propio código informático , también pueden usar Lean para escribir sus propias demostraciones matemáticas. Mediante un método de ensayo y error intensivo —una técnica llamada « aprendizaje por refuerzo »— un sistema de IA puede aprender a escribir mejor código Lean y, en última instancia, demostrar problemas matemáticos que han desconcertado a los mejores matemáticos durante décadas.
Empresas como &Truth buscan eliminar software defectuoso utilizando técnicas similares. El problema es que entrenar sistemas de IA para la verificación de código es mucho más difícil que entrenarlos para matemáticas.
Parte del problema radica en que el código de software es mucho más complejo que las matemáticas. Las reglas matemáticas están bien establecidas —y lo han estado durante siglos—. Para verificar la integridad de una aplicación de software, primero se deben definir una serie de especificaciones formales que definan su comportamiento. Solo entonces un sistema de IA puede escribir código Lean que verifique dicho comportamiento.
Aun así, las aplicaciones pueden comportarse de maneras inesperadas e indeseadas que permiten el acceso de piratas informáticos maliciosos al sistema. Los diseñadores de una aplicación no pueden prever todos los problemas que surgirán una vez que la lancen al mundo real y los usuarios comiencen a utilizarla.
«¿Cómo saber si tus suposiciones son correctas?», dijo Will Wilson, director ejecutivo de Antithesis, una empresa que prueba el código informático en busca de errores y fallos de seguridad. «En algún momento, el código entra en contacto con la compleja realidad».
En este momento, empresas como &Truth están lejos de garantizar que todo el software esté libre de errores. Pero en un momento en que el hackeo con inteligencia artificial amenaza la seguridad en línea como nunca antes, cualquier avance es bienvenido.
“Existe una urgencia que se hizo cada vez más palpable a partir de finales del año pasado”, dijo Chris Hsu, cofundador y codirector ejecutivo de &Truth. “Este problema de seguridad es un problema crucial de nuestra época”.
