Desarrollo de dispositivos de inteligencia artificial autoprogramables
La tecnología moderna depende cada vez más de la inteligencia de las máquinas. Muchos procesos de fabricación, objetos inteligentes y robots avanzados dependen de mecanismos que ofrecen algún tipo de programabilidad. Sin embargo, estos programas son limitados porque su lógica se basa en reglas predefinidas diseñadas por los humanos. Los problemas pueden surgir cuando estos dispositivos afrontan situaciones nuevas o desconocidas más allá de su diseño original. «Los programas a menudo se ejecutan en circunstancias inesperadas», explica Giuseppe De Giacomo(se abrirá en una nueva ventana), catedrático de Ciencias de la computación en la Universidad de Oxford. «En muchas áreas de aplicación, es simplemente demasiado costoso y propenso a errores delegar en ingenieros de “software” la tarea de enumerar y gestionar todas las posibles tareas de adaptación que puedan surgir en la ejecución del mecanismo». Cuando las aplicaciones deben manejar circunstancias ampliamente inesperadas (ya sea por interacciones con el mundo real o con humanos que toman decisiones basadas en circunstancias no modeladas), no es factible determinar «a priori» todas las posibles adaptaciones que pueden ser necesarias, explica. La inteligencia artificial generativa (IAG) se considera una herramienta poderosa para evitar soluciones preprogramadas en favor de las aprendidas y ha sido ampliamente adoptada en diversos campos entre los que se encuentra la medicina. Sin embargo, todavía no sabemos exactamente cómo y por qué la IAG toma las decisiones que toma, o si son correctas para la tarea en cuestión. «Estas tecnologías tienen una naturaleza de caja negra, lo que restringe su adopción en los llamados sistemas críticos para la seguridad, donde las decisiones pueden tener graves consecuencias, como por ejemplo para la seguridad o la protección», afirma De Giacomo. En el proyecto WhiteMech, financiado por Consejo Europeo de Investigación(se abrirá en una nueva ventana), De Giacomo y su equipo comenzaron el desarrollo de herramientas para crear mecanismos de autoprogramación de caja blanca capaces de autogenerar comportamiento para lograr ciertos objetivos y, lo que es más importante, explicar cómo lo hicieron.
Creación de mecanismos de caja blanca transparentes
El equipo del proyecto WhiteMech propuso tecnologías de autoprogramación basadas en un modelo matemático del entorno en el que opera el sistema y cómo las acciones del sistema impactan en dicho entorno. El concepto de «planificación» en IA generalmente significa que, dado un modelo del mundo y un objetivo deseado, se calcula una serie de acciones para lograr el objetivo. Sin embargo, en el proyecto WhiteMech, los investigadores tomaron una ruta más matizada y crearon programas que pueden realizar tareas complejas que se extienden en el tiempo, como seguir ciertos pasos (posiblemente dependiendo de las observaciones recopiladas durante la ejecución) y al mismo tiempo permanecer siempre en un área segura. Y mientras muchas empresas de TI comprueban rutinariamente la corrección de sus sistemas después del hecho, en WhiteMech se tenía el objetivo de desarrollar programas capaces de realizar tareas automáticamente, un problema conocido como «síntesis reactiva». «En WhiteMech queremos utilizar la síntesis reactiva mientras el sistema está en funcionamiento: cuando se manifiesta una circunstancia excepcional, el sistema calcula y ejecuta de forma autónoma una reacción adecuada con garantías formales de corrección», añade De Giacomo. A través de WhiteMech, el equipo desarrolló con éxito la ciencia, las metodologías, los algoritmos y las herramientas para abordar este problema básico: construir mecanismos de autoprogramación de caja blanca.
Atraer el interés de las industrias inteligentes
Si bien WhiteMech fue un proyecto de ciencia básica, los resultados ya han atraído el interés de varias comunidades, incluidas las fábricas inteligentes, la robótica, los gemelos digitales y la gestión de procesos de negocios. «Un claro testimonio de este interés es el número de citas que están atrayendo los artículos científicos relacionados con WhiteMech», señala De Giacomo. El equipo continuará su investigación, revisando las herramientas y técnicas y transfiriéndolas del laboratorio a aplicaciones del mundo real. En WhiteMech también se han abierto nuevas vías para futuras investigaciones. Esto incluye el uso de la IAG para modelar matemáticamente un espacio (una habitación, por ejemplo) y luego utilizar técnicas de WhiteMech para realizar automáticamente sus tareas.
