Abriendo la caja negra de la inteligencia artificial

El proyecto REXASI- PRO consiste en crear un marco de desarrollo para un “sistema de inteligencia artificial de enjambre” formado por una flota de sillas de ruedas autónomas y drones que permita el desplazamiento autónomo de personas con movilidad reducida en el interior de un edificio.

Para poner en contexto la importancia de esta iniciativa, la catedrática del departamento de Matemática Aplicada I Rocío González Díaz explica que la inteligencia artificial y sus redes neuronales “están muy de moda, pero tienen un gran problema hoy en día; y es que, a pesar de su éxito, son una caja negra porque no sabemos explicar los resultados que nos ofrece una inteligencia artificial, no sabemos predecir cuándo se va a equivocar y por ello no podemos confiar en ella”.

De este modo, con el reto de alcanzar que la sociedad perciba una inteligencia artificial “robusta y fiable”, el equipo de Rocío González Díaz desarrollará durante los próximos dos años soluciones novedosas para que la inteligencia artificial sea fiable en un entorno “muy complejo”. “Es una caja negra que estamos empeñados en abrir y si lo aplicamos en un entorno lo más complejo posible y demostramos que funciona significa que funcionaría en cualquier otra situación”, añade la profesora de la Escuela Técnica Superior de Ingeniería Informática.

¿Cuál es el entorno complejo en el que se desarrolla el proyecto? Rocío detalla que “por un lado, tenemos un enjambre de drones autónomos, es decir, que nadie los está pilotando, y vuelan ellos solos dentro de un edificio cerrado. Por tanto, no puede servirse de satélites para moverse entre las habitaciones. En éstas habrá obstáculos, mobiliario que cada día se dispondrá de una forma diferente. Los drones tendrán que hacer un mapeo 3D de ese edificio, que simulará un hospital. El enjambre de drones entrará en el hospital y se moverá de manera autónoma y nos ofrecerá una imagen virtual 3D del hospital”.

En este punto entra en acción otro enjambre, el de las sillas autónomas, que recibirán la información del enjambre de drones. Pero la historia se complica un poco más y en ese punto entra en escena un nuevo protagonista: el orquestador.

“Los enjambres de drones y los de sillas de ruedas están orquestados por una nueva inteligencia artificial que llamamos director de orquesta y está encargado de poner en comunicación a los drones con la silla de ruedas y en casos muy especiales tomaría el mando. Por ejemplo, si hubiera algún tipo de peligro, como un incendio, un derrumbe o un terremoto, el orquestador actuaría y daría la orden a los drones para que pudieran entrar y dirigir a las sillas de ruedas y al personal general hacia la salida más próxima”, clarifica la profesora de la US de una forma muy visible.

“Si nosotros somos capaces de conseguir este resultado y que la sociedad confíe en la inteligencia artificial en un caso tan complejo como el que he expuesto, serviría también en cualquier otro caso, mucho menos complejo y mucho menos peligroso”, insiste.

IA VERDE

Los participantes de la US en este proyecto tienen una larga trayectoria investigadora en el campo de la topología computacional y recientemente obtuvieron resultados basados en topología en el campo del Aprendizaje Automático. Por ello, aportarán la base matemática necesaria para desarrollar una inteligencia artificial robusta, explicable y más ecológica.

Los enjambres de drones y de sillas tienen muchos sensores y cámaras y por lo tanto están capturando muchos datos que se transmiten y hay que procesarlos con algoritmos de inteligencia artificial. Este proceso consume mucha energía.
¿Cómo disminuimos el consumo de energía?, con garantías matemática para que la disminución de datos no merme la calidad del aprendizaje de la inteligencia artificial.

Con topología computacional se buscan los teoremas matemáticos para certificar cómo se deben eliminar, comprimir o disminuir esos datos, garantizando que se obtiene el mismo tipo de aprendizaje.

REXASI-PRO concept picture courtesy of Prof. Francesco Flammini

DATOS DEL PROYECTO
Proyecto: REliable & eXplAinable Swarm Intelligence for People with Reduced mObility (REXASI- PRO), financiado en la convocatoria HORIZON-CL4-2021-HUMAN-01, dentro del programa HORIZON.2.4 - Digital, Industry and Space
Financiación: 3 551 158.50 euros
Plazos: hasta septiembre 2025
FASES
• Recopilar datos
• Simulaciones en entorno 3D
• Extracción de datos de la fase de simulación
• Experimentos en entorno real
• Entrenamiento del modelo de inteligencia artificial