BIOGRAFÍA
Roi Naveiro Flores (León, 1993) es profesor contratado doctor de Métodos Cuantitativos en CUNEF Universidad. Graduado en Física por la Universidad de Salamanca, se doctoró en Estadística e Investigación Operativa en el Instituto de Ciencias Matemáticas (ICMAT-CSIC) y la Universidad Complutense con una tesis sobre la seguridad del aprendizaje automático, reconocida por el CSIC como la mejor tesis doctoral en investigación básica en IA. Posteriormente fue investigador posdoctoral en el ICMAT y ha realizado estancias de investigación en la Universidad de Duke. Su investigación se centra en la seguridad de los sistemas de inteligencia artificial, el aprendizaje automático bayesiano y el análisis de riesgos y de decisiones, que ha aplicado a ámbitos como la conducción autónoma, la ciberseguridad y nuevos compuestos químicos.
PROYECTO
Los sistemas de inteligencia artificial intervienen cada vez más en decisiones como recomendar contenidos, conducir un vehículo o priorizar un tratamiento médico. Sin embargo, pueden ser vulnerables a ataques que manipulan los datos con los que aprenden o la información que reciben cuando están funcionando. Este proyecto estudiará estos ataques desde una perspectiva novedosa: en lugar de medir únicamente si consiguen alterar las predicciones de la inteligencia artificial, analizará si logran cambiar las decisiones que el sistema recomienda o ayuda a tomar. Identificará qué cantidad de manipulación es suficiente para modificar una decisión y desarrollará mecanismos de defensa capaces de tener en cuenta el comportamiento de posibles atacantes y adaptarse a sus acciones a lo largo del tiempo. Los métodos se probarán en sistemas relacionados con la conducción automatizada y vehículos aéreos no tripulados, con el objetivo de avanzar hacia una inteligencia artificial más robusta en situaciones en las que una decisión equivocada puede tener consecuencias importantes.