El lado oscuro de la inteligencia artificial: ataques de envenenamientos de datos.

CHARLA ONLINE

El lado oscuro de la Inteligencia Artificial: ataques de envenenamiento de datos

5 de julio, miércoles, 18:30 horas

En muchas situaciones, los modelos de IA se entrenan con datos obtenidos a partir de fuentes no confiables, como nosotros los humanos, sensores, dispositivos, o Internet, que pueden verse comprometidos. Estos escenarios exponen a los modelos de IA a ataques de envenenamiento de datos, en los que un atacante puede manipular una fracción de los datos de entrenamiento para subvertir el proceso de aprendizaje, por ejemplo, para aumentar el error o el sesgo del modelo, o para hacer que un agente aprenda una política errónea. Esto es muy preocupante, ya que estos modelos se utilizan ampliamente en sistemas críticos para la población, incluyendo la medicina y aplicaciones militares. Sin ir más lejos, ¿cómo podemos confiar en que lo que nos dice ChatGPT no tiene ninguna mala intención? En la industria también se está empezando a considerar que el envenenamiento de datos es una de las amenazas más temidas de la IA.

En esta charla, el investigador Javier Carnerero dará una visión general y mostrará algunos ejemplos de cómo los modelos de IA pueden verse expuestos a estos ataques, explicará cómo un atacante puede evadir las defensas actuales y describirá algunas metodologías que pueden ayudar a proteger los modelos de IA frente a estos ataques.

JAVIER CARNERERO CANO

Javier Carnerero Cano está terminando su doctorado en la seguridad de la inteligencia artificial en el Imperial College London. Su investigación se centra en los ataques de envenenamiento de datos contra la inteligencia artificial. En su proyecto de doctorado, Javier colabora activamente con el Defence Science and Technology Laboratory (Dstl) del Ministerio de Defensa del Reino Unido. En el verano de 2022 realizó una estancia de investigación en IBM Research, donde trabajó en la seguridad del machine unlearning (técnicas de desaprendizaje de datos).

Javier es ingeniero de telecomunicaciones por la Universidad Carlos III de Madrid, donde trabajó como investigador en el campo de las antenas y los sensores electromagnéticos en aplicaciones para el Internet de la Cosas (IoT). En 2021 fue incluido en la lista de Santander-CIDOB de 35 menores de 35. Su página web personal es: https://javiccano.github.io/.



La charla tendrá lugar el próximo 5 de julio, miércoles, a las 18:30 horas, en formato online, y tendrá una duración aproximada de 1h. Habrá un turno de preguntas, que se desarrollará a través del chat de la sesión.

• La inscripción se confirma con un correo electrónico. Una semana antes de la sesión se compartirá, también por correo electrónico, el enlace a la plataforma.
  
• La actividad es gratuita, pero si quieres colaborar con nosotros, puedes hacerlo a través del programa BECAS ALUMNI, cuyos fondos íntegros van destinados a becas para estudiantes UC3M.
  

WEBINARS ALUMNI UC3M

Desde Alumni UC3M os proponemos charlas periódicas sobre temas muy relevantes para nuestra sociedad. Para ello, contaremos con investigadores e investigadoras de la propia Universidad que están liderando proyectos nacionales e internacionales de gran impacto en todas las áreas de conocimiento.

Estas charlas quieren manteneros informados de la actividad de la Universidad y conectados con quienes os formaron en su día y hoy lo hacen con los nuevos estudiantes UC3M y desarrollan una labor investigadora destacada. CONSULTA WEBINARS ANTERIORES

Si quieres proponer temas o investigadores de la Universidad para próximas charlas, estaremos encantados de recibir tu sugerencia en alumni@uc3m.es .