Thumbnail - No thumbnail

On the impact of randomization on robustness in machine learning

Impact de la randomisation sur la robustesse des modèles d'apprentissage supervisé

Pinot, Rafael (2020), On the impact of randomization on robustness in machine learning, doctoral thesis prepared under the supervision of Atif, Jamal, Université Paris sciences et lettres

View/Open
Type
Thèse
Date
2020-12-02
Metadata
Show full item record
Author(s)
Pinot, Rafael
Under the direction of
Atif, Jamal
Abstract (FR)
Les modèles d’intelligence artificielle font partie de notre vie quotidienne et leurs faiblesses peuvent être utilisées pour nous nuire directement ou indirectement. Il est donc crucial de pouvoir prendre en compte et traiter toute nouvelle vulnérabilité. Par ailleurs, le cadre juridique en Europe évolue, ce qui oblige les professionnels, tant du secteur privé que du secteur public, à s'adapter rapidement à de nouvelles préoccupations en matière de sécurité et de transparence des algorithmes. Cette thèse étudie comment construire des modèles plus sûrs. Nous étudions en particulier une nouvelle menace: les attaques adverses. La vulnérabilité des modèles d’intelligence artificielle à ces attaques est un véritable problème de sécurité, en particulier lorsque ceux-ci sont utilisés dans des technologies sensibles telles que les voitures autonomes. Outre les questions de sécurité, ces attaques montrent à quel point nous manquons de recul sur les modèles que l'industrie utilise quotidiennement. Nous fournissons des éléments de réflexion sur les attaques adverses et proposons des méthodes simples pour atténuer leurs effets en utilisant la théorie de l’apprentissage supervisé, de l’information, et des probabilités.
Abstract (EN)
Machine learning models are part of our everyday life and their weaknesses in terms of security or privacy can be used to harm us either directly or indirectly. It is thus crucial to be able to account for, and deal with, any new vulnerabilities. Besides, the legal framework in Europe is evolving, forcing practitioners, from both the private and the public sectors, to adapt quickly to these new concerns.This thesis studies how to build safer machine learning models. In particular, we focus on a new security concern called adversarial attacks. The vulnerability of state-of-the-art models to these attacks has genuine security implications especially when models are used in AI-driven technologies, e.g. for self-driving cars. Besides security issues, these attacks show how little we know about the models used everyday in the industry, and how little control we have over them. We provide some insights explaining how adversarial attacks work, and how to mitigate them by using statistical learning theory as well as probability and information theory.
Subjects / Keywords
Théorie de l’apprentissage supervisé; Théorie de l’information; Intelligence artificielle de confiance; Exemples adverses; Statistical learning theory; Information theory; Trustworthy machine learning; Adversarial examples