• xmlui.mirage2.page-structure.header.title
    • français
    • English
  • Help
  • Login
  • Language 
    • Français
    • English
View Item 
  •   BIRD Home
  • LAMSADE (UMR CNRS 7243)
  • LAMSADE : Thèses
  • View Item
  •   BIRD Home
  • LAMSADE (UMR CNRS 7243)
  • LAMSADE : Thèses
  • View Item
JavaScript is disabled for your browser. Some features of this site may not work without it.

Browse

BIRDResearch centres & CollectionsBy Issue DateAuthorsTitlesTypeThis CollectionBy Issue DateAuthorsTitlesType

My Account

LoginRegister

Statistics

Most Popular ItemsStatistics by CountryMost Popular Authors
Thumbnail

On the impact of randomization on robustness in machine learning

Impact de la randomisation sur la robustesse des modèles d'apprentissage supervisé

Pinot, Rafael (2020), On the impact of randomization on robustness in machine learning, doctoral thesis prepared under the supervision of Atif, Jamal, Université Paris sciences et lettres

View/Open
2020UPSLD038.pdf (9.318Mb)
Type
Thèse
Date
2020-12-02
Metadata
Show full item record
Author(s)
Pinot, Rafael
Under the direction of
Atif, Jamal
Abstract (FR)
Les modèles d’intelligence artificielle font partie de notre vie quotidienne et leurs faiblesses peuvent être utilisées pour nous nuire directement ou indirectement. Il est donc crucial de pouvoir prendre en compte et traiter toute nouvelle vulnérabilité. Par ailleurs, le cadre juridique en Europe évolue, ce qui oblige les professionnels, tant du secteur privé que du secteur public, à s'adapter rapidement à de nouvelles préoccupations en matière de sécurité et de transparence des algorithmes. Cette thèse étudie comment construire des modèles plus sûrs. Nous étudions en particulier une nouvelle menace: les attaques adverses. La vulnérabilité des modèles d’intelligence artificielle à ces attaques est un véritable problème de sécurité, en particulier lorsque ceux-ci sont utilisés dans des technologies sensibles telles que les voitures autonomes. Outre les questions de sécurité, ces attaques montrent à quel point nous manquons de recul sur les modèles que l'industrie utilise quotidiennement. Nous fournissons des éléments de réflexion sur les attaques adverses et proposons des méthodes simples pour atténuer leurs effets en utilisant la théorie de l’apprentissage supervisé, de l’information, et des probabilités.
Abstract (EN)
Machine learning models are part of our everyday life and their weaknesses in terms of security or privacy can be used to harm us either directly or indirectly. It is thus crucial to be able to account for, and deal with, any new vulnerabilities. Besides, the legal framework in Europe is evolving, forcing practitioners, from both the private and the public sectors, to adapt quickly to these new concerns.This thesis studies how to build safer machine learning models. In particular, we focus on a new security concern called adversarial attacks. The vulnerability of state-of-the-art models to these attacks has genuine security implications especially when models are used in AI-driven technologies, e.g. for self-driving cars. Besides security issues, these attacks show how little we know about the models used everyday in the industry, and how little control we have over them. We provide some insights explaining how adversarial attacks work, and how to mitigate them by using statistical learning theory as well as probability and information theory.
Subjects / Keywords
Théorie de l’apprentissage supervisé; Théorie de l’information; Intelligence artificielle de confiance; Exemples adverses; Statistical learning theory; Information theory; Trustworthy machine learning; Adversarial examples

Related items

Showing items related by title and author.

  • Thumbnail
    La relation supérieure comme une capacité dynamique dans des restaurants de petite et de moyenne tailles au Brésil, en France et au Maroc : une analyse à partir des processus d'apprentissage et contrôle de risques stratégiques 
    Candido-Custodio, Juliana (2013-04) Thèse
  • Thumbnail
    Theoretical evidence for adversarial robustness through randomization 
    Pinot, Rafaël; Meunier, Laurent; Araújo, Alexandre; Kashima, Hisashi; Yger, Florian; Gouy-Pailler, Cedric; Atif, Jamal (2019) Communication / Conférence
  • Thumbnail
    Theoretical evidence for adversarial robustness through randomization 
    Pinot, Rafaël; Meunier, Laurent; Araújo, Alexandre; Kashima, Hisashi; Yger, Florian; Gouy-Pailler, Cedric; Atif, Jamal (2019) Communication / Conférence
  • Thumbnail
    Les modes informels d’apprentissage numérique : le cas des travailleurs du savoir 
    Benabid, Myriam (2018-04-04) Thèse
  • Thumbnail
    Robust finance : a model randomization approach 
    Deng, Shuoqing (2019-06-25) Thèse
Dauphine PSL Bibliothèque logo
Place du Maréchal de Lattre de Tassigny 75775 Paris Cedex 16
Phone: 01 44 05 40 94
Contact
Dauphine PSL logoEQUIS logoCreative Commons logo