Description du poste
Domaine
Mathématiques, information scientifique, logiciel
Contrat
Stage
Intitulé de l'offre
Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F
Sujet de stage
Dans le travaux autour de l'intelligence artificielle de confiance, vous travaillerez sur le développement de nouvelles méthodes de vérification formelle de la sûreté des IA grâce à des domaines abstraits différentiels.
Durée du contrat (en mois)
4 à 6 mois
Description de l'offre
En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions
Contexte
Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté. Ces méthodes sont implémentées dans l'outil PyRAT développé au CEA.
Des travaux récents ont introduits de nouvelles propriétés de sûreté variables sur des réseaux de neurones notamment sur la robustesse globale, la monotonicité ou l'isomorphisme de réseaux. Ces propriétés nécessitent néanmoins des techniques particulières pour les gérer efficacement. L'une des techniques possible repose sur la vérification formelle différentielle qui permet par rapport aux techniques classiques de conserver une trace de la différence entre deux exécutions d'un réseau de neurone.
Qu'attendons-nous de vous ?
Le but du stage sera d'implémenter dans PyRAT différents domaines abstraits différentiels afin de pouvoir vérifier ces nouvelles propriétés de sûreté. Ces domaines différentiels seront implémentés sur la base des domaines existants dans PyRAT et PyRAT devra être adaptés pour fonctionner sur les propriétés de sûreté choisies. Des fonctionnalités telles que la recherche de contre exemple ou le branch and bound devront être également modifié pour ces propriétés.
Un benchmark comportant plusieurs propriétés de sûreté sur différents cas d'usage sera établi et les performances de PyRAT sur celui ci seront mesurées.
#Cea List
Profil du candidat
Profil
Vous préparez un diplôme de niveau M1 ouM2 dans le domaine de l'informatique ou des mathématiques.
Vous possédez des connaissances en développement Python, en mathématiques et en intelligence artificielle.
Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !
Vous avez encore un doute ? Nous vous proposons :
Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.
Localisation du poste
Site
Saclay
Localisation du poste
France, Ile-de-France, Essonne (91)
Ville
Saclay
Critères candidat
Langues
Anglais (Intermédiaire)
Diplôme préparé
Bac+4 - Master 1
Formation recommandée
Informatique mathématiques
Demandeur
Disponibilité du poste
01/02/2027
Domaine
Mathématiques, information scientifique, logiciel
Contrat
Stage
Intitulé de l'offre
Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F
Sujet de stage
Dans le travaux autour de l'intelligence artificielle de confiance, vous travaillerez sur le développement de nouvelles méthodes de vérification formelle de la sûreté des IA grâce à des domaines abstraits différentiels.
Durée du contrat (en mois)
4 à 6 mois
Description de l'offre
En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions
Contexte
Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté. Ces méthodes sont implémentées dans l'outil PyRAT développé au CEA.
Des travaux récents ont introduits de nouvelles propriétés de sûreté variables sur des réseaux de neurones notamment sur la robustesse globale, la monotonicité ou l'isomorphisme de réseaux. Ces propriétés nécessitent néanmoins des techniques particulières pour les gérer efficacement. L'une des techniques possible repose sur la vérification formelle différentielle qui permet par rapport aux techniques classiques de conserver une trace de la différence entre deux exécutions d'un réseau de neurone.
Qu'attendons-nous de vous ?
Le but du stage sera d'implémenter dans PyRAT différents domaines abstraits différentiels afin de pouvoir vérifier ces nouvelles propriétés de sûreté. Ces domaines différentiels seront implémentés sur la base des domaines existants dans PyRAT et PyRAT devra être adaptés pour fonctionner sur les propriétés de sûreté choisies. Des fonctionnalités telles que la recherche de contre exemple ou le branch and bound devront être également modifié pour ces propriétés.
Un benchmark comportant plusieurs propriétés de sûreté sur différents cas d'usage sera établi et les performances de PyRAT sur celui ci seront mesurées.
#Cea List
Profil du candidat
Profil
Vous préparez un diplôme de niveau M1 ouM2 dans le domaine de l'informatique ou des mathématiques.
Vous possédez des connaissances en développement Python, en mathématiques et en intelligence artificielle.
Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !
Vous avez encore un doute ? Nous vous proposons :
- L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
- Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
- Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,
- Des moyens expérimentaux exceptionnels et un encadrement de qualité,
- De réelles opportunités de carrière à l'issue de votre stage
- Un poste au cœur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,
- Une participation aux transports en commun à hauteur de 85%,
- Un équilibre vie privée - vie professionnelle reconnu,
- Un restaurant d'entreprise,
- Une politique diversité et inclusion,
Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.
Localisation du poste
Site
Saclay
Localisation du poste
France, Ile-de-France, Essonne (91)
Ville
Saclay
Critères candidat
Langues
Anglais (Intermédiaire)
Diplôme préparé
Bac+4 - Master 1
Formation recommandée
Informatique mathématiques
Demandeur
Disponibilité du poste
01/02/2027
