Ia2 – Sûreté et sécurité des systèmes à base d’IA : Approches CEA sur la certification de systèmes critiques

François TERRIER (CEA)

L’explosion des performances de l’apprentissage machine et la potentialité de leurs applications poussent fortement à leur utilisation dans les systèmes embarqués, y compris pour des fonctions critiques, comme la prise de décision dans les véhicules autonomes. Si les processus de développement des logiciels et systèmes critiques dans les industries réglementées comme l’aérospatiale, les centrales nucléaires, les chemins de fer ou même l’automobile sont bien encadrés et maîtrisés depuis longtemps déjà, ceux-ci reposent sur des normes et des cadres réglementaires bien définis et bénéficient de techniques formelles bien établies pour évaluer et démontrer la qualité, la sûreté et la sécurité systèmes et logiciels développés. Cependant, le faible niveau de formalisation des spécifications, les incertitudes et l’opacité des composants basés sur l’apprentissage machine rendent difficiles leur validation et leur vérification via la plupart des méthodes traditionnelles d’ingénierie des systèmes critiques. Cet exposé explorera les défis et les obstacles à l’intégration de composants basés sur l’apprentissage machine dans les systèmes critiques. Il fournira également un aperçu des principales préoccupations rapportées par divers cas de collaboration avec l’industrie.

Retour programme

Dans le même domaine de discussion :

23 avril 2024 | 9h00 - 12h00