Publié le 28 mai 2026, un nouveau travail de recherche présente SAMD, un outil destiné à identifier les scénarios d’attaque par injection de fausses données dans les dispositifs médicaux intégrant de l’intelligence artificielle ou du machine learning.

L’intégration de l’intelligence artificielle dans les dispositifs médicaux progresse rapidement, notamment dans les logiciels d’aide au diagnostic, de surveillance patient, de triage, d’analyse d’images médicales ou de recommandation clinique. Ces dispositifs peuvent apporter une réelle valeur médicale, mais ils élargissent aussi la surface d’attaque.

Dans ce contexte, l’article scientifique, SAMD: A Tool for Identifying False Data Injection Scenarios in AI/ML-enabled Medical Devices (https://arxiv.org/abs/2605.29210), consacré à SAMD met en avant un risque spécifique : l’injection de fausses données pendant la phase d’utilisation du dispositif. Contrairement à une cyberattaque classique visant uniquement à accéder à un système ou à voler des données, ce type d’attaque peut modifier les données reçues par le modèle d’IA et conduire à une sortie erronée.

Le risque devient alors directement clinique : mauvais diagnostic, mauvaise classification, alerte non déclenchée, recommandation thérapeutique inadaptée ou retard de prise en charge.

Le principe de SAMD

SAMD, pour System-Theoretic Analysis for Medical Devices, est présenté comme un outil automatisé d’analyse de scénarios d’attaque pour les dispositifs médicaux IA/ML. Il repose notamment sur l’approche STPA-Sec, une méthode d’analyse systémique des risques de sécurité.

L’intérêt de cette approche est qu’elle ne considère pas uniquement le modèle d’IA de manière isolée. Elle analyse l’ensemble du système dans lequel le modèle est intégré : capteurs, périphériques, logiciels tiers, communications réseau, environnement cloud, bases de données, interfaces utilisateurs et composants connectés.

Cette vision système est essentielle pour les dispositifs médicaux modernes. Un modèle peut être performant en laboratoire, mais devenir vulnérable lorsqu’il est déployé dans un environnement réel, avec des composants tiers, des connexions sans fil, des configurations variables et des interactions avec d’autres systèmes hospitaliers.

SAMD cherche donc à identifier les points par lesquels une donnée fausse, altérée ou malveillante pourrait être introduite dans le flux d’information avant d’être traitée par le modèle d’IA.

Pour les fabricants de SaMD et d’AIaMD, cette publication rappelle que la cybersécurité doit être intégrée dès la conception du dispositif. Il ne suffit pas de démontrer que le modèle d’IA est performant sur des jeux de données de validation. Il faut aussi démontrer que le dispositif reste sûr dans son environnement réel d’utilisation.

Cela rejoint les attentes réglementaires actuelles. Aux États-Unis, la FDA insiste sur l’intégration de la cybersécurité dans les soumissions pré-market et dans le système de management de la qualité. Pour les dispositifs intégrant de l’IA, la FDA met également en avant une approche fondée sur le cycle de vie du produit, incluant le développement, la validation, le suivi post-market et la maîtrise des modifications.

En Europe, le guide MDCG 2019-16 rappelle que les exigences de cybersécurité des dispositifs médicaux relèvent à la fois du pré-market et du post-market. Il met en avant la nécessité de prendre en compte l’environnement d’utilisation, les exigences minimales IT, la protection contre les accès non autorisés, la gestion des risques résiduels et les informations à fournir aux utilisateurs.

L’approche proposée par SAMD s’inscrit donc dans une tendance claire : la cybersécurité doit être documentée, justifiée et reliée à la gestion des risques du dispositif.

Un lien direct avec les normes clés du secteur

Cette actualité peut également être reliée à plusieurs référentiels importants pour les dispositifs médicaux logiciels.

D’abord, l’ISO 14971:2019 reste la norme centrale pour la gestion des risques des dispositifs médicaux, y compris les SaMD et les DMDIV. Elle impose d’identifier les dangers, d’estimer et d’évaluer les risques, de mettre en place des mesures de maîtrise, puis d’évaluer les risques résiduels. Dans le cas des SaMD intégrant de l’IA, les scénarios d’injection de fausses données peuvent donc être traités comme des situations dangereuses à intégrer dans l’analyse de risques.

Ensuite, l’IEC 62304 encadre les processus du cycle de vie logiciel des dispositifs médicaux. Pour un SaMD ou un AIaMD, les mesures liées à la cybersécurité peuvent donc être intégrées dans les activités de développement, de vérification, de validation, de maintenance et de gestion des anomalies logicielles.

Enfin, l’IMDRF propose des principes internationaux de cybersécurité pour les dispositifs médicaux. Ces principes encouragent une approche fondée sur le cycle de vie, la responsabilité partagée entre fabricants et utilisateurs, et la gestion continue des vulnérabilités.

Ce que SAMD apporte par rapport à une analyse classique

L’intérêt de SAMD est de chercher à automatiser une partie de l’identification des scénarios d’attaque. L’outil combine une modélisation du système, des bases de vulnérabilités connues et des grands modèles de langage pour générer des scénarios plausibles d’injection de fausses données.

Les auteurs ont testé l’approche sur cinq dispositifs médicaux autorisés par la FDA. Les résultats rapportés montrent une capacité à identifier les technologies cibles, à retrouver des vulnérabilités connues et à générer des scénarios d’attaque pertinents pour les modèles d’IA/ML.

Même s’il s’agit d’une publication de recherche et non d’un outil réglementaire officiellement reconnu, cette démarche illustre une évolution importante des pratiques : les fabricants devront de plus en plus être capables de démontrer qu’ils ont anticipé les vulnérabilités spécifiques aux systèmes IA connectés.

Impacts pratiques pour une veille réglementaire DM/SaMD

Pour une veille DM, DMDIV ou SaMD, cette actualité est intéressante car elle relie plusieurs sujets aujourd’hui prioritaires : intelligence artificielle, cybersécurité, gestion des risques, validation logicielle et surveillance post-market.

Elle peut être analysée selon trois axes.

Premièrement, elle montre que la sécurité d’un modèle d’IA ne dépend pas uniquement de ses performances statistiques, mais aussi de la qualité et de l’intégrité des données reçues en conditions réelles.

Deuxièmement, elle rappelle que l’environnement d’utilisation du dispositif fait partie intégrante de l’analyse de risques. Un dispositif connecté à des capteurs, à un réseau hospitalier, à une application mobile ou à une plateforme cloud ne peut pas être évalué comme un logiciel isolé.

Troisièmement, elle confirme que la cybersécurité devient un élément de la démonstration de sécurité et de performance du dispositif médical. Une vulnérabilité informatique peut entraîner une conséquence clinique ; elle doit donc être traitée comme un risque patient.

Conclusion

La publication de SAMD illustre une tendance structurante pour les dispositifs médicaux logiciels : la cybersécurité des systèmes IA/ML doit être pensée comme un enjeu de sécurité clinique dès la conception.

Pour les fabricants, cela implique d’intégrer les scénarios d’attaque dans la gestion des risques, de documenter les mesures de maîtrise, de sécuriser les interfaces et les flux de données, et de prévoir une surveillance post-market adaptée.

Cette actualité est donc plus qu’un simple sujet de recherche. Elle annonce une évolution probable des attentes en matière de conception, de validation et de conformité des SaMD et AIaMD. À mesure que les dispositifs médicaux deviennent plus connectés, plus autonomes et plus dépendants des données, la capacité à prévenir les manipulations de données deviendra un élément central de la sécurité patient.