Des experts en réglementation de Veeva Systems expliquent comment les entreprises du secteur des sciences de la vie passent de la phase d’expérimentation à la mise au point d’une IA capable de résister à l’examen minutieux des autorités réglementaires.
Le 14 janvier, l’Agence européenne des médicaments (EMA) et la Food and Drug Administration (FDA) américaine ont publié des principes communs pour une bonne utilisation de l’intelligence artificielle (IA) dans le développement des médicaments. Ces principes ne constituent pas une nouvelle réglementation, mais un cadre de référence visant à garantir que l’IA soit utilisée de manière fiable, transparente et responsable tout au long du cycle de vie des produits pharmaceutiques.
Principaux messages
- Passer de la capacité à la maîtrise
L’enjeu n’est plus de savoir si l’on peut utiliser l’IA, mais si l’on peut la déployer de façon contrôlée dans des processus réglementés. Lorsque les résultats de l’IA influencent des données cliniques, des décisions ou des preuves réglementaires, il faut garantir :
- la traçabilité ;
- la responsabilité ;
- la reproductibilité ;
- la supervision humaine.
2. Le « contexte d’utilisation » est essentiel
Les autorités insistent sur le fait que l’évaluation d’un système d’IA dépend de son usage réel. Par exemple :
- une IA qui résume des notes internes présente un risque limité ;
- une IA qui aide à détecter des signaux de pharmacovigilance ou à piloter des essais cliniques nécessite des contrôles beaucoup plus stricts.
Plus le risque est élevé, plus les exigences en matière de documentation, de contrôle et de supervision humaine augmentent.
3. La confiance repose sur le processus, pas seulement sur le modèle
Les régulateurs s’intéressent non seulement à l’algorithme, mais aussi :
- à l’origine des données ;
- au contrôle des versions ;
- à la manière dont les résultats sont examinés ;
- à la conservation des traces d’audit.
L’intégration de l’IA directement dans les systèmes réglementés est considérée comme plus robuste que l’utilisation d’outils externes, car elle facilite la gestion des droits d’accès, des workflows et des audits.
4. La gestion du cycle de vie devient indispensable
Les modèles d’IA évoluent continuellement : nouvelles versions, modifications des prompts, mise à jour des bases de connaissances, etc.
Les entreprises doivent donc mettre en place :
- un contrôle des versions des modèles, prompts et données ;
- une surveillance des performances et des dérives ;
- des procédures de gestion des changements ;
- une définition claire des responsabilités lorsque les recommandations de l’IA sont acceptées ou rejetées.
L’IA ne peut pas être déployée selon une logique de « mise en place puis oubli ».
5. Convergence des exigences réglementaires
Ces principes s’inscrivent dans un mouvement réglementaire plus large :
- en Europe, avec l’AI Act de l’Union européenne ;
- aux États-Unis, avec les nouvelles exigences de la FDA concernant la fiabilité des systèmes électroniques et des données utilisées dans les essais cliniques.
L’objectif n’est pas de freiner l’innovation, mais de garantir une utilisation sûre et fiable de l’IA.
Recommandations aux entreprises
Les organisations pharmaceutiques doivent :
- identifier clairement leurs cas d’usage de l’IA ;
- évaluer les risques associés ;
- mettre en place une gouvernance adaptée ;
- exiger de leurs fournisseurs une transparence sur le fonctionnement, l’auditabilité et le suivi des systèmes d’IA.
Conclusion
Les principes EMA-FDA marquent une évolution importante : l’IA ne doit plus être considérée comme un simple outil additionnel, mais comme une composante intégrée des processus réglementés. Les entreprises qui sauront intégrer l’IA dans des workflows contrôlés, traçables et supervisés seront les mieux placées pour transformer leurs investissements en gains opérationnels réels tout en répondant aux exigences réglementaires.
Source : European pharmaceutical review
