La délégation ministérielle au numérique en santé (DNS) a publié des recommandations de bonnes pratiques “afin d’intégrer l’éthique dès les premières étapes du développement des solutions d’intelligence artificielle [IA] en santé“.
Pilotée par Brigitte Seroussi, responsable de la cellule éthique du numérique en santé à la DNS et professeure des universités-praticienne hospitalière (PU-PH), la cellule éthique du conseil du numérique en santé (CNS) est structurée en plusieurs groupes de travail.
Le groupe de travail n°3 sur “l’éthique by design“, animé par David Gruson, spécialiste du sujet et directeur du programme santé de Luminess (ex-groupe Jouve), a réalisé un guide méthodologique pour intégrer l’éthique dès le développement des solutions d’IA ou, justement, “l’éthique by design“.
Ce guide méthodologique s’adresse “en priorité” aux concepteurs de solutions basées sur des algorithmes entraînés sur des données massives (“IA connexionniste”), hors systèmes évolutifs auto-apprenants. Il définit pour chacune des quatre étapes d’élaboration -cadrage, collecte des données, pré-traitement, construction de l’algorithme et évaluation en amont de la production-, des questionnements et des recommandations “clé en main”.
Ainsi, la démarche de cadrage “vise à installer d’une part, un comité scientifique, technique et éthique, et d’autre part, à définir les modalités d’implication des parties prenantes”.
La collecte des données implique la bonne application du règlement général sur la protection des données (RGPD): consentement éclairé des patients, proportionnalité des données par rapport à la finalité, non-réidentification directe, qualité, sécurité, etc.
Ce guide est issu d’une concertation de deux ans entre chercheurs en IA, représentants des patients, professionnels de santé, juristes, sociologues, éthiciens et éditeurs (start-up notamment), indique la DNS.
Le guide renvoie également aux recommandations françaises ou internationales existantes, émises entre autres par la Haute autorité de santé (HAS), l’Organisation mondiale de la santé (OMS) ou l’Organisation de coopération et de développement économiques (OCDE).
Source Gouvernement
