En ces temps où l’intelligence artificielle provoque des bouleversements dans toutes les couches de la société, l’Académie de médecine s’attarde sur son application dans le secteur de la santé. Elle a notamment exprimé plusieurs recommandations quant à l’utilisation de l’intelligence artificielle générative.
L’avènement de l’intelligence artificielle dans le domaine de la santé pourrait apporter d’importantes avancées, que ce soit en matière de diagnostic pathologique, de recherche ou de prévention. L’Académie de médecine s’est penchée sur un aspect en particulier : l’intelligence artificielle générative.
“La santé est l’un des principaux domaines d’application des technologies de l’intelligence artificielle. Tous les domaines de la santé et toutes les spécialités sont concernés. Le système d’intelligence artificielle générative (SIAgent) impressionne par sa capacité à générer du texte en quelques secondes seulement”, a déclaré l’Académie. Mais ce système peut parfois s’avérer erroné, et bien qu’il puisse être utile dans la rédaction de notes et projets de recherche, il est important de maîtriser ses usages afin d’en éviter les écueils.
“Les SIAgents travaillent en auto-apprentissage à partir d’un très grand nombre d’exemples, ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et les systèmes de valeurs. Ils génèrent du texte très rapidement mais ne sont pas formés pour chercher ou dire la vérité. La validation humaine est donc toujours nécessaire”, explique l’Académie.
Dans son rapport, l’Académie a décrit plusieurs avancées dans le domaine de la santé lié à l’intelligence artificielle, a expliqué les enjeux éthiques associés, et a recommandé des actions à mettre en place sans tarder.
Voici les 10 recommandations émises par l’Académie de médecine :
1. Tous les professionnels de la santé doivent être formés à l’utilisation des systèmes d’intelligence artificielle générative (SIAGen).
2. L’utilisation des systèmes d’intelligence artificielle générative par les professionnels de la santé devrait être étendue ; il serait contraire à l’éthique de le faire sans l’aide de ces outils.
3. Il est important d’éviter de transmettre des données personnelles de patients et de professionnels de santé à SIAgen dont le contrôle en France ou en Europe n’est pas clairement établi : il n’existe pas de “petites” données.
4. Toute utilisation de SIAGen doit être soumise à un contrôle humain et le temps consacré aux échanges individuels patient/soignant doit être maintenu voire renforcé quel que soit le système numérique utilisé.
5. Les responsabilités des différents acteurs, concepteurs, utilisateurs, devraient être clairement définies par une réglementation qui prendra bientôt en compte la réglementation européenne sur l’IA pour les systèmes de santé numériques.
6. La cybersécurité dans les établissements de santé et les plateformes de données de santé doit être considérée comme la première et absolue priorité.
7. La propriété intellectuelle des données utilisées pour les modèles d’apprentissage doit être garantie, notamment les publications scientifiques.
8. La recherche sur l’application de SIAGen dans le secteur de la santé devrait être fortement soutenue aux niveaux national et européen afin de réduire la dépendance à l’égard des entreprises étrangères et de progresser vers la souveraineté numérique européenne.
9. L’utilisation de SIAgen doit s’effectuer dans le respect des principes éthiques, notamment ceux développés dans les avis 3 et 7 du Comité national pilote d’éthique du numérique.
10. Les impacts environnementaux et énergétiques de la conception, de la mise en œuvre et de l’utilisation des agents SIA dans le secteur de la santé doivent être correctement mesurés et pris en compte dans les évaluations d’impact environnemental des systèmes de santé.