Face aux risques, un guide de l'OMS pour l'utilisation de l'intelligence artificielle en santé

L'intelligence artificielle (IA) peut transformer les traitements médicaux, mais sans une compréhension de son fonctionnement, un déploiement rapide des programmes de santé numérique pourrait porter préjudice aux patients, a mis en garde jeudi 19 octobre l'OMS.

« Avec la disponibilité accrue des données sur les soins de santé, et les progrès rapides des techniques analytiques – capacités d'apprentissage automatique des ordinateurs, basées sur la logique ou les statistiques – l'IA peut transformer le secteur de la santé », a indiqué l'Organisation mondiale de la santé dans ce document consacré à l'utilisation de l'IA, destiné à donner des orientations aux pouvoirs publics.

Selon l'OMS, l'IA peut améliorer les performances pour ce qui concerne les essais cliniques, le diagnostic, la mise au point d'un protocole de traitement, et intervenir en complément des connaissances et compétences médicales. Par exemple l'IA s'avère utile en l'absence de spécialistes, dans le domaine de la radiologie pour l'interprétation de l'imagerie médicale et des images rétiniennes.

Prometteuse mais risquée

Cependant, l'IA est déployée rapidement, parfois sans compréhension adéquate de la manière dont fonctionnent ces technologies, « qui peuvent soit bénéficier soit être préjudiciables aux utilisateurs », qu'il s'agisse des patients ou des professionnels, a averti l'OMS. Les systèmes d'intelligence artificielle appliqués à la santé permettent l'accès aux données personnelles, c'est pourquoi un cadre légal solide est nécéssaire pour sauvegarder la vie privée, ajoute-t-elle.

« L'intelligence artificielle est très prometteuse pour la santé, mais présente aussi de sérieux défis, dont la collecte non éthique de données, des menaces pour la cyber-sécurité, et l'amplification des préjugés et de la désinformation », a déclaré le directeur général de l'OMS Tedros Adhanom Ghebreyesus. « Ce nouveau guide aidera les pays à réguler d'une manière efficace l'IA, à exploiter son potentiel, qu'il s'agisse de traiter les cancers ou de dépister la tuberculose, tout en minimisant les risques », a-t-il ajouté.

Préjugés

Selon l'OMS, les systèmes d'intelligence artificielle dépendent des données d'entraînement qu'ils utilisent pour leur apprentissage, c'est pourquoi une meilleure règlementation peut contribuer à gérer les risques et le danger de voir les préjugés présents dans les données existantes amplifiés par l'IA. « Par exemple, il peut être difficile pour les modèles de l'IA de représenter d'une manière correcte la diversité des populations, ce qui conduit à des préjugés, des inexactitudes et même des échecs », a précisé l'OMS.

« Pour contribuer à réduire ces risques, des règlementations peuvent être utilisées pour s'assurer que les attributs, comme le genre, la race et l'origine ethnique des personnes figurant dans les données d'entraînement soient signalés et que l'ensemble des données soit intentionnellement conçu pour être représentatif », a ajouté l'OMS.

Elle recommande dans son guide une validation externe des données, l'évaluation des systèmes afin d'éviter les erreurs et les préjugés, la consentement pour le recueil des données privées, et la collaboration entre régulateurs, patients, gouvernements et professionnels de santé.