Etats généraux de bioéthique: ce qu'il faut retenir des consultations sur le numérique en santé

PARIS, 12 juin 2018 (TICsanté) - Le rapport de synthèse des états généraux de la bioéthique publié le 5 juin fait état d'un consensus sur les apports du numérique et de l'intelligence artificielle en santé, mais révèle d'importantes craintes sur un déficit d'information des patients et une déshumanisation de la médecine.

Les thèmes de l'intelligence artificielle (IA), de la robotisation et des données de santé figuraient au programme des débats des états généraux de la bioéthique qui se sont tenus de février à avril 2018 en régions et sur le un site web dédié (voir brève du 23 janvier 2018).

Lors de la conférence de presse organisée pour présenter le rapport de synthèse des états généraux publié par le Comité consultatif national d'éthique (CCNE), Claude Kirchner, directeur de recherche à l'Institut national de recherche en informatique et en automatique (Inria) et membre du CCNE, a fait état d'un "consensus avéré" sur la "révolution numérique" en santé et les apports des technologies.

Il est apparu dans la consultation que "les applications des nouvelles technologies comme l'intelligence artificielle sont déjà à l'oeuvre en portant des promesses tout à fait intéressantes" et que la volonté de freiner leur développement serait "contraire à l'éthique", a-t-il relayé.

Claude Kirchner a toutefois noté "un déficit d'information" sur les aspects techniques du traitement des données de santé comme leur anonymisation, leur pseudonymisation et les différentes techniques de sécurisation, ainsi qu'une "méfiance partagée" sur une "exploitation malveillante" des données par des assurances ou des plateformes médicales par exemple.

Parmi les "demandes prioritaires" issues des consultations, Claude Kirchner a cité le souhait que "l'humain, le citoyen, le patient et le professionnel de santé gardent la main et le contrôle sur la décision médicale finale".

Il est recommandé d'assurer une meilleure "information et formation citoyenne", notamment sur les conditions de recueil du consentement du patient à utiliser ses données de santé, ainsi qu'une formation à l'éthique pour "tous les maillons de la chaîne": professionnels de santé, concepteurs de systèmes numériques et patient.

La nécessité de "rendre les algorithmes compréhensibles, si possible à tous les niveaux, de leur conception à leur utilisation" figure aussi parmi les priorités relevées dans les états généraux.

"On sait que ce n'est pas toujours facile, en fonction des techniques utilisées", a reconnu Claude Kirchner, faisant notamment référence aux techniques d'apprentissage automatique non supervisé.

Il a relevé que ces techniques et algorithmes d'IA "posent des questions relatives à la responsabilité" du médecin. "Qui est responsable en cas d'erreur de dérèglement de la machine ? La chaîne de responsabilité doit être définie", note le rapport de synthèse des états généraux de bioéthique.

"Il faut concevoir des systèmes algorithmiques autour de l'IA qui soient au service de la liberté humaine, notamment au niveau des interfaces humains-machine", a ajouté Claude Kirchner, notant que "la façon dont les citoyens, patients et professionnels arrivent à accéder à l'ensemble du monde des données et des algorithmes est un point important".

Ces thèmes ont été particulièrement abordés dans les recommandations de la Commission nationale de l'informatique et des libertés (Cnil) lors de son audition par le CCNE.

Gare aux nouvelles inégalités

Claude Kirchner a vu une "question spécifique à ne pas manquer" autour de la désertification médicale et d'une éventuelle déshumanisation des soins dans certaines zones où la machine viendrait remplacer l'humain.

Si la télémédecine, les objets connectés et l'intelligence artificielle peuvent offrir des solutions pour les zones médicalement désertifiées, "ils ne seraient pas 'la' solution et ne devraient pas service de prétexte à la suppression de postes ou de métiers de service à la personne", peut-on lire dans la synthèse des consultations.

"Ils devraient plutôt être au service de tous et partout, et ne pas créer de nouvelles inégalités sociales ou territoriales", est-il ajouté.

Le CCNE relaie ici une crainte que les technologies numériques "constituent la seule solution proposée pour pallier les insuffisances du système de santé et, en premier lieu, la raréfaction des médecins".

Rapport de synthèse du CCNE sur les états généraux de bioéthique

rm/ab