Poursuivant une réflexion antérieure sur les questions que posent le recueil de données personnelles et les nouvelles possibilités de leur utilisation dans le domaine des sciences de la vie et de la santé, et à la suite des États généraux de la bioéthique [1]Voir l’Avis 129 « contribution à la révision de la loi de bioéthique », ainsi que le rapport « numérique et santé. Quels enjeux éthiques pour quelles régulations ? » commandé par le CCNE et consacré à l’intelligence artificielle, le CCNE consacre son Avis 130 aux enjeux éthiques que soulève l’utilisation des « données massives » [2]Par « données massives », on désigne la disponibilité, soit d’un nombre important de données, soit de données de taille importante, que seuls les outils du numérique alliant l’algorithmique à la puissance de calcul des ordinateurs permettent de traiter efficacement. Outre le changement d’échelle, qui fait que seule la machine – et non plus l’humain – est capable d’assurer la collecte, la conservation et l’analyse des données, celles-ci se caractérisent principalement par trois propriétés : leur pérennité (elles peuvent être copiées et réutilisées indéfiniment) ; leur diffusion dans le temps et l’espace, qui permet leur partage rapide et sans distinction de frontières ; la génération de données secondaires, nouvelles informations obtenues par le traitement et le croisement des données initiales avec d’autres sources, qui fait de ces données un matériel exploitable bien au-delà des finalités du recueil initial. (Big Data). Dans le contexte de mutations technologiques et culturelles accélérées liées au traitement de ces « données massives », le CCNE souligne combien l’accumulation massive de données issues de personnes, comme la capacité accrue qu’a le traitement de ces données de produire de la valeur, nécessitent débat et réflexions éthiques.
Cet avis :
– énonce des principes éthiques communs à tous les contextes d’utilisation des données massives dans le champ de la santé (chapitre 2) ;
– identifie des enjeux éthiques spécifiques aux situations de soin, de recherche, de gestion des soins, ou de vie personnelle qui utilisent les données massives (chapitre 3) ;
– propose 12 recommandations indispensables au respect des principes éthiques fondamentaux permettant, sans les freiner, le développement des technologies fondées sur les données massives.
Les mutations induites par les données massives
Le CCNE estime qu’on ne saurait adopter une position hostile à ces nouvelles technologies numériques à raison des risques dont elles sont porteuses, car il serait contraire à l’éthique de ne pas favoriser leur développement si elles peuvent bénéficier à la santé de tous et aider à la rationalisation des coûts. Mais le CCNE rappelle que les grands principes qui fondent l’éthique médicale – respect de la personne (incluant le respect de son autonomie), justice, pertinence et bienfaisance (incluant ici l’obligation de non-nuisance) – ne doivent pas être affaiblis par le développement des technologies numériques.
Les mutations induites par les données massives modifient notre façon de formuler des hypothèses de recherche, d’acquérir des savoirs et de les utiliser pour une prise de décision intéressant l’individu et la collectivité. Elles induisent des changements dans nos représentations et bouleversent notre façon de considérer la mesure de nos paramètres de santé et de bien-être. Ces données personnelles tendent à devenir un outil relationnel dynamique et un instrument d’autonomie visant à un meilleur contrôle personnel de notre état de santé.
Le CCNE appelle à la vigilance pour que les personnes qui n’ont pas aisément accès aux technologies du numérique bénéficient aussi des avancées dans le domaine de la santé et ne subissent ni stigmatisation ni discrimination dans leur accès aux soins. (Recommandation 9).
De ces mutations, le CCNE tire deux constats :
Une perception nouvelle des enjeux éthiques et des propositions de réponses adaptées
Le CCNE montre qu’une des caractéristiques des données massives relatives à la santé est d’effacer les distinctions sur lesquelles repose la mise en œuvre des principes éthiques qui fondent la protection des droits individuels dans le champ de la santé. Ainsi, la séparation s’estompe entre vie privée et vie publique par la possibilité de croiser des données sans lien les unes avec les autres, mais aussi parce que notre représentation de l’intime change. Le rapport entre l’individuel et le collectif évolue : l’autonomie de chacun s’accroit, mais la connaissance très précise des personnes et de leur état de santé induit le risque d’un profilage ; celui-ci met en cause la protection de la vie privée et peut aboutir à la stigmatisation de personnes ou de groupes. Celle-ci menace la vie privée, mais aussi les principes de solidarité et d’équité qui fondent notre système de santé ; soin et commerce deviennent plus difficiles à distinguer, conséquence de la transformation du soin et du marché de la santé.
Le CCNE remarque, en outre, que la notion même de consentement libre et éclairé, exigé a priori comme assurant la protection d’une personne face à une décision la concernant, es remise en cause par les conditions mêmes d’exploitation des données massives (finalités incertaines et incompréhension, voire inaccessibilité, du processus d’analyse). La nécessité d’une protection de la personne doit être réaffirmée et ses modalités doivent être redéfinies, afin d’éloigner la menace d’une société de surveillance et de contrôle par de multiples opérateurs agissant à des fins diverses. Même si le consentement reste l’un des fondements majeurs de licéité du traitement des données personnelles, le RGPD [3]Règlement général sur la protection des données, règlement européen entré en vigueur dans les États de l’Union européenne le 25 mai 2018., qui se veut ferme sur ses principes mais pragmatique, prend acte de ce que cette exigence n’est pas réalisable dans tous les cas, notamment dans l’hypothèse d’une réutilisation des données ; il reconnaît comme licites d’autres modalités de protection lorsque sont poursuivies des finalités d’intérêt général. Le CCNE prend acte de ce passage progressif d’une volonté de contrôle exhaustif a priori par l’individu à une logique d’intervention et de contrôle a posteriori fondée sur une recherche d’intelligibilité et de responsabilisation. Cette logique exige une loyauté de comportement des responsables du traitement, une transparence de leurs processus, et la possibilité de contrôler leurs possibilités d’accès aux données et leur démarche déontologique. Le CCNE réaffirme l’importance d’une gouvernance identifiée et d’engagements qui doivent pouvoir être vérifiés. L’information précise et loyale, adaptée aux différents contextes d’utilisation, devient un critère éthique majeur. (Recommandations 1 à 3).
Le CCNE estime qu’une garantie humaine des différentes étapes du processus de l’analyse des données est fondamentale. Elles sont, en effet, la « matière première » nécessaire à la conception d’algorithmes d’aide à la décision, qui prennent une part toujours plus importante dans l’exercice médical et la définition des politiques de santé. Une « garantie humaine » est donc essentielle pour répondre de la rigueur méthodologique des différentes étapes du processus de recueil et de traitement des données que sont : (i) la qualité et l’adéquation des données sélectionnées pour entrainer les algorithmes ; (ii) l’adéquation du choix des traitements algorithmiques à la question posée ; (iii) la vérification sur un jeu de données indépendantes de la robustesse et de l’exactitude du résultat donné par l’algorithme. Sa mise en œuvre exige des actions fortes dans trois domaines : la formation, une évaluation qualitative des sites, applications et objets connectés, une recherche scientifique de haut niveau. (Recommandations 4, 5, 6, 8).
Une spécificité des questionnements éthiques selon les contextes
À la diversité des sources de données primaires correspond une diversité tout aussi importante des champs de leur utilisation dans le domaine de la santé (soin, conception de nouveaux médicaments ou dispositifs médicaux, amélioration des connaissances, gestion des essais cliniques, meilleure performance économique, amélioration de la santé publique, objectif commercial). Quelques enjeux éthiques spécifiques à trois de ces situations sont explicités :
Le CCNE analyse plus spécifiquement le cas des données génomiques – qui se distinguent entre autres par les caractères identifiant et, pour partie, prédictif, de la séquence génomique pour l’individu et ses apparentés – ainsi que par les questionnements liés à la constitution de grandes banques de données génomiques et à leur partage dans le cadre de la recherche. Si leur exploitation a permis de spectaculaires avancées des connaissances et une notable amélioration de la prise en charge des patients, elles illustrent également les risques induits par l’exploitation des données massives : diffusion incontrôlée, possibilité d’identification, de perte de confidentialité, et donc de sécurité. Le CCNE recommande le maintien de la réglementation spécifique et, en particulier, la nécessité d’un consentement exprès et la prise en compte de la parentèle ; il relève le risque accru de découvertes incidentes, qui pose un problème éthique spécifique, et incite à la vigilance quant aux biais possibles de sélection des populations étudiées (Recommandation 4).
Le CCNE note enfin que les technologies reposant sur la numérisation mettent en évidence la nécessité – pour qu’un pays garde la maîtrise de sa politique de santé et de sa capacité à l’innovation scientifique et médicale– d’affronter les défis technologiques du stockage et de la sécurité, ainsi que d’assurer un haut niveau scientifique et technologique pour l’exploitation des données. (Recommandation 10)
References