COVI: dommage!

Mauvais timing! Du point d’interrogation au point d’exclamation

(05 juin 2020)

Ces quelques lignes ont été écrites avant que la nouvelle ne tombe aujourd’hui, vendredi 05 juin 2020. COVI ne sera pas recommandé par le gouvernement.

The federal government has ruled out an endorsement of one of the highest-profile Canadian efforts to develop a COVID-19 contact-tracing smartphone app, The Logic has learned. The Covi Canada app, developed by Montreal’s Mila Institute, uses artificial intelligence to predict the user’s risk level. The decision against adopting Mila’s app, which is based on the protocols developed by Britain’s National Health Service (NHS), strongly suggests the federal government will instead endorse an app based on Apple and Google exposure notification application programming interface. Ottawa-based Shopify, which has developed an app based on the two companies’ technology, is arguably the country’s most prominent remaining contender.

D’après ce même article, Shopify reste l’application canadienne encore en course.

Ottawa-based Shopify, which has developed an app based on the two companies’ technology, is arguably the country’s most prominent remaining contender. 

Forcément, maintenant, le propos est pas mal moins pertinent. Quoi que. Dans ces quelques lignes, nous montrons que la mise en place d’une telle application révèle le peu de structure pour valider de pareilles solutions. Et à cause de cela, après tant de tergiversations, il est trop tard. Ce billet s’écrivait «COVI: pourquoi pas?» Il s’intitule désormais «COVI: dommage!» Du point d’interrogation, nous passons donc au point d’exclamation.


(03 juin 2020)

La science toute!

Pour le scientifique que je suis, un des aspects positifs de la pandémie en cours est que la science a aussitôt été sollicitée, suscitant des espérances, la création d’un vaccin étant notamment l’avenue privilégiée pour en finir avec ce mal. Les États se sont donc rapidement dirigés vers leurs centres de formation et de recherche afin de tenter d’endiguer le phénomène, de mitiger les dommages, d’organiser la période d’après. Comme chercheur donc, cette main tendue est certes normale, la mission de l’Université étant aussi de servir la communauté, mais elle est aussi bienvenue, cette confiance étant assurément une source de motivation face à cette utilité déclarée et généralisée.

COVI et suspicion.

En revanche, la réception de l’application COVI, provenant du MILA, a au contraire suscité du doute, de la suspicion. Et depuis plus de 25 ans que je m’intéresse aux technologies, COVI est sans doute l’application québécoise qui je pense a généré le plus de passions. Il est vrai que la période est extraordinaire et que le procédé constitue un certain saut dans l’inconnu; plus généralement, les technologies sont souvent associées à une sorte de « techno-magie », comme l’appelle le sociologue Vincenzo Susca, suscitant émotion, déraison. Beaucoup s’offusquent des travers possibles de cette application (19 mai 2020) (27 mai 2020) (02 juin 2020) ; d’autres y voit au contraire des signes d’espérances (31 mars 2020) (02 juin 2020). Avec égard, nous souhaitons appartenir à cette seconde catégorie, et ce, pour trois raisons, non exhaustives, sur lesquelles nous aimerions reparler.

Est-ce que cela marche?

Mais avant cela, il me faut revenir sur un point souvent relayé : est-ce que ce type d’application fonctionne? Tout comme Jocelyn Maclure, j’ai une tendance à développer une « perspective déflationniste » vis-à-vis des technologies qui parfois nous éblouissent de par les potentialités qu’elles prétendent avoir sans mesurer leurs inconvénients. Mais relativement à l’efficacité de l’application en question, pour être honnête, je n’en ai aucune idée, n’ayant aucune compétence pour évaluer a priori le tout. Également, je pense que même des gens plus connaissants que moi ne sauront sans doute qu’a posteriori le succès ou non du projet. En revanche, le fait que Joshua Bengio et son équipe y croient ne m’est pas indifférent. Leur compétence est mondialement reconnue; leur intérêt pour une vision éthique des choses m’apparaît sincère, véritable et la somme des personnes impliquées ont plus à perdre qu’à gagner. Il est vrai qu’il existe parfois un certain mirage associé à ce que les technologies peuvent accomplir. De beaucoup à reprendre cette expression désormais consacrée de « solutionnisme technologique » de Morozov invitant, historiquement, à nous méfier des potentialités soit surévaluées soit méconnues des technologies nouvelles. Après, le fait que dans le passé certaines technologies aient été inutiles voire nuisibles ne veut pas dire que celle-ci le sera aussi. Le solutionnisme technologique n’est donc pas une religion; au mieux, un rappel à l’ordre : par principe, l’histoire ne doit pas être utilisée pour construire le futur. L’avenir nous le dira, si ce n’est déjà pas trop tard.

Comment encadrer?

Qu’importe, suivi ou pas, cette application participe grandement au dialogue salvateur sur la manière d’encadrer l’avènement de nouvelles applications du genre. À la limite, qu’importe si les gouvernements décideront de suivre cette technologie, ou d’autres, pas mal plus obscures, j’y reviendrais. Une chose est sûre, les carences du droit, sont soulevées, mises à nu, ne parvenant pas à remplir leurs fonctions traditionnelles, d’une part, de guide et, d’autre part, d’équilibre entre des intérêts catégoriels distincts. Des carences pour lesquelles le MILA n’est non seulement, évidemment, pour rien mais dont il pâti en essayant de développer une acceptation sociale, « à la mitaine », dans l’urgence de surcroît.

1 – Faux reproche de l’absence du débat public.

Une première raison d’apaisement face à cette application est qu’il nous semble faux de prétendre que le débat n’est pas public. De toutes les applications en cours d’élaboration, celle du MILA a pris dès le début le soin de publiciser les échanges. Cette publicité se manifeste dans la mise en ligne de documents techniques particulièrement complets; elle est aussi manifeste dans l’objectif de vulgarisation d’un procédé qui s’explique mal au commun des mortels. Ce débat public se manifeste aussi dans un dialogue car le MILA, s’il communique, écoute également. Jocelyn MacLure par exemple critique le 19 mai 2020 le fait que les développeurs de l’application n’ont pas sollicité le CEST (Commission de l’éthique en science et en technologie); aussitôt, un dialogue est effectué. On reproche le manque de légitimité au MILA du fait de l’absence de regard externe; on invite aussitôt Louise Arbour et Louise Otis, deux anciennes juges irréprochables, à faire partie d’un comité de sage. On demande plus de documentation; un PIA (Privacy Impact Assessment) est effectué, lui-même validé par le Commissariat fédéral. On demande qu’une commission parlementaire soit constituée; le MILA trouve que c’est une excellente idée et au contraire, c’est le gouvernement qui met les freins. Je ne décèle donc pas un libertarisme associé à ce projet; bien davantage, c’est plutôt l’incapacité ou le manque de volonté de l’État de participer à un tel contrôle qui transparaît.

2 – Faux reproche du manque de contrôle externe.

Et c’est là où le bât blesse. La place de l’État. Car si l’on constate des manquements substantiels aux législations en vigueur (principe de responsabilité accrue, consentement mieux pensé, condamnation de certains comportements, hausse drastique des sanctions, etc.), relativement à cette solution technologique, ce qui apparaît surtout c’est la pauvreté institutionnelle pour réagir rapidement. Après des années de désinvestissement étatique, il n’existe que très peu, au Québec, de regard externe qui puisse jouer ce rôle de « chien de garde institutionnel » pour valider ou infirmer une telle application. Qui pour se prononcer sur l’application COVI? La CEST? Bien entendu même si le processus est de 18 mois pour avoir un avis. La CAI? Oui, elle le peut, mais dans le cadre de son pouvoir judiciaire qui va prendre … environ deux ans.  Quand on se compare, on peut s’émouvoir de la réactivité de la CNIL qui, en moins d’un mois, a produit relativement à une application de traçage en France (et non d’exposition au virus), une délibération principielle (26 avril 2020), une autre sur le décret applicable (12 mai 2020) et une troisième sur la mise en œuvre (25 mai 2020). StopCovid peut donc être lancé, fort de la validation documentée, et publique, d’un organisme empreint de la légitimité requise. Évidemment donc, ce regard externe est source d’une meilleure crédibilité, comme le signale tout récemment l’OMS dans une note sur le sujet (28 mai 2020). Évidemment. Mais quoi faire quand l’État se débine ou n’est en fait juste pas là?

3 – Faux reproche du manque de contrôle interne.

Relativement au contrôle interne, là encore, on s’intéresse plus au processus qu’à la substance. Car sur le plan de la substance, COVI répond à toutes les exigences généralement établies dans les codes de conduite et règles éthiques qui ne cessent, çà et là, de fleurir un peu partout (Chercheurs – 28 mai 2020) (WHO – 28 mai 2020) (Déclaration commune des commissaires canadiens à la vie privée – 07 mai 2020) : la sécurité, la proportionnalité (d’ailleurs, ce n’est pas une application de traçage mais une de mesure de l’exposition au virus!), la limitation dans le temps, les principaux principes semblent satisfaits. Pourtant, il importe de dire que cette solution de la documentation interne est une solution universelle qui se retrouve dans le domaine de la sécurité informatique, de la sécurité financière, de l’environnement, etc. Tous les domaines techniques passent par là depuis que, aux alentours des années 80, une généralisation du phénomène d’audit s’opère. L’audit devient le nouveau rituel, pour reprendre l’expression de Michael Power. Sans offusquer personne, sans que guère d’émoi ne se soit jamais véritablement signalé, le droit se privatise et passe sous le radar des institutions de l’État. L’aubaine néolibérale dans toute sa splendeur : la « soft law » devient le centre de gravité normatif, si bien critiquée par Grégoire Chamayou (Chapitre 18). Alors c’est vrai, COVI répond à cette exigence qui est critiquable non pas dans son principe mais dans son application, le droit n’ayant trouvé que peu de moyens pour densifier son contrôle. Les lois à venir devront donc, d’une part, préciser ces obligations internes et, d’autre part, responsabiliser les acteurs qui développeraient des mesures trop timides, trop peu exigeantes. 

Pendant ce temps…

Ce qui m’incite à réagir rapidement à ces réactions sur cette initiative québécoise, c’est qu’elle monopolise la critique du fait de sa grande ouverture. Paradoxalement, le projet Shopify, ne génère que peu de critiques alors que les données ne sont pas mieux protégées, et surtout pas mieux expliquées. Une page plutôt que 60; cela a l’avantage d’être bref; c’est le seul! Guère d’émoi non plus que ce projet soit associé à des multinationales qui n’ont pour le moment pas fait montre d’une sensibilité particulière à une gestion « éthique » des données.

Question d’argent.

Dans ce message plein d’espérance, je me dois de finir avec une mauvaise nouvelle. Si l’on souhaite véritablement s’assurer d’une intelligence artificielle responsable, il faudra payer pour. Parmi le modèle de gouvernance que cette application révèle, où tout est à construire, il faut y inclure un cadre financier où il va falloir intégrer les coûts associés à ces contrôles. Un contrôle interne, bien entendu, mais cela pose moins de problème dans la mesure où il est déjà pris en charge par l’entité qui utilise les données. Mais aussi un contrôle externe qui, effectivement, est sans doute plus digne de foi. Et au Canada, on ne peut que constater le manque de ressources tant de la CAI que du Commissariat fédéral. La CNIL en France se plaint aussi de son manque de moyens. Parmi les modèles disponibles, j’ai été particulièrement convaincu par le système anglais où l’organisme de contrôle, l’ICO, est financé à près de 85% par une « taxe » (Data Protection Fee), prévue dans la loi anglaise, variant selon la « consommation » de données utilisées et la taille des entités.

Conclusion.

On ne sait ce que COVI va devenir; s’il va plus politiquement que techniquement réussir à rallier les suffrages à cette quête de légitimité, d’acceptation sociale, qui semble requise. Quoi qu’il arrive, ce projet aura eu l’immense avantage de nous conforter dans les carences du cadre légal et institutionnel actuel bien incapable de régir ces situations complexes. Si COVI devait donc être mis à la trappe, ce qui serait quand même sacrément dommage, au profit de solutions comparables, mais étrangères, elle aura eu le bénéfice de faire avancer la réflexion sur la gouvernance requise. Elle aura eu le courage de jouer la voie de l’ouverture, et ce, même si certains auraient aimé que cela le fut davantage.

P.S. : un texte plus conséquent est en cours de finalisation. Il sera publié dans les prochains jours dans Lex electronica.

Ce contenu a été mis à jour le 9 juin 2020 à 21 h 16 min.

Commentaires

6 commentaires pour “COVI: dommage!”

Michel Petiteau

8 juin 2020 à 7 h 43 min

« Ces quelques lignes ont été écrites avant que la nouvelle ne tombe aujourd’hui, vendredi 05 juin 2020. COVI ne sera pas recommandé par le gouvernement. »
Aujourd’hui, le 8 juin, la nouvelle officielle, celle provenant du gouvernement canadien, n’est toujours pas tombée. Enfin je ne l’ai pas vue.

Est-ce parce que:  » … Le témoin a dit la vérité,
Il doit être exécuté.

Le monde doit s’enivrer de discours, pas de vin,
Rester dans la ligne, suivre les consignes. … » ?

Se peut-il la nouvelle n’ait jamais été lancée?

Michel Petiteau

14 juin 2020 à 19 h 19 min

Montréal dans le concert des grands de l’IA.
Page https://www.lesaffaires.com/blogues/l-economie-en-version-corsee/non-le-canada-n-est-pas-dans-la-cour-des-grands-en-ia/609259
Extraits:
1- « Scientifiques, politiciens, entrepreneurs… Tout le monde clame haut et fort que le Canada – pour ne pas dire Montréal – est un acteur mondial majeur de l’industrie de l’intelligence artificielle (IA). »
2-  » … le Canada n’est pas, en vérité, dans la cour des grands en matière d’IA. Loin de là. Comme en atteste une étude fracassante que vient de divulguer Jean-François Gagné, PDG et cofondateur d’Element AI, un fournisseur de produits en IA dont l’un des cofondateurs est nul autre que Yoshua Bengio, lauréat du prix Turing en 2018.  »
SVP prêtez attention au tableau. Chaque pays est à sa place.

Laisser un commentaire