Au moins, dans un système tota­li­taire, on sait à quoi on a affaire

L’idée qu’il y a des trajec­toires normales sur Inter­net et d’autres, anor­males. C’est ce qu’on appelle le « nomi­na­lisme dyna­mique » : les indi­vi­dus, à partir du moment où ils savent qu’ils sont clas­si­fiés, même s’ils ne savent pas quels sont les critères de clas­si­fi­ca­tion, vont adap­ter leur compor­te­ment à ce qu’ils pensent qu’on attend d’eux.

Et ce n’est pas rien. Les États qui tendent dans le tota­li­taire n’ont pas forcé­ment des millions d’op­po­sants en prison. Ils ont surtout des millions de citoyens qui ont peur, peur de sortir des normes, d’avoir un compor­te­ment analysé comme déviant.

L’auto-censure est un réel enjeu, autant que la censure elle-même. C’est vers ça que nous mènent la traque des terro­ristes via des algo­rithmes en boite noire, qui analysent tous nos compor­te­ments sur Inter­net. La peur est d’au­tant plus raison­nable quand on voit la démarche impla­cable et aveugle que peut avoir l’anti-terro­risme dans l’af­faire de Tarnac.

Ça me pose ques­tion sur les droits et liber­tés fonda­men­taux. Parce qu’il me semble qu’ils ne sont pas là pour proté­ger les formes de vie, d’ex­pres­sion, de compor­te­ments, banales, normales, stan­dar­di­sées… Au contraire, ils sont là pour proté­ger les prises de posi­tion qui, sans être jugées illé­gales, sont jugées déviantes, malsaines, voyeu­ris­tes…

Les droits de l’homme jouent le rôle d’auto-subver­sion de la norme juri­dique par elle-même.

J’ai un peu peur que ce type de projet de loi érode progres­si­ve­ment, sans qu’on s’en rende compte, cette signi­fi­ca­tion fonda­men­ta­le­ment anti-tota­li­taire des droits et liber­tés fonda­men­taux.

Parce que ces algo­rithmes ne peuvent faire que poin­ter les compor­te­ments a-normaux (ceux qui n’agissent pas comme tout le monde) ou faire des amala­games (ceux qui agissent comme d’autres suspects).

Celui qui n’agit que dans la norme majo­ri­taire n’a pas besoin de protec­tion parti­cu­lière, son compor­te­ment n’est pas spécia­le­ment en danger. Ces compor­te­ments anor­maux ou mino­ri­taires sont juste­ment et exac­te­ment ceux que l’État de droit et les droits de l’Homme doivent proté­ger.

En instau­rant ce filet d’al­go­rithme on nie tota­le­ment notre droit et nos valeurs fonda­men­tales. Rien que ça.

Et comme dit plus loin dans l’ar­ticle, la présomp­tion sera forte. Pour qu’un juge, un fonc­tion­naire ou un poli­tique ose contre­dire un algo­rithme qu’il ne connait pas et qu’il ne comprend pas, il va lui falloir un sacré courage. S’il se trom­pe… autant dire que la présomp­tion ne sera plus à l’in­no­cence une fois qu’on sort de la case prévue par l’al­go­rithme.

Je m’ex­plique : on croit avoir accès à des caté­go­ries non-biai­sées, mais on ne se soucie plus du tout des causes. Un algo­rithme qui aide à la déci­sion d’em­bauche, par exemple, pour­rait évin­cer auto­ma­tique­ment des candi­dats venant d’une certaine partie d’une ville, parce que statis­tique­ment, ces gens-là restent moins long­temps embau­chés que les autres… Ça paraît parfai­te­ment objec­tif.

Sauf qu’il se peut que les raisons pour lesquelles ces indi­vi­dus restent moins long­temps embau­chés tiennent à des préju­gés raciaux de la part des employeurs, et que ces indi­vi­dus sont en majo­rité d’ori­gine nord-afri­caine. Donc il y a une sorte de masquage des réali­tés socio-écono­miques et cultu­relles par le chiffre.

Là est le danger de toute dicta­ture par les chiffres. Même les humains les plus malins ont du mal à déga­ger la cause de la consé­quence. L’al­go­rithme lui ne le pourra jamais. Il ne regarde que ce qui est. Et à regar­der ce qui est, on peut surtout renfor­cer les injus­tices, les discri­mi­na­tions, les stéréo­types et conti­nuer à brimer les plus faibles. Il y a un vrai danger, bien au delà du débat de la lutte contre le terro­risme.

Il n’est pas anodin que la plupart des infor­ma­ti­ciens ont peur de ces systèmes, et que seuls ceux qui n’y comprennent goute cherchent à les appliquer.

À lire en entier sur Rue89, par Xavier de La Porte et Andréa Fradin.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

À propos de ce site, du contenu, de l'auteur
Je poste parfois ici des humeurs ou des pensées. Parfois je change, parfois je me trompe, parfois j'apprends, et souvent le contexte lui-même évolue avec le temps. Les contenus ne sont représentatifs que de l'instant où ils ont été écrits. J'efface peu les contenus de ce site, merci de prendre du recul quand les textes sont anciens. Merci

À toutes fins utiles, ce site est hébergé par Scaleway, ONLINE SAS, joignable par téléphone au +33 (0)1 84 13 00 00 et joignable par courrier à l'adresse BP 438 - 75366 Paris Cedex 08.