Au moins, dans un système tota­li­taire, on sait à quoi on a affaire

L’idée qu’il y a des trajec­toires normales sur Inter­net et d’autres, anor­males. C’est ce qu’on appelle le « nomi­na­lisme dyna­mique » : les indi­vi­dus, à partir du moment où ils savent qu’ils sont clas­si­fiés, même s’ils ne savent pas quels sont les critères de clas­si­fi­ca­tion, vont adap­ter leur compor­te­ment à ce qu’ils pensent qu’on attend d’eux.

Et ce n’est pas rien. Les États qui tendent dans le tota­li­taire n’ont pas forcé­ment des millions d’op­po­sants en prison. Ils ont surtout des millions de citoyens qui ont peur, peur de sortir des normes, d’avoir un compor­te­ment analysé comme déviant.

L’auto-censure est un réel enjeu, autant que la censure elle-même. C’est vers ça que nous mènent la traque des terro­ristes via des algo­rithmes en boite noire, qui analysent tous nos compor­te­ments sur Inter­net. La peur est d’au­tant plus raison­nable quand on voit la démarche impla­cable et aveugle que peut avoir l’anti-terro­risme dans l’af­faire de Tarnac.

Ça me pose ques­tion sur les droits et liber­tés fonda­men­taux. Parce qu’il me semble qu’ils ne sont pas là pour proté­ger les formes de vie, d’ex­pres­sion, de compor­te­ments, banales, normales, stan­dar­di­sées… Au contraire, ils sont là pour proté­ger les prises de posi­tion qui, sans être jugées illé­gales, sont jugées déviantes, malsaines, voyeu­ris­tes…

Les droits de l’homme jouent le rôle d’auto-subver­sion de la norme juri­dique par elle-même.

J’ai un peu peur que ce type de projet de loi érode progres­si­ve­ment, sans qu’on s’en rende compte, cette signi­fi­ca­tion fonda­men­ta­le­ment anti-tota­li­taire des droits et liber­tés fonda­men­taux.

Parce que ces algo­rithmes ne peuvent faire que poin­ter les compor­te­ments a-normaux (ceux qui n’agissent pas comme tout le monde) ou faire des amala­games (ceux qui agissent comme d’autres suspects).

Celui qui n’agit que dans la norme majo­ri­taire n’a pas besoin de protec­tion parti­cu­lière, son compor­te­ment n’est pas spécia­le­ment en danger. Ces compor­te­ments anor­maux ou mino­ri­taires sont juste­ment et exac­te­ment ceux que l’État de droit et les droits de l’Homme doivent proté­ger.

En instau­rant ce filet d’al­go­rithme on nie tota­le­ment notre droit et nos valeurs fonda­men­tales. Rien que ça.

Et comme dit plus loin dans l’ar­ticle, la présomp­tion sera forte. Pour qu’un juge, un fonc­tion­naire ou un poli­tique ose contre­dire un algo­rithme qu’il ne connait pas et qu’il ne comprend pas, il va lui falloir un sacré courage. S’il se trom­pe… autant dire que la présomp­tion ne sera plus à l’in­no­cence une fois qu’on sort de la case prévue par l’al­go­rithme.

Je m’ex­plique : on croit avoir accès à des caté­go­ries non-biai­sées, mais on ne se soucie plus du tout des causes. Un algo­rithme qui aide à la déci­sion d’em­bauche, par exemple, pour­rait évin­cer auto­ma­tique­ment des candi­dats venant d’une certaine partie d’une ville, parce que statis­tique­ment, ces gens-là restent moins long­temps embau­chés que les autres… Ça paraît parfai­te­ment objec­tif.

Sauf qu’il se peut que les raisons pour lesquelles ces indi­vi­dus restent moins long­temps embau­chés tiennent à des préju­gés raciaux de la part des employeurs, et que ces indi­vi­dus sont en majo­rité d’ori­gine nord-afri­caine. Donc il y a une sorte de masquage des réali­tés socio-écono­miques et cultu­relles par le chiffre.

Là est le danger de toute dicta­ture par les chiffres. Même les humains les plus malins ont du mal à déga­ger la cause de la consé­quence. L’al­go­rithme lui ne le pourra jamais. Il ne regarde que ce qui est. Et à regar­der ce qui est, on peut surtout renfor­cer les injus­tices, les discri­mi­na­tions, les stéréo­types et conti­nuer à brimer les plus faibles. Il y a un vrai danger, bien au delà du débat de la lutte contre le terro­risme.

Il n’est pas anodin que la plupart des infor­ma­ti­ciens ont peur de ces systèmes, et que seuls ceux qui n’y comprennent goute cherchent à les appliquer.

À lire en entier sur Rue89, par Xavier de La Porte et Andréa Fradin.