Peut-on faire repo­ser des déci­sions publiques sur des boites noires ?


C’est ce qui est en train d’ar­ri­ver à Martell Chubbs en Cali­for­nie, accusé récem­ment de meurtre dans une affaire qui remonte à 1977, inculpé parce que son ADN corres­pon­drait à l’ADN trouvé sur place, selon les bases de données géné­tiques de la police améri­caine. Chubbs a donc demandé à inspec­ter le code du logi­ciel qui a fait la corré­la­tion entre son ADN et celui recueillit à l’époque afin de consta­ter l’exac­ti­tude des résul­tats. Bien sûr, le construc­teur du programme a refusé, faisant valoir le risque encouru par le dévoi­le­ment du code de son programme proprié­taire. Le tribu­nal a donc rejetté la demande de l’ac­cusé, lais­sant la défense libre d’exa­mi­ner le témoin expert, mais pas l’ou­til que le témoin invoque. D’autres tribu­naux améri­cains ont rendu des déci­sions semblables.

[…] “L’im­mu­nité logi­cielle n’existe pas”, rappelle Rebecca Wexler. Les erreurs de program­ma­tion peuvent modi­fier les rapports de vrais­sem­blance de l’ADN d’un facteur 10. Quand des experts ont mis à jour un bug dans un logi­ciel d’al­coo­test, la Cour suprême du Minne­sota a inter­dit qu’il puisse servir de preuve dans tout juge­ment futur.

via Inter­net Actu

Comme le dit l’ar­ticle, rien que le scan­dale récent de triche de Volks­wa­gen sur les contrôles anti-pollu­tion montre qu’un logi­ciel ne reste qu’un outil. Si on ne peut pas étudier les limites de l’ou­til, son analyse ne vaut rien.

Le pire c’est que des problèmes graves dans les analyses ou procé­dures d’ana­lyses d’ADN, de cheveux, d’al­coo­lé­mie… on en trouve une bonne poignée en cher­chant un peu. Mais offi­ciel­le­ment, impos­sible de contes­ter les logi­ciels pour lesquels il n’y a encore eu aucun scan­dale.

peut-on faire repo­ser des déci­sions publiques sur des boites noires ?

, ,

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.