C’est ce qui est en train d’arriver à Martell Chubbs en Californie, accusé récemment de meurtre dans une affaire qui remonte à 1977, inculpé parce que son ADN correspondrait à l’ADN trouvé sur place, selon les bases de données génétiques de la police américaine. Chubbs a donc demandé à inspecter le code du logiciel qui a fait la corrélation entre son ADN et celui recueillit à l’époque afin de constater l’exactitude des résultats. Bien sûr, le constructeur du programme a refusé, faisant valoir le risque encouru par le dévoilement du code de son programme propriétaire. Le tribunal a donc rejetté la demande de l’accusé, laissant la défense libre d’examiner le témoin expert, mais pas l’outil que le témoin invoque. D’autres tribunaux américains ont rendu des décisions semblables.
[…] “L’immunité logicielle n’existe pas”, rappelle Rebecca Wexler. Les erreurs de programmation peuvent modifier les rapports de vraissemblance de l’ADN d’un facteur 10. Quand des experts ont mis à jour un bug dans un logiciel d’alcootest, la Cour suprême du Minnesota a interdit qu’il puisse servir de preuve dans tout jugement futur.
Comme le dit l’article, rien que le scandale récent de triche de Volkswagen sur les contrôles anti-pollution montre qu’un logiciel ne reste qu’un outil. Si on ne peut pas étudier les limites de l’outil, son analyse ne vaut rien.
Le pire c’est que des problèmes graves dans les analyses ou procédures d’analyses d’ADN, de cheveux, d’alcoolémie… on en trouve une bonne poignée en cherchant un peu. Mais officiellement, impossible de contester les logiciels pour lesquels il n’y a encore eu aucun scandale.
peut-on faire reposer des décisions publiques sur des boites noires ?
Laisser un commentaire