Je vois passer pas mal d’af­fo­le­ment et de FUD à propos du nouveau service Safe­tyCore sur Android.

C’est quoi ?

Le service a été annoncé par Google. Il sert à clas­ser les messages entrants pour iden­ti­fier les usages malveillants ou douteux. Il iden­ti­fie aussi la nudité sur les images pour la masquer en l’at­tente de confir­ma­tion de l’uti­li­sa­teur.

Ce dernier usage est indiqué comme activé par défaut pour les mineurs, qui béné­fi­cie­raient aussi d’une alerte infor­ma­tive quand ce sont eux qui envoient des images sensibles.

Tout ça est traité en local. En consé­quence, ce n’est pas un service d’es­pion­nage, de tracking ou d’in­for­ma­tion vers les auto­ri­tés. Rien n’est échangé avec les serveurs de Google ou envoyé vers une autre desti­na­tion.

Est-ce qu’on peut avoir confiance ?

La confiance ça ne se dicte pas, et c’est très person­nel. Les déve­lop­peurs de Graphe­neOS, qu’on peut diffi­ci­le­ment quali­fier de pro-Google, ne semblent rien avoir à y redire.

Alors oui, on peut imagi­ner que main­te­nant ou à l’ave­nir, Google utilise ce service ou une future mise à jour de ce service pour un usage malveillant. C’est toute­fois vrai avec tous les services de Google, que Google Play met à jour en perma­nence.

Si vous n’avez pas confiance en Google, le problème n’est pas ce nouveau service. C’est tout l’OS qu’il faut chan­ger, pour un dont Google ne gère pas les mises à jour auto­ma­tiques. Note : Vous devrez quand même faire confiance à quelqu’un, ce sera juste quelqu’un d’autre.

Ok, mais l’ins­tal­la­tion est cachée quand même…

Je ne crois pas qu’on puisse dire que l’ins­tal­la­tion est cachée si l’évo­lu­tion a été annon­cée publique­ment il y a plusieurs mois.

Elle par contre auto­ma­tique. Oui, c’est discu­table. Main­te­nant il faut voir d’où on vient pour comprendre.

Par le passé Android était un nid à problèmes de sécu­rité. Les construc­teurs ne mettaient pas tous les appa­reils à jour, ou peu long­temps et avec une forte latence.

Google a fait le choix, proba­ble­ment à raison, de sépa­rer l’OS en deux couches et de s’oc­cu­per lui-même de la mise à jour des services cœurs pour répondre à ces diffi­cul­tés. Il le fait pour les correc­tions comme pour les évolu­tions. Si un service cœur change ou s’ajoute, votre télé­phone en profite même si le construc­teur n’est pas dili­gent.

Le service dont on parle est bien un service cœur, qui a un rôle de protec­tion. Il est normal qu’il ait suivi la voie de la mise à jour auto­ma­tique.

C’est discu­table mais mieux que l’al­ter­na­tive.

Pourquoi n’est-il pas Open Source ?

Je ne sais pas, mais je peux tenter de suppo­ser.

Le premier point, c’est que c’est un modèle de tri, pas un algo­rithme. Le code source a moins de sens si le cœur reste un gros paquet binaire.

Ils auraient pu ouvrir le modèle lui-même, avec son appren­tis­sage. Je ne sais pas pourquoi ils ne l’ont pas fait. Peut-être est-ce pour ne pas donner d’in­di­ca­tion sur comment éviter le clas­se­ment, peut-être est-ce juste parce que l’IA est le sujet à la mode sur lequel ils veulent garder un avan­tage.