Autant il y a des jours où l'on est enthousiaste quant à ce que l'avenir avec l'IA nous réserve, autant il est des moments où les géants de la tech débarquent avec les pires idées de merde sous prétexte d'IA, et l'on se met à désespérer. Il ne suffit pas de mettre de l'IA dans une fonctionnalité pour que celle-ci vaille la peine d'être développée, et ce n'est pas parce qu'un usage de l'IA est possible qu'il est souhaitable. C'est ce que Microsoft semble ne pas avoir compris avec Recall (alias Rappel en bon français).

Prévu pour les nouveaux PC certifiés Copilot+ équipés de Windows 11, cette idée issue de gens apparemment incapables de réfléchir aux implications de leurs concepts propose de prendre des captures d'écran de tout ce que vous faites, en permanence, toutes les quelques secondes, de les enregistrer, et de les fournir à une IA qui sera capable de vous retrouver tout ce que vous avez fait ou vu sur demande, grâce à un mélange de reconnaissance d'image et de langage naturel.  Une frise chronologique permettra également de revoir avec une granularité ultra-précise ce que vous avez fait par le passé sur cette machine.

Si l'idée peut sembler vaguement séduisante au premier abord, encore que les exemples fournis par Microsoft semblent d'un intérêt franchement limité («waouh, si je lui dis "sac à main marron", il est capable de retrouver une page web où j'ai vu un sac à main marron, j'ai vraiment besoin de ça dans ma vie»), les inconvénients et les dangers associés à une telle idée sont tellement nombreux, qu'on se demande sincèrement comment cette idée a pu arriver jusqu'au stade de l'annonce officielle, sans qu'à aucun moment quelqu'un ait mis un coup d'arrêt à cette authentique idée de merde.

Car si votre ordinateur se souvient d'absolument tout ce que vous avez fait et vu et peut être interrogé à volonté sur ce sujet, alors non seulement vous pourrez retrouver toutes ces données, mais également quiconque a accès à votre ordinateur, que ce soit en local ou à distance.

Car si Microsoft promet que tout sera stocké en local et que rien ne partira dans le cloud (le genre de promesses qui n'engagent que ceux qui y croient), rien ne permet de s'assurer que personne ne pourra jamais accéder à votre ordinateur à distance, sans parler des risques en local. Imaginez un peu les scénarios suivants :

• Un hacker accède à votre ordinateur, et retrouve sans difficulté des captures d'écran de moments où vous passez un achat sur Internet, en saisissant votre numéro de carte bleue.
• Une personne jalouse et control freak va retrouver tout ce qu'a fait son ou sa partenaire, toutes les conversations qu'il a eu sur tous services de messagerie, en interrogeant très simplement Copilot qui pourra lui donner des détails très précis et circonstanciés.
• En soirée, un copain voit votre ordinateur ouvert et balance un "Dis Copilot, quels sites pornos j'ai visité ces 6 derniers mois et quel était le contenu des vidéos de ces 10 derniers jours ?
• Votre PC portable est volé dans un train, et le possesseur accède à absolument tout votre passé, le moindre aspect de votre intimité et tous vos codes secrets, numéros de carte bleue, etc.

Bien sûr, Recall n'est pas nécessaire pour faire un usage malintentionné de l'accès à un ordinateur : un hacker pour ajouter un keylogger, une personne jalouse peut fouiller les historiques de conversation s'ils sont activés, etc. Mais Recall promet à la fois de démultiplier les données pouvant être ainsi espionnées, et de faciliter grandement le processus. Les spécialistes en cybersécurité comme en IA n'ont pas manqué d'allumer le concept sur X/Twitter, et ils ont raison :

Now I know what you’re thinking but Nadella says it’s only locally stored so it’s only a risk if you lose the device, people access it without you knowing, your boss has remote access to it, Windows changes unexpectedly, you sell the device, something you’ve installed locally get https://t.co/ZDC58hiiWY

— mike cook (@mtrc) May 21, 2024

(Je sais ce que vous vous dites, mais Nadella affirme que les données seront stockées uniquement en local, donc ça présente un risque seulement si vous perdez la machine, ou si des gens y accèdent à votre insu, ou si votre patron dispose d'un accès distant, ou si Windows change sans prévenir, ou si vous vendez la machine, ou si un truc que vous avez installé en local...)

Honnêtement, on comprend mal quelle mouche a piqué Microsoft et comment se fait-il que cette idée sans doute issue d'une séance de brainstorming tard le soir sur le thème "comment ajouter de l'IA dans Windows" n'ait amené personne à Redmond à se dire que cette idée posait de menus soucis de confidentialité, de vie privée et d'abus possibles. Et l'équipe en charge du projet a beau se montrer rassurante en promettant que la fonction pourra par exemple être mise en pause et évitera d'enregistrer les onglets de navigation privée d'Edge (mais pas de Chrome ni de Firefox, notez), on sent venir les accidents nombreux à des kilomètres. Sans parler du fait que la simple constatation que Recall a été mis en pause tel jour de telle heure à telle heure est susceptible de révéler bien des informations aux personnes un peu trop curieuses.

Bref, cette fonctionnalité menace de péter à la figure de ses utilisateurs comme de Microsoft s'ils vont au bout du projet et s'obstinent à la proposer. Et on ne saurait trop vous conseiller de la désactiver dès qu'elle apparaîtra. Cela nous semble indispensable pour rester maître de vos données.

Non, l'IA partout n'est pas forcément toujours une bonne idée. Microsoft nous en fait une brillante démonstration, sans doute à leur insu. Jetez-moi cette idée au feu, vite !