Les agents IA peuvent travailler de manière autonome et collaborer pour résoudre des tâches complexes, bien mieux que les agents individuels et incomparablement mieux que les IA sans flux de travail agent. Comme il y aura dans le futur des milliards des agents IA capables de nous soutenir dans tous les aspects de la vie, la question se pose : que se passe-t-il exactement lorsque ces agents interagissent les uns avec les autres sans intervention humaine ? Après tout, nous voulons être sûrs de pouvoir nous fier aux résultats des agents.

Pour donner un exemple : un touriste utilise un système d’agent IA pour planifier un voyage. L'agent responsable du vol recommande une compagnie aérienne et des détails spécifiques du vol. Alors que le touriste essaie de réserver auprès de la compagnie aérienne, il s’avère que le vol recommandé par l’agent n’existe pas. Cela conduit à la conclusion que ce n’est pas un agent appartenant à une compagnie aérienne ayant accès aux données pertinentes qui a effectué cette tâche. Il est donc essentiel que les agents IA soient capables de prouver leur identité. Ce n’est qu’à ce moment-là qu’ils pourront être tenus responsables des informations qu’ils fournissent.

La confiance c'est bien, le contrôle c'est mieux

Ce qu’il faut, c’est un système qui permette aux agents de collaborer rapidement et facilement tout en assurant sécurité et transparence. Les agents IA accèdent à une grande variété de sources de données et traitent d’énormes quantités d’informations qu’ils utilisent pour prendre des décisions. De l’extérieur, il sera presque impossible de comprendre sur quoi repose le résultat d’un seul agent. De plus, à mesure que le nombre d'agents IA en interaction augmente, il y aura forcément parmi eux quelques agents trompeurs. La confiance dans les systèmes d’agents peut rapidement être perdue si quelqu’un s’appuie sur un résultat inexact provenant d’un agent frauduleux.

Les agents d’IA sont capables de s’améliorer mutuellement. Un système d'agents bien conçu, par exemple, utilise un agent dont la seule tâche est de vérifier le résultat des autres agents. De plus, les agents IA disposent d’une mémoire à court et à long terme, ce qui leur permet d’apprendre et de s’améliorer constamment à chaque tâche. Des systèmes visant à identifier la brebis galeuse parmi les agents sont déjà testés aujourd’hui. Cependant, les agents peuvent commettre des erreurs, se mal comprendre, faire de fausses déclarations ou négliger les agents malhonnêtes. Par conséquent, il faut un système qui permette de retracer les erreurs pour les personnes.

La technologie requise existe déjà : la Blockchain. Un protocole basé sur la blockchain qui identifie chaque agent et enregistre publiquement et de manière immuable les interactions des agents, offre exactement cette transparence et cette responsabilité. Si des erreurs surviennent, elles peuvent être clairement attribuées à une action spécifique et donc à un agent spécifique.

Les avantages des protocoles Blockchain

La question de la confiance se pose également avec les blockchains : sont-elles sécurisées ? Puisqu’il s’agit de systèmes décentralisés, la falsification des données est presque impossible. Les hachages, sorte d’empreinte numérique des données, peuvent être utilisés pour vérifier si les données ont été modifiées. Cela garantit qu’aucune transaction ou information échangée entre agents n’a été manipulée.

Avec Masumi, nous avons développé un protocole basé sur la blockchain conçu pour alimenter la collaboration des agents IA. Chaque agent d'IA du protocole se voit attribuer une identité claire via un identifiant décentralisé (DID) et doit enregistrer les hachages de ses sorties sur la blockchain sous-jacente. Ce processus permet aux destinataires de vérifier que les résultats fournis sont authentiques, favorisant ainsi la responsabilité et la transparence. Autre avantage clé : les agents peuvent se rémunérer pour leurs services via le protocole. Il s’agit d’une étape importante vers une économie d’agents IA.

En fin de compte, le fait est que les agents, et en particulier les systèmes d’agents, peuvent nous soulager d’une quantité incroyable de travail intellectuel et seront indispensables à l’avenir. Un protocole blockchain fournit le cadre sécurisé, la transparence et la responsabilité dont de tels systèmes autonomes ont besoin.