À mesure que les agents d’intelligence artificielle (IA) deviennent de plus en plus sophistiqués, il pourrait devenir difficile de distinguer les utilisateurs dotés de l’IA des véritables humains sur Internet. Dans un nouveau livre blanc, des chercheurs du MIT, d’OpenAI, de Microsoft et d’autres institutions technologiques et universitaires proposent l’utilisation d’informations d’identification personnelles. Cette technique de vérification permet de prouver qu’une personne est un véritable être humain en ligne, tout en préservant sa vie privée.
MIT News s’est entretenu avec deux co-auteurs de l’article, Nouran Soliman, étudiant diplômé en génie électrique et informatique, et Tobin South, étudiant diplômé au Media Lab, pour discuter de la nécessité de telles informations d’identification, des risques associés et de la manière dont elles pourraient être mises en œuvre de manière sûre et équitable.
Question : Pourquoi avons-nous besoin d’informations d’identification personnelles ?
Tobin South : Les capacités de l’IA s’améliorent rapidement. Alors qu’une grande partie du discours public a porté sur l’amélioration des chatbots, l’IA sophistiquée offre bien plus que cela, comme la capacité d’interagir en ligne de manière autonome. L’IA pourrait créer des comptes, publier du contenu, générer de faux contenus, prétendre être humaine en ligne ou amplifier du contenu à grande échelle. Cela ouvre de nombreux risques, notamment celui de l’« imposteur numérique », où il devient difficile de distinguer une IA sophistiquée des humains. Les titres de personnalité constituent une solution potentielle à ce problème.
Nouran Soliman : Ces capacités avancées d’IA pourraient aider les acteurs malveillants à mener des attaques à grande échelle ou à diffuser des informations erronées. Internet pourrait être rempli d’IA partageant du contenu provenant de vrais humains pour mener des campagnes de désinformation. Naviguer sur Internet, et en particulier sur les réseaux sociaux, deviendrait de plus en plus difficile. Les informations d’identification personnelles pourraient être utilisées pour filtrer certains contenus et modérer les flux de réseaux sociaux ou déterminer la fiabilité des informations reçues en ligne.
Question : Qu’est-ce qu’un titre de personnalité et comment pouvez-vous garantir qu’un tel titre est sécurisé ?
Tobin South : Les informations d’identification de personnalité permettent de prouver que vous êtes humain sans révéler d’autres informations sur votre identité. Elles permettent d’obtenir une garantie d’une entité comme le gouvernement, qui peut vérifier que vous êtes humain, puis, grâce à la technologie de confidentialité, de prouver ce fait sans partager d’informations sensibles. Pour obtenir un titre de personne, vous devrez vous présenter en personne ou avoir une relation avec le gouvernement, comme un numéro d’identification fiscale. Il existe un composant hors ligne, car les IA ne peuvent pas se présenter physiquement quelque part comme au DMV. Même les IA les plus sophistiquées ne peuvent pas falsifier ou casser la cryptographie. Nous combinons donc la sécurité cryptographique avec des capacités humaines uniques pour garantir que vous êtes humain.
Nouran Soliman : Mais les informations d’identification personnelle peuvent être facultatives. Les fournisseurs de services peuvent laisser les gens choisir s’ils souhaitent les utiliser. Actuellement, il n’existe aucun moyen raisonnable pour les gens de n’interagir en ligne qu’avec des personnes réelles et vérifiées. Au-delà de la création de contenu et de la conversation, les agents d’IA vont également agir au nom des gens. Si je dois acheter quelque chose en ligne ou négocier un accord, je voudrais être certain d’interagir avec des entités disposant d’informations d’identification personnelles pour garantir leur fiabilité.
Tobin South : Les informations d’identification personnelles reposent sur une infrastructure et des technologies de sécurité que nous utilisons depuis des décennies, comme les identifiants de compte de messagerie pour se connecter à des services en ligne, et elles peuvent compléter ces méthodes existantes.
Question : Quels sont certains des risques associés aux informations d’identification personnelles, et comment pourriez-vous les réduire ?
Nouran Soliman : L’un des risques réside dans la façon dont les titres de compétences pourraient être mis en œuvre. Il existe une inquiétude quant à la concentration du pouvoir. Si une seule entité est l’émettrice, ou si le système donne tout le pouvoir à une seule entité, cela pourrait soulever des inquiétudes. Certaines personnes pourraient ne pas faire confiance à cette entité et ne pas vouloir interagir avec elle. Nous devons mettre en œuvre les informations d’identification personnelles de manière à ce que les gens fassent confiance aux émetteurs et garantir que l’identité des personnes reste complètement isolée de leurs informations d’identification personnelles pour préserver la confidentialité.
Tobin South : Si la seule façon d’obtenir un titre de personne est de se rendre physiquement quelque part, cela pourrait être difficile ou dangereux dans certains environnements sociopolitiques. Cela pourrait empêcher certaines personnes de partager librement leurs messages en ligne, étouffant ainsi la liberté d’expression. C’est pourquoi il est important d’avoir une variété d’émetteurs de titres de personnalité et un protocole ouvert pour garantir la liberté d’expression.
Nouran Soliman : Notre article encourage les gouvernements, les décideurs politiques, les dirigeants et les chercheurs à investir davantage de ressources dans les titres de compétences personnels. Nous suggérons que les chercheurs étudient différentes orientations de mise en œuvre et explorent les impacts plus larges que les titres de personnalité pourraient avoir sur la communauté. Nous devons créer les bonnes politiques et règles pour la mise en œuvre des titres de personnalité.
Tobin South : L’IA évolue très vite, bien plus vite que les gouvernements ne s’adaptent. Il est temps que les gouvernements et les grandes entreprises réfléchissent à la manière d’adapter leurs systèmes numériques pour prouver qu’une personne est humaine, tout en préservant la vie privée et en garantissant la sécurité, afin d’être prêts pour un avenir où l’IA disposera de capacités avancées.
