Le Consortium doctoral AAAI/SIGAI offre l’occasion à un groupe de doctorants de discuter et d’explorer leurs intérêts de recherche et leurs objectifs de carrière dans le cadre d’un atelier interdisciplinaire avec un panel de chercheurs établis. Cette année, 30 étudiants ont été sélectionnés pour ce programme, nous les avons rencontrés et avons discuté de leurs recherches. Dans cet entretien, Aaquib Tabrez nous parle de son travail à l’intersection de l’explicabilité et de l’interaction homme-robot.
Parlez-nous un peu de votre doctorat : où étudiez-vous et quel est le sujet de votre recherche ?
Je fais mon doctorat à l’Université du Colorado à Boulder au Département d’informatique, où je suis conseillé par le professeur Brad Hayes. Mes recherches portent sur l’apprentissage des robots et des systèmes autonomes pour qu’ils communiquent plus efficacement avec les gens grâce à une IA explicable. L’objectif est de rendre ces systèmes plus transparents, plus fiables et plus fiables dans divers contextes d’équipe homme-robot, notamment la fabrication, la conduite autonome et les opérations de recherche et de sauvetage. Plus précisément, mes travaux étudient comment les agents autonomes peuvent transmettre leurs processus de prise de décision et guider ou coacher le comportement humain dans des tâches communes, en particulier dans des scénarios où il existe des inadéquations entre les attentes des humains et des robots.
Pourriez-vous nous donner un aperçu des recherches que vous avez menées jusqu’à présent au cours de votre doctorat ?
Mes recherches s’articulent autour de deux grandes thématiques. La première consiste à concevoir de nouveaux cadres de coaching robotique explicables qui déduisent le modèle mental du collaborateur humain (comment les gens prennent des décisions et leur compréhension du monde) et fournissent des explications correctives. Cela inclut le développement d’algorithmes pour des scénarios de collaboration et leur validation par des études d’utilisateurs. Le deuxième thème se concentre sur les aspects humains de la communication homme-robot, en s’appuyant sur l’interface, la sociologie et la psychologie pour déterminer quelles informations doivent être partagées, les modalités de communication les plus efficaces et le moment optimal pour la communication. J’ai exploré la communication en langage naturel, les interfaces de réalité augmentée et les signaux comportementaux pour calibrer la confiance et la compétence, en adaptant la modalité de communication aux besoins de l’application. De plus, j’ai étudié des situations dans lesquelles les gens peuvent faire trop ou pas assez confiance aux recommandations et aux conseils fournis par les robots. Mes recherches explorent diverses méthodes et techniques pour atténuer ces déséquilibres de confiance en proposant des explications appropriées de la part des robots.
Y a-t-il un aspect de votre recherche qui a été particulièrement intéressant ?
Ce que je trouve particulièrement intéressant dans mes recherches, c’est son approche centrée sur les personnes, qui met l’accent sur la réintégration des perspectives humaines dans le développement de l’IA. Notre objectif est de concevoir des robots et des systèmes autonomes en mettant l’accent sur les personnes qui les utiliseront, rendant ces technologies plus transparentes et compréhensibles, en particulier pour les utilisateurs quotidiens. Je mène donc des études utilisateurs auprès des gens et recueille leurs retours sur ces technologies. Travailler avec les gens est un défi ; vous ne pouvez pas avoir un modèle ou une solution unique qui satisfasse tout le monde. Vous devez identifier les petites choses que les gens apprécient ou dont ils ont besoin. Ce faisant, nous pouvons responsabiliser les gens grâce à cette technologie, plutôt que de les obliger à y être redevables.
Quels sont vos projets pour développer vos recherches jusqu’à présent pendant votre doctorat – quels aspects allez-vous étudier ensuite ?
C’est une question intéressante à laquelle j’ai beaucoup réfléchi ces derniers temps. Certaines idées qui me fascinent particulièrement incluent le fait de rendre la technologie robotique plus adaptable et plus résiliente aux changements, tout comme les humains. Je me concentre également sur les technologies et les systèmes d’assistance basés sur le LLM. Nous savons que les gens peuvent devenir trop dépendants de ce type de technologie. Je souhaite explorer les moyens de mettre en œuvre des garde-fous et des frictions au sein de ces systèmes pour éviter une dépendance excessive et garantir que les utilisateurs peuvent prendre le contrôle dans des situations sous-optimales. Plus précisément, lors du déploiement de ces technologies dans des systèmes robotiques, je souhaite intégrer une certaine vérifiabilité et responsabilité, en particulier lors de scénarios critiques pour la sécurité, en tirant parti de nouveaux outils, tels que la réalité virtuelle, pour rendre ces technologies plus sûres et plus transparentes pour les utilisateurs finaux.
Qu’est-ce qui vous a donné envie d’étudier l’IA ?
J’étais curieux de savoir comment les gens pensent et prennent des décisions. Je pensais que reproduire ces qualités et les déployer dans des robots serait le meilleur moyen d’en apprendre davantage sur le comportement humain et de comprendre comment ces systèmes peuvent réellement contribuer à améliorer les problèmes de la vie quotidienne. De plus, j’étais un grand fan de HG Wells en grandissant, et cela m’a également incité à explorer la façon dont les humains et les robots peuvent travailler ensemble.
Quels conseils donneriez-vous à quelqu’un qui envisage de faire un doctorat dans le domaine ?
Pour toute personne envisageant un doctorat, il est important de clarifier vos objectifs et de comprendre pourquoi vous souhaitez faire un doctorat. C’est un voyage rempli de défis mais aussi de liens profonds et de croissance personnelle. Un conseil serait de vous assurer d’avoir un cercle de soutien et de collaborer souvent, car cela vous aidera à avoir des perspectives différentes et vous aidera à surmonter les défis auxquels vous serez confronté au cours de votre doctorat. Assurez-vous également d’avoir une communication ouverte et honnête avec votre conseiller. Soyez transparent sur ce qui vous aide et ce qui ne vous aide pas. N’hésitez pas à demander de l’aide lorsque vous ne progressez pas.
Pourriez-vous nous raconter un fait intéressant (non lié à l’IA) à votre sujet ?
J’adore la danse, en particulier le swing, et j’apprends actuellement la salsa, la rueda et la bachata. En plus de danser, j’aime lire de la poésie et faire de la randonnée. Les magnifiques montagnes du Colorado offrent le cadre idéal pour la randonnée, que j’aime faire été comme hiver.
À propos de Aaquib
 | Aaquib Tabrez est titulaire d’un doctorat. candidat à l’Université du Colorado à Boulder dans le département d’informatique, où il est conseillé par le professeur Brad Hayes. Aaquib a déjà reçu un B.Tech. en génie mécanique de NITK Surathkal (Inde). Aaquib travaille à l’intersection de l’explicabilité et de l’interaction homme-robot, dans le but d’exploiter et d’améliorer la communication multimodale homme-machine pour l’alignement des valeurs et de favoriser une confiance appropriée au sein des équipes homme-robot. Il est un pionnier du RSS et du HRI, et son travail lui a valu des prix de nomination pour le meilleur article décernés par les communautés HRI et AAMAS. Aaquib aime également la philosophie, la poésie et la danse swing, ainsi que la course et la randonnée. |
