Imaginez un monde dans lequel une décision importante – la recommandation d’un juge en matière de peine, le protocole de traitement d’un enfant, la personne ou l’entreprise qui devrait bénéficier d’un prêt – devenait plus fiable parce qu’un algorithme bien conçu aidait un décideur clé à faire un meilleur choix. Un nouveau cours d’économie du MIT étudie ces possibilités intéressantes.
Le cours 14.163 (Algorithmes et sciences du comportement) est un nouveau cours interdisciplinaire axé sur l’économie comportementale, qui étudie les capacités cognitives et les limites des êtres humains. Le cours a été co-enseigné au printemps dernier par le professeur adjoint d’économie Ashesh Rambachan et le conférencier invité Sendhil Mullainathan.
Rambachan étudie les applications économiques de l’apprentissage automatique, en se concentrant sur les outils algorithmiques qui guident la prise de décision dans le système de justice pénale et les marchés des prêts à la consommation. Il développe également des méthodes pour déterminer la causalité à l’aide de données transversales et dynamiques.
Mullainathan rejoindra bientôt les départements de génie électrique, d’informatique et d’économie du MIT en tant que professeur. Ses recherches utilisent l’apprentissage automatique pour comprendre des problèmes complexes liés au comportement humain, à la politique sociale et à la médecine. Mullainathan a cofondé l’Abdul Latif Jameel Poverty Action Lab (J-PAL) en 2003.
Les objectifs du nouveau cours sont à la fois scientifiques (comprendre les gens) et politiques (améliorer la société en améliorant les décisions). Rambachan estime que les algorithmes d’apprentissage automatique fournissent de nouveaux outils pour les objectifs scientifiques et appliqués de l’économie comportementale.
« Le cours étudie le déploiement de l’informatique, de l’intelligence artificielle (IA), de l’économie et de l’apprentissage automatique au service d’amélioration des résultats et de réduction des cas de biais dans la prise de décision », explique Rambachan.
Selon Rambachan, il existe des opportunités pour des outils numériques en constante évolution comme l’IA, l’apprentissage automatique et les grands modèles linguistiques (LLM) pour aider à tout remodeler, depuis les pratiques discriminatoires en matière de condamnations pénales jusqu’aux résultats en matière de soins de santé parmi les populations mal desservies.
Les étudiants apprennent à utiliser les outils d’apprentissage automatique avec trois objectifs principaux : comprendre ce qu’ils font et comment ils le font, formaliser les connaissances de l’économie comportementale afin qu’elles soient bien intégrées aux outils d’apprentissage automatique, et comprendre les domaines et sujets où l’intégration de l’économie comportementale est nécessaire. et les outils algorithmiques pourraient être les plus fructueux.
Les étudiants produisent également des idées, développent des recherches associées et voient la situation dans son ensemble. Ils sont amenés à comprendre où s’inscrit une idée et à voir où mène le programme de recherche plus large. Les participants peuvent réfléchir de manière critique à ce que les LLM supervisés peuvent (et ne peuvent pas) faire, comprendre comment intégrer ces capacités aux modèles et aux connaissances de l’économie comportementale et reconnaître les domaines les plus fructueux pour l’application de ce que les enquêtes révèlent.
Les dangers de la subjectivité et des préjugés
Selon Rambachan, l’économie comportementale reconnaît que des biais et des erreurs existent dans nos choix, même en l’absence d’algorithmes. « Les données utilisées par nos algorithmes existent en dehors de l’informatique et de l’apprentissage automatique, et sont souvent produites par des personnes », poursuit-il. « Comprendre l’économie comportementale est donc essentiel pour comprendre les effets des algorithmes et comment mieux les construire. »
Rambachan a cherché à rendre le cours accessible quel que soit le parcours académique des participants. La classe comprenait des étudiants diplômés d’études supérieures issus de diverses disciplines.
En proposant aux étudiants une approche interdisciplinaire et basée sur les données pour étudier et découvrir les moyens par lesquels les algorithmes pourraient améliorer la résolution de problèmes et la prise de décision, Rambachan espère construire une base sur laquelle repenser les systèmes existants de jurisprudence, de soins de santé, de prêt à la consommation. , et l’industrie, pour n’en nommer que quelques domaines.
« Comprendre comment les données sont générées peut nous aider à comprendre les biais », explique Rambachan. « Nous pouvons poser des questions sur la manière de produire un meilleur résultat que ce qui existe actuellement. »
Des outils utiles pour réinventer les opérations sociales
Jimmy Lin, doctorant en économie, était sceptique quant aux affirmations de Rambachan et Mullainathan au début du cours, mais a changé d’avis au fur et à mesure que le cours se poursuivait.
« Ashesh et Sendhil ont commencé par deux affirmations provocatrices : l’avenir de la recherche en sciences du comportement n’existera pas sans l’IA, et l’avenir de la recherche en IA n’existera pas sans la science du comportement », explique Lin. « Au cours du semestre, ils ont approfondi ma compréhension des deux domaines et nous ont présenté de nombreux exemples de la manière dont l’économie a éclairé la recherche sur l’IA et vice versa. »
Lin, qui avait déjà fait des recherches en biologie computationnelle, a salué l’accent mis par les instructeurs sur l’importance d’un « état d’esprit de producteur », en pensant à la prochaine décennie de recherche plutôt qu’à la décennie précédente. « C’est particulièrement important dans un domaine aussi interdisciplinaire et en évolution rapide que l’intersection de l’IA et de l’économie : il n’existe pas de littérature ancienne établie, vous êtes donc obligé de poser de nouvelles questions, d’inventer de nouvelles méthodes et de créer de nouveaux ponts. » il dit.
La rapidité du changement à laquelle Lin fait allusion est également un attrait pour lui. « Nous constatons que les méthodes d’IA boîte noire facilitent les percées dans les domaines des mathématiques, de la biologie, de la physique et d’autres disciplines scientifiques », explique Lin. « L’IA peut changer la façon dont nous abordons la découverte intellectuelle en tant que chercheurs. »
Un avenir interdisciplinaire pour l’économie et les systèmes sociaux
L’étude des outils économiques traditionnels et l’amélioration de leur valeur grâce à l’IA pourraient changer la donne dans la manière dont les institutions et les organisations enseignent aux dirigeants et leur donnent les moyens de faire des choix.
« Nous apprenons à suivre les changements, à ajuster les cadres et à mieux comprendre comment déployer des outils au service d’un langage commun », explique Rambachan. « Nous devons continuellement interroger l’intersection du jugement humain, des algorithmes, de l’IA, de l’apprentissage automatique et des LLM. »
Lin a recommandé le cours avec enthousiasme, quel que soit le parcours des étudiants. « Toute personne intéressée par les algorithmes dans la société, les applications de l’IA dans les disciplines universitaires ou l’IA en tant que paradigme de la découverte scientifique devrait suivre ce cours », dit-il. « Chaque conférence était comme une mine d’or de perspectives sur la recherche, de nouveaux domaines d’application et d’inspiration sur la manière de produire de nouvelles idées passionnantes. »
Selon Rambachan, le cours soutient que des algorithmes mieux conçus peuvent améliorer la prise de décision dans toutes les disciplines. « En établissant des liens entre l’économie, l’informatique et l’apprentissage automatique, nous pourrons peut-être automatiser les meilleurs choix humains pour améliorer les résultats tout en minimisant ou éliminant les pires », dit-il.
Lin reste enthousiasmé par les possibilités encore inexplorées du cours. «C’est un cours qui vous passionne pour l’avenir de la recherche et pour votre propre rôle dans celle-ci», dit-il.
