Ces dernières années, le traitement du langage naturel a fait des progrès stupéfiants. Au cours des deux derniers mois, les gens ont été fascinés par des modèles de langage impressionnants comme ChatGPT. Mais cet engouement s'est accompagné de débats passionnés sur la véritable nature de ces programmes.

Lors d'un TED Talk organisé le mois dernier au TED Theater de New York, Alona Fyshe, boursière de l'Amii et titulaire de la chaire canadienne CIFAR sur l'IA, a posé la question suivante : l'IA peut-elle vraiment comprendre le langage, ou nous sommes-nous trompés nous-mêmes en pensant que c'est le cas ?

"Je travaille dans le domaine de l'IA, et laissez-moi vous dire que les choses sont folles. Il y a eu de nombreux exemples de personnes totalement convaincues que l'IA les comprenait", a déclaré M. Fyshe au public du théâtre TED à New York.

Mme Fyshe cite des exemples tels que ChatGPT ou le cas d'un ingénieur de Google en 2022 qui était convaincu que l'IA linguistique de l'entreprise était sensible. Cependant, elle affirme que d'autres ne sont pas convaincus. La question est de savoir ce que nous entendons lorsque nous disons que quelque chose "comprend" le langage. Lorsqu'un modèle d'IA génère un texte, est-ce qu'il assemble les mots de la même manière que les humains ? Ou suit-il un ensemble d'instructions très détaillées qui crée une illusion de compréhension ?

La clé pour répondre à cette question pourrait venir du cerveau humain, dit-elle. Mme Fyshe est professeur adjoint d'informatique et de psychologie à l'université de l'Alberta. Dans son exposé, elle a présenté les résultats d'une recherche utilisant l'imagerie cérébrale pour cartographier le "bloc-notes" mental que les êtres humains créent lorsqu'ils lisent des mots. Ces images ont ensuite été comparées à une représentation similaire de ce qui se passe à l'intérieur d'un modèle d'IA lorsqu'il traite un texte. Ces comparaisons peuvent aider à déterminer si l'IA nous comprend réellement ou si nous ne voyons que des reflets de nous-mêmes dans les modèles que nous avons créés.

"Nous devons savoir ce que fait l'IA et pouvoir le comparer à ce que font les gens lorsqu'ils comprennent le langage", explique M. Fyshe.

Consultez l'intégralité de l'exposé pour en savoir plus sur la recherche et la façon dont nous interagissons avec les modèles de langage de l'IA.