Parfois, lorsque je me mets à rédiger un article, je me rends compte que je me heurte à une question vieille de plusieurs siècles, à laquelle il n'existe pas de réponse facile. Parfois, je choisis la facilité et je trouve un autre sujet. Mais cette question est importante, alors allons-y.

Qu'est-ce que l'intelligence ? Cette question a captivé l'imagination de générations de philosophes et de penseurs. Je vais légèrement modifier la question « Qu'est-ce qui rend un être humain intelligent ? » pour la reformuler ainsi : « Quel serait le minimum requis pour que nous puissions qualifier une IA d'« intelligente » ? » Quelles sont les caractéristiques qui, si elles ne sont pas présentes dans une IA, empêchent de la considérer comme intelligente ?

Nous pouvons commencer simplement. Le modèle doit avoir une mémoire. Si l'IA ne peut pas stocker d'informations et ne peut que réagir à son environnement, elle peut produire des comportements assez complexes ,, mais il n'est pas intelligent. La mémoire est un besoin fondamental, mais tout ce qui possède une mémoire ne peut pas être considéré comme intelligent. Par exemple, Wikipédia stocke une quantité énorme d'informations sur ses serveurs et dispose même d'un mécanisme de recherche efficace. Mais personne ne prétendrait que Wikipédia est intelligent. Que lui manque-t-il donc ?

Une chose que Wikipédia ne peut pas faire, c'est apprendre. Malgré toutes les informations dont elle dispose, elle n'est pas équipée pour apprendre à partir de ces informations afin d'effectuer une tâche.  Cependant, de nombreux modèles linguistiques (LM) sont entraînés sur Wikipédia et, grâce à ce processus d'entraînement, ils apprennent à produire des phrases sensées. Et surtout, ces phrases peuvent être différentes de celles que le LM a vues pendant son entraînement. Cela signifie que le LM apprend d'une manière qui va au-delà de la mémorisation. Il apprend d'une manière qui lui permet de généraliser à de nouvelles phrases.

Cette généralisation est la troisième caractéristique qu'un agent intelligent doit posséder. Pour montrer qu'un agent « comprend » réellement un concept, il doit être capable d'appliquer cette information dans des circonstances nouvelles. C'est comme lorsque nous évaluons les élèves. Si nous voulons nous assurer qu'un élève comprend réellement un concept mathématique, nous devons lui présenter des problèmes qui requièrent ce concept, mais qui ne sont pas exactement identiques à ceux qu'il a vus pendant les cours.  

 À partir de là, nous entrons dans un domaine où les exigences en matière d'intelligence deviennent moins claires. Par exemple, certains ont fait valoir que les agents intelligents doivent avoir la capacité d'identifier des objectifs et de travailler à leur réalisation.  Mais qu'est-ce qu'un objectif exactement, et que signifie « travailler pour l'atteindre » ? Dans certains contextes (par exemple, la robotique), l'objectif peut être plus clair (par exemple, se rendre à un endroit), mais dans d'autres domaines, la notion d'objectif peut être plus abstraite. Par exemple, l'objectif d'un LLM est-il de participer à un dialogue comme le ferait un humain ? C'est en effet ainsi qu'il est entraîné.

Peut-être que tout ce qui est entraîné a un objectif. Chaque système appris vise à réduire son erreur d'entraînement, quelle que soit la manière dont celle-ci est définie. Mais nous nous sommes ensuite retrouvés à inclure des modèles de régression simples dans notre ensemble d'agents intelligents possibles, car ils optimisent l'erreur d'entraînement et ont la capacité de stocker des informations dans leurs poids (tout comme un réseau neuronal), d'apprendre et de généraliser à de nouveaux exemples inédits. Mais qualifier un modèle de régression d'intelligent ne semble pas correct. 

Il est difficile d'affirmer qu'un modèle de régression est intelligent, car un modèle de régression unique ne peut effectuer qu'une seule tâche. Pour qu'un agent soit intelligent, il ne doit pas seulement généraliser à de nouveaux exemples du même type, mais aussi à de nouvelles tâches. La capacité à s'adapter de manière flexible et à apprendre de nouvelles tâches est la marque d'un comportement intelligent.

Nous avons identifié quatre caractéristiques indispensables à l'intelligence : la mémoire, l'apprentissage, la généralisation et l'adaptabilité. Ces caractéristiques permettent de tracer une frontière assez claire entre les agents qui peuvent être intelligents et ceux qui ne le peuvent pas. Cependant, ces caractéristiques sont nécessaires mais non suffisantes : tous les agents qui satisfont à ces exigences ne sont pas intelligents, mais il est difficile d'imaginer un agent dépourvu de ces caractéristiques qui est intelligent. Le fait d'avoir tracé ces frontières claires nous donne une base pour des conversations plus nuancées sur l'intelligence.