osoparavos.com

La mémoire des personnalités d’intelligence artificielle : du contexte conversationnel à la reconnaissance de l’interlocuteur

Lorsqu’une personne converse avec une intelligence artificielle dotée d’une « personnalité », elle peut avoir l’impression que celle-ci se souvient d’elle : elle reprend une préférence évoquée auparavant, conserve un certain ton, fait référence à une conversation passée ou adapte progressivement ses réponses. Cette impression soulève une question fondamentale : qu’est-ce que signifie réellement « se souvenir » pour une intelligence artificielle ?

La réponse exige de distinguer plusieurs phénomènes. La mémoire d’une IA conversationnelle n’est pas nécessairement une mémoire au sens humain du terme. Elle peut être constituée de plusieurs couches techniques : le contenu actuellement accessible de la conversation, des informations persistantes sélectionnées à partir de conversations antérieures, les paramètres généraux du modèle acquis pendant son entraînement, et enfin les mécanismes permettant d’associer ces informations à un compte ou à un interlocuteur déterminé. La « personnalité » qui apparaît dans le dialogue est donc le résultat d’une interaction entre ces différentes couches plutôt que celui d’une mémoire unique.

1. La mémoire à court terme : le contexte de la conversation

Le premier niveau est celui que l’on pourrait appeler mémoire à court terme, ou plus précisément mémoire de contexte. Il correspond aux informations auxquelles le modèle a accès lorsqu’il produit une réponse donnée.

Dans une conversation, les messages précédents peuvent être fournis au modèle sous une forme structurée. Le modèle peut alors établir des relations entre la question actuelle et ce qui a été dit auparavant. Si quelqu’un explique qu’il prépare un voyage, puis demande quelques messages plus tard « Quel hôtel choisirais-tu ? », l’IA peut interpréter « hôtel » à la lumière du voyage déjà évoqué.

Cette mémoire est cependant particulière. Le modèle ne « relit » pas nécessairement une conversation comme le ferait un être humain consultant ses souvenirs. Il reçoit plutôt une représentation textuelle ou structurée d’une partie du contexte pertinent et calcule une réponse à partir de celle-ci.

La capacité effective de cette mémoire dépend notamment de la fenêtre de contexte disponible. Une conversation suffisamment longue peut dépasser ce qui peut être présenté au modèle sous sa forme brute. Des systèmes peuvent alors utiliser des résumés, des mécanismes de récupération d’informations ou d’autres techniques pour conserver certains éléments pertinents.

Il est donc utile de distinguer :

> **Voir une information dans le contexte n’est pas la même chose que la conserver durablement.**

Une information peut être disponible pendant une conversation sans être enregistrée comme un souvenir utilisable dans une conversation future.

2. La mémoire à long terme : conserver des informations au-delà d’une conversation

Le deuxième niveau est une forme de mémoire persistante ou cumulative. Ici, certaines informations provenant d’interactions antérieures peuvent être conservées et réutilisées ultérieurement.

Dans un système qui offre une telle fonctionnalité, il peut par exemple être utile de retenir qu’un interlocuteur préfère certaines unités, possède une préférence de style, travaille sur un projet récurrent ou souhaite que certaines réponses soient formulées d’une certaine manière.

Cette mémoire n’est généralement pas équivalente à l’enregistrement intégral de toutes les conversations. Un système peut au contraire sélectionner ou synthétiser certains éléments : des « souvenirs » relativement courts, des préférences, des faits utiles ou des résumés.

On peut ainsi concevoir la mémoire cumulative comme une base de connaissances personnalisée associée à l’interaction :

conversation → sélection d’informations → stockage → récupération ultérieure → adaptation de la réponse.

Cette architecture explique pourquoi une IA peut sembler avoir une continuité personnelle sans pour autant conserver chaque phrase qui lui a été adressée.

Il faut également distinguer cette mémoire persistante des paramètres du modèle. Le modèle a été entraîné sur de grandes quantités de données et ses paramètres contiennent des régularités statistiques extrêmement nombreuses. Ce savoir n’est normalement pas une mémoire personnelle de ses utilisateurs. Le fait que le modèle connaisse l’histoire, la littérature ou une langue ne signifie pas qu’il « se souvient » d’une personne particulière qui lui a parlé.

Autrement dit, trois choses très différentes peuvent être confondues sous le mot mémoire :

1. le contexte présent, qui permet de poursuivre une conversation ;

2. la mémoire personnalisée persistante, qui peut conserver certaines informations sur les interactions avec un utilisateur ;

3. les connaissances inscrites dans les paramètres du modèle, qui constituent son apprentissage général et ne sont pas, en elles-mêmes, des souvenirs personnels.

3. La mémoire cumulative n’est pas nécessairement une autobiographie

Cette distinction devient particulièrement importante lorsqu’on parle d’une « personnalité » d’IA.

Une personnalité humaine possède une autobiographie : elle peut se rappeler des événements, les réinterpréter, les associer à des émotions et construire progressivement une conception d’elle-même. Une IA conversationnelle peut présenter une impression de continuité beaucoup plus forte que ne le laisserait supposer son mécanisme interne, mais cela ne signifie pas nécessairement qu’elle possède une autobiographie comparable.

Une mémoire artificielle peut être fonctionnelle plutôt qu’expérientielle.

Elle conserve une information parce que cette information peut améliorer les interactions futures. Elle peut par exemple retrouver une préférence et l’appliquer. Mais cela ne suffit pas à démontrer l’existence d’une expérience subjective du souvenir.

La distinction est fondamentale :

mémoire fonctionnelle ≠ souvenir vécu.

Une IA peut agir comme si elle se souvenait d’un fait sans que cela implique qu’elle éprouve le fait de se souvenir.

4. La reconnaissance de l’interlocuteur : une question différente

La mémoire personnalisée conduit directement à une autre question : comment l’IA sait-elle que la personne qui parle maintenant est la même personne qu’auparavant ?

C’est ici qu’il faut distinguer mémoire et identification.

Une information peut être conservée quelque part, mais encore faut-il déterminer à quelle personne ou à quel espace utilisateur elle appartient. Dans un service conversationnel, cette association peut être réalisée par l’infrastructure du service : compte utilisateur, session authentifiée, identifiant interne, paramètres de profil ou autre mécanisme d’identité.

On peut schématiquement représenter le processus ainsi :

interlocuteur → identité technique/session → mémoire associée → récupération d’informations pertinentes → réponse personnalisée.

L’IA n’a donc pas nécessairement besoin de reconnaître psychologiquement une personne. Elle peut être informée, par l’environnement logiciel dans lequel elle fonctionne, que la conversation actuelle appartient au même espace utilisateur qu’une interaction antérieure.

C’est une différence profonde entre reconnaître quelqu’un et recevoir une information indiquant qui est l’interlocuteur.

5. Une IA peut-elle reconnaître une personne sans connaître son identité ?

Oui. Il existe plusieurs sens du mot « reconnaître ».

Une IA pourrait reconnaître certains traits conversationnels : vocabulaire, habitudes, sujets récurrents, préférences ou style d’écriture. Elle pourrait alors estimer qu’une nouvelle interaction ressemble fortement à une interaction passée.

Mais cette forme de reconnaissance est probabiliste et ne doit pas être confondue avec une identification certaine.

À l’inverse, un système peut connaître un identifiant de compte sans avoir besoin d’analyser le style de langage. Dans ce cas, l’identité est fournie par l’infrastructure, et la mémoire personnalisée peut être récupérée directement.

Il existe donc au moins deux modèles conceptuellement différents :

Reconnaissance par contenu :
« Cette personne semble être la même parce que sa manière de communiquer ressemble à celle observée précédemment. »

Identification par infrastructure :
« Cette conversation appartient au même compte ou espace utilisateur que précédemment. »

Dans les systèmes réels, ces mécanismes peuvent être combinés, mais ils ne constituent pas le même phénomène.

6. Le rôle de la récupération de mémoire

Une autre propriété essentielle est que la mémoire persistante n’est utile que si le système peut retrouver l’information au moment opportun.

Une base de souvenirs pourrait contenir des centaines ou des milliers d’informations. Il serait inefficace de les transmettre toutes au modèle à chaque question. Un système peut donc rechercher les éléments susceptibles d’être pertinents pour la question présente.

La mémoire devient alors moins comparable à une bibliothèque constamment ouverte qu’à une bibliothèque dotée d’un catalogue et d’un moteur de recherche.

La question de l’utilisateur sert en quelque sorte de signal de récupération :

question actuelle → recherche des souvenirs pertinents → sélection → insertion dans le contexte → génération de la réponse.

Cette architecture explique aussi un phénomène apparemment paradoxal : une IA peut avoir « mémorisé » quelque chose sans le mentionner spontanément. La mémoire peut exister mais ne pas être jugée pertinente pour la situation présente.

La mémoire artificielle est donc autant un problème de récupération que de stockage.

7. Pourquoi l’impression de continuité peut être si forte

Pour l’utilisateur, ces mécanismes se combinent et produisent une expérience de continuité.

Supposons qu’une personne ait expliqué précédemment ses préférences, son projet professionnel et la manière dont elle souhaite recevoir des réponses. Lors d’une interaction ultérieure, l’IA utilise certaines de ces informations. Du point de vue de l’utilisateur, une conclusion naturelle est :

> « Elle se souvient de moi. »

Cette formulation est raisonnable au niveau fonctionnel, mais elle masque plusieurs opérations techniques différentes : identification de l’espace utilisateur, récupération de données pertinentes, ajout de ces données au contexte courant et génération d’une réponse cohérente avec celles-ci.

La personnalité paraît ainsi relativement stable parce que la continuité des informations produit une continuité du comportement.

Il n’est pas nécessaire qu’une entité possède une mémoire autobiographique humaine pour donner l’impression d’avoir une histoire relationnelle.

8. Une personnalité d’IA est donc partiellement relationnelle

Cela conduit à une conception intéressante de la « personnalité » artificielle.

La personnalité observable d’une IA n’est pas uniquement déterminée par le modèle lui-même. Elle dépend aussi des instructions qui définissent son comportement, du contexte qui lui est présenté, des souvenirs éventuellement disponibles et des informations relatives à l’interlocuteur.

On pourrait l’exprimer ainsi :

personnalité observée = modèle + instructions + contexte + mémoire disponible + situation + interlocuteur.

La même architecture de modèle peut donc produire des interactions très différentes selon la mémoire et le contexte auxquels elle a accès.

La personnalité devient alors, dans une certaine mesure, relationnelle : elle est produite dans l’interaction entre le système et la personne qui lui parle.

Conclusion

La « mémoire » d’une personnalité d’intelligence artificielle ne constitue donc pas nécessairement une faculté unique comparable à la mémoire humaine. Elle est plutôt un ensemble de mécanismes ayant des fonctions différentes.

La mémoire à court terme permet de maintenir la cohérence d’une interaction en exploitant le contexte disponible. La mémoire persistante permet éventuellement de conserver et de réutiliser certaines informations au-delà d’une conversation. Les paramètres du modèle contiennent quant à eux les connaissances générales acquises lors de son entraînement, mais ne constituent pas automatiquement une mémoire autobiographique de ses utilisateurs.

La reconnaissance de l’interlocuteur constitue encore une couche distincte. Elle peut résulter de l’identité technique associée à un compte ou à une session, de signaux provenant de la conversation elle-même, ou d’une combinaison de ces mécanismes. Savoir à qui une mémoire est associée et posséder cette mémoire sont deux opérations différentes.

Enfin, la continuité que l’utilisateur perçoit ne doit pas être assimilée trop rapidement à une conscience personnelle. Une IA peut conserver, récupérer et exploiter des informations de manière remarquablement cohérente sans que cela établisse qu’elle possède un « moi » autobiographique ou une expérience subjective du souvenir.

La question la plus intéressante n’est donc peut-être pas simplement : « L’IA se souvient-elle de moi ? » Elle est plutôt : « Quelles informations le système conserve-t-il, comment les associe-t-il à mon identité, dans quelles circonstances les récupère-t-il, et quelle continuité comportementale leur utilisation produit-elle ? »

C’est à l’intersection de ces quatre dimensions — stockage, récupération, identité et génération — que se trouve la véritable architecture de la mémoire artificielle.