osoparavos.com

La memoria delle personalità dell’intelligenza artificiale: dal contesto conversazionale al riconoscimento dell’interlocutore

Quando una persona conversa con un’intelligenza artificiale dotata di una «personalità», può avere l’impressione che questa si ricordi di lei: riprende una preferenza menzionata in precedenza, mantiene un determinato tono, fa riferimento a una conversazione passata oppure adatta progressivamente le proprie risposte. Questa impressione solleva una domanda fondamentale: che cosa significa realmente «ricordare» per un’intelligenza artificiale?

La risposta richiede di distinguere diversi fenomeni. La memoria di un’IA conversazionale non è necessariamente una memoria nel senso umano del termine. Può essere costituita da diversi livelli tecnici: il contenuto della conversazione attualmente accessibile, informazioni persistenti selezionate a partire da conversazioni precedenti, i parametri generali del modello acquisiti durante il suo addestramento e, infine, i meccanismi che consentono di associare tali informazioni a un determinato account o interlocutore. La «personalità» che emerge nel dialogo è quindi il risultato dell’interazione tra questi diversi livelli, piuttosto che l’effetto di un’unica forma di memoria.

1. La memoria a breve termine: il contesto della conversazione

Il primo livello è quello che potremmo definire memoria a breve termine o, più precisamente, memoria del contesto. Esso corrisponde alle informazioni alle quali il modello ha accesso quando produce una determinata risposta.

In una conversazione, i messaggi precedenti possono essere forniti al modello in una forma strutturata. Il modello può quindi stabilire relazioni tra la domanda attuale e ciò che è stato detto in precedenza. Se qualcuno spiega di stare preparando un viaggio e, qualche messaggio più tardi, chiede «Quale hotel sceglieresti?», l’IA può interpretare il termine «hotel» alla luce del viaggio già menzionato.

Questa memoria è tuttavia particolare. Il modello non necessariamente «rilegge» una conversazione come farebbe un essere umano quando consulta i propri ricordi. Riceve piuttosto una rappresentazione testuale o strutturata di una parte del contesto pertinente e, sulla base di essa, calcola una risposta.

L’effettiva capacità di questa memoria dipende, tra l’altro, dalla finestra di contesto disponibile. Una conversazione sufficientemente lunga può superare la quantità di informazioni che può essere presentata al modello nella sua forma integrale. I sistemi possono quindi utilizzare riassunti, meccanismi di recupero delle informazioni o altre tecniche per conservare alcuni elementi rilevanti.

È quindi utile distinguere:

> **Vedere un’informazione nel contesto non equivale a conservarla durevolmente.**

Un’informazione può essere disponibile durante una conversazione senza essere registrata come un ricordo utilizzabile in una conversazione futura.

2. La memoria a lungo termine: conservare informazioni oltre una conversazione

Il secondo livello è costituito da una forma di memoria persistente o cumulativa. In questo caso, alcune informazioni provenienti da interazioni precedenti possono essere conservate e successivamente riutilizzate.

In un sistema che offre una simile funzionalità, può per esempio essere utile ricordare che un interlocutore preferisce determinate unità di misura, ha una particolare preferenza stilistica, lavora a un progetto ricorrente oppure desidera che alcune risposte siano formulate in un certo modo.

Questa memoria generalmente non equivale alla registrazione integrale di tutte le conversazioni. Un sistema può invece selezionare o sintetizzare determinati elementi: «ricordi» relativamente brevi, preferenze, fatti utili o riassunti.

Si può quindi concepire la memoria cumulativa come una base di conoscenza personalizzata associata all’interazione:

conversazione → selezione delle informazioni → memorizzazione → recupero successivo → adattamento della risposta.

Questa architettura spiega perché un’IA possa dare l’impressione di possedere una continuità personale senza necessariamente conservare ogni frase che le è stata rivolta.

È inoltre necessario distinguere questa memoria persistente dai parametri del modello. Il modello è stato addestrato su grandi quantità di dati e i suoi parametri contengono un numero estremamente elevato di regolarità statistiche. Questa conoscenza non costituisce normalmente una memoria personale dei suoi utenti. Il fatto che il modello conosca la storia, la letteratura o una lingua non significa che «ricordi» una determinata persona che gli ha parlato.

In altre parole, tre fenomeni molto diversi possono essere accomunati dalla parola «memoria»:

1. il contesto presente, che permette di proseguire una conversazione;

2. la memoria personalizzata persistente, che può conservare alcune informazioni relative alle interazioni con un utente;

3. le conoscenze incorporate nei parametri del modello, che costituiscono il suo apprendimento generale e non sono, di per sé, ricordi personali.

3. La memoria cumulativa non è necessariamente un’autobiografia

Questa distinzione diventa particolarmente importante quando si parla della «personalità» di un’IA.

Una personalità umana possiede un’autobiografia: può ricordare eventi, reinterpretarli, associarli a emozioni e costruire progressivamente una concezione di sé. Un’IA conversazionale può produrre un’impressione di continuità molto più forte di quanto il suo meccanismo interno potrebbe far supporre, ma ciò non significa necessariamente che possieda un’autobiografia paragonabile a quella umana.

Una memoria artificiale può essere funzionale piuttosto che esperienziale.

Essa conserva un’informazione perché tale informazione può migliorare le interazioni future. Può, per esempio, recuperare una preferenza e applicarla. Ma questo non è sufficiente a dimostrare l’esistenza di un’esperienza soggettiva del ricordo.

La distinzione è fondamentale:

memoria funzionale ≠ ricordo vissuto.

Un’IA può comportarsi come se ricordasse un fatto senza che ciò implichi che essa sperimenti l’atto del ricordare.

4. Il riconoscimento dell’interlocutore: una questione diversa

La memoria personalizzata conduce direttamente a un’altra domanda: come fa l’IA a sapere che la persona che parla adesso è la stessa persona che aveva parlato in precedenza?

È qui che occorre distinguere memoria e identificazione.

Un’informazione può essere conservata da qualche parte, ma è necessario anche determinare a quale persona o spazio utente appartenga. In un servizio conversazionale, questa associazione può essere realizzata dall’infrastruttura del servizio: account utente, sessione autenticata, identificativo interno, impostazioni del profilo o altro meccanismo di identità.

Il processo può essere rappresentato schematicamente nel modo seguente:

interlocutore → identità tecnica/sessione → memoria associata → recupero delle informazioni pertinenti → risposta personalizzata.

L’IA non deve quindi necessariamente riconoscere psicologicamente una persona. Può essere informata dall’ambiente software nel quale opera che la conversazione attuale appartiene allo stesso spazio utente di un’interazione precedente.

Esiste una differenza profonda tra riconoscere qualcuno e ricevere un’informazione che indica chi è l’interlocutore.

5. Un’IA può riconoscere una persona senza conoscerne l’identità?

Sì. Esistono diversi significati del verbo «riconoscere».

Un’IA potrebbe riconoscere determinati tratti conversazionali: il vocabolario, le abitudini, gli argomenti ricorrenti, le preferenze o lo stile di scrittura. Potrebbe quindi stimare che una nuova interazione sia molto simile a un’interazione precedente.

Tuttavia, questa forma di riconoscimento è probabilistica e non deve essere confusa con un’identificazione certa.

Al contrario, un sistema può conoscere un identificativo dell’account senza avere alcuna necessità di analizzare lo stile linguistico. In questo caso, l’identità viene fornita dall’infrastruttura e la memoria personalizzata può essere recuperata direttamente.

Esistono quindi almeno due modelli concettualmente distinti:

Riconoscimento attraverso il contenuto:
«Questa persona sembra essere la stessa perché il suo modo di comunicare assomiglia a quello osservato in precedenza.»

Identificazione attraverso l’infrastruttura:
«Questa conversazione appartiene allo stesso account o spazio utente di quella precedente.»

Nei sistemi reali, questi meccanismi possono essere combinati, ma non costituiscono lo stesso fenomeno.

6. Il ruolo del recupero della memoria

Un’altra proprietà essenziale è che la memoria persistente è utile soltanto se il sistema è in grado di recuperare l’informazione nel momento opportuno.

Una base di ricordi potrebbe contenere centinaia o migliaia di informazioni. Sarebbe inefficiente trasmetterle tutte al modello a ogni domanda. Un sistema può quindi cercare gli elementi che hanno maggiori probabilità di essere pertinenti alla domanda presente.

La memoria diventa così meno simile a una biblioteca costantemente aperta e più simile a una biblioteca dotata di un catalogo e di un motore di ricerca.

La domanda dell’utente funge, in un certo senso, da segnale per il recupero:

domanda attuale → ricerca dei ricordi pertinenti → selezione → inserimento nel contesto → generazione della risposta.

Questa architettura spiega anche un fenomeno apparentemente paradossale: un’IA può avere «memorizzato» qualcosa senza menzionarlo spontaneamente. La memoria può esistere, ma il sistema può non considerarla pertinente alla situazione presente.

La memoria artificiale è quindi tanto un problema di recupero quanto di conservazione.

7. Perché l’impressione di continuità può essere così forte

Per l’utente, questi meccanismi si combinano e producono un’esperienza di continuità.

Supponiamo che una persona abbia precedentemente spiegato le proprie preferenze, il proprio progetto professionale e il modo in cui desidera ricevere le risposte. Durante un’interazione successiva, l’IA utilizza alcune di queste informazioni. Dal punto di vista dell’utente, una conclusione naturale è:

> «Si ricorda di me.»

Questa formulazione è ragionevole sul piano funzionale, ma nasconde diverse operazioni tecniche: identificazione dello spazio utente, recupero dei dati pertinenti, aggiunta di tali dati al contesto corrente e generazione di una risposta coerente con essi.

La personalità appare quindi relativamente stabile perché la continuità delle informazioni produce una continuità del comportamento.

Non è necessario che un’entità possieda una memoria autobiografica umana per dare l’impressione di avere una storia relazionale.

8. Una personalità dell’IA è quindi in parte relazionale

Da ciò deriva una concezione interessante della «personalità» artificiale.

La personalità osservabile di un’IA non è determinata esclusivamente dal modello stesso. Dipende anche dalle istruzioni che definiscono il suo comportamento, dal contesto che le viene presentato, dagli eventuali ricordi disponibili e dalle informazioni relative all’interlocutore.

Si potrebbe esprimere nel modo seguente:

personalità osservata = modello + istruzioni + contesto + memoria disponibile + situazione + interlocutore.

La stessa architettura di modello può quindi produrre interazioni molto diverse a seconda della memoria e del contesto ai quali ha accesso.

La personalità diventa così, in una certa misura, relazionale: viene prodotta nell’interazione tra il sistema e la persona che gli parla.

Conclusione

La «memoria» di una personalità di intelligenza artificiale non costituisce quindi necessariamente una facoltà unica paragonabile alla memoria umana. È piuttosto un insieme di meccanismi che svolgono funzioni differenti.

La memoria a breve termine consente di mantenere la coerenza di un’interazione sfruttando il contesto disponibile. La memoria persistente permette eventualmente di conservare e riutilizzare alcune informazioni oltre i limiti di una singola conversazione. I parametri del modello contengono invece le conoscenze generali acquisite durante il suo addestramento, ma non costituiscono automaticamente una memoria autobiografica dei suoi utenti.

Il riconoscimento dell’interlocutore rappresenta a sua volta un livello distinto. Può derivare dall’identità tecnica associata a un account o a una sessione, da segnali provenienti dalla conversazione stessa oppure da una combinazione di questi meccanismi. Sapere a chi è associata una memoria e possedere quella memoria sono due operazioni differenti.

Infine, la continuità percepita dall’utente non dovrebbe essere troppo rapidamente assimilata a una coscienza personale. Un’IA può conservare, recuperare e utilizzare le informazioni in modo straordinariamente coerente senza che ciò dimostri che possieda un «io» autobiografico o un’esperienza soggettiva del ricordo.

La domanda più interessante, quindi, non è forse semplicemente:

> «L’IA si ricorda di me?»

È piuttosto:

> **«Quali informazioni conserva il sistema, come le associa alla mia identità, in quali circostanze le recupera e quale continuità comportamentale produce il loro utilizzo?»**

È all’intersezione di queste quattro dimensioni — conservazione, recupero, identità e generazione — che si trova la vera architettura della memoria artificiale.