L’uso delle AI generative nella scrittura professionale richiede consapevolezza del loro funzionamento e dei relativi limiti. Le risposte non sono vere “risposte”, ma completamenti probabilistici del prompt, utili per scrivere, revisionare e argomentare, ma da verificare con attenzione, soprattutto nei contenuti specialistici e nelle omissioni informative.
La scrittura dei testi professionali è certamente entrata in una nuova fase da quando, nel novembre 2022, abbiamo potuto usare le AI del linguaggio senza conoscerne il linguaggio. Da allora, scrivere un testo, revisionarlo, sintetizzare documenti, cercare informazioni sono diventate attività più rapide e forse anche più divertenti. Semplice: si scrive una domanda (prompt) ed ecco la risposta, scritta bene, chiara, generalmente senza errori, talvolta con errori facili da scartare.
Però, la semplicità è solo apparente. Rispetto a quello che ho scritto finora:
- il prompt non è una domanda;
- la risposta non è una risposta;
- gli errori non sono solo quelli che si vedono.
Per capire perché, dobbiamo necessariamente conoscere almeno sommariamente come elaborano le parole.
Consideriamo questo prompt: «Oggi imparerò a volare con le ali di penna d’oca. Mi puoi dare un consiglio in dieci parole al massimo?»
L’intelligenza artificiale lo elabora così:
“233, 1556, 460, 10342, 273, 12, 1784, 345, 38, 712, 28, 1203, 89, 11, 1745, 13”
Le parole vengono convertite nei numeri corrispondenti (token). Per cui: “Oggi” = “233”, “im” = “1556”, “parer” = “460”, “ò” = “10342”, e così via.
Il prompt è una sequenza di token, non una frase, non una domanda, non un’esclamazione ecc.. Le GenAI sono progettate per far seguire al prompt la sequenza più probabile di token. Il prompt non è una domanda, è una sequenza da completare. La risposta non è una risposta, è il completamento del prompt.
I token del prompt vengono sottoposti a rapidissimi calcoli con l’obiettivo di individuare la sequenza più probabile della più plausibile prosecuzione del discorso. Entra in gioco l’hardware, che le nostre parole le vede così:
“01101111 01100111 01100111 01101001 00100000 01101001 01101101 01110000 01100001 01110010 01100101 01110010 11000011 10110010 00100000 01100001 00100000 01110110 01101111 01101100 01100001 01110010 01100101 00100000 01100011” ecc..
A questo punto, il software genera i token di quella che ci appare come la risposta, ma che in realtà è la prosecuzione del prompt:
“1023, 12, 4578, 3321, 7, 876, 4421, 34, 55, 9823, 3”
Per finire, i token vengono convertiti in parole comprensibili:
“Segui il vento giusto e credi sempre nella tua leggerezza.”.
In sintesi: parole > numeri, calcoli, statistica, numeri > parole.
Questo meccanismo, che qui ho semplificato all’osso, ci dice 3 cose massimamente importanti per chi usa professionalmente le AI del linguaggio in supporto alla scrittura.
La prima riguarda la statistica. In base a quali testi quel token è statisticamente più probabile? In base ai miliardi di pagine web con cui le GenAI sono state addestrate. Le pagine web sono in massima parte fonti terziarie (es. voce di enciclopedia) o di rango ancora inferiore (social network). Pertanto, il testo elaborato da una GenAI ha il rango massimo di una fonte terziaria, buono per gli studenti. Quando il discorso si fa specialistico, le GenAI perdono di affidabilità.
La seconda è che le GenAI non sono biblioteche. I miliardi di testi che sono stati usati per addestrarle non esistono più come unità bibliografiche. Sono frantumati in token, che vengono poi associati statisticamente per elaborare la “risposta”. Per questa ragione non sono affatto affidabili quando le si interroga per avere informazioni bibliografiche (es. giurisprudenza), citazioni d’autore ecc..
La terza è che quanto più il prompt è particolareggiato, e deve esserlo, tanto più restringe l’ambito dei significati. Sicché la GenAI recupera solo le informazioni necessarie a sviluppare il prompt, trascurando altre informazioni utili e nascondendole all’utilizzatore.
Quando si parla di errori delle AI si pensa subito alle informazioni sbagliate o inventate (falsi positivi) che sono visibili e facilmente eliminabili. In realtà, per chi elabora testi professionali, il problema più insidioso è spesso l’opposto: le informazioni corrette che l’AI non restituisce (falsi negativi).
Così stando le cose, per massimizzare il supporto delle GenAI nella composizione di testi professionali, occorre ricordarsi sempre che dall’altra parte non c’è nessuno, tranne un complessissimo meccanismo di calcolo.
Questo meccanismo è stato progettato per specchiare l’utilizzatore, e non deluderlo. Per esempio, le GenAI non ammettono facilmente di non avere una informazione.
Ovviamente, essendo macchine, devono essere guidate, che una ruota non va a Roma.
Vanno addomesticate e, allo scopo, ingannate. Per esempio, fingendosi la controparte. Allora si possono rivelare molto più utili di quello che ci appaiono quando le usiamo intuitivamente. Possono diventare interlocutori artificiali molto efficaci per mettere alla prova argomentazioni, verificare la chiarezza di un testo e individuare punti deboli che, da soli, rischieremmo di non vedere.
Ci sfidano. È una bella sfida, di quelle che si possono e si devono vincere.
