GPT-3: l’Intelligenza Artificiale che scrive testi e codice

La ricerca nel campo dell’Intelligenza Artificiale negli ultimi anni sta subendo un’accelerazione che impone un po’ di attenzione se si vuole intuirne la traiettoria.
Tra i centri di ricerca più attivi c’è OpenAI, gestito dall’omonima no profit e finanziato anche da Microsoft e Reid Hoffman (cofondatore di LinkedIn).

Proprio in questi giorni sta facendo molto discutere GPT-3, la terza generazione del loro “Generative Pretrained Transformer”.
Un transformer è una rete neurale che usa tecniche di Natural Language Processing per eseguire un compito. In altri termini si tratta di un modello computazione linguistico pensato per generare sequenze di parole, codice o altri dati, partendo da un input di partenza. La tecnica fu introdotta da Google nel 2017 e usata nella traduzione automatica per prevedere, statisticamente, sequenze di parole.

Questi modelli statistici per produrre risultati rilevanti hanno bisogno di allenarsi con grandi quantità di dati. Il primo GPT del 2018 usava 110 milioni di parametri di apprendimento (i valori che una rete neurale prova a ottimizzare durante il training). Un anno dopo GPT-2 arrivò ad usarne 1,5 miliardi. Oggi GPT-3 ne utilizza ben 175 miliardi.

La discussione attuale è partita dopo che alcuni sviluppatori, che hanno avuto accesso alla beta del modello, hanno condiviso i risultati strabilianti. Manuel Araoz ha fatto scrivere un blog post su GPT-3 a GPT-3, partendo da una breve descrizione testuale. Mario Klingemann è riuscito a produrre un articolo immaginario sull’importanza di essere su Twitter, nello stile dello scrittore dell’800 Jerome K. Jerome.

Sharif Shameem ha postato una serie di esperimenti di generazione di codice, ad esempio la pagina principale di Google, partendo da semplici istruzioni scritte in linguaggio naturale.

Va detto che, per quanto straordinari, questi risultati non sono neanche lontanamente vicini al concetto di intelligenza generale, tanto paventato (in primis da Elon Musk che ha lasciato OpenAI per questo motivo). Qui il complesso algoritmo, grazie alla miriade di informazioni ingerite e a modelli statistici, prevede la più probabile sequenza di termini, senza comprenderne il significato.
In definitiva il modello lavora sulla sintassi, ma non sulla semantica. Ecco perché potrebbe dar luogo anche alla scrittura di testi razzisti, come ha dimostrato Jerome Pesenti oppure senza senso, come negli esempi di Kevin Lacker.

GPT-3: l’impatto sul marketing

GPT, che sicuramente migliorerà con l’utilizzo e grazie alle attività di ricerca, sembra molto buono per automatizzare alcuni compiti, che non necessitano necessariamente di comprensione semantica. Ad esempio per sintetizzare testi esistenti, mixarli generando prospettive interessanti, o anche per la creazione di codice. In futuro potrebbe sicuramente mettere a rischio sviluppatori, giornalisti, avvocati, contabili, copywriter, marketer poco creativi.

L’impatto sul marketing di questi modelli di Intelligenza Artificiale di questo tipo non è da sottovalutare, perché contribuirà a trasformare ulteriormente il lavoro del marketer, già molto contaminato dalla tecnologia. Tra i possibili scenari che mi vengono in mente:

  • verrà velocizzata la creazione di contenuti (testi e immagini), partendo da ipotesi di lavoro generate dal sistema di machine learning, che il marketer dovrà solo scegliere o modificare
  • aumenteranno le “piattaforme no-code” ossia quelle che permetteranno ai marketer di creare applicazioni per automatizzare compiti ripetitivi, partendo da comandi dati in linguaggio naturale (scritto o parlato)
  • diventeranno più sofisticati i sistemi di intelligence e di analytics in grado di individuare pattern non immediatamente percepibili da enormi quantità di dati
  • miglioreranno i sistemi di marketing conversazionale (chat bot) e di knowledge management in grado di migliorare il contatto tra persone e aziende

Già il marketing di oggi è intriso di tecnologia e automazione (definita martech o marketing automation), anche se tanti non se sono accorti, persi come sono tra appunti cartacei e fogli elettronici. Quello di domani sarà un marketing codificato, vale a dire intriso di codice, impossibile da svolgere senza software. E’ bene iniziare a farci i conti.


1 Comment

Leave a Reply