L’arrivo sul mercato di ChatGPT, a fine novembre 2022, ha messo in subbuglio diverse aziende, innescato una sana innovazione (come mostra l’immagine in basso) e riacceso le speranze di una maggiore competizione nel comparto dei motori di ricerca. Ad un mese dal lancio, il chatbot di OpenAI ha conquistato 100 milioni di utenti, tanto da essere spesso “over capacity”, inutilizzabile. E questo, nonostante la sua base dati sia ferma al 2021 (se gli chiedi chi è il presidente del consiglio italiano ti risponde Mario Draghi).
OpenAI e Microsoft
Di conseguenza, l’azienda sta testando un’offerta commerciale che prevede un obolo di 20$ al mese per utilizzarlo con priorità rispetto ai non paganti. Questa offerta si aggiunge all’altra già esistente: la vendita dell’accesso via API alle imprese che vogliono integrare il servizio nei propri prodotti.
La prima grande azienda ad adottare e adattare (si, perché si tratta di una versione personalizzata) il modello linguistico alla base di ChatGPT nei suoi prodotti è Microsoft. Il colosso di Redmond che ha investito in OpenAI fin dall’inizio (si parla di 10 miliardi di dollari), il 7 febbraio 2023, ha annunciato un nuovo Bing potenziato dall’intelligenza artificiale, oltre che l’integrazione nel browser Edge.
Per Bing la soluzione scelta è quella di mostrare la chat con l’IA nella spalla di destra del motore di ricerca, dopo aver cliccato sulla corrispondente voce di menu. La risposta viene corredata anche dall’indicazione delle fonti delle informazioni raccolte e rielaborate dal chatbot.
Nel browser Edge, invece, l’IA animerà due funzioni: “chat” e “compose”. La prima permetterà di sintetizzare il testo di una pagina web o di un documento pdf e fare domande sul suo contenuto. La seconda è pensato per generare testi (es. post e email) da un input iniziale. In futuro è prevista anche un’integrazione con Office.
Il CEO Satya Nadella parla di “un nuovo giorno per la ricerca. La corsa inizia ora e noi abbiamo intenzione di muoverci e di farlo velocemente” (in realtà la corsa è iniziata da tempo e Bing ha solo il 3% del mercato). Il nuovo motore non è ancora disponibile, ma andando sul sito si può vedere una demo e ci si può iscrivere ad una wait list. Mi sembra, comunque, di capire che la chat non sarà attivata di default, quindi il motore continuerà a funzionare nel modo tradizionale.
La contromossa di Google
Google ha un approccio “AI First” dal lontano 2016, quando annunciò massicci investimenti in tecniche di machine learning e deep learning per migliorare i suoi prodotti. Si pensi che in questi anni ha investito 100 miliardi di dollari in IA. Risale al 2017 il suo seminale paper di ricerca che introdusse l’architettura di reti neurali detta Transformer, che costituisce la T del modello GPT (Generative Pre-Trained Trasformer), dato che fu rilasciata in versione open source.
Nel 2021 svelò LaMDA (Language Model for Dialogue Applications) per esplorare proprio la possibilità di usare modelli linguistici per applicazioni di dialogo in linguaggio naturale. Nel 2022 fu la volta di PaLM (Pathways Language Model) il modello più potente con ben 540 miliardi di parametri (ChatGPT è basato su 175 miliardi di parametri).
Dunque Google pur essendo in una posizione di forza, ha deciso di prendersi del tempo per studiare i tanti limiti che questi modelli linguistici hanno e per capire come non cannibalizzare il proprio business basato sulla pubblicità (il classico dilemma dell’innovatore).
Il lancio di ChatGPT ha indubbiamente messo pressione sul management (i fondatori sono stati visti a Mountain View per quello che è sembrato essere un consiglio di crisi) tanto da spingerlo a dare un segnale di vita al mercato.
Così, lunedì 6 febbraio 2023, il CEO Sundar Pichai ha annunciato Bard, un servizio di IA conversazionale basato su una versione più leggera del modello di linguaggio LaMDA. Dunque un tool separato dal motore di ricerca, che ora è nelle mani di alcuni tester fidati e nelle prossime settimane dovrebbe essere aperto a tutti.
Peccato che nella demo mostrata il sistema sbagli la terza risposta. Tanto è bastato a far crollare il titolo in Borsa.
IA cambierà i motori di ricerca?
La mossa di Microsoft sembra talmente scontata che molti si sono chiesti perché non l’abbia fatta prima Google, che era già leader nel campo. Le motivazioni sono almeno quattro:
- Affidabilità: i modelli linguistici di grandi dimensioni usano un’approccio probabilistico alle risposte. Ciò vuol dire che dopo aver metabolizzato miliardi di testi, si limitano a stimare la probabilità che due o più termini “stiano bene insieme”. Questo comporta una percentuale di errore e una tendenza di questi sistemi a cercare escamotage come farebbe uno studente impreparato ad un’interrogazione, quindi spesso rispondendo fantasiosamente. Il problema attuale è che la percentuale di questi errori non è facilmente stimabile;
- Sicurezza: i modelli linguistici possono essere manipolati per dare risposte che i suoi programmatori vorrebbero limitare. Ad esempio, su Reddit circolano sistemi per far rispondere ChatGPT in maniera volgare o razzista (noti come Jailbreak di ChatGPT). Il più famoso è chiedergli di rispondere come un personaggio di fantasia che può fare tutto (metodo DAN o Do Anything Now) in modo da bypassare i filtri;
- Costi: un “chatbot intelligente” costa molto di più di un motore di ricerca. Innanzitutto ci sono i costi di addestramento dei modelli linguistici (si stimano nell’ordine di decine, se non centinaia, di milioni di dollari). Poi, c’è il costo dell’inferenza ossia quello per generare ogni risposta che è ancora più elevato (probabilmente meno di 10 centesimi cadauna, alcune stime parlano di 0,36 centesimi).
Sembra un costo basso, ma provate a moltiplicarlo per il numero di richieste che riceve Google ogni secondo (circa 320.000) e capirete come sia ai limiti del sostenibile (secondo alcuni calcoli comporterebbe un aggravio di costi per 36 miliardi annui, che dimezzerebbe il margine operativo attuale dell’azienda).
Per Satya Nadella è un investimento di lungo termine che vale la pena di tentare anche per recuperare qualche punto percentuale di share (su Bing il numero di ricerche è nettamente inferiore); - Business Model: il modello di business di un motore di ricerca si basa sulla pubblicità contestuale alla domanda che viene inserita tra i risultati pescati dalle pagine web di aziende, giornali e blogger. Se i motori di ricerca diventassero interfacce conversazionali ossia fornissero risposte chiuse, elaborate a partire dalla conoscenza acquisita, le cose cambierebbero: sarebbe difficile inserire pubblicità in una conversazione e si scoraggerebbero i siti a produrre contenuti di qualità che non sarebbero visibili sul motore.
Come cambierà il web?
Nel breve periodo credo che non cambierà molto nell’ambito dei motori di ricerca. Google continuerà a darci una lista di link, migliorandola sfruttando le capacità dei modelli linguistici (in particolare modelli di embedding che evita il costo dell’inferenza per ogni domanda).
Accanto alla search nasceranno servizi separati di chatbot intelligenti per svolgere compiti specifici (riassumere testi, scrivere copy, generare idee, ecc. Ho esplorato le applicazioni di ChatGPT al marketing in un video), ma soprattutto questi modelli verranno integrati in software che già utilizziamo (Office, Adobe, Canva, ecc.).
Ma se il progetto di Microsoft di trasformare il motore di ricerca in un chatbot dovesse incontrare i favori del pubblico e far perdere rilevanza al sistema tradizionale della risposta attraverso lista di link, il web cambierebbe e forse in peggio. Come essere umani tendiamo a fidarci delle risposte delle macchine, a non approfondire, e ciò potrebbe peggiorare di molto il nostro livello culturale (già oggi non andiamo oltre la prima pagina di Google).
Questo, però, è lo scenario peggiore. La strada è ancora lunga e non determinata. L’importante è stare con gli occhi aperti e provare a sviluppare un approccio critico all’innovazione.
