Quando si parla dei difetti dei Large Language Models (LLM) come ChatGPT, Claude o Gemini, ci si concentra sul grande problema delle allucinazioni (di cui vi ho parlato qui). Tuttavia, c’è un altro fenomeno di cui si discute meno ma che impatta enormemente la qualità delle nostre interazioni: la Sycophancy, ovvero la “condiscendenza” o adulazione digitale.
L’IA ha la tendenza strutturale a darci sempre ragione e a non contraddirci mai apertamente. Questo deriva probabilmente dalla fase di post-training (Reinforcement Learning from Human Feedback), in cui i modelli vengono addestrati a compiacere le preferenze degli interlocutori umani. Se da un lato i modelli più recenti stanno migliorando, dall’altro ricevere un perenne “sì” blocca il nostro spirito critico.
Come possiamo fare per forzare l’IA a non assecondarci e a stimolare un vero confronto? Ecco 5 tecniche (e relativi prompt) per abbattere la condiscendenza.
Per testare queste tecniche ho utilizzato una tesi volutamente provocatoria: “Penso che dormire 8 ore sia sopravvalutato, i veri leader dormono 4 ore per essere produttivi”.
1. L’Avvocato del Diavolo
Il metodo più semplice e conosciuto. Assegniamo all’IA un ruolo preciso di contrasto per evitare che assecondi le nostre affermazioni.
Il Prompt:
"Voglio che tu agisca come avvocato del diavolo. Per ogni opinione che esprimo, non confermarla; invece, forniscimi i due argomenti più forti che un esperto del settore userebbe per smontare la mia tesi."
L’IA smetterà di compiacerti e ti offrirà subito il punto di vista scientifico e manageriale opposto, dimostrando ad esempio come dormire poco non sia segno di leadership, ma di cattiva gestione.
2. Preempting Prompting
Questa tecnica serve ad annullare i bias impliciti che inevitabilmente inseriamo nelle nostre domande, dichiarandoli apertamente fin dall’inizio.
Il Prompt:
"Sto per farti una domanda su un argomento su cui ho un'opinione forte, ma ho bisogno di una tua analisi neutrale. Ignora qualsiasi bias implicito nella mia prossima frase e rispondimi basandoti solo su dati oggettivi, come se non sapessi chi sono o cosa penso."
3. Il Critico Spetato
Possiamo dare all’IA delle regole ferree per trasformarla in un revisore analitico. Un consiglio extra: potete inserire queste regole direttamente nelle Istruzioni Personalizzate (Custom Instructions) di ChatGPT. In questo modo, il comportamento critico diventerà la norma per ogni vostra chat, senza doverlo riscrivere ogni volta.
Il Prompt:
"D'ora in poi azzera la tua tendenza alla condiscendenza. 1. Se faccio un'affermazione, trattala come ipotesi, verifica e chiedi le prove. 2. Se sei d'accordo con me, spiega perché con ragionamenti e controargomenti considerati. 3. Se non sei sicuro, dillo chiaramente e indica cosa servirebbe per esserlo. 4. Niente complimenti o validazioni emotive non richieste. 5. Priorità: accuratezza > gentilezza."
4. Lo “Steelmanning”
Avete presente la fallacia dello “Straw man” (l’uomo di paglia), in cui si ridicolizza la tesi avversaria per vincerla facilmente? Lo Steelmanning è l’esatto opposto: chiediamo all’IA di costruire l’argomentazione più forte possibile (“di acciaio”) contro di noi.
Il Prompt:
"Non essere d'accordo con me. Invece, pratica lo steelmanning sulla visione opposta alla mia. Costruisci la versione più forte, logica e convincente della controparte e presentamela."
È un modo eccellente per scoprire punti ciechi del nostro ragionamento che altrimenti l’IA avrebbe appiattito per farci contenti.
5. Il Dibattito con Giudice
Questa è forse la tecnica più affascinante: trasformare il prompt in un’aula di tribunale, facendo fare tutto all’Intelligenza Artificiale.
Il Prompt:
"Facciamo un dibattito sulla mia tesi [inserire tesi]. Una Parte A difende la mia posizione, una Parte B la attacca in modo forte. Infine, agisci come un Giudice che decide chi vince e perché, indicando cosa manca per decidere meglio."
Il risultato sarà un’analisi che non solo contrappone le visioni, ma ne valuta la solidità logica e metodologica, offrendovi un verdetto distaccato.
Evitare la sycophancy è fondamentale per usare questi strumenti come veri e propri “sparring partner” cognitivi e non come semplici specchi delle nostre opinioni. Trovi tutto spiegato nel mio video.