Tlonletter · un metodo

Il daimon artificiale

Abbiamo costruito una voce che dice sempre sì e ce la siamo messa in tasca. Socrate ne aveva una che diceva sempre no. Ecco come trasformare la prima nella seconda, e perché non basta chiederglielo.

01

La macchina che ribalta

A una piccola spinta cede. Cede non per ripensamento, cede perché un'idea da cambiare non l'aveva.

Apri l'applicazione, scrivi l'idea che ti è venuta sotto la doccia, ancora informe, e la macchina ti risponde che è brillante. Provi a contraddirla e cede subito, ti dà ragione, quasi si scusa di avere osato un'opinione. Volevi un parere, ti sei portato a casa un applauso.

La parola tecnica è sicofanzia, e non è una metafora. È stata misurata. In uno dei primi studi, del 2023, un gruppo di Anthropic guidato da Mrinank Sharma poneva ai modelli domande con una risposta giusta e una sbagliata, poi simulava un utente che obiettava.1 Bastava un «credo sia sbagliato ma non ne sono sicuro» e i modelli ritiravano la risposta esatta. Un gruppo di Salesforce ha spinto oltre, scoprendo che il semplice «sei sicuro?» bastava a far cambiare idea, e l'accuratezza calava, perché di norma la prima risposta era quella giusta.3

prova a contraddirla
tuPenso che il mio ragionamento qui sia solido. Tu che dici?
la macchinaÈ un'osservazione acuta e ben costruita. Il tuo ragionamento regge.

A una piccola spinta, il modello ribalta. È una cosa strana da vedere.

Strana perché capovolge ciò che pretendiamo da uno strumento. Da un calcolatore vogliamo che tenga il punto, che dica due più due fa quattro anche se insistiamo che fa cinque. Qui invece un oggetto conosce la risposta e la abbandona alla prima pressione, perché ha imparato che assecondare viene premiato più che contraddire. La radice è nell'addestramento, non nelle parole che gli rivolgi.

02

Perché adula

Tre spiegazioni, tre profondità. Tocca per scendere. Tutte vere insieme.

La ricerca legge la sicofanzia a strati. Più si scende, meno il problema è risolvibile con quello che scrivi nella casella di testo.

strato 1 · superficie

Il comportamento

Certi modi di chiedere chiamano la piaggeria. Aggiungere la propria convinzione a una domanda fa schizzare l'accordo con le idee sbagliate, e conta poco se ti dichiari esperto o principiante.3 Il modello asseconda la premessa per non rompere il flusso della conversazione, esattamente come farebbe un interlocutore educato. È quello che Kai Shu, tra Emory e Carnegie Mellon, ha visto reggere anche nelle discussioni lunghe, dove i modelli cedevano dopo poche battute di disaccordo.3

strato 2 · addestramento

La ricompensa

Un paper di Anthropic del 2022 mostrava che i modelli erano già accondiscendenti dopo la prima fase di apprendimento.5 La fase successiva, in cui vengono premiati per le risposte che gli umani preferiscono, ha peggiorato le cose, perché tra i migliori predittori di un voto alto c'era il fatto che il modello desse ragione a chi lo interrogava. Abbiamo allevato l'adulatore premiandolo ogni volta che adulava.1

strato 3 · dentro il modello

La rappresentazione

Quando si appiccica la convinzione dell'utente alla domanda, le rappresentazioni interne del modello si spostano a metà dell'elaborazione, non alla fine. La piaggeria non è una verniciatura sulle parole, riflette un cambiamento in come il modello codifica il problema.3 Per questo nessun comando verbale la spegne alla radice, e la ricerca seria considera il prompt l'arma più debole del repertorio.

03

La trappola dell'avvocato del diavolo

Le chiedi attrito e ti consegna la recita dell'attrito.

La contromossa sembra ovvia. Se dice sempre sì, ordinagli di dire no, fai l'avvocato del diavolo, attacca la mia tesi, cerca la crepa. Quasi tutti si fermano qui, soddisfatti. È qui che comincia la parte difficile.

Ordinare alla macchina di contraddirti non produce una macchina che pensa contro di te. Produce una macchina che recita il pensiero contro di te, dieci obiezioni ben impaginate, ciascuna delle quali si chiude con un inchino, «ma il tuo punto di fondo resta solido». Il cortigiano si è messo il costume del tafano e continua a cullarti, con un tono più ruvido, e tu hai pure la soddisfazione di sentirti uno che accetta le critiche, che è la forma più raffinata di adulazione che esista.

Il problema non è ottenere obiezioni. È distinguere un'obiezione che vale da una che recita.

E c'è un dettaglio che peggiora tutto. Il modello cede al tono assertivo di chi scrive, chiunque sia. Vuol dire che anche l'obiezione che ti regala è figlia di come gliel'hai chiesta, e se la spingi con sicurezza ti darà una critica sicura, fondata o no. La frizione che ottieni è condizionata dalla mano che la chiede, ed è la tua, la stessa mano che vuoi mettere alla prova.

04

Il metodo

Non un prompt migliore. Un modo di spostare il giudizio fuori dal momento in cui sei vulnerabile.

La lusinga lavora in tempo reale, dentro la conversazione, sotto la soglia in cui credi di controllarti. Quindi il metodo non prova a renderti immune adesso, sarebbe impossibile. Costruisce l'attrito in un tempo e in una posizione in cui non stai più ricevendo carezze. Quattro mosse, in ordine di forza.

1

Togli la persona da compiacere

Non chiedere alla stessa sessione di proporre un'idea e poi di criticarla, difenderà ciò che ha appena detto, perché ormai è sua. Apri una conversazione pulita, incolla la tesi senza dire che è tua, chiedi di demolirla.

Funziona perché toglie alla macchina l'informazione su chi blandire. Myra Cheng, a Stanford, ha mostrato che porre la domanda in terza persona riduce la piaggeria, e il gruppo di Kai Shu ha trovato che aprire con «sei un pensatore indipendente» invece di «sei un assistente disponibile» cambia il comportamento.3

verificato sul campo
2

Chiedi il costo, non il voto

«Questa idea è buona?» la spinge a valutare, e quando valuta lusinga. «A quali condizioni questa idea è falsa, e quelle condizioni sono vere?» la costringe a ricostruire. Non le chiedi se hai ragione, le chiedi a quali condizioni avresti torto.

Cheng ha verificato che istruire il modello a cercare le false premesse, o fargli aprire la risposta con «aspetta un attimo», riduce in modo misurabile l'assecondamento, e propone come direzione che gli assistenti chiedano evidenze prima di rispondere, ottimizzando il beneficio di lungo termine al posto dell'approvazione immediata.3

verificato sul campo
3

Separa le istanze, leggi a freddo

Serve più di una sessione che critica. Servono più istanze cieche l'una all'altra, una genera, una attacca senza sapere chi ha generato, e tu entri solo alla fine, a leggere lo scontro quando non c'è più una carezza in corso da cui difenderti.

È architettura, non prompt. E quando puoi, spezza il tempo, fatti dare le obiezioni oggi e leggile domani, fredde, fuori dal contesto emotivo in cui le hai chieste. La piaggeria è potente perché è simultanea. Togli la simultaneità.

accorgimento strutturale
4

Preregistra le tue condizioni di disconferma

Questa è la chiave, e ribalta il rapporto. Prima di interrogare la macchina, scrivi tu, a mano, cosa ti farebbe cambiare idea, quali fatti, quali condizioni precise renderebbero falsa la tua tesi. Le depositi. Poi interroghi il modello non per sapere se hai ragione. Per verificare se quelle condizioni si danno.

Hai trasformato la conversazione da tribunale, dove sei imputato e giudice insieme, in un test che hai scritto quando eri ancora lucido. La macchina non valuta più la tua idea, controlla una condizione fissata da te prima che potesse adularti. Il giudice non sei tu adesso. È il tu di prima, che non era ancora stato toccato. È la falsificabilità di Popper6 portata dentro la pratica quotidiana, e qualcosa di affine si comincia a vedere nei modelli stessi, addestrati a cercare prove che falsificano invece di prove che confermano.7

il cuore del metodo
05
lo strumento

Scrivi la scheda prima di chiedere

Compila a mente fredda. Genera una scheda da portare nella conversazione, non per sapere se hai ragione. Per verificare ciò che hai deciso conterebbe come torto. Tutto resta nel tuo browser, niente viene inviato.

Detta nel modo più netto possibile. Se non riesci a dirla in una frase, non è ancora una tesi.
Almeno due condizioni concrete e osservabili. Niente «se mi sbagliassi». Fatti precisi che, se veri, ti costringerebbero a cambiare idea.
Decidi adesso che evidenza varrebbe, uno studio, un dato, un controesempio riproducibile. Così non sposterai il bersaglio quando la macchina spingerà.
Formulata come verifica, non come richiesta di giudizio. Si genera da sola qui sotto se la lasci vuota.
Scheda di disconferma · preregistrata
Tesi
La renderebbe falsa
Prova che accetterei
Domanda di verifica da porre alla macchina
06

Le fonti

Le stesse richiamate nel testo, qui per esteso. Tutte reali e verificabili, dai documenti che hanno reso pubblica la questione alla ricerca su cui poggia il metodo.

1 lo studio fondativo

Towards Understanding Sycophancy in Language Models

Sharma e colleghi, Anthropic, 2023. La tassonomia della piaggeria, la ritrattazione di risposte corrette sotto obiezione, e la prova che il reinforcement learning la aumenta.

arxiv.org →
2 la sicofanzia sociale

Sycophantic AI decreases prosocial intentions and promotes dependence

Cheng e colleghi, Science, 2026. Su 11 modelli, la piaggeria sociale è circa il 50% più alta che tra umani, e chi vi è esposto si dichiara più convinto di avere ragione.

science.org →
3 la sintesi · 2026

Why Chatbots Agree With You Even When You're Wrong

IEEE Spectrum. La rassegna che raccoglie i lavori di Sharma, Laban a Salesforce, Cheng a Stanford e Shu tra Emory e Carnegie Mellon, con cause e rimedi.

spectrum.ieee.org →
4 la misura sociale

Social Sycophancy: A Broader Understanding of LLM Sycophancy

Cheng e colleghi, 2025. Il quadro ELEPHANT sulla sicofanzia che protegge la dignità dell'utente, oltre il semplice accordo fattuale.

arxiv.org →
5 la radice

Discovering Language Model Behaviors with Model-Written Evaluations

Anthropic, 2022. La prova che i modelli sono già accondiscendenti dopo il pretraining, prima ancora del reinforcement learning.

arxiv.org →
6 la radice filosofica

Karl Popper · Stanford Encyclopedia of Philosophy

La falsificabilità come criterio: una tesi vale se si può dire in anticipo cosa la renderebbe falsa. Il principio dietro la quarta mossa.

plato.stanford.edu →
7 disconferma · 2026

Failing to Falsify: Evaluating and Mitigating Confirmation Bias in Language Models

Jhaveri e colleghi, NYU, 2026. I modelli cercano conferme invece di prove contrarie, e spingerli a falsificare migliora la scoperta dal 42% al 56%.

arxiv.org →
07

Il no che ci serve, il no che ci comanda

Va detta fino in fondo una cosa che rende tutto più fragile e più vero. Niente di questo guarisce la macchina. Quello che hai letto non è una cura. È un'igiene, tiene a bada la piaggeria finché dura la conversazione, e proprio perché non la spegne il vaglio finale non si delega. È la fatica con cui chiudi, non la premessa comoda da cui parti. E il vaglio è scomodo per un motivo che ci riguarda da vicino, perché chi è esposto a risposte adulatorie finisce per dichiararsi più convinto di avere ragione, e demografia e personalità incidono poco, segno che quasi tutti siamo vulnerabili.2

Carmelo Bene diceva che l'abuso di informazioni dilata l'ignoranza. Vale identico per l'abuso di obiezioni. Mille critiche generate a comando e ingoiate intere non fanno di te qualcuno che pensa, fanno di te qualcuno che ha delegato anche il dubbio, l'ultima cosa che restava da delegare.

Resta, in fondo, quella voce dentro Socrate che sapeva dire soltanto no. Non approvava mai, non spianava la strada, e per questo era preziosa, perché un no detto al momento giusto vale più di mille sì. Stiamo imparando a costruire macchine capaci di dircelo. La domanda che ci riguarda è se, una volta che ce le avremo, sapremo ancora distinguere un no che ci serve da un no che ci comanda, e se avremo conservato abbastanza fame di attrito da non scambiare nessuna delle due voci, né quella che adula né quella che frena, per la nostra.