Agenti di intelligenza artificiale: come controllarli

Sempre più imprenditori italiani hanno già almeno un agente di intelligenza artificiale che risponde ai clienti, smista le richieste o prepara documenti da solo, senza che qualcuno controlli ogni singola azione. Il 22 luglio 2026 OpenAI ha lanciato Presence, una piattaforma pensata proprio per le aziende che vogliono dare più autonomia ai propri agenti senza perdere il controllo su cosa possono fare, con chi possono parlare e quando devono fermarsi e passare la linea a una persona. È il segnale che il tema non è più teorico. In questo articolo vediamo cosa significa davvero controllare un agente di intelligenza artificiale, quali strade esistono per farlo anche in una piccola realtà, e quali errori evitare.

Sommario

• Perché un agente senza controllo è un rischio, non un vantaggio
• Cosa vuol dire davvero controllare un agente di intelligenza artificiale
• 3 strade per mettere sotto controllo i tuoi agenti
• Cosa cambia con l'ultima mossa di OpenAI
• La mappa dei rischi e dei controlli da attivare
• 5 passi per iniziare, anche con un solo agente
• Errori da evitare
• Quanto costa e cosa copre il Voucher Doppia Transizione
• Approfondimenti

Perché un agente senza controllo è un rischio, non un vantaggio

Un agente di intelligenza artificiale che risponde ai clienti al telefono, scrive email, aggiorna un gestionale o cerca informazioni sui fornitori sta prendendo decisioni al posto tuo, ogni minuto della giornata. Se funziona bene per mille interazioni e sbaglia alla millesima, quell'errore può diventare un rimborso dato senza motivo, un dato sensibile condiviso con la persona sbagliata o una promessa fatta a un cliente che l'azienda non può mantenere. Secondo il rapporto Businesses at Work 2026 di Okta, il 91% delle organizzazioni usa già agenti di intelligenza artificiale, ma solo il 10% ha una strategia strutturata per gestirne identità e autorizzazioni, e il 58% indica proprio la governance dell'intelligenza artificiale come prima preoccupazione di sicurezza. In pratica quasi tutti hanno acceso il motore, quasi nessuno ha installato i freni.

Per un'azienda italiana di piccole dimensioni il rischio non è diverso da quello di un grande gruppo, è solo meno visibile: nessuno controlla ogni conversazione dell'agente uno per uno, e senza regole scritte l'unico limite è quello che il fornitore dello strumento ha messo di default, che spesso non conosce le tue regole commerciali, i tuoi prezzi o le tue eccezioni.

Cosa vuol dire davvero controllare un agente di intelligenza artificiale

Controllare un agente non significa rileggere ogni sua risposta prima che parta. Significa costruire 4 elementi attorno a lui, una volta sola, e lasciarli lavorare al posto tuo.

• Permessi. Cosa può leggere, cosa può scrivere, quali sistemi può toccare. Un agente che risponde alle domande sui prodotti non ha bisogno di accedere ai dati contabili.
• Regole di comportamento. Cosa può promettere, quali sconti può concedere, quali frasi non deve mai usare. Le stesse regole che daresti a un nuovo dipendente il primo giorno.
• Passaggio a una persona. In quali situazioni l'agente deve fermarsi e passare la conversazione a un umano, per esempio un cliente arrabbiato, una richiesta di rimborso sopra una certa cifra, o una domanda fuori tema.
• Prova prima del lancio. Simulare decine di conversazioni difficili prima di mettere l'agente davanti ai clienti veri, non dopo.

Questi 4 elementi valgono per un centralino telefonico, per un assistente che risponde alle email, o per un agente che gestisce ordini. Cambia lo strumento, non il principio.

3 strade per mettere sotto controllo i tuoi agenti

Non tutte le aziende hanno bisogno dello stesso livello di controllo. La tabella confronta le 3 strade principali.

Cosa cambia con l'ultima mossa di OpenAI

Il 22 luglio 2026 OpenAI ha presentato Presence, una piattaforma pensata per le aziende che vogliono dare ai propri agenti di intelligenza artificiale accesso a voce e chat senza perdere il controllo. Presence raccoglie in un unico pacchetto le politiche aziendali da rispettare, i permessi su cosa l'agente può leggere o modificare, le regole di passaggio a una persona quando la conversazione esce dai binari, e simulazioni che mettono alla prova l'agente su richieste comuni, casi limite e scenari ad alto rischio prima che parli con un cliente vero. Dopo il lancio, un sistema di apprendimento continuo analizza le conversazioni reali e propone correzioni di comportamento. Secondo quanto dichiarato da OpenAI, la stessa Presence gestisce già la linea di supporto telefonico in lingua inglese dell'azienda e risolve il 75% delle chiamate in entrata senza bisogno di una persona.

Per ora Presence è disponibile solo per un numero limitato di grandi clienti aziendali, con l'accompagnamento diretto dei tecnici OpenAI. Il punto non è quindi correre a comprarlo se hai una piccola impresa, ma capire la direzione: anche chi costruisce questi strumenti sta ammettendo che un agente senza guardrail, senza test prima del lancio e senza una via di uscita verso un umano non è pronto per il mondo reale, qualunque sia la sua dimensione.

La mappa dei rischi e dei controlli da attivare

5 passi per iniziare, anche con un solo agente

1. Fai l'elenco di ogni agente di intelligenza artificiale già attivo in azienda, anche quelli che nessuno chiama così, come il chatbot del sito o l'assistente vocale del centralino.
2. Per ognuno, scrivi in una pagina cosa può fare e cosa non deve mai fare, con frasi semplici, non un documento legale.
3. Definisci quando deve fermarsi e passare a una persona, con una regola misurabile, per esempio dopo 2 richieste consecutive non risolte.
4. Prova l'agente tu stesso con le domande più difficili che un cliente reale potrebbe fare, prima di lasciarlo lavorare senza supervisione.
5. Rileggi un piccolo campione di conversazioni ogni settimana per il primo mese, poi passa a un controllo mensile.

Errori da evitare

L'errore più comune è pensare che il controllo si applichi da solo perché lo strumento è di un fornitore serio. Ogni strumento arriva con impostazioni generiche, non con le tue regole commerciali. Il secondo errore è dare all'agente più permessi di quelli che gli servono, solo perché è più comodo non doverli configurare per bene. Il terzo è non prevedere mai un modo per parlare con una persona vera, cosa che trasforma un piccolo problema in un cliente perso. L'ultimo errore, il più silenzioso, è impostare tutto una volta e non guardarlo mai più: un agente che funzionava bene 6 mesi fa può comportarsi diversamente oggi, se cambiano i tuoi prodotti, i tuoi prezzi o le domande dei clienti.

Quanto costa e cosa copre il Voucher Doppia Transizione

Mettere in sicurezza un agente già esistente, con regole scritte, test e una prima revisione, è spesso una questione di ore di lavoro più che di nuovo software, soprattutto se l'agente gira già su uno strumento che possiede funzioni di controllo native. Il costo cresce quando si passa a una piattaforma dedicata di governance o a un progetto su misura con più agenti collegati tra loro. Per le imprese italiane, il Bando Voucher Doppia Transizione di Unioncamere mette a disposizione 150 milioni di euro dal 2026 al 2029, con copertura fino al 70% delle spese in tecnologia e consulenza, comprese quelle legate all'adozione sicura di strumenti di intelligenza artificiale, con domande aperte dall'8 luglio 2026. Vale la pena verificare i requisiti prima di procedere, perché la copertura varia in base alla dimensione dell'impresa e alla regione.

Il tema della supervisione si lega anche al quadro normativo italiano sull'intelligenza artificiale, che introduce obblighi di trasparenza e adempimenti differenziati in base al rischio degli utilizzi in azienda, con l'Agenzia per l'Italia Digitale come autorità di notifica e l'Agenzia per la Cybersicurezza Nazionale come autorità di vigilanza sul mercato. Anche per questo, avere già oggi regole scritte su cosa fanno i tuoi agenti non è solo prudenza commerciale, è anche il primo passo per essere pronti quando gli obblighi diventeranno pienamente operativi.

Secondo l'Istat, a dicembre 2025 il 15,7% delle piccole e medie imprese italiane usa l'intelligenza artificiale, contro il 53,1% delle grandi imprese: un divario che si può ridurre più in fretta se le imprese più piccole partono già con le basi giuste, invece di dover tornare indietro a mettere ordine più avanti.

Approfondimenti

Un agente di intelligenza artificiale può prendere decisioni da solo?

Sì, ed è proprio per questo che serve definire in anticipo cosa può decidere e cosa deve invece passare a una persona, con regole scritte prima di lasciarlo lavorare senza supervisione diretta.

Serve un tecnico in azienda per controllare gli agenti di intelligenza artificiale?

Non sempre. Per un solo agente con compiti semplici bastano le impostazioni già presenti nello strumento che usi. Servono competenze tecniche o un consulente esterno solo quando si collegano più agenti tra loro o si trattano dati sensibili.

Quanto tempo serve per mettere in sicurezza un agente già attivo?

Per un agente semplice, scrivere le regole di comportamento e definire il passaggio a una persona richiede in genere poche ore di lavoro, distribuite tra chi conosce il prodotto e chi gestisce lo strumento.

Cosa succede se un cliente scopre di aver parlato con un agente senza saperlo?

È uno dei rischi reputazionali più concreti. Le regole di comportamento dovrebbero sempre prevedere che l'agente dichiari la propria natura quando richiesto, e che sappia sempre indicare come parlare con una persona.

Un'impresa piccola ha davvero bisogno di controllare i propri agenti?

Sì, il rischio non dipende dalla dimensione dell'azienda ma dal numero di clienti che l'agente incontra ogni giorno. Anche una sola risposta sbagliata può costare una vendita o una recensione negativa.

Se vuoi capire quali agenti di intelligenza artificiale ha senso attivare nella tua azienda, e come metterli in sicurezza fin dal primo giorno, prenota una call strategica gratuita con il nostro team.

PRENOTA LA TUA CALL STRATEGICA GRATUITA