Seguici su

Tecnologia

Agenti IA in azienda: Capgemini indica la supervisione tra le sfide per il 2027

Quando un agente IA può operare sui sistemi aziendali, la qualità delle risposte non basta: permessi, approvazioni, registri e arresto diventano scelte di progettazione.

Avatar

Pubblicato

il

Computer portatile con una richiesta di conferma sullo schermo e una mano vicino al trackpad
La supervisione umana può prevedere una conferma prima delle operazioni più delicate affidate agli agenti IA. Illustrazione generata con intelligenza artificiale. (© DiariodelWeb.it / AI)

Gli agenti di intelligenza artificiale possono essere configurati non solo per preparare risposte, ma anche per usare strumenti e compiere operazioni sui sistemi aziendali. Nelle previsioni TechnoVision presentate il 17 novembre 2026, Capgemini indica la supervisione degli agenti e delle loro interazioni tra le sfide per il 2027. Per un’impresa, la domanda concreta è quali azioni affidare al software e come intervenire se qualcosa va storto.

La società propone, tra l’altro, identità e autorizzazioni per gli agenti, monitoraggio e strumenti di arresto. Sono indicazioni e previsioni, non una misurazione della diffusione di questi sistemi nelle imprese italiane.

Che cosa cambia quando il software può agire

Un assistente può limitarsi a preparare una bozza. Un agente può invece essere configurato per usare strumenti, consultare dati ed eseguire più azioni verso un obiettivo. Il grado di autonomia dipende dai collegamenti e dai permessi ricevuti: non tutti gli strumenti chiamati «agenti» hanno le stesse capacità.

La distinzione conta perché una risposta preparata per un cliente può essere corretta prima dell’invio. Se il sistema può anche spedirla o modificare un archivio, un errore può produrre effetti prima che qualcuno lo legga. Il controllo riguarda quindi le operazioni consentite, oltre alla qualità delle risposte.

Un esempio di prodotto e delle sue condizioni di accesso è quello di Microsoft Copilot e dell’anteprima di Autopilot: le capacità effettive e i controlli disponibili dipendono dalla configurazione e dal servizio utilizzato.

Quattro controlli da definire prima dell’impiego

Le indicazioni di Capgemini e la guida OWASP sui rischi delle applicazioni agentiche aiutano a distinguere quattro livelli di supervisione. La tabella traduce i principi in scelte operative: nessuna misura, da sola, garantisce l’assenza di incidenti.

Controllo Che cosa definire Perché conta
Identità e permessi Quali dati, strumenti e operazioni sono necessari a ciascun agente. Limitare gli accessi riduce ciò che un agente può fare se sbaglia o viene manipolato.
Approvazione umana Quali azioni richiedono una conferma prima dell’esecuzione. Una persona può esaminare destinatario, contenuto e conseguenze delle operazioni più delicate.
Registri e monitoraggio Quali attività, richieste agli strumenti ed esiti vengono registrati e chi li esamina. Aiutano a individuare anomalie e ricostruire ciò che è successo.
Arresto e revoca Come sospendere l’agente, disattivare i collegamenti e revocare le credenziali. Permettono di contenere un problema senza aspettare che la sequenza di azioni finisca.

Il principio dei permessi minimi significa, per esempio, non attribuire all’agente l’accesso all’intero archivio aziendale se il compito richiede soltanto la lettura di una cartella. Se deve preparare una risposta, non è necessariamente indispensabile consentirgli anche di inviarla.

Per operazioni come inviare dati all’esterno, cancellare documenti o cambiare informazioni sensibili, l’impresa può prevedere una conferma preventiva. Per essere utile, la richiesta di approvazione deve mostrare alla persona che decide l’azione proposta e i dati essenziali per valutarla: premere un pulsante senza esaminare l’operazione non equivale a una supervisione sostanziale.

Il rischio delle istruzioni nascoste nei documenti

Una minaccia descritta da OWASP è la prompt injection: un’istruzione inserita in contenuti che il sistema deve leggere, come un messaggio o una pagina web, tenta di deviarne il comportamento. Il contenuto esterno può essere necessario per svolgere il compito, ma non dovrebbe per questo diventare un’autorità capace di cambiare l’obiettivo dell’agente.

Si immagini un agente incaricato di esaminare richieste commerciali: un messaggio costruito appositamente potrebbe tentare di indurlo a cercare e inoltrare dati estranei alla pratica. È uno scenario illustrativo, non un episodio accertato. Se l’agente non può accedere a quei dati o inviarli autonomamente, il margine di danno si restringe; nessun singolo controllo, però, elimina da solo tutti i rischi.

Registrare le attività e controllare le interazioni

Un registro dovrebbe permettere di collegare l’operazione all’identità dell’agente e di capire quali strumenti sono stati chiamati e con quale esito. Occorre anche stabilire chi riceve gli avvisi e chi può intervenire: conservare informazioni senza un processo di controllo rischia di lasciare l’anomalia inosservata.

Capgemini osserva che, quando più agenti interagiscono, le singole decisioni possono combinarsi in risultati inattesi. La società propone perciò di affiancare ai limiti del singolo agente una supervisione del sistema e dell’insieme dei sistemi aziendali. Non significa che ogni impresa debba adottare un’unica piattaforma o che una simile struttura sia già operativa.

Anche in Italia il tema è oggetto di confronto: il 17 novembre 2026 un convegno di Confindustria Udine ha affrontato opportunità, automazione e regole per l’IA in azienda. , chief solution officer di Quin, ha sostenuto che affidabilità, sicurezza e controllo umano devono far parte della progettazione fin dall’inizio. L’incontro documenta l’interesse per il tema, non la diffusione nazionale della tecnologia.

Prima di estendere un progetto, l’impresa può circoscrivere il compito, verificare permessi e approvazioni, provare la sospensione e assegnare a persone identificate il controllo delle attività. Se l’agente interagisce con altri sistemi, anche quei passaggi devono rientrare nella verifica.

Come valuti questo articolo?

Hai trovato un errore? Segnalalo alla redazione

Aiutaci a migliorare questo articolo. Le segnalazioni saranno esaminate dalla redazione.

Continua a leggere le notizie di DiariodelWeb.it e segui la nostra pagina Facebook

Clicca per commentare

Tu cosa ne pensi?

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *