Copilot Studio & Azure AI - Creare chatbot su misura per la tua knowledge base

Copilot Studio & Azure AI - Creare chatbot su misura per la tua knowledge base

Introduzione Tecnica

Copilot for Microsoft 365 è un assistente AI integrato direttamente nelle principali applicazioni della suite Microsoft 365, come Word, Excel, Outlook e Teams.

Fornisce funzionalità pronte all’uso che migliorano la produttività personale, ad esempio:

  • Generazione automatica di testi e documenti
  • Sintesi e risposte alle email
  • Analisi di dati e creazione di tabelle/presentazioni
  • Suggerimenti proattivi all’interno delle app

Il suo obiettivo è supportare gli utenti finali nelle attività quotidiane, sfruttando l'intelligenza artificiale in maniera trasparente e facilmente accessibile, senza richiedere configurazioni o personalizzazioni avanzate.

 

Quando si utilizza Copilot nel proprio tenant:

  • I dati rimangono all'interno del servizio Microsoft 365
  • I dati sono protetti in base ai criteri di sicurezza, conformità e privacy già adottati dall'organizzazione

1.00

Microsoft 365 Copilot migliora la pertinenza e l'accuratezza della ricerca utilizzando una comprensione lessicale e semantica avanzata dei dati di Microsoft Graph (indice semantico), per un recupero delle informazioni più preciso e contestuale.

Copilot Studio, che fa parte della famiglia Power Platform ed è l’evoluzione di Power Virtual Agents, è una piattaforma di sviluppo low-code/no-code perfettamente integrata nell’ecosistema Microsoft 365, pensata per la creazione di agenti conversazionali personalizzabili e adatti a casi d’uso su misura.

Le sue caratteristiche principali includono:

  • Progettazione di agenti per specifici processi aziendali
  • Integrazione avanzata con fonti dati interne, API e servizi esterni
  • Realizzazione di soluzioni conversazionali personalizzate
  • Distribuzione su vari canali

Cosa sono gli agenti?

Gli agenti sono assistenti AI conversazionali programmati per eseguire attività specifiche o rispondere a domande, interagendo anche con sistemi esterni tramite API, connettori o plugin.

1.00

Grazie a Copilot Studio, questi agenti possono essere arricchiti con logiche personalizzate, flow conversazionali dinamici e connessioni con fonti dati o knowledge base, potenziando il supporto agli utenti in modo mirato.

  • Rispondono alle domande degli utenti recuperando o riepilogando le informazioni
  • Eseguono azioni quando richiesto, automatizzano i flussi di lavoro e sostituiscono le attività ripetitive
  • Operano in modo indipendente, pianificano, apprendono e inoltrano in modo dinamico

E' possibile pubblicare agenti ovunque, tra cui Microsoft 365 Copilot.

Quando si pubblica in Copilot, l'organizzazione trae vantaggio dalla possibilità di usare tale agente all'interno delle applicazioni in cui lavorano spesso i dipendenti, ad esempio Microsoft Teams, SharePoint e Microsoft 365 Copilot Chat.

Gli agenti coordinano una raccolta di modelli linguistici, insieme a istruzioni, contesto, fonti di conoscenza, argomenti, azioni, input e trigger per raggiungere gli obiettivi desiderati.

1.00

È possibile aggiungere conoscenze e competenze agli agenti tramite i connettori e plugin.

1.00

I connettori sono elementi che consentono di aggiungere conoscenze e competenze personalizzate agli agenti:

  • Connettori Microsoft Graph (con/senza risultati di ricerca migliorati)
  • Connettori Power Platform

1.00

In Copilot Studio, gli agenti sono costruiti attorno a due concetti chiave:

  1. Argomenti
  2. Azioni
Argomenti

Gli argomenti sono i mattoni fondamentali delle conversazioni in Copilot Studio.

Ciascun argomento rappresenta un insieme coerente di domande, risposte e logiche di interazione relative a uno scenario specifico o a una particolare esigenza dell’utente.

  • Attivazione tramite frasi trigger:
    Ogni argomento viene avviato da una o più “frasi trigger”, ovvero domande o affermazioni che l’utente può digitare per avviare lo scenario (ad esempio: “Come faccio a prenotare una sala?”)
  • Sequenza strutturata di interazioni:
    Una volta attivato, l’argomento segue un percorso definito composto da messaggi, domande all’utente, condizioni logiche e passaggi tra diversi nodi, questo schema permette di guidare l’utente passo a passo e adattare la conversazione in base alle sue risposte.
  • Capacità dinamiche:
    Gli argomenti possono richiamare azioni (come lanciare un workflow o interagire con servizi esterni), porre domande per raccogliere informazioni, generare risposte personalizzate oppure spostare la conversazione su sottotemi correlati, mantenendo comunque coerenza rispetto allo scenario iniziale

In pratica, un argomento crea una sorta di micro-conversazione focalizzata, ad esempio per gestire richieste di ferie, aprire un ticket di supporto o rispondere a FAQ sulle policy aziendali.

Azioni

Le azioni rappresentano i “mattoncini operativi” all’interno di Copilot Studio: sono le unità fondamentali attraverso cui l’agente esegue compiti pratici e automatizza i processi.

Ogni azione corrisponde a un passaggio concreto, come inviare un messaggio, porre una domanda all’utente, effettuare una chiamata a un servizio esterno, salvare una variabile o avviare un workflow automatizzato.

Copilot Studio Vs Azure AI Studio

Azure AI Studio (ora Azure AI Foundry) e Copilot Studio rappresentano due approcci distinti e complementari nell’ecosistema Microsoft per lo sviluppo di soluzioni basate su intelligenza artificiale, ciascuno con aree di applicazione, target utente e livelli di personalizzazione ben precisi.

1.00

Azure AI Foundry è pensato per sviluppatori, data scientist e team IT che necessitano di massima flessibilità e controllo sulla modellazione, training e distribuzione di soluzioni AI avanzate:

  • Sviluppare, addestrare e validare modelli di machine learning personalizzati partendo da zero o utilizzando framework open-source
  • Gestire pipeline di dati, orchestrare esperimenti, monitorare e valutare le performance dei modelli
  • Integrare direttamente modelli nel cloud (es. con servizi Azure OpenAI, Cognitive Services, AutoML) e su larga scala
  • Supportare un ciclo di vita completo della soluzione AI, dalla raccolta dei dati fino al deployment sui sistemi aziendali

1.00

Copilot Studio, invece, nasce come piattaforma low-code/no-code pensata per utenti business, consulenti IT e citizen developer:

  • Permettere la creazione rapida di agenti conversazionali, chatbot e automazioni tramite un’interfaccia visuale intuitiva
  • Integrare gli agenti con fonti dati aziendali (es. SharePoint, Dataverse, repository interni) e con servizi cloud Microsoft o di terze parti
  • Sfruttare il framework Copilot (LLM, prompt engineering, knowledge grounding) per estendere o personalizzare le capacità di Copilot for Microsoft 365 in scenari aziendali specifici
  • Consentire la pubblicazione degli agenti su diversi canali (Teams, siti web, app aziendali) senza dover scrivere codice complesso

È possibile, in certi casi, collegare modelli creati in Azure AI Foundry come plugin o servizi richiamabili da Copilot Studio, per ottenere soluzioni personalizzate e avanzate, mantenendo facilità d’uso per l’utente finale.

1.00

Integrazione con i servizi Azure

L’integrazione con i servizi esterni, tra cui Azure AI, è uno degli elementi distintivi e di forza della soluzione:

  • Azure AI Search, per l’indicizzazione e la ricerca semantica all’interno di repository aziendali strutturati e non strutturati
  • Azure OpenAI e Cognitive Services, per comprendere il linguaggio naturale, generare risposte e arricchire ulteriormente i flussi conversazionali
  • Azure Document Intelligence, per identificare documenti, estrarre informazioni da moduli e documenti, e restituire i dati estratti in un output JSON strutturato
  • Azure Computer Vision, per analizzare immagini e video al fine di estrarre informazioni utili
  • Altri servizi Azure, come Text Analytics (analisi del sentiment, estrazione di entità) o servizi di traduzione automatica

1.00

Queste integrazioni rendono possibile la creazione di agenti che non solo eseguono task, ma comprendono meglio il contesto, ricercano informazioni pertinenti e rispondono in modo sofisticato agli utenti.

Casi d'uso

Copilot Studio permette un’ampia gamma di applicazioni pratiche, facilitando la creazione di agenti personalizzati che rispondono a esigenze reali e migliorano l’efficienza operativa generale.

Tra gli esempi di utilizzo più comuni, troviamo:

  • Assistente HR self-service, i dipendenti possono facilmente ottenere informazioni sulle ferie, inviare richieste di permesso o ricevere risposte rapide su benefit e politiche aziendali, senza dover contattare direttamente l’ufficio HR
  • Nel customer service, i chatbot gestiscono le richieste di supporto, aiutano a trovare i prodotti o a risolvere problemi frequenti sul sito dell’azienda
  • IT helpdesk: gli assistenti virtuali in Teams possono guidare gli utenti nella risoluzione di problemi tecnici, automatizzare la gestione dei ticket o anche integrare servizi esterni per sbloccare account e resettare password
  • Funzioni commerciali: agenti su misura supportano il team di vendita nella preparazione di proposte, nella risposta a RFP o nella ricerca di informazioni sui prodotti e casi di successo

(Proof of Concept): Chatbot su Teams basato su KB esterna

Un esempio pratico può essere quello di creare un chatbot integrato come un'app in Teams, che risponde alle domande degli utenti consultando una knowledge base esterna, come ad esempio un documentale aziendale.

1.00

Architettura e Flusso

  1. Repository aziendale: (file, documenti, wiki)
  2. Indicizzazione e vettorializzazione con Azure AI Search: i contenuti dei repository vengono processati e indicizzati dal servizio, che trasforma i dati in vettori grazie all’integrazione con il modello di embedding deployato su Azure OpenAI
  3. Configurazione dell’agente in Copilot Studio: il chatbot viene “addestrato” per consultare la knowledge base tramite il plugin/connector per Azure AI Search
  4. App Teams: una volta che l’agente viene progettato e testato è possibile pubblicarlo come app Teams
  5. Processo di ricerca semantica: l’agente, una volta attivato, consulta la KB che è stata precedentemente indicizzata e vettorializzata da Azure AI Search
  6. Risposte immediate e accurate: l’utente in Teams riceve informazioni e può interagire in linguaggio naturale senza dover navigare manualmente tra le risorse aziendali

Implementazione

L’implementazione di Azure AI Search come knowledge base in Copilot Studio consente di realizzare assistenti virtuali aziendali capaci di fornire risposte dinamiche e pertinenti, basandosi su una base dati centralizzata e continuamente aggiornata.

1.00

Questo approccio permette di sfruttare la potenza della ricerca semantica e delle tecnologie di embedding avanzate.

Azure AI Search

Per integrare Azure AI Search in Copilot Studio, il processo inizia accedendo al portale Azure per creare il servizio.

Dopo aver configurato il search service, i dati (ad esempio da un archivio blob o un file Excel senza immagini) vengono importati e vettorializzati sfruttando un modello di embedding fornito da Azure OpenAI Service.

Il wizard Importa data and vectorize di Azure AI Search guida l’utente in modo visuale attraverso tutte le fasi necessarie per collegare, trasformare e indicizzare dati in modalità vettoriale in Azure, permettendo così ricerca semantica e avanzata.

1.00

Il primo passo consiste nella selezione della sorgente dati, in questo esempio un account di Azure Blob Storage che contiene file come documenti PDF o immagini.

1.00

Se si utilizza un modello RAG semplice (basato solo su testo) o multimodale (testo + immagini), è necessario specificarlo nella fase successiva. Questo implica anche la possibilità di integrare il servizio Azure Document Intelligence.

La scelta del servizio Azure AI multiservice account è fondamentale per gestire al meglio le chiamate a diversi modelli e servizi, semplificando autenticazione, gestione dei permessi e costi centralizzati.

1.00

Si procede poi con la vettorizzazione vera e propria. È necessario selezionare il servizio Azure OpenAI (o, per immagini, Azure AI Vision/Foundry), specificando il modello di embedding già deployato (ad esempio “text embedding large 3”).

1.00

Questo modello trasformerà i contenuti testuali in vettori, rendendoli ricercabili in modalità semantica.

1.00

Tra le impostazioni avanzate, è possibile abilitare il semantic ranker, che migliora la pertinenza dei risultati assegnando punteggi basati sul significato globale delle query e dei documenti.

1.00

Si definisce poi la schedulazione, scegliendo se l’indicizzazione dei dati debba avvenire periodicamente.

Alla fine del processo i seguenti asset saranno creati:

  • Indice: la struttura dati che contiene tutti i campi necessari per supportare la ricerca full-text, vettoriale e ibrida
  • Indexer: un componente che si occupa di estrarre i dati dalla sorgente, applicare le trasformazioni (come la vettorizzazione) e popolare l’indice, agisce secondo la schedulazione prestabilita, gestendo anche aggiornamenti o cancellazioni
  • Skillset: un insieme di “abilità” o funzioni cognitive che arricchiscono i dati durante l’indicizzazione (ad esempio, estrazione di concetti dal testo, riconoscimento entità, OCR, language detection), può essere personalizzato e ampliato per aggiungere analisi AI specifiche mentre i dati vengono processati

Abilitare una ricerca semantica permette al sistema di restituire risultati rilevanti anche quando le richieste degli utenti sono formulate in modo diverso rispetto ai termini e alle espressioni presenti nei dati di origine.

Copilot Studio

Successivamente, si avvia la configurazione di Copilot disabilitando la conoscenza generale per limitare le risposte esclusivamente al dominio importato.

1.00

1.00

E' possibile implementare una logica per cui, se la risposta non viene trovata nella knowledge base interna (ad esempio SharePoint, Azure AI Search, QnA, ecc.), l’agente può “eseguire il fallback” e cercare la risposta su internet tramite un’azione custom, e informare l’utente che la fonte non è interna e la risposta potrebbe non essere affidabile o aggiornata per il contesto aziendale.

Per abilitare la connessione tra Copilot Studio e Azure AI Search, si utilizza Power Automate, creando una nuova connessione utilizzando l’endpoint URL e la chiave di amministrazione del servizio di ricerca.

1.00

1.00

Questa connessione viene poi selezionata direttamente nell’area avanzata di Copilot Studio come fonte conoscitiva e viene specificato l’indice di ricerca.

1.00

Il risultato di questa integrazione consente all’agente creato in Copilot Studio di rispondere a domande complesse relative alle proprietà, fornendo dati dettagliati recuperati in tempo reale tramite Azure AI Search. 

Possiamo rendere la personalizzazione ancora più interessante lavorando sugli argomenti.

1.00

1.00

Distruzione in Teams

Una volta distribuito il bot tramite Copilot Studio collegato ad Azure OpenAI, l’agente sarà in grado di fornire risposte generative pertinenti, complete di citazioni e riferimenti dettagliati, valorizzando sia dati aziendali strutturati sia fonti pubbliche con un’esperienza conversazionale avanzata e altamente contestualizzata.

1.00

Testing e utilizzo

Testare direttamente il funzionamento, valutando così la bontà e l’accuratezza delle risposte.

1.00

Analisi

Il riquadro delle analisi degli argomenti fornisce una panoramica chiara e dettagliata delle prestazioni dei singoli argomenti, evidenziando punti di forza e possibili aree di miglioramento.

1.00

Oltre alle funzionalità di analisi disponibili direttamente in Copilot Studio, è possibile integrare la telemetria avanzata tramite Application Insights.

Tuning

Nelle impostazioni di Copilot Studio è possibile attivare l’intelligenza generativa avanzata, che consente di effettuare un tuning più sofisticato dell’agente.

1.00

In particolare, utilizzando il modello di ragionamento approfondito Azure OpenAI o1, l’agente è in grado di comprendere il contesto in modo più profondo e portare a termine attività complesse in modo più efficace.

Per sfruttare questa capacità, basta aggiungere il parametro "reason" a un’attività o a un passaggio nelle istruzioni dell’agente, permettendo così l’utilizzo attivo del modello di deep reasoning su specifici task o flussi conversazionali.

Funzionalità aggiuntive
  • Risoluzione delle sovrapposizioni degli argomenti: questa funzione riduce la necessità di domande di chiarimento agli utenti quando più argomenti sono potenzialmente rilevanti, migliorando la fluidità dell’interazione
  • Suggerimento per argomenti da trascrizione: analizza le sessioni tra agente e utenti, identificando dati che non corrispondono ad argomenti già esistenti e fornendo suggerimenti automatizzati per nuovi argomenti da sviluppare

Riferimenti

Related Posts

Copilot Studio & Azure AI - Creare chatbot evoluti RAG-driven

Copilot Studio & Azure AI - Creare chatbot evoluti RAG-driven

Guida tecnica per l'integrazione di Copilot Studio e Azure AI con esempio avanzato

Migrazione da TIBCO Mashery ad Azure API Management

Migrazione da TIBCO Mashery ad Azure API Management

Case Study

Azure VMware Solution - Networking Aspects

Azure VMware Solution - Networking Aspects

Una panoramica di AVS con un approfondimento sulla parte di networking

Da Solaris a Linux - Un viaggio verso Azure

Da Solaris a Linux - Un viaggio verso Azure

Case study

AI Integration - Un case study su Azure Document Intelligence

AI Integration - Un case study su Azure Document Intelligence

Case Study

IA e Microsoft Azure

IA e Microsoft Azure

Servizi di Intelligenza Artificiale nel cloud Azure

Azure Kubernetes Service - Apache Superset deployment

Azure Kubernetes Service - Apache Superset deployment

Apache Superset deployment in Azure Kubernetes Service

Azure Cloud - Reference Architecture Design

Azure Cloud - Reference Architecture Design

Reference Architecture for Azure cloud environment