Tôt ou tard, toutes les organisations utiliseront l’IA générative. Votre réussite avec l’IA générative dépend de l’efficacité et de la sécurité avec lesquelles les ensembles de data uniques de votre organisation peuvent être utilisés avec les modèles de fondation et dans les applications d’IA générative.

[CTA_MODULE]

Dans cet article, je vais vous expliquer comment Fivetran accélère la construction d’applications d’IA générative pour le service client. Je vous présenterai le processus à l’aide de Google Cloud/BigQuery, de Google Cloud Storage et de Vertex AI. Si vous ne connaissez pas déjà Fivetran, il s’agit d’une plateforme de déplacement de data entièrement automatisée et gérée qui permet de fournir des data de haute qualité, utilisables et fiables pour toute charge de travail de data dans BigQuery. L’intégration avec BigQuery et Vertex AI est également spéciale ; j’expliquerai plus tard comment ces deux outils fonctionnent ensemble.

Vertex AI, qui fait partie de Google Cloud, comprend une expérience de studio, des API d’IA générative, des modèles de fondation et plusieurs méthodes de création rapide d’applications. Aujourd’hui, je vais me concentrer sur la configuration, avec Fivetran, d’une variété de connecteurs vers les sources qui hébergent les data de mon service client. Dans les entreprises, ces data sont généralement dispersées sur plusieurs plateformes, notamment des databases opérationnelles, des systèmes de fichiers et des applications telles que Jira, Zendesk et Slack.

À l’aide de Fivetran, je déplace ces data vers Google BigQuery, puis je prototype rapidement une application de recherche d’IA générative simple et une application de chat dans Vertex AI. Cependant, pour créer ces applications d’IA générative, j’ai besoin de data contextuelles et ciblées, spécifiques à mon organisation. C’est à cette étape qu’intervient la plateforme data automatisée de Fivetran.

Fivetran vous permet de centraliser les data de manière entièrement automatisée et gérée tout en modernisant votre infrastructure data, en établissant un libre-service de data plus large et en construisant des solutions de data qui font la différence, comme les applications d’IA générative. Toutes les réalisations présentées dans cet article ont été possibles sans code ni maintenance.

Pour en savoir plus sur cette approche d’IA générative avec Fivetran, BigQuery et Vertex AI, regardez la vidéo ci-dessous.

C’est parti, nous allons transférer nos ensembles de data vers BigQuery avec Fivetran et commencer à découvrir l’IA générative.

Ajout d’un nouveau connecteur source avec Fivetran

Je dispose déjà de plusieurs sources de data qui alimentent Google BigQuery. Ici, vous voyez notamment SAP ERP, Workday, SQL Server, GA4 et S3.

C’est parti, nous allons transférer nos ensembles de data vers BigQuery avec Fivetran et commencer à découvrir l’IA générative.

‍

Plus de 500 connecteurs sources sont disponibles sur Fivetran, y compris la prise en charge de PostgreSQL hébergé sur tous les principaux services cloud. L’un de mes ensembles de data d’assistance client est hébergé sur Google Cloud PostgreSQL.

Les équipes Fivetran chargées de l’ingénierie, des produits et de la documentation technique font un travail fantastique en décrivant les étapes à suivre afin que les data circulent rapidement dans BigQuery. Si vous souhaitez savoir ce qui se passe en dehors de l’interface utilisateur de Fivetran, consultez cette page (en anglais) : Guide de configuration Google Cloud PostgreSQL.

En outre, pour chaque source et destination, la documentation comprend des détails sur la prise en charge des versions, la configuration et les fonctionnalités, les limitations éventuelles, une vue d’ensemble de la synchronisation, des informations sur les schémas, les transformations de type et bien plus encore. La page des détails de la source PostgreSQL est disponible ici.

Il est important de noter que, dans l’interface utilisateur Fivetran, toutes les pages de configuration de la source sont encadrées à droite par le guide de configuration dans la navigation grise de droite. Il s’agit d’un moyen rapide de s’assurer que vous comprenez les options permettant de se connecter rapidement à n’importe quelle source avec Fivetran.

Je parle beaucoup de prévisibilité, de normalisation et des options. Je peux choisir le nom du préfixe de mon schéma sans avoir besoin de créer des schémas ou des tables à l’avance dans BigQuery.

Pour ce connecteur, je vais utiliser le préfixe suivant :

pg_bg_cs3

À cette étape, Fivetran a besoin d’identifiants pour s’authentifier auprès de la database PostgreSQL, notamment le nom d’hôte, le nom d’utilisateur, le mot de passe et la database à laquelle je souhaite accéder dans cette instance PostgreSQL, c’est-à-dire la database industrielle.

Fivetran gère automatiquement la synchronisation initiale et la change data capture (CDC) incrémentielle. Une fois la synchronisation initiale de l’historique terminée, Fivetran effectue des mises à jour incrémentielles de toutes les data nouvelles ou modifiées de la database source PostgreSQL. Je peux choisir entre WAL, XMIN ou Fivetran Teleport (détection des changements sans journal) pour effectuer des mises à jour incrémentielles.

Je dispose également plusieurs options de connexion pour cette database PostgreSQL. Ces options comprennent les solutions SSH, SSH inversé, VPN, Google Private Service Connect et un agent proxy.

Je vais me connecter directement à cette source de database. Tout comme pour les méthodes de connexion, vous disposez de plusieurs options pour la détection des modifications dans la database. Pour PostgreSQL, je peux choisir entre WAL, XMIN ou Fivetran Teleport Sync, en fonction de mon cas d’utilisation et des exigences de l’organisation.

Aujourd’hui, j’opte pour Teleport Sync. Il s’agit d’un mécanisme de détection des changements sans journal. Fivetran effectue ensuite des tests de connexion à la database. Fivetran chiffre toutes les data en déplacement et utilise le protocole TLS, ce qui permet le chiffrement et l’authentification des connexions que Fivetran établit avec la database PostgreSQL. Toutes les data stockées de manière éphémère dans le service Fivetran sont également chiffrées conformément à la norme AES 256.

Sélection de l’ensemble de data d’interactions avec le service client à utiliser avec Google BigQuery et Vertex AI

Fivetran se connecte ensuite aux schémas, tables et colonnes accessibles dans la database PostgreSQL et les récupère. Pour cette database industrielle, je dispose de 13 schémas. Je peux synchroniser tous les éléments dans la database pour ce connecteur ou déterminer de manière sélective mon ensemble de data, l’option que je choisis aujourd’hui.

J’ai uniquement besoin de la table des interactions dans le schéma du service client. Il me suffit de bloquer tous les autres schémas et tables pour qu’ils ne soient pas transférés vers BigQuery.

Schéma : customer_service

Table : interactions

En passant le curseur de la souris sur l’une des colonnes des tables, une option d’anonymisation au niveau de la colonne s’affiche. Cela permet de renforcer la confidentialité des data et d’anonymiser les data PII que je ne souhaite pas transférer de ma database vers BigQuery. Il est important de noter que l’anonymisation de Fivetran permet toujours d’utiliser cette colonne dans mon flux de travail d’application d’IA générative en aval.

Gestion des changements de source et de la dérive des schémas

Fivetran doit ensuite savoir comment je souhaite gérer les changements incrémentiels, puisque la database changera à l’avenir.

Je choisis « Tout autoriser », mais de nombreuses options sont disponibles. Tous les changements de DML et DDL sont automatiquement capturés par Fivetran et transmis à BigQuery, sans codage nécessaire. Je peux déterminer la fréquence d’interrogation de la source PostgreSQL pour la détection des changements et le transfert ultérieur vers BigQuery.

Lancement de la synchronisation initiale de PostgreSQL vers Google BigQuery

Une fois ces sélections enregistrées et testées, je suis prêt à synchroniser mon ensemble de data d’interactions de service client depuis PostgreSQL vers BigQuery. N’oubliez pas que Fivetran déplacera non seulement l’ensemble de data d’interactions que nous venons de sélectionner lors de la synchronisation initiale de l’historique, mais aussi que la change data capture (CDC) est automatiquement configurée pour que toute modification ultérieure apportée à cette table ou à ces colonnes soit reflétée dans BigQuery. Aucun code n’est nécessaire et les changements incrémentiels sont capturés selon le calendrier que vous avez défini.

Il s’agissait d’un petit ensemble de data, une seule table. La synchronisation initiale a été réalisée très rapidement.

Une fois que Fivetran a déplacé les data et terminé la vérification des erreurs, la plateforme ne stocke plus aucune data. Un curseur est maintenu au point de synchronisation afin de capturer les changements pour la prochaine synchronisation incrémentielle.

Fivetran propose un intervalle par défaut de six heures pour les synchronisations incrémentielles, mais je peux le modifier pour obtenir un intervalle d’une minute à 24 heures, en fonction de mon cas d’utilisation et des exigences de data actualisées pour le produit de data en aval.

Mon connecteur PostgreSQL (pg_bg_cs3) se trouve maintenant dans la liste avec tous les autres connecteurs et j’ai accès à toutes ces sources de data dans BigQuery.

Découvrez le nouvel ensemble de data dans BigQuery

Vous pouvez voir les autres ensembles de data existants dans BigQuery à partir desquels je peux travailler. Il y a aussi mon schéma PostgreSQL et la table que Fivetran a transférée, l’ensemble de data sur les interactions de service client que je voulais avoir à disposition. Ce qui est important, c’est que Fivetran fournisse une représentation fidèle de l’ensemble de data d’interactions source de BigQuery, mais aussi que ces data soient prêtes pour une charge de travail de data BigQuery.

Ajout d’un ensemble de data Slack pour les data de messagerie

Avant de créer une application d’IA générative dans Vertex AI, je souhaite vous montrer à quel point il est simple de créer un ensemble complet de data de service client ciblées et contextuelles pour les applications d’IA générative. Je vais rapidement créer plusieurs autres ensembles de data dans BigQuery en me connectant à d’autres sources.

La qualité de vos applications d’IA dépend largement de celle de vos data. Pour mettre en œuvre une application d’IA générative de production, vous aurez besoin de sources de data contextuelles supplémentaires.

Aujourd’hui, j’ai choisi Slack, Zendesk et Jira. Les connecteurs d’application Fivetran se connectent via une API. Pour connecter Slack à Fivetran afin de consolider les informations Slack dans BigQuery, il suffit d’avoir accès à un compte Slack actif.

Je tiens à sincèrement remercier Angel Hernandez de chez Fivetran. Il m’a donné accès à un compte de démonstration Slack complet et me fournit régulièrement des sources et des destinations incroyables pour des démonstrations.

Il me suffit de fournir le nom du schéma et d’autoriser l’API du connecteur Slack pour que Fivetran puisse effectuer le test de connexion final. C’est aussi simple que cela. Ensuite, je lance la synchronisation initiale.

Ajout d’un connecteur Jira pour les data de suivi des problèmes

Fivetran prend en charge Jira dans les environnements locaux et cloud. La manière dont Fivetran se connecte à Jira dépend de votre installation Jira. Pour le cloud Jira, Fivetran a besoin de mon nom d’hôte Jira, du port et d’un utilisateur connecté détenant les autorisations appropriées.

Je peux utiliser OAuth ou l’authentification de base. Il existe également un lien d’application configuré dans Jira qui associe les applications entre elles. J’aurai également besoin d’une clé client et d’une clé publique dans le formulaire Jira. Dans ce cas, cette étape Jira a été réalisée pour moi.

Enfin, je peux choisir le mode de synchronisation des problèmes. Je peux synchroniser tous les projets ou seulement quelques-uns. Ici, je choisis quelques exemples de projets.

Fivetran propose également des modèles de data à démarrage rapide pour le connecteur Jira. Je demande à Fivetran de construire automatiquement ces modèles pour moi dans Google BigQuery à l’aide de dbt.

Ajout d’un connecteur supplémentaire : Zendesk Support pour les interactions d’assistance

J’aimerais aussi ajouter un autre ensemble de data à BigQuery : mes informations d’assistance client dans Zendesk. Fivetran dispose de plusieurs connecteurs Zendesk et, comme on peut s’y attendre, l’installation est très rapide et extrêmement simple.

J’ai uniquement besoin de mon nom de domaine d’assistance Zendesk et d’un compte Zendesk avec un rôle d’administrateur. Fivetran propose de nombreux modèles de data prêts à l’emploi et, comme pour Jira, les modèles de data à démarrage rapide sont disponibles pour Zendesk, ce qui me permet de disposer de data prêtes pour l’analyse dans BigQuery.

Je n’ai même pas besoin de mon propre projet dbt ou d’outils tiers pour lancer le processus. Fivetran s’occupe de tout pour moi en arrière-plan.

Très bien, je pense que mon ensemble de data de service client est maintenant prêt. Je vais revenir sur BigQuery et jeter rapidement un coup d’œil à l’ensemble de data qui est désormais centralisé et prêt à être utilisé.

Fivetran et BigQuery fonctionnent ensemble et m’offrent une approche moderne et en libre-service pour créer des applications d’intelligence artificielle sur ces ensembles de data contextuelles. Si vous souhaitez utiliser le même ensemble de data d’interactions d’entraînement d’assistance client Bitext que celui dans PostgreSQL, vous pouvez le trouver sur GitHub ici. À ce stade, plus de 20 sources alimentent BigQuery et vous avez découvert comment configurer quatre sources clés.

Quelques points forts de Vertex AI

Je vais maintenant passer au côté droit de l’architecture et commencer à utiliser Vertex AI et BigQuery pour construire quelques applications simples d’IA générative. Je vais commencer par une application de recherche, puis nous passerons à une application de chat. Ces deux applications portent sur l’assistance client.

Vertex AI vous permet de créer rapidement des applications d’IA générative. Je dispose également d’une gamme de modèles parmi lesquels je peux choisir et Vertex AI entraîne, teste et ajuste automatiquement les modèles prédictifs pour moi au sein d’une plateforme unique. Cela permet d’accélérer considérablement le développement et, en fin de compte, de réduire le temps d’entraînement, le délai de rentabilisation et les coûts.

Vertex AI intègre des capacités incroyables, mais je n’en décrirai que quelques-unes aujourd’hui.

Construction d’une application de recherche d’IA générative avec BigQuery et Vertex AI

Je continue mon parcours en matière d’IA générative Google avec Vertex Search and Conversation. J’ai construit quelques applications, mais je veux en ajouter une nouvelle. J’ai le choix entre quatre types d’application : recherche, chat, recommandations et manuel génératif. Testons quelques-unes de ces applications.

L’approche déclarative de la recherche et de la conversation de Vertex AI est intéressante pour les personnes comme moi qui ne sont pas ingénieurs en intelligence artificielle ou en data. Je souhaite créer une nouvelle application de recherche et l’étape de configuration est simple.

Il me suffit de nommer l’application puis d’indiquer le nom de l’entreprise et sa localisation.

Ici, j’indique à Vertex AI le magasin de data que je souhaite utiliser comme fondation de mon application.

Je dispose de quelques magasins de data existants, mais j’aimerais accéder à l’ensemble de data d’interactions de service client que j’ai consolidé dans BigQuery précédemment avec Fivetran.

Je recherche mon schéma et j’indique à Vertex AI le type de data que j’utilise. Dans ce cas, il s’agit de tables BigQuery structurées.

J’ai besoin d’un nom unique pour mon magasin de data. Je le sélectionne. Vertex AI traite ces informations pendant que je peux me consacrer à d’autres activités.

Construction d’une application de chat d’IA générative avec BigQuery et Vertex AI

Pendant que mon application de recherche se construit, je vais également créer une application de chat d’IA générative.

La création d’une application de chat avec Vertex AI suit le même processus que celui que je viens de présenter pour une application de recherche. Cette fois-ci, Vertex AI me guide dans la configuration d’un agent conversationnel.

Une fois la configuration de l’application de chat conversationnel terminée, je choisis mon ensemble de data. Je crée un nouveau magasin de data à partir d’une autre version des data d’interactions de service client qui se trouvent dans Google Cloud Storage au format PDF non structuré.

Je tiens à souligner que Fivetran peut transférer n’importe quel type de data structurées ou semi-structurées vers BigQuery, y compris les tables relationnelles, CSV, JSON, XML, Parquet, Avro, etc. Toutefois, j’ai déposé ce PDF dans GCS séparément avec quelques documents semi-structurés que j’avais transférés dans GCS à l’aide de Fivetran.

Découvrez l’application de recherche d’IA générative dans Vertex AI

Il s’agit de la forme structurée de l’ensemble de data d’interactions. J’accède maintenant à la page de prévisualisation des recherches et j’effectue quelques recherches simples. J’ai uniquement utilisé la page de configuration standard.

Si je souhaite formater mes résultats de recherche, le processus est simple et Vertex AI propose des contrôles intéressants dans l’onglet widget.

Test de l’application de chat d’IA générative dans Vertex AI

Le modèle de mon application de chat de service client est encore en cours d’entraînement, je vais donc utiliser l’application de chat de service client que j’ai construite précédemment. Il s’agit du même ensemble de data : l’ensemble de data d’interactions de service client.

Pour l’application de chat, Vertex affiche la palette Dialogflow CX pour que je puisse procéder au test de mon agent. Il s’agit d’un ensemble de data relativement limité, mais n’oubliez pas qu’il est ciblé et contextuel, des caractéristiques essentielles.

Je vais effectuer quelques tests dans le simulateur, avant d’ajouter l’agent à un site Web simulé dans CodePen. Comme vous pouvez vous y attendre, je pose des questions typiques de service client. Je souhaite poser des questions sur les options de livraison, l’annulation de commande et les modifications de commande et constater de quelle manière l’application de chat Vertex AI répond à chaque message.

Le modèle a été entraîné à toute vitesse et l’application a été construite avec une rapidité exceptionnelle. Les réponses que j’ai obtenues jusqu’à présent me conviennent.

‍

C’est super, vraiment super. Je n’ai pas eu à effectuer de configuration ou d’installation supplémentaire, ni à saisir des réponses types, des réponses de test, des questions ou quoi que ce soit d’autre.

Tout cela se passe en temps réel et il est certain que chaque élément peut être ajusté davantage dans Vertex AI. Je suis maintenant satisfait de cette application et je souhaite la publier sans attendre. Vertex AI génère automatiquement le code dont j’ai besoin pour ajouter l’agent sur mon site Web.

Ajout de l’application de chat Vertex AI à mon simulateur de site Web CodePen

Étant donné que je n’ai pas de site Web, je vais utiliser CodePen. Voici un lien vers CodePen pour découvrir cet outil si vous ne l’avez jamais utilisé auparavant. Il s’agit d’une communauté en ligne qui permet de tester et de présenter des applications simples et vos propres extraits de code.

Je vais nommer ce CodePen Customer_Service_Chat. Il ne me reste plus qu’à y coller le code que Vertex a généré pour moi. Mon agent devrait être prêt à fonctionner, comme indiqué dans la bulle bleue située dans le coin. Je m’attends également à ce que le comportement soit très similaire à ce que j’ai vu dans le simulateur Vertex.

Mes tests comprenaient une rapide salutation conviviale, puis des questions sur les options d’expédition et quelques autres éléments comme nous l’avons fait précédemment directement dans le simulateur Vertex.

Dans l’ensemble, je suis vraiment satisfait de l’application de chat. Je suis impressionné par la facilité d’intégration de l’ensemble de data, la construction, l’intégration, les performances et le fait que je n’ai pas eu besoin d’une équipe d’ingénieurs data et d’ingénieurs ML pendant 8, 10 ou 12 sprints ou plus.

Tant que j’y suis… quelques fonctionnalités supplémentaires de l’application de chat Vertex AI

Les paramètres d’agent de Vertex AI pour cette application de chat sont intéressants.

Dans l’onglet Generative AI, vous pouvez voir que j’utilise Gemini Pro, mais j’ai le choix entre plusieurs modèles.

Si vous souhaitez que votre application de chat réponde à des messages audio, vous pouvez rapidement configurer une passerelle téléphonique en sélectionnant un numéro de téléphone disponible. Lorsque j’ai testé la passerelle, les réponses de l’application de chat étaient presque identiques à celles fournies dans l’application Web.

‍

Si vous avez besoin de davantage d’enrichissement et de transformation de data

Je voudrais revenir brièvement sur les transformations Fivetran. Fivetran offre une intégration transparente avec dbt, avec notamment plus de 20 modèles de data à démarrage rapide pour deux des connecteurs que j’ai configurés aujourd’hui, Jira et Zendesk.

Les modèles de data à démarrage rapide Fivetran vous permettent de générer automatiquement des tables prêtes pour l’analyse à l’aide de modèles de data prédéfinis. Les data sont transformées sans code, sans projet dbt supplémentaire et sans outils tiers. Vous pouvez également vous connecter à votre propre projet dbt Core avec des dizaines de packages dbt supplémentaires que Fivetran a développés et mis à disposition.

Les transformations comprennent la planification intégrée. Ils déclenchent automatiquement l’exécution des modèles après la synchronisation des connecteurs Fivetran. Vous pouvez consulter la vaste gamme de connecteurs prenant en charge les modèles de data à démarrage rapide, dbt Core et maintenant dbt Cloud. Vous disposez donc de trois options pour répondre à tous vos besoins en matière de transformation.

Commencer dès maintenant

La création d’applications de recherche et de chat d’IA générative avec Google BigQuery et Vertex AI était simple et rapide. Fivetran s’assure que tous les déplacements de data vers Google Cloud sont normalisés et automatisés, quelle que soit la source de data. Chaque pipeline étant entièrement automatisé et géré, cela garantit la fiabilité, l’évolutivité, la prévisibilité, la sécurité et le contexte pour les applications d’IA générative.

Si vous souhaitez tester Fivetran dans le cadre d’un cas d’utilisation d’IA générative Google Cloud ou de toute autre charge de travail data, Fivetran vous facilite la tâche en vous proposant un essai gratuit de 14 jours.

Je serais ravi d’avoir votre retour sur les connecteurs, les charges de travail data ou les cas d’utilisation dont vous aimeriez disposer à l’avenir. Prenez soin de vous !

À propos de l’auteur

Kelly Kohlleffel dirige l’organisation Fivetran Global Partner Sales Engineering, travaillant avec un large écosystème de partenaires technologiques et de services de conseil sur les approches de produits et de solutions de data modernes. Il anime également le podcast Fivetran Data Drip, dans lequel certains des esprits les plus brillants de la communauté data parlent de leur parcours, de leur vision et de leurs défis en matière de data. Avant Fivetran, il a travaillé chez Hashmap et NTT DATA (conseil en solutions et services de data), Hortonworks (Hadoop) et Oracle. Vous pouvez contacter Kelly sur LinkedIn ou le suivre sur Twitter.