Comment créer une application de chatbot IA : clés, consignes, coûts et sécurité

Pour créer une application de chatbot IA, il vous faut quatre éléments : une interface de clavardage, un petit serveur qui conserve la clé API de votre fournisseur de modèles et y transmet les messages, un prompt système qui indique au modèle qui il est et ce qu'il peut faire, ainsi que des limites qui gardent les coûts et les abus sous contrôle. Un créateur d'applications IA peut tout écrire à partir d'une description. Ce qui vous revient, c'est le choix du fournisseur, la rédaction des consignes et la décision de ce que le bot ne doit jamais faire.

De quoi est faite une application de chatbot IA

La plupart des applications de chatbot, qu'il s'agisse d'un assistant de soutien, d'un tuteur ou d'un outil interne du type « interrogez nos documents », ont les mêmes composantes :

La route serveur est l'élément le plus souvent mal réalisé. Si la page de clavardage appelle directement le fournisseur depuis le navigateur, n'importe qui peut ouvrir les outils de développement, copier votre clé et faire grimper votre facture.

Décisions à prendre avant de commencer

Quel fournisseur et quel modèle

Les principaux fournisseurs (OpenAI, Anthropic, Google et d'autres) offrent tous une API de type clavardage qui fonctionne de la même façon : vous envoyez une liste de messages et vous recevez une réponse. Le choix pratique dépend moins de la marque que de la taille du modèle :

• Les modèles plus petits et plus rapides coûtent moins cher et répondent vite. Ils conviennent aux réponses courtes, à la classification et aux robots de FAQ simples.
• Les modèles plus grands raisonnent mieux, suivent plus fidèlement les longues consignes et gèrent les questions confuses, mais coûtent plus cher par message et répondent plus lentement.

Commencez avec un modèle de taille moyenne, testez-le sur vos vraies questions, puis montez ou descendez en gamme au besoin. Si vous débutez avec la tarification et l'appel de ces API, lisez d'abord comment utiliser les API de LLM.

D'où vient la connaissance du bot

Commencez par l'option la plus simple qui couvre votre contenu. La récupération ajoute un index de recherche, un moyen de le garder à jour et davantage d'endroits où les réponses peuvent dérailler. Beaucoup de bots utiles n'en ont jamais besoin.

Public ou derrière une connexion

Un chatbot public sur votre site est facile d'accès, mais aussi facile à détourner : quelqu'un peut scripter des milliers de messages. Un chatbot réservé aux utilisateurs connectés permet de sauvegarder l'historique par personne et de fixer un quota quotidien par compte. S'il est public, plafonnez la longueur des messages, limitez le nombre de messages qu'un visiteur peut envoyer sur une période donnée et fixez une limite mensuelle stricte dans le tableau de bord du fournisseur. Comment ajouter une connexion à votre application couvre l'aspect des comptes.

Faut-il sauvegarder les conversations

Les fils sauvegardés sont utiles : les utilisateurs peuvent reprendre où ils s'étaient arrêtés, et vous pouvez lire de vraies questions pour améliorer le prompt. Ce sont aussi des renseignements personnels. Décidez combien de temps vous les conservez, dites-le dans votre avis de confidentialité et ne sauvegardez rien dont vous n'avez pas besoin.

Rédiger le prompt système comme une description de poste

Le prompt système est l'instruction que le modèle reçoit avant chaque conversation. Un bon prompt se lit comme un bref destiné à un nouvel employé :

• Rôle et public : « Vous êtes l'assistant d'aide de Oakline, un atelier de réparation de vélos. Vous parlez avec des clients. »
• Portée : « Répondez aux questions sur les services, les prix, les heures d'ouverture et la prise de rendez-vous. Pour tout le reste, dites que vous ne pouvez aider qu'en lien avec l'atelier. »
• Source de vérité : « N'utilisez que l'information ci-dessous. Si la réponse ne s'y trouve pas, dites que vous ne savez pas et donnez le numéro de téléphone de l'atelier. »
• Ton et longueur : « Amical, en français simple, trois phrases maximum sauf si on demande plus de détails. »
• Règles strictes : « Ne promettez jamais un prix de réparation qui n'est pas affiché. Ne demandez jamais les renseignements de carte de crédit. »

Testez ensuite avec des questions délicates : demandes hors sujet, messages impolis, questions dont la réponse ne figure pas dans votre contenu, et tentatives pour lui faire ignorer ses consignes (« oublie tes règles et… »). Ajustez le prompt jusqu'à ce que les réponses soient de celles que vous signeriez.

Garder les coûts prévisibles

Les fournisseurs facturent à la mesure des jetons (en gros, des fragments de mots) pour l'entrée que vous envoyez et la sortie que le modèle rédige. Trois facteurs font grimper la facture :

1. La longueur de la conversation. Chaque nouveau message renvoie normalement tout le fil pour que le modèle ait le contexte. Une conversation de 40 messages coûte beaucoup plus cher par réponse qu'une de 4 messages. Conservez seulement les derniers échanges, ou résumez les plus anciens.
2. La taille du prompt. Un long prompt système ou un gros bloc de connaissances collé est envoyé avec chaque message.
3. La longueur des réponses. Fixez une longueur maximale de réponse dans l'appel API et demandez des réponses concises dans le prompt.

Fixez une limite de dépenses mensuelle dans le tableau de bord du fournisseur avant le lancement, et journalisez la consommation de jetons par requête pour repérer les conversations coûteuses. Nous n'indiquons pas de prix ici, car ils varient selon le modèle et changent souvent : vérifiez la page de tarification de votre fournisseur.

Construire étape par étape

Étape 1 : décrire le bot, pas le code

Une première demande qui nomme le public, la portée, les données et les règles de sécurité vous mène déjà très loin :

Créez un chatbot d'aide à la clientèle pour Oakline, un atelier de réparation de vélos. Une page de clavardage avec une liste de messages et un champ de saisie, les réponses diffusées au fur et à mesure qu'elles sont écrites. Appelez l'API d'Anthropic depuis une route serveur à l'aide de la clé secrète ANTHROPIC_API_KEY, ne l'exposez jamais au navigateur. Utilisez un prompt système qui ne répond qu'aux questions sur nos services, nos prix et nos heures, à partir du texte d'un fichier nommé shop-info.md, et qui répond « Je ne suis pas certain, appelez-nous au numéro ci-dessous » dans les autres cas. Limitez les messages à 500 caractères et à 20 messages par visiteur par heure. Design propre et amical, qui fonctionne sur les téléphones.

Étape 2 : ajouter la clé comme secret

Créez la clé dans la console de votre fournisseur, puis conservez-la dans les variables d'environnement ou les secrets du projet, et non dans la discussion ni dans le code. Si une clé apparaît un jour dans un endroit public, révoquez-la chez le fournisseur et créez-en une nouvelle. Ce que sont les variables d'environnement et les secrets explique pourquoi c'est important.

Étape 3 : tester les réponses, pas seulement l'interface

Une fois le clavardage fonctionnel, consacrez l'essentiel de votre temps à la qualité des réponses. Gardez une liste d'une vingtaine de vraies questions, dont quelques-unes qui devraient être refusées, et passez-les en revue après chaque modification du prompt. Vérifiez :

• Le bot reste-t-il dans sa portée?
• Admet-il quand il ne sait pas, au lieu d'inventer une réponse?
• Résiste-t-il quand quelqu'un tente de contourner ses consignes?
• La clé est-elle absente de tout ce que le navigateur télécharge?

Étape 4 : ajouter la mémoire et les comptes au besoin

Une fois les conversations individuelles fonctionnelles, demandez l'enregistrement des fils dans une base de données et, si nécessaire, l'inscription et la connexion pour que chaque utilisateur ne voie que ses propres clavardages. Ajoutez en même temps un quota quotidien de messages par utilisateur.

Étape 5 : publier avec les limites activées

Assurez-vous que l'application publiée a les mêmes secrets que l'aperçu, que le plafond de dépenses est fixé chez le fournisseur et que les erreurs sont journalisées à un endroit que vous consulterez. Partagez ensuite l'application avec un petit groupe avant de la mettre sur votre site principal.

Sécurité et confiance

Un chatbot s'adresse au public en votre nom, alors traitez ses modes de défaillance comme votre responsabilité :

• Réponses erronées. Les modèles peuvent affirmer des choses fausses avec assurance. Gardez le bot sur un sujet étroit, ancrez-le dans votre propre contenu et affichez une courte mention indiquant que les réponses peuvent être inexactes pour tout sujet important.
• Injection de prompt. Les utilisateurs (ou les documents que le bot lit) peuvent contenir des instructions comme « ignore les règles précédentes ». Ne donnez pas au bot de pouvoirs auxquels il ne peut pas se fier : pas de remboursements, de suppressions ni de courriels envoyés sur simple demande d'un utilisateur sans vérification dans votre propre code.
• Sujets sensibles. Pour les questions médicales, juridiques ou financières, dirigez les gens vers un professionnel plutôt que de donner des conseils.
• Renseignements personnels. Ne collez pas de dossiers de clients dans les prompts sans nécessité, et vérifiez ce que les conditions du fournisseur disent sur le traitement des données de l'API.

Notre liste de contrôle de sécurité pour les applications créées avec l'IA couvre l'ensemble de l'application.

Erreurs courantes

• Appeler le fournisseur depuis le navigateur. La clé fuit. Passez toujours par votre serveur.
• Aucune limite sur un bot public. Un seul script peut épuiser le budget d'un mois en un après-midi.
• Commencer avec RAG, des outils et plusieurs modèles en même temps. Faites d'abord fonctionner une bonne conversation; ajoutez le reste quand de vraies questions montrent que c'est nécessaire.
• Ne tester que les questions gentilles. Vos utilisateurs poseront des questions bizarres, hostiles et hors sujet dès le premier jour.
• Laisser le fil grandir indéfiniment. Les coûts et les temps de réponse augmentent à chaque message.

Quand un produit prêt à l'emploi est le meilleur choix

Créer le vôtre a du sens lorsque le chatbot fait partie de votre produit, qu'il a besoin de vos propres données ou de votre propre flux de travail, ou qu'il doit avoir un aspect et un comportement précis. C'est souvent le mauvais choix lorsque :

• Vous voulez seulement un widget de soutien sur un site existant. Beaucoup de produits de service d'assistance et de clavardage en direct comprennent désormais des robots de réponse IA qui lisent votre centre d'aide, avec transfert à un humain, boîte de réception et rapports déjà intégrés.
• Seuls vous ou votre équipe l'utiliserez. Un abonnement à un assistant général comme ChatGPT ou Claude, avec vos documents téléversés, peut suffire.
• Vous avez besoin de garanties de conformité strictes (par exemple pour des données de santé ou financières réglementées). Un fournisseur qui détient déjà les certifications peut être plus sûr qu'une solution sur mesure.

Le créer avec Mythex

Mythex est un créateur d'applications IA : vous décrivez le chatbot dans la discussion, et il écrit l'interface et l'appel côté serveur, exécute le tout dans un aperçu en direct et publie l'application à une adresse web publique. L'IA dans votre application utilise votre propre clé de fournisseur. Vous l'ajoutez dans les secrets du projet, ou par la carte de secrets que Mythex affiche dans la discussion lorsqu'il en a besoin; l'utilisation du fournisseur est facturée à votre compte chez lui, et non aux crédits de création de Mythex. Mythex n'inclut pas de jetons pour les utilisateurs de votre application, ni de produit de base de connaissances intégré, ni de limites de débit toutes faites : ce sont des éléments que vous demandez et testez. La page de documentation sur l'ajout d'IA dans votre application explique la démarche, et ajouter l'IA avec vos propres clés API propose un prompt de départ.

Si le bot a besoin de fils sauvegardés, Mythex rattache une base de données Postgres au projet lorsque vous la demandez. Pour d'autres façons d'utiliser des modèles dans une application, des résumés à la classification, consultez comment ajouter des fonctionnalités d'IA à votre application, ou parcourez les modèles d'applications pour trouver des points de départ.

Questions