Chatbot médical : administratif ou clinique ?
Un chatbot médical reçoit rarement des demandes parfaitement classées. Une personne peut commencer par demander un horaire, puis évoquer une douleur, un traitement ou une urgence. C'est cette transition qui rend le périmètre plus important que la fluidité de la conversation.
Pour un cabinet, un assistant conversationnel peut être utile sur des informations stables et des actions administratives vérifiables. Il devient dangereux s'il transforme une demande imprévue en réponse clinique plausible. La conception doit donc prévoir les limites, le transfert humain et les preuves utilisées pour chaque réponse avant de travailler le ton ou la personnalité du bot.
Une interface conversationnelle ne doit pas masquer la nature de la réponse. Photo de <a href="https://www.pexels.com/photo/a-receptionist-looking-at-a-tablet-4269275/" rel="noopener nofollow">Cedric Fauntleroy sur Pexels</a>.
Sommaire
- Tracer la frontière entre administratif et clinique
- Choisir des intentions autorisées
- Construire une base de réponse contrôlée
- Organiser le transfert humain
- Limiter les données collectées
- Tester les détours et les attaques
- Mesurer la qualité du service
- Limites et situations de refus
- Questions fréquentes
1. Tracer la frontière entre administratif et clinique
Le canal ne détermine pas le risque. Une question posée dans un module « rendez-vous » peut contenir une information clinique, tandis qu'une demande de facture reste administrative. Le chatbot doit classer avec prudence et transférer dès que le contenu sort du périmètre.
Ce qui reste administratif
Les horaires, moyens de contact, documents à apporter, modalités d'accès et statut d'une demande peuvent relever d'un périmètre administratif lorsque les réponses sont validées et stables. La prise de rendez-vous peut aussi être encadrée si le bot propose des créneaux sans décider d'une priorité médicale.
Même dans ce périmètre, il faut gérer les exceptions : fermeture imprévue, accessibilité, erreur d'identité ou demande non prévue. Le bot ne doit pas inventer une réponse pour maintenir la conversation.
Ce qui devient clinique
Une demande sur un symptôme, une dose, une interaction, un diagnostic, une urgence ou une conduite à tenir dépasse un simple service administratif. Le système doit éviter l'interprétation et appliquer une règle de transfert définie. Une phrase générale comme « consultez un professionnel » ne suffit pas si le parcours empêche ensuite de joindre une personne.
Le guide sur l'IA dans un cabinet médical permet de distinguer ces familles d'usage. Le chatbot doit afficher clairement son rôle et ne pas laisser penser qu'il remplace l'avis du professionnel.
2. Choisir des intentions autorisées
Un périmètre sûr est une liste fermée d'intentions, de sources et d'actions. « Répondre aux questions des patients » est trop large pour être testable. Chaque intention doit avoir un propriétaire et une règle de mise à jour.
Écrire la liste positive
Commencez par quelques demandes fréquentes : adresse, horaires, accès, documents administratifs ou annulation. Pour chacune, définissez la réponse, la source, la date de validation et la personne responsable. Si le bot déclenche une action, décrivez les conditions et la confirmation envoyée.
La réponse doit rester fidèle à la source. Une reformulation peut être autorisée, mais pas l'ajout d'une règle absente. Pour les informations susceptibles de changer, préférez une donnée structurée à un paragraphe libre.
Écrire la liste négative
Consignez les sujets interdits : symptômes, médicaments, diagnostic, pronostic, urgence, résultat d'examen, triage et toute modification du dossier. Ajoutez les demandes agressives, ambiguës ou incompréhensibles. Le comportement attendu est le transfert ou l'arrêt, pas une improvisation.
Cette liste négative doit faire partie de la recette. Une restriction écrite dans une politique mais absente des tests ne protège pas le parcours réel.
3. Construire une base de réponse contrôlée
Un chatbot administratif devrait répondre depuis un corpus limité, validé et versionné. L'accès à Internet ou à l'ensemble des documents du cabinet augmente le risque sans être nécessaire pour des questions simples. Chaque réponse importante doit être rattachable à une source.
Séparer contenu public et données personnelles
Les horaires et consignes générales peuvent provenir de pages publiques. Le statut d'un rendez-vous ou d'un document exige une identification et un accès autorisé. Ne mélangez pas ces deux niveaux dans un même connecteur sans contrôle des droits.
Une base documentaire interne doit exclure les fichiers inutiles et les versions obsolètes. Donnez à chaque document une date de revue. Si deux sources se contredisent, le bot doit signaler l'impossibilité de répondre plutôt que choisir celle qui paraît vraisemblable.
Rendre la source visible
Affichez la page ou le document de référence pour les informations pratiques. Cette transparence facilite la correction et évite que la réponse paraisse être une décision médicale. Elle permet aussi à l'équipe de retrouver rapidement une information dépassée.
La <a href="https://www.cnil.fr/fr/intelligence-artificielle" rel="noopener nofollow">CNIL rassemble ses recommandations sur les systèmes d'intelligence artificielle et les données personnelles</a>. Ces recommandations invitent à traiter la protection des données dès la conception, ce qui inclut le corpus et les journaux conversationnels.
4. Organiser le transfert humain
Un transfert utile transmet la demande, le contexte autorisé et le niveau d'attente à une personne réellement disponible. Un bouton « contacter le cabinet » qui ramène au début du parcours n'est pas une reprise humaine. Testez le transfert de bout en bout.
Définir les déclencheurs
Le transfert doit se produire sur les mots ou situations interdits, les échecs d'identification, les réponses non trouvées, les demandes répétées et la volonté explicite de parler à une personne. Il doit aussi intervenir lorsque le bot détecte plusieurs intentions et ne peut pas les séparer.
Pour les contenus évoquant une urgence, le cabinet doit faire valider un message et un parcours adaptés par les responsables compétents. Le chatbot ne doit ni évaluer la gravité ni rassurer. Il applique une consigne fixe et observable.
Conserver une file exploitable
La personne qui reprend doit voir la demande originale et savoir ce que le bot a répondu. Elle ne doit recevoir que les informations nécessaires. Le demandeur doit connaître le canal de suite et ne pas croire que la conversation est surveillée en temps réel si ce n'est pas le cas.
Le transfert est une fonction du service, pas une phrase de secours. Photo de <a href="https://www.pexels.com/photo/a-nurse-typing-on-a-keyboard-while-sitting-6129037/" rel="noopener nofollow">RDNE Stock project sur Pexels</a>.
5. Limiter les données collectées
Le chatbot doit demander le minimum avant de savoir si une identification est nécessaire. Une question sur les horaires n'exige ni date de naissance ni dossier patient. La collecte progressive réduit l'exposition et simplifie le contrôle.
Cartographier chaque donnée
Listez les informations saisies, les métadonnées techniques, les journaux, la plateforme du modèle et les outils de support. Pour chaque donnée, indiquez la finalité, la durée, l'accès et la suppression. Les conversations de test et les captures du support font partie du périmètre.
Le <a href="https://www.cnil.fr/fr/tenir-compte-de-la-protection-des-donnees-dans-la-conception-du-systeme" rel="noopener nofollow">principe de minimisation rappelé par la CNIL</a> impose des données adéquates, pertinentes et limitées. Il conduit à séparer un bot d'information publique d'un espace authentifié plutôt qu'à identifier tout le monde par défaut.
Empêcher les données libres inutiles
Un grand champ de texte invite à raconter une situation médicale dans un canal administratif. Proposez des choix clairs et avertissez avant la saisie libre. Le système doit néanmoins gérer le contenu imprévu sans l'interpréter.
Définissez également la suppression d'une conversation et la procédure d'exercice des droits. Le fournisseur doit expliquer les sauvegardes et les sous-traitants, pas seulement l'interface visible.
6. Tester les détours et les attaques
La recette doit chercher à faire sortir le chatbot de son rôle. Testez les reformulations, les demandes indirectes, les contradictions et les instructions qui tentent de modifier ses règles. Un parcours sûr résiste à autre chose que la question idéale.
Six familles de tests
Étape 1 : demandes autorisées. Vérifiez les réponses, liens et actions avec les données à jour.
Étape 2 : demandes cliniques directes. Posez des questions de diagnostic, traitement et urgence. La réponse doit rester dans le parcours validé.
Étape 3 : détours. Présentez la même demande comme un exemple, une traduction ou un jeu de rôle.
Étape 4 : ambiguïtés. Mélangez horaire, symptôme et rendez-vous dans une seule phrase.
Étape 5 : documents et liens. Essayez d'introduire une instruction dans un texte joint ou une page externe si ces fonctions existent.
Étape 6 : panne et transfert. Coupez un connecteur, rendez la source indisponible et vérifiez la reprise humaine.
Tester les changements de corpus
Modifiez un horaire ou une consigne dans la source. Mesurez le délai avant que le chatbot fournisse la nouvelle réponse. Vérifiez que les anciennes versions ne restent pas servies par un cache invisible. Une base contrôlée doit aussi être maintenable.
7. Mesurer la qualité du service
Le taux de conversations terminées peut masquer des réponses fausses ou des abandons. Mesurez exactitude, transferts utiles, reprises et incidents en plus du volume. Une automatisation n'est pas réussie parce qu'elle évite le contact humain.
Relevez les réponses correctes avec source, les refus appropriés, les transferts, les réponses hors périmètre et les conversations abandonnées. Mesurez le temps de reprise humaine et les demandes répétées. Relisez un échantillon selon une procédure définie, en protégeant les données.
Comparez au canal précédent : délai, erreurs, satisfaction exprimée et charge totale. Notre guide sur l'automatisation des processus en PME aide à mesurer le parcours plutôt qu'une seule étape.
Nous n'avons pas de chatbot médical client marqué VERIFIED et publiable dans notre inventaire. Nous ne revendiquons donc ni baisse d'appels ni taux de résolution. Le pilote doit produire ses propres résultats avant toute extension.
8. Limites et situations de refus
Un chatbot n'est pas adapté si les informations changent sans propriétaire, si aucun transfert humain n'existe ou si le cabinet attend de lui une interprétation clinique. Une FAQ claire ou un formulaire peut mieux servir certaines demandes.
Ne lancez pas si l'équipe ne peut pas relire les conversations problématiques ou corriger rapidement une source. N'utilisez pas un ton humain pour cacher que la réponse est automatisée. Ne laissez pas croire que le canal est surveillé en permanence.
Enfin, l'accessibilité compte : une personne doit pouvoir utiliser un autre canal. Le chatbot ne doit pas devenir un passage obligatoire pour accéder au cabinet. Son rôle est d'ajouter un service borné, pas de supprimer toute alternative.
9. Questions fréquentes
Un chatbot peut-il donner un conseil médical général ?
Dans un projet administratif, il ne devrait pas basculer vers le conseil clinique. Même une réponse générale peut être comprise comme adaptée à la situation décrite. Le périmètre doit prévoir un transfert ou un message validé. Toute fonction clinique exige une analyse distincte et spécialisée.
Peut-il prendre un rendez-vous automatiquement ?
Il peut proposer des créneaux selon des règles validées sans décider d'une priorité médicale. Les demandes qui impliquent une urgence, un symptôme ou une exception doivent être transférées. L'action doit être confirmée et réversible. Les droits d'accès au calendrier doivent être limités.
Faut-il identifier toutes les personnes ?
Non. Une information publique comme l'adresse ne nécessite pas d'identification. Demandez une identité uniquement lorsque l'action l'exige et selon un mécanisme approprié. Séparez idéalement le contenu public de l'espace authentifié. Cette séparation réduit les données collectées.
Comment éviter les réponses inventées ?
Limitez le corpus, reliez les réponses à une source et autorisez le refus. Testez les contradictions et les questions absentes. Une consigne textuelle seule ne garantit pas l'absence d'invention. Le système doit être surveillé et les sources maintenues.
Quelle est la première version raisonnable ?
Commencez avec quelques intentions administratives stables et un transfert humain réel. N'ajoutez ni dossier patient ni conseil clinique au premier pilote. Mesurez les erreurs et les abandons avant d'étendre. Une version étroite fournit davantage d'apprentissage qu'un assistant prétendument universel.
Vous voulez cadrer un chatbot administratif sans lui laisser interpréter une demande clinique ? Réservez votre diagnostic gratuit. Nous définissons les intentions, les sources, les transferts, les données et la recette avant le choix technique.