Les bases de l'IA pour votre PME
Pourquoi l'IA se trompe parfois avec aplomb
Pourquoi l'IA invente parfois, où cela arrive le plus souvent et cinq réflexes pour limiter le risque.
5 min de lecture
Tous ceux qui utilisent l'IA l'ont vécu : une réponse impeccable en apparence, mais fausse. Un article de loi qui n'existe pas, un chiffre sorti de nulle part, une source introuvable. On parle d'« hallucination ». Ce n'est pas un défaut qu'on peut désactiver, mais une conséquence du fonctionnement même de ces systèmes.
Pourquoi cela arrive
Un modèle de langage prédit le texte qui suit logiquement votre question. Il vise une réponse qui colle, pas une réponse prouvée. Quand il ne sait pas, il comble parfois le vide avec quelque chose de crédible. Et il signale rarement de lui-même qu'il doute.
Là où ça coince le plus souvent
- Sources et citations : titres, auteurs et liens qui ont l'air réels mais n'existent pas.
- Chiffres et dates : pourcentages, montants, échéances, seuils.
- Réglementation : surtout en Belgique, où règles fédérales, régionales et européennes s'entremêlent.
- Noms et détails : fonctions, adresses, caractéristiques de produits.
- Calculs : en particulier les longues opérations ou les pourcentages glissés dans un texte.
- Actualité : ce qui s'est passé après la date d'entraînement du modèle, sauf si l'outil cherche sur le web.
Cinq réflexes utiles
- Demandez des sources et ouvrez-les. Faites chercher l'outil sur le web et cliquez vous-même sur les liens. Une source que vous ne pouvez pas ouvrir ne compte pas.
- Fournissez votre propre matière. En joignant un document, une liste de prix ou une procédure, et en demandant de répondre uniquement sur cette base, vous réduisez fortement les inventions.
- Demandez explicitement les doutes. Ajoutez : « Signalez-le si vous n'êtes pas sûr ou s'il manque une information. » Cela aide nettement.
- Faites recalculer. Demandez le calcul étape par étape ou faites-le dans un tableur.
- Prévoyez un second regard. Pour les textes importants, faites relire par un collègue ou demandez à l'IA, dans une nouvelle conversation, de chercher les erreurs.
Qui est responsable ?
Vous. Ce que vous envoyez, publiez ou promettez à un client relève de votre responsabilité, même si l'IA l'a rédigé. La vérification fait donc partie de toute tâche où entrent en jeu des faits, de l'argent, des engagements ou des règles. Pour un texte créatif ou un premier brainstorming, on peut être plus souple.
Testez-vous
quelle consigne réduit le plus le risque d'informations inventées ?
Prompt à copier
Relisez le texte ci-dessous comme un collègue critique. Repérez chaque affirmation qui contient un fait, un chiffre, une date, un nom ou une règle. Pour chacune, indiquez si vous en êtes sûr, si je dois la vérifier et où le faire. Ne modifiez pas le texte.
[collez le texte]
