Aujourd’hui, j’étais à une conférence sur l’ADN. Très vite, une question a surgi : « Avec les nouvelles technologies et l’arrivée de l’IA, ne risque-t-on pas de faire beaucoup plus d’erreurs lorsqu’on compare des ADN ? »

Cette question, je l’entends sous différentes formes presque chaque semaine : « Mais l’IA se trompe ! », « Peut-on vraiment lui faire confiance ? », « Si ChatGPT invente des réponses, pourquoi utiliser de l’IA en médecine ? »

Le problème n’est pas la question. Le problème, c’est que nous mettons derrière les deux lettres IA des technologies extrêmement différentes. Un modèle qui aide à analyser une séquence génétique n’est pas simplement « un ChatGPT auquel on aurait donné de l’ADN ». Et un grand modèle de langage comme ChatGPT, Claude, Gemini ou Mistral ne fonctionne pas comme une base de données qui irait chercher une réponse certaine dans un grand classeur numérique.

D’abord, « une IA », ça n’existe presque pas

Quand nous parlons d’intelligence artificielle, nous regroupons en réalité plusieurs familles de technologies. Un système peut, par exemple, être entraîné à classer : reconnaître si une image contient un chat ou un chien, identifier une anomalie ou catégoriser un document. Un autre peut chercher à prédire : estimer un risque, une consommation, une probabilité de panne ou l’évolution d’une variable. D’autres systèmes sont spécialisés dans la reconnaissance d’images, de sons ou de séquences biologiques.

Et puis il y a l’IA générative, devenue extrêmement visible avec ChatGPT, Claude, Gemini, Le Chat de Mistral et leurs concurrents. Elle génère du texte, des images, du son, de la vidéo ou du code. Toutes sont qualifiées d’IA. Mais elles ne font absolument pas la même chose.

C’est un peu comme dire qu’une calculatrice, Excel et Photoshop sont trois « logiciels », puis en déduire qu’ils fonctionnent de la même manière.

Comment une machine « apprend-elle » ?

Prenons un exemple volontairement simplifié. Vous voulez apprendre à une machine à distinguer des photos de chats et de chiens. Vous lui fournissez énormément d’images déjà identifiées :

🐱 chat
🐶 chien
🐱 chat
🐱 chat
🐶 chien…

Le modèle analyse les données et ajuste progressivement un très grand nombre de paramètres afin de trouver les caractéristiques qui lui permettent de produire la bonne classification. Puis arrive une photo qu’il n’a jamais vue.

Il ne va pas rechercher cette photographie dans sa mémoire pour vérifier si elle correspond exactement à l’une des images de son apprentissage.

Il va calculer quelle réponse est la plus probable compte tenu de ce qu’il a appris.

C’est le principe général du machine learning : apprendre des régularités à partir de données pour effectuer ensuite des prédictions sur de nouvelles données.Le Concept IA : le mécanisme d’auto-attention (self-attention)

Et la qualité dépend évidemment de plusieurs choses : les données utilisées, leur quantité, leur représentativité, la manière dont le modèle a été entraîné et surtout la façon dont ses performances ont été testées.

Et un ChatGPT, Claude ou Gemini, comment apprend-il ?

Les grands modèles de langage, les fameux LLM, ajoutent plusieurs niveaux de complexité.

Pendant leur pré-entraînement, ils absorbent d’immenses quantités de textes et apprennent les structures statistiques du langage.

Le texte est découpé en petits éléments appelés tokens : un token peut correspondre à un mot, une partie de mot ou parfois un caractère.

Le modèle apprend ensuite les relations entre ces tokens. Voir aussi : Le Concept IA : le Token

L’architecture dominante est celle du Transformer, qui utilise notamment un mécanisme appelé attention. Il permet au modèle d’évaluer quelles parties du contexte sont importantes pour interpréter les autres. voir aussi : /Le Concept IA : le mécanisme d’auto-attention (self-attention)

C’est ainsi qu’il apprend progressivement énormément de relations : entre les mots, les concepts, les structures grammaticales, les styles, les idées…

Quand vous posez une question, l’IA ne « cherche » pas forcément la réponse

C’est probablement le point le plus important.

Lorsque vous demandez à un LLM : « Quelle est la capitale de la France ? »

il ne consulte pas nécessairement une ligne d’une base de données indiquant : France = Paris

Il calcule, à partir de votre demande et de son contexte, les tokens qui ont le plus de chances de constituer une réponse appropriée. Puis il génère un token. Puis le suivant. Puis encore le suivant.

C’est beaucoup plus sophistiqué qu’un simple « mot suivant », notamment avec les modèles de raisonnement actuels, mais le caractère probabiliste reste fondamental. Google décrit ainsi les LLM comme des systèmes capables de prédire des tokens ou des séquences de tokens à partir du contexte.

Une réponse vraisemblable n’est pas nécessairement une réponse vraie.

Alors pourquoi l’IA invente-t-elle parfois des choses ?

Parce qu’un modèle génératif a justement été conçu pour… générer. Lorsqu’il ne dispose pas d’une information suffisamment solide, il peut produire une réponse linguistiquement cohérente mais factuellement fausse. C’est ce que nous appelons communément une hallucination ou, selon le terme employé par le NIST américain, une confabulation. (voir notre catégorie hallucinations)

Le NIST rappelle que ces erreurs découlent directement du fonctionnement statistique des modèles génératifs : une sortie peut parfaitement ressembler aux données apprises tout en étant factuellement incorrecte. Une chercheuse d’IBM le résumait très bien en 2025 : les LLM sont entraînés à prédire le prochain mot, pas la prochaine vérité.

Voilà pourquoi votre chatbot préféré peut parfois vous fournir avec une assurance remarquable le titre d’une étude scientifique… qui n’existe absolument pas.

Lire aussi : Le Concept IA — La GenAI ou l’IA générative

Mais alors, comparer des ADN avec de l’IA est-il dangereux ?

Revenons à ma conférence.

Dire « l’IA peut halluciner, donc elle risque d’inventer des correspondances entre ADN » mélange plusieurs sujets.

Les technologies utilisées en génomique peuvent notamment employer du machine learning ou du deep learning pour analyser d’immenses volumes de données, identifier des variants, étudier l’expression des gènes ou rechercher des relations extrêmement complexes. Une revue publiée en 2025 dans l’European Journal of Human Genetics décrit ainsi des applications de l’IA dans le diagnostic génétique, la prise en charge et l’aide clinique.

En 2026, une revue consacrée à la convergence entre machine learning et génomique rappelle néanmoins l’existence de limites, de biais et de risques propres à ces systèmes.

Donc oui, une IA spécialisée peut produire une erreur. Mais ce n’est pas nécessairement la même erreur qu’un chatbot qui invente une référence bibliographique.

La vraie question devient :

Quel modèle utilise-t-on, sur quelles données a-t-il été entraîné, pour quelle tâche, avec quel taux d’erreur, quelles validations et quel contrôle humain ?

Et cette question est nettement plus intéressante que : « Est-ce que l’IA se trompe ? ».

L’IA ne continue pas forcément à apprendre grâce à vos conversations

Autre idée reçue : « Plus je parle avec ChatGPT, plus je l’entraîne. »

Pas exactement. L’apprentissage d’un modèle et son utilisation sont deux phases différentes.

Lors de l’entraînement, ses paramètres sont modifiés à partir des données.

Lors de l’inférence, le modèle déjà entraîné utilise ces paramètres pour traiter une nouvelle demande et produire une réponse.

Il peut ensuite être adapté grâce à différentes techniques, notamment le fine-tuning, qui consiste à poursuivre son entraînement sur des données spécialisées. Et votre prompt, lui, ne réentraîne pas instantanément le modèle. Il lui fournit surtout du contexte pour effectuer son travail.

Pourquoi donner des documents à une IA améliore ses réponses ?

C’est ici qu’intervient notamment le RAG – Retrieval-Augmented Generation. ( lire : Le Concept IA : le Retrieval-Augmented Generation (RAG)

Au lieu de demander au modèle de répondre uniquement grâce à ce qu’il a appris lors de son entraînement, on lui fournit des informations provenant de documents ou de bases de connaissances sélectionnés. Il peut alors construire sa réponse à partir de ce contexte.

C’est particulièrement intéressant en entreprise : documentation interne, catalogue produit, procédures RH, documentation technique, base juridique…

Cela ne rend toujours pas le système infaillible, mais cela permet de mieux ancrer la réponse dans des informations contrôlées.

Le mini-test à faire avant de faire confiance à une IA

Dans une entreprise, je conseille de remplacer : « Peut-on faire confiance à l’IA ? »

par cinq questions beaucoup plus concrètes :

1. Quelle IA utilisons-nous ? Un LLM génératif, un modèle prédictif, un système de classification ?
2. Sur quelles données travaille-t-elle ?
3. Quelle tâche précise lui demandons-nous ?
4. Comment mesure-t-on ses erreurs ?
5. Que se passe-t-il lorsqu’elle se trompe ?

La quantité de contrôle nécessaire doit donc être proportionnelle au risque.

FAQ

Une IA comprend-elle ce qu’elle écrit ?

Pas au sens humain du terme. Un LLM manipule des représentations mathématiques extrêmement complexes et exploite le contexte pour générer une réponse. Ses capacités peuvent donner une forte impression de compréhension, mais il faut éviter de lui attribuer automatiquement une conscience ou un raisonnement humain.

Pourquoi une IA donne-t-elle parfois deux réponses différentes à la même question ?

Parce que la génération est probabiliste. Plusieurs suites de tokens peuvent constituer des réponses plausibles. Certains paramètres de génération influencent également cette variabilité.

Une IA spécialisée est-elle plus fiable qu’une IA généraliste ?

Pour une tâche précisément définie, elle peut l’être, à condition d’avoir été correctement entraînée et validée. Un modèle spécialisé n’est cependant jamais automatiquement fiable simplement parce qu’il est spécialisé.

Peut-on supprimer totalement les hallucinations ?

Aujourd’hui, non. Elles peuvent être fortement réduites grâce à de meilleurs modèles, des données fiables, du contexte, du RAG, des outils de vérification et des contrôles humains.

EN SAVOIR PLUS

Le Concept IA : le Token — comprendre comment les IA découpent et traitent nos textes

Le Concept IA : la GenAI ou l’IA générative — comprendre ce qui distingue les IA génératives des autres systèmes d’IA

Google – Comprendre les grands modèles de langage, les tokens et les Transformers — Une explication pédagogique et actualisée du fonctionnement des LLM, de la prédiction des tokens au mécanisme d’attention.

NIST – Artificial Intelligence Risk Management Framework: Generative AI Profile — La référence du NIST sur les risques propres à l’IA générative, notamment les « confabulations », plus couramment appelées hallucinations. Le document a été mis à jour en avril 2026.

European Journal of Human Genetics – Artificial intelligence in clinical genetics — Une revue scientifique de 2025 qui distingue notamment machine learning, deep learning et IA générative et détaille leurs applications en génétique clinique.

Nature Reviews Genetics – Predicting gene expression from DNA sequence using deep learning models — Une revue de 2025 consacrée à l’utilisation du deep learning pour prédire l’activité des gènes directement à partir des séquences ADN

#IntelligenceArtificielle #IA #LLM #MachineLearning #DeepLearning #IAgénérative #PME #TransformationDigitale #IAPratique