Intelligence artificielle versus intelligence humaine

On parle souvent des hallucinations et du manque de confiance que l'on peut avoir envers les intelligences artificielles (ou plutôt des LLMs car le mot intelligence est en partie galvaudé). Voici un exemple intéressant qui vous permettra de décider ... ou non.

Je hoste mes propres applications et services sur un serveur que je loue depuis des années chez OVH - je suis un de leur plus vieux client - cela me permet de fournir du hosting gratuit à mes amis et de me maintenir toujours "les mains dans le cambouis" sur des technologies open-source ainsi que supporter à moindre frais (<10 eur/mois) mes projets personnels et idées de loisirs et solutions administratives.

A mon âge et m'étant interessé tôt à ces technologies, j'ai certes quelques connaissances en administration de systèmes linux mais je ne suis pas non plus ni un expert ni même un professionnel sur la question car c'est un poste pour lequel j'ai ni été formé pour, ni occupé dans ma carrière et faisant cela à mes heures perdues la supervision n'est peut être pas optimale ou simplement assez réactive. De plus surveiller des logs, contrôler des attaques quand on sait qu'il y en a toujours des dizaines de milliers par jour n'est pas à priori "humainement" traitable facilement. C'est sur ce type de points précis que j'ai un grand espoir qu'une IA peut être très utile, ne serait ce que par la configuration et l'analyse de logs de la myriade d'outils qu'il faut "maîtriser" (ou qu'on espère utiliser le mieux possible déjà).

J'ai donc fait l'exercice aujourd'hui avec ChatGPT 5.2 (version payante). En une dizaine d'échanges très pertinents (que penses-tu de ça ? voici les traces des processus qui tournent etc...) l'IA me rassure sur des pages et des pages d'outils analysés... jusqu'à avoir un doute sur un processus qui tourne depuis des mois. Après une dizaine d'échanges suppémentaire pour analyser précisément ce programme (là encore avec des demandes et propositions de l'IA extrêmement pertinentes) celle-ci doute de plus en plus de ce programme ... jusqu'à l'identifier formellement comme une attaque réussie d'un hacker qui a installé un mineur de bitcoin ou autre activité suspicieuse équivalente en "root" (le plus haut niveau de droits) de manière persistante. La sentence est donc formelle après encore quelques vérifications de plus et l'IA m'exhorte vivement à me résoudre à des activités correctrices lourdes de conséquences :

• Enlever le serveur du réseau (c'est à dire pour moi de me déplacer jusque chez OVH à 600 kms)
• Tout réinstaller
• Reprendre un backup des applications vieux d'au moins 4 mois (le processus étant lancé depuis Octobre 2025)
• Changer toutes les clefs et mots de passe
• Voire détruire le disque dur et en prendre un autre avant de tout réinstaller

OK, bon dimanche. En parallèle, je fais quelques recherches manuelles et en moins de 30 secondes, je trouve ce que je pense être le programme en question et même son code sur github venant d'OVH eux-même. Pour vérifier que mon hypothèse est bonne, je propose donc à l'IA mes propres pistes et lui demande son avis. Très rapidement la montée en puissance de "l'angoisse" et de la réponse armée de l'IA qu'elle avait jusqu'à présent s'est inversée pour finalement convenir avec une dose de mauvaise foi très humaine que "dans ce cas-là uniquement" elle avait tort et que maintenant elle en était "sûre" que ce n'était pas un problème : ouf. tout est clean.

Quelle est la morale de cette anecdote ?

1. Si vous êtes anti-IA ou avide de faire du buzz sur internet, la conclusion sera lapidaire pour l'IA. Celle-ci a failli détruire et me coûter potentiellement beaucoup d'argent si cela avait été un serveur dans un cadre professionnel et mon gagne-pain. Et donc il faudrait absolument s'en passer.
2. Si vous êtes pro-IA ou un manager persuadé à l'avenir de laisser le maximum de contrôle à une IA qui pourrait prendre des décisions avec le minimum de supervision ; vous pourrez en tirer que finalement tout s'est bien passé et que peut être même un prompt de vérification fait par une autre IA sur la première aurait réussi à trouver la bonne décision.
3. Et il y a la voie du milieu : en moins de temps qu'il en a fallu pour écrire ce texte j'ai pu avoir un grand nombre de réponses pertinentes sur comment, pourquoi et de quelle manière me faire une bonne idée de l'état de mon serveur en faisant collaborer une "intelligence" artificielle et une humaine. Pour moi c'est effectivement une hallucination mais pas un signe d'un outil défectueux : c'est dans la discussion, le croisement des informations que se trouve le bon résultat et l'IA m'a clairement beaucoup aidé à arriver à ma conclusion en me proposant des analyses et actions pertinentes, claires et efficaces dont je n'aurais pas été autant capable seul ... même si l'IA aurait pris une résolution drastiquement opposée à la mienne au finale.

L'IA est un outil et comme tout outil, il faut apprendre à s'en servir et à le "diriger". C'est un marteau qui peut croire que quelquechose ressemble à un clou et vous proposer de taper dessus. A vous de voir ce que vous en faites. Le niveau d'expertise pour effectuer une tâche sera peut être moins important qu'auparavant mais un minimum sera toujours nécessaire pour contrôler les décisions prises. Et c'est peut être la meilleure carte à jouer de l'être humain : son instinct.