Je me sers assez fréquemment de chatgpt pour un tas de trucs utilitaires (techniues) et je n'ai jamais de problème de ce côté-là. Je le considère comme une aide intéressante mais je ne fais pas une confiance aveugle bien sûr. Quand c'est pour quelque chose d'important (médical par exemple) je lui demande ses sources pour vérifier.
Et là je viens d'essuyer une gamelle monumentale pour un truc important dans le domaine du juridique (auquel je ne connais rien)....
En gros je voulais aider mon fils aîné (étant retraité j'avais plus de temps que lui pour m'en occuper). Il y a quelques mois il a été nommé juré d'assise et il y a quelques semaines il a reçu une convocation pour une cession en octobre. C'est une offre qui ne se décline pas (c'est un devoir civique et ça coûte 3750€ d'amande si on refuse), ChatGPT m’a bien expliqué en détail la convocation (jusque-là c'était parfait). J'ai alors abordé les aspects financiers (conséquences de cette coupure pour lui et pour la société dans laquelle il y travaille). Chatgpt m’a renseigné de façon très limpide en me donnant ses sources avec des références des articles de loi sur lesquels il s'appuyait. J'ai juste vérifié les articles de loi (code du travail) qui concernaient directement mon fils et tout collait parfaitement.
Il y a quelques jours mon fils me dit que la chef de projet lui a transmis la réponse de la juriste de la société. En gros ça lui convient très bien mais il ne comprend pas le détail de la réponse qui dit que la boîte ne serait pas remboursée mais acceptait de continue à le payer normalement (si la chef de projet était d'accord) mais qu'ils n'étaient pas obligés légalement de le faire
Or ChatGPT m'affirmait (avec référence à un article de loi) que l'employeur était légalement obligé et que mon fils devait alors fournir les certificat de présence qu'il aurait à sa boîte pour qu'ensuite elle se fasse rembourser par l'état. Etonné je cherche par acquis de conscience l'article de loi (concernant le code du travail) et ne le trouve pas. Il y a bien un article de loi avec le même numéro mais ça concerne les collectivités territoriales (j'ai regardé, aucun rapport...).
Je me dis que j'ai mal cherché que c'est bien planqué, etc et je demande à ChatGPT de me le trouver. Et là je tombe à la renverse, il me dit qu'il s'est trompé et que l'article cité n'existe pas et que finalement après réflexion c'est la juriste de la boîte qui à dit la vérité ! Donc en fait il a inventé un article plausible avec une référence plausible pour s'appuyer ensuite dessus !
J'ai alors essayé avec Gemini puis Copilot qui m'ont fait directement la réponse correcte. Pour comprendre, le mieux est de chercher "IA hallucinations" et vous trouverez un tas de renseignements la dessus où l'IA invente réellement des références plausibles mais parfaitement fausses (petit à petit les développeurs arrivent à corriger (ou plutôt minimiser) ce problème...
. faudra que j'essaye le prochain coup...