Index du forum Hors sujet

Pour tout ce qui n'a pas sa place ailleurs.

Re: HALLUCINATIONS DE L’IA

Messagepar Gér@rd » 18 Sep 2025, 11:08

Ce n'est pas nouveau mais il faut bien être conscient qu'on peut être victime de ce qu’on appelle savamment des hallucinations. En bon français on dirait simplement qu’il ment avec aplomb... :shock:

Je me sers assez fréquemment de chatgpt pour un tas de trucs utilitaires (techniues) et je n'ai jamais de problème de ce côté-là. Je le considère comme une aide intéressante mais je ne fais pas une confiance aveugle bien sûr. Quand c'est pour quelque chose d'important (médical par exemple) je lui demande ses sources pour vérifier.

Et là je viens d'essuyer une gamelle monumentale pour un truc important dans le domaine du juridique (auquel je ne connais rien)....

En gros je voulais aider mon fils aîné (étant retraité j'avais plus de temps que lui pour m'en occuper). Il y a quelques mois il a été nommé juré d'assise et il y a quelques semaines il a reçu une convocation pour une cession en octobre. C'est une offre qui ne se décline pas (c'est un devoir civique et ça coûte 3750€ d'amande si on refuse), ChatGPT m’a bien expliqué en détail la convocation (jusque-là c'était parfait). J'ai alors abordé les aspects financiers (conséquences de cette coupure pour lui et pour la société dans laquelle il y travaille). Chatgpt m’a renseigné de façon très limpide en me donnant ses sources avec des références des articles de loi sur lesquels il s'appuyait. J'ai juste vérifié les articles de loi (code du travail) qui concernaient directement mon fils et tout collait parfaitement.

Il y a quelques jours mon fils me dit que la chef de projet lui a transmis la réponse de la juriste de la société. En gros ça lui convient très bien mais il ne comprend pas le détail de la réponse qui dit que la boîte ne serait pas remboursée mais acceptait de continue à le payer normalement (si la chef de projet était d'accord) mais qu'ils n'étaient pas obligés légalement de le faire :icon_gratgrat:

Or ChatGPT m'affirmait (avec référence à un article de loi) que l'employeur était légalement obligé et que mon fils devait alors fournir les certificat de présence qu'il aurait à sa boîte pour qu'ensuite elle se fasse rembourser par l'état. Etonné je cherche par acquis de conscience l'article de loi (concernant le code du travail) et ne le trouve pas. Il y a bien un article de loi avec le même numéro mais ça concerne les collectivités territoriales (j'ai regardé, aucun rapport...).

Je me dis que j'ai mal cherché que c'est bien planqué, etc et je demande à ChatGPT de me le trouver. Et là je tombe à la renverse, il me dit qu'il s'est trompé et que l'article cité n'existe pas et que finalement après réflexion c'est la juriste de la boîte qui à dit la vérité ! Donc en fait il a inventé un article plausible avec une référence plausible pour s'appuyer ensuite dessus !

J'ai alors essayé avec Gemini puis Copilot qui m'ont fait directement la réponse correcte. Pour comprendre, le mieux est de chercher "IA hallucinations" et vous trouverez un tas de renseignements la dessus où l'IA invente réellement des références plausibles mais parfaitement fausses (petit à petit les développeurs arrivent à corriger (ou plutôt minimiser) ce problème...
Heureux ceux qui savent rire d'eux-mêmes, ils n'ont pas fini de rigoler !
Avatar de l’utilisateur
Gér@rd
Dément
 
Messages: 6761
Photos: 0
Inscrit le: 12 Mar 2012, 15:14

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Reno » 18 Sep 2025, 11:59

Oui c'est clair, il faut vraiment repasser par derrière :msp_glare:

Pour l'instant, ce n'est pas encore 100% au point.
Avatar de l’utilisateur
Reno
Modérateur Global
 
Messages: 86042
Photos: 0
Inscrit le: 25 Mai 2010, 17:37

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Gér@rd » 18 Sep 2025, 16:19

Je viens de trouver cette très courte video intéressantes qui propose une méthode originale pour obliger l'IA à s'auto vérifier... :). faudra que j'essaye le prochain coup...

La méthode est exposée à partir d'environ 6mn30...



En gros, la question (vues les mensonges éhontés que peut raconter l'IA) c'est "Peut-on faire confiance à l'IA ?". Et la méthode très simple donnée dans la petite video indiquée ci-dessus c'est de faire travailler l'IA (ChatGPT, Gemini, Copilot ou autre) à sa place.

Ce dont on profite c'est que l'IA peut mentir et inventer, mais elle le fait sans malice. Si on lui demande d'analyser ses propres réponses, elle le fera honnêtement. Et l'idée provient des chercheurs de MetaAI (groupe de Facebook) c'est -après que l'IA a répondu à une question- de lui demander de générer elle-même la liste des questions qu'il faudrait poser pour s'assurer de la cohérence et de la validité de tous les points de la réponse initiale. Ensuite qu'elle réponde elle-même à ces questions et enfin qu'elle réponde de nouveau à la question initiale mais en prenant en compte ces réponses. Ils appellent ça "La chaîne de vérification pour réduire les hallucinations de l'IA".

J'aime beaucoup cette idée parce que du coup c'est pas moi qui bosse mais c'est l'IA... :)
Heureux ceux qui savent rire d'eux-mêmes, ils n'ont pas fini de rigoler !
Avatar de l’utilisateur
Gér@rd
Dément
 
Messages: 6761
Photos: 0
Inscrit le: 12 Mar 2012, 15:14

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Reno » 25 Sep 2025, 17:40

Image

Image

Image

Image

Image

Image
Avatar de l’utilisateur
Reno
Modérateur Global
 
Messages: 86042
Photos: 0
Inscrit le: 25 Mai 2010, 17:37

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Reno » 26 Sep 2025, 11:28

Image

Image

Image

Image

Image
Avatar de l’utilisateur
Reno
Modérateur Global
 
Messages: 86042
Photos: 0
Inscrit le: 25 Mai 2010, 17:37

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Gér@rd » 26 Sep 2025, 13:08

En fait, ce sont des Alien issus d'un croisement avec des bisounours... :D
Heureux ceux qui savent rire d'eux-mêmes, ils n'ont pas fini de rigoler !
Avatar de l’utilisateur
Gér@rd
Dément
 
Messages: 6761
Photos: 0
Inscrit le: 12 Mar 2012, 15:14

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar PERFASETNEFAS » 26 Sep 2025, 18:57

Sieur Réno serait-il allé aux champignons :roll: :?:

:dehors2:
"Nul ne verra, Nul ne saura"
Avatar de l’utilisateur
PERFASETNEFAS
Fou furieux
 
Messages: 2706
Inscrit le: 27 Mai 2022, 06:28
Localisation: à l'ouest du Rhin

Re: Le topic de l'IA, ou le sujet de l'Imaginaire Aberrant.

Messagepar Reno » 26 Sep 2025, 19:55

Je ne comprends toujours pas comment ça marche, mais ça me fascine toujours autant msp_smile
Avatar de l’utilisateur
Reno
Modérateur Global
 
Messages: 86042
Photos: 0
Inscrit le: 25 Mai 2010, 17:37

Précédent

Retour vers Hors sujet

Qui est en ligne ?

Utilisateurs parcourant actuellement ce forum : Aucun utilisateur inscrit et 26 invités