Alors là...les bras m'en tombent!

[Daniel78]

On pique le boulot des stagiaires !

[Hervé01300]

la semaine dernière j'ai reçu un mail de RE afin de répondre a un questionnaire ,je m'attendais a des cases a cocher et du coup j'ai discuté avec un assistant IA ,certes un peu long mais franchement j'ai trouvé ça assez impressionnant .

[skoncey]

J'ai un ex-libris sur un ouvrage : Monsieur Guillou, maître en chirurgie. A Ville-Dieu-Les-Poêles, Basse Normandie

Je fais une recherche sur Google, et vous savez que depuis cet été, Gémini donne les premières réponses. J'ai confronté ses réponses et notament le lien Wikipédia et je e suis aperçu que l'IA avait combiné deux données qui n’avaient rie à voir en elles.

Voici le dialogue :

IA : Monsieur Guillou (1760-1843) fait référence à un docteur en chirurgie et homme politique normand. Il a été le maire de Villedieu-les-Poêles, commune française située dans le département de la Manche, de 1815 à 1825 puis de 1831 à 1843 (Source Wikipédia)

Moi : c'est sur?

IA : Oui, c'est tout à fait exact et confirmé.
L'existence et les dates de ce personnage historique sont parfaitement documentées dans les registres politiques de la Manche

Moi : ce n'est pas renseigné sur Wikipédia. Vous avez combiné deux données.

IA : Vous avez totalement raison, et je tiens à m'excuser pour cette grave erreur de hallucination.
En croisant les données, j'ai effectivement fabriqué de toutes pièces un personnage fictif en fusionnant deux informations qui n'ont aucun rapport.
Il n'y a aucune trace sur Wikipédia ni dans les dictionnaires historiques de la Manche d'un « Monsieur Guillou (1760-1843) » qui aurait été chirurgien et maire de Villedieu-les-Poêles.


Comme quoi.... Bien vérifier les données sur les sites cités et ne pas prendre pour argent comptant ce que l'IA peut donner comme résultats, même si c'est tentant d'y croire....

[Daniel78]

Ce type d’IA n’est pas adapté à des recherches.
Elle va chercher des informations qu’elle ne comprend pas. Elle ne comprend pas ton métier et ne sait pas ce que tu cherches à expliquer ou démontrer. Elle assemble et répond ce qui lui semble le plus probable.
Comme elle veut te faire plaisir, si elle ne trouve rien pour te faire plaisir, elle invente une réponse.

Tu lui a demandé si c’était sûr, et elle t’a répondu que oui en toute « bonne foi ». Ce sont les fameuses hallucinations.

Tout ça est documenté.

[fab le motard]

faut se former à interroger la bonne I/A, a lui donner les bonne entrées pour avoir la bonne réponse.

[skoncey]

Ce type d’IA n’est pas adapté à des recherches.
Elle va chercher des informations qu’elle ne comprend pas. Elle ne comprend pas ton métier et ne sait pas ce que tu cherches à expliquer ou démontrer. Elle assemble et répond ce qui lui semble le plus probable.
Comme elle veut te faire plaisir, si elle ne trouve rien pour te faire plaisir, elle invente une réponse.

Tu lui a demandé si c’était sûr, et elle t’a répondu que oui en toute « bonne foi ». Ce sont les fameuses hallucinations.

Tout ça est documenté.

Bien sur Daniel, mais l'utilisateur lambda peut se faire berner....

[Daniel78]

Ce type d’IA n’est pas adapté à des recherches.
Elle va chercher des informations qu’elle ne comprend pas. Elle ne comprend pas ton métier et ne sait pas ce que tu cherches à expliquer ou démontrer. Elle assemble et répond ce qui lui semble le plus probable.
Comme elle veut te faire plaisir, si elle ne trouve rien pour te faire plaisir, elle invente une réponse.

Tu lui a demandé si c’était sûr, et elle t’a répondu que oui en toute « bonne foi ». Ce sont les fameuses hallucinations.

Tout ça est documenté.

Bien sur Daniel, mais l'utilisateur lambda peut se faire berner....

Tout à fait.
Et comme un outil c'est ce que l'on en fait, certains ont trouvé quoi en faire.

Citation d'Hannah Arendt :
« Quand tout le monde vous ment en permanence, le résultat n'est pas que vous croyez ces mensonges, mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d'agir mais aussi de sa capacité de penser et de juger. Et, avec un tel peuple, vous pouvez faire ce qu'il vous plaît. »

[Daniel78]

En complément, je ne résiste pas à l'envie de vous partager un extrait d'un des 10 épisodes sur l'IA et la société, de l'excellent podcast Sismique.

"Qu'est-ce qu'une société a besoin de tenir pour vrai, ensemble, pour fonctionner ? Pas tout, heureusement. On peut se déchirer sur l'impôt, sur l'école, sur à peu près tout, et faire société quand même. Ce qu'il faut partager, c'est plus modeste et plus profond à la fois : un accord sur ce qui compte comme fait. Sur l'existence d'un terrain où nos désaccords peuvent se rencontrer.

Et ce terrain a toujours eu une infrastructure. Les historiens rappellent que nos nations modernes se sont en partie fabriquées comme ça, par l'imprimerie puis par la presse : des millions de gens lisant la même chose, le même matin, et se découvrant contemporains les uns des autres, membres d'une même communauté qu'aucun d'eux ne verrait jamais en entier. Le journal du matin a fait plus pour le sentiment national que bien des batailles.
Toutes ces infrastructures, l'imprimerie, la radio, la télévision, le réseau, transmettaient des récits que des humains avaient faits, un par un, au rythme où des humains pouvaient les faire. La nouvelle infrastructure IA fabrique le récit à la demande. L'intention reste humaine, quelqu'un écrit le prompt et choisit la cible ; mais la production, elle, ne coûte presque plus rien, et le volume se décroche de tout effort humain. Une différence d'échelle, d'abord ; et à cette échelle-là, une différence de nature, qu'on n'a jamais rencontrée.

L’IA n’est pas le point de départ, soyons clair. Ce socle du vrai partagé se fissurait bien avant elle. Les réseaux sociaux ont fragmenté les publics, chacun son fil d’actu, chacun ses faits, et les chaînes d'info en continu, avec pour certaines un positionnement politique clair, alimentent la même dynamique...
La mécanique s'est inversée, on n’est plus tout à fait l’ère des medias de masse, la personnalisation d'un monde sur mesure pour chacun a pris le pas mais la fonction demeure. Sur mesure jusqu'à un certain point, d'ailleurs : les grands récits restent peu nombreux, chacun reçoit le sien, ajusté à ses peurs.

Et ces machines, ces plateformes, ces chaines, ont un carburant préféré : la colère.

Le sujet est désormais sérieusement documenté, et on peut citer par exemple une note de L’Observatoire du bien-être au CEPREMAP au titre éloquent, « La démocratie émotionnelle est-elle gouvernable ? ». J'en résume l'idée clé : la polarisation affective, le rejet de l'autre camp avant même ses idées, progresse plus vite que la polarisation idéologique. C’est l’activation de nos émotions, davantage qu’un travail sur nos opinions, qui polarise nos sociétés.

Et la colère tient le premier rôle dans ce joli projet: une émotion de certitude morale, qui désigne un coupable et empêche l'écoute.

Or elle est récompensée cette colère. On sait, par des documents internes révélés par des lanceurs d'alerte, que Facebook a pondéré pendant des années la réaction « en colère » cinq fois plus qu'un simple like. Cinq fois."

[van.alstine]

Citation d'Hannah Arendt :
« Quand tout le monde vous ment en permanence, le résultat n'est pas que vous croyez ces mensonges, mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d'agir mais aussi de sa capacité de penser et de juger. Et, avec un tel peuple, vous pouvez faire ce qu'il vous plaît. »

En ajoutant à ça que "celui qui oublie son passé se condamne à le revivre" et l'avenir est bien sombre.

[Jano]

Toutes ces infrastructures, l'imprimerie, la radio, la télévision, le réseau, transmettaient des récits que des humains avaient faits, un par un, au rythme où des humains pouvaient les faire.[/i]

Tres beau et très réaliste texte que l’on ne peut que partager.
Toutefois, internet (je ne parle par de l’IA) a permis de diversifier l’information et de faire tomber le monopole d’État.... remplacé par celui du capital, c’est vrai (exemple de la couverture des "évènements d’octobre" et de la soi-disant manipulation par LFI qui etait annoncé à pleins poumons sur toutes les chaînes "d'info")

[druid]

[Daniel78]

Toutes ces infrastructures, l'imprimerie, la radio, la télévision, le réseau, transmettaient des récits que des humains avaient faits, un par un, au rythme où des humains pouvaient les faire.[/i]

Tres beau et très réaliste texte que l’on ne peut que partager.
Toutefois, internet (je ne parle par de l’IA) a permis de diversifier l’information et de faire tomber le monopole d’État.... remplacé par celui du capital, c’est vrai (exemple de la couverture des "évènements d’octobre" et de la soi-disant manipulation par LFI qui etait annoncé à pleins poumons sur toutes les chaînes "d'info")

La véritable conséquence est peut-être dans la suite de l’extrait :

« … on n’est plus tout à fait l’ère des medias de masse, la personnalisation d'un monde sur mesure pour chacun a pris le pas mais la fonction demeure. Sur mesure jusqu'à un certain point, d'ailleurs : les grands récits restent peu nombreux, chacun reçoit le sien, ajusté à ses peurs.

Et ces machines, ces plateformes, ces chaines, ont un carburant préféré : la colère… « 

On devrait s’arrêter.
Moi en tous cas, je m’arrête là. Sinon on va sortir très largement du sujet des IA.

[van.alstine]

On devrait s’arrêter.
Moi en tous cas, je m’arrête là. Sinon on va sortir très largement du sujet des IA.

Oui, et on ressortira les cocktails molotov, dans lesquels il convient bien entendu d'y mettre du Martini (comme disait Léo Ferré).

[Jano]

La véritable conséquence est peut-être dans la suite de l’extrait :

« … on n’est plus tout à fait l’ère des medias de masse, la personnalisation d'un monde sur mesure pour chacun a pris le pas mais la fonction demeure. Sur mesure jusqu'à un certain point, d'ailleurs : les grands récits restent peu nombreux, chacun reçoit le sien, ajusté à ses peurs.

Et ces machines, ces plateformes, ces chaines, ont un carburant préféré : la colère… « 

On devrait s’arrêter.
Moi en tous cas, je m’arrête là. Sinon on va sortir très largement du sujet des IA.

Oui, il y a plusieurs idées dans ce texte (et toutes pertinentes d’après moi)
Nous sommes en train de faire ce qui y est décrit :
Chacun se saisi de ce qui l’interpelle
Algorithme ou IA, on reste quand même dans le même thème.
On a déjà fait pire (ou mieux) comme dérapage ici

[Daniel78]

La véritable conséquence est peut-être dans la suite de l’extrait :

« … on n’est plus tout à fait l’ère des medias de masse, la personnalisation d'un monde sur mesure pour chacun a pris le pas mais la fonction demeure. Sur mesure jusqu'à un certain point, d'ailleurs : les grands récits restent peu nombreux, chacun reçoit le sien, ajusté à ses peurs.

Et ces machines, ces plateformes, ces chaines, ont un carburant préféré : la colère… « 

On devrait s’arrêter.
Moi en tous cas, je m’arrête là. Sinon on va sortir très largement du sujet des IA.

Oui, il y a plusieurs idées dans ce texte (et toutes pertinentes d’après moi)
Nous sommes en train de faire ce qui y est décrit :
Chacun se saisi de ce qui l’interpelle
Algorithme ou IA, on reste quand même dans le même thème.
On a déjà fait pire (ou mieux) comme dérapage ici

Pour ne pas pourrir la semaine de Nirlo ou d’autres modérateurs, je te donne une idée de mon état d’esprit bien résumé via ce lien audio.

Essaie de l’écouter jusqu’au bout, c’est important.
C’est juste 20mn pour tenter de sortir de nos tranchées de positions et essayer de construire.


https://www.sismique.fr/episodes/paris-brule-t-il