- Ce sujet contient 94 réponses, 33 participants et a été mis à jour pour la dernière fois par
, le il y a 4 mois et 3 semaines.
-
Messages
-
Bonjour,
J’ouvre ce sujet suite à ce récent post dans l’espace éphémère : https://famontres.com/t279016-bien-causer-la-france
Je précise à toutes fins utiles que le message ci-dessous n’est pas une attaque contre l’auteur de ce post mais une réflexion générale sur l’emploi de l’IA sur le forum dont ce post à été le simple déclencheur.Ce post ne me dérange pas particulièrement dans l’espace éphémère qui est un peu la « cour de récré » de FAM, mais il m’a fait repenser à divers posts plus ou moins récents sur le forum « vintage & technique » en particulier où l’on commence à voir fleurir des réponses pondues par l’IA, des fois mêmes sans que ça soit signalé comme tel par le membre postant la réponse.
Je trouve que la généralisation de ce genre de posts constituerait un appauvrissement assez triste de nos échanges. Répondre à un post en mettant ce qu’en pense l’IA, je trouve que c’est du même niveau que répondre « Va voir dans Google »; dans ce cas on n’a qu’à fermer le forum et poser toutes nos questions à Google et à L’I.A.
Quand par ailleurs, pour certains messages il n’est même pas mentionnés qu’ils sont rédigés par l’IA (alors que c’est assez clairement le cas), c’est pour moi du même niveau que l’élève qui fait des gros copier-coller pour pondre son exposé sans se donner la peine de réfléchir au sujet.L’intérêt de ce forum est l’échange entre passionnés. Même si nos échanges se font par un canal numérique et non autour d’une table bien garnie, il y a quand même des humains derrière le clavier et c’est ça qui fait la richesse de nos débats. Et ce, même si nos messages sont truffés d’erreurs et d’approximations (comme le sont ceux de l’IA soit dit en passant).
Bien sûr, le forum n’est pas encore inondé de messages de ce type, mais ça peut venir et je pense qu’il faut réfléchir à la place de L’IA sur le forum, et peut-être même actualiser le règlement du forum pour clarifier ce point.
Mon avis personnel n’est pas de bannir du forum tout texte ou image issu de l’IA, mais je pense qu’ils doivent d’une part être toujours clairement signalés comme tels, et d’autre part rester un apport supplémentaire à une contribution d’un membre, mais ne pas constituer l’entièreté (ou quasiment) de cette contribution.
Texte généré par une IA
C’est effectivement un sujet intéressant…..
L’IA est une véritable catastrophe quand elle est employée dans ces conditions et il est très clair, pour moi, que sont usage devrait être interdit sur ce forum.
Sauf cas particulier ou effectivement cela devrait être clairement spécifié….
et sérieusement réprimandée en cas d’infraction !
- Mister N a écrit:
- et sérieusement réprimandée en cas d’infraction !
Wow ça rigole pas!
Des modos IA modèreront des membres IA la boucle sera bouclée.
__________________________________
>> ICI << prochainement rédaction d’une signature géniale.Pour avoir questionné des ia pour des problématiques relatives à l’horlogerie, je dois reconnaître que les réponses étaient pertinentes. Pour autant, rien de nouveau ni révolutionnaire. Par contre, pour générer des réponses sur un forum, je n’en vois pas l’intérêt. Il faut garder à l’esprit que ça sera l’outil de demain, et au même titre que certains dictent leur sms par la voix, d’autres généreront des réponses via ia. C’est inévitable.
Après l’automatisation des mouvements humains (ère industriel) nous assistons à l’automatisation des cerveaux (ère des IA). Nous allons devoir apprendre à vivre avec ça.
- Saturne a écrit:
- …Répondre à un post en mettant ce qu’en pense l’IA…
Les IA actuelles basées sur les LLM (Large Language Models) ne pensent pas, elles se contentent d’accoler des mots selon des calculs de probabilités.
Par ailleurs, il y a potentiellement un autre point : les posts (d’origine) rédigés par des bots (ou non !) mais via IA, polluant les forums et diluant les réponses des participants… (étant modo sur d’autres forums)
Sujet intéressant (j’ai déplacé dans le général).
On a vu parfois, ici, des réponses de membres copiées/collées sur Wikipédia sans citer la source mais des membres vigilants le repéraient et le signalaient.
Sera-t-il toujours possible de détecter les réponses générées par de l’IA ?- Guillaume-14 a écrit:
- Par ailleurs, il y a potentiellement un autre point : les posts (d’origine) rédigés par des bots (ou non !) mais via IA, polluant les forums et diluant les réponses des participants… (étant modo sur d’autres forums)
tu as des exemples ?
Hello,
Je pense que ce serait bien de le mettre en règle. L’IA est un outil puissant, particulièrement efficace sur des sujets largement traités et analysés. Pour l’horlogerie, j’ai pu faire pas mal de tests avec Chatgpt et j’ai découvert de nombreuses erreurs. Par exemple quand je demandais de trouver des chronographes utilisant spécifiquement un embrayage vertical, nombre de modèles proposés ne correspondaient pas.
Sur des sujets techniques, sur le vintage, et sur les matériaux utilisés, les informations ne sont pas (encore) fiables.Il me semble pertinent donc de mettre une règle sur le sujet pour au moins avertir que l’information n’est pas nécessairement vérifiée.
- Pierre-Yves a écrit:
- Sera-t-il toujours possible de détecter les réponses générées par de l’IA ?
c’est pour cela qu’il subsiste des modérateurs en (vieille) chair et (vieux) os
Blague à part l’IA n’est pas qu’une menace et peut être utile à justement apporter une information qualifiée face à des affirmations ou des boucles de fausse information qui se propagent sur les forums.
un exemple que je viens de lui poser sur un hoax que l’on voit trop souvent sur Invicta qui serait du Breitling.
moi « Invicta était-elle une marque de Breitling ? »
ChatGPT « Non, Invicta n’est pas une marque de Breitling. Invicta est en fait une marque indépendante, fondée en 1837 en Suisse, mais elle est aujourd’hui connue pour ses montres de style sportif et ses designs audacieux, souvent à des prix plus abordables que ceux de marques de luxe comme Breitling.
Breitling, quant à elle, est une marque suisse de montres de luxe spécialisée dans les montres d’aviation et de haute précision, fondée en 1884. Les deux marques n’ont pas de lien direct en termes de propriété ou d’historique. »Alors ok on peut discuter sur le « design audacieux » mais globalement la réponse est adaptée
Avec l’IA méfiance tout de même surtout en amont sur la rédaction du prompt, c’est à l’utilisateur de cadrer sa réponse mais cela n’empêche pas des âneries les plus folles de sortir.
il le dit d’ailleurs lui même
« Je fais de mon mieux pour utiliser cette base de données de manière utile, mais parfois des erreurs se glissent ou des informations spécifiques peuvent m’échapper. L’avantage de cette base est qu’elle me permet d’accéder à une vaste quantité d’informations rapidement, mais elle n’est pas parfaite et n’est pas une substitution à la recherche et à l’expertise humaine. »
ou
« Je m’efforce d’être fiable en fournissant des informations précises et bien recherchées, mais je ne suis pas infaillible. Mes réponses sont basées sur les données disponibles et sur une compréhension des sujets, mais elles peuvent parfois contenir des erreurs ou être incomplètes.
Pour des questions critiques ou complexes, il est toujours bon de consulter plusieurs sources ou des experts humains dans le domaine concerné. Si tu remarques des incohérences ou si tu veux vérifier quelque chose, n’hésite pas à le faire. Je suis ici pour aider et je tiens à fournir des réponses aussi précises que possible. »Mais là où l’IA devient dangereuse (ici ChatGpt) c’est dans ses extrapolations erronées qu’elle présente comme des affirmations sans aucune notion de probité ou de déontologie. C’est à dire qu’elle crée de toutes pièces des tentatives d’explications voici sa réponse sur un sujet très spécialisé non horloger sur laquelle et elle a sorti une explication fumeuse mais dont je connaissait la réponse (désolé c’est de la géologie)
moi « pourquoi tu t’es trompé ? »
Chat GpT « Je comprends ta question. La confusion sur l’acronyme « ICART » est une erreur de ma part, et elle n’est pas fondée sur des informations géologiques fiables. Mon objectif est toujours de fournir des réponses précises basées sur des sources fiables, mais parfois des erreurs peuvent survenir. Voici comment l’erreur a pu se produire :
Tentative d’Explication : En cherchant à comprendre un terme géologique comme « icartien », j’ai essayé de créer une explication qui semblait logique en utilisant un acronyme. Cependant, cela n’était pas basé sur des données ou des sources vérifiées.
Manque de Contexte : Sans une vérification approfondie du contexte spécifique du cycle icartien, j’ai introduit une interprétation erronée. Le terme « icartien » n’a pas d’acronyme en géologie et est directement lié à la Pointe Icart.
Erreur de Compréhension : J’ai mal interprété le terme et créé une connexion incorrecte. En réalité, le cycle icartien est un terme géologique spécifique lié à une période et à des formations géologiques particulières, non à un acronyme. »
et ça, ça fait peur
__________________________________
Avez-vous coché toutes les cases ?l’IA est un outil formidable qui n’en est encore qu’à ses début et je pense que de gros progrès sont encore à venir.
Mais l’IA, de par son fonctionnement n’est pas infaillible, bien au contraire. Comme signalé par plusieurs d’entre vous ici, l’IA commet parfois de grossières erreurs. Le problème est que cette dernière adopte un ton tellement péremptoire que bien souvent, on hésite à remettre en cause ses résultats.
Il faut voir l’IA comme un outil, une sorte de google amélioré. On peut lui poser des questions précises, demander des compléments, préciser notre requête et les résultats seront bien plus probant qu’une requête sur un moteur de recherche classique.
Mais il est important de rester critique vis-à-vis des réponses. Il faut comprendre et s’approprier la réponse, ne pas hésiter à la remettre en question. C’est comme wikipédia: l’élève qui se contente de copier/coller un article sans comprendre ce qu’il a sous les yeux est un idiot ou un fainéant (je ne sais pas lequel est le pire).Toute personne qui prend les réponses de l’AI pour argent comptant et n’apporte pas un minimum d’analyse ou de compréhension se verra effectivement menacée de remplacement.
Mais heureusement pour nous, nos cerveaux sont encore utiles et ce n’est pas tout de suite qu’une IA nous remplacera.Je m’en sers un peu dans le cadre de mon travail (développement informatique) et c’est vrai qu’elle me fait généralement gagner du temps. Parfois elle me propose une solution technique fonctionnelle et directement applicable, mais c’est généralement assez rare.
En revanche, elle peut me produire assez rapidement un premier jet, qu’il me faudra ensuite adapter/corriger pour mon usage.
Elle peut aussi me permettre de monter en compétence assez rapidement sur un sujet inconnu en me fournissant quelques éléments de réponse précis. Là où avec une requête de recherche classique, je dois passer par un travail de documentation parfois assez long.- romut a écrit:
- Les IA actuelles basées sur les LLM (Large Language Models) ne pensent pas, elles se contentent d’accoler des mots selon des calculs de probabilités.
Oui c’est vrai, j’aurais dû mettre des guillemets à « pense ».
Pour le reste, je ne souhaitais pas ouvrir le vaste débat sur L’IA en tant que telle, ses réponses pertinentes ou non, ses promesses et ses menaces… mais bien spécifiquement sur son usage sur le forum. Dans quelles conditions peut-on accepter ou non les textes générés ainsi?
Pour ma part comme dit dans mon premier message, je ne suis bien entendu pas pour interdire complètement l’usage de l’IA sur le forum, mais je pense que certains usages n’ont pas leur place sur le forum et devraient être modérés. De la même manière que le règlement du forum déconseille l’abus du langage sms par exemple.
J’en remets une couche, les IA basées sur les LLM ne sont même pas un Google amélioré, attention !!
Les IA basées sur les LLM « produisent » des textes, basés sur les probabilités (au sens mathématique du terme). Ce n’est en rien, mais alors en rien du tout, un moteur de recherche qui indexe la connaissance et ne sort donc que des résultats connus.
Je comprend mieux le pourquoi de ce sujet @Saturne et je te rejoins.
au delà de savoir si l’IA est bien ou non, le but d’un forum est d’échanger entre personnes humaines. Si un utilisateur se contente de retranscrire ce que lui a dicté l’IA, l’humain en question n’a que peu de valeur ajoutée dans l’échange.@Saturne à vrai dire je suis bien content de lire ton interrogation car le me trouve ainsi réconforté de m’être posé une question du même genre.
A savoir: « Avec quels éléments, quels connaissances serais-je en mesure de detecter que les messages de @11eRTSP69212 (c’est un exemple) ne sont que le fait d’un avatar totalement virtuel qui n’a jamais entendu vibrer un elPrimero ni vu de ses yeux le lent mouvement d’un balancier sous un coq de montre? »Comme nous n’y connaissons pas grand chose, je vous repasse me spécialiste de l’ia… Pas la peine de tout regarder le début suffira
En gros l’ia s’appuie sur des données informatiques stocker depuis des lustres, un programme compilateur analytique en quelque sorte, rien de nouveau mais un coup marketing pour vendre du rêves ou des cauchemars.
Bref il dit en gros 70% +/- des informations de la toile sont fausses… Quid des IA qui tire ses info d’elle
bonne discussion les gars et les filles sur un truc bidon et véroler…. 
- Vous devez être connecté pour répondre à ce sujet.