Un énorme flot de données avec des réponses incorrectes de ChatGPT est confronté à trop peu d’utilisateurs ayant des connaissances spécialisées qui peuvent corriger ces erreurs.
En raison de nombreuses réponses incorrectes, les mods Stack Overflow ont interdit le chatbot ChatGPT sur la plate-forme de développement. Il n’est souvent pas clair pour les profanes lorsque le logiciel fournit des résultats incorrects. Malheureusement, trop peu de personnes expertes font face au flot de données générées par le bot pour corriger ses lacunes.
Stack Overflow interdit ChatGPT peu après son lancement
La plateforme Stack Overflow, largement utilisée par de nombreux développeurs de logiciels, a interdit le partage des réponses du chatbot ChatGPT sur son site internet. La raison en était une véritable inondation du portail avec des informations qui, selon les mods, ont un taux d’erreur trop élevé.
Comme le rapporte The Verge, l’interdiction n’est que temporaire et sera discutée avec la communauté à une date ultérieure. Cependant, l’utilisation de cette intelligence artificielle (IA) conduit actuellement à de nombreuses réponses qui semblent correctes à première vue, mais sont souvent erronées à y regarder de plus près.
« En conséquence, l’utilisation de ChatGPT pour créer des messages ici sur Stack Overflow est interdite pour le moment. Si un utilisateur a utilisé ChatGPT après la publication de cette politique temporaire, des sanctions seront appliquées pour empêcher les utilisateurs de continuer à publier un tel contenu, même si les publications seraient autrement acceptables.
Module de débordement de pile
Tout ce qui brille n’est pas d’or
Le développeur OpenAI, qui a également contribué au copilote de GitHub, a créé le chatbot ChatGPT, qui est encore à l’état expérimental. Il n’est sorti que la semaine dernière. Le logiciel a déjà rencontré un vif enthousiasme chez de nombreux utilisateurs car il répond aux questions avec une précision impressionnante.
L’IA peut non seulement écrire et déboguer le code source, mais aussi répondre à des quiz et écrire des poèmes, des chansons ou des livres.générer“. Mais comme nous le savons tous, tout ce qui brille n’est pas or. ChatGPT fait également de nombreuses erreurs, dont certaines ne sont même pas perceptibles à première vue.
Après tout, générer un code source syntaxiquement correct est une chose. Le fait qu’il fasse aussi exactement ce qu’il est censé faire à un niveau logique est un défi complètement différent.
Parce qu’une IA comme ChatGPT est généralement formée avec d’énormes quantités d’informations provenant d’Internet, dans lesquelles elle recherche des régularités statistiques. Enfin, sur la base de ces données, il essaie de prédire quels mots, caractères ou lignes de code doivent venir ensuite.
Le taux d’erreur de ChatGPT semble alarmant
Cependant, comme une IA n’a pas de règles fixes sur le fonctionnement de certains processus et systèmes, le résultat n’est souvent rien de plus que « conneries liquides“. Il est difficile d’estimer la fréquence à laquelle les réponses sont finalement erronées. Les premiers rapports des utilisateurs indiquent que ChatGPT a plus souvent tort que raison.
Dans tous les cas, le taux d’erreur semble être trop élevé pour les mods Stack Overflow.
« Parce que le taux moyen de réponses correctes de ChatGPT est trop faible, la publication de réponses créées par ChatGPT nuit considérablement au site et aux utilisateurs qui demandent ou recherchent des réponses correctes.
Le principal problème est que même si les réponses générées par ChatGPT ont un taux d’erreur élevé, elles semblent généralement bonnes et les réponses sont très faciles à générer. De nombreuses personnes essaient également ChatGPT pour composer des réponses sans avoir l’expertise ou la volonté de vérifier l’exactitude de la réponse avant de la publier. Parce que de telles réponses sont si faciles à créer, de nombreuses personnes publient un grand nombre de réponses. Le volume considérable de ces réponses (des milliers) et le fait que les réponses doivent souvent être lues par quelqu’un ayant au moins une certaine expertise pour déterminer que la réponse est réellement mauvaise a submergé notre infrastructure d’examen de la qualité basée sur le bénévolat.
Module de débordement de pile
On peut se demander si ce problème se reproduira sur d’autres plates-formes à l’avenir et conduira ainsi à un flot d’informations erronées sur Internet. Comme Stack Overflow, très peu de services en ligne ont une capacité de modération suffisante pour garder sous contrôle un tel flot de données généré par ChatGPT.
