lun. Déc 5th, 2022

La société mère de Facebook, Meta, a fait faillite avec un nouveau projet pour le moment. Cette semaine est devenue une grand modèle de langage appelé Galactica présenté. la intelligence artificielle à commande vocale devrait aider les scientifiques dans la recherche et la rédaction de textes. Cependant, après seulement trois jours, le démonstrateur du programme de Meta a de nouveau été mis hors ligne après avoir été fortement critiqué.

Des promesses fantastiques

Comme le rapporte le MIT Technology Review, de nombreux scientifiques avaient essayé Galactica et exprimé publiquement les deux déception à ce sujet ainsi qu’une grande inquiétude qui a ainsi sciemment répandre de fausses informations sera. L’échec était prévisible, notamment pour les experts du secteur informatique.

« Je suis à la fois étonné et pas surpris par ce projet », déclare Chirag Shah, qui étudie les technologies de recherche à l’Université de Washington. « Quand il s’agit de démontrer ces choses, elles ont l’air si incroyables, magiques et intelligentes. Mais les gens ne semblent toujours pas comprendre, que ces choses sont fondamentalement ne fonctionne pas comme ça, comme le dit le battage médiatique. »

Mélanger le vrai et le faux

Une faiblesse fondamentale de Galactica, il était évident qu’il ne pouvait pas distinguer la vérité des fausses informations. Dans certains cas, il a présenté de faux articles spécialisés en réponse à des requêtes de recherche, dans certains cas, ceux-ci ont également été attribués à de vrais auteurs. Par exemple, un exemple posté sur Twitter montre comment Galactica a rédigé un article Wikipédia sur l’histoire des ours dans l’espace. En raison d’absurdités, le méta-programme a rapidement été couvert de ridicule et de mépris.

Voir aussi  La Chine dévoile un nouvel avion de chasse furtif lors d'un salon de l'aviation

moqueries et insultes

Certains chercheurs ont testé les limites des capacités de l’IA et les auraient laissées sans effort Articles spécialisés sur des sujets éthiquement controversés créer – sur le Avantages du suicideles avantages de manger du verre brisé ou un guide pour Faire du napalm dans une baignoire.

Le Meta Chief Scientist Yann LeCun a défendu Galactica jusqu’au bout, contrant les critiques en soulignant qu’il s’agit d’un Projet en phase de développement agir et il a également été souligné que les résultats ne leur faites pas nécessairement entièrement confiance peut. Meta, cependant, était apparemment trop critiqué. Après seulement 3 jours, Galactica a de nouveau été mis hors ligne.

mémoire de Tay

L’épisode rappelle à certains observateurs que Chatbot Tayla Microsoft 2016 a débuté. Seulement 16 heures plus tard, c’était devenu un programme raciste et homophobe. Les modèles de langage sont sensibles aux préférences de leurs utilisateurs.