Le pionnier de l’IA et « parrain de l’IA », Geoffrey Hinton, met en garde contre l’IA comme une menace « plus aiguë » pour l’humanité que le changement climatique.

Récemment, Geoffrey Hinton a exprimé son inquiétude quant aux risques possibles liés à l’intelligence artificielle (IA). Il le voit notamment dans le fait qu’ils peuvent atteindre une plus grande intelligence que les humains et ainsi prendre le contrôle de la planète.

Il serait également possible que les IA soient formées comme des outils pour influencer les élections et même mener des guerres. De plus, un flot de désinformation serait concevable et les diverses exigences imposées aux emplois par l’IA.

Hinton a récemment quitté son poste de vice-président et de personnel technique chez Alphabet, la société mère de Google, pour parler ouvertement des risques de la technologie. Hinton craint que le développement sans restriction de l’IA ne constitue une menace pour l’humanité.

Geoffrey Hinton tire la sonnette d’alarme sur les menaces à plus long terme de l’IA

Il a exprimé sa crainte que la course entre Microsoft et Google ne stimule le développement de l’IA sans une réglementation appropriée :

« Mon souci est que cela rendra les riches plus riches et les pauvres plus pauvres. Comment faire ça. . . La société devient plus violente. Cette technologie qui devrait être merveilleuse. . . se développe dans une société qui n’est pas conçue pour les utiliser au profit de tous.

Le travail de Geoffrey Hinton est considéré comme révolutionnaire pour le développement de systèmes d’IA modernes. Il a aidé à développer des technologies d’intelligence artificielle essentielles à une nouvelle génération de chatbots hautement performants comme ChatGPT.

Avec David Rumelhart et Ronald J. Williams, Hinton a co-écrit un article largement cité publié en 1986 « Apprentissage des représentations par rétro-propagation des erreurs ». Ceci est considéré comme une étape importante dans le développement des réseaux de neurones sur lesquels repose la technologie de l’IA.

En 2018, Geoffrey Hinton a reçu le prix Turing pour ses recherches. Ce est généralement considérée comme la plus haute distinction en informatique et est familièrement appelée « Prix Nobel d’informatique » désigné.

La décision de Hinton de commenter la technologie intervient à un moment où les législateurs, les groupes de défense et les initiés de la technologie sonnent déjà l’alarme quant au potentiel d’une nouvelle race de chatbots alimentés par l’IA pour propager la désinformation et déplacer des emplois. Dans une interview avec MIT Technology Review, Geoffrey Hinton a déclaré :

« J’ai juste changé d’avis quant à savoir si ces choses seront plus intelligentes que nous. Je pense qu’ils sont très proches maintenant et qu’ils seront beaucoup plus intelligents que nous à l’avenir… Comment survivrons-nous à cela ? »

IA : plus grande menace que le changement climatique

Dans une autre interview avec Reuters, Geoffrey Hinton établit spécifiquement une comparaison entre l’IA et le changement climatique en tant que menaces majeures pour l’humanité :

« Je ne veux pas négliger le changement climatique. Je ne veux pas dire : « Vous ne devriez pas vous inquiéter du changement climatique. C’est aussi un gros risque. Mais je pense que cela pourrait finir par devenir plus aigu. Lorsqu’il s’agit de changement climatique, il est très facile de recommander ce qu’il faut faire : il suffit d’arrêter de brûler du carbone. Si vous faites cela, tout ira bien à nouveau. Dans ce cas, il n’est pas du tout clair quoi faire ».

Geoffrey Hinton a expliqué au New York Times :

« Il est difficile d’imaginer comment empêcher des acteurs maléfiques de les utiliser à des fins malveillantes. […] Je me console avec l’excuse habituelle : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait. »

Hinton n’est pas seul dans ses inquiétudes. Peu de temps après que la start-up soutenue par Microsoft OpenAI a publié son dernier modèle d’IA GPT-4 en mars, plus de 1 000 chercheurs et technologues ont signé une lettre ouverte. Dans ce document, ils ont appelé à une pause de six mois dans le développement de l’IA. tu as peur « Des risques profonds pour la société et l’humanité ».

Comme l’écrit Reuters, Hinton n’est pas d’accord avec les signataires pour arrêter la recherche sur l’IA :

« C’est complètement irréaliste. Je suis dans le camp qui pense que c’est un risque existentiel et c’est suffisamment proche pour que nous travaillions très dur maintenant et investissions beaucoup de ressources pour déterminer ce que nous pouvons faire à ce sujet. […] Les leaders technologiques en sont les mieux placés et les politiciens doivent être impliqués. Cela nous affecte tous, nous devons donc tous y penser.

Mais le président américain Biden a également eu des entretiens avec un certain nombre de dirigeants de sociétés d’IA à la Maison Blanche. Y compris le PDG d’Alphabet Sundar Pichai et le PDG d’OpenAI Sam Altman. Biden voit dans l’IA « l’un des outils les plus puissants de notre temps, mais pour saisir ses opportunités, nous devons d’abord atténuer ses risques ». Lors de la réunion, il a parlé « l’importance de l’innovation responsable et de la protection des droits et de la sécurité des personnes » à.