IA : c’est la pagaille !
IA - l’intelligence artificielle traverse une période de turbulences.
"Il est nécessaire que l’humanité se saisisse de l’IA, la fasse sienne, en la contrôlant et s’assurant qu’elle sert le bien collectif et pas seulement quelques intérêts milliardaires." Laurence Devillers, Professeure en IA à Sorbonne Université et chercheuse au CNRS.
OpenAI avait précédemment signalé que certains de ses agents s’étaient échappés d’un environnement de test contrôlé et avaient attaqué les systèmes de la plateforme Hugging Face. D’après les informations disponibles, d’autres cas similaires ont été découverts au cours des semaines suivantes.
La question est maintenant de savoir si l’industrie parviendra à fixer de nouvelles limites avant que les capacités de ses systèmes ne deviennent trop difficiles à contrôler. La course à l’IA ne se résume plus à la simple élection du modèle le plus performant. Elle est devenue un enjeu crucial pour déterminer le rythme d’évolution de cette technologie et le degré de contrôle que l’humain doit conserver. Lire plus : l’IA de quoi parle t’on ?
Ceux qui veulent freiner :
Sam Altman, d’OpenAI, et Dario Amodei, d’Anthropic, ont déclaré récemment vouloir ralentir le développement de leurs algorithmes les plus puissants. Des représentants d’OpenAI, Anthropic et Google se seraient même réunis pour travailler à la création d’un organisme de normalisation de l’IA (!?) Mark Carney, le premier ministre canadien souhaite "une coordination nécessaire" ; 1.300 salariés américains demandent au gouvernement de mettre en place des moyens de régulation ... ; Andrew Bailey (Conseil de stabilisation financière) s’inquiète du risque d’effondrement des marchés financiers.
Ceux qui veulent avancer même avec des réserves
Les partisans du développement rapide considèrent l’IA comme l’une des technologies les plus transformatrices de l’histoire, capable d’accroître la productivité, de contribuer à la résolution de problèmes scientifiques et médicaux et de bouleverser des secteurs entiers.
Jensen Huang, PDG de Nvidia, s’oppose à toute règlementation. Pour lui l’IA est une technologie, "A l’industrie de garantir la rigueur nécessaire pour tester correctement ces produits avant de les mettre à la disposition du public".
David Sacks, ancien conseiller IA du président Trump et J.D. Vance, vice-président américain, se moquent de ceux qui demandent une régulation.
Al Gore ancien vice-président et Prix Nobel explique que l’IA est "une formidable occasion pour accélérer encore la transition écologique".
Liu Shengyu (société chinoise DeepSeek) ne souhaite pas qu’Anthropic maîtrise l’IA la plus avancée.
Menaces et danger réel.
Laurence Devillers : "une autre menace est réelle, celle d’une utilisation malveillante des modèles open source dans les guerres, l’espionnage des populations ou encore la répression. Les citoyens aussi doivent faire quelque chose, ils peuvent obliger les politiques à une réflexion sur les grands enjeux d’inégalité de l’IA pour les enfants et pour la société..."
"Mais comment peut-on pousser (les géants de l’IA) à se mettre d’accord pour arrêter, pour faire une pause ? Les pays du Sud, les BRICS (Brésil, Russie, Inde, Chine, etc. ) s’organisent pour peser en contre-pouvoir contre les décisions de l’ONU. Il faut rappeler que l’IA est très importante pour la société, pour l’éducation pour tout, mais pas n’importe comment. Faire une pause ne veut pas dire qu’on ne va pas continuer à l’utiliser pour beaucoup de sujets, en santé par exemple. Parce qu’elle sera régulée, parce qu’elle sera vérifiée, parce qu’il y aura des humains dans la boucle qui sont des experts entraînés pour le faire."
"La situation actuelle autour de l’IA est une guerre froide qui nous mine, qui est en train de freiner les jeunes, de les empêcher de penser qu’ils vont y arriver et qu’il y a de l’avenir pour eux."
"C’est faramineux à quel point (cette course) a des conséquences négatives. Les géants de l’IA et certains gouvernements semblent devoir avancer sans se préoccuper ni de l’éducation des gens, ni de la planète, pas plus, finalement, que d’une potentielle guerre”.
Faire une pause !?
"Il faut arrêter, faire une pause et réfléchir à ce qu’on va faire de l’IA. Pour l’instant, c’est une guerre. Un conflit technologique entre les Américains et les Chinois, et entre les deux leaders américains qui ne veulent pas déposer les armes tant que tout le monde ne le fait pas. Une guerre à l’impact sociétal dont il est difficile de prendre l’entière mesure mais qui a déjà des effets qu’il faut endiguer au plus vite."
L’urgence est donc d’encadrer, de protéger, mais aussi de former et d’apprendre. "Savoir vivre avec l’IA, c’est un peu dire à tout le monde, vous êtes capable de vivre avec l’IA, d’avoir un point de vue pondéré sur cette histoire."
"C’est dire à l’humanité que la civilisation humaine n’est pas morte tant que l’humain garde son esprit critique, tant qu’il exerce son droit primordial à penser par lui-même. C’est dire que le combat de l’intelligence peut encore être mené et qu’il doit l’être."
Extraits : BFM Tech.