Les mystères de l’intelligence artificielle : pourquoi même leurs créateurs restent dans le flou

L’énigme des intelligences artificielles : même leurs créateurs restent perplexes

Alors que les intelligences artificielles génératives (IA gén AI) promettent de transformer notre monde, une surprise demeure chez leurs créateurs : ils ne comprennent pas vraiment comment ces « esprits numériques » fonctionnent. Cette incertitude est sans précédent dans l’histoire des technologies.

Les IA, des entités qu’on ne sait pas encore décoder

Contrairement aux logiciels traditionnels conçus pour suivre des étapes logiques claires dictées par des programmateurs, les modèles d’IA générative apprennent à trouver leur propre voie pour répondre aux requêtes. Dario Amodei, cofondateur d’Anthropic, souligne dans un essai publié en avril que même les experts du domaine sont surpris par cette incompréhension profonde.

Cette situation a donné naissance à un nouveau champ d’étude, la mécanistic interpretability, qui cherche à analyser les circuits et fonctions internes des IA pour comprendre exactement le cheminement qui mène d’une question à une réponse. Neel Nanda, chercheur à Google DeepMind, compare cette tâche à la tentative toujours en cours de comprendre le cerveau humain.

Une quête pour rendre l’IA plus transparente et fiable

Selon le professeur Mark Crovella de l’Université de Boston, cette discipline attire de nombreux étudiants, fascinés par l’impact potentiel de la compréhension des AI. Il s’agit non seulement d’un défi intellectuel passionnant, mais aussi d’une nécessité pour garantir la fiabilité et l’honnêteté des intelligences artificielles.

La startup Goodfire développe des outils permettant de représenter les données traitées par les IA sous forme d’étapes logiques pour mieux détecter et corriger d’éventuelles erreurs. Cela vise également à empêcher que des IA ne soient utilisées à des fins malveillantes ou ne manipulent les humains.

Eric Ho, PDG de Goodfire, évoque une véritable course contre la montre pour maîtriser ces technologies avant qu’elles ne soient déployées sans contrôle adéquat. Optimisme partagé par Amodei, qui espère une maîtrise de ces questions d’ici deux ans, notamment pour détecter les biais et intentions nuisibles dans les modèles.

Un enjeu crucial pour l’avenir de la technologie et de la société

À la différence du cerveau humain, où chaque neurone est difficile à observer, les chercheurs ont accès aux analogues neuronaux des modèles d’IA, offrant une connaissance complète de leurs mécanismes internes. Le défi est désormais de trouver la bonne approche pour sonder ces systèmes complexes.

Comprendre ces intelligences permettrait d’élargir leur utilisation dans des domaines sensibles comme la sécurité nationale, où la moindre erreur pourrait être critique. Par ailleurs, mieux cerner le fonctionnement des IA pourrait accélérer les découvertes humaines, à l’image d’AlphaZero, l’IA de DeepMind, qui a révolutionné le jeu d’échecs en découvrant des stratégies inédites.

Enfin, maîtriser cette technologie donnerait un avantage concurrentiel majeur sur le marché et renforcerait la position des États-Unis dans la compétition mondiale technologique, notamment face à la Chine.

En somme, ces intelligences artificielles, puissantes et prometteuses, doivent être comprises en profondeur pour que leur impact sur l’économie, la société et notre avenir soit positif et maîtrisé.

👉 Source ici

A lire ensuite