Buterin freine l'autonomie de l'IA : la sécurité contre l'efficacité

Une minute, pas une seconde de plus

Le cofondateur d'Ethereum vient de préciser sa position sur l'intelligence artificielle de manière directe : plus un système gagne en autonomie, plus il devient dangereux, indépendamment de ses performances théoriques. Cette prise de position tranche avec la tendance dominante de l'industrie.

Concrètement, Buterin propose une limite technique simple : brider à soixante secondes l'horizon de décision autonome de tout système IA, avant qu'un opérateur humain ne reprenne le contrôle. Cette fenêtre temporelle fixe transformerait fondamentalement la manière dont fonctionnent actuellement les agents autonomes.

Son argument repose sur une observation : davantage d'opportunités d'intervention humaine améliore non seulement la sécurité, mais aussi les résultats concrets. Une approche contre-courant dans un secteur où les laboratoires vendent précisément l'autonomie maximale comme argument premier de leurs nouveaux systèmes.

Des chartes contraignantes plutôt que des promesses

Buterin n'en reste pas à la théorie. Il pousse activement pour que les laboratoires d'IA adoptent des chartes contraignantes, centrées sur l'augmentation des capacités humaines plutôt que sur le remplacement pur. Il défend également des modèles ouverts, équipés d'outils d'édition robustes, en opposition frontale avec les systèmes agentiques fermés et totalement autonomes.

Cette position s'inscrit dans la continuité d'une préoccupation plus large qu'il exprimait déjà en début d'année : les risques d'une dérive vers une superintelligence incontrôlable. À l'époque, il appelait à limiter les ressources de calcul disponibles mondialement pour freiner cette trajectoire.

Pourquoi c'est important pour la crypto

Le raisonnement n'a rien d'académique. Dans un environnement blockchain, une erreur d'exécution n'est par nature jamais réversible : une transaction mal exécutée par un agent IA reste gravée définitivement. Plus l'autonomie augmente, plus la fenêtre d'intervention se rétrécit, et plus le risque de propagation rapide d'une erreur devient critique.

C'est d'ailleurs un enjeu que soulève régulièrement Vint Cerf, l'un des pères d'Internet, qui réclame une forme d'identification pour chaque agent IA autorisé à interagir sur les réseaux. Le besoin de traçabilité et de contrôle devient central à mesure que ces systèmes s'intègrent dans l'infrastructure économique.

Un équilibre encore à construire

Buterin continue de défendre l'idée d'une Ethereum devenant la couche économique naturelle pour les interactions entre agents IA, avec paiements automatisés et litiges réglés directement on-chain. Son message reste cohérent : cette économie agentique ne tiendra debout que si l'humain conserve, quelque part dans la boucle, le dernier mot.

L'équilibre reste à inventer, entre des laboratoires promettant une autonomie toujours croissante et des régulateurs qui commencent à peine à se pencher sérieusement sur les risques concrets. La Suisse, en tant que centre de compétences financières et technologiques, ne peut ignorer cette question : les agents IA autonomes opèreront inévitablement sur les blockchains, y compris sur le marché franc suisse.

Source : Journal du Coin

Cet article est fourni à titre informatif uniquement. Il ne constitue pas un conseil en investissement. Les crypto-actifs comportent un risque de perte totale. Gryph News n'est pas agréé par la FINMA.