L’avertissement de Vitalik Buterin sur l’IA

Vitalik Buterin a plaidé dimanche soir pour une “pause” dans le développement de l’intelligence artificielle. Le co-fondateur d’Ethereum estime que l’avènement d’une superintelligence IA pourrait représenter un danger pour l’humanité.

Une pause pour préparer l’humanité à une superintelligence IA

Vitalik Buterin est inquiet. Le co-fondateur d’ Ethereum s’est fendu dimanche soir d’un post sur son blog pour appeler à une “pause” dans le développement de l’intelligence artificielle.

Selon lui, l’imminence de la naissance d’une “superintelligence” artificielle représente un danger potentiel pour l’humanité. Et au rythme actuel, elle pourrait devenir réalité dans seulement cinq ans.

Afin de permettre à l’humanité de se préparer à une telle éventualité, Vitalik Buterin recommande notamment de faire une “pause” de un ou deux ans dans la fabrication de nouvelles puces informatiques plus puissantes.

d/acc: one year later https://t.co/pM3eVtJ1BU

— vitalik.eth (@VitalikButerin) January 5, 2025

L’idée serait de réduire la puissance de calcul disponible pour les ordinateurs de plus de 99% afin “d’acheter plus de temps à l’humanité pour qu’elle puisse se préparer”.

Il a ainsi réitéré la nécessité de mettre en place le concept de “decentralized / defensive acceleration – d/acc (en français accélérationnisme décentralisé / défensif)”.

Ce dernier s’oppose à “l’accélérationnisme efficace”, un mouvement philosophique en vogue au sein de la Silicon Valley.

Il consiste en résumé à accélérer le développement de l’intelligence artificielle générale (IAG), afin à terme de propager la vie dans tout l’univers. Ce mouvement s’oppose aux réglementations, plaidant pour un libre marché décentralisé.

La blockchain pour aider à encadrer l’IA

Afin de mettre en place son concept d’accélérationnisme décentralisé, Vitalik Buterin propose divers outils. Il plaide notamment pour le traçage des puces utilisées pour l’IA, en rendant obligatoire le fait de les déclarer.

Il propose en outre un système dans lequel trois signatures d’organisme internationaux seraient nécessaire chaque semaine afin d’autoriser le fonctionnement de ses puces. Sans ces signatures, elle seraient automatiquement bloquées.

Pour cela, il serait possible d’utiliser la blockchain, explique Buterin:

“Les signatures seraient indépendantes des appareils sur lesquelles les puces fonctionnent (si on le souhaite on pourrait même demander une preuve en zero-knowledge qui prouve qu’elles ont été publier sur une blockchain), donc ce serait tout ou rien. Il ne serait donc pas possible d’utiliser un appareil à continuer à fonctionner sans autoriser tous les autres appareils.”

Le co-fondateur d’Ethereum et de sa cryptomonnaie $ETH estime qu’un tel système n’aurait qu’un impact négatif limité sur les développeurs. Et cela constituerait selon lui une forme d’assurance contre tout scénario catastrophe.

De plus, il est convaincu qu’il est préférable de fixer les mêmes règles pour tous et de mettre en place une collaboration entre tous les acteurs.

“Si nous devons limiter les gens, il semble préférable de limiter tout le monde sur un pied d’égalité et d’effectuer le travail difficile consistant à essayer de coopérer et de s’organiser plutôt qu’une seule entité cherche à dominer toutes les autres”.

Vitalik Buterin n’est pas le seul à afficher son inquiétude vis-à-vis de l’avènement d’une superintelligence artificielle. En mars 2023 déja, plus de 2600 dirigeants du secteurs des nouvelles technologies avaient co-signé une lettre ouverte appelant à stopper le développement de l’IA en raison des “risques importants pour la société et pour l’humanité“.

Lire sur ces sujets :

• AAVE : Le fer de lance de la DeFi pour 2025 ?
• Bitcoin démarre 2025 dans le vert : Nouveau record imminent face à ces facteurs haussiers ?
• Les 3 AI Agent coins qui pourraient exploser en 2025