La proposition de « pause » de l'IA est trompeuse et dangereusement dangereuse

Le mois dernier, plusieurs géants de la technologiesigné une lettreappelant à une pause de six mois sur la formation de modèles d'intelligence artificielle (IA) plus puissants que GPT-4.

Cette lettre est dangereuse et devrait inciter les citoyens à réfléchir. Les signataires y affirment qu'une pause donnerait à l'humanité plus de temps pour comprendre et réagir aux risques potentiels de l'IA. La lettre elle-même vise à Rally le soutien du public à OpenAI et à ses alliés, qui consolident leur domination, construisent une avance considérable en matière d'innovation et consolident leur avance sur une Technologies d'une importance fondamentale pour l'avenir. Si cela se produit, cela portera un préjudice irréparable aux Américains – à notre économie et à notre population.

Peter Vessenes est un technologue et investisseur profondément ancré dans les monnaies numériques, la tokenisation et la blockchain. Pionnier du Bitcoin, il a cofondé la Fondation Bitcoin en 2012 et a été le premier acteur du secteur des Crypto à conseiller le GAO du Sénat américain, le Département du Trésor américain et d'autres agences sur le Bitcoin.

GPT-4 et d'autres modèles fondamentaux similaires promettent de multiplier par mille les capacités Human , favorisant ainsi des changements sociaux dans de nombreux domaines. L'industrie, telle qu'elle est structurée actuellement, risque de consolider une cabale qui décidera à qui profitera cette Technologies.

Imaginez si, en 1997, Microsoft et Dell avaient publié une lettre de « pause » similaire, appelant à l'arrêt des innovations en matière de navigateurs et à l'interdiction des nouveaux sites de commerce électronique pendant six mois, citant leurs propres recherches selon lesquelles Internet détruirait les magasins physiques et favoriserait le Finance du terrorisme. Aujourd'hui, nous considérerions cela comme un alarmisme intéressé et une tentative de mainmise réglementaire.

La lettre « Pause » ne fait pas exception. Quelques dirigeants au franc-parler et au charme certain s'emparent du pouvoir sous prétexte de nous protéger des dangers de l'IA. Ils se positionnent comme les seuls arbitres des technologies que le monde peut voir et utiliser, et comme les seuls à décider de ce qui caractérise une IA « précise, sûre, interprétable, transparente, robuste, alignée, digne de confiance et loyale ».

Il est inacceptable qu'une poignée de milliardaires décident de ce qui est bon et sûr pour le monde. Même les leaders de l'IA les mieux intentionnés ne devraient pas détenir un tel pouvoir. Le pouvoir absolu corrompt totalement.

Le monde est engagé dans une course aux modèles de fondations de nouvelle génération. Aucune course ne pourra arrêter, ni même ralentir, la recherche et le développement. Les laboratoires d'IA indépendants et leurs concurrents étrangers, désireux d'intégrer l'IA avancée à leurs systèmes, T s'arrêteront pas ; ils poursuivront sans relâche.

Comment garantir que tous les humains bénéficient de l'amélioration 1 000 fois supérieure que nous offre l'IA ? La seule solution est un développement libre et ouvert, incluant le partage de capacités, de méthodologies et de points de contrôle réseau. Par exemple, depuis des années, EleutherAI montre la voie, résistant aux avertissements frauduleux selon lesquels GPT-2 et GPT-3 étaient « trop dangereux » pour le public, et publiant sans crainte des recherches et des modèles. Nous avons besoin d'une échelle 100 à 1 000 fois supérieure à celle d'EleutherAI, à l'échelle mondiale. (Remarque : cet auteur n'est pas affilié à EleutherAI.)

Nous ne devons pas hésiter. Dès maintenant, nous devons tous prioriser, investir, contribuer et publier largement des modèles d'IA véritablement ouverts. Nous devons rester vigilants face à ceux qui cherchent à contrôler le destin de l'humanité.

Il y a onze ans, les pionniers de la blockchain se sont réunis pour créer la Fondation Bitcoin , un modèle d'organisation pour l'industrie cryptographique, conciliant les besoins et les objectifs des particuliers avec ceux des entreprises qui assureraient l'essor de la Crypto . La Fondation regroupait des personnes et des objectifs variés, mais nous étions unis par notre volonté de voir Bitcoin prospérer hors du contrôle d'un groupe ou d'une cabale. Je crois qu'une démarche similaire est nécessaire pour l' IA, en tirant les leçons des Technologies décentralisées de la dernière décennie et plus, et en les associant à un engagement fort en faveur de l'indépendance, de l'humanité et de l'ouverture.

La pause proposée consoliderait le contrôle du développement de l'IA entre les mains des riches et des puissants. Au contraire, avançons ensemble et ouvertement. J'invite les personnes partageant les mêmes idées, les sceptiques et les curieux à discuter des moyens de bâtir un avenir meilleur. Connectez-vous avec d'autres personnes engagées pour une IA libre et ouverte à tous surfreeaimovement.com.