Share this article

Comment l'IA décentralisée et les preuves à connaissance nulle vont démocratiser l'informatique

L'IA risque de connaître la même centralisation que celle observée lors des précédentes versions d'Internet. Mais une autre voie est possible, affirment Mahesh Ramakrishnan et Vinayak Kurup.

(Taylor Vick/Unsplash)
(Taylor Vick/Unsplash)

Fin juillet, Mark Zuckerberg a écritune lettreIl explique pourquoi « l'open source est nécessaire à un avenir positif de l'IA », et s'exprime avec poésie sur la nécessité du développement de l'IA open source. L'ancien fondateur adolescent et geek, aujourd'hui devenu « Zuck », pratiquant le wakeboard, la chaîne en or et le jiu-jitsu, est présenté comme le messie du développement de modèles open source.

Mais jusqu'à présent, lui et l'équipe Meta n'ont T beaucoup parlé de comment Ces modèles sont en cours de déploiement. La complexité des modèles augmentant les besoins de calcul, si leur déploiement est contrôlé par une poignée d'acteurs, ne succombons-nous pas à une forme similaire de centralisation ? L'IA décentralisée promet de relever ce défi, mais cette Technologies nécessite des avancées dans les techniques cryptographiques de pointe et des solutions hybrides uniques.

Story continues
Don't miss another story.Subscribe to the The Node Newsletter today. See all newsletters

Cet éditorial fait partie du nouveauDePIN Vertical, couvrant l’industrie émergente des infrastructures physiques décentralisées.

Contrairement aux fournisseurs de cloud centralisés, l'IA décentralisée (DAI) distribueLes processus de calcul pour l'inférence et l'entraînement de l'IA sur plusieurs systèmes, réseaux et sites. Correctement mis en œuvre, ces réseaux, un type de réseau d'infrastructure physique décentralisé (DePIN), offrent des avantages en termes de résistance à la censure, d'accès aux ressources informatiques et de coût.

DAI) est confrontée à deux défis principaux : l'environnement d'IA et l'infrastructure décentralisée elle-même. Comparée aux systèmes centralisés, DAI décentralisée (DAI) nécessite des protections supplémentaires pour empêcher l'accès non autorisé aux détails du modèle ou le vol et la réplication d'informations propriétaires. C'est pourquoi elle représente une opportunité peu exploitée par les équipes qui se concentrent sur les modèles open source, tout en reconnaissant le désavantage potentiel de ces derniers en termes de performances par rapport à leurs homologues open source.

Les systèmes décentralisés sont particulièrement confrontés à des obstacles en matière d'intégrité du réseau et de surcharge de ressources. La répartition des données client sur des nœuds distincts, par exemple, expose davantage de vecteurs d'attaque. Les attaquants pourraient lancer un nœud et analyser ses calculs, tenter d'intercepter les transmissions de données entre les nœuds, voire introduire des biais dégradant les performances du système. Même dans un modèle d'inférence décentralisé sécurisé, des mécanismes d'audit des processus de calcul sont nécessaires. Les nœuds sont incités à économiser sur les ressources en présentant des calculs incomplets, et la vérification est compliquée par l'absence d'un acteur centralisé et de confiance.

Preuves à divulgation nulle de connaissance

Les preuves à divulgation nulle de connaissance (ZKP), bien qu'actuellement trop coûteuses en ressources informatiques, constituent une solution potentielle à certains défis liés à DAI . ZKP est un mécanisme cryptographique qui permet à une partie (le prouveur) de convaincre une autre partie (le vérificateur) de la véracité d'une affirmation sans divulguer aucun détail sur l'affirmation elle-même, hormis sa validité. La vérification de cette preuve est QUICK pour les autres nœuds et permet à chaque nœud de prouver qu'il a agi conformément au protocole. Les différences techniques entre les systèmes de preuve et leurs implémentations (nous y reviendrons plus tard) sont importantes pour les investisseurs dans ce domaine.

Le calcul centralisé rend l'entraînement des modèles exclusif à une poignée d'acteurs bien positionnés et dotés de ressources. Les ZKP pourraient contribuer à libérer du temps de calcul inutilisé sur les équipements grand public ; un MacBook, par exemple, pourrait utiliser sa bande passante de calcul supplémentaire pour entraîner un modèle à langage étendu tout en permettant à l'utilisateur de gagner des jetons.

Le déploiement d'une formation ou d'une inférence décentralisée avec du matériel grand public est au cœur des préoccupations d'équipes commeGensyn et Laboratoires d'inférence; contrairement à un réseau informatique décentralisé commeAkash ou RendreLe partitionnement des calculs ajoute de la complexité, notamment le problème de la virgule flottante. L'utilisation de ressources de calcul distribuées inutilisées permet aux petits développeurs de tester et d'entraîner leurs propres réseaux, à condition d'avoir accès à des outils permettant de résoudre les problèmes associés.

À l'heure actuelle, les systèmes ZKP semblent quatre à six fois plus coûteux que l'exécution native du calcul. De plus, pour les tâches exigeant une puissance de calcul élevée (comme l'entraînement de modèles) ou une faible latence (comme l'inférence de modèles), l'utilisation d'un ZKP est excessivement lente. À titre de comparaison, une baisse de six ordres de grandeur signifie qu'un système de pointe (commeJolt d'a16z) fonctionnant sur une puce M3 Max peut prouver qu'un programme150 fois plus lentplutôt que de l'exécuter sur une Calculateur graphique TI-84.

La capacité de l'IA à traiter de grandes quantités de données la rend compatible avec les preuves à divulgation nulle de connaissance (ZKP), mais des progrès supplémentaires en cryptographie sont nécessaires avant que les ZKP puissent être largement utilisées. Des travaux sont menés par des équipes telles queIrréductible(qui a conçu leBiniussystème de preuve et schéma d'engagement),Gensyn,TensorOpera, Hellas, etLaboratoires d'inférence, entre autres, constituera une étape importante dans la réalisation de cette vision. Les échéanciers restent toutefois trop optimistes, car une véritable innovation exige du temps et des progrès mathématiques.

En attendant, il convient de noter d'autres possibilités et solutions hybrides. HellasAI et d'autres développent de nouvelles méthodes de représentation de modèles et de calculs permettant un jeu de défi optimiste, n'autorisant qu'un sous-ensemble de calculs à traiter en connaissance nulle. Les preuves optimistes ne fonctionnent que s'il existe un jalonnement, la possibilité de prouver une infraction et une menace crédible que le calcul soit vérifié par d'autres nœuds du système. Une autre méthode, développée parLaboratoires d'inférence, valide un sous-ensemble de requêtes dans lesquelles un nœud s'engage à générer un ZKP avec une BOND, mais ne présente la preuve que s'il est d'abord contesté par le client.

En somme

L'entraînement et l'inférence décentralisés de l'IA serviront de protection contre la consolidation du pouvoir par quelques acteurs majeurs, tout en libérant des ressources informatiques jusqu'alors inaccessibles. Les ZKP joueront un rôle essentiel dans la concrétisation de cette vision. Votre ordinateur pourra vous rapporter de l'argent de manière imperceptible en utilisant une puissance de traitement supplémentaire en arrière-plan. Des preuves succinctes de la bonne exécution d'un calcul rendront inutile la confiance accordée aux plus grands fournisseurs de cloud, permettant ainsi aux réseaux informatiques des petits fournisseurs d'attirer une clientèle d'entreprises.

Si les preuves à connaissance nulle permettront cet avenir et constitueront un élément essentiel, et pas seulement pour les réseaux de calcul (comme la vision d'Ethereum pour la finalité à un seul emplacement), leur surcharge de calcul demeure un obstacle. Les solutions hybrides combinant les mécanismes de la théorie des jeux optimistes avec une utilisation sélective des preuves à connaissance nulle constituent une meilleure solution et deviendront probablement omniprésentes comme passerelles jusqu'à ce que les ZKP deviennent beaucoup plus rapides.

Pour les investisseurs Crypto natifs et non natifs, comprendre la valeur et les défis des systèmes d'IA décentralisés sera crucial pour déployer efficacement leurs capitaux. Les équipes doivent avoir des réponses aux questions concernant les preuves de calcul des nœuds et les redondances réseau. De plus, comme nous l'avons observé dans de nombreux projets DePIN, la décentralisation s'effectue progressivement, et une planification claire des équipes pour atteindre cette vision est essentielle. Résoudre les défis liés au calcul DePIN est essentiel pour redonner le contrôle aux individus et aux petits développeurs, un élément essentiel pour maintenir nos systèmes ouverts, libres et résistants à la censure.

Remarque : les opinions exprimées dans cette colonne sont celles de l'auteur et ne reflètent pas nécessairement celles de CoinDesk, Inc. ou de ses propriétaires et sociétés affiliées.

Note: The views expressed in this column are those of the author and do not necessarily reflect those of CoinDesk, Inc. or its owners and affiliates.

Mahesh Ramakrishnan

Mahesh Ramakrishnan est le fondateur d'EV3 Ventures.

Mahesh Ramakrishnan
Vinayak Kurup