Démystifier la boîte noire de l'IA : Ariana Spring et Andrew Stanco expliquent comment la technologie blockchain peut révéler les entrées cachées.

La magie de l'IA générative réside en partie dans le fait que la plupart des gens ignorent totalement son fonctionnement. À un certain niveau, on peut même dire queONE On sait parfaitement comment ça fonctionne, car le fonctionnement interne de ChatGPT peut laisser perplexes les scientifiques les plus brillants. C'est une boîte noire. On ne sait pas exactement comment elle est entraînée, quelles données produisent quels résultats, et quelle propriété intellectuelle est piétinée dans le processus. C'est à la fois une partie de la magie et de ce qui est terrifiant.Ariana Spring est uneconférencier au festival Consensus de cette année, à Austin, Texas, du 29 au 31 mai.

Et s'il existait un moyen de scruter l'intérieur de la boîte noire, permettant de visualiser clairement comment l'IA est gouvernée, entraînée et produite ? Tel est l'objectif, ou ONEun des objectifs, de Laboratoire EQTY, qui mène des recherches et crée des outils pour rendre les modèles d'IA plus transparents et collaboratifs.Explorateur de lignée, par exemple, donne une vue en temps réel de la manière dont le modèle est construit.

Tous ces outils sont destinés à lutter contre l'opacité et la centralisation. « Si vous ne comprenez T pourquoi une IA prend ses décisions ni qui en est responsable, il est très difficile de comprendre pourquoi des informations nuisibles sont diffusées », explique Ariana Spring, directrice de recherche au laboratoire EQTY. « Je pense donc que la centralisation – et le fait de garder ces secrets dans des boîtes noires – est très dangereux. »

Accompagnée de son collègue Andrew Stanco (responsable Finance), Spring explique comment la Crypto peut créer une IA plus transparente, comment ces outils sont déjà déployés au service de la science du changement climatique et pourquoi ces modèles open source peuvent être plus inclusifs et représentatifs de l'humanité dans son ensemble.

L'interview a été condensée et légèrement modifiée pour plus de clarté.

Quelle est la vision et l’objectif d’EQTY Lab ?

Ariana Spring : Nous sommes pionniers dans de nouvelles solutions pour renforcer la confiance et l'innovation en IA. L'IA générative est un sujet HOT' actualité, et c'est la propriété la plus émergente ; c'est donc un domaine sur lequel nous nous concentrons.

Nous étudions également différents types d'IA et de gestion des données. La confiance et l'innovation sont nos axes forts. Pour ce faire, nous utilisons une cryptographie avancée pour rendre les modèles plus transparents, mais aussi collaboratifs. Nous considérons la transparence et la collaboration comme les deux faces d'une même médaille, pour une IA plus intelligente et plus sûre.

Pouvez-vous nous en dire plus sur la place des Crypto dans tout cela ? Beaucoup affirment que « les Crypto et l'IA sont parfaitement compatibles », mais souvent, leur raisonnement s'arrête à un niveau très général.

Andrew Stanco :Je pense que l'intersection entre l'IA et la Crypto est une question ouverte, n'est-ce pas ? Nous avons découvert que le Secret caché de l'IA réside dans sa nature collaborative ; elle implique une multitude d'acteurs. ONE data scientist ne pourrait à lui seul créer un modèle d'IA. Il peut l'entraîner, l'affiner, mais la cryptographie devient un moyen de réaliser quelque chose et de disposer d'un moyen inviolable de vérifier que cela s'est produit.

Ainsi, dans un processus aussi complexe que la formation de l'IA, disposer d'attestations inviolables et vérifiables, pendant et après la formation, est un atout majeur. Cela crée confiance et visibilité.

Ariana Spring :À chaque étape du cycle de vie et du processus d'entraînement de l'IA, nous enregistrons ce qui s'est passé. Il s'agit de l' ID décentralisé associé à l'agent, à Human ou à la machine qui effectue l'action. L'horodatage est également présent. Grâce à notre explorateur de lignées, vous pouvez constater que toutes nos actions sont enregistrées automatiquement par cryptographie.

Nous utilisons ensuite des contrats intelligents dans nos produits de gouvernance. Ainsi, si le paramètre X est respecté ou non, une action peut être exécutée ou non. ONEun de nos outils est Governance Studio, qui programme la manière d'entraîner une IA ou de gérer son cycle de vie, et ces informations sont ensuite répercutées en aval.

Pouvez-vous BIT le type d'outils que vous développez ? Par exemple, développez-vous des outils et effectuez-vous des recherches pour aider d'autres startups à créer des modèles de formation, ou développez-vous vous-même des modèles de formation ? En d'autres termes, quel est exactement le rôle d'EQTY Labs dans cet environnement ?

Andrew Stanco :C'est un mélange, en quelque sorte, car nous nous concentrons sur l'entreprise, car c'est ONEun des premiers domaines où il faudra maîtriser l'IA du point de vue de la formation et de la gouvernance. Si l'on approfondit ce point, nous devons prévoir un espace où un développeur, ou un membre de l'organisation, peut annoter le code et dire : « OK, voici ce qui s'est passé », puis créer un enregistrement. C'est une approche centrée sur l'entreprise, avec une attention particulière portée à la collaboration avec les développeurs et les personnes qui construisent et déploient les modèles.

Ariana Spring :Nous avons également travaillé à l'entraînement du modèle grâce à l'Endowment for Climate Intelligence. Nous avons contribué à l'entraînement d'un modèle appeléClimateGPT, qui est un modèle de langage à grande échelle spécifique au climat. Ce n'est T notre spécialité, mais nous avons suivi le processus et utilisé notre suite de technologies pour le visualiser. Nous comprenons donc son fonctionnement.

Qu’est-ce qui vous passionne le plus dans l’IA et qu’est-ce qui vous terrifie le plus dans l’IA ?

Andrew Stanco :Je veux dire, pour ce qui est de l'excitation, la première interaction avec l'IA générative a été comme un éclair dans le modèle. La première fois que vous avez créé une invite dans MidJourney, ou que vous avez posé une question à ChatGPT, ONE n'a eu besoin de vous convaincre de sa puissance. Et je ne pensais T qu'il y avait beaucoup de nouveautés, n'est-ce pas ?

Et la terreur ?

Andrew Stanco :Je pense que c'est une préoccupation qui sous-tend peut-être une grande partie de ce qui sera discuté lors du Consensus, à en juger par l'ordre du jour. Le problème est que ces outils permettent aux gagnants actuels d'explorer des voies plus profondes. Il ne s'agit pas nécessairement d'une Technologies disruptive, mais d'une ONE qui s'ancre.

Et Ariana, votre principale source d'excitation et de terreur en matière d'IA ?

Ariana Spring :Je commencerai par ma crainte, car j'allais dire quelque chose de similaire. Je dirais la centralisation. Nous avons constaté les méfaits de la centralisation associée à un manque de transparence sur son fonctionnement. Nous l'avons constaté ces 10 ou 15 dernières années avec les réseaux sociaux, par exemple. Et si l'on ne comprend T pourquoi une IA prend ses décisions ou qui en est responsable, il est très difficile de comprendre pourquoi des informations nuisibles sont diffusées. Je pense donc que la centralisation – et le fait de garder ces secrets dans des boîtes noires – est vraiment dangereux.

Et l'excitation ?

Ce qui m'enthousiasme le plus, c'est d'attirer davantage de personnes. Nous avons eu l'occasion de travailler avec différents groupes d'acteurs lors de la formation de ClimateGPT, comme des groupes d'aînés autochtones, des jeunes urbains à faibles revenus, noirs et métis, ou encore des étudiants du Moyen-Orient. Nous collaborons avec tous ces militants et universitaires pour le climat afin de leur demander : « Souhaitez-vous contribuer à l'amélioration de ce modèle ? »

Les gens sont très enthousiastes, mais ils n'ont peut-être T compris le fonctionnement. Une fois que nous leur avons expliqué comment cela fonctionnait et comment ils pouvaient nous aider, on les a vus dire : « Oh, c'est bien. » Ils ont pris confiance en eux. Ils ont alors envie de contribuer davantage. Je suis donc très enthousiaste, notamment grâce au travail que nous menons chez EQTY Research, à l'idée de commencer à publier certains de ces cadres, afin que nous T à dépendre de systèmes qui ne sont peut-être T très représentatifs.

Magnifiquement dit. Rendez-vous à Austin pour le Sommet de Consensus sur l'IA.