Desmistificando a caixa preta da IA: Ariana Spring e Andrew Stanco sobre como a tecnologia Blockchain pode lançar luz sobre entradas ocultas

Parte da magia da IA Generativa é que a maioria das pessoas não tem ideia de como ela funciona. Em um certo nível, é até justo dizer queONE tem certeza absoluta de como funciona, já que o funcionamento interno do ChatGPT pode deixar os cientistas mais brilhantes perplexos. É uma caixa preta. Não temos certeza absoluta de como ele é treinado, quais dados produzem quais resultados e qual IP está sendo pisoteado no processo. Isso é parte da mágica e parte do que é assustador.

Ariana Spring é umapalestrante no festival Consensus deste ano, em Austin, Texas, de 29 a 31 de maio.

E se houvesse uma maneira de espiar dentro da caixa preta, permitindo uma visualização clara de como a IA é governada, treinada e produzida? Este é o objetivo — ou um dos objetivos — de Laboratório EQTY, que conduz pesquisas e cria ferramentas para tornar os modelos de IA mais transparentes e colaborativos. O EQTY Lab’sExplorador de linhagem, por exemplo, fornece uma visão em tempo real de como o modelo é construído.

Todas essas ferramentas são pensadas como uma verificação contra opacidade e centralização. “Se você T entende por que uma IA está tomando as decisões que está tomando ou quem é o responsável, é realmente difícil questionar por que coisas prejudiciais estão sendo vomitadas”, diz Ariana Spring, Chefe de Pesquisa no EQTY Lab. “Então eu acho que a centralização — e manter esses segredos em caixas-pretas — é realmente perigoso.”

Acompanhada por seu colega Andrew Stanco (chefe de Finanças), Spring compartilha como as Cripto podem criar uma IA mais transparente, como essas ferramentas já estão sendo implantadas a serviço da ciência das mudanças climáticas e por que esses modelos de código aberto podem ser mais inclusivos e representativos da humanidade em geral.

A entrevista foi condensada e ligeiramente editada para maior clareza.

Qual é a visão e o objetivo do EQTY Lab?

Ariana Primavera: Somos pioneiros em novas soluções para construir confiança e inovação em IA. E IA generativa é o assunto do momento, e essa é a propriedade mais emergente, então é algo em que estamos focados.

Mas também olhamos para todos os diferentes tipos de IA e gerenciamento de dados. E realmente confiança e inovação são onde nos apoiamos. Fazemos isso usando criptografia avançada para tornar os modelos mais transparentes, mas também colaborativos. Vemos transparência e colaboração como dois lados da mesma moeda de criação de IA mais inteligente e segura.

Você pode falar um pouco mais sobre como a Cripto se encaixa nisso? Porque você vê muitas pessoas dizendo que “Cripto e IA são uma ótima combinação”, mas frequentemente a lógica para em um nível muito alto.

André Stanco:Acho que a intersecção entre IA e Cripto é uma questão em aberto, certo? Uma coisa que descobrimos é que o Secret oculto sobre IA é que ela é colaborativa; tem uma multidão de partes interessadas. ONE cientista de dados poderia fazer um modelo de IA. Eles podem treiná-lo, podem ajustá-lo, mas a criptografia se torna uma maneira de fazer algo e então ter uma maneira inviolável de verificar se isso aconteceu.

Então, em um processo tão complexo quanto o treinamento de IA, ter essas atestações invioláveis e verificáveis — tanto durante o treinamento quanto depois — realmente ajuda. Isso cria confiança e visibilidade.

Ariana Primavera:O que fazemos é que em cada etapa do ciclo de vida da IA ​​e do processo de treinamento, há uma autenticação em cartório — ou um carimbo — do que aconteceu. Este é o ID descentralizado, ou identificador, que está associado ao agente ou Human ou máquina que está realizando essa ação. Você tem o carimbo de data/hora. E com nosso Lineage Explorer, você pode ver que tudo o que fazemos é registrado automaticamente usando criptografia.

E então usamos contratos inteligentes em nossos produtos de governança. Então, se o parâmetro X for atendido ou não, uma determinada ação pode prosseguir ou não. Uma das ferramentas que temos é um Governance Studio, e isso basicamente programa como você pode treinar uma IA ou como você pode gerenciar seu ciclo de vida de IA, e isso é então refletido a jusante.

Você pode esclarecer um BIT que tipo de ferramentas você está construindo? Por exemplo, você está construindo ferramentas e fazendo pesquisas que visam ajudar outras startups a construir modelos de treinamento, ou você está construindo modelos de treinamento você mesmo? Em outras palavras, qual é exatamente o papel do EQTY Labs neste ambiente?

André Stanco:É uma mistura, de certa forma, porque nosso foco está na empresa, já que esse será um dos primeiros grandes lugares onde você precisa obter a IA correta do ponto de vista de treinamento e governança. Se você se aprofundar nisso, então precisamos ter uma área onde um desenvolvedor — ou alguém naquela organização — possa anotar o código e dizer: "Ok, foi isso que aconteceu", e então criar um registro. É focado na empresa, com ênfase em trabalhar com desenvolvedores e as pessoas que constroem e implantam os modelos.

Ariana Primavera:E trabalhamos no treinamento do modelo também por meio do Endowment for Climate Intelligence. Ajudamos a treinar um modelo chamadoClimaGPT, que é um modelo de linguagem grande específico do clima. Esse T é o nosso ganha-pão, mas passamos pelo processo e usamos nosso conjunto de tecnologias para visualizar esse processo. Então entendemos como é.

O que mais te entusiasma na IA e o que mais te aterroriza nela?

André Stanco:Quero dizer, para empolgação, aquele primeiro momento em que você interage com IA generativa pareceu que você descortilhou o relâmpago no modelo. A primeira vez que você cria um prompt no MidJourney, ou que você faz uma pergunta ao ChatGPT, ONE precisa te convencer de que talvez isso seja poderoso. E eu T achei que houvesse muitas coisas novas mais, certo?

E quanto ao terror?

André Stanco:Acho que essa é uma preocupação que talvez seja o subtexto para muito do que vai estar no Consensus, só de dar uma espiada na agenda. A preocupação é que essas ferramentas estão deixando os vencedores existentes cavarem modos mais profundos. Que essa não é necessariamente uma Tecnologia disruptiva, mas uma ONE entrincheirante.

E Ariana, qual é sua principal excitação e terror em relação à IA?

Ariana Primavera:Vou começar com meu medo porque eu ia dizer algo parecido. Eu diria centralização. Vimos os danos da centralização quando combinada com a falta de transparência sobre como algo funciona. Vimos isso nos últimos 10, 15 anos com as mídias sociais, por exemplo. E se você T entende por que uma IA está tomando as decisões que está tomando ou quem é o responsável, é muito difícil questionar por que coisas prejudiciais estão sendo vomitadas. Então eu acho que a centralização — e manter esses segredos em caixas-pretas — é realmente perigoso.

Que tal emoção?

O que mais me empolga é trazer mais pessoas. Tivemos a chance de trabalhar com vários tipos diferentes de grupos de partes interessadas enquanto treinávamos o ClimateGPT, como grupos indígenas mais velhos ou jovens negros e pardos de baixa renda, urbanos, ou estudantes no Oriente Médio. Estamos trabalhando com todos esses ativistas climáticos e acadêmicos para dizer: "Ei, você quer ajudar a melhorar esse modelo?"

As pessoas estão realmente animadas, mas talvez T tenham entendido como funcionava. Depois que ensinamos a elas como funcionava e como elas poderiam ajudar, você pode vê-las dizer: "Ah, isso é bom". Elas ganham confiança. Então, elas querem contribuir mais. Então, estou realmente animado, especialmente pelo trabalho que estamos fazendo na EQTY Research, para começar a publicar algumas dessas estruturas, para que T tenhamos que depender de sistemas que talvez T sejam tão representativos.

Lindamente dito. Vejo vocês em Austin no Consensus’ AI Summit.