Разоблачение черного ящика ИИ: Ариана Спринг и Эндрю Стэнко о том, как технология блокчейн может пролить свет на скрытые входы

Часть магии генеративного ИИ заключается в том, что большинство людей понятия не имеют, как он работает. На определенном уровне можно даже сказать, чтоONE полностью уверен, как это работает, поскольку внутренняя работа ChatGPT может поставить в тупик самых ярких ученых. Это черный ящик. Мы не совсем уверены, как он обучается, какие данные дают какие результаты и какой IP топчется в процессе. Это и часть магии, и часть того, что ужасает.

Ариана Спринг — этоспикер на фестивале Consensus в этом году, в Остине, штат Техас, 29-31 мая.

Что если бы был способ заглянуть внутрь черного ящика, что позволило бы наглядно увидеть, как управляется, обучается и производится ИИ? Это цель — или ONE из целей — Лаборатория EQTY, которая проводит исследования и создает инструменты, позволяющие сделать модели ИИ более прозрачными и совместными. EQTY LabИсследователь родословной, например, дает представление в реальном времени о том, как строится модель.

Все эти инструменты предназначены для проверки непрозрачности и централизации. «Если вы T понимаете, почему ИИ принимает те или иные решения или кто за это отвечает, очень сложно допросить, почему выбрасываются вредоносные вещи», — говорит Ариана Спринг, руководитель исследований в лаборатории EQTY. «Поэтому я считаю, что централизация и хранение этих секретов в черных ящиках действительно опасны».

Вместе со своим коллегой Эндрю Стэнко (руководителем Финансы) Спринг рассказывает о том, как Криптo может создать более прозрачный ИИ, как эти инструменты уже используются в науке об изменении климата и почему эти модели с открытым исходным кодом могут быть более инклюзивными и репрезентативными для человечества в целом.

Интервью было сокращено и слегка отредактировано для ясности.

Каковы видение и цель EQTY Lab?

Ариана Спринг: Мы являемся пионерами новых решений для создания доверия и инноваций в области ИИ. А генеративный ИИ — это своего рода HOT тема сейчас, и это самое новое свойство, так что это то, на чем мы сосредоточены.

Но мы также рассматриваем все виды ИИ и управления данными. И действительно доверие и инновации — это то, на что мы опираемся. Мы делаем это, используя передовую криптографию, чтобы сделать модели более прозрачными, но также и совместными. Мы рассматриваем прозрачность и сотрудничество как две стороны одной медали создания более умного и безопасного ИИ.

Можете ли вы немного подробнее рассказать о том, как сюда вписывается Криптo ? Потому что вы видите, как многие говорят, что «Криптo и ИИ отлично подходят друг другу», но часто обоснование останавливается на очень высоком уровне.

Эндрю Станко:Я думаю, что пересечение ИИ и Криптo — ONE открытый вопрос, верно? ONE из вещей, которую мы обнаружили, заключается в том, что скрытый Secret ИИ заключается в том, что он является совместным; у него есть множество заинтересованных сторон. Ни ONE специалист по данным не может создать модель ИИ. Они могут обучить ее, они могут ее тонко настроить, но криптография становится способом сделать что-то, а затем иметь защищенный от несанкционированного доступа способ проверки того, что это произошло.

Итак, в таком сложном процессе, как обучение ИИ, наличие этих защищенных от несанкционированного доступа и проверяемых аттестаций — как во время обучения, так и после него — действительно помогает. Это создает доверие и видимость.

Ариана Спринг:Мы делаем так, что на каждом этапе жизненного цикла ИИ и процесса обучения есть нотариальное заверение — или штамп — того, что произошло. Это децентрализованный ID или идентификатор, который связан с агентом, Human или машиной, которые выполняют это действие. У вас есть временная метка. И с нашим Lineage Explorer вы можете видеть, что все, что мы делаем, автоматически регистрируется с помощью криптографии.

И затем мы используем смарт-контракты в наших продуктах управления. Так что если параметр X выполняется или не выполняется, определенное действие может быть выполнено или не выполнено. ONE из инструментов, который у нас есть, — это Governance Studio, и он в основном программирует, как вы можете обучать ИИ или как вы можете управлять жизненным циклом вашего ИИ, и это затем отражается ниже по течению.

Можете ли вы BIT пояснить, какой тип инструментов вы создаете? Например, создаете ли вы инструменты и проводите исследования, которые должны помочь другим стартапам создавать модели обучения, или вы создаете модели обучения сами? Другими словами, какова именно роль EQTY Labs в этой среде?

Эндрю Станко:Это своего рода смесь, потому что мы сосредоточены на предприятии, поскольку это будет ONE из первых крупных мест, где вам нужно будет правильно настроить ИИ с точки зрения обучения и управления. Если вы углубитесь в это, то нам нужно иметь область, где разработчик — или кто-то в этой организации — может аннотировать код и сказать: «Хорошо, вот что произошло», а затем создать запись. Это ориентировано на предприятие, с упором на работу с разработчиками и людьми, которые создают и развертывают модели.

Ариана Спринг:И мы работали над обучением модели также через Endowment for Climate Intelligence. Мы помогли обучить модель под названиемКлиматGPT, которая является климатически-специфической большой языковой моделью. Это T наш хлеб с маслом, но мы прошли через этот процесс и использовали наш набор технологий для визуализации этого процесса. Поэтому мы понимаем, как это выглядит.

Что вас больше всего волнует в ИИ, а что больше всего пугает в ИИ?

Эндрю Станко:Я имею в виду, что для волнения, в тот первый момент, когда вы взаимодействуете с генеративным ИИ, вы чувствуете, как будто вы откупориваете молнию в модели. Когда вы впервые создаете подсказку в MidJourney или задаете вопрос ChatGPT, ONE не должен был убеждать вас, что, возможно, это мощно. И я T думал, что теперь появилось много новых вещей, верно?

А что касается террора?

Эндрю Станко:Я думаю, что это беспокойство, которое, возможно, является подтекстом для многого из того, что будет на Consensus, просто из того, что видно из повестки дня. Беспокойство в том, что эти инструменты позволяют существующим победителям копать более глубокие режимы. Что это не обязательно разрушительная Технологии, но ONE.

А Ариана, ваш главный страх и ужас в мире ИИ?

Ариана Спринг:Я начну со своего страха, потому что я собирался сказать что-то похожее. Я бы сказал централизация. Мы видели вред централизации, когда она сочетается с отсутствием прозрачности в том, как что-то работает. Мы видели это за последние 10, 15 лет с социальными сетями, например. И если вы T понимаете, почему ИИ принимает те или иные решения или кто за это отвечает, очень сложно допрашивать, почему выплескиваются вредоносные вещи. Поэтому я думаю, что централизация — и хранение этих секретов в черных ящиках — действительно опасны.

А как насчет волнения?

Больше всего меня волнует привлечение большего количества людей. У нас была возможность работать с несколькими различными типами групп заинтересованных лиц, пока мы обучали ClimateGPT, такими как группы коренных старейшин или малообеспеченных, городских, чернокожих и смуглых молодых людей или студентов на Ближнем Востоке. Мы работаем со всеми этими климатическими активистами и учеными, чтобы сказать: «Эй, вы хотите помочь сделать эту модель лучше?»

Люди действительно взволнованы, но, возможно, они T понимают, как это работает. Как только мы объяснили им, как это работает и как они могут помочь, вы могли видеть, как они говорят: «О, это хорошо». Они обретают уверенность. Затем они хотят вносить больше. Поэтому я действительно взволнован, особенно благодаря работе, которую мы делаем в EQTY Research, тем, что начнем публиковать некоторые из этих фреймворков, чтобы нам T пришлось полагаться на системы, которые, возможно, T являются такими уж репрезентативными.

Прекрасно сказано. Увидимся в Остине на Consensus’ AI Summit.