ИИ должен быть децентрализован, но как?

Пересечение Web3 и искусственного интеллекта (ИИ), особенно в форме генеративного ИИ, стало ONE из самых горячих тем для обсуждения в Криптo . В конце концов, генеративный ИИ революционизирует все области традиционных программных Stacks, и Web3 не является исключением. Учитывая, что децентрализация является CORE ценностным предложением Web3, многие из возникающих проектов и сценариев Web3-генеративного ИИ проектируют некоторую форму децентрализованного ценностного предложения генеративного ИИ.

Хесус Родригес — генеральный директор IntoTheBlock.

В Web3 у нас есть долгая история рассмотрения каждого домена через призму децентрализации, но реальность такова, что не все домены могут выиграть от децентрализации, и для каждого домена существует спектр сценариев децентрализации. Разбивая эту идею с точки зрения первых принципов, мы сталкиваемся с двумя ключевыми вопросами:

• Заслуживает ли генеративный ИИ децентрализации?
• Почему децентрализованный ИИ раньше T работал в больших масштабах и чем отличается генеративный ИИ?
• Каковы различные аспекты децентрализации в генеративном ИИ?

Эти вопросы далеко не тривиальны, и каждый из ONE может вызвать страстные дебаты. Однако я считаю, что обдумывание этих вопросов необходимо для разработки всеобъемлющего тезиса о возможностях и проблемах на стыке Web3 и генеративного ИИ.

Заслуживает ли ИИ децентрализации?

Философский аргумент в пользу децентрализации ИИ прост. ИИ — это цифровые знания, а знания могут быть конструктом номер ONE цифрового мира, который заслуживает децентрализации. На протяжении всей истории Web3 мы предприняли множество попыток децентрализовать вещи, которые отлично работают в централизованной архитектуре, и где децентрализация T давала очевидных преимуществ. Знания не являются ONE кандидатами на децентрализацию как с технической, так и с экономической точки зрения.

Уровень контроля, накопленный крупными поставщиками ИИ, создает огромный разрыв с остальной конкуренцией до такой степени, что это становится пугающим. ИИ не развивается линейно или даже экспоненциально; он следует многоэкспоненциальной кривой.

Читать дальше: Хесус Родригес - Как протоколы DeFi создают более детализированные и расширяемые возможности

GPT-4 представляет собой значительное улучшение по сравнению с GPT 3.5 по многим параметрам, и эта траектория, вероятно, продолжится. В какой-то момент становится нецелесообразным пытаться конкурировать с централизованными поставщиками ИИ. Хорошо спроектированная децентрализованная сетевая модель может обеспечить экосистему, в которой разные стороны сотрудничают для улучшения качества моделей, что обеспечивает демократический доступ к знаниям и совместное использование выгод.

Прозрачность — второй фактор, который можно учитывать при оценке достоинств децентрализации в ИИ. Архитектуры фундаментальных моделей включают миллионы взаимосвязанных нейронов на нескольких уровнях, что делает нецелесообразным понимание с использованием традиционных методов мониторинга. Никто на самом деле не понимает, что происходит внутри GPT-4, и у OpenAI нет стимулов быть более прозрачным в этой области. Децентрализованные сети ИИ могли бы обеспечить открытые тестовые тесты и защитные ограждения, которые обеспечивают видимость функционирования фундаментальных моделей без необходимости доверия к конкретному поставщику.

Почему децентрализованный ИИ до сих пор T работал?

Если доводы в пользу децентрализованного ИИ настолько очевидны, то почему мы T видели ни одной успешной попытки в этой области? В конце концов, децентрализованный ИИ — это не новая идея, и многие из его принципов восходят к началу 1990-х годов. Не вдаваясь в технические детали, главная причина отсутствия успеха подходов децентрализованного ИИ заключается в том, что ценностное предложение было в лучшем случае сомнительным.

До того, как на сцену вышли крупные модели фундамента, доминирующей архитектурной парадигмой были различные формы контролируемого обучения, которые требовали тщательно отобранных и маркированных наборов данных, которые в основном находились в корпоративных границах. Кроме того, модели были достаточно малы, чтобы их можно было легко интерпретировать с помощью основных инструментов. Наконец, аргументы в пользу контроля также были очень слабыми, поскольку ни одна из моделей не была достаточно сильной, чтобы вызвать хоть какое-то беспокойство.

Как это ни парадоксально, но значимость крупномасштабного генеративного ИИ и централизованных базовых моделей впервые в истории помогла сделать обоснование децентрализованного ИИ жизнеспособным.

Теперь, когда мы понимаем, что ИИ заслуживает децентрализации и что этот раз несколько отличается от предыдущих попыток, мы можем начать думать о том, какие конкретно элементы требуют децентрализации.

Аспекты децентрализации в ИИ

Когда речь идет о генеративном ИИ, не существует единого подхода к децентрализации. Вместо этого децентрализацию следует рассматривать в контексте различных фаз жизненного цикла моделей фундамента. Вот три основных этапа в эксплуатационном жизненном цикле моделей фундамента, которые имеют отношение к децентрализации:

• Предварительное обучение — это этап, на котором модель обучается на больших объемах немаркированных и маркированных наборов данных.
• Тонкая настройка, которая обычно необязательна, представляет собой этап, на котором модель «переобучается» на наборах данных, специфичных для конкретной области, для оптимизации ее производительности при выполнении различных задач.
• Вывод — это этап, на котором модель выдает прогнозы на основе определенных входных данных.

На протяжении этих трех этапов существуют различные измерения, которые являются хорошими кандидатами для децентрализации.

Измерение децентрализации вычислений

Децентрализованные вычисления могут быть невероятно актуальными во время предварительной подготовки и тонкой настройки и могут быть менее актуальными во время вывода. Известно, что фундаментальные модели требуют больших циклов вычислений на GPU, которые обычно выполняются в централизованных центрах обработки данных. Понятие децентрализованной вычислительной сети GPU, в которой разные стороны могут предоставлять вычисления для предварительной подготовки и тонкой настройки моделей, может помочь устранить контроль, который крупные поставщики облачных услуг имеют над созданием фундаментальных моделей.

Измерение децентрализации данных

Децентрализация данных может играть невероятно важную роль на этапах предварительной подготовки и тонкой настройки. В настоящее время очень мало прозрачности в отношении конкретного состава наборов данных, используемых для предварительной подготовки и тонкой настройки базовых моделей. Децентрализованная сеть данных могла бы стимулировать различные стороны предоставлять наборы данных с соответствующими раскрытиями и отслеживать их использование на этапе предварительной подготовки и тонкой настройки базовых моделей.

Измерение децентрализации оптимизации

Многие фазы жизненного цикла базовых моделей требуют валидации, часто в форме Human вмешательства. В частности, такие методы, как обучение с подкреплением и обратной связью с Human (RLHF), позволяют перейти от GPT-3 к ChatGPT, заставляя людей проверять выходные данные модели, чтобы обеспечить лучшее соответствие Human интересам. Этот уровень валидации особенно актуален на этапах тонкой настройки, и в настоящее время вокруг него очень мало прозрачности. Децентрализованная сеть валидаторов- Human и ИИ, которые выполняют определенные задачи, результаты которых можно немедленно отследить, могла бы стать значительным улучшением в этой области.

Читать дальше: Хесус Родригес - Новый блокчейн для генеративного ИИ?

Измерение децентрализации оценки

Если бы я попросил вас выбрать лучшую языковую модель для конкретной задачи, вам пришлось бы угадать ответ. Тесты ИИ в корне сломаны, вокруг них очень мало прозрачности, и они требуют BIT доверия к сторонам, которые их создали. Децентрализация оценки базовых моделей для различных задач — невероятно важная задача для повышения прозрачности в этой области. Это измерение особенно актуально на этапе вывода.

Измерение децентрализации исполнения модели

Наконец, самая очевидная область децентрализации. Использование моделей фундамента сегодня требует доверия к инфраструктурам, контролируемым централизованной стороной. Предоставление сети, в которой рабочие нагрузки вывода могут быть распределены между различными сторонами, является довольно интересной задачей, которая может принести огромную ценность принятию моделей фундамента.

Правильный способ внедрения ИИ

Модели фундамента подтолкнули ИИ к массовому внедрению, а также ускорили все проблемы, которые возникают в связи с быстро растущими возможностями этих моделей. Среди этих проблем аргументы в пользу децентрализации никогда не были столь убедительными.

Цифровые знания заслуживают децентрализации во всех своих измерениях: данные, вычисления, проверка, оптимизация, исполнение. Ни одна централизованная организация не заслуживает такой большой власти над будущим интеллекта. Аргументы в пользу децентрализованного ИИ очевидны, но технические проблемы огромны. Децентрализация ИИ потребует не ONE технического прорыва, но цель, безусловно, достижима. В эпоху базовых моделей децентрализованный ИИ — это правильный способ приблизиться к ИИ.