Демістифікація чорної скриньки штучного інтелекту: Аріана Спрінг та Ендрю Станко про те, як технологія блокчейну може пролити світло на приховані дані

Частина магії Generative AI полягає в тому, що більшість людей не мають уявлення, як він працює. На певному рівні це навіть справедливо сказати ONE повністю впевнений, як це працює, оскільки внутрішня робота ChatGPT може збити з пантелику найталановитіших вчених. Це чорний ящик. Ми не зовсім впевнені, як це навчено, які дані дають які результати та яка IP-адреса порушується в процесі. Це і частина магії, і частина того, що жахає.

Аріана Спрінг - це a доповідач цьогорічного фестивалю Consensus, в Остіні, Техас, 29-31 травня.

Що, якби був спосіб зазирнути всередину чорної скриньки, дозволяючи чітко візуалізувати, як ШІ керується, навчається та виробляється? Це мета — або ONE з цілей — Лабораторія EQTY, яка проводить дослідження та створює інструменти, щоб зробити моделі ШІ більш прозорими та зручними для співпраці. Лабораторія EQTY Lineage Explorer, наприклад, надає в реальному часі перегляд того, як будується модель.

Усі ці інструменти призначені для перевірки непрозорості та централізації. «Якщо ви T розумієте, чому штучний інтелект приймає рішення, які він приймає, або хто несе відповідальність, то справді важко запитати, чому викидаються шкідливі речі», — каже Аріана Спрінг, керівник відділу досліджень EQTY Lab. «Тож я вважаю, що централізація — і зберігання цих секретів у чорних скриньках — справді небезпечна».

Разом зі своїм колегою Ендрю Станко (керівник відділу Фінанси) Спрінг розповідає, як Крипто може створити більш прозорий штучний інтелект, як ці інструменти вже застосовуються в науці про зміну клімату та чому ці моделі з відкритим кодом можуть бути більш інклюзивними та репрезентативними для людства в цілому.

Інтерв’ю було скорочено та дещо відредаговано для ясності.

Яке бачення та мета EQTY Lab?

Весна Аріана: Ми є піонерами нових рішень для зміцнення довіри та інновацій у ШІ. І генеративний штучний інтелект зараз є HOT темою, і це найбільш актуальна властивість, тож це те, на чому ми зосереджені.

Але також ми розглядаємо різні види ШІ та управління даними. І дійсно довіра та інновації – це те, на що ми спираємося. Ми робимо це, використовуючи вдосконалену криптографію, щоб зробити моделі більш прозорими, але також придатними для співпраці. Ми розглядаємо прозорість і співпрацю як дві сторони однієї медалі для створення розумнішого та безпечнішого ШІ.

Чи можете ви розповісти трохи більше про те, як Крипто вписується в це? Тому що ви бачите, як багато людей говорять, що «Крипто та штучний інтелект чудово підходять», але часто обґрунтування зупиняється на дуже високому рівні.

Андрій Станко: Я думаю, що перетин штучного інтелекту та Крипто є ​​ONE питанням, чи не так? ONE річ, яку ми виявили, полягає в тому, що прихований Secret штучного інтелекту полягає в його співпраці; він має безліч зацікавлених сторін. ONE дослідник даних не міг створити модель ШІ. Вони можуть навчити його, вони можуть його точно налаштувати, але криптографія стає способом зробити щось, а потім мати захищений від несанкціонованого доступу спосіб перевірити, що це сталося.

Отже, у такому складному процесі, як навчання штучному інтелекту, наявність цих захищених від втручання та перевірених сертифікатів — як під час навчання, так і після нього — справді допомагає. Це створює довіру та видимість.

Весна Аріана: Що ми робимо, так це те, що на кожному етапі життєвого циклу штучного інтелекту та процесу навчання є нотаріальне засвідчення — або штамп — того, що сталося. Це децентралізований ID або ідентифікатор, пов’язаний з агентом, Human чи машиною, яка виконує цю дію. У вас є позначка часу. А з нашим Lineage Explorer ви можете побачити, що все, що ми робимо, реєструється автоматично за допомогою криптографії.

А потім ми використовуємо розумні контракти в наших продуктах управління. Отже, якщо параметр X виконується або не виконується, певна дія може продовжуватися або не продовжуватися. ONE із інструментів, які ми маємо, є Governance Studio, який, по суті, програмує, як ви можете навчити ШІ або як ви можете керувати своїм життєвим циклом ШІ, і це потім відображається далі.

Чи можете ви BIT пояснити, який тип інструментів ви створюєте? Наприклад, ви створюєте інструменти та проводите дослідження, які мають допомогти іншим стартапам будувати моделі навчання, чи ви створюєте моделі навчання самі? Іншими словами, яка саме роль EQTY Labs у цьому середовищі?

Андрій Станко: У певному сенсі це суміш, тому що наша увага зосереджена на підприємстві, оскільки це буде ONE з перших великих місць, де вам потрібно отримати правильний ШІ з точки зору навчання та управління. Якщо ви заглибитеся в це, то нам потрібна область, де розробник або хтось із цієї організації може анотувати код і сказати: «Добре, ось що сталося», а потім створити запис. Він орієнтований на підприємство з наголосом на роботі з розробниками та людьми, які створюють і розгортають моделі.

Весна Аріана: І ми також працювали над навчанням моделі через Фонд кліматичних досліджень. Ми допомогли вишколити модель під назвою ClimateGPT, яка є великою мовною моделлю, що залежить від клімату. Це T наш хліб з маслом, але ми пройшли процес і використали наш набір технологій, щоб візуалізувати цей процес. Тому ми розуміємо, що це таке.

Що вас найбільше хвилює в ШІ, а що найбільше лякає?

Андрій Станко: Я маю на увазі, для хвилювання, той перший момент, коли ви взаємодієте з генеративним ШІ, відчував себе так, ніби ви відкоркували блискавку в моделі. Коли ви вперше створили підказку в MidJourney або поставили запитання ChatGPT, ONE не довелося переконувати вас, що, можливо, це потужно. І я T думав, що є багато нового, чи не так?

А щодо терору?

Андрій Станко: Я думаю, що це занепокоєння, яке, можливо, є підтекстом для багатьох з того, що буде відбуватися на Консенсусі, просто від погляду на порядок денний. Занепокоєння полягає в тому, що ці інструменти дозволяють існуючим переможцям копати глибші режими. Що це не обов'язково революційна Технології, а ONE.

А Аріана, ваше головне хвилювання та жах ШІ?

Весна Аріана: Почну зі свого страху, тому що я збирався сказати щось подібне. Я б сказав централізацію. Ми бачили шкоду централізації в поєднанні з відсутністю прозорості щодо того, як щось працює. Ми спостерігали це за останні 10-15 років, наприклад, у соціальних мережах. І якщо ви T розумієте, чому штучний інтелект приймає рішення, які він приймає, або хто несе відповідальність, справді важко запитати, чому шкідливі речі вивергаються. Тож я вважаю, що централізація — і зберігання цих секретів у чорних скриньках — справді небезпечна.

Як щодо хвилювання?

Мене найбільше хвилює залучення більшої кількості людей. У нас була можливість працювати з кількома різними групами зацікавлених сторін, коли ми навчали ClimateGPT, наприклад, корінне населення похилого віку або з низьким рівнем доходу, міська, темношкіра молодь або студенти на Близькому Сході. Ми працюємо з усіма цими кліматичними активістами та науковцями, щоб сказати: «Гей, ти хочеш допомогти зробити цю модель кращою?»

Люди дуже схвильовані, але, можливо, вони T розуміли, як це працює. Коли ми навчили їх, як це працює і як вони можуть допомогти, ви могли побачити, як вони сказали: «О, це добре». Вони набувають впевненості. Тоді вони хочуть зробити більше. Тож я дуже радий, особливо завдяки роботі, яку ми робимо в EQTY Research, розпочати публікацію деяких із цих фреймворків, щоб нам T довелося покладатися на системи, які, можливо, T є такими репрезентативними.

Красиво сказано. До зустрічі в Остіні на саміті Consensus AI Summit.