Щоб пережити нову еру роботизованого спаму, подивіться на історію Crypto

Це Девід З. Морріс, який замінює Майкла Кейсі, щоб розповісти про так званий штучний інтелект, загрози, які він створює для майбутнього, і як Крипто може допомогти їх пом’якшити.

Як погодиться Майкл, у Крипто немає справжніх вихідних. Я нагадав собі, коли нещодавно провів довгі вихідні у фантастичному готелі Readercon художня література конвенція. Неминуче я дещо пропустив важливі Крипто, але я також отримав деяке уявлення про іншу новинку, що насувається: екзистенціальну загрозу, яку створюють автоматизовані великі мовні моделі (LLM), такі як GPT3, для всього Інтернету.

Ви читаєте Переосмислені гроші, щотижневий огляд технологічних, економічних і соціальних Заходи і тенденцій, які переосмислюють наші стосунки з грошима та трансформують глобальну фінансову систему. Підпишіться, щоб отримувати повну розсилку тут.

Це може звучати гіперболічно. Але на Readercon я познайомився з Нілом Кларком, засновником і редактором провідного науково-фантастичного журналу. Clarkesworld, яка разом з іншими художніми виданнями стала канаркою у вугільній шахті А.І. шаленіти. Зростання ChatGPT заполонило ці журнали потоком підроблених матеріалів, створених GPT, чума настільки серйозна, що цього лютого Clarkesworld був змушений тимчасово призупинити подання матеріалів, що поставило під загрозу роботу та засоби до існування справжніх авторів.

"Я називав це спамом, - каже Кларк, - тому що це саме те, що воно є. Іноді я навіть відмовляюся називати це "штучним інтелектом". Ви T можете олюднити ці речі, це не схоже на наукову фантастику у фільмах, де це усвідомлюють статистичну [мовну] модель».

Згадка про спам має підняти антену давніх спостерігачів Криптовалюта : та сама проблема лежить у витоках Bitcoin.

Між 1998 і 2002 роками комп’ютерний науковець Адам Бек розробив концепцію «Hashcash», головним чином призначену для боротьби зі спамом електронної пошти, вимагаючи невеликої оплати за ONE відправку. Бек, і його ідеї стали основою для розробки Bitcoin, і зараз він є генеральним директором розробника Крипто Blockstream.

Два десятиліття потому, коли орди варварів-роботів готові затопити Human комунікаційні системи, можливо, настав час переглянути концепцію Hashcash.

Великі мовні хастлери

"ChatGPT з'явився наприкінці листопада, - каже Кларк, - і ми одразу почали бачити, що його використовують. Першими його прийняли ті, хто вже надсилав плагіат. Його охоче сприйняли люди, які намагалися QUICK заробити на чужій роботі".

Коли вони зіткнулися з проблемою спаму, Кларк каже, що він і його команда швидко зрозуміли, що атака була скоординованою. Канали YouTube і TikTok, зосереджені на схемах швидкого збагачення, обіцяли глядачам, що вони зможуть заробити тисячі доларів, надсилаючи згенеровані GPT історії до художніх журналів, таких як Clarkesworld. Clarkesworld платить кілька сотень доларів за історію, залежно від довжини – не набагато більше, ніж гроші на пиво в деяких частинах світу, але надзвичайно значущі в інших.

Здається, ці шахрайські обіцянки онлайн-шахраїв швидко поширилися. Кларк каже, що в грудні він отримав 54 подання, згенеровані ШІ. У січні він отримав 117 фейкових історій. У лютому число сягнуло 514 до того, як Кларк закрив подання вдень 20 лютого.

«І тільки того ранку, — каже він, — нас було 50».

У Clarkesworld є невеликий штат співробітників, які зазвичай переглядають близько 1100 заявок на місяць. Тож потік сміття, що прискорювався, загрожував завалити їх, і рішення були T .

«Ми маємо відкритий процес подання, спеціально розроблений для того, щоб вітати нових авторів і нових голосів», — каже Кларк. "Тож ми могли закрити подання з певних місць [для боротьби зі спамом], але ми також маємо законних авторів, які надходять із цих країн. І нам сказали такі речі, як: "Оплата за цю історію покриє мої рахунки протягом місяця"".

"Таких авторів ховають. Подання штучного інтелекту шкодить новим авторам і авторам, які не належать до спільнот, які добре зв'язані". Це ONE із очевидних способів, як автоматично створений контент загрожує погіршити роботу Інтернету для Human , особливо тих, хто перебуває на маргінелі.

"Якщо ви повернетеся на 15 або 20 років назад, коли ми приймали матеріали на папері, - каже Кларк, - лише вартості поштових відправлень було достатньо, щоб суттєво зменшити кількість заявок з-поза меж США, Канади та Великобританії. І щойно у вас є цифрові пропозиції, ми отримуємо потік міжнародних заявок". Це призвело до величезної диверсифікації світу художньої літератури – творчого ренесансу, якому зараз загрожує зростання магістратури.

Кларк також є програмістом, що дало йому корисні інструменти для боротьби зі спамом. Він почав пов’язувати більше метаданих із надсиланнями, наприклад, чи надійшли вони через VPN і тривалість сеансу користувача. Ці та інші критерії тепер використовуються як частина «системи балів», яка розміщує історії, які з більшою ймовірністю будуть фейковими, далі в черзі перевірки. Це допомагає справжнім авторам бути прочитаними першими, але також гарантує, що кожне подане врешті-решт рецензується.

Нарешті, якщо буде визначено, що історія створена LLM, автор назавжди заблокується в системі.

Наразі ці заходи допомогли Clarkesworld знову відкрити подання, але постійне зростання обсягу спаму, з яким вони мають справу, означатиме, що рішення лише тимчасове.

«Гірше, ніж найгірший письменник- Human »

ONE з важливих аспектів досвіду Кларка є те, що фактична якість роботизованих матеріалів була жахливо низькою. Вони майже миттєво впізнаються Human -читачем і не мають реальних шансів бути опублікованими.

«ChatGPT3 писав на рівні, нижчому від найгірших Human », — каже Кларк, який після двох десятиліть роботи редактором точно знає, як LOOKS найгірше. «GPT4 наближається до найгірших письменників- Human , але навіть це все ще RARE».

«Загальним є те, що вони мають ідеальну граматику, вони мають ідеальний правопис», — продовжує Кларк. "Але самі по собі історії T мають великого сенсу. Вони перестрибують через важливі речі. Вони починають із основної передумови, як-от екологічний колапс, і представляють деяких вчених, які можуть вирішити проблему, а потім раптом вони вирішують проблему. У цій історії не вистачає середини історії, а її заповнюють стереотипними відкриттями та закриттями, зроблено дуже погано".

Це дуже схоже на нещодавню характеристику Теда Чанга результату ChatGPT як «розмитий JPEG Інтернету». Ця явна нісенітниця з радістю розвінчує більшу частину ажіотажу навколо LLM. Але це також робить образ талановитих (і надзвичайно малооплачуваних) редакторів, змушених просіювати шлаки, ще більш пригнічуючим.

Обіцянка невеликих комісій, що повертаються

Іншим варіантом зменшення надсилання спаму є плата за подання. Кларк каже, що у нього немає бажання чи планів запроваджувати гонорар через важливі етичні та творчі міркування. Зокрема, плата за подання може обмежити доступ, проти чого категорично виступає спільнота письменників-фантастів.

Але крім цього, технічні недоліки поточної глобальної платіжної інфраструктури також роблять непрактичним стягнення плати за спам, навіть якби Кларк цього хотів.

Наприклад, за словами Кларка, щоб стягувати плату за подання, він повинен мати можливість повернути її, наприклад, письменникам, чиї історії були прийняті або просто не створені ШІ. Ідеальна комісія за блокування спаму також була б досить невеликою – звичайно, набагато нижчою, ніж поштові витрати вартістю 25 або 30 доларів, які не давали авторам із країн, що розвиваються, в епоху до Інтернету.

Але з поточними технологіями це неможливо зробити.

"Скажіть мені компанію, що видає кредитні картки, де я можу повернути майже всю суму. Я втрачу рахунок", - каже Кларк. Як знає будь-який хороший Крипто , кредитні картки також T підходять для невеликих платежів. Але це навіть T найбільша проблема.

«Також є проблеми з прийомом платежів у різних частинах світу», — продовжує Кларк. "Є низка африканських країн, з якими компанії, що видають кредитні картки, не T працювати. Тож це позбавить авторів. Мені також доводилося, що люди пропонували послуги ідентифікації, але в них також є діри національного розміру. Нам потрібно щось, що працює для всіх".

Якщо ви читаєте це, ви вже знаєте, куди ми прямуємо: принаймні в принципі Криптовалюта та пов’язані з нею системи можуть допомогти пом’якшити проблему фальшивого подання Clarkesworld.

Вимагання невеликої оплати за всі подання зменшило б низьку якість подання, полегшило б навантаження редакторів і компенсувало б їм спам, який надходив. Оскільки виплати можна було б дешево, швидко та легко повернути справжнім авторам, вартість справжніх Human -письменників була б незначною. І оскільки ці системи не обмежені національними кордонами, жоден справжній письменник не буде витіснений робо-регургітаторами.

Хоча це потребує значної розробки, деякі версії тієї самої системи можуть колись служити для паралельних цілей у менш бутикових умовах. ONE уявити а Стемоподібний система заохочень для ставок, яка використовується для покарання, наприклад, за автоматичні публікації на форумах або в соціальних мережах. Більш складні децентралізовані системи ідентифікації, такі як SpruceID, є складнішими та, наразі, ще зароджуються, але можуть мати ще більший потенціал.

Щоб було зрозуміло, ні в чому з цього не повинно бути необхідності. Швидко виявляється, що програми LLM — це не більше ніж салонні трюки, чия справжня користь, ймовірно, обмежена, принаймні в NEAR перспективі, коротким обслуговуванням клієнтів і розвагами для кліків. (Взяти, наприклад Катастрофічний експеримент CNET з використанням GPT для написання новинних статей).

Натомість найбільші наслідки цієї технології спостерігаються у поширенні четвертосортної тарабарщини, яка витрачає час і мозкову силу всіх справжніх людей. Але якщо це те, що боги-князі Кремнієвої долини бачать як наступний рубіж збагачення венчурного капіталу, то це світ, у якому нам доведеться жити. Принаймні, Крипто дає ONE надію на відсіч.