Чтобы выжить в новую эру роботизированного спама, взгляните на историю криптовалют

Дэвид З. Моррис, заменяющий Майкла Кейси, расскажет о так называемом искусственном интеллекте, угрозах, которые он представляет для будущего, и о том, как Криптo может помочь их смягчить.

Как Майкл, несомненно, согласится, в Криптo нет настоящих выходных. Я сам об этом вспомнил, когда недавно провел длинные выходные в фантастическомReaderconКонвенция фантастики. Неизбежно, я пропустил некоторые важные истории о Криптo, но я также получил возможность поближе познакомиться с еще одной надвигающейся новинкой: экзистенциальной угрозой, которую представляют для всего Интернета автоматизированные большие языковые модели (LLM), такие как GPT3.

Вы читаетеПереосмысление денег, еженедельный обзор технологических, экономических и социальных Мероприятия и тенденций, которые переопределяют наши отношения с деньгами и трансформируют мировую финансовую систему. Подпишитесь, чтобы получить полную рассылку здесь.

Это может показаться преувеличением. Но на Readercon я встретил Нила Кларка, основателя и редактора первоклассного научно-фантастического журналаClarkesworld, которая вместе с другими художественными публикациями стала канарейкой в угольной шахте ИИ, вышедшего из-под контроля. Рост популярности ChatGPT затопил эти журналы потоком фальшивых статей, созданных с помощью GPT, — чума настолько серьезная, что Clarkesworld был вынужден временно приостановить прием статей в феврале этого года, что поставило под угрозу работу и средства к существованию настоящих авторов.

«Я называл это спамом», — говорит Кларк, «потому что это то, чем оно является. Иногда я отказываюсь даже называть это «искусственным интеллектом». Вы T можете очеловечивать эти вещи. Это не похоже на научную фантастику фильмов, где все осознается. Это статистическая [языковая] модель».

Упоминание спама должно насторожить давних наблюдателей Криптовалюта : та же проблема лежала у истоков Bitcoin.

В период с 1998 по 2002 год ученый-компьютерщик Адам Бэк разработал концепцию «Hashcash», в первую очередь предназначенную для борьбы со спамом в электронной почте, требуя небольшую плату за отправку ONE. Бэк и его идеи стали основополагающими для разработки Bitcoin, и теперь он является генеральным директором разработчика Криптo Blockstream.

Два десятилетия спустя, когда орды роботизированных варваров готовы затопить Human системы связи, возможно, пришло время вернуться к концепции Hashcash.

Крупные языковые дельцы

«ChatGPT появился в конце ноября», — говорит Кларк, — «И мы сразу же начали видеть заявки, использующие его. Первыми, кто его принял, были те, кто уже отправлял плагиатные работы. Его с готовностью приняли люди, которые пытались QUICK заработать на чужих работах».

Кларк говорит, что, когда они столкнулись с проблемой спама, он и его команда быстро поняли, что атака была скоординированной. Каналы YouTube и TikTok, сосредоточенные на схемах быстрого обогащения, обещали зрителям, что они могут заработать тысячи долларов, отправляя истории, сгенерированные GPT, в художественные журналы, такие как Clarkesworld. Clarkesworld платит несколько сотен долларов за историю, в зависимости от длины — не намного больше, чем деньги на пиво в некоторых частях мира, но чрезвычайно значимая в других.

Эти мошеннические обещания от интернет-мошенников, похоже, быстро распространились. Кларк говорит, что получил 54 сгенерированных ИИ материала в декабре. В январе он получил 117 фейковых историй. В феврале их число достигло 514, прежде чем Кларк закрыл прием материалов в полдень 20 февраля.

«И только в то утро», — говорит он, — «у нас их было 50».

У Clarkesworld небольшой штат сотрудников, которые обычно просматривают около 1100 заявок в месяц. Поэтому ускоряющийся поток мусора грозил их захлестнуть, а решения T были очевидны.

«У нас открытая процедура подачи заявок, специально разработанная для того, чтобы приветствовать новых авторов и новые голоса», — говорит Кларк. «Так что мы могли бы закрыть прием заявок из определенных мест [для борьбы со спамом], но у нас также есть законные авторы, приходящие из этих стран. И нам говорили что-то вроде: «Оплата за эту историю покроет мои счета за месяц»».

«Таких авторов хоронят. Подача заявок ИИ вредит новым авторам и авторам, которые могут быть из сообществ, не имеющих тесных связей». Это ONE из очевидных способов, которым автоматически сгенерированный контент угрожает сделать интернет хуже для Human — особенно для тех, кто находится на обочине.

«Если вернуться на 15 или 20 лет назад, когда мы принимали заявки на бумаге, — говорит Кларк, — то только стоимость почтовых расходов была достаточной, чтобы существенно сократить заявки из-за пределов США, Канады и Великобритании. А как только появились цифровые заявки, у нас был этот поток международных заявок». Это привело к огромной диверсификации мира художественной литературы — творческому ренессансу, которому сейчас угрожает рост числа степеней магистра права.

Кларк также является кодером, что дало ему полезные инструменты для решения проблемы спама. Он начал связывать больше метаданных с заявками, например, были ли они получены через VPN и продолжительность сеанса пользователя. Эти и другие критерии теперь используются как часть «системы баллов», которая помещает истории, которые с большей вероятностью являются фейком, ниже в очереди рецензий. Это помогает настоящим авторам быть прочитанными в первую очередь, но также гарантирует, что каждая заявка в конечном итоге будет рассмотрена.

Наконец, если будет установлено, что история создана LLM, ее автор навсегда блокируется в системе.

Эти меры помогли Clarkesworld возобновить прием заявок на данный момент, однако продолжающийся рост объема спама, с которым им приходится иметь дело, означает, что это решение носит лишь временный характер.

«Хуже, чем худший писатель- Human »

ONE важный аспект опыта Кларка заключается в том, что фактическое качество роботизированных материалов было катастрофически низким. Они почти мгновенно распознаются читателем- Human и не имеют никаких реальных шансов быть опубликованными.

«ChatGPT3 писал на уровне ниже худших писателей- Human », — говорит Кларк, который после двух десятилетий работы редактором точно знает, как LOOKS худшее. «GPT4 приближается к худшим писателям- Human , но даже это все еще RARE».

«Общее в том, что у них идеальная грамматика, идеальная орфография», — продолжает Кларк. «Но сами истории T имеют большого смысла. Они перепрыгивают через важные вещи. Они начинаются с базовой предпосылки, например, экологического коллапса, и представляют нескольких ученых, которые могут решить проблему, а затем внезапно решают ее. Это упускает середину истории и завершает ее стереотипными началами и концами, сделанными очень плохо».

Это очень похоже на недавнюю характеристику Теда Чанга выходных данных ChatGPT как«размытый JPEG-файл из интернета».Эта явная хрень с радостью развенчивает большую часть глупой шумихи вокруг LLM. Но она также делает образ талантливых (и дико недоплачиваемых) редакторов, вынужденных просеивать шлак, еще более удручающим.

Обещание небольших, возвращаемых сборов

Еще один вариант сокращения спама — это плата за отправку. Кларк говорит, что у него нет желания или планов вводить плату из-за приоритетных этических и творческих соображений. В частности, плата за отправку может ограничить доступ, против чего сообщество писателей-фантастов решительно выступает.

Но, помимо этого, технические недостатки существующей глобальной платежной инфраструктуры также делают взимание платы за антиспам нецелесообразным, даже если бы Кларк этого хотел.

Например, Кларк говорит, что для того, чтобы взимать плату за отправку, ему нужно будет иметь возможность возвращать ее, например, авторам, чьи истории были приняты или просто не были сгенерированы ИИ. Идеальная плата за блокировку спама также была бы довольно небольшой — определенно намного ниже, чем почтовые расходы в размере 25 или 30 долларов, которые удерживали авторов из развивающихся стран в эпоху доинтернета.

Однако с помощью современных технологий это сделать невозможно.

«Назовите мне компанию, выдавшую кредитную карту, где я могу вернуть почти все. Я бы потерял счет», — говорит Кларк. Как знает любой хороший Криптo бро, кредитные карты также T хорошо работают с небольшими платежами. Но это даже T самая большая проблема.

«Есть также проблемы с попытками принимать платежи в разных частях света», — продолжает Кларк. «Есть ряд африканских стран, с которыми компании, выпускающие кредитные карты, T хотят работать. Так что это исключит авторов. Я также слышал, как люди предлагали услуги идентификации, но в них тоже есть дыры размером с страну. Нам нужно что-то, что подойдет всем».

Если вы это читаете, то вы уже знаете, к чему мы движемся: по крайней мере, в принципе Криптовалюта и связанные с ней системы могли бы помочь смягчить проблему поддельных заявок Clarkesworld.

Требование небольшой платы за все отправленные материалы сократит количество некачественных материалов, облегчит работу редакторов и компенсирует им спам, который все же пришел. Поскольку платежи можно было бы дешево, быстро и легко возвращать реальным авторам, стоимость для настоящих авторов- Human была бы незначительной. И поскольку эти системы не ограничены национальными границами, ни один настоящий автор не был бы вытеснен робо-регургитаторами.

Хотя это потребует значительной разработки, некоторая версия той же системы может когда-нибудь служить параллельным целям в менее бутиковых условиях. ONE представитьСтим-подобныйСистема поощрений за ставки используется для наказания за автоматизированные публикации на форумах или в социальных сетях, например. Более сложные децентрализованные системы идентификации, такие какSpruceID, являются более сложными и на данный момент только зарождающимися, но могут иметь еще более глубокий потенциал.

Чтобы было ясно, ничего из этого не должно быть необходимым. LLM быстро раскрывается как нечто большее, чем салонные трюки, чья реальная полезность, вероятно, ограничена, по крайней мере в NEAR перспективе, краткими формами обслуживания клиентов и кликбейтными развлечениями. (Возьмем, к примеру,Катастрофический эксперимент CNETс использованием GPT для написания новостных статей).

Вместо этого наибольшие последствия технологии проявляются в распространении чепухи четвертого сорта, которая тратит время и мозговую мощь всех вовлеченных в нее людей. Но если это то, что боги-принцы Кремниевой долины видят в качестве следующего рубежа венчурного капитала, то это мир, в котором нам придется жить. По крайней мере, Криптo дает ONE на сопротивление.