«Нужно учитывать, что опасения о «цифровом концлагере», о том, что ИИ может ситуацию искусственно унифицировать, на мой взгляд, вполне себе оправданны», — считает главный научный сотрудник Центрального экономико-математического института РАН Иван Грачев. В своей статье для «БИЗНЕС Online» он рассуждает, к чему приведет нынешнее использование искусственного интеллекта и сможет ли он, генерируя правдоподобную и заведомо фальшивую информацию, пытаться менять режимы и влиять на результаты выборов.
Все вместе взятые искусственные интеллекты ничего дельного в оптимизации карантинных мер, в организации борьбы не предложили
Глобальная финансовая система борется за существование, раздувая пузырь искусственного интеллекта?
В интернете много шумят о конце света, публикуется масса статей, предсказывающих событие практически по голливудскому сценарию. Знаете, напоминает сказку о Ходже Насреддине и «Ахыр-заман», когда ради определенной выгоды (скажем, убедить бедняка отдать единственного барашка) распространялись слухи о скором Армагеддоне.
К примеру, в The Economist вышла статья о буме искусственного интеллекта, а в The National Interest о том, что цифровой разум создаст проблемы, связанные с дезинформацией. В первой публикации обсуждается, что бум ИИ обусловлен ситуацией с финансовыми рынками. Недавний подъем американского индекса Standard & Poor’s 500 в основном объясняют ростом капитализации 14 IT-компаний, в частности называют Nvidia, которая с ноября выросла с $400 млрд почти в 2,5 раза. Для этих компаний соотношение цены и прибыли в 2–3 раза выше, чем в среднем по рынку.
По факту из статьи можно сделать вывод, что вся эта шумиха с концом света связана с попыткой искусственно подогреть рынок. То есть глобальная финансовая система, теряя свои позиции, борется за существование, и один из вариантов срочно подогреть прибыли финансовых рынков — раздуть пузырь искусственного интеллекта, что и делается.
В материале The National Interest говорится о том, что генеративный цифровой мозг к большому шуму, который сейчас муссируется в информационном пространстве, целенаправленно добавит искусственное искажение. Генерируя правдоподобную и заведомо фальшивую информацию, он сможет попытаться менять режимы, влиять на результаты выборов и т. д. Если, с точки зрения западных аналитиков, быстро это не урегулировать, произойдет переход к резкой хаотизации всего мира.
Собственно, я согласен с тем, что вся эта шумиха, разговоры о конце света во многом связаны с искусственным подогревом фондового рынка через эти 14 компаний, а вот по статье The National Interest есть сомнения. Люди с нормальным образованием, с развитым критическим мышлением склонны априори не слишком доверять любой информации из интернета. Подвергать ее сомнению, анализировать, сравнивать данные из разных источников. Большинство персонажей, принимающих решения, к любой такой информации относятся достаточно критично. Так что я считаю, статьи, в которых высказываются опасения, что ИИ способен привести к хаосу, алармистские .
Люди с нормальным образованием, с развитым критическим мышлением склонны априори не слишком доверять любой информации из интернета
«Цифровой концлагерь» и финансовые роботы
Какие экспериментальные факты позволяют считать, что эта опасность сильно переоценена? Опять же, история с ковидом. Все вместе взятые искусственные интеллекты ничего дельного в оптимизации карантинных мер, в организации борьбы не предложили. И в нашей стране, и в других пробовали применять цифровой разум, но качественных прогнозов на отдаленное будущее, а следовательно, хороших программ оптимизации карантина, им предложено не было. Действовал он средненько, тривиально. Ожидать от него каких-то решений, которые эффективно уничтожат человечество, на данный момент не приходится.
Но (!) нужно учитывать, что опасения о «цифровом концлагере», о том, что ИИ может ситуацию искусственно унифицировать, на мой взгляд, вполне себе оправданны. Они основаны на том, что финансовые роботы, использующие его, осуществляют примерно 90% операций на фондовых рынках. Их алгоритмы чрезвычайно унифицированы. Финансовые роботы используют 2–3 алгоритма, поэтому унифицируют оценки и дают соответствующие рекомендации, инструкции, как действовать.
Это означает, что перестают работать рыночные механизмы, потому что рыночные механизмы — это миллионы принципиально независимых некоррелируемых оценок. На самом деле это штука очень важная, которую надо понимать.
Можно оценить последствия подобной унификации на основании модели гибридных экономик. Потому что это ровно то, что делает государство в плановой экономической системе. Оно берет какие-то оценки цен, как правило, исходные рыночные средние оценки, объявляет их правильными, частично корректирует, а дальше заставляет всех руководствоваться такими ценами. В этом смысле часть плановой системы сводится к этому. К чему это приводит, можно проанализировать на достаточно общих моделях.
Я рассматриваю крайние ситуации: чистый рынок, чисто плановая экономика — и добавляю фактор неопределенности окружающей среды. Например, сельское хозяйство: можно думать, что будет столько-то солнечных дней, столько-то — дождливых, а на самом деле осадки зарядят на все лето и реальные условия работы получатся совсем другими.
Рисунок №1
Хаотизация в мире будет расти или уменьшаться?
В модели могут быть использованы оценки диапазона себестоимости производства товаров участниками рынка. Одни — хорошие электростанции, электричество за 2 цента по себестоимости производят, другие — за 20 центов, как, например, на немецком рынке.
Рисунок №2
На рисунке №1 мы видим, как в зависимости от того, как случайно меняются внешние условия, меняется и экономический рост. Стартуют одинаковые агенты, и от полного провала до какого-то экономического роста можно реализоваться в режиме экономического рынка. Дальше эта же история более детально показана на рисунке №2. Это пример, когда происходят очень большие колебания внешней среды и 100% плановая экономика.
Рисунок №3
Рисунок №3. Условия те же, большие колебания окружающей среды, но это чистый рынок. Он в половине случаев никакого экономического роста не дает. При более сильном влиянии хаоса извне должна быть более значима стабилизирующая роль государства.
Рисунок №4
Рисунки №4 и 5. Модели, когда окружающая среда несильно меняется, а условия более-менее стабильны. №4 — чисто плановая экономика в условиях небольших колебаний внешней среды, рост есть, но незначительный.
Рисунок №5
№5 — работает чистый рынок, окружающая среда меняется не очень сильно. На самом деле здесь ситуация с точки зрения роста и поустойчивее, и повыше, чем у чисто плановой системы.
Для того чтобы понять, что сегодня целесообразно — приватизация, как многие предлагают, или, наоборот, увеличение роли государства, увеличение или уменьшение унификации за счет ИИ, — надо понимать, будет нарастать или уменьшаться хаотизация в этом мире. Если нарастать — нужна большая централизация. Я предполагаю, что начиная со следующего года хаотизация станет уменьшаться. Расклад сил по полюсам США – РФ и Китай будет уже более определенным. Тогда значимое усиление унификации со стороны искусственного разума окажется нецелесообразно. Нынешнее же инерционное его использование ведет, повторю, к унификации оценок и суждений. Это неправильная тенденция, которую надо корректировать.
Внимание!
Комментирование временно доступно только для зарегистрированных пользователей.
Подробнее
Комментарии 11
Редакция оставляет за собой право отказать в публикации вашего комментария.
Правила модерирования.