Футуролог Данила Медведев: «Когда станет нечего кушать, уже будет не до автоматизации»

Данила Медведев: «Кто-то должен предложить новые модели развития, для этого нужны убеленные сединами теоретики. А их дефицит, что у нас, что на Западе, что на Востоке» Фото: © Евгений Биятов, РИА «Новости»

«После СВО все будут думать только о том, где прямо сейчас можно достать ресурсы»

— Данила Андреевич, главный черный лебедь, который прилетел ко всем нам, укладывается в аббревиатуру СВО. С точки зрения футурологии можно ли было это предсказать? Вы, например, знали о том, что это произойдет в 2022 году? 

— Можно было предсказать, это же все-таки планировалось. Неизбежный переход от однополярного мира был очевиден, но то, как именно будет разворачиваться ситуация, зависело от многих очень случайных факторов. Предсказывать, куда повернется политическая игра, кто кого сбросит, кто кого захватит, реально сложно. И у меня нет работающих футурологических секретов. 

— А реально ли спрогнозировать, как спецоперация изменит образ будущего?

— Смотрите, был нанесен удар по однополярной системе, которую пытались поддерживать Соединенные Штаты. Но новой глобальной модели развития у мира нет! Была красивая идея глобализации, про «цифру», про роботов, которые будут делать за нас всю работу, про виртуальную реальность. Везде свое «Сколково», технологии, все хорошо и красиво. Сегодня появляются другие вопросы — доступа к ресурсам, продовольствию, углеводородам, технологиям и всему остальному. Кто-то должен предложить новые модели развития, для этого нужны убеленные сединами теоретики. А их дефицит, что у нас, что на Западе, что на Востоке.

ООН поставить цели не может, там лебедь, рак и щука тянут в разные стороны. Россия в совете безопасности пытается решать свои тактические задачи, другие страны — собственные, и никто не отвечает за то, что происходит на планете в целом. Сегодня на самом деле много различных кризисов, но, как с ними бороться, вообще непонятно. Сейчас в новостях пишут, что Норвегия покушается на Шпицберген. Но ведь у всех стран у Северно-Ледовитого океана вообще-то есть общие интересы и общая ответственность, еще пять лет назад об этом помнили. А теперь все ведут себя так, как будто проблемы куда-то делись.

Сначала мы отвлекаемся на срочное: ковид, СВО. Заниматься глобальными проблемами политики и в хорошее время-то не умели, а в ситуации кризиса это еще сложнее. Потому что нет никакой политической выгоды думать о метане в Арктике или пожарах в Сибири, никому это неинтересно и неважно в отличие, например, от ракет в Таганроге. 

— Такое отношение будет продолжаться до окончания конфликта? Или и после него все страны окажутся заняты только своими проблемами? 

— Помните, что было после Второй мировой войны? Появился план Маршалла, параллельно создавалось европейское объединение по стали и углю, это все постепенно вылилось в Европейское экономическое сообщество и Европейский союз.

Предполагается, что после окончания конфликта на Украине тоже должно возникнуть что-то похожее. Но тогда задача была очень простой: восстановить довоенный технологический уровень стран. А сегодня нужно думать о декарбонизации, перестройке абсолютно всей промышленности, некоторые еще мечтают о роботизации и искусственном интеллекте. Это суперсложная задача, которую непонятно как решать.

Плюс происходит обострение на почве чипов. Китай конфликтует с Америкой, в это включается Голландия с ASML, Россия же сидит без своей микроэлектроники. И надежд на то, что руководители стран смогут балансировать свои интересы, особо нет. Поэтому даже после окончания СВО какого-то рывка вперед, скорее всего, не будет. Наоборот, все происходящее с ресурсами и энергетикой говорит о том, что ситуация станет ухудшаться. Все будут думать только о том, где прямо сейчас можно достать ресурсы, у кого отобрать, от каких проектов развития отказаться. 

«О Pixar есть книжка «Фабрика гениев», объясняющая, как они смогли наладить процесс так, чтобы каждый мультик был успешным» Фото: g90/ZUMAPRESS.com / www.globallookpress.com

«Нам нужно что-то уровня манхэттенского или советского космического проекта»

— Да, пока всем не до спасения планеты. В 2020 году Путин подписывает указ о сокращении парниковых газов, а в 2022-м в России разрешают выпускать машины с двигателями всех экологических классов, вплоть до «Евро-0» (хотя потом одумались и подняли нижнюю планку до «Евро-2»). Нет ли ощущения, что мечты о «зеленом» будущем разбиваются о проблемы настоящего? Сначала ковид, теперь СВО…

— Это безусловно так. И это не просто будущее и настоящее, а совершенно конкретные процессы, зачастую специфические для России. Например, импортозамещение. Нам, как и любой другой стране, нужно соблюдать баланс интересов: что-то сделать сейчас, что-то через год. Но чтобы выстроить эту последовательность, не хватает оперативной памяти.

Есть традиционное представление, что все порешает рыночек — нужно просто назначить цену за выброс углерода, и все само стабилизируется. Проблема в том, что рынок не может оптимизировать сложные долгосрочные процессы, он хорошо работает только с краткосрочными. У государства есть модели промышленного, энергетического развития, и они не могут быть быстро переведены на «зеленые» технологии: для того чтобы их придумать, нужно работать 10–15 лет. 

Это пока даже на уровне компаний не работает. Допустим, крупная корпорация вроде Microsoft пытается компенсировать свои выбросы СО₂ посадкой деревьев. На практике же выясняется, что даже в этом простом процессе множество багов: непонятно, когда эти деревья высадят, будут ли их поливать, не засохнут ли они. Хотя это элементарный шаг на уровне «откупиться». А если реально заниматься декарбонизацией, захватом СO₂ из атмосферы и прочим — все намного сложнее. 

Нужны инновации, изобретательство. Для сложных вещей, таких как декарбонизация экономики и переход к 2060 году на нулевой выброс СО₂, никакие существующие инновационные системы не работают: ни «Сколково», ни стартапы, ни Иннополис, ничего! Нам нужно что-то уровня манхэттенского проекта, проекта «Аполлон» или советского космического проекта. Когда много людей собраны вместе, сверху стоит Королев или Курчатов, которым поставлена очень далекая цель, которые способны в голове удержать всю эту цепочку. Например, атомный проект с точки зрения рынка был бы очевидно невозможным. Для этого пришлось сначала повысить коллективный интеллект — и сейчас другого пути нет. 

— И как повысить коллективный интеллект? Занимается ли у нас подобным кто-то?

— Я надеюсь, что кто-нибудь будет этим заниматься. Нужно пробудить в ключевых игроках понимание того, что это потенциально реализуемо. Появилась же некоторое время назад тема с креативными индустриями, хотя это такая же абстракция. У меня тут умеренно-оптимистичный прогноз: «коллективный интеллект» — хорошее понятие, я надеюсь, его удастся продать. Но пока мало кто этим занимается. На рынке сейчас есть только краудсорсинговые схемы уровня «давайте мы соберем команду из 200 человек, они все предложат идеи, а за самые хорошие мы проголосуем». Это слишком слабо. 

— А в мировом масштабе есть успешные примеры?

— Хорошо организованы процессы в такой компании, как Lockheed Martin Corporation, которая разрабатывала невидимые стелс-самолеты — об этом огромное количество написано книг, снято фильмов. О Pixar есть книжка «Фабрика гениев», объясняющая, как они смогли наладить процесс так, чтобы каждый мультик был успешным. Есть разные методы, чтобы получилась не организация, где все поддакивают начальству и боятся, как бы их не сдвинули с должности, а команда, признающая существование каких-то проблем и готовая объединить усилия, чтобы их решить. Тогда эффективность работы групп будет существенно выше, рабочая память — больше и они смогут справляться с такими вызовами, которые обычному человеку кажутся вообще не решаемыми. 

«Для того чтобы произошла настоящая автоматизация на производстве и в других отраслях, нужно, чтобы вся наша промышленность была перестроена на новые технологические цепочки» Фото: Bernd Weißbrod/dpa / www.globallookpress.com

«Мы не достигли того интеллектуального уровня, который позволил бы понять, что значит создать робота»

— А есть понимание, какой станет жизнь человека через 30–40–50 лет? Чем он будет заниматься, чем жить, заменят ли его роботы?

— Тренд на замену человека в технической работе был в 90-е годы и в начале 2000-х. Сейчас стало понятно, что расклад немножко другой. Что робототехника оказалась сложнее, что не так просто создать робота-гуманоида, который может вписываться вместо человека на рабочие места. Показательны даже кейсы с беспилотными автомобилями — обещали их сделать за несколько лет, но они до сих пор нормально не работают и не заработают ни завтра, ни послезавтра. Да, КАМАЗ запустил грузы по маршруту Москва – Санкт-Петербург на беспилотниках, но никто не сказал, что это экономически выгоднее, чем пилотируемый автомобиль. 

Сейчас расклад по занятости такой: 10–15 процентов людей занимаются промышленностью, их задачи могут выполнять роботы. 5 процентов — сельским хозяйством, эти процессы тоже будут автоматизированы, полетят дроны, появятся вертикальные фермы и так далее. В сфере услуг, завязанной на человеческих контактах (например, спа-салоны, парикмахерские, коучинг), сохранится роль человека. А огромную армию людей, которая занимается бюрократией, перекладывает бумажки, пересылает электронные письма, как раз и сможет вытеснить искусственный интеллект.

Но, для того чтобы произошла настоящая автоматизация на производстве и в других отраслях, нужно, чтобы вся наша промышленность была перестроена на новые технологические цепочки. Пока единственные более-менее успешные кейсы мы видим только в автомобилестроении, где все процессы повторяющиеся. Даже электроника вроде айфонов все равно собирается человеком. Объем работы, который нужно проделать, чтобы автоматизировать все процессы, очень большой, и за год-два-десять это не осуществить. И пока что никто ничего не делает, чтобы его ускорить.

— Почему?

— Я бы сказал, что мы не достигли того интеллектуального уровня, который позволил бы понять, что значит создать робота. И какие конкретно роботы нужны. Полностью переделать все производство очень сложно, поэтому все стараются только фрагментарно что-то заменить. 

Приведу пример. Крупные технологические госкорпорации пытаются начать использовать 3D-печать. Они купили технологии, но возникает вопрос, как их применить при производстве большого продукта. В самолете, например, 2 миллиона разных деталей. Кто-то должен удерживать в голове их все, прогнозировать их сочетания, предсказывать, как они станут работать в напечатанном виде. Некоторые говорят, что в долгосрочной перспективе это должен будет сделать искусственный интеллект, и я согласен. Через 100 лет он сможет и придумать это все и сразу же напечатать. Но вопрос, как мы туда дойдем и дойдем ли? Сейчас надо совершать технологический рывок, но мы имеем накопленные проблемы по ресурсам и экологии, которые обязательно отнимут внимание. Потому что, когда станет нечего кушать, уже будет не до автоматизации. 

«Мы можем поставить сложную задачу искусственному интеллекту, он сделает вид, что ее понял, и выдаст ответ, но этот ответ не будет работать» Фото: Cfoto/Keystone Press Agency / www.globallookpress.com

«То, что у ИИ может появиться личность, безусловно»

— Вы говорите про 100 лет, при этом многие высказывают опасения по поводу слишком быстрого развития ИИ. Илон Маск и Стив Возняк даже подписали открытое письмо с просьбой приостановить развитие данной технологии. Действительно ли есть причины для паники? 

— Есть, но эти причины в деталях никто не понимает, в том числе те люди, которые поднимают панику. Формально они правы, риск действительно существует. Но ошибочно думать, что разработчики из ведущих компаний, которые подписывают такие письма, сами адекватно осознают, в чем заключается проблема. 

Соответственно, с этим невозможно ничего сделать, потому что мы не понимаем, в какой момент нужно вмешаться. С озоновой дырой было все ясно: люди покупают холодильники, в них используется фреон, когда технику выкидывают на свалку, фреон попадает в атмосферу, поднимается вверх и разрушает озоновый слой, из-за этого нас всех фигачит ультрафиолетом и мы все умрем. Нам нужно перестать использовать фреон или холодильники. В случае с искусственным интеллектом ничего похожего нет. Фундаментальная проблема заключается в том, что никто не понимает, что такое интеллект. 

— Самые популярные опасения сводятся к тому, что человека заменит ИИ и у последнего появится свое сознание. Это реальные сценарии?

— Это концепты из 80–90-х годов, которые мы просто берем и некритически повторяем. То, что у искусственного интеллекта может появиться личность, — это, безусловно, так. В долгосрочной перспективе подобное может произойти. Но вопрос, каким именно образом и как мы этим процессом сумеем управлять. Берут эту конечную точку и представляют, что будет, если искусственный интеллект захочет с нами конкурировать или решит заменить человека. Нас 8 миллиардов, все люди очень разные, кого он сможет заменить? Рабочих на производстве, негров в Африке, маленьких детей, пенсионеров? Может ли он заменить близких людей? В каких именно отношениях? Что значит заменить? Заменить в моменте или долгосрочно?

Есть еще такой базовый вопрос: является ли искусственный интеллект субъектом, сущностью, как каждый из нас? У нейросетей нет своих интересов, потому что там нет подсистемы, которая бы следила за интересами. В чат-боты и большие языковые модели загружено очень много человеческого текста об интересах, и они могут отвечать в таком ключе, но это не значит, что они будут помнить все это через 10 минут. 

ChatGPT ведет одновременно 10 миллионов диалогов, но у него нет механизма, чтобы отрефлексировать, что произошло в данных диалогах. Все это значит, что мы не можем заменить человека как субъекта, но мы можем заменять какие-то отдельные функции. 

— Но увольнение сотрудников и замена их ИИ частично или полностью — это уже реальность. Такое происходит с индийскими программистами; крупные корпорации, такие как IBM, Dropbox, Microsoft, тоже готовятся или уже частично заменили сотрудников на ИИ. 

— Тут нужно вспомнить Дэвида Гребера, который написал книгу Bullshit Jobs: A Theory (в русском переводе «Бредовая работа. Трактат о распространении бессмысленного труда» — прим. ред.). Его тезис: до половины людей занимаются бессмысленной работой. И следовательно, не нужно удивляться, что их заменили искусственным интеллектом. Мы, в принципе, могли их заменить просто на попугая или барабан, в который загружены карточки, чтобы их случайным образом вытаскивать. С точки зрения судьбы конкретного человека кажется, что он был заменен, но на самом деле это не так. Руководство компаний заявило, что использует искусственный интеллект, но, для того чтобы понять, что действительно произошла замена, нужны более строгие бизнес-эксперименты.

Для решения каких-то отдельных маленьких задачек действительно можно применять ИИ. В некоторых случаях качество ответов будет сравнимое, но это не значит, что заменили человека, а значит, что заменили какой-то кусочек его функции. Как только мы начинаем смотреть на хоть сколько-нибудь сложную задачу, подразумевающую длительный процесс, то выясняется, что искусственный интеллект с ней ничего сделать не может, но при этом хорошо сумеет имитировать. Если человек относится к взаимодействию с ИИ серьезно, то сможет вытащить из него результат, так же как профессор на экзамене может из ничего не понимающего двоечника вытянуть хотя бы какой-то ответ, пусть и с 30-й попытки. 

— В России уже есть случаи, когда функции людей с бессмысленной работой заменяли на ИИ? 

— Все банки пытались перейти на чат-ботов. И там есть два уровня сложности. Есть очень простые задачи, вроде часов работы офисов, которые легко вытащить из базы знаний, — тогда ИИ успешно работает. С появлением больших языковых моделей увеличивается не столько эффективность, сколько видимость результатов. Имитировать работу ИИ может, но это не совсем интеллектуальная деятельность. Больших примеров замены в реальных рабочих процессах человека искусственным интеллектом пока даже в мире не было. Как функция, например, для расшифровки аудио или автоматического перевода он практически может использоваться. 

Или рекомендательные письма очень часто пишут с помощью ChatGPT. Для адресата важно не столько их содержание, а сигнал, который человек посылает: «Вот смотрите, у меня есть уважаемые бывшие работодатели, профессора, которые настолько меня ценят, что они готовы потратить полчаса-час, чтобы написать письмо». Но в ситуации, когда можно просто нажать кнопку и письмо будет готово через пять минут, сигнал девальвируется. В таких социальных играх искусственный интеллект может использоваться человеком, чтобы создать идеальный профиль в «Тиндере» или письмо с угрозами. Но это примерно то же самое, что и инстаграм*-инфлюэнсеры, которые фоткаются в обрезке фюзеляжа бизнес-джета — из-за этого не происходит замена авиации. 

— Но вы много раз говорили, что ИИ сможет догнать человеческий интеллект по всем параметрам, если люди не будут развивать свой интеллект. Теперь выясняется, что ИИ только инструмент для человека? 

— Для начала надо понять, что такое интеллект. Самое простое объяснение — это концепция рабочей памяти, то есть сколько объектов субъект может удерживать у себя в памяти. Мы знаем магическое правило «семь плюс-минус два»: человек может удерживать в кратковременной памяти 5, 6, 7 объектов. 

В зависимости от того, сколько аргументов субъект держит в голове, он находится на той или иной ступени иерархии. Если может удерживать мало и недолго, то он, грубо говоря, чистит туалеты или записывает что-то под диктовку. Если много и долго, то составляет планы для других, выстраивает процессы для команд или руководит страной. Поскольку большинство людей эти вещи не осознает и редко рефлексирует по данному поводу, у них нет способности оценивать сложность задач. И очень многим кажется, что нет разницы между работой, например, рядового программиста, пишущего код в соответствии с детальным ТЗ, и программистами более высокого уровня.

Мы можем поставить сложную задачу искусственному интеллекту, он сделает вид, что ее понял, и выдаст ответ, но этот ответ не будет работать. В тестах на интеллектуальность он показывает практически нулевые результаты. Но из-за того, что есть очень впечатляющие опции вроде «напиши стихи», «нарисуй картинку», то людям хочется верить, что ИИ может сделать все, что угодно. Но, если бы люди получили представление о сложности этих задач и уровне своего мышления, они бы критически относились к возможностям искусственного интеллекта. 

— А когда ИИ сможет выполнять более сложные задачи?

— А это самый интересный вопрос, потому что он частично непредсказуем и абсурден. Развитие ИИ происходит отчасти случайно, отчасти эволюционно. И люди, которые занимаются изучением искусственного интеллекта, не понимают, что они делают, поскольку не осознают, что означает решать сложные задачи. 

У человека развитие более-менее налажено — люди с возрастом набираются мозгов. Академик (если брать нормального академика, а не того, который политическими играми получил себе статус) принципиально отличается от студента-второкурсника по уровню задач, которые может решать. А какими темпами будет развиваться ИИ, сложно сказать. С точки зрения некоторых экспертов нужно еще 5–10 прорывов уровня глубинного обучения. На это может уйти и 20, и 30 лет. А может, и все 50.

«Климат в любой момент может дать новые катастрофы. В 2022-м затопило половину Пакистана. Ситуация в этом году еще более катастрофическая: лед в Арктике самый низкий за всю историю, температура океана наиболее высокая» Фото: Leon Kuegeler/PHOTOTHEK / www.globallookpress.com

— Это далекая планка. А чего ждать миру в целом от 2024 года?

— Во-первых, вероятен энергетический кризис. Мы проходим сейчас пик добычи, в 2024-м дефицит энергии для промышленности станет более явным. 

Климат в любой момент может дать новые катастрофы. В прошлом году затопило половину Пакистана. Ситуация в этом году еще более катастрофическая: лед в Арктике самый низкий за всю историю, температура океана наиболее высокая. Рядом с Флоридой океан уже закипает. 

Параллельно ожидается крах финансового рынка. Раздутые суперпузыри рано или поздно должны схлопнуться, это может произойти уже между 2023 и 2026 годами. В какой конкретно момент, зависит от случайных факторов. Это может быть ошибка при торговле на фондовом рынке, или какая-нибудь конкретная компания опубликует плохие новости, и начнется обрушение домино. 

Возможны очень серьезные военные проблемы. Некоторые организации, которые занимались военными симуляциями, говорят, что в 28 из 30 симуляций происходит обмен ядерными ракетами. 

При этом положительных черных лебедей, которые нас обрадуют, ожидать не приходится. Даже если в области технологий что-то будет происходить, большой эффект быстро не наступит.