«Откуда мы знаем, что у «Алисы» нет разума?»

Нет таких областей человеческой деятельности, которые потенциально неавтоматизируемы, утверждает Григорий Бакунов Фото: «БИЗНЕС Online»

«ДОСТАТОЧНО НАНЕСТИ НА СВОЙ АВТОМОБИЛЬ НЕБОЛЬШОЙ КОНТУР, ЧТОБЫ СИСТЕМЫ СОФТ-ДРАЙВИНГА БЫЛИ УВЕРЕНЫ, ЧТО ЭТО ПРОСТО НЕБОЛЬШАЯ ЯМКА НА ДОРОГЕ»

Начиная с 2016 года и по сей день очень много говорят о системах искусственного интеллекта и о том, как мы с ними будем жить. Это «прекрасное» довольно далеко и местами довольно жестоко. Мы научились применять системы искусственного интеллекта в некоторых областях, однако в большинстве из этих областей нет банальной «защиты от дурака». Есть система распознавания лиц: вы загружаете фотографию, предположим, во «ВКонтакте», и «ВКонтакте» сам, без вашего указания, определяет: кажется, на этой фотографии есть Коля, Вася, Петя и другие, а вы соглашаетесь и подтверждаете (или не подтверждаете). Это простая система, построенная на современных представлениях об искусственном интеллекте, которую по непонятной мне причине никто не пытается обмануть. 

Мы с друзьями выполнили забавный проект: придумали другую систему искусственного интеллекта, главная задача которой — придумать, как обмануть систему искусственного интеллекта «ВКонтакте». То есть искусственный интеллект, который борется с искусственным интеллектом. Идея очень простая: мы брали несколько фотографий человека, в данном случае мои и моих близких друзей, и строили систему искусственного интеллекта, наносящую на фотографию штрих или штрихи, которые при минимуме покраски тем не менее делают так, что система искусственного интеллекта «ВКонтакте» или любая другая система распознавания лиц перестает узнавать человека и даже определяет его как другого. Оказалось, что, чтобы система «ВКонтакте» начала путать меня с Аркадием Юрьевичем Воложем (сооснователь и генеральный директор группы компаний «Яндекс». — Прим. ред.), достаточно двух штрихов на моем лице длиной полтора сантиметра, проведенных обычным черным маркером. Причем мы вообще не похожи, ни один человек перепутать меня с Воложем не может. 

Такие примеры в разных других областях [применения искусственного интеллекта] — бесконечны. И когда мне рассказывают, что благодаря системе распознавания лиц какой-нибудь крупный банк собирается выдавать деньги из банкомата, я говорю: ребята, я получу деньги за Воложа, и хорошо, если Аркадий Юрьевич не обидится. Во всех современных системах искусственного интеллекта, построенных на распознавании чего бы то ни было, постоянно не учитывают тот факт, что достаточно нескольких точек и штрихов на картинке, чтобы обмануть эти системы.

Это довольно неприятно, особенно при обсуждении самоездящих автомобилей, автомобилей без водителя, у которого на переднем сидении — камера, немного отличающаяся от обычных, потому что она умеет понимать объем. Я знаю, как нанести на задней стороне своего автомобиля небольшой объемный контур, чтобы современные системы софт-драйвинга были уверены, что я не автомобиль, едущий впереди, а просто небольшая ямка на дороге.

Мы пока чудовищно далеки от того, чтобы научиться предотвращать попытки обмануть системы искусственного интеллекта. Следующие несколько лет люди потратят на то, чтобы создать системы искусственного интеллекта, которые общаются с другими системами искусственного интеллекта и иногда их обманывают. Готовьтесь, это будет очень интересная война. 2020-й будет годом, когда вылезет максимальное количество таких проблем. Потому что огромное количество компаний за прошедшие несколько лет построили свой бизнес на системах искусственного интеллекта.

«ОТКУДА МЫ ЗНАЕМ, ЧТО У «АЛИСЫ» НЕТ РАЗУМА?»

При этом даже со своим, человеческим интеллектом у нас возникают неприятные проблемы. Если вы почитаете «Википедию», то обнаружите, что определение, казалось бы, простого слова «интеллект» — это несколько абзацев размытых формулировок. У нас нет четкого определения разума. И мы не можем, глядя на другого человека, сказать, есть в нем интеллект или нет. Возможно, перед нами оболочка, которая тщательно имитирует живого человека. Текущая ситуация такова, что мы не можем отличить поведение искусственного интеллекта от поведения живого человека.

В 1982 году энтомологи провели такой эксперимент. Муравейник, муравьиная дорожка. На этой тропе, по которой бегают муравьи, на веревке зафиксирована чашка с сахаром. Если подергать за веревочку, которая привязана где-то далеко на этой дорожке, то около муравейника упадет капля с сахаром. И вот муравьи бегут к этой дальней веревке, дергают за нее, другие муравьи подхватывают каплю сахара и заносят ее в муравейник. С точки зрения внешнего наблюдателя, это проявление коллективного разума. Потому что те дальние муравьи за то, что они дергают веревку, даже не получают кусочек сахара, как это называют дрессировщики, позитивного подкрепления. С 1982 по 2006 год энтомологи пытались убедить всех, что это что-то невероятное. А потом оказалось, что все очень просто. Если воткнуть веревку на муравьиной тропе, муравей будет дергать за нее вне зависимости, капает там сахар или нет, ему по барабану, у него работа такая. У других такая работа: есть еда — неси ее в муравейник. Всё, никакого разума здесь нет. Однако ученые тратили на это многие годы жизни, утверждая, что это коллективный разум.

С людьми и искусственным интеллектом такая же беда: поскольку у нас нет определения разума, мы можем судить только по внешним проявлениям. Есть тест Тьюринга: в одной комнате сидит жюри, а в другой — человек или искусственный интеллект. Жюри пишет на бумажке вопрос — с той стороны приходит на бумажке ответ. И жюри должно вынести вердикт: кто сидит в соседней комнате, человек или искусственный интеллект? Так вот, с 2007 года ежегодно появляется несколько алгоритмов, которые проходят тест Тьюринга сильно лучше, чем люди. Первая компьютерная программа, которая прошла тест Тьюринга с огромным успехом, делала вид, что она 10-летняя девочка из Одессы, плохо говорящая по-английски. Означает ли это, что у этих программ есть разум? Нет, некоторые из них даже не являются системами искусственного интеллекта, это системы, которые идеально имитируют поведение живого человека.

Но откуда мы знаем, что у «Алисы», которая отвечает на вопросы, нет разума? Некоторые мои диалоги с ней разумнее, чем диалоги с людьми: она связаннее говорит, она более логична в своем поведении, более предсказуема, у нее варьируется характер. «Искусственный интеллект» — обманчивое определение, потому что оба слова в нем неправильные. Это не интеллект, и слово «искусственный» подразумевает, что он непохож на настоящий, он не «искусственный» — он не естественный, не белковый. Но мы не можем отличить, поэтому не можем сказать, есть ли там разум. Это проблема больше из области философии, нежели естественно-научных знаний. И до тех пор пока мы не ответим на этот философский вопрос, у нас не будет ответа и на технический вопрос, есть ли там разум.

«ЕСТЕСТВЕННЫЙ СПОСОБ ОБЩЕНИЯ С КОМПЬЮТЕРОМ — УПРАВЛЕНИЕ С ПОМОЩЬЮ МЫСЛИ»

Есть ребята, которые придумали гениальную конструкцию — браслет, на котором нажимаешь кнопку — и на руку проецируется экран. Только одна проблема: каждый день нужно брить руку. Через 15–20 лет мы должны прийти к проекции непосредственно в мозг или на сетчатку глаза без дополнительных приборов. Думаю, это возможно. Мы и сейчас в принципе в состоянии разобрать часть сигнала в зрительном нерве, то есть чисто теоретически можно поставить чип на зрительный нерв, который создает картинку. Это, как мне представляется, идеальное будущее. В промежутке между ним и текущим моментом будут голографические экраны, проекции в воздух, когда требуется большой объем информации. Но среднему человеку большой объем информации не нужен, средний человек нормально воспринимает информацию и на слух.

Естественный способ общения с компьютером — управление с помощью мысли: представил что-то — и оно реализовалось. Но так как большинство отказывается сверлить себе голову и вставлять туда джек, пока обойдемся голосом, это самое доступное приближение к управлению мыслями прямо сейчас. 

Мы активно движемся к тому, чтобы осуществлять образы из фантастических произведений. Большая часть современных изобретений — не то, что мы изобрели сами, а что мы взяли из книг писателей-фантастов 30–40-летней давности. Практически все, что мы сейчас видим — современные компьютеры, социальные сети, голосовые интерфейсы, — было в книгах и даже фильмах 30 лет назад. Просто люди вырастают и реализуют то, что хотели бы видеть в детстве. Так вот, 30–40 лет назад очень часто описывались компьютеры, с которыми люди разговаривают голосом. Многие фантасты и кинорежиссеры делали это в первую очередь для того, чтобы создать ощущение будущего. И ап! — оно здесь. 

Попробуйте разговаривать с системами искусственного интеллекта, голосовыми помощниками, голосовыми интерфейсами, как с живыми людьми, по-человечески. Не снижайте темпа, не повышайте голос, и увидите, как начнете пользоваться этим всем по-другому и относиться по-другому. У вас появится ощущение персоналии с другой стороны. Это невероятно крутой опыт. Эти системы крайне молоды, тем не менее это не повод воспринимать их как системы с отсутствием интеллекта.

Я долго работал с ребятами, которые делают «Алису» — это один из моих ранних проектов, — и просил их: сделайте так, чтобы «Алиса» могла сама обращаться к людям, с которыми разговаривает. Не так, чтобы ты нажал кнопку — и только тогда она тебе что-то ответила, а чтобы она сама инициировала беседу. Сейчас мы воспринимаем наших голосовых ассистентов как рабов, как что-то, что только выполняет функцию. Но это отношение меняется в тот момент, когда они начинают сами к нам обращаться. Работы в этом направлении ведутся.

А нам, людям, надо просто меньше за это заморачиваться, меньше напрягаться по этому поводу. Системы искусственного интеллекта не враги и не друзья. Это другая форма решения задач, которые перед нами возникают, это инструмент. Может ли трактор стать вашим врагом? Может, если он идет, а вы стоите у него на пути. Тут такая же история. Может ли искусственный интеллект стать врагом? Может, если вы окажетесь у него на пути.

«МЫ ЗАМЕНИЛИ ЛЮДЕЙ НА ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, ЭТО ОЧЕНЬ ПРОСТАЯ ЗАДАЧА» 

О замене людей самоработающими машинами. Эта история только началась, но мы видим большой прогресс в этой области. Наша компания создала систему, которая автоматически управляет автомобилем. Яндексовый софт-драйвинг уже водит в пургу, в туман, в метель, по заснеженной дороге. Главная угроза для софт-драйвинга на дорогах — люди. Большая часть проблем с софт-драйвингом возникает тогда, когда люди нарушают правила. [В остальном] вождение — простой, автоматический процесс, и таких систем чем дальше, тем будет больше. Есть огромное количество областей, где живых людей можно заменить неживыми алгоритмами. В первую очередь будут автоматизироваться массовые профессии, в которых не очень применяется интеллект. 

Обычно программисты, создающие системы искусственного интеллекта, не думают, что можно заменить и их. Но есть хорошие прототипы, которые показывают, что среднего программиста уже можно попробовать заменить. А это значит, что в перспективе лет через десять вымрут целые классы программистов.

Еще пару лет назад было огромное количество новых технологий, которые требовали невероятно квалифицированных программистов. Но на сегодняшний день мы проскочили пик «волшебства» в продуктах. Следующие несколько лет не будет такого, чтобы мы смотрели на какой-то продукт и думали: о-о-о-о-о, никогда такого раньше не видел! Потому что, скорее всего, вместе с этим продуктом вышло еще 3, 4, 5, 10 продуктов, в которых есть такая же фича. Сейчас, чтобы собрать новый, потенциально успешный технологический продукт, вовсе не нужно быть «бешеным гением», достаточно просто хорошо собрать из чужих готовых блоков.

Есть такой класс — верстальщики, к которым приходит макет в «фотошопе», а они его превращают в html-страницу. Этот технический вид деятельности вымрет в течение следующих десяти лет. За пять-семь лет вымрет профессия логистов. Почему их не заменяют прямо сейчас, так это по причине их дешевизны. Неинтересно заменять специалистов, которые недорого стоят. Другая похожая профессия — мерчендайзеры. Я поучаствовал в проектах с несколькими крупными европейскими компаниями, которые занимаются расстановкой товаров. Мы заменили людей на искусственный интеллект буквально пару лет назад, это очень простая задача.

У меня прямо сейчас есть небольшой написанный мной алгоритм, который умеет писать новостные заметки на базе текстов так же или лучше, чем я. Может ли он меня заменить? Наверное, да. Заметят ли люди, что я ушел и оставил вместо себя эту программу? Думаю, что многие — нет. Человечество должно привыкнуть к тому, что часть с удовольствием потребляемого материала (например, книги) будут написаны не гениальными людьми, а гениальными алгоритмами.

Я десять лет читаю лекции об искусственном интеллекте, и всегда найдется скептик, который скажет: а может ваш искусственный интеллект оперу написать? Десять лет назад я говорил: нет, конечно. Пять лет назад я говорил, что мы начали эксперименты по написанию музыки. На сегодняшний день мы достигли такой степени развития технологий, что средний искусственный интеллект написать оперу может, а человек в среднем — нет. 

Помните, в «Матрице» компьютеры занимались тем, что разводили людей, как коровок. По текущим оценкам, более трети пар знакомятся и начинают общаться в Интернете, в компьютерной среде, где людей друг другу рекомендуют алгоритмы. Нет никакой гарантии, что Facebook уже не занимается нашим «разведением». Что уж говорить об образовании и обучении.

«С ПРИХОДОМ АЛГОРИТМОВ ЧЕЛОВЕЧЕСТВО БУДЕТ ВЫНУЖДЕНО ОТКАЗАТЬСЯ ОТ МОРАЛИ»

Но есть области, в которых от людей будут отказываться в последнюю очередь. Искусственный интеллект пока не действует в медицине. Есть пример, когда операцию провел робот, дистанционно управлявшийся живым человеком, врачом, который находился за шесть тысяч километров. Но робот может провести только эту операцию, и это очень простая операция по иссечению простаты. И это не очень большой прогресс, потому что хирургия в этой конкретной операции не изменилась с 1860-х годов. То есть особого прогресса в медицине нет. Плохого врача машина может заменить уже сейчас, лучших врачей в ближайшее время — нет. 

Дело в том, что современная медицина не является наукой. Это свод шаманских знаний, говорящих: обычно, если мы вот стучим в бубен и вот там идет дождь, то вот здесь у человека перестает болеть. Этот набор знаний плохо систематизирован, и нет простого способа его систематизировать. Самый большой прогресс в медицине в ХХ веке наблюдался во время Второй мировой войны по двум причинам: очень много хирургии вокруг ранений и критических состояний; и, прошу прощения, концлагеря, в которых проводили бесчеловечные эксперименты на живых людях. До тех пор пока мы не сможем позволить себе экспериментальную работу на людях, большого прогресса не будет, мы будем двигаться маленькими шажочками. А я надеюсь, что на нашем веку войны не будет, а если будет, мы ее, возможно, не переживем.

Скорее всего, люди останутся в сфере воспитания. Это связано с тем, что наше общество построено на морали. И до тех пор, пока мы не изживем мораль, мы будем сталкиваться с такими «костылями». Почему плоха мораль? У человечества в среднем есть два закона. Закон, который описан в виде конституции, уголовного, административного права и так далее. Там все четко алгоритмизировано, все прописано. И есть мораль, когда говорится: не убивай, но если врага — то можно; того, кто убил 50 человек — можно, а если не 50 человек, а 5 миллионов, то, может, он и хороший человек. Мораль очень зыбкая штука, которая трактуется свободно. Она изначально придумана, чтобы одним говорить «так нельзя», а другим — «можно». Было бы классно, если бы все эти условия тоже были перенесены в закон: при введении военного положения статья такая-то отменяется, а если вы убили врага, вам полагается премия в размере 50 тысяч рублей, и так далее. Рано или поздно с приходом алгоритмов человечество будет вынуждено отказаться от морали. Кстати, следующим шагом люди начнут отказываться от принудительного родительства, потому что некоторые родители пытаются уйти от ответственности, и таких людей много.

«ТЕ, КТО БУДЕТ НЕ ГОТОВ ПОМЕНЯТЬ СВОЮ ПСИХОЛОГИЮ, ВЫМРУТ»

Что делать с людьми, которые высвободятся? У человечества уже есть такой опыт, мы пережили уже несколько «эпидемий», когда какие-то виды человеческой деятельности заменялись или вообще теряли свою актуальность. В 1962 году в Лондоне резко объявили о запрете дровяных печей для обогрева жилых помещений, за один день потеряли работу 40 тысяч человек — трубочистов. Так вот, 40 тысяч человек — это «копейки». У нас в стране водителями работают больше миллиона человек, и когда на дорогах реального пользования появятся автомобили, которые ездят сами по себе, большая часть этих людей останется без работы.

Когда я хочу показать оптимистичную картину мира, говорю: представляете, все эти люди наконец смогут заняться чем-то интересным для себя. Но на самом деле мы не знаем, чем они будут заниматься. И «первые ласточки» этой проблемы полезут уже в 2020–2021 годах. Я поучаствовал в нескольких проектах по автоматизации колл-центров, я видел, как компания выпустила «на волю» 5 тысяч «птенцов», которым теперь где-то нужно найти пропитание. 

Нет таких областей человеческой деятельности, которые потенциально не автоматизируемы. И это большая проблема. Что делать всем этим людям — большой и сложный вопрос. На эту тему я готов разговаривать с любыми людьми в правительстве. Но пока у них особенного интереса к этому нет. Мы готовы, но они еще не приходят. У нас же как: пока в одном месте не рванет, остальные безопасностью не займутся. Когда «рванет» какая-то одна область человеческой жизни, когда за один день потеряют работу 100 тысяч человек, в этот момент забегают все правительства мира. Пока же никто ничего особенного не делает.

В скандинавских странах есть несколько крутых экспериментов с гарантированным доходом, когда, даже если человек не работает, у него есть доход, достаточный для того, чтобы жить нормально, а если ты здорово работаешь, то обладаешь большим, чем все остальные. Кажется, это единственное, что пока придумало человечество. Насколько мы готовы к такому социализму? Не знаю. Для капиталистических стран это движение вперед, а для нас немного назад, обратно в уравниловку. Не все хотят. 

В целом нужно постоянно находить области, в которых вы не просто лучше других людей, но лучше тех систем и алгоритмов, которые чем дальше, тем больше будут появляться в нашей жизни. Чтобы быть успешными, нужно учиться не просто быстрее, чем все остальные люди, но и учиться всему новому быстрее, чем это делают системы искусственного интеллекта.

Такая же история с психологией. Человеческая психология мешает прогрессу, и те, кто будут не готовы поменять свою психологию — вымрут. Нам нужно быть максимально гибкими. По счастью, человеческий мозг поразительно нейропластичен, мы можем приспособиться к любым изменениям. Просто надо быть готовыми к тому, что раз в несколько лет придется все в жизни менять.

Лекцию Григория Бакунова записал Александр Задорожный
Znak.com, 26.03.2019