Билл Гейтс написал развернутый блог «Эра искусственного интеллекта началась», в котором сравнивает ИИ по революционности с появлением интернета и мобильных телефонов. Билл Гейтс написал развернутый блог «Эра искусственного интеллекта началась», в котором сравнивает ИИ по революционности с появлением интернета и мобильных телефонов Фото: © Cbs / Keystone Press Agency / www.globallookpress.com

«Должны ли мы рисковать потерей контроля над нашей цивилизацией?»

«Есть старая шутка про технарей-агностиков, которые создавали искусственный сверхинтеллект, чтобы выяснить, есть ли Бог. Наконец они закончили работу и задали этот вопрос. Искусственный интеллект им ответил: „Теперь есть, идиоты!“».

Таким анекдотом в своем «Твиттере» основатель Tesla и SpaceX Илон Маск подкрепил подписанное им несколькими днями ранее открытое письмо с призывом к компаниям на полгода приостановить обучение нейросетей, превосходящих по мощностям языковую модель GPT-4. «Мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, опередить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в документе.

Это открытое письмо вызвало крайне широкий резонанс. Одни поддерживали авторов в их опасениях, другие, например один из первых деятелей Рунета, директор по маркетингу и визионер «Яндекса» Андрей Себрант, заподозрили Маска в отстаивании собственных бизнес-интересов. Он обращает внимание, что институт Future of Life Institute, на сайте которого и идет сбор подписей, финансируется Musk Foundation, а до этого — основателем рухнувшей криптобиржи FTX Сэмом Бэнкманом-Фридом (которого задержали и предъявили обвинение по 8 пунктам, включая сговор с целью мошенничества и отмывание денег). «На сцену выползает давний конфликт Маска с OpenAI. В свое время он хотел больше там рулить, но ему не дали, и он прекратил финансирование нонпрофта. OpenAI в поисках денег обратился к Microsoft, и вот тут-то начались первые движения в сторону коммерциализации и большие обиды Маска. А Маск, который уже не раз заявлял, что его человекоподобный робот станет более крупным бизнесом, чем беспилотники, остался без контроля над ключевой для такого робота технологией», — рассуждает Себрант в своем телеграм-канале.

Но, кроме Маска, письмо подписали еще как минимум 2 180 человек. В их числе сооснователь Apple Стив Возняк, автор международного бестселлера «Sapiens: Краткая история человечества» Юваль Ной Харари, сооснователи Skype, Pinterest, десятки директоров компаний, сотни профессоров самых известных университетов мира… А аккаунт Маска стал самым популярным в «Твиттере», обогнав страничку экс-президента США Барака Обамы.

«Я понял, что только что увидел самое важное технологическое достижение со времен графического интерфейса» «Я понял, что только что увидел самое важное технологическое достижение со времен графического интерфейса» Фото: ru.freepik.com

«Эра искусственного интеллекта началась»

По иронии судьбы за несколько дней до тревожного письма с не менее громким, но на порядок более оптимистичным заявлением выступил создатель Microsoft Билл Гейтс. Он написал развернутый блог «Эра искусственного интеллекта началась», в котором сравнивает ИИ по революционности с появлением интернета и мобильных телефонов. В этой мысли он укрепился в тот день, когда чат-бот ChatGPT от OpenAl при нем смог сдать на высший балл экзамен по биологии (справившись с тестом на 59 баллов из 60 и безупречно ответив на развернутые вопросы). «Тогда мы задали ему ненаучный вопрос: „Что вы скажете отцу с больным ребенком?“ Он написал вдумчивый ответ, который, вероятно, был лучше, чем тот, который дало бы большинство из присутствующих. Это было ошеломляюще. Я понял, что только что увидел самое важное технологическое достижение со времен графического интерфейса», — написал он. И попробовал спрогнозировать, чего сможет достичь ИИ в ближайшие 5–10 лет. Если совсем тезисно, он предсказывает появление искусственного интеллекта в следующих ролях: 

  1. Белый воротничок на подхвате, или «второй пилот». «Способность GPT выражать идеи будет все больше напоминать работника – белого воротничка, который может помочь с различными задачами. Microsoft описывает это как наличие второго пилота. Полностью интегрированный в такие продукты, как Office, искусственный интеллект улучшит вашу работу, например, помогая писать электронные письма и управлять почтовым ящиком», — пишет Гейтс.
  2. Новый способ управлять компьютером. По мнению Гейтса, со временем, вместо того чтобы наводить указатель мыши и щелкать на меню и диалоговые окна, можно будет просто написать запрос. И не только на английском: «ИИ будут понимать языки всего мира».
  3. Персональный агент с (не)ограниченным доступом. «ИИ будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, что вы не хотите читать. Это улучшит вашу работу над задачами, которые вы хотите сделать, и освободит вас от тех, которые вы не хотите делать», — рисует светлое будущее Гейтс. И тут же оговаривается: «Необходимо решить некоторые вопросы: например, может ли страховая компания расспрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей решит не использовать его?»
  4. Корпоративный агент. По мнению Гейтса, цифровые агенты должны быть и в компаниях. Причем они должны иметь доступ к продажам, поддержке, финансам, графикам продуктов и остальной корпоративной информации. Тогда они расширят возможности сотрудников: смогут их проконсультировать и  присутствовать на каждом совещании, чтобы отвечать на вопросы. «ИИ должен читать новости, связанные с отраслью, в которой работает компания. Я считаю, что в результате сотрудники станут более продуктивными», — пишет основатель Microsoft.

Модели ИИ для бедных стран будут обучены на заболеваниях не таких, как в богатых странах. Кроме того, они должны будут работать на разных языках и учитывать разные проблемы Модели ИИ для бедных стран будут обучены на заболеваниях не таких, как в богатых странах. Кроме того, они должны будут работать на разных языках и учитывать разные проблемы Фото: © Petty Officer 2nd Class Bobby Si / ZUMAPRESS.com / www.globallookpress.com

В богатых странах – в бедных странах

  1. Помощник врача в богатых странах и мини-медик в бедных странах. По прогнозам Гейтса, ИИ освободит медработников от бумажной работы (включая записи приема). А в бедных странах, где «многие люди никогда не были на приеме у врача», модели ИИ «необходимо будет обучать другим заболеваниям, не таким, как в богатых странах», чтобы они могли советовать беднякам, как справляться с проблемами со здоровьем, и решать, нужно ли им обращаться за лечением. «Людям нужно будет увидеть доказательства того, что ИИ в целом полезен для здоровья, даже если он будет совершать ошибки. ИИ должен быть очень тщательно протестирован и отрегулирован. Но люди тоже ошибаются. И отсутствие доступа к медицинскому обслуживанию также является проблемой», — заключает он, предсказывая, что ИИ радикально увеличит скорость медицинских открытий, а новые инструменты благодаря нему будут более эффективными.
  2. Советник фермерам. «Правительства и благотворительные организации должны стимулировать компании делиться информацией, полученной с помощью искусственного интеллекта, о сельскохозяйственных культурах или домашнем скоте, выращиваемых людьми в бедных странах», — рассуждает Гейтс. Фермерам ИИ посоветует, какие семена лучше сажать с учетом почвы и локации, а также поможет изобрести лекарства и вакцины для скота.
  3. Цифровой учитель. Гейтс ожидает, что ИИ устроит революцию в обучении и преподавании. «ИИ будет знать ваши интересы и ваш стиль обучения, поэтому он может предлагать контент, который будет вас удерживать. Он будет измерять ваше понимание, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Это даст немедленную обратную связь», — описывает он школы будущего, где нейросети не только помогут выставить оценки, но и дадут ученикам карьерные советы. Один нюанс: «новые инструменты будут созданы для школ, которые могут позволить себе их купить». «Но мы должны убедиться, что они будут также доступны для школ с низким доходом в США и во всем мире», — уточняет он.

А что же люди? «Развитие ИИ освободит людей для занятий, которые программное обеспечение никогда не сделает, — например для обучения, ухода за пациентами и поддержки пожилых людей», — рисует воодушевляющие карьерные перспективы человечества Гейтс.

В будущем нас ждет сверхразумный искусственный интеллект. «По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100 000 скорости сигнала в кремниевом чипе!» В будущем нас ждет сверхразумный искусственный интеллект. «По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100 000 скорости сигнала в кремниевом чипе!» Фото: ru.freepik.com

«Ограничения ИИ исчезнут прежде, чем мы об этом узнаем»

Гейтс признает, что существующие модели ИИ имеют массу недостатков и не всегда хорошо понимают запросы. Они хорошо выдумывают, но хуже работают с конкретными данными, например, «когда вы спрашиваете совета о поездке, вам могут предложить несуществующие отели». Но все эти недочеты, по его мнению, будут исправлены менее чем за два года (а может быть, и гораздо быстрее).

Другие проблемы серьезнее. «Например, есть угроза, исходящая от людей, вооруженных ИИ. Как и большинство изобретений, искусственный интеллект можно использовать как в благих целях, так и во зло. Правительствам необходимо работать с частниками над способами ограничения рисков», — призывает он.

Тогда есть вероятность, что ИИ выйдет из-под контроля. «Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем несколько месяцев назад», — утешил Гейтс.

Зато в будущем нас ждет сверхразумный искусственный интеллект. «По сравнению с компьютером наш мозг работает со скоростью улитки: электрический сигнал в мозгу движется со скоростью 1/100 000 скорости сигнала в кремниевом чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера — достижение, на которое может уйти десятилетие или столетие, — у нас появится невероятно мощный ОИИ. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на размер его памяти или скорость, с которой он работает», — говорит основатель Microsoft. И вот этот сильный искусственный интеллект, вероятно, сможет устанавливать свои собственные цели. Но какими они будут и что произойдет, если они вступят в противоречие с интересами человечества?

Напрямую Гейтс на эти вопросы не отвечает, но заканчивает блог интригующе: «Мы должны помнить, что мы только в начале того, что может сделать ИИ. Какие бы ограничения у него ни были сегодня, они исчезнут, прежде чем мы это узнаем».