Нейросети — это перспективный инструмент, на который можно будет переложить часть задач творческого характера, но он допускает много ошибок. Об этом пишет гендиректор «Таттелекома» Айрат Нурутдинов в статье для «БИЗНЕС Online», посвященной хайпу последних недель вокруг ChatGPT. Это чат-бот от компании OpenAI, одним из основателей которой является Илон Маск (по оценке Forbes, стоимость компании — $ 29 млрд). В теории модель способна вести диалог на естественных языках (в том числе и на русском), писать код, переводить и генерировать тексты и т. д.

Основная проблема, по словам Нурутдинова, — уровень верификации данных. «Мы знаем только общие принципы работы биологических нейросетей. Та архитектура, которую мы используем при их построении, не позволяет понять, почему именно это предложение было сгенерировано в ответ на конкретный запрос. А значит, и поправить это очень сложно, можно только продолжать их обучать на все бо́льших массивах данных в надежде, что количество ошибок будет сокращаться», — объясняет он.

Вторая сложность заключается в том, что вероятность рано или поздно получить оскорбительный ответ в диалоге с чат-ботами, основанными на глубоком изучении, часто приближается к 100%. Наконец многие русскоязычные чат-боты, которые выдают за решения на основе ChatGPT, на самом деле не имеют к нему отношения, а мошенники зачастую используют поддельные ссылки, которые обещают пользователям доступ к заблокированной в России нейросети, а на самом деле содержат вирусы.

Подробнее о возможностях и рисках чат-ботов читайте в материале.