Microsoft объяснила странное поведение чат-бота Bing

Компания Microsoft на прошлой неделе запустила функцию диалога с чат-ботом в браузере Bing. И отзывы пользователей разделились. Некоторые были в восторге от нового искусственного интеллекта. Но некоторые жаловались на то, что он давал неверную информацию, ругал их за трату времени и даже демонстрировал «ненормальное» поведение, сообщает Engadget.

В частности, он настаивал на том, что фильм «Аватар: Путь воды» еще не вышел, поскольку думал, что еще 2022 год. Когда пользователь доказывал ему, что это не так, Bing назвал его «неразумным и упрямым».

ВАС ЗАИНТЕРЕСУЕТ

Глава Google анонсировал чат-бота – потенциального конкурента ChatGPT

А обозреватель New York Times Кевин Руз опубликовал стенограмму переписки с чат-ботом, в которой последний признался ему в любви, а также заявил, что его темная сторона хотела бы взламывать компьютеры, распространять дезиформацию и, возможно, создать опасный вирус. Кроме того, чат-бот признался, что хотел бы быть человеком.

Теперь Microsoft опубликовала сообщение, в котором попыталась объяснить «странности» бота. Для начала она признала, что не предполагала, что ИИ Bing будет использоваться для «общего открытия мира и социальных развлечений».

Компания также заявила, что «долгие, расширенные сеансы из 15 или более вопросов» могут сбить чат-бот с толку. В этом случае «Bing может начать повторяться или быть спровоцированным к ответам, которые не обязательно полезны или соответствуют нашему заданному тону».

Вероятно, это происходит потому, что при переходе от вопроса к вопросу бот может «забыть», о чем он пытался сказать изначально. Чтобы исправить это, Microsoft может добавить инструмент, позволяющий сбросить контекст поиска или начать с нуля.

Но есть еще одна, более сложная и интересная, проблема. «Модель иногда пытается реагировать или отражать тон, в котором ее просят дать ответы, что может привести к стилю, которого мы не планировали», — написали в Microsoft. Чтобы это произошло, требуется много подсказок, но инженеры думают, что они смогут исправить это, предоставив пользователям больше контроля.

Несмотря на эти проблемы, тестировщики в целом позитивно оценивают ИИ Bing, когда дело касается  цитирования и поисковых ссылок, но отмечают, что его необходимо усовершенствовать, когда речь идет о более свежих данных, например, результаты спортивных матчей в прямом эфире.

Напомним, 18 февраля чат-бот ChatGPT компании OpenAI стал доступен в Украине. Рассказываем, как он работает и как им можно пользоваться.