Сооснователь Google рассказал об опасностях искусственного интеллекта

Сооснователь компании Google Сергей Брин написал корпоративное письмо, автором которого ежегодно является он или его коллега Ларри Пейдж, в котором обратил внимание на развитие искусственного интеллекта и возможные негативные последствия его разработки. Брин обеспокоен быстрым развитием этой технологии, сообщает Wired.

В начале письма Брин назвал нынешний бум в отрасли "ренессансом" и заявил "новая весна в развитии искусственного интеллекта - это самая значительная компьютерная разработка в моей жизни". Он также добавил, что процессоры, установленные на серверах Google сегодня, в миллион раз мощнее Pentium II, которые были на них изначально.

Вместе с тем, Брин заметил, что "такие мощные инструменты приносят с собой новые вопросы и ответственность". По его мнению, искусственный интеллект может быть использован для изменения природы и количества рабочих мест или для манипулирования людьми. "Опасения безопасности варьируются от страхов научно-фантастического стиля до проверки работоспособности беспилотных автомобилей", - заявил Брин.

Он подчеркнул, что холдинг Alphabet занимается разработкой искусственного интеллекта, "который не жульничает" и "чьи решения могут быть легко поняты людьми". Он также отметил, что компания останется лидером в технологической и этической эволюции.

Ранее издание The Economist писало, что искусственному интеллекту придется научиться объяснять свои "мысли" и действия. Человечество больше не боится, что машина выйдет из-под контроля и начнет делать что-то, о чем ее не просили. Страшнее то, что она выполнит нужную работу, но в какой-то непредсказуемый и вредный способ, который она определит как рациональный, но который дорого обойдется людям. Ведь разработчики до сих пор не всегда точно понимают, как именно происходит процесс машинного обучения.