Соучредитель Anthropic Кристофер Ола заявил, что развитие искусственного интеллекта нельзя оставлять исключительно под контролем технологических компаний. Он призвал к более активному надзору со стороны правительств, религиозных лидеров и общества. Такое заявление Ола сделал в Ватикане во время презентации первой энциклики Папы Римского Льва XIV, сообщает Reuters.
Документ под названием Magnifica humanitas ("Величественное человечество") стал первой энцикликой понтифика, сосредоточенной на теме ИИ. Во время выступления на презентации Ола заявил, что существует "реальная возможность" того, что искусственный интеллект вытеснит человеческий труд "в очень больших масштабах". По его словам, в таком случае поддержка людей, которые потеряют работу, станет "моральным императивом исторических масштабов".
"Каждая передовая лаборатория искусственного интеллекта... работает в пределах определенного набора стимулов и ограничений, которые иногда могут противоречить правильному отношению", — отметил Ола и добавил, что даже исследователи с добрыми намерениями остаются под влиянием коммерческого и геополитического давления.
Соучредитель Anthropic отметил, что именно поэтому необходим внешний контроль за развитием технологий. Он также приветствовал активное привлечение Католической церкви к дискуссии о последствиях стремительного развития ИИ.
Ола очертил три ключевые проблемы, которые, по его мнению, требуют немедленного внимания. Речь идет о риске масштабной потери рабочих мест, неравномерном распределении преимуществ от ИИ между странами и сложности интерпретации поведения современных систем искусственного интеллекта.
"Вопросы, которые поднимает искусственный интеллект, являются большими, чем просто вопрос сообщества исследователей ИИ", — подчеркнул Ола и призвал к "серьезным, вдумчивым критикам", которые могли бы влиять на деятельность технологических компаний и помогать направлять развитие ИИ в безопасном направлении.
Компания Anthropic позиционирует себя как такую, которая больше всего беспокоится о безопасности внедрения современных технологий искусственного интеллекта. В начале года она конфликтовала с Пентагоном из-за ограничения использования ее ИИ-модели Claude для массовой слежки и создания автономного оружия. Недавно Anthropic также выпустила новый мощный инструмент для кибербезопасности Mythos, доступ к которому получили только 50 организаций из-за потенциальных киберугроз.