В Великобритании 1 ноября стартовал первый в истории международный саммит по безопасности искусственного интеллекта. Около 30 участников, среди которых Украина, США, Китай и ЕС подписали декларацию, определяющую принципы безопасного пользования и развития технологий ИИ. Декларация опубликована на сайте правительства Великобритании.
В документе отмечается, что искусственный интеллект открывает огромные глобальные возможности: он имеет потенциал для трансформации и повышения благосостояния людей, мира и процветания, но также представляет определенные риски.
"Чтобы осознать это, мы утверждаем, что для общего блага искусственный интеллект должен быть спроектирован, развит, развернут и использован безопасным способом, таким образом, чтобы он был ориентирован на человека, заслуживал доверия и был ответственным", - отметили участники саммита, добавив, что они приветствуют усилия международного сообщества по сотрудничеству в сфере ИИ для содействия инклюзивному экономическому росту, устойчивому развитию и инновациям, защите прав человека и основных свобод, а также укреплению доверия общественности к системам искусственного интеллекта для полной реализации его потенциала.
Системы искусственного интеллекта уже развернуты во многих областях повседневной жизни, включая жилье, занятость, транспорт, образование, здравоохранение, доступность и правосудие, и их использование, вероятно, будет расти.
"Поэтому мы осознаем, что это уникальный момент, чтобы действовать и подтвердить необходимость безопасного развития искусственного интеллекта и использования трансформационных возможностей искусственного интеллекта во благо и для всех, инклюзивным способом в наших странах и во всем мире", - подчеркнули подписанты.
Наряду с новыми возможностями искусственный интеллект также создает значительные риски, в том числе в этих сферах повседневной жизни. Поэтому участники поприветствовали соответствующие международные усилия, направленные на изучение и рассмотрение потенциального влияния систем ИИ на действующие и другие инициативы, а также признание того, что защита прав человека, прозрачность и понятность, справедливость, подотчетность, регулирование, безопасность, надлежащий человеческий надзор, этика, смягчение предвзятости, конфиденциальность и защита данных требуют внимания.
Подписанты также отметили потенциальные непредсказуемые риски, связанные с возможностью манипулировать или создавать обманчивый контент.
Отмечается, что особые риски для безопасности возникают на "рубеже" искусственного интеллекта, который понимается как высокомощные модели ИИ общего назначения, включая базовые модели, которые могут выполнять широкий спектр задач, а также соответствующие конкретные узкие модели ИИ.
Значительные риски могут возникнуть из-за потенциального умышленного неправильного использования или непредвиденных проблем контроля.
Страны-подписанты выразили обеспокоенность рисками в таких областях, как кибербезопасность и биотехнологии. Существует потенциал серьезного, даже катастрофического ущерба, умышленного или непреднамеренного, вытекающего из наиболее значимых возможностей этих моделей искусственного интеллекта. Учитывая быстрые и неопределенные темпы изменений в сфере ИИ, а также в контексте ускорения инвестиций в технологии, подписанты утверждают, что углубление понимания этих потенциальных рисков и действий по их устранению особенно актуально.
“Многие риски, связанные с искусственным интеллектом, по своей сути являются международными по своей природе, и поэтому их лучше решать с помощью международного сотрудничества. Мы полны решимости работать вместе инклюзивным способом, чтобы обеспечить ориентированный на человека, надежный и ответственный искусственный интеллект, который безопасен и поддерживает благо всех с помощью существующих международных форумов и других соответствующих инициатив, чтобы содействовать сотрудничеству для устранения широкого спектра рисков, связанных с ИИ”, - говорится в документе.
Участники подчеркнули, что необходимо учитывать важность инновационного и пропорционального подхода к управлению и регулированию, который максимизирует преимущества и учитывает риски, связанные с искусственным интеллектом. Это может включать, где будет уместно, классификацию и категоризацию рисков на основе национальных обстоятельств и применимых правовых рамок. Также в декларации указывается актуальность сотрудничества, где это уместно, по таким подходам, как общие принципы и кодексы поведения.
"Все субъекты должны играть определенную роль в обеспечении безопасности искусственного интеллекта: страны, международные форумы и другие инициативы, компании, гражданское общество и научные круги должны работать вместе", - отмечается в декларации.
В контексте сотрудничества и для информирования о действиях на национальном и международном уровнях повестка дня по преодолению рисков, связанных с передовым ИИ, будет сосредоточена на:
- выявлении рисков для безопасности ИИ, вызывающих общую обеспокоенность, построении общего научного и научно обоснованного понимания этих рисков и поддержании этого понимания по мере того, как возможности продолжают расти, в контексте более широкого глобального подхода к пониманию влияния ИИ на общество;
- развитии соответствующей политики, основанной на оценке рисков для достижения безопасности; сотрудничество в случае необходимости и признание подходов может отличаться в зависимости от национальных обстоятельств и законодательных рамок: это включает, наряду с повышением прозрачности со стороны частных субъектов, разрабатывающих передовые возможности ИИ, соответствующие показатели оценки, инструменты для тестирования безопасности, а также развитие соответствующих возможностей государственного сектора и научных исследований.
На поддержку этой повестки дня страны-участники договорились развивать международную инклюзивную сеть научных исследований в области безопасности искусственного интеллекта, которая охватывает и дополняет существующее и новое сотрудничество, в том числе через международные форумы и другие соответствующие инициативы.
Среди участников были
- Украина
- Австралия
- Бразилия
- Канада
- Чили
- Китай
- ЕС
- Франция
- Германия
- Индия
- Индонезия
- Ирландия
- Израиль
- Италия
- Япония
- Кения
- Королевство Саудовская Аравия
- Нидерланды
- Нигерия
- Филиппины
- Республика Корея
- Руанда
- Сингапур
- Испания
- Швейцария
- Турция
- Объединенные Арабские Эмираты
- Соединенное Королевство Великобритании и Северной Ирландии
- Соединенные Штаты Америки
Ссылки на "правительства" и "страны" включают международные организации, действующие в соответствии со своими законодательными или исполнительными компетенциями.
ZN.UA спросило украинцев об их отношении к искусственному интеллекту и уровню взаимодействия с технологией. Описывая полученные результаты, Юлия Самаева констатирует, что "Отношение украинцев к искусственному интеллекту на удивление легкомысленное. А зря ".