Один из основателей Skype Яан Таллинн назвал три угрозы, которые, как он считает, являются основными для человечества в этом столетии. Среди них нет изменений климата и пандемии коронавируса, которые кажутся очевидными, сообщает CNBC.
По словам Таллинна, главными угрозами для человечества будут искусственный интеллект, синтетическая биология и так называемые «неизвестные переменные». При этом, синтетическая биология – это создание новых биологических частей, устройств и систем. А под «неизвестными переменными» он понимает «вещи, о которых мы даже не можем подумать сейчас».
Из трех угроз Таллинна больше всего беспокоит искусственный интеллект, поэтому он инвестирует в проекты, которые пытаются обеспечить безопасность разработки этой технологии. Среди таких проектов, в частности, DeepMind и финансирование исследований безопасности ИИ в таких университетах, как Оксфорд и Кембридж.
Таллинн также сослался на книгу профессора Оксфордского университета Тоби Орда, в которой говорилось о том, что человечество не переживет это столетие с вероятностью один к шести. Согласно книге, главной угрозой является искусственный интеллект, а вот изменения климата приведут к исчезновению человечества с вероятностью 1%.
Программист также заметил, что прогнозировать будущее развития искусственного интеллекта очень тяжело. Это связано, в первую очередь, с тем, что системы ИИ будут создавать другие ИИ без участия человека. Поэтому предугадать, что будет с этой технологией в следующие 10, 20 и 100 лет практически невозможно.
«Есть один очень важный параметр при попытке предсказать ИИ и будущее. Насколько сильно и как именно развитие ИИ будет влиять на разработку ИИ? Мы знаем, что ИИ в настоящее время используются для поиска архитектур ИИ», — сказал Таллинн.
По его словам, если ИИ не умеет создавать другие ИИ, то беспокоиться не о чем. Но если он все же научится такому, беспокойство о том, что будет дальше, будет очень обоснованным. Таллин отметил, что существует два основных сценария уничтожения человечества ИИ. Первый — это несчастный случай в лаборатории, когда исследовательская группа покидает систему ИИ, чтобы тренироваться на некоторых компьютерных серверах вечером, а «утром мира больше нет». Во втором случае исследовательская группа создает технологию, которая затем применяется в различных областях, что в конечном итоге «приводит к нежелательным последствиям».
Программист отметил, что сосредоточен на первом сценарии, поскольку его мало кто рассматривает.
Подписывайтесь на наш Telegram-канал с новостями технологий и культуры.
Ранее медики создали искусственный интеллект, который способен в автономном режиме анализировать снимки компьютерной томографической ангиографии (КТ-ангиография) и искать аневризмы сосудов головного мозга пациентов. По словам ученых, нейросеть сможет замечать особенности, которые не видны человеческому глазу.