Историк и футуролог Юваль Ной Харари, а также философ Славой Жижек приняли участие в фестивале HowTheLightGetsIn в Великобритании. В ходе дискуссии они пришли к выводу о том, что человечество должно меньше беспокоиться о том, что естественно, и больше о том, что наши попытки создать искусственный интеллект могут только усугубить разногласия между людьми. Кроме того, наше стремление изменять собственное тело может вскоре сделать самих людей «неестественными», пишет The Week.
Так, мыслители опровергли идею бинарного выбора. По их словам, природа ни хорошая, ни плохая, не друг людям, но и не враг. Она существует вне морали, даже если мы не можем сопротивляться моральным нормам.
Удивленные тем, что они оказались на одной стороне спора, мыслители пришли к выводу о том, что само по себе разделение естественного и неестественного является искусственным. Они отметили, что за последние несколько десятилетий научные и технологические успехи смогли убедить нас в том, что мы каким-то образом находимся выше природы. Предположение о том, что какие-либо созданные людьми инновации и инциденты, такие как ядерные реакторы и вакцины от COVID-19, являются «естественными», может показаться странным. Но если их существование не нарушает никаких законов природы и они сделаны из того же физического материала, что и все остальное, в какой-то мере так и есть.
«Нельзя вывести этику и мораль из законов природы», - заявил Харари.
И все же то, что мы называем «природой», культурно опосредовано. Вещи, которые мы относим к этой категории сегодня, отличаются от тех, которые считались естественными в XVI веке. Наше ощущение естественного также идеологизировано, считает Харари. Когда гомосексуализм считался «неестественным», это было политическое заявление. Природа не предоставляет моральных правил и не пытается определить, что правильно, а что – нет, она просто есть.
Харари также подчеркнул, что эти представления вскоре также будут пересмотрены, поскольку мы стоим на пороге создания «неорганической жизни» в форме продвинутого искусственного интеллекта. По определению «искусственный» сегодня он может считаться естественным в будущем.
Люди же, напротив, могут двигаться в противоположном направлении. Благодаря генной инженерии и бионическим имплантам мы также находимся на пороге изменения нашего биологического строения. Это может вызывать опасения, и мы должны быть осторожны, поскольку диктаторы давно мечтали о подобной власти, считает Харари.
«Больше всего я боюсь, что в этой попытке улучшить людей мы на самом деле понизим уровень самих себя. Если вы дадите корпорациям и армии возможность экспериментировать с нашей ДНК, экспериментировать с нашими мозгами, они могут усилить определенные качества, которые им нужны, например дисциплину… в то же время, им не нужны другие качества, такие как сострадание или артистическая чувствительность и духовность», - отметил футуролог.
Жижек также согласен с тем, что возможность модифицировать человеческое тело может в конечном итоге унизить человечество. Он заявил, что именно этого хотел Сталин: создать армию генетически модифицированных рабочих, которые могли бы работать сверх возможностей человека и выживать на элементарных условиях.
Видение мыслителей вышло далеко за обеспокоенность тем, что ИИ может лишить работы людей или даже того, что машины могут восстать против нас. «Проблема не в том, будем ли мы порабощены машинами, а в том, что это порабощение усилит разделение между людьми. Кто-то будет контролировать нас, а кто-то будет контролироваться», - заявил Жижек.