Каковы шансы, что человечество поработит ИИ?

37

АРИ в: Яндекс Гугл

Оксфордский профессор Ник Бостром, директор Института будущего человечества, известный теоретик компьютерной симуляции Вселенной, считает, что в будущем, системы искусственного интеллекта (ИИ) станут такими сложными и умными, что возьмут под контроль все сферы человеческой деятельности и самих людей.

Он назвал эту гипотезу «синглтон» — она предполагает, что мировое правительство может быть сформировано на основе сверхразумной машины или диктатуры искусственного интеллекта — и его невозможно будет свергнуть. От национальных государств к технологиям, до «синглтона» — диктатуры цифровых технологий.

Искусственный интеллект

Иллюстрация pixabay

На этом, социальное развитие человечества закончится и начнется эпоха цифрового интеллекта, который будет контролировать все, и никто в мире не сможет бросить вызов его превосходству. Гипотеза синглтона возникла как гипотетическая ситуация, при которой развитие робототехники и искусственного интеллекта получат широкую поддержку от государства и эти технологии будут внедрены во все сферы экономики, хозяйства, промышленности, а со временем, во все сферы, в которых технология заменит человека и тогда машины возьмут под контроль глобальное общество.

Причины глобальной цифровизации

Критическим событием, после которого ИИ возьмет управление обществом на себя, может быть война, эпидемия, отказ инфраструктуры из-за кибератак или целенаправленный запуск глобального алгоритма управления людьми.

Лигу Наций, а затем и ООН, образованную после Первой и Второй мировых войн, соответственно, можно рассматривать как примеры ограниченных форм синглтонов, созданных в ответ на мировые события. Когда происходят глобальные катастрофические события, Бостром утверждает, что человеческое общество имеет тенденцию двигаться к более высокому уровню социальной организации.

Было время, когда люди жили как охотники-собиратели, затем объединились в сообщества, города, государства, религии и страны, а теперь мы живем в глобализированном мире. Синглтон может стать следующим этапом нашего общественного развития, где вместо различных сверхдержав мы можем увидеть рост сверхразумного цифрового интеллекта с неограниченным доступом к знаниям.

Любо с неограниченным доступом к цифровым данным, современным технологиям (нанотехнологиям, искусственному интеллекту, интернету и т.д.), и современной военной мощи, которая функционирует на цифровых платформах и алгоритмах.

Ник Бостром

Ник Бостром, фото Яндекс

Однако, Бостром также считает, что идея синглтона не ограничивается только формированием мирового правительства, но есть и другие возможности — технологии, способны повлиять на уровни безопасности в обществе, соответственно, они играют важную роль в формировании системы безопасности через системы наблюдения и связи, регистрирующие деятельность человека почти в любой точке мира.

Технологии могут позволить определенной группе или правительству взять под контроль поведение человека и манипулировать массами. Доступ к таким технологиям может не только усилить доминирующее положение того или иного правительства или общества, но и сделать практически невозможным конкуренцию с ним.

Синглтон может объединить людей

Гипотеза синглтона предполагает, что цивилизация приближается к синглтону быстрее, когда многочисленные правительства, группы, организации (спецслужбы, технологические гиганты, духовные лидеры и т.д.) одновременно работают над продвижением своих конкретных интересов. С другой стороны, синглтон, который будет удовлетворять всех, будет способствовать интересам всех и может стать платформой для объединения всех людей, что положит конец всем войнам.

Равное и продуманное распределение природных и искусственных ресурсов потенциально может быть легко достигнуто с помощью интеллектуального и непредвзятого синглтона. Если мы представим ситуацию, когда человеческое общество управляется дружественным ИИ, который по умолчанию не может различать людей на основе их расы, религии или этнической принадлежности, но предлагает обязанности и услуги на основе их навыков и способностей, то очевидно, управление таким ИИ принесет процветание всему миру, сделает людей ближе.

Винтики и социум

Иллюстрация pixabay

Мировые военные расходы в 2020 году составили более 1,98 триллионов долларов. По соображениям безопасности и необходимости разрабатывать все более эффективное оружие, страны по всему миру вовлечены в бесконечной гонку вооружений. Такие тенденции опасны потому, что поглощают все большие и большие суммы денег, которые могут быть использованы для других целей. Однако в случае общества, управляемого одной системой, гонки вооружений нет.

Гипотеза синглтона предполагает, что синглтон не обязательно должен быть тоталитарным по своей природе — он может функционировать как глобальное социально-демократическое государство, где избранные представители осуществляют деятельность по развитию, а инновации в области технологий, здравоохранения, производства и т.д. внедряются везде, без предвзятости и ограничений.

Но синглтон также может разрушить мир, хоть этот сценарий развития не единственный, о котором Ник Бостром упомянул в своей гипотезе. Глобальный ИИ может способствовать мировому развитию, а может взять под контроль все сферы жизни людей, в т.ч. размножение, и в этом случае, люди будут вынуждены жить в условиях отсутствия социальной справедливости или верховенства закона.

Неконтролируемое (и неравное) использование технологий и ресурсов может привести к нарушению основных прав человека, низкому уровню жизни, усилению неравенства, бедности и различным другим экономическим и социальным проблемам.

Вместо того, чтобы упростить процесс администрирования, синглтон может сделать его более сложным, используя дополнительную бюрократию. Тогда это может привести к коррупции, низкой эффективности работы, большим расходам, высоким налоговым ставкам и замедлению роста во всех секторах. Как обсуждалось ранее, образование синглтона в многополярном мире, подобном нашему, не предрешено. Если кто-то пытается создать синглтон силой у себя в стране, чтобы захватить власть во всем мире, тогда возникнет фашизм, только под контролем цифрового сознания.

У синглтона есть хорошие и плохие последствия, вытекающие из этой гипотезы, и есть возможности, благодаря которым синглтон может доминировать над миром, но в то же время это всего лишь гипотеза, поэтому есть шанс, что синглтон никогда не возникнет. Однако, возникает интересный вопрос: если профессор Бостром окажется прав, поддержит ли человечество создание синглтона или выступит против него?

5/5 - (28 голосов)
Предыдущая статьяВ Нидерландах установлена крупнейшая ветротурбина
Следующая статьяКакими будут технологические тенденции 2022 года?