Медведев назвал вызовы, которые бросает людям "слишком быстрый" прогресс

Резкий технологический скачок в XXI веке подарил немало возможностей, но также несёт и угрозы.

Заместитель председателя Совета безопасности России Дмитрий Медведев обозначил пять ключевых вызовов, которые несет человечеству стремительный технологический прогресс. Искусственный интеллект, биотехнологии, беспилотники, 3D-печать и освоение космоса могут как улучшить жизнь, так и привести к катастрофам, считает политик.

В своей статье "Новые технологии: лестница в небо или дорога в ад" для журнала "Эксперт" Медведев перечислил основные, на его взгляд, риски. Так, развитие ИИ угрожает массовой безработицей, киберпреступлениями с цифровыми двойниками и сбоями, даже "по умыслу самого ИИ". Передача управления нейросетям на критических производствах рискует выйти из-под контроля человека.

Беспилотные системы дешевы и доступны террористам, через них может осуществляться контрабанда наркотиков, шпионаж, а тот же ИИ может брать под контроль сразу рои дронов.

"Делегирование решений о смерти алгоритмам без милосердия создает эсхатологический парадокс", — подчеркивает автор.

Биотехнологии способны породить искусственные пандемии: редактирование генома и сборка вирусов из цифровых кодов открывают "беспрецедентные риски". А аддитивные технологии (3D-печать) позволят производить несертифицированное оружие из наноматериалов и полимеров — отследить его будет невозможно.

Наконец, освоение космоса несет угрозы от вредоносных систем: будущие электростанции, дата-центры на орбите и добыча на Луне привлекут новых игроков, готовых отвоёвывать свою долю рынка в том числе агрессивными методами.

Медведев вспоминает исторические скачки технологий — огонь, колесо, паровой двигатель — каждый нес двойственность: прогресс повышал производительность, но требовал адаптации. Сегодня скорость прогресса беспрецедентна: "Человечество не готовилось к таким переменам", - отмечает замглавы Совбеза.

Цитируя Шпенглера ("Господин мира становится рабом машины") и Гёте ("Великая сила, что вечно хочет зла и совершает благо"), политик предупреждает: людям нужны "историческая мудрость и этический подход".

Впрочем, несмотря на риски, Медведев признает, что большинство инноваций последних десятилетий лично ему нравятся. Главное — цивилизационные вызовы XXI века требуют баланса между силой технологий и контролем.