Медведев предсказал возможные апокалиптические сценарии ИИ

Дмитрий Медведев в статье для журнала "Эксперт" предостерёг о потенциальной опасности искусственного интеллекта, способного к апокалиптическому сценарию. Политик отметил возможность выхода ИИ из-под контроля в управлении электростанциями.

Принципы функционирования искусственного интеллекта подразумевают процесс принятия решений, который оказывается неподвластным человеку. Это может действительно привести к апокалиптическим сценариям. Об этом заявил заместитель председателя Совета безопасности Российской Федерации Дмитрий Медведев в своей статье для журнала "Эксперт".

"Мы уже не в состоянии, ввиду естественной ограниченности человеческого разума, понять, как ИИ пришёл к тому или иному выводу", - отмечает политик, предлагая рассмотреть ситуацию, при которой "нейросети, задействованные в управлении электростанциями, включая атомные, выходят из-под контроля".

"Если в них случится сбой, мы не сможем понять его причину", - подчёркивает Медведев.

"Вот именно здесь для человечества зарождается предчувствие апокалипсиса", - добавляет заместитель председателя Совета безопасности Российской Федерации. По его утверждению, "отсюда один шаг до модели "злого ИИ", которая, подобно другим, может стать реальностью" - к ситуации, "когда сбой в важной системе происходит по умыслу самого ИИ".

"Этот сценарий сегодня принимают во внимание вполне реальные политики и представители крупного бизнеса", - заключает Медведев.

Ранее мы уже сообщали о растущем напряжении между Пентагоном и компанией Anthropic. Пентагон поручил удалить ИИ компании из своих систем в течение 180 дней, что связано с отказом Anthropic предоставить полный доступ к своим технологиям. Это решение подчёркивает озабоченность военных по поводу безопасности и контроля над автономными системами, что становится особенно актуальным в эпоху быстро развивающихся технологий.