Депутат Мажилиса Сергей Пономарев заявил, что в эпоху цифровизации и стремительного технологического прогресса Казахстану важно уделять внимание не только развитию искусственного интеллекта, но и его потенциальным рискам. По его словам, технологии, созданные во благо, всё чаще используются во вред — ярким примером этого являются дипфейки, то есть поддельные изображения, видео и аудио с участием реальных людей.
«Я лично стал жертвой такой технологии — моё изображение и голос были полностью подделаны, использованы в ролике, где от моего имени просили деньги. Смонтировано настолько искусно, что даже близкие не сразу поняли подделку. Уверен, с подобным сталкивались и многие присутствующие здесь», — сказал Пономарев.
Он напомнил, что дипфейки с участием зарубежных политиков и даже с использованием образа Президента Казахстана уже попадали в публичное пространство. По словам депутата, качество подобных подделок стремительно растёт, а вместе с этим растут и риски манипуляции общественным мнением, дискредитации государственных органов и дестабилизации ситуации в стране.
«Если будет создан и распространён дипфейк с участием руководителя государства или публичного лица, с ложными призывами или фальшивыми заявлениями, последствия могут быть катастрофическими. Это уже угроза национальной безопасности», — подчеркнул мажилисмен.
Пономарев напомнил, что в ряде стран мира уже предпринимаются серьёзные меры для борьбы с дипфейками. В частности, в США ещё в 2020 году соответствующие положения были включены в Закон об оборонном бюджете, а в Южной Корее перед парламентскими выборами 2024 года введён запрет на использование дипфейков в агитации за 90 дней до голосования.
Кроме того, по его словам, в разных странах внедряются технологии автоматического выявления подделок и цифровой маркировки оригинального контента. Однако, как отметил депутат, дипфейки всё чаще становятся инструментом финансового мошенничества.
«Когда человек слышит голос близкого или видит его видео с просьбой о помощи, на эту удочку попадаются даже высокообразованные граждане...», — сказал Пономарев.
Мажилисмен подчеркнул, что главная проблема заключается в репутационных потерях — даже если позднее размещается опровержение, ущерб уже нанесён, а восстановить доверие крайне сложно.
В этой связи депутат потребовал от Министерства искусственного интеллекта и цифрового развития и Министерства внутренних дел действовать на опережение и принять комплекс мер:
-
Обязать центр мониторинга и экспертизы цифрового контента обеспечивать оперативное выявление дипфейков и их блокировку.
-
Разработать систему подтверждения подлинности цифровых изображений и видеоматериалов, особенно в государственных информационных системах и официальных медиа. Этот инструмент, по словам депутата, должен быть доступен каждому гражданину.
-
Провести широкую информационную кампанию по обучению граждан распознаванию дипфейков и защите от цифрового мошенничества.
