ФАКТОМЕТР
ру
հյ
en
Папа Римский в гангстерском костюме, Трамп захватывает территории у России, Пашинян говорит по-турецки и т. д. – эти и подобные скандальные материалы часто вызывают ажиотаж в информационном пространстве. А их распространение и обсуждение в сети доказывают, что значительная часть аудитории поверила увиденному и услышанному.
Все приведенные выше примеры являются дипфейками (deepfake).
Но, что такое дипфейк?
Уже известно, что искусственный интеллект (ИИ) позволяет, используя голос, внешность и другие данные людей, особенно знаменитостей (звезд, политиков и т. д.), создавать видео, фото или аудиозапись, которые зачастую выглядят крайне реалистично.
В действительности, однако, это либо сфальсифицированный, отредактированный, либо полностью фейковый материал. Фактически, дипфейк – сгенерированная ИИ и кажущаяся аудитории достоверной информация о политике или других сферах общественной жизни.
Уже известно, что дипфейк также создает большие возможности для тех, кто занимается преступной деятельностью. Например, мошенничество с деньгами с использованием поддельных аудиозаписей или видео для вывода денег из банков или компаний и т. д.
Также широко распространены порнографические дипфейки, когда лица людей размещаются в порнографических видеороликах без их согласия или даже ведома, что нарушает личные права и т. д.
В таких случаях создатели контента в основном вымогают деньги у «жертвы» с помощью угроз, угрожая распространить дипфейк.
Несмотря на распространение и широкое применение технологии deepfake в информационном пространстве Армении, а также на возникающие вследствие этого проблемы, в нашей стране до сих пор нет соответствующего законодательства. Также остается неясным, охватывается ли эта проблема в рамках действующего правового регулирования или нет.
Эксперт по информационной безопасности Самвел Мартиросян на своей странице в Facebook коснулся темы дипфейков и дал советы о том, как следует поступать в таких случаях.
«Платформа проверки фактов» неоднократно проверяла deepfake-видеоролики с участием политиков, знаменитостей, а также фейки, связанные с финансовым и банковским секторами, и представила методы и онлайн-инструменты для их выявления и проверки.
Бороться с дипфейком уже начали не только фактчекеры, но и правительства, и международные организации, обновляя свое законодательство в сфере информационной безопасности и принимая новые конвенции.
FIP.am изучил международный законодательный опыт борьбы с дипфейком.
США: всеобъемлющего регулирования пока нет
В Соединенных Штатах до сих пор нет всеобъемлющего федерального закона, решающего эту проблему. По данным американских источников, соответствующий проект находится в стадии разработки и направлен на защиту национальной безопасности от угроз, связанных с технологией deepfake.
Несмотря на это, были приняты некоторые законы, в том числе на уровне отдельных штатов, направленные на решение этой проблемы.
В частности, «Закон об использовании и контроле генеративно-состязательных сетей с применением искусственного интеллекта» (Generative Adversarial Networks Act) предусматривает, что директор Национального научного фонда должен содействовать разработке стандартов применения таких материалов и аналогичных технологий, которые будут развиваться в будущем, а также поддерживать соответствующие исследования.
Законом «Об ответственности за дипфейки» (Deepfakes Accountability Act) предлагается ввести обязательное указание на использование искусственного интеллекта при создании контента, а также предупреждение, если такой контент создан с помощью ИИ, особенно в случаях, когда он может ввести в заблуждение или нанести вред.
В штате Калифорния, например, существуют регулирования, касающиеся как политической сферы, так и частной жизни. В частности, запрещено распространять дипфейки с антирекламным содержанием за 60 дней до выборов – в таких случаях пострадавшая сторона может обратиться в суд.
По части несогласованного интимного контента Гражданский кодекс штата разрешает подать судебный иск, если кто-либо использовал лицо другого человека без его согласия с целью создания порнографического дипфейка.
В некоторых штатах, например в Техасе, создание и распространение дипфейков с целью нанесения вреда является уголовно наказуемым деянием.
Создание и распространение дипфейков также криминализированы в Великобритании и Южной Корее, если они содержат порнографический элемент, нарушают право на частную жизнь и ряд других прав человека.
Конвенция Совета Европы об искусственном интеллекте
В 2024 году Совет Европы принял Рамочную конвенцию Совета Европы «Об искусственном интеллекте, правах человека, демократии и верховенстве права», к которой позже присоединилась и Армения.
По сути, это первый международный документ, направленный на обеспечение защиты основных прав человека в сфере применения искусственного интеллекта (ИИ).
Основными целями Конвенции являются:
Защита прав человека: обеспечить, чтобы системы ИИ не нарушали основные права человека.
Сохранение демократии и верховенства закона: предотвратить использование ИИ, которое может нанести ущерб демократическим институтам или верховенству закона.
Исключение дискриминации: запретить дискриминацию со стороны систем ИИ на рассовой, религиозной, гендерной или иной почве.
Защита персональных данных: предотвратить злоупотребление персональными данными с помощью ИИ.
Требование маркировки материалов, созданных ИИ
В 2023 году в Китае вступило в силу требование о четкой маркировке контента, сгенерированного искусственным интеллектом, включая использование водяных знаков (как индикатор авторских прав) и метаданных, с целью борьбы с дезинформацией и обеспечения прозрачности.
За распространение материалов, сгенерированных ИИ без соблюдения этих требований, предусмотрены штрафы.
Таким образом, несмотря на то, что технологии искусственного интеллекта с каждым днем совершенствуются и с их помощью создаются все более реалистичные дипфейки, в мире по-прежнему отсутствуют всеобъемлющие механизмы регулирования.
В то же время законодательные меры в ряде стран свидетельствуют о следующих тенденциях в борьбе с дипфейками: установление требований по прозрачности и обязательному информированию аудитории о контенте, созданном ИИ; уголовное наказание за создание и распространение дипфейков без согласия лица; внедрение законов, предотвращающих использование дипфейков в ходе избирательных процессов; выявление и блокировка платформ, создающих дипфейки с целью причинения вреда.
Нане Манасян
