© marinathemoss

Lifestyle

Что такое дипфейк (и почему эту проблему необходимо решать на законодательном уровне)

Фальшивые видео в интернете ломают реальные жизни

Обычный день. Кто-то вдруг присылает вам на почту ссылку, сопровождая ее словами: «Прости, но тебе нужно это увидеть». Вы кликаете и видите себя же в качестве участника видео для взрослых. Конечно, на самом деле это не вы. Кто-то вмонтировал в видео ваше лицо, используя современные компьютерные технологии. Такой прием называется «дипфейк» (deepfake). Подобные истории сейчас происходят сплошь и рядом по всему миру с известными актерами, политиками, блогерами и обычными людьми, и это абсолютно законно.

В 2017 году пользователь портала Reddit под ником deepfakes создал форум, куда выкладывал фейковые секс-видео с «Мэйси Уильямс» и «Тейлор Свифт» в главных ролях. Спустя восемь недель аккаунт удалили, но к этому моменту на него успели подписаться 90 тысяч человек.

Согласно данным компании по кибербезопасности Sensity, количество дипфейков растет в геометрической прогрессии, удваиваясь каждые полгода. Из 85 тысяч видео, которые можно найти в сети, 90 процентов — порнография с участием женщин. Если посмотреть на 30 самых популярных авторов дипфейков одного из таких сайтов, становится очевидно, что эти люди работают по всему миру, включая США, Канаду, Гватемалу и Индию. Все они мужчины, за исключением одного человека.

В прошлом октябре британская писательница Хелен внезапно обнаружила себя в нескольких порновидео с элементами сексуального насилия. Эти изображения всплывали в ее памяти снова и снова, она чувствовала, как ее охватывает беспросветный ужас. «Ты словно идешь по бесконечному тоннелю и не видишь выхода из него», — рассказывает она. С этим ощущением Хелен приходилось жить изо дня в день. Она до сих пор не знает, кто сделал те видео. Да, они не настоящие, но наносимый ими эмоциональный ущерб вполне реален. Жертвам остается лишь догадываться, кто это делает, кто успел посмотреть эти видео и можно ли получить к ним доступ. Ведь любая информация, которая однажды попала в интернет, остается там навсегда.

Эффект замалчивания

Организация Amnesty International изучила последствия случаев абьюза против женщин в Twitter, в частности то, как жертвы ведут себя в интернете в дальнейшем. Оказалось, что насилие вызывает так называемый эффект замалчивания, когда женщины вовсе перестают проявлять какую-либо онлайн-активность. То же самое можно сказать про жертв дипфейка.

Хелен никогда не боялась высказывать свое мнение и писала очень откровенные тексты о пережитой послеродовой депрессии. Но случай с дипфейком заставил ее испытать неведомое ранее чувство стыда — ей казалось, что она всегда будет держать в себе эту «грязную тайну», и поэтому вообще перестала писать.

Показателен случай индийской журналистки Раны Айюб. В своих статьях она часто высказывалась против истеблишмента и уже привыкла к хейту в соцсетях, продолжая работать несмотря ни на что. Но в 2018 году кто-то сделал дипфейк, чтобы дискредитировать журналистку. Видео стало вирусным, и его заметили представители важного в Индии политического круга, куда входила и сама Айюб. Теперь она, как и Хелен, предпочитает молчать.

«Я всегда смело высказывала свое мнение, — писала она по следам произошедшего. — Теперь я дважды подумаю, прежде чем опубликовать что-то онлайн. По природе я очень откровенный человек, но мне пришлось измениться».

Между тем дипфейк-«комьюнити» процветают. Теперь существуют отдельные веб-сайты, приложения для смартфонов и даже сервисы, где можно оформить заказ на услугу. На одних сайтах пользователи продают авторские дипфейки, другие ресурсы предлагают загрузить фотографию женщины, и специально обученный бот «разденет» ее догола.

«Когда и почему это стало нормой?» — спрашивает Гиби, ASMR-художница с 3,13 миллионов подписчиков на YouTube. Гиби уже перестала считать количество дипфейков со своим участием. Больше всего ее возмущает тот факт, что «люди наживаются на твоей личности, втягивая в свои аферы без твоего согласия. Такое ощущение, что твои страдания становятся для кого-то источником средств к существованию». Как-то раз ей даже написала некая компания, предложив удалить дипфейк-видео по цене 500 фунтов (около 50 тысяч рублей) за штуку. Таким историям нужно положить конец. Но как?

В 2018 году, когда на фоне общественных недовольств соцсети начали блокировать дипфейки, казалось, у этой индустрии нет будущего. Но бездействие со стороны законодательной системы только придает ей силы. В период пандемии авторы и потребители такого контента стали проводить онлайн еще больше времени, а работающие из дома модераторы оказались не в состоянии принимать оперативные меры.

Время перемен

Прямо сейчас мы наблюдаем переломный момент, когда парадигма ответственности в интернете начала меняться. Несмотря на сильное лобби в лице технологических компаний (по оценкам, в 2019 году Facebook потратил на агитационные политические кампании около 17 миллионов долларов), было разработано несколько законодательных актов: Закон о цифровых услугах в Евросоюзе и предложенная правительством Великобритании Белая книга о вреде в интернете. В России же президент подписал закон о лишении свободы за клевету в интернете.

Несмотря на то что в перспективе эти проекты могут сформировать определенные законодательные рамки, они не затрагивают тему дипфейков. Неужели причина в том, что жертвами дипфейков становятся преимущественно женщины? Ходят слухи, что в США могут появиться законодательные акты для регулирования дипфейк-видео, но в основном они рассматривают случаи с участием политических кандидатов в период избирательных кампаний. По словам Адама Доджа, юриста и автора кампании против абьюза в сети EndTAB, подобные законы «не решают проблему целиком».

В разговорах о тяжести последствий дипфейк-видео существует множество точек зрения. Основатель всемирной паутины Тим Бернерс-Ли считает, что «кризис» гендерного абьюза в интернете «угрожает всемирному прогрессу в деле гендерного равенства». При этом многие не видят в дипфейках большой проблемы, так как, по словам профессора права Мэри Энн Фрэнкс, люди создают их «ради веселья, половых извращений или прибыли, потому что просто не воспринимают объект таких видео как живого человека». И существующие законы никак этому не препятствуют.

Именно поэтому жертвы дипфейков и активисты, включая Хелен и Гиби, запустили кампанию #MyImageMyChoice, агитирующую за правовые изменения в этом вопросе. Участники кампании делятся своими историями из самых разных точек планеты и призывают к коллективному решению проблемы на законодательном уровне. Эти женщины больше не хотят молчать. «Мы берем контроль над ситуацией в свои руки», — говорит Хелен.

Порнография — одна из главных движущих сил современных технологий, и кто знает, какие еще механизмы для гендерного абьюза появляются в сети каждый день. Вот почему новые законы необходимы. Гиби называет это «принципом согласия в интернете». Необходимо убедить правительства серьезно отнестись к подобному вмешательству в частную жизнь своих граждан. Мы должны подавать пример будущим поколениям и говорить им, чем можно и чем нельзя заниматься на просторах интернета. Это нужно сделать прямо сейчас, пока законодатели пытаются бороться с будущим онлайн-индустрии.