Кодозависимые. Жизнь в тени искусственного интеллекта - Мадумита Мурджия
Глаза, что зовут зеркалами души.
«В таких ситуациях правильных слов просто нет, – сказала она. – Мой муж попытался свести все к шутке. Он сказал: “Просто посмейся над этим – очевидно же, что это не ты и не твое тело”. Но мне было не все равно. Помню, как я думала, что не знаю, как теперь быть нормальной».
Почти сразу Хелен отправила на сайт запрос об удалении фотографий, но ответа не получила. Владельцы сайта не несли ответственность за размещаемый контент, поэтому не сочли нужным ей отвечать. Хелен также сообщила об изображениях в полицию, но там ей сказали, что ничем помочь не могут. Ей объяснили, что публиковать чужие интимные фотографии без разрешения действительно незаконно, но только если это не фальшивки. Даже если бы Хелен уговорила владельцев сайта найти злоумышленника, ничего противоправного этот человек не совершил. Хелен была шокирована и обескуражена тем, что нечто столь преступное, столь несправедливое не выходило за рамки закона.
Не зная, куда еще обратиться, она неделями раздумывала о том, кого из мужчин в ее жизни следовало винить в произошедшем: злоумышленник использовал ее имя и имел доступ к ее личным фотографиям, поэтому она подозревала, что он ее знакомый. Но узнать это наверняка ей так и не удалось. «В какой-то момент я подозревала каждого и думала: может, это ты? Я вспомнила, что пара человек не придали значения случившемуся… и тогда подумала: ты просто ничего не понимаешь или… именно ты это и сделал? Я даже не знаю, был ли это мужчина, ведь это просто догадки, но я предполагала так, поскольку на сайте он представлялся мужчиной. Конечно, это могло быть просто выдумкой».
После этого она стала присматриваться к мужчинам вокруг – соседям, знакомым, незнакомцам – и думать, кто из них мог поступить так с другими женщинами. «Ты гадаешь, кто из твоих знакомых заходит на такие сайты, смотришь на мужчин на улицах – и начинаешь задумываться о том, что далеко не все знаешь о людях и их личной жизни».
Инцидент с дипфейками отравил отношения Хелен с мужчинами и надолго омрачил ее взгляд на мир. Она боялась засыпать, поскольку теперь вместо отдыха сон приносил ей кошмары с ее дипфейком, и снова начала принимать лекарства от тревожности, от которых отказалась в прошлом. Она распрощалась со старыми друзьями, которые, как ей показалось, проявили недостаточно сочувствия, и отдалилась от новых. Она была благодарна мужу за поддержку, но ее раздражало, что у него есть и другие обязанности, которым он должен был уделять внимание в то время, когда она отчаянно в нем нуждалась.
Первый шаг к исцелению Хелен сделала тогда, когда сознательно перестала гадать, кто создал те дипфейки. После этого, чтобы восстановить отношения с собственным телом, она набила себе новые татуировки. «Я никогда не была полностью довольна своим телом, и среди прочего боялась того, что если дипфейки будут становиться реалистичнее, кто-нибудь сделает это снова, но в этот раз двойника будет не отличить от меня, у него будут все мои татуировки, – сказала она. – Я поняла, что новые татуировки станут доказательством того, что на экране не я, потому что никто, кроме меня, не будет о них знать. И это меня успокаивало – они стали моим щитом, потому что я понимала, что, создавая фальшивое изображение, никто не сможет нанести на «мое» тело все эти тату».
И хотя татуировки помогают ей справиться с проблемой, ее личность, кажется, навсегда покрыта незаживающими шрамами. «Я даже сейчас не могу отделаться от этой истории. Даже сейчас я говорю об этом так, словно на тех фото действительно была я, – так это ощущалось», – говорит она.
Знакомые девушки
Сегодня фрагменты изначального кода дипфейка отпочковались в другие алгоритмы, возникающие по всему миру. В 2019 году приложение DeepNude дразнило пользователей, предлагая им за плату в 50 долларов загружать фотографии полуодетых женщин, а затем, используя ИИ-модели, «раздевать» их, заменяя их тела алгоритмически создаваемыми двойниками. Приложение генерировало только грудь и вульву и потому не справлялось с задачей, когда получало фотографии мужчин.
Хотя в 2020 году DeepNude на время закрыли, его создатель, анонимный программист под ником Alberto, позже вписал в программу более продвинутые функции, в результате чего ее код мутировал, подобно вирусу, и пользователи получили возможность загружать в приложение фотографии любого типа – снимки полностью одетых женщин, а также женщин, стоящих в профиль или скрытых тенью, – и генерировать обнаженные изображения и даже видео, нажимая на одну-единственную кнопку{26}.
Сегодня появились сотни сервисов с обнаженкой на заказ, и пользоваться ими не сложнее, чем применять фильтры в инстаграме. Есть данные, что один из таких сайтов за десять месяцев 2020 года посетило 50 миллионов человек{27}. Через несколько месяцев его владелец заявил, что используемые дипфейк-алгоритмы совершенствуются и вскоре позволят пользователям «манипулировать атрибутами объекта, включая размер груди и наличие волос на лобке». Он пообещал, что дипфейки превратятся из пассивного развлечения в конкурентный спорт: выберите женщину – совершенно любую, – разденьте ее, преобразуйте и выставьте на всеобщее обозрение. Затем повторите все сначала.
Дипфейк-порнография породила собственную бизнес-модель. Сайты часто делятся кодом для создания обнаженки с «партнерскими» или поддельными сайтами, которые платят за этот фотостриптиз. В результате появляется активная экосистема сайтов и приложений сексуальной эксплуатации, которые невозможно отключить. Платформы по созданию дипфейков находятся с помощью простого онлайн-поиска, а особых навыков для их использования не требуется. Достаточно просто загрузить фотографию, как на любом другом сайте. Большинство подобных сервисов делают дипфейки за деньги.
Одним из партнерских приложений – DreamTime – управляет разработчик, известный как Айван Браво. Он называет DreamTime «приложением, которое позволяет без труда создавать фальшивую обнаженку из фото или видео с помощью искусственного интеллекта». В интервью журналу WIRED Браво заявил, что у него более трех тысяч платных пользователей, которые приносят ему более чем достаточно денег, «чтобы обеспечивать семью в приличном доме здесь, в Мексике»{28}. Он признал, что считает такой способ заработка неэтичным, но отказываться от него не собирается.
В 2020 году создавать «дипнюдсы» стало не сложнее, чем обмениваться сообщениями. В мессенджере Telegram появился бот, который предлагал пользователям простые услуги по генерации дипфейков. Ему можно было отправить фотографию одетой жертвы, и через несколько минут он присылал в ответ реалистичное изображение обнаженного тела с лицом человека со снимка. По данным исследовательской организации Sensity AI, которая изучила этот бот, его премиум-версия стоила около 8 долларов и позволяла пользователю создать 112 изображений. К июлю 2020 года только через
