Кодозависимые. Жизнь в тени искусственного интеллекта - Мадумита Мурджия
В анонимном опросе, который сотрудники Sensity AI обнаружили на канале, 63% пользователей сказали, что использовали фотографии «девушек, которых [они] знают в реальной жизни»{30}. У меня от этой статистики мурашки пошли по коже. Я испытала мерзкое чувство, о котором говорила Хелен: ощущение, что тебя разглядывают.
* * *
Весной 2022 года я начала замечать, что в новостях все чаще говорят о влиянии инструментов ИИ на самосознание и самовосприятие людей. Меня зацепила история американской программистки Шер Скарлетт, которая обнаружила свои откровенные и интимные фотографии на сайте по распознаванию лиц PimEyes. Эти снимки были сделаны под принуждением почти двадцать лет назад, когда ей было девятнадцать{31}. Она вытеснила из памяти воспоминания об этом травмирующем инциденте, поэтому, неожиданно обнаружив изображения, она фактически пережила эту травму как в первый раз.
Я заинтересовалась сайтом PimEyes. Он предлагает вам загрузить свою фотографию, чтобы затем с помощью ИИ-систем изучить очертания вашего лица и найти все изображения с вами в интернете. Я загрузила свой снимок, чтобы узнать, что раскопает алгоритм. Это сработало: в основном нашлись мои публичные фотографии, которые я уже видела раньше, а еще несколько снимков моего лица крупным планом с мероприятий, где я даже не знала, что меня фотографируют. Возможно, эти изображения были взяты из видео.
Несколько крупных планов были помечены как «откровенные», и так я узнала, что они оказались на порносайтах. Я не могла перейти на эти сайты, не заплатив PimEyes, и решила этого не делать. Но в итоге во мне поселился непреходящий страх того, что может без моего ведома существовать в сети, – страх перед моими раскиданными по интернету цифровыми двойниками, над которыми я совершенно не властна.
Когда я беседовала с Шер, она сказала, что и подумать не могла, что кто-то может сделать фотографию ее лица и раскопать всю информацию о ней. Она назвала это «чем-то из “Звездного пути”». Но эта технология совершила скачок вперед и превратила ее из анонимного лица в толпе в человека, секреты которого можно насильно раскрыть.
Сотням тысяч женщин вроде Шер Скарлетт и Хелен Морт, иногда совсем еще юным, некуда обратиться, когда они натыкаются в интернете на свои интимные фото и видео, распространяемые без их согласия, – настоящие и поддельные, сделанные с их согласия и под принуждением. До недавнего времени на сайтах Google, YouTube и Facebook не было кнопок, на которые можно было нажать, чтобы навсегда удалить такой контент. И даже сейчас попытки удалить из интернета распространяемые без согласия изображения и видео – не говоря уже о дипфейках – обречены на провал, поскольку соответствующих законов не существует, а интернет имеет децентрализованную природу. Стоит кому-нибудь скачать эти изображения на личный компьютер – и они оказываются сохраненными навсегда и начинают, подобно цифровым призракам, блуждать по всемирной паутине, периодически всплывая в самый неподходящий момент.
В большинстве стран мира создание и распространение дипфейков интимного и сексуального характера не считается незаконным, поэтому очевидного способа восстановить справедливость, нет. Этой проблемой занимаются ученые-юристы, благотворительные организации, активисты и борцы за права женщин, включая движения My Image My Choice и Not Your Porn, внимание которых направлено на все типы недобровольного распространения изображений, включая порноместь. Перечисленные организации обеспечивают работу горячих линий психологической поддержки и оказывают пострадавшим информационные и даже бесплатные юридические услуги. Но найти адвокатов, готовых браться за подобные дела, непросто, поскольку такие споры редко выигрываются в суде. Желая привлечь злоумышленников к ответственности, жертвы часто обращаются к Кэрри Голдберг, адвокату из нью-йоркского района Бруклин, которая, по собственным словам, специализируется на «клиентках, атакуемых извращенцами, мудаками, психами и троллями»{32}.
Голдберг принадлежит к тому типу женщин, забыть которых непросто: она предпочитает строгие костюмы, туфли на шпильках и малиновую помаду. Огромные очки в темной оправе придают ей сходство с прилежной студенткой, смягчая образ убийцы, которым она гордится. Она беззастенчиво женственна, беспощадна и остра на язык.
Клиентки обращаются к ней, столкнувшись с насилием – от стриминга изнасилований малолетних до порномести в интернете, киберсталкинга и шантажа на сексуальной почве. Обычно ее работа сводится к защите женщин, пострадавших от мужчин, которые нанесли им вред при помощи различных технологий. Когда она начинала свою практику в 2014 году, большинство подобных инцидентов даже не считались преступлениями. Отчасти именно поэтому она и пришла в эту сферу: она хотела стать тем адвокатом, которого не нашла, когда сама в нем нуждалась. Когда-то ее бывший парень грозил разместить в интернете ее интимные фотографии и писал ее друзьям и близким в фейсбуке, что она наркоманка с целым букетом венерических заболеваний.
Как правило, клиентки Голдберг, значительную часть которых составляют школьницы, после совершенных против них насильственных актов оказываются социально изолированы от друзей и родственников. Узнавая себя в каждой из них, она часто пренебрегает условными границами между адвокатом и клиентом и становится для пострадавших старшей сестрой, личным психотерапевтом и феей-крестной: ходит с ними на маникюр и дарит им кроссовки на день рождения.
В статье о Голдберг в журнале New Yorker профессор права из Майами рассказала, как однажды получила от нее по почте подарок – символ поддержки в период онлайн-травли, которой профессор подверглась после того, как выступила за введение законов против порномести. В посылке была помада Mac огненного оттенка Lady Danger. В приложенной открытке Голдберг написала: «Я наношу ее всякий раз, когда хочу почувствовать себя воином»{33}.
В ходе нашей беседы я спросила, как издевательства в интернете должны рассматриваться с точки зрения закона. Голдберг тотчас раскритиковала мою постановку вопроса, отказавшись принимать ложное противопоставление интернета и реальной жизни. «На мой взгляд, все преступления совершаются в реальной жизни, поскольку их жертвы – люди, а не компьютеры, – сказала она. – Онлайн-составляющая – просто оружие, а не само преступление. Всякий раз, когда кто-то говорит мне, что столкнулся с киберсталкингом или харассментом, я отвечаю: нет, это просто харассмент и просто сталкинг».
Голдберг вела целый ряд дел о преступлениях с использованием технологий, поэтому я спросила, наблюдает ли она увеличение числа дел, связанных с дипфейками. «Одним из моих первых дел в 2014 году стал случай женщины, чьи фотографии оказались на сайте с порноместью. На снимке она была с друзьями на пляже, одетая в бикини, но кто-то отфотошопил изображение, “снял” с нее бикини, добавил огромную грудь и волосатую […]. В некотором роде фотошоп был предком дипфейков, – сказала она. – Технология дипфейков, несомненно, более продвинутая, но методы борьбы с ней все те же. Для
