10 апреля стал тяжелым днем для известного геймера и ютубера Atrioc (Брэндона Юинга). В ходе его обычной трансляции на Twitch он случайно раскрыл содержимое своего браузера перед аудиторией. На несколько мгновений зрители стали свидетелями того, что похоже на порно-дипфейки с участием женщин-ютуберов и геймеров QTCinderella и Pokimane, которые являются коллегами и, по всей видимости, друзьями Юинга. Через несколько мгновений один из зрителей загрузил скриншот этой сцены на Reddit, и так начался скандал.
Дипфейки, в общем смысле, это медиа-контент, который был изменен с помощью искусственного интеллекта, обычно для наложения лица одного человека на другого, например, актера в фильме или видео. Однако его основное применение – создание порно с участием знаменитостей и, что еще более тревожно, визуализация сексуальных фантазий о друзьях или знакомых.
Большинство людей, понимают, что Эвинг совершил какое-то нарушение, потребляя фиктивное, но нежелательное порно своих друзей. В самом деле, комментарии на Reddit и сильные (оправданные) реакции женщин, лица которых были использованы в клипах, свидетельствуют о глубоком чувстве отвращения. Это понятно, но указать точно, где лежит преступление, удивительно сложно. По-видимому, преступление заключается в самом потреблении дипфейков, а не в последствиях этого действия. Использование дипфейков является неправильным, без оговорок, независимо от того, узнают ли о нем люди, “играющие” в клипах, или кто-то другой.
В то же время мы уверены, что сексуальные фантазии являются морально нейтральными. Но в чем реально разница? И фантазия, и дипфейк являются виртуальными изображениями, созданными на основе предыдущих данных, только одно существует в голове, а другое – на экране. Этот вопрос вызывает дилемму: где провести границу между личной фантазией и тем, что мы признаем морально недопустимым?
В будущем это, вероятно, заставит нас пересмотреть наши моральные отношения к дипфейкам и сексуальным фантазиям. Есть два очевидных пути развития этой ситуации. Во-первых, мы можем начать принимать порнографические дипфейки как нормальный способ фантазировать о сексе, делегируя некоторую работу, которая раньше происходила в голове, машинам. Во-вторых, мы можем начать сомневаться в моральной нейтральности сексуальных фантазий вообще. Например, многие считают, что сексуальные фантазии, включающие детей или жестокое насилие, являются морально неприемлемыми.
Дипфейки могут заставить нас задуматься даже глубже, вызвав вопросы о моральном статусе наших личных данных. С появлением интернета мы формируем новое отношение к моральному статусу нашей личной информации. Большинство жителей сегодня считают, что каждый должен полностью контролировать информацию, относящуюся к его личности. Но это, строго говоря, также включает данные, хранящиеся в головах других людей. Возможно, в конечном итоге мы придем к выводу, что мы можем контролировать воображение других людей, что на первый взгляд кажется диким предположением.
В целом, этот инцидент является напоминанием о том, что с появлением новых технологий нам приходится столкнуться с новыми этическими проблемами, которые требуют обсуждения и разумного подхода.
Источник: SecurityLab