На март 2023 года пришёлся настоящий бум распространения фото, созданных с помощью искусственного интеллекта. Среди них Владимир Путин на колене перед Си Цзиньпином, папа римский в пуховике, арестованный Дональд Трамп, измученный Джулиан Ассанж и др. В связи с этим мы составили гайд о том, как отличить снимки нейросетей от настоящих.
Арестованный Дональд Трамп
С 19 марта на фоне сообщений о том, что Дональд Трамп, вероятно, будет арестован по обвинениям, связанным с выплатой денег за молчание порноактрисе Сторми Дэниэлс, в соцсетях завирусились фото предполагаемого задержания бывшего президента США сотрудниками ФБР и полиции. За короткое время подобные посты собрали сотни тысяч просмотров.
Трампу предъявили обвинения в фальсификации деловой документации 30 марта. 4 апреля он отправился в офис окружного прокурора Манхэттена, где его арестовали и обнародовали 34 пункта обвинения. Трамп объявил себя невиновным и был отпущен из зала суда. Следующее слушание назначено на 4 декабря.
При этом первые вирусные снимки ареста Трампа появились уже 19 марта, но не в публикациях СМИ или на сайтах фотоагентств, а в твиттере пользователя под ником The Infinite Dude — в описании его профиля указано, что он фильммейкер, работающий с искусственным интеллектом (ИИ). 20 марта он похвастался, что журнал Forbes написал о нём статью, где утверждалось, что фотографии — подделка. Журналисты, как и некоторые пользователи, заметили, что кисти рук всех людей в кадре кажутся деформированными. Это указывает на результат работы нейросетей. В апреле The Infinite Dude поделился ещё несколькими своими работами на тему ареста Трампа.
С 21 марта начала расходиться новая порция фото с Трампом: на одной из них бывший президент убегал от полиции, однако, судя по остальным, его догнали и схватили. Если смотреть снимки в обратном порядке, то получится, что Трамп вырвался и смог убежать от правоохранительных органов.
Фактчекеры из Associated Press (AP), Les Observateurs, Correctiv, Lead Stories и Newtral установили, что изображения создал журналист и основатель издания Bellingcat* Элиот Хиггинс, который ночью опубликовал снимки на личной странице в Twitter. В целом Хиггинс показал более 50 фото, созданных нейронными сетями на тему ареста, суда и побега Трампа из тюрьмы. Дата не была выбрана случайно — сам Трамп ожидал, что его арестуют именно 21 марта.
При ближайшем рассмотрении можно заметить некоторые детали, которые выдают неаутентичность фотографий. Например, на одном снимке у Трампа нет кисти, на другом нет предплечья и плеча, а на третьем он сам одет в полицейскую форму. Хиггинс сообщил, что использовал новейшую версию Midjourney (V5) — программу, которая с помощью нейронных сетей создаёт изображения по текстовым запросам.
«На самом деле изображение ареста Трампа просто показало, насколько хороша и одновременно плоха Midjourney в визуализации реальных сцен. Например, на первом изображении Трамп с тремя ногами и полицейским ремнём. Я предполагал, что люди поймут, что у Дональда Трампа две ноги, а не три. Однако, похоже, это не помешало некоторым выдать картинки за настоящие [фото], что подчёркивает отсутствие навыков критического мышления в нашей образовательной системе», — рассказал Хиггинс в беседе с AP.
22 марта Хиггинс сообщил, что его заблокировали на платформе Midjourney, а журналисты рассказали, что теперь нельзя создавать изображения, если в запросе присутствует слово «арестован».
В начале апреля появилось ещё два вирусных фото: на одном якобы показано, как Трамп вместе с колонной своих сторонников возвращается в Нью-Йорк, а на втором — его магшот, то есть фото арестованного.
На первом фото имеется подпись @Brick_Suit — пользователя, который написал, что сам сгенерировал это изображение с помощью Midjourney V5. Этот снимок кажется реалистичным лишь издалека, поскольку при близком рассмотрении можно заметить, что у всех фигур искажённые лица. Во втором случае на подделку указывают две детали. Во-первых, по сообщениям СМИ, Трамп не фотографировался во время ареста. Во-вторых, на фоне видны беспорядочные наборы букв и цифр, что характерно для изображений от нейросетей на данном этапе развития технологии.
Фейк
Владимир Путин преклонил колено перед Си Цзиньпином
20 марта председатель КНР Си Цзиньпин прибыл с государственным визитом в Россию. В тот же день по Сети разошёлся снимок, на котором Путин будто бы стоит на колене перед главой Китая и целует его руку. Например, твит американского политического консультанта и корреспондента издания Kyiv Post Джейсона Джея Смарта с этим фото набрал почти 800 000 просмотров. Согласно комментариям, многие люди задавались вопросом, настоящая ли это фотография. Встречается снимок и в Telegram (примеры тут и тут).
Вирусное фото разобрали фактчекеры изданий Correctiv, Newtral, Open, Newsweek и Deutsche Welle**, а также журналистка Аманда Флориан. Все они провели анализ изображения, пообщались с экспертами и пришли к выводу, что этот снимок был создан с помощью ИИ.
Можно выделить следующие основные аргументы, почему это фальшивое фото:
- ни в одной публикации нет ссылки на первоисточник или имени фотографа;
- помещение, мебель и обувь политиков на официально опубликованных снимках отличаются от тех, что показаны на вирусном фото;
- имеются визуальные и оптические аномалии.
Среди подобных аномалий в глаза бросаются следующие: непропорционально большая голова и деформированный ботинок российского президента, неровные грани колонны на заднем фоне, нереалистичное расположение ножек стола, деформированные уши политиков, а также слипшиеся пальцы человека на заднем плане.
Кроме того, многие фактчекеры проверили фото при помощи инструмента AI-image-detector на платформе Hugging Face — это детектор изображений, позволяющий определить, был ли снимок создан ИИ. Согласно программе, с бóльшей вероятностью фотография Путина на колене ненастоящая.
Фейк
Эмманюэль Макрон на уличных протестах
В связи с продолжавшимися во Франции протестами против пенсионной реформы 22 марта в Twitter завирусились фото французского президента, на которых он изображён в центре демонстрации, окружённой полицейскими. Твит без пояснений набрал несколько миллионов просмотров.
Как сообщают журналисты проекта Les Observateurs телеканала France 24, в некоторых публикациях пользователи прямо указывают на использование инструментов искусственного интеллекта, однако в других публикациях эти изображения даны без контекста или соответствующей подписи и поэтому могут вводить в заблуждение.
Фейк
Папа римский Франциск в белом пуховике
24 марта появилось невероятно вирусное фото папы римского. На нём понтифик показан в традиционном головном уборе пилеолусе и современном белом пуховике с капюшоном, поверх куртки надет крест. Например, один твит с этим снимком на момент написания этого разбора набрал почти 28 млн просмотров, а другой — 21 млн. Согласно множеству комментариев пользователей Сети, среди которых телеведущая и модель Крисси Тайген, многие поверили, что фото главы католической церкви подлинное.
Поскольку фото облетело весь мир, о нём написали фактчекеры из разных стран — разоблачения снимка опубликовали издания Snopes, Correctiv, Lead Stories и Newtral. Выяснилось, что фотография папы в пуховике появилась 24 марта на развлекательном форуме Reddit в разделе, посвящённом изображениям, сгенерированным в Midjourney. Причём в оригинальном посте добавлены ещё три версии поддельного снимка. Аккаунт автора уже удалён, но, согласно коду страницы и веб-архиву, его ник — trippy_art_special.
Журналисты издания BuzzFeed нашли создателя сгенерированного изображения папы и поговорили с ним. Им оказался Пабло Хавьер — 31-летний строитель из Чикаго, отказавшийся называть фамилию в связи с возможными угрозами в его адрес. Он начал работать с Midjourney после смерти брата, используя нейросети для воссоздания образа умершего родственника. Однажды под действием психотропных веществ Пабло решил, что будет забавно изобразить Франциска в смешной курте от Balenciaga или Moncler. Получившиеся изображения он разместил в Facebook***-сообществе AI Art Universe, а затем на Reddit, где его профиль вскоре заблокировали. Пабло не ожидал подобного масштаба распространения фото и сказал, что ему стало страшно, поскольку многие люди поверили в подлинность снимка, а некоторые использовали его для критики церкви. В связи с этим Пабло считает, что должны быть приняты законы, регулирующие использование нейросетей.
Эксперт по ИИ Генри Аждер рассказал изданию Business Insider о признаках, которые выдают искусственную природу фото папы. Во-первых, рука, держащая кофейную чашку, выглядит деформированной. Во-вторых, очки папы не прорисованы полностью и есть несоответствие с их тенью. В-третьих, Аджер советует обращать внимание на текстуры: «Одна из особенностей, которая заметна при использовании пятой версии Midjourney, заключается в том, что многие из подобных изображений имеют очень характерный пластиковый гиперреалистичный вид, будто бы на фото наложен фильтр». Он добавил, что это может поменяться с развитием платформы. Авторы издания The Verge также обратили внимание, что на кресте, который надет на понтифика, отсутствуют прямые углы.
Фейк
Илон Маск на свиданиях
26 марта пользователь Twitter под ником AllYourTech написал, что глава Tesla начал встречаться с Мэри Баррой — генеральным директором General Motors, и сопроводил твит снимком пары. Позже этот же пользователь сообщил, что спустя несколько часов Маска заметили на прогулке с членом палаты представителей США Александрией Окасио-Кортес. В общей сложности два поста набрали почти 16 млн просмотров.
Как сообщает издание Snopes, автором этих работ оказался блогер Брайан Ловетт, который у себя на YouTube-канале рассказал, что использовал Midjourney, но не делал изображения «полностью фотореалистичными», что снова видно по искривлённым пальцам запечатлённых людей. При этом Ловетт уточнил, что хотел показать, до какого уровня уже развита эта технология. По его словам, этот уровень уже немного пугает.
К слову, сам Маск отреагировал на виральный твит с Баррой, написав: «Я бы никогда не надел такой костюм».
Фейк
Фото нездорового Джулиана Ассанжа в тюрьме
30 марта 2023 года распространилось фото, на котором якобы показан основатель WikiLeaks Джулиан Ассанж, находящийся в британской тюрьме строгого режима Белмарш. В своём посте (155 000 просмотров) постоянный гость российских политических ток-шоу Яков Кедми написал: «Судя по всему, журналист подвергается бесчеловечным пыткам». Рассказывал об этом фото и телеведущий Руслан Осташко (104 000 просмотров), а в публикации, которую репостнул (218 000) бывший украинский журналист Дмитрий Василец, утверждается, что тюремные условия превратили 51-летнего Ассанжа в «угасающего старика». Также снимок завирусился в Twitter и «ВКонтакте», где пост паблика «Голос Мордора» собрал более 1600 лайков при 20 000 просмотрах.
Поверх вирусного фото наложена полупрозрачная надпись, гласящая, что этот снимок — собственность некоего «E». Жена Ассанжа Стелла утверждает, что фотография — подделка, созданная ИИ. Как оказалось, изначально снимок появился 30 марта в твиттере пользователя под ником @TheErrantFriend, который подтвердил своё авторство в личной переписке с изданиями AP и Bild и рассказал, что сделал фото при помощи пятой версии Midjourney. По словам The Errant Friend, который из соображений безопасности не назвал настоящее имя, изображение было создано в рамках «вирусного движения за свободу Джулиана», чтобы продемонстрировать «задокументированные страдания Ассанжа в Белмарше». Двумя неделями ранее The Errant Friend публиковал другое фейковое фото арестованного Ассанжа, не снискавшее общественного резонанса.
Фейк
Джо Байден празднует предъявление обвинений Трампу
31 марта пользователь Twitter под ником @_johhnymaga опубликовал фотографии президента США Байдена и вице-президента Камалы Харрис и заявил, что накануне они праздновали выход обвинительного акта против бывшего президента Дональда Трампа. Твит собрал более 500 000 просмотров (на момент написания этого разбора он уже удалён).
На снимки обратили внимание фактчекеры Snopes. Заместитель пресс-секретаря Белого дома Эндрю Бейтс заявил изданию, что эти фотографии «не соответствуют действительности». Кроме того, на момент предполагаемой съёмки Харрис совершала деловой визит в Африку. На то, что это очередная работа Midjourney, снова указывает дефект кисти: на втором снимке у Харрис будто бы шесть пальцев.
Фейк
В последние месяцы цифровое искусство, созданное нейронными сетями, стало настоящим феноменом. По словам многих экспертов в сфере искусственного интеллекта, технологии Midjourney постоянно развиваются, поэтому в новых версиях этой нейросети могут быть исправлены все недочёты, упомянутые выше. При этом также существуют другие программы с похожим функционалом, среди которых DALL-E, Stable Diffusion и Craiyon. Однако на данный момент всё ещё можно отличить поддельные снимки от настоящих, выполнив одно или несколько указанных ниже действий.
- Постараться найти первоисточник изображения.
Для этого есть обратный поиск по картинке в любом из доступных сервисов. Кроме того, это поможет найти похожие фотографии для сравнения с подлинными фото. Также следует обращать внимание на наложенные надписи — среди них может быть указано имя автора, название или логотип использованной программы.
- Поискать информацию о запечатлённом на фото событии в авторитетных источниках.
Может оказаться, что изображённое событие ещё не должно было произойти или что человек с фото на момент предполагаемой съёмки находился совсем в другом месте. Кроме того, где-то уже может быть опубликовано опровержение.
- Обратить внимание на визуальные несоответствия, странные детали и артефакты.
Чаще всего ошибки Midjourney связаны с изображением пальцев, конечностей и зубов, а также пропорций тела и текста (он получается либо бесмысленным набором символов, либо непонятными каракулями). Стоит рассмотреть фон, текстуры, тени, одежду (особенно головные уборы), замысловатые аксессуары, мебель и другие предметы, которые могут выглядеть подозрительно, неестественно и абсурдно.
- Проверить фото через сервисы Hugging Face или Replicate.
На этих платформах есть детекторы по определению изображений, созданных ИИ. Однако иногда они могут ошибочно оценивать подлинные изображения как подделку, поэтому этот инструмент может быть лишь вспомогательным.
*Минюст РФ внёс Bellingcat в реестр иностранных и международных неправительственных организаций, деятельность которых признана нежелательной на территории России, а также в список СМИ — иностранных агентов.
**Минюст РФ включил Deutsche Welle в реестр иностранных СМИ, выполняющих функции иностранного агента.
***Российские власти считают компанию Meta Platforms Inc., которой принадлежит социальная сеть Facebook, экстремистской организацией, её деятельность на территории России запрещена.
Фото на обложке: коллаж «Проверено» / соцсети / trippy_art_special / @EliotHiggins
- Правда ли, что учёные создали 3D-модель библейского Адама, похожего на Вина Дизеля?
- Правда ли, что на руке Путина был синяк во время выступления на «Валдае»?
- Правдиво ли фото, на котором Байден положил руку на ягодицы Зеленского?
- Правда ли, что иностранные сатирические журналы выпустили эти обложки, посвящённые словам папы римского о чеченцах и бурятах?
- Правда ли, что Эмманюэль Макрон пытался спрятать часы за €80 000 во время интервью?