Создать поддельное видео или фото стало проще, чем когда-либо — искусственный интеллект может заменить лицо у героя ролика, скопировать голо
Создать поддельное видео или фото стало проще, чем когда-либо — искусственный интеллект может заменить лицо у героя ролика, скопировать голос или создать изображение вовсе не существующего человека. К счастью, технологии, благодаря которым создают дипфейки, можно использовать для их обнаружения. Руководствуясь этим принципом, команда учёных из Университета Баффало в США разработала инструмент Deepfake-o-meter, который помогает как обычным интернет-пользователям, так и профессионалам проверять подлинность фото, аудио и видео.
Что это такое?
Чтобы поймать продукт работы нейросети, чаще всего нужна другая нейросеть. На файлах, которые точно были сгенерированы, её учат искать характерные артефакты, ошибки и другие особенности текста, аудио, изображения или видео. Поскольку при использовании разных генеративных моделей остаются разные артефакты, для их выявления нужны разные детекторы — если для обучения одного из них не была использована «продукция» определённой нейросети, он может ошибочно принять такой контент за созданный человеком.
В Deepfake-o-meter объединены более 10 различных детекторов для распознавания дипфейков, чтобы пользователи могли легко проверить подозрительный контент в одном окне браузера.
Как пользоваться инструментом
Использовать Deepfake-o-meter очень просто — проверка одного файла занимает всего несколько минут Вот пошаговая инструкция:
- Зайдите на сайт и создайте бесплатную учётную запись.
- Загрузите файл, который хотите проверить. Его размер не должен прешывать 50 мегабайт.
- Выберите один или несколько методов анализа из предложенного списка.
- Дождитесь результата — инструмент даст вероятностную оценку того, был ли файл создан искусственным интеллектом. Вероятность от 70% можно считать достаточно надёжным доказательством, что фото, видео или аудио сгенерировала нейросеть.
Результаты анализа будут выглядеть примерно так:
Какие файлы можно проверять
- Изображения — в форматах jpg/jpeg, tiff, png, bmp,nef, raf
- Видео — в форматах mp4, avi, mov (до 2 минут)
- Аудио — в форматах wav и mp3 (до 2 минут)
Примеры использования
- С помощью Deepfake-o-meter «Проверено» проанализировало фото актрисы, которая якобы снималась в постановочных роликах о войне для украинских телеканалов. Оказалось, что такой женщины никогда не существовало.
- Тот же инструмент мы применили при анализе украиноязычного анимационного ролика, в котором дед объясняет внуку: Киев ничего не потеряет, заключив соглашение по полезным ископаемым с Вашингтоном. Использование ИИ при создании мультфильма стало одним из аргументов в опровержении.
- Также Deepfake-o-meter помог «Проверено» доказать: Билл Гейтс не говорил в интервью, что Украина «похитила» американскую помощь, а южноафриканский рабочий не рассказывал, как Владимир Зеленский купил компанию по добыче полезных ископаемых. В обоих случаях голоса были сгенерированы нейросетью.
Ограничения
Несмотря на все достоинства, у Deepfake-o-meter есть ограничения, о которых важно знать.
- Основное — такое же, как у аналогичных сервисов (например, Hive): результаты показывают вероятность того, что при создании фото, видео или аудио был использован ИИ, а она почти никогда не бывает 100%;
- Главное отличие этого инструмента — возможность использовать сразу несколько алгоритмов. При этом они по разным причинам могут давать противоречивые результаты. Чтобы сделать наиболее достоверные выводы, полезно, с одной стороны, предварительно изучить их описание и специализацию, с другой — использовать их в комбинации друг с другом;
- Технологии создания дипфейков постоянно совершенствуются, поэтому некоторые детекторы, особенно разработанные давно, могут не распознавать подделки.
Помните: лучшая защита от дипфейков — это критическое мышление в сочетании с современными и надёжным детекторами. Всегда проверяйте подозрительный контент и не принимайте важных решений на основе одного только видео или аудио.
Подписывайтейсь на курс «AI для журналиста» на Patreon
