Редактор изображений Magic Editor научился генерировать правдоподобные фейки
Фотошоп, чтобы набрать классы, эволюционировал.
Инструмент Reimagine, добавленный в редактор и пока что доступный только в Pixel 9, позволяет подделывать фотографии секунд за 10. Дымящаяся бомба на станции метро, крушение вертолета в ручье, последствия ДТП — всё это добавили на фото журналисты The Verge в качестве эксперимента. Попадись такое фото в ленте, его легко можно принять за настоящую съёмку.
Сейчас нет способов установить подлинность изображения. Обработанные в Magic Editor фото в лучшем случае получают легко удаляемую строку в метаданных, а Google не торопится разрабатывать универсальный неудаляемый «водяной знак». Алгоритмы социальных сетей же распознают ИИ-контент плохо.
Представители Google говорят, что нейросети можно использовать только в соответствии пользовательским соглашением, и создание фейков для дезинформации оно запрещает. Но вряд ли кто-то будет смотреть на соглашение пользователя перед тем, как публиковать ложь.
Ну что, прощаемся с фотографией как средством фиксации реальности или верим, что нейронки ограничат?