Google представила технологии масштабирования изображений на базе диффузионных моделей

Уверены, Вам приходилось видеть фильмы и сериалы, в которых протагонист просит увеличить и улучшить изображение, полученное со случайной камеры наблюдения. В такие моменты с нажатием пары клавиш вместо размытых и едва различимых пятен на мониторе появляются чёткие снимки, раскрывающие личность преступника, автомобильные номера и прочие ключевые для сюжета детали. Корпорация Google представила новейшие ИИ-движки, основывающиеся на диффузионных моделях, способные провернуть аналогичный трюк.

Google представил технологии масштабирования изображений на базе диффузионных моделей
Google Research

По словам специалистов Google, искусственному интеллекту довольно трудно «увеличить и улучшить» фотографию низкого качества. Дело в том, что нейросети приходится дополнять изображение деталями, которые не запечатлела камера, руководствуясь сторонними подсказками, полученными из других похожих снимков. Для реализации суперразрешения изображения эксперты Google разработали собственную технику синтеза изображений, которая делает маленькое пикселизированное фото большим, чётким и качественным. Результат не всегда в полной мере соответствует оригиналу, однако его реалистичность, как правило, достаточно убедительна для человеческих глаз.

 
К слову, компания Google представила сразу два ИИ-инструмента, базирующихся на диффузионных моделях, совместная работа которых позволит воссоздать полноценное изображение на основе небольшого низкокачественного прототипа. Первый алгоритм называется Super-Resolution via Repeated Refinement или просто SR3. Задача SR3 заключается в масштабировании изображения через многократное уточнение деталей. Диффузионная модель в его основе тренирует нейросеть путём искажения фотографий в тренировочной базе данных. Постепенно она накладывает на снимок статистический шум, скрывая основные элементы фото, а затем заставляет нейросеть обратить процесс искажения и восстановить изображение. Руководствуясь закономерностями, выведенными из мириад фотографий в базе данных, SR3 производит серии расчётов вероятности и приходит к тому, как крошечное пиксельное изображение будет выглядеть в полном разрешении.

Инженер-программист Google AI Читван Сахария / Google Research
Google Research
Google Research

Второй алгоритм Cascaded Diffusion Models или CDM представляет собой многоуровневую систему из нескольких диффузионных моделей, в том числе и SR3. CDM позволяет постепенно повышать разрешение исходного изображения до получения максимально доступного результата с наименьшей потерей качества. Алгоритм, совмещающий в себе сразу нескольких моделей суперразрешения изображений, значительно превосходит по эффективности другие альтернативные методы увеличения разрешения фотографий. Не в последнюю очередь превосходство CDM обусловлено использованием в качестве тренировочной базы ресурса ImageNet, который нередко служит ключевым источником изображений для обучения систем визуального распознавания.

Google представил технологии масштабирования изображений на базе диффузионных моделей
Результаты масштабирования трёх алгоритмов (Bicubic, Regression, SR3): изображения с лицом (64×64 → 512×512), изображения животного (64×64 → 256×256). Оригинал в правом столбце / Google Research
Google представил технологии масштабирования изображений на базе диффузионных моделей
CDM в действии / Google Research

Представители Google сообщают о весьма многообещающих результатах совместной работы алгоритмов SR3 и CDM. В рамках испытаний моделей примерно в 50% случаев 50 добровольцев принимали сгенерированные ими изображения за реальные фотографии. Впрочем, эксперты подчеркнули, что синтезированные изображения являются не полноценными копиями оригинальных снимков, но результатом тщательного вычисления вероятностей. Специалисты Google заявили, что алгоритмы на базе диффузионных моделей производят более правдоподобные изображения, чем альтернативные ИИ-программы, включая алгоритмы GAN, которые основываются на комбинации генеративных и дискриминативных моделей.

Почти в 50% случаях волонтёры не могли отличить сгенерированные лица людей от реальных. В случае с фотографиями природы людям было немного проще идентифицировать реальные и синтезированные изображения / Google Research
Проверка качества сгенерированных изображений в сравнении с реальными при помощи оценки точности классификации категории запечатлённого объекта (чем больше, тем лучше) / Google Research
Оценка качества сгенерированных изображений по шкале расстояния Фреше (чем меньше, тем лучше) / Google Research

Пока что Google не предоставила информации о возможностях и сроках коммерческой реализации подобных ИИ-движков. К слову, эксперты компании считают, что будущее диффузионных моделей не ограничено операциями по улучшению качества изображений. Учёные предполагают, что данные алгоритмы и их вариации найдут применение в различных отраслях науки и техники, полагающихся на инструменты вероятностного моделирования.

Источник: High Fidelity Image Generation Using Diffusion Models

Поделиться в соцсетях

Добавить комментарий