Хотели бы вы автоматически устранять шумы и артефакты с фотографий, сделанных в условиях слабого освещения? Или убирать зернистость и пикселизацию с изображений из своей фотогалереи? Новый метод, основанный на алгоритмах глубокого обучения, научился улучшать качество фотографий, на основе только изображений с дефектами.
Рис. 1. Пример для пуассоновского шума (λ=30). Результат был получен с использованием зернистых изображений.
Проект был выполнен исследователями из NVIDIA, Университета Аалто и Массачусетского технологического института (MIT) и представлен на этой неделе на Международной конференции по машинному обучению в Стокгольме (ICML, Швеция). В предыдущих проектах в этой области нейросеть обучалась восстанавливать фотографии, определяя разницу между парными изображениями – с шумом и без. Новый метод отличается тем, что нейросети «скармливаются» только изображения с шумом или зерном.
Этой нейросети никогда не показывали, как выглядит чистое изображение, но она способна устранять артефакты, шум, зерно, и автоматически улучшать качество фотографий.
Рис. 2. Импульсный шум случайного значения. Созданная система устранения шума обучена только на парах изображений с дефектом.
«Искусственный интеллект можно научить восстанавливать сигналы, даже без сравнения их с чистыми аналогами, причем с большей скоростью, чем в случае использования исключительно чистых образцов» – утверждают исследователи в своей работе. «Созданная нейросеть не уступает методам, в которых нейросеть учится на основе чистых образцов, — она использует тот же самый метод и не уступает ни по времени обучения, ни по результатам работы».
Команда проекта обучила свою систему на 50000 изображениях из набора ImageNet с помощью графических процессоров NVIDIA Tesla P100 с фреймворком глубокого обучения TensorFlow с ускорением cuDNN.
Чтобы протестировать систему, были выбраны три разных набора изображений.
Данный метод может использоваться не только для домашнего фотоархива, но и, например, для улучшения МРТ-снимков, что должно значительно усовершенствовать качество визуализации в медицине.
Рис. 3. Восстановленный МРТ-снимок. (a) Входное изображение с 10% зафиксированного спектра с масштабированием 1/p. (b) Восстановление с помощью нейросети, обученной на примере «шумных» изображений, близких ко входному изображению. (с) Референсное изображение.
«В обычной жизни есть ряд ситуаций, когда действительно сложно получить чистые образцы для обучения нейросети: фотографии в условиях низкой освещенности (например, астрономические снимки), физически корректный рендеринг и магнитнорезонансная визуализация», поясняют разработчики. «Наши демонстрации позволяют потенциально получить весомые преимущества в данных областях, устраняя необходимость в зачастую трудоемком процессе получения чистых данных. Конечно, здесь есть свои ограничения. Мы не можем воссоздать объекты, которые отсутствуют в наборе для обучения. Но это ограничение относится в равной степени и к обучению на основе чистых изображений».
Рис. 4. Устранение шума с фотографии Монте-Карло. (a) Изображение, отрисованное с плотностью в 64 выборок на пиксель (spp). (b) Изображение с устраненным шумом в 64 spp, полученное сетью, обученной на изображениях с 64 spp. (с) Референсное изображение, отрисованное с плотностью 131 072 spp.
Алгоритм может убирать с фотографий не только шумы и зерно, но и другие артефакты – включая случайным образом разбросанные надписи.
Следующий видеоролик рассказывает о работе нового алгоритма и приводит примеры:
Для более серьёзного изучения технологии вы можете обратиться к статье, опубликованной разработчиками.
