Методы удаления нежелательных объектов с изображений аэрофотосъемки с использованием итерационного подхода
Автор: Строй О.А., Буряченко В.В.
Журнал: Сибирский аэрокосмический журнал @vestnik-sibsau
Рубрика: Информатика, вычислительная техника и управление
Статья в выпуске: 3 т.22, 2021 года.
Бесплатный доступ
Удаление объектов с изображений относится как к задачам, позволяющим улучшить качество изображения, например, в области восстановления поврежденных фотографий, так и к задачам повышения безопасности при удалении людей или автомобилей при обработке изображений аэрофотосъемки. При этом методы удаления нежелательных объектов обычно включают в себя два этапа: выделение объектов для удаления и восстановление текстуры на участках изображения. Первый этап может выполняться вручную пользователями, если необходимо выделить конкретные объекты, либо автоматически путем обучения модели на различных классах объектов. Задача восстановления изображения в процессе исследований решалась различными методами, основной из которых включает использование значений соседних пикселов для отрисовки в удаленных областях. В последние годы хорошие результаты показывают методы с применением глубокого обучения на основе сверточных и генеративных нейронных сетей. Целью работы является разработка метода удаления объектов с изображений аэрофотосъемки с выделением объектов вручную и отрисовкой текстуры в обрабатываемой области. В работе выполнен обзор современных методов восстановления изображений, среди которых наиболее перспективным является использование сетей глубокого обучения, а также анализ текстуры в восстанавливаемой области. Предложенный алгоритм основан на итерационном подходе при анализе соседних областей и постепенном закрашивании восстанавливаемой области текстурой с соседних пикселов с учетом веса и контуров границ. В статье выполнена оценка эффективности предложенного метода с использованием базы видеопоследовательностей, полученных с квадрокоптеров и содержащих людей и природные объекты. При этом проводилась как экспертная оценка, которая показала хорошие визуальные результаты, так и сравнение качества работы алгоритма с известными подходами по метрике PSNR, которая показала лучшие результаты при наличии сложной текстуры в сцене.
Image inpainting, восстановление изображений, дистанционное зондирование земли, генеративные нейронные сети, текстурный анализ
Короткий адрес: https://sciup.org/148323913
IDR: 148323913 | DOI: 10.31772/2712-8970-2021-22-3-468-477
Список литературы Методы удаления нежелательных объектов с изображений аэрофотосъемки с использованием итерационного подхода
- Дистанционное зондирование Земли - Госкорпорация «Роскосмос» [Электронный ресурс]. URL: https://www.roscosmos.ru/24707/ (дата обращения: 10.09.2020).
- Исследование метода синтеза текстур изображений поверхности земли на основе нейронной сети / Ибадов Р. Р., Федосов В. П., Воронин В. В. и др. // Известия ЮФУ. Технические науки. 2019. № 5 (207). [Электронный ресурс]. URL: https://cyberleninka.ru/article/n/issledovanie-metoda-sinteza-tekstur-izobrazheniy-poverhnosti-zemli-na-osnove-neyronnoy-seti (дата обращения: 11.09.2020).
- Cornell University [Электронный ресурс]. URL: https://arxiv.org/abs/1512.03385 (дата обращения: 16.09.2020).
- Архитектуры нейросетей / Блог компании NIX / Хабр [Электронный ресурс]. URL: https://habr.com/ru/company/nix/blog/430524 (дата обращения: 12.09.2020).
- Cloudremoval in Sentinel-2 imagery using a deep residual neural network and SAR-optical data fusion / Meraner A., Ebel P., Xiang Zhu X. et al. // ISPRS Journal of Photogrammetry and Remote Sensing. 2020. Vol. 166. P. 333-346 [Электронный ресурс]. URL: https://www.sciencedirect.com/ science/article/pii/S0924271620301398 (дата обращения: 10.09.2020).
- Girshick R. et al. Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation. 2014 IEEE Conference on Computer Vision and Pattern Recognition, 2014. Р. 580-587.
- Selective Search for Object Recognition / Uijlings J. R. R. et al. // International Journal of Computer Vision. 2013. No. 104.2. P. 154-171.
- Getreuer P. Linear methods for image interpolation // Image Process Line. 2011. Vol. 1. P. 238-259.
- Charles Burlin, Yoann Le Calonnec and Louis Duperier. Deep Image Inpainting [Электронный ресурс]. URL: http://cs231n.stanford.edu/reports/2017/pdfs/328.pdf (Дата обращения 05.03.2021).
- Semantic image inpainting with perceptual and contextual losses. Computer Vision and Pattern Recognition arXiv: 1607.07539 / Yeh R., Chen C., Lim T. Y. et al. 2016.
- Image Inpainting for Irregular Holes Using Partial Convolutions. Computer Vision and Pattern Recognition arXiv preprint arXiv: 1804.07723 / Liu G., Reda F. A., Shih K. J. et. al. 2018.
- Image Inpainting Based on Generative Adversarial Networks / Y. Jiang, J. Xu, B. Yang, Junwu Zhu // IEEE Access. 2020. Vol. 8. P. 22884-22892.
- Telea A. An Image Inpainting Technique Based on the Fast Marching Method // Journal of Graphics Tools. 2004. Vol. 9. P. 23-34.
- Bertalmio M., Bertozzi A., Sapiro G. Navier-Stokes, fluid dynamics, and image and video inpainting // Proc. IEEE Computer Society Conference on Computer Vision and Pattern Recognition. 2001. Vol. 1. P. 355-362.
- Drone Videos DJI Mavic Pro Footage in Switzerland [Электронный ресурс]. URL: https://www.kaggle.com/kmader/drone-videos (дата обращения 05.05.2021).
- Almansa A. Echantillonnage, interpolation et detection: applications en imagerie satellitaire (Doctoral dissertation, Cachan, Ecole normale superieure). 2002.
- Bertalmio M. Processing of flat and non-flat image information on arbitrary manifolds using partial differential equations. PhD Thesis, 2001.