Оптимизация технологической карты допустимых системотехнических решений задачи видеоаналитики аквакультуры
Автор: Ронжин Андрей Леонидович, Ле Ван Нгиа, Шувалов Никита
Рубрика: Математика
Статья в выпуске: 2 т.16, 2024 года.
Бесплатный доступ
Системно рассмотрена задача видеоаналитики гидробионтов в рыбоводных индустриальных комплексах. Предложена концептуальная модель задачи видеоаналитики, предложена соответствующая математическая формулировка задачи с поиском подмножества допустимых вариантов технологической карты, которая сводится к поиску вариантов, удовлетворяющих функциональным критериям. Окончательное решение о структуре и функциях программно-аппаратного обеспечения видеоаналитики принимается с учетом стоимостных затрат всего жизненного цикла оборудования. Подчеркивается важность автоматизации и интеллектуализации технологических процессов сельского хозяйства, наиболее актуальных современных задач, которым посвящены исследования передовых отечественных коллективов. Обсуждаются первичные данные для разработки и внедрения системы видеоаналитики при решении задачи подсчета рыбы, ее массы при пересадках, отгрузке, приеме в цех переработки, полученные в рамках сотрудничества с компанией «Остров», специализирующейся на выращивании форели и уделяющей серьезное внимание внедрению современных технологий автоматизации и искусственного интеллекта в технологические процессы индустриальной аквакультуры. Проведены натурные эксперименты и собраны корпуса изображений рыб в прозрачной узкой трубе, направляемой потоком воды, и на воздухе при движении на конвейере. Дальнейшие исследования будут направлены на разработку модельно-алгоритмического и программного обеспечения, необходимого для апробации предложенных математических моделей и оптимизации вариантов технологической карты функционирования системы видеоаналитики.
Системный анализ, многокритериальное оценивание, техническое зрение, видеоаналитика, технологии искусственного интеллекта, робототехника, искусственные нейронные сети
Короткий адрес: https://sciup.org/147243215
IDR: 147243215 | УДК: 639.3 | DOI: 10.14529/mmph240205
Optimization of technological map of acceptable system engineering solutions for aquaculture video analytics
The paper considers the problem of video analytics of aquatic organisms in fish farming industrial complexes. It proposes a conceptual model of the video analytics problem, and a corresponding mathematical formulation of the problem with the search for a subset of acceptable options for the technological map, which boils down to the search for options that satisfy functional criteria. The final decision on the structure and functions of video analytics hardware and software takes into account the cost of the entire life cycle of the equipment. The study emphasizes the importance of automation and intellectualization of technological processes in agriculture, the most pressing modern problems, which are the main focus of the research of advanced teams. The paper discusses primary data for the development and implementation of a video analytics system when solving the problem of counting fish and their mass during transplantation, shipment, and reception into the processing shop. The data were obtained in the framework of cooperation with the Ostrov company, specializing in trout cultivation and paying serious attention to the implementation of modern means of automatization and artificial intelligence in technological processes of industrial aquaculture. Full-scale experiments were carried out and images of fishes were collected in a transparent narrow pipe directed by a stream of water, and in air while moving on a conveyor belt. Further research will be aimed at developing model-algorithmic and software necessary for testing the proposed mathematical models and optimizing options for the technological map of video analytics system.
Текст научной статьи Оптимизация технологической карты допустимых системотехнических решений задачи видеоаналитики аквакультуры
-
1. Постановка задачи
Целью данного исследования являлась формализация технологического процесса - видеомониторинга гидробионтов в рыбоводных индустриальных комплексах - на основе анализа специфики и ограничений водной среды, применимых сенсорных устройств, характера задачи, объема водных емкостей, числа содержащихся гидробионтов и других факторов, влияющих на точность, скорость и стоимость получения результатов видеоаналитики. Современные работы в области высокотехнологичной аквакультуры, водных биологических ресурсов фокусируются на цифровой трансформации производства путем формализации экспертных междисциплинарных знаний по ихтиологии, экологии, робототехнике и машинному обучению, другим технологиям искусственного интеллекта и разработке фундаментальных и технологических основ высокопродуктивного и экологически чистого рыбоводства, прогнозирования и проактивного управления полного жизненного цикла производства аквакультуры [1-6].
Видеоаналитика считается наиболее перспективным инструментом для решения задач мониторинга, прогнозирования и проактивного управления технологическими процессами индустриальной аквакультуры, так как обладает рядом достоинств [7-10]. Во-первых, бесконтактность съема данных о гидробионтах и среде. Это обеспечивает неинвазивность, не вносит возмущающих факторов в жизненные процессы рыб. Также устраняются риски внесения патогенов, что не исключено при обследовании объектов аквакультуры ветеринарами. Во-вторых, изображения и
Ронжин А.Л., Ле В.Н., Оптимизация технологической карты допустимых Шувалов Н. системотехнических решений задачи видеоаналитики аквакультуры видеоряд дают наиболее полную визуальную информацию о кожном покрове, одиночном и групповом поведении рыб. В-третьих, накапливаемые первичные данные, размеченные корпуса и аналитическая информация для корректировки алгоритмов управления техническим оборудованием производства аквакультуры являются отдельным ценным ресурсом, в том числе позволяющим уточнять и имеющиеся теоретические знания в области ихтиологии.
Последующая структура статьи сформирована следующим образом. Далее описана концептуальная модель предметной области исследования, обсуждаются наиболее актуальные задачи аквакультуры, решаемые на основе видеоаналитики, проанализированы основные ограничения и требуемые ресурсы. Рассмотрены особенности разработки технологической карты для задачи расчета биомассы рыб, приведены предварительные результаты экспериментальной проверки системы видеоаналитики на рыбоводном предприятии.
Наиболее актуальными задачами в аквакультуре, потенциально решаемыми на основе видеоаналитики, выделяют следующие: подсчет числа рыб, распознавание типов рыб, оценивание биомассы, идентификация каждой особи, выявление аномального поведения, распознавание заболевших, диагностика заболеваний [11–14].
На рис. 1 представлена концептуальная модель предметной области видеоаналитики аквакультуры с введенными основными сущностями. Процесс выбора параметров технологической карты начинается с определения типа задачи W k , ее входных W k InP и выходных W k OutP данных, а также конкретных свойств оборудования для регистрации входных данных W kP = { Fnc kpEq , Acc kpEq , Spd kpEq , Cst inpEq } и свойств оборудования для их обработки и формирования выходных данных: w Ou tP = { Fnc OutEq , Acc OuEq , Spd ouEq , Cst cutEq }, образующих матрицу WPk .
Затем производится анализ требований, характерных для задачи W k : R k PT – место и время; R k VEq – оборудование видеосъемки; R k SenEq – дополнительное сенсорное оборудование; R k CNAEq – вычислительное, сетевое, силовое оборудование; W k Tim – расписание видеосъемки; R k WP – множество необходимых специалистов. Также учитываются основные ограничения предметной области и накладываемые технические и технологические требования к оборудованию и процессу видеосъемки: L k WE – факторы водной среды, L k FB – поведение рыб, L k UC – условия эксплуатации, L k WV – характеристики водного резервуара, L k WC – характеристики погодных условий, L k CC – характеристики климатических условий.
Основными ограничениями, характерными для всех задач, являются факторы водной среды (мутность, низкая освещенность), поведение рыб (относительно высокая скорость, инстинкты), условия эксплуатации (повышенная влажность, механические воздействия) и другие.
При описании требований к решению задач следует уточнять место и время видеосъемки (наименование технологического процесса, место видеосъемки, время видеосьемки, длительность видеосъемки, ракурс видеосъемки) оборудование видеосъемки (спектральный диапазон регистрируемых частот, частота кадров, дополнительное освещение и др.), вычислительное и сетевое оборудование (характеристики вычислительного модуля для подключения видеокамеры и записи данных, управления осветительным оборудованием и характеристики маршрутизатора для передачи видеоданных в облачное хранилище (WiFi, GSM)), вычислительный сервер для обработки видеоданных, а также необходимый обсуживающий персонал (ветеринар-ихтиолог, инженер-системотехник, инженер-технолог, инженер по машинному обучению и компьютерному зрению и др.).
Математическую формулировку задачи поиска подмножества допустимых вариантов технологической карты можно записать в следующем виде. Обозначим множество вариантов технологической карты:
TM = JM . , TM Vhs , TME^ , TM^ ,..., TM^ q , TM^ , TM EqSh , TM* p S h ,...,
TMUNEq, TMVNHs , TMENqSh, TMPNSh } , где каждый вариант карты описан набором характеризующих параметров, заданных числовыми значениями. Характеристики используемого в варианте технологической карты TM i оборудования TMUEq = {FnCUEq, AccUEq, SpduEq, Cst'uEq} соответственно по функциональности, точности,
Математика
скорости и стоимости. ТМ i VSh – расписание видеосъемки; TM i EqSh – расписание вспомогательного оборудования; TM i PSh – график работы специалистов.
Рис. 1. Концептуальная модель задачи видеоаналитики аквакультуры
Таким образом, для решения задачи W k на основе критериев Q необходимо выделить подмножество вариантов технологической карты TM k ∈ ТМ с набором параметров используемого оборудования, идентичным по функциональности, точности, скорости свойствам оборудования для регистрации входных данных, обработки и формирования выходных данных, содержащихся в описании задачи W k . Предполагается, что количество типов оборудования в вариантах техноло-
Ронжин А.Л., Ле В.Н., Шувалов Н.
Оптимизация технологической карты допустимых системотехнических решений задачи видеоаналитики аквакультуры гической карты и описании задачи одинаковое и равно WkEqNum, а оборудование отличается только количественными значениями функциональных характеристик.
В рамках поставленных условий в варианте технологической карты TM i можно однозначно оценить соответствие характеристик используемого оборудования TMUiEq , учитывая две компоненты. Во-первых, соответствие характеристик оборудования видеосъемки { Fnc VEq , Acc VEq , Spd VEq }, дополнительного сенсорного оборудования { FnCSenEq , Acc SenEq , Spd' se nEq } свойствам требуемого оборудования для регистрации входных данных { Fnc InpEq , Acc InpEq , Spd lnpEq } .
Во-вторых, соответствие характеристик вычислительного, сетевого, силового оборудования { Fnc'CNAEq , Acc CNAEq , Spd' CNAEq } свойствам требуемого оборудования для обработки и формирования выходных данных { Fnc OuEq , AcckutEq , Spd’ outEq } •
При сравнении характеристик оборудования формируются бинарные оценки применимости вариантов технологической карты, в положительном случае сохраняется суммарная стоимость требуемого оборудования:
WkEqNum
TM1 =
^ CstUEq ,если TM UEq = W P .
i = 1
0, иначе
После этого в экспертном режиме рассматриваются варианты, имеющие более низкую стоимость. При оценивании стоимости используемого сервиса видеоаналитики следует учесть затраты на приобретение и установку специализированного программно-аппаратного обеспечения, оплаты работы экспертов, участвующих в ручной обработке изображений, и другие расходы.
Вопросы автоматизации и интеллектуализации технологических процессов сельского хозяйства являются наиболее актуальными современными задачами, им посвящены исследования передовых отечественных коллективов. В работах ведущей научной школы З.В. Нагоева детально обсуждаются проблемы интеллектуального принятия решений на основе самоорганизации муль-тиагентных когнитивных архитектур и созданы оригинальные наземные роботы сельскохозяйственного назначения [15–18]. Авторы выражают признательность за плодотворные дискуссии и считают своим приятным долгом поздравить Залимхана Вячеславовича Нагоева с юбилеем.
Проблема выбора оптимального варианта технологической карты и проектирования допустимых системотехнических решений программно-аппаратного комплекса видеоаналитики сводится к поиску конструктивных путей формирования вариантов, удовлетворяющих функциональным и временным критериям. Окончательное решение о структуре и функциях программноаппаратного обеспечения видеоаналитики, необходимом для его реализации, принимается с учетом стоимостных затрат всего жизненного цикла индустриальной аквакультуры [19].
3. Результаты экспериментов по видеоаналитике на производстве
Первичные данные для разработки и внедрения системы видеоаналитики при решении задачи подсчета рыбы, ее массы при пересадках, отгрузке, приеме в цех переработки были получены в рамках сотрудничества компании «Остров», специализирующейся на выращивании форели и уделяющей серьезное внимание внедрению современных технологий автоматизации и искусственного интеллекта в технологические процессы индустриальной аквакультуры.
Раз в неделю рыбоводная служба производит операцию навески рыбы, для этого устанавливается специальная емкость, предварительно наполненная водой, на весы и с помощью сачка в эту емкость перекладывается рыба партиями по 10 особей за одну итерацию. После каждой итерации производится запись показания весов, после чего повторяют эту операцию 4 раза. Затем общая масса делится на количество рыб и среднее значение используется в качестве значения массы рыбы в бассейне для дальнейшей корректировки прогнозов и плана кормления. При посадке рыбы компания знает количество полученного малька с заявления поставщика и производит раз в неделю по мере роста свои навески, а также ведет учет отходов, но реальные значения
Математика
не известны до момента потрошения рыбы в цеху. Метод навески рыбы имеет значительную погрешность из-за множества факторов, таких как:
-
- навески производятся до и после кормления;
-
- навеска производится с поверхности бассейна из одного места;
-
- в емкость для навески попадает дополнительная вода с сачка и рыбы, которая влияет на ко-
- нечные данные измерения;
-
- выборка из 40 особей при общем их количестве более 3 000 - слишком мала.
Вследствие этих факторов анализируемая выборка получается неоднородной и часто не представительной, поэтому задача автоматизации расчета биомассы рыб с минимизацией ручного труда и снижением влияния факторов инстинктивного поведения рыб является актуальной для рыбоводных предприятий. Примеры изображений показаны на рис. 2.
Рис. 2. Примеры изображений рыб: слева) в прозрачной трубе в водном потоке; справа) на конвейере и разделочной доске
Проведенные ранее компанией исследовательские работы по обработке изображений, снятых под водой, не дали положительных результатов, поэтому более детально были проанализированы процессы съемки рыбы в прозрачной узкой трубе, направляемой потоком воды, и на воздухе при движении на конвейере.
В первом случае были выявлены следующие негативные факторы, препятствующие регистрации качественного изображения. Рыба, действуя инстинктивно, плывет против течения, тем самым создавая заторы; из-за наложений друг на друга и невозможности даже человеческим глазом определить, где закончилась первая, а где начинается следующая рыба, невозможно правильно их пересчитать. Помимо этого, создается сильная вибрация, которая, в свою очередь, приводит к смазанным изображениям. Труба была не заполнена водой полностью, поэтому возникают волны, пузыри, брызги, и съемка рыбы получается в двух средах, что усложняет последующую обработку изображений. При движении рыбы по течению ее скорость становится достаточно высокой, что требует применения видеокамер с большей частотой кадров (60, 120 Гц).
Во втором случае съемка рыб производится на воздухе на конвейере в цехе переработки, также делались качественные снимки на разделочной доске с двух сторон в подвижном состоянии. Собран корпус из 20 000 изображений на конвейере и фотографий 1500 особей форели с двух сторон, необходимый для обучения моделей и оптимизации их параметров под разные виды задач видеоаналитики.
Ронжин А.Л., Ле В.Н., Оптимизация технологической карты допустимых Шувалов Н. системотехнических решений задачи видеоаналитики аквакультуры
Дальнейшие исследования будут направлены на разработку модельно-алгоритмического и программного обеспечения, необходимого для апробации предложенных математических моделей и оптимизации вариантов технологической карты функционирования системы видеоаналитики.
Список литературы Оптимизация технологической карты допустимых системотехнических решений задачи видеоаналитики аквакультуры
- Bekarev, A. Aquaculture Digitalization: Polling Karelian Fish Farmers / A. Bekarev, E. Ivashko, V. Ivashko // Agriculture Digitalization and Organic Production. Proceedings of the Third International Conference on Agriculture Digitalization and Organic Production (ADOP 2023). Smart Innovation, Sys-tems and Technologies. – 2023. – Vol. 362. – P. 363–372.
- Недоступ, А.А. Обоснование масштабов подобия световых величин установок замкнутого водоснабжения для выращивания гидробионтов / А.А. Недоступ, А.О. Ражев, Е.И. Хрусталёв // Вестник Астраханского государственного технического университета. Серия: Рыбное хозяйство. – 2020. – № 3. – С. 61–69.
- Барулин, Н. Интенсивная аквакультура / Н. Барулин // Наука и инновации. – 2021. – № 8 (222). – С. 36–40.
- О теоретических основах аэролимнологии: изучение пресных водоемов и прибрежных территорий с применением воздушных робототехнических средств / Д.С. Дудакова, В.М. Анохин, М.О. Дудаков, А.Л. Ронжин // Информатика и автоматизация. – 2022. – Вып. 21(6). – C. 1359–1393.
- Коллаборативная селекционная система на основе консорциума гетерогенных интеллектуальных агентов / М.И. Анчёков, З.И. Боготова, И.А. Пшенокова, З.В. Нагоев, Б.Р. Шомахов // Известия Кабардино-Балкарского научного центра РАН. – 2022. – № 5 (109). – С. 25–37.
- Рекомендации по выращиванию рыбопосадочного материала радужной форели в рыбоводных индустриальных комплексах (с временными нормативами) / Н.В. Барулин, М.С. Лиман, Е. Г. Новикова и др. – Горки: БГСХА, 2016. – 180 с.
- Abudalfa, S. Evaluation of Skeletonization Techniques for 2D Binary Images / S. Abudalfa // In-formatics and Automation. – 2023. – Vol. 22, Iss. 5. – P. 1152–1176.
- Building an Online Learning Model Through a Dance Recognition Video Based on Deep Learn-ing / N. Hung, T. Loi, N. Binh et al. // Informatics and Automation. – 2024. – Vol. 23, no. 1. – P. 101–128.
- Разработка интеллектуальной интегрированной системы «умное поле» / З.В. Нагоев, В.М. Шуганов, А.У. Заммоев, К.Ч. Бжихатлов, З.З. Иванов // Известия ЮФУ. Технические науки. – 2022. – № 1 (225) . – С. 81–91.
- Mahamudul Hashan, A. Apple Leaf Disease Classification Using Image Dataset: a Multilayer Convolutional Neural Network Approach / A. Mahamudul Hashan, R. Md Rakib Ul Islam, K. Avinash // Informatics and Automation. – 2022. – Vol. 21, no. 4. – P. 710–728.
- Ahmed, M.S. Fish Disease Detection using Image Based Machine Learning Technique in Aqua-culture / M.S. Ahmed, T.T. Aurpa, M.A.K. Azad // Journal of King Saud University-Computer and In-formation Sciences. – 2022. – Vol. 34, Iss. 8, Part A. – P. 5170–5182.
- An Advanced Bangladeshi Local Fish Classification System based on the Combination of Deep Learning and the Internet of Things (IoT) / M.A. Ahmed, M.S. Hossain, W. Rahman et al. // Journal of Agriculture and Food Research. – 2023. – Vol 14. – 100663.
- Нагоев, З.В. Алгоритм нейрокогнитивного обучения мультиагентной системы эволюционного моделирования экспрессии генов по данным ПЦР-анализа растений / З.В. Нагоев, М.И. Анчёков, Ж.Х. Курашев, А.А. Хамов // Известия Кабардино-Балкарского научного центра РАН. – 2023. – № 6 (116). – С. 179–192.
- Ле, В.Н. Обзор интеллектуальных систем управления и робототехнических задач в производстве аквакультуры / В.Н. Ле, А.Л. Ронжин // Морские интеллектуальные технологии. – 2024. (в печати).
- Nagoev, Z. Multi-Agent Neurocognitive Models of Semantics of Spatial Localization of Events / Z. Nagoev, O. Nagoeva, I. Gurtueva // Cognitive Systems Research. – 2020. – Vol. 59. – P. 91–102.
- Нагоев, З.В. Извлечение знаний из многомодальных потоков неструктурированных данных на основе самоорганизации мультиагентной когнитивной архитектуры мобильного робота / З.В. Нагоев, О.В. Нагоева // Известия Кабардино-Балкарского научного центра РАН. – 2015. – № 6-2 (68). – С. 145–152.
- Multi-agent Algorithms for Building Semantic Representations of Spatial Information in a Framework of Neurocognitive Architecture / Z. Nagoev, O. Nagoeva, I. Gurtueva, V. Denisenko // Ad-vances in Intelligent Systems and Computing. – 2020. – Vol. 948. – P. 379–386.
- Автономный синтез пространственных онтологий в системе принятия решений мобильного робота на основе самоорганизации мультиагентной нейрокогнитивной архитектуры / З.В. Нагоев, К.Ч. Бжихатлов, И.А. Пшенокова и др. // Известия Кабардино-Балкарского научного центра РАН. – 2020. – № 6 (98). – С. 68–79.
- Методы и алгоритмы синтеза технологий и программ управления реконфигурацией бортовых систем маломассоразмерных космических аппаратов / В.Н. Калинин, А.Ю. Кулаков, А.Н. Павлов и др. // Информатика и автоматизация. – 2021. – Т. 20, № 2. – C. 236–269.