KR102614062B1 - Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification - Google Patents

Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification Download PDF

Info

Publication number
KR102614062B1
KR102614062B1 KR1020210171404A KR20210171404A KR102614062B1 KR 102614062 B1 KR102614062 B1 KR 102614062B1 KR 1020210171404 A KR1020210171404 A KR 1020210171404A KR 20210171404 A KR20210171404 A KR 20210171404A KR 102614062 B1 KR102614062 B1 KR 102614062B1
Authority
KR
South Korea
Prior art keywords
fish
quarantine
deep neural
neural network
ornamental fish
Prior art date
Application number
KR1020210171404A
Other languages
Korean (ko)
Other versions
KR20230083421A (en
Inventor
조성윤
권기원
송병철
송현학
김양섭
Original Assignee
한국전자기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자기술연구원 filed Critical 한국전자기술연구원
Priority to KR1020210171404A priority Critical patent/KR102614062B1/en
Publication of KR20230083421A publication Critical patent/KR20230083421A/en
Application granted granted Critical
Publication of KR102614062B1 publication Critical patent/KR102614062B1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/26Government or public services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0639Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G06Q10/06395Quality analysis or management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/083Shipping
    • G06Q10/0831Overseas transactions
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/80Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in fisheries management
    • Y02A40/81Aquaculture, e.g. of fish

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Data Mining & Analysis (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Primary Health Care (AREA)
  • Biomedical Technology (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Epidemiology (AREA)
  • General Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Finance (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Accounting & Taxation (AREA)

Abstract

본 발명은 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법 및 장치에 관한 것이다.
본 발명에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치는 검역관이 소지하는 사용자 단말기 및 사용자 단말기로부터 데이터를 수신하여, 상이한 포맷의 관상어 정보를 통합하고, 심층신경망 기반으로 어종 및 질병 판단을 수행하며, 사용자 단말기로부터 수신한 텍스트에 포함된 오류를 자동 정정하는 처리 서버를 포함한다.
The present invention relates to a method and device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification.
The device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to the present invention receives data from the user terminal and the user terminal possessed by the quarantine officer, integrates ornamental fish information in different formats, and is based on a deep neural network. It determines fish species and disease and includes a processing server that automatically corrects errors contained in text received from the user terminal.

Description

데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법 및 장치{METHOD AND APPARATUS FOR QUARANTINE OF IMPORTED ORNAMENTAL FISH THROUGH DATA PREPROCESSING AND DEEP NEURAL NETWORK-BASED IMAGE DETECTION AND CLASSIFICATION}Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification

본 발명은 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법 및 장치에 관한 것이다. The present invention relates to a method and device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification.

최근 인공지능(AI) 시대에 접어들면서 학습능력, 추론능력, 지각능력 등과 같이 인간의 지능과 연결된 인지 문제를 해결할 수 있는 인공지능 기술을 기반으로 제조, 의료, 금융서비스 등의 다양한 응용 분야에 적용되고 있다. Recently, as we have entered the era of artificial intelligence (AI), artificial intelligence technology that can solve cognitive problems linked to human intelligence, such as learning ability, reasoning ability, and perception ability, has been applied to various application fields such as manufacturing, medical care, and financial services. It is becoming.

특히, 인공지능의 이미지 인식 기술은 사진이나 동영상으로부터 검출, 분류의 처리 방법을 통해 물체를 인식하는 것으로, 딥러닝(Deep Learning)과 같은 혁신적인 인식 기법이 계속해서 등장하고 있다. In particular, artificial intelligence image recognition technology recognizes objects through detection and classification processing methods from photos or videos, and innovative recognition techniques such as deep learning continue to emerge.

이를 활용하여 국내에선 네이버의 스마트렌즈, 포스코ICT의 페이스로, 해외에선 테슬라의 완전자율주행(FSD: Full Self Driving) 등의 상용화된 기술 등장 그리고 한국, 유럽, 일본, 핀란드 등에서의 이미지 기반 자율운항선박(MASS: Marine Autonomous Surface Ships) 등의 연구들이 진행되면서 인공지능의 이미지 인식 기술은 전 세계 사람들의 삶에 일부가 되어가는 동시에 적용되지 않은 다양한 분야에서도 주목하고 있다.Using this, commercialized technologies such as Naver's Smart Lens and POSCO ICT's Pace emerged domestically, Tesla's Full Self Driving (FSD) overseas, and image-based autonomous operation in Korea, Europe, Japan, Finland, etc. As research on ships (MASS: Marine Autonomous Surface Ships) progresses, artificial intelligence image recognition technology is becoming a part of the lives of people around the world, while also attracting attention in various fields where it has not been applied.

현재 해외에서 수입되는 관상어는 항공이나 선박을 통해 들여오며, 박스 단위로 패킹되어 있고 각각의 관상어 별로 비닐에 개별/군집 포장이 되어있다.Currently, ornamental fish imported from overseas are brought in by air or ship, and are packed in boxes, with each ornamental fish individually/group packed in plastic.

이렇게 들여온 관상어는 검역 과정을 필수적으로 거쳐야 하는데, 검역 전문가들은 수출 업체로부터 받은 관상어 정보 패킹 리스트 또는 국립 수산물 품질 관리원으로부터 받은 검역 서류를 활용하여 수기로 직접 검역을 진행하는데, 이러한 검역 과정에는 많은 문제점이 존재한다. Ornamental fish imported in this way must necessarily go through a quarantine process. Quarantine experts carry out the quarantine manually using the ornamental fish information packing list received from the export company or the quarantine documents received from the National Fisheries Quality Control Center. However, there are many problems with this quarantine process. exist.

서로 다른 수출 업체, 나라별, 그리고 수산물 품질 관리원의 관상어 검역 서류이 양식이 서로 다르다. 검역관들은 모든 관상어 정보 리스트를 활용하며 검역을 진행하기 때문에 검역에서의 요구되는 시간이 매우 많다. 그리고 검역관들이 육안으로 동정하기 때문에 정확도의 신뢰가 낮다. The form of quarantine documents for ornamental fish is different for different exporters, countries, and seafood quality control agencies. Because quarantine officers conduct quarantine using a list of all ornamental fish information, the time required for quarantine is very long. And because quarantine officers identify with the naked eye, confidence in accuracy is low.

실제로 검역 현장의 육안 동정 과정에서 수출 업체와 수산물 품질 관리원에서 받은 관상어 정보 리스트만으로 관상어 구별이 어려워 개개인의 인터넷 서칭을 통해 관상어를 구별하는 경우가 종종 있다. In fact, during the visual identification process at the quarantine site, it is difficult to distinguish ornamental fish only from the list of ornamental fish information received from export companies and the Fishery Products Quality Control Center, so it is often necessary to distinguish ornamental fish through individual Internet searches.

또한, 수입되는 관상어의 수가 매우 많고, 대부분 영문명으로 되어있기 때문에 검색하는 과정에서 오타가 잦아 검역 진행 속도가 더디게 되는 문제가 있다.In addition, since the number of imported ornamental fish is very large and most of them have English names, typos are frequent during the search process, which slows down the quarantine process.

종래 기술에 따르면, 어류 정보 추출 방법으로 영상처리와 인공지능 기술이 활용된다. According to the prior art, image processing and artificial intelligence technology are used as a method of extracting fish information.

그런데, 영상처리 기술을 이용한 어류 정보 추출 방법으로 어종을 분류하기엔 어려움이 있으며, 대게 어류의 체장을 측정하는 기술로 활용하고 있다. 어류의 이미지 사진을 촬영하여 이진화, 엣지 검출 등의 영상 전처리 기법을 활용하여 어류의 체장을 측정할 수 있다. 하지만 2D 이미지만을 이용하여 어류를 측정하는 데 마크를 표시하는 등의 제약된 조건이 필요하다. 또한 영상처리 기법들은 빛의 세기와 어류의 색 그리고 환경에 따라 성능의 변화가 크므로, 관상어의 정보를 추출하는 데 어려움이 있다.However, it is difficult to classify fish species using a fish information extraction method using image processing technology, and it is usually used as a technology to measure the body length of fish. By taking an image photo of a fish, you can measure the body length of the fish using image preprocessing techniques such as binarization and edge detection. However, measuring fish using only 2D images requires limited conditions such as marking. Additionally, the performance of image processing techniques varies greatly depending on the intensity of light, the color of the fish, and the environment, making it difficult to extract information about ornamental fish.

인공지능 기술을 이용하여 물체의 종류를 분류할 수 있는데, 분류할 어종의 이미지 데이터셋을 구성하고 심층신경망인 CNN에서 학습하여 추출된 학습 파라미터를 활용하여 입력되는 어류 이미지를 분석하여 분류한다. 이처럼 현재 오픈된 범용적인 인공지능 모델을 이용하여 어류를 인식하여 좋은 성능을 추출하는 데 어려움이 있다. 이러한 이유로 이미지/영상을 분석하는 기술이기 때문에 유사한 형태를 구별하고 유사한 색상을 구별하기 현실적으로 어려운 한계가 있다. Types of objects can be classified using artificial intelligence technology. An image dataset of the fish species to be classified is created, and the input fish images are analyzed and classified using learning parameters extracted by learning from CNN, a deep neural network. As such, there are difficulties in recognizing fish and extracting good performance using currently open general-purpose artificial intelligence models. For this reason, since it is a technology that analyzes images/videos, it has limitations that make it realistically difficult to distinguish similar shapes and similar colors.

본 발명은 전술한 문제점을 해결하기 위해 제안된 것으로, 수입되는 관상어를 대상으로 검역 과정에서의 서로 다른 포맷의 관상어 리스트를 통합하여, 현재 수기로 검역을 진행하는 것보다 신속히 처리할 수 있는 통합 관상어 DB와 연동된 검역용 관상어 앱 SW를 제안하고, 영명으로된 관상어 종을 빠르고 정확하게 검색할 수 있도록 문자 오류 정정을 수행하고 육안으로의 검역을 진행하는 과정에서의 낮은 정확도를 향상할 수 있도록 관상어에 특화된 심층신경망 기반으로 이미지를 이용한 관상어종 인식과 질병 분석을 수행하는 장치 및 방법을 제공하는데 그 목적이 있다. The present invention was proposed to solve the above-mentioned problems, and integrates a list of ornamental fish in different formats during the quarantine process for imported ornamental fish, thereby creating an integrated ornamental fish that can be processed more quickly than the current manual quarantine process. We propose a quarantine aquarium fish app SW linked to the database, perform character error correction to quickly and accurately search for ornamental fish species with English names, and improve the low accuracy in the process of visual inspection of aquarium fish. The purpose is to provide a device and method for recognizing ornamental fish species and analyzing diseases using images based on a specialized deep neural network.

본 발명에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치는 검역관이 소지하는 사용자 단말기 및 사용자 단말기로부터 데이터를 수신하여, 상이한 포맷의 관상어 정보를 통합하고, 심층신경망 기반으로 어종 및 질병 판단을 수행하며, 사용자 단말기로부터 수신한 텍스트에 포함된 오류를 자동 정정하는 처리 서버를 포함한다. The device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to the present invention receives data from the user terminal and the user terminal possessed by the quarantine officer, integrates ornamental fish information in different formats, and is based on a deep neural network. It determines fish species and disease and includes a processing server that automatically corrects errors contained in text received from the user terminal.

상기 처리 서버는 데이터 통합 관리부를 포함하여, 상기 데이터 통합 관리부는 관상어 수입 과정에서 수신한 관상어 패킹 리스트 및 관상어 정보 검역 서류를 수신하고, 상이한 포맷의 목록에 대해 형식 유사도를 분석하여, 통일된 포맷의 형태로 데이터를 통합한다. The processing server includes a data integration management unit, and the data integration management unit receives the ornamental fish packing list and the ornamental fish information quarantine document received during the ornamental fish import process, analyzes format similarity for the lists in different formats, and creates a unified format. Integrate data into a format.

상기 처리 서버는 이미지 인식부를 포함하여, 상기 이미지 인식부는 상기 사용자 단말기로부터 수신한 관상어 촬영 이미지에 대해 기학습된 파라미터를 이용하여 어종 및 어류의 질병을 인식한다. The processing server includes an image recognition unit, and the image recognition unit recognizes fish species and diseases of the fish using pre-learned parameters for the ornamental fish photographed image received from the user terminal.

상기 이미지 인식부는 상기 어종을 인식하기 위한 다중 심층신경망 및 상기 어류의 질병을 인식하기 위한 다중 심층신경망 학습 파라미터를 이용한다. The image recognition unit uses multiple deep neural networks to recognize the fish species and multiple deep neural network learning parameters to recognize diseases of the fish.

상기 처리 서버는 기저장된 어류 정보와 상기 어종 및 어류의 질병 인식 결과를 맵핑하여, 상기 사용자 단말기로 전송한다. The processing server maps pre-stored fish information with the fish species and fish disease recognition results and transmits them to the user terminal.

상기 이미지 인식부는 상기 사용자 단말기로부터 기존 데이터가 아닌 새로운 데이터를 수신하는 경우, 새로운 이미지 데이터를 이용하여 인공지능모델 재학습을 수행한다. When the image recognition unit receives new data rather than existing data from the user terminal, it retrains the artificial intelligence model using the new image data.

상기 처리 서버는 오타 문자 정정부를 포함하여, 상기 오타 문자 정정부는 기저장된 정보를 이용하여 조회 대상이 되는 관상어 검색 문자 내 포함되는 오타에 대한 자동 정정을 수행하고, 기준 유사도 이상의 어종명의 리스트를 제공한다. The processing server includes a typo character correction unit, wherein the typo character correction unit uses pre-stored information to automatically correct typos included in the ornamental fish search text to be searched, and provides a list of fish species names with a standard similarity level or higher. do.

상기 오타 문자 정정부는 상기 사용자 단말기로부터 기존 데이터가 아닌 새로운 데이터를 수신하는 경우, 새로운 어종 텍스트 데이터를 이용하여 인공지능모델 재학습을 수행한다. When the typo character correction unit receives new data rather than existing data from the user terminal, it re-trains the artificial intelligence model using the new fish species text data.

상기 처리 서버는 타 전문가의 디바이스로 판독을 요청하고, 판독 완료에 따라 상기 사용자 단말기로 알람을 제공한다. The processing server requests reading from another expert's device and provides an alarm to the user terminal upon completion of reading.

본 발명에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법은 (a) 사용자 단말기로부터 데이터를 수신하는 단계와, (b) 상기 데이터를 이용하여 상이한 포맷의 관상어 정보를 통합하는 단계 및 (c) 상기 데이터를 이용하여 심층신경망 기반으로 어종 및 질병 판단을 수행하고, 텍스트 내 포함된 오류에 대한 정정을 수행하는 단계를 포함한다. The method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to the present invention includes the steps of (a) receiving data from a user terminal, and (b) using the data to obtain ornamental fish information in different formats. It includes the steps of integrating and (c) using the data to determine fish species and diseases based on a deep neural network and correcting errors included in the text.

상기 (b) 단계는 관상어 패킹 리스트 및 관상어 정보 검역 서류를 수신하여, 상이한 포맷을 통일된 포맷의 형태로 통합한다. Step (b) receives the ornamental fish packing list and the ornamental fish information quarantine document and integrates the different formats into a unified format.

상기 (c) 단계는 관상어 촬영 이미지에 대해 기학습된 파라미터를 이용하여 어종 및 어류의 질병을 인식하고, 새로운 촬영 이미지가 수신된 경우 인공지능 모델에 대한 재학습을 수행한다. In step (c), fish species and fish diseases are recognized using parameters already learned for images of ornamental fish, and retraining the artificial intelligence model is performed when new images are received.

상기 (c) 단계는 관상어 검색 문자 내 포함되는 오타에 대한 정정을 수행하고, 기준 유사도 이상의 어종명 리스트를 제공하며, 새로운 어종 텍스트 데이터가 수신되는 경우 인공지능 모델 재학습을 수행한다. In step (c), typos included in the ornamental fish search text are corrected, a list of fish species names higher than the standard similarity level is provided, and artificial intelligence model retraining is performed when new fish species text data is received.

본 발명에 따르면, 검역 앱 SW로서 정해진 디바이스가 아닌 다양한 디바이스에서 사용할 수 있어 검역의 편의성을 향상시키는 효과가 있다. According to the present invention, as a quarantine app SW, it can be used on a variety of devices rather than a designated device, which has the effect of improving the convenience of quarantine.

검역에 필요한 서로 다른 형식의 관상어 정보를 통합해 DB 서버에 구축함으로써, 여러 문서를 참고할 필요 없이 서로 다른 포맷의 정보 통합이 가능한 DB 서버를 통해 이와 연동된 검역 전용 앱 SW으로 확인이 가능하여 검역관의 검역 처리 속도를 높이는 효과가 있다. By integrating the different types of ornamental fish information required for quarantine and building them on a DB server, it is possible to check with quarantine app SW linked to the DB server that allows integration of information in different formats without the need to refer to multiple documents, allowing quarantine officers to It has the effect of speeding up quarantine processing.

심층신경망 기술을 적용하여 검역관의 보조 역할을 할 수 있도록 하여, 사람의 눈을 대신하여 검역하려는 관상어의 어종 및 질병을 파악하고, 텍스트 검색을 통해 찾으려는 어종에 대한 입력 문자의 오류를 자동으로 정정함으로써, 검역의 편의성 및 정확도를 향상시키는 효과가 있다. By applying deep neural network technology, it can serve as an assistant to quarantine officers, replacing human eyes to identify species and diseases of ornamental fish to be quarantined, and automatically correct errors in input characters for the fish species to be found through text search. This has the effect of improving the convenience and accuracy of quarantine.

주기적인 심층 학습 엔진 업데이트를 통해 새롭게 유입되는 관상어에 대해서 신속하게 학습 엔진에 적용되어 검역을 진행할 수 있다는 장점이 있다. The advantage is that newly introduced ornamental fish can be quickly applied to the learning engine and quarantined through periodic deep learning engine updates.

심층신경망과 해당 검역관의 육안으로 인식이 불가할 시 전문가요청 서비스를 통해 해당 관상어의 이미지와 기타 정보 등을 다양한 전문가들에게 송부함으로써, 대신 검역을 진행하도록 하여 관상어 인식의 정확성을 높이는 효과가 있다. If recognition is not possible with the deep neural network and the corresponding quarantine officer's naked eyes, images and other information of the ornamental fish in question are sent to various experts through the expert request service, which has the effect of increasing the accuracy of ornamental fish recognition by allowing them to conduct quarantine instead.

검역관의 정확하고 빠른 검역을 위해 관상어 정보 DB 서버와 검역 전용 앱 SW를 제안하며, 더 나아가 대중들이 관상어 정보를 얻을 수 있도록 지원하는 서비스로 응용 가능하다. We propose an ornamental fish information DB server and quarantine app SW for accurate and quick quarantine by quarantine officers, and can further be applied as a service to help the public obtain ornamental fish information.

본 발명의 효과는 이상에서 언급한 것들에 한정되지 않으며, 언급되지 아니한 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to those mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below.

도 1은 본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역 장치를 도시한다.
도 2는 본 발명의 실시예에 따른 심층신경망을 이용한 처리 과정을 도시한다.
도 3은 본 발명의 실시예에 따른 서로 다른 포맷의 관상어 데이터를 DB(Server)에서 통합하는 결과를 도시한다.
도 4는 본 발명의 실시예에 따른 심층신경망 기반의 자동 검색 문자 오류 정정 과정 및 어종 추천 화면을 도시한다.
도 5는 본 발명의 실시예에 따른 심층신경망 기반의 이미지 인식(어종인식/질병인식) 및 결과에 따른 관상어 DB 데이터 맵핑을 도시한다.
도 6은 본 발명의 실시예에 따른 다중 심층신경망 구조의 어종 인식과 질병 인식을 도시한다.
도 7은 본 발명의 실시예에 따른 어류 분류법에 따른 다중 심층신경망 기반의 관상어 인식 구조를 도시한다.
도 8은 본 발명의 실시예에 따른 영역 분할에 따른 다중 심층신경망 기반의 관상어 질병 인식 구조를 도시한다.
도 9는 본 발명의 실시예에 따른 심층신경망 결과에 따른 관상어 데이터 맵핑 및 검역 전용 앱 SW UI를 도시한다.
Figure 1 shows an imported ornamental fish quarantine device through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention.
Figure 2 shows a processing process using a deep neural network according to an embodiment of the present invention.
Figure 3 shows the result of integrating ornamental fish data of different formats in a DB (Server) according to an embodiment of the present invention.
Figure 4 shows a deep neural network-based automatic search character error correction process and a fish species recommendation screen according to an embodiment of the present invention.
Figure 5 shows deep neural network-based image recognition (fish species recognition/disease recognition) and ornamental fish DB data mapping according to the results according to an embodiment of the present invention.
Figure 6 shows fish species recognition and disease recognition of a multi-deep neural network structure according to an embodiment of the present invention.
Figure 7 shows an ornamental fish recognition structure based on a multiple deep neural network according to a fish classification method according to an embodiment of the present invention.
Figure 8 shows an ornamental fish disease recognition structure based on a multiple deep neural network according to region division according to an embodiment of the present invention.
Figure 9 shows the SW UI of an app dedicated to ornamental fish data mapping and quarantine according to the results of a deep neural network according to an embodiment of the present invention.

본 발명의 전술한 목적 및 그 이외의 목적과 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. The above-mentioned object and other objects, advantages and features of the present invention, and methods for achieving them will become clear by referring to the embodiments described in detail below along with the accompanying drawings.

그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 이하의 실시예들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 목적, 구성 및 효과를 용이하게 알려주기 위해 제공되는 것일 뿐으로서, 본 발명의 권리범위는 청구항의 기재에 의해 정의된다. However, the present invention is not limited to the embodiments disclosed below and can be implemented in various different forms. The following embodiments are merely intended to convey to those skilled in the art the purpose of the invention, It is only provided to easily inform the configuration and effect, and the scope of rights of the present invention is defined by the description of the claims.

한편, 본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성소자, 단계, 동작 및/또는 소자가 하나 이상의 다른 구성소자, 단계, 동작 및/또는 소자의 존재 또는 추가됨을 배제하지 않는다.Meanwhile, the terms used in this specification are for describing embodiments and are not intended to limit the present invention. As used herein, singular forms also include plural forms, unless specifically stated otherwise in the context. As used in the specification, “comprises” and/or “comprising” means that the mentioned element, step, operation and/or element precludes the presence of one or more other elements, steps, operations and/or elements. Or it is not excluded that it is added.

본 발명의 실시예에 따르면, 국내로 들여오는 수입 관상어를 검역하는 방식에 있어서, 불필요한 검역 과정들을 제거하여 신속한 검역이 가능하도록, 심층신경망 CNN(Convolution Neural Network) 모델을 활용해 어류 분류법 기반으로 구성된 다중 심층신경망으로 어종 및 질병 여부를 인식하고, 검색하려는 어종에 대해 잘못 기재된 오류 문자를 자동으로 정정한다. According to an embodiment of the present invention, in the method of quarantining imported ornamental fish brought into the country, a deep neural network CNN (Convolution Neural Network) model is used to enable rapid quarantine by eliminating unnecessary quarantine processes, which is based on a fish classification method. It recognizes fish species and diseases using multiple deep neural networks, and automatically corrects error letters written incorrectly for the fish species you are searching for.

본 발명의 실시예에 따르면, 전술한 기능을 수행할 수 있도록 여러 형태의 디바이스에 사용 가능한 관상어 검역 전용 앱 SW를 제안한다. According to an embodiment of the present invention, we propose a dedicated ornamental fish quarantine app SW that can be used on various types of devices to perform the above-described functions.

본 발명의 실시예에 따르면, 검역 전용 앱 SW을 제공하고, 서로 다른 포맷 형태의 관상어 정보를 자동 통합하고, 심층신경망 기반의 이미지, 텍스트 기술을 제안하여, 수입되는 관상어에 대해 검역관이 보다 정확하고 신속하게 검역 처리할 수 있도록 지원한다. According to an embodiment of the present invention, a dedicated quarantine app SW is provided, automatic integration of ornamental fish information in different formats is proposed, and deep neural network-based image and text technology is proposed to enable quarantine officers to be more accurate about imported ornamental fish. We provide support for rapid quarantine processing.

본 발명의 실시예에 따르면, 서로 다른 포맷의 관상어 데이터를 DB(Server)에서 자동으로 통합하여 검역관이 쉽게 정보를 확인할 수 있고, 범용적인 디바이스에서 처리할 수 있는 검역 전용 앱 SW을 통해 신속히 검역을 처리할 수 있으며, 심층신경망 기반의 자동 오류 문자 정정을 통해 정확하고 빠른 검색이 가능하고, 관상어에 특화된 다중 심층신경망 기반의 어종 인식 및 질병 파악이 가능한 기술적 특징이 있다. According to an embodiment of the present invention, ornamental fish data in different formats are automatically integrated in the DB (Server) so that quarantine officers can easily check the information, and quarantine can be quickly implemented through a quarantine app SW that can be processed on a general-purpose device. It has technical features that enable accurate and fast search through deep neural network-based automatic error character correction, and fish species recognition and disease identification based on multiple deep neural networks specialized for ornamental fish.

도 1은 본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역 장치를 도시한다. Figure 1 shows an imported ornamental fish quarantine device through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention.

검역 앱 SW는 카메라와 WIFI 통신 모듈이 내장된 모든 단말기에 설치될 수 있다. Quarantine app SW can be installed on all terminals with a built-in camera and WIFI communication module.

사용자 단말기(100)는 검역 앱 SW에 접속하여 관상어 패킷 데이터, 촬영 이미지를 처리 서버로 전송하는 송신부(110)와, 처리 서버(200)로부터 관상어 데이터가 통합된 리스트 및 처리 결과를 수신하는 수신부(120)를 포함한다. The user terminal 100 includes a transmitter 110 that connects to the quarantine app SW and transmits ornamental fish packet data and captured images to the processing server, and a receiver that receives a list of integrated ornamental fish data and processing results from the processing server 200 ( 120).

사용자 단말기(100)의 송신부(110)가 전송한 관상어 패킷 데이터 및 촬영 이미지는 처리 서버(200)의 통신부(210)가 수신하고, 처리부(220)를 통해 복수의 기능이 수행된다. The ornamental fish packet data and captured images transmitted by the transmitting unit 110 of the user terminal 100 are received by the communication unit 210 of the processing server 200, and a plurality of functions are performed through the processing unit 220.

처리 서버(200)는 데이터 통합 관리부(230), 이미지 인식부(240), 오타 문자 정정부(250)를 포함하며, 이미지 인식부(240) 및 오타 문자 정정부(250)는 인공지능 기반으로 기능을 수행한다. The processing server 200 includes a data integration management unit 230, an image recognition unit 240, and a typo character correction unit 250. The image recognition unit 240 and a typo character correction unit 250 are based on artificial intelligence. performs its function.

이들은 사용자 단말기(100)의 검역 앱 SW에 의해 송신되는 데이터에 따라 각자의 기능을 처리한다. They process their respective functions according to data transmitted by the quarantine app SW of the user terminal 100.

데이터 통합 관리부(230)는 사용자 단말기(100)에서 접속한 검역 앱 SW을 통해, 검역을 위해 관상어를 수입하는 과정에서 수입 업체로부터 받은 서로 다른 형식의 관상어 패킹 리스트 또는 국립 수산물 품질 관리원으로부터 받은 관상어 정보 검역 서류를 수신하고, 서로 다른 목록에 대해 형식 유사도를 분석하여 단일 포맷 형태로 데이터를 통합한다. The data integration management unit 230 uses the quarantine app SW accessed on the user terminal 100 to collect ornamental fish packing lists in different formats received from importers in the process of importing ornamental fish for quarantine or ornamental fish information received from the National Fisheries Quality Management Institute. Quarantine documents are received, format similarity is analyzed for different lists, and the data is integrated into a single format.

이미지 인식부(240)는 사용자 단말기(100)에서 접속한 검역 앱 SW을 통해, 검역할 관상어 이미지를 통신부(210)를 통해 수신하고, 처리부(220)의 인공지능 이미지 인식을 통해 사전에 심층신경망에서 관상어 DB의 데이터로 훈련된 학습 파라미터(Weight/Bias)를 이용하여 어종 및 어류의 질병을 인식한다. 심층신경망을 이용한 어종 및 질병 인식은 어류에 특화된 다중 심층신경망의 구조로 되어있으며, 도 8 및 도 9를 참조하여 후술한다. The image recognition unit 240 receives an image of an ornamental fish to be quarantined through the quarantine app SW accessed from the user terminal 100 through the communication unit 210, and uses a deep neural network in advance through artificial intelligence image recognition of the processing unit 220. Recognize fish species and fish diseases using learning parameters (Weight/Bias) trained with data from the ornamental fish DB. Fish species and disease recognition using deep neural networks is structured with multiple deep neural networks specialized for fish, and will be described later with reference to FIGS. 8 and 9.

다중 심층신경망을 통해 어종과 어류의 질병을 인식하면, 인식 결과를 이용하여 데이터 통합 관리부(230)에 저장된 어류 정보와의 맵핑을 수행하여, 검역 앱 SW를 통해 검역에 필요한 인식 어류에 대한 다양한 정보를 제공한다. When fish species and fish diseases are recognized through a multi-deep neural network, the recognition results are used to perform mapping with the fish information stored in the data integration management unit 230, and various information about the recognized fish required for quarantine is obtained through the quarantine app SW. provides.

오타 문자 정정부(250)는 사용자 단말기(100)에서 접속한 검역 앱 SW를 통해 검색 기능을 제공하고, 데이터 통합 관리부(230)에 저장된 정보를 이용하여 찾고자 하는 관상어에 대해 심층신경망을 이용해 검색 문자에 포함되는 오타에 대한 자동 정정을 수행한다. The typo correction unit 250 provides a search function through the quarantine app SW accessed from the user terminal 100, and uses a deep neural network to search for ornamental words to be found using information stored in the data integration management unit 230. Performs automatic correction of typos included in .

대부분의 관상어는 한글명이 아닌 영문명으로 사용되고, 어종에 따라 짧고 긴 어종을 나타내기 때문에 오타가 발생하는 경우가 많아, 검역 처리가 느린 문제점이 있다. Most ornamental fish have English names rather than Korean names, and because they indicate short and long fish depending on the species, typos often occur, which causes the problem of slow quarantine processing.

오타 문자 정정부(250)는 1차적인 심층신경망을 이용한 검색 문자의 자동 오타 정정뿐 아니라 이와 유사한 어종의 리스트를 사용자가 2차로 확인할 수 있도록 해당 입력 문자와 가장 유사한 몇 종의 어종을 검역 앱 SW를 통해 제공한다. The typo correction unit 250 not only automatically corrects typos in the search text using a primary deep neural network, but also quarantines several fish species most similar to the input text so that the user can secondary check the list of similar fish species through the quarantine app SW. Provided through.

도 2는 본 발명의 실시예에 따른 심층신경망을 이용한 처리 과정을 도시한다. Figure 2 shows a processing process using a deep neural network according to an embodiment of the present invention.

사용자 단말기(100)는 카메라와 WIFI 통신모듈을 포함하고, 관상어 검역 SW 앱을 실행한다. The user terminal 100 includes a camera and a WIFI communication module, and runs the ornamental fish quarantine SW app.

데이터 통합 관리부(230)는 서로 다른 형식의 검역 패킷 데이터를 수신하여 데이터의 유사 포맷을 분석한 뒤 통합하고, 관상어 검역 SW 앱에서 서버에 접속하여 사용자가 확인할 수 있도록 한다. The data integration management unit 230 receives quarantine packet data in different formats, analyzes similar formats of the data, integrates them, and connects to the server from the ornamental fish quarantine SW app to allow the user to check.

데이터 통합 관리부(230)가 기존의 데이터가 아닌 새로운 데이터를 수신하는 경우, 이미지 인식부(240)와 오타 문자 정정부(250)는 새로운 데이터를 포함한 종합 데이터를 바탕으로, 각각의 심층 신경망에서 재학습이 진행된다. When the data integration management unit 230 receives new data rather than existing data, the image recognition unit 240 and the typo character correction unit 250 perform re-processing in each deep neural network based on comprehensive data including the new data. Learning progresses.

이미지 인식부(240)는 새로운 이미지 데이터를 이용하여 인공지능 모델 재학습을 진행하고, 오타 문자 정정부(250)는 새로운 어종 텍스트 데이터를 이용하여 인공지능 모델 재학습을 진행한다. The image recognition unit 240 retrains the artificial intelligence model using new image data, and the typo correction unit 250 retrains the artificial intelligence model using new fish type text data.

사용자 단말기(100)로부터 새로운 데이터를 수신하지 않은 경우, 이미지 인식부(240) 및 오타 문자 정정부(250)는 기존에 학습된 파라미터(Weight/Bias)를 사용한다.When new data is not received from the user terminal 100, the image recognition unit 240 and the typo character correction unit 250 use previously learned parameters (Weight/Bias).

사용자 단말기(100)가 사용하는 관상어 검역 SW 앱을 통해, 데이터 통합 관리부(230)에서 검색함에 따라 관상어 어종이 입력되는 경우, 입력 문자가 오타 문자 정정부(250)로 전송된다(즉, 실시간 입력 텍스트 데이터가 전송된다). When an ornamental fish species is entered as searched by the data integration management unit 230 through the ornamental fish quarantine SW app used by the user terminal 100, the input text is transmitted to the typo character correction unit 250 (i.e., real-time input text data is transmitted).

오타 문자 정정부(250)는 수신한 실시간 입력 텍스트에 대해, 이전에 인공지능 모델에서 학습한 파라미터를 사용하여 문자 내 오류가 발생하였는지 여부를 판단하고, 오류 발생 시 이에 대한 정정을 수행한다. 이때, 심층신경망에서 인식을 통해 가장 유력한 기설정 개수(예: 5개의) 어종 리스트를 관상어 검역 SW 앱으로 전송하여 사용자가 확인할 수 있도록 한다.The typo character correction unit 250 determines whether an error has occurred in the received real-time input text using parameters previously learned from an artificial intelligence model, and performs correction when an error occurs. At this time, through recognition in a deep neural network, a list of the most likely preset number of fish species (e.g. 5) is transmitted to the ornamental fish quarantine SW app so that the user can check it.

사용자 단말기(100)는 관상어 검역 SW 앱을 통해 현장에서 검역에 필요한 관상어를 촬영한 이미지를 이미지 인식부(240)로 전송한다. The user terminal 100 transmits images taken of ornamental fish required for quarantine in the field to the image recognition unit 240 through the ornamental fish quarantine SW app.

이미지 인식부(240)는 이전에 학습으로 추출한 파라미터를 이용하여 수신된 이미지에 대한 어종 및 질병 여부를 인식하며, 어종 및 질병 여부는 각각의 다중 심층신경망(어종 심층신경망, 질병 심층신경망)에서 처리한다.The image recognition unit 240 recognizes the fish species and disease in the received image using parameters previously extracted through learning, and the fish species and disease are processed by each multiple deep neural network (fish species deep neural network, disease deep neural network). do.

인식 결과 정보는 관상어 검역 SW 앱으로 전송되고, 사용자가 이미지 인식 결과를 확인하여 2차 확인 과정을 거치며, 결과가 옳은 경우 검역을 진행하고, 그렇지 않은 동시에 검역관의 육안으로 판별이 불가능할 경우 전문가 판독을 진행한다.The recognition result information is transmitted to the aquarium fish quarantine SW app, and the user checks the image recognition result and goes through a secondary confirmation process. If the result is correct, quarantine is carried out. Otherwise, if it is not possible to determine with the quarantine officer's naked eye, an expert interpretation is performed. Proceed.

전문가 판독은 판독 불가 대상의 이미지와 정보를 타 전문가에게 전송하여 판독을 요청하고, 타 전문가로부터 판독이 완료될 시 현장의 검역관에게 판독 결과를 전송하며, 판독 결과를 전송할 시 문자 서비스를 통해 현장의 검역관에게 알림을 준다.Expert reading sends the image and information of the unreadable object to another expert to request reading, and when the reading is completed by another expert, the reading result is sent to the on-site quarantine officer. When the reading result is sent, it is sent to the on-site text service. Notify quarantine officers.

도 3은 본 발명의 실시예에 따른 서로 다른 포맷의 관상어 데이터를 처리 서버에서 통합한 결과를 도시한다. Figure 3 shows the result of integrating ornamental fish data of different formats in a processing server according to an embodiment of the present invention.

도 3의 상단에 도시한 바와 같이, 서로 다른 수입 업체 또는 국립 수산 품질원에서 받은 검역 서류에서, 서로 다른 형태의 포맷의 관상어 정보를 가지고 있다. As shown at the top of Figure 3, quarantine documents received from different import companies or the National Fisheries Quality Institute contain ornamental fish information in different formats.

데이터 통합 관리부(230)는 서로 다른 관상어 정보의 목차 리스트에서의 문자의 유사도를 분석하여 유사도가 높은 대상의 목차로 통합한다.The data integration management unit 230 analyzes the similarity of characters in the table of contents list of different ornamental fish information and integrates them into the table of contents for objects with high similarity.

이를 통해, 도 3의 하단에 도시한 바와 같이, 서로 다른 포맷의 서류를 동일한 포맷의 관상어 정보 리스트를 통합한 데이터베이스로 구축한다. Through this, as shown at the bottom of FIG. 3, documents of different formats are constructed into a database that integrates the ornamental fish information list of the same format.

도 4는 본 발명의 실시예에 따른 심층신경망 기반의 자동 검색 문자 오류 정정 과정 및 어종 추천 화면을 도시한다. Figure 4 shows a deep neural network-based automatic search character error correction process and a fish species recommendation screen according to an embodiment of the present invention.

사용자 단말기(100)의 검역 앱 SW에서 조회하고자 하는 어종의 텍스트를 입력하면, 해당 텍스트는 실시간으로 처리 서버(200)의 오타 문자 정정부(250)의 심층신경망 모델로 입력되어, 가장 유사한 후보 리스트를 선정하여 추출한다. When you enter the text of the fish species you want to search in the quarantine app SW of the user terminal 100, the text is input in real time into the deep neural network model of the typo character correction unit 250 of the processing server 200, and creates a list of the most similar candidates. Select and extract.

추출된 문자 오류 정정 리스트는 도 4의 하단에 도시한 바와 같이, 검역 앱 SW를 통해 제공되어, 사용자가 검색한 문자와 유사한 어종명 리스트를 정확도 순서대로 나열하여 표출한다. As shown at the bottom of FIG. 4, the extracted character error correction list is provided through the quarantine app SW, and displays a list of fish species names similar to the characters searched by the user in order of accuracy.

사용자는 나열된 검색 리스트를 클릭할 수 있으며, 클릭 시 선택된 어종에 대해 데이터 통합 관리부(230)로부터 정보를 가져와 사용자에게 제공한다. The user can click on the listed search list, and when clicking, information about the selected fish species is retrieved from the data integration management unit 230 and provided to the user.

사용자가 유연하게 검역 앱 SW을 사용할 수 있도록 해당 기능은 사용/미사용으로 선택할 수 있다.This function can be selected as enabled or disabled so that users can use the quarantine app SW flexibly.

도 5는 본 발명의 실시예에 따른 심층신경망 기반의 이미지 인식(어종인식/질병인식) 및 결과에 따른 관상어 DB 데이터 맵핑을 도시한다. Figure 5 shows deep neural network-based image recognition (fish species recognition/disease recognition) and ornamental fish DB data mapping according to the results according to an embodiment of the present invention.

사용자 단말기(100)에서 검역 앱 SW를 통해 관상어 데이터(이미지 포함)를 관상어 통합 관리 DB로 전송하면, 새롭게 유입된 관상어인지 여부를 판단한다. When the user terminal 100 transmits ornamental fish data (including images) to the ornamental fish integrated management DB through the quarantine app SW, it is determined whether it is a newly introduced ornamental fish.

새롭게 유입되는 관상어가 없을 시, 전술한 바와 같이 심층신경망에서 기존의 데이터로 학습하여 추출된 파라미터를 이용한다.When there are no newly introduced ornamental fish, parameters extracted by learning from existing data in a deep neural network are used, as described above.

새롭게 유입되는 관상어가 있을 시, 기존의 데이터와 새롭게 유입된 데이터를 통합하여 심층신경망에서 재학습을 진행하고 이후 이미지 인식 과정에서 새롭게 학습된 학습 파라미터를 이용한다.When there is a newly introduced ornamental fish, the existing data and the newly introduced data are integrated to perform re-learning in the deep neural network, and the newly learned learning parameters are used in the image recognition process.

사용자 단말기(100)에서 검역 앱 SW에 접속하여 검역을 진행하면서 검역을 진행할 관상어 사진을 촬영하면, 촬영 이미지는 이미지 인식부(240)로 전송된다. When the user terminal 100 accesses the quarantine app SW and takes a picture of the ornamental fish to be quarantined while performing quarantine, the captured image is transmitted to the image recognition unit 240.

이미지 인식부(240)는 수신한 촬영 이미지를 기 학습된 학습 파라미터를 이용해 다중 심층신경망에서 어종과 질병을 인식한다.The image recognition unit 240 recognizes fish species and diseases in a multiple deep neural network using previously learned learning parameters from the received captured images.

어종 및 질병의 인식 결과와 데이터 통합 관리부(230)의 정보가 매핑되어, 해당 관상어의 정보를 사용자에게 제공한다. The recognition results of fish species and diseases and the information of the data integration management unit 230 are mapped, and information about the corresponding ornamental fish is provided to the user.

사용자는 여러 정보를 참고하여 검역 앱 SW에서 관상어 검역을 진행한다.Users refer to various information to quarantine ornamental fish in the quarantine app SW.

도 6은 본 발명의 실시예에 따른 다중 심층신경망 구조의 어종 인식과 질병 인식을 도시한다. Figure 6 shows fish species recognition and disease recognition of a multi-deep neural network structure according to an embodiment of the present invention.

다중 심층신경망은 1개의 심층신경망 구조가 아닌 여러 개의 심층신경망 구조로 되어있으며, 도 6에 도시한 바와 같이 어종 인식 및 질병 인식은 각각의 다중 심층신경망 구조로 구성되며, 각각 별도의 인식을 수행한다. The multiple deep neural network is composed of multiple deep neural network structures rather than one deep neural network structure. As shown in Figure 6, fish species recognition and disease recognition are composed of multiple deep neural network structures, and separate recognition is performed for each. .

도 7은 본 발명의 실시예에 따른 어류 분류법에 따른 다중 심층신경망 기반의 관상어 인식 구조를 도시한다. Figure 7 shows an ornamental fish recognition structure based on a multiple deep neural network according to a fish classification method according to an embodiment of the present invention.

어종 인식은 실제 어류를 분류하는 방법론을 활용하여 몸통-모양, 몸통-체색, 꼬리지느러미-형태, 등지느러미-형태, 주둥이-형태에 대해 각각의 심층신경망에 입력되어 학습 및 인식을 진행한다.Fish species recognition utilizes a methodology for classifying actual fish and performs learning and recognition by inputting body-shape, body-body color, caudal fin-shape, dorsal fin-shape, and snout-shape into each deep neural network.

학습에 필요한 이미지는 도 7의 좌측과 같이 어종 인식을 위한 어류 분류법에 따른 형태로 이미지를 수집하여 데이터셋을 구축한다.The images needed for learning are collected in a format according to the fish classification method for fish species recognition, as shown on the left of Figure 7, and a dataset is constructed.

입력된 이미지에 따라 각각의 분류법에 따른 결과를 종합하고 분석하여 어종을 인식한다.According to the input image, the results of each classification method are synthesized and analyzed to recognize the fish species.

이때 각 분류법에 따른 심층신경망에서의 추출된 가중치를 유동적으로 부여한다.At this time, the weights extracted from the deep neural network according to each classification method are flexibly assigned.

유동적인 가중치의 기준은 각 분류법에 따른 심층신경망에서의 한 가지의 대상에 인식 정확도가 높게 나올수록 높은 가중치를 부여한다.The standard for flexible weights is that a higher weight is assigned to an object in the deep neural network according to each classification method as the recognition accuracy is higher.

예컨대, 입력되는 어류가 붉은 계열일 때 몸통-체색의 심층신경망에서 적색계열이 높은 인식률을 나타내고 다른 청색, 백색, 갈색, 흑색 계열의 인식률이 낮게 나올 때의 비율을 활용해 몸통-체색 심층신경망에서 추출되는 파라미터의 가중치를 높게 부여한다. For example, when the input fish is red, the body-body color deep neural network uses the ratio when the red color has a high recognition rate and other blue, white, brown, and black colors have a low recognition rate in the body-body color deep neural network. A high weight is assigned to the extracted parameters.

도 8은 본 발명의 실시예에 따른 영역 분할에 따른 다중 심층신경망 기반의 관상어 질병 인식 구조를 도시한다. Figure 8 shows an ornamental fish disease recognition structure based on a multi-deep neural network according to region division according to an embodiment of the present invention.

사용자 단말기(100)에서 검역 앱 SW를 통해 검역 진행을 위한 이미지 촬영을 하고, 촬영 이미지가 이미지 인식부(240)로 전송되면, 다중 심층신경망을 통해 질병 인식을 한다.The user terminal 100 captures an image for quarantine through the quarantine app SW, and when the captured image is transmitted to the image recognition unit 240, the disease is recognized through a multiple deep neural network.

질병 인식은 입력된 이미지를 머리, 지느러미, 몸통, 꼬리 영역으로 분할한다.Disease recognition divides the input image into head, fin, body, and tail regions.

분할된 영역은 각각의 영역에 따른 심층신경망에 입력되어 질병을 인식하고 각 부위에서의 질병 인식 결과를 통합하여 사용자에게 전송한다.The divided areas are input into a deep neural network for each area to recognize the disease, and the disease recognition results from each area are integrated and sent to the user.

예컨대, 해당 관상어는 머리 부분에 기생충이 있으며, 지느러미는 상처가 존재하고 몸통과 꼬리는 이상이 없음을 알려준다. For example, it shows that the ornamental fish in question has parasites on its head, that there are wounds on its fins, and that there are no abnormalities in its body and tail.

도 9는 본 발명의 실시예에 따른 심층신경망 결과에 따른 관상어 데이터 맵핑 및 검역 전용 앱 SW UI를 도시한다. Figure 9 shows the SW UI of an app dedicated to ornamental fish data mapping and quarantine according to the results of a deep neural network according to an embodiment of the present invention.

카메라, WIFI 통신 모듈이 포함되는 사용자 단말기에서 검역 앱 SW에 접속하여 검역을 처리한다.Quarantine is processed by accessing the quarantine app SW from the user terminal that includes the camera and WIFI communication module.

검역 앱 SW는 검색을 통해 데이터 통합 관리부(230)에서의 검색 어종의 데이터를 로드하거나, 이미지 인식부(240)를 통해 사용자 단말기로부터 촬영한 관상어 이미지에서의 어종과 질병을 인식하여 인식 결과에 따라 데이터 통합 관리부(230)의 정보와 맵핑을 하여 검역을 위한 관상어 데이터를 검역 앱 SW에서 보여준다.The quarantine app SW loads data on searched fish species from the data integration management unit 230 through search, or recognizes fish species and diseases in ornamental fish images taken from the user terminal through the image recognition unit 240, according to the recognition results. The information and mapping of the data integration management unit 230 are mapped and the ornamental fish data for quarantine is displayed in the quarantine app SW.

검역 앱 SW에서의 관상어 검역을 위한 검역 리스트는 예컨대 9가지로서, 관상어 이름, 분류, 유사종, 분류키, 형태, 생태, 질병, 검역 정보, 사진 등이 있다.The quarantine list for quarantine of ornamental fish in the quarantine app SW includes, for example, 9 types, including ornamental fish name, classification, similar species, classification key, shape, ecology, disease, quarantine information, and photos.

검색 또는 이미지 인식을 통해 관상어를 찾으면 검역 앱 SW에서 해당 관상어에 대한 검역 진행 처리 여부를 확인할 수 있다.If you find an ornamental fish through search or image recognition, you can check whether the ornamental fish is being quarantined in the quarantine app SW.

검역관은 검역 앱 SW에성l 관상어 데이터를 참고하여 검역을 진행하면서, 현재 검역을 진행하는 관상어의 입고/미입고 상황, 관상어의 질병 또는 기타 사항에 대해 작성이 가능한 화면, 현재 관상어 검역의 진행 완료 수를 알려주는 완료의 기능을 통해, 현재 상황을 한눈으로 파악하는 것이 가능하다. The quarantine officer carries out the quarantine by referring to the ornamental fish data from the quarantine app SW, and displays a screen where you can write about the stocking/non-stocking status of the ornamental fish currently undergoing quarantine, diseases of the ornamental fish, or other matters, and the completion of the current quarantine of the ornamental fish. Through the perfect function that tells the number, it is possible to understand the current situation at a glance.

또한, 검역 과정에서의 관상어의 사진을 클릭할 시 해당 관상어에 대한 검역 진행 정보를 한눈에 볼 수 있도록 한다.Additionally, when you click on a photo of an ornamental fish in the quarantine process, you can see quarantine progress information for that ornamental fish at a glance.

검역관의 육안으로 검역하려는 관상어의 판별 불가시 전문가 요청을 통해 해당 관상어의 이미지와 참고 정보를 타 검역관에게 전송한다.If the quarantine officer is unable to identify the ornamental fish to be quarantined with the naked eye, the image and reference information of the ornamental fish in question are sent to another quarantine officer upon request from an expert.

타 검역관이 확인 후 검역을 완료하여 기존의 검역관에게 완료한 검역 정보를 전송할 시 기존의 검역관이 사용하는 검역 앱 SW에서 소리 또는 진동 알림을 주어 즉각 확인할 수 있도록 한다.When another quarantine officer completes the quarantine after confirmation and transmits the completed quarantine information to the existing quarantine officer, a sound or vibration notification is given in the quarantine app SW used by the existing quarantine officer so that the quarantine officer can immediately confirm.

종래 기술에 따르면, 수입으로 들여오는 관상어에 대해 공식적인 관상어 정보 또는 업체별 패킹 박스(관상어 정보) 등이 서로 다른 형식을 가지고, 조금씩 상이한 정보를 포함하고 있어, 검역 시 참고해야 할 서류가 많고, 이러한 서류를 이용해 사람이 육안으로 관상어 검역을 진행함에 따라 신뢰성이 떨어지는 문제점이 있다. 또한, 수기로 검역 결과를 작성하기 때문에 관상어의 수가 많을수록 상당한 검역 시간이 요구되어 원활한 진행의 어려움이 존재한다.According to the prior art, for imported ornamental fish, official ornamental fish information or packing boxes (ornamental fish information) for each company have different formats and contain slightly different information, so there are many documents to be referred to during quarantine, and these documents There is a problem of low reliability as people inspect ornamental fish with the naked eye. In addition, because the quarantine results are written by hand, the larger the number of ornamental fish, the more quarantine time is required, making it difficult to proceed smoothly.

그에 반해, 본 발명의 실시예에 따르면 검역관의 검역 처리를 위해 관상어 정보를 저장하는 DB 서버로 서로 다른 형식인 관상어 정보를 통합할 수 있도록 하며, 이와 연동하여 스마트폰, 스마트 패드에서 사용할 수 있는 검역 앱 SW의 시스템을 제공하여 편리한 검역 처리가 가능한 장점이 있다. On the other hand, according to an embodiment of the present invention, different formats of ornamental fish information can be integrated into a DB server that stores ornamental fish information for quarantine processing by quarantine officers, and in conjunction with this, quarantine information can be used on smartphones and smart pads. It has the advantage of enabling convenient quarantine processing by providing an app SW system.

본 발명의 실시예에 따르면, 학습 기반의 기본 구조를 구축하여 자동으로 오류 문자를 정정하고, 관상어의 종류와 질병 여부를 인식하여 DB 서버에서의 관상어 정보와 맵핑을 시킨다. 사전에 수집된 관상어 이미지 데이터셋을 통해 미리 학습 엔진을 훈련하여 학습 파라미터를 추출하고, 실제 적용될 응용 디바이스에서는 사전에 훈련된 학습 파라미터 로드하여 이용한다.According to an embodiment of the present invention, a learning-based basic structure is established to automatically correct error characters, recognize the type and disease of the ornamental fish, and map the ornamental fish information in the DB server. Learning parameters are extracted by training the learning engine in advance using a pre-collected ornamental fish image dataset, and the pre-trained learning parameters are loaded and used in the actual application device.

관상어 인식에 특화된 심층 학습 엔진은 다중 심층신경망 구조이며, 어류 분류법(머리, 꼬리, 지느러미, 몸통 등) 기반으로 나눠져 각각의 심층신경망에서 형태를 인식하고 최종적으로 인식 결과를 종합하여 어종 및 질병을 파악하는 것이 가능하다. The deep learning engine specialized in ornamental fish recognition has a multi-deep neural network structure, and is divided based on fish classification (head, tail, fins, body, etc.), recognizes the shape in each deep neural network, and finally synthesizes the recognition results to identify fish species and diseases. It is possible.

본 발명의 실시예에 따르면, 관상어 검역 앱 SW에서 관상어 DB(Server)로 새로운 관상어 데이터를 업로드 할 때 심층 학습 엔진의 학습 파라미터를 재학습하고 업데이트 함으로써, 새롭게 등장하는 어종에 대해 인식할 수 있다는 장점이 있다. According to an embodiment of the present invention, when new ornamental fish data is uploaded from the ornamental fish quarantine app SW to the ornamental fish DB (Server), the learning parameters of the deep learning engine are relearned and updated to recognize newly emerging fish species. There is.

또한, 심층 학습 엔진을 통해 관상어가 미검출되는 경우, 오인식되는 경우, 검역관이 관상어 종류를 분류하지 못할 경우에도 다른 전문가들에게 검역을 요청하는 서비스를 지원함으로써, 신속한 관상어 검역 처리가 가능하도록 지원하는 장점이 있다. In addition, the deep learning engine supports a service that requests quarantine from other experts even when aquarium fish are not detected, are misidentified, or the quarantine officer is unable to classify the type of aquarium fish, enabling rapid quarantine processing of aquarium fish. There is an advantage.

한편, 본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법은 컴퓨터 시스템에서 구현되거나, 또는 기록매체에 기록될 수 있다. 컴퓨터 시스템은 적어도 하나 이상의 프로세서와, 메모리와, 사용자 입력 장치와, 데이터 통신 버스와, 사용자 출력 장치와, 저장소를 포함할 수 있다. 전술한 각각의 구성 요소는 데이터 통신 버스를 통해 데이터 통신을 한다.Meanwhile, the method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention may be implemented in a computer system or recorded on a recording medium. A computer system may include at least one processor, memory, user input device, data communication bus, user output device, and storage. Each of the above-described components communicates data through a data communication bus.

컴퓨터 시스템은 네트워크에 커플링된 네트워크 인터페이스를 더 포함할 수 있다. 프로세서는 중앙처리 장치(central processing unit (CPU))이거나, 혹은 메모리 및/또는 저장소에 저장된 명령어를 처리하는 반도체 장치일 수 있다. The computer system may further include a network interface coupled to the network. A processor may be a central processing unit (CPU) or a semiconductor device that processes instructions stored in memory and/or storage.

메모리 및 저장소는 다양한 형태의 휘발성 혹은 비휘발성 저장매체를 포함할 수 있다. 예컨대, 메모리는 ROM 및 RAM을 포함할 수 있다.Memory and storage may include various types of volatile or non-volatile storage media. For example, memory may include ROM and RAM.

따라서, 본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법은 컴퓨터에서 실행 가능한 방법으로 구현될 수 있다. 본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법이 컴퓨터 장치에서 수행될 때, 컴퓨터로 판독 가능한 명령어들이 본 발명에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법을 수행할 수 있다.Therefore, the method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention can be implemented as a method executable on a computer. When the method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention is performed on a computer device, computer-readable commands are transmitted to data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention. Methods for quarantine of imported ornamental fish can be implemented through detection and classification.

한편, 상술한 본 발명에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현되는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록 매체로는 컴퓨터 시스템에 의하여 해독될 수 있는 데이터가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래시 메모리, 광 데이터 저장장치 등이 있을 수 있다. 또한, 컴퓨터로 판독 가능한 기록매체는 컴퓨터 통신망으로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 읽을 수 있는 코드로서 저장되고 실행될 수 있다.Meanwhile, the method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to the present invention described above can be implemented as a computer-readable code on a computer-readable recording medium. Computer-readable recording media include all types of recording media storing data that can be deciphered by a computer system. For example, there may be read only memory (ROM), random access memory (RAM), magnetic tape, magnetic disk, flash memory, and optical data storage devices. Additionally, the computer-readable recording medium can be distributed to a computer system connected through a computer communication network, and stored and executed as a code that can be read in a distributed manner.

본 발명의 실시예에 따른 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 방법은 (a) 사용자 단말기로부터 데이터를 수신하는 단계와, (b) 상기 데이터를 이용하여 상이한 포맷의 관상어 정보를 통합하는 단계 및 (c) 상기 데이터를 이용하여 심층신경망 기반으로 어종 및 질병 판단을 수행하고, 텍스트 내 포함된 오류에 대한 정정을 수행하는 단계를 포함한다. A method for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification according to an embodiment of the present invention includes the steps of (a) receiving data from a user terminal, and (b) using the data to produce different formats. It includes the steps of integrating ornamental fish information and (c) using the data to determine fish species and disease based on a deep neural network and correcting errors included in the text.

상기 (b) 단계는 관상어 패킹 리스트 및 관상어 정보 검역 서류를 수신하여, 상이한 포맷을 통일된 포맷의 형태로 통합한다. Step (b) receives the ornamental fish packing list and the ornamental fish information quarantine document and integrates the different formats into a unified format.

상기 (c) 단계는 관상어 촬영 이미지에 대해 기학습된 파라미터를 이용하여 어종 및 어류의 질병을 인식하고, 새로운 촬영 이미지가 수신된 경우 인공지능 모델에 대한 재학습을 수행한다. In step (c), fish species and fish diseases are recognized using parameters already learned for images of ornamental fish, and retraining the artificial intelligence model is performed when new images are received.

상기 (c) 단계는 관상어 검색 문자 내 포함되는 오타에 대한 정정을 수행하고, 기준 유사도 이상의 어종명 리스트를 제공하며, 새로운 어종 텍스트 데이터가 수신되는 경우 인공지능 모델 재학습을 수행한다. In step (c), typos included in the ornamental fish search text are corrected, a list of fish species names higher than the standard similarity level is provided, and artificial intelligence model retraining is performed when new fish species text data is received.

Claims (13)

검역관이 소지하는 사용자 단말기; 및
상기 사용자 단말기로부터 데이터를 수신하여, 상이한 포맷의 관상어 정보를 통합하고, 심층신경망 기반으로 어종 및 질병 판단을 수행하며, 상기 사용자 단말기로부터 수신한 텍스트에 포함된 오류를 자동 정정하는 처리 서버를 포함하고,
상기 처리 서버는 오타 문자 정정부를 포함하고, 상기 오타 문자 정정부는 기저장된 정보를 이용하여 조회 대상이 되는 관상어 검색 문자 내 포함되는 오타에 대한 자동 정정을 수행하고, 심층 신경망에서 인식을 통해 유사한 기설정 개수의 어종리스트를 제공하되, 기준 유사도 이상의 어종명의 리스트를 정확도 순서대로 나열하여 제공하고, 오류 정정 완료된 결과 및 유사 관상어 어종명 추천 화면을 제공하며, 상기 유사 관상어 어종명 추천 화면에 포함되는 유사 관상어 어종명의 개수는 상기 기설정 개수의 어종리스트의 개수보다 적고,
상기 처리 서버는 데이터 통합 관리부를 포함하여, 상기 데이터 통합 관리부는 관상어 수입 과정에서 수신한 관상어 패킹 리스트 및 관상어 정보 검역 서류를 수신하고, 상이한 포맷의 목록에 대해 문자의 형식 유사도를 분석하여, 한글 학명, 영어 학명, 한글 품명, 영어 품명, 분류종, 분류과, 생태, 수품원 코드, 형태, 유전정보, LMO 가능성, 분류키, 생태계교란종, 질병, CITES, 기타 품명, 사진, 유사종, 계수 형질을 포함하는 통일된 포맷의 형태로 데이터를 통합하고,
상기 처리 서버는 이미지 인식부를 포함하여, 상기 이미지 인식부는 상기 사용자 단말기로부터 수신한 관상어 촬영 이미지에 대해 기학습된 파라미터를 이용하여 어종 및 어류의 질병을 인식하고, 상기 이미지 인식부는 상기 어종을 인식하기 위한 다중 심층신경망 및 상기 어류의 질병을 인식하기 위한 다중 심층신경망 학습 파라미터를 이용하고,
상기 이미지 인식부는 몸통-모양, 몸통-체색, 꼬리지느러미-형태, 등지느러미-형태, 주둥이-형태에 대해 각각의 심층 신경망을 이용하여 학습 및 인식을 진행하여 어종을 분류하되, 인식 정확도를 고려하여 상기 각각의 심층 신경망에서 추출된 가중치를 유동적으로 부여하는 것
것을 특징으로 하는 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치.
User terminals carried by quarantine officers; and
It includes a processing server that receives data from the user terminal, integrates ornamental fish information in different formats, performs fish species and disease determination based on a deep neural network, and automatically corrects errors contained in the text received from the user terminal; ,
The processing server includes a typo character correction unit, and the typo character correction unit uses pre-stored information to automatically correct typos included in ornamental word search characters to be searched, and recognizes similar characters through recognition in a deep neural network. A list of fish species of a set number is provided, but a list of fish species names above the standard similarity level is provided in order of accuracy, error-corrected results and a similar ornamental fish species name recommendation screen are provided, and similar ornamental fish species names included in the above similar ornamental fish species name recommendation screen are provided. The number of ornamental fish species names is less than the number of fish species lists of the preset number,
The processing server includes a data integration management unit, wherein the data integration management unit receives the ornamental fish packing list and the ornamental fish information quarantine document received during the ornamental fish import process, analyzes the format similarity of characters for the lists in different formats, and generates the Korean scientific name. , English scientific name, Korean product name, English product name, taxonomic species, taxonomic family, ecology, source code, morphology, genetic information, LMO possibility, classification key, ecosystem disturbing species, disease, CITES, other product names, photos, similar species, counting traits Integrate data in a unified format that includes,
The processing server includes an image recognition unit, wherein the image recognition unit recognizes fish species and diseases of the fish using pre-learned parameters for the ornamental fish photographed image received from the user terminal, and the image recognition unit recognizes the fish species. Using multiple deep neural networks for and multiple deep neural network learning parameters to recognize diseases in the fish,
The image recognition unit classifies fish species by learning and recognizing body-shape, body-color, caudal fin-shape, dorsal fin-shape, and snout-shape using each deep neural network, taking recognition accuracy into consideration. Dynamically assigning weights extracted from each deep neural network above
A device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification.
삭제delete 삭제delete 삭제delete 제1항에 있어서,
상기 처리 서버는 기저장된 어류 정보와 상기 어종 및 어류의 질병 인식 결과를 맵핑하여, 상기 사용자 단말기로 전송하는 것을 특징으로 하는 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치.
According to paragraph 1,
The processing server maps pre-stored fish information and the fish species and disease recognition results of the fish, and transmits the data to the user terminal. A device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification.
제1항에 있어서,
상기 이미지 인식부는 상기 사용자 단말기로부터 기존 데이터가 아닌 새로운 데이터를 수신하는 경우, 새로운 이미지 데이터를 이용하여 인공지능모델 재학습을 수행하는 것을 특징으로 하는 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치.
According to paragraph 1,
When the image recognition unit receives new data rather than existing data from the user terminal, data preprocessing and deep neural network-based image detection and classification are used to retrain the artificial intelligence model using new image data. A device for quarantine of ornamental fish.
삭제delete 제1항에 있어서,
상기 오타 문자 정정부는 상기 사용자 단말기로부터 기존 데이터가 아닌 새로운 데이터를 수신하는 경우, 새로운 어종 텍스트 데이터를 이용하여 인공지능모델 재학습을 수행하는 것을 특징으로 하는 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치.
According to paragraph 1,
When receiving new data rather than existing data from the user terminal, the typo character correction unit performs data preprocessing and deep neural network-based image detection and classification, characterized in that it retrains the artificial intelligence model using new fish species text data. A device for quarantine of imported ornamental fish.
제1항에 있어서,
상기 처리 서버는 타 전문가의 디바이스로 판독을 요청하고, 판독 완료에 따라 상기 사용자 단말기로 알람을 제공하는 것을 특징으로 하는 데이터 전처리 및 심층신경망 기반 이미지 검출 및 분류를 통한 수입 관상어 검역을 위한 장치.
According to paragraph 1,
The processing server requests a reading from another expert's device, and provides an alarm to the user terminal upon completion of the reading. A device for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification.
삭제delete 삭제delete 삭제delete 삭제delete
KR1020210171404A 2021-12-03 2021-12-03 Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification KR102614062B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210171404A KR102614062B1 (en) 2021-12-03 2021-12-03 Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210171404A KR102614062B1 (en) 2021-12-03 2021-12-03 Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification

Publications (2)

Publication Number Publication Date
KR20230083421A KR20230083421A (en) 2023-06-12
KR102614062B1 true KR102614062B1 (en) 2023-12-15

Family

ID=86770145

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210171404A KR102614062B1 (en) 2021-12-03 2021-12-03 Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification

Country Status (1)

Country Link
KR (1) KR102614062B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213360A (en) 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd Data retrieval system and data retrieval apparatus
JP2018045321A (en) 2016-09-12 2018-03-22 悟 佐藤 Information processing device, information processing method, and program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3166024A4 (en) * 2014-07-03 2017-05-24 Able World International Limited Method for unifying tool and information coming from multiple information sources, and computer program product and device using same
KR20200062890A (en) * 2018-11-27 2020-06-04 수상에스티(주) Abnormal behavior pattern analysis system using image recognition of aquarium fish and the method therof
KR102191064B1 (en) * 2019-03-14 2020-12-14 경남과학기술대학교 산학협력단 Data Application System for Classification of Fish Species
KR102191062B1 (en) * 2019-03-14 2020-12-14 경남과학기술대학교 산학협력단 Data acquisition method for classification of fish species
KR102415644B1 (en) * 2019-11-22 2022-07-01 주식회사 심플로지스 Smart customs declaration item classification system and method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213360A (en) 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd Data retrieval system and data retrieval apparatus
JP2018045321A (en) 2016-09-12 2018-03-22 悟 佐藤 Information processing device, information processing method, and program

Also Published As

Publication number Publication date
KR20230083421A (en) 2023-06-12

Similar Documents

Publication Publication Date Title
US10599709B2 (en) Object recognition device, object recognition method, and program for recognizing an object in an image based on tag information
US9171013B2 (en) System and method for providing objectified image renderings using recognition information from images
US7809722B2 (en) System and method for enabling search and retrieval from image files based on recognized information
US8649572B2 (en) System and method for enabling the use of captured images through recognition
CN108920580A (en) Image matching method, device, storage medium and terminal
US11508173B2 (en) Machine learning prediction and document rendering improvement based on content order
CN113688889A (en) Abnormality detection method, abnormality detection device, electronic apparatus, and computer-readable storage medium
CN111897962A (en) Internet of things asset marking method and device
CN111680753A (en) Data labeling method and device, electronic equipment and storage medium
CN113240655B (en) Method, storage medium and device for automatically detecting type of fundus image
CN111126243B (en) Image data detection method and device and computer readable storage medium
Kumar et al. A deep learning paradigm for detection of harmful algal blooms
CN112347997A (en) Test question detection and identification method and device, electronic equipment and medium
CN113780116A (en) Invoice classification method and device, computer equipment and storage medium
KR102614062B1 (en) Method and apparatus for quarantine of imported ornamental fish through data preprocessing and deep neural network-based image detection and classification
CN112559785A (en) Bird image recognition system and method based on big data training
CN114998962A (en) Living body detection and model training method and device
CN113255766B (en) Image classification method, device, equipment and storage medium
CN115546824A (en) Taboo picture identification method, equipment and storage medium
CN112231535B (en) Method for making multi-modal data set in field of agricultural diseases and insect pests, processing device and storage medium
CN113762089A (en) Artificial intelligence-based livestock left face identification system and use method
CN113392312A (en) Information processing method and system and electronic equipment
WO2024065645A1 (en) Image and text matching model training method and apparatus, and device and storage medium
KR102376649B1 (en) Method, Apparatus and Recording For Computerizing Of Electro-Magnetic Resonance
CN116612466B (en) Content identification method, device, equipment and medium based on artificial intelligence

Legal Events

Date Code Title Description
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant