JP2020109610A - Plant classification system using deep running and method therefor - Google Patents

Plant classification system using deep running and method therefor Download PDF

Info

Publication number
JP2020109610A
JP2020109610A JP2019147035A JP2019147035A JP2020109610A JP 2020109610 A JP2020109610 A JP 2020109610A JP 2019147035 A JP2019147035 A JP 2019147035A JP 2019147035 A JP2019147035 A JP 2019147035A JP 2020109610 A JP2020109610 A JP 2020109610A
Authority
JP
Japan
Prior art keywords
plant
information
server
feature points
feature point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019147035A
Other languages
Japanese (ja)
Inventor
ジョン キム、テ
Tae Jong Kim
ジョン キム、テ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
World Vertex Co Ltd
Original Assignee
World Vertex Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by World Vertex Co Ltd filed Critical World Vertex Co Ltd
Publication of JP2020109610A publication Critical patent/JP2020109610A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/469Contour-based spatial representations, e.g. vector-coding

Abstract

To provide a plant classification system using deep running and a method therefor.SOLUTION: The method confirms feature points based on a monthly growth state of plant by using deep running about the leaf, trunk, branch, flower, fruit, or the like of the plant, confirms feature points of the plant based on a flowering time, a fruiting time, or the like, and confirms feature points to varieties of the plant. In the case where there is a classification request about the plant included in a specific image after converting information about the confirmed feature points into a database, the degrees of accuracy of classification about the plant in the present state are increased by providing plant information corresponding to an image from information converted into the database on the basis of meta information in the image and additional information corresponding to the plant information, and a user's satisfaction level can be increased by providing information of good quality.SELECTED DRAWING: Figure 3

Description

本発明はディープランニングを利用した植物分類システムおよびその方法に関し、特に植物の葉、幹、枝、花、実などについてディープランニングを利用して植物の月別生育状態による特徴点を確認し、開花時期、着果時期などによる該当植物の特徴点を確認し、該当植物の変種に対する特徴点を確認し、前記確認した特徴点についての情報をデータベース化した後、特定のイメージに含まれた植物についての分類要請がある場合、該当イメージ内のメタ情報に基づいて前記データベース化された情報の中から該当イメージに対応する植物情報および前記植物情報に対応する付加情報を提供するディープランニングを利用した、植物分類システムおよびその方法に関する。 The present invention relates to a plant classification system using deep running and a method thereof, and particularly for leaves, stems, branches, flowers, fruits, etc. of a plant, using deep running to confirm characteristic points according to the monthly growth state of the plant, and the flowering time. , Confirm the characteristic points of the corresponding plant depending on the fruit setting time, confirm the characteristic points for the varieties of the corresponding plant, and after creating a database of information on the confirmed characteristic points, regarding the plants included in the specific image. If there is a classification request, plants that use deep running to provide plant information corresponding to the relevant image and additional information corresponding to the plant information from the information stored in the database based on the meta information in the relevant image, A classification system and method.

私達の周囲から容易に多様な植物を発見することができ、特に野外活動が増えるにつれて新しい植物に出会うようになる場合が増えている。 A wide variety of plants can be easily found around us, and more and more new plants are encountered, especially as field activity increases.

しかし、一般の人達は植物に対する知識と経験が限定されているため新しい植物を識別することが難しい状態であり、専門家の場合にもすべての植物を識別することは容易でないのが実情である。 However, it is difficult for general people to identify new plants due to limited knowledge and experience of plants, and it is not easy for experts to identify all plants. ..

植物を識別するために、図鑑を使ったり携帯電話を利用して撮影した映像で該当植物と関連した情報を提供する一部の例が存在しているものの、それは単に花または葉を中心として植物が分類されているため、花がないか、葉をよく撮ることができない植物であるとか、または植物の状態による植物分類に対する正確度が低くなる短所がある。 Although there are some examples that provide information related to the plant in a picture taken using a picture book or a mobile phone to identify the plant, it is simply a plant centered on flowers or leaves. Therefore, there is a disadvantage that the accuracy of the plant classification is low due to the fact that there are no flowers, leaves cannot be photographed well, or the state of the plant.

韓国公開特許第10−2012−0076491号「植物情報提供サービスシステムおよびその方法」Korean Published Patent No. 10-2012-0076491 "Plant information providing service system and method"

本発明の目的は、植物の葉、幹、枝、花、実などについてディープランニングを利用して植物の月別生育状態による特徴点を確認し、開花時期、着果時期などによる該当植物の特徴点を確認し、該当植物の変種に対する特徴点を確認し、前記確認した特徴点についての情報をデータベース化した後、特定のイメージに含まれた植物についての分類要請がある場合、該当イメージ内のメタ情報に基づいて前記データベース化された情報の中から該当イメージに対応する植物情報および前記植物情報に対応する付加情報を提供するディープランニングを利用した植物分類システムおよびその方法を提供するところにある。 The purpose of the present invention is to confirm the characteristic points according to the monthly growth state of the plant using deep running for leaves, stems, branches, flowers, fruits, etc. of the plant, and the characteristic points of the relevant plant depending on the flowering time, the fruit setting time, etc. After confirming the characteristic points for the varieties of the relevant plant and creating a database of information on the confirmed characteristic points, if there is a classification request for the plants included in a specific image, the meta It is an object of the present invention to provide a plant classification system and method using deep running, which provides plant information corresponding to the corresponding image and additional information corresponding to the plant information from the information stored in the database based on the information.

本発明の実施例に係るディープランニングを利用した植物分類システムは、月別に同一植物に対して前記植物を含む映像情報を獲得し、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して月別生育状態による複数の特徴点を抽出し、前記抽出した複数の特徴点間の相関関係による相関ベクターを算出し、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して色相や形態をそれぞれ確認し、前記抽出した植物の月別生育状態による複数の特徴点情報、前記複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、前記植物と関連した詳細情報および前記植物の管理方法についての付加情報を含む植物情報をデータベース化して保存するサーバー;および特定の植物と関連した他の映像情報を含む植物分類要請情報および前記端末の識別情報を前記サーバーに伝送する端末を含むことができる。 A plant classification system using deep running according to an embodiment of the present invention obtains image information including the plant for the same plant by month, and leaves, stems, branches, and flowers of plants in the obtained image information. And extracting a plurality of feature points depending on the monthly growth state for the fruit, calculating a correlation vector by the correlation between the plurality of extracted feature points, leaves, stems, branches, flowers of the plant in the acquired video information And confirm the hue and morphology respectively against the fruit, a plurality of feature point information by the monthly growth state of the extracted plant, a correlation vector by the correlation between the plurality of feature points, the leaf of the corresponding plant confirmed, stem, A server for storing a database of plant information including hues and forms of branches, flowers, fruits, etc., detailed information related to the plant and additional information about the management method of the plant; and other images related to the specific plant. A terminal for transmitting the plant classification request information including the information and the identification information of the terminal to the server may be included.

本発明に関連した一例として前記相関ベクターは、特徴点間の距離および方向情報を含むことができる。 As an example related to the present invention, the correlation vector may include distance and direction information between feature points.

本発明に関連した一例として前記サーバーは、前記抽出した葉と関連した一つ以上の特徴点、前記抽出した幹と関連した一つ以上の特徴点、前記抽出した枝と関連した一つ以上の特徴点、前記抽出した花と関連した一つ以上の特徴点および前記抽出した実と関連した一つ以上の特徴点間の一つ以上の相関ベクターを算出して、葉と幹と枝と花と実間の特徴を確認することができる。 As an example related to the present invention, the server may include one or more feature points associated with the extracted leaf, one or more feature points associated with the extracted trunk, and one or more feature points associated with the extracted branch. A leaf, a stem, a branch, and a flower are calculated by calculating one or more feature points, one or more feature points associated with the extracted flower, and one or more correlation vectors between the one or more feature points associated with the extracted fruit. And you can check the actual characteristics.

本発明に関連した一例として前記サーバーは、前記植物分類要請情報に含まれた他の映像情報内のメタ情報を確認し、前記植物分類要請情報に含まれた他の映像情報内の客体が植物であるかの可否を判断し、前記判断の結果、前記他の映像情報内の客体が植物であるとき、前記サーバーによって、前記他の映像情報内の客体に対する葉、幹、枝、花および実に対する複数の他の特徴点を抽出し、前記抽出した複数の他の特徴点間の相関関係による他の相関ベクターを算出し、前記植物分類要請情報に含まれた他の映像情報内の客体の葉、幹、枝、花および実の色相や形態を確認し、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から、前記確認したメタ情報に対応する特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターを確認し、前記確認した特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の他の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認し、前記確認した植物情報に含まれた詳細情報および付加情報を前記端末に伝送し、前記端末は、前記伝送された植物分類要請情報に応答して前記サーバーから伝送される前記特定の植物と関連した詳細情報および付加情報を表示することができる。 As an example related to the present invention, the server confirms the meta information in the other image information included in the plant classification request information, and the object in the other image information included in the plant classification request information is a plant. If the object in the other image information is a plant as a result of the determination, the server causes the leaves, trunks, branches, flowers and fruits to the object in the other image information. A plurality of other feature points to, and calculates another correlation vector by the correlation between the extracted plurality of other feature points, of the object in the other video information included in the plant classification request information Confirming the hue and morphology of leaves, stems, branches, flowers and fruits, a plurality of feature points associated with a plurality of plants by month in the plant information stored in the database and a correlation vector associated with the plurality of relevant feature points. From among the at least one characteristic point associated with a plurality of plants corresponding to the specific month corresponding to the confirmed meta-information and the correlation vector associated with at least one corresponding characteristic point is confirmed, and the confirmed specific month At least one feature point associated with a plurality of plants corresponding to and a plurality of other feature points associated with the extracted specific plant from among the correlation vectors associated with the relevant at least one feature point and the calculated other The similarity between correlation vectors is calculated respectively, the plant information having the highest similarity among the calculated plurality of similarities is confirmed, and detailed information and additional information included in the confirmed plant information are transmitted to the terminal. However, the terminal may display detailed information and additional information related to the specific plant transmitted from the server in response to the transmitted plant classification request information.

本発明の実施例に係るディープランニングを利用した植物分類方法は,サーバーによって、月別に同一植物に対して前記植物を含む映像情報を獲得する段階;前記サーバーによって、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して月別生育状態による複数の特徴点を抽出する段階;前記サーバーによって、前記抽出した複数の特徴点間の相関関係による相関ベクターを算出する段階;前記サーバーによって、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して色相や形態をそれぞれ確認する段階;および前記サーバーによって、前記抽出した植物の月別生育状態による複数の特徴点情報、前記複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、前記植物と関連した詳細情報および前記植物の管理方法についての付加情報を含む植物情報をデータベース化して保存する段階を含むことができる。 A plant classification method using deep running according to an embodiment of the present invention includes a step of acquiring video information including the plant for the same plant by a server by month; the server includes the plants in the acquired video information. Extracting a plurality of feature points according to monthly growth conditions for leaves, trunks, branches, flowers, and fruits; calculating a correlation vector based on the correlation between the extracted plurality of feature points by the server; the server Confirming the hue and morphology of the leaves, stems, branches, flowers, and fruits of the plant in the acquired image information according to the above; , A correlation vector by a correlation between the plurality of characteristic points, the hue and morphology of the leaves, stems, branches, flowers, fruits and the like of the identified corresponding plant, detailed information related to the plant and a method for managing the plant. The method may include a step of storing the plant information including the additional information in a database.

本発明に関連した一例として前記相関ベクターを算出する段階は、葉の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;および実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程のうち少なくとも一つの過程を含むことができる。 As an example related to the present invention, the step of calculating the correlation vector includes a step of calculating a correlation vector between a feature point of a leaf central portion and at least one other adjacent feature point adjacent to the relevant feature point; Calculating a correlation vector between the feature point of the part and at least one other adjacent feature point adjacent to the corresponding feature point; the feature point of the central part of the branch and at least one other adjacent feature point adjacent to the corresponding feature point Calculating a correlation vector between the feature points of the central portion of the flower and at least one other adjacent feature point adjacent to the relevant feature point; and corresponding to the feature point of the actual central portion The method may include at least one step of calculating a correlation vector between at least one other adjacent feature point adjacent to the feature point.

本発明に関連した一例として端末によって、特定の植物と関連した他の映像情報を含む植物分類要請情報および前記端末の識別情報を前記サーバーに伝送する段階;前記サーバーによって、前記端末から伝送される植物分類要請情報に含まれた他の映像情報内のメタ情報を確認する段階;前記サーバーによって、前記植物分類要請情報に含まれた他の映像情報内の客体が植物であるかの可否を判断する段階;前記判断の結果、前記他の映像情報内の客体が植物であるとき、前記サーバーによって、前記他の映像情報内の客体に対する葉、幹、枝、花および実に対する複数の他の特徴点を抽出する段階;前記サーバーによって、前記抽出した複数の他の特徴点間の相関関係による他の相関ベクターを算出する段階;前記サーバーによって、前記植物分類要請情報に含まれた他の映像情報内の客体の葉、幹、枝、花および実の色相や形態を確認する段階;前記サーバーによって、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から、前記確認したメタ情報に対応する特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターを確認する段階;前記サーバーによって、前記確認した特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の他の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出する段階;前記サーバーによって、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認する段階;前記サーバーによって、前記確認した植物情報に含まれた詳細情報および付加情報を前記端末に伝送する段階;および前記端末によって、前記伝送された植物分類要請情報に応答して前記サーバーから伝送される前記特定の植物と関連した詳細情報および付加情報を表示する段階をさらに含むことができる。 As an example related to the present invention, the terminal transmits the plant classification request information including other image information related to a specific plant and the identification information of the terminal to the server; the server transmits the identification information of the plant classification information from the terminal. Confirming the meta information in the other video information included in the plant classification request information; the server determines whether the object in the other video information included in the plant classification request information is a plant. When the result of the determination is that the object in the other video information is a plant, the server causes a plurality of other characteristics of leaves, trunks, branches, flowers, and fruits for the object in the other video information. Extracting points; calculating another correlation vector according to the correlation between the extracted plurality of other feature points by the server; other image information included in the plant classification request information by the server The hues and morphology of leaves, stems, branches, flowers and fruits of the objects in the above; a plurality of characteristic points and corresponding plurality associated with a plurality of plants in each month in the plant information stored in the database by the server From among the correlation vectors associated with the feature points, at least one feature point associated with a plurality of plants corresponding to the specific month corresponding to the confirmed meta-information and a correlation vector associated with the corresponding at least one feature point, A step of confirming; by the server, the specific plant extracted from at least one feature point associated with the plurality of plants corresponding to the identified specific month and the correlation vector associated with the corresponding at least one feature point; Calculating a similarity between a plurality of other related feature points and the calculated other correlation vector; checking the plant information having the largest similarity among the calculated plurality of similarities by the server Transmitting the detailed information and additional information included in the confirmed plant information to the terminal by the server; and transmitting from the server in response to the transmitted plant classification request information by the terminal. The method may further include displaying detailed information and additional information related to the specific plant.

本発明は、植物の葉、幹、枝、花、実などについてディープランニングを利用して植物の月別生育状態による特徴点を確認し、開花時期、着果時期などによる該当植物の特徴点を確認し、該当植物の変種に対する特徴点を確認し、前記確認した特徴点についての情報をデータベース化した後、特定のイメージに含まれた植物についての分類要請がある場合、該当イメージ内のメタ情報に基づいて前記データベース化された情報の中から該当イメージに対応する植物情報および前記植物情報に対応する付加情報を提供することによって、現在の状態の植物についての分類正確度を高め、良質の情報を提供してユーザーの満足度を高めることができる効果がある。 The present invention confirms the characteristic points of the plant according to the monthly growth state of the plant using deep running for leaves, stems, branches, flowers, fruits, etc. of the plant, and confirms the characteristic points of the corresponding plant depending on the flowering time and the fruit setting time. Then, after confirming the characteristic points for the varieties of the relevant plant, and after making a database of information on the confirmed characteristic points, if there is a classification request for the plants included in a specific image, the meta information in the relevant image By providing additional information corresponding to the plant information and the plant information corresponding to the image from the information in the database based on the above, the classification accuracy of the plant in the current state is increased, and high-quality information is provided. There is an effect that can be provided to increase user satisfaction.

本発明の実施例に係るディープランニングを利用した植物分類シーステムの構成を示した構成図The block diagram which showed the structure of the plant classification system which used the deep running which concerns on the Example of this invention. 本発明の実施例に係るサーバーの構成を示したブロック図Block diagram showing the configuration of a server according to an embodiment of the present invention 本発明の実施例に係るディープランニングを利用した植物分類方法を示したフローチャートFlowchart showing a plant classification method using deep running according to an embodiment of the present invention 本発明の実施例に係る端末の画面の例を示した説明図Explanatory diagram showing an example of the screen of the terminal according to the embodiment of the present invention

本発明で使われる技術的用語は単に特定の実施例を説明するために使われたものであって、本発明を限定しようとする意図ではない。また、本発明で使われる技術的用語は、本発明で特に異なって定義されない限り、本発明が属する技術分野で通常の知識を有する者によって一般的に理解され、過度に包括的な意味で解釈されたり、過度に縮小された意味で解釈されてはならない。また、本発明で使われる技術的な用語が本発明の思想を正確に表現できない間違った技術的な用語である時には、当業者が正しく理解できる技術的用語に代替されて理解される。また、本発明で使われる一般的な用語は辞書に定義されているところにより、または前後の文脈に沿って解釈され、過度に縮小された意味で解釈されてはならない。 The technical terms used in the present invention are merely used to describe specific embodiments, and are not intended to limit the present invention. Further, the technical terms used in the present invention are generally understood by a person having ordinary knowledge in the technical field to which the present invention belongs, unless otherwise defined in the present invention, and are interpreted in an excessively comprehensive sense. Not be interpreted or interpreted in a way that is excessively reduced. When the technical terms used in the present invention are incorrect technical terms that cannot accurately express the idea of the present invention, they are understood by being replaced with technical terms that can be understood by those skilled in the art. Also, the general terms used in the present invention shall be interpreted as defined in the dictionary or in the context of the context, and should not be interpreted in an excessively reduced sense.

また、本発明で使われる単数の表現は文脈上明白に異なることを意味しない限り複数の表現を含む。本発明で「構成される」たは「含む」等の用語は発明に記載された多様な構成要素または多様な段階を必ずすべて含むものと解釈されてはならず、そのうち一部の構成要素または一部の段階は含まれなくてもよく、または追加的な構成要素または段階をさらに含んでもよい。 Also, the singular expressions used in the present invention include plural expressions unless the context clearly dictates otherwise. In the present invention, terms such as "constituted" or "including" should not be construed as necessarily including all the various components or various steps described in the invention, and some of the components or Some steps may not be included or may additionally include additional components or steps.

また、本発明で使われる第1、第2等のように序数を含む用語は構成要素の説明に使われ得るが、構成要素は用語によって限定されてはならない。用語は一つの構成要素を他の構成要素から区別する目的でのみ使われる。例えば、本発明の権利範囲を逸脱することなく第1構成要素は第2構成要素と命名され得、同様に第2構成要素も第1構成要素と命名され得る。 Also, terms including ordinal numbers such as the first, second, etc. used in the present invention may be used to describe components, but the components should not be limited by the terms. The term is used only to distinguish one element from another. For example, the first component may be named the second component and similarly the second component may be labeled the first component without departing from the scope of the present invention.

以下、添付された図面を参照して本発明に係る好ましい実施例を詳述するものの、図面符号にかかわらず、同一または類似する構成要素は同じ参照番号を付し、これに対する重複する説明は省略する。 Hereinafter, preferred embodiments according to the present invention will be described in detail with reference to the attached drawings. To do.

また、本発明を説明するにおいて、関連した公知技術に対する具体的な説明が本発明の要旨を曖昧にさせる恐れがあると判断される場合、その詳細な説明を省略する。また、添付された図面は本発明の思想を容易に理解できるようにするためのものに過ぎず、添付された図面によって本発明の思想が制限されるものではない。 Further, in the description of the present invention, a detailed description of known related art will be omitted when it may make the subject matter of the present invention unclear. Further, the attached drawings are only for making the idea of the present invention easily understandable, and the idea of the present invention is not limited by the attached drawings.

図1は、本発明の実施例に係るディープランニングを利用した植物分類システム10の構成を示したブロック図である。 FIG. 1 is a block diagram showing a configuration of a plant classification system 10 using deep running according to an exemplary embodiment of the present invention.

図1に図示した通り、ディープランニングを利用した植物分類システム10はサーバー100および端末200で構成される。図1に図示された植物分類システム10の構成要素のすべてが必須の構成要素であるわけではなく、図1に図示された構成要素よりも多い構成要素によって植物分類システム10が具現されてもよく、それより少ない構成要素によって植物分類システム10が具現されてもよい。 As shown in FIG. 1, a plant classification system 10 using deep running includes a server 100 and a terminal 200. Not all of the components of the plant classification system 10 illustrated in FIG. 1 are essential components, and the plant classification system 10 may be embodied by more components than the components illustrated in FIG. 1. The plant classification system 10 may be embodied with fewer components.

また、図2に図示した通り、サーバー100は通信部110、保存部120、表示部130、音声出力部140および制御部150で構成される。図2に図示されたサーバー100の構成要素のすべてが必須の構成要素であるわけではなく、図2に図示された構成要素よりも多い構成要素によってサーバー100が具現されてもよく、それより少ない構成要素によってもサーバー100が具現されてもよい。 Further, as illustrated in FIG. 2, the server 100 includes a communication unit 110, a storage unit 120, a display unit 130, a voice output unit 140, and a control unit 150. Not all of the components of the server 100 illustrated in FIG. 2 are indispensable components, and the server 100 may be embodied with more components than the components illustrated in FIG. 2, or less. The server 100 may be embodied by the components.

前記通信部110は有/無線通信網を通じて内部の任意の構成要素または外部の任意の少なくとも一つの端末機と通信を連結する。この時、前記外部の任意の端末機は前記端末200、他の端末(図示されず)等を含むことができる。ここで、無線インターネット技術としては、無線LAN(Wireless LAN:WLAN)、DLNA(登録商標)(Digital Living Network Alliance)、ワイヤレスブロードバンド(Wireless Broadband:Wibro(登録商標))、ワイマックス(World Interoperability for Microwave Access:Wimax)、HSDPA(High Speed Downlink Packet Access)、HSUPA(High Speed Uplink Packet Access)、IEEE 802.16、ロングタームエボリューション(Long Term Evolution:LTE)、LTE−A(Long Term Evolution−Advanced)、広帯域無線移動通信サービス(Wireless Mobile Broadband Service:WMBS)等があり、前記通信部110は前記で羅列されていないインターネット技術まで含んだ範囲で、少なくとも一つの無線インターネット技術によりデータを送受信することになる。また、近距通信技術としては、ブルートゥース(登録商標)(Bluetooth(登録商標))、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)、UWB(Ultra Wideband)、ジグビー(ZigBee)、隣接磁場通信(Near Field Communication:NFC)、超音波通信(Ultra Sound Communication:USC)、可視光通信(Visible Light Communication:VLC)、ワイファイ(Wi−Fi)、ワイファイダイレクト(Wi−Fi Direct)等が含まれ得る。また、有線通信技術としては電力線通信(Power Line Communication:PLC)、USB通信、イーサネット(登録商標)(Ethernet)、シリアル通信(serial communication)、光/同軸ケーブルなどが含まれ得る。 The communication unit 110 connects communication with any internal component or at least one external terminal through a wired/wireless communication network. At this time, the external terminal may include the terminal 200, another terminal (not shown), or the like. Here, as the wireless internet technology, a wireless LAN (WLAN), a DLNA (registered trademark) (Digital Living Network Alliance), a wireless broadband (Wireless Broadband: Wibro (registered trademark)), and a WiMAX (World Interoperability). Access: Wimax), HSDPA (High Speed Downlink Packet Access), HSUPA (High Speed Uppack Access), IEEE 80g, Long Term Evolution (Long Term), Long Term Evolution (Long Term), Long Term Evolution (Long Term), HSEPA (High Speed Uplink Packet Access), IEEE 802. There is a broadband wireless mobile communication service (WMBS), etc., and the communication unit 110 transmits/receives data by at least one wireless internet technology within a range including internet technologies not listed above. .. In addition, as short-distance communication technology, Bluetooth (registered trademark) (Bluetooth (registered trademark)), RFID (Radio Frequency Identification), infrared communication (Infrared Data Association: IrDA), UWB (Ultra Wideband, B), jig (BIG). Adjacent magnetic field communication (Near Field Communication: NFC), ultrasonic communication (Ultra Sound Communication: USC), visible light communication (Visible Light Communication: VLC), Wi-Fi (Wi-Fi), Wi-Fi Direct, etc. May be included. In addition, the wire communication technology may include power line communication (PLC), USB communication, Ethernet (registered trademark) (Ethernet), serial communication (serial communication), optical/coaxial cable, and the like.

また、前記通信部110はユニバーサルシリアルバス(Universal Serial Bus:USB)を通じて任意の端末と情報を互いに送信することができる。 In addition, the communication unit 110 may transmit information to and from an arbitrary terminal through a universal serial bus (USB).

また、前記通信部110は移動通信のための技術標準または通信方式(例えば、GSM(登録商標)(Global System for Mobile communication)、CDMA(Code Division Multi Access)、CDMA2000(Code Division Multi Access 2000)、EV−DO(Enhanced Voice−Data Optimized or Enhanced Voice−Data Only)、WCDMA(登録商標)(Wideband CDMA)、HSDPA(High Speed Downlink Packet Access)、HSUPA(High Speed Uplink Packet Access)、LTE(Long Term Evolution)、LTE−A(Long Term Evolution−Advanced)等)により構築された移動通信網上で、基地局、前記端末200、前記他の端末などと無線信号を送受信する。 Also, the communication unit 110 may be a technical standard or a communication method for mobile communication (eg, GSM (registered trademark) (Global System for Mobile communication), CDMA (Code Division Multi Access), CDMA2000 (Code Division Multi Access). EV-DO (Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA (registered trademark) (Wideband CDMA), HSDPA (High Speed DownHackPlace) ), LTE-A (Long Term Evolution-Advanced), etc.), a radio signal is transmitted/received to/from a base station, the terminal 200, the other terminal, or the like on a mobile communication network.

また、前記通信部110は前記端末200から伝送される特定の植物と関連した映像情報を含む植物分類要請情報、端末200の識別情報などを含む多様な情報を受信する。 Also, the communication unit 110 receives various information transmitted from the terminal 200, including plant classification request information including image information related to a specific plant, identification information of the terminal 200, and the like.

前記保存部120は多様なユーザーインタフェース(User Interface:UI)、グラフィックユーザーインタフェース(Graphic User Interface:GUI)等を保存する。 The storage unit 120 stores various user interfaces (UI), graphic user interfaces (GUI), and the like.

また、前記保存部120は前記サーバー100の動作に必要なデータとプログラムなどを保存する。 In addition, the storage unit 120 stores data and programs necessary for the operation of the server 100.

すなわち、前記保存部120は前記サーバー100で駆動される多数のアプリケーション(application programまたはアプリケーション(application))、サーバー100の動作のためのデータ、命令語を保存することができる。このようなアプリケーションのうち少なくとも一部は、無線通信を通じて外部サーバーからダウンロードされ得る。また、このような応用プログラムのうち少なくとも一部は、サーバー100の基本的な機能のために出庫当初からサーバー100上に存在し得る。一方、アプリケーションは前記保存部120に保存され、サーバー100に設置され、制御部150によって前記サーバー100の動作(または機能)を遂行するように駆動され得る。 That is, the storage unit 120 may store a large number of application programs or applications driven by the server 100, data for operating the server 100, and command words. At least some of such applications may be downloaded from an external server via wireless communication. In addition, at least a part of such application programs may exist on the server 100 from the beginning of shipping due to the basic functions of the server 100. Meanwhile, the application may be stored in the storage unit 120, installed in the server 100, and driven by the control unit 150 to perform the operation (or function) of the server 100.

また、前記保存部120はフラッシュメモリタイプ(Flash Memory Type)、ハードディスクタイプ(Hard Disk Type)、マルチメディアカードマイクロタイプ(Multimedia Card Micro Type)、カードタイプのメモリ(例えば、SDまたはXDメモリなど)、自分のメモリ、磁気ディスク、光ディスク、ラム(Random Access Memory:RAM)、SRAM(Static Random Access Memory)、ロム(Read−Only Memory:ROM)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、PROM(Programmable Read−Only Memory)のうち少なくとも一つの保存媒体を含むことができる。また、サーバー100はインターネット(internet)上で保存部120の保存機能を遂行するウェブストレージ(web storage)を運営したり、または前記ウェブストレージと関連して動作することもできる。 In addition, the storage unit 120 may include a flash memory type (Flash Memory Type), a hard disk type (Hard Disk Type), a multimedia card micro type (Multimedia Card Micro Type), a card type memory (for example, SD or XD memory), Own memory, magnetic disk, optical disk, ram (Random Access Memory: RAM), SRAM (Static Random Access Memory), ROM (Read-Only Memory Memory: ROM), EEPROM (Electrically Erasable Programmable ROM), EEPROM (Electrically Erasable Programmable ROM) The storage medium may include at least one storage medium of Read-Only Memory). In addition, the server 100 may operate a web storage that performs a storage function of the storage unit 120 on the Internet, or may operate in association with the web storage.

また、前記保存部120は前記制御部150の制御によって前記受信した多様な情報などを保存する。 In addition, the storage unit 120 stores the received various information under the control of the control unit 150.

前記表示部(またはディスプレイ部)130は前記制御部150の制御によって、され前記保存部120に保存されたユーザーインタフェースおよび/またはグラフィックユーザーインタフェースを利用して多様なメニュー画面などのような多様なコンテンツを表示することができる。ここで、前記表示部130に表示されるコンテンツは多様なテキストまたはイメージデータ(各種情報データを含む)とアイコン、リストメニュー、コンボボックスなどのデータを含むメニュー画面などを含む。また、前記表示部130はタッチスクリーンであり得る。 The display unit (or display unit) 130 is controlled by the control unit 150 and uses the user interface and/or the graphic user interface stored in the storage unit 120 to perform various contents such as various menu screens. Can be displayed. Here, the content displayed on the display unit 130 includes various text or image data (including various information data) and a menu screen including data such as icons, list menus, and combo boxes. In addition, the display unit 130 may be a touch screen.

また、前記表示部130は液晶ディスプレイ(Liquid Crystal Display:LCD)、薄膜トランジスター液晶ディスプレイ(Thin Film Transistor−Liquid Crystal Display:TFT LCD)、有機発光ダイオード(Organic Light−Emitting Diode:OLED)、フレキシブルディスプレイ(Flexible Display)、3次元ディスプレイ(3D Display)、電子インクディスプレイ(e−ink display)、LED(Light Emitting Diode)のうち少なくとも一つを含むことができる。 In addition, the display unit 130 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED) flexible display (OLED), and a thin film transistor liquid crystal display (TFT LCD). At least one of a flexible display, a three-dimensional display (3D display), an electronic ink display (e-ink display), and an LED (Light Emitting Diode) may be included.

また、前記表示部130は前記制御部150の制御によって前記受信した多様な情報などを表示する。 In addition, the display unit 130 displays various received information under the control of the control unit 150.

前記音声出力部140は前記制御部150により所定の信号に処理された信号に含まれた音声情報を出力する。ここで、前記音声出力部140にはレシーバー(receiver)、スピーカー(speaker)、ブザー(buzzer)等が含まれ得る。 The audio output unit 140 outputs audio information included in a signal processed into a predetermined signal by the control unit 150. Here, the audio output unit 140 may include a receiver, a speaker, a buzzer, and the like.

また、前記音声出力部140は前記制御部150により生成された案内音声を出力する。 Also, the voice output unit 140 outputs the guide voice generated by the control unit 150.

また、前記音声出力部140は前記制御部150により前記受信した多様な情報などに対応する音声情報(または音響効果)を出力する。 Also, the voice output unit 140 outputs voice information (or a sound effect) corresponding to the various information received by the control unit 150.

前記制御部(controller、またはMCU(microcontroller unit)150は前記レーダーシステムのためのサーバー100の全般的な制御機能を実行する。 The controller 150 or the micro controller unit (MCU) 150 performs general control functions of the server 100 for the radar system.

また、前記制御部150は前記保存部120に保存されたプログラムおよびデータを利用してサーバー100の全般的な制御機能を実行する。前記制御部150はRAM、ROM、CPU、GPU、バスを含むことができ、RAM、ROM、CPU、GPUなどはバスを通じて連結され得る。CPUは前記保存部120にアクセスし、前記保存部120に保存されたO/Sを利用してブーティングを遂行することができ、前記保存部120に保存された各種プログラム、コンテンツ、データなどを利用して多様な動作を遂行できる。 In addition, the control unit 150 uses the programs and data stored in the storage unit 120 to execute general control functions of the server 100. The controller 150 may include a RAM, a ROM, a CPU, a GPU, and a bus, and the RAM, the ROM, the CPU, and the GPU may be connected through the bus. The CPU may access the storage unit 120 and perform booting using the O/S stored in the storage unit 120, and may store various programs, contents, data, etc. stored in the storage unit 120. It can be used to perform various actions.

また、前記制御部150は月別(または季節別/分期別)に同一植物に対して該当植物を含んだ映像情報を獲得(または撮影)する。 In addition, the control unit 150 acquires (or captures) image information including the corresponding plant for the same plant by month (or by season/by season).

すなわち、前記制御部150は1年12ヶ月に対して月別に植物の状態を確認できるように、植物を含んだ映像情報を獲得する。この時、前記サーバー100は該当サーバー100に備えられたカメラ部(図示されず)を通じて任意の植物を含む映像情報を獲得してもよくまたは他の端末や他のサーバーから提供される任意の植物を含む映像情報を前記通信部110を通じて受信してもよい。 That is, the control unit 150 acquires image information including plants so that the state of the plants can be confirmed monthly for one year and 12 months. At this time, the server 100 may acquire image information including an arbitrary plant through a camera unit (not shown) included in the corresponding server 100, or an arbitrary plant provided from another terminal or another server. The image information including the information may be received through the communication unit 110.

また、前記制御部150は前記撮影した(または獲得した)映像情報内の植物の葉、幹、枝、花、実などに対して月別生育状態による複数の特徴点を抽出(または確認)する。 In addition, the control unit 150 extracts (or confirms) a plurality of feature points according to the monthly growth state of leaves, stems, branches, flowers, fruits, etc. of the plant in the captured (or acquired) image information.

すなわち、前記制御部150は月別に撮影した同一植物に対する映像情報別に複数の特徴点をそれぞれ抽出する。 That is, the control unit 150 extracts a plurality of feature points for each image information of the same plant photographed for each month.

また、前記制御部150は前記抽出した複数の特徴点間の相関関係による相関ベクターを算出する。この時、前記相関ベクターは特徴点間の距離(または大きさ)、任意の基準特徴点を根拠とする方向などの情報を含む。 The controller 150 also calculates a correlation vector based on the correlation between the extracted plurality of feature points. At this time, the correlation vector includes information such as a distance (or size) between feature points and a direction based on an arbitrary reference feature point.

すなわち、前記制御部150は葉の中央部位(または葉の一側)の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出して、葉、幹、枝、花、実などの特徴(または形態)を確認する。 That is, the control unit 150 calculates a correlation vector between the feature point of the center part of the leaf (or one side of the leaf) and at least one other adjacent feature point adjacent to the corresponding feature point, and determines the feature of the center part of the trunk. A correlation vector between a point and at least one other adjacent feature point adjacent to the corresponding feature point, and a correlation vector between the feature point at the center of the branch and at least one other adjacent feature point adjacent to the relevant feature point. Then, a correlation vector between the feature point of the central part of the flower and at least one other adjacent feature point adjacent to the corresponding feature point is calculated, and the feature point of the actual center part and at least one adjacent to the corresponding feature point are calculated. Calculate the correlation vector between two other adjacent feature points to identify features (or morphology) such as leaves, stems, branches, flowers, and fruits.

また、前記制御部150は前記抽出した葉と関連した一つ以上の特徴点、前記抽出した幹と関連した一つ以上の特徴点、前記抽出した枝と関連した一つ以上の特徴点、前記抽出した花と関連した一つ以上の特徴点、前記抽出した実と関連した一つ以上の特徴点間の一つ以上の相関ベクターを算出して、葉と幹と枝と花と実間の特徴(または形態)を確認する。 The control unit 150 may include one or more feature points associated with the extracted leaf, one or more feature points associated with the extracted trunk, one or more feature points associated with the extracted branch, and Calculate one or more feature points associated with the extracted flowers and one or more correlation vectors between the one or more feature points associated with the extracted fruits, and calculate the relationship between leaves, stems, branches, flowers, and fruits. Check the characteristics (or morphology).

この時、前記制御部150は月別に撮影した同一植物に対する映像情報別に該当植物と関連した特徴点の抽出および相関ベクターの算出機能を遂行するだけでなく、該当植物と関連した特定の時点である開花時期、着果時期などに対して該当植物の特徴点の抽出および関連した相関ベクターの算出機能を遂行することもできる。 At this time, the control unit 150 not only performs a function of extracting a feature point and a correlation vector of a relevant plant according to image information of the same plant photographed each month, but also a specific time associated with the relevant plant. It is also possible to perform the function of extracting the characteristic points of the relevant plant and calculating the related correlation vector with respect to the flowering time and the fruit setting time.

また、前記制御部150は元物に対応する該当植物に対する月別特徴点の抽出および関連した相関ベクターの算出だけでなく、該当植物と関連した変種植物が存在する場合、該当変種植物と関連した葉、幹、枝、花、実などに対する複数の特徴点の抽出と前記抽出した変種植物と関連した複数の特徴点に対して相関ベクターを算出することもできる。 In addition, the control unit 150 not only extracts the monthly characteristic points of the corresponding plant corresponding to the original and calculates the related correlation vector, but also when there is a variety plant related to the plant, leaves associated with the variety plant It is also possible to extract a plurality of feature points for the trunk, branches, flowers, fruits, etc., and to calculate a correlation vector for the plurality of feature points associated with the extracted variety plant.

また、前記制御部150は該当植物の葉、幹、枝、花、実などの色相や形態(または形)をあらかじめ設定されたイメージ分析方法を通じて確認(または検出)することもできる。 In addition, the control unit 150 can also confirm (or detect) the hue and morphology (or shape) of leaves, stems, branches, flowers, fruits, etc. of the corresponding plant through a preset image analysis method.

このように、前記制御部150は映像情報を分析して、該当植物と関連した多様な情報を獲得(または収集)する。 In this way, the controller 150 analyzes the image information and acquires (or collects) various information related to the plant.

また、前記制御部150は該当映像情報分析を通じて、時期別(または月別)に該当植物の葉、幹、枝、花、実などに対する特徴を把握(または確認)することができ、このように把握された情報(または特徴)に基づいて特定の植物に対する植物分類(または植物判断/検索)を容易に遂行できる。 In addition, the control unit 150 can grasp (or confirm) characteristics of leaves, stems, branches, flowers, fruits, etc. of a corresponding plant by time (or by month) through the corresponding image information analysis. The plant classification (or plant judgment/search) for a specific plant can be easily performed based on the obtained information (or characteristics).

また、前記制御部150は前記確認した植物の月別生育状態による複数の特徴点情報、複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、該当植物と関連した詳細情報、該当植物の管理方法についての付加情報などを含む植物情報をデータベース化して前記保存部120に保存する。この時、前記制御部150は別途の独立したデータベース(DB)(図示されず)に前記データベース化された植物の品種別植物情報を保存することもできる。 In addition, the control unit 150 includes a plurality of feature point information according to the confirmed growth status of the plant by month, a correlation vector based on a correlation between the plurality of feature points, leaves, stems, branches, flowers, fruits, etc. of the confirmed corresponding plant. The plant information including the hue and morphology, detailed information related to the relevant plant, and additional information regarding the management method of the relevant plant is converted into a database and stored in the storage unit 120. At this time, the control unit 150 may also store the plant-specific plant information in the database in a separate independent database (DB) (not shown).

このように、前記制御部150は任意の植物に対して月別におよび/または特定の時点別に(例えば開花時期、着果時期などを含む)植物の葉、幹、枝、花、実などに対する映像情報に基づいて複数の特徴点を抽出した後、前記抽出した複数の特徴点間の相関関係による相関ベクターをそれぞれ算出することができる。 As described above, the controller 150 may provide an image of leaves, stems, branches, flowers, fruits, etc. of a plant for any plant by month and/or by a specific time (including a flowering time, a fruit setting time, etc.) After extracting a plurality of feature points based on the information, a correlation vector can be calculated based on the correlation between the extracted plurality of feature points.

また、このように、前記制御部150は前記任意の植物に対して抽出した月別の複数の特徴点と相関ベクターに対して、ディープランニング学習方法を通じて該当特徴点および相関ベクターに対する情報を持続的にアップデート(または管理)することができる。 In addition, as described above, the control unit 150 continuously outputs information about the corresponding feature points and the correlation vector through the deep running learning method to the plurality of monthly feature points and the correlation vector extracted for the arbitrary plant. Can be updated (or managed).

また、前記制御部150はディープランニング学習方法を通じて植物の品種別に前記月別および/または特定の時点別映像情報を獲得する過程、前記獲得した映像情報内の複数の特徴点の抽出および関連した相関ベクターを算出する過程などを実行し、ビッグデータ基盤の植物情報に対して体系化された管理機能を提供することができる。 In addition, the controller 150 acquires the monthly and/or specific point-in-time image information according to plant varieties through a deep running learning method, extracts a plurality of feature points in the acquired image information, and associates the related vector. It is possible to provide a systematic management function for plant information based on big data by executing the process of calculating.

また、前記制御部150は前記端末200から伝送される特定の植物と関連した映像情報を含む植物分類要請情報、端末200の識別情報などを前記通信部110を通じて受信する。 Also, the controller 150 receives plant classification request information including image information related to a specific plant transmitted from the terminal 200, identification information of the terminal 200, and the like through the communication unit 110.

また、前記制御部150は前記受信した植物分類要請情報に含まれた映像情報内のメタ情報を確認(または抽出)する。この時、前記メタ情報は該当映像情報を撮影した撮影日および時刻情報(または撮影した時点の月(month)情報)、照度情報などを含む。 Also, the controller 150 confirms (or extracts) the meta information in the video information included in the received plant classification request information. At this time, the meta information includes shooting date and time information (or month information at the time of shooting), illuminance information, and the like when the corresponding video information is shot.

すなわち、前記制御部150は該当植物分類要請情報に含まれた映像情報が撮影された時点を確認するために、該当映像情報内のメタ情報を確認し、該当映像情報が撮影された月(month)を確認する。 That is, the controller 150 confirms the meta information in the corresponding image information in order to confirm the time when the image information included in the corresponding plant classification request information is captured, and determines the month when the corresponding image information is captured. ) Confirm.

また、前記制御部150は前記受信した植物分類要請情報に含まれた映像情報内の客体(または特定の植物)と関連した複数の特徴点を抽出する。 Also, the controller 150 extracts a plurality of feature points associated with an object (or a specific plant) in the image information included in the received plant classification request information.

また、前記制御部150は前記抽出した複数の特徴点間の他の相関ベクターを算出する。 Further, the control unit 150 calculates another correlation vector between the extracted plurality of feature points.

すなわち、前記制御部150は前記受信した植物分類要請情報に含まれた映像情報内の客体が植物であるかの可否を判断する。 That is, the controller 150 determines whether the object in the image information included in the received plant classification request information is a plant.

このように、前記制御部150は前記受信した植物分類要請情報に含まれた映像情報内の客体に対して、あらかじめ設定された客体認識アルゴリズム等を通して該当客体の特徴を確認し、前記確認した客体の特徴を通じて該当客体が植物であるかどうかの可否を判断することができる。 As described above, the control unit 150 confirms the characteristics of the corresponding object in the image information included in the received plant classification request information through a preset object recognition algorithm or the like, and confirms the confirmed object. Whether or not the object is a plant can be determined based on the characteristics of.

前記判断の結果、前記受信した植物分類要請情報に含まれた映像情報内の客体が植物ではない場合、前記制御部150は該当植物分類要請情報に含まれた映像情報内の客体が植物ではないことを表す情報を前記通信部110を通じて該当端末200に提供し、全体の過程を終了する。 If the object in the image information included in the received plant classification request information is not a plant as a result of the determination, the controller 150 determines that the object in the image information included in the corresponding plant classification request information is not a plant. The information indicating that is provided to the corresponding terminal 200 through the communication unit 110, and the whole process is completed.

前記判断の結果、前記受信した植物分類要請情報に含まれた映像情報内の客体が植物である場合、前記制御部150は該当映像情報内の客体に対する葉、幹、枝、花、実などに対して複数の特徴点を抽出(または確認)する。 As a result of the determination, if the object in the image information included in the received plant classification request information is a plant, the controller 150 determines whether the object in the image information includes leaves, trunks, branches, flowers, and fruits. On the other hand, a plurality of feature points are extracted (or confirmed).

また、前記制御部150は前記抽出した複数の特徴点間の相関関係による前記他の相関ベクターを算出する。この時、前記他の相関ベクターは特徴点間の距離(または大きさ)、任意の基準特徴点を根拠とする方向などの情報を含む。 Also, the control unit 150 calculates the other correlation vector based on the correlation between the extracted plurality of feature points. At this time, the other correlation vector includes information such as a distance (or size) between feature points and a direction based on an arbitrary reference feature point.

すなわち、前記制御部150は前記抽出した該当客体と関連した葉の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出して、該当客体の葉、幹、枝、花、実などの特徴(または形態)を確認する。 That is, the control unit 150 calculates and extracts another correlation vector between the feature point of the central portion of the leaf associated with the extracted object and at least one other adjacent feature point adjacent to the corresponding feature point. Calculate another correlation vector between the feature point of the central part of the trunk associated with the target object and at least one other adjacent feature point adjacent to the target feature point, and extract the correlation vector of the extracted central part of the branch associated with the target object. Another correlation vector between the feature point and at least one other adjacent feature point adjacent to the feature point is calculated, and the feature point of the central portion of the flower associated with the extracted object of interest and at least adjacent to the feature point of interest. Another correlation vector between one other adjacent feature point is calculated, and another between the extracted feature point of the actual central part associated with the corresponding object and at least one other adjacent feature point adjacent to the corresponding feature point. The correlation vector of is calculated to confirm the characteristics (or morphology) of the target object such as leaves, stems, branches, flowers, and fruits.

また、前記制御部150は前記抽出した該当客体に対応する葉と関連した一つ以上の特徴点、前記抽出した該当客体に対応する幹と関連した一つ以上の特徴点、前記抽出した該当客体に対応する枝と関連した一つ以上の特徴点、前記抽出した該当客体に対応する花と関連した一つ以上の特徴点、前記抽出した該当客体に対応する実と関連した一つ以上の特徴点間の一つ以上の他の相関ベクターを算出して、葉と幹と枝と花と実間の特徴(または形態)を確認する。 In addition, the controller 150 may include at least one feature point associated with the leaf corresponding to the extracted target object, at least one feature point associated with the trunk corresponding to the extracted target object, and the extracted corresponding object. One or more feature points associated with the branch corresponding to, one or more feature points associated with the flower corresponding to the extracted object, one or more features associated with the fruit corresponding to the extracted object One or more other correlation vectors between points are calculated to identify the features (or morphology) between leaves, stems, branches, flowers and fruits.

このように、前記制御部150は該当植物分類要請情報に含まれた映像情報内の客体である植物の特徴を確認するために、該当植物の特徴を確認できるパラメーター(例えば特徴点の抽出、部位別特徴点間の相関関係などを含む)を算出(または確認)することができる。 As described above, the control unit 150 may confirm the characteristics of the object plant in the image information included in the corresponding plant classification request information by using the parameters that can confirm the characteristics of the corresponding plant (for example, extraction of a feature point, a part It is possible to calculate (or confirm) the correlation between different feature points and the like.

また、前記制御部150は該当植物分類要請情報に含まれた映像情報内の客体の葉、幹、枝、花、実などの色相や形態(または形)を前記あらかじめ設定されたイメージ分析方法を通じて確認(または検出)することもできる。 In addition, the controller 150 determines the hue and shape (or shape) of the object leaf, trunk, branch, flower, fruit, etc. in the image information included in the relevant plant classification request information through the preset image analysis method. It can also be confirmed (or detected).

また、前記制御部150は前記保存部120にデータベース化された植物情報の中から、前記確認した(または抽出した)メタ情報に対応する月(または該当月を基準としてあらかじめ設定された間隔(例えば1カ月)だけの前/後を含む期間/範囲)と関連した植物情報を対象に、前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター(または該当特定の植物と関連した複数の特徴点に基づいて算出した他の相関ベクター)に対応する植物情報を確認(または検索)する。 In addition, the control unit 150 may select a month corresponding to the confirmed (or extracted) meta information from the plant information stored in the database of the storage unit 120 (or a preset interval based on the relevant month (for example, (1 month) only period/range including before/after), the plurality of feature points associated with the extracted specific plant and the calculated other correlation vector (or the specified specific plant) Confirm (or search) the plant information corresponding to another correlation vector calculated based on a plurality of feature points associated with.

すなわち、前記制御部150は前記保存部120にデータベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認(または検索)する。 That is, the control unit 150 identifies the extracted feature points from a plurality of feature points associated with a plurality of plants for each month in the plant information stored in the storage unit 120 and a correlation vector associated with the plurality of feature points. A plurality of feature points associated with the plant and the similarity between the calculated other correlation vectors are respectively calculated, and the plant information having the highest similarity among the calculated plurality of similarities is confirmed (or searched).

この時、前記制御部150は前記確認時間を減らし検索の正確度を高めるために、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から前記確認した(または抽出した)メタ情報に対応する特定月(または該当特定月を含む特定の期間)に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認することもできる。ここで、前記植物情報は複数の特徴点情報、複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、該当植物と関連した詳細情報、該当植物の管理方法についての付加情報などを含む。また、該当植物と関連した詳細情報は該当植物の一般表記名(または流通名)、学名、英名、科名、原産地、分類、生育形態、生長高さ(cm)、生長幅(cm)、生態型、葉の模様、葉の色、香り、繁殖方法などを含む。また、前記付加情報は管理水準、管理要求度、光要求度、配置場所、生長速度、生育適温、冬の最低温度、湿度、肥料、土壌、水やり(例えば、春、夏、秋、冬別水やり)、病虫害、病虫害管理、機能性情報などを含む。 At this time, the control unit 150, in order to reduce the confirmation time and improve the accuracy of the search, a plurality of feature points associated with a plurality of monthly plants in the database of plant information and a plurality of relevant feature points. At least one characteristic point associated with a plurality of plants corresponding to a specific month (or a specific period including the specific month) corresponding to the confirmed (or extracted) meta information from the related correlation vectors, and corresponding at least From each of the correlation vectors associated with one feature point, a plurality of feature points associated with the extracted specific plant and the calculated similarity between the other correlation vectors, respectively, are calculated. You can also check the plant information that has the highest degree of similarity. Here, the plant information is a plurality of feature point information, a correlation vector based on the correlation between a plurality of feature points, the hue and morphology of the confirmed relevant plant leaves, stems, branches, flowers, fruits, etc., related to the relevant plant. Detailed information and additional information on the management method of the plant in question. In addition, detailed information related to the plant is the general name (or distribution name), scientific name, English name, family name, place of origin, classification, growth form, growth height (cm), growth width (cm), ecology of the plant. Includes pattern, leaf pattern, leaf color, scent, breeding method, etc. Further, the additional information includes management level, management requirement, light requirement, location, growth rate, optimum temperature for growth, minimum temperature in winter, humidity, fertilizer, soil, watering (for example, according to spring, summer, autumn, winter). Watering), pest damage, pest management, functional information, etc.

また、前記制御部150は前記確認した(または検索した)植物情報に含まれた詳細情報、付加情報などを前記通信部110を通じて前記端末200に伝送する。 In addition, the control unit 150 transmits detailed information, additional information, etc. included in the confirmed (or searched) plant information to the terminal 200 through the communication unit 110.

また、前記制御部150は前記確認した(または検索した)植物情報に含まれた詳細情報、付加情報などを前記表示部130および/または前記音声出力部140を通じて出力する。 Further, the control unit 150 outputs detailed information, additional information, etc. included in the confirmed (or searched) plant information through the display unit 130 and/or the voice output unit 140.

前記端末200はスマートフォン(Smart Phone)、携帯端末機(Portable Terminal)、移動端末機(Mobile Terminal)、ポータブル端末機(Foldable Terminal)、個人情報端末機(Personal Digital Assistant:PDA)、PMP(Portable Multimedia Player)端末機、テレマティクス(Telematics)端末機、ナビゲーション(Navigation)端末機、パーソナルコンピューター(Personal Computer)、ノートパソコン、スレートPC(Slate PC)、タブレットPC(Tablet PC)、ウルトラブック(ultrabook)、ウェアラブルデバイス(Wearable Device、例えば、ウォッチ型端末機(Smartwatch)、ガラス型端末機(Smart Glass)、HMD(Head Mounted Display)等を含む)、ワイヤレスブロードバンド(Wibro)端末機、IPTV(Internet Protocol Television)端末機、スマートTV、デジタル放送用端末機、AVN(Audio Video Navigation)端末機、A/V(Audio/Video)システム、フレキシブル端末機(Flexible Terminal)、デジタルサイネージ装置などのような多様な端末機に適用され得る。 The terminal 200 is a smartphone (Smart Phone), a portable terminal (Portable Terminal), a mobile terminal (Mobile Terminal), a portable terminal (Foldable Terminal), a personal information terminal (Personal Digital Assistant: PDAT), PMP (PAT). Player terminal, Telematics terminal, Navigation terminal, Personal computer, Laptop PC, Slate PC, Tablet PC (Tablet PC), Ultrabook (Ultrabook), Wearable. Devices (Wearable Devices, for example, watch type terminals (Smartwatch), glass type terminals (Smart Glass), HMDs (Head Mounted Display), etc.), wireless broadband (Wibro) terminals, IPTV (Internet Protocol) terminals. Terminal, smart TV, digital broadcasting terminal, AVN (Audio Video Navigation) terminal, A/V (Audio/Video) system, flexible terminal (Flexible Terminal), digital signage device, etc. Can be applied.

また、前記端末200は前記サーバー100を構成する前記通信部110、前記保存部120、前記表示部130、前記音声出力部140、前記制御部150に対応する各構成要素を含んで構成することができる。 In addition, the terminal 200 may be configured to include respective components corresponding to the communication unit 110, the storage unit 120, the display unit 130, the voice output unit 140, and the control unit 150, which configure the server 100. it can.

また、前記端末200は前記サーバー100、他の端末などと通信する。 Also, the terminal 200 communicates with the server 100, another terminal, and the like.

また、前記端末200は該当端末200に備えられたカメラ(図示されず)を通じて特定の植物と関連した映像情報を獲得(または撮影)する。この時、前記特定の植物と関連した映像情報はイメージの形態または動画の形態であり得、該当端末200で該当特定の植物を撮影した映像情報であるかまたは他の端末(図示されず)等から提供された該当特定の植物を含む映像情報であり得る。 In addition, the terminal 200 acquires (or captures) image information related to a specific plant through a camera (not shown) included in the terminal 200. At this time, the image information related to the specific plant may be in the form of an image or a moving image, and may be image information of the specific plant photographed by the corresponding terminal 200 or another terminal (not shown). It may be video information including the specific plant provided by.

すなわち、該当獲得した映像情報内の特定の植物に対する詳細情報などを確認しようとする場合、前記端末200は前記特定の植物と関連した映像情報を含む植物分類要請情報を生成する。 That is, when the detailed information about a specific plant in the acquired image information is to be confirmed, the terminal 200 generates plant classification request information including image information related to the specific plant.

また、前記端末200は前記生成した植物分類要請情報、端末200の識別情報などを前記サーバー100に伝送する。ここで、前記端末機20の識別情報はMDN(Mobile Directory Number)、モバイルIP、モバイルMAC、Sim(subscriber identity module:加入者識別モジュール)カード固有情報、シリアル番号などを含む。 Also, the terminal 200 transmits the generated plant classification request information, the identification information of the terminal 200, etc. to the server 100. Here, the identification information of the terminal 20 includes MDN (Mobile Directory Number), mobile IP, mobile MAC, Sim (subscriber identity module) card unique information, and serial number.

また、前記端末200は先立って伝送された植物分類要請情報などに応答して前記サーバー100から伝送される前記特定の植物と関連した詳細情報、付加情報などを受信する。 In addition, the terminal 200 receives the detailed information and the additional information related to the specific plant transmitted from the server 100 in response to the plant classification request information transmitted in advance.

また、前記端末200は前記受信した詳細情報、付加情報、前記植物分類要請情報に含まれた特定の植物と関連した映像情報などを表示する。 In addition, the terminal 200 displays the received detailed information, additional information, image information related to a specific plant included in the plant classification request information, and the like.

本発明の実施例では、前記端末200から前記サーバー100に前記特定の植物と関連した映像情報を含む植物分類要請情報などを伝送し、これに対して前記サーバー100から関連した植物情報、付加情報などを前記端末200に提供することを説明しているが、これに限定されるものではなく、前記端末200は該当端末200に設置された専用アプリケーションを通じて前記植物分類要請情報伝送機能、応答情報受信機能などを遂行したりまたは前記サーバー100で提供するウェブサイトに接続して前記植物分類要請情報伝送機能、応答情報受信機能などを遂行することもできる。 In the embodiment of the present invention, the terminal 200 transmits the plant classification request information including the image information related to the specific plant to the server 100, and the related plant information and additional information from the server 100 are transmitted. However, the present invention is not limited to this, and the terminal 200 may receive the plant classification request information transmission function and the response information reception through a dedicated application installed in the corresponding terminal 200. The plant classification request information transmitting function and the response information receiving function may be performed by connecting to a website provided by the server 100.

このように、植物の葉、幹、枝、花、実などについてディープランニングを利用して植物の月別生育状態による特徴点を確認し、開花時期、着果時期などによる該当植物の特徴点を確認し、該当植物の変種に対する特徴点を確認し、前記確認した特徴点についての情報をデータベース化した後、特定のイメージに含まれた植物についての分類要請がある場合、該当イメージ内のメタ情報に基づいて前記データベース化された情報の中から該当イメージに対応する植物情報および前記植物情報に対応する付加情報を提供することができる。 In this way, by using deep running on the leaves, stems, branches, flowers, fruits, etc. of the plant, the characteristic points of the plant according to the monthly growth state are confirmed, and the characteristic points of the relevant plant depending on the flowering time, fruit setting time, etc. are confirmed. Then, after confirming the characteristic points for the varieties of the relevant plant, and after making a database of information on the confirmed characteristic points, if there is a classification request for the plants included in a specific image, the meta information in the relevant image Based on the information stored in the database, it is possible to provide plant information corresponding to the corresponding image and additional information corresponding to the plant information.

以下では、本発明に係るディープランニングを利用した植物分類方法を図1〜図4を参照して詳細に説明する。 Hereinafter, a plant classification method using deep running according to the present invention will be described in detail with reference to FIGS.

図3は、本発明の実施例に係るディープランニングを利用した植物分類方法を示したフローチャートである。 FIG. 3 is a flowchart showing a plant classification method using deep running according to an embodiment of the present invention.

まず、サーバー100は月別(または季節別/分期別)に同一植物に対して該当植物を含んだ映像情報を獲得(または撮影)する。 First, the server 100 obtains (or shoots) video information including a corresponding plant for the same plant by month (or by season/by season).

すなわち、前記サーバー100は1年12ヶ月に対して月別に植物の状態を確認できるように植物を含んだ映像情報を獲得する。 That is, the server 100 acquires image information including plants so that the state of the plants can be confirmed monthly for 1 year and 12 months.

また、前記サーバー100は前記撮影した(または獲得した)映像情報内の植物の葉、幹、枝、花、実などに対して月別生育状態による複数の特徴点を抽出(または確認)する。 In addition, the server 100 extracts (or confirms) a plurality of feature points depending on a monthly growth state of leaves, trunks, branches, flowers, fruits, etc. of the plant in the captured (or acquired) image information.

すなわち、前記サーバー100は月別に撮影した同一植物に対する映像情報別に複数の特徴点をそれぞれ抽出する。 That is, the server 100 extracts a plurality of feature points for each image information of the same plant photographed each month.

また、前記サーバー100は前記抽出した複数の特徴点間の相関関係による相関ベクターを算出する。この時、前記相関ベクターは特徴点間の距離(または大きさ)、任意の基準特徴点を根拠とする方向などの情報を含む。 The server 100 also calculates a correlation vector based on the correlation between the extracted feature points. At this time, the correlation vector includes information such as a distance (or size) between feature points and a direction based on an arbitrary reference feature point.

すなわち、前記サーバー100は葉の中央部位(または葉の一側)の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出し、実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出して、葉、幹、枝、花、実などの特徴(または形態)を確認する。 That is, the server 100 calculates a correlation vector between the feature point of the central part of the leaf (or one side of the leaf) and at least one other adjacent feature point adjacent to the corresponding feature point, and the feature point of the central part of the trunk is calculated. And a correlation vector between at least one other adjacent feature point adjacent to the relevant feature point, and a correlation vector between the feature point at the center of the branch and at least one other adjacent feature point adjacent to the relevant feature point. Calculate the correlation vector between the feature point of the central part of the flower and at least one other adjacent feature point adjacent to the relevant feature point, and calculate the correlation vector between the feature point of the actual central part and at least one adjacent feature point. By calculating the correlation vector between other adjacent feature points, the features (or morphology) of leaves, trunks, branches, flowers, fruits, etc. are confirmed.

また、前記サーバー100は前記抽出した葉と関連した一つ以上の特徴点、前記抽出した幹と関連した一つ以上の特徴点、前記抽出した枝と関連した一つ以上の特徴点、前記抽出した花と関連した一つ以上の特徴点、前記抽出した実と関連した一つ以上の特徴点間の一つ以上の相関ベクターを算出して、葉と幹と枝と花と実間の特徴(または形態)を確認する。 The server 100 may include one or more feature points associated with the extracted leaf, one or more feature points associated with the extracted trunk, one or more feature points associated with the extracted branch, and the extraction. One or more feature points associated with the extracted flower and one or more correlation vectors between the one or more feature points associated with the extracted fruit, and the feature between the leaves, the trunk, the branches, the flower, and the fruit. Check (or form).

この時、前記サーバー100は月別に撮影した同一植物に対する映像情報別に該当植物と関連した特徴点の抽出および相関ベクターの算出機能を遂行するだけでなく、該当植物と関連した特定の時点である開花時期、着果時期などに対する該当植物の特徴点の抽出および関連した相関ベクターの算出機能を遂行することもできる。 At this time, the server 100 not only performs a function of extracting a feature point and a correlation vector of a corresponding plant according to image information of the same plant photographed each month, but also performs a flowering at a specific time associated with the plant. It is also possible to perform the function of extracting the characteristic points of the corresponding plant with respect to the time, the fruit setting time, etc. and calculating the related correlation vector.

また、前記サーバー100は元物に対応する該当植物に対する月別特徴点の抽出および関連した相関ベクターの算出だけでなく、該当植物と関連した変種植物が存在する場合、該当変種植物と関連した葉、幹、枝、花、実などに対する複数の特徴点の抽出と前記抽出した変種植物と関連した複数の特徴点に対する相関ベクターを算出することもできる。 In addition, the server 100 not only extracts the monthly characteristic points of the corresponding plant corresponding to the original and calculates the related correlation vector, but also when there is a variety plant related to the plant, leaves associated with the variety plant, It is also possible to extract a plurality of feature points for stems, branches, flowers, fruits, etc. and to calculate a correlation vector for a plurality of feature points associated with the extracted variety plant.

また、前記サーバー100は該当植物の葉、幹、枝、花、実などの色相や形態(または形)をあらかじめ設定されたイメージ分析方法を通じて確認(または検出)することもできる。 In addition, the server 100 may also confirm (or detect) the hue and morphology (or shape) of leaves, stems, branches, flowers, fruits, etc. of the corresponding plant through a preset image analysis method.

このように、前記サーバー100は映像情報を分析して、該当植物と関連した多様な情報を獲得(または収集)する。 In this way, the server 100 analyzes the image information and acquires (or collects) various information related to the plant.

一例として、前記サーバー100は植物の品種別に1月〜12月まで毎月1日にそれぞれの植物を含む映像情報を撮影する。この時、該当植物は自然状態で生育中であるか人工施設で生育中である状態であり得る。 As an example, the server 100 captures image information including each plant from January to December for each plant type on the first day of every month. At this time, the plant in question may be in a natural state or in an artificial facility.

また、前記サーバー100は月別に撮影した映像情報内の植物の葉、幹、枝、花、実などに対して月別に複数の特徴点をそれぞれ抽出する。 Also, the server 100 extracts a plurality of feature points for each month from leaves, trunks, branches, flowers, fruits, etc. of the plant in the image information photographed each month.

また、前記サーバー100は前記月別に抽出した葉と関連した一つ以上の特徴点、前記月別に抽出した幹と関連した一つ以上の特徴点、前記月別に抽出した枝と関連した一つ以上の特徴点、前記月別に抽出した花と関連した一つ以上の特徴点、前記月別に抽出した実と関連した一つ以上の特徴点間の一つ以上の相関ベクターを算出する。この時、前記算出される相関ベクターは月別に整列した状態(例えば1月〜12月のそれぞれに対して葉、幹、枝、花、実間の相関関係)であり得る。 In addition, the server 100 may include one or more feature points associated with the leaves extracted by the month, one or more feature points associated with the trunk extracted by the month, and one or more feature points associated with the branches extracted by the month. , One or more feature points associated with the flowers extracted by the month, and one or more correlation vectors between the one or more feature points associated with the fruit extracted by the month. At this time, the calculated correlation vector may be in a state of being arranged monthly (for example, a correlation between leaves, stems, branches, flowers, and fruits for each of January to December).

また、前記サーバー100は前記月別に撮影した映像情報内の植物の葉、幹、枝、花、実などに対する色相や形態をそれぞれ確認する(S310)。 In addition, the server 100 confirms the hue and morphology of the leaves, stems, branches, flowers, fruits, etc. of the plant in the image information photographed for each month (S310).

この後、前記サーバー100は前記確認した植物の月別生育状態による複数の特徴点情報、複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、該当植物と関連した詳細情報、該当植物の管理方法についての付加情報などを含む植物情報をデータベース化して保存する。 After that, the server 100 stores a plurality of characteristic point information according to the confirmed monthly growth status of the plant, a correlation vector based on a correlation between the plurality of characteristic points, leaves, stems, branches, flowers, fruits, etc. of the confirmed corresponding plant. The plant information including the hue and morphology, detailed information related to the relevant plant, and additional information on the management method of the relevant plant is stored in a database.

このように、前記サーバー100は任意の植物に対して月別におよび/または特定の時点別に(例えば開花時期、着果時期などを含む)植物の葉、幹、枝、花、実などに対する映像情報に基づいて複数の特徴点を抽出した後、前記抽出した複数の特徴点間の相関関係による相関ベクターをそれぞれ算出することができる。 As described above, the server 100 may provide image information on leaves, stems, branches, flowers, fruits, etc. of a plant for any plant by month and/or at a specific time point (including flowering time, fruit setting time, etc.). After extracting a plurality of feature points based on the above, a correlation vector can be calculated based on the correlation between the extracted plurality of feature points.

また、このように、前記サーバー100は前記任意の植物に対して抽出した月別の複数の特徴点と相関ベクターに対して、ディープランニング学習方法を通じて該当特徴点および相関ベクターに対する情報を持続的にアップデート(または管理)することができる。 Further, as described above, the server 100 continuously updates the information on the feature points and the correlation vector for the plurality of monthly feature points and the correlation vector extracted for the arbitrary plant through the deep running learning method. (Or managed).

また、前記サーバー100はディープランニング学習方法を通じて植物の品種別に前記月別および/または特定の時点別映像情報を獲得する過程、前記獲得した映像情報内の複数の特徴点の抽出および関連した相関ベクターを算出する過程などを遂行して、ビッグデータ基盤の植物情報に対して体系化された管理機能を提供することができる。 Also, the server 100 obtains the image information for each month and/or a specific time point according to the variety of the plant through the deep running learning method, extracts a plurality of feature points in the obtained image information, and associates the associated correlation vector. By performing a calculation process and the like, it is possible to provide a systematic management function for plant information based on big data.

一例として、前記サーバー100は植物の品種別に前記月別に抽出した福数の特徴点、該当複数の特徴点と関連した相関ベクター、該当植物の葉、幹、枝、花、実などの色相や形態、該当植物と関連した詳細情報、該当植物のカンリ方法についての付加情報などをデータベース化して保存する(S320)。 As an example, the server 100 may extract feature numbers of fortune numbers extracted by month according to plant varieties, correlation vectors associated with the corresponding feature points, and hues and shapes of leaves, stems, branches, flowers, and fruits of the plants. , Detailed information related to the relevant plant, additional information about the method of feeding the relevant plant, and the like are stored as a database (S320).

この後、端末200は特定の植物と関連した映像情報を含む植物分類要請情報、端末200の識別情報などを前記サーバー100に伝送する。この時、前記特定の植物と関連した映像情報はイメージの形態または動画の形態であり得、該当端末200で該当特定の植物を撮影した映像情報であるかまたは他の端末(図示されず)等から提供された該当特定の植物を含む映像情報であり得る。また、前記端末200の識別情報はMDN、モバイルIP、モバイルMAC、Sim(加入者識別モジュール)カード固有情報、シリアル番号などを含む。 Then, the terminal 200 transmits the plant classification request information including the image information related to the specific plant, the identification information of the terminal 200, etc. to the server 100. At this time, the image information related to the specific plant may be in the form of an image or a moving image, and may be image information of the specific plant photographed by the corresponding terminal 200 or another terminal (not shown). It may be image information including the specific plant provided by. Further, the identification information of the terminal 200 includes MDN, mobile IP, mobile MAC, SIM (subscriber identification module) card unique information, serial number and the like.

一例として、第1端末200は該当前記第1端末のユーザー制御によって該当第1端末に備えられたカメラ(図示されず)を通じて第1植物(例えばサンセベリア)を含む第1映像情報を撮影し、前記撮影した第1植物を含む第1映像情報に基づいて該当第1植物に対する詳細情報などを要請するための第1植物分類要請情報を生成する。 As an example, the first terminal 200 captures first image information including a first plant (eg, Sansevieria) through a camera (not shown) included in the corresponding first terminal under user control of the corresponding first terminal, and First plant classification request information for requesting detailed information for the first plant is generated based on the first image information including the captured first plant.

また、前記第1端末は前記生成した第1植物分類要請情報、前記第1端末の識別情報などを前記サーバー100に伝送する(S330)。 In addition, the first terminal transmits the generated first plant classification request information, identification information of the first terminal, etc. to the server 100 (S330).

以後、前記サーバー100は前記端末200から伝送される特定の植物と関連した映像情報を含む植物分類要請情報、端末200の識別情報などを受信する。 Thereafter, the server 100 receives plant classification request information including image information related to a specific plant, identification information of the terminal 200, etc. transmitted from the terminal 200.

また、前記サーバー100は前記受信した植物分類要請情報に含まれた映像情報内のメタ情報を確認(または抽出)する。この時、前記メタ情報は該当映像情報を撮影した撮影日および時刻情報(または撮影した時点の月(month)情報)、照度情報などを含む。 Also, the server 100 confirms (or extracts) the meta information in the image information included in the received plant classification request information. At this time, the meta information includes shooting date and time information (or month information at the time of shooting), illuminance information, and the like when the corresponding video information is shot.

また、前記サーバー100は前記受信した植物分類要請情報に含まれた映像情報内の客体(または特定の植物)と関連した複数の特徴点を抽出する。 Also, the server 100 extracts a plurality of feature points associated with an object (or a specific plant) in the image information included in the received plant classification request information.

また、前記サーバー100は前記抽出した複数の特徴点間の他の相関ベクターを算出する。 Further, the server 100 calculates another correlation vector between the extracted plurality of feature points.

すなわち、前記サーバー100は前記受信した植物分類要請情報に含まれた映像情報内の客体が植物であるかの可否を判断する。 That is, the server 100 determines whether the object in the image information included in the received plant classification request information is a plant.

前記判断の結果、前記受信した植物分類要請情報に含まれた映像情報内の客体が植物である場合、前記サーバー100は該当映像情報内の客体に対する葉、幹、枝、花、実などに対して複数の特徴点を抽出(または確認)する。 As a result of the determination, if the object in the image information included in the received plant classification request information is a plant, the server 100 determines that the object in the image information includes leaves, trunks, branches, flowers, and fruits. To extract (or confirm) multiple feature points.

また、前記サーバー100は前記抽出した複数の特徴点間の相関関係による前記他の相関ベクターを算出する。この時、前記他の相関ベクターは特徴点間の距離(または大きさ)、任意の基準特徴点を根拠とする方向などの情報を含む。 Also, the server 100 calculates the other correlation vector based on the correlation between the extracted plurality of feature points. At this time, the other correlation vector includes information such as a distance (or size) between feature points and a direction based on an arbitrary reference feature point.

すなわち、前記サーバー100は前記抽出した該当客体と関連した葉の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出し、前記抽出した該当客体と関連した実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の他の相関ベクターを算出して、該当客体の葉、幹、枝、花、実などの特徴(または形態)を確認する。 That is, the server 100 calculates another correlation vector between the feature point of the central portion of the leaf related to the extracted target object and at least one other adjacent feature point adjacent to the corresponding feature point, and extracts the extracted corresponding vector. The feature of the central portion of the branch associated with the extracted target object is calculated by calculating another correlation vector between the feature point of the central portion of the trunk associated with the object and at least one other adjacent feature point adjacent to the corresponding feature point. Another correlation vector between the point and at least one other adjacent feature point adjacent to the relevant feature point is calculated, and the feature point of the central portion of the flower associated with the extracted relevant object and at least one adjacent to the relevant feature point are calculated. Another correlation vector between two other adjacent feature points is calculated, and another feature vector between the extracted feature point of the actual central part and the at least one other adjacent feature point adjacent to the relevant object is extracted. The correlation vector is calculated to confirm the characteristics (or morphology) of the target object such as leaves, trunks, branches, flowers, and fruits.

また、前記サーバー100は前記抽出した該当客体に対応する葉と関連した一つ以上の特徴点、前記抽出した該当客体に対応する幹と関連した一つ以上の特徴点、前記抽出した該当客体に対応する枝と関連した一つ以上の特徴点、前記抽出した該当客体に対応する花と関連した一つ以上の特徴点、前記抽出した該当客体に対応する実と関連した一つ以上の特徴点間の一つ以上の他の相関ベクターを算出して、葉と幹と枝と花と実間の特徴(または形態)を確認する。 In addition, the server 100 may include one or more feature points associated with the leaf corresponding to the extracted target object, one or more feature points associated with the trunk corresponding to the extracted target object, and the extracted target object. One or more feature points associated with the corresponding branch, one or more feature points associated with the flower corresponding to the extracted target object, one or more feature points associated with the fruit corresponding to the extracted target object One or more other intervening correlation vectors are calculated to identify features (or morphology) between leaves, stems, branches, flowers and fruits.

また、前記サーバー100は該当植物分類要請情報に含まれた映像情報内の客体の葉、幹、枝、花、実などの色相や形態(または形)を前記あらかじめ設定されたイメージ分析方法を通じて確認(または検出)することもできる。 Also, the server 100 confirms the hue and form (or shape) of the object leaf, trunk, branch, flower, fruit, etc. in the image information included in the relevant plant classification request information through the preset image analysis method. (Or detected).

一例として、前記サーバー100は前記第1端末から伝送される第1植物分類要請情報、前記第1端末の識別情報などを受信する。 For example, the server 100 receives the first plant classification request information, the identification information of the first terminal, etc. transmitted from the first terminal.

また、前記サーバー100は前記第1植物分類要請情報に含まれた第1映像情報内のメタ情報(例えば2018年12月01日午後03時30分15秒)等を確認する。 Also, the server 100 confirms the meta information (eg, December 01, 2018 03:30:15 PM) in the first video information included in the first plant classification request information.

また、前記サーバー100は前記第1植物分類要請情報に含まれた第1映像情報内の客体が植物であるかの可否を判断し、該当客体が植物であると判断される時、該当客体に対する葉、幹、枝、花、実などに対して複数の特徴点を抽出する。 In addition, the server 100 determines whether the object in the first image information included in the first plant classification request information is a plant, and determines that the object is a plant when the object is a plant. Extract multiple feature points for leaves, trunks, branches, flowers, fruits, etc.

また、前記サーバー100は前記抽出した該当客体に対する葉と関連した一つ以上の特徴点、幹と関連した一つ以上の特徴点、枝と関連した一つ以上の特徴点、花と関連した一つ以上の特徴点、実と関連した一つ以上の特徴点間の一つ以上の他の相関ベクターをそれぞれ算出する。 In addition, the server 100 may include one or more feature points associated with a leaf for the extracted object, one or more feature points associated with a trunk, one or more feature points associated with a branch, and one feature point associated with a flower. Compute one or more feature points and one or more other correlation vectors between one or more feature points associated with the fruit, respectively.

また、前記サーバー100は前記第1映像情報内の客体の葉、幹、枝、花、実などに対する色相や形態をそれぞれ確認する(S340)。 In addition, the server 100 confirms the hue and form of the object leaf, trunk, branch, flower, fruit, etc. in the first image information (S340).

この後、前記サーバー100は前記データベース化された植物情報の中から前記確認した(または抽出した)メタ情報に対応する月(または該当月を基準としてあらかじめ設定された間隔(例えば1カ月)だけの前/後を含む期間/範囲)と関連した植物情報を対象に、前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター(または該当特定の植物と関連した複数の特徴点に基づいて算出した他の相関ベクター)に対応する植物情報を確認(または検索)する。 After that, the server 100 selects a month corresponding to the confirmed (or extracted) meta information from the plant information stored in the database (or only a preset interval (for example, one month) based on the relevant month). A plurality of feature points related to the extracted specific plant and the calculated other correlation vectors (or a plurality of related vectors related to the specified specific plant) are used for the plant information related to the period/range including before/after). Confirm (or search) the plant information corresponding to another correlation vector calculated based on the feature points.

すなわち、前記サーバー100は前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認(または検索)する。この時、前記サーバー100は前記確認時間を減らし検索の正確度を高めるために、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から前記確認した(または抽出した)メタ情報に対応する特定月(または該当特定月を含む特定期間)に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認することもできる。ここで、前記植物情報は複数の特徴点情報、複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、該当植物と関連した詳細情報、該当植物の管理方法についての付加情報などを含む。また、該当植物と関連した詳細情報は該当植物の一般表記名(または流通名)、学名、英名、科名、原産地、分類、生育形態、生場高さ(cm)、生長幅(cm)、生態型、葉の模様、葉の色、香り、繁殖方法などを含む。また、前記付加情報は管理水準、管理要求度、光要求度、配置場所、生長速度、生育適温、冬の最低温度、湿度、肥料、土壌、水やり(例えば、春、夏、秋、冬別水やり)、病虫害、病虫害管理、機能性情報などを含む。 That is, the server 100 is associated with the extracted specific plant from a plurality of feature points associated with a plurality of monthly plants in the database information stored in the database and a correlation vector associated with the plurality of relevant feature points. The similarity between the plurality of feature points and the calculated other correlation vector is calculated, and the plant information having the highest similarity among the calculated plurality of similarities is confirmed (or searched). At this time, the server 100 relates to a plurality of feature points associated with a plurality of monthly plants in the database of plant information and a plurality of relevant feature points in order to reduce the confirmation time and increase the accuracy of the search. At least one characteristic point associated with a plurality of plants corresponding to a specific month (or a specific period including the specific month) corresponding to the confirmed (or extracted) meta information from the correlation vector and at least one corresponding The similarity between the plurality of feature points associated with the extracted specific plant and the calculated other correlation vectors from the correlation vectors associated with the feature points is calculated, and the similarity among the plurality of calculated similarities is calculated. You can also check the plant information with the highest degree. Here, the plant information is a plurality of feature point information, a correlation vector based on the correlation between a plurality of feature points, the hue and morphology of the confirmed relevant plant leaves, stems, branches, flowers, fruits, etc., related to the relevant plant. Detailed information and additional information on the management method of the plant in question. In addition, detailed information related to the relevant plant is the general notation name (or distribution name), scientific name, English name, family name, place of origin, classification, growth form, birth height (cm), growth width (cm), of the relevant plant. Includes ecotype, leaf pattern, leaf color, scent, breeding method, etc. Further, the additional information includes management level, management requirement, light requirement, location, growth rate, optimum temperature for growth, minimum temperature in winter, humidity, fertilizer, soil, watering (for example, according to spring, summer, autumn, winter). Watering), pest damage, pest management, functional information, etc.

また、前記サーバー100は前記確認した(または検索した)植物情報に含まれた詳細情報、付加情報などを前記端末200に伝送する。 Further, the server 100 transmits detailed information, additional information, etc. included in the confirmed (or searched) plant information to the terminal 200.

一例として、前記サーバー100は前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から前記確認した第1映像情報内のメタ情報(例えば2018年12月01日午後03時30分15秒)に対応する特定月(例えば12月)(または該当特定月である12月前後の11月〜01月)と関連する12月に獲得した映像情報に基づいて抽出した前記複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した客体に対する葉、幹、枝、花、実などと関連した複数の特徴点および該当複数の特徴点と関連した一つ以上の他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい第11植物情報(例えばサンセベリアと関連した植物情報)確認する。 As an example, the server 100 may include a plurality of feature points associated with a plurality of plants for each month in the plant information stored in the database and a correlation vector associated with the plurality of feature points in the confirmed first image information. 12 associated with a specific month (for example, December) corresponding to the meta information (for example, 03:30:15 pm, December 01, 2018) (or November-January around December, which is the corresponding specific month) Leaves, trunks, branches, and flowers for the object extracted from at least one feature point associated with the plurality of plants and the correlation vector associated with the at least one feature point extracted based on the image information acquired in the month , A similarity between a plurality of feature points associated with the actual and one or more other correlation vectors associated with the corresponding feature points is calculated, and the similarity is the highest among the calculated plurality of similarities. Confirm the 11th plant information (for example, plant information related to Sansevieria).

また、前記サーバー100は前記データベース化された植物情報の中から、前記確認した第11植物情報(例えばサンセベリアと関連した植物情報)に含まれた該当サンセベリアに対する第11詳細情報、該当サンセベリアの管理方法に対する第11付加情報などを確認する。 In addition, the server 100 may include, from the plant information stored in the database, the eleventh detailed information for the corresponding Sansevieria included in the confirmed eleventh plant information (for example, plant information related to Sansevieria), and a management method for the corresponding Sansevieria. 11th additional information and the like are confirmed.

また、前記サーバー100は前記確認した第11詳細情報(例えばサンセベリアと関連した詳細情報)、該当第11詳細情報と関連した第11付加情報などを前記第1端末に伝送する(S350)。 Further, the server 100 transmits the confirmed eleventh detailed information (for example, detailed information related to Sansevieria), eleventh additional information related to the corresponding eleventh detailed information, and the like to the first terminal (S350).

この後、前記端末200は先立って伝送された植物分類要請情報などに応答して前記サーバー100から伝送される前記特定の植物と関連した詳細情報、付加情報などを受信する。 Then, the terminal 200 receives the detailed information and the additional information related to the specific plant transmitted from the server 100 in response to the plant classification request information transmitted previously.

また、前記端末200は前記受信した詳細情報、付加情報、前記植物分類要請情報に含まれた特定の植物と関連した映像情報などを表示する。 In addition, the terminal 200 displays the received detailed information, additional information, image information related to a specific plant included in the plant classification request information, and the like.

一例として、前記第1端末は先立って伝送された第1植物分類要請情報などに応答して前記サーバー100から伝送されるサンセベリアと関連した第11詳細情報、該当サンセベリアの管理方法に対する第11付加情報などを受信する。 As an example, the first terminal may respond to the first plant classification request information transmitted in advance, and the eleventh detailed information related to Sansevieria transmitted from the server 100, and the eleventh additional information regarding the management method of the corresponding Sansevieria. Etc.

また、図4に図示された通り、前記第1端末は前記第1植物分類要請情報に含まれた第1映像情報内の第1植物、前記受信した第11詳細情報、第11付加情報などを共に表示400する(S360)。 In addition, as illustrated in FIG. 4, the first terminal may include the first plant in the first video information included in the first plant classification request information, the received eleventh detailed information, and the eleventh additional information. Both are displayed 400 (S360).

本発明の実施例は前述された通り、植物の葉、幹、枝、花、実などについてディープランニングを利用して植物の月別生育状態による特徴点を確認し、開花時期、着果時期などによる該当植物の特徴点を確認し、該当植物の変種に対する特徴点を確認し、前記確認した特徴点に対する情報をデータベース化した後、特定のイメージに含まれた植物についての分類要請がある場合、該当イメージ内のメタ情報に基づいて前記データベース化された情報の中から該当イメージに対応する植物情報および前記植物情報に対応する付加情報を提供して、現在の状態の植物についての分類正確度を高め、良質の情報を提供してユーザーの満足度を高めることができる。 As described above, the examples of the present invention, as described above, confirm the characteristic points by the monthly growth state of the plant by utilizing deep running for leaves, stems, branches, flowers, fruits, etc., depending on the flowering time, the fruit setting time, etc. After confirming the characteristic points of the corresponding plant, confirming the characteristic points for the varieties of the corresponding plant, and making a database of information on the confirmed characteristic points, if there is a classification request for the plants included in the specific image, it is applicable. Providing plant information corresponding to the corresponding image and additional information corresponding to the plant information from the information stored in the database based on the meta information in the image to improve the classification accuracy of the plant in the current state. Providing good quality information can increase user satisfaction.

前述された内容は、本発明が属する技術分野で通常の知識を有する者であれば、本発明の本質的な特性から逸脱しない範囲で修正および変形が可能である。したがって、本発明に開示された実施例は本発明の技術思想を限定するためのものではなく説明するためのものであって、このような実施例によって本発明の技術思想の範囲が限定されるものではない。本発明の保護範囲は下記の特許請求の範囲によって解釈され、それと同等な範囲内にあるすべての技術思想は本発明の権利範囲に含まれる。 The above contents can be modified and changed by those skilled in the art to which the present invention pertains without departing from the essential characteristics of the present invention. Therefore, the embodiments disclosed in the present invention are not intended to limit the technical idea of the present invention, but are intended to be explained, and the scope of the technical idea of the present invention is limited by such embodiments. Not a thing. The protection scope of the present invention is construed according to the following claims, and all technical ideas within the scope equivalent thereto are included in the scope of rights of the present invention.

10:ディープランニングを利用した植物分類システム
100:サーバー
200:端末
110:通信部
120:保存部
130:表示部
140:音声出力部
150:制御部
10: Plant classification system using deep running 100: Server 200: Terminal 110: Communication unit 120: Storage unit 130: Display unit 140: Voice output unit 150: Control unit

Claims (7)

月別に同一植物に対して前記植物を含む映像情報を獲得し、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して月別生育状態による複数の特徴点を抽出し、前記抽出した複数の特徴点間の相関関係による相関ベクターを算出し、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して色相や形態をそれぞれ確認し、前記抽出した植物の月別生育状態による複数の特徴点情報、前記複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、前記植物と関連した詳細情報および前記植物の管理方法についての付加情報を含む植物情報をデータベース化して保存するサーバー;および
特定の植物と関連した他の映像情報を含む植物分類要請情報および前記端末の識別情報を前記サーバーに伝送する端末を含む
ことを特徴とするディープランニングを利用した植物分類システム。
Image information including the plant is acquired for the same plant for each month, and a plurality of characteristic points according to the monthly growth state are extracted for leaves, stems, branches, flowers and fruits of the plant in the acquired image information, and Calculate a correlation vector by the correlation between the plurality of extracted feature points, and confirm the hue and morphology of the leaves, stems, branches, flowers and fruits of the plant in the acquired video information, respectively, and Information on a plurality of characteristic points according to monthly growth state, a correlation vector based on a correlation between the plurality of characteristic points, hues and forms of leaves, stems, branches, flowers, fruits, etc. of the confirmed corresponding plants, details related to the plants A server that stores information and plant information including additional information about the plant management method in a database; and plant classification request information including other image information related to a specific plant and identification information of the terminal to the server. A plant classification system using deep running characterized by including a transmitting terminal.
前記相関ベクターは、
特徴点間の距離および方向情報を含む
請求項1に記載のディープランニングを利用した植物分類システム。
The correlation vector is
The plant classification system using deep running according to claim 1, including distance and direction information between feature points.
前記サーバーは、
前記抽出した葉と関連した一つ以上の特徴点、前記抽出した幹と関連した一つ以上の特徴点、前記抽出した枝と関連した一つ以上の特徴点、前記抽出した花と関連した一つ以上の特徴点および前記抽出した実と関連した一つ以上の特徴点間の一つ以上の相関ベクターを算出して、葉と幹と枝と花と実間の特徴を確認する
請求項1に記載のディープランニングを利用した植物分類システム。
The server is
One or more feature points associated with the extracted leaf, one or more feature points associated with the extracted trunk, one or more feature points associated with the extracted branch, one associated with the extracted flower The one or more correlation vectors between the one or more feature points and the one or more feature points associated with the extracted fruit are calculated to confirm the feature between the leaves, the trunk, the branches, the flowers, and the fruit. A plant classification system using deep running described in.
前記サーバーは、
前記植物分類要請情報に含まれた他の映像情報内のメタ情報を確認し、前記植物分類要請情報に含まれた他の映像情報内の客体が植物であるかの可否を判断し、前記判断の結果、前記他の映像情報内の客体が植物であるとき、前記サーバーによって、前記他の映像情報内の客体に対する葉、幹、枝、花および実に対する複数の他の特徴点を抽出し、前記抽出した複数の他の特徴点間の相関関係による他の相関ベクターを算出し、前記植物分類要請情報に含まれた他の映像情報内の客体の葉、幹、枝、花および実の色相や形態を確認し、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から、前記確認したメタ情報に対応する特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターを確認し、前記確認した特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の他の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出し、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認し、前記確認した植物情報に含まれた詳細情報および付加情報を前記端末に伝送し、
前記端末は、
前記伝送された植物分類要請情報に応答して前記サーバーから伝送される前記特定の植物と関連した詳細情報および付加情報を表示する
請求項1に記載のディープランニングを利用した植物分類システム。
The server is
The meta information in the other video information included in the plant classification request information is confirmed, and it is determined whether the object in the other video information included in the plant classification request information is a plant. As a result, when the object in the other video information is a plant, the server extracts a plurality of other feature points for leaves, trunks, branches, flowers and fruits for the object in the other video information, Another correlation vector is calculated based on the correlation between the extracted plurality of other feature points, and the hue of the object leaf, trunk, branch, flower, and fruit in the other video information included in the plant classification request information is calculated. And the morphology are confirmed, and among the plurality of feature points associated with a plurality of plants for each month in the plant information stored in the database and the correlation vector associated with the plurality of relevant feature points, corresponding to the confirmed meta information. At least one feature point associated with a plurality of plants corresponding to a specific month and a correlation vector associated with the corresponding at least one feature point are confirmed, and at least one associated with a plurality of plants corresponding to the confirmed specific month is identified. Calculating a similarity between a plurality of other feature points related to the extracted specific plant and the calculated other correlation vector from among the correlation vectors associated with one feature point and the corresponding at least one feature point, Confirm the plant information with the highest similarity among the calculated plurality of similarities, and transmit detailed information and additional information included in the confirmed plant information to the terminal,
The terminal is
The plant classification system using deep running according to claim 1, wherein detailed information and additional information related to the specific plant transmitted from the server are displayed in response to the transmitted plant classification request information.
サーバーによって、月別に同一植物に対して前記植物を含む映像情報を獲得する段階;
前記サーバーによって、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して月別生育状態による複数の特徴点を抽出する段階;
前記サーバーによって、前記抽出した複数の特徴点間の相関関係による相関ベクターを算出する段階;
前記サーバーによって、前記獲得した映像情報内の植物の葉、幹、枝、花および実に対して色相や形態をそれぞれ確認する段階;および
前記サーバーによって、前記抽出した植物の月別生育状態による複数の特徴点情報、前記複数の特徴点間の相関関係による相関ベクター、前記確認した該当植物の葉、幹、枝、花、実などの色相や形態、前記植物と関連した詳細情報および前記植物の管理方法についての付加情報を含む植物情報をデータベース化して保存する段階を含む
ことを特徴とするディープランニングを利用した植物分類方法。
Obtaining image information including the plant for the same plant by the server by month;
The server extracts a plurality of feature points according to a monthly growth condition for leaves, stems, branches, flowers, and fruits in the acquired image information.
Calculating a correlation vector according to the correlation between the extracted plurality of feature points by the server;
The server confirms the hue and morphology of the leaves, stems, branches, flowers and fruits of the plants in the acquired image information; and the server determines a plurality of features according to the monthly growth state of the extracted plants. Point information, correlation vector by correlation between the plurality of feature points, hue and morphology of leaves, stems, branches, flowers, fruits, etc. of the identified corresponding plant, detailed information related to the plant and management method of the plant A plant classification method using deep running, characterized by including a step of creating a database of plant information including additional information regarding to store.
前記相関ベクターを算出する段階は、
葉の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;
幹の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;
枝の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;
花の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程;および
実の中央部位の特徴点と該当特徴点に隣接した少なくとも一つの他の隣接特徴点間の相関ベクターを算出する過程のうち少なくとも一つの過程を含む
請求項5に記載のディープランニングを利用した植物分類方法。
The step of calculating the correlation vector comprises
Calculating a correlation vector between the feature point of the central portion of the leaf and at least one other adjacent feature point adjacent to the feature point;
Calculating a correlation vector between the feature point of the central portion of the trunk and at least one other adjacent feature point adjacent to the feature point;
Calculating a correlation vector between the feature point at the center of the branch and at least one other adjacent feature point adjacent to the feature point;
Calculating a correlation vector between the feature point of the central portion of the flower and at least one other adjacent feature point adjacent to the relevant feature point; and the feature point of the actual central portion and at least one other adjacent to the relevant feature point The plant classification method using deep running according to claim 5, including at least one step of calculating a correlation vector between adjacent feature points of the above.
端末によって、特定の植物と関連した他の映像情報を含む植物分類要請情報および前記端末の識別情報を前記サーバーに伝送する段階;
前記サーバーによって、前記端末から伝送される植物分類要請情報に含まれた他の映像情報内のメタ情報を確認する段階;
前記サーバーによって、前記植物分類要請情報に含まれた他の映像情報内の客体が植物であるかの可否を判断する段階;
前記判断の結果、前記他の映像情報内の客体が植物であるとき、前記サーバーによって、前記他の映像情報内の客体に対する葉、幹、枝、花および実に対する複数の他の特徴点を抽出する段階;
前記サーバーによって、前記抽出した複数の他の特徴点間の相関関係による他の相関ベクターを算出する段階;
前記サーバーによって、前記植物分類要請情報に含まれた他の映像情報内の客体の葉、幹、枝、花および実の色相や形態を確認する段階;
前記サーバーによって、前記データベース化された植物情報内の月別の複数の植物と関連した複数の特徴点および該当複数の特徴点と関連した相関ベクターの中から、前記確認したメタ情報に対応する特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターを確認する段階;
前記サーバーによって、前記確認した特定の月に該当する複数の植物と関連した少なくとも一つの特徴点および該当少なくとも一つの特徴点と関連した相関ベクターの中から前記抽出した特定の植物と関連した複数の他の特徴点および前記算出した他の相関ベクター間の類似度をそれぞれ算出する段階;
前記サーバーによって、前記算出した複数の類似度のうち類似度が最も大きい植物情報を確認する段階;
前記サーバーによって、前記確認した植物情報に含まれた詳細情報および付加情報を前記端末に伝送する段階;および
前記端末によって、前記伝送された植物分類要請情報に応答して前記サーバーから伝送される前記特定の植物と関連した詳細情報および付加情報を表示段階をさらに含む
請求項5に記載のディープランニングを利用した植物分類方法。

Transmitting, to the server, plant classification request information including other image information related to a specific plant and identification information of the terminal, by the terminal;
The server confirms meta information in other image information included in the plant classification request information transmitted from the terminal;
The server determines whether the object in the other image information included in the plant classification request information is a plant;
As a result of the determination, when the object in the other image information is a plant, the server extracts a plurality of other feature points for leaves, trunks, branches, flowers, and fruits for the object in the other image information. Stage of doing;
Calculating another correlation vector according to the correlation between the extracted other feature points by the server;
The server confirms the hue and morphology of the leaves, trunks, branches, flowers, and fruits in the other image information included in the plant classification request information;
By the server, from among a plurality of feature points associated with a plurality of monthly plants in the database of plant information and the correlation vector associated with the plurality of relevant feature points, a specific corresponding to the confirmed meta information. Identifying at least one feature associated with a plurality of plants of the month and a correlation vector associated with the at least one feature of interest;
By the server, at least one feature point associated with a plurality of plants corresponding to the confirmed specific month and a plurality of correlation vectors associated with the particular plant extracted from among correlation vectors associated with the corresponding at least one feature point. Calculating similarities between other feature points and the calculated other correlation vectors, respectively;
The server confirms the plant information having the highest similarity among the calculated similarities;
The server transmits detailed information and additional information included in the confirmed plant information to the terminal; and the terminal transmits the detailed information and the additional information from the server in response to the transmitted plant classification request information. The plant classification method using deep running according to claim 5, further comprising a step of displaying detailed information and additional information related to a specific plant.

JP2019147035A 2018-12-31 2019-08-09 Plant classification system using deep running and method therefor Pending JP2020109610A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180173861A KR102155138B1 (en) 2018-12-31 2018-12-31 System for classifying plant using deep learning and method thereof
KR10-2018-0173861 2018-12-31

Publications (1)

Publication Number Publication Date
JP2020109610A true JP2020109610A (en) 2020-07-16

Family

ID=71570074

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019147035A Pending JP2020109610A (en) 2018-12-31 2019-08-09 Plant classification system using deep running and method therefor

Country Status (2)

Country Link
JP (1) JP2020109610A (en)
KR (1) KR102155138B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102489183B1 (en) * 2021-11-25 2023-01-17 주식회사 월메이드 Method And Apparatus for Providing Plant Growth Information Based on Plant Image

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5671928B2 (en) * 2010-10-12 2015-02-18 ソニー株式会社 Learning device, learning method, identification device, identification method, and program
KR20120076491A (en) 2010-11-26 2012-07-09 한국생명공학연구원 Plants information providing service system and method thereof
KR101673558B1 (en) * 2014-10-27 2016-11-08 충북대학교 산학협력단 System and method for providing plant information using smart device

Also Published As

Publication number Publication date
KR20200087343A (en) 2020-07-21
KR102155138B1 (en) 2020-09-11

Similar Documents

Publication Publication Date Title
US11566915B2 (en) Method, device and system for processing a flight task
CN106776675B (en) Plant identification method and system based on mobile terminal
CN106777177A (en) Search method and device
CN107919129A (en) Method and apparatus for controlling the page
US10460258B2 (en) Computer system, and method and program for controlling edge device
CN105095919A (en) Image recognition method and image recognition device
CN104484408A (en) Method and system for searching and processing plant information
WO2010125236A1 (en) Method and apparatus of collecting data for agricultural analysis
WO2019106733A1 (en) System, method, and program for predicting growth situation or pest outbreak situation
US20180157682A1 (en) Image information processing system
US20180144494A1 (en) Information processing device, information processing method, and program
KR20170002193A (en) Apparatu for pet sitter intermediation using breed identificationand method therefor
CN103886510A (en) Agricultural product whole process traceability system and method based on image recognition
CN110490086A (en) A kind of method and system for Object identifying result secondary-confirmation
KR101481323B1 (en) Providing system for plant information using plant image from mobile terminal
JP2020109610A (en) Plant classification system using deep running and method therefor
KR20180086776A (en) Method Tagging Images with Plant Identifier Using a Tagging Application, Mobile Smart Device Comprising The Same, And Plant Growth Information Analysis System
CN106682014B (en) Game display data generation method and device
CN106933939B (en) User equipment and control method thereof
JP2019024551A (en) Database construction method and database construction program
KR20160129971A (en) A method, a system and a computer readable storage medium for providing customized plant information
CN106445154A (en) Method and device for providing AR content, AR equipment and server
KR102278664B1 (en) Apparatus for predicting price and amount of distribution of tree using artificial intelligence and method thereof
CN109166057A (en) A kind of scenic spot guidance method and device
KR102281983B1 (en) Talk with plant service method using mobile terminal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190809

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210420