JP6875021B2 - 有用な学習データを取捨選別するためのｃｎｎ基盤の学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置 - Google Patents

有用な学習データを取捨選別するためのｃｎｎ基盤の学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置 Download PDF

Info

Publication number
JP6875021B2
JP6875021B2 JP2019185244A JP2019185244A JP6875021B2 JP 6875021 B2 JP6875021 B2 JP 6875021B2 JP 2019185244 A JP2019185244 A JP 2019185244A JP 2019185244 A JP2019185244 A JP 2019185244A JP 6875021 B2 JP6875021 B2 JP 6875021B2
Authority
JP
Japan
Prior art keywords
feature map
learning
cnn module
loss
test
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019185244A
Other languages
English (en)
Other versions
JP2020068028A (ja
Inventor
ゲヒョン キム
ゲヒョン キム
ヨンジュン キム
ヨンジュン キム
インス キム
インス キム
ハクギョン キム
ハクギョン キム
ウンヒョン ナム
ウンヒョン ナム
ソクフン ブ
ソクフン ブ
ミョンチョル ソン
ミョンチョル ソン
ドンフン ヨ
ドンフン ヨ
ウジュ リュ
ウジュ リュ
テウン ジャン
テウン ジャン
ギョンジュン ジョン
ギョンジュン ジョン
ホンモ ジェ
ホンモ ジェ
ホジン ジョ
ホジン ジョ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Stradvision Inc
Original Assignee
Stradvision Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Stradvision Inc filed Critical Stradvision Inc
Publication of JP2020068028A publication Critical patent/JP2020068028A/ja
Application granted granted Critical
Publication of JP6875021B2 publication Critical patent/JP6875021B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/046—Forward inferencing; Production systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772—Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Description

本発明は、有用な学習データを取捨選別するためのＣＮＮ基盤の学習方法に関し；より詳しくは、前記有用な学習データを取捨選別するための前記ＣＮＮ基盤の学習方法において、（ａ）学習装置が、少なくとも一つの入力イメージが獲得されれば、（ｉ）前記入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第１特徴マップを生成するプロセス、及び（ｉｉ）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）し得る第２ＣＮＮモジュールをもって前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第２特徴マップを生成するプロセスを遂行する段階；（ｂ）前記学習装置が、前記第１ＣＮＮモジュールをもって前記第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す第１出力を生成するようにし、前記第１出力とこれに該当する原本正解イメージとを参照して第１ロスを算出するようにする段階；（ｃ）前記学習装置が、前記第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップの大きさを同一に変更した後、前記第１特徴マップと前記第２特徴マップとを統合して、第３特徴マップを生成する段階；（ｄ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記第３特徴マップに少なくとも一度コンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにする段階；（ｅ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出する段階；及び（ｆ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化する段階；を含むことを特徴とする方法、学習装置とこれを利用した方法とテスト装置に関する。
ディープラーニング（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ）は、モノやデータを群集化・分類するのに用いられる技術である。例えば、コンピュータは写真だけで犬と猫を区別することができない。しかし、人はとても簡単に区別できる。このため「機械学習（Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ）」という方法が考案された。多くのデータをコンピュータに入力し、類似したものを分類するようにする技術である。保存されている犬の写真と似たような写真が入力されると、これを犬の写真だとコンピュータが分類するようにしたのである。
データをどのように分類するかをめぐり、すでに多くの機械学習アルゴリズムが登場した。「決定木」や「ベイジアンネットワーク」「サポートベクターマシン（ＳＶＭ）」「人工神経網」などが代表的である。このうち、ディープラーニングは人工神経網の後裔である。
ディープコンボリューションニューラルネットワーク（Ｄｅｅｐ Ｃｏｎｖｏｌｕｔｉｏｎ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ；ＤｅｅｐＣＮＮ）は、ディープラーニング分野で起きた驚くべき発展の核心である。ＣＮＮは、文字の認識問題を解くために９０年代にすでに使われたが、現在のように広く使われるようになったのは最近の研究結果のおかげである。このようなディープＣＮＮは２０１２年ＩｍａｇｅＮｅｔイメージ分類コンテストで他の競争相手に勝って優勝を収めた。そして、コンボリューションニューラルネットワークは機械学習分野で非常に有用なツールとなった。
図１は従来技術でディープＣＮＮを利用し、写真から獲得しようとする多様な出力の例を示す。
分類（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）は、写真から識別しようとするクラス（Ｃｌａｓｓ）の種類、例えば、図１に示されているように、獲得された物体が人か、羊か、犬かを識別する検出方法であり、検出（Ｄｅｔｅｃｔｉｏｎ）はすべての物体を探し、探した物体をバウンディングボックス（Ｂｏｕｎｄｉｎｇ Ｂｏｘ）に囲まれた形態で表示する方法であり、セグメンテーション（Ｓｅｇｍｅｎｔａｔｉｏｎ）は、写真で特定の物体の領域を他の物体と区分する方法である。最近、ディープラーニング（Ｄｅｅｐ ｌｅａｒｎｉｎｇ）技術が脚光を浴び、分類、検出、セグメンテーションもディープラーニングを多く利用する傾向にある。
図２はＣＮＮを利用した検出方法を簡略的に示した図面である。
図２を参照すれば、学習装置は、入力イメージの入力を受けて、複数のコンボリューションフィルタ（またはコンボリューションレイヤ）によって入力イメージにコンボリューション演算を数回適用し、少なくとも一つの特徴マップを生成する。次に、学習装置は、特徴マップを検出レイヤ（ｄｅｔｅｃｔｉｏｎ ｌａｙｅｒ）に通過させ、少なくとも一つのバウンディングボックスを生成させた後、バウンディングボックスをフィルタリングレイヤ（ｆｉｌｔｅｒｉｎｇ ｌａｙｅｒ）に通過させて最終検出結果を生成する。その後、検出結果とそれに対応する原本正解（Ｇｒｏｕｎｄ Ｔｒｕｔｈ）値とを参照し、獲得されたロス値を利用してバックプロパゲーション（ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を遂行するものの、これに対応する原本正解値は、事前に人がアノテーションを付けた値で、検出器（学習装置）をもって検出結果値が原本正解値にますます近付くように学習される。
この際、学習された検出器の性能は、学習用データベースの大きさにある程度比例し得る。
一方で、従来の技術によって、学習用イメージデータベースを作成する際には、図３に示したように、イメージデータベース内のトレーニングイメージ各々に人が一つ一つ原本正解ボックスを描いたり、クラスに対するアノテーションを付けて原本正解イメージを生成する。
しかし、学習用イメージデータベースに含まれるトレーニングイメージの個数が学習装置（例えば、前記検出器）の性能と正比例しない問題点が存在する。なぜなら、検出器が正確に検出する確率の低い物体を少なくとも一つ含むトレーニングイメージが多い場合にのみ学習プロセスが効果的に行われるからである。一般的に、学習プロセス中に検出器の性能が良くなればなるほど、追加的にトレーニングイメージを用いて検出器の性能を改善することが難しくなる。
例えば、検出器の性能が学習プロセスによって９５％になったとしたら、学習用イメージデータベースに１万枚のイメージがある場合、検出器の性能改善に寄与する有用なイメージはたったの５％で、１万枚のイメージのうち５００枚だけである。これに学習用データベース内のトレーニングイメージの数を１０倍に増やす場合、９万枚のイメージに対して人が一つ一つ原本正解イメージを手作業で生成しなければならないため、かなりのデータベース構築費用がかかるが、検出器の性能を向上させるのに有用なデータはたったの４，５００枚増加するだけである。また、有用なイメージ４，５００枚を利用する学習プロセスによって検出器の性能が９８％まで上がると、検出器の性能を向上させるために必要なデータベース構築費用はさらに大きくなる。この場合、有用なイメージ４，５００枚を追加で確保するためには、原本正解イメージは２００万枚以上準備しなければならない。
本発明は、前述した問題点を全て解決することを目的とする。
また、本発明は、ＣＮＮ基盤学習装置の弱点を分析し、前記学習装置の性能向上に必要な適切な学習データを自動的に選択できる方法を提供することを他の目的とする。
また、本発明は、前記学習装置の性能向上に利用される学習用データベースの構築費用を削減することをまた他の目的とする。
本発明の一態様によれば、有用な学習データを取捨選別するためのＣＮＮ基盤の学習方法において、（ａ）学習装置が、少なくとも一つの入力イメージが獲得されれば、（ｉ）前記入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第１特徴マップを生成するプロセス、及び（ｉｉ）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）し得る第２ＣＮＮモジュールをもって前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第２特徴マップを生成するプロセスを遂行する段階；（ｂ）前記学習装置が、前記第１ＣＮＮモジュールをもって、前記第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す第１出力を生成するようにし、前記第１出力とこれに該当する原本正解イメージとを参照して第１ロスを算出するようにする段階；（ｃ）前記学習装置が、前記第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップの大きさを同一に変更した後、前記第１特徴マップと前記第２特徴マップとを統合して、第３特徴マップを生成する段階；（ｄ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記第３特徴マップに少なくとも一度コンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにする段階；（ｅ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出する段階；及び（ｆ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化する段階；を含むことを特徴とする。
一例として、前記（ｆ）段階で、前記学習装置が、前記第１ロスを利用してバックプロパゲーションを遂行して前記第１ＣＮＮモジュールの少なくとも一つのパラメータを最適化することを特徴とする。
一例として、前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム（Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ Ｓｙｓｔｅｍ）、前記特定の物体の種類を識別するための分類システム（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステム（Ｓｅｇｍｅｎｔａｔｉｏｎ Ｓｙｓｔｅｍ）のいずれかに含まれ、前記第２ＣＮＮモジュールは少なくとも一つの特定の入力イメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記特定の入力イメージは、前記第１ＣＮＮモジュールに入力される複数の入力イメージの中に含まれ、前記特定の入力のイメージに対応して正確に検出される確率の低い特定の物体各々を含み、前記第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする。
一例として、前記第２特徴マップの大きさは、前記第１特徴マップよりも大きく、前記（ｃ）段階で、前記学習装置は前記第２ＣＮＮモジュールをもって、前記第１特徴マップの大きさを前記第２特徴マップの大きさに合うように大きくすることを特徴とする。
一例として、前記（ｃ）段階で、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記第１特徴マップの大きさを前記第２特徴マップの大きさと同じように変更させることを特徴とする。
一例として、前記（ｃ）段階で、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップとをコンカチネートして、前記第３特徴マップを生成するようにすることを特徴とする。
一例として、前記（ｄ）段階で、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第４特徴マップがプーリングレイヤ（Ｐｏｏｌｉｎｇ Ｌａｙｅｒ）及びＦＣレイヤ（Ｆｕｌｌｙ−Ｃｏｎｎｅｃｔｅｄ Ｌａｙｅｒ）のうち少なくとも一つを通過させて前記第２ロスを算出することを特徴とする。
一例として、前記プーリングレイヤは前記第４特徴マップの高さ及び幅を１にすることを特徴とする。
一例として、前記（ｆ）段階で、前記学習装置は、前記自動選別機のロスを最小化する方向でバックプロパゲーションを遂行することを特徴とする。
本発明の他の態様によれば、ＣＮＮ基盤で有用な学習データを取捨選別するための方法において、（ａ）（Ｉ）学習装置が、（ｉ）トレーニングイメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第１特徴マップを生成し、（ｉｉ）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第２特徴マップを生成するプロセス、（ＩＩ）前記学習装置が、前記第１ＣＮＮモジュールをもって前記学習用第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す学習用第１出力を生成するようにし、前記学習用第１出力とこれに対応する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ＩＩＩ）前記学習装置が、前記学習用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップの大きさを同一に変更した後、前記学習用第１特徴マップと前記学習用第２特徴マップとを統合して、学習用第３特徴マップを生成するプロセス、（ＩＶ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記学習用第３特徴マップに少なくとも一度コンボリューション演算を適用して学習用第４特徴マップを生成し、前記学習用第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（Ｖ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ＶＩ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行した状態で、テスト装置が、各々のイメージ候補を各々のテストイメージとして獲得する段階；（ｂ）前記テスト装置が、（ｉ）前記第１ＣＮＮモジュールをもって、前記テストイメージに対してコンボリューション演算を少なくとも一度適用するようにして、テスト用第１特徴マップを生成するプロセス、及び（ｉｉ）前記第２ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにしてテスト用第２特徴マップを生成するプロセスを遂行する段階；（ｃ）前記テスト装置が、前記テスト用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップの大きさを同一に変更した後、前記テスト用第１特徴マップと前記テスト用第２特徴マップとを統合して、テスト用第３特徴マップを生成する段階；（ｄ）前記テスト装置が、前記第２ＣＮＮモジュールをもって、前記テスト用第３特徴マップに少なくとも一度コンボリューション演算を適用してテスト用第４特徴マップを生成し、前記テスト用第４特徴マップを利用して前記ロス予測値を算出するようにする段階；及び（ｅ）前記テスト装置が、前記入力イメージ候補の中から前記ロス予測値が所定の閾値以上の値を有する少なくとも一つのイメージを前記第１ＣＮＮモジュールの学習プロセスに利用されるトレーニングイメージとして選別する段階；を含むことを特徴とする。
一例として、前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム、前記特定の物体の種類を識別するための分類システム及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステムのいずれかに含まれ、前記第２ＣＮＮモジュールは、トレーニングイメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記トレーニングイメージは、前記第１ＣＮＮモジュールに入力される複数のトレーニングイメージの中に含まれ、前記特定の物体に対応して正確に検出される確率の低い特定の物体各々を含み、前記学習用第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする。
一例として、前記学習用第２特徴マップの大きさは、前記学習用第１特徴マップよりも大きく、前記（ＩＩＩ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさに合うように大きくし、前記テスト用第２特徴マップの大きさは、前記テスト用第１特徴マップよりも大きく、前記（ｃ）段階で、前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさに合うように大きくすることを特徴とする。
一例として、前記（ＩＩＩ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさと同じように変更させ、前記（ｃ）段階で、前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさと同じように変更させることを特徴とする。
一例として、前記（ＩＩＩ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップとをコンカチネートして、前記学習用第３特徴マップを生成するようにし、前記（ｃ）段階で、前記テスト習装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップとをコンカチネートして、前記テスト第３特徴マップを生成するようにすることを特徴とする。
一例として、前記（ＩＶ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記第２ロスを算出し、前記（ｄ）段階で、前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記ロス予測値を算出することを特徴とする。
本発明のまた他の態様によれば、有用な学習データを取捨選別するためのＣＮＮ基盤の学習装置において、少なくとも一つの入力イメージを獲得するための通信部；及び（Ｉ）（Ｉ−１）前記入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第１特徴マップを生成し、（Ｉ−２）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって前記入力イメージに対して少なくとも一度コンボリューション演算を遂行するようにして第２特徴マップを生成するプロセス、（ＩＩ）前記第１ＣＮＮモジュールをもって、前記第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す第１出力を生成するようにし、前記第１出力とこれに該当する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ＩＩＩ）前記第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップの大きさを同一に変更した後、前記第１特徴マップと前記第２特徴マップとを統合して、第３特徴マップを生成するプロセス、（ＩＶ）前記第２ＣＮＮモジュールをもって、前記第３特徴マップに少なくとも一度コンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（Ｖ）前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ＶＩ）前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行するプロセッサ；を含むことを特徴とする。
一例として、前記（ＶＩ）プロセスで、前記プロセッサが、前記第１ロスを利用してバックプロパゲーションを遂行して前記第１ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行することを特徴とする。
一例として、前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム（Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ Ｓｙｓｔｅｍ）、前記特定の物体の種類を識別するための分類システム（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステム（Ｓｅｇｍｅｎｔａｔｉｏｎ Ｓｙｓｔｅｍ）のいずれかに含まれ、前記第２ＣＮＮモジュールは少なくとも一つの特定の入力イメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記特定の入力イメージは、前記第１ＣＮＮモジュールに入力される複数の入力イメージの中に含まれ、前記特定の入力のイメージに対応して正確に検出される確率が低い特定の物体各々を含み、前記第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする。
一例として、前記第２特徴マップの大きさは、前記第１特徴マップよりも大きく、前記（ＩＩＩ）プロセスで、前記学習装置は前記第２ＣＮＮモジュールをもって、前記第１特徴マップの大きさを前記第２特徴マップの大きさに合うように大きくすることを特徴とする。
一例として、前記（ＩＩＩ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記第１特徴マップの大きさを前記第２特徴マップの大きさと同じように変更させることを特徴とする。
一例として、前記（ＩＩＩ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップとをコンカチネートして、前記第３特徴マップを生成するようにすることを特徴とする。
一例として、前記（ＩＶ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第４特徴マップがプーリングレイヤ（Ｐｏｏｌｉｎｇ Ｌａｙｅｒ）及びＦＣレイヤ（Ｆｕｌｌｙ−Ｃｏｎｎｅｃｔｅｄ Ｌａｙｅｒ）のうち少なくとも一つを通過させて前記第２ロスを算出することを特徴とする。
一例として、前記プーリングレイヤは前記第４特徴マップの高さ及び幅を１にすることを特徴とする。
一例として、前記（ＩＶ）プロセスで、前記プロセッサは、前記自動選別機のロスを最小化する方向でバックプロパゲーションを遂行することを特徴とする。
本発明のさらに他の態様によれば、ＣＮＮ基盤で有用な学習データを取捨選別するためのテスト装置において、（ｉ）学習装置が、（ｉ−１）トレーニングイメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第１特徴マップを生成し、（ｉ−２）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第２特徴マップを生成するプロセス、及び（ｉｉ）前記学習装置が、前記第１ＣＮＮモジュールをもって前記学習用第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す学習用第１出力を生成するようにし、前記学習用第１出力とこれに対応する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ｉｉｉ）前記学習装置が、前記学習用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップの大きさを同一に変更した後、前記学習用第１特徴マップと前記学習用第２特徴マップとを統合して、学習用第３特徴マップを生成するプロセス、（ｉｖ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記学習用第３特徴マップに少なくとも一度コンボリューション演算を適用して学習用第４特徴マップを生成し、前記学習用第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（ｖ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ｖｉ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーションを随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行した状態で、各々のイメージ候補を各々のテストイメージとして獲得するための通信部；及び（Ｉ）（Ｉ−１）第１ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにして、テスト用第１特徴マップを生成し、（Ｉ−２）前記第２ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにしてテスト用第２特徴マップを生成するプロセス；（ＩＩ）前記テスト用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップの大きさを同一に変更した後、前記テスト用第１特徴マップと前記テスト用第２特徴マップとを統合して、テスト用第３特徴マップを生成するプロセス；（ＩＩＩ）前記第２ＣＮＮモジュールをもって、前記テスト用第３特徴マップに少なくとも一度コンボリューション演算を適用してテスト用第４特徴マップを生成し、前記テスト用第４特徴マップを利用してロス予測値を算出するようにするプロセス；及び（ＩＶ）前記入力イメージ候補の中から前記ロス予測値が所定の閾値以上の値を有する少なくとも一つのイメージを前記第１ＣＮＮモジュールの学習プロセスに利用されるトレーニングイメージとして選別するプロセスを遂行するプロセッサ；を含むことを特徴とする。
一例として、前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム、前記特定の物体の種類を識別するための分類システム及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステムのいずれかに含まれ、前記第２ＣＮＮモジュールは、トレーニングイメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記トレーニングイメージは、前記第１ＣＮＮモジュールに入力される複数のトレーニングイメージの中に含まれ、前記特定の物体に対応して正確に検出される確率の低い特定の物体各々を含み、前記学習用第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする。
一例として、前記学習用第２特徴マップの大きさは、前記学習用第１特徴マップよりも大きく、前記（ｉｉｉ）プロセスで、前記学習装置は前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさに合うように大きくし、前記テスト用第２特徴マップの大きさは、前記テスト用第１特徴マップよりも大きく、前記（ＩＩ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさに合うように大きくすることを特徴とする。
一例として、前記（ｉｉｉ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさと同じように変更させ、前記（ＩＩ）段階で、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさと同じように変更させることを特徴とする。
一例として、前記（ｉｉｉ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップとをコンカチネートして、前記学習用第３特徴マップを生成するようにし、前記（ＩＩ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップとをコンカチネートして、前記テスト第３特徴マップを生成するようにすることを特徴とする。
一例として、前記（ｉｖ）プロセスで、前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記第２ロスを算出し、前記（ｃ）プロセスで、前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記ロス予測値を算出することを特徴とする。
本発明は、学習装置の弱点を予め予測し、前記弱点を補える有用なトレーニングイメージを選別し得る効果がある。
また、本発明は、少ない費用で効果的で有用な学習用イメージデータベースを構築し得る他の効果がある。
また、本発明は、実際に有用な学習用イメージデータを選別して前記学習装置の性能を容易に向上し得る他の効果がある。
また、本発明は、すでにアノテーションされたデータベースが利用される際、自動選別システム（ａｕｔｏ−ｓｃｒｅｅｎｉｎｇ ｓｙｓｔｅｍ）が検出器の性能向上に役立たない９５％のデータを排除できるので、学習時間と学習費用（電気料金など）を大幅に削減し得る他の効果がある。
本発明の実施例の説明に利用されるために添付された以下の各図面は、本発明の実施例の中の一部に過ぎず、本発明が属する技術分野でおいて、通常の知識を有する者（以下「通常の技術者」）は、発明的作業がなされることなくこれらの図面に基づいて他の図面が得られ得る。
図１は、従来の技術による、ＣＮＮによってイメージから獲得された多様な出力の例を示す図面である。 図２は、従来の技術によってＣＮＮを利用した検出方法を簡略的に示す図面である。 図３は、従来の技術によって学習用イメージデータベースを構築する方法を簡略的に示す図面である。 図４は、本発明に係る学習データに利用される有用なイメージを選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）を学習する方法を示す図面である。 図５は、本発明に係る前記自動選別システムによって実行される具体的な演算過程を示す図面である。 図６は、本発明に係る前記自動選別システムによって学習用イメージデータベースを構築する方法を示す図面である。
後述する本発明に対する詳細な説明は、本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は当業者が本発明を実施することができるように充分詳細に説明される。また、本発明の詳細な説明及び各請求項にわたって、「含む」という単語及びそれらの変形は、他の各技術的特徴、各付加物、構成要素又は段階を除外することを意図したものではない。通常の技術者に本発明の他の各目的、長所及び各特性が、一部は本明細書から、また一部は本発明の実施から明らかになるであろう。以下の例示及び図面は、実例として提供され、本発明を限定することを意図したものではない。
本発明の多様な実施例は相互異なるが、相互排他的である必要はないことを理解されたい。例えば、ここに記載されている特定の形状、構造及び特性は一実施例に係る本発明の精神及び範囲を逸脱せずに他の実施例で具現され得る。また、各々の開示された実施例内の個別構成要素の位置または配置は本発明の精神及び範囲を逸脱せずに変更され得ることを理解されたい。従って、後述する詳細な説明は限定的な意味で捉えようとするものではなく、本発明の範囲は、適切に説明されれば、その請求項が主張することと均等なすべての範囲と、併せて添付された請求項によってのみ限定される。図面で類似する参照符号はいくつかの側面にかけて同一か類似する機能を指称する。
本発明で言及している各種イメージは、舗装または非舗装道路関連のイメージを含み得り、この場合、道路環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではなく、本発明で言及している各種イメージは、道路と関係のないイメージ（例えば、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内と関連したイメージ）でもあり得り、この場合、非舗装道路、路地、空き地、海、湖、川、山、森、砂漠、空、室内環境で登場し得る物体（例えば、自動車、人、動物、植物、物、建物、飛行機やドローンのような飛行体、その他の障害物）を想定し得るが、必ずしもこれに限定されるものではない。
以下、本発明が属する技術分野で通常の知識を有する者が本発明を容易に実施することができるようにするために、本発明の好ましい実施例について添付の図面に基づいて詳細に説明する。
図４は、本発明に係る有用な学習用イメージを選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）を学習する方法を示した図面であり、図５は、本発明に係る前記自動選別システムによって遂行される特定の演算過程を示した図面である。
図４及び図５を参照して、本発明に係る有用な学習データを取捨選別するためのＣＮＮ基盤学習方法を説明すると次のとおりである。
前記学習装置４００は、入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュール４１０及び前記第１ＣＮＮモジュール４１０の学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュール４２０を含む。ここで、前記第１ＣＮＮモジュール４１０は、実際のイメージから物体を検出する能力を向上させるための実際の学習対象となるモジュールであり、前記第２ＣＮＮモジュール４２０は、前記第１ＣＮＮモジュール４１０を学習するのに利用される有用なトレーニングイメージを自動的に選別する。前記第２ＣＮＮモジュール４２０は、自動選別システム（ａｕｔｏ−ｓｃｒｅｅｎｉｎｇ ｓｙｓｔｅｍ）と呼ばれ得る。
本発明の一例で、前記第１ＣＮＮモジュール４１０は、特定の物体の大きさや位置を検出するための物体検出システム（Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ Ｓｙｓｔｅｍ）、前記特定の物体の種類を識別するための分類システム（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステム（Ｓｅｇｍｅｎｔａｔｉｏｎ Ｓｙｓｔｅｍ）のいずれかに含まれる。図４及び図５では、前記物体検出システムを例として挙げた。前記第２ＣＮＮモジュール４２０は、正確に検出される確率が低い少なくとも一つの物体を含む入力イメージを自動で選別するための前記自動検出システムである。確率が所定の閾値未満であるか否かに対する情報を参照にし、入力イメージが正確に検出される確率が低いかどうかが決定される。
つまり、本発明では、前記第１ＣＮＮモジュール４１０の前記学習プロセスを遂行する前に、まず前記第２ＣＮＮモジュール４２０の前記学習プロセスによってすべてのトレーニングイメージ候補の中から前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用される有用なイメージを選別できるように前記第２ＣＮＮモジュール４２０の少なくとも一つのパラメータを最適化する。その後、前記第２ＣＮＮモジュール４２０の前記パラメータが最適化されれば、図６のテスト装置６００は、前記最適化された第２ＣＮＮモジュール４２０と前記第１ＣＮＮモジュール４１０とを利用して前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用される有用なデータを選択する。この際、前記トレーニングイメージ候補にはこれに該当する原本正解イメージがない。前記トレーニングイメージ候補の中から前記有用なイメージを選択後、前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用される前記有用なイメージに対してのみ原本正解イメージが生成される。つまり、前記有用なイメージに対してのみ少なくとも１人の人が直接前記原本正解イメージを生成し、学習用イメージデータベースを構築する。すると、前記学習用イメージデータベース内に保存された前記有用なイメージを利用して前記第１ＣＮＮモジュール４１０、つまりＣＮＮ検出器の前記学習プロセスが遂行される。
前記学習装置４００の前記学習プロセスが遂行されている間、前記第２ＣＮＮモジュール４２０だけの前記学習プロセスを遂行することもでき、前記第２ＣＮＮモジュール４２０と前記第１ＣＮＮモジュール４１０の前記学習プロセスを同時進行することもできる。前記第２ＣＮＮモジュール４２０の前記学習プロセスが完了した後に、（ｉ）前記第１ＣＮＮモジュールの前記学習プロセスに利用される有用なイメージが選別され、（ｉｉ）前記選別された有用なイメージで前記イメージデータベースが構築され、（ｉｉｉ）前記構築されたイメージデータベースを利用して前記第１ＣＮＮモジュールの前記学習プロセスが遂行される。
前記第２ＣＮＮモジュール４２０は、現在前記学習プロセスを遂行する前記第１ＣＮＮモジュールの弱点を予測する機能を果たす。つまり、前記第２ＣＮＮモジュール４２０は、前記原本正解イメージ生成作業をしていない前記トレーニングイメージ候補の中から前記第１ＣＮＮモジュール４１０の前記弱点を補うのに適した写真を予測する機能を果たす。例えば、前記検出器（前記第１ＣＮＮモジュール４１０）の性能が９５％で、前記原本正解イメージ生成作業がされていない写真が９万枚あれば、前記第２ＣＮＮモジュール４２０の性能（前記第２ＣＮＮモジュール４２０が、前記トレーニングイメージ候補各々が有用なイメージであるかを正しく判断する確率）が５０％程度だとしても、９，０００枚に対してアノテーション作業（原本正解イメージ生成作業）をして、前記学習用イメージデータベースが構築されれば、前記９，０００枚の写真の中から４，５００枚は前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用される前記有用なイメージになる。つまり、この場合、従来の方法で前記有用な写真４，５００枚を含む前記イメージデータベースを構築するためには、少なくとも１人の人が９万枚の写真に前記アノテーションする必要があったが、本発明に係る前記第２ＣＮＮモジュール４２０を利用すれば、前記９，０００枚だけ前記アノテーションしても前記４，５００個の有用な写真を含む前記イメージデータベースを構築し得るようになる。つまり、原本正解イメージ生成費用（前記イメージデータベース構築費用）が１／１０に減少する。また、既にアノテーションされたデータベースが提供される場合も、前記自動選別システムを利用できる。この場合、前記自動選別システムが前記検出器の性能向上に役立たない全体９５％のデータ（前記すべてのトレーニングイメージ候補の９５％）を学習から排除できるため、前記学習時間と前記学習費用（電気料金など）を大幅に削減し得る。
次に、図４を参照して前記学習プロセスについて説明すると、まず、前記自動選別システム（ａｕｔｏ−ｓｃｒｅｅｎｉｎｇ ｓｙｓｔｅｍ；前記第２ＣＮＮモジュール４２０）を学習するために、少なくとも一つの有用なイメージに対して原本正解イメージが存在する前記イメージデータベースから前記イメージを任意に選択して前記学習装置４００に入れる。詳細には、入力イメージ（前記有用なトレーニングイメージ中の一つ）は、前記第１ＣＮＮモジュール４１０及び前記第２ＣＮＮモジュール４２０へ各々入力される。前記第１ＣＮＮモジュール４１０が、図４に示された例のような前記検出器なら、前記第１ＣＮＮモジュール４１０は、前記入力イメージに少なくとも一度所定のコンボリューション演算を適用して第１特徴マップを生成する。前記特徴マップは、イメージ検出のために前記第１ＣＮＮモジュール４１０で少なくとも一度のコンボリューション演算または少なくとも一度のＲｅＬＵなどの非線形演算などの過程によって生成される。例えば、図５の例で、前記学習装置４００に入力された前記入力イメージが３×ｈ×ｗ（ここで３は、前記イメージのチャネル数、ｈは、前記イメージの高さ、ｗは、前記イメージの幅を意味する）の大きさを有する場合、前記第１特徴マップは、ｃ×（ｈ／１６）×（ｗ／１６）の前記大きさになり、高さ及び前記幅が１／１６に減少し、チャネル数はｃチャネルに増加し得る。
また、前記第１ＣＮＮモジュール４１０は、前記第１特徴マップを基にデコンボリューション演算またはＦＣ演算によって、特定の物体の識別情報や位置情報を示す第１出力値を算出する。この際、前記第１出力値は、物体検出値、分類値及びセグメンテーション値のうちのいずれかの値になり得るが、本発明では、前記物体検出値であるとして例を挙げた。
そして、前記第１ＣＮＮモジュール４１０は、前記第１出力値と、これに対応する原本正解値とを参照して、第１ロス（実際ロス（ｅｔｒｕｅ））を算出する。例えば、前記第１ロスは、前記第１ＣＮＮモジュール４１０が検出した特定の物体の前記結果（前記第１出力値）と前記原本正解値とを参照にして算出される。
一方、前記第２ＣＮＮモジュール４２０は、前記第１ＣＮＮモジュール４１０に入力される前記入力イメージに対して少なくとも一度所定のコンボリューション演算を適用して第２特徴マップを生成する。前記第２ＣＮＮモジュール４２０に入力される前記入力イメージは、前記第１ＣＮＮモジュール４１０に入力される前記入力イメージと同一のイメージである。前記第２ＣＮＮモジュール４２０が随行する前記コンボリューション演算過程は、前記第１ＣＮＮモジュール４１０が随行する前記コンボリューション演算過程と類似し得るが、コンボリューションレイヤ各々やその他の演算レイヤのパラメータは相異し得る。図５の例で、前記学習装置４００に入力された前記入力イメージが３×ｈ×ｗの大きさを有する場合、前記第２特徴マップはｃ１×（ｈ／８）×（ｗ／８）の大きさになり、前記高さ及び前記幅は１／８に減少し、チャネルはｃ１チャネルに増加し得る。
その後、前記第２ＣＮＮモジュール４２０は、前記第１ＣＮＮモジュール４１０で生成された前記第１特徴マップと前記第２ＣＮＮモジュール４２０で生成された前記第２特徴マップとを統合する。図５の例で、前記第１特徴マップの大きさがｃ×（ｈ／１６）×（ｗ／１６）であり、前記第２特徴マップの大きさがｃ１×（ｈ／８）×（ｗ／８）なので、前記第１特徴マップの大きさを前記第２特徴マップの大きさと同一に変換した後、前記大きさの変更された第１特徴マップは、前記第２特徴マップと同じ大きさに変換された後、前記大きさの変更された第１特徴マップは前記第２特徴マップと統合され、第３特徴マップを生成する。この場合、前記第２特徴マップの大きさが前記第１特徴マップの大きさよりも大きいため、前記学習装置４００は、前記第２ＣＮＮモジュール４２０をもって前記第１特徴マップの大きさ（（ｈ／１６）×（ｗ／１６））を、前記第２特徴マップの大きさ（ｈ／８）×（ｗ／８））に拡大する。この際、前記学習装置４００は、前記第２ＣＮＮモジュール４２０をもって前記第１特徴マップに所定回数のコンボリューション演算（またはデコンボリューション演算）を適用するようにして、前記第１特徴マップの大きさを変更する。図５の例で、前記第２ＣＮＮモジュール４２０に入力されたｃ×（ｈ／１６）×（ｗ／１６）の大きさを有する前記第１特徴マップが所定のコンボリューション演算によってｃ２×（ｈ／８）×（ｗ／８）に変更された様子を示した。そして、前記第２ＣＮＮモジュール４２０は、前記大きさの変更された第１特徴マップと前記第２特徴マップとをコンカチネートして前記第３特徴マップを生成する。前記第３特徴マップのチャネル数は（ｃ１＋ｃ２）になり、前記高さはｈ／８、前記幅はｗ／８になる。
その後、前記第２ＣＮＮモジュール４２０は、前記第３特徴マップに少なくとも一度所定のコンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップに少なくとも一度演算を適用して前記第１ロスの予測値に対応される第２ロス（検出器ロス予測値（ｅｐｒｅｄ））を生成する。例えば、図５に示されているように、（ｃ１＋ｃ２）×（ｈ／８）×（ｗ／８）の大きさを有する前記第３特徴マップに対して前記コンボリューション演算を適用してｃ３×（ｈ／８）×（ｗ／８）の大きさを有する前記第４特徴マップが生成され、ここに平均プーリング演算（Ａｖｅｒａｇｅ Ｐｏｏｌｉｎｇ Ｏｐｅｒａｔｉｏｎ）を経て、ｃ３×１×１の大きさを有する特定の特徴マップが生成された後、前記特定の特徴マップを前記ＦＣ（Ｆｕｌｌｙ Ｃｏｎｎｅｃｔｅｄ）ネットワークに２度通過させて前記第２ロス（検出器の前記ロス予測値（ｅｐｒｅｄ））が生成される。
それから図４を参照すれば、前記学習装置４００は、前記第１ロス前記実際ロス（ｅｔｒｕｅ）と前記第２ロス（検出器の前記ロス予測値（ｅｐｒｅｄ））とを比較して、自動選別機ロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出する。前記自動選別機ロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）は（ｅｔｒｕｅ− ｅｐｒｅｄ）２から求められる。
前記学習装置４００は、前記計算された自動選別機ロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を利用してバックプロパゲーションを遂行して前記第２ＣＮＮモジュール４２０の前記パラメータを最適化する。この際、前記学習装置４００は、前記第１ＣＮＮモジュール４１０で算出した前記第１ロスを利用してバックプロパゲーションを遂行して前記第１ＣＮＮモジュール４１０の前記パラメータを最適化し得る。
前述のとおり、前記自動選別機ロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）は、（ｉ）前記入力イメージと前記原本正解値内の前記特定の物体を検出した結果とを参照して算出された前記第１ロスと（ｉｉ）前記第１ロスに対応される前記第２ロスの間の前記差異とを参照して算出されるため、前記学習装置４００が、前記自動選別機ロスを最小化する方向へ前記バックプロパゲーションを遂行すれば、前記第２ロスが前記第１ロスと類似した値を出力するように第２ＣＮＮモジュール４２０が学習される。そうすると、前記第２ＣＮＮモジュール４２０で出力された前記第２ロスは前記第１ロスを正確に予測していると言える。つまり、特定イメージが前記第２ＣＮＮモジュールに入力された際、これに対応する第２ロスが大きければ、前記特定イメージが前記第１ＣＮＮモジュール４１０に入力された際に前記第１ＣＮＮモジュール４１０が正しく前記特定イメージ内の物体を検出できず、よって前記第１ロスが大きく出てくるであろう。一方、他の特定イメージが前記第２ＣＮＮモジュール４２０に入力された際、これに対応する第２ロスが小さければ、前記他の特定イメージが前記第１ＣＮＮモジュール４１０に入力された際、前記第１ＣＮＮモジュール４１０が前記他の特定イメージ内の物体を正確に検出した可能性が高く、よって前記第１ロスが小さく出てくるであろう。ここで、前記第２ＣＮＮモジュール４２０が前記トレーニングイメージ候補の中から第２ロスが大きい特定イメージを選別すれば、前記特定イメージ内の物体は、前記特定イメージが前記第１ＣＮＮモジュール４１０に入力される際に正確に検出される可能性が低く、前記特定イメージは、前記第１ＣＮＮモジュール４１０の前記学習プロセスに提供される有用なイメージとして選別されるようになる。
つまり、前記検出器（前記第１ＣＮＮモジュール４１０）は、前記検出器そのものが出力した前記検出結果とこれに対応して人が作成した原本正解イメージとを比較して学習プロセスを遂行し、前記自動選別システム（Ａｕｔｏ−ＳｃｒｅｅｎｉｎｇＳｙｓｔｅｍ）は、前記自動選別システムそのものが予測した前記データが前記検出器の前記学習プロセスに実際にどれだけ役立ったかについての情報を用いて学習する。これによって、前記検出器の前記検出結果がこれに対応する原本正解イメージと大きく異なるほど前記自動選別システムはより良く予測したのである。すなわち、本発明は、前記検出器と前記自動選別システムが相互競争して前記学習プロセスを遂行する敵対的学習（Ａｄｖｅｒｓａｒｉａｌ Ｔｒａｉｎｉｎｇ）を利用する。
図６は、本発明に係る前記自動選別システムによって学習用イメージデータベースを構築する方法を示す図面である。
図６を参照すれば、図４及び図５の前記学習プロセスを通じて前記第２ＣＮＮモジュールの前記学習プロセスが完了した状態で、前記第１ＣＮＮモジュール４１０と前記第２ＣＮＮモジュール４２０のパラメータを利用するテスト装置６００がラベリングされていないイメージ（テスト用イメージ）を前記第１ＣＮＮモジュール４１０及び前記第２ＣＮＮモジュール４２０に入力すると、前記学習装置４００が前記第１ＣＮＮモジュール４１０をもって前記テストイメージに対して少なくとも一度所定のコンボリューション演算を適用するようにしてテスト用第１特徴マップを獲得するようにし、前記第２ＣＮＮモジュール４２０をもって前記テストイメージに対して少なくとも一度所定のコンボリューション演算を適用するようにしてテスト用第２特徴マップを獲得するようにする。そして、前記テスト装置６００は、前記テスト用第１特徴マップを前記第２ＣＮＮモジュールにまた他の入力として伝達し、前記第２ＣＮＮモジュールをもって前記テスト用第１特徴マップと前記テスト用第２特徴マップの大きさを同一に変更するようにした後、前記テスト用第１特徴マップと前記テスト用第２特徴マップとを統合して、テスト用第３特徴マップを生成する。そして、前記テスト装置６００は、前記第２ＣＮＮモジュールをもって、前記テスト用第３特徴マップに少なくとも一度所定のコンボリューション演算を適用するようにしてテスト用第４特徴マップを生成し、前記テスト用第４特徴マップに少なくとも一度所定の演算を適用してロス予測値を算出する。
こうして多くのテスト用イメージの入力を受けこれに対応するロス予測値（Ｐｒｅｄｉｃｔｅｄ ｌｏｓｓ）が算出されれば、前記テスト装置６００は、前記テスト用イメージの中から前記ロス予測値が所定の閾値以上の値を有する一部のイメージを前記有用なイメージ（前記第１ＣＮＮモジュールの学習プロセスのためのトレーニングイメージ）として選別する。つまり、ロス予測値が前記所定の閾値以上なら、物体に対応するテスト用入力イメージ内の前記物体は、前記テスト用入力イメージが前記第１ＣＮＮジュール４１０に入力された際に正確に検出される可能性が低く、これは前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用される有用なデータとしての前記テスト用入力イメージを決定する。
このように選別された有用なイメージに対しては、少なくとも一人がアノテーション作業などを遂行して（前記イメージにすでにアノテーション処理されているなら単に選別によって）、前記第１ＣＮＮモジュール４１０の前記学習プロセスに利用されるラベリング済みイメージになる。
併せて、前記検出器の前記学習プロセスによって前記検出器の前記パラメータが最適化されれば、前記検出器の前記最適化されたパラメータを利用した前記テスト装置内の前記第１ＣＮＮモジュールを利用して実際入力されるテストイメージから物体を検出することになる。例えば、道路走行のイメージから少なくとも一つの物体に対する分類と検出が行われ得る。
本発明の技術分野の通常の技術者に理解されるものとして、前記で説明されたイメージ、例えば前記トレーニングイメージ、前記テストイメージ及び前記入力イメージなどといったイメージデータの送受信が学習装置及びテスト装置の各通信部によって行われ得り、特徴マップと演算を遂行するためのデータが前記学習装置及び前記テスト装置のプロセッサ（及び／またはメモリ）によって保有／維持でき得り、コンボリューション演算、デコンボリューション演算、ロス値の演算過程が学習装置及びテスト装置のプロセッサにより遂行され得るが、本発明はこれに限定されるものではない。
以上で説明された本発明に係る実施例は、多様なコンピュータ構成要素を通じて遂行できるプログラム命令語の形態で具現されてコンピュータで判読可能な記録媒体に記録され得る。前記コンピュータで判読可能な記録媒体はプログラム命令語、データファイル、データ構造などを単独でまたは組み合わせて含まれ得る。 前記コンピュータ判読可能な記録媒体に記録されるプログラム命令語は、本発明のために特別に設計されて構成されたものか、コンピュータソフトウェア分野の当業者に公知となって使用可能なものでもよい。コンピュータで判読可能な記録媒体の例には、ハードディスク、フロッピィディスク及び磁気テープのような磁気媒体、 ＣＤ−ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌｄｉｓｋ）のような磁気−光媒体（ｍａｇｎｅｔｏ−ｏｐｔｉｃａｌｍｅｄｉａ）、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどといったプログラム命令語を保存して遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作られるもののような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は本発明に係る処理を遂行するために一つ以上のソフトウェアモジュールとして作動するように構成され得り、その逆も同様である。
以上、本発明が具体的な構成要素などのような特定事項と限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものであるに過ぎず、本発明が前記実施例に限られるものではなく、本発明が属する技術分野において通常の知識を有する者であれば係る記載から多様な修正及び変形が行われ得る。
従って、本発明の思想は前記説明された実施例に極限されて定められてはならず、後述する特許請求の範囲だけでなく、本特許請求の範囲と均等または等価的に変形されたものすべては、本発明の思想の範囲に属するといえる。

Claims (30)

  1. 有用な学習データを取捨選別するためのＣＮＮ基盤の学習方法において、
    （ａ）学習装置が、少なくとも一つの入力イメージが獲得されれば、（ｉ）前記入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第１特徴マップを生成するプロセス、及び（ｉｉ）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）し得る第２ＣＮＮモジュールをもって前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第２特徴マップを生成するプロセスを遂行する段階；
    （ｂ）前記学習装置が、前記第１ＣＮＮモジュールをもって、前記第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す第１出力を生成するようにし、前記第１出力とこれに該当する原本正解イメージとを参照して第１ロスを算出するようにする段階；
    （ｃ）前記学習装置が、前記第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップの大きさを同一に変更した後、前記第１特徴マップと前記第２特徴マップとを統合して、第３特徴マップを生成する段階；
    （ｄ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記第３特徴マップに少なくとも一度コンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにする段階；
    （ｅ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出する段階；及び
    （ｆ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化する段階；
    を含むことを特徴とする方法。
  2. 前記（ｆ）段階で、
    前記学習装置が、前記第１ロスを利用してバックプロパゲーションを遂行して前記第１ＣＮＮモジュールの少なくとも一つのパラメータを最適化することを特徴とする第１項に記載の方法。
  3. 前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム（Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ Ｓｙｓｔｅｍ）、前記特定の物体の種類を識別するための分類システム（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステム（Ｓｅｇｍｅｎｔａｔｉｏｎ Ｓｙｓｔｅｍ）のいずれかに含まれ、
    前記第２ＣＮＮモジュールは少なくとも一つの特定の入力イメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記特定の入力イメージは、前記第１ＣＮＮモジュールに入力される複数の入力イメージの中に含まれ、前記特定の入力のイメージに対応して正確に検出される確率の低い特定の物体各々を含み、
    前記第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、
    確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする第１項記載の方法。
  4. 前記第２特徴マップの大きさは、前記第１特徴マップよりも大きく、
    前記（ｃ）段階で、
    前記学習装置は前記第２ＣＮＮモジュールをもって、前記第１特徴マップの大きさを前記第２特徴マップの大きさに合うように大きくすることを特徴とする第１項に記載の方法。
  5. 前記（ｃ）段階で、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記第１特徴マップの大きさを前記第２特徴マップの大きさと同じように変更させることを特徴とする第４項に記載の方法。
  6. 前記（ｃ）段階で、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップとをコンカチネートして、前記第３特徴マップを生成するようにすることを特徴とする第１項に記載の方法。
  7. 前記（ｄ）段階で、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記第４特徴マップがプーリングレイヤ（Ｐｏｏｌｉｎｇ Ｌａｙｅｒ）及びＦＣレイヤ（Ｆｕｌｌｙ−Ｃｏｎｎｅｃｔｅｄ Ｌａｙｅｒ）のうち少なくとも一つを通過させて前記第２ロスを算出することを特徴とする第１項に記載の方法。
  8. 前記プーリングレイヤは前記第４特徴マップの高さ及び幅を１にすることを特徴とする第７項に記載の方法。
  9. 前記（ｆ）段階で、
    前記学習装置は、前記自動選別機のロスを最小化する方向でバックプロパゲーションを遂行することを特徴とする第１項に記載の方法。
  10. ＣＮＮを基盤に有用な学習データを取捨選別するための方法において、
    （ａ）（Ｉ）学習装置が、（ｉ）トレーニングイメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第１特徴マップを生成し、（ｉｉ）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第２特徴マップを生成するプロセス、（ＩＩ）前記学習装置が、前記第１ＣＮＮモジュールをもって前記学習用第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す学習用第１出力を生成するようにし、前記学習用第１出力とこれに対応する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ＩＩＩ）前記学習装置が、前記学習用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップの大きさを同一に変更した後、前記学習用第１特徴マップと前記学習用第２特徴マップとを統合して、学習用第３特徴マップを生成するプロセス、（ＩＶ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記学習用第３特徴マップに少なくとも一度コンボリューション演算を適用して学習用第４特徴マップを生成し、前記学習用第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（Ｖ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ＶＩ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行した状態で、テスト装置が、各々のイメージ候補を各々のテストイメージとして獲得する段階；
    （ｂ）前記テスト装置が、（ｉ）前記第１ＣＮＮモジュールをもって、前記テストイメージに対してコンボリューション演算を少なくとも一度適用するようにして、テスト用第１特徴マップを生成するプロセス、及び（ｉｉ）前記第２ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにしてテスト用第２特徴マップを生成するプロセスを遂行する段階；
    （ｃ）前記テスト装置が、前記テスト用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップの大きさを同一に変更した後、前記テスト用第１特徴マップと前記テスト用第２特徴マップとを統合して、テスト用第３特徴マップを生成する段階；
    （ｄ）前記テスト装置が、前記第２ＣＮＮモジュールをもって、前記テスト用第３特徴マップに少なくとも一度コンボリューション演算を適用してテスト用第４特徴マップを生成し、前記テスト用第４特徴マップを利用してロス予測値を算出するようにする段階；及び
    （ｅ）前記テスト装置が、前記入力イメージ候補の中から前記ロス予測値が所定の閾値以上の値を有する少なくとも一つのイメージを前記第１ＣＮＮモジュールの学習プロセスに利用されるトレーニングイメージとして選別する段階；
    を含むことを特徴とする方法。
  11. 前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム、前記特定の物体の種類を識別するための分類システム及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステムのいずれかに含まれ、
    前記第２ＣＮＮモジュールは、トレーニングイメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記トレーニングイメージは、前記第１ＣＮＮモジュールに入力される複数のトレーニングイメージの中に含まれ、前記特定の物体に対応して正確に検出される確率の低い特定の物体各々を含み、
    前記学習用第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、
    確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする第１０項に記載の方法。
  12. 前記学習用第２特徴マップの大きさは、前記学習用第１特徴マップよりも大きく、
    前記（ＩＩＩ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさに合うように大きくし、
    前記テスト用第２特徴マップの大きさは、前記テスト用第１特徴マップよりも大きく、
    前記（ｃ）段階で、
    前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさに合うように大きくすることを特徴とする第１０項に記載の方法。
  13. 前記（ＩＩＩ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさと同じように変更させ、
    前記（ｃ）段階で、
    前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさと同じように変更させることを特徴とする第１２項に記載の方法。
  14. 前記（ＩＩＩ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップとをコンカチネートして、前記学習用第３特徴マップを生成するようにし、
    前記（ｃ）段階で、
    前記テスト習装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップとをコンカチネートして、前記テスト第３特徴マップを生成するようにすることを特徴とする第１０項に記載の方法。
  15. 前記（ＩＶ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記第２ロスを算出し、
    前記（ｄ）段階で、
    前記テスト装置は、前記第２ＣＮＮモジュールをもって、前記テスト用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記ロス予測値を算出することを特徴とする第１０項に記載の方法。
  16. 有用な学習データを取捨選別するためのＣＮＮ基盤の学習装置において、
    少なくとも一つの入力イメージを獲得するための通信部；及び
    （Ｉ）（Ｉ−１）前記入力イメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記入力イメージに対して少なくとも一度コンボリューション演算を適用するようにして第１特徴マップを生成し、（Ｉ−２）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって前記入力イメージに対して少なくとも一度コンボリューション演算を遂行するようにして第２特徴マップを生成するプロセス、（ＩＩ）前記第１ＣＮＮモジュールをもって、前記第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す第１出力を生成するようにし、前記第１出力とこれに該当する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ＩＩＩ）前記第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップの大きさを同一に変更した後、前記第１特徴マップと前記第２特徴マップとを統合して、第３特徴マップを生成するプロセス、（ＩＶ）前記第２ＣＮＮモジュールをもって、前記第３特徴マップに少なくとも一度コンボリューション演算を適用して第４特徴マップを生成し、前記第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（Ｖ）前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ＶＩ）前記自動選別機のロスを利用してバックプロパゲーション（Ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行するプロセッサ；
    を含むことを特徴とする装置。
  17. 前記（ＶＩ）プロセスで、
    前記プロセッサが、前記第１ロスを利用してバックプロパゲーションを遂行して前記第１ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行することを特徴とする第１６項に記載の装置。
  18. 前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム（Ｏｂｊｅｃｔ Ｄｅｔｅｃｔｉｏｎ Ｓｙｓｔｅｍ）、前記特定の物体の種類を識別するための分類システム（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステム（Ｓｅｇｍｅｎｔａｔｉｏｎ Ｓｙｓｔｅｍ）のいずれかに含まれ、
    前記第２ＣＮＮモジュールは少なくとも一つの特定の入力イメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記特定の入力イメージは、前記第１ＣＮＮモジュールに入力される複数の入力イメージの中に含まれ、前記特定の入力のイメージに対応して正確に検出される確率が低い特定の物体各々を含み、
    前記第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、
    確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする第１６項に記載の装置。
  19. 前記第２特徴マップの大きさは、前記第１特徴マップよりも大きく、
    前記（ＩＩＩ）プロセスで、
    前記プロセッサは前記第２ＣＮＮモジュールをもって、前記第１特徴マップの大きさを前記第２特徴マップの大きさに合うように大きくすることを特徴とする第１６項に記載の装置。
  20. 前記（ＩＩＩ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記第１特徴マップの大きさを前記第２特徴マップの大きさと同じように変更させることを特徴とする第１９項に記載の装置。
  21. 前記（ＩＩＩ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第１特徴マップと前記第２特徴マップとをコンカチネートして、前記第３特徴マップを生成するようにすることを特徴とする第１６項に記載の装置。
  22. 前記（ＩＶ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記第４特徴マップがプーリングレイヤ（Ｐｏｏｌｉｎｇ Ｌａｙｅｒ）及びＦＣレイヤ（Ｆｕｌｌｙ−Ｃｏｎｎｅｃｔｅｄ Ｌａｙｅｒ）のうち少なくとも一つを通過させて前記第２ロスを算出することを特徴とする第１６項に記載の装置。
  23. 前記プーリングレイヤは前記第４特徴マップの高さ及び幅を１にすることを特徴とする第２２項に記載の装置。
  24. 前記（ＩＶ）プロセスで、
    前記プロセッサは、前記自動選別機のロスを最小化する方向でバックプロパゲーションを遂行することを特徴とする第１６項に記載の装置。
  25. ＣＮＮを基盤に有用な学習データを取捨選別するためのテスト装置において、
    （ｉ）学習装置が、（ｉ−１）トレーニングイメージ内の特定の物体の識別情報や位置情報を獲得するための第１ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第１特徴マップを生成し、（ｉ−２）前記第１ＣＮＮモジュールの学習プロセスに利用される有用な学習データを自動選別（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ）するための第２ＣＮＮモジュールをもって、前記トレーニングイメージに対して少なくとも一度コンボリューション演算を適用するようにして学習用第２特徴マップを生成するプロセス、及び（ｉｉ）前記学習装置が、前記第１ＣＮＮモジュールをもって前記学習用第１特徴マップを利用して前記特定の物体の前記識別情報や前記位置情報を示す学習用第１出力を生成するようにし、前記学習用第１出力とこれに対応する原本正解イメージとを参照して第１ロスを算出するようにするプロセス、（ｉｉｉ）前記学習装置が、前記学習用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップの大きさを同一に変更した後、前記学習用第１特徴マップと前記学習用第２特徴マップとを統合して、学習用第３特徴マップを生成するプロセス、（ｉｖ）前記学習装置が、前記第２ＣＮＮモジュールをもって、前記学習用第３特徴マップに少なくとも一度コンボリューション演算を適用して学習用第４特徴マップを生成し、前記学習用第４特徴マップを利用して前記第１ロスの予測値に該当する第２ロスを算出するようにするプロセス、（ｖ）前記学習装置が、前記第１ロスと前記第２ロスとを参照して自動選別機のロス（Ａｕｔｏ−Ｓｃｒｅｅｎｅｒ’ｓ Ｌｏｓｓ）を算出するプロセス、及び（ｖｉ）前記学習装置が、前記自動選別機のロスを利用してバックプロパゲーションを随行し、前記第２ＣＮＮモジュールの少なくとも一つのパラメータを最適化するプロセスを遂行した状態で、各々のイメージ候補を各々のテストイメージとして獲得するための通信部；及び
    （Ｉ）（Ｉ−１）第１ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにして、テスト用第１特徴マップを生成し、（Ｉ−２）前記第２ＣＮＮモジュールをもって、前記テストイメージに対して少なくとも一度コンボリューション演算を適用するようにしてテスト用第２特徴マップを生成するプロセス；（ＩＩ）前記テスト用第１特徴マップを前記第２ＣＮＮモジュールに入力して、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップの大きさを同一に変更した後、前記テスト用第１特徴マップと前記テスト用第２特徴マップとを統合して、テスト用第３特徴マップを生成するプロセス；（ＩＩＩ）前記第２ＣＮＮモジュールをもって、前記テスト用第３特徴マップに少なくとも一度コンボリューション演算を適用してテスト用第４特徴マップを生成し、前記テスト用第４特徴マップを利用してロス予測値を算出するようにするプロセス；及び（ＩＶ）前記入力イメージ候補の中から前記ロス予測値が所定の閾値以上の値を有する少なくとも一つのイメージを前記第１ＣＮＮモジュールの学習プロセスに利用されるトレーニングイメージとして選別するプロセスを遂行するプロセッサ；
    を含むことを特徴とする方法。
  26. 前記第１ＣＮＮモジュールは、前記特定の物体の大きさや位置を検出するための物体検出システム、前記特定の物体の種類を識別するための分類システム及び前記特定の物体の領域を他の領域と区分するためのセグメンテーションシステムのいずれかに含まれ、
    前記第２ＣＮＮモジュールは、トレーニングイメージを自動的に選別するための自動選別システム（Ａｕｔｏ−Ｓｃｒｅｅｎｉｎｇ Ｓｙｓｔｅｍ）に含まれるものの、前記トレーニングイメージは、前記第１ＣＮＮモジュールに入力される複数のトレーニングイメージの中に含まれ、前記特定の物体に対応して正確に検出される確率の低い特定の物体各々を含み、
    前記学習用第１出力は、前記物体検出システムの出力、前記分類システムの出力及び前記セグメンテーションシステムの出力の一つを示し、
    確率が所定の閾値未満であるか否かに対する情報を参照して前記正確に検出される確率が低いかどうかが決定されることを特徴とする第２５項に記載の装置。
  27. 前記学習用第２特徴マップの大きさは、前記学習用第１特徴マップよりも大きく、
    前記（ｉｉｉ）プロセスで、
    前記学習装置は前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさに合うように大きくし、
    前記テスト用第２特徴マップの大きさは、前記テスト用第１特徴マップよりも大きく、
    前記（ＩＩ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさに合うように大きくすることを特徴とする第２５項に記載の装置。
  28. 前記（ｉｉｉ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記学習用第１特徴マップの大きさを前記学習用第２特徴マップの大きさと同じように変更させ、
    前記（ＩＩ）段階で、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップに所定回数のコンボリューション演算を適用するようにして、前記テスト用第１特徴マップの大きさを前記テスト用第２特徴マップの大きさと同じように変更させることを特徴とする第２７項に記載の装置。
  29. 前記（ｉｉｉ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第１特徴マップと前記学習用第２特徴マップとをコンカチネートして、前記学習用第３特徴マップを生成するようにし、
    前記（ＩＩ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第１特徴マップと前記テスト用第２特徴マップとをコンカチネートして、前記テスト第３特徴マップを生成するようにすることを特徴とする第２５項に記載の装置。
  30. 前記（ｉｖ）プロセスで、
    前記学習装置は、前記第２ＣＮＮモジュールをもって、前記学習用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記第２ロスを算出し、
    前記（ｃ）プロセスで、
    前記プロセッサは、前記第２ＣＮＮモジュールをもって、前記テスト用第４特徴マップがプーリングレイヤ及びＦＣレイヤのうち少なくとも一つを通過させて前記ロス予測値を算出することを特徴とする第２５項に記載の装置。
JP2019185244A 2018-10-26 2019-10-08 有用な学習データを取捨選別するためのｃｎｎ基盤の学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置 Active JP6875021B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/171,755 2018-10-26
US16/171,755 US10504027B1 (en) 2018-10-26 2018-10-26 CNN-based learning method, learning device for selecting useful training data and test method, test device using the same

Publications (2)

Publication Number Publication Date
JP2020068028A JP2020068028A (ja) 2020-04-30
JP6875021B2 true JP6875021B2 (ja) 2021-05-19

Family

ID=67211567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019185244A Active JP6875021B2 (ja) 2018-10-26 2019-10-08 有用な学習データを取捨選別するためのｃｎｎ基盤の学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置

Country Status (5)

Country Link
US (1) US10504027B1 (ja)
EP (1) EP3644236B1 (ja)
JP (1) JP6875021B2 (ja)
KR (1) KR102309711B1 (ja)
CN (1) CN111105011B (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180027887A (ko) * 2016-09-07 2018-03-15 삼성전자주식회사 뉴럴 네트워크에 기초한 인식 장치 및 뉴럴 네트워크의 트레이닝 방법
US10783634B2 (en) 2017-11-22 2020-09-22 General Electric Company Systems and methods to deliver point of care alerts for radiological findings
US10799189B2 (en) 2017-11-22 2020-10-13 General Electric Company Systems and methods to deliver point of care alerts for radiological findings
JP7096361B2 (ja) * 2018-12-14 2022-07-05 富士フイルム株式会社 ミニバッチ学習装置とその作動プログラム、作動方法、および画像処理装置
CN111666960B (zh) * 2019-03-06 2024-01-19 南京地平线机器人技术有限公司 图像识别方法、装置、电子设备及可读存储介质
JP2022536731A (ja) * 2019-06-12 2022-08-18 カーネギー メロン ユニバーシティ 画像処理のための深層学習モデル
KR20190087351A (ko) * 2019-07-05 2019-07-24 엘지전자 주식회사 머신 러닝 시스템, 방법 및 장치
US10943353B1 (en) 2019-09-11 2021-03-09 International Business Machines Corporation Handling untrainable conditions in a network architecture search
US11023783B2 (en) * 2019-09-11 2021-06-01 International Business Machines Corporation Network architecture search with global optimization
US11334987B2 (en) * 2019-10-09 2022-05-17 Siemens Medical Solutions Usa, Inc. Physics-constrained network and training thereof
WO2021084590A1 (ja) * 2019-10-28 2021-05-06 富士通株式会社 学習方法、学習プログラム、および学習装置
KR20210061146A (ko) * 2019-11-19 2021-05-27 삼성전자주식회사 전자 장치 및 그 제어 방법
US11157813B1 (en) * 2020-04-24 2021-10-26 StradVision, Inc. Method and device for on-vehicle active learning to be used for training perception network of autonomous vehicle
JP7486349B2 (ja) * 2020-05-28 2024-05-17 キヤノン株式会社 ニューラルネットワーク、ニューラルネットワークの学習方法、プログラム、画像処理装置
EP4116871A1 (en) * 2021-07-08 2023-01-11 Argo AI GmbH Method and processing unit for processing sensor data of several different sensors with an artificial neural network in a vehicle
KR20230050127A (ko) * 2021-10-07 2023-04-14 삼성전자주식회사 디스플레이 장치 및 그 동작방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9928410B2 (en) * 2014-11-24 2018-03-27 Samsung Electronics Co., Ltd. Method and apparatus for recognizing object, and method and apparatus for training recognizer
CN108475415B (zh) * 2015-12-21 2022-05-27 商汤集团有限公司 用于图像处理的方法和系统
US9665799B1 (en) * 2016-01-29 2017-05-30 Fotonation Limited Convolutional neural network
US9471836B1 (en) * 2016-04-01 2016-10-18 Stradvision Korea, Inc. Method for learning rejector by forming classification tree in use of training images and detecting object in test images, and rejector using the same
WO2018035805A1 (en) * 2016-08-25 2018-03-01 Intel Corporation Coupled multi-task fully convolutional networks using multi-scale contextual information and hierarchical hyper-features for semantic image segmentation
US9965863B2 (en) * 2016-08-26 2018-05-08 Elekta, Inc. System and methods for image segmentation using convolutional neural network
EP3549063A4 (en) * 2016-12-05 2020-06-24 Avigilon Corporation APPEARANCE SEARCH SYSTEM AND METHOD
JP6567488B2 (ja) * 2016-12-22 2019-08-28 日本電信電話株式会社 学習データ生成装置、開発データ生成装置、モデル学習装置、それらの方法、及びプログラム
CN108460464A (zh) * 2017-02-22 2018-08-28 中兴通讯股份有限公司 深度学习训练方法及装置
US10678846B2 (en) * 2017-03-10 2020-06-09 Xerox Corporation Instance-level image retrieval with a region proposal network
WO2018173800A1 (ja) * 2017-03-21 2018-09-27 日本電気株式会社 画像処理装置、画像処理方法及び記録媒体
US10572963B1 (en) * 2017-07-14 2020-02-25 Synapse Technology Corporation Detection of items
CN108596184B (zh) * 2018-04-25 2021-01-12 清华大学深圳研究生院 图像语义分割模型的训练方法、可读存储介质及电子设备
US10796200B2 (en) * 2018-04-27 2020-10-06 Intel Corporation Training image signal processors using intermediate loss functions

Also Published As

Publication number Publication date
CN111105011A (zh) 2020-05-05
EP3644236C0 (en) 2024-03-13
CN111105011B (zh) 2023-10-20
EP3644236B1 (en) 2024-03-13
EP3644236A1 (en) 2020-04-29
KR20200047307A (ko) 2020-05-07
KR102309711B1 (ko) 2021-10-08
US10504027B1 (en) 2019-12-10
JP2020068028A (ja) 2020-04-30

Similar Documents

Publication Publication Date Title
JP6875021B2 (ja) 有用な学習データを取捨選別するためのｃｎｎ基盤の学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置
JP6847464B2 (ja) 車線候補ピクセルを分類して車線を検出する学習方法及び学習装置そしてこれを利用したテスト方法及びテスト装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ， ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｄｅｔｅｃｔｉｎｇ ｌａｎｅ ｔｈｒｏｕｇｈ ｃｌａｓｓｉｆｙｉｎｇ ｌａｎｅ ｃａｎｄｉｄａｔｅ ｐｉｘｅｌｓ ａｎｄ ｔｅｓｔ ｍｅｔｈｏｄ， ｔｅｓｔ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP6820030B2 (ja) 異なるラベルセットを有する複数のラベリングされたデータベースを用いて学習する方法及び装置、そしてこれを利用したテスト方法及び装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｍｕｌｔｉｐｌｅ ｌａｂｅｌｅｄ ｄａｔａｂａｓｅｓ ｗｉｔｈ ｄｉｆｆｅｒｅｎｔ ｌａｂｅｌ ｓｅｔｓ ａｎｄ ｔｅｓｔｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｔｅｓｔｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP6847463B2 (ja) ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）を利用して車線を検出するための学習方法及び学習装置そしてこれを利用したテスト方法及びテスト装置｛ＬＥＡＲＮＩＮＧ ＭＥＴＨＯＤ， ＬＥＡＲＮＩＮＧ ＤＥＶＩＣＥ ＦＯＲ ＤＥＴＥＣＴＩＮＧ ＬＡＮＥ ＵＳＩＮＧ ＣＮＮ ＡＮＤ ＴＥＳＴ ＭＥＴＨＯＤ， ＴＥＳＴ ＤＥＶＩＣＥ ＵＳＩＮＧ ＴＨＥ ＳＡＭＥ｝
JP6980289B2 (ja) 車線モデルを利用して車線を検出し得る学習方法及び学習装置そしてこれを利用したテスト方法及びテスト装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ， ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｄｅｔｅｃｔｉｎｇ ｌａｎｅ ｕｓｉｎｇ ｌａｎｅ ｍｏｄｅｌ ａｎｄ ｔｅｓｔ ｍｅｔｈｏｄ， ｔｅｓｔ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP6855091B2 (ja) ニューラルネットワーク学習に利用されるオートラベリングされたイメージのうちでラベル検収のためのサンプルイメージを取得する方法、及びそれを利用したサンプルイメージ取得装置
JP6857370B2 (ja) ターゲット物体予測ネットワーク及びターゲット物体統合ネットワークを利用して、重要業績評価指標のようなユーザー要求事項に係る最適化のための再構成可能なネットワーク基盤の物体検出器を学習する方法及び学習装置、並びにこれを利用したテスティング方法及びテスティング装置
JP6908944B2 (ja) 多重カメラまたはサラウンドビューモニタリングに利用されるために、ターゲット物体統合ネットワーク及びターゲット物体予測ネットワークを利用して、重要業績評価指標のようなユーザー要求事項に適用可能なｃｎｎ基盤の物体検出器を学習する方法及び学習装置、並びにこれを利用したテスティング方法及びテスティング装置
JP6869565B2 (ja) 危険要素検出に利用される学習用イメージデータセットの生成方法及びコンピューティング装置、そしてこれを利用した学習方法及び学習装置｛ｍｅｔｈｏｄ ａｎｄ ｃｏｍｐｕｔｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｇｅｎｅｒａｔｉｎｇ ｉｍａｇｅ ｄａｔａ ｓｅｔ ｔｏ ｂｅ ｕｓｅｄ ｆｏｒ ｈａｚａｒｄ ｄｅｔｅｃｔｉｏｎ ａｎｄ ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP6932395B2 (ja) イメージを分析するために、ディープラーニングネットワークに利用するためのトレーニングイメージに対するラベルリング信頼度を自動的に評価するための方法、及びこれを利用した信頼度評価装置
JP6908943B2 (ja) イメージコンカチネーションと、ターゲット物体予測ネットワークとを利用して、多重カメラ又はサラウンドビューモニタリングに利用される物体検出器を学習する方法及び学習装置、並びにこれを利用したテスティング方法及びテスティング装置
JP6867054B2 (ja) マルチカメラシステム内のダブルエンベディング構成を利用して、道路利用者イベントを検出するために用いられるセグメンテーション性能向上のための学習方法及び学習装置、そしてこれを利用したテスティング方法及びテスティング装置。｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｉｍｐｒｏｖｉｎｇ ｓｅｇｍｅｎｔａｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ ｔｏ ｂｅ ｕｓｅｄ ｆｏｒ ｄｅｔｅｃｔｉｎｇ ｒｏａｄ ｕｓｅｒ ｅｖｅｎｔｓ ｕｓｉｎｇ ｄｏｕｂｌｅ ｅｍｂｅｄｄｉｎｇ ｃｏｎｆｉｇｕｒａｔｉｏｎ ｉｎ ｍｕｌｔｉ−ｃａｍｅｒａ ｓｙｓｔｅｍ ａｎｄ ｔｅｓｔｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｔｅｓｔｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP6856952B2 (ja) 複数のビデオフレームを利用してｃｎｎのパラメータを最適化するための学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置
JP6846069B2 (ja) 遠距離検出または軍事目的のために、イメージコンカチネーションを利用したｃｎｎ基盤のハードウェア最適化が可能な物体検出器を学習する方法及び学習装置、それを利用したテスト方法及びテスト装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｏｂｊｅｃｔ ｄｅｔｅｃｔｏｒ ｗｉｔｈ ｈａｒｄｗａｒｅ ｏｐｔｉｍｉｚａｔｉｏｎ ｂａｓｅｄ ｏｎ ｃｎｎ ｆｏｒ ｄｅｔｅｃｔｉｏｎ ａｔ ｄｉｓｔａｎｃｅ ｏｒ ｍｉｌｉｔａｒｙ ｐｕｒｐｏｓｅ ｕｓｉｎｇ ｉｍａｇｅ ｃｏｎｃａｔｅｎａｔｉｏｎ， ａｎｄ ｔｅｓｔｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｔｅｓｔｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
KR20200095387A (ko) 협업 주행을 수행하는 자동차들로부터 획득된 주행 이미지들을 통합하는 방법 및 이를 이용한 주행 이미지 통합 장치
JP6865342B2 (ja) Ｃｎｎ基盤車線検出のための学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置
KR20200071808A (ko) 객체 검출기의 학습 방법, 이를 수행하기 위한 기록매체 및 장치
KR20230149255A (ko) 경계선 지정을 통한 어노테이션 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191008

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210415

R150 Certificate of patent or registration of utility model

Ref document number: 6875021

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250