JP2016009484A - ポイントクラウドで特徴領域を抽出する方法及び装置 - Google Patents

ポイントクラウドで特徴領域を抽出する方法及び装置 Download PDF

Info

Publication number
JP2016009484A
JP2016009484A JP2015034805A JP2015034805A JP2016009484A JP 2016009484 A JP2016009484 A JP 2016009484A JP 2015034805 A JP2015034805 A JP 2015034805A JP 2015034805 A JP2015034805 A JP 2015034805A JP 2016009484 A JP2016009484 A JP 2016009484A
Authority
JP
Japan
Prior art keywords
feature
feature region
region
voxel
regions
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015034805A
Other languages
English (en)
Other versions
JP6622972B2 (ja
Inventor
孝 錫 黄
Hyo Seok Huang
孝 錫 黄
東 ▲ぎょん▼ 南
Dong-Kyung Nam
東 ▲ぎょん▼ 南
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2016009484A publication Critical patent/JP2016009484A/ja
Application granted granted Critical
Publication of JP6622972B2 publication Critical patent/JP6622972B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005Tree description, e.g. octree, quadtree
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/52Scale-space analysis, e.g. wavelet analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering

Abstract

【課題】ポイントクラウドで特徴領域を抽出する方法及び装置を提供する。
【解決手段】映像に含まれた少なくとも1つの特徴領域を抽出する特徴領域抽出方法は、映像のポイントクラウドを複数の領域に分割するステップS1820と、ポイントクラウド内の少なくとも1つのポイントインテンシティに基づいて複数の領域のうち少なくとも1つの特徴領域を抽出するステップS1850から構成される。
【選択図】図18

Description

以下の実施形態は、ポイントクラウドで特徴領域を抽出する方法及び装置に関する。
2次元映像の場合、明度値が最も大きく変化するポイントやピクセルの明度値の変化を用いて抽出した外側線が互いに交差するポイントが特徴ポイントから抽出して用いられている。
下記で説明する実施形態は、特徴ポイント抽出のための演算量を減少させる技術を提供する。また、実施形態は、演算量の減少によって発生する余分のコンピュータパワーを用いて、複雑な特徴ポイント抽出アルゴリズムを追加的に行う技術を提供する。
一実施形態に係る特徴領域抽出方法は、映像のポイントクラウドを複数の領域に分割するステップと、前記ポイントクラウド内の少なくとも1つのポイントインテンシティに基づいて前記複数の領域のうち少なくとも1つの特徴領域を抽出するステップとを含む。
一実施形態に係る映像内の特徴ポイントを抽出する方法は、前記映像のポイントクラウドから複数のボクセルを生成するステップであって、前記複数のボクセルそれぞれは、該ボクセル内のポイントの数に関する値を有する、ステップと、前記複数のボクセル及び当該値に基づいて少なくとも1つの特徴領域を決定するステップと、前記少なくとも1つの特徴領域に基づいて前記特徴ポイントを抽出するステップと、を含む。
一実施形態に係る特徴領域抽出装置は、ポイントクラウドを受信する受信部と、前記ポイントクラウドを複数の領域に分割する分割部と、前記複数の領域を階層化する階層構造を生成する生成部と、前記階層構造により前記複数の領域から少なくとも1つの特徴領域を抽出する抽出部とを備える。
本発明によると、特徴ポイント抽出のための演算量を減少させる技術を提供することができる。また、実施形態は演算量の減少によって発生する余分のコンピュータパワーを用いて、複雑な特徴ポイント抽出アルゴリズムを追加的に行う技術を提供することができる。
一実施形態に係るポイントクラウドで特徴領域を抽出する方法を説明する図である。 一実施形態に係るポイントインテンシティ基盤ボクセルグリッドを説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る離散ウェーブレット変換を説明する図である。 一実施形態に係る階層構造により特徴領域を抽出する方法を示した動作フローチャートである。 一実施形態に係る階層構造により特徴領域を抽出する方法を説明する図である。 一実施形態に係る突極性条件を説明する図である。 一実施形態に係る突極性条件を説明する図である。 一実施形態に係る接続性条件を説明する図である。 一実施形態に係る接続性条件を説明する図である。 一実施形態に係る類似性条件を説明する図である。 一実施形態に係る類似性条件を説明する図である。 一実施形態に係るボクセルグリッドの範囲を設定する方法を説明する図である。 一実施形態に係る特徴領域抽出方法を示した動作フローチャートである。 一実施形態に係る特徴領域抽出装置を示すブロック図である。 他の実施形態に係る特徴領域抽出装置を示すブロック図である。
以下、実施形態を添付する図面を参照しながら詳細に説明する。
図1は、一実施形態に係るポイントクラウドで特徴領域を抽出する方法を説明する図である。
ポイントクラウドは、任意の座標系に属するポイントの集合である。例えば、ポイントクラウドは、3次元座標系に属する複数のポイントの集合であってもよい。3次元座標系でポイントは、x座標、y座標、z座標のように定義されてもよく、ポイントそれぞれは表現しようとする3次元オブジェクトの表面に沿って分布してもよい。ポイントクラウドは、3次元スキャナなどを用いて生成されてもよい。
特徴領域(feature region)は、特徴ポイントを含む領域である。特徴ポイントは映像内で抽出されるポイントとして、必要に応じて相異に定義されてもよい。一部の特徴ポイントは、大きさ、視点、照明変化などに影響を受けることなく映像内で繰り返し抽出されてもよい。特徴ポイントは、オブジェクト認識、3次元復元、ナビゲーションなどに用いてもよい。以下、特徴領域は、与えられたポイントクラウドで特徴ポイントを含む可能性が高い一部のポイントクラウドを示す。
図1を参照すると、一実施形態に係る特徴領域抽出装置は、ポイントクラウド(point cloud)110を複数の領域120に分割し、複数の領域120のうち少なくとも1つの特徴領域131、132、133、134、135、136、137、138、139、140、141、142を抽出してもよい。特徴領域抽出装置は、ソフトウェアで実現されるプログラムをプロセッサ及びメモリを用いて行ったり、ハードウェア加速器(hardware accelerator:HWA)又はFPGA(field−programmable gate array)などを用いてハードウェアで実現された機能を行ってもよい。もちろん、特徴領域抽出装置は、ソフトウェアで実現されたプログラム及びハードウェアで実現された機能を共に行ってもよい。
複数の領域120それぞれは、ボクセル(voxel)と表されてもよい。ボクセルは、3次元空間で正規グリッドの値を表現する要素として、2次元空間で正規グリッドの値を表現するピクセルに対応する。例えば、特徴領域抽出装置は、ポイントクラウド110をカバーするボクセルグリッドを生成し、ボクセルグリッドで特徴領域に対応する少なくとも1つのボクセルを抽出してもよい。
特徴領域抽出装置は、ポイントクラウド110の全体で特徴ポイントを抽出する代わりに、抽出された特徴領域131、132、133、134、135、136、137、138、139、140、141、142で集中的に特徴ポイントを抽出してもよい。そのため、特徴領域抽出装置は、特徴ポイント抽出のための演算量を減少させる技術を提供してもよい。また、特徴領域抽出装置は、演算量の減少によって発生する余分のコンピュータパワーを用いて複雑な特徴ポイント抽出アルゴリズムを行ってもよい。そのため、特徴領域抽出装置は、より性能の優れる特徴ポイントを抽出する技術を提供することができる。
抽出された特徴ポイントは、三次元整合、三次元物体認識などに活用されてもよい。例えば、抽出された特徴ポイントを用いて3次元映像処理、ライトフィールドディスプレイで3次元整合の性能を向上させることができる。実施形態は、カメラのアルゴリズムチップ、ライトフィールドディスプレイ、スマートフォンのユーザインターフェースなどのように適用されてもよい。
図2は、一実施形態に係るポイントインテンシティ基盤ボクセルグリッドを説明する図である。図2を参照すると、一実施形態に係る特徴領域抽出装置は、ボクセルグリッド210を生成し、ボクセルグリッド210に属するボクセルそれぞれにインテンシティ(intensity、強度)を設定してもよい。任意のボクセルのインテンシティは、当該ボクセルに属するポイントの質量に比例してもよい。以下、ボクセルのインテンシティは、ボクセルインテンシティ又はポイントインテンシティと称する。本願明細書では、質量は、「密集度」、「密度」、「濃度」、「個数」などとしても言及される。
例えば、ポイントクラウドに属するポイントの質量が全て同一であると仮定すれば、任意のボクセルのボクセルインテンシティは、当該ボクセルに属するポイントの個数として定義されてもよい。この場合、ボクセルインテンシティは数式(1)のように算出されてもよい。
ここで、Pはポイントクラウドを示し、pはポイントを示す。V0(i、j、k)はレベル0で(i、j、k)番目のボクセルを示し、VI0(i、j、k)はレベル0で(i、j、k)番目のボクセルのボクセルインテンシティを示す。レベルに関する詳細な内容は後述する。
特徴領域抽出装置は、ボクセルグリッド210に属するボクセルそれぞれにボクセルインテンシティを設定するため、ポイントクラウドに属するポイントを探索してもよい。特徴領域抽出装置は、探索中であるポイントが属するボクセルのボクセルインテンシティを増加させ得る。
ボクセルグリッド210に属するボクセルそれぞれのボクセルインテンシティは、ポイントクラウドに属するポイントが密集した程度(concentration)に関連する。例えば、ボクセル211のボクセルインテンシティが20であるとき、ボクセル211は20個のポイントを含んでもよい。ボクセル212のボクセルインテンシティが2であるとき、ボクセル212は2個のポイントを含んでもよい。ボクセル212のボクセルインテンシティよりもボクセル211のボクセルインテンシティが大きいことは、ボクセル212よりもボクセル211にポイントがさらに密集していることを示す。
特徴領域抽出装置は、ポイントインテンシティ基盤のボクセルグリッド210を生成することによって、ボクセル基盤の信号処理を可能にする。特徴領域抽出装置は3次元空間上で特徴ポイントを演算するため、特徴ポイントを演算するために3次元オブジェクトが2次元映像に投影される必要がない。そのため、特徴領域抽出装置は投影歪みに影響を受けないことから、より信頼度の高い特徴ポイントを抽出することができる。
図3ないし図7は、一実施形態に係る離散ウェーブレット変換を説明する図である。
図3を参照すると、一実施形態に係る特徴領域抽出装置は、離散ウェーブレット変換(Discrete Wavelet Transform:DWT)を用いてポイントクラウドの変化率に応じて階層構造を生成してもよい。離散ウェーブレット変換は、ウェーブレットが不連続的にサンプリングされる変換である。ここで、ウェーブレットは、0を中心に増加及び減少を繰り返す振幅を伴う波のような振動である。ウェーブレットは、信号処理に有用な特定性質を有する。離散ウェーブレット変換は、周波数成分と位置成分をキャプチャーしてもよい。特徴領域抽出装置は、様々な離散ウェーブレット変換のうちHarrウェーブレット変換を用いてもよい。
特徴領域抽出装置は、予め決定した数の隣接するボクセルに離散ウェーブレット変換を適用してもよい。例えば、図3を参照すると、特徴領域抽出装置は、8個の隣接するボクセル310に離散ウェーブレット変換を適用してもよい。8個の隣接するボクセル310は、第1階のボクセル311と第2階のボクセル312に分類されてもよい。第1階のボクセル311と第2階のボクセル312に離散ウェーブレット変換を適用すると、基準ボクセル315を基準にしてx軸、y軸、z軸のそれぞれに対する変化率の高い値と低い値が決定されてもよい。
より具体的に、第1階のボクセル311と第2階のボクセル312に離散ウェーブレット変換が適用されれば、第1階のボクセル311それぞれのインテンシティと、第2階のボクセル312それぞれのインテンシティに基づいて低周波成分及び高周波成分が算出される。例えば、VLLLボクセル321は、x軸方向に低周波成分、y軸方向に低周波成分、z軸方向に低周波成分の特性値を有する。VHLLボクセル322は、x軸方向に高周波成分、y軸方向に低周波成分、z軸方向に低周波成分の特性値を有する。VLHLボクセル323は、x軸方向に低周波成分、y軸方向に高周波成分、z軸方向に低周波成分の特性値を有する。VHHLボクセル324は、x軸方向に高周波成分、y軸方向に高周波成分、z軸方向に低周波成分の特性値を有する。
また、VLLHボクセル325は、x軸方向に低周波成分、y軸方向に低周波成分、z軸方向に高周波成分の特性値を有する。VHLHボクセル326は、x軸方向に高周波成分、y軸方向に低周波成分、z軸方向に高周波成分の特性値を有する。VLHHボクセル327は、x軸方向に低周波成分、y軸方向に高周波成分、z軸方向に高周波成分の特性値を有する。VHHHボクセル328は、x軸方向に高周波成分、y軸方向に高周波成分、z軸方向に高周波成分の特性値を有する。
以下、VLLLボクセル321、VHLLボクセル322、VLHLボクセル323、VHHLボクセル324、VLLHボクセル325、VHLHボクセル326、VLHHボクセル327、及びVHHHボクセル328のそれぞれはサブバンドと表されてもよい。
図4は、離散ウェーブレット変換の概念図である。一実施形態に係る離散ウェーブレット変換は3次元ボクセルを対象とするため、3次元離散ウェーブレット変換であると言われてもよい。図4を参照すると、入力信号は、x軸方向フィルタ411、y軸方向フィルタ412、及びz軸方向フィルタ413を経て8個の特性で出力されてもよい。例えば、LLL特性421は、x軸方向に低周波成分、y軸方向に低周波成分、z軸方向に低周波成分を含む。LLH特性422は、x軸方向に低周波成分、y軸方向に低周波成分、z軸方向に高周波成分を含む。LHL特性423は、x軸方向に低周波成分、y軸方向に高周波成分、z軸方向に低周波成分を含む。LHH特性424は、x軸方向に低周波成分、y軸方向に高周波成分、z軸方向に高周波成分を含む。
また、HLL特性425は、x軸方向に高周波成分、y軸方向に低周波成分、z軸方向に低周波成分を含む。HLH特性426は、x軸方向に高周波成分、y軸方向に低周波成分、z軸方向に高周波成分を含む。HHL特性427は、x軸方向に高周波成分、y軸方向に高周波成分、z軸方向に低周波成分を含む。HHH特性428は、x軸方向に高周波成分、y軸方向に高周波成分、z軸方向に高周波成分を含む。
ここで、LLL特性421は図3に示すVLLLボクセル321に対応し、LLH特性422は図3に示すVLLHボクセル325に対応し、LHL特性423は図3に示すVLHLボクセル323に対応し、LHH特性424は図3に示すVLHHボクセル327に対応する。また、HLL特性425は図3に示すVHLLボクセル322に対応し、HLH特性426は図3に示すVHLHボクセル326に対応し、HHL特性427は図3に示すVHHLボクセル324に対応し、HHH特性428は図3に示すVHHHボクセル328に対応する。
再び図3を参照すると、離散ウェーブレット変換された8個の隣接ボクセル320は、VLLLボクセル321を基準にして残りの7個の高周波成分ボクセル322、323、324、325、326、327、328を含んでもよい。例えば、VHLLボクセル322はx軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてx軸方向の座標が増加する位置に配置されてもよい。VLHLボクセル323はy軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてy軸方向の座標が増加する位置に配置されてもよい。VHHLボクセル324はx軸方向及びy軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてx軸方向及びy軸方向の座標が増加する位置に配置されてもよい。
また、VLLHボクセル325はz軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてz軸方向の座標が増加する位置に配置されてもよい。VHLHボクセル326はx軸方向及びz軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてx軸方向及びz軸方向の座標が増加する位置に配置されてもよい。VLHHボクセル327はy軸方向及びz軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてy軸方向及びz軸方向の座標が増加する位置に配置されてもよい。VHHHボクセル328はx軸方向、y軸方向及びz軸方向に高周波成分を含むため、VLLLボクセル321を基準にしてx軸方向、y軸方向及びz軸方向の座標が増加する位置に配置されてもよい。
特徴領域抽出装置は、離散ウェーブレット変換された8個の隣接ボクセル320のうち、基準となるVLLLボクセル321のみを次のレベルの離散ウェーブレット変換に用いてよい。これはボクセルの大きさを1/8にダウンサンプリングする意味として、レベルが高くなるにつれてボクセルはさらに広い領域に対する変化率を示す。
以下で詳細に説明するが、VLLLボクセル321の値は8個の隣接ボクセル310を代表する値であってもよい。例えば、VLLLボクセル321の値は8個の隣接ボクセル310のインテンシティの平均であってもよい。特徴領域抽出装置は、下位レベルの離散ウェーブレット変換値のうち、代表値のみを次の上位レベルの離散ウェーブレット変換に用いることによって階層構造を生成してもよい。
図5を参照すると、特徴領域抽出装置は、現在の一軸の長さがwであるボクセル510のレベルを0に設定し、離散ウェーブレット変換を行ってもよい。特徴領域抽出装置は、レベル0で離散ウェーブレット変換された値のうちLLL特性に対応する代表値のみをレベル1に伝搬(propagation)してもよい。この場合、レベル1のボクセル520の一軸の長さは2wであってもよい。特徴領域抽出装置は、レベル1で離散ウェーブレット変換を行い、離散ウェーブレット変換された値のうちLLL特性に対応する代表値のみをレベル2に伝搬してもよい。この場合、レベル2のボクセル530の一軸の長さは4wであってもよい。
レベルが増加するほどボクセルの一軸の長さは増加し、当該レベルのボクセルグリッドを構成するボクセル数は減少してもよい。レベルが増加するほど1つのボクセルによってカバーされる領域の広さは増加する。
図6を参照すると、反復的な離散ウェーブレット変換の結果、複数のレベルを有する階層構造600が生成されてもよい。階層構造600は、ツリー状に表現されてもよい。深さが1であるノード610は図5に示すレベル2のボクセル530に対応してもよい。深さが2であるノード620は図5に示すレベル1のボクセル520に対応してもよい。また、深さが3であるノード630は図5に示すレベル0のボクセル510に対応してもよい。
下記で詳細に説明するが、特徴領域抽出装置は生成された階層構造600を用いることによって、広い領域から狭い領域に階層的な探索を行うことができる。例えば、特徴領域抽出装置は、広い領域から開始して特徴ポイントを含む可能性の低い部分を予め探索領域から除外してもよい。この場合、広い領域の探索のうち探索領域から除外された部分は狭い領域の探索から排除されるため、特徴領域を抽出するための総探索時間は減少し得る。
図7を参照すると、特徴領域抽出装置は、8個の隣接するボクセル710それぞれのインテンシティに基づいて離散ウェーブレット変換を行ってもよい。例えば、8個の隣接するボクセル710に含まれた第1ボクセル711のインテンシティはaであり、第2ボクセル712のインテンシティはbであり、第3ボクセル713のインテンシティはcであり、第4ボクセル714のインテンシティはdであってもよい。また、8個の隣接するボクセル710に含まれた第5ボクセル715のインテンシティはeであり、第6ボクセル716のインテンシティはfであり、第7ボクセル717のインテンシティはgであり、第8ボクセル718のインテンシティはhであってもよい。
ここで、VLLLボクセル721の値は(a+b+c+d+e+f+g+h)/8に算出されてもよい。VHLLボクセル722の値はa−bに算出されてもよい。VLHLボクセル723の値はa−cに算出されてもよい。VHHLボクセル724の値はa−dに算出されてもよい。VLLHボクセル725の値はa−eに算出されてもよい。VHLHボクセル726の値はa−fに算出されてもよい。VLHHボクセル727の値はa−gに算出されてもよい。VHHHボクセル728の値はa−hに算出されてもよい。
図8は、図2に示すボクセル210のうち、V0(0、0、0)、V0(1、0、0)、V0(0、1、0)、V0(1、1、0)、V0(0、0、1)、V0(1、0、1)、V0(0、1、1)、V0(1、1、1)が離散ウェーブレット変換される過程を説明する図である。ここで、Vl(i、j、k)はレベルlで(i、j、k)番目のボクセルを示す。V0(0、0、0)のインテンシティは0であり、V0(1、0、0)のインテンシティは0であり、V0(0、1、0)のインテンシティは0であり、V0(1、1、0)のインテンシティは0であってもよい。また、V0(0、0、1)のインテンシティは12であり、V0(1、0、1)のインテンシティは10であり、V0(0、1、1)のインテンシティは3であり、V0(1、1、1)のインテンシティは7であってもよい。
離散ウェーブレット変換の結果、V0LLL(0、0、0)の値は4であり、V0HLL(0、0、0)の値は0であり、V0LHL(0、0、0)の値は0であり、V0HHL(0、0、0)の値は0であってもよい。また、V0LLH(0、0、0)の値は−12であり、V0HLH(0、0、0)の値は−10であり、V0LHH(0、0、0)の値は−3であり、V0HHH(0、0、0)の値は−7であってもよい。ここで、V0LLL(0、0、0)はV0(0、0、0)を基準にしてLLL特性のサブバンドを示し、V0HLL(0、0、0)はV0(0、0、0)を基準にしてHLL特性のサブバンドを示し、V0LHL(0、0、0)はV0(0、0、0)を基準にしてLHL特性のサブバンドを示し、V0HHL(0、0、0)はV0(0、0、0)を基準にしてHHL特性のサブバンドを示す。また、V0LLH(0、0、0)はV0(0、0、0)を基準にしてLLH特性のサブバンドを示し、V0HLH(0、0、0)はV0(0、0、0)を基準にしてHLH特性のサブバンドを示し、V0LHH(0、0、0)はV0(0、0、0)を基準にしてLHH特性のサブバンドを示し、V0HHH(0、0、0)はV0(0、0、0)を基準にしてHHH特性のサブバンドを示す。
特徴領域抽出装置は、V0LLL(0、0、0)の値を次のレベルで伝搬してもよい。例えば、次のレベルのレベル1でV1LLL(0、0、0)のインテンシティはV0LLL(0、0、0)の値の4であってもよい。1以上のレベルlでボクセルインテンシティは数式(2)のように表現されてもよい。
図9は、一実施形態に係る階層構造により特徴領域を抽出する方法を示した動作フローチャートである。図9を参照すると、一実施形態に係る特徴領域抽出装置は、生成された階層構造を用いて特徴領域を抽出してもよい。ステップS910において、特徴領域抽出装置は初期化を行う。例えば、特徴領域抽出装置は、ボクセルのレベルを指示するパラメータレベルを最上位レベルに設定する。ステップS920において、特徴領域抽出装置はレベル内の反復(iteration)開始のためにボクセルのインデックスを指示するパラメータボクセルインデックスを0に設定する。ボクセルインデックスは(i、j、k)=0、0、0から(i、j、k)=(ボクセルグリッドのx軸サイズ、ボクセルグリッドのy軸サイズ、ボクセルグリッドのz軸サイズ)まで順に示す値であり、その順は関係ない。
ステップS930において、特徴領域抽出装置は、レベル内反復の終了のためにボクセルインデックスが反復終了を指示するファイナルインデックスであるか否かを判断する。ボクセルインデックスがファイナルインデックスではない場合、ステップS940において、特徴領域抽出装置はボクセルインデックスに対応するボクセルがマークされているか否かを判断する。ここで、最上位レベルでは全てのボクセルがマークされている。例えば、図10に示す最上位レベルはレベル2であってもよく、図10に示すレベル2のボクセル1010は全てマークされていてもよい。ボクセルインデックスに対応するボクセルがマークされなければ、ステップS980において、特徴領域抽出装置はボクセルインデックスを次の値に更新する。
ボクセルインデックスに対応するボクセルがマークされれば、ステップS950において、特徴領域抽出装置は、当該ボクセルが特徴領域であるか否かを判断する。例えば、特徴領域抽出装置は、上位レベルのボクセルのサブバンドを用いて特徴領域に対する期待値を算出してもよい。特徴領域抽出装置は、特徴領域に対する期待値が閾値以上である場合、当該ボクセルが特徴領域であると判断してもよい。ボクセルインデックスに対応するボクセルが特徴領域であるか否かを判断する方法は、図11〜図16を参照して詳細に後述する。
ボクセルインデックスに対応するボクセルが特徴領域であると判断される場合、ステップS960において、特徴領域抽出装置はレベルが0であるか否かを判断する。レベルが0でなければ、ステップS970において、特徴領域抽出装置はボクセルインデックスに対応するボクセルの下位レベルボクセルをマークする。例えば、上位レベルのボクセル1つは、次の下位レベルのボクセル8個に対応してもよい。特徴領域抽出装置は、次の下位レベルのボクセル8個をマークしてもよい。一例として、図10に示すレベル1のボクセル1020は、特徴領域であると判断されたボクセルである。特徴領域抽出装置は、ボクセル1020それぞれの下位レベルボクセルをマークしてもよい。
ボクセルインデックスに対応するボクセルが特徴領域ではないと判断される場合、ステップS980において、特徴領域抽出装置は、ボクセルインデックスを次の値に更新する。特徴領域抽出装置は、特徴領域でないと判断されたボクセルの下位レベルボクセルをマークしないことで、下位レベルボクセルを探索対象から除外してもよい。
レベルが0である場合、ステップS965において、特徴領域抽出装置は特徴領域を出力する。ステップS950でボクセルインデックスに対応するボクセルが特徴領域であると判断されたため、特徴領域抽出装置はボクセルインデックスに対応するボクセルを出力してもよい。例えば、図10に示すレベル0のボクセル1030は、特徴領域であると判断されたボクセルである。特徴領域抽出装置はボクセル1030を出力してもよい。
ステップS980において、特徴領域抽出装置はボクセルインデックスを次の値で更新する。特徴領域抽出装置は、ボクセルインデックスがファイナルインデックスになるまでステップS930〜ステップS980を繰り返す。レベルにおける反復が終了すれば、ボクセルインデックスはファイナルインデックスと同一になる。ステップS990において、特徴領域抽出装置はレベルが0であるか否かを判断する。レベルが0ではない場合、ステップS995で特徴領域抽出装置はレベルを減少させる。特徴領域抽出装置は、減少したレベルでステップS920〜ステップS980を繰り返す。レベルが0である場合、特徴領域抽出アルゴリズムが終了する。
実施形態は、ライトフィールドディスプレイにも適用されてもよい。例えば、多重映像で作られた3次元構造を互いに整合したり、多重映像内の特定部分を認識するために実施形態が適用されてもよい。
特徴領域抽出装置は、抽出された特徴領域から特徴ポイントを抽出してもよい。例えば、特徴領域抽出装置は、ステップS965で特徴領域を出力する代わりに、当該特徴領域から特徴ポイントを抽出してもよい。特徴領域抽出装置は、特徴領域内1つのポイントに対して予め決定した数の最近接の隣接ポイントを探してもよい。特徴領域抽出装置は、1つのポイント及び隣接ポイントを臨時セットに分類してもよい。特徴領域抽出装置は、特徴領域に含まれた複数のポイントそれぞれに対応する臨時セットを設定してもよい。特徴領域抽出装置は、数式(3)を用いて臨時セットの中心ポイントを算出してもよい。
ここで、kは臨時セットに含まれるポイントの数であり、piは臨時セット内i番目のポイントであり、
は臨時セットの中心ポイントである。
特徴領域抽出装置は、数式(4)を用いてマトリックスCを算出してもよい。特徴領域抽出装置は、中心ポイントから臨時セットに含まれたそれぞれのポイントへ向かうベクトルを用いてマトリックスCを算出してもよい。マトリックスCは対称的であり、正数として定義されるマトリックス(symmetric、positive define matrix)であってもよい。また、特徴領域抽出装置は、マトリックスCを固有分析(Eigen analysis)することによって、固有値を算出してもよい。
ここで、kは臨時セットに含まれるポイントの数であり、piは臨時セット内i番目のポイントであり、
は臨時セットの中心ポイントである。
は固有値であり、
は固有値に対応する固有ベクトルである。
特徴領域抽出装置は、数式(5)を用いて特徴ポイントを抽出してもよい。例えば、特徴領域抽出装置は、複数の臨時セットのそれぞれで最も小さい固有値を求めてもよい。特徴領域抽出装置は、最も小さい固有値のうち最大値を有する臨時セットを検出してもよい。特徴領域抽出装置は、検出された臨時セットに対応するポイントを特徴ポイントに設定してもよい。
ここで、
はt番目の臨時セットを用いて算出された固有値である。
はt番目の臨時セットを用いて算出された固有値のうち最も小さい固有値である。mは最も小さい固有値のうち最大値を有する臨時セットのインデックスである。pmはm番目の臨時セットに対応するポイントであり、fpは特徴ポイントである。
図11及び図12は、一実施形態に係る突極性条件を説明する図である。
図11を参照すると、一実施形態に係る特徴領域抽出装置は、特徴領域であるか否かを判断するために突極性(saliency)条件を算出してもよい。特徴領域抽出装置は、数式(6)及び数式(7)を用いて突極性条件を算出してもよい。
ここで、a1a2a3はVl(i、j、k)ボクセルの高周波サブバンドを指示するための変数であって、例えば、a1a2a3は{HLL、LHL、HHL、LLH、HLH、LHH、HHH}のうち1つの値を有してもよい。特徴領域抽出装置は、Vl(i、j、k)ボクセルの高周波サブバンドが第1閾値であるthreshold1よりも大きい値を有するか否かを判断してもよい。
特徴領域抽出装置は、Vl(i、j、k)ボクセルの高周波サブバンドのうち、threshold1よりも大きい値を有するサブバンドの数が第2閾値であるthreshold2よりも大きいか否かを判断してもよい。突極性条件は、Vl(i、j、k)ボクセル内のポイントのインテンシティ変化率がthreshold1よりも大きい方向の数がthreshold2よりも大きい場合に満たされる。
例えば、threshold2は2に設定されてもよい。この場合、Vl(i、j、k)ボクセルの7個の高周波サブバンドのうち、threshold1よりも大きい値を有するサブバンドの数が3個以上である場合に突極性条件が満たされる。これは少なくとも3方向以上にVl(i、j、k)ボクセル内のポイントのインテンシティの変化率が大きくなければならないことを意味する。これはVl(i、j、k)ボクセル内の頂点を有するか、変化量が多い表面を有するオブジェクトがあることを意味する。図12を参照すると、ボクセル1210内のポイントのインテンシティ変化率がthreshold1よりも大きい方向1211が1個であるため、ボクセル1210の突極性条件は満たされない。一方、ボクセル1220内のポイントのインテンシティ変化率がthreshold1よりも大きい方向1221、1222、1223は3個であるため、ボクセル1220の突極性条件は満たされる。
図13及び図14は、一実施形態に係る接続性条件を説明する図である。
図13を参照すると、一実施形態に係る特徴領域抽出装置は、特徴領域であるか否かを判断するために接続性条件を算出してもよい。特徴領域抽出装置は、Vl(i、j、k)ボクセルが周辺ボクセルと接続されているか否かを判断してもよい。特徴領域抽出装置は、Vl(i、j、k)ボクセルが周辺ボクセルに接続されていなければ、Vl(i、j、k)ボクセルの突極性条件が満たされてもVl(i、j、k)ボクセルを特徴領域でないものと判断してもよい。
例えば、図14を参照すると、ボクセル1410は、ポイントクラウドでノイズなどによって生成されたものであってもよい。ボクセル1410は、主なオブジェクト1420の特徴を表現しないため、特徴ポイント又は特徴領域としての価値が低い。ボクセル1410内のポイントのインテンシティ変化率がthreshold1よりも大きい方向は3個であるため、ボクセル1410の突極性条件は満たされる。特徴領域抽出装置は、接続性条件を用いてボクセル1410を特徴領域ではないものと判断してもよい。
特徴領域抽出装置は、数式(8)及び数式(9)を用いて接続性条件を算出してもよい。
ここで、b1b2b3はVl(i、j、k)ボクセルの隣接ボクセルを指示するための変数であって、例えば、b1、b2、b3それぞれは{−1、0、1}のいずれか1つの値を有してもよい。もちろん、b1、b2、b3のそれぞれが有する値の範囲は様々に変形されてもよい。特徴領域抽出装置は、Vl(i、j、k)ボクセルの隣接ボクセルのインテンシティに基づいて、Vl(i、j、k)ボクセルが隣接ボクセルと接続されるか否かを判断してもよい。例えば、隣接ボクセルのインテンシティが第3閾値であるthreshold3よりも大きい場合、特徴領域抽出装置は、Vl(i、j、k)ボクセルが当該の隣接ボクセルと接続されるものと判断してもよい。
接続性条件はVl(i、j、k)ボクセルがthreshold4よりも大きい数の隣接ボクセルと接続されるときに満たされてもよい。例えば、threshold4は3に設定されてもよい。この場合、Vl(i、j、k)ボクセルが4個以上の隣接ボクセルと接続されるとき、接続性条件が満たされる。
図15及び図16は、一実施形態に係る類似性条件を説明する図である。
図15を参照すると、一実施形態に係る特徴領域抽出装置は、特徴領域であるか否かを判断するために類似性条件を算出してもよい。類似性は、Vl(i、j、k)ボクセルが周辺ボクセルに類似する程度を示してもよい。Vl(i、j、k)ボクセルが周辺ボクセルに類似するほど、Vl(i、j、k)ボクセルは特徴領域又は特徴ポイントとしての価値は低くなる。
例えば、図16を参照すると、ボクセル1610は、y軸方向の周辺ボクセルと類似性が高い。また、ボクセル1620は、x軸方向及びz軸方向の周辺ボクセルと類似性が高い。この場合、特徴領域抽出装置は、ボクセル1610とボクセル1620が特徴領域ではないと判断してもよい。一方、ボクセル1630は、周辺ボクセルとの類似性が低い。この場合、特徴領域抽出装置は、ボクセル1630が特徴領域であると判断してもよい。
特徴領域抽出装置は、数式(10)及び数式(11)を用いて類似性条件を算出してもよい。
ここで、a1a2a3はVl(i、j、k)ボクセルのサブバンドを指示するための変数として、例えば、a1a2a3は{LLL、HLL、LHL、HHL、LLH、HLH、LHH、HHH}のうち1つの値を有してもよい。また、b1b2b3はVl(i、j、k)ボクセルの周辺ボクセルを指示するための変数であって、例えば、b1、b2、b3それぞれは{−1、0、1}のいずれか1つの値を有してもよい。もちろん、b1、b2、b3それぞれが有する値の範囲は様々に変更されてもよい。
特徴領域抽出装置は、Vl(i、j、k)ボクセルの第1サブバンドと周辺ボクセルの第1サブバンドとの間の差からVl(i、j、k)ボクセルの第8サブバンドと周辺ボクセルの第8サブバンドとの間の差を合算してもよい。合算された値が第5閾値であるthreshold5よりも小さい場合、特徴領域抽出装置は、Vl(i、j、k)ボクセルが周辺ボクセルに類似すると判断してもよい。
類似性条件は、Vl(i、j、k)ボクセルと類似の周辺ボクセルの数がthreshold6よりも小さいときに満たされてもよい。例えば、threshold6は3に設定されてもよい。この場合、Vl(i、j、k)ボクセルと類似の周辺ボクセルの数が2個以下である場合に類似性条件が満たされる。
特徴領域抽出装置は、突極性条件、接続性条件、及び類似性条件の組合せで特徴領域であるか否かを最終的に判断してもよい。例えば、特徴領域抽出装置は、突極性条件、接続性条件、及び類似性条件を全て満たすボクセルを特徴領域であると判断してもよい。この場合、特徴領域抽出装置は、数式(12)を用いてもよい。
ここで、FR(Vl(i、j、k))はVl(i、j、k)ボクセルが特徴領域であるか否かを示す。例えば、FR(Vl(i、j、k))の値が1である場合にVl(i、j、k)ボクセルは特徴領域であり、FR(Vl(i、j、k))の値が0である場合にVl(i、j、k)ボクセルは特徴領域ではないこともある。
図17は、一実施形態に係るボクセルグリッドの範囲を設定する方法を説明する図である。図17を参照すると、一実施形態に係る特徴領域抽出装置は、数式(13)、数式(14)、及び数式(15)を用いてボクセルグリッドの範囲を設定してもよい。
ここで、Pはポイントクラウドを示す。lu(P)は直六面体領域1710のx軸方向の辺1711、y軸方向の辺1712、z軸方向の辺1713の長さを示す。
ここで、qml(P)は、ポイントクラウドをカバーする直六面体領域1710の3辺の長さのうち最も長い辺の長さを示す。qml(P)は、ポイントクラウドの準最小の長さ(quasi−minimum length)を示してもよい。特徴領域抽出装置は、qml(P)を1辺の長さとする正六面体領域1720を生成してもよい。
ここで、nは離散ウェーブレット変換を繰り返すレベルの数を示し、wはレベル0でボクセルの最小の長さを示す。mは任意の正の整数である。特徴領域抽出装置は、2nw(m−1)<qml(p)<2nwmを満たす2nwmをml(P)の値に設定してもよい。設定されたml(P)はqml(P)よりも大きいか同一であると同時に、2nwの倍数となる値を有する。例えば、nが3でありwが8である場合、ml(P)は64(=23x8)の倍数のうち、qml(P)よりも大きい最小の値として設定されてもよい。
特徴領域抽出装置は、ml(P)を1辺の長さとする正六面体領域1730を生成してもよい。離散ウェーブレットは、演算が繰り返されるごとに対象領域の各辺の長さを半分に減少するため、最上位レベルに対応する辺の長さが2nの倍数に設定される場合、最下位レベルに対応する辺の長さが整数となる。特徴領域抽出装置は、正六面体領域1730の1辺の長さを2nの倍数に設定することによって、離散ウェーブレット演算の速度を増加させ得る。例えば、特徴領域抽出装置は、図1に示す複数の領域120をml(P)を1辺の長さにする正六面体形に生成してもよい。
図18は、一実施形態に係る特徴領域抽出方法を示した動作フローチャートである。図18を参照すると、一実施形態に係る特徴領域抽出方法は、ポイントクラウドを受信するステップS1810、ポイントクラウドを複数の領域に分割するステップS1820、複数の領域それぞれのポイントインテンシティを算出するステップS1830、ポイントインテンシティに基づいて階層構造を生成するステップS1840、及び階層構造を用いて特徴領域を検出するステップS1850を含む。
図19は、一実施形態に係る特徴領域抽出装置を示すブロック図である。図19を参照すると、特徴領域抽出装置1900は、受信部1910、分割部1920、生成部1930、及び検出部1940を含む。受信部1910はポイントクラウドを受信してもよい。分割部1920はポイントクラウドを複数の領域に分割してもよい。生成部1930は複数の領域を階層化する階層構造を生成してもよい。検出部1940は、階層構造により複数の領域を探索することによって少なくとも1つの特徴領域を抽出してもよい。
図20は、他の実施形態に係る特徴領域抽出装置を示すブロック図である。図20を参照すると、特徴領域抽出装置2000は、受信部2010、分割部2020、生成部2030、及び検出部2040を含む。受信部2010はポイントクラウドを受信してもよい。分割部2020はポイントクラウドを複数の領域に分割してもよい。生成部2030は複数の領域を階層化する階層構造を生成してもよい。検出部2040は、階層構造により複数の領域を探索することによって少なくとも1つの特徴領域を抽出してもよい。
特徴領域抽出装置2000は、算出部2050をさらに含んでもよい。算出部2050は、複数の領域それぞれに対応するポイントインテンシティを算出してもよい。また、特徴領域抽出装置2000は、抽出部2060をさらに含んでもよい。抽出部2060は、抽出された特徴領域で特徴ポイントを抽出してもよい。また、特徴領域抽出装置2000は、認識部2070をさらに含んでもよい。認識部2070は、抽出された特徴ポイントに基づいてポイントクラウドに対応するオブジェクト及びポイントクラウドに対応する動作のうち少なくとも1つを認識してもよい。
図18〜図20に示された各ステップ又は各モジュールには図1〜図17によって記述した事項がそのまま適用されるため、より詳細な説明は省略する。
以上で説明された実施形態は、ハードウェア構成要素、ソフトウェア構成要素、及び/またはハードウェア構成要素及びソフトウェア構成要素の組合で実現してもよい。例えば、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ(digital signal processor)、マイクロコンピュータ、FPA(field programmable array)、PLU(programmable logic unit)、マイクロプロセッサー、または、命令(instruction)を実行して応答できる異なる装置のように、1つ以上の汎用コンピュータまたは特殊目的のコンピュータを用いて実現されてもよい。処理装置は、オペレーティングシステム(OS)及び前記オペレーティングシステム上で行われる1つ以上のソフトウェアアプリケーションを行ってもよい。また、処理装置は、ソフトウェアの実行に応答してデータをアクセス、格納、操作、処理及び生成してもよい。理解の便宜のために、処理装置は1つ使用されるものと説明された場合もあるが、当該の技術分野で通常の知識を有する者は、処理装置が複数の処理要素(processing element)及び/または複数類型の処理要素を含んでいることが分かる。例えば、処理装置は、複数のプロセッサまたは1つのプロセッサ及び1つのコントローラを含んでもよい。また、並列プロセッサ(parallel processor)のような、他の処理構成も可能である。
ソフトウェアはコンピュータプログラム、コード、命令、またはこのうちの1つ以上の組合を含んでもよく、希望の通りに動作するよう処理装置を構成したり独立的または結合的に処理装置に命令してもよい。ソフトウェア及び/またはデータは、処理装置によって解釈されたり処理装置に命令またはデータを提供するためどのような類型の機械、構成要素、物理的装置、仮想装置、コンピュータ格納媒体または装置、送信される信号波に永久的または一時的に具体化できる。ソフトウェアは、ネットワークに接続されたコンピュータシステム上に分散し、分散された方法で格納されたり実行されてもよい。ソフトウェア及びデータは1つ以上のコンピュータで読み出し可能な記録媒体に格納されてもよい。
実施形態に係る方法は、多様なコンピュータ手段を介して様々な処理を実行することができるプログラム命令の形態で実現され、コンピュータ読取可能な記録媒体に記録されてもよい。コンピュータ読取可能な媒体は、プログラム命令、データファイル、データ構造などのうち1つまたはその組合せを含んでもよい。媒体に記録されるプログラム命令は、本発明の目的のために特別に設計されて構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知のものであり、使用可能なものであってもよい。コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、光ディスクのような光磁気媒体、及びROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置が含まれてもよい。プログラム命令の例には、コンパイラによって作られるような機械語コードだけでなく、インタープリタなどを用いてコンピュータによって実行できる高級言語コードが含まれる。前記したハードウェア装置は、本発明の動作を行うために1つ以上のソフトウェアモジュールとして作動するように構成されてもよく、その逆も同様である。
上述したように、本発明を限定された実施形態と図面によって説明したが、本発明は、上記の実施形態に限定されることなく、本発明が属する分野における通常の知識を有する者であれば、このような実施形態から多様な修正及び変形が可能である。
したがって、本発明の範囲は、開示された実施形態に限定されるものではなく、特許請求の範囲だけではなく特許請求の範囲と均等なものなどによって定められるものである。
110 ポイントクラウド
120 複数の領域
131〜142 特徴領域
210 ボクセルグリッド
211、212 ボクセル
1900、2000 特徴領域抽出装置
1910、2010 受信部
1920、2020 分割部
1930、2030 生成部
1940、2060 抽出部
2040 検出部
2050 算出部
2070 認識部

Claims (37)

  1. 映像に含まれた少なくとも1つの特徴領域を抽出する特徴領域抽出方法であって、
    前記映像のポイントクラウドを複数の領域に分割するステップと、
    前記ポイントクラウド内の少なくとも1つのポイントインテンシティに基づいて前記複数の領域のうち前記少なくとも1つの特徴領域を抽出するステップと、
    を含むことを特徴とする特徴領域抽出方法。
  2. 前記少なくとも1つの特徴領域は、前記ポイントクラウドの特徴ポイントを含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  3. 前記ポイントインテンシティは、前記ポイントクラウドに含まれた複数のポイントが密集した程度に関することを特徴とする請求項1に記載の特徴領域抽出方法。
  4. 前記複数の領域それぞれのポイントインテンシティを算出するステップをさらに含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  5. 前記算出するステップは、該当する領域に含まれたポイントの数に基づいて前記それぞれのポイントインテンシティを算出するステップを含むことを特徴とする請求項4に記載の特徴領域抽出方法。
  6. 前記少なくとも1つの特徴領域を抽出するステップは、
    前記複数の領域を階層化する階層構造を生成するステップと、
    前記階層構造により前記複数の領域を分析するステップと、
    を含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  7. 前記複数の領域それぞれは前記階層構造内の1つのレベルに対応し、前記階層構造の第1レベルに含まれた領域は前記階層構造の第2レベルに含まれた領域に対応するポイントインテンシティに関する情報を含み、前記階層構造内で前記第1レベルは前記第2レベルよりも上位であることを特徴とする請求項6に記載の特徴領域抽出方法。
  8. 前記抽出するステップは、前記階層構造の前記第1レベルに含まれた第2領域が分析されれば、前記階層構造の前記第2レベルに含まれた第1領域を分析するステップを含むことを特徴とする請求項7に記載の特徴領域抽出方法。
  9. 前記第1領域を分析するステップは、前記第2領域が前記少なくとも1つの特徴領域であるか否かに基づいて前記第1領域を分析するステップを含むことを特徴とする請求項8に記載の特徴領域抽出方法。
  10. 前記生成するステップは、前記複数の領域に離散ウェーブレット変換(DWT)を適用することによって前記階層構造を生成するステップを含むことを特徴とする請求項6に記載の特徴領域抽出方法。
  11. 前記抽出するステップは、DWTサブバンドに基づいて前記少なくとも1つの特徴領域を抽出するステップを含むことを特徴とする請求項10に記載の特徴領域抽出方法。
  12. 前記抽出するステップは、
    前記複数の領域のうち選択された領域の少なくとも1つの高周波数特徴に関する第1条件と、
    前記選択された領域と少なくとも1つの隣接領域が接続されるか否かに関する第2条件と、
    前記選択された領域と前記少なくとも1つの隣接領域が類似するか否かに関する第3条件と、
    のうち少なくとも1つに基づいて前記少なくとも1つの特徴領域を抽出するステップを含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  13. 高周波数特徴の数が第1閾値よりも大きい場合、前記第1条件が満たされ、
    第2閾値よりも大きいポイントインテンシティを有する少なくとも1つの隣接領域の数が第1閾値よりも大きい場合、前記第2条件が満たされ、
    第2閾値よりも小さい高周波数特徴の差を有する少なくとも1つの隣接領域の数が第1閾値よりも小さい場合に前記第3条件が満たされ、前記高周波数特徴の差は当該領域の高周波数特徴と異なる領域の高周波数特徴の間の差であることを特徴とする請求項12に記載の特徴領域抽出方法。
  14. 前記ポイントクラウドの分布及び前記複数の領域を階層化する階層構造の深さのうち少なくとも1つに基づいて前記複数の領域の大きさを決定するステップをさらに含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  15. 前記複数の領域それぞれは、正六面体の形を有することを特徴とする請求項14に記載の特徴領域抽出方法。
  16. 前記少なくとも1つの特徴領域から特徴ポイントを抽出するステップをさらに含むことを特徴とする請求項1に記載の特徴領域抽出方法。
  17. 前記特徴ポイントに基づいて前記ポイントクラウドに対応するオブジェクト及び前記ポイントクラウドに対応する動作のうち少なくとも1つを認識するステップをさらに含むことを特徴とする請求項16に記載の特徴領域抽出方法。
  18. 請求項1〜請求項17のいずれか1項に記載の方法を実行させるためのプログラムが記録されたコンピュータで読み出し可能な記録媒体。
  19. ポイントクラウドを受信する受信部と、
    前記ポイントクラウドを複数の領域に分割する分割部と、
    前記複数の領域を階層化する階層構造を生成する生成部と、
    前記階層構造により前記複数の領域から少なくとも1つの特徴領域を抽出する抽出部と、
    を備えることを特徴とする特徴領域抽出装置。
  20. 前記少なくとも1つの特徴領域は、前記ポイントクラウドの特徴ポイントを含むことを特徴とする請求項19に記載の特徴領域抽出装置。
  21. 前記抽出部は、前記階層構造の第1レベルで前記少なくとも1つの特徴領域に対応する第1領域を抽出し、前記階層構造の第2レベルに含まれた複数の第2領域のセットを生成し、前記第2領域を分析して前記第1レベルは前記第2レベルよりも上位であることを特徴とする請求項19に記載の特徴領域抽出装置。
  22. 前記抽出部は、前記第2レベルで前記複数の第2領域のセットを分析することを特徴とする請求項21に記載の特徴領域抽出装置。
  23. 前記抽出部は、前記第2領域のうち前記少なくとも1つの特徴領域に対応する第3領域を抽出し、前記階層構造の第3レベルに含まれた複数の第4領域を設定し、前記第4領域を分析し、前記第3レベルは前記第2レベルよりも下位であることを特徴とする請求項21に記載の特徴領域抽出装置。
  24. 前記抽出部は、前記階層構造の最下位レベルで探索対象に含まれた領域を前記少なくとも1つの特徴領域として決定することを特徴とする請求項21に記載の特徴領域抽出装置。
  25. 前記生成部は、前記複数の領域に離散ウェーブレット変換を適用することによって前記階層構造を生成することを特徴とする請求項19に記載の特徴領域抽出装置。
  26. 前記抽出部は、前記複数の領域に対応するDWTサブバンドに基づいて前記少なくとも1つの特徴領域を抽出することを特徴とする請求項25に記載の特徴領域抽出装置。
  27. 前記抽出部は、
    前記複数の領域のうち選択された領域の少なくとも1つの高周波数特徴に関する第1条件と、
    前記選択された領域と少なくとも1つの隣接領域が接続されるか否かに関する第2条件と、
    前記選択された領域と前記少なくとも1つの隣接領域が類似するか否かに関する第3条件と、
    のうち少なくとも1つに基づいて前記少なくとも1つの特徴領域を抽出することを特徴とする請求項21に記載の特徴領域抽出装置。
  28. 高周波数特徴の数が第1閾値よりも大きい場合、前記第1条件が満たされ、
    第2閾値よりも大きいポイントインテンシティを有する少なくとも1つの隣接領域の数が第1閾値よりも大きい場合、前記第2条件が満たされ、
    第2閾値よりも小さい高周波数特徴の差を有する少なくとも1つの隣接領域の数が第1閾値よりも小さい場合に前記第3条件が満され、前記高周波数特徴の差は、当該領域の高周波数特徴と異なる領域の高周波数特徴の間の差であることを特徴とする請求項27に記載の特徴領域抽出装置。
  29. 前記分割部は、前記ポイントクラウドの分布及び前記階層構造の深さのうち少なくとも1つに基づいて前記複数の領域の大きさを決定することを特徴とする請求項19に記載の特徴領域抽出装置。
  30. 前記複数の領域それぞれは、正六面体の形を有することを特徴とする請求項29に記載の特徴領域抽出装置。
  31. 前記複数の領域に対応する複数のポイントインテンシティを算出する算出部をさらに含み、
    前記複数の領域それぞれは前記階層構造内のレベルに関し、前記階層構造の第1レベルに含まれた領域は前記階層構造の第2レベルに含まれた領域に対応するポイントインテンシティに関する情報を含み、前記第1レベルは前記第2レベルよりも上位であることを特徴とする請求項19に記載の特徴領域抽出装置。
  32. 前記算出部は、前記複数の領域のいずれか1つの領域に含まれたポイントの数に基づいて当該領域に対応するポイントインテンシティを決定することを特徴とする請求項31に記載の特徴領域抽出装置。
  33. 前記少なくとも1つの特徴領域で特徴ポイントを抽出する抽出部をさらに含むことを特徴とする請求項19に記載の特徴領域抽出装置。
  34. 前記特徴ポイントに基づいて前記ポイントクラウドに対応するオブジェクト及び前記ポイントクラウドに対応する動作のうち少なくとも1つを認識する認識部をさらに含むことを特徴とする請求項33に記載の特徴領域抽出装置。
  35. 映像内の特徴ポイントを抽出する方法であって、
    前記映像のポイントクラウドから複数のボクセルを生成するステップであって、前記複数のボクセルそれぞれは、該ボクセル内のポイントの数に関する値を有する、ステップと、
    前記複数のボクセル及び当該値に基づいて少なくとも1つの特徴領域を決定するステップと、
    前記少なくとも1つの特徴領域に基づいて前記特徴ポイントを抽出するステップと、
    を含むことを特徴とする映像内の特徴ポイントを抽出する方法。
  36. 前記決定するステップは、
    前記当該値に基づいて前記複数のボクセルに離散ウェーブレット変換(DWT)を適用するステップと、
    前記適用結果に基づいて前記少なくとも1つの特徴領域を決定するステップと、
    を含むことを特徴とする請求項35に記載の映像内の特徴ポイントを抽出する方法。
  37. 前記決定するステップは、
    前記複数のボクセルのうち少なくとも1つを選択するステップと、
    前記選択されたボクセルに関する接続性値、突極性値、又は類似性値のうちの少なくとも1つを決定するステップであって、前記接続性値は、前記選択されたボクセルが前記複数のボクセルのうち他のボクセルと接続されるか否かを指示し、前記突極性値は、前記選択されたボクセルに関する少なくとも閾値数だけの周波数サブバンドのインテンシティの変化率を指示し、前記類似性値は、前記選択されたボクセルが前記複数のボクセルのうち隣接ボクセルに類似するか否かを指示する、ステップと、
    決定された前記接続性値、突極性値、又は類似性値のうちの少なくとも1つに基づいて前記少なくとも1つの特徴領域を決定するステップと、
    を含むことを特徴とする請求項35に記載の映像内の特徴ポイントを抽出する方法。
JP2015034805A 2014-06-20 2015-02-25 ポイントクラウドで特徴領域を抽出する方法及び装置 Active JP6622972B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140075527A KR102238693B1 (ko) 2014-06-20 2014-06-20 포인트 클라우드에서 특징 영역을 추출하는 방법 및 장치
KR10-2014-0075527 2014-06-20

Publications (2)

Publication Number Publication Date
JP2016009484A true JP2016009484A (ja) 2016-01-18
JP6622972B2 JP6622972B2 (ja) 2019-12-18

Family

ID=53015514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015034805A Active JP6622972B2 (ja) 2014-06-20 2015-02-25 ポイントクラウドで特徴領域を抽出する方法及び装置

Country Status (5)

Country Link
US (1) US9984308B2 (ja)
EP (1) EP2958049A3 (ja)
JP (1) JP6622972B2 (ja)
KR (1) KR102238693B1 (ja)
CN (1) CN105205441B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017126890A (ja) * 2016-01-14 2017-07-20 キヤノン株式会社 符号化装置及びその制御方法
WO2019065298A1 (ja) * 2017-09-29 2019-04-04 ソニー株式会社 情報処理装置および方法
JP2020145751A (ja) * 2016-06-14 2020-09-10 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
JP2021516183A (ja) * 2019-01-30 2021-07-01 バイドゥ ドットコム タイムス テクノロジー (ベイジン) カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10663594B2 (en) * 2016-03-14 2020-05-26 Imra Europe S.A.S. Processing method of a 3D point cloud
US10078333B1 (en) * 2016-04-17 2018-09-18 X Development Llc Efficient mapping of robot environment
JP6637855B2 (ja) * 2016-08-22 2020-01-29 株式会社ソニー・インタラクティブエンタテインメント データ処理装置、データ処理方法およびコンピュータプログラム
US10410403B1 (en) * 2018-03-05 2019-09-10 Verizon Patent And Licensing Inc. Three-dimensional voxel mapping
KR102537946B1 (ko) * 2018-04-17 2023-05-31 삼성전자주식회사 포인트 클라우드에 관한 데이터를 프로세싱하기 위한 방법 및 장치
US20210304354A1 (en) * 2018-07-13 2021-09-30 Electronics And Telecommunications Research Institute Method and device for encoding/decoding scalable point cloud
US10887574B2 (en) 2018-07-31 2021-01-05 Intel Corporation Selective packing of patches for immersive video
US11178373B2 (en) 2018-07-31 2021-11-16 Intel Corporation Adaptive resolution of point cloud and viewpoint prediction for video streaming in computing environments
US10893299B2 (en) 2018-07-31 2021-01-12 Intel Corporation Surface normal vector processing mechanism
US10762394B2 (en) 2018-07-31 2020-09-01 Intel Corporation System and method for 3D blob classification and transmission
US11212506B2 (en) 2018-07-31 2021-12-28 Intel Corporation Reduced rendering of six-degree of freedom video
US10762592B2 (en) * 2018-07-31 2020-09-01 Intel Corporation Point-based rendering and removal of projection noise
GB2577349B (en) * 2018-09-18 2023-06-14 Univ Oxford Innovation Ltd Radiomic signature of adipose
GB2578485A (en) * 2018-09-18 2020-05-13 Univ Oxford Innovation Ltd Radiomic signature of a perivascular region
US11057631B2 (en) 2018-10-10 2021-07-06 Intel Corporation Point cloud coding standard conformance definition in computing environments
CN109886272B (zh) * 2019-02-25 2020-10-30 腾讯科技(深圳)有限公司 点云分割方法、装置、计算机可读存储介质和计算机设备
CN110222742B (zh) * 2019-05-23 2022-12-02 星际空间(天津)科技发展有限公司 基于分层多回波的点云分割方法、装置、存储介质及设备
WO2021000240A1 (zh) * 2019-07-01 2021-01-07 Oppo广东移动通信有限公司 一种点云分割方法及设备、计算机可读存储介质
US10977855B1 (en) 2019-09-30 2021-04-13 Verizon Patent And Licensing Inc. Systems and methods for processing volumetric data using a modular network architecture
EP4052190A4 (en) 2019-11-15 2023-12-06 Waymo Llc SPACE-TIME-INTERACTIVE NETWORKS
CN111340935A (zh) * 2020-01-23 2020-06-26 北京市商汤科技开发有限公司 点云数据处理方法、智能行驶方法及相关装置、电子设备
US11957974B2 (en) 2020-02-10 2024-04-16 Intel Corporation System architecture for cloud gaming
KR102407729B1 (ko) * 2020-04-10 2022-06-13 주식회사 엘지유플러스 3차원 입체 콘텐츠 서비스 제공 시스템 및 방법
CN111814679B (zh) * 2020-07-08 2023-10-13 上海雪湖科技有限公司 一种体素化3D网络voxel-encoder与VFE基于FPGA的实现算法
KR102461980B1 (ko) * 2020-11-30 2022-11-03 (주)심스리얼리티 3차원 지도의 생성 방법
KR102461283B1 (ko) * 2021-06-15 2022-11-01 이마고웍스 주식회사 딥러닝을 이용한 3차원 스캔 데이터의 치아 자동 분리 방법 및 이를 컴퓨터에서 실행시키기 위한 프로그램이 기록된 컴퓨터로 읽을 수 있는 기록 매체
US20230169690A1 (en) * 2021-11-30 2023-06-01 Verizon Patent And Licensing Inc. Methods and Systems for Scalable Compression of Point Cloud Data
US11803977B2 (en) 2021-12-13 2023-10-31 Zoox, Inc. LIDAR point cloud alignment validator in HD mapping

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7194117B2 (en) * 1999-06-29 2007-03-20 The Research Foundation Of State University Of New York System and method for performing a three-dimensional virtual examination of objects, such as internal organs
KR100294924B1 (ko) * 1999-06-24 2001-07-12 윤종용 영상분할 장치 및 방법
JP2001076158A (ja) * 1999-09-01 2001-03-23 Sanyo Electric Co Ltd 画像処理方法及び装置並びに媒体
US7382897B2 (en) 2004-04-27 2008-06-03 Microsoft Corporation Multi-image feature matching using multi-scale oriented patches
KR101086402B1 (ko) * 2004-08-30 2011-11-25 삼성전자주식회사 영상 분할 방법
US7856125B2 (en) 2006-01-31 2010-12-21 University Of Southern California 3D face reconstruction from 2D images
KR100795570B1 (ko) 2006-09-01 2008-01-21 전자부품연구원 영상의 특징점 추출방법
KR100797400B1 (ko) 2006-12-04 2008-01-28 한국전자통신연구원 주성분분석 및 자동상관을 이용한 단백질 구조 비교 장치및 그 방법
JP2010517655A (ja) 2007-02-07 2010-05-27 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 処置計画における動き推定
US8396284B2 (en) 2007-10-23 2013-03-12 Leica Geosystems Ag Smart picking in 3D point clouds
US8406487B2 (en) 2009-09-16 2013-03-26 General Electric Company Method and system for contactless fingerprint detection and verification
KR101623502B1 (ko) * 2009-11-06 2016-05-23 삼성전자주식회사 계층적 공간 분할 구조의 부분 업데이트 장치 및 방법
KR101091784B1 (ko) * 2010-02-11 2011-12-08 중앙대학교 산학협력단 점묘 기법의 회화적 렌더링 장치 및 방법
KR20110097140A (ko) * 2010-02-24 2011-08-31 삼성전자주식회사 이동 로봇의 위치 추정 장치 및 방법
US20110257545A1 (en) * 2010-04-20 2011-10-20 Suri Jasjit S Imaging based symptomatic classification and cardiovascular stroke risk score estimation
KR101054736B1 (ko) 2010-05-04 2011-08-05 성균관대학교산학협력단 3차원 물체 인식 및 자세 추정 방법
EP2437220A1 (en) 2010-09-29 2012-04-04 Alcatel Lucent Method and arrangement for censoring content in three-dimensional images
US9152877B2 (en) * 2010-11-24 2015-10-06 Indian Statistical Institute Rough wavelet granular space and classification of multispectral remote sensing image
KR101740259B1 (ko) 2011-10-07 2017-05-29 한국전자통신연구원 3차원 포인트 클라우드의 공간 분할 방법
CN103164842A (zh) * 2011-12-14 2013-06-19 鸿富锦精密工业(深圳)有限公司 点云提取系统及方法
KR101348931B1 (ko) 2011-12-29 2014-01-09 광운대학교 산학협력단 이산 웨이블릿 변환 기반 초고해상도 영상 획득 방법
US8670591B2 (en) * 2012-03-01 2014-03-11 Exelis, Inc. Foliage penetration based on 4D LIDAR datasets
CN102607459B (zh) * 2012-03-06 2014-11-19 中国矿业大学(北京) Lidar测量数据的拼接方法和装置
US20140172377A1 (en) * 2012-09-20 2014-06-19 Brown University Method to reconstruct a surface from oriented 3-d points
US9265434B2 (en) * 2013-12-18 2016-02-23 Biosense Webster (Israel) Ltd. Dynamic feature rich anatomical reconstruction from a point cloud
CN103727898B (zh) * 2014-01-21 2017-01-18 成都天拓众成科技有限公司 利用查找表修正非线性畸变的快速三维测量系统及方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017126890A (ja) * 2016-01-14 2017-07-20 キヤノン株式会社 符号化装置及びその制御方法
US11127169B2 (en) 2016-06-14 2021-09-21 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
JP2020145751A (ja) * 2016-06-14 2020-09-10 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
JP7041191B2 (ja) 2016-06-14 2022-03-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
JP2022082586A (ja) * 2016-06-14 2022-06-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元データ符号化方法、三次元データ復号方法、三次元データ符号化装置及び三次元データ復号装置
US11593970B2 (en) 2016-06-14 2023-02-28 Panasonic Intellectual Property Corporation Of America Three-dimensional data encoding method, three-dimensional data decoding method, three-dimensional data encoding device, and three-dimensional data decoding device
CN111108529A (zh) * 2017-09-29 2020-05-05 索尼公司 信息处理设备和方法
JPWO2019065298A1 (ja) * 2017-09-29 2020-11-05 ソニー株式会社 情報処理装置および方法
WO2019065298A1 (ja) * 2017-09-29 2019-04-04 ソニー株式会社 情報処理装置および方法
US11468603B2 (en) 2017-09-29 2022-10-11 Sony Corporation Information processing apparatus and method
JP7268598B2 (ja) 2017-09-29 2023-05-08 ソニーグループ株式会社 情報処理装置および方法
CN111108529B (zh) * 2017-09-29 2023-10-03 索尼公司 信息处理设备和方法
JP2021516183A (ja) * 2019-01-30 2021-07-01 バイドゥ ドットコム タイムス テクノロジー (ベイジン) カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム
JP7029479B2 (ja) 2019-01-30 2022-03-03 バイドゥ ドットコム タイムス テクノロジー (ベイジン) カンパニー リミテッド 自動運転車のためのポイントクラウドゴースト効果検出システム

Also Published As

Publication number Publication date
KR102238693B1 (ko) 2021-04-09
US9984308B2 (en) 2018-05-29
KR20150145950A (ko) 2015-12-31
CN105205441B (zh) 2020-05-12
CN105205441A (zh) 2015-12-30
JP6622972B2 (ja) 2019-12-18
EP2958049A2 (en) 2015-12-23
EP2958049A3 (en) 2016-04-20
US20150371110A1 (en) 2015-12-24

Similar Documents

Publication Publication Date Title
JP6622972B2 (ja) ポイントクラウドで特徴領域を抽出する方法及び装置
JP6471448B2 (ja) 視差深度画像のノイズ識別方法及びノイズ識別装置
JP6616862B2 (ja) エッジベクトルを利用した画像特徴検出
US9633483B1 (en) System for filtering, segmenting and recognizing objects in unconstrained environments
KR102483641B1 (ko) 양안 시차 영상의 처리 방법 및 장치
KR102137264B1 (ko) 카메라 포즈 추정 장치 및 방법
JP6760957B2 (ja) 3次元モデリング方法及び装置
US10582179B2 (en) Method and apparatus for processing binocular disparity image
KR102455632B1 (ko) 스테레오 매칭 방법 및 장치
Fishbain et al. A competitive study of the pseudoflow algorithm for the minimum s–t cut problem in vision applications
CN111768353B (zh) 一种三维模型的孔洞填补方法及装置
Palossi et al. Gpu-shot: Parallel optimization for real-time 3d local description
JP5769248B2 (ja) ステレオマッチング処理装置、ステレオマッチング処理方法、及び、プログラム
KR101436695B1 (ko) 깊이 영상을 이용한 손 검출 장치 및 방법
Orts-Escolano et al. Real-time 3D semi-local surface patch extraction using GPGPU
US9710963B2 (en) Primitive fitting apparatus and method using point cloud
KR101993010B1 (ko) 시공간 패턴에 기반한 비디오 분석 장치 및 방법
JP7374433B2 (ja) 構築物の三次元形状データの生成方法
US9858710B2 (en) Method and apparatus for representing cordinate values of bounding box of object
US20160104319A1 (en) Method and apparatus for modeling target object to represent smooth silhouette
Achanccaray et al. A free software tool for automatic tuning of segmentation parameters
Keuper et al. Point-wise mutual information-based video segmentation with high temporal consistency
KR102321704B1 (ko) 인접 평면 정보를 이용한 3차원 공간 모델 생성 방법 및 장치
JP5856401B2 (ja) 直線検出装置および直線検出方法
JP6049000B2 (ja) 線分および円弧検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190416

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191125

R150 Certificate of patent or registration of utility model

Ref document number: 6622972

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250