JP6435407B2 - 不規則状物体の採寸用のハンドヘルドマルチセンサシステム - Google Patents

不規則状物体の採寸用のハンドヘルドマルチセンサシステム Download PDF

Info

Publication number
JP6435407B2
JP6435407B2 JP2017520027A JP2017520027A JP6435407B2 JP 6435407 B2 JP6435407 B2 JP 6435407B2 JP 2017520027 A JP2017520027 A JP 2017520027A JP 2017520027 A JP2017520027 A JP 2017520027A JP 6435407 B2 JP6435407 B2 JP 6435407B2
Authority
JP
Japan
Prior art keywords
scanner system
handheld scanner
radar
point cloud
irregularly shaped
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017520027A
Other languages
English (en)
Other versions
JP2017528621A (ja
Inventor
シャルパンティエ、アルバート
ボイラン、マイケル
カトニック、ロバート
ワーズノップ、ケント
ハービル、ヤング
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bodidata inc
Original Assignee
Bodidata inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bodidata inc filed Critical Bodidata inc
Publication of JP2017528621A publication Critical patent/JP2017528621A/ja
Application granted granted Critical
Publication of JP6435407B2 publication Critical patent/JP6435407B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/89Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B15/00Measuring arrangements characterised by the use of electromagnetic waves or particle radiation, e.g. by the use of microwaves, X-rays, gamma rays or electrons
    • G01B15/04Measuring arrangements characterised by the use of electromagnetic waves or particle radiation, e.g. by the use of microwaves, X-rays, gamma rays or electrons for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/865Combination of radar systems with lidar systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/887Radar or analogous systems specially adapted for specific applications for detection of concealed objects, e.g. contraband or weapons
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/06Systems determining position data of a target
    • G01S13/46Indirect determination of position data
    • G01S2013/466Indirect determination of position data by Trilateration, i.e. two antennas or two sensors determine separately the distance to a target, whereby with the knowledge of the baseline length, i.e. the distance between the antennas or sensors, the position data of the target is determined

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar Systems Or Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Treatment Of Fiber Materials (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Description

本発明はハンドヘルドスキャナシステムに関する。より詳しくは、本発明は不規則な形状の物体の採寸用のマルチセンサシステムを利用するハンドヘルドスキャナに関する。或る例示的実施形態では、ハンドヘルドスキャナは、最もフィットする衣類を判定するために買い物客を採寸するのに用いられる。
今日の衣服の買い物客は、衣服のスタイル、カットおよびサイズの選択肢が膨大であるのに、それらのサイズや、現在のスタイルに彼/彼女らの身体の固有のプロポーションがどのようにフィットするのかについての十分な情報がないというジレンマに直面している。
ユニークソリューションズ社は、一人の対象者についての200,000の円周的距離測定値を収集することができ、様々な衣類について適したサイズを推奨するのに使用される3D身体スキャナを構築する。このシステムにおける基本的なレンジ処理要素は、超広帯域(UWB)線形周波数変調(LFM)チャープレーダーからなる。LFMを実行する技術および小屋型(kiosk−based)の測定システムにおけるそのような技術の使用が特許文献1〜6に記載されており、それらは参照により本明細書に組み込まれる。
米国特許第7298317号明細書 米国特許第6507309号明細書 米国特許第5455590号明細書 米国特許第5557283号明細書 米国特許第5859609号明細書 カナダ国特許第2359513号明細書
小屋型システムは非常に有益であると証明されているものの、いくつかの制限がある。例えば運搬性に制限がある。さらに、小屋型システムは、スキャナの法線に対して高入射角の表面を測定することが困難なことがあり、ひいてはそれらの表面についての情報が欠落する。
不規則な形状の物体の測定を容易にするハンドヘルドスキャナシステムが必要とされており、一例示的実施形態におけるハンドヘルドスキャナシステムは買い物客の衣類フィットを援助するのに使用されることがある。
衣類フィットの用途において、光学技術のみの3dシステムが全身着衣の個人をスキャンするときの限界は、その衣類の外観をマッピングすることしかできず、その下にある身体の寸法についてほとんど何も知見を得られないことにある。この光学技術のみの測定は、前記身体についてのアルゴリズム的な近似処理が必要であり、その近似処理の身体測定推定値は不正確なものである。
この問題に対する一解決策は、3次元光学システムと、例えばミリ波レーダーシステム等の身体に対する正確な測定が可能なレーダーシステムとの統合である。この構成は、レーダー測距システムと光学システムとが別々に距離情報を収集するので望ましく、むしろ、それらシステムは互いに独立して動作し、相互に干渉しない。さらに、レーダーのエネルギーは、外側の衣類を通過し、身体から外に反射し、受信器に戻り、身体に対する正確な測距判定を行うことができる。このシステムは、標的物体の3D点群(3D point cloud)を構築すべく光学的3Dシステムを使用することによってさらに説明され得る。この3D点群は、レーダーデータについての関心範囲を制限するための出発フレームワークとして使用される、レーダーデータは標的身体距離に対する複数の解を有し得るので、この光学的3D点群は、皮膚までの距離がより正確に決定されるように、距離情報についての解を外側にある衣服の近くの領域に制限する。この光学システムは、固定座標基準フレームに対する及び身体に対する慣性状態ベクトルを維持する。ユニットの姿勢、平行移動及び回転を含む状態情報が、手持ち操作の重心に対するアンテナ素子の既知の物理的オフセットと共に使用されて、各仮想アンテナに対する補正値及び更新距離推定値を提供する。この慣性情報は、物理的力に敏感な、基板搭載型の慣性計測装置(IMU)から、および/または、身体に対する平行移動と回転の補正を行うことができる光学カメラシステム処理から取得可能である。
正しい衣類フィッティングには身体測定の正確な知見が必要であり、人の身体の場合、衣類と身体との間にいくつかの重要な容積差が存在する。本明細書で説明するハンドヘルドシステムは、これらの領域を識別することができ、その個人の身体の正確な3D描写を生成するように光学およびレーダーデータストリームを処理/融合するように装備されている。このシステムは、それらから周囲データを抽出可能でかつ衣類フィッティングを目的とする測定が可能である、衣類の体積と身体の体積の両方を分解する。測定プロセスは、レーダーおよび光学データの収集、関連付け、処理および記憶を管理するプロセッサ要素によって調整される。
本発明は、少なくとも1つの実施形態において、不規則な形状の物体を採寸するためのハンドヘルドスキャナシステムを提供する。そのシステムは、前記物体についての情報の3D点群を生成するように構成された少なくとも一つの3D光学センサを含む光学モジュールを収容するハウジングと、レーダーモジュールとを含み、そのレーダーモジュールは、前記ハウジングと前記物体との間隙を感知するように構成された少なくとも一つのレーダーセンサを含む。プロセッサが、前記光学モジュール及び前記レーダーモジュールからデータを受信し、受信したデータに基づき、前記物体を描写するのに必要な深さマップを生成すべくすべての利用可能なセンサ入力を用いる。
少なくとも一つの実施形態では、前記物体の体積を描写する身体面マップが個人の衣類サイジング用に利用される。
少なくとも一つの実施形態では、前記ハンドヘルド身体スキャナは、既製衣料品群または既知の寸法の衣類群のなかで寸法的に最もぴったりであろう衣類を決定し得る買い物客の寸法を迅速に測定できる手段をもたらす。あるハンドヘルドシステムは、こうした難しい測定を、操作者が身体の輪郭をなぞり必要であれば繰り返し測定できるものとして行う機会を提供する。
本明細書に組み込まれ本明細書の一部を構成する添付図面は、本発明の現時点で好ましい実施形態を示し、上記包括的な説明および以下の詳細な説明とともに本発明の特徴を説明する。
例示的な不規則状物体に位置合わせされた例示のハンドヘルドスキャナシステムの一例を示す斜視図。 本発明の一実施形態に従う例示のハンドヘルドスキャナシステムの正面斜視図。 ハウジングを透明で示した図3のハンドヘルドスキャナシステムの背面斜視図。 例示のハンドヘルドスキャナシステムのブロック図。 例示的波形レーダーユニットのブロック図。 例示的レーダープロセッサのシステム図。 標的に対するアンテナ形状のマルチラテレーションプロセスを示す模式図。 ワイヤメッシュマネキン及びカバレッジマップを示す斜視図。
図面を通して同様の要素に同様の参照符号が付されている。本明細書では、便宜上特定の用語を使用しているが、本発明の限定と解約すべきではない。以下に、本発明の好ましい実施形態について説明するが、本開示に基づいて、本発明が本明細書に記載の好ましい実施形態によって限定されないことを理解すべきである。
図1〜4を参照し、本発明の例示的実施形態に従うハンドヘルドスキャナシステム10を説明する。図1を参照すると、図示された用途では個人である不規則な形状の物体12に対して位置合わせされたハンドヘルドスキャナシステム10が示されている。ハンドヘルドスキャナシステム10は、好ましくは、以下に説明する様々な構成要素が収容されるハウジング14を含む。ハウジング14は、様々な構成を有してよいが、操作者の手に心地よくフィットするように構成されることが好ましい。操作者が物体12に対してシステム10を支持するのを助けるようにハウジング14から留め具や支持部品(図示せず)が延出してよい。システム10は、動作中に、物体12の周りを、当該物体の近傍、例えば、当該物体から12〜18インチ(約30.5〜45.7センチメートル)で移動されることとなる。ハウジング14は、好ましくは耐久性のあるプラスチック材料で作られ、アンテナ素子の近傍にある区域は、動作時のレーダー周波数に対して透明である。
図4を参照すると、小さなディスプレイ22は、ハウジング14に組み込まれてよく、またはスキャン中に操作者が見ることができるようにハウジング14に対して外部に設けられてよい。また、このディスプレイ22は、プロンプトに対する応答、顧客情報の入力などの基本的なデータ入力タスクと、当該ハンドヘルド装置の状態に関する診断情報の受信を実行するように構成され得る。さらに、ハンドヘルドユニット14には、操作者に対する(触覚的、聴覚的、視覚的などの)フィードバックを組み込むことができ、例えば、スキャンする必要のある顧客の場所に操作者を向けることとなろう。
システム10は、充電式バッテリ16、例えばリチウムポリマーなどの高エネルギー密度軽量バッテリ、または電源17によって電力が供給されることが好ましい。バッテリシステムは、長期動作または連続動作を実現できるように交換可能であり得る。システム10は、使用されていないときにクレードル(図示せず)にドッキングされることが好ましい。ドッキングされている間にクレードルは再充電機能を提供するだけでなく、外部コンピュータ機器への有線接続のためのインターフェースを提供する。この装置は、有線インターフェース及び無線インターフェース18、20の両方をサポートすることが好ましい。好ましくは、ハウジング14は、給電、データの高速転送、ならびに装置のプログラミングまたは更新を可能にする物理的インターフェース18を含む。無線インターフェース20は、例えば、802.11nインターフェースであってよく、操作者の端末のディスプレイに画像をレンダリングするための補助コンピュータ装置、例えば外部ホスト装置と測定データ(レーダー及び画像データ)を交換するように汎用動作通信リンクを提供する。製造および試験の目的で、RF回路の校正のためにRF試験ポートを含めてよい。
例示のシステム10は、2つの測定モード、すなわち光学モジュール30とレーダーモジュール40を利用することが好ましい。両モジュール30,40からのデータは処理エンジン60に流入され、光学ストリーム及びレーダーストリームは一緒に処理され、整列され、結果が、モバイルコンピューティング装置や表示用の他の補助コンピュータ機器に配送される。デジタル信号プロセッサ(DSP)61が含まれてもよい。その3Dデータ上で後続の測定抽出が動作でき、抽出された結果が衣類フィッティングエンジンに供給され得る。代替実施形態は光学データをレーダーユニットに送信し、レーダーユニットは、その光学をレーダーデータにインタリーブし、ホストプロセッサに単一のUSB接続を提供する。その光学データは、光データフレームをバッファするために外部メモリに書き込まれ得る。電子メモリ62は、先のスキャンからの距離情報を一時的に記憶する。レーダーが対象者の周りを移動して、ドップラー処理または 移動目標指示装置(MTI)アルゴリズムを介して身体の洗練された描写を取得し身体の特徴を決定するときに、以前のスキャンからの記憶データは、現在のサンプルでの処理を補強し得る。システム10は、ホストプラットホームが光学およびレーダーシステムの両方を使用して個人の2つの表面、すなわち衣類の表面と着衣者の身体の表面を判定することを可能にする。レーダーユニットはまた、光学距離データを解析し、この情報を用いて距離解を解き、ゴーストまたは距離曖昧性を排除してよい。
光学モジュール30は、統合された3Dデータ構造が3D点群(衣類および身体)と、体積的な格差のある領域(操作者によって指定される)と、両表面の統計的描写とを提供するように構成された3Dカメラ32を含む。3Dカメラ32は、一般に、それぞれが画像を撮像するように構成された少なくとも2つの離間したレンズ34を含み、離隔した視点からの撮像画像が統合されて3D画像を形成する。このような3D光学カメラシステムは、例えばインテルリアルセンス3D光学カメラスキャナシステムのような多くの製造業者から広く入手可能であり、近年モバイル装置に組み込まれている。
この光学システムは、固定座標基準フレームに対する及び身体に対する慣性状態ベクトルを維持する。そのユニットの姿勢、平行移動及び回転を含む状態情報が、手持ち操作の重心に対するアンテナ素子の既知の物理的オフセットと共に使用されて、各仮想アンテナに対する補正値及び更新距離推定値を提供する。この慣性情報は、物理的力に敏感な、基板搭載型の慣性計測装置(IMU)26から、および/または、身体に対する平行移動と回転の補正を行うことができる光学カメラシステム処理から取得可能である。
このようなシステムの能力は、密接な距離ではミリメートルの精度と分解能を常に達成し、より遠い距離ではセンチメートルの分解能に増加する。これらの優れた分解能にもかかわらず、着衣の個人の身体を採寸することは、衣類などの障害物によって制限される。対象者にパターンを投影するカメラシステムは、この用途に適切な性能を提供する。
図5を参照すると、レーダーモジュール40は、大きくは、距離決定のための適切な波形を生成することができる波形発生器42と、少なくとも1つの送信素子(送信器)52と少なくとも1つの受信素子(受信器)54とを有する一つまたは複数のアンテナアセンブリ50と、周波数逓倍器47と、送信選択スイッチ48と、直角位相出力55を介して、受信した標的波形の瞬時位相と送信した信号のレプリカの瞬時位相とを比較することによってビート周波数を得る整合フィルタであるダウンコンバータ(伸張プロセッサ)46とを備える。アップコンバートを実行して一定の周波数シフトを与えるためにSSBミキサ44が含まれてもよい。この機能ブロックは、必須ではないが、フィードスルー問題に立ち向かうための設計強化である。
好ましい波形は、線形周波数変調(LFM)チャープパルスであるが、他の波形を利用してもよいことに留意されたい。高距離分解能を達成するために、レーダーは、好ましくは、極広帯域システムである。例示のレーダーモジュールは、例えば、X/Kuバンド動作のものであってよい。LFMシステムは、リターンパルスとの比較を行うために送信バーストの遅延レプリカを含むことが好ましい。小屋型システムでは、標的が比較的静的でレーダープラットフォームが固定されたアーマチュア上で回転するため、この遅延は校正され固定される。ハンドヘルドスキャナを使用する操作者が対象者からの距離を信頼性をもって一定に維持することができないという事実のために、レーザー距離ファインダ、光学システム、または他の近接センサが、対象者の外側衣類とのこの分離を追跡することの助けとなり得る。この情報は、LFMシステムを用いて行われたレーダー測定を確証すること、及び、それに応じて遅延パラメータを補償することに使用されることとなる。光学3Dカメラまたはレーザーは皮膚に対して測定できないので、UWBレーダーがこの測定の実行を担当する。
図示したレーダーモジュール40によると、波形発生器42は、衣服を通過し、皮膚から反射し、散乱応答をレーダー受信開口に返す69〜75GHzの間で動作する低出力非電離ミリ波を放射する。距離分解のため、超広帯域レーダーユニットは、既知の空間的分離を有する2つ以上の共線形アンテナ素子52,54からなる。この実施形態は、相対的な間隔が1:1:2、例えば、要素間が3インチ:3インチ:6インチ(約7.6cm:約7.6cm:約15.2cm)を有する複数の送信要素52および複数の受信要素54に関連付けられた4つの開口56を使用するが、幾何的及びコスト的目標の両方を満たすような別の構造も可能である。複数の送信開口56の場合、各要素が順に送信器となり、他の要素は受信器である。送信および受信の両方に単一の開口56を使用できるが、所与のチャネルに対する送信素子と受信素子との間の高分離を達成するためにデュアル開口を使用できる。さらに、アンテナ50は、更なる分離を達成するために、または標的によって決定される所与の偏光感知に対してより敏感になるように、特定の波偏向で送信するように構成され得る。この実施形態は、同じ垂直偏波を有するアルミニウムハウジング内に穿孔された、別個の導波矩形ホーン開口を使用する。すべてのアンテナ選択は、コンピュータ制御下で電子スイッチ48を介して行われる。
身体に向かう方向に放射された波形は、数ギガヘルツの帯域幅にわたって掃引する線形周波数変調ランプ(LFM ramp)である。この波形は、すべてのアンテナ対で同じであってよいが、反射面の特徴を表現するように変更されてよい。帯域幅は、レーダーによって達成可能な曖昧でない空間分解能を決定する。他のレーダー波形および実装例を使用できるが、この実施形態はLFM三角波波形を利用する。
図6を参照すると、レーダープロセッサユニットは、大きくは、プロセッサ、メモリ回路およびADC用のサンプリングクロックを動作させるための正確な時間基準を提供するクロック源64と、レーダーユニットの設定、未処理のレーダーデータの処理、および距離分解演算を担当するプロセッサ60と、未処理のレーダー波形を処理用に記憶するとともに校正情報および波形補正値を記憶する外部メモリ62と、アナログデジタル変換器66と、ローパス(すなわち、第1のナイキストゾーン)またはバンドパス(すなわち、中間周波数IF)サンプリングのためにアナログ信号をフィルタリングするのに使用されるアンチエイリアシングフィルタ68と、デジタルおよびアナログマルチプレクサ電子機器70と、イベントのタイミングを調整するCPLDまたはFPGA72とを含む。保存された信号鎖に位相シフトを与え、複素信号処理に必要な直角位相成分を得るためにヒルベルト変換器を使用する場合には、直角位相チャネルの1つを除去し、それによって受信機ハードウェア46を単純化し、単一のADCコンバータ鎖(要素66、68、69、70)を除去することも可能である。これらの処理技術は周知であり、レーダー処理に適用可能である。
アンテナ対52、54のすべての組み合わせについて、要素の三辺測量(一対について)または多重測量(一組について)のプロセスを介して、対象者に対する距離決定が行われ得る。図7を参照すると、センサの正面に距離が不明の標的がある場合、その反射波形は、送信波形のレプリカと混合され、ビート周波数が生成される。このビート周波数は、ランプ波形の伝播遅延を直接マッピングする。レーダーの分解能は、システムの帯域幅によって決定され、それはδr=c/(2−B)である。全経路長は、スペクトル周波数成分を抽出するためにLFMレーダーの出力に対してフーリエ変換を実行することによって分解される。代替的解析技法はProny法を含む。Prony法の出力は、周波数、振幅、位相、並びに、均一にサンプリングされた信号からの減衰パラメータを抽出することができる。Prony解析の実用は、ノイズ存在下でのパラメータ抽出を可能にする。複数の顕著なスペクトルピークは様々な散乱表面への往復(round−trip)距離を示す。この処理の実施の仕方は当技術分野において十分に確立されている。他の方法を利用してもよい。例えば、レーダーシステムは、サイドスキャンレーダーアルゴリズムを利用して、標的への距離情報を決定し得る。サイドスキャンレーダーアルゴリズムは、単独でもまたは三辺測量と組み合わせて使用可能である。
増加した空間分解能は、ランプ解消ミキサ(deramp mixers)からの複数の直角位相出力からなるセットから利用可能な位相情報を使用することによって得ることができる。直角位相出力コンバータの詳細を後述する。
特定の反射体については、距離の変化を高精度で測定するのにも位相情報を使用することができる。反射面がレーダーに対して所与の距離を移動するときに、線形周波数変調波形が使用されると仮定すると、デランピングミキサからの瞬時ビート周波数は、λ/2の距離変化毎に全2πの追加位相を蓄積するレンジビンの方向に途切れなく増加または減少するであろう。この位相変化は、以下のように表される。
φ_c=2π・r/(λ/2)=4πr/λ
定義されたレンジビンを細分するλ/2サイクルの数は、以下のように計算され得る。
n_(λ/2)=(B・λ)/(T_m・c)=1/(T_m)*(B/f)
ここで、Bは、掃引RF帯域幅、λ=中心周波数の波長、T_m=変調周期、c=真空中の光速、f=レーダーの中心周波数である。
波形発生器に課される要件は、位相の読みを確認するのに十分な長さの持続で低周波数ビートが所与の反射体距離に対して生成されるように、所与の距離遅延に対し高度に直線的なランプが波形の既知の部分(理想的にはパルスの開始点)を備えるべきであることである。この線形性期間の後、この波形は線形スイープまたは任意の所望の特性(放物線、指数関数など)を継続してよい。プラットフォームの速度がプラットフォームの空間サンプリング能力を超えないように十分に遅い限り、任意の数の標的に対して位相追跡が実行されることができる。追跡される必要のある任意の標的に対し超過すべきではない瞬時速度は、以下のように計算され得る。
v_(i,max)=λ/(2・n・T_m)=λ/2*1/(n*T_m)
このシステムの曖昧でない空間分解能ビンは、レーダーの帯域幅によって決定される。受信器の周波数分解能は変調期間によって決定されるから、LFMレーダー距離分解能はチャープ帯域幅と変調周期の両方と相関している。ビン間距離(inter−bin range)が1つの完全サイクルが登録されるまで位相を蓄積するであろうシステムについては、その時点で次のレンジビンに到達する。
操作者が個人をスキャンすると、図8に示すように、ディスプレイ80が更新されてカバーした領域が示される。操作者は、取得されたスキャンのリアルタイム更新を、スキャンされた領域およびまだスキャンする必要がある身体の領域のオンスクリーン標示82で見るであろう。この表示情報は、装置の操作者が身体のすべての表面が走査されたかを確認するのに役立つ。この構想の簡単な実施形態は、身体のシルエットを白黒またはグレースケールで示してスキャンされた身体の領域を示すことである。
例示的な用途では、ポータブルスキャナは、完全な着衣状態の大量の顧客を迅速にスキャンすることを可能にし、既存の小屋型スキャナユニットのコストのほんの一部でその作業を行うことができる。この技術の格別の利点は、ハンドヘルドユニットが対象者に対して固定された方向に拘束されないことであり、それによって、固定的構造では実施が困難であったであろう身体領域に対する難しい測定を行うことができる。さらに、協力的に働く2つの空間測定システムの組み合わせによって、個人の寸法のより高い忠実度での再現を提供することができる。
本明細書では例示的な衣類フィッティング用途の文脈で本発明を説明したが、本発明のシステムは、他の不規則形状物体のサイズ測定値を決定するために利用されてよく、不規則形状のサイズ測定値を利用する他の用途に使用されてよい。
本発明のこれらのおよび他の利点は、前述の明細書から当業者には明らかであろう。当業者であれば、本発明の広範な発明の技術的思想から逸脱することなく、上述の実施形態に変更または修正を加えることができることを認識するであろう。したがって、本発明は、本明細書に記載の特定の実施形態に限定されるものではなく、特許請求の範囲に定義される本発明の技術的思想の範囲にあるすべての変更および修正を含むものとする。

Claims (16)

  1. 不規則な形状の物体を採寸するためのハンドヘルドスキャナシステムであって、
    ハウジングと、
    (A)前記不規則な形状の物体の少なくとも第1の部分を覆う少なくとも1つの物品の表面、および(B)露出された状態の前記不規則な形状の物体の表面の第2の部分の表面、を表す3D点群データを生成するように構成された少なくとも一つの3D光学センサを含む光学モジュールと、
    前記ハウジングと前記少なくとも1つの物品によって覆われた前記不規則な形状の物体の少なくとも前記第1の部分の表面との間の感知された間隙を特定する距離データを生成するように構成された少なくとも一つのレーダーセンサを含むレーダーモジュールと、
    前記光学モジュールからの3D点群データ及び前記レーダーモジュールからの距離データを受信し、(A)を表す前記3D点群データを使用して前記距離データについてのレーダアルゴリズムの解を前記不規則な形状の物体を覆う前記少なくとも1つの物品の近くの領域に制限し、前記3D点群データおよび前記距離データについての前記制限された解に基づき前記不規則な形状の物体の本体の寸法を描写するマップを生成するプロセッサと
    を備える、ハンドヘルドスキャナシステム。
  2. 前記光学モジュールは、前記不規則な形状の物体の視覚面の寸法情報を提供し、その光学的寸法情報は、前記レーダーモジュールが前記視覚面の下の前記不規則な形状の物体の表面の寸法情報を精密整調するための基準点を提供するのに利用される、請求項1に記載のハンドヘルドスキャナシステム。
  3. 前記不規則な形状の物体は個人であり前記少なくとも1つの物品は前記個人によって着用されている衣類である、請求項2に記載のハンドヘルドスキャナシステム。
  4. 前記3D点群データは、前記距離データを面に分解する処理を補助するのに使用される、請求項1に記載のハンドヘルドスキャナシステム。
  5. 前記3D点群データが様々な身体タイプ用の統計的フィッティングと共に使用され、前記距離データの組み込みによって微調整が得られる、請求項1に記載のハンドヘルドスキャナシステム。
  6. 前記レーダーモジュールは、1GHzから1THzまでの任意の帯域で動作する、請求項1に記載のハンドヘルドスキャナシステム。
  7. 前記少なくとも1つのレーダーセンサは、送信素子と受信素子とからなるアンテナ複合体を含む、請求項1に記載のハンドヘルドスキャナシステム。
  8. 前記プロセッサは、閾値基準および前記3D点群データと前記距離データとの間の関連する対応関係に基づいて一つまたは複数のアンテナ複合体を重視するように構成される、請求項に記載のハンドヘルドスキャナシステム。
  9. 前記レーダーモジュールが1:1:2の相対距離を有する複数の送信素子と複数の受信素子とに関連付けられた少なくとも2つのレーダーセンサを含む、請求項に記載のハンドヘルドスキャナシステム。
  10. 前記プロセッサは、慣性測定ユニットからの利用可能なセンサデータを使用して状態ベクトル推定値を計算し維持するように構成されている、請求項1に記載のハンドヘルドスキャナシステム。
  11. 前記状態ベクトル推定値は、前記距離データに対する補正および更新を提供するために使用される、請求項10に記載のハンドヘルドスキャナシステム。
  12. 前記ハンドヘルドスキャナシステムがホストプロセッサと通信するように構成されている、請求項1に記載のハンドヘルドスキャナシステム。
  13. 前記プロセッサは、生成した前記マップを前記ホストプロセッサに出力する、請求項12に記載のハンドヘルドスキャナシステム。
  14. 前記ハウジングにはハンドルが画定されている、請求項1に記載のハンドヘルドスキャナシステム。
  15. 前記ハンドヘルドスキャナシステムが、操作者にフィードバックを提供するように構成されている、請求項1に記載のハンドヘルドスキャナシステム。
  16. 前記フィードバックは、触覚的、聴覚的、視覚的、またはそれらの組み合わせである、請求項15に記載のハンドヘルドスキャナシステム。
JP2017520027A 2014-06-30 2015-06-30 不規則状物体の採寸用のハンドヘルドマルチセンサシステム Active JP6435407B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462019023P 2014-06-30 2014-06-30
US62/019,023 2014-06-30
PCT/IB2015/002166 WO2016020763A2 (en) 2014-06-30 2015-06-30 Handheld multi-sensor system for sizing irregular objects

Publications (2)

Publication Number Publication Date
JP2017528621A JP2017528621A (ja) 2017-09-28
JP6435407B2 true JP6435407B2 (ja) 2018-12-05

Family

ID=55264718

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017520027A Active JP6435407B2 (ja) 2014-06-30 2015-06-30 不規則状物体の採寸用のハンドヘルドマルチセンサシステム

Country Status (10)

Country Link
US (2) US20160178746A1 (ja)
EP (1) EP3161516B1 (ja)
JP (1) JP6435407B2 (ja)
KR (1) KR102003952B1 (ja)
CN (1) CN106537179B (ja)
BR (1) BR112016030840B1 (ja)
CA (1) CA2951220C (ja)
ES (1) ES2949340T3 (ja)
PL (1) PL3161516T3 (ja)
WO (1) WO2016020763A2 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6663173B2 (ja) * 2015-05-22 2020-03-11 日本信号株式会社 対象物の形状を特定するための送受信装置
US11391861B2 (en) * 2016-07-26 2022-07-19 China Communication Technology Co., Ltd. Portable security inspection device based on millimetre wave imaging
EP3299843A1 (en) * 2016-09-23 2018-03-28 MediaTek Inc. Method and apparatus for automotive parking assistance using radar sensors
CN106780619B (zh) * 2016-11-25 2020-03-13 青岛大学 一种基于Kinect深度相机的人体尺寸测量方法
CN108286945B (zh) * 2017-11-10 2020-05-05 广东康云多维视觉智能科技有限公司 基于视觉反馈的三维扫描系统和方法
KR102027145B1 (ko) * 2017-11-17 2019-10-01 주식회사 제이컴스 휴대용 레이더 측정장치 및 그 방법
US20190295319A1 (en) * 2018-03-23 2019-09-26 Bodidata, Inc. Systems and methods for generating a refined 3d model using radar and optical camera data
US10683067B2 (en) * 2018-08-10 2020-06-16 Buffalo Automation Group Inc. Sensor system for maritime vessels
US20200125846A1 (en) * 2018-10-23 2020-04-23 The Boeing Company Augmented Reality System for Manufacturing Composite Parts
CN109444839B (zh) * 2018-11-29 2020-10-13 北京行易道科技有限公司 目标轮廓的获取方法及装置
CN114127579A (zh) * 2019-07-16 2022-03-01 博迪戴特公司 用于改进雷达扫描覆盖和效率的系统和方法
US20220412725A1 (en) * 2019-11-19 2022-12-29 Like A Glove Ltd. Photogrammetric measurement of body dimensions using patterned garments
US12112468B2 (en) 2020-01-30 2024-10-08 Electronics And Telecommunications Research Institute Method and apparatus for detecting dimension error
KR102700755B1 (ko) 2020-01-30 2024-08-30 한국전자통신연구원 치수 오류 판별 방법 및 장치
US20210405179A1 (en) * 2020-06-25 2021-12-30 Lassen Peak, Inc. Systems and Methods for Noninvasive Detection of Impermissible Objects
US12099360B2 (en) 2020-12-16 2024-09-24 Lassen Peak, Inc. Systems and methods for noninvasive aerial detection of impermissible objects
US11982734B2 (en) 2021-01-06 2024-05-14 Lassen Peak, Inc. Systems and methods for multi-unit collaboration for noninvasive detection of concealed impermissible objects
US12000924B2 (en) 2021-01-06 2024-06-04 Lassen Peak, Inc. Systems and methods for noninvasive detection of impermissible objects
DE102021103578B4 (de) 2021-02-16 2023-06-07 Sikora Aktiengesellschaft Verfahren und System zum Erfassen und Bereitstellen von Daten für einen Kauf eines Bekleidungsartikels
DE102021005835B4 (de) 2021-02-16 2022-12-08 Sikora Aktiengesellschaft Verfahren und System zum Erfassen und Bereitstellen von Daten für einen Kauf eines Bekleidungsartikels
AT526462A1 (de) * 2022-09-07 2024-03-15 Voidsy Gmbh Thermographische Bauteilprüfung

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4984073A (en) * 1954-12-24 1991-01-08 Lemelson Jerome H Methods and systems for scanning and inspecting images
JPS63255683A (ja) * 1987-04-13 1988-10-21 Hitachi Ltd 異物の映像化装置
US5198877A (en) * 1990-10-15 1993-03-30 Pixsys, Inc. Method and apparatus for three-dimensional non-contact shape sensing
US6359582B1 (en) * 1996-09-18 2002-03-19 The Macaleese Companies, Inc. Concealed weapons detection system
JPH1183996A (ja) * 1997-09-03 1999-03-26 Omron Corp ミリ波検出装置
US6417797B1 (en) * 1998-07-14 2002-07-09 Cirrus Logic, Inc. System for A multi-purpose portable imaging device and methods for using same
US6542249B1 (en) * 1999-07-20 2003-04-01 The University Of Western Ontario Three-dimensional measurement method and apparatus
US7365672B2 (en) * 2001-03-16 2008-04-29 Battelle Memorial Institute Detection of a concealed object
CA2359513C (en) * 2001-10-19 2012-10-09 Virtually Yours Inc. A method of virtual garment fitting, selection, and processing
US6720905B2 (en) * 2002-08-28 2004-04-13 Personnel Protection Technologies Llc Methods and apparatus for detecting concealed weapons
US7415244B2 (en) * 2003-08-12 2008-08-19 Trey Enterprises Corp. Multi-channel millimeter wave imaging system
US7948428B2 (en) * 2003-08-12 2011-05-24 Trex Enterprises Corp. Millimeter wave imaging system with frequency scanning antenna
DE102004007315A1 (de) * 2004-02-14 2005-08-25 Robert Bosch Gmbh Nahbereichsradar mit Mehrfachsensorik zur Ortung von in einem Medium eingeschlossenen Objekten
US7205926B2 (en) * 2004-04-14 2007-04-17 Safeview, Inc. Multi-source surveillance system
US6972714B1 (en) * 2004-06-08 2005-12-06 Agilent Technologies, Inc. Optically-augmented microwave imaging system and method
US7209035B2 (en) * 2004-07-06 2007-04-24 Catcher, Inc. Portable handheld security device
US7253766B2 (en) * 2004-09-24 2007-08-07 Battelle Memorial Institute Three-dimensional surface/contour processing based on electromagnetic radiation interrogation
US6967612B1 (en) * 2004-10-22 2005-11-22 Gorman John D System and method for standoff detection of human carried explosives
US7408461B2 (en) * 2005-01-11 2008-08-05 Controlled Capture Systems, Llc Metal detection system and method
US8253619B2 (en) * 2005-02-15 2012-08-28 Techtronic Power Tools Technology Limited Electromagnetic scanning imager
WO2007030026A1 (en) * 2005-09-09 2007-03-15 Industrial Research Limited A 3d scene scanner and a position and orientation system
EP1949132B1 (en) * 2005-11-09 2020-03-25 QinetiQ Limited Passive detection apparatus
DE102006008275A1 (de) * 2006-02-22 2007-08-23 Siemens Ag Verfahren zur Detektion von Objekten mit einer schwenkbaren Sensoreinrichtung
US7492303B1 (en) * 2006-05-09 2009-02-17 Personnel Protection Technologies Llc Methods and apparatus for detecting threats using radar
US7844081B2 (en) * 2006-05-15 2010-11-30 Battelle Memorial Institute Imaging systems and methods for obtaining and using biometric information
IL176411A0 (en) * 2006-06-19 2007-07-04 Ariel University Res And Dev C Hand-held device and method for detecting concealed weapons and hidden objects
US7256899B1 (en) * 2006-10-04 2007-08-14 Ivan Faul Wireless methods and systems for three-dimensional non-contact shape sensing
US7504993B2 (en) * 2006-10-12 2009-03-17 Agilent Technolgoies, Inc. Coaxial bi-modal imaging system for combined microwave and optical imaging
US7804442B2 (en) * 2007-01-24 2010-09-28 Reveal Imaging, Llc Millimeter wave (MMW) screening portal systems, devices and methods
WO2008109859A1 (en) * 2007-03-07 2008-09-12 The Macaleese Companies, Inc. D/B/A Safe Zone Systems Object detection method and apparatus
US20140300502A9 (en) * 2007-12-18 2014-10-09 Brijot Imaging Systems, Inc. Millimeter Wave Energy Sensing Wand and Method
US20140300503A9 (en) * 2007-12-18 2014-10-09 Microsemi Corporation Millimeter wave energy sensing wand and method
WO2009128701A1 (en) * 2008-04-18 2009-10-22 Tele Atlas B.V. Method of using laser scanned point clouds to create selective compression masks
US8368586B2 (en) * 2009-03-26 2013-02-05 Tialinx, Inc. Person-borne improvised explosive device detection
US20110102234A1 (en) * 2009-11-03 2011-05-05 Vawd Applied Science And Technology Corporation Standoff range sense through obstruction radar system
IL203015A (en) * 2009-12-29 2013-07-31 Israel Aerospace Ind Ltd A method for detecting firearms and concealed explosives
EP2407799B1 (en) * 2010-07-16 2018-04-11 Sivers Ima AB Method and device for continuous wave radar measurements
CN101913368B (zh) * 2010-08-11 2012-04-25 唐粮 一种高速铁路快速精密测量和全要素数据获取系统及方法
US8773946B2 (en) * 2010-12-30 2014-07-08 Honeywell International Inc. Portable housings for generation of building maps
CN102096072B (zh) * 2011-01-06 2013-02-13 天津市星际空间地理信息工程有限公司 一种城市部件自动化测量方法
US8791851B2 (en) * 2011-06-02 2014-07-29 International Business Machines Corporation Hybrid millimeter wave imaging system
US8670021B2 (en) * 2011-07-19 2014-03-11 Apstec Systems Ltd Method for stand off inspection of target in monitored space
EP2587347A3 (en) * 2011-10-25 2016-01-20 Broadcom Corporation Portable computing device including a three-dimensional touch screen
WO2013069012A1 (en) * 2011-11-07 2013-05-16 Dimensional Perception Technologies Ltd. Method and system for determining position and/or orientation
WO2013141922A2 (en) * 2011-12-20 2013-09-26 Sadar 3D, Inc. Systems, apparatus, and methods for data acquisiton and imaging
US8996228B1 (en) * 2012-09-05 2015-03-31 Google Inc. Construction zone object detection using light detection and ranging
DE102013016813B4 (de) * 2012-12-19 2023-09-07 Sony Corporation Verfahren zum Betrieb einer tragbaren Screeningvorrichtung und tragbare Screeningvorrichtung
US9746553B2 (en) * 2012-12-19 2017-08-29 Sony Corporation Method for generating an image and handheld screening device
US10126412B2 (en) * 2013-08-19 2018-11-13 Quanergy Systems, Inc. Optical phased array lidar system and method of using same
US10254395B2 (en) * 2013-12-04 2019-04-09 Trimble Inc. System and methods for scanning with integrated radar detection and image capture

Also Published As

Publication number Publication date
EP3161516B1 (en) 2023-04-19
US9575172B2 (en) 2017-02-21
US20160178746A1 (en) 2016-06-23
JP2017528621A (ja) 2017-09-28
CN106537179A (zh) 2017-03-22
CA2951220A1 (en) 2016-02-11
KR102003952B1 (ko) 2019-07-25
US20160178747A1 (en) 2016-06-23
BR112016030840B1 (pt) 2023-10-03
EP3161516A2 (en) 2017-05-03
KR20170027806A (ko) 2017-03-10
CN106537179B (zh) 2019-04-19
CA2951220C (en) 2019-02-26
WO2016020763A2 (en) 2016-02-11
BR112016030840A2 (ja) 2017-08-22
PL3161516T3 (pl) 2023-10-16
ES2949340T3 (es) 2023-09-27
WO2016020763A3 (en) 2016-04-21
EP3161516A4 (en) 2018-04-04

Similar Documents

Publication Publication Date Title
JP6435407B2 (ja) 不規則状物体の採寸用のハンドヘルドマルチセンサシステム
CN106707291B (zh) 一种双频线性调频相干测风激光雷达
US11860262B2 (en) System and methods for three dimensional modeling of an object using a radio frequency device
Giancola et al. A survey on 3D cameras: Metrological comparison of time-of-flight, structured-light and active stereoscopy technologies
US11067685B2 (en) System, device and methods for imaging of objects using electromagnetic array
Geibig et al. Compact 3D imaging radar based on FMCW driven frequency-scanning antennas
US9268017B2 (en) Near-field millimeter wave imaging
RU2643168C2 (ru) Способ измерения высоты, истинной скорости летательного аппарата и наклона вектора скорости летательного аппарата относительно горизонта, устройство бортовой радиолокационной станции, использующее способ
US10371813B2 (en) Systems and methods for using time of flight measurements for imaging target objects
US20160341546A1 (en) System and Method for Determination of Distance Between Two Points in 3-Dimensional Space
RU2602274C1 (ru) Радиолокационный способ и устройство для дистанционного измерения полного вектора скорости метеорологического объекта
Nimmagadda et al. Signal analysis based radar imaging using radar sensor
JP3484995B2 (ja) 瞬時パッシブ距離測定装置
Mirbach et al. Time of arrival based localization of UWB transmitters buried in lossy dielectric media
RU2217774C2 (ru) Способ измерения эффективной площади рассеяния объекта и радиолокационная станция для его реализации
JP6989663B1 (ja) レーダ装置
KR20140103236A (ko) 다중 안테나를 이용한 3차원 fmcw 레이더 방법 및 장치
Hozhabri et al. Experimental comparison study of UWB technologies for static human detection
Devi et al. Active and passive radar-location systems for the calculation of coordinates
Nowok et al. 3D Mechanically Pivoting Radar System using FMCW Approach
UA141158U (uk) Спосіб моніторингу іоносфери радіолокаційною станцією контролю космічного простору
WO2022101739A1 (en) Systems and methods for ascertaining spatial information of target objects
Abedi et al. Point Target Localization and Imaging with Plane Wave using SAR
JPH0326984A (ja) 地中埋設物探査装置
JPH06109835A (ja) 埋設物探査装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181016

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181112

R150 Certificate of patent or registration of utility model

Ref document number: 6435407

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250