JP6193390B2 - 構造化された光のアクティブ深度検知システムにおける光源電力の動的調整 - Google Patents
構造化された光のアクティブ深度検知システムにおける光源電力の動的調整 Download PDFInfo
- Publication number
- JP6193390B2 JP6193390B2 JP2015541781A JP2015541781A JP6193390B2 JP 6193390 B2 JP6193390 B2 JP 6193390B2 JP 2015541781 A JP2015541781 A JP 2015541781A JP 2015541781 A JP2015541781 A JP 2015541781A JP 6193390 B2 JP6193390 B2 JP 6193390B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- captured
- light
- light source
- code mask
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Description
[0001]本出願は、米国仮特許出願第61/726,387号(出願日:2012年11月14日)に対する35U.S.C.§119(e)に基づく優先権を主張し、及び、米国非仮特許出願第13/723,891号(出願日:2012年12月21日)に対する優先権を主張するものであり、それらの内容は、ここにおける引用によって明示でここに組み入れられている。
総論
[0027]構造化された光を用いてアクティブ深度検知を行うときにシーン内のオブジェクトの異なる反射率/吸収数を補償するための技法が提供される。キャプチャ中のシーン内のオブジェクトの反射率/吸収の変動に合わせて動的に調整する、及び補償する様々な特徴が提供される。
アクティブ深度検知
[0031]図1は、二次元(2D)画像又は情報から三次元(3D)シーンが構築されるアクティブ検知システムを例示する。構造化された光を用いるアクティブ深度検知システムを実行するときにシーン内のオブジェクトの異なる反射率/吸収係数を補償するための1つ以上の特徴。符号器/形状変調器100は、送光チャネル104を通じて送光デバイス102によって投影されるコードマスクを生成する働きをすることができる。コードマスクは、ターゲット(例えば、シーン又はオブジェクト)上に投影することができ、反射された光は画像(例えば、コードマスク画像)として受光器センサ105によってキャプチャされる。この受信された画像は、復号することができ106、ターゲットの三次元バージョン110a−eを提示、生成、及び/又は提供するために使用することができる。アクティブ検知は、ターゲット上に投影中のコードマスクからすべての空間コード(すなわち、コードワード)を認識することができることに依存する。ここにおいて説明される様々な特徴及び態様は、ここにおいて例示されるシステム及びデバイスの一部として実装することができる。
第1の典型的な解決方法−受け取られた光エネルギーの調整
[0039]第1の典型的な解決方法により、受光器/カメラセンサによって受け取られた光エネルギーは、取得された画像から測定された幾つかのパラメータに従って制御される。
第2の典型的な解決方法−受光器ダイナミックレンジ調整
[0055]第2の典型的な解決方法により、受光器/カメラセンサによって受け取られた光エネルギーが、異なる露出時間に取得された画像から測定された一定のパラメータに基づいて制御され及び結合される。
第3の典型的な解決方法−選択的光源電力調整
[0063]第3の典型的な解決方法により、シーン内の表面の変化する反射率/吸収係数に好適するように異なる領域にわたって光源電力がローカルで/選択的に制御される。すなわち、光源は、シーンの異なる領域をシーン内の表面の反射率/吸収に依存して異なる形で照明することができるように独立して制御することができる複数の光素子を含むことができる。従って、シーンの各領域内の光度は、シーンの各々の該領域内のオブジェクトの表面の反射率/吸収係数により調整することができる。
典型的な深度検出システム
[0071]図8は、キャプチャ中のシーン内のオブジェクトの表面の異なる反射率/吸収係数に関して動的に調整する、構造化された光を用いる典型的な深度検出システム800を例示する。コードマスク投影デバイス808は、対象となるシーン802上に(例えば、光源を用いて)コードマスクを投影するために働くことができる。受光器センサ806(例えば、カメラ)は、シーン802によって反射されたコードマスクの少なくとも一部分を含む画像を得るためにシーン802上への光源の反射から来る入射光をキャプチャする。アクティブ深度検知デバイス804は、光投影デバイス(光源)808及び/又は受光器センサ806に結合することができ及び投影デバイス808に関する受光器センサ806及び/又は光源電力に関して露出時間を動的に調整するように構成することができる。アクティブ深度検知デバイス804は、処理回路805及び/又は記憶デバイス809を含むことができる。処理回路805は、パラメータ計算モジュール/回路810、露出時間調整モジュール/回路812、光電力調整モジュール/回路814、及び/又は深度計算モジュール/回路816を含むこと又は実装することができる。これらのモジュール/回路は、図5、6、及び/又は7において説明される及び/又は例示される1つ以上の機能を実行するのに好適することができる。記憶デバイス809は、例えば、受光器センサ806及び/又はコードマスク投影デバイス808に関する1つ以上の調整パラメータを格納するために働くことができる。
キャプチャされた画像に関するパラメータの確認
[0080]図5、6、及び/又は7において、受光器センサ及び/又は投影光源を調整するために、キャプチャされた画像が処理され、コードマスク(及びその中のコードワード)がキャプチャされた画像に関して復号可能であるかどうかが確認される。コードマスクの一例が図4において示される。図9及び10は、コードマスク内においてコードワードがどのように定義されるかをさらに例示する。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するのに好適するデバイスであって、
コードマスクが投影されるシーンの画像をキャプチャするための受光器センサと、
前記キャプチャされた画像から1つ以上のパラメータを確認し、及び
後続してキャプチャされる画像内における前記コードマスクの復号を向上させるために前記1つ以上のパラメータに従って投影光源のための光源電力を動的に調整するのに好適する処理回路と、を備える、デバイス。
[C2]
前記処理回路は、
前記コードマスクに基づいて前記キャプチャされた画像内の前記シーンに関する深度情報を確認するのにさらに好適するC1に記載のデバイス。
[C3]
前記処理回路は、
前記光源電力を特定の照明において固定し、前記受光器センサに関する露出時間が調整するのにさらに好適するC1に記載のデバイス。
[C4]
前記処理回路は、
前記受光器センサに関する露出時間を固定値に維持し、前記光源電力を調整するのにさらに好適するC1に記載のデバイス。
[C5]
前記1つ以上のパラメータは、前記コードマスクに基づいて前記キャプチャされた画像内の領域と相関されるC1に記載のデバイス。
[C6]
前記投影光源は、複数の光素子を含み、前記投影光源のための前記光源電力を動的に調整することは、前記対応する1つ以上のパラメータに基づいて前記光素子の各々に関して前記光源電力を個々に制御することを含むC1に記載のデバイス。
[C7]
前記受光器センサは、
前記コードマスクが投影される前記シーンの新しい画像をキャプチャするのにさらに好適し、前記新しい画像は、前記個々に調整される複数の光素子の動作に起因して領域ごとに光補償されるC6に記載のデバイス。
[C8]
前記受光器センサは、複数の個々に制御されるセンサシャッタを含み、前記処理回路は、前記受光器センサによってキャプチャされた前記光を調整するために前記対応する1つ以上のパラメータに基づいて前記複数のセンサシャッタを個々に制御するのにさらに好適するC1に記載のデバイス。
[C9]
前記センサシャッタは、前記1つ以上のパラメータによって示される所定の領域における多すぎる又は少なすぎる光を補償するために中を通る前記光を減少又は増加させるように制御されるC8に記載のデバイス。
[C10]
前記受光器センサは、
前記コードマスクが投影される前記シーンの新しい画像をキャプチャするのにさらに好適し、前記新しい画像は、前記個々に調整される複数のセンサシャッタの前記動作に起因して領域ごとに光補償されるC8に記載のデバイス。
[C11]
構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するための方法であって、
受光器センサにおいて、コードマスクが投影されるシーンの画像をキャプチャすることと、
処理回路において、前記キャプチャされた画像から1つ以上のパラメータを確認することと、
後続してキャプチャされる画像内における前記コードマスクの復号を向上させるために前記1つ以上のパラメータに従って投影光源のための光源電力を動的に調整することと、を備える、方法。
[C12]
前記コードマスクに基づいて前記キャプチャされた画像内の前記シーンに関する深度情報を確認することをさらに備えるC11に記載の方法。
[C13]
前記光源電力を特定の照明において固定し、前記受光器センサに関する露出時間が調整されることをさらに備えるC11に記載の方法。
[C14]
前記受光器センサに関する露出時間を固定値に維持し、前記光源電力が調整されることをさらに備えるC11に記載の方法。
[C15]
前記1つ以上のパラメータは、前記コードマスクに基づいて前記キャプチャされた画像内の領域と相関されるC11に記載の方法。
[C16]
前記投影光源は、複数の光素子を含み、前記投影光源のための前記光源電力を動的に調整することは、前記対応する1つ以上のパラメータに基づいて前記光素子の各々に関して前記光源電力を個々に制御することを含むC11に記載の方法。
[C17]
前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることをさらに備え、前記新しい画像は、前記個々に調整される複数の光素子の前記動作に起因して領域ごとに光補償されるC16に記載の方法。
[C18]
前記受光器センサは、複数の個々に制御されるセンサシャッタを含み、前記受光器センサによってキャプチャされた前記光を調整するために前記対応する1つ以上のパラメータに基づいて前記複数のセンサシャッタを個々に制御することをさらに備えるC11に記載の方法。
[C19]
前記1つ以上のパラメータによって示される所定の領域における多すぎる又は少なすぎる光を補償するために中を通る前記光を減少又は増加させるように前記センサシャッタを制御することをさらに備えるC18に記載の方法。
[C20]
前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることをさらに備え、前記新しい画像は、前記個々に調整される複数のセンサシャッタの前記動作に起因して領域ごとに光補償されるC18に記載の方法。
[C21]
構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するのに好適するデバイスであって、
受光器センサにおいて、コードマスクが投影されるシーンの画像をキャプチャするための手段と、
処理回路において、前記キャプチャされた画像から1つ以上のパラメータを確認するための手段と、
後続してキャプチャされる画像内における前記コードマスクの復号を向上させるために前記1つ以上のパラメータに従って投影光源のための光源電力を動的に調整するための手段と、を備える、デバイス。
[C22]
前記コードマスクに基づいて前記キャプチャされた画像内の前記シーンに関する深度情報を確認するための手段をさらに備えるC21に記載のデバイス。
[C23]
前記光源電力を特定の照明において固定し、前記受光器センサに関する露出時間が調整されるための手段をさらに備えるC21に記載のデバイス。
[C24]
前記受光器センサに関する露出時間を固定値に維持し、前記光源電力が調整されるための手段をさらに備えるC21に記載のデバイス。
[C25]
前記1つ以上のパラメータは、前記コードマスクに基づいて前記キャプチャされた画像内の領域と相関されるC21に記載のデバイス。
[C26]
前記投影光源は、複数の光素子を含み、前記投影光源のための前記光源電力を動的に調整するための前記手段は、前記対応する1つ以上のパラメータに基づいて前記光素子の各々に関して前記光源電力を個々に制御するための手段を含むC21に記載のデバイス。
[C27]
前記コードマスクが投影される前記シーンの新しい画像をキャプチャするための手段をさらに備え、前記新しい画像は、前記個々に調整される複数の光素子の前記動作に起因して領域ごとに光補償されるC26に記載のデバイス。
[C28]
前記受光器センサは、複数の個々に制御されるセンサシャッタを含み、前記受光器センサによってキャプチャされた前記光を調整するために前記対応する1つ以上のパラメータに基づいて前記複数のセンサシャッタを個々に制御するための手段をさらに備えるC21に記載のデバイス。
[C29]
前記1つ以上のパラメータによって示される所定の領域における多すぎる又は少なすぎる光を補償するために中を通る前記光を減少又は増加させるように前記センサシャッタを制御するための手段をさらに備えるC28に記載のデバイス。
[C30]
前記コードマスクが投影される前記シーンの新しい画像をキャプチャするための手段をさらに備え、前記新しい画像は、前記個々に調整される複数のセンサシャッタの前記動作に起因して領域ごとに光補償されるC28に記載の方法。
[C31]
構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するための命令を有するプロセッサによって読み取り可能な記憶媒体であって、それらの命令は、1つ以上のプロセッサによって実行されたときに、
受光器センサにおいて、コードマスクが投影されるシーンの画像をキャプチャし、
前記キャプチャされた画像から1つ以上のパラメータを確認し、及び
後続してキャプチャされる画像内における前記コードマスクの復号を向上させるために前記1つ以上のパラメータに従って投影光源のための光源電力を動的に調整することを前記1つ以上のプロセッサに行わせる、プロセッサによって読み取り可能な記憶媒体。
[C32]
1つ以上のプロセッサによって実行されたときに、
前記コードマスクに基づいて前記キャプチャされた画像内の前記シーンに関する深度情報を確認することを前記1つ以上のプロセッサに行わせる1つ以上の命令を有するC31に記載のプロセッサによって読み取り可能な記憶媒体。
[C33]
1つ以上のプロセッサによって実行されたときに、
前記光源電力を特定の照明において固定し、前記受光器センサに関する露出時間が調整されることを前記1つ以上のプロセッサに行わせる1つ以上の命令を有するC31に記載のプロセッサによって読み取り可能な記憶媒体。
[C34]
1つ以上のプロセッサによって実行されたときに、
前記受光器センサに関する露出時間を固定値に維持し、前記光源電力が調整されることを前記1つ以上のプロセッサに行わせる1つ以上の命令を有するC31に記載のプロセッサによって読み取り可能な記憶媒体。
[C35]
前記1つ以上のパラメータは、前記コードマスクに基づいて前記キャプチャされた画像内の領域と相関されるC31に記載のプロセッサによって読み取り可能な記憶媒体。
[C36]
前記投影光源は、複数の光素子を含み、1つ以上のプロセッサによって実行されたときに、
前記投影光源のための前記光源電力を動的に調整することを前記1つ以上のプロセッサに行わせる1つ以上の命令を有し、前記投影光源のための前記光源電力を動的に調整することは、前記対応する1つ以上のパラメータに基づいて前記光素子の各々に関して前記光源電力を個々に制御することを含むC31に記載のプロセッサによって読み取り可能な記憶媒体。
[C37]
1つ以上のプロセッサによって実行されたときに、
前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることを前記1つ以上のプロセッサに行わせる1つ以上の命令を有し、前記新しい画像は、前記個々に調整される複数の光素子の動作に起因して領域ごとに光補償されるC37に記載のプロセッサによって読み取り可能な記憶媒体。
[C38]
前記受光器センサは、複数の個々に制御されるセンサシャッタを含み、
1つ以上のプロセッサによって実行されたときに、
前記受光器センサによってキャプチャされた前記光を調整するために前記対応する1つ以上のパラメータに基づいて前記複数のセンサシャッタを個々に制御することを前記1つ以上のプロセッサに行わせる1つ以上の命令をさらに有するC36に記載のプロセッサによって読み取り可能な記憶媒体。
[C39]
1つ以上のプロセッサによって実行されたときに、
前記1つ以上のパラメータによって示される所定の領域における多すぎる又は少なすぎる光を補償するために中を通る前記光を減少又は増加させるように前記センサシャッタを制御することを前記1つ以上のプロセッサに行わせる1つ以上の命令を有するC38に記載のプロセッサによって読み取り可能な記憶媒体。
[C40]
1つ以上のプロセッサによって実行されたときに、
前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることを前記1つ以上のプロセッサに行わせる1つ以上の命令を有し、前記新しい画像は、前記個々に調整される複数のセンサシャッタの前記動作に起因して領域ごとに光補償されるC36に記載のプロセッサによって読み取り可能な記憶媒体。
Claims (13)
- 構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するための方法であって、
1つ以上の受光器センサにおいて、コードマスクが投影されるシーンの第1の画像および第2の画像をキャプチャすることと、前記第1の画像は、第1の露出時間中にキャプチャされ、前記第2の画像は、前記第1の露出時間とは異なる持続時間の第2の露出時間中にキャプチャされる、
処理回路において、前記第1のキャプチャされた画像およびキャプチャされた第2の画像の各々から1つ以上のパラメータを確認することと、
前記確認されたパラメータに基づいて、少なくとも投影光源のための光源電力を動的に調整することと、
後続してキャプチャされる画像内における前記コードマスクの復号すること、を備える、方法。 - 前記コードマスクに基づいて少なくとも前記第1のキャプチャされた画像内の前記シーンに関する深度情報を確認することをさらに備える請求項1に記載の方法。
- 前記確認されたパラメータに基づいて、少なくとも前記第1の露出時間を動的に調整することをさらに備える、請求項1に記載の方法。
- 少なくとも前記第1のキャプチャされた画像の過飽和を示す前記確認されたパラメータに応答して、少なくとも前記第1の露出時間が低減すること、または
少なくとも前記第1のキャプチャされた画像の不飽和を示す前記確認されたパラメータに応答して、少なくとも前記第1の露出時間を増大すること、をさらに備える請求項1に記載の方法。 - 少なくとも前記キャプチャされた第1の画像の飽和ピクセルの数が飽和閾値を満たすことを示す前記1つ以上のパラメータに応答して、前記光源電力を減少すること、または
少なくとも前記キャプチャされた第1の画像の飽和ピクセルの数が前記飽和閾値を満たさないことを示す前記1つ以上のパラメータに応答して、前記光源電力を増大すること、をさらに備える請求項1乃至4のうちのいずれか1項に記載の方法。 - 確認されたパラメータは、前記コードマスクに基づいて前記キャプチャされた画像内の領域と相関され、前記後続してキャプチャされる画像内における前記コードマスクを復号することは前記光源電力、少なくとも前記第1の露出時間、またはその両方を動的に調整することに応じて向上する、請求項1に記載の方法。
- 前記投影光源は、複数の光素子を含み、前記投影光源のための前記光源電力を動的に調整することは、前記対応する確認されたパラメータに基づいて前記複数の光素子の各々に関して前記光源電力を個々に制御することを含む請求項1に記載の方法。
- 前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることをさらに備え、前記新しい画像は、前記個々に調整される複数の光素子の前記動作に起因して領域ごとに光補償される請求項7に記載の方法。
- 前記1つ以上の受光器センサの前記各々は、複数の個々に制御されるセンサシャッタを含み、前記1つ以上の受光器センサによってキャプチャされた光の量を調整するために前記対応する確認されたパラメータに基づいて前記複数のセンサシャッタを個々に制御することをさらに備える請求項1に記載の方法。
- 前記1つ以上のパラメータによって示されるように少なくとも前記キャプチャされた第1の画像の所定の領域における多すぎる又は少なすぎる光を補償するために中を通る前記光の量を減少又は増加させるように前記複数のセンサシャッタを制御することをさらに備える請求項9に記載の方法。
- 前記コードマスクが投影される前記シーンの新しい画像をキャプチャすることをさらに備え、前記新しい画像は、前記個々に調整される複数のセンサシャッタの前記動作に起因して領域ごとに光補償される請求項9に記載の方法。
- 構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するのに好適するデバイスであって、
1つ以上の受光器センサにおいて、コードマスクが投影されるシーンの第1の画像および第2の画像をキャプチャするための手段と、前記第1の画像は、第1の露出時間中にキャプチャされ、前記第2の画像は、前記第1の露出時間とは異なる持続時間の第2の露出時間中にキャプチャされる、
処理回路において、前記第1のキャプチャされた画像およびキャプチャされた第2の画像の各々から1つ以上のパラメータを確認するための手段と、
前記確認されたパラメータに基づいて、少なくとも投影光源のための光源電力を動的に調整するための手段と、
後続してキャプチャされる画像内における前記コードマスクを復号するための手段、を備える、デバイス。 - 構造化された光を用いるアクティブ深度検知システムにおいて表面の反射率の違いを補償するための1つ以上の命令を有するプロセッサによって読み取り可能な記憶媒体であって、それらの命令は、1つ以上のプロセッサによって実行されたときに、請求項1乃至11のうちのいずれか1項に記載の方法を前記1つ以上のプロセッサに行わせる、プロセッサによって読み取り可能な記憶媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261726387P | 2012-11-14 | 2012-11-14 | |
US61/726,387 | 2012-11-14 | ||
US13/723,891 | 2012-12-21 | ||
US13/723,891 US11509880B2 (en) | 2012-11-14 | 2012-12-21 | Dynamic adjustment of light source power in structured light active depth sensing systems |
PCT/US2013/065386 WO2014078005A1 (en) | 2012-11-14 | 2013-10-17 | Dynamic adjustment of light source power in structured light active depth sensing systems |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016505133A JP2016505133A (ja) | 2016-02-18 |
JP2016505133A5 JP2016505133A5 (ja) | 2016-11-17 |
JP6193390B2 true JP6193390B2 (ja) | 2017-09-06 |
Family
ID=50681316
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015541781A Active JP6193390B2 (ja) | 2012-11-14 | 2013-10-17 | 構造化された光のアクティブ深度検知システムにおける光源電力の動的調整 |
Country Status (8)
Country | Link |
---|---|
US (2) | US11509880B2 (ja) |
EP (2) | EP2920545B1 (ja) |
JP (1) | JP6193390B2 (ja) |
KR (1) | KR102111821B1 (ja) |
CN (3) | CN104769388B (ja) |
ES (1) | ES2617831T3 (ja) |
HU (1) | HUE033203T2 (ja) |
WO (2) | WO2014078005A1 (ja) |
Families Citing this family (73)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11509880B2 (en) | 2012-11-14 | 2022-11-22 | Qualcomm Incorporated | Dynamic adjustment of light source power in structured light active depth sensing systems |
US9350921B2 (en) * | 2013-06-06 | 2016-05-24 | Mitutoyo Corporation | Structured illumination projection with enhanced exposure control |
US10089739B2 (en) | 2013-06-28 | 2018-10-02 | Texas Instruments Incorporated | Structured light depth imaging under various lighting conditions |
US9817489B2 (en) * | 2014-01-27 | 2017-11-14 | Apple Inc. | Texture capture stylus and method |
CN105338255B (zh) * | 2014-06-24 | 2019-04-26 | 联想(北京)有限公司 | 一种深度恢复调整方法及电子设备 |
US9507995B2 (en) | 2014-08-29 | 2016-11-29 | X Development Llc | Combination of stereo and structured-light processing |
CN104243843B (zh) | 2014-09-30 | 2017-11-03 | 北京智谷睿拓技术服务有限公司 | 拍摄光照补偿方法、补偿装置及用户设备 |
JP2016075658A (ja) * | 2014-10-03 | 2016-05-12 | 株式会社リコー | 情報処理システムおよび情報処理方法 |
EP3002550B1 (en) | 2014-10-03 | 2017-08-30 | Ricoh Company, Ltd. | Information processing system and information processing method for distance measurement |
US9638801B2 (en) * | 2014-11-24 | 2017-05-02 | Mitsubishi Electric Research Laboratories, Inc | Depth sensing using optical pulses and fixed coded aperature |
US9948920B2 (en) | 2015-02-27 | 2018-04-17 | Qualcomm Incorporated | Systems and methods for error correction in structured light |
US10068338B2 (en) * | 2015-03-12 | 2018-09-04 | Qualcomm Incorporated | Active sensing spatial resolution improvement through multiple receivers and code reuse |
US9530215B2 (en) | 2015-03-20 | 2016-12-27 | Qualcomm Incorporated | Systems and methods for enhanced depth map retrieval for moving objects using active sensing technology |
CN112665556B (zh) | 2015-04-01 | 2023-09-05 | 瓦亚视觉传感有限公司 | 使用被动和主动测量生成场景的三维地图 |
EP3295239B1 (en) * | 2015-05-13 | 2021-06-30 | Facebook Technologies, LLC | Augmenting a depth map representation with a reflectivity map representation |
CN104952074B (zh) * | 2015-06-16 | 2017-09-12 | 宁波盈芯信息科技有限公司 | 一种深度感知计算的存储控制方法及装置 |
US9635339B2 (en) | 2015-08-14 | 2017-04-25 | Qualcomm Incorporated | Memory-efficient coded light error correction |
US10282591B2 (en) | 2015-08-24 | 2019-05-07 | Qualcomm Incorporated | Systems and methods for depth map sampling |
US9846943B2 (en) * | 2015-08-31 | 2017-12-19 | Qualcomm Incorporated | Code domain power control for structured light |
WO2017082826A1 (en) * | 2015-11-11 | 2017-05-18 | Heptagon Micro Optics Pte. Ltd. | Enhanced distance data acquisition |
US20170153107A1 (en) * | 2015-11-30 | 2017-06-01 | Heptagon Micro Optics Pte. Ltd. | Optoelectronic device including event-driven photo-array and method for operating the same |
US9800795B2 (en) * | 2015-12-21 | 2017-10-24 | Intel Corporation | Auto range control for active illumination depth camera |
US9996933B2 (en) * | 2015-12-22 | 2018-06-12 | Qualcomm Incorporated | Methods and apparatus for outlier detection and correction of structured light depth maps |
US10372968B2 (en) * | 2016-01-22 | 2019-08-06 | Qualcomm Incorporated | Object-focused active three-dimensional reconstruction |
KR102550469B1 (ko) | 2016-05-20 | 2023-07-04 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
KR102529120B1 (ko) | 2016-07-15 | 2023-05-08 | 삼성전자주식회사 | 영상을 획득하는 방법, 디바이스 및 기록매체 |
JP6611691B2 (ja) * | 2016-10-06 | 2019-11-27 | 株式会社日立製作所 | 鉄道車両の外形形状測定方法及び装置 |
US10771768B2 (en) * | 2016-12-15 | 2020-09-08 | Qualcomm Incorporated | Systems and methods for improved depth sensing |
DE102017000908A1 (de) | 2017-02-01 | 2018-09-13 | Carl Zeiss Industrielle Messtechnik Gmbh | Verfahren zum Bestimmen der Belichtungszeit für eine 3D-Aufnahme |
US10302764B2 (en) | 2017-02-03 | 2019-05-28 | Microsoft Technology Licensing, Llc | Active illumination management through contextual information |
US10445928B2 (en) | 2017-02-11 | 2019-10-15 | Vayavision Ltd. | Method and system for generating multidimensional maps of a scene using a plurality of sensors of various types |
US10445861B2 (en) * | 2017-02-14 | 2019-10-15 | Qualcomm Incorporated | Refinement of structured light depth maps using RGB color data |
US10009554B1 (en) * | 2017-02-24 | 2018-06-26 | Lighthouse Ai, Inc. | Method and system for using light emission by a depth-sensing camera to capture video images under low-light conditions |
US10643358B2 (en) * | 2017-04-24 | 2020-05-05 | Intel Corporation | HDR enhancement with temporal multiplex |
US10620316B2 (en) | 2017-05-05 | 2020-04-14 | Qualcomm Incorporated | Systems and methods for generating a structured light depth map with a non-uniform codeword pattern |
JP7113283B2 (ja) * | 2017-05-26 | 2022-08-05 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、車両走行制御システム、及び画像処理装置 |
US10666929B2 (en) | 2017-07-06 | 2020-05-26 | Matterport, Inc. | Hardware system for inverse graphics capture |
US10044922B1 (en) | 2017-07-06 | 2018-08-07 | Arraiy, Inc. | Hardware system for inverse graphics capture |
WO2019012535A1 (en) | 2017-07-12 | 2019-01-17 | Guardian Optical Technologies Ltd. | SYSTEMS AND METHODS FOR ACQUIRING INFORMATION FROM AN ENVIRONMENT |
CN107564050B (zh) * | 2017-08-09 | 2020-01-10 | Oppo广东移动通信有限公司 | 基于结构光的控制方法、装置和终端设备 |
WO2019080934A1 (zh) | 2017-10-27 | 2019-05-02 | Oppo广东移动通信有限公司 | 图像处理方法、装置和电子装置 |
CN107800963B (zh) * | 2017-10-27 | 2019-08-30 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子装置和计算机可读存储介质 |
CN108553027A (zh) * | 2018-01-04 | 2018-09-21 | 深圳悉罗机器人有限公司 | 移动机器人 |
US10991112B2 (en) * | 2018-01-24 | 2021-04-27 | Qualcomm Incorporated | Multiple scale processing for received structured light |
DE102018102159A1 (de) * | 2018-01-31 | 2019-08-01 | Carl Zeiss Industrielle Messtechnik Gmbh | Verfahren zum Bestimmen der Belichtungszeit für eine 3D-Aufnahme |
JP6770254B2 (ja) | 2018-02-07 | 2020-10-14 | オムロン株式会社 | 3次元測定装置、3次元測定方法及び3次元測定プログラム |
CN108471525B (zh) * | 2018-03-27 | 2020-07-17 | 百度在线网络技术(北京)有限公司 | 用于投影仪的控制方法和装置以及实现该方法的投影仪 |
CN110310963A (zh) * | 2018-03-27 | 2019-10-08 | 恒景科技股份有限公司 | 调整光源功率的系统 |
KR20190114332A (ko) * | 2018-03-29 | 2019-10-10 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그의 동작 방법 |
KR102549434B1 (ko) * | 2018-04-02 | 2023-06-28 | 엘지전자 주식회사 | 깊이 센서 제어 시스템 |
US20210100416A1 (en) * | 2018-04-02 | 2021-04-08 | Lg Electronics Inc. | Robot cleaner having constraint prevention filter |
GB2572831A (en) * | 2018-04-04 | 2019-10-16 | Cambridge Mechatronics Ltd | Apparatus and methods for 3D sensing |
US10999524B1 (en) * | 2018-04-12 | 2021-05-04 | Amazon Technologies, Inc. | Temporal high dynamic range imaging using time-of-flight cameras |
US20190349569A1 (en) * | 2018-05-10 | 2019-11-14 | Samsung Electronics Co., Ltd. | High-sensitivity low-power camera system for 3d structured light application |
US11040452B2 (en) | 2018-05-29 | 2021-06-22 | Abb Schweiz Ag | Depth sensing robotic hand-eye camera using structured light |
US10708484B2 (en) | 2018-06-20 | 2020-07-07 | Amazon Technologies, Inc. | Detecting interference between time-of-flight cameras using modified image sensor arrays |
US10681338B1 (en) | 2018-07-24 | 2020-06-09 | Amazon Technologies, Inc. | Detecting interference in depth images captured using overlapping depth cameras |
US10812731B2 (en) * | 2018-08-22 | 2020-10-20 | Qualcomm Incorporated | Adjustable receiver exposure times for active depth sensing systems |
CN110857855B (zh) * | 2018-08-22 | 2022-09-02 | 杭州海康机器人技术有限公司 | 一种图像数据获取方法、装置及系统 |
US11353588B2 (en) * | 2018-11-01 | 2022-06-07 | Waymo Llc | Time-of-flight sensor with structured light illuminator |
US10915783B1 (en) * | 2018-12-14 | 2021-02-09 | Amazon Technologies, Inc. | Detecting and locating actors in scenes based on degraded or supersaturated depth data |
JP7135846B2 (ja) * | 2018-12-27 | 2022-09-13 | 株式会社デンソー | 物体検出装置および物体検出方法 |
CN110324602A (zh) * | 2019-06-17 | 2019-10-11 | Oppo广东移动通信有限公司 | 一种三维图像的生成方法及装置、终端、存储介质 |
CN110462438A (zh) * | 2019-06-24 | 2019-11-15 | 深圳市汇顶科技股份有限公司 | 结构光投射装置、结构光投射方法及三维测量系统 |
CN112241976A (zh) * | 2019-07-19 | 2021-01-19 | 杭州海康威视数字技术股份有限公司 | 一种训练模型的方法及装置 |
US10939047B2 (en) * | 2019-07-22 | 2021-03-02 | Himax Technologies Limited | Method and apparatus for auto-exposure control in a depth sensing system |
EP3835721A1 (en) * | 2019-12-13 | 2021-06-16 | Mitutoyo Corporation | A method for measuring a height map of a test surface |
CN111174702B (zh) * | 2020-01-22 | 2022-03-15 | 无锡微视传感科技有限公司 | 一种自适应结构光投射模组及测量方法 |
US11567179B2 (en) | 2020-07-21 | 2023-01-31 | Leddartech Inc. | Beam-steering device particularly for LIDAR systems |
WO2022016277A1 (en) | 2020-07-21 | 2022-01-27 | Leddartech Inc. | Systems and methods for wide-angle lidar using non-uniform magnification optics |
CA3194223A1 (en) | 2020-07-21 | 2021-10-06 | Leddartech Inc. | Beam-steering device particularly for lidar systems |
TWI757015B (zh) | 2020-12-29 | 2022-03-01 | 財團法人工業技術研究院 | 取像方法 |
CN113340235B (zh) * | 2021-04-27 | 2022-08-12 | 成都飞机工业(集团)有限责任公司 | 基于动态投影的投影系统及相位移动图案生成方法 |
Family Cites Families (55)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5467413A (en) * | 1993-05-20 | 1995-11-14 | Radius Inc. | Method and apparatus for vector quantization for real-time playback on low cost personal computers |
JP3481631B2 (ja) | 1995-06-07 | 2003-12-22 | ザ トラスティース オブ コロンビア ユニヴァーシティー イン ザ シティー オブ ニューヨーク | 能動型照明及びデフォーカスに起因する画像中の相対的なぼけを用いる物体の3次元形状を決定する装置及び方法 |
FR2748484B1 (fr) * | 1996-05-13 | 1998-07-24 | Atochem Elf Sa | Polymerisation en presence d'un radical libre stable et d'un initiateur de radicaux libres |
PT822389E (pt) | 1996-07-29 | 2003-08-29 | Elpatronic Ag | Processo e dispositivo para determinacao e verificacao do contorno de um rebordo |
US6377700B1 (en) | 1998-06-30 | 2002-04-23 | Intel Corporation | Method and apparatus for capturing stereoscopic images using image sensors |
CA2373284A1 (en) | 1999-05-14 | 2000-11-23 | 3D Metrics, Incorporated | Color structured light 3d-imaging system |
US6503195B1 (en) | 1999-05-24 | 2003-01-07 | University Of North Carolina At Chapel Hill | Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction |
US6825936B2 (en) | 2000-08-23 | 2004-11-30 | Lmi Technologies, Inc. | High speed camera based sensors |
US7106377B2 (en) | 2001-07-25 | 2006-09-12 | Hewlett-Packard Development Company, L.P. | Image capturing device capable of single pixel exposure duration control |
JP3819275B2 (ja) | 2001-10-17 | 2006-09-06 | ローランドディー.ジー.株式会社 | 3次元測定装置における露光制御装置 |
SE523681C2 (sv) | 2002-04-05 | 2004-05-11 | Integrated Vision Prod | System och sensor för avbildning av egenskaper hos ett objekt |
CN1768346B (zh) | 2003-03-31 | 2010-11-17 | Cdm光学有限公司 | 用于最小化成像系统中的光程差效应的系统和方法 |
US8118732B2 (en) | 2003-04-01 | 2012-02-21 | Boston Scientific Scimed, Inc. | Force feedback control system for video endoscope |
WO2004109229A2 (en) | 2003-06-11 | 2004-12-16 | Solvision | 3d and 2d measurement system and method with increased sensitivity and dynamic range |
JP4059173B2 (ja) * | 2003-06-27 | 2008-03-12 | 株式会社デンソーウェーブ | 光学的情報読取装置および光学的情報の読取方法 |
DE10333493A1 (de) | 2003-07-22 | 2005-02-10 | FRIEMEL, Jörg | Streifenprojektor für ein dreidimensionales Objektvermessungssystem |
CN1267766C (zh) | 2003-12-26 | 2006-08-02 | 四川大学 | 用频闪结构照明实现高速运动物体三维面形测量的方法 |
JP4746841B2 (ja) | 2004-01-23 | 2011-08-10 | ルネサスエレクトロニクス株式会社 | 半導体集積回路装置の製造方法 |
WO2005082075A2 (en) | 2004-02-25 | 2005-09-09 | The University Of North Carolina At Chapel Hill | Systems and methods for imperceptibly embedding structured light patterns in projected color images |
US20050206874A1 (en) | 2004-03-19 | 2005-09-22 | Dougherty Robert P | Apparatus and method for determining the range of remote point light sources |
JP2005293075A (ja) * | 2004-03-31 | 2005-10-20 | Brother Ind Ltd | 3次元形状検出装置、3次元形状検出方法、3次元形状検出プログラム |
WO2005096115A1 (en) | 2004-03-31 | 2005-10-13 | Forskningscenter Risø | Generation of a desired three-dimensional electromagnetic field |
US7605852B2 (en) | 2004-05-17 | 2009-10-20 | Micron Technology, Inc. | Real-time exposure control for automatic light control |
KR100752545B1 (ko) | 2005-11-24 | 2007-08-29 | 에이티아이 주식회사 | 2개 영상을 이용한 물체 표면 형상 및 반사율 정보 획득 시스템 |
JP2007271530A (ja) | 2006-03-31 | 2007-10-18 | Brother Ind Ltd | 3次元形状検出装置及び3次元形状検出方法 |
WO2007125081A1 (en) | 2006-04-27 | 2007-11-08 | Metris N.V. | Optical scanning probe |
JP4889373B2 (ja) | 2006-05-24 | 2012-03-07 | ローランドディー.ジー.株式会社 | 3次元形状測定方法およびその装置 |
US7227117B1 (en) * | 2006-05-30 | 2007-06-05 | Symbol Technologies, Inc. | High speed auto-exposure control |
EP2064676B1 (en) * | 2006-09-21 | 2011-09-07 | Thomson Licensing | A method and system for three-dimensional model acquisition |
DE102006048234A1 (de) | 2006-10-11 | 2008-04-17 | Steinbichler Optotechnik Gmbh | Verfahren und Vorrichtung zur Bestimmung der 3D-Koordinaten eines Objekts |
CA2670214A1 (en) | 2006-11-21 | 2008-05-29 | Mantisvision Ltd. | 3d geometric modeling and 3d video content creation |
KR100914961B1 (ko) | 2008-01-23 | 2009-09-02 | 성균관대학교산학협력단 | 구조광 기반 3차원 카메라의 최적 노출 결정방법 및 시스템 |
US8162222B2 (en) | 2008-01-25 | 2012-04-24 | Intermec Ip Corp. | System and method for identifying erasures in a 2D symbol |
US8059280B2 (en) | 2008-01-31 | 2011-11-15 | Cyberoptics Corporation | Method for three-dimensional imaging using multi-phase structured light |
CN101520319B (zh) | 2008-02-27 | 2012-02-22 | 邹小平 | 复合式三维激光测量系统及测量方法 |
US8422030B2 (en) | 2008-03-05 | 2013-04-16 | General Electric Company | Fringe projection system with intensity modulating by columns of a plurality of grating elements |
WO2010048960A1 (en) | 2008-10-28 | 2010-05-06 | 3Shape A/S | Scanner with feedback control |
JP5370056B2 (ja) | 2008-11-04 | 2013-12-18 | オムロン株式会社 | 画像処理装置 |
US20100149551A1 (en) | 2008-12-16 | 2010-06-17 | Faro Technologies, Inc. | Structured Light Imaging System and Method |
JP5218316B2 (ja) | 2009-07-23 | 2013-06-26 | 株式会社デンソーウェーブ | 光学的情報読取装置 |
US20110080471A1 (en) | 2009-10-06 | 2011-04-07 | Iowa State University Research Foundation, Inc. | Hybrid method for 3D shape measurement |
WO2011048860A1 (ja) | 2009-10-19 | 2011-04-28 | 住友金属工業株式会社 | 板材の平坦度測定方法及びこれを用いた鋼板の製造方法 |
CN101694376B (zh) | 2009-10-23 | 2011-01-05 | 北京航空航天大学 | 一种光学条纹正弦性评测方法 |
JP5290233B2 (ja) | 2010-04-13 | 2013-09-18 | Ckd株式会社 | 三次元計測装置及び基板検査装置 |
BR112012026605B1 (pt) | 2010-05-18 | 2020-03-24 | Nippon Steel Corporation | Método para medir a planura de material em folha e método para manufaturar a folha de aço ao utilizar o mesmo |
WO2011145319A1 (ja) | 2010-05-19 | 2011-11-24 | 株式会社ニコン | 形状測定装置及び形状測定方法 |
CN101865671B (zh) | 2010-06-03 | 2012-09-19 | 厦门思泰克光电科技有限公司 | 一种投影三维测量方法 |
CN201748900U (zh) | 2010-07-08 | 2011-02-16 | 上海雷尼威尔测量技术有限公司 | 环境光自适应位移测量装置 |
US8994843B2 (en) | 2010-09-01 | 2015-03-31 | Qualcomm Incorporated | High dynamic range image sensor |
US20120056982A1 (en) | 2010-09-08 | 2012-03-08 | Microsoft Corporation | Depth camera based on structured light and stereo vision |
KR101494066B1 (ko) | 2010-10-05 | 2015-02-16 | 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 | 공간 광 패턴에 기초한 깊이 데이터의 생성 |
US20120087573A1 (en) * | 2010-10-11 | 2012-04-12 | Vinay Sharma | Eliminating Clutter in Video Using Depth Information |
US8811767B2 (en) | 2011-03-15 | 2014-08-19 | Mitsubishi Electric Research Laboratories, Inc. | Structured light for 3D shape reconstruction subject to global illumination |
JP5962056B2 (ja) | 2012-02-27 | 2016-08-03 | 富士ゼロックス株式会社 | 画像判定装置及び画像形成装置 |
US11509880B2 (en) | 2012-11-14 | 2022-11-22 | Qualcomm Incorporated | Dynamic adjustment of light source power in structured light active depth sensing systems |
-
2012
- 2012-12-21 US US13/723,891 patent/US11509880B2/en active Active
- 2012-12-21 US US13/723,873 patent/US10368053B2/en active Active
-
2013
- 2013-10-17 EP EP13789081.0A patent/EP2920545B1/en active Active
- 2013-10-17 WO PCT/US2013/065386 patent/WO2014078005A1/en active Application Filing
- 2013-10-17 KR KR1020157011356A patent/KR102111821B1/ko active IP Right Grant
- 2013-10-17 CN CN201380057488.5A patent/CN104769388B/zh active Active
- 2013-10-17 CN CN201811299616.8A patent/CN109612404B/zh active Active
- 2013-10-17 JP JP2015541781A patent/JP6193390B2/ja active Active
- 2013-10-21 EP EP13789092.7A patent/EP2920546B1/en active Active
- 2013-10-21 WO PCT/US2013/065931 patent/WO2014078015A1/en active Application Filing
- 2013-10-21 CN CN201380057460.1A patent/CN104769387B/zh active Active
- 2013-10-21 HU HUE13789092A patent/HUE033203T2/en unknown
- 2013-10-21 ES ES13789092.7T patent/ES2617831T3/es active Active
Also Published As
Publication number | Publication date |
---|---|
ES2617831T3 (es) | 2017-06-19 |
CN109612404A (zh) | 2019-04-12 |
US20140132721A1 (en) | 2014-05-15 |
KR102111821B1 (ko) | 2020-05-15 |
EP2920545B1 (en) | 2020-12-09 |
JP2016505133A (ja) | 2016-02-18 |
US20140132722A1 (en) | 2014-05-15 |
EP2920546A1 (en) | 2015-09-23 |
WO2014078005A1 (en) | 2014-05-22 |
EP2920546B1 (en) | 2016-11-30 |
KR20150082262A (ko) | 2015-07-15 |
CN104769387A (zh) | 2015-07-08 |
CN104769388A (zh) | 2015-07-08 |
HUE033203T2 (en) | 2017-11-28 |
US10368053B2 (en) | 2019-07-30 |
CN104769387B (zh) | 2017-10-10 |
WO2014078015A1 (en) | 2014-05-22 |
CN109612404B (zh) | 2021-02-26 |
US11509880B2 (en) | 2022-11-22 |
EP2920545A1 (en) | 2015-09-23 |
CN104769388B (zh) | 2018-11-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6193390B2 (ja) | 構造化された光のアクティブ深度検知システムにおける光源電力の動的調整 | |
JP6449341B2 (ja) | コンテンツフィルタリングに基づく構造化光3次元(3d)奥行きマップ | |
JP6370777B2 (ja) | 能動奥行き検知のためのアフィン不変空間マスクの受信 | |
JP6513887B2 (ja) | 構造化光深度マップのアウトライアの検出および補正のための方法および装置 | |
JP6847922B2 (ja) | 構造化照明のためのコード領域パワー制御 | |
CN107408306B (zh) | 一种产生对象的深度图信息的方法、设备及可读介质 | |
US20130058071A1 (en) | System and method for projection and binarization of coded light patterns | |
CN114902066A (zh) | 用于主动深度感测的交替光分布 | |
US10334232B2 (en) | Depth-sensing device and depth-sensing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160927 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160927 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170711 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170809 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6193390 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |