JP2001159506A - 3次元形状計測装置および方法、並びに記録媒体 - Google Patents

3次元形状計測装置および方法、並びに記録媒体

Info

Publication number
JP2001159506A
JP2001159506A JP34439299A JP34439299A JP2001159506A JP 2001159506 A JP2001159506 A JP 2001159506A JP 34439299 A JP34439299 A JP 34439299A JP 34439299 A JP34439299 A JP 34439299A JP 2001159506 A JP2001159506 A JP 2001159506A
Authority
JP
Japan
Prior art keywords
image
subject
photographing
distance image
reference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP34439299A
Other languages
English (en)
Inventor
Ikoku Go
偉国 呉
Teruyuki Ushiro
輝行 後
Takayuki Ashigahara
隆之 芦ヶ原
Kazunori Hayashi
和慶 林
Atsushi Yokoyama
敦 横山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to US09/450,723 priority Critical patent/US6287647B1/en
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP34439299A priority patent/JP2001159506A/ja
Publication of JP2001159506A publication Critical patent/JP2001159506A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • CCHEMISTRY; METALLURGY
    • C09DYES; PAINTS; POLISHES; NATURAL RESINS; ADHESIVES; COMPOSITIONS NOT OTHERWISE PROVIDED FOR; APPLICATIONS OF MATERIALS NOT OTHERWISE PROVIDED FOR
    • C09KMATERIALS FOR MISCELLANEOUS APPLICATIONS, NOT PROVIDED FOR ELSEWHERE
    • C09K19/00Liquid crystal materials
    • C09K19/04Liquid crystal materials characterised by the chemical structure of the liquid crystal components, e.g. by a specific unit
    • C09K19/42Mixtures of liquid crystal compounds covered by two or more of the preceding groups C09K19/06 - C09K19/40
    • CCHEMISTRY; METALLURGY
    • C09DYES; PAINTS; POLISHES; NATURAL RESINS; ADHESIVES; COMPOSITIONS NOT OTHERWISE PROVIDED FOR; APPLICATIONS OF MATERIALS NOT OTHERWISE PROVIDED FOR
    • C09KMATERIALS FOR MISCELLANEOUS APPLICATIONS, NOT PROVIDED FOR ELSEWHERE
    • C09K19/00Liquid crystal materials
    • C09K19/52Liquid crystal materials characterised by components which are not liquid crystals, e.g. additives with special physical aspect: solvents, solid particles
    • C09K19/58Dopants or charge transfer agents
    • C09K19/586Optically active dopants; chiral dopants
    • CCHEMISTRY; METALLURGY
    • C09DYES; PAINTS; POLISHES; NATURAL RESINS; ADHESIVES; COMPOSITIONS NOT OTHERWISE PROVIDED FOR; APPLICATIONS OF MATERIALS NOT OTHERWISE PROVIDED FOR
    • C09KMATERIALS FOR MISCELLANEOUS APPLICATIONS, NOT PROVIDED FOR ELSEWHERE
    • C09K2323/00Functional layers of liquid crystal optical display excluding electroactive liquid crystal layer characterised by chemical composition
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/137Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells characterised by the electro-optical or magneto-optical effect, e.g. field-induced phase transition, orientation effect, guest-host interaction or dynamic scattering
    • G02F1/13718Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells characterised by the electro-optical or magneto-optical effect, e.g. field-induced phase transition, orientation effect, guest-host interaction or dynamic scattering based on a change of the texture state of a cholesteric liquid crystal

Abstract

(57)【要約】 【課題】 ミスマッチング領域が無い距離画像を生成す
る。 【解決手段】 投光器3は、非周期的な投光パターンを
被写体1に照射する。基準カメラ4は、基準画像を撮影
する。参照カメラ5は、参照画像を撮影する。画像間対
応付け回路6,7は、基準画像と参照画像との視差を求
める。距離画像生成回路8は、視差を用いて距離画像を
生成する。置換回路11は、投光パターンが照射された
状態の距離画像のミスマッチング領域を、投光パターン
が照射されていない状態の距離画像の対応する部分で置
換する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、3次元形状計測装
置および方法、並びに記録媒体に関し、特に、被写体を
複数の異なる位置から撮影した画像を用いて被写体表面
の3次元形状を計測する場合に用いて好適な3次元形状
計測装置および方法、並びに記録媒体に関する。
【0002】
【従来の技術】一般に「ステレオ視」または「ステレオ
3次元画像計測」等と呼ばれている距離測定方法は、異
なる位置に設けられた少なくとも2台以上のカメラ(基
準カメラと、その他の参照カメラ)で被写体を撮影し
て、得られた複数の画像(基準カメラによる基準画像
と、参照カメラによる参照画像)の間で対応する画素を
特定し(一般に、「対応点付け」と呼ばれる)、対応付
けられた基準画像上の画素と、参照画像上の画素との位
置の差(視差)に三角測量の原理を適用することによ
り、基準カメラ(または、参照カメラ)から当該画素に
対応する被写体上の点までの距離を計測するものであ
る。従って、被写体の表面全体に対応する全ての画素ま
での距離を測定すれば、被写体の形状や奥行きを測定す
ることが可能となる。
【0003】なお、「ステレオ3次元画像計測」におい
て最も重要な「対応点付け」は、基準画像上のある点P
aに写像される実空間上の点は複数(図1に示す実空間
上の点P1,P2,P3等)存在するので、実空間上の点
1,P2,P3等の写像である直線(エピポーラライン
と呼ばれている)上に、点Paに対応する参照画像上の
点Pa’が存在することに基づいて行われる。
【0004】ところで、「対応点付け」の具体的な方法
としては、例えば、「C.Lawrence Zitnick and Jon A.W
ebb:Mult-baseline Stereo Using Surface Extraction,
Technical Report,CMU-CS-96-196,(1996)」に記述され
ているピクセルベース(Pixel-based)マッチング法、例
えば、「奥富、金出:複数の基線長を利用したステレオ
マッチング、電子情報通信学会論文誌D−II、Vol.75-D
-II,No.8,pp.1317-1327,(1992)」に記述されているエリ
アベース(Area-based)マッチング法、例えば、「H.H.Ba
ker and T.O.Binford:Depth from edge intensity base
d stereo,In Proc.IJCAI'81,(1981)」に記述されている
フィーチャベース(Feature-based)マッチング法等が提
案されている。
【0005】しかしながら、上述したいずれの方法にお
いても、被写体(距離を測定する対象物)が、例えば、
単色の壁や人の顔のように、濃淡、形状、色等の局所的
な特徴が少ないものである場合、対応点付けが困難とな
り、ミスマッチング領域が生じてしまう問題があった。
【0006】
【発明が解決しようとする課題】そのような問題を解決
するために、例えば、「S.B.Kang,J.A.Webb,C.L.Zitnic
k and T.Kanade:A Multibaseline Stereo System with
Active Illumination and Real-time Image Acquisitio
n,Proc IEEE Int Conf.Comput.Vis.,Vol.5,pp88-93,(19
95)」に記述された方法では、局所的な特徴を有しない
被写体に周期的な模様の光を照射して撮影し、得られた
画像の対応点付けを行うことが提案されたが、周期的な
模様を被写体に照射する方法は、模様が周期的であるが
故に、対応点付けを誤ることがあり、必ずしも効果的で
はない課題があった。
【0007】特に、上述したような被写体に光を照射す
る方法では、照射光が被写体の凸部で正反射した場合、
撮影した画像の正反射部分の画素値が飽和してしまい対
応点付けができず、ミスマッチ領域となってしまう課題
があった。
【0008】また、上述したような被写体に光を照射す
る方法では、被写体の反射率が低い部分(例えば、人の
頭髪部分等)では照射光が反射されずに、ミスマッチ領
域となってしまう課題があった。
【0009】本発明はこのような状況に鑑みてなされた
ものであり、照射光を用いて生成した距離画像と照射光
を用いずに生成された距離画像を組み合わせることによ
り、ミスマッチ領域の無い距離画像を生成することを目
的とする。
【0010】
【課題を解決するための手段】本発明の3次元形状計測
装置は、乱数を用いて非周期的な投光パターンを生成す
る投光パターン生成手段と、被写体に前記投光パターン
を照射する照射手段と、被写体を撮影して、基準画像を
生成する第1の撮影手段と、第1の撮影手段の位置とは
異なる位置から被写体を撮影して、参照画像を生成する
第2の撮影手段と、照射手段の照射タイミング、並びに
第1および第2の撮影手段の撮影タイミングを制御する
タイミング制御手段と、基準画像上の画素と、参照画像
上の画素との対応を識別して、対応する画素間の視差を
算出する識別手段と、視差に基づいて距離画像を生成す
る距離画像生成手段とを含むことを特徴とする。
【0011】本発明の3次元形状計測装置は、照射手段
が投光パターンを照射した状態に対応する距離画像と、
照射手段が投光パターンを照射していない状態に対応す
る距離画像とを合成する合成手段をさらに含むことがで
きる。
【0012】本発明の3次元形状計測装置は、照射手段
が投光パターンを照射した状態に対応する距離画像と、
照射手段が投光パターンを照射していない状態に対応す
る距離画像のうちのいずれか一方の距離画像の中で、画
素値の信頼性が低い領域を検出する検出手段をさらに含
むことができ、前記合成手段は、検出手段が検出した領
域の画素値を、他方の前記距離画像の対応する領域の画
素値を用いて置換することによって、照射手段が投光パ
ターンを照射した状態に対応する距離画像と、照射手段
が投光パターンを照射していない状態に対応する距離画
像とを合成するようにすることができる。
【0013】前記検出手段は、距離画像の画素値の連続
性に基づいて、画素値の信頼性が低い領域を検出するよ
うにすることができる。
【0014】前記タイミング制御手段は、照射手段が投
光パターンを照射した状態に対応する基準画像および参
照画像と、照射手段が投光パターンの照射を止めた状態
に対応する基準画像および参照画像が、それぞれ連続し
たフレーム画像となるように、照射タイミングおよび前
記撮影タイミングを制御するようにすることができる。
【0015】本発明の3次元形状計測方法は、乱数を用
いて非周期的な投光パターンを生成する投光パターン生
成ステップと、被写体に前記投光パターンを照射する照
射ステップと、被写体を撮影して、基準画像を生成する
第1の撮影ステップと、第1の撮影ステップの処理で撮
影した位置とは異なる位置から被写体を撮影して、参照
画像を生成する第2の撮影ステップと、照射ステップの
処理の照射タイミング、並びに第1および第2の撮影ス
テップの処理の撮影タイミングを制御するタイミング制
御ステップと、基準画像上の画素と、参照画像上の画素
との対応を識別して、対応する画素間の視差を算出する
識別ステップと、視差に基づいて距離画像を生成する距
離画像生成ステップとを含むことを特徴とする。
【0016】本発明の記録媒体のプログラムは、照射手
段の照射タイミング、並びに第1および第2の撮影手段
の撮影タイミングを制御するタイミング制御ステップ
と、基準画像上の画素と、参照画像上の画素との対応を
識別して、対応する画素間の視差を算出する識別ステッ
プと、視差に基づいて距離画像を生成する距離画像生成
ステップとを含むことを特徴とする。
【0017】本発明の3次元形状計測装置、3次元形状
計測方法、および記録媒体のプログラムにおいては、乱
数を用いて非周期的な投光パターンが生成され、被写体
に投光パターンが照射される。また、被写体が撮影され
て基準画像が生成され、異なる位置から被写体が撮影さ
れて参照画像が生成される。なお、照射タイミング、撮
影タイミングは制御される。また、基準画像上の画素
と、参照画像上の画素との対応が識別されて、対応する
画素間の視差が算出され、視差に基づいて距離画像が生
成される。
【0018】
【発明の実施の形態】本発明を適用した距離画像生成シ
ステムの構成例について、図2を参照して説明する。こ
の距離画像生成システムは、例えば、人の顔のような立
体的な被写体1の表面と基準カメラ4との距離を示す距
離画像、すなわち、基準カメラ4から見た被写体1の表
面形状を示す画像を生成するものである。
【0019】距離画像生成システムの投光パターン生成
回路2は、一様乱数や正規乱数を発生して、図3(A),
(B)に示すような、ドットのサイズ、線の長さや太さ、
位置、濃度等が非周期的に設定した投光パターンを生成
して投光器3に供給する。投光器3は、図4に示すよう
に、光を投光パターンスライド22に照射する光源2
1、投光パターン生成回路2から供給された投光パター
ンが描かれたスライド22、および、投光パターンを被
写体1に拡大して照射するレンズ23から構成され、制
御回路13からの制御に従ったタイミングで、投光パタ
ーンを被写体1に照射する。
【0020】基準カメラ4は、CCD(Charge Coupled Dev
ice)素子を内蔵しており、制御回路13による制御に従
ったタイミングで、被写体1を撮影し、得られた基準画
像を電気信号に変換して画像間対応付け回路6(または
画像間対応付け回路7)に出力する。具体的には、基準
カメラ4は、投光パターンが照射された状態の被写体1
と、照射されない状態の被写体1を連続的に撮影し、投
光パターンが照射された状態の被写体1を撮像した基準
画像を画像間対応付け回路6に出力し、投光パターンが
照射されない状態の被写体1を撮像した基準画像を画像
間対応付け回路7に出力する。参照カメラ5は、基準カ
メラ4に対して所定の距離と角度が設けられており、基
準カメラ4と同時に被写体1を撮影し、投光パターンが
照射された状態の被写体1を撮像した参照画像を画像間
対応付け回路6に出力し、投光パターンが照射されない
状態の被写体1を撮像した参照画像を画像間対応付け回
路7に出力する。
【0021】画像間対応付け回路6は、基準カメラ4か
らの投光パターンが照射された状態の被写体1を撮像し
た基準画像と、参照カメラ5からの投光パターンが照射
された状態の被写体1を撮像した参照画像との対応点付
けを行い、基準画像の各画素に対する参照画像の画素の
視差を距離画像生成回路8に出力する。画像間対応付け
回路7は、基準カメラ4からの投光パターンが照射され
ない状態の被写体1を撮像した基準画像と、参照カメラ
5からの投光パターンが照射されない状態の被写体1を
撮像した参照画像との対応点付けを行い、基準画像の各
画素に対する参照画像の画素の視差を距離画像生成回路
8に出力する。
【0022】なお、画像間対応付け回路7を省略し、画
像間対応付け回路6により、投光パターンが照射された
状態の被写体1を撮像した基準画像と参照画像の組を対
応点付けした後、投光パターンが照射されない状態の被
写体1を撮像した基準画像と参照画像の組を対応点付け
するようにしてもよい。
【0023】距離画像生成回路8は、画像間対応付け回
路6から入力される基準画像と参照画像の各画素の視差
を基に、距離画像(被写体1の写像の画素値が、被写体
1の対応する点と基準カメラ4との距離に対応している
画像)D1を生成して画像メモリ9に出力する。距離画
像生成回路8はまた、画像間対応付け回路7から入力さ
れる基準画像と参照画像の視差を基に、距離画像D2を
生成して画像メモリ9に出力する。画像メモリ9は、距
離画像生成回路8から入力される2種類の距離画像D
1,D2を記憶する。
【0024】ミスマッチング領域検出回路10は、画像
メモリ9から距離画像を読み出してラベリング(詳細は
後述する)し、距離画像D1の中の被写体1に対応する
部分の上に存在するミスマッチング領域を検出して、そ
の位置情報を距離画像生成回路8、および置換回路11
に出力する。置換回路11は、画像メモリ9から2種類
の距離画像D1,D2を読み出して、ミスマッチング領
域周辺の画素値(距離)の連続性を判定し、判定結果に
対応して、距離画像D1のミスマッチング領域に対応す
る部分の画素値(距離)を、距離画像D2の画素値(距
離)で置換して、出力回路12に供給する。出力回路1
2は、置換回路11からの距離画像を出力する。
【0025】制御回路13は、ドライブ14を駆動させ
て、磁気ディスク15、光ディスク16、光磁気ディス
ク17、または半導体メモリ18に記憶されている制御
用プログラムを読み出し、読み出した制御用プログラム
に基づいて、距離画像生成システムの各回路を制御す
る。制御回路13はまた、ユーザから入力されるコマン
ド等に対応して、距離画像生成システムの全体を制御す
る。
【0026】次に、距離画像生成システムの動作につい
て、図5のフローチャートを参照して説明する。
【0027】ステップS1において、投光パターン生成
回路2は、一様乱数や正規乱数を用いて、例えば図3
(A)に示すような非周期的な投光パターン(以下、投光
パターンP1と記述する)を生成し、投光器3に供給す
る。投光器3は、投光パターン生成回路2から供給され
た投光パターンP1を被写体1に拡大して照射する。
【0028】ステップS2において、基準カメラ4と参
照カメラ5は、投光パターンP1が照射された被写体1
(例えば、人の頭部)を撮影し、それぞれ、得られた基
準画像G11(図8(A))、参照画像G12(図8(B))
を画像間対応付け回路6に出力する。ステップS3にお
いて、投光パターン生成回路2は、投光パターンP1の
照射を止める。基準カメラ4と参照カメラ5は、環境光
の下で投光パターンP1が照射されていない状態の被写
体1を撮影し、それぞれ、得られた基準画像G21(図
9(A))、参照画像G22(図9(B))を画像間対応付け
回路7に出力する。
【0029】ここで、制御回路13による、ステップS
1乃至ステップS3の処理における投光パターンP1の
照射タイミング、および撮影タイミングの制御につい
て、図6および図7を参照して説明する。
【0030】基準カメラ4および参照カメラ5がインタ
レース方式である場合、図6に示すように、投光パター
ンP1が照射された状態の奇数フィールド画像および偶
数フィールド画像が撮像され、それに連続して、環境光
の下で奇数フィールド画像および偶数フィールド画像が
撮像される。具体的には、連続する4回のCCD蓄積時間
(各1/60秒間)のうちの前半の2回において、時間
T1だけ投光パターンP1が照射され、照射時間T1の
うちの時間T2だけ、基準カメラ4および参照カメラ5
のシャッタが開放される。後半の2回においては、投光
パターンP1は照射されず、その間、基準カメラ4およ
び参照カメラ5のシャッタは開放される。
【0031】また、基準カメラ4および参照カメラ5が
ノンインタレース方式である場合、図7に示すように、
投光パターンP1が照射された状態のフレーム画像が撮
像され、それに続いて、環境光の下でフレーム画像が撮
像される。具体的には、連続する2回のCCD蓄積時間
(各1/30秒間)のうちの前半の1回において、時間
T1だけ投光パターンP1が照射され、照射時間T1の
うちの時間T2だけ、基準カメラ4および参照カメラ5
のシャッタが開放される。後半の1回においては、投光
パターンP1は照射されず、その間、基準カメラ4およ
び参照カメラ5のシャッタは開放される。
【0032】ところで、投光パターンP1が照射された
被写体の基準画像G11(図8(A))と参照画像G12
(図8(B))においては、被写体である人物の頭部のう
ち、鼻付近で照射光が正反射し、その部分の画素値が飽
和しているものとする。また、頭髪部分は光の反射率が
悪く、背景部分には照射光が到達しないので、それらの
部分の画素値が極端に小さい値となっているものとす
る。
【0033】図5に戻る。ステップS4において、画像
間対応付け回路6は、基準カメラ4からの基準画像G1
1と、参照カメラ5からの参照画像G12との対応点付
けを行い、基準画像G11の各画素に対する参照画像G
12の画素の視差を距離画像生成回路8に出力する。た
だし、被写体の鼻付近の視差については、照射光が正反
射したことに起因して、また、頭髪部分の視差について
は照射光の反射が少なかったことに起因して正確な値で
はない。その他の顔の部分は、投光パターンP1によ
り、正確な対応点付けがなされる。
【0034】ステップS5において、距離画像生成回路
8は、画像間対応付け回路6から入力された基準画像G
11と参照画像G12の各画素の視差を基に、距離画像
D1を生成して画像メモリ9に記録する。生成された距
離画像の被写体の鼻付近、頭髪部分の画素値(距離)に
ついては、正確な視差を得られていないのでミスマッチ
領域となっている。
【0035】ステップS6において、ミスマッチング領
域検出回路10は、画像メモリ9から距離画像D1を読
み出してラベリング処理を実行し、距離画像D1の中の
被写体1に対応する部分の上に存在するミスマッチング
領域を検出して、その位置情報を距離画像生成回路8、
および置換回路11に出力する。
【0036】ここで、ラベリング処理の詳細について、
図10のフローチャートを参照して説明する。ステップ
S21において、ミスマッチング領域検出回路10は、
画像メモリ9から距離画像D1を読み出す。ステップS
22において、ミスマッチング領域検出回路10は、ラ
ベリング未処理画素数kを0に初期化する。また、ミス
マッチング領域検出回路10は、内蔵する座標記憶用バ
ッファx[k],y[k]を初期化する。ステップS23にお
いて、ミスマッチング領域検出回路10は、距離画像D
1の中の被写体1に対応する部分の任意の位置の座標
を、注目する画素の座標(i,j)に代入する。
【0037】ステップS24において、ミスマッチング
領域検出回路10は、距離画像D1の注目画素の画素値
g(i,j)を抽出する。ステップS25において、ミ
スマッチング領域検出回路10は、注目画素に隣接する
8つの画素のうちの1つの画素値g(i+m,j+n)
(m,n=−1,0,1)を抽出する。
【0038】ステップS26において、ミスマッチング
領域検出回路10は、注目する画素の画素値g(i,
j)が、ラベル値L0である否かを判定し、さらに、注
目する画素の画素値g(i,j)と、隣接する画素の画
素値g(i+m,j+n)の差の絶対値が所定の閾値よ
りも小さいか否か、すなわち、注目する画素の画素値g
(i,j)に対して、隣接する画素の画素値g(i+
m,j+n)が連続しているか否かを判定する。注目す
る画素の画素値g(i,j)がラベル値L0ではなく、
且つ、隣接する画素の画素値g(i+m,j+n)が画
素値g(i,j)に対して連続していると判定された場
合、ステップS27に進む。
【0039】ステップS27において、ミスマッチング
領域検出回路10は、ラベリング未処理画素数kを1だ
けインクリメントし、隣接する画素のx座標i+mを座
標記憶用バッファx[k]に記録し、y座標j+nを座標
記憶用バッファy[k]に記録する。
【0040】ステップS28において、ミスマッチング
領域検出回路10は、注目する画素に隣接する8つ全て
の画素に対してステップS25,S26の処理を施した
か否かを判定し、隣接する画素に、ステップS25,S
26の処理を施していないものが存在すると判定した場
合、ステップS25に戻り、それ以降の処理を繰り返
す。その後、ステップS28で、隣接する8つ全ての画
素に、ステップS25,S26の処理を施したと判定さ
れた場合、ステップS29に進む。
【0041】ステップS29において、ミスマッチング
領域検出回路10は、注目画素の画素値g(i,j)を
ラベル値L0に置換する。ここで、ラベル値L0は、距
離画像D1の被写体1に対応する部分の画素に対して付
されるものである。
【0042】ステップS30において、ミスマッチング
領域検出回路10は、ラベリング未処理画素数kが0で
あるか否かを判定し、ラベリング未処理画素数kが0で
はないと判定した場合、ステップS31に進む。
【0043】ステップS31において、ミスマッチング
領域検出回路10は、座標記憶用バッファx[k]に記録
されている値を注目画素のx座標とし、座標記憶用バッ
ファy[k]に記録されている値を注目画素のy座標とす
る。これにより、先程までの注目画素に隣接し、且つ、
画素値が連続する画素が新たな注目画素とされる。その
後、ミスマッチング領域検出回路10は、ラベリング未
処理画素数kを1だけインクリメントして、ステップS
24に戻り、以降の処理が繰り返される。
【0044】その後、ステップS30において、ラベリ
ング未処理画素数kが0であると判定された場合、ステ
ップS32に進む。ステップS32において、ミスマッ
チング領域検出回路10は、距離画像D1の画素で画素
値がラベル値L0に置換されていない画素の画素値を、
ミスマッチング領域であることを示すラベル値L1に置
換する。さらに、ミスマッチング領域検出回路10は、
ラベル値L1を付した画素の位置情報を距離画像生成回
路8、および置換回路11に出力する。
【0045】このようなラベリング処理により、距離画
像D1の中の被写体1に対応する部分であって、且つ、
隣接する画素と画素値が連続している画素は、その画素
値がラベル値L0とされ、距離画像D1の中の被写体1
に対応しない部分、および、被写体1に対応する部分で
あって、且つ、隣接する画素と画素値が連続しない画素
は、その画素値がラベル値L1とされる。具体的には、
距離画像D1の中の顔の画素がラベル値L0とされる。
ただし、照射光の正反射が発生したことにより、正確な
距離画像の画素値が得られていない顔の中の鼻付近と、
照射光が反射しなかったために正確な距離画像の画素値
が得られていない頭髪部分の画素はラベル値L1とされ
る。
【0046】図5に戻る。ステップS7において、ミス
マッチング領域検出回路10は、ラベル値L1が付され
た画素のうちで、ラベル値L0が付された画素に囲まれ
ているものが存在するか否かを判定することにより、距
離画像D1の中の被写体1に対応する部分にミスマッチ
ング領域が存在するか否かを判定し、距離画像D1の中
の被写体1に対応する部分にミスマッチング領域が存在
すると判定した場合、ステップS8に進む。
【0047】ステップS8において、画像間対応付け回
路7は、基準カメラ4からの基準画像G21と、参照カ
メラ5からの参照画像G22との対応点付けを行い、基
準画像G21の各画素に対する参照画像G22の画素の
視差を距離画像生成回路8に出力する。ここで、基準画
像G21と参照画像G22は、投光パターンP1は照射
されず、環境光下で撮像されたものであるので、対応点
付けが不正確である場合もあるが、頭髪部分の対応点付
けが行われている。
【0048】ステップS9において、距離画像生成回路
8は、画像間対応付け回路7から入力された基準画像G
21と参照画像G22の各画素の視差を基に、距離画像
D2を生成して画像メモリ9に記憶させる。
【0049】ステップS10において、置換回路11
は、距離画像D1の中の被写体1に対応する部分に存在
する全てのミスマッチング領域のうちの1つを選択す
る。
【0050】ステップS11において、置換回路11
は、ステップS10で選択したミスマッチング領域に対
応する距離画像D2の領域の画素値と、ステップS10
で選択したミスマッチング領域の周囲に対する距離画像
D1の画素値の連続性を所定のアルゴリズム(例えば、
画素値の差の絶対値を所定の閾値と比較する)に基づい
て判定し、連続していると判定した場合、ステップS1
2に進む。
【0051】ステップS12において、置換回路11
は、ステップS10で選択したミスマッチング領域に対
応する距離画像D1の領域の画素値を、距離画像D2の
対応する領域の画素値を用いて置換する。
【0052】ステップS13において、置換回路11
は、ステップS10で、距離画像D1の中に存在する全
てのミスマッチング領域を選択したか否かを判定し、全
てのミスマッチング領域を選択したと判定するまで、ス
テップS10に戻り、それ以降の処理を繰り返す。
【0053】その後、ステップS13において、距離画
像D1の中の被写体1に対応する部分に存在する全ての
ミスマッチング領域を選択したと判定した場合、ステッ
プS14に進む。
【0054】ステップS14において、ミスマッチング
領域検出回路10は、距離画像D1上のミスマッチ領域
であって、置換回路11によって距離画像D2の画素値
を用いて置換されていない領域に対応する、距離画像D
2上の領域でステップS6と同様にラベリング処理を実
行する。このラベリング処理により、照射光が反射しな
かったことに起因してミスマッチ領域となった距離画像
D1上の領域に対応する距離画像D2上の領域が抽出さ
れる。いまの場合、距離画像D2上の被写体の頭髪部分
が抽出される。ステップS15において、置換回路11
は、ステップS14で抽出した距離画像D2の領域の画
素値を用いて、距離画像D1の対応する領域の画素値を
置換する。
【0055】ステップS16において、置換回路11
は、距離画像D2の画素値を用いて部分的に置換した距
離画像D1を出力回路12に供給する。出力回路12
は、置換回路11からの距離画像D1を出力する。
【0056】なお、ステップS11において、ステップ
S10で選択したミスマッチング領域に対応する距離画
像D2の領域の画素値と、ステップS10で選択したミ
スマッチング領域の周囲に対する距離画像D1の画素値
が連続していないと判定された場合、そのミスマッチン
グ領域は、被写体1上に実在する極端な凹凸部分である
か、または、オクリュージョン領域であると考えられる
ので、ステップS12はスキップされる。
【0057】また、ステップS7において、距離画像D
1の中の被写体1に対応する部分にミスマッチング領域
が存在しないと判定された場合、ステップS8乃至S1
3の処理はスキップされる。
【0058】このような距離画像生成処理により、例え
ば図11(A)に示すように、距離画像D1の被写体1に
対応する部分上にミスマッチング領域があった場合、そ
の部分が距離画像D2の画素値を用いて置換されるの
で、結果的に、図11(B)に示すようなミスマッチング
領域のない距離画像を得ることが可能となる。
【0059】なお、距離画像D1のミスマッチング領域
が、被写体1上に実在する極端な凹凸部分ではなく、且
つ、オクリュージョン領域でもないことが明らかである
場合において、ミスマッチング領域に対応する距離画像
D2の画素値が置換に用いる値として適切ではないとき
には、異なる投光パターンを被写体に照射して部分的な
距離画像D3を生成し、その画素値を用いて距離画像D
1の画素値を置換するようにしてもよい。
【0060】以上のように、本発明を適用した距離画像
生成システムによれば、非周期的な投光パターンを被写
体に照射して撮影することで、対応点付けにおけるミス
を減少させ、さらに、照射光の正反射や、反対に、照射
光が反射しないことによって生じるミスマッチング領域
を、環境光の下で撮影した画像を用いて生成した距離画
像の画素値で置換するようにしたので、白い壁や人の顔
等のように、特徴が少ない立体的な被写体の表面形状を
示す距離画像を生成することが可能となる。
【0061】ところで、上述した一連の処理は、ハード
ウェアにより実行させることもできるが、ソフトウェア
により実行させることもできる。一連の処理をソフトウ
ェアにより実行させる場合には、そのソフトウェアを構
成するプログラムが、専用のハードウェアに組み込まれ
ているコンピュータ、または、各種のプログラムをイン
ストールすることで、各種の機能を実行することが可能
な、例えば汎用のパーソナルコンピュータなどに、記録
媒体からインストールされる。
【0062】この記録媒体は、図2に示すように、コン
ピュータとは別に、ユーザにプログラムを提供するため
に配布される、プログラムが記録されている磁気ディス
ク15(フロッピディスクを含む)、光ディスク16
(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digit
al Versatile Disc)を含む)、光磁気ディスク17(M
D(Mini Disc)を含む)、もしくは半導体メモリ18な
どよりなるパッケージメディアにより構成されるだけで
なく、コンピュータに予め組み込まれた状態でユーザに
提供される、プログラムが記録されているROMや記憶部
に含まれるハードディスクなどで構成される。
【0063】なお、本明細書において、記録媒体に記録
されるプログラムを記述するステップは、記載された順
序に従って時系列的に行われる処理はもちろん、必ずし
も時系列的に処理されなくとも、並列的あるいは個別に
実行される処理をも含むものである。
【0064】また、本明細書において、システムとは、
複数の装置により構成される装置全体を表すものであ
る。
【0065】
【発明の効果】以上のように、本発明の3次元形状計測
装置、3次元形状計測方法、および記録媒体のプログラ
ムによれば、基準画像上の画素と、参照画像上の画素と
の対応を識別して対応する画素間の視差を算出し、視差
に基づいて2種類の距離画像を生成する。また、必要に
応じて、2種類の距離画像を合成するようにしたので、
ミスマッチング領域が無い距離画像を生成することが可
能となる。
【図面の簡単な説明】
【図1】エピポーララインを説明するための図である。
【図2】本発明を適用した距離画像生成システムの構成
例を示すブロック図である。
【図3】投光パターンの一例を示す図である。
【図4】投光器3の構成例を示すブロック図である。
【図5】距離画像生成処理を説明するフローチャートで
ある。
【図6】投光パターンの照射タイミング、および撮影タ
イミングを説明するための図である。
【図7】投光パターンの照射タイミング、および撮影タ
イミングを説明するための図である。
【図8】基準画像と参照画像の一例を示す図である。
【図9】基準画像と参照画像の一例を示す図である。
【図10】図5のステップS5のラベリング処理の詳細
を説明するフローチャートである。
【図11】補正された距離画像の例を示す図である。
【符号の説明】
1 被写体, 2 投光パターン生成回路, 3 投光
器, 4 基準カメラ, 5 参照カメラ, 6,7
画像間対応付け回路, 8 距離画像生成回路, 9
画像メモリ, 10 ミスマッチ領域検出回路, 11
置換回路,12 出力回路, 13 制御回路, 1
4 ドライブ, 15 磁気ディスク, 16 光ディ
スク, 17 光磁気ディスク, 18 半導体メモリ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 芦ヶ原 隆之 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 林 和慶 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 横山 敦 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 2F065 AA07 AA53 BB05 DD00 FF05 HH07 HH12 JJ03 JJ05 JJ26 KK01 LL24 NN03 PP23 QQ24 QQ36 RR09 SS13 UU01 UU05 5B057 BA02 BA11 BA19 BA21 CE08 DA07 DB03 DC03 DC09 DC32

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 被写体を異なる視点から撮影した画像を
    用いて、前記被写体の3次元形状を計測する3次元形状
    計測装置において、 乱数を用いて非周期的な投光パターンを生成する投光パ
    ターン生成手段と、 前記被写体に前記投光パターンを照射する照射手段と、 前記被写体を撮影して、基準画像を生成する第1の撮影
    手段と、 前記第1の撮影手段の位置とは異なる位置から前記被写
    体を撮影して、参照画像を生成する第2の撮影手段と、 前記照射手段の照射タイミング、並びに前記第1および
    第2の撮影手段の撮影タイミングを制御するタイミング
    制御手段と、 前記基準画像上の画素と、前記参照画像上の画素との対
    応を識別して、対応する画素間の視差を算出する識別手
    段と、 前記視差に基づいて距離画像を生成する距離画像生成手
    段とを含むことを特徴とする3次元形状計測装置。
  2. 【請求項2】 前記照射手段が前記投光パターンを照射
    した状態に対応する前記距離画像と、前記照射手段が前
    記投光パターンを照射していない状態に対応する前記距
    離画像とを合成する合成手段をさらに含むことを特徴と
    する請求項1に記載の3次元形状計測装置。
  3. 【請求項3】 前記照射手段が前記投光パターンを照射
    した状態に対応する前記距離画像と、前記照射手段が前
    記投光パターンを照射していない状態に対応する前記距
    離画像のうちのいずれか一方の距離画像の中で、画素値
    の信頼性が低い領域を検出する検出手段をさらに含み、 前記合成手段は、前記検出手段が検出した前記領域の画
    素値を、他方の前記距離画像の対応する領域の画素値を
    用いて置換することによって、前記照射手段が前記投光
    パターンを照射した状態に対応する前記距離画像と、前
    記照射手段が前記投光パターンを照射していない状態に
    対応する前記距離画像とを合成することを特徴とする請
    求項2に記載の3次元形状計測装置。
  4. 【請求項4】 前記検出手段は、前記距離画像の画素値
    の連続性に基づいて、前記画素値の信頼性が低い領域を
    検出することを特徴とする請求項1に記載の3次元形状
    計測装置。
  5. 【請求項5】 前記タイミング制御手段は、前記照射手
    段が前記投光パターンを照射した状態に対応する前記基
    準画像および前記参照画像と、前記照射手段が前記投光
    パターンの照射を止めた状態に対応する前記基準画像お
    よび前記参照画像が、それぞれ連続したフレーム画像と
    なるように、前記照射タイミングおよび前記撮影タイミ
    ングを制御することを特徴とする請求項1に記載の3次
    元形状計測装置。
  6. 【請求項6】 被写体を異なる視点から撮影した画像を
    用いて、前記被写体の3次元形状を計測する3次元形状
    計測装置の3次元形状計測方法において、 乱数を用いて非周期的な投光パターンを生成する投光パ
    ターン生成ステップと、 前記被写体に前記投光パターンを照射する照射ステップ
    と、 前記被写体を撮影して、基準画像を生成する第1の撮影
    ステップと、 前記第1の撮影ステップの処理で撮影した位置とは異な
    る位置から前記被写体を撮影して、参照画像を生成する
    第2の撮影ステップと、 前記照射ステップの処理の照射タイミング、並びに前記
    第1および第2の撮影ステップの処理の撮影タイミング
    を制御するタイミング制御ステップと、 前記基準画像上の画素と、前記参照画像上の画素との対
    応を識別して、対応する画素間の視差を算出する識別ス
    テップと、 前記視差に基づいて距離画像を生成する距離画像生成ス
    テップとを含むことを特徴とする3次元形状計測方法。
  7. 【請求項7】 乱数を用いて非周期的な投光パターンを
    生成する投光パターン生成手段と、 前記被写体に前記投光パターンを照射する照射手段と、 前記被写体を撮影して、基準画像を生成する第1の撮影
    手段と、 前記第1の撮影手段の位置とは異なる位置から前記被写
    体を撮影して、参照画像を生成する第2の撮影手段とを
    備え、 被写体を異なる視点から撮影した画像を用いて、前記被
    写体の3次元形状を計測する3次元形状計測装置を制御
    するプログラムであって、 前記照射手段の照射タイミング、並びに前記第1および
    第2の撮影手段の撮影タイミングを制御するタイミング
    制御ステップと、 前記基準画像上の画素と、前記参照画像上の画素との対
    応を識別して、対応する画素間の視差を算出する識別ス
    テップと、 前記視差に基づいて距離画像を生成する距離画像生成ス
    テップとを含むことを特徴とするコンピュータが読み取
    り可能なプログラムが記録されている記録媒体。
JP34439299A 1999-12-03 1999-12-03 3次元形状計測装置および方法、並びに記録媒体 Withdrawn JP2001159506A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US09/450,723 US6287647B1 (en) 1999-12-03 1999-11-30 Liquid crystal composition and liquid crystal display using the same
JP34439299A JP2001159506A (ja) 1999-12-03 1999-12-03 3次元形状計測装置および方法、並びに記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34439299A JP2001159506A (ja) 1999-12-03 1999-12-03 3次元形状計測装置および方法、並びに記録媒体

Publications (1)

Publication Number Publication Date
JP2001159506A true JP2001159506A (ja) 2001-06-12

Family

ID=18368903

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34439299A Withdrawn JP2001159506A (ja) 1999-12-03 1999-12-03 3次元形状計測装置および方法、並びに記録媒体

Country Status (2)

Country Link
US (1) US6287647B1 (ja)
JP (1) JP2001159506A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1146313A2 (en) * 2000-04-13 2001-10-17 Sony Corporation Image pickup apparatus and method, and recording medium
WO2007102195A1 (ja) * 2006-03-07 2007-09-13 Fujitsu Limited 撮影装置、及び撮影方法
JP2010091492A (ja) * 2008-10-10 2010-04-22 Fujifilm Corp 3次元形状計測用撮影装置および方法並びにプログラム
JP2011232150A (ja) * 2010-04-27 2011-11-17 Casio Comput Co Ltd 情報処理装置及び方法、並びにプログラム
US8294762B2 (en) 2008-10-10 2012-10-23 Fujifilm Corporation Three-dimensional shape measurement photographing apparatus, method, and program
JP2014219299A (ja) * 2013-05-09 2014-11-20 新日鐵住金株式会社 高炉内装入物のプロフィル測定データの処理方法
JP2021503603A (ja) * 2017-11-17 2021-02-12 トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング 少なくとも1つの物体の位置を決定するための検出器

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3765182B2 (ja) * 1998-05-15 2006-04-12 コニカミノルタホールディングス株式会社 液晶組成物および液晶表示素子
US6599589B1 (en) * 1999-09-30 2003-07-29 Minolta Co., Ltd. Liquid crystal composition and liquid crystal light display element using the same
JP2001107050A (ja) * 1999-09-30 2001-04-17 Minolta Co Ltd 液晶組成物及び該組成物を用いた液晶光変調素子
JP2001329265A (ja) * 2000-05-22 2001-11-27 Minolta Co Ltd 液晶表示素子
JP2002107768A (ja) * 2000-09-29 2002-04-10 Minolta Co Ltd 液晶表示素子
EP1721307B1 (en) * 2004-02-24 2013-04-17 Merck Patent GmbH Zenithal bistable nematic liquid crystal device
CN100401145C (zh) * 2005-03-14 2008-07-09 财团法人工业技术研究院 彩色胆固醇型液晶显示器及其制造方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2827471C2 (de) 1978-06-22 1982-09-02 Siemens AG, 1000 Berlin und 8000 München Flüssigkristallzelle mit einer induzierten cholesterischen Phase
WO1992018448A1 (en) * 1991-04-13 1992-10-29 MERCK Patent Gesellschaft mit beschränkter Haftung Fluoro tolans and liquid crystalline media
DE59306095D1 (de) * 1992-09-25 1997-05-15 Merck Patent Gmbh Acetylen Derivate und sie enthaltende flüssigkristalline Mischungen
DE59306101D1 (de) * 1992-10-23 1997-05-15 Merck Patent Gmbh Fluorsubstituierte Phenyl-Cyclohexylacetylene und sie enthaltende flüssigkristalline Gemische
US5693421A (en) * 1992-12-22 1997-12-02 Dai Nippon Printing Co., Ltd. Information recording medium and information recording and reproducing method
US5498367A (en) * 1994-03-30 1996-03-12 Hoffmann-La Roche Inc. Optically active tolanes
EP0681021B1 (en) * 1994-05-06 1998-12-23 Chisso Corporation A liquid crystal composition
JP3579727B2 (ja) * 1994-05-06 2004-10-20 チッソ株式会社 液晶組成物
JPH0929882A (ja) 1995-07-20 1997-02-04 Nippon Oil Co Ltd 調光材料
US5807499A (en) * 1995-08-23 1998-09-15 Chisso Corporation Liquid crystal composition and a liquid crystal display device containing the same
DE19538700A1 (de) * 1995-10-18 1997-04-24 Hoechst Ag Cholesterische Phasen bildende Polymere, Verfahren zu deren Herstellung sowie Verwendung
GB2315561A (en) * 1996-07-19 1998-02-04 Sharp Kk Liquid crystal device

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1146313A2 (en) * 2000-04-13 2001-10-17 Sony Corporation Image pickup apparatus and method, and recording medium
EP1146313A3 (en) * 2000-04-13 2003-01-29 Sony Corporation Image pickup apparatus and method, and recording medium
WO2007102195A1 (ja) * 2006-03-07 2007-09-13 Fujitsu Limited 撮影装置、及び撮影方法
JP4751443B2 (ja) * 2006-03-07 2011-08-17 富士通株式会社 撮影装置、及び撮影方法
JP2010091492A (ja) * 2008-10-10 2010-04-22 Fujifilm Corp 3次元形状計測用撮影装置および方法並びにプログラム
US8294762B2 (en) 2008-10-10 2012-10-23 Fujifilm Corporation Three-dimensional shape measurement photographing apparatus, method, and program
JP2011232150A (ja) * 2010-04-27 2011-11-17 Casio Comput Co Ltd 情報処理装置及び方法、並びにプログラム
JP2014219299A (ja) * 2013-05-09 2014-11-20 新日鐵住金株式会社 高炉内装入物のプロフィル測定データの処理方法
JP2021503603A (ja) * 2017-11-17 2021-02-12 トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング 少なくとも1つの物体の位置を決定するための検出器
JP7254799B2 (ja) 2017-11-17 2023-04-10 トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング 少なくとも1つの物体の位置を決定するための検出器

Also Published As

Publication number Publication date
US6287647B1 (en) 2001-09-11

Similar Documents

Publication Publication Date Title
US6754370B1 (en) Real-time structured light range scanning of moving scenes
US20190156557A1 (en) 3d geometric modeling and 3d video content creation
US9392262B2 (en) System and method for 3D reconstruction using multiple multi-channel cameras
JP2001264033A (ja) 三次元形状計測装置とその方法、三次元モデリング装置とその方法、およびプログラム提供媒体
CN101542538B (zh) 用来对光进行建模的方法与系统
Zhang et al. Rapid shape acquisition using color structured light and multi-pass dynamic programming
JP5570126B2 (ja) 物体の姿勢を求める方法及び装置
US9098908B2 (en) Generating a depth map
US20020006282A1 (en) Image pickup apparatus and method, and recording medium
US9189859B2 (en) 3D image generation
JP2001159506A (ja) 3次元形状計測装置および方法、並びに記録媒体
US6181345B1 (en) Method and apparatus for replacing target zones in a video sequence
JP2008537190A (ja) 赤外線パターンを照射することによる対象物の三次元像の生成
JP2001091232A (ja) 3次元形状計測装置および方法、並びに記録媒体
JP2003130621A (ja) 3次元形状計測方法およびその装置
JP4110501B2 (ja) ランダムパターン生成装置とその方法、距離画像生成装置とその方法、およびプログラム提供媒体
JP2019079487A (ja) パラメータ最適化装置、パラメータ最適化方法、プログラム
CN107370950B (zh) 对焦处理方法、装置和移动终端
JP4418935B2 (ja) 光学マーカシステム
Martel et al. An active approach to solving the stereo matching problem using event-based sensors
US11398019B2 (en) Light field system occlusion removal
US7280685B2 (en) Object segmentation from images acquired by handheld cameras
US20130287293A1 (en) Active Lighting For Stereo Reconstruction Of Edges
JP2001266128A (ja) 奥行き情報取得方法,装置および奥行き情報取得プログラムを記録した記録媒体
JP4337203B2 (ja) 距離画像生成装置および距離画像生成方法、並びにプログラム提供媒体

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20070206