JP2018166308A - カメラ校正装置 - Google Patents

カメラ校正装置 Download PDF

Info

Publication number
JP2018166308A
JP2018166308A JP2017063790A JP2017063790A JP2018166308A JP 2018166308 A JP2018166308 A JP 2018166308A JP 2017063790 A JP2017063790 A JP 2017063790A JP 2017063790 A JP2017063790 A JP 2017063790A JP 2018166308 A JP2018166308 A JP 2018166308A
Authority
JP
Japan
Prior art keywords
circle
optical axis
coordinates
center
luminance value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017063790A
Other languages
English (en)
Other versions
JP6482589B2 (ja
Inventor
豪 河口
Takeshi Kawaguchi
豪 河口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2017063790A priority Critical patent/JP6482589B2/ja
Publication of JP2018166308A publication Critical patent/JP2018166308A/ja
Application granted granted Critical
Publication of JP6482589B2 publication Critical patent/JP6482589B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)

Abstract

【課題】カメラにより撮像した画像における当該カメラの光軸中心座標を正確に算出する。【解決手段】カメラ校正装置10は、カメラ14により略均一な入射光を撮像した撮像画像を取得する画像取得手段50と、撮像画像に含まれる複数の注目輝度値ごとに、撮像画像から注目輝度値を有する画素を抽出する等輝度画素抽出手段60と、注目輝度値ごとに、 等輝度画素抽出手段60が抽出した画素の重心座標を算出する重心算出手段62と、注目輝度値に対する重心座標の変動量を算出する変動量算出手段64と、重心座標のうち変動量が所定値以下である重心座標から光軸中心座標を決定する光軸中心決定手段66と、を備える。【選択図】図1

Description

本発明は、カメラにより撮像した画像における当該カメラの光軸中心座標を算出するカメラ校正装置に関する。
従来から、監視カメラで撮像した画像を用いて人物の三次元位置や高さ、幅を算出する等、物体の計測を行う技術が知られている(例えば、特許文献1参照)。
監視カメラで人物を撮像し、撮像した画像から人物の三次元位置や高さ、幅等を正確に計測するには、少なくとも撮像した画像における光軸中心の座標が正確に分かっている必要がある。多くの場合、画像の中心を光軸中心とみなして計測に利用する。
特開2012−212248号公報
監視カメラの中には、撮像素子の中心と光軸中心のアライメントがずれている個体があり、画像の中心と光軸中心が一致しない場合がある。このような場合、画像の中心を光軸中心とみなしていると、物体を正確に計測できない問題があった。
また、魚眼レンズを搭載した監視カメラ(魚眼カメラ)では、矩形の画像中にレンズを通した円形の像が現れ、円形の像の外側には鏡筒の黒色の像(ケラレ)が現れる。これを利用して、魚眼カメラで撮像した画像からエッジ画像を生成してケラレによる円を検出し、検出した円の中心座標を光軸中心座標とする方法も考えられる。しかし、ケラレによる円にはボケが生じる場合があり、また魚眼カメラの中には撮像素子の中心と鏡筒の中心のアライメントがずれている個体があり、ケラレの像のボケや鏡筒のアライメントずれが光軸中心座標の精度を低下させる原因となる。さらに、この方法は、鏡筒によるケラレが得られない監視カメラ(魚眼カメラ以外)に適用することができない。
そこで、本発明の目的は、撮像素子の中心と光軸中心のアライメントずれ、ケラレの像のボケ、または鏡筒のアライメントずれがあっても、撮像した画像における光軸中心座標を正確に算出することができるカメラ校正装置を提供することである。
本発明のカメラ校正装置は、カメラにより撮像した画像における当該カメラの光軸中心座標を算出するカメラ校正装置であって、前記カメラにより略均一な入射光を撮像した撮像画像を取得する画像取得手段と、前記撮像画像に含まれる複数の注目輝度値ごとに、前記撮像画像から前記注目輝度値を有する画素を抽出する等輝度画素抽出手段と、前記注目輝度値ごとに、前記等輝度画素抽出手段が抽出した画素の重心座標を算出する重心算出手段と、前記注目輝度値に対する前記重心座標の変動量を算出する変動量算出手段と、前記重心座標のうち前記変動量が所定値以下である重心座標から前記光軸中心座標を決定する光軸中心決定手段と、を備える、ことを特徴とする。
本発明のカメラ校正装置において、前記重心算出手段は、前記注目輝度値ごとに、前記等輝度画素抽出手段が抽出した画素の位置を円で近似し、当該円の円中心座標を前記重心座標として算出する円中心算出手段である、としても好適である。
本発明のカメラ校正装置において、前記光軸中心決定手段は、前記注目輝度値に対する前記変動量が所定値以下である重心座標のうち、注目輝度値が所定の輝度値の幅にある重心座標から前記光軸中心座標を決定する、としても好適である。
本発明のカメラ校正装置において、前記光軸中心決定手段は、前記注目輝度値に対する前記変動量が所定値以下である重心座標のうち、より大きい注目輝度値の重心座標を優先して用いて前記光軸中心座標を決定する、としても好適である。
また、本発明のカメラ校正装置は、カメラにより撮像した画像における当該カメラの光軸中心座標を算出するカメラ校正装置であって、前記カメラにより略均一な入射光を撮像した撮像画像を取得する画像取得手段と、前記撮像画像に含まれる複数の注目輝度値ごとに、前記撮像画像から前記注目輝度値を有する画素を抽出する等輝度画素抽出手段と、前記注目輝度値ごとに前記等輝度画素抽出手段が抽出した画素の位置を円近似して当該円の大きさと円中心座標とを算出する円中心算出手段と、前記円の大きさに対する前記円中心座標の変動量を算出する変動量算出手段と、前記円中心座標のうち前記変動量が所定値以下である円の大きさにおける円中心座標から前記光軸中心座標を決定する光軸中心決定手段と、を備える、ことを特徴とする。
本発明のカメラ校正装置において、前記光軸中心決定手段は、前記変動量が所定値以下である注目輝度値における重心座標、又は、前記変動量が所定値以下である円の大きさにおける円中心座標の平均値を前記光軸中心座標に決定する、としても好適である。
本発明によれば、撮像素子の中心と光軸中心のアライメントずれ、ケラレの像のボケ、または鏡筒のアライメントずれがあっても、撮像した画像における光軸中心座標を正確に算出することができる。
本発明の実施形態におけるカメラ校正システムの概略構成を示すブロック図である。 撮像画像の一例を模式的に表した図である。 本発明の実施形態におけるデータの流れを示すブロック図である。 本発明の実施形態における円中心座標を算出する処理の様子を示す模式図である。 本発明の実施形態における輝度値に対する円中心座標の変動量(距離の和)の一例を示す図である。 本発明の実施形態におけるカメラ校正装置が実行する処理の流れを示すフローチャートである。 本発明の実施形態におけるカメラ校正装置が実行する処理の流れを示すフローチャートである。
以下、図面を参照しながら本発明の実施形態について説明する。
図1は、本実施形態のカメラ校正システム1の概略構成を示すブロック図である。本実施形態のカメラ校正システム1は、レンズ36(魚眼レンズ)を有するカメラ14により撮像された撮像画像から、カメラ14の光軸中心座標を算出するものである。カメラ校正システム1は、照明部12と、校正対象のカメラ14と、通信部16と、画像処理部18と、記憶部20と、出力部22とを備えている。このうち、校正対象のカメラ14を除いた構成が、カメラ校正装置10の構成である。
照明部12は、積分球30と光源32とを有している。本実施形態では、照明部12は、2つの光源32を有している。積分球30は、内部に球面が形成された空洞体であり、内部の球面に高反射率かつ高拡散性の塗料が塗布されている。2つの光源32は、例えば白色のLED(Light Emitting Diode)や白熱電球である。2つの光源32は、積分球30の内部の球面に配置されている。2つの光源32が発光した際には、積分球30の内部の空間が、2つの光源32の配向特性に依存することなく略均一な照明強度分布となる。照明部12は、均一標準光源として機能し、略均一な照明環境の空間を生成する。
校正対象のカメラ14は、入射光を撮像素子へ集光するレンズ36と、光を電圧に変換する撮像素子38と、撮像素子38のアナログ電圧をデジタル信号に変換するA/D変換部40と、デジタル信号を画像化して撮像画像を生成する信号処理部42とを備えている。本実施形態のカメラ14は、監視カメラである。また、本実施形態のレンズ36は、魚眼レンズである。レンズ36は、鏡筒34に収容されている。撮像素子38は、CCD(Charge Coupled Device)やCMOS(Complementary Metal?Oxide?Semiconductor)素子等である。カメラ14は、所定の通信線により外部の通信部16に接続されている。
カメラ14は、照明部12の2つの光源32が発光した状態での積分球30を撮像することにより略均一な入射光を撮像して撮像画像を生成する。本実施形態では、撮像画像はカラー画像である。しかし、撮像画像はモノクロ画像であってもよい。撮像画像は、信号処理部42から通信部16へ出力される。
通信部16は、カメラ14と画像処理部18と出力部22との間でデータをやりとりする為の通信回路を含んでいる。通信部16は、カメラ14と、画像処理部18と、出力部22とに接続されている。通信部16は、カメラ14から撮像画像を取得する画像取得手段50として機能する。通信部16が取得した撮像画像は、画像処理部18へ出力される。また、通信部16は、画像処理部18からカメラ14の校正情報を受け取り、校正情報を出力部22へ出力する校正情報出力手段52として機能する。校正情報は、画像処理部18が生成する情報であり、カメラ14の光軸中心座標が含まれた情報である。
画像処理部18は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、MCU(Micro Control Unit)等の演算装置を含んで構成されている。画像処理部18は、記憶部20からプログラムを読み出して実行することにより、各種処理手段・制御手段として動作し、必要に応じて、各種データを記憶部20から読み出し、生成したデータを記憶部20に記憶(記録)する。記憶部20は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスク等であり、画像処理部18が実行するプログラムや、各種データを記憶する。
画像処理部18は、通信部16経由でカメラ14から取得した撮像画像を用いて、カメラ14の光軸中心座標を算出する。画像処理部18は、光軸中心座標を算出するために、後述する、等輝度画像生成手段60(等輝度画素抽出手段)と、円中心算出手段62(重心算出手段)と、変動量算出手段64と、光軸中心決定手段66として機能する。画像処理部18は、算出した光軸中心座標を含めた校正情報を、通信部16に出力する。
出力部22は、液晶ディスプレイ又はCRT(Cathode Ray Tube)ディスプレイ等のディスプレイ装置である。出力部22は、通信部16経由で画像処理部18から入力された校正情報(光軸中心座標を含む)を表示する。
次に、本実施形態における光軸中心座標の算出方法について説明する。
図2は、撮像画像の一例を模式的に表した図である。撮像画像100には、鏡筒34の像である黒色の像(ケラレ)(図2の斜線部分)と積分球30の像(図2の白抜き部分)とが含まれている。図2の撮影画像100には、光軸中心座標101と、鏡筒中心座標102と、等輝度線103,104とが示されている。等輝度線103は、ケラレからも鏡筒中心座標102からも離れた領域に現れる輝度が同一の画素群を結んだ線である。等輝度線104は、ケラレ付近に現れる輝度が同一の画素群を結んだ線である。図2の下部には、横軸に画素位置をとり、縦軸に輝度値をとったグラフ110が示されている。グラフ110は、図2の上部に示した線分AB上の各画素の輝度値をプロットしたものである。
ケラレから離れた領域にある等輝度線103は、レンズ36の周辺光量比の変化による影響を強く受ける。周辺光量比の変化は光軸中心座標101を中心に起こることから、等輝度線103は、ほぼ円を形成し、その円の中心は光軸中心座標101とほぼ一致する。すなわち、等輝度線103が存在する画素位置(領域112a及び112b)の各画素は、ケラレによる減光の影響が小さく、レンズ30の周辺光量比の変化の影響が支配的なため、光軸中心座標101の算出に適している。
一方、ケラレ付近に現れる等輝度線104は、周辺光量比よりもケラレによる減光の影響を強く受けており、等輝度線104が形成する円の中心は、鏡筒中心座標102とほぼ一致する。すなわち、等輝度線104が存在する画素位置(領域111a及び111b)の各画素は、ケラレによる減光の影響を強く受けるため、この領域の各画素を用いて光軸中心座標101を算出することは適切でない。
また、撮像画像の中心付近の画素位置(領域113)の各画素は、領域112a,112bよりもさらにレンズ36の周辺光量比の変化の影響が支配的であるものの、周辺光量比の変化量が小さく、ノイズ等の影響を受けやすい。そのため、この領域の各画素を用いて光軸中心座標101を算出することは適切でない。
そこで、本実施形態では、ケラレ付近の画素位置(領域111a及び111b)の画素と、ノイズ等の影響を受けやすい撮像画像の中心付近の画素位置(領域113)の画素ではなく、それらの間の画素位置(領域112a及び112b)の画素を用いて光軸中心座標101を算出する。換言すれば、ケラレ付近に現れる等輝度線104と、撮像画像の中心付近のノイズ等の影響を受けやすい領域の画素ではなく、それらの間に位置する等輝度線103から光軸中心座標101を算出する。
図3は、本実施形態における光軸中心座標を算出するための各手段と、それらによって生成されたデータの流れを示すブロック図である。まず、通信部16の画像取得手段50が、撮像手段であるカメラ14から撮像画像を取得する。撮像画像は、カメラ14により照明部12の積分球30を撮像した画像、すなわち、カメラ14により略均一な入射光を撮像した画像である。図3に示すように、画像取得手段50は、取得した撮像画像を、画像処理部18の等輝度画像生成手段60に出力する。
等輝度画像生成手段60は、撮像画像の中の輝度範囲における複数の注目輝度値を設定する。例えば、カラーの撮像画像をモノクロ化して、その各画素が取り得る輝度値の範囲0〜65535内で300おきに注目輝度値を設定する。そして、撮像画像から各注目輝度値を有する画素を抽出することによって注目輝度値ごとの等輝度画像を生成する。等輝度画像は、例えば、画素値が注目輝度値である画素の画素値を1、そうでない画素の画素値を0に設定した二値画像である。等輝度画像生成手段60は、生成した複数の等輝度画像を、円中心算出手段62(重心算出手段)へ出力する。
円中心算出手段62は、等輝度画像のそれぞれにおいて注目輝度値の画素の重心の座標(重心座標)を算出する。具体的には、等輝度画像の注目輝度値の画素の位置を円近似すると共に、その円の円中心座標を重心座標として算出する。円中心算出手段62は、例えば、等輝度画像にハフ(Hough)変換を施し、等輝度画像の注目輝度値の画素の位置を円近似し、その円の円中心座標を算出する。すなわち、等輝度画像において注目輝度値を有する画素群を円で近似し(円を検出し)、円中心座標をハフ変換により導出する。この際、ハフ変換により円の大きさ(半径)も導出される。そして、円中心算出手段62は、導出した円中心座標を、注目輝度値と対応付ける。円中心算出手段62は、注目輝度値ごとの円中心座標を、変動量算出手段64へ出力する。
図4は、円中心算出手段62による円中心座標の算出処理の様子を示す模式図である。図4の上側には、ある注目輝度値の等輝度画像200の一例が示されている。等輝度画像200には、注目輝度値を有する画素群201が現れている。図4の下側には、等輝度画像200にハフ変換を施した後の画像210が示されている。図4の下側に示すように、等輝度画像200にハフ変換を施すと、画素群を近似する円211の円中心座標212と半径とを導出することができる。
図3に戻り、変動量算出手段64は、注目輝度値ごとの円中心座標について、輝度値の変化に対する円中心座標の変動量を算出する。具体的には、変動量を算出する対象の注目輝度値(対象注目輝度値)の円中心座標と、対象注目輝度値に隣り合う2つの注目輝度値の円中心座標の各々との距離(第1距離および第2距離)を算出し、第1距離と第2距離との和(距離の和)を、対象注目輝度値における円中心座標の変動量として算出する。詳細には、次のようになる。IMAX(注目輝度値の最大値)からIMIN(注目輝度値の最小値)までの各注目輝度値に対して順番に番号0,1,2,3,…,Nを付与し、これらの注目輝度値について算出した円中心座標をC0,C1,C2,…CNとする。そして、n番目の注目輝度値(対象注目輝度値)の円中心座標をCnとし、その円中心座標Cnの変動量をΔCnとする。その場合の変動量ΔCn(円中心座標の変動量)は、以下の(数1)式により算出される。
ΔCn=D(Cn-1,Cn)+D(Cn,Cn+1) (数1)
但し、上記の(数1)式において、nは、1≦n≦(N−1)である。また、上記の(数1)式のDは2点間の距離であり、D(Cn-1,Cn)が第1距離であり、D(Cn,Cn+1)が第2距離である。変動量算出手段64は、注目輝度値と円中心座標と変動量ΔCn(円中心座標の変動量)とを対応付けた変動量情報を光軸中心決定手段66に出力する。
光軸中心決定手段66は、少なくとも、円中心座標のうち円中心座標の変動量が所定値(閾値T1)以下である注目輝度値における円中心座標から光軸中心座標を決定する。
図5は、注目輝度値に対する円中心座標の変動量ΔCnの一例を示すグラフである。図5に示すように、グラフ300は、横軸が注目輝度値、縦軸が変動量ΔCn[画素(pixel)]となっている。グラフ300には、注目輝度値ごとの変動量がプロットされている。光軸中心決定手段66は、例えば閾値T1=1[画素]とし、1画素以下である変動量を有する注目輝度値の円中心座標を抽出する。なお、閾値T1の値は、要求される校正の精度に応じて予め設定しておいてもよい。図5のグラフ300では、変動量が1画素以下である注目輝度値が、低輝度な領域301,302に存在している。このように、変動量が閾値T1以下であるという条件を満たす注目輝度値の円中心座標を選出する。これにより、図5の高輝度な区間305は、変動量が閾値T1より大きいため、光軸中心座標を決定する際の対象から除かれる。つまり、画素位置に対する輝度値の変化が小さくノイズの影響を受けやすいレンズ中心付近の画像領域(高輝度な領域、図2の領域113)から検出された不安定な円の円中心座標を除いて、高い精度で光軸中心座標が決定される。また、ケラレのボケから生じる減光の影響を強く受けた等輝度円の円中心座標(ほぼ鏡筒中心座標を表す座標)を、光軸中心座標に決定する誤決定を防止することができる。
また、光軸中心決定手段66は、円中心座標の変動量が所定値(閾値T1)以下である円中心座標のうち、所定の輝度値の幅にある円中心座標から光軸中心座標を決定する。換言すれば、円中心座標の変動量が閾値T1以下である注目輝度値の円中心座標であって、注目輝度値同士が近接している(所定の輝度値の幅にある)円中心座標から光軸中心座標を決定する。具体的には、円中心座標の変動量が閾値T1以下である輝度値であって、輝度値が閾値T2[個(回)]以上連続している領域における輝度値の円中心座標から光軸中心座標を決定する。例えば、光軸中心決定手段66は、閾値T2=3として、注目輝度値が3個以上連続している連続区間における注目輝度値の円中心座標を抽出する。注目輝度値が3個以上連続している連続区間とは、例えば、注目輝度値が300刻みで設定されている場合における、注目輝度値13500,13200,12900のような区間である。このように、近傍の複数の注目輝度値(近傍の複数の円)であって、変動量ΔCnが閾値T1以下である注目輝度値(円)の円中心座標を抽出し、この抽出した円中心座標から光軸中心座標を決定する。それにより、光軸中心座標の決定処理の信頼性が向上する。すなわち、例えば、ノイズ等の影響によって、ある輝度値の円中心座標の変動量が離散的に閾値T1以下となり、その輝度値の円中心座標が用いられて、光軸中心座標が決定される事態を避けることができる。なお、閾値T2の値は、レンズ36、照明部12、注目輝度値の間隔などに依存するため、予め実験等を通じて設定しておいてもよい。
図5のグラフ300では、低輝度な領域301,302において、連続する3個以上の注目輝度値で、変動量が1画素以下となっている区間303,304が存在している。光軸中心決定手段66は、これらの区間303,304を抽出する。
また、光軸中心決定手段66は、円中心座標の変動量が閾値T1以下である注目輝度値の円中心座標のうち、より大きい注目輝度値の円中心座標を優先して用いて光軸中心座標を決定する。具体的には、図5に示すように、抽出された連続区間が2つある(区間303および区間304)場合には、注目輝度値が最大の連続区間である区間304が選択され、区間304に含まれている連続するT2個以上の注目輝度値の円中心座標が抽出される。そして、この抽出した円中心座標から光軸中心座標を決定する。これにより、ケラレ境界付近の画像領域の注目輝度値(図5の区間303、注目輝度値が小さい区間)の円中心座標が排除されて、光軸中心座標が決定されることになる。換言すれば、図5の区間302よりもケラレのボケから生じる減光の影響を強く受けている可能性があるケラレ付近の画像領域(図2の領域111a及び111b)の注目輝度値(図5の区間301)を除いて、高精度に光軸中心座標を決定することができる。
光軸中心決定手段66は、抽出した円中心座標の平均値を算出することで、光軸中心座標を決定する。図5に示すグラフ300の場合には、区間304にある注目輝度値の円中心座標の平均値を算出し、その平均値を光軸中心座標とする。光軸中心決定手段66は、光軸中心座標を含めた校正情報を生成する。この際、光軸中心決定手段66は、画像の中心座標から光軸中心座標までの距離(ズレ量)をさらに算出して、ズレ量を含ませた校正情報を生成してもよい。光軸中心決定手段66は、決定した光軸中心座標を含めた校正情報を通信部16の校正情報出力手段52に出力する。
校正情報出力手段52は、光軸中心決定手段66から入力された校正情報を、出力部22に出力する。出力部22は、入力された校正情報を表示し、検査員に伝達する。検査員は表示された光軸中心座標を読み取って、光軸中心座標を画像監視装置に設定する。なお、校正情報にズレ量を含ませる場合には、検査員は、表示されたズレ量を読み取って、或いは、さらにズレ量を統計分析して、カメラ14の製造精度をレポートすることができる。
次に、カメラ校正装置10が実行する詳細な処理の流れについて説明する。
図6,図7は、本実施形態におけるカメラ校正装置10が実行する処理の流れを示すフローチャートである。まず、照明部12において、積分球30の内部は2つの光源32によって照らされた状態にされる。積分球30の内部の照明強度分布は均一になっており、カメラ14は、その積分球30の内部を撮像して撮像画像を出力する。図6,図7のフローは、その状態で開始される。
図6に示すように、まず、S100で、通信部16は画像取得手段50として機能して撮像画像を取得し、撮像画像を画像処理部18へ出力する。
撮像画像を受け取った画像処理部18は、等輝度画像生成手段60および円中心算出手段62(重心算出手段)として機能し、注目輝度値を順次設定してS102〜S112の処理を繰り返し行う。S102で、等輝度画像生成手段60は、撮像画像の中の輝度範囲において注目輝度値を設定する。注目輝度値の設定範囲は、例えば、65535から−300刻みで0までとする。或いは、例えば、49200から−300刻みで4500までとする。画像処理部18は、S102で注目輝度値を設定して、S104〜S112の処理を実行し、再びS102に戻って、注目輝度値を300だけ減じて再びS104〜S112の処理を実行する。画像処理部18は、この一連の処理を繰り返す。
S104で、等輝度画像生成手段60は、カラー画像の撮像画像をモノクロ化し、モノクロ化した撮像画像から注目輝度値を抽出して等輝度画像を生成する。
次に、S106で、画像処理部18は円中心算出手段62(重心算出手段)として機能し、等輝度画像において注目輝度値の画素の重心座標を算出する。具体的には、等輝度画像を用いて、円を検出する注目輝度値の画素の位置を円で近似すると共に、その円の円中心座標を重心座標として算出する。そして、円中心算出手段62は、算出した円中心座標を注目輝度値と対応付ける。
次に、S108で、円中心算出手段62は、等輝度画像から円が検出されたかを確認する。円が検出された場合(S108:Yes)には、その円の円中心座標を注目輝度値と対応付けて記憶部20に記録する(S110)。一方、円が検出されなかった場合(S108:No)には、S110は省略される。次に、S112で、画像処理部18は、注目輝度値が最小輝度値に達したか、すなわち、最小輝度値の等輝度画像まで処理を行ったかを確認する。注目輝度値が最小輝度値に達していた場合(S112:Yes)には、図7のS114に進む。一方、注目輝度値が最小輝度値に達していない場合(S112:No)には、S102に戻って次の注目輝度値を処理する。
次に、図7のS114で、画像処理部18は変動量算出手段64として機能し、注目輝度値ごとの円中心座標から注目輝度値に対する円中心座標の変動量を算出する。具体的には、上記した(数1)式により変動量ΔCnを算出する。なお、(数1)式において、円近似することができなかったことにより記録の無い円中心座標Cn-1,CnまたはCn+1がある場合には、それらを算出要素に含む変動量ΔCnは算出せずに、値を無しとしておく。
S114の後はS116に進む。S116で、画像処理部18は光軸中心決定手段66として機能し、S114で算出した変動量のそれぞれを閾値T1と比較して、閾値T1以下である変動量を抽出する。これにより、ノイズ等の影響を受けやすい撮像画像の中心付近の画素位置(図2の領域113)の画素に基づいて得られた円中心座標が排除されて、光軸中心座標が決定されることになる。
次に、S118で、光軸中心決定手段66は、S116で抽出した変動量と対応付いた注目輝度値のうち、所定の輝度値の幅にある注目輝度値の円中心座標を抽出する。具体的には、円中心座標の変動量が閾値T1以下である輝度値(注目輝度値)であって、輝度値が閾値T2個以上連続している連続区間の輝度値の円中心座標を抽出する。このように円中心座標を抽出することにより、例えば、ノイズ等の影響によって、ある注目輝度値の円中心座標の変動量が離散的に閾値T1以下となり、その注目輝度値の円中心座標が用いられて、光軸中心座標が決定される事態を避けることができる。
次に、S120で、光軸中心決定手段66は、S118で抽出した連続区間が複数個あるかを確認する。連続区間が複数個ある場合(S120:Yes)には、注目輝度値が最大の連続区間を選択する(S122)。そして、光軸中心決定手段66は、この選択した連続区間の注目輝度値の円中心座標から光軸中心座標を決定する。これにより、ケラレのボケから生じる減光の影響を強く受けている可能性があるケラレ付近の区間を除いて、高精度に光軸中心座標を決定することができる。
一方、図7のS120で、光軸中心決定手段66は、複数の連続区間がなかった場合(S120:No)には、S122を省略する。次に、S124で、光軸中心決定手段66は、S122で選択した連続区間の注目輝度値の円中心座標、或いは、複数の連続区間がなかった場合にはS118で抽出された連続区間の注目輝度値の円中心座標から光軸中心座標を算出する。具体的には、連続区間の注目輝度値の円中心座標の平均を算出し、その平均値を光学中心座標と決定する。換言すれば、連続区間に含まれる全ての円中心座標の平均値を光軸中心座標として算出する。
S124の後はS126に進む。S126で、光軸中心決定手段66は、決定した光軸中心座標を含めた校正情報を生成する。光軸中心決定手段66は、校正情報を通信部16の校正情報出力手段52に出力する。校正情報出力手段52は、画像処理部18の光軸中心決定手段66から入力された校正情報を、出力部22に出力する。出力部22は、入力された校正情報を表示し、検査員に伝達する。検査員は表示された光軸中心座標を読み取って、光軸中心座標を画像監視装置に設定する。
以上説明した本実施形態のカメラ校正装置10によれば、撮像素子の中心と光軸中心のアライメントずれ、ケラレの像のボケ、または鏡筒のアライメントずれがあっても、撮像した画像における光軸中心座標を正確に算出することができる。
なお、以上説明した実施形態のカメラ校正装置10では、円中心座標の変動量が閾値T1以下である輝度値の円中心座標から、さらに、図7のS118〜S122の処理を行って、光軸中心座標の算出に用いる円中心座標を選んだ。しかし、S118〜S122の処理を省略して、円中心座標の変動量が閾値T1以下である輝度値の円中心座標から光軸中心座標を算出してもよい。この場合であっても、少なくとも、レンズ中心付近の画像領域から検出された不安定な円の円中心座標を確実に排除して、光軸中心座標を算出することができる。
以上説明した実施形態のカメラ校正装置10は、等輝度画像における注目輝度値の画素の位置を円で近似して当該円の円中心座標を重心座標として算出した。しかし、重心座標は円中心座標でなくても良い。例えば、等輝度画像の注目輝度値の画素の中から互いに略等間隔に位置が離れた数個(例えば3個)の画素を選択し、それらの選択した画素の位置の重心を重心座標として算出しても良い。また、例えば、等輝度画像の注目輝度値の画素の位置を多角形(例えば六角形)に近似すると共に、その多角形の重心となる座標を重心座標として算出しても良い。
以上説明した実施形態のカメラ校正装置10は、変動量算出手段64が、注目輝度値に対する円中心座標の変動量を算出した。そして、光軸中心決定手段66が、円中心座標のうちの円中心座標の変動量が閾値T1以下である注目輝度値における円中心座標から光軸中心座標を決定した。しかし、変動量算出手段64が、円の大きさに対する円中心座標の変動量を算出してもよい。そして、光軸中心決定手段66が、円中心座標のうち円中心座標の変動量が所定値以下である円の大きさにおける円中心座標から光軸中心座標を決定してもよい。図2に示すように、円の大きさが大きい等輝度線(例えば、等輝度線104)の注目輝度値は低く、円の大きさが小さい等輝度線(例えば、等輝度線103)の注目輝度値は高い。このように、円の大きさと注目輝度値とは対応関係があるため、上記で説明した実施形態の「注目輝度値」を「円の大きさ」に置き換えた実施形態を考えることができる。次に、この「注目輝度値」を「円の大きさ」に置き換えた実施形態(以下、「円の大きさの実施形態」と言う)について説明する。
等輝度画像生成手段60は、撮像画像に含まれる複数の注目輝度値ごとに、撮像画像から注目輝度値を有する画素を抽出して等輝度画像を生成する。この時点までは、上記の実施形態(以下、「輝度値の実施形態」と言う)と同じである。円中心算出手段62は、等輝度画像のそれぞれにおいて注目輝度値の画素の位置を円で近似すると共に、当該円の大きさ(ここでは、半径とする)と円中心座標とを算出し、円の大きさと円中心座標とを対応付ける。円の半径と円中心座標とは、「輝度値の実施形態」と同様に、等輝度画像にハフ変換を施すことで導出される。次に、変動量算出手段64は、円の大きさに対する円中心座標の変動量を算出する。具体的には、変動量を算出する対象の円の半径(以下、「対象の円の半径」と言う)の円中心座標と、「対象の円の半径」に隣り合う(半径の大きさにおいて隣り合う)2つの円の半径の円中心座標の各々との距離(第1距離および第2距離)を算出し、それら第1距離と第2距離との和を、「対象の円の半径」の円中心座標の変動量として算出する。すなわち、変動量の算出方法は、上記の「輝度値の実施形態」の(数1)式と同様である。
そして、光軸中心決定手段66は、円中心座標のうち円中心座標の変動量が閾値T1以下である円の半径(円の大きさ)における円中心座標から光軸中心座標を決定する。なお、「輝度値の実施形態」では、図5に示したグラフは横軸が注目輝度値となっていたが、「円の大きさの実施形態」では、図5に示すグラフは、横軸が円の半径となる。そして、図5に示すグラフは、算出した円の半径ごとの変動量ΔCnがプロットされることになる。また、輝度値が高くなる程、円の大きさは小さくなる傾向がある為、「輝度値の実施形態」における図5に対応させたグラフとする場合には、グラフの横軸の左から右に向かって、円の半径が小さくなるように目盛を配置する。
光軸中心決定手段66は、「輝度値の実施形態」と同様に、円中心座標のうち円中心座標の変動量が閾値T1以下である円の大きさにおける円中心座標から光軸中心座標を決定する。また、光軸中心決定手段66は、「輝度値の実施形態」と同様に、変動量が閾値T1以下である円中心座標のうち、所定の円の大きさの幅における円中心座標から光軸中心座標を決定する。具体的には、円中心座標の変動量が閾値T1以下である円の半径であって、円の半径が閾値T2[個(回)]以上連続している領域の円中心座標を抽出し、この抽出した円中心座標から光軸中心座標を決定する。例えば、光軸中心決定手段66は、閾値T2=3として、円の半径が3個以上連続している連続区間における円の半径の円中心座標を抽出し、この抽出した円中心座標から光軸中心座標を決定する。また、光軸中心決定手段66は、「輝度値の実施形態」と同様に、変動量が閾値T1以下である円中心座標のうち、より小さい円の円中心座標を優先して用いて光軸中心座標を決定する。すなわち、「円の大きさの実施形態」において、図5のように、抽出された連続区間が2つある(区間303と区間304)場合には、円の半径が最小の連続区間が選択され(図5において、グラフの横軸の左から右に向かって円の半径が小さくなるように目盛が配置されている場合には、区間304が選択され)、選択された連続区間の円の半径の円中心座標を用いて光学中心座標を決定する。詳細には、選択された連続区間の円の半径の円中心座標の平均値を光軸中心座標と決定する。このように、光軸中心決定手段66は、変動量が閾値T1以下である円中心座標のうち、円の大きさが最小の円から算出した円中心座標を含む区間から光軸中心座標を決定する。
以上説明した「円の大きさの実施形態」のカメラ校正装置10においても、撮像素子の中心と光軸中心のアライメントずれ、ケラレの像のボケ、または鏡筒のアライメントずれがあっても、撮像した画像における光軸中心座標を正確に算出することができる。
なお、以上説明した「円の大きさの実施形態」のカメラ校正装置10では、円中心座標の変動量が閾値T1以下である円の大きさの円中心座標から、さらに、閾値T2等を用いて、光軸中心座標の算出に用いる円中心座標を選んだ。しかし、その選ぶ処理を省略して、円中心座標の変動量が閾値T1以下である円の大きさの円中心座標から光軸中心座標を算出してもよい。この場合であっても、少なくとも、レンズ中心付近の画像領域から検出された不安定な円の円中心座標を確実に排除して、光軸中心座標を算出することができる。
以上説明した実施形態では、照明部12は積分球30を利用したものであったが、均一発光面照明等を用いて、カメラ14に略均一な入射光を撮像させてもよい。以上の実施形態ではカメラ14は監視カメラであったが、カメラ14はスチルカメラ、ビデオカメラ等であってもよい。また、以上の実施形態ではレンズ36は魚眼レンズであったが、レンズ36は広角レンズや望遠レンズであってもよい。また、以上の実施形態では撮像画像はカラー画像であったが、撮像画像はモノクロ画像であってもよい。
また、以上説明した実施形態では、等輝度画像生成手段60は、カラー画像をモノクロ化してその濃淡値を用いたが、カラー画像のR成分、G成分またはB成分等の成分値を用いてもよい。ただし、光源に含まれる成分を用いる必要がある。
また、以上説明した実施形態では、円中心算出手段62は、ハフ変換を用いて円中心座標を算出したが、最小二乗法によって円中心座標を算出してもよい。等輝度画像において、最小二乗法により、注目輝度値を有する画素群の座標を近似する円の方程式を導出する。また、円中心算出手段62は、パターンマッチングによって円中心座標を算出してもよい。画像中心付近に複数の円中心候補を設定すると共に、各円中心候補に対して複数の半径候補を設定する。そして、円中心候補と半径候補の組み合わせごとに、円中心候補を中心とし、半径候補を半径とする円パターン画像を生成する。そして、円パターン画像と等輝度画像のそれぞれの一致度を算出し、最も一致度の高い組み合わせにおける円中心候補を、その等輝度画像の円中心座標として出力することができる。
また、以上説明した実施形態では、変動量算出手段64が、注目輝度値または円の大きさが連続する3つの円中心座標を用いて第1距離と第2距離とを求め、第1距離と第2距離との和を変動量として算出した。しかし、3つに限らず、4つ、5つ等その他の数の円中心座標を用いて、距離の総和を求め、その総和した値を変動量としてもよい。或いは、注目輝度値の間隔を広くした場合等においては、注目輝度値または円の大きさが連続する2つの円中心座標の距離を変動量としてもよい。
また、変動量算出手段64は、円中心座標の変動量として、円中心座標の距離に代えて、円中心座標の分散を算出してもよい。この場合、変動量算出手段64は、注目輝度値または円の大きさの範囲に複数の区間を設定して、各区間に含まれる注目輝度値または円の大きさの円中心座標の分散を算出する。この際、区間はオーバーラップさせてもよい。
また、以上説明した「円の大きさの実施形態」では、変動量算出手段64は、円の大きさを表す尺度として半径を用いたが、半径に代えて直径、円周長、注目輝度値を有する画素数(円周長に準ずる値)、面積、または注目輝度値を有する画素に囲まれた領域の画素数(面積に準ずる値)等を用いてもよい。
また、カメラ校正装置10は、画像監視装置に組み込まれていてもよい。その場合、画像処理部18および記憶部20を、画像監視装置と共用にしてもよい。光軸中心決定手段66は、決定した光軸中心座標を記憶部20に記憶させ、画像監視装置は、記憶部20にある光軸中心座標を用いることができる。
また、以上説明した「輝度値の実施形態」では、光軸中心決定手段66は、輝度値が最大の円中心座標を含む区間を選択した(図7のS122)。また、「円の大きさの実施形態」では、光軸中心決定手段66は、円の大きさが最小の円中心座標を含む区間を選択した。しかし、これに限らず割合や個数に基づいて選択することもできる。その場合、例えば、光軸中心決定手段66は、連続した閾値T2個以上の注目輝度値について、変動量が閾値T1以下である区間が複数抽出された場合に、注目輝度値が大きいものから順に所定割合(例えば50%など)の個数の円中心座標を選択する、或いは、所定割合を超えない範囲で規定個数(例えば10個)を選択してもよい。また、輝度値に代えて円の大きさを用いる場合も同様にして、例えば、光軸中心決定手段66は、連続した閾値T2個以上の円の大きさについて変動量が閾値T1以下である区間が複数抽出された場合に、円の大きさが小さいものから順に所定割合の個数の円中心座標を選択する、或いは所定割合を超えない範囲で規定個数を選択してもよい。
また、以上説明した実施形態では、光軸中心決定手段66は、選択した円中心座標の平均値を光軸中心座標とした。しかし、これに限らず他の代表値を光軸中心座標とすることができる。例えば、光軸中心決定手段66は、選択した円中心座標の中央値を光軸中心座標としてもよい。或いは、選択した円中心座標の数が所定個数以上であり多い場合は、光軸中心決定手段66は、最頻値の円中心座標を光軸中心座標としてもよい。
1 カメラ校正システム、10 カメラ校正装置、12 照明部、14 カメラ、16 通信部、18 画像処理部、20 記憶部、22 出力部、30 積分球、32 光源、34 鏡筒、36 レンズ、38 撮像素子、40 A/D変換器、42 信号処理部、50 画像取得手段、52 校正情報出力手段、60 等輝度画像生成手段(等輝度画素抽出手段)、62 円中心算出手段(重心算出手段)、64 変動量算出手段、66 光軸中心決定手段。
校正対象のカメラ14は、入射光を撮像素子へ集光するレンズ36と、光を電圧に変換する撮像素子38と、撮像素子38のアナログ電圧をデジタル信号に変換するA/D変換部40と、デジタル信号を画像化して撮像画像を生成する信号処理部42とを備えている。本実施形態のカメラ14は、監視カメラである。また、本実施形態のレンズ36は、魚眼レンズである。レンズ36は、鏡筒34に収容されている。撮像素子38は、CCD(Charge Coupled Device)やCMOS(Complementary MetalOxideSemiconductor)素子等である。カメラ14は、所定の通信線により外部の通信部16に接続されている。

Claims (6)

  1. カメラにより撮像した画像における当該カメラの光軸中心座標を算出するカメラ校正装置であって、
    前記カメラにより略均一な入射光を撮像した撮像画像を取得する画像取得手段と、
    前記撮像画像に含まれる複数の注目輝度値ごとに、前記撮像画像から前記注目輝度値を有する画素を抽出する等輝度画素抽出手段と、
    前記注目輝度値ごとに、前記等輝度画素抽出手段が抽出した画素の重心座標を算出する重心算出手段と、
    前記注目輝度値に対する前記重心座標の変動量を算出する変動量算出手段と、
    前記重心座標のうち前記変動量が所定値以下である重心座標から前記光軸中心座標を決定する光軸中心決定手段と、を備える、
    ことを特徴とするカメラ校正装置。
  2. 請求項1に記載のカメラ校正装置であって、
    前記重心算出手段は、前記注目輝度値ごとに、前記等輝度画素抽出手段が抽出した画素の位置を円で近似し、当該円の円中心座標を前記重心座標として算出する円中心算出手段である、
    ことを特徴とするカメラ校正装置。
  3. 請求項1または2に記載のカメラ校正装置であって、
    前記光軸中心決定手段は、前記注目輝度値に対する前記変動量が所定値以下である重心座標のうち、注目輝度値が所定の輝度値の幅にある重心座標から前記光軸中心座標を決定する、
    ことを特徴とするカメラ校正装置。
  4. 請求項1から3のいずれか一項に記載のカメラ校正装置であって、
    前記光軸中心決定手段は、前記注目輝度値に対する前記変動量が所定値以下である重心座標のうち、より大きい注目輝度値の重心座標を優先して用いて前記光軸中心座標を決定する、
    ことを特徴とするカメラ校正装置。
  5. カメラにより撮像した画像における当該カメラの光軸中心座標を算出するカメラ校正装置であって、
    前記カメラにより略均一な入射光を撮像した撮像画像を取得する画像取得手段と、
    前記撮像画像に含まれる複数の注目輝度値ごとに、前記撮像画像から前記注目輝度値を有する画素を抽出する等輝度画素抽出手段と、
    前記注目輝度値ごとに前記等輝度画素抽出手段が抽出した画素の位置を円近似して当該円の大きさと円中心座標とを算出する円中心算出手段と、
    前記円の大きさに対する前記円中心座標の変動量を算出する変動量算出手段と、
    前記円中心座標のうち前記変動量が所定値以下である円の大きさにおける円中心座標から前記光軸中心座標を決定する光軸中心決定手段と、を備える、
    ことを特徴とするカメラ校正装置。
  6. 請求項1から5のいずれか一項に記載のカメラ校正装置であって、
    前記光軸中心決定手段は、前記変動量が所定値以下である注目輝度値における重心座標、又は、前記変動量が所定値以下である円の大きさにおける円中心座標の平均値を前記光軸中心座標に決定する、
    ことを特徴とするカメラ校正装置。
JP2017063790A 2017-03-28 2017-03-28 カメラ校正装置 Active JP6482589B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017063790A JP6482589B2 (ja) 2017-03-28 2017-03-28 カメラ校正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017063790A JP6482589B2 (ja) 2017-03-28 2017-03-28 カメラ校正装置

Publications (2)

Publication Number Publication Date
JP2018166308A true JP2018166308A (ja) 2018-10-25
JP6482589B2 JP6482589B2 (ja) 2019-03-13

Family

ID=63923030

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017063790A Active JP6482589B2 (ja) 2017-03-28 2017-03-28 カメラ校正装置

Country Status (1)

Country Link
JP (1) JP6482589B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111182289A (zh) * 2019-12-31 2020-05-19 苏州精速智能科技有限公司 一种镜筒缺口的搜索方法
CN112965261A (zh) * 2021-02-23 2021-06-15 山东仕达思医疗科技有限公司 一种快速有效的基于机器视觉的智能校正显微镜光轴的方法及其实现系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007171455A (ja) * 2005-12-21 2007-07-05 Olympus Corp 撮像装置
JP2007315982A (ja) * 2006-05-29 2007-12-06 Hioki Ee Corp 測定装置および検査装置
JP2009130395A (ja) * 2007-11-19 2009-06-11 Sharp Corp 撮像装置および電子情報機器
KR20140035190A (ko) * 2012-09-13 2014-03-21 엘지이노텍 주식회사 카메라 모듈의 렌즈 중심부 측정장치 및 방법
JP2014096736A (ja) * 2012-11-09 2014-05-22 Sharp Corp レンズ一体型撮像装置の製造方法および製造装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007171455A (ja) * 2005-12-21 2007-07-05 Olympus Corp 撮像装置
JP2007315982A (ja) * 2006-05-29 2007-12-06 Hioki Ee Corp 測定装置および検査装置
JP2009130395A (ja) * 2007-11-19 2009-06-11 Sharp Corp 撮像装置および電子情報機器
KR20140035190A (ko) * 2012-09-13 2014-03-21 엘지이노텍 주식회사 카메라 모듈의 렌즈 중심부 측정장치 및 방법
JP2014096736A (ja) * 2012-11-09 2014-05-22 Sharp Corp レンズ一体型撮像装置の製造方法および製造装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111182289A (zh) * 2019-12-31 2020-05-19 苏州精速智能科技有限公司 一种镜筒缺口的搜索方法
CN112965261A (zh) * 2021-02-23 2021-06-15 山东仕达思医疗科技有限公司 一种快速有效的基于机器视觉的智能校正显微镜光轴的方法及其实现系统

Also Published As

Publication number Publication date
JP6482589B2 (ja) 2019-03-13

Similar Documents

Publication Publication Date Title
JP6866365B2 (ja) ステレオカメラと構造化光とを用いたヘッドマウントディスプレイを伴う奥行きマッピング
JP7262021B2 (ja) 奥行取得装置、奥行取得方法およびプログラム
JP6566768B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6553624B2 (ja) 計測機器、及びシステム
KR20070045126A (ko) 이미지 신호 처리 방법 및 장치
JP2003244521A (ja) 情報処理方法、装置および記録媒体
JP2009187135A (ja) 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法
JP6556013B2 (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体
JP4389602B2 (ja) 物体検出装置、物体検出方法、プログラム
CN108632604B (zh) 镜头光心的检测方法及装置
JP6482589B2 (ja) カメラ校正装置
US20190051005A1 (en) Image depth sensing method and image depth sensing apparatus
JP6452361B2 (ja) 情報処理装置、情報処理方法、プログラム
JP6585668B2 (ja) 物体検出装置
KR102156998B1 (ko) 비디오 시퀀스에서 모션을 감지하기 위한 방법
JP3888528B2 (ja) 液面認識処理装置及び液面監視システム
KR20150009842A (ko) 카메라 모듈용 결함 픽셀 평가 시스템 및 이를 사용한 카메라 모듈용 결함 픽셀 평가 방법
KR102195072B1 (ko) 열화상 카메라 시스템 및 그 구동 방법
JP2008058279A (ja) 距離画像生成装置、距離画像生成方法及びプログラム
JP6561479B2 (ja) 色シェーディング補正が可能な撮像装置
JP2020129187A (ja) 外形認識装置、外形認識システム及び外形認識方法
CN115423804B (zh) 影像标定方法及装置、影像处理方法
US20210088456A1 (en) Deposit detection device and deposit detection method
JP6332703B2 (ja) 空間認識装置
JP7039221B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190212

R150 Certificate of patent or registration of utility model

Ref document number: 6482589

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250