JPWO2017169491A1 - 撮像装置及びフォーカス制御方法 - Google Patents

撮像装置及びフォーカス制御方法 Download PDF

Info

Publication number
JPWO2017169491A1
JPWO2017169491A1 JP2018508842A JP2018508842A JPWO2017169491A1 JP WO2017169491 A1 JPWO2017169491 A1 JP WO2017169491A1 JP 2018508842 A JP2018508842 A JP 2018508842A JP 2018508842 A JP2018508842 A JP 2018508842A JP WO2017169491 A1 JPWO2017169491 A1 JP WO2017169491A1
Authority
JP
Japan
Prior art keywords
unit
imaging
focus
region
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018508842A
Other languages
English (en)
Other versions
JP6462183B2 (ja
Inventor
渡辺 幹夫
幹夫 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP6462183B2 publication Critical patent/JP6462183B2/ja
Publication of JPWO2017169491A1 publication Critical patent/JPWO2017169491A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/38Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals measured at different points on the optical axis, e.g. focussing on two or more planes and comparing image data
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • G03B13/20Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/40Systems for automatic generation of focusing signals using time delay of the reflected waves, e.g. of ultrasonic waves
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/006Apparatus mounted on flying objects
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B33/00Colour photography, other than mere exposure or projection of a colour film
    • G03B33/10Simultaneous recording or projection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Accessories Of Cameras (AREA)

Abstract

被写体の形状が複雑及び単純のいずれの形状であっても、被写体の所望の箇所に適切に合焦させることができる撮像装置及びフォーカス制御方法を提供する。フォーカスポイントを基準にした第1の領域における複数ポイントの距離値を計測する測距部(56)と、計測された複数ポイントの距離値の第1の領域におけるばらつきを示す統計量を算出する統計部(58)と、算出された統計量に基づいて、フォーカスポイントを基準にした第2の領域のサイズを決定するサイズ決定部(60)と、第2の領域の画像に基づいてコントラスト評価値を算出するコントラスト評価値算出部(62)と、算出されたコントラスト評価値に基づいて決定されたレンズ位置にフォーカスレンズを移動させるフォーカス部(64)を備える。

Description

本発明は、被写体の形状が複雑及び単純のいずれの形状であっても、被写体の所望の箇所に適切に合焦させることができる撮像装置及びフォーカス制御方法に関する。
従来、画像のコントラストが最大になるフォーカスレンズ位置を探索して合焦を行うコントラストAF(autofocus)において、画像内のコントラスト評価用フォーカスエリア(「フォーカスエリア」ともいう)に距離が異なる複数の被写体像が存在すると、遠側の被写体像の影響を受けて近側の被写体像に適切に合焦することが困難であるという複数被写体の遠近競合の問題があり、このような遠近競合の問題に対し各種の技術が提供されてきた。
特許文献1には、人の顔を検出し、その検出領域を優先的に測距することにより、人の顔に確実にピントを合わせることができる技術が記載されている。
特許文献2には、無限遠から至近までの広い範囲でフォーカスレンズを速い速度で移動させてピークポジションを取得する第1のスキャン(ピークポジション取得スキャン)を行って複数被写体の遠近競合を検出し、遠近競合が検出された場合には、至近被写体又は顔のピークポジションを中心とした狭い範囲でフォーカスレンズを遅い速度で移動させてピークポジションを再取得する第2のスキャン(合わせ込みスキャン)を行う技術が記載されている。顔が検出されている場合には、その顔のサイズに合わせて測距エリアを変更することができる。
特許文献3には、位相差検出画素群を備えた撮像素子を用いて、複数の位相差検出エリアを含むコントラスト評価領域内で複数被写体の遠近競合を検出し、遠近競合が検出された場合には、最至近の被写体及び二番目に至近の被写体の位相差検出エリアを含み、かつ他の位相差検出エリアを含まないようにコントラスト評価領域を変更することが記載されている。
特許文献4には、ステレオカメラを用いて、距離検出領域内で複数被写体の遠近競合を検出し、遠近競合が検出された場合には、距離が等しい被写体のみが存在するように距離検出領域を変更し、その距離検出領域のコントラストが最高となるように像回復処理を行うことが記載されている。
特開2001−304855号公報 特開2014−123069号公報 特開2009−115893号公報 特開2014−215506号公報
しかしながら、被写体の形状が複雑及び単純のいずれの形状であっても、被写体の所望の箇所に適切に合焦できるようにすることは、困難である。
特許文献1、2に記載された技術では、顔を検出してその顔にピントを合わせることは可能であるが、顔以外の被写体に適切にピントを合わせることができない。つまり、特定の被写体の輪郭あるいは部品(例えば人の目、鼻、口)の形状及び検出アルゴリズムを予め記憶しておき、その記憶した情報に基づいて特定の被写体を検出してピントを合わせることは可能であるが、あらゆる被写体の形状及び検出アルゴリズムを予め記憶しておくことは現実的ではないため、任意の被写体の所望の箇所に適切にピントを合わせることは困難である。
また、特許文献2、3に記載された技術では、図19に示すような凹凸が激しい複雑な形状を持つ被写体を撮影する場合、高解像度で撮影したい注目箇所92よりも手前側にコントラストが高い非注目箇所94が存在すると、その非注目箇所94に合焦してしまい奥側の注目箇所92がボケしまうことになる。
また、図20に示すような、平坦な形状の被写体を撮影する場合、照明等の光の反射の影響を回避して適切なコントラスト評価を行うためには、フォーカスエリアを広くとる必要がある。
特許文献4に記載された技術では、高解像度で撮影したい注目箇所よりも手前側に非注目箇所が存在する場合、その非注目箇所のコントラストが最高となるように像回復処理が行われるが、奥側の注目箇所に対しては適切に像回復処理が行われない可能性がある。また、コントラストAFを行わないので、例えばコンクリート材及び鋼材に生じる微細な損傷(例えば幅0.1mm程度の細いひび割れ又は亀裂)を適切に認識可能な画像を得られない可能性がある。
本発明はこのような事情に鑑みてなされたもので、被写体の形状が複雑及び単純のいずれの形状であっても、被写体の所望の箇所に適切に合焦させることができる撮像装置及びフォーカス制御方法を提供することを目的とする。
上述した目的を達成するため、本発明の第1の態様に係る撮像装置は、フォーカスレンズを含む光学系を介して被写体を撮像する撮像部と、撮像により得られる画像内の第1の領域であってフォーカスポイントを基準にした第1の領域における複数ポイントの距離値を計測する測距部と、計測された複数ポイントの距離値の第1の領域におけるばらつきを示す統計量を算出する統計部と、算出された統計量に基づいて、画像内のコントラスト評価値の算出に用いる第2の領域であってフォーカスポイントを基準にした第2の領域のサイズを決定するサイズ決定部と、フォーカスレンズを複数のレンズ位置のそれぞれに移動させて撮像された画像内の第2の領域の画像に基づいて、レンズ位置ごとにコントラスト評価値を算出するコントラスト評価値算出部と、算出されたコントラスト評価値に基づいて決定されたレンズ位置に、フォーカスレンズを移動させるフォーカス部と、を備える。
本態様によれば、フォーカスポイントを基準にした第1の領域における距離値のばらつきに応じて、フォーカスポイントを基準にした第2の領域のサイズが決定され、その第2の領域内の画像に基づいてコントラスト値が算出されるので、複雑な形状の被写体を撮影する場合、比較的単純でも非平坦な形状の被写体を撮影する場合、及び平坦な形状の被写体を撮影する場合のいずれであっても、被写体の所望の箇所に適切に合焦させることができる。
本発明の第2の態様に係る撮像装置では、サイズ決定部は、統計量によって示されるばらつきが大きいほど第2の領域のサイズを小さくする。本態様によれば、被写体の形状の複雑さの程度に応じて第2の領域のサイズが決定されるので、被写体の形状の複雑さの程度に応じて適切にピントを合わせることが可能になる。
本発明の第3の態様に係る撮像装置では、サイズ決定部は、統計量によって示されるばらつきが小さいほど第2の領域のサイズを大きくする。本態様によれば、被写体の形状の単純さの程度に応じて第2の領域のサイズが決定されるので、被写体の形状の単純さの程度に応じて適切にピントを合わせることが可能になる。
本発明の第4の態様に係る撮像装置では、統計部は、統計量として、第1の領域における複数ポイントの距離値の分散又は標準偏差を算出する。
本発明の第5の態様に係る撮像装置では、統計部は、複数ポイントの距離値のうち、第1の領域内の平均値、第1の領域内の最頻値、及び第1の領域内の平坦面の距離値のうちいずれかの距離値を中心として、統計量を算出する。
本発明の第6の態様に係る撮像装置では、コントラスト評価値算出部は、指示入力されたフォーカスポイント又はフォーカスポイントの近傍を中心とした第2の領域でコントラストを評価する。
本発明の第7の態様に係る撮像装置では、第1の領域における複数ポイントの距離値に基づいて、第1の領域のうち第2の領域から排除する排除領域を判別する領域判別部を備える。本態様によれば、更に精度良くピントを合わせることが可能になる。
本発明の第8の態様に係る撮像装置では、撮像部の撮像方向をパン方向、チルト方向及びロール方向のうち少なくとも一方向において制御する撮像方向制御部を備え、撮像方向制御部は、フォーカスポイントに基づいて、撮像部の撮像方向を制御する。
本発明の第9の態様に係る撮像装置では、測距部は、ステレオ画像により測距を行うステレオカメラ、及び、光により測距を行う光測距装置のうちいずれかである。
本発明の第10の態様に係る撮像装置では、撮像部は、点検対象の構造物を撮像し、フォーカスポイントとして、点検対象の構造物の要点検箇所を示す指示入力を受付ける。
本発明の第11の態様に係るフォーカス制御方法では、フォーカスレンズを含む光学系を介して撮像部により被写体を撮像して得られる画像内の第1の領域であってフォーカスポイントを基準にした第1の領域における複数ポイントの距離値を計測するステップと、計測された複数ポイントの距離値の第1の領域におけるばらつきを示す統計量を算出するステップと、算出された統計量に基づいて、コントラスト評価値の算出に用いる第2の領域であってフォーカスポイントを基準にした第2の領域のサイズを決定するステップと、フォーカスレンズを複数のレンズ位置のそれぞれに移動させて撮像された画像内の第2の領域の画像に基づいて、レンズ位置ごとにコントラスト評価値を算出するステップと、算出されたコントラスト評価値に基づいて決定されたレンズ位置に、フォーカスレンズを移動させるステップと、を含む。
本発明よれば、被写体の形状が複雑及び単純のいずれの場合であっても、被写体の所望の箇所に適切に合焦させることができる。
図1は、第1の実施形態における撮像装置の構成例を示すブロック図である。 図2は、第1の実施形態におけるフォーカス制御処理例の流れを示すフローチャートである。 図3は、第1の実施形態におけるフォーカスポイントの指示入力例の説明に用いる説明図である。 図4は、複雑な形状の被写体におけるフォーカスポイント、第1の領域及び第2の領域の例を示す説明図である。 図5は、比較的単純な形状であるが非平坦な形状の被写体におけるフォーカスポイント、第1の領域及び第2の領域の例を示す説明図である。 図6は、平坦な形状の被写体におけるフォーカスポイント、第1の領域及び第2の領域の例を示す説明図である。 図7は、図4に示した複雑な形状の被写体における距離値のばらつき例を示すグラフである。 図8は、図5に示した比較的単純であるが非平坦な形状の被写体における距離値のばらつき例を示すグラフである。 図9は、図6に示した平坦な形状の被写体における距離値のばらつき例を示すグラフである。 図10は、第2の実施形態における撮像装置の構成例を示すブロック図である。 図11は、第2の実施形態におけるフォーカス制御処理例の流れを示すフローチャートである。 図12は、第2の実施形態におけるフォーカスポイントの指示入力例の説明に用いる説明図である。 図13は、第3の実施形態における撮像装置の構成例を示すブロック図である。 図14は、第4の実施形態における撮像装置の構成例を示すブロック図である。 図15は、第5の実施形態における撮像装置の構成例を示すブロック図である。 図16は、第5の実施形態におけるフォーカス制御処理例の流れを示すフローチャートである。 図17は、スマートフォンの外観図である。 図18に示すスマートフォンの構成例を示すブロック図である。 図19は、本発明の課題の説明に用いる第1の説明図である。 図20は、本発明の課題の説明に用いる第2の説明図である。
以下、添付図面に従って本発明に係る撮像装置及びフォーカス制御方法について説明する。
[第1の実施形態]
図1は、第1の実施形態における撮像装置の構成例を示すブロック図である。
図1に示す撮像装置10Aは、フォーカスレンズを含む光学系(第1の光学系12R、第2の光学系12L)と、光学系12R、12Lを介して被写体を撮像する撮像部(第1の撮像部14R、第2の撮像部14L)と、撮像装置10Aの外部の装置と通信を行う通信部20と、画像を表示可能な表示部22と、ユーザからの指示入力を受付ける指示入力部24と、画像を記録可能な記録媒体とのインターフェースである媒体インターフェース26と、プログラム及びプログラムの実行に必要な情報を記憶する記憶部28と、記憶部28に記憶されたプログラムに従って撮像装置10Aの各部を制御する制御部50とを含む。
光学系12R、12L及び撮像部14R、14Lを含んで、ステレオカメラ32が構成される。ステレオカメラ32は、同一の被写体を複数視点で撮像し、複数視点の画像(立体画像である)を取得することができる。第1の光学系12R及び第1の撮像部14Rにより第1視点の画像が取得され、第2の光学系12L及び第2の撮像部14Lにより第2視点の画像が取得される。
通信部20は、有線又は無線の通信デバイスによって構成される。
表示部22及び指示入力部24によって表示入力部34が構成される。本例の表示入力部34は、表示部22によって画像を表示し、指示入力部24によって画像に対するユーザのタッチ操作を検出する、いわゆるタッチパネルディスプレイによって構成される。表示部22は、LCD(liquid crystal display)等の表示デバイスによって構成される。OLED(organic light emitting diodes)ディスプレイを用いてもよい。指示入力部24は、表示部22の画面上に表示部22の画面を覆うように配置され、タッチ位置を検出可能なポインティングデバイスによって構成される。尚、指示入力部24を、キーボード及びマウスによって構成してもよい。音声入力デバイス、ジェスチャ入力デバイス等、他の入力デバイスを用いてもよい。
媒体インターフェース26は、例えばメモリカードに対して記録処理及び読取処理を行う入出力デバイスによって構成される。
記憶部28は、例えばROM(read only memory)、RAM(random access memory)及びEEPROM(electrically erasable programmable read only memory)を含んで構成される。他の記憶デバイスを用いてもよい。
制御部50は、例えばCPU(central processing unit)によって構成される。
制御部50は、光学系12R,12Lのレンズ位置及び絞り値を制御するレンズ制御部52と、撮像部14R、14Lを制御する撮像制御部54と、撮像部14R,14Lにより得られる画像内のフォーカスポイントを基準にした基本フォーカスエリア(以下「第1の領域」ともいう)における複数ポイントの距離値を計測する測距部56と、計測された複数ポイントの距離値の基本フォーカスエリア(第1の領域)におけるばらつきを示す統計量を算出する統計部58と、算出された統計量に基づいて、コントラスト評価用フォーカスエリア(以下「第2の領域」ともいう)であってフォーカスポイントを基準にしたコントラスト評価用フォーカスエリアのサイズを決定するサイズ決定部60と、光学系12R,12Lのフォーカスレンズを複数のレンズ位置のそれぞれに移動させて撮像された画像内のコントラスト評価用フォーカスエリア(第2の領域)の画像に基づいて、レンズ位置ごとにコントラスト評価値を算出するコントラスト評価値算出部62と、算出されたコントラスト評価値に基づいて決定されたレンズ位置に、光学系12R,12Lのフォーカスレンズを移動させるフォーカス部64と、を含んで構成される。
本例の測距部56は、第1の撮像部14Rにより被写体を撮像して得られた第1視点の画像と、第2の撮像部14Lにより被写体を撮像して得られた第2視点の画像とに基づいて、基本フォーカスエリア(第1の領域)における複数ポイントの距離値を算出し、距離画像を生成する。
本例の統計部58は、距離値のばらつきを示す統計量として、基本フォーカスエリア(第1の領域)における複数の距離値の分散(又は標準偏差)を算出する。
本例のサイズ決定部60は、統計量によって示される距離値のばらつきが大きいほど、コントラスト評価用フォーカスエリア(第2の領域)のサイズを小さくする。また、本例のサイズ決定部60は、統計量によって示される距離値のばらつきが小さいほど、コントラスト評価用フォーカスエリア(第2の領域)のサイズを大きくする。
本例のコントラスト評価値算出部62は、レンズ制御部52により複数の光学系12R、12Lのうち少なくとも一方のフォーカスレンズを移動させ、かつ撮像制御部54により複数の撮像部14R、14Lのうち少なくとも一方の撮像を制御することにより、コントラスト評価用の画像を取得して、その画像内のコントラスト評価用フォーカスエリア(第2の領域)におけるコントラスト評価値を算出する。
本例のフォーカス部64は、レンズ制御部52を用いて、フォーカスレンズの複数のレンズ位置のうち、コントラスト評価値が最大になるレンズ位置に、フォーカスレンズを移動させる。本例のフォーカス部64は、複数の撮像部14R、14Lのうち少なくとも一方から得られた画像に対するコントラスト評価値に基づいて、複数の光学系12R、12Lのそれぞれのフォーカスレンズを移動させる。
図2は、第1の実施形態におけるフォーカス制御処理例(本発明のフォーカス制御方法の実施例である)の流れを示すフローチャートである。
本例では、ステレオカメラ32の撮像部14R及び14Lにより点検対象の構造物(例えば、橋梁、建築物など)を撮像する。構造物の老朽化は、亀裂やひび割れ、あるいは腐食といった損傷の程度から判断することができる。撮影の対象となる点検箇所の例として、鋼材の溶接箇所、コンクリート材の表面などが挙げられる。例えば、亀裂、ひび割れといった損傷は、幅0.1mm程度の微細なものが重要であり、このような微細な損傷の程度を適切に判断するためには、ピント合わせが適切に行われることが重要である。
まず、指示入力部24により、フォーカスポイントの指示入力を受付ける(ステップS2)。本例では、指示入力部24により、フォーカスポイントとして点検対象の構造物の要点検箇所を示す指示入力を受け付ける。
図3に示すように、本例の表示部22は、撮像部14R又は14Lで撮像中の動画であるライブビュー動画LVを表示する。指等でタッチ操作された表示部22の画面上の位置に対応するライブビュー動画LV内の位置が、フォーカスポイントFPであると認識される。つまり、本例の指示入力部24は、表示部22の画面上の座標系における指示入力位置(タッチ位置)の座標を、画像の座標系におけるフォーカスポイントFPの座標に変換する。
次に、測距部56により、フォーカスポイントFPを基準にした基本フォーカスエリア(第1の領域FA1)における、複数ポイントの距離値を計測する(ステップS4)。本例の基本フォーカスエリアは、フォーカスポイントFPを中心とした基本サイズのフォーカスエリアである。基本サイズは、例えば表示部22の画面の面積に対して予め決められた割合(例えば画面の30%)のサイズである。
本例の測距部56は、第1の撮像部14Rにより被写体を撮像して得られた第1視点の画像と、第2の撮像部14Lにより被写体を撮像して得られた第2視点の画像とに基づいて、基本フォーカスエリア(図3のFA1)における複数ポイントの距離値を算出する。本例の測距部56は、まず第1の撮像部14Rにより得られた第1視点の画像と第2の撮像部14Lにより得られた第2視点の画像とで対応点検出を行い、次に対応点ごとに視差量を算出し、その視差量から複数ポイントの距離値を示す距離画像を生成する。
次に、統計部58により、計測された複数ポイントの距離値に基づいて、基本フォーカスエリア(第1の領域FA1)における複数ポイントの距離値のばらつきを示す統計量を算出する(ステップS6)。
本例の統計部58は、基本フォーカスエリア(第1の領域FA1)における複数ポイントの距離値のうち、平均値、最頻値、及び平坦面の距離値のうちいずれかを中心として、分散(又は標準偏差)を算出する。「平坦面」は例えば壁面などの平坦形状の面であり、「平坦面の距離値」は「平坦面」までの距離を示す値である。
次に、サイズ決定部60により、算出された統計量に基づいて、フォーカスポイントを基準にしたコントラスト評価用エリア(第2の領域FA2)のサイズを決定する(ステップS8)。本例の第2の領域FA2は、指示入力部24により指示入力されたフォーカスポイントFPを中心とした領域である。指示入力部24により指示入力されたフォーカスポイントFPの近傍を中心とした領域を、第2の領域FA2としてもよい。
図4は、複雑な形状の被写体におけるフォーカスポイントFP、第1の領域FA1及び第2の領域FA2の例を示す。図5は、比較的単純な形状であるが非平坦な形状の被写体におけるフォーカスポイントFP、第1の領域FA1及び第2の領域FA2の例を示す。図6は、平坦な形状の被写体におけるフォーカスポイントFP、第1の領域FA1及び第2の領域FA2の例を示す。
図7は、図4に示した複雑な形状の被写体における距離値のばらつきを示すグラフである。図8は、図5に示した比較的単純な形状であるが非平坦な形状の被写体における距離値のばらつきを示すグラフである。図9は、図6に示した平坦な形状の被写体における距離値のばらつきを示すグラフである。本例の統計部58は、統計量として、例えば距離値の平均値を中心とした距離値のばらつき(散らばり)を示す分散σ(又は標準偏差σ)を算出する。本例のサイズ決定部60は、図4及び図7に示したように、統計量によって示されるばらつきが大きいほど第2の領域FA2のサイズを小さくする。したがって、図4に示すような、複雑な形状の間に例えば平坦形状の溶接箇所(点検箇所である)が存在する場合でも、その溶接箇所に応じたコントラストを適正に判断可能なサイズの第2の領域FA2を設定することが可能である。また、本例のサイズ決定部60は、図5、図6、図8及び図9に示したように、統計量によって示されるばらつきが小さいほど第2の領域FA2のサイズを大きくする。したがって、図5に示すような比較的単純であるが非平坦な形状の点検箇所であっても、図6に示すような平坦な形状の点検箇所であっても、その点検箇所の単純さの程度に応じた適正なサイズの第2の領域FA2を設定することが可能である。第1の領域FA1のサイズは、表示部22の画面サイズの例えば30%である。図4に示した第2の領域FA2のサイズは、表示部22の画面サイズの例えば2%である。図5に示した第2の領域FA2のサイズは、表示部22の画面サイズの例えば10%である。図6に示した第2の領域FA2のサイズは、第1の領域FA1のサイズと同じである。但し、第2の領域FA2のサイズは、図4〜図6に示したサイズには限定されず、統計量に応じて決定すればよい。
次に、コントラスト評価値算出部62により、フォーカスレンズの複数のレンズ位置のそれぞれで撮像された画像(全体画像)内のコントラスト評価用フォーカスエリア(第2の領域FA2)の画像(部分画像)に基づいて、レンズ位置ごとにコントラスト評価値を算出する(ステップS10)。
次に、フォーカス部64により、複数のレンズ位置から、コントラスト評価値が最大になるレンズ位置(合焦位置)を決定し、そのレンズ位置にフォーカスレンズを移動させる(ステップS12)。
第1の実施形態では、ステレオカメラ32、制御部50及び表示入力部34が一体に形成された一体型の撮像装置を例に説明したが、本発明はこのような場合に限定されない。
[第2の実施形態]
第2の実施形態では、ステレオカメラ32を遠隔で操作可能な分離型の撮像装置を例に説明する。
図10は、第2の実施形態における撮像装置の構成例を示すブロック図である。尚、図1に示した第1の実施形態の撮像装置と同一の構成要素には同じ符号を付してあり、既に説明した内容を以下では省略する。
図10に示す撮像装置10Bは、ステレオカメラ(図1に示した第1の実施形態におけるステレオカメラ32と同様である)と、ステレオカメラ32を三方向(互いに直交するX方向、Y方向、Z方向)で移動させることが可能である移動機構72と、ステレオカメラ32の撮像方向をパン方向及びチルト方向で変更することが可能であるパンチルト機構74(本発明における「撮像方向制御部」の一形態である)と、ステレオカメラ32、移動機構72及びパンチルト機構74を遠隔で制御するコンピュータ装置78とを含んで構成される。尚、「撮像方向制御部」として、本例では撮像方向をパン方向及びチルト方向で制御可能なパンチルト機構74を用いているが、撮像方向をロール方向で制御可能な機構を用いてもよい。「撮像方向制御部」として、撮像方向をパン方向、チルト方向及びロール方向のうち少なくとも一方向において制御する機構を用いてよい。ステレオカメラ32、移動機構72、及びパンチルト機構74を含んで、遠隔制御対象である移動体76が構成される。移動体76は、例えば「ロボット」である。
コンピュータ装置78は、タブレット、スマートフォンなどが例として挙げられる。ユーザは、コンピュータ装置78を用いて、遠隔から、ステレオカメラ32の位置、撮像方向、フォーカスポイント、及び撮像条件を指示入力することができる。
本例のコンピュータ装置78は、図1に示した、通信部20、表示入力部34(表示部22及び指示入力部24)、媒体インターフェース26、記憶部28、及び制御部50を備える。通信部20は、移動体76と無線で通信することができる。有線通信としてもよい。また、図1に示した制御部50の構成要素(レンズ制御部52、撮像制御部54、測距部56、統計部58、サイズ決定部60、コントラスト評価値算出部62、及びフォーカス部64)のうち一部あるいは全てを、移動体76に実装してもよい。
図11は、第2の実施形態におけるフォーカス制御処理例の流れを示すフローチャートである。このフォーカス制御処理は、コンピュータ装置78の制御部50により、記憶部28に記憶されたプログラムに従って実行される。
まず、制御部50内の撮像制御部54により、通信部20を介して、ステレオカメラ32に対し、ライブビュー動画の撮像条件が設定される(ステップS102)。ステレオカメラ32の光学系12R、12LのF値(絞り値)は、例えば「F10」に設定される。フォーカスエリア全体の距離分布を把握するため、ライブビュー動画の撮像では被写界深度を後述の静止画の撮像時よりも大きくする。
次に、制御部50内の撮像制御部54により、ステレオカメラ32でライブビュー動画の撮像が開始され、表示入力部34の表示部22によりライブビュー動画の出力が開始される(ステップS104)。例えば、1920×1080ドット、60fps(frame per second)、2チャンネルで、ライブビュー動画の撮像、伝送及び出力を行う。
次に、表示入力部34でのユーザの指示入力に従い、移動機構72により、必要に応じて、X方向、Y方向及びZ方向のうち少なくともいずれかの方向で、ステレオカメラ32の位置を移動させる(ステップS106)。つまり、移動体76(本例ではロボットである)の移動を行う。
また、表示入力部34でのユーザの指示入力に従い、パンチルト機構74により、必要に応じて、パン方向及びチルト方向のうち少なくともいずれかの方向で、ステレオカメラ32の撮像方向を変更する(ステップS108)。つまり、ステレオカメラ32のパンチルト制御を行う。
また、表示入力部34により、フォーカスポイントの指示入力を受付ける(ステップS110)。本例では、表示入力部34にライブビュー動画が表示されるので、そのライブビュー動画を見ながら、フォーカスポイントを指示入力する操作を行うことができる。図12に示すように、本例では、表示部22の画面上のフォーカスポイントFPは画面中央に固定した位置で表示されるが、指示入力部24に対する操作に従って、移動機構72及びパンチルト機構74が制御されることにより、ステレオカメラ32の位置(撮像位置)及び撮像方向が変化し、ライブビュー動画LVが表示部22の画面上で移動する。つまり、フォーカスポイントFPは、ステレオカメラ32が存在する実空間上で、指示入力部24に対する操作に従って移動することになる。
次に、制御部50内の測距部56により、距離値計測のため、ライブビュー動画の1フレーム画像が取込まれる(ステップS112)。ステレオカメラ32から視点が異なる二系統の動画(二視点の動画)が出力されるので、同時刻の二視点のフレーム画像(ステレオ画像)が取得される。
次に、制御部50内の測距部56により、フレーム画像のうち、基本フォーカスエリア(第1の領域)における複数ポイントの距離値を計測する(ステップS114)。
次に、制御部50内の統計部58により、基本フォーカスエリアにおける複数ポイントの距離値の分散σを算出する(ステップS116)。本例では、基本フォーカスエリアにおける複数ポイントの距離値の平均値を算出し、その平均値を中心とした基本フォーカスエリア内の複数ポイントの距離値の分散σを算出する。
次に、制御部50内のサイズ決定部60により、分散σに基づいて、コントラスト評価用フォーカスエリア(第2の領域)のサイズを決定する(ステップS120〜S128)。図中、閾値(第1の閾値Th1、第2の閾値Th2)は、Th1>Th2である。また、図中、フォーカスエリアのサイズ(小サイズSz1、中サイズSz2、大サイズSz3)は、Sz1<Sz2<Sz3である。
算出された分散σが第1の閾値Th1よりも大きい場合(ステップS120でYESの場合)、コントラスト評価用フォーカスエリアのサイズを、小サイズSz1と決定する(ステップS122)。例えば、表示入力部34の画面サイズの「10%」と決定する。
算出された分散σが第1の閾値Th1以下であり且つ第2の閾値Th2よりも大きい場合(ステップS124でYESの場合)、コントラスト評価用フォーカスエリアのサイズを、中サイズSz2と決定する(ステップS126)。例えば、表示入力部34の画面サイズの「20%」と決定する。
算出された分散σが第2の閾値Th2以下である場合(ステップS124でNOの場合)、コントラスト評価用フォーカスエリアのサイズを、大サイズSz3と決定する(ステップS128)。例えば、表示入力部34の画面サイズの「30%」と決定する。
次に、制御部50内の撮像制御部54により、通信部20を介して、ステレオカメラ32に対し、静止画の撮像条件が設定される(ステップS130)。例えば、絞り及び露光は「自動」(auto)に設定される。静止画の撮像は、絞り値を開放又は開放近傍(例えば「F4」)に設定して被写界深度を前述のライブビュー動画よりも小さくし、かつ露光時間を前述のライブビュー動画の撮像よりも短くする。つまり、高精度でコントラスト評価値を取得でき、かつ振動による像のブレを回避できるように、撮像条件を設定する。
次に、統計部58により、基本フォーカスエリア(第1の領域)内の距離値の代表値(例えば、平均値、最頻値、平坦面の距離値など)が算出される(ステップS132)。
次に、制御部50内のコントラスト評価値算出部62により、算出された代表値に基づいて、フォーカスレンズの合焦位置のサーチ範囲が決定される(ステップS134)。つまり、フォーカスレンズのレンズ位置の移動範囲が決定される。併せてフォーカスレンズのレンズ位置の移動間隔を決定してもよい。
次に、制御部50内の撮像制御部54の制御により、ステレオカメラ32でのライブビュー動画の撮像が停止される(ステップS136)。
次に、コントラスト評価値算出部62及びフォーカス部64により、決定されたサイズ(ステップS120〜S128で決定されたサイズである)、かつ決定されたサーチ範囲(ステップS134で決定されたサーチ範囲である)で、コントラストAF(autofocus)が実行される(ステップS138)。コントラスト評価値算出部62は、レンズ制御部52を用いてステレオカメラ32の光学系(12R及び12Lのうち少なくとも一方)のフォーカスレンズを決められたサーチ範囲内で移動させ、かつ撮像制御部54を用いてステレオカメラ32の撮像部(14R及び14Lのうち少なくとも一方)に撮像を実行させる。また、コントラスト評価値算出部62は、フォーカスレンズのレンズ位置ごとに、ステレオカメラ32の撮像により得られた画像内のコントラスト評価用フォーカスエリア(第2の領域)のコントラスト評価値を算出し、コントラスト評価値が最大になるフォーカスレンズのレンズ位置を合焦位置として決定する。フォーカス部64は、レンズ制御部52により、ステレオカメラ32のフォーカスレンズのレンズ位置を、決定された合焦位置に移動させる。
次に、制御部50内の撮像制御部54により、ステレオカメラ32に静止画を撮像させる(ステップS140)。
そして、記憶部28により、ステレオカメラ32で撮像された静止画を記憶(記録)させる(ステップS142)。媒体インターフェース26により、記録媒体(例えばメモリカード)に静止画を記憶(記録)させてもよい。通信部20を介して、外部の装置に対し、静止画を送信してもよい。
尚、移動機構72として、ロボットを用いた場合について説明したが、本発明は上述の例には限定されない。例えば「ドローン」と呼ばれる無人航空機(UAV:unmanned aerial vehicle)を移動機構72として用いてよい。つまり、無人航空機にパンチルト機構74及びステレオカメラ32を搭載して、移動体76とすることができる。パンチルト機構74を省略してもよい。
上述の第1の実施形態及び第2の実施形態では、ステレオカメラ32により撮像された二視点画像に基づいて複数ポイントの距離値を算出する場合を例に説明したが、本発明はこのような場合に限定されない。
[第3の実施形態]
第3の実施形態では、TOF(time of flight)方式で測距を行う。
図13は、第3の実施形態における撮像装置10Cの構成例を示すブロック図である。尚、図1に示した第1の実施形態における撮像装置10Aと同じ構成要素には同じ符号を付してあり、既に説明した内容を以下では省略する。
図13において、発光部11から発光されて被写体で反射された光は、測距用の光学系12Tにより測距用の撮像部14Tの受光面に導かれる。発光部11は、例えば赤外光を発光する赤外線LED(light emitting diode)によって構成される。測距用の光学系12Tは、被写体の反射光を測距用の撮像部14Tの受光面に導くレンズを含んで構成される。測距用の撮像部14Tは、例えば、CMOS撮像センサ、あるいはCCD撮像センサによって構成される。レーザレンジファインダを用いて測距を行ってもよい。カラー撮像用の光学系12Cは、フォーカスレンズを含む。カラー撮像用の撮像部14Cは、カラー撮像用の光学系12Cを介して被写体を撮像する。
測距用の発光部11、光学系12T及び撮像部14Tと、カラー撮像用の光学系12C及び撮像部14Cとによって、TOFカメラ132が構成される。測距用の発光部11、光学系12T及び撮像部14Tは、本発明における光測距装置の一形態である。
制御部150は、例えばCPUによって構成されており、TOF方式の測距を行う測距部156を含んで構成されている。本実施形態の測距部156は、測距用の撮像部14Tの撮像結果に基づいて、発光部11の発光から測距用の撮像部14Tの受光までの光の飛行時間に対応した複数ポイントの距離値を取得する。
本例の撮像装置10Cによるフォーカス制御処理は、図2を用いて説明した第1の実施形態におけるフォーカス制御処理と同様である。但し、距離値計測(図2のステップS4)において、TOFカメラ132の測距用の撮像部14Tの撮像結果に基づいて、TOF方式により複数ポイントの距離値が算出される。
第3の実施形態では、TOFカメラ132、制御部50及び表示入力部34が一体に形成された一体型の撮像装置である場合を例に説明したが、本発明はこのような場合に限定されない。
[第4の実施形態]
第4の実施形態では、TOFカメラ132を遠隔で操作可能な分離型の撮像装置を例に説明する。
図14は、第4の実施形態における撮像装置の構成例を示すブロック図である。尚、図1に示した第1の実施形態の撮像装置10A、図10に示した第2の実施形態の撮像装置10B、及び図13に示した第3の実施形態の撮像装置10Cと同一の構成要素には同じ符号を付してあり、既に説明した内容を以下では省略する。
図14に示す撮像装置10Dは、TOFカメラ132の位置を三方向(互いに直交するX方向、Y方向、Z方向)で移動させることが可能である移動機構72と、TOFカメラ132の撮像方向をパン方向及びチルト方向で変更することが可能であるパンチルト機構74(本発明における「撮像方向制御部」の一形態である)と、TOFカメラ132、移動機構72及びパンチルト機構74を遠隔で制御するコンピュータ装置178とを含んで構成される。「撮像方向制御部」として、撮像方向をパン方向、チルト方向及びロール方向のうち少なくとも一方向において制御する機構を用いてよい。TOFカメラ132、移動機構72、及びパンチルト機構74を含んで、遠隔制御対象である移動体176が構成される。移動体176は、例えば「ロボット」である。
コンピュータ装置178は、タブレット、スマートフォンなどが例として挙げられる。ユーザは、コンピュータ装置178を用いて、遠隔から、TOFカメラ132の位置、撮像方向、フォーカスポイント、及び撮像条件を指示入力することができる。また、図13に示した制御部150の構成要素(レンズ制御部52、撮像制御部54、測距部156、統計部58、サイズ決定部60、コントラスト評価値算出部62、及びフォーカス部64)のうち一部あるいは全てを、移動体176に実装してもよい。
尚、移動機構72として、例えば「ドローン」と呼ばれる無人航空機(UAV: unmanned aerial vehicle)を用いてよい。つまり、無人航空機にパンチルト機構74及びTOFカメラ132を搭載して、移動体176とすることができる。パンチルト機構74を省略してもよい。
本例の撮像装置10Dによるフォーカス制御処理は、図11を用いて説明した第2の実施形態におけるフォーカス制御処理と同様である。但し、距離値計測(図11のステップS114)において、TOFカメラ132の測距用の撮像部14Tの撮像結果に基づいて、TOF方式により複数ポイントの距離値が算出される。
[第5の実施形態]
図15は、第5の実施形態における撮像装置の要部の構成例を示すブロック図である。
本実施形態の制御部50(又は150)は、基本フォーカスエリア(第1の領域)における複数ポイントの距離値の計測結果に基づいて、基本フォーカスエリアのうちコントラスト評価用フォーカスエリア(第2の領域)から排除する排除領域を判別する領域判別部82を備える。
尚、本実施形態の制御部50(又は150)は、前述の第1の実施形態から第4の実施形態における制御部50(又は150)に置換可能である。
図16は、第5の実施形態におけるフォーカス制御処理例の流れを示すフローチャートである。尚、図2に示した第1の実施形態におけるフォーカス制御処理例と同様のステップには同じ符号を付してあり、既に説明した内容を以下では省略する。
本実施形態では、基本フォーカスエリア(第1の領域)における複数ポイントの距離値の計測結果に基づいて、基本フォーカスエリアのうちコントラスト評価用フォーカスエリア(第2の領域)から排除する排除領域を判別する(ステップS7)。
ステップS8において、サイズ決定部60により、基本フォーカスエリア(第1の領域)から排除領域を除いた領域をコントラスト評価用フォーカスエリア(第2の領域)とし、そのコントラスト評価用フォーカスエリアのサイズを決定する。
領域判別部82による排除領域の判別には、各種の態様がある。以下では、排除領域の判別例を挙げる。
第1に、複数ポイントの距離値のうち、第1の領域における距離値の平均値あるいは最頻値と比較して、距離値の差が閾値以上である領域を、排除領域であると判別する態様がある。
第2に、複数ポイントの距離値のうち、フォーカスポイントと非連続である領域を、排除領域であると判別する態様がある。つまり、フォーカスポイントの周辺における距離値の連続性を判定し、距離値が一定値以上ジャンプした領域を、排除領域であると判別する。
[スマートフォンの構成例]
図17は、撮像装置及びコンピュータ装置の一例であるスマートフォン30の外観図である。図17に示すスマートフォン30は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532、操作部540と、カメラ部541とを備えている。尚、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図18は、図17に示すスマートフォン30の構成例を示すブロック図である。図18に示すように、スマートフォンの主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、GPS(global positioning system)受信部570と、モーションセンサ部580と、電源部590と、主制御部501とを備える。また、スマートフォン30の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
無線通信部510は、主制御部501の指示に従って、移動通信網に収容された基地局装置に対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部520は、主制御部501の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。
表示パネル521は、LCD(liquid crystal display)、OLED(organic light emitting diodes)ディスプレイなどを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指やペン型入力装置によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指やペン型入力装置によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図17に示すように、スマートフォン30の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部530は、スピーカ531やマイクロホン532を備え、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力したり、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力するものである。また、図17に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受付けるものである。例えば、図17に示すように、操作部540は、スマートフォン30の筐体502の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部550は、主制御部501の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552により構成される。尚、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(random access memory)、ROM(read only memory)などの格納媒体を用いて実現される。
外部入出力部560は、スマートフォン30に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)など)又はネットワーク(例えば、インターネット、無線LAN(local area network)、ブルートゥース(bluetooth)(登録商標)、RFID(radio frequency identification)、赤外線通信(infrared data association:IrDA)(登録商標)、UWB(ultra wide band)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン30に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(memory card)やSIM(subscriber identity module card)/UIM(user identity module card)カード、オーディオ・ビデオI/O(input/output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA(personal digital assistant)、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン30の内部の各構成要素に伝達することや、スマートフォン30の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部570は、主制御部501の指示に従って、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン30の緯度、経度、高度を含む位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示に従って、スマートフォン30の物理的な動きを検出する。スマートフォン30の物理的な動きを検出することにより、スマートフォン30の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示に従って、スマートフォン30の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データに従って動作し、スマートフォン30の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアに従って主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上述画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上述アイコンに対する操作や、上述ウィンドウの入力欄に対する文字列の入力を受付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定し、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部541は、CMOS(complementary metal oxide semiconductor)撮像センサやCCD(charge coupled device)撮像センサなどの撮像素子を用いて電子撮影するデジタルカメラである。また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(joint photographic coding experts group)などの圧縮した画像データに変換し、記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができる。図1に示すにスマートフォン30において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。尚、複数のカメラ部541が搭載されている場合には、撮影に供するカメラ部541を切り替えて単独にて撮影したり、あるいは、複数のカメラ部541を同時に使用して撮影することもできる。
また、カメラ部541はスマートフォン30の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン30のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部580により取得した姿勢情報等などを付加して記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することもできる。
以上、本発明を実施するための形態に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の主旨を逸脱しない範囲で種々の変形が可能である。
10A、10B、10C、10D 撮像装置
11 発光部
12C、12L、12R、12T 光学系
14C、14L、14R、14T 撮像部
20 通信部
22 表示部
24 指示入力部
26 媒体インターフェース
28 記憶部
30 スマートフォン
32 ステレオカメラ
34 表示入力部
50 制御部
52 レンズ制御部
54 撮像制御部
56 測距部
58 統計部
60 サイズ決定部
62 コントラスト評価値算出部
64 フォーカス部
72 移動機構
74 パンチルト機構
76 移動体
78 コンピュータ装置
82 領域判別部
92 注目箇所
94 非注目箇所
132 TOFカメラ
150 制御部
156 測距部
178 コンピュータ装置
501 主制御部
502 筐体
510 無線通信部
520 表示入力部
521 表示パネル
522 操作パネル
530 通話部
531 スピーカ
532 マイクロホン
540 操作部
541 カメラ部
550 記憶部
551 内部記憶部
552 外部記憶部
560 外部入出力部
570 受信部
570 GPS受信部
580 モーションセンサ部
590 電源部
FA1 第1の領域
FA2 第2の領域
FP フォーカスポイント
LV ライブビュー動画
ST1 GPS衛星
Sz1 小サイズ
Sz2 中サイズ
Sz3 大サイズ
Th1 第1の閾値
Th2 第2の閾値
σ 標準偏差
σ 分散

Claims (11)

  1. フォーカスレンズを含む光学系を介して被写体を撮像する撮像部と、
    前記撮像により得られる画像内の第1の領域であってフォーカスポイントを基準にした第1の領域における複数ポイントの距離値を計測する測距部と、
    前記計測された複数ポイントの距離値の前記第1の領域におけるばらつきを示す統計量を算出する統計部と、
    前記算出された統計量に基づいて、前記画像内のコントラスト評価値の算出に用いる第2の領域であって前記フォーカスポイントを基準にした第2の領域のサイズを決定するサイズ決定部と、
    前記フォーカスレンズを複数のレンズ位置のそれぞれに移動させて撮像された画像内の前記第2の領域の画像に基づいて、前記レンズ位置ごとに前記コントラスト評価値を算出するコントラスト評価値算出部と、
    前記算出されたコントラスト評価値に基づいて決定されたレンズ位置に、前記フォーカスレンズを移動させるフォーカス部と、
    を備える撮像装置。
  2. 前記サイズ決定部は、前記統計量によって示される前記ばらつきが大きいほど前記第2の領域のサイズを小さくする、
    請求項1に記載の撮像装置。
  3. 前記サイズ決定部は、前記統計量によって示される前記ばらつきが小さいほど前記第2の領域のサイズを大きくする、
    請求項1または2に記載の撮像装置。
  4. 前記統計部は、前記統計量として、前記第1の領域における前記複数ポイントの距離値の分散又は標準偏差を算出する、
    請求項1から3のうちいずれか一項に記載の撮像装置。
  5. 前記統計部は、前記複数ポイントの距離値のうち、前記第1の領域内の平均値、前記第1の領域内の最頻値、及び前記第1の領域内の平坦面の距離値のうちいずれかの距離値を中心として、前記統計量を算出する、
    請求項4に記載の撮像装置。
  6. 前記コントラスト評価値算出部は、指示入力されたフォーカスポイント又は前記フォーカスポイントの近傍を中心とした前記第2の領域でコントラストを評価する、
    請求項1から5のうちいずれか一項に記載の撮像装置。
  7. 前記第1の領域における前記複数ポイントの距離値に基づいて、前記第1の領域のうち前記第2の領域から排除する排除領域を判別する領域判別部を備える、
    請求項1から6のうちいずれか一項に記載の撮像装置。
  8. 前記撮像部の撮像方向をパン方向、チルト方向及びロール方向のうち少なくとも一方向において制御する撮像方向制御部を備え、
    前記撮像方向制御部は、前記フォーカスポイントに基づいて、前記撮像部の撮像方向を制御する、
    請求項1から7のうちいずれか一項に記載の撮像装置。
  9. 前記測距部は、ステレオ画像により測距を行うステレオカメラ、及び、光により測距を行う光測距装置のうちいずれかである、
    請求項1から8のうちいずれか一項に記載の撮像装置。
  10. 前記撮像部は、点検対象の構造物を撮像し、
    前記フォーカスポイントとして、前記点検対象の構造物の要点検箇所を示す指示入力を受付ける、
    請求項1から9のうちいずれか一項に記載の撮像装置。
  11. フォーカスレンズを含む光学系を介して撮像部により被写体を撮像して得られる画像内の第1の領域であってフォーカスポイントを基準にした第1の領域における複数ポイントの距離値を計測するステップと、
    前記計測された複数ポイントの距離値の前記第1の領域におけるばらつきを示す統計量を算出するステップと、
    前記算出された統計量に基づいて、画像内のコントラスト評価値の算出に用いる第2の領域であって前記フォーカスポイントを基準にした第2の領域のサイズを決定するステップと、
    前記フォーカスレンズを複数のレンズ位置のそれぞれに移動させて撮像された画像内の前記第2の領域の画像に基づいて、前記レンズ位置ごとに前記コントラスト評価値を算出するステップと、
    前記算出されたコントラスト評価値に基づいて決定されたレンズ位置に、前記フォーカスレンズを移動させるステップと、
    を含むフォーカス制御方法。
JP2018508842A 2016-03-30 2017-03-01 撮像装置及びフォーカス制御方法 Active JP6462183B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016068792 2016-03-30
JP2016068792 2016-03-30
PCT/JP2017/008142 WO2017169491A1 (ja) 2016-03-30 2017-03-01 撮像装置及びフォーカス制御方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018243136A Division JP6626954B2 (ja) 2016-03-30 2018-12-26 撮像装置及びフォーカス制御方法

Publications (2)

Publication Number Publication Date
JP6462183B2 JP6462183B2 (ja) 2019-01-30
JPWO2017169491A1 true JPWO2017169491A1 (ja) 2019-02-28

Family

ID=59964122

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018508842A Active JP6462183B2 (ja) 2016-03-30 2017-03-01 撮像装置及びフォーカス制御方法
JP2018243136A Active JP6626954B2 (ja) 2016-03-30 2018-12-26 撮像装置及びフォーカス制御方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018243136A Active JP6626954B2 (ja) 2016-03-30 2018-12-26 撮像装置及びフォーカス制御方法

Country Status (4)

Country Link
US (1) US10564392B2 (ja)
JP (2) JP6462183B2 (ja)
CN (1) CN108886582B (ja)
WO (1) WO2017169491A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11095869B2 (en) 2015-09-22 2021-08-17 Fyusion, Inc. System and method for generating combined embedded multi-view interactive digital media representations
US10222932B2 (en) 2015-07-15 2019-03-05 Fyusion, Inc. Virtual reality environment based manipulation of multilayered multi-view interactive digital media representations
US10242474B2 (en) 2015-07-15 2019-03-26 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
US10147211B2 (en) 2015-07-15 2018-12-04 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
US11006095B2 (en) 2015-07-15 2021-05-11 Fyusion, Inc. Drone based capture of a multi-view interactive digital media
US11783864B2 (en) 2015-09-22 2023-10-10 Fyusion, Inc. Integration of audio into a multi-view interactive digital media representation
US11202017B2 (en) 2016-10-06 2021-12-14 Fyusion, Inc. Live style transfer on a mobile device
US10437879B2 (en) 2017-01-18 2019-10-08 Fyusion, Inc. Visual search using multi-view interactive digital media representations
US20180227482A1 (en) * 2017-02-07 2018-08-09 Fyusion, Inc. Scene-aware selection of filters and effects for visual digital media content
US10313651B2 (en) 2017-05-22 2019-06-04 Fyusion, Inc. Snapshots at predefined intervals or angles
US11069147B2 (en) 2017-06-26 2021-07-20 Fyusion, Inc. Modification of multi-view interactive digital media representation
CN108225278A (zh) * 2017-11-29 2018-06-29 维沃移动通信有限公司 一种测距方法、移动终端
US10592747B2 (en) 2018-04-26 2020-03-17 Fyusion, Inc. Method and apparatus for 3-D auto tagging
JP7271159B2 (ja) * 2018-12-14 2023-05-11 キヤノン株式会社 制御装置、撮像装置、レンズ装置、プログラム、および制御装置の制御方法
JP7238422B2 (ja) * 2019-01-22 2023-03-14 株式会社リコー 測距方法、測距装置、車載装置、移動体、測距システム
CN110662112B (zh) * 2019-09-23 2021-10-29 四川长虹电器股份有限公司 基于对比度识别动漫图像的观影限制方法
JP6961889B1 (ja) * 2020-06-30 2021-11-05 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co., Ltd 制御装置、撮像装置、制御方法、及びプログラム
CN112050947A (zh) * 2020-09-09 2020-12-08 中科美菱低温科技股份有限公司 一种测温装置的控制方法、测温装置及存储介质
US11544919B2 (en) 2020-12-09 2023-01-03 Precisionhawk, Inc. Drone inspection of an undifferentiated surface using a reference image
US11849100B2 (en) * 2021-05-31 2023-12-19 Canon Kabushiki Kaisha Information processing apparatus, control method, and non-transitory computer readable medium
JP7113327B1 (ja) 2021-07-12 2022-08-05 パナソニックIpマネジメント株式会社 撮像装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013130827A (ja) * 2011-12-22 2013-07-04 Canon Inc レンズ制御装置
JP2013148788A (ja) * 2012-01-20 2013-08-01 Nikon Corp 焦点調節装置、及び焦点調節プログラム
JP2014138290A (ja) * 2013-01-17 2014-07-28 Sharp Corp 撮像装置及び撮像方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001304855A (ja) 2000-04-18 2001-10-31 Olympus Optical Co Ltd 測距装置
US7598997B2 (en) * 2004-01-14 2009-10-06 Ricoh Company, Ltd. Imaging apparatus and focus control method based on a number of automatic focus scan stages, and recording medium storing a program for executing such a method
CN100359357C (zh) * 2004-06-15 2008-01-02 佳能株式会社 摄影装置
JP2009115893A (ja) 2007-11-02 2009-05-28 Canon Inc 撮像装置
EP2688284B1 (en) * 2011-03-14 2017-10-25 Panasonic Corporation Imaging device, imaging method, integrated circuit, and computer program
JP5948856B2 (ja) * 2011-12-21 2016-07-06 ソニー株式会社 撮像装置とオートフォーカス方法並びにプログラム
JP6087617B2 (ja) 2012-12-21 2017-03-01 キヤノン株式会社 撮像装置及びその制御方法
JP6091318B2 (ja) 2013-04-26 2017-03-08 キヤノン株式会社 測距装置およびその制御方法
JP6379478B2 (ja) * 2013-11-28 2018-08-29 株式会社ニコン 画像処理装置、電子カメラ及び画像処理プログラム
JP6246705B2 (ja) * 2014-12-16 2017-12-13 株式会社 日立産業制御ソリューションズ フォーカス制御装置、撮像装置及びフォーカス制御方法
JP6485116B2 (ja) * 2015-02-27 2019-03-20 富士通株式会社 合焦位置検出装置、合焦位置検出方法及び合焦位置検出用コンピュータプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013130827A (ja) * 2011-12-22 2013-07-04 Canon Inc レンズ制御装置
JP2013148788A (ja) * 2012-01-20 2013-08-01 Nikon Corp 焦点調節装置、及び焦点調節プログラム
JP2014138290A (ja) * 2013-01-17 2014-07-28 Sharp Corp 撮像装置及び撮像方法

Also Published As

Publication number Publication date
JP6462183B2 (ja) 2019-01-30
WO2017169491A1 (ja) 2017-10-05
JP6626954B2 (ja) 2019-12-25
US20190025544A1 (en) 2019-01-24
US10564392B2 (en) 2020-02-18
CN108886582B (zh) 2020-12-25
JP2019074756A (ja) 2019-05-16
CN108886582A (zh) 2018-11-23

Similar Documents

Publication Publication Date Title
JP6462183B2 (ja) 撮像装置及びフォーカス制御方法
US9912859B2 (en) Focusing control device, imaging device, focusing control method, and focusing control program
US9332208B2 (en) Imaging apparatus having a projector with automatic photography activation based on superimposition
JP6392991B2 (ja) 画像による空間パラメータ特定方法、装置、プログラム、記録媒体および端末機器
RU2612892C2 (ru) Способ автоматической фокусировки и устройство автоматической фокусировки
JP5819564B2 (ja) 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム
US10277802B2 (en) Focusing control device, focusing control method, focusing control program, lens device, and imaging device
US10564390B2 (en) Focusing control device, focusing control method, focusing control program, lens device, and imaging device
JP6360204B2 (ja) カメラ装置、撮像システム、制御方法及びプログラム
EP3718296B1 (en) Electronic device and method for controlling autofocus of camera
CN112840634B (zh) 用于获得图像的电子装置及方法
CN106030366A (zh) 摄像装置及对焦控制方法
US10623625B2 (en) Focusing control device, imaging device, focusing control method, and nontransitory computer readable medium
CN113052919A (zh) 一种视觉传感器的标定方法及装置、电子设备和存储介质
JP6186498B2 (ja) 撮像装置及び合焦制御方法
KR20140081731A (ko) 객체 인식에서 시각 장애인을 보조하는 장치 및 방법
KR20140104807A (ko) 피사체 특성을 이용한 사진 촬영 가이드 방법, 장치 및 기록 매체
JP6450498B2 (ja) 画像処理装置、画像処理システム、及び画像処理方法
US20220268935A1 (en) Electronic device comprising camera and method thereof
CN114519794A (zh) 特征点匹配方法及装置、电子设备和存储介质
US10520793B2 (en) Focusing control device, focusing control method, focusing control program, lens device, and imaging device
CN113012211A (zh) 图像采集方法、装置、系统、计算机设备及存储介质
CN114600162A (zh) 用于捕捉摄像机图像的场景锁定模式
US20210337113A1 (en) Face region detection device, imaging apparatus, face region detection method, and face region detection program
KR20150108079A (ko) 3차원 정보를 검출하는 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181030

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20181030

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20181129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181226

R150 Certificate of patent or registration of utility model

Ref document number: 6462183

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250