JP2009069831A - 自動焦点調節装置および方法 - Google Patents

自動焦点調節装置および方法 Download PDF

Info

Publication number
JP2009069831A
JP2009069831A JP2008234794A JP2008234794A JP2009069831A JP 2009069831 A JP2009069831 A JP 2009069831A JP 2008234794 A JP2008234794 A JP 2008234794A JP 2008234794 A JP2008234794 A JP 2008234794A JP 2009069831 A JP2009069831 A JP 2009069831A
Authority
JP
Japan
Prior art keywords
focal length
distance
blur level
calculation module
distance calculation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008234794A
Other languages
English (en)
Other versions
JP5485527B2 (ja
Inventor
Byung-Kwan Park
炳 冠 朴
Heigo Kyo
炳 豪 姜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Samsung Electro Mechanics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Samsung Electro Mechanics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd, Samsung Electro Mechanics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2009069831A publication Critical patent/JP2009069831A/ja
Application granted granted Critical
Publication of JP5485527B2 publication Critical patent/JP5485527B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/571Depth or shape recovery from multiple images from focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10148Varying focus

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Abstract

【課題】2つの映像で焦点を早く合わせ、焦点がよく合わない状況で自主的に補正が可能な自動焦点調節装置および方法を提供する。
【解決手段】自動焦点調節装置は、焦点距離が互いに異なる少なくとも2以上の映像のブラーレベルを計算するブラーレベル計算モジュール210と、ブラーレベル計算モジュールが計算したブラーレベルから焦点距離を計算する距離計算モジュール220と、距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する精密距離計算モジュール230と、精密距離計算モジュールが計算した正確な被写体までの距離とブラーレベルから距離計算モジュールを補正する距離計算補正モジュール240とを含む。
【選択図】図2

Description

本発明は自動焦点調節装置および方法に関するものであって、より詳細には映像のブラーレベルから焦点距離を計算し計算された焦点距離で獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する焦点調節装置および方法に関するものである。
最近広く使用されるデジタルカメラ、デジタルムービービデオのような撮像機器は自動焦点調節機能によって映像の画質を向上させようとする努力が続いている。
一般的に撮像機器とは、ビデオカメラ、およびカメラなどのようにレンズを通し、入射される光信号を電気信号に光電変換した後、光電変換された映像信号に対して所定の映像処理をして撮像動作を実行する機器である。
撮像機器の焦点を合わせる方法は、自動焦点合わせ(Auto Focusing)と手動焦点調節(Manual Focusing)方式がある。自動焦点調節技術は、レンズで捉えられる被写体の信号を用いて被写体を検出し、その検出された被写体に合わせて焦点レンズを自動で駆動させて、その焦点を自動的に合わせる技術である。
撮像機器の焦点を合わせるため普通の場合は、焦点レンズを動かしつつ最も焦点の合った映像を得る。この場合、いくつかの焦点が合わない映像を得なければならないため多くの時間かかる。このような所要時間がいわゆるシャートラックの主要の原因となる。
このような問題を解決するために焦点が合わない2〜3枚程度の最小限の映像から映像の焦点がよく合う焦点レンズ位置を探り出す方法が考案された。
その方法の大部分はあらかじめ物体までの距離別に写真を撮っておいて、そこから得るデータに基づいて焦点レンズ位置を決めることができるデータをLUT(Look Up Table)形態で撮像機器に保存する。
撮像機器の自動焦点方法で焦点レンズ位置を決めることができるデータをLUT形態で撮像機器に保存する方法において、すべての場合をLUT形態で保存することができないため、仮に撮像機器に内蔵されているLUTに含まれない範囲のデータが入力されれば誤謬が発生する確率が大きくなる問題点があった。
日本特許公開平8−054557号公報
本発明は、前記した問題点を改善するために考案されたものであって、本発明が解決しようとする課題は、2つの映像で焦点を早く合わせ、焦点がよく合わない状況で自主的に補正が可能な自動焦点調節装置および方法を提供するものである。
本発明のまた他の課題は、映像のブラーレベルから焦点距離を計算し計算された焦点距離で獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する自動焦点調節装置および方法を提供するものである。
本発明の課題は以上で言及した課題に制限されず、言及されていないまた他の課題は次の記載から当業者に明確に理解できるであろう。
前記課題を達成するために、本発明の実施形態による自動焦点調節のための距離分類器は、少なくとも2以上の映像のブラーレベルから焦点距離を計算する距離計算モジュールと、距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する精密距離計算モジュール、および精密距離計算モジュールが計算した正確な被写体までの距離とブラーレベルから距離計算モジュールを補正する距離計算補正モジュールと、を含む。
前記課題を達成するために、本発明の実施形態による自動焦点調節装置は、焦点距離が互いに異なる少なくとも2以上の映像のブラーレベルを計算するブラーレベル計算モジュールと、ブラーレベル計算モジュールが計算したブラーレベルから焦点距離を計算する距離計算モジュールと、距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する精密距離計算モジュール、および精密距離計算モジュールが計算した正確な被写体までの距離とブラーレベルから距離計算モジュールを補正する距離計算補正モジュールと、を含む。
前記課題を達成するために、本発明の実施形態による撮像機器は、被写体の映像光が入射されるレンズと、レンズを通して入射された映像光に対する映像を獲得するセンサと、センサが獲得した映像に対するブラーレベルを計算して焦点距離を計算し、計算された焦点距離から獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する自動焦点調節装置と、自動焦点調節装置が計算した焦点距離に焦点が合うようにレンズを位置させる焦点レンズ制御器、および自動焦点調節装置によって焦点の合った映像を処理して最終映像を生成する映像処理器と、を含む。
前記課題を達成するために、本発明の実施形態による自動焦点調節方法は、第1焦点距離から獲得した第1映像のブラーレベルと第2焦点距離から第2映像を獲得した第2映像のブラーレベルを計算する段階と、第1映像のブラーレベルと第2映像のブラーレベルから焦点距離を計算する段階、および計算された焦点距離で獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する段階と、を含む。
前記課題を達成するために、本発明の実施形態による撮像方法は、被写体の映像光が入射されて被写体の映像を獲得する段階と、獲得された映像のブラーレベルを計算する段階と、計算されたブラーレベルから焦点距離を計算する段階と、計算された焦点距離で獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する段階、および計算された焦点距離で獲得した映像の焦点の合った場合、映像を処理して最終映像を生成する段階と、を含む。
その他実施形態の具体的な事項は詳細な説明および図に含まれている。
本発明の利点および特徴、およびそれらを達成する方法は、添付される図面と共に詳細に後述される実施形態を参照すれば明確になるであろう。しかし、本発明は、以下で開示される実施形態に限定されるものではなく、互いに異なる多様な形態で具現されることが可能である。本実施形態は、単に本発明の開示が完全になるように、本発明が属する技術分野における通常の知識を有する者に対して発明の範疇を完全に知らせるために提供されるものであり、本発明は請求項の範囲によってのみ定義される。なお、明細書全体にかけて、同一の参照符号は同一の構成要素を指すものとする。
以下、本発明の実施形態による自動焦点調節装置および方法を説明するための図を参照して本発明について説明する。この時、処理フローチャート図の各ブロックとフローチャート図の組合せはコンピュータプログラムインストラクションによって、実行される可能性があることを理解できるものである。この時、フローチャートの各ブロックとフロ−チャートの組み合わせはコンピュータプログラムインストラクションにより実行可能なのが理解できるであろう。これらのコンピュータプログラムインストラクションは、汎用コンピュータ、特殊用コンピュータまたはその他のプログラマブルデータプロセッシング装備のプロセッサに搭載されうるので、コンピュータまたはその他のプログラマブルデータプロセッシング装備のプロセッサを通じて実行されるそのインストラクションがフローチャートのブロックで説明された機能を行う手段を生成するように機構を作れる。これらのコンピュータプログラムインストラクションは特定方式で機能を具現するためにコンピュータまたはその他のプログラマブルデータプロセッシング装備を指向できるコンピュータ利用可能またはコンピュータ判読可能メモリに保存されることも可能なので、そのコンピュータ利用可能またはコンピュータ判読可能メモリに保存されたインストラクションはフローチャートのブロックで説明された機能を行うインストラクション手段を内包する製造品目を生産することも可能である。コンピュータプログラムインストラクションはコンピュータまたはその他のプログラマブルデータプロセッシング装備上に搭載することも可能なので、コンピュータまたはその他のプログラマブルデータプロセッシング装備上で一連の動作段階が実行されてコンピュータで実行されるプロセスを生成し、コンピュータまたはその他のプログラマブルデータプロセッシング装備を行うインストラクションはフローチャートのブロックで説明された機能を実行するための段階を提供することも可能である。
また、各ブロックは特定の論理的機能を行うための一つ以上の実行可能なインストラクションを含むモジュール、セグメントまたはコードの一部を示すことができる。また、いくつの代替実行例では、ブロックで言及された機能が順序を外れて発生することも可能であるということに注目せねばならない。例えば、連続して図示されている2つのブロックは、実質的に同時に行われてもよく、またはそのブロックが時々該当する機能によって逆順に行われてもよい。
図1は、本発明の一実施形態による自動焦点調節装置が用いられる撮像機器に対するブロック図である。
撮像機器は、レンズ110、センサ120、映像処理器130、自動焦点調節装置140および焦点レンズ制御器150を含む。
被写体からの映像光は、レンズ110を通してセンサ120に入射される。センサ120はCCD、CMOS、その他当業界に知らされた映像獲得手段で構成されうる。センサ120の撮像面に結像されたアナログ映像はデジタル映像に変換される。
映像処理器130は、焦点の合った映像に標準イメージアルゴリズムを実行して最終映像を生成する。映像処理器130は、映像のノイズの除去、ハイライトエッジおよび圧縮などの映像処理過程を経て最終映像を得る。
自動焦点調節装置140は、センサ120が獲得した映像に対するブラーレベルを計算して焦点距離を計算する。自動焦点調節装置140は、二つのブラーレベルを通して焦点距離を計算し、計算された焦点距離で獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する。詳しい説明は図2を参照して後述する。
焦点レンズ制御器150は、指定された焦点距離に対応するようにレンズ110を位置させる。
図2は、本発明の一実施形態による自動焦点調節装置140に対するブロック図である。
自動焦点調節装置140は、ブラーレベル計算モジュール210と距離計算モジュール220、精密距離計算モジュール230および距離計算補正モジュール240を含む距離分類器200を含む。
ブラーレベル計算モジュール210は第1焦点距離から獲得した第1映像(I1)に対するブラーレベル(B1)と第2焦点距離から獲得した第2映像(I2)に対するブラーレベル(B2)を計算する。ブラーレベルを計算する方法は、離散コサイン変換(Discrete Cosine Transform DCT)、フーリエ変換(Fourier Transform FT)、ウェーブレット変換(Wavelet Transform WT)などの変換方法を用いる方法があり、ラプラシアンフィルタ(Laplacian Filter)およびゾーベルフィルタ(Sobel Filter)などの高域通過フィルタ(High Pass Filter)などを用いる方法がある。
ブラーレベル計算モジュール210は、計算されたブラーレベルであるB1とB2を、焦点距離が分かる距離分類器200に入力する。
距離分類器200は、計算されたブラーレベルB1とB2から焦点距離を計算し、計算された焦点距離で獲得した映像の焦点が合わない場合、正確な被写体との距離を計算して焦点距離の計算方法を補正する。距離分類器200は、距離計算モジュール220、精密距離計算モジュール230および距離計算補正モジュール240を含む。
距離計算モジュール220は、ブラーレベルB1とB2から焦点距離を計算する。距離計算モジュール220は、多様な方法によってブラーレベルから焦点距離の計算が可能であり、多層ニューラルネットワーク(Multilayer Neural Network:MNN)によって計算するのが好ましい。これについての詳しい説明は図6および図7を参照して後述する。
精密距離計算モジュール230は、距離計算モジュール220が計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する。精密距離計算モジュール230の正確な被写体までの距離計算は、赤外線や超音波を用いた能動オートフォーカス(Active Auto Focusing)に用いられる方法を用いることもでき、ユーザから入力を受けることもできる。ただし、装置の効率性や経済性を考慮する時、撮像機器から得る映像を基盤とする受動オートフォーカス(Passive Auto Focusing)に用いられる方法が好ましい。その代表的な方法は、高域通過フィルタ(High Pass Filtering)と山登り探索アルゴリズム(Hill Climbing Search Algorithm)であり、これについての詳しい説明は図5を参照して後述する。
距離計算補正モジュール240は、精密距離計算モジュール230が計算した正確な被写体までの距離と第1映像のブラーレベル(B1)、第2映像のブラーレベル(B2)から距離計算モジュール220を補正する。距離計算モジュール220が多層ニューラルネットワークで具現された場合、距離計算補正モジュール240はオンライン学習方法を用いて距離計算モジュール220の誤差が最小となるように多層ニューラルネットワークの係数を補正する。これについての詳しい説明は図8および図9を参照して後述する。
この時、本実施形態で使用される「モジュール」という用語は、ソフトウェアまたはFPGAまたはASICのようなハードウェアの構成要素を意味し、モジュールはある機能を果たす。しかし、モジュールは、ソフトウェアまたはハードウェアに限定される意味ではない。モジュールは、アドレッシングできる保存媒体にあるように構成されることもでき、一つまたはそれ以上のプロセッサを再生させるように構成されることもできる。したがって、実施形態でのモジュールは、ソフトウェアの構成要素、オブジェクト指向ソフトウェアの構成要素、クラスの構成要素およびタスクの構成要素のような構成要素と、プロセス、関数、属性、プロシーザ、サブルーチン、プログラムコードのセグメント、ドライバ、ファームウェア、マイクロコード、回路、データ、データベース、データ構造、テーブル、アレイ、および変数を含む。構成要素とモジュールのうちから提供される機能はさらに小さい数の構成要素およびモジュールに結合されたり、追加的な構成要素とモジュールでさらに分離したりすることができる。のみならず、構成要素およびモジュールは、デバイスまたは保安マルチメディアカード内の一つまたはそれ以上のCPUを再生させるように実現されることもできる。
図3は、本発明の一実施形態による自動焦点調節方法を示す順序図である。
第1焦点距離と第2焦点距離で第1映像(I1)と第2映像(I2)を獲得する(S310)。焦点レンズ制御器150は、あらかじめ設定された第1焦点距離に対応する第1位置と、第2焦点距離に対応する第2位置にレンズ110を位置させてセンサ120が第1映像(I1)と第2映像(I2)を獲得する。
獲得した第1映像(I1)のブラーレベル(B1)と第2映像(I2)のブラーレベル(B2)を計算する(S320)。自動焦点調節装置140のブラーレベル計算モジュール210は、離散コサイン変換、フーリエ変換、ウェーブレット変換などの変換方法を用いたり、ラプラシアンフィルタやゾーベルフィルタなどの高域通過フィルタなどを用いたりして、第1映像(I1)のブラーレベル(B1)と第2映像(I2)のブラーレベル(B2)を計算する。
第1映像のブラーレベル(B1)と第2映像のブラーレベル(B2)から焦点距離を計算する(S330)。自動焦点調節装置140の距離計算モジュール220は多様な方法によってブラーレベルから焦点距離の計算が可能であり、多層ニューラルネットワークによって計算するのが好ましい。これについての詳しい説明は図6および図7を参照して後述する。
計算された焦点距離で映像(I_F)を獲得する(S340)。焦点レンズ制御器150は、計算された焦点距離に対応するようにレンズ110を位置させてセンサ120が映像を獲得する。
獲得した映像(I_F)が焦点の合った映像なのかを判断する(S350)。その判断は、ユーザに尋ねることもでき、あらかじめ定められたまたは他の基準によって判断されうる。焦点の合った映像であると判断されれば、映像処理器130は、標準イメージアルゴリズムとノイズ除去、ハイライトエッジおよび圧縮などの映像処理過程を経て最終映像を得る。
焦点が合わない映像であると判断された場合、焦点距離の計算方法を補正する(S360)。詳細な補正方法は図4を参照して後述する。
補正された焦点距離の計算方法を通して第1映像のブラーレベル(B1)と第2映像のブラーレベル(B2)からまた焦点距離を計算し(S330)、焦点の合った映像が得られる時まで前記過程を繰り返す。
図4は、本発明の一実施形態による自動焦点調節方法で焦点距離の計算方法を補正する方法を示す順序図である。
正確な被写体までの距離を計算する(S410)。距離計算モジュール220が計算した焦点距離で獲得した映像(I_F)の焦点が合わない場合、精密距離計算モジュール230は正確な被写体までの距離を計算する(S410)。精密距離計算モジュール230の正確な被写体までの距離計算は、赤外線や超音波を用いた能動オートフォーカスに用いられる方法を用いることもでき、ユーザから入力を受けることもできる。ただし、装置の効率性や経済性を考慮する時、撮像機器で得る映像を基盤とする受動オートフォーカスに用いられる方法が好ましい。その代表的な方法は、高域通過フィルタと山登り探索アルゴリズムであり、これについての詳しい説明は図5を参照して後述する。
ブラーレベルの入力を受ける(S420)。距離計算補正モジュール240は、距離計算モジュール220を補正するために、精密距離計算モジュール230が計算した正確な被写体までの距離に対するデータで第1映像のブラーレベル(B1)と第2映像のブラーレベル(B2)の入力を受ける。
入力されたブラーレベルから補正する(S430)。距離計算補正モジュール240は、精密距離計算モジュール230が計算した正確な被写体までの距離と入力されたブラーレベルB1、B2から距離計算モジュール220を補正する。距離計算モジュール220が多層ニューラルネットワークで具現された場合、距離計算補正モジュール240はオンライン学習方法を用いて距離計算モジュール220の誤差が最小となるように多層ニューラルネットワークの係数を補正する。これについての詳しい説明は図8および図9を参照して後述する。
図5は、本発明の一実施形態による自動焦点距離測定装置で正確な被写体との距離を計算する方法を示す順序図である。
レンズを初期位置(N)に設定する(S510)。焦点レンズ制御器150はレンズ110を一定の初期位置(N)に位置させる。初期位置(N)は、自動焦点調節装置140の距離計算モジュール220が計算した焦点距離に対応するレンズの位置より小さい値で設定するのが好ましい。
設定された位置から映像を獲得する(S520)。センサ120は設定された位置での映像を獲得する。
獲得された映像に対して高域通過フィルタリングをする(S530)。一般的に高域通過フィルタ値が大きければ焦点がよく合った映像であるので、精密距離計算モジュール230は獲得された映像に高域通過フィルタリングをする。
フィルタした値を合算してFV(N)値を計算する(S540)。精密距離計算モジュール230はN位置で獲得した映像に対して高域通過フィルタした値をすべて加えてFV(N)値を返還する。
FV(N−2)値がFV(N−1)より大きく、FV(N−1)値がFV(N)より大きいのかを判断する(S550)。多くの場合、焦点は焦点レンズの位置の範囲内で高域通過フィルタ値が単調増加するうちに減少する特徴を有する。FV(N)値が増加するうちに減少し始める地点を求めば、最もよく焦点の合う焦点レンズの位置を求めることができる。したがって、精密距離計算モジュール230は、FV(N−2)値がFV(N−1)より大きく、FV(N−1)値がFV(N)より大きいのかを判断する。
FV(N−2)値がFV(N−1)より大きく、FV(N−1)値がFV(N)より大きい場合、N−1から減少し始めるので、焦点レンズ位置N−2から正確な被写体との距離を計算する(S560)。精密距離計算モジュール230は、高域通過フィルタ値が最も大きい焦点レンズ位置で被写体との距離を計算する。
FV(N−2)値がFV(N−1)より小さく、FV(N−1)値がFV(N)より小さい場合、焦点レンズ位置を次の位置であるN+1に移動させる(S570)。焦点レンズ制御器150は、レンズ110を次の位置であるN+1に位置させる。
N+1位置に対する映像を獲得して高域通過フィルタ値が最も大きいレンズ位置を求める時まで上記の過程を繰り返す。
図6は、本発明の一実施形態による自動焦点調節装置で距離分類器の多層ニューラルネットワークを示す図である。
実験過程を通し多様な焦点距離に対するブラーレベルデータを有しているならば、ブラーレベルデータを各々対応する距離で分類する方法がなければならない。データを分類する多くの方法のうち、多層ニューラルネットワークを用いることが好ましい。多層ニューラルネットワークは理論的によく定立されており、簡単に適用できる。また、バックプロパゲーション(back propagation)方法で誤謬を修正して補正することができる。
距離分類のため、図6のように2つの入力と4つの出力で構成された3層ニューラルネットワークが用いられる。各ニューロンの計算過程によって出力ノードが計算される。出力ノードのうち最大値を選択すれば、入力されたブラーレベルに対する焦点距離が算出される。各ニューロンを計算する方法は、図7を参照して後述する。
図7は、本発明の一実施形態による自動焦点調節装置の多層ニューラルネットワークでニューロンを計算する方法を示す図である。
各ニューロンは二つのユニットで構成される。最初のユニットは、w11、w21と同じ加重値である係数を乗じて加える。すなわち、最初のユニットは次の式によって計算される。
Figure 2009069831
次のユニットは、活動関数(activation function)と呼ばれる非線形関数を実現する。活動関数は次のようなsigmoid関数を用いる。
Figure 2009069831
前述した計算方法によって各ニューロンを計算して出力ノードに至る。出力ノードのうち最大値が焦点距離となる。
図8は、本発明の一実施形態による自動焦点調節装置で多層ニューラルネットワークを補正するためのバックプロパゲーション方法を示す図である。
誤謬をδとする時、距離1に対する誤謬はδ距離1である。距離1に対する誤謬がδ距離1である時、Layer2−1に対する誤謬δ21は次の通りである。
Figure 2009069831
逆方向方法の最後に、最初の階層に対する誤謬δ11、δ12、δ13、δ14を計算する。
図9は、本発明の一実施形態による自動焦点調節装置で多層ニューラルネットワークを補正する方法を示す図である。
Layer1−1に対する補正された係数は次のような公式によって計算される。
Figure 2009069831
ここで、ηは学習率(learning rate)を示し、f(x)は前述したsigmoid関数を示し、x1はデータ1値を意味する。前述した方法で多層ニューラルネットワークの係数を補正する。ηとf(x)は同一に維持しつつ、最後の出力ノードまですべての係数を上記のような方法で補正する。
本発明が属する技術分野における通常の知識を有する者は、本発明を、その技術的思想や必須の特徴を変更しない範囲で、他の具体的な形態において実施されうるということを理解することができる。したがって、上記実施形態はすべての面で例示的なものであり、限定的なものではないと理解しなければならない。本発明の範囲は、前記詳細な説明よりは後述する特許請求の範囲によって示され、特許請求の範囲の意味および範囲そして、その均等概念から導き出されるすべての変更または変形された形態が本発明の範囲に含まれると解釈されなければならない。
本発明の自動焦点調節装置および方法によれば、次のような効果が一つあるいはそれ以上ある。
最初に、最小限の映像から速く焦点を合わせることができる長所がある。
二番目、焦点がよく合わない状況で自主的に補正が可能な長所がある。
三つ目、速いシーンの変化にも効果的に焦点を合わせることができる長所がある。
四つ目、大規模のデータセットをあらかじめ構築しなくてもリアルタイムの補正によって後にでも正確な焦点を合わせることができる長所もある。
本発明の効果は、以上で言及した効果に制限されず、言及されていないまた他の効果は請求範囲の記載から当業者に明確に理解できるであろう。
本発明の一実施形態による自動焦点調節装置が用いられる撮像機器に対するブロック図である。 本発明の一実施形態による自動焦点調節装置140に対するブロック図である。 本発明の一実施形態による自動焦点調節方法を示す順序図である。 本発明の一実施形態による自動焦点調節方法で焦点距離の計算方法を補正する方法を示す順序図である。 本発明の一実施形態による自動焦点距離測定装置で正確な被写体との距離を計算する方法を示す順序図である。 本発明の一実施形態による自動焦点調節装置で距離分類器の多層ニューラルネットワークを示す図である。 本発明の一実施形態による自動焦点調節装置の多層ニューラルネットワークでニューロンを計算する方法を示す図である。 本発明の一実施形態による自動焦点調節装置で多層ニューラルネットワークを補正するためのバックプロパゲーション方法を示す図である。 本発明の一実施形態による自動焦点調節装置で多層ニューラルネットワークを補正する方法を示す図である。
符号の説明
110 レンズ
120 センサ
130 映像処理器
140 自動焦点調節装置
150 焦点レンズ制御器
200 距離分類器
210 ブラーレベル計算モジュール
220 距離計算モジュール
230 精密距離計算モジュール
240 距離計算補正モジュール

Claims (25)

  1. 少なくとも2以上の映像のブラーレベルから焦点距離を計算する距離計算モジュールと、
    前記距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する精密距離計算モジュール、および
    前記精密距離計算モジュールが計算した正確な被写体までの距離と前記ブラーレベルから前記距離計算モジュールを補正する距離計算補正モジュールと、を含む自動焦点調節のための距離分類器。
  2. 前記距離計算モジュールは、多層ニューラルネットワークによって、前記焦点距離を計算し、前記距離計算補正モジュールは前記多層ニューラルネットワークの係数を補正する請求項1に記載の自動焦点調節のための距離分類器。
  3. 前記精密距離計算モジュールは、赤外線または超音波を用いる方法または高域通過フィルタと山登り探索アルゴリズムを用いる方法によって計算する請求項1に記載の自動焦点調節のための距離分類器。
  4. 焦点距離が互いに異なる少なくとも2以上の映像のブラーレベルを計算するブラーレベル計算モジュールと、
    前記ブラーレベル計算モジュールが計算したブラーレベルから焦点距離を計算する距離計算モジュールと、
    前記距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する精密距離計算モジュール、および
    前記精密距離計算モジュールが計算した正確な被写体までの距離と前記ブラーレベルから前記距離計算モジュールを補正する距離計算補正モジュールと、を含む自動焦点調節装置。
  5. 前記ブラーレベル計算モジュールは、離散コサイン変換、フーリエ変換、ウェーブレット変換、ラプラシアンフィルタおよびゾーベルフィルタのうち少なくとも何れか一つの方法によって前記ブラーレベルを計算する請求項4に記載の自動焦点調節装置。
  6. 前記距離計算モジュールは、多層ニューラルネットワークによって前記焦点距離を計算し、前記距離計算補正モジュールは、前記多層ニューラルネットワークの係数を補正する請求項4に記載の自動焦点調節装置。
  7. 前記精密距離計算モジュールは、赤外線または超音波を用いる方法または高域通過フィルタと山登り探索アルゴリズムを用いる方法によって計算する請求項4に記載の自動焦点調節装置。
  8. 前記ブラーレベル計算モジュールは、第1焦点距離から獲得した第1映像と、第2焦点距離から獲得した第2映像の前記ブラーレベルを計算する請求項4に記載の自動焦点調節装置。
  9. 被写体の映像光が入射されるレンズと、
    前記レンズを通して入射された映像光に対する映像を獲得するセンサと、
    前記センサが獲得した映像に対するブラーレベルを計算して焦点距離を計算し、前記計算された焦点距離から獲得した映像の焦点が合わない場合、焦点距離の計算方法を補正する自動焦点調節装置と、
    前記自動焦点調節装置が計算した前記焦点距離に焦点が合うように前記レンズを位置させる焦点レンズ制御器、および
    前記自動焦点調節装置によって焦点の合った映像を処理して最終映像を生成する映像処理器と、を含む撮像機器。
  10. 前記自動焦点調節装置は、
    焦点距離が互いに異なる少なくとも2以上の前記映像のブラーレベルを計算するブラーレベル計算モジュールと、
    前記ブラーレベル計算モジュールが計算したブラーレベルから焦点距離を計算する距離計算モジュールと、
    前記距離計算モジュールが計算した焦点距離で獲得した映像の焦点が合わない場合、前記被写体までの正確な距離を計算する精密距離計算モジュール、および
    前記精密距離計算モジュールが計算した前記被写体までの正確な距離と前記ブラーレベルから前記距離計算モジュールを補正する距離計算補正モジュールと、を含む請求項9に記載の撮像機器。
  11. 前記ブラーレベル計算モジュールは、離散コサイン変換、フーリエ変換、ウェーブレット変換、ラプラシアンフィルタおよびゾーベルフィルタのうち少なくとも何れか一つの方法によって前記ブラーレベルを計算する請求項10に記載の撮像機器。
  12. 前記距離計算モジュールは、多層ニューラルネットワークによって前記焦点距離を計算し、前記距離計算補正モジュールは前記多層ニューラルネットワークの係数を補正する請求項10に記載の撮像機器。
  13. 前記精密距離計算モジュールは、赤外線または超音波を用いる方法または高域通過フィルタと山登り探索アルゴリズムを用いる方法によって計算する請求項10に記載の撮像機器。
  14. 第1焦点距離から獲得した第1映像のブラーレベルと第2焦点距離から第2映像を獲得した第2映像のブラーレベルを計算する段階と、
    前記第1映像のブラーレベルと前記第2映像のブラーレベルから焦点距離を計算する段階、および前記計算された焦点距離で獲得した映像の焦点が合わない場合、前記焦点距離の計算方法を補正する段階と、を含む自動焦点調節方法。
  15. 前記ブラーレベル計算は、離散コサイン変換、フーリエ変換、ウェーブレット変換、ラプラシアンフィルタおよびゾーベルフィルタのうち少なくとも何れか一つの方法によって前記ブラーレベルを計算する請求項14に記載の自動焦点調節方法。
  16. 前記焦点距離計算は、多層ニューラルネットワークによって前記焦点距離を計算し、前記距離計算方法補正は、前記多層ニューラルネットワークの係数を補正する請求項14に記載の自動焦点調節方法。
  17. 前記計算された焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する段階をさらに含み、前記焦点距離の計算方法補正は、前記計算された正確な被写体までの距離と前記第1映像のブラーレベルと前記第2映像のブラーレベルから補正する請求項14に記載の自動焦点調節方法。
  18. 前記正確な被写体までの距離は、赤外線または超音波を用いる方法または高域通過フィルタと山登り探索アルゴリズムを用いる方法によって計算する請求項17に記載の自動焦点調節方法。
  19. 被写体の映像光が入射されて前記被写体の映像を獲得する段階と、
    前記獲得された映像のブラーレベルを計算する段階と、
    前記計算されたブラーレベルから焦点距離を計算する段階と、
    前記計算された焦点距離で獲得した映像の焦点が合わない場合、前記焦点距離の計算方法を補正する段階、および
    前記計算された焦点距離で獲得した映像の焦点の合った場合、前記映像を処理して最終映像を生成する段階と、を含む撮像方法。
  20. 前記ブラーレベル計算は、離散コサイン変換、フーリエ変換、ウェーブレット変換、ラプラシアンフィルタおよびゾーベルフィルタのうち少なくとも何れか一つの方法によって前記ブラーレベルを計算する請求項19に記載の撮像方法。
  21. 前記焦点距離計算は、多層ニューラルネットワークによって前記焦点距離を計算し、前記距離計算方法補正は、前記多層ニューラルネットワークの係数を補正する請求項19に記載の撮像方法。
  22. 前記計算された焦点距離で獲得した映像の焦点が合わない場合、正確な被写体までの距離を計算する段階をさらに含み、前記焦点距離の計算方法補正は、前記計算された正確な被写体までの距離と、前記第1映像のブラーレベルと、前記第2映像のブラーレベルから補正する請求項19に記載の撮像方法。
  23. 少なくとも二つの映像のブラーレベルに基づいて焦点距離を計算する距離測定モジュール、および
    前記焦点距離および前記ブラーレベルに基づいて距離測定モジュールを補正する距離測定計算モジュールと、を含む、自動焦点調節装置。
  24. 前記距離計算モジュールによって計算された焦点距離で獲得された映像のうち一つが焦点から外れる時、被写体に至る正確な距離を計算する精密距離計算モジュールをさらに含む、請求項23に記載の自動焦点調節装置。
  25. 前記距離計算補正モジュールは、精密距離計算モジュールによって計算された被写体との正確な距離に基づいて距離計算モジュールを補正する、請求項24に記載の自動焦点調節装置。
JP2008234794A 2007-09-14 2008-09-12 自動焦点調節装置および方法 Active JP5485527B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2007-0093743 2007-09-14
KR20070093743A KR101488655B1 (ko) 2007-09-14 2007-09-14 자동 초점 조절 장치 및 방법

Publications (2)

Publication Number Publication Date
JP2009069831A true JP2009069831A (ja) 2009-04-02
JP5485527B2 JP5485527B2 (ja) 2014-05-07

Family

ID=40454564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008234794A Active JP5485527B2 (ja) 2007-09-14 2008-09-12 自動焦点調節装置および方法

Country Status (4)

Country Link
US (1) US7936987B2 (ja)
JP (1) JP5485527B2 (ja)
KR (1) KR101488655B1 (ja)
CN (1) CN101387734B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160016453A (ko) * 2014-08-05 2016-02-15 한화테크윈 주식회사 저조도 환경에서의 고속 자동초점 조정장치 및 방법
JP2020026990A (ja) * 2018-08-10 2020-02-20 株式会社東芝 画像処理装置

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8194995B2 (en) * 2008-09-30 2012-06-05 Sony Corporation Fast camera auto-focus
US8553093B2 (en) * 2008-09-30 2013-10-08 Sony Corporation Method and apparatus for super-resolution imaging using digital imaging devices
US8064761B2 (en) * 2010-03-04 2011-11-22 Digital Imaging Systems Gmbh Method to determine auto focus of a digital camera
JP2012003233A (ja) * 2010-05-17 2012-01-05 Sony Corp 画像処理装置、画像処理方法およびプログラム
WO2011158515A1 (ja) * 2010-06-17 2011-12-22 パナソニック株式会社 距離推定装置、距離推定方法、集積回路、コンピュータプログラム
JP5869883B2 (ja) * 2010-06-17 2016-02-24 パナソニック株式会社 画像処理装置
US8760563B2 (en) 2010-10-19 2014-06-24 Hand Held Products, Inc. Autofocusing optical imaging device
US8648959B2 (en) * 2010-11-11 2014-02-11 DigitalOptics Corporation Europe Limited Rapid auto-focus using classifier chains, MEMS and/or multiple object focusing
US8692927B2 (en) 2011-01-19 2014-04-08 Hand Held Products, Inc. Imaging terminal having focus control
US8411195B2 (en) 2011-04-01 2013-04-02 Sony Corporation Focus direction detection confidence system and method
CN102231798B (zh) * 2011-06-24 2015-09-23 天津市亚安科技股份有限公司 一种控制云台摄像机自动变倍的方法及系统
US9113059B2 (en) 2011-11-30 2015-08-18 Canon Kabushiki Kaisha Image pickup apparatus and image region discrimination method
US9143704B2 (en) * 2012-01-20 2015-09-22 Htc Corporation Image capturing device and method thereof
JP5983373B2 (ja) * 2012-12-07 2016-08-31 富士通株式会社 画像処理装置、情報処理方法及びプログラム
KR101299645B1 (ko) * 2013-06-19 2013-08-23 (주)태극기전 디지털 광학장치용 자동 초점 제어방법
CN103473776B (zh) * 2013-09-17 2016-05-25 深圳市华因康高通量生物技术研究院 一种比较图像清晰度的方法、系统及自动聚焦控制方法
EP3018516B1 (en) * 2014-11-05 2019-06-19 Canon Kabushiki Kaisha Image capturing apparatus and method for controlling image capturing apparatus
US10498976B2 (en) 2014-12-05 2019-12-03 Microsoft Technology Licensing, Llc Virtual focus feedback
CN105578029B (zh) * 2015-09-01 2018-12-28 闽南师范大学 一种多尺度变步长的自动对焦搜索算法
SE541141C2 (en) * 2016-04-18 2019-04-16 Moonlightning Ind Ab Focus pulling with a stereo vision camera system
CN108122234B (zh) * 2016-11-29 2021-05-04 北京市商汤科技开发有限公司 卷积神经网络训练及视频处理方法、装置和电子设备
US10867374B2 (en) * 2017-02-13 2020-12-15 Sensors Unlimited, Inc. Auto-focusing system and method by determining contrast difference between adjacent pixels using sobel filter
US11493829B2 (en) 2017-06-27 2022-11-08 Sony Group Corporation Interchangeable lens device, imaging device, imaging system, method, and program
CN107329233B (zh) * 2017-08-25 2019-10-11 西南大学 一种基于神经网络的微滴式pcr仪自动对焦方法
CN109698901B (zh) * 2017-10-23 2020-07-10 广东顺德工业设计研究院(广东顺德创新设计研究院) 自动对焦方法、装置、存储介质和计算机设备
CN108259753B (zh) * 2018-02-28 2020-08-07 中国航空工业集团公司洛阳电光设备研究所 一种基于离焦估计改进爬山法的相机自动调焦方法及装置
US10839264B2 (en) * 2018-11-09 2020-11-17 International Business Machines Corporation Scalable feature classification for laser scanning data and digital elevation models
US11360970B2 (en) 2018-11-13 2022-06-14 International Business Machines Corporation Efficient querying using overview layers of geospatial-temporal data in a data analytics platform
DE102018219867B4 (de) * 2018-11-20 2020-10-29 Leica Microsystems Cms Gmbh Lernender Autofokus
DE102018133188A1 (de) * 2018-12-20 2020-06-25 Carl Zeiss Microscopy Gmbh Abstandbestimmung einer probenebene in einem mikroskopsystem
JP7016835B2 (ja) * 2019-06-06 2022-02-07 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム
CN110749974B (zh) * 2019-11-04 2021-06-01 中南大学 全载玻片成像扫描仪的自动聚焦方法及其图像获取方法
CN111551117B (zh) * 2020-04-29 2021-07-20 湖南国科智瞳科技有限公司 显微图像焦点漂移距离的测量方法及系统、计算机设备
EP4320472A1 (en) 2021-10-12 2024-02-14 Samsung Electronics Co., Ltd. Device and method for predicted autofocus on an object

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0575910A (ja) * 1991-09-17 1993-03-26 Olympus Optical Co Ltd 合焦点検出装置
JPH0854557A (ja) * 1994-08-09 1996-02-27 Nikon Corp カメラのオートフォーカス装置
JP2000165734A (ja) * 1998-09-24 2000-06-16 Ricoh Co Ltd 自動焦点制御装置および自動焦点制御方法
JP2002532761A (ja) * 1998-12-14 2002-10-02 インテル・コーポレーション 離散的ウェーブレット変換を使用するオートフォーカス・アルゴリズム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2761391B2 (ja) * 1988-10-04 1998-06-04 オリンパス光学工業株式会社 焦点検出装置
KR940003241B1 (ko) 1991-05-23 1994-04-16 금성일렉트론 주식회사 To-220 반도체 제조기의 리드프레임 자동 공급장치
JPH05199444A (ja) 1992-01-20 1993-08-06 Olympus Optical Co Ltd カメラ及び交換レンズ
JPH0854556A (ja) 1994-08-09 1996-02-27 Nikon Corp カメラのオートフォーカス装置
JP2000171682A (ja) 1998-12-02 2000-06-23 Canon Inc 自動焦点カメラ
JP5002086B2 (ja) 1999-10-28 2012-08-15 キヤノン株式会社 焦点検出装置と撮像装置
EP1508827A4 (en) * 2002-05-30 2007-09-19 Sony Corp PICTURE DEVICE, SIGNAL PROCESSING METHOD, RECORDING MEDIUM AND PROGRAM
US7466336B2 (en) * 2002-09-05 2008-12-16 Eastman Kodak Company Camera and method for composing multi-perspective images
US7929801B2 (en) * 2005-08-15 2011-04-19 Sony Corporation Depth information for auto focus using two pictures and two-dimensional Gaussian scale space theory

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0575910A (ja) * 1991-09-17 1993-03-26 Olympus Optical Co Ltd 合焦点検出装置
JPH0854557A (ja) * 1994-08-09 1996-02-27 Nikon Corp カメラのオートフォーカス装置
JP2000165734A (ja) * 1998-09-24 2000-06-16 Ricoh Co Ltd 自動焦点制御装置および自動焦点制御方法
JP2002532761A (ja) * 1998-12-14 2002-10-02 インテル・コーポレーション 離散的ウェーブレット変換を使用するオートフォーカス・アルゴリズム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160016453A (ko) * 2014-08-05 2016-02-15 한화테크윈 주식회사 저조도 환경에서의 고속 자동초점 조정장치 및 방법
KR102244082B1 (ko) 2014-08-05 2021-04-23 한화테크윈 주식회사 저조도 환경에서의 고속 자동초점 조정장치 및 방법
JP2020026990A (ja) * 2018-08-10 2020-02-20 株式会社東芝 画像処理装置

Also Published As

Publication number Publication date
JP5485527B2 (ja) 2014-05-07
CN101387734A (zh) 2009-03-18
US7936987B2 (en) 2011-05-03
CN101387734B (zh) 2012-01-11
KR20090028267A (ko) 2009-03-18
KR101488655B1 (ko) 2015-02-03
US20090074393A1 (en) 2009-03-19

Similar Documents

Publication Publication Date Title
JP5485527B2 (ja) 自動焦点調節装置および方法
US8531545B2 (en) Image processing apparatus, including a filter acquisition part, and image pickup apparatus
KR101412752B1 (ko) 디지털 자동 초점 영상 생성 장치 및 방법
US20090116830A1 (en) Imaging apparatus and method for controlling the same
JP5572299B2 (ja) 映像獲得装置の自動焦点調節方法および装置
JP5829360B2 (ja) 撮像装置、撮像装置の作動方法
JP4364078B2 (ja) 撮像方法及び撮像装置
JP2007199633A (ja) 合焦検出装置
JP2005309323A (ja) 撮像用焦点距離検出方法及び撮像装置
JP2009025381A (ja) デジタルカメラ
CN112351196B (zh) 图像清晰度的确定方法、图像对焦方法及装置
KR101303876B1 (ko) 촬상 기기의 포커싱 제어 장치 및 방법
JP2006279807A (ja) 手ぶれ補正装置
US20200228719A1 (en) Focus control apparatus, imaging apparatus, focus control method, and storage medium
US20180124318A1 (en) Image pickup apparatus and image pickup method
JP6395429B2 (ja) 画像処理装置、その制御方法及び記憶媒体
JP2016142999A (ja) 撮像装置及びその制御方法
JP2020008899A (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP5900049B2 (ja) 被写界深度拡張システム及び被写界深度拡張方法
JP2020067503A (ja) 撮像装置、監視システム、撮像装置の制御方法およびプログラム
US20170061587A1 (en) Image processing apparatus, image capturing apparatus, and storage medium
JP2010026008A (ja) 焦点調節装置及び方法
JP3272186B2 (ja) オートフォーカスビデオカメラ
WO2023106119A1 (ja) 制御装置、制御方法、情報処理装置、生成方法、およびプログラム
JP2002277730A (ja) 電子カメラの自動焦点制御方法、装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120828

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130416

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140220

R150 Certificate of patent or registration of utility model

Ref document number: 5485527

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250