JP2022086802A - レンズ装置、撮像装置、カメラ装置、制御方法、及びプログラム - Google Patents

Abstract

【課題】学習済モデルを得るのに有利なレンズ装置を提供する。【解決手段】光学部材と、光学部材を駆動する駆動部と、第１の学習済モデルに基づいて、駆動部を制御する制御部とを有するレンズ装置であって、第１の学習済モデルは、レンズ装置とは異なる装置に関する学習により得られた第２の学習済モデルを初期の学習済モデルとしてレンズ装置に関する学習により得られた学習済モデルであることを特徴とするレンズ装置。【選択図】図１５

Description

本発明は、レンズ装置、撮像装置、カメラ装置、制御方法、及びプログラムに関する。

従来、デジタルカメラは静止画の撮影を、ビデオカメラは動画の撮影をそれぞれ行うべく棲み分けがなされていた。しかしながら、近年、デジタルカメラにおいても動画を撮影して記録できるものが製品化されている。

さらに、静止画撮影は、速写性を重要視するために、オートフォーカスや絞り、電動ズームなどの高速動作が必要となる。一方、動画撮影は、フォーカスや絞り、ズーム等の駆動部の作動音が大きいと、その作動音が、ノイズとして、記録されるべき音声とともに記録されてしまう。特許文献１には、この二つの課題を解決するレンズ装置が開示されている。

また、撮影装置において、光学部材の駆動部に求められる性能は多岐にわたる。例えば、追従性のための駆動速度、正確な撮影条件設定のための光学部材位置決め精度、撮影時間確保のための低消費電力、動画撮影のための静音性能が挙げられる。それらの性能には、相互に依存関係がある。特許文献１に記載のレンズ装置は、動画撮影において、光学部材を駆動する速度や加速度を制限することにより、静音性能を実現している。

ところが、求められる静音性能は、ユーザにより異なりうる。また、求められる速度や加速度も、ユーザやレンズ装置の状態により異なりうる。さらに、求められる光学部材の位置決め精度も、ユーザやレンズ装置の状態により異なりうる。

特開２００７－６３０５号公報

ここで、レンズ装置を用いて行われた機械学習により得られた機械学習モデル（学習済モデル）に基づいてレンズ装置の駆動制御を行いうるところ、当該機械学習のためにはレンズ装置に多くの駆動が必要となりうる。

本発明は、例えば、学習済モデルを得るのに有利なレンズ装置を提供することを目的とする。

本発明の一実施態様に係るレンズ装置は、光学部材と、前記光学部材を駆動する駆動部と、第１の学習済モデルに基づいて、前記駆動部を制御する制御部とを有するレンズ装置であって、前記第１の学習済モデルは、前記レンズ装置とは異なる装置に関する学習により得られた第２の学習済モデルを初期の学習済モデルとして前記レンズ装置に関する学習により得られた学習済モデルであることを特徴とする。

本発明によれば、例えば、学習済モデルを得るのに有利なレンズ装置を提供することができる。

実施例１に係るシステム構成を示すブロック図である。 フォーカスレンズ制御に要求される位置精度を説明するための図である。 フォーカスレンズ制御に要求される速度を説明するための図である。 位置精度と、速度、消費電力、及び静音との関係を説明するための図である。 速度と、位置精度、消費電力、及び静音との関係を説明するための図である。 ニューラルネットワークの入出力の一例を示す。 実施例１に係る一連の撮影処理の流れを示すフローチャートである。 実施例１に係る報酬情報の一例を示す。 機器制約報酬情報及びユーザ要望報酬情報のデータ構造の一例を示す。 報酬情報決定処理の流れを示すフローチャート図である。 機器制約報酬情報データベースのデータ構造の一例を示す。 ユーザ要望情報データベースの構造の一例を示す。 ユーザ要望報酬変換情報データベースのデータ構造の一例を示す。 報酬情報データベースのデータ構造の一例を示す。 機械学習処理の流れを示すフローチャート図である。 機械学習モデルデータベースのデータ構造の一例を示す。 ウエイト初期値決定処理の流れを示すフローチャート図である。 報酬情報におけるユーザ要望報酬情報の値の一例を示す。 ユーザ要望情報におけるユーザ要望の値の一例を示す。 実施例２に係るシステム構成を示すブロック図である。 実施例３に係るシステム構成を示すブロック図である。

以下、本発明を実施するための例示的な実施例を、図面を参照して詳細に説明する。ただし、以下の実施例で説明する寸法、材料、形状、及び構成要素の相対的な位置等は任意であり、本発明が適用される装置の構成又は様々な条件に応じて変更できる。また、図面において、同一であるか又は機能的に類似している要素を示すために図面間で同じ参照符号を用いる。

なお、以下において、学習済モデルとは、ディープラーニング等の任意の機械学習アルゴリズムに従った機械学習モデルに対して、事前にトレーニング（学習）を行ったモデルをいう。ただし、学習済モデルは、事前に学習を行っているが、それ以上の学習を行わないものではなく、追加の学習を行うこともできるものとする。

以下、図１乃至図１９を参照して、本発明の実施例１に係る撮像システムについて説明する。本実施例では、撮像システムの一例としてカメラシステムについて説明する。

＜カメラシステムの構成＞
以下、図１を参照して、本実施例に係るカメラシステムのシステム構成について説明する。図１は、本実施例に係るカメラシステムのシステム構成を示すブロック図である。

本実施例に係るカメラシステムには、撮像装置の一例であるカメラ本体２００と、レンズ装置の一例であるレンズ１００とが設けられている。カメラ本体２００とレンズ１００は、結合機構であるマウント３００を介して機械的及び電気的に接続されている。カメラ本体２００は、マウント３００に設けられた不図示の電源端子部を介してレンズ１００に電源を供給する。また、カメラ本体２００とレンズ１００はマウント３００に設けられた不図示の通信端子部を介して相互に通信を行う。

レンズ１００は、撮像光学系を有する。撮像光学系は、焦点調節を行うフォーカスレンズ１０１、変倍を行うズームレンズ１０２、光量を調節する絞りユニット１０３、及び像振れ補正レンズ１０４を含む。フォーカスレンズ１０１とズームレンズ１０２は、不図示のレンズ保持枠によって保持されている。レンズ保持枠は、不図示のガイド軸により光軸方向（図中に破線で示す）に移動可能にガイドされている。

フォーカスレンズ１０１は、フォーカスレンズ駆動部１０５を介して光軸方向に移動される。フォーカスレンズ１０１の位置は、フォーカスレンズ検出部１０６によって検出される。

ズームレンズ１０２は、ズームレンズ駆動部１０７を介して光軸方向に移動される。ズームレンズ１０２の位置は、ズームレンズ検出部１０８によって検出される。

絞りユニット１０３には、絞り羽根が設けられており、絞り駆動部１０９を介して絞り羽根を駆動し、光量調節動作を行う。絞りのＦ値は、絞り検出部１１０によって検出される。

像振れ補正レンズ１０４は、像振れ補正レンズ駆動部１１２を介して光軸に直交する方向に移動され、手振れ等に起因する像振れを低減する。像振れ補正レンズ１０４の位置は、像揺れ補正レンズ検出部１１３によって検出される。

フォーカスレンズ駆動部１０５、ズームレンズ駆動部１０７、絞り駆動部１０９、及び像振れ補正レンズ駆動部１１２には、例えば超音波モータが用いられている。なお、本実施例では超音波モータを用いたが、他のモータ（ボイスコイルモータ、ＤＣモータ、又はステッピングモータ等）を用いてもよい。

フォーカスレンズ検出部１０６、ズームレンズ検出部１０８、絞り検出部１１０、及び像揺れ補正レンズ検出部１１３は、例えばポテンションメーターやエンコーダを含む。また、駆動部がステッピングモータ等の、所定の駆動量をフィードバック無しに駆動できるモータを用いて構成されている場合は、駆動部の駆動量に基づいてレンズ等の位置を検出する手段を設けてもよい。この場合には、フォトインタラプタ等の検出センサを設けた所定位置まで光学部材を初期駆動し、初期駆動後は、モータ駆動量を基に光学部材の位置を特定することができる。

揺れセンサ１１１は、レンズ１００の揺れを検出するセンサである。揺れセンサ１１１は、例えばジャイロセンサ等を用いて構成されてよい。

次に、レンズ１００の駆動及び通信を制御するレンズマイクロコンピュータ（以下、レンズマイコン１２０という）について説明する。レンズマイコン１２０には、ＮＮ制御部１２１、レンズ装置情報管理部１２２、ＮＮデータ記憶部１２３、動作ログ管理部１２４、制御部１２５、通信部１２６、及びレンズ個体情報管理部１２７が設けられている。

ＮＮ制御部１２１は、フォーカスレンズ１０１の位置を制御する制御部である。ＮＮ制御部１２１には、ニューラルネットワーク（以下、ＮＮ）アルゴリズムが実装されており、ＮＮ制御部１２１は、フォーカスレンズ１０１の目標位置等に基づいて、ＮＮアルゴリズムによりフォーカスレンズ駆動部１０５の駆動指令を決定する。ＮＮアルゴリズムの詳細については後述する。

レンズ装置情報管理部１２２は、ＮＮ制御部１２１で使用するレンズ装置情報を管理する管理部である。ここで、レンズ装置情報は、撮影映像に影響を与えるレンズ装置の撮影条件に関する情報であって、例えば、焦点深度やフォーカス敏感度等を含む。

ＮＮデータ記憶部１２３は、ＮＮの結合重み付け係数であるウエイトを保持する記憶部である。また、動作ログ管理部１２４は、フォーカスレンズ１０１の駆動制御に関係する動作ログ情報を管理する管理部である。ここで、動作ログ情報は、ＮＮアルゴリズムの制御結果を点数化する上で、点数を決める対象となる制御結果情報である。動作ログ情報は、例えば、フォーカスレンズの目標位置及び位置情報、フォーカスレンズの駆動速度及び加速度、並びにフォーカスレンズ駆動部１０５の消費電力等を含むことができる。

制御部１２５は、ズームレンズ１０２、絞りユニット１０３、及び像振れ補正レンズ１０４のそれぞれの位置を制御するとともに、レンズ１００とカメラ本体２００との情報伝達を制御する。制御部１２５は、例えば、制御対象の目標位置又は速度と、制御対象の現在の位置又は速度との偏差に対して、ＰＩＤ（Ｐｒｏｐｏｒｔｉｏｎａｌ－Ｉｎｔｅｇｒａｌ－Ｄｉｆｆｅｒｅｎｔｉａｌ）制御により駆動指令を生成し、制御対象の制御を行う。

通信部１２６は、カメラ本体２００と通信するための通信部である。また、レンズ個体情報管理部１２７は、レンズ１００のレンズ機種及び個体識別番号の少なくとも一方を示す情報であるレンズ個体情報（レンズ情報）を管理する管理部である。

次に、カメラ本体２００について説明する。カメラ本体２００には、撮像素子２０１、Ａ／Ｄ変換回路２０２、信号処理回路２０３、記録部２０４、表示部２０５、操作部２０６、カメラマイクロコンピュータ（以下、カメラマイコン２１０という）、及び学習部２２０が設けられている。

撮像素子２０１は、レンズ１００から入射した光を映像電気信号に変換する撮像素子である。撮像素子２０１は、例えばＣＣＤセンサやＣＭＯＳセンサである。Ａ／Ｄ変換回路２０２は、撮像素子２０１から出力された映像電気信号をデジタル信号に変換するための変換回路である。信号処理回路２０３は、Ａ／Ｄ変換回路２０２から出力されたデジタル信号を映像データに変換する信号処理回路である。

記録部２０４は、信号処理回路２０３から出力された映像データを記録する記録部である。表示部２０５は、信号処理回路２０３から出力された映像データやユーザ要望情報等の各種情報を表示するための表示部である。表示部２０５は、公知の任意のモニタを用いて構成されてよい。

操作部２０６は、ユーザがカメラを操作するための操作部である。操作部２０６は、例えばボタン等の公知の任意の入力部材を用いて構成されてよい。また、タッチパネルを用いて表示部２０５を構成する場合には、操作部２０６は表示部２０５と一体的に構成されてもよい。

カメラマイクロコンピュータ（以下、カメラマイコン２１０）は、カメラ本体２００を制御する制御マイクロコンピュータである。カメラマイコン２１０には、制御部２１１、及び通信部２１２が設けられている。

制御部２１１は、信号処理回路２０３からの映像データ及び操作部２０６からのユーザの操作情報に基づいてレンズ１００への駆動指令を行う制御部である。また、制御部２１１は、学習部２２０に対しての指令や情報伝達を制御も行う。

通信部２１２は、レンズ１００との通信を行うための通信部である。より具体的には、通信部２１２は、制御部２１１からの駆動指令を制御コマンドとしてレンズ１００へ送信する。また、通信部２１２は、レンズ１００からの情報の受信も行う。

学習部２２０は、プロセッサ及び記憶装置を用いて構成されることができる。ここで、プロセッサは、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）やＧＰＵ（Ｇｒａｐｈｉｃ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）等の任意のプロセッサであってよい。また、記憶装置は、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）やＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＨＤＤ（Ｈａｒｄ Ｄｉｓｃ Ｄｒｉｖｅ）等の任意の記憶媒体を用いて構成されてよい。

学習部２２０には、学習処理部２２１、動作ログ保持部２２２、報酬管理部２２３、機器制約報酬管理部２２４、ユーザ要望報酬管理部２２５、ユーザ要望管理部２２６、ユーザ要望保持部２２７、及び機器制約報酬情報保持部２２８が設けられている。また、学習部２２０には、ユーザ要望報酬変換情報保持部２２９、報酬情報保持部２３０、機械学習モデル保持部２３１、及び機械学習初期値管理部２３２が設けられている。なお、学習部２２０の各構成要素は、ＣＰＵやＭＰＵ等のプロセッサが記憶装置に記憶されたソフトウェアモジュールを実行することで実現されてよい。また、プロセッサは、例えば、ＧＰＵやＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）等であってもよい。さらに、学習部２２０の各構成要素は、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）等の特定の機能を果たす回路等によって構成されてもよい。

学習処理部２２１は、ＮＮ制御部１２１に設けられたＮＮの学習処理を行う。本実施例では、学習処理部２２１は、ＮＮを用いたフォーカスレンズ１０１の制御に関して、レンズ装置毎の機器的な制約情報及びユーザによる要望情報に基づく報酬情報に応じた動作の評価値を報酬とし、報酬が最大となるようにＮＮに対して強化学習を行う。

機器制約報酬管理部２２４は、レンズ装置毎の機器的な制約情報に関する報酬情報である機器制約報酬情報を管理する。具体的には、機器制約報酬管理部２２４は、レンズ個体情報に含まれるレンズ機種情報に応じて、機器制約報酬情報保持部２２８に保持された機器制約報酬情報データベースから、レンズ１００に対応する機器制約報酬情報を決定する。なお、機器制約報酬情報データベースには、レンズ機種情報と機器制約報酬情報が関連付けて記憶されている。

ユーザ要望報酬管理部２２５は、ユーザによる要望情報に関する報酬情報であるユーザ要望報酬情報を管理する。ユーザ要望報酬変換情報保持部２２９は、レンズ個体情報のレンズ機種情報とユーザ要望報酬変換情報が関連付けて記憶されているユーザ要望報酬変換情報データベースを保持する。また、ユーザ要望報酬変換情報保持部２２９は、レンズ個体情報のレンズ機種情報に応じて、ユーザ要望報酬変換情報データベースからレンズ１００に対応するユーザ要望報酬変換情報を決定する。ユーザ要望報酬変換情報保持部２２９は、決定したユーザ要望報酬変換情報を参照してユーザによって設定されたユーザ要望情報をユーザ要望報酬情報に変換する。ユーザ要望報酬管理部２２５は、ユーザによって設定されたユーザ要望情報に対応付けて、変換されたユーザ要望報酬情報を管理する。

ユーザ要望管理部２２６は、ユーザによって設定された、現在の制御に適用されるべきユーザ要望情報を管理する。ユーザ要望保持部２２７は、ユーザによって設定されたユーザ要望情報を記憶したユーザ要望情報データベースを保持する。

報酬管理部２２３は、機器制約報酬情報とユーザ要望報酬情報を結合し、報酬情報を決定し、管理する。報酬情報保持部２３０は、報酬情報を記憶した報酬情報データベースを保持する。

機械学習モデル保持部２３１は、機械学習モデルを記憶した機械学習データベースを保持する。また、機械学習モデル保持部２３１は、レンズ個体情報及びユーザの要望に応じて、機械学習モデルデータベースから、ＮＮの機械学習の初期値を定めるのに用いる学習済モデルを選択する。機械学習初期値管理部２３２は、機械学習モデル保持部２３１が選択した学習済モデルのウエイトを、ＮＮ制御部１２１のＮＮの機械学習を行う際のウエイトの初期値（機械学習初期値）として管理する。なお、機械学習モデルデータベースには、レンズ個体情報と、ユーザ要望情報と、報酬情報と、機械学習モデルとが対応付けて記憶されている。なお、機械学習モデルデータベースに記憶される報酬情報は、報酬情報データベースに記憶された報酬情報の識別番号等であってよい。

動作ログ保持部２２２は、駆動指令に応じたフォーカスレンズ１０１の駆動制御に関する動作ログ情報を保持する。学習部２２０の記憶装置には、学習部２２０の各種構成要素を実装するためのプログラム、及び動作ログ保持部２２２が保持している動作ログ情報等の学習部２２０の各構成要素が保持する各種情報や各種データベース等が記憶されている。

＜撮影映像記録及び表示＞
以下、図１に示したカメラシステムにおける撮影映像記録及び表示について説明する。レンズ１００に入射した光は、フォーカスレンズ１０１、ズームレンズ１０２、絞りユニット１０３、及び像振れ補正レンズ１０４を通過し、撮像素子２０１に結像する。撮像素子２０１に結像した光は、撮像素子２０１にて電気信号に変換され、Ａ／Ｄ変換回路２０２にてデジタル信号に変換され、信号処理回路２０３にて映像データに変換される。信号処理回路２０３から出力される映像データは記録部２０４に記録される。また、表示部２０５は、信号処理回路２０３から出力される映像データを基に映像を表示する。

＜フォーカス制御＞
次に、カメラ本体２００がレンズ１００のフォーカスを制御する方法について説明する。制御部２１１は、信号処理回路２０３から出力された映像データを基に、ＡＦ（オートフォーカス）制御を行う。

具体的には、制御部２１１は、映像データのコントラストの明暗差が最も大きくなるように、フォーカスレンズ１０１を動かして、撮影被写体にフォーカスが合うように制御する。まず、制御部２１１は、フォーカスレンズ１０１を動かすためのフォーカス駆動量を駆動指令として通信部２１２に出力する。通信部２１２は、制御部２１１から駆動指令を受け取ると、フォーカス駆動の駆動指令を制御コマンドに変換し、マウント３００の通信接点部を介してレンズ１００へ送信する。

レンズ１００の通信部１２６は、通信部２１２からの制御コマンドを受信すると、制御コマンドをフォーカス駆動の駆動指令に変換し、制御部１２５を介してＮＮ制御部１２１に出力する。ＮＮ制御部１２１は、フォーカス駆動の駆動指令と、フォーカスレンズ検出部１０６が検出したフォーカスレンズ位置と、後述する撮影条件とをＮＮへの入力として用いて駆動信号を決定し、フォーカスレンズ駆動部１０５へ駆動信号を出力する。ここで、駆動信号の決定に用いられるＮＮは、ＮＮデータ記憶部１２３に記憶されている学習済モデルのウエイトを有することで、当該学習済モデルと同様の処理を行うことができる。このため、ＮＮは、学習の傾向に従ってレンズ１００の構成及びユーザの要望に応じたフォーカスレンズの駆動量を出力することができる。

以上により、制御部２１１からの駆動指令に従い、フォーカスレンズ１０１が駆動される。このような動作により、制御部２１１は、映像データのコントラストの明暗差が最も大きくなるようにフォーカスレンズ１０１を動かすことで、適切なＡＦ制御を行うことができる。また、駆動信号の決定に学習済モデルのウエイトを有するＮＮを用いることで、レンズ１００の構成及びユーザの要望に応じたＡＦ制御を行うことができる。

＜絞り制御＞
次にカメラ本体２００がレンズ１００の絞りを制御する方法について説明する。制御部２１１は、信号処理回路２０３から出力された映像データを基に、露出制御を行う。具体的には、制御部２１１は、映像データの輝度値が一定となるように、目標となるＦ値を決定する。制御部２１１は、決定したＦ値を駆動指令として通信部２１２に出力する。通信部２１２は、制御部２１１から駆動指令を受け取ると、Ｆ値の駆動指令を制御コマンドに変換し、マウント３００の通信接点部を介してレンズ１００へ送信する。

レンズ１００の通信部１２６は、通信部２１２からの制御コマンドを受信すると、Ｆ値の駆動指令に変換し、制御部１２５に出力する。制御部１２５は、Ｆ値の駆動指令と絞り検出部１１０が検出した絞りのＦ値とを基に駆動信号を決定し、絞り駆動部１０９へ駆動信号を出力する。以上により、映像データの輝度値が一定となるように、Ｆ値が制御され、適切な露光制御を行うことができる。

＜ズーム制御＞
次にカメラ本体２００がレンズ１００のズームを制御する方法について説明する。まず、ユーザが、操作部２０６を介してズーム操作を行う。制御部２１１は、操作部２０６から出力されたズーム操作量を基にズームレンズ１０２を動かすためのズーム駆動量を決定し、ズーム駆動量を駆動指令として通信部２１２に出力する。通信部２１２は、制御部２１１から駆動指令を受け取ると、ズーム駆動の駆動指令を制御コマンドに変換し、マウント３００の通信接点部を介してレンズ１００へ送信する。

レンズ１００の通信部１２６は、通信部２１２からの制御コマンドを受信すると、ズーム駆動の駆動指令に変換し、制御部１２５に出力する。制御部１２５は、ズーム駆動の駆動指令とズームレンズ検出部１０８が検出したズームレンズ位置とを基に駆動信号を決定し、ズームレンズ駆動部１０７へ駆動信号を出力する。以上により、操作部２０６に入力されたズーム操作に従い、ズームレンズ１０２が駆動され、ユーザがズームを操作することができる。

＜防振制御＞
次にレンズ１００が防振制御を行う方法について説明する。制御部１２５は、揺れセンサ１１１から出力されたレンズ１００の揺れ信号を基に、レンズ１００の揺れを打ち消すように、像揺れ補正レンズ目標位置を決定する。制御部１２５は、像揺れ補正レンズ検出部１１３が検出した像揺れ補正レンズ位置と決定した像揺れ補正レンズ目標位置とを基に駆動信号を決定し、像振れ補正レンズ駆動部１１２へ駆動信号を出力する。以上により、防振が正しく制御され、撮像素子２０１にて撮影された像揺れを防ぐことができる。

＜フォーカスレンズ制御に要求される４つの指標＞
次に、フォーカスレンズ制御に要求される事項について説明する。フォーカスレンズ制御には、位置精度、速度、消費電力、及び静音の４つの要求事項がある。フォーカスレンズ制御では、それぞれの要求事項をバランスよく制御することが求められる。以下、それぞれの要求事項について説明する。

＜フォーカスレンズ制御に要求される位置精度＞
フォーカスレンズ制御に関する位置精度とは、フォーカスレンズを目標位置へ駆動する際に、目標位置に対してどれだけ正確にフォーカスレンズを駆動できるかを表す指標である。以下、フォーカスレンズ制御に関する位置精度について、図２（ａ）及び図２（ｂ）を参照して説明する。図２（ａ）は焦点深度が浅い場合、図２（ｂ）は焦点深度が深い場合におけるフォーカスレンズとフォーカス位置の関係を示している。図２（ａ）及び図２（ｂ）は、レンズ構成は同じで、Ｆ値のみ異なる場合のフォーカスレンズとフォーカス位置の関係を示している。また、図２（ａ）及び図２（ｂ）において、共通のものに対しては同じ参照符号を付している。

図２（ａ）及び図２（ｂ）において、フォーカスレンズ目標位置Ｇは、光軸上の主被写体の点物体Ｓの像が、撮像素子２０１上に合焦するフォーカスレンズ位置を示している。これに対し、フォーカスレンズ位置Ｃは、フォーカスレンズ目標位置Ｇを目標に駆動した後のフォーカス位置を示している。フォーカスレンズ位置Ｃは、フォーカスレンズ目標位置Ｇに対して、制御誤差Ｅｒの分だけ点物体Ｓ側の位置となっている。フォーカス位置Ｂｐは、フォーカスレンズ位置がフォーカスレンズ位置Ｃのときの点物体Ｓの結像位置を示している。錯乱円δは撮像素子２０１上の錯乱円である。

図２（ａ）におけるＦ値Ｆａは、図２（ｂ）におけるＦ値Ｆｂよりも明るい値（小さい値）となっている。そのため、図２（ａ）における焦点深度幅２Ｆａδは、図２（ｂ）における焦点深度幅２Ｆｂδよりも狭い範囲となっている。図２（ａ）における光線Ｃｌａ及び光線Ｇｌａは、それぞれ、フォーカスレンズ位置Ｃ及びフォーカスレンズ目標位置Ｇにおける点物体Ｓの光線のうち、一番外側の光線を示している。また、図２（ｂ）における光線Ｃｌｂ及び光線Ｇｌｂは、それぞれ、フォーカスレンズ位置Ｃ及びフォーカスレンズ目標位置Ｇにおける点物体Ｓの光線のうち、一番外側の光線を示している。

図２（ａ）において、点像直径Ｉａは、フォーカスレンズがフォーカスレンズ位置Ｃにあるときの点物体Ｓの撮像素子２０１上の点像の直径を示す。また、図２（ｂ）において、点像直径Ｉｂは、フォーカスレンズがフォーカスレンズ位置Ｃにあるときの点物体Ｓの撮像素子２０１上の点像の直径を示す。

ここで、図２（ａ）においては、フォーカス位置Ｂｐは焦点深度幅２Ｆａδの範囲外となっており、点像直径Ｉａは錯乱円δより大きく、中心の画素に収まらず隣の画素へ光が入射している。以上により、図２（ａ）においては、フォーカスレンズ位置Ｃでは点物体Ｓは非合焦となる。一方、図２（ｂ）においては、フォーカス位置Ｂｐは焦点深度幅２Ｆｂδの範囲内となっており、点像直径Ｉｂは錯乱円δより小さく、中心の画素に全ての光線が集光している。以上により、図２（ｂ）において、フォーカスレンズ位置Ｃでは点物体Ｓは合焦となる。

以上の通り、同じ位置精度を達成したとしても、Ｆ値等の撮影条件により、非合焦又は合焦に合焦状態が変化する。このことから、撮影条件により、フォーカスレンズ制御に要求される位置精度が変化することが分かる。

＜フォーカスレンズ制御に要求される速度＞
次に、フォーカスレンズ制御に関する速度について、図３（ａ）及び図３（ｂ）を参照して説明する。ここで、フォーカスレンズ制御に関する速度とは、フォーカスレンズを駆動する際の移動速度（フォーカスレンズの駆動速度）のことである。なお、移動速度は、単位時間あたりの移動量と考えることで移動量に置き換えることができる。また、フォーカスが合っている位置の光軸方向の移動量のことをフォーカス移動量、移動速度をフォーカス移動速度とする。フォーカスレンズ移動量はフォーカス移動量と比例関係にある。フォーカスレンズ移動量とフォーカス移動量の比例定数をフォーカス敏感度という。フォーカス敏感度は、レンズの構成する光学系の位置関係（レンズ装置の構成）によって変化する。ここで、フォーカス移動量ΔＢｐ、フォーカス敏感度Ｓｅ、及びフォーカスレンズ移動量ΔＰの関係は、フォーカス移動量ΔＢｐ＝フォーカス敏感度Ｓｅ×フォーカスレンズ移動量ΔＰ（式１）で表すことができる。

図３（ａ）はフォーカス敏感度Ｓｅが小さい場合、図３（ｂ）はフォーカス敏感度Ｓｅが大きい場合におけるフォーカスレンズとフォーカス位置の関係を示している。図３（ａ）及び図３（ｂ）は、レンズ構成は同じで、レンズと点物体Ｓとの距離が異なる場合を示している。また、図３（ａ）及び図３（ｂ）において、共通のものに対しては同じ参照符号を付している。

図３（ａ）において、フォーカス位置をフォーカス位置Ｂｐ１からフォーカス位置Ｂｐ２へ移動させる場合、フォーカスレンズをフォーカスレンズ位置ＬＰａ１からフォーカスレンズ位置ＬＰａ２へ移動する必要がある。このとき、フォーカスレンズの移動量ΔＰａとフォーカス移動量ΔＢｐとの関係は式１に示す関係となる。同様に、図３（ｂ）において、フォーカス位置をフォーカス位置Ｂｐ１からフォーカス位置Ｂｐ２へ移動させる場合、フォーカスレンズをフォーカスレンズ位置ＬＰｂ１からフォーカスレンズ位置ＬＰｂ２へ移動する必要がある。このときのフォーカスレンズの移動量ΔＰａとフォーカス移動量ΔＢｐの関係も式１に示す関係となる。

図３（ａ）及び図３（ｂ）に示す通り、フォーカス敏感度Ｓｅがより小さい場合には、同じフォーカス移動量ΔＢｐ動かすために必要となるフォーカスレンズの移動量ΔＰは大きくなる。つまり、図３（ａ）に示す場合に比べ、図３（ｂ）に示す場合は、単位時間当たりのフォーカス移動量ΔＢｐを少なくできるため、結果としてフォーカスレンズ駆動速度が遅くしても、フォーカス移動速度としては同じにすることができる。

以上の通り、特定のフォーカス移動速度を達成するために必要となるフォーカスレンズ駆動速度は、フォーカス敏感度等の撮影条件により異なる。このことから、撮影条件により、求められるフォーカスレンズ駆動速度が変化することが分かる。

＜フォーカスレンズ制御に要求される消費電力＞
フォーカスレンズ制御に関する消費電力とは、フォーカスレンズを駆動するために消費する電力のことである。消費電力は、フォーカスレンズの駆動時間、駆動速度又は駆動加速度変化に応じて変化する。例えば、駆動時間が長い場合、駆動速度が速い場合、及び駆動加速度変化が多い場合には、消費電力が多くなる。一方、消費電力を抑えることでバッテリ容量を有効活用することでき、メリットとして１回の充電で撮影可能な枚数を増やすことやバッテリを更に小型化することができる。

＜フォーカスレンズ制御に要求される静音＞
フォーカスレンズ制御に関する静音とは、フォーカスレンズを駆動する際の駆動音の指標である。フォーカスレンズを駆動する際には、振動や摩擦などで駆動音が発生する。駆動音は、駆動速度又は駆動加速度変化に応じて変化する。例えば、駆動速度が速い場合や駆動加速度変化が多い場合には、駆動音が大きくなる。また、フォーカスレンズが停止する時間が長い程、駆動音が発生しない時間が長くなる。

＜位置精度と、速度、消費電力、及び静音との関係＞
次に、フォーカスレンズ制御に関する位置精度と、フォーカスレンズ制御に関する速度、消費電力、及び静音との関係について、図４（ａ）及び図４（ｂ）を参照して説明する。図４（ａ）は焦点深度が浅い場合、図４（ｂ）は焦点深度が深い場合において、動きのある被写体に合焦し続けるためのフォーカスレンズ制御の動きの一例を示している。図４（ａ）及び図４（ｂ）の横軸は時間経過を示し、縦軸はフォーカスレンズ位置を示す。ここで、図４（ａ）及び図４（ｂ）において、フォーカスレンズ位置が紙面上側に行くと無限方向にフォーカスが合い、紙面下側に行くと至近方向にフォーカスが合う。なお、図４（ａ）及び図４（ｂ）において、共通のものに対しては同じ参照符号を付している。

図４（ａ）及び図４（ｂ）において、フォーカスレンズ目標位置Ｇは、被写体の像を撮像素子２０１上に合焦させるときのフォーカスレンズ位置を示している。なお、図４（ａ）及び図４（ｂ）の焦点深度幅は、それぞれ２Ｆａδ，２Ｆｂδである。図４（ａ）において、フォーカスレンズ目標位置Ｇを基準に、フォーカス位置が焦点深度の無限側の境界となるフォーカスレンズ位置を位置ＧａｌｉｍＩ、至近側の境界となるフォーカスレンズ位置を位置ＧａｌｉｍＭで示す。同様に、図４（ｂ）において、フォーカスレンズ目標位置Ｇを基準に、フォーカス位置が焦点深度の無限側の境界となるフォーカスレンズ位置を位置ＧｂｌｉｍＩ、至近側の境界となるフォーカスレンズ位置を位置ＧｂｌｉｍＭで示す。また、図４（ａ）及び図４（ｂ）には、それぞれ被写体が焦点深度内に収まるように制御されたフォーカスレンズ位置Ｃａ，Ｃｂが示されている。

図４（ｂ）に示す場合には、焦点深度が深いため、フォーカスレンズがフォーカスレンズ位置Ｃｂの示す軌跡に制御されたとしても、被写体の像が焦点深度から外れることはない。一方、図４（ａ）に示す場合には、焦点深度が浅いため、図４（ｂ）に示す場合に比べ、フォーカスレンズ位置Ｃｂの軌跡をフォーカスレンズ目標位置Ｇとの偏差が少ない軌跡で制御する必要がある。

図４（ａ）及び図４（ｂ）に示す場合においては、共に被写体がフォーカスから外れることはないが、図４（ｂ）に示すフォーカスレンズ位置Ｃｂの制御の方が、図４（ａ）に示すフォーカスレンズ位置Ｃａの制御よりも駆動量及び駆動速度を少なくできる。このように、求められる位置精度が低い撮影条件下においては、低速、低消費電力、及び静音の状態でフォーカスレンズを制御することができる。

＜速度と、位置精度、消費電力、及び静音との関係＞
次に、フォーカスレンズ制御に関する速度と、フォーカスレンズ制御に関する位置精度、消費電力、静音との関係について、図５（ａ）及び図５（ｂ）を参照して説明する。図５（ａ）及び図５（ｂ）の横軸は、時間経過を示し、縦軸はフォーカスレンズ位置を示す。図５（ａ）は、図３（ａ）に示すフォーカスレンズ位置ＬＰａ１からフォーカスレンズ位置ＬＰａ２へ、時間Ｔ０～Ｔ１の間に駆動したフォーカスレンズ位置Ｃａの変化を示している。同様に、図５（ｂ）は、図３（ｂ）に示すフォーカスレンズ位置ＬＰｂ１からフォーカスレンズ位置ＬＰｂ２へ、時間Ｔ０～Ｔ１の間に駆動したフォーカスレンズ位置Ｃｂの変化を示している。また、図５（ａ）及び図５（ｂ）のそれぞれにおいて、フォーカスレンズ位置Ｃａ，Ｃｂの変化の傾きはフォーカスレンズ速度を示す。

ここで、図３（ａ）及び図３（ｂ）に示す通り、フォーカスレンズ位置ＬＰａ１からフォーカスレンズ位置ＬＰａ２へ移動したときのフォーカス移動量ΔＢｐは、フォーカスレンズ位置ＬＰｂ１からフォーカスレンズ位置ＬＰｂ２へ移動したときのフォーカス移動量ΔＢｐと同じである。これに対し、図５（ａ）に示されるフォーカスレンズ位置Ｃａの変化の傾きは、図５（ｂ）に示されるフォーカスレンズ位置Ｃｂの変化の傾きよりも大きくなっており、図５（ａ）に示す例ではフォーカスレンズ速度が速いことが分かる。

図５（ａ）及び図５（ｂ）に示す通り、時間Ｔ０～Ｔ１の間に同じフォーカス移動量ΔＢｐだけ動かすためのフォーカスレンズ移動速度は、フォーカスレンズ位置Ｃａの制御ではフォーカスレンズ位置Ｃｂの制御に比べて速くフォーカスレンズを動かす必要がある。また、フォーカスレンズ位置Ｃａの制御では速度が速いため、目標位置であるフォーカスレンズ位置ＬＰａ２到達後、位置が安定するまでにある程度に時間が必要となる。一方、フォーカスレンズ位置Ｃｂの制御では速度が遅いため、目標位置であるフォーカスレンズ位置ＬＰｂ２に到達後、直ぐに位置が安定する。これは位置精度に影響する。また、フォーカスレンズ位置Ｃａの制御では、フォーカスレンズを速く駆動することから停止時において加速度変化が大きくなるため、フォーカスレンズ位置Ｃｂの制御に比べ、消費電力が多くなり、駆動音も大きくなる。従って、求められる速度が低い撮影条件下においては、高い位置精度、低消費電力、及び静音の状態でフォーカスレンズを制御することができる。

＜レンズ装置情報＞
次に、撮影条件に関連するレンズ装置情報について説明する。レンズ装置情報は、撮影映像に影響を与えるレンズ装置の撮影条件に関する情報である。本実施例では、フォーカスレンズ制御における要求事項をバランスよく制御するために、フォーカスレンズ制御で求められる位置精度及び速度を決めるためのレンズ装置情報を基にフォーカスレンズ制御を行う。レンズ装置情報は、レンズ装置情報管理部１２２により決定される。レンズ装置情報は、例えば、焦点深度やフォーカス敏感度等を含む。

レンズ装置情報管理部１２２は、現在のＦ値と錯乱円の情報から式１に示す通り、焦点深度を決定することができる。また、レンズ装置情報管理部１２２は、フォーカス敏感度とフォーカスレンズ位置及びズームレンズ位置との関係を示す不図示の変換テーブルを保持し、フォーカスレンズ位置及びズームレンズ位置からフォーカス敏感度を決定することができる。なお、焦点深度やフォーカス敏感度の決定方法は、公知の任意の方法を用いて決定されてよい。

上述のように、フォーカスレンズ制御の要求事項は撮影条件の影響を受ける。このため、これらの撮影条件に関するレンズ装置情報を基にフォーカスレンズ制御を行うことで、撮影条件によって撮影映像が受ける影響を加味して、位置精度、速度、消費電力、及び静音のそれぞれの要求事項をバランスよく制御することができる。

＜ＮＮアルゴリズムとウエイト＞
以下に、ＮＮ制御部１２１がＮＮアルゴリズムを用いて駆動指令を決定する方法について説明する。上述のように、ＮＮ制御部１２１にはＮＮが実装されている。ＮＮ制御部１２１は、ＮＮデータ記憶部１２３に記録された学習済モデルの結合重み付け係数であるウエイトを参照し、参照したウエイトをＮＮのウエイトとして用いる。これにより、ＮＮ制御部１２１は、ＮＮを学習済のＮＮとして用いることができる。ＮＮ制御部１２１は、学習済のＮＮにより駆動指令を決定することで、学習済モデルの学習の傾向に従って、レンズ１００の構成及びユーザの要望に応じた駆動指令を決定することができる。

図６は、本実施例に係るＮＮを用いたＮＮ制御部１２１の入出力の構造を示す概念図である。目標位置Ｘ１は、制御部１２５から出力されたフォーカス駆動の駆動指令目標位置である。現在位置Ｘ２は、フォーカスレンズ検出部１０６から得られたフォーカスレンズ１０１の現在位置である。焦点深度Ｘ３はレンズ装置情報に含まれる焦点深度であり、フォーカス敏感度Ｘ４はレンズ装置情報に含まれるフォーカス敏感度である。また、駆動信号Ｙ１はフォーカスレンズ１０１の駆動信号である。

このように、本実施例では、フォーカス駆動の駆動指令、フォーカスレンズ１０１の現在位置、焦点深度、及びフォーカス敏感度を入力として、学習済モデルの出力として駆動信号が決定される。ＮＮ制御部１２１は、撮影条件に関するレンズ装置情報もＮＮへの入力として用いることで、撮影条件によって撮影映像が受ける影響を加味して、フォーカスレンズ１０１の制御を行うことができる。

＜撮影処理の流れ＞
次に、図７を参照して、本実施例に係る一連の撮影処理について説明する。図７は、本実施例に係る一連の撮影処理の流れを示すフローチャートである。本実施例では、ユーザの操作に応じて撮影処理が開始されると、処理がステップＳ７０１に移行する。

ステップＳ７０１では、ＮＮを用いた制御に影響を与える撮影条件が設定される。例えば、本実施例に係る制御部２１１は、ステップＳ７０１において、信号処理回路２０３から出力された映像データを基に、露出制御を行い、Ｆ値を設定する。Ｆ値が設定されることで、焦点深度が設定される。なお、Ｆ値は、ユーザによる操作部２０６の操作に応じて設定されてもよい。

ステップＳ７０２では、制御部２１１が、ユーザによる操作部２０６の操作に応じて機械学習を実施するか否かを判断する。制御部２１１が、機械学習を実施すると判断した場合には、処理はステップＳ７０３に移行する。

ステップＳ７０３では、本実施例に係るフォーカスレンズ制御に用いるＮＮの学習に関する報酬情報を決定する。上述のように、本実施例では、機械学習処理として、レンズ装置毎の機器的な制約情報及びユーザによる要望情報に基づく報酬情報に応じた動作の評価値を報酬とし、報酬が最大となるようにＮＮに対して強化学習を行う。そのため、本実施例では、機械学習処理に先立ち、レンズ１００の構成及びユーザの要望に応じて報酬情報を決定する。具体的には、機器制約報酬管理部２２４、ユーザ要望報酬管理部２２５、及び報酬管理部２２３によって、レンズ個体情報及びユーザによって設定されたユーザ要望情報に基づいて、報酬情報を決定する。なお、報酬情報及び報酬情報の決定処理の詳細については、後述する。ステップＳ７０３において、報酬情報が決定されると、処理はステップＳ７０４に移行する。

ステップＳ７０４においては、学習部２２０によって、ＮＮに対する機械学習処理が行われる。ここで、上述のように、レンズ装置を使用して機械学習を行う場合、機械学習時には多くの駆動が必要となり、駆動部が摩耗し駆動部の性能劣化に繋がることがある。また、機械学習には多くの時間が必要となるため、ユーザが実際に撮影したい時に撮影できない等、ユーザに負担が発生することがある。そこで本実施例では、学習部２２０が、予め学習を行った複数の学習済モデルから、レンズ１００の構成及びユーザの要望に似た構成及び要望に対応する報酬情報を用いて学習を行った学習済モデルを選択する。学習部２２０は、選択した学習済モデルのウエイトを、ＮＮのウエイトの初期値として用いる。

その後、学習部２２０は、ウエイトの初期値を設定したＮＮを備えたレンズ１００を用いてフォーカス制御の動作ログ情報を取得し、ステップＳ７０３で決定した報酬情報に基づいて、フォーカス制御の評価値を報酬とした追加の学習を行う。このように、本実施例では、レンズ１００の構成及びユーザの要望に一致又は類似する構成及び要望に対応する報酬情報を用いて学習を行った学習済モデルを用いて、いわゆる転移学習を行うことで、機械学習時における駆動部の駆動回数を減らすことができる。そのため、機械学習時における駆動部の摩耗を抑制することができるとともに、機械学習に係る時間を短くすることができる。なお、機械学習処理の詳細については、後述する。

一方で、ステップＳ７０２において、制御部２１１が、機械学習を実施しないと判断した場合には、処理はステップＳ７０５に移行する。ステップＳ７０５では、制御部２１１が、ユーザの操作に応じて、ＮＮ制御部１２１について用いる学習済モデルを選択する。例えば、表示部２０５は、機械学習モデル保持部２３１が保持する機械学習モデルデータベースに記憶されている学習済モデルを学習済モデルの選択肢として表示する。ユーザは表示部２０５に表示される学習済モデルの選択肢から使用する学習済モデルを選択することができ、ＮＮ制御部１２１は選択された学習済モデルのウエイトをＮＮのウエイトとして用いることで、学習傾向に従った駆動制御を行うことができる。ここで、表示部２０５が、学習済モデルの選択肢を表示する際には、学習済モデルの説明として、学習時のユーザ要望情報等を表示してもよい。

なお、ステップＳ７０５での学習済モデルの選択は、前回用いられた学習済モデルを自動的に選択するように行われてもよい。この場合には、ユーザの選択を省略することができ、ユーザによる操作の手間を低減することができる。また、制御部２１１は、例えば、レンズ１００と一致又は類似するレンズ機種のレンズ装置、及びステップＳ７０１で設定された撮影条件と類似する撮影条件で取得されたデータを用いて学習が行われた学習済モデルを自動的に選択してもよい。ステップＳ７０４又はステップＳ７０５での処理が終了すると、処理はステップＳ７０６に移行する。

ステップＳ７０６では、ユーザの操作に応じて、撮影処理を行う。撮影処理では、ユーザの操作に従って、ズームや、揺れの補正、及びＮＮ制御部１２１によるＡＦフォーカス制御が行われる。また、ユーザの操作に従って、撮像素子２０１を用いた映像データの取得や、記録部２０４への映像データの記憶、表示部２０５への映像の表示等が行われる。

ステップＳ７０７では、制御部２１１が、操作部２０６を介してユーザから撮影終了の指示が入力された否かを判断する。制御部２１１によって撮影終了の指示が入力されていないと判断された場合には、処理はステップＳ７０６に戻り、撮影処理が継続される。これに対し、制御部２１１によって撮影終了の指示が入力されたと判断された場合には、制御部２１１は、一連の撮影処理を終了する。

このような、本実施例に係る一連の撮影処理では、予め学習を行っていた学習済モデルのウエイトをＮＮのウエイトの初期値として用いることで、ＮＮの学習時における駆動部の駆動の回数を低減し、駆動部の摩耗を抑制することができる。また、機械学習に係る時間を短くすることができ、ユーザの負担を低減することができる。さらに、ＮＮのウエイトの初期値を設定する際に、ユーザの要望に一致又は類似する要望に対応する報酬情報を用いて学習を行った学習済モデルのウエイトを参照することで、ユーザの要望に即したフォーカス制御を実現することができる。

なお、本実施例では、撮影条件の設定は機械学習の実施判断の前に行う構成としたが、撮影条件の設定を行うタイミングはこれに限られない。撮影条件の設定は、ステップＳ７０４での機械学習処理及びステップＳ７０５での学習済モデルの選択の前に行われていればよい。そのため、例えば、ステップＳ７０２での機械学習実施の判断処理やステップＳ７０３での報酬情報の決定処理の後に撮影条件の設定が行われてもよい。

＜報酬情報＞
次に、図８及び図９を参照して、報酬情報の詳細について説明する。報酬情報は、動作ログ情報から得られるＮＮアルゴリズムの制御結果を点数化（評価）する上で、点数の基準となる情報である。報酬情報は、ＮＮアルゴリズムの制御結果に対して、点数の境界値とその境界値で区切られた範囲毎に割り当てられた点数の情報を持つ。ここで、図８を参照して、報酬情報について説明する。

図８の（ａ１）、（ｂ１）、（ｃ１）、及び（ｄ１）は、それぞれ、ＮＮアルゴリズムの制御結果を示す項目である位置精度、速度、加速度、及び消費電力に対して、学習時における時間経過に伴う変化と点数の境界値との関係の例を示している。ここで、図８の（ａ１）、（ｂ１）、（ｃ１）、及び（ｄ１）の横軸は時間経過を示す。

図８の（ａ２）、（ｂ２）、（ｃ２）、及び（ｄ２）は、それぞれ、位置精度、速度、加速度、及び消費電力に対しての報酬情報のデータ構造の一例を示している。報酬情報のデータは、複数の境界値と、境界値で区切られた範囲で獲得できる点数で構成される。本実施例では、報酬情報のデータが２つの境界値と３つの点数で構成される例を示す。

ここで、ＮＮの学習は、制御結果の獲得点数（評価値）が高得点となるように行われるため、境界値が各対象となる項目の目標に近い程、より高精度な制御となるように学習が行われる。例えば、位置精度の境界値が０に近い値になる程、位置精度が高い制御となるように学習される。また、報酬情報において、ある項目について他の項目に比べて点数を高く設定することにより、他の項目よりも学習の優先度が高いことを示すこともできる。例えば、位置精度よりも消費電力の点数を高くすることで、位置精度よりも消費電力を優先させる制御となるように学習が行われる。

図８の（ａ１）に示す縦軸は、フォーカスレンズの目標位置と現在位置との差である位置精度Ｅの値を示している。位置精度Ｅの正の方向は、目標位置に対して、現在位置が無限側にある場合を示し、負の方向は、目標位置に対して、現在位置が至近側にある場合を示す。なお、図８の（ａ１）では、位置精度Ｅが０に近い程、駆動制御における位置精度が高いことを示している。

図８の（ａ２）は、位置精度の報酬情報である位置精度報酬情報ＲＥのデータ構造の一例を示している。本実施例では、位置精度報酬情報ＲＥは、位置精度の報酬範囲を決める境界値Ｅ１，Ｅ２と、報酬範囲において獲得できる点数ＳＥ１，ＳＥ２，ＳＥ３により構成される。

境界値Ｅ１，Ｅ２は、それぞれ、位置精度Ｅの報酬として与えられる点数の境界値を示している。ここで、－Ｅ１～Ｅ１の範囲を範囲ＡＥ１とし、範囲ＡＥ１を除く－Ｅ２～Ｅ２の範囲ＡＥ２とし、範囲ＡＥ１及び範囲ＡＥ２以外の範囲を範囲ＡＥ３とする。位置精度Ｅが、範囲ＡＥ１，ＡＥ２，ＡＥ３の範囲内の場合には、それぞれ、図８の（ａ２）が示す点数ＳＥ１，ＳＥ２，ＳＥ３が報酬として与えられる。ここで、点数ＳＥ１，ＳＥ２，ＳＥ３の関係は、点数ＳＥ１＞点数ＳＥ２＞点数ＳＥ３となり、位置精度Ｅが０に近い程、高い点数となるように設定される。

図８の（ａ１）に示す通り、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３における位置精度Ｅは、それぞれ、範囲ＡＥ２，ＡＥ３，ＡＥ１の範囲内である。従って、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３において、獲得できる報酬はそれぞれ点数ＳＥ２，ＳＥ３，ＳＥ１となる。

ここで、例えば、境界値Ｅ１は±Ｆδ／２、及び境界値Ｅ２は±Ｆδの値が設定されることができる。この場合には、フォーカスレンズの目標位置に対して、現在位置が焦点深度内に制御されていれば、高い得点が加算され、焦点深度外となった場合に低い点数が加算される。また、フォーカスレンズが目標位置に近い程、獲得できる点数が高くなる。

次に、図８の（ｂ１）の縦軸は、フォーカスレンズの駆動速度Ｖの値を示している。駆動速度Ｖの正の方向は無限方向への駆動速度を示し、負の方向は至近方向への駆動速度を示している。駆動速度Ｖが０に近い程、駆動音が小さくなる。

図８の（ｂ２）は速度の報酬情報である速度報酬情報ＲＶのデータ構造の一例を示している。本実施例では、速度報酬情報ＲＶは速度の報酬範囲を決める境界値Ｖ１，Ｖ２と、報酬範囲において獲得できる点数ＳＶ１，ＳＶ２，ＳＶ３により構成される。

境界値Ｖ１，Ｖ２は、それぞれ、駆動速度Ｖの報酬として与えられる点数の境界値を示している。ここで、－Ｖ１～Ｖ１の範囲を範囲ＡＶ１とし、範囲ＡＶ１を除く－Ｖ２～Ｖ２の範囲を範囲ＡＶ２とし、範囲ＡＶ１及び範囲ＡＶ２以外の範囲を範囲ＡＶ３とする。駆動速度Ｖが、範囲ＡＶ１，ＡＶ２，ＡＶ３の範囲内の場合には、それぞれ、図８の（ｂ２）が示す点数ＳＶ１，ＳＶ２，ＳＶ３が報酬として与えられる。ここで、点数ＳＶ１，ＳＶ２，ＳＶ３の点数の関係は点数ＳＶ１＞点数ＳＶ２＞点数ＳＶ３となり、駆動速度Ｖが０に近い程、高い点数となるように設定される。

図８の（ｂ１）が示す通り、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３における駆動速度Ｖは、それぞれ、範囲ＡＶ２，ＡＶ３，ＡＶ１の範囲内である。従って、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３において、駆動音に関連する駆動速度Ｖについて獲得できる報酬はそれぞれ点数ＳＶ２，ＳＶ３，ＳＶ１となる。

ここで、例えば、境界値Ｖ１，Ｖ２は駆動速度と駆動音の関係に基づいて決定され、駆動速度を遅く制御する程、獲得できる点数が高くなるように点数が設定される。一般的に、駆動速度が遅い程、駆動音が小さくなるため、獲得した点数が高い程、静音を重視した制御が行えていることを示す。

次に、図８の（ｃ１）の縦軸は、フォーカスレンズの駆動加速度Ａの値を示している。駆動加速度Ａの正の方向は無限方向への駆動加速度を示し、負の方向は至近方向への駆動加速度を示している。駆動加速度Ａが０に近い程、駆動音が小さくなる。

図８の（ｃ２）は、加速度の報酬情報である加速度報酬情報ＲＡのデータ構造の一例を示している。本実施例では、加速度報酬情報ＲＡは、加速度の報酬範囲を決める境界値Ａ１，Ａ２と、報酬範囲において獲得できる点数ＳＡ１，ＳＡ２，ＳＡ３により構成される。

境界値Ａ１，Ａ２は、それぞれ、駆動加速度Ａの報酬として与えられる点数の境界値を示している。ここで、－Ａ１～Ａ１の範囲を範囲ＡＡ１とし、範囲ＡＡ１を除く－Ａ２～Ａ２の範囲を範囲ＡＡ２とし、範囲ＡＡ１及び範囲ＡＡ２以外の範囲を範囲ＡＡ３とする。駆動加速度Ａが、範囲ＡＡ１，ＡＡ２，ＡＡ３の範囲内の場合には、それぞれ、図８の（ｃ２）が示す点数ＳＡ１，ＳＡ２，ＳＡ３が報酬として与えられる。ここで、点数ＳＡ１，ＳＡ２，ＳＡ３の点数の関係は、点数ＳＡ１＞点数ＳＡ２＞点数ＳＡ３となり、駆動加速度Ａが０に近い程、高い点数となるように設定される。

図８の（ｃ１）が示す通り、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３における駆動加速度Ａは、それぞれ、範囲ＡＡ１，ＡＡ３，ＡＡ２の範囲内である。従って、任意の時間ＴＰ１，ＴＰ２，Ｔｐ３において、駆動音に関連する駆動加速度Ａについて獲得できる報酬はそれぞれ点数ＳＡ１，ＳＡ３，ＳＡ２となる。

ここで、例えば、境界値Ａ１，Ａ２は駆動加速度と駆動音の関係に基づいて決定され、駆動加速度を小さく制御する程、獲得できる点数が高くなるように点数が設定される。一般的に、駆動加速度が小さい程、駆動音が小さくなるため、獲得した点数が高い程、静音を重視した制御が行えていることを示す。

次に、図８の（ｄ１）の縦軸は、フォーカスレンズの消費電力Ｐの値を示している。消費電力Ｐが０に近い程、消費電力が小さくなる。

図８の（ｄ２）は、消費電力の報酬情報である消費電力報酬情報ＲＰのデータ構造の一例を示している。本実施例において、消費電力報酬情報ＲＰは、消費電力の報酬範囲を決める境界値Ｐ１，Ｐ２と、報酬範囲において獲得できる点数ＳＰ１，ＳＰ２，ＳＰ３により構成される。

境界値Ｐ１，Ｐ２は、それぞれ、消費電力Ｐの報酬として与えられる点数の境界値を示している。ここで、０～Ｐ１の範囲を範囲ＡＰ１とし、Ｐ１～Ｐ２の範囲を範囲ＡＰ２とし、範囲ＡＰ１及び範囲ＡＰ２以外の範囲を範囲ＡＰ３とする。消費電力Ｐが、それぞれ、範囲ＡＰ１，ＡＰ２，ＡＰ３の範囲内の場合には、図８の（ｄ２）が示す点数ＳＰ１，ＳＰ２，ＳＰ３が報酬として与えられる。ここで、点数ＳＰ１，ＳＰ２，ＳＰ３の点数の関係は、点数ＳＰ１＞点数ＳＰ２＞点数ＳＰ３となり、消費電力Ｐが０に近い程、高い点数となるように設定される。

図８の（ｄ１）が示す通り、任意の時間ＴＰ１，ＴＰ２，ＴＰ３における消費電力Ｐは、それぞれ、範囲ＡＰ１，ＡＰ３，ＡＰ２の範囲内である。従って、任意の時間ＴＰ１，ＴＰ２，ＴＮ３において、消費電力Ｐについて獲得できる報酬はそれぞれ点数ＳＰ１，ＳＰ３，ＳＰ２となる。

ここで、例えば、境界値Ｐ１、Ｐ２は任意に決定され、消費電力を小さく制御する程、獲得できる点数が高くなるように点数が設定される。従って、獲得した点数が高くなる程、低消費電力を重視した制御が行えていることを示す。

以上に示すように、位置制御誤差、速度、加速度、及び消費電力等の制御結果に対して、点数化するための報酬情報が設定される。学習処理部２２１は、このような報酬情報を用いて、学習時のフォーカスレンズ駆動に関する動作ログ情報を基にＮＮアルゴリズムの制御結果を単位時間毎に点数化し、単位時間毎の点数を累計することで、ＮＮアルゴリズムの制御結果の累計点数（累積評価値）を決定することができる。また、ＮＮアルゴリズムの制御結果に関して、位置制御誤差、速度、加速度、及び消費電力のそれぞれの得点を加算して合計得点を評価値とすることで、ＮＮアルゴリズムのトータルとしての制御結果を点数化することができる。

ここでは、消費電力を制御結果の一つとして使用している例を示しているが、速度及び加速度と消費電力との関係から、速度及び加速度の結果を用いて消費電力に対しての報酬情報を設定してもよい。

なお、本実施例では、境界値の数を２つとしているが、境界値の数はこれに限られず、所望の構成に応じて３つ以上としてもよいし、境界値の数は必要に応じて可変としてもよい。また、本実施例では、点数を境界値により決定しているが、位置精度Ｅ、駆動速度Ｖ、駆動加速度Ａ、及び消費電力Ｐを点数に変換する変換関数を用いて点数化する方法でもよい。この場合は、報酬情報として境界値及び境界値で区切られた範囲で獲得できる点数ではなく、変換関数及びその係数が報酬情報として設定される。

ここで、本実施例では、レンズ装置の構成及びユーザの要望に即した学習を行うため報酬情報に、レンズ装置毎の機器的な制約情報に基づく機器制約報酬情報と、ユーザによる要望情報に基づくユーザ要望報酬情報とが含まれる。図９は、本実施例に係る報酬情報に含まれる機器制約報酬情報及びユーザ要望報酬情報のデータ構造の一例を示す。

まず、ユーザ要望報酬情報は、ユーザによって設定されるユーザ要望情報に応じて変更可能な報酬情報である。なお、ユーザ要望情報は、上述のように、ユーザ要望報酬変換情報を用いてユーザ要望報酬情報に変換される。ここで、ユーザ要望報酬変換情報は、レンズ機種ごとに予め設定されており、ユーザ要望報酬変換情報保持部２２９が保持するユーザ要望報酬変換情報データベースにおいて、レンズ機種情報と関連付けて記憶されている。なお、ユーザ要望報酬変換情報は、例えば、ユーザ要望情報をユーザ要望報酬情報に変換するための変換テーブルであってよい。

一方、機器制約報酬情報は、機器として、最低限守るべき制御を規定するための報酬情報である。そのため、機器制約報酬情報は、ユーザ要望報酬情報よりも境界値で決定する範囲が広い一方で、期待する目標から逸脱する場合に負の値を含む低い点数が設定される。本実施例では、機器制約報酬情報は、レンズ機種ごとに予め設定されており、機器制約報酬情報保持部２２８が保持する機器制約報酬情報データベースにおいて、レンズ機種情報と関連付けて記憶されている。なお、機器制約報酬情報は、例えば、レンズ機種ごとに駆動制御の実験を行った結果に基づいて設定されてよい。

図９に示すように、本実施例では、機器制約報酬情報は、位置精度報酬情報ＲＥｂ、速度報酬情報ＲＶｂ、加速度報酬情報ＲＡｂ、及び消費電力報酬情報ＲＰｂで構成されている。また、ユーザ要望報酬情報は、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕで構成されている。

ここで、位置精度報酬情報ＲＥｂ及び位置精度報酬情報ＲＥｕは、図８の（ａ２）に示す位置精度報酬情報ＲＥと同様のデータ構造を有する。具体的には、位置精度報酬情報ＲＥｂは、境界値Ｅｂ１，Ｅｂ２を有し、境界値で区切られた範囲で獲得できる点数ＳＥｂ１，ＳＥｂ２，ＳＥｂ３を有する。位置精度報酬情報ＲＥｕは、境界値Ｅｕ１，Ｅｕ２を有し、境界値で区切られた範囲で獲得できる点数ＳＥｕ１，ＳＥｕ２，ＳＥｕ３を有する。

速度報酬情報ＲＶｂ及び速度報酬情報ＲＶｕは、図８の（ｂ２）に示す速度報酬情報ＲＶと同様のデータ構造を有する。具体的には、速度報酬情報ＲＶｂは、境界値Ｖｂ１，Ｖｂ２を有し、境界値で区切られた範囲で獲得できる点数ＳＶｂ１，ＳＶｂ２，ＳＶｂ３を有する。速度報酬情報ＲＶｕは、境界値Ｖｕ１，Ｖｕ２を有し、境界値で区切られた範囲で獲得できる点数ＳＶｕ１，ＳＶｕ２，ＳＶｕ３を有する。

加速度報酬情報ＲＡｂ及び加速度報酬情報ＲＡｕは、図８の（ｃ２）に示す加速度報酬情報ＲＡと同様のデータ構造を有する。具体的には、加速度報酬情報ＲＡｂは、境界値Ａｂ１，Ａｂ２を有し、境界値で区切られた範囲で獲得できる点数ＳＡｂ１，ＳＡｂ２，ＳＡｂ３を有する。加速度報酬情報ＲＡｕは、境界値Ａｕ１，Ａｕ２を有し、境界値で区切られた範囲で獲得できる点数ＳＡｕ１，ＳＡｕ２，ＳＡｕ３を有する。

消費電力報酬情報ＲＰｂ及び消費電力報酬情報ＲＰｕは、図８の（ｄ２）に示す消費電力報酬情報ＲＰと同様のデータ構造を有する。具体的には、消費電力報酬情報ＲＰｂは、境界値Ｐｂ１，Ｐｂ２を有し、境界値で区切られた範囲で獲得できる点数ＳＰｂ１，ＳＰｂ２，ＳＰｂ３を有する。消費電力報酬情報ＲＰｕは、境界値Ｐｕ１，Ｐｕ２を有し、境界値で区切られた範囲で獲得できる点数ＳＰｕ１，ＳＰｕ２，ＳＰｕ３を有する。

＜報酬情報の決定処理＞
次に、図１０乃至図１４を参照して、ステップＳ７０３における報酬情報の決定処理について説明する。図１０は、報酬情報の決定処理の流れを示すフローチャートである。

まず、ステップＳ７０３において報酬情報の決定処理が開始されると、処理はステップＳ１００１に移行する。ステップＳ１００１では、レンズ１００がカメラ本体２００に装着された状態において、学習部２２０が、レンズ個体情報管理部１２７から制御部１２５、通信部１２６、通信部２１２、及び制御部２１１を介してレンズ個体情報を取得する。

ステップＳ１００２では、機器制約報酬管理部２２４が、レンズ個体情報のレンズ機種情報に応じて、機器制約報酬情報保持部２２８が保持する機器制約報酬情報データベースからレンズ１００に対応する機器制約報酬情報を決定する。ここで、図１１（ａ）乃至図１１（ｄ）を参照して、機器制約情報データベース及び機器制約情報データベースを用いた機器制約情報の決定方法について説明する。図１１（ａ）乃至図１１（ｄ）は、機器制約報酬管理部２２４に保持されている機器制約報酬情報データベースのデータ構造の一例を示している。

図１１（ａ）は、位置精度報酬情報ＲＥｂのデータベースのデータ構造の一例を示している。位置精度報酬情報ＲＥｂのデータベースは、レンズ機種毎に、境界値及び点数が異なる複数の位置精度報酬情報ＲＥｂで構成されている。図１１（ｂ）は、速度報酬情報ＲＶｂのデータベースのデータ構造の一例を示している。速度報酬情報ＲＶｂのデータベースは、レンズ機種毎に、境界値及び点数が異なる複数の速度報酬情報ＲＶｂで構成されている。図１１（ｃ）は、加速度報酬情報ＲＡｂのデータベースのデータ構造の一例を示している。加速度報酬情報ＲＡｂのデータベースは、レンズ機種毎に、境界値及び点数が異なる複数の加速度報酬情報ＲＡｂで構成されている。図１１（ｄ）は、消費電力報酬情報ＲＰｂのデータベースのデータ構造の一例を示している。消費電力報酬情報ＲＰｂのデータベースは、レンズ機種毎に、境界値及び点数が異なる複数の消費電力報酬情報ＲＰｂで構成されている。

機器制約報酬管理部２２４は、レンズ個体情報のレンズ機種情報に応じて、位置精度報酬情報ＲＥｂデータベースからレンズ１００のレンズ機種に対応した位置精度報酬情報ＲＥｂを決定する。例えば、機器制約報酬管理部２２４は、レンズ１００が機種Ａの場合には、位置精度報酬情報ＲＥｂの境界値Ｅｂ１，Ｅｂ２をＥｂ１ＴＡ，Ｅｂ２ＴＡとし、点数ＳＥｂ１，ＳＥｂ２，ＳＥｂ３をＳＥｂ１ＴＡ，ＳＥｂ２ＴＡ，ＳＥｂ３ＴＡとする。

同様に、機器制約報酬管理部２２４は、速度報酬情報ＲＶｂデータベース、加速度報酬情報ＲＡｂデータベース、及び消費電力報酬情報ＲＰｂデータベースのそれぞれから、速度報酬情報ＲＶｂ、加速度報酬情報ＲＡｂ、及び消費電力報酬情報ＲＰｂを決定する。なお、本実施例では、レンズ機種ごとに機器制約報酬情報データベースを構成する例を示したが、レンズ個体ごとに機器制約報酬情報データベースを構成してもよい。この場合には、機器制約報酬管理部２２４は、レンズ個体情報に含まれる個体識別番号により機器制約報酬情報を決定することができる。

次に、ステップＳ１００３では、ユーザが操作部２０６を用いて、所定のユーザ要望情報のうちのいずれかを現在適用するユーザ要望情報として設定する。ユーザ要望管理部２２６は、制御部２１１を介して、ユーザによって選択されたユーザ要望情報を取得し、取得したユーザ要望情報を現在適用するユーザ要望情報として決定する。ここで、ユーザ要望情報には位置精度、静音、及び消費電力の各レベル情報が含まれる。レベル情報とは、要望情報に含まれる位置精度、静音、及び消費電力ごとに達成することが要求されるレベルを示す情報である。例えば、位置精度についてのレベル情報として、高、中、及び低のレベルに対応するレベル１、レベル２、及びレベル３が予め設定され、ユーザは位置精度について達成することが望まれるいずれかのレベルを選択することができる。

ここで、図１２を参照して、ユーザ要望情報データベースを用いたユーザ要望情報の設定方法について説明する。ここで、ユーザ要望情報は、フォーカスレンズの駆動制御に対して、ユーザによって要求される達成すべきレベルを示すレベル情報を含む。本実施例では、ユーザ要望項目である、位置精度、静音、及び消費電力に対しての要求されるレベルを示す情報をユーザ要望情報の例として挙げている。

図１２は、ユーザ要望保持部２２７が保持しているユーザ要望情報データベースの構造の一例を示している。ユーザ要望情報データベースは、一つのユーザ要望情報データに対して、ユーザ要望ＩＤ、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、消費電力ユーザ要望情報Ｐｕ、ユーザ識別情報、撮影条件、及び作成日時情報で構成されている。

ここでユーザ要望ＩＤは、ユーザ要望情報データを一意に決定するユニークな数値が割り当てられる。位置精度ユーザ要望情報Ｅｕは、ユーザ要望項目の位置精度に対して要求されるレベルを示している。静音ユーザ要望情報Ｓｕは、ユーザ要望項目の静音に対して要求されるレベルを示している。消費電力ユーザ要望情報Ｐｕは、ユーザ要望項目の消費電力に対して要求されるレベルを示している。

ユーザ識別情報は、ユーザ要望情報データの設定を行ったユーザを一意に識別する情報である。ユーザ識別情報は、ユーザ要望情報を生成する時に、ユーザによって設定される情報である。

撮影条件は、ユーザ要望情報を設定するときの撮影条件を示す情報である。撮影条件は、例えば、レンズ１００の設定であるズーム位置、フォーカス位置、絞り値、及び像揺れ補正状態等の撮影映像に影響を与える設定を含むことができる。また、撮影条件は、カメラ本体２００の設定である動画撮影又は静止画撮影を示す情報、撮影モード、シャッタースピード、オートフォーカス制御、及び露光制御の設定等の撮影映像に影響を与える設定を含むことができる。作成日時情報は、ユーザ要望情報データが作成された日時を示す情報が記録されている。

図１２に示す例では、ユーザ要望情報データベースは、ユーザ要望情報ｕ１，ｕ２，ｕ３の３つのユーザ要望情報で構成されている。ただし、ユーザ要望情報の数はこれに限られず、ユーザによって任意に増やしたり減らしたりされてよい。

以上のユーザ要望情報データベース構成により、一つのユーザ要望情報に対して、ユーザ要望情報のレベルの値及びユーザ要望情報を生成した時の情報を管理することができる。また、以上のデータベース構成により、学習済みの機械学習モデルで使用したユーザ要望情報のそれぞれの関連を容易に確認することができる。さらに、類似したユーザ要望情報により生成された報酬情報を用いて学習が行われた学習済モデルの検索を容易にすることができる。

次に、複数のユーザ要望情報から現在適用するユーザ要望情報を設定する方法について説明する。ユーザは、操作部２０６を操作し、ユーザ要望情報ｕ１，ｕ２，ｕ３のうちいずれかを選択する。選択されたユーザ要望情報は、制御部２１１を介してユーザ要望管理部２２６に伝えられる。ユーザ要望管理部２２６は、選択されたユーザ要望情報を現在適用するユーザ要望情報として管理する。以下では、一例として、ユーザがユーザ要望情報ｕ１を選択したものとする。

次に、現在適用するユーザ要望情報に対して、ユーザ要望項目のレベルの変更方法について説明する。ユーザは、操作部２０６を操作し、選択したユーザ要望情報ｕ１の位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕのレベルの設定を行う。

ユーザが設定したレベルの情報は、制御部２１１を介してユーザ要望管理部２２６に伝えられる。ユーザ要望管理部２２６は、ユーザが設定したレベルの情報を現在適用するユーザ要望情報として決定し、ユーザ要望報酬管理部２２５に伝達する。図１２に示す例では、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕについて、それぞれ、レベル１、レベル２、及びレベル３が設定された場合を示している。

以上により、ユーザは、ユーザ要望情報としてユーザ要望情報ｕ１を選択し、それぞれのユーザ要望項目に対してレベルを設定することができる。また、ユーザ要望管理部２２６は、ユーザが設定したレベル情報に従い、ユーザ要望保持部２２７に対して、ユーザ要望情報データベースのユーザ要望情報ｕ１の更新を要求することができる。この場合、ユーザ要望保持部２２７は、ユーザ要望情報ｕ１の更新の要求に応じて、ユーザ要望情報データベースを更新することができる。

本実施例では、既にユーザ要望情報データベースに存在しているユーザ要望情報を変更する場合について説明したが、所定のレベルで初期化されたユーザ要望情報を新規に作成し、各要望事項のレベル等を変更してもよい。また、別のユーザ要望情報をコピーして新たなユーザ要望情報を作成し、各要望事項のレベル等を変更してもよい。

次に、ステップＳ１００４において、ユーザ要望報酬管理部２２５は、ステップＳ１００１において取得されたレンズ個体情報に基づいて、レンズ１００のレンズ機種を特定する。また、ユーザ要望報酬管理部２２５は、現在適用するユーザ要望をユーザ要望管理部２２６から受け取る。ユーザ要望報酬管理部２２５は、レンズ個体情報と、受け取ったユーザ要望情報とに応じて、ユーザ要望報酬情報を決定する。

より具体的には、ユーザ要望報酬管理部２２５は、ユーザ要望情報に含まれる位置精度、静音、及び消費電力の各レベル情報を受け取ると、レンズ機種情報とともにユーザ要望報酬変換情報保持部２２９に伝達する。ユーザ要望報酬変換情報保持部２２９は、まず、レンズ機種情報に応じて、ユーザ要望報酬変換情報データベースから、ユーザ要望情報の変換に用いるユーザ要望報酬変換情報を決定する。その後、ユーザ要望報酬変換情報保持部２２９は、決定したユーザ要望報酬変換情報を参照してユーザ要望情報に含まれる各レベル情報をユーザ要望報酬情報に変換する。

ここで、図１３（ａ）乃至図１３（ｃ）を参照して、ユーザ要望報酬変換情報データベース及びユーザ要望報酬変換情報データベースを用いたユーザ要望報酬情報の決定方法について説明する。図１３（ａ）乃至図１３（ｃ）は、ユーザ要望報酬変換情報データベースのデータ構造の一例を示している。

図１３（ａ）は、位置精度ユーザ要望報酬変換情報ＵＲＥｕのデータベースのデータ構造の一例を示している。位置精度ユーザ要望報酬変換情報ＵＲＥｕは、レベルごとに、境界値及び点数が異なる複数の位置精度報酬情報ＲＥｕで構成されている。また、位置精度ユーザ要望報酬変換情報ＵＲＥｕのデータベースは、レンズ機種ごとの位置精度ユーザ要望報酬変換情報ＵＲＥｕで構成されている。例えば、機種Ａに対して、位置精度ユーザ要望情報がレベル１であるときに使用される位置精度報酬情報ＲＥｕは、位置精度報酬情報ＲＥｕＴＡＬ１となる。

図１３（ｂ）は、静音ユーザ要望報酬変換情報ＵＲＳｕのデータベースのデータ構造の一例を示している。静音ユーザ要望報酬変換情報ＵＲＳｕは、速度ユーザ要望報酬変換情報ＵＲＶｕ及び加速度ユーザ要望報酬変換情報ＵＲＡｕで構成されている。速度ユーザ要望報酬変換情報ＵＲＶｕ及び加速度ユーザ要望報酬変換情報ＵＲＡｕは、レベルごとに、境界値及び点数が異なる複数の速度報酬情報ＲＶｕ及び加速度報酬情報ＲＡｕで構成されている。また、静音ユーザ要望報酬変換情報ＵＲＳｕデータベースは、レンズ機種ごとの速度ユーザ要望報酬変換情報ＵＲＶｕ及び加速度ユーザ要望報酬変換情報ＵＲＡｕで構成されている。例えば、機種Ａに対して、静音ユーザ要望情報がレベル１であるときに使用される速度報酬情報ＲＶｕ及び加速度報酬情報ＲＡｕは、それぞれ、速度報酬情報ＲＶｕＴＡＬ１及び加速度報酬情報ＲＡｕＴＡＬ１となる。

図１３（ｃ）は、消費電力ユーザ要望報酬変換情報ＵＲＰｕのデータベースのデータ構造の一例を示している。消費電力ユーザ要望報酬変換情報ＵＲＰｕは、レベルごとに、境界値及び点数が異なる複数の消費電力報酬情報ＲＰｕで構成されている。また、消費電力ユーザ要望報酬変換情報ＵＲＰｕデータベースは、レンズ機種ごとの消費電力ユーザ要望報酬変換情報ＵＲＰｕで構成されている。例えば、機種Ａに対して、消費電力ユーザ要望情報がレベル１であるときに使用される消費電力報酬情報ＲＰｕは、消費電力報酬情報ＲＰｕＴＡＬ１となる。

ここで、位置精度ユーザ要望報酬変換情報ＵＲＥｕ、静音ユーザ要望報酬変換情報ＵＲＳｕ、及び消費電力ユーザ要望報酬変換情報ＵＲＰｕは、レベル１、レベル２、レベル３の順にユーザ要望が高くなるように境界値及び点数の値が決定されている。具体的にはレベル１は、他に比べ、境界値が各項目の目標に近い値となっており、点数については高い点数となっている。

例えば、レンズ１００が機種Ａの場合は、図１３（ａ）乃至図１３（ｂ）に示す例では、ユーザ要望報酬変換情報保持部２２９は、ユーザ要望報酬変換情報データベースから機種Ａに対応するユーザ要望報酬変換情報を決定する。ここで、ユーザが選択したユーザ要望情報がユーザ要望情報ｕ１のときは、図１２に示す例では、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕのレベルは、それぞれレベル１、レベル２、及びレベル３となる。この場合には、図１３（ａ）乃至図１３（ｂ）に示す例では、ユーザ要望報酬変換情報保持部２２９は、機種Ａに対応するユーザ要望報酬変換情報を参照して、ユーザ要望情報に含まれる各レベル情報をユーザ要望報酬情報に変換する。これにより、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕは、それぞれ、位置精度報酬情報ＲＥｕＴＡＬ１、速度報酬情報ＲＶｕＴＡＬ２、加速度報酬情報ＲＡｕＴＡＬ２、及び消費電力報酬情報ＲＰｕＴＡＬ３となる。

なお、レンズ１００がカメラ本体２００に装着された後に、ユーザがユーザ要望情報を選択しなかった場合は、以前に装着されていたレンズの学習時に使用されたユーザ要望情報が使用されてよい。ユーザ要望情報は、レンズ機種に依存しない情報であるため、レンズ１００の交換時に変更せず、そのまま使用することができる。また、レンズ交換前後において、ユーザは同じ要望を持つことが多いため、ユーザ要望情報を変更しないことで、ユーザに煩雑なユーザ要望設定を省略させることができる。

また、本実施例では、レンズ機種ごとにユーザ要望報酬変換情報データベースを構成する例を示したが、レンズ個体ごとにユーザ要望報酬変換情報データベースを構成し、レンズ個体情報の個体識別番号によりユーザ要望報酬変換情報を決定してもよい。この場合には、ユーザ要望報酬管理部２２５は、レンズ個体情報に含まれる個体識別番号によりユーザ要望報酬情報を決定することができる。

ステップＳ１００４において、ユーザ要望報酬情報が決定されると、処理はステップＳ１００５に移行する。ステップＳ１００５では、報酬管理部２２３が、ステップＳ１００２で決定した機器制約報酬情報と、ステップＳ１００４で決定したユーザ要望報酬情報を結合し、図９に示すような報酬情報を決定する。なお、ステップＳ１００２での機器制約報酬情報決定処理の前に、ステップＳ１００３でのユーザ要望情報の取得処理及びステップＳ１００４でのユーザ要望報酬情報の決定処理が行われてもよい。

前述したＮＮの学習では、図８を用いて説明したように、このように決定した機器制約報酬情報及びユーザ要望報酬情報のそれぞれの報酬情報を用いてフォーカス制御結果の点数を決定する。その後、決定したそれぞれの点数を加算し、累計点数を最終的な制御結果の点数（累計評価値）として決定する。そして、最終的な制御結果の点数を報酬として、報酬が最大となるように強化学習が行われる。

ここで、図１４を参照して、上述した報酬情報を記憶する報酬情報データベースについて説明する。図１４は、報酬情報データベースのデータ構造の一例を示している。報酬情報データベースは、一つの報酬情報データに対して、報酬情報ＩＤ、作成日時情報、機種情報、ユーザ要望情報ｕ、機器制約報酬情報Ｒｂ、ユーザ要望報酬情報Ｒｕ、及びユーザ要望報酬変換情報ＵＲｕで構成されている。

ここで、報酬情報ＩＤは、報酬情報データを一意に決定するユニークな数値が割り当てられる。作成日時情報は、報酬情報が作成された日時を示す情報が記録されている。機種情報は、報酬情報データの対象となるレンズ装置に関するレンズ個体情報のレンズ機種情報が記録されている。本実施例では機種情報として、レンズ機種を記録している例を示すが、個体識別番号等の報酬情報データの対象となるレンズ個体を識別する情報を記録してもよい。

ユーザ要望情報ｕは、報酬情報データを生成するときに使用されたユーザ要望情報が記録されている。機器制約報酬情報Ｒｂは、報酬情報に含まれる機器制約報酬情報を示す値が記録されている。ユーザ要望報酬情報Ｒｕは、報酬情報に含まれるユーザ要望報酬情報を示す値が記録されている。ユーザ要望報酬変換情報ＵＲｕは、ユーザ要望報酬情報Ｒｕを生成するときに使用されたユーザ要望報酬変換情報が記録されている。

図１４に示す例において、例えば、報酬情報ＩＤがＲＩＤ１の報酬情報は、作成日時Ｄａｔｅ１のときに作成され、機器制約報酬情報ＲｂＡ１及びユーザ要望報酬情報Ｒｕ１Ａ１を含む。また、当該報酬情報について、ユーザ要望報酬情報Ｒｕ１Ａ１を生成するときに使用されたユーザ要望情報ｕ及びユーザ要望報酬変換情報ＵＲｕは、それぞれ、ユーザ要望情報ｕ１及びユーザ要望報酬変換情報ＵＲｕ１となる。

また、報酬情報ＩＤがＲＩＤ３及びＲＩＤ４の報酬情報は、機種情報及びユーザ要望情報は同じであるが、機器制約報酬情報データベース及びユーザ要望報酬変換情報データベースがバージョンアップ等により変化した場合の報酬情報を示している。機器制約報酬情報データベース及びユーザ要望報酬変換情報データベースが変化した場合には、機種情報及びユーザ要望情報は同じでも、機器制約報酬情報Ｒｂ、ユーザ要望報酬情報Ｒｕ、及びユーザ要望報酬変換情報ＵＲｕが変化する。

以上の報酬情報データベースのデータ構造により、一つの報酬情報に対して、報酬情報の値及び報酬情報を生成したときの各種情報を管理することができる。本実施例では、機種情報、ユーザ要望情報ｕ、機器制約報酬情報Ｒｂ、ユーザ要望報酬情報Ｒｕ、及びユーザ要望報酬変換情報ＵＲｕに対して、実際の情報が記録された例を示している。しかしながら、機種情報、ユーザ要望情報ｕ、機器制約報酬情報Ｒｂ、ユーザ要望報酬情報Ｒｕ、及びユーザ要望報酬変換情報ＵＲｕの情報データ自体はそれぞれのデータベースで保持されてもよい。この場合には、報酬情報データベースには、それぞれデータベースから各種情報を一意に識別するＩＤ情報を含めることでこれら情報を管理することができる。

例えば、機種情報及びユーザ要望報酬情報のデータベースは不図示の情報保持部で保持されてよい。また、ユーザ要望情報ｕ、機器制約報酬情報Ｒｂ、ユーザ要望報酬変換情報ＵＲｕのデータベースは、それぞれ、ユーザ要望保持部２２７、機器制約報酬情報保持部２２８、ユーザ要望報酬変換情報保持部２２９に保持されてよい。

以上のデータベース構成により、学習済の機械学習モデルで使用した報酬情報のそれぞれの関連を容易に確認することができる。さらに、類似した報酬情報を用いて学習が行われた学習済モデルの検索を容易にすることができる。

＜機械学習処理＞
次に、図１５乃至図１９を参照して、本実施例に係る機械学習処理について説明する。図１５は、本実施例に係る機械学習処理の流れを示すフローチャートである。ステップＳ７０４において機械学習処理が開始されると、処理はステップＳ１５０１に移行する。

ステップＳ１５０１において、機械学習初期値管理部２３２は、ステップＳ１００１で取得したレンズ個体情報を基に、過去に学習した又は予め記録された学習済モデルの中から初期モデルとなる学習済モデルを選択する。また、機械学習初期値管理部２３２は、初期モデルとして選択した学習済モデルのウエイトをウエイトの初期値として決定し、学習処理部２２１に送る。なお、ウエイト初期値決定処理の詳細については後述する。

ステップＳ１５０２では、学習処理部２２１が、制御部２１１へ、ウエイトの初期値を出力する。制御部２１１は、学習処理部２２１からウエイトの初期値を受け取ると、通信部２１２を介してレンズ１００へウエイトの初期値を送る。レンズ１００は、通信部１２６にてウエイトの初期値を受け取ると、制御部１２５を介してウエイトの初期値をＮＮデータ記憶部１２３に記憶させる。

ステップＳ１５０３では、学習処理部２２１が、制御部２１１及び通信部２１２を介して、レンズ１００へフォーカスレンズ１０１の駆動指令の送信及び動作ログ情報の取得要求を行う。ここで、学習処理部２２１は、フォーカスレンズ１０１の駆動指令として、予め学習用に決められた開始位置から停止位置まで特定の駆動パターンを保持し、保持している駆動パターンに従い駆動指令を送ることができる。なお、駆動パターンはランダムのパターンであってもよい。また、学習処理部２２１は、ＡＦ（オートフォーカス）制御を実行するためのフォーカスレンズ１０１の駆動指令を送ってもよい。

レンズ１００では、通信部１２６がフォーカスレンズ１０１の駆動指令を受信すると、制御部１２５がＮＮ制御部１２１に対してフォーカスレンズ１０１の駆動指令を送る。ＮＮ制御部１２１は、駆動指令を受け取ると、ＮＮデータ記憶部１２３に記憶されたウエイトをＮＮのウエイトとして用いて、フォーカスレンズ１０１の駆動制御を行う。

また、レンズ１００では、通信部１２６が動作ログ情報の取得要求を受信すると、制御部１２５が動作ログ管理部１２４に対して動作ログ情報の出力要求を行う。ここで、動作ログ情報について説明する。動作ログ情報は、ＮＮアルゴリズムの制御結果を点数化する上で、点数を決める対象となる制御結果情報である。

動作ログ管理部１２４は、図６に示す目標位置Ｘ１、現在位置Ｘ２、焦点深度Ｘ３、フォーカス敏感度Ｘ４、及び駆動信号Ｙ１に対応するＮＮアルゴリズムの入出力情報を、ＮＮアルゴリズムの制御周期毎に収集し記録する。例えば、動作ログ管理部１２４は、ＮＮ制御部１２１に入力された駆動指令やフォーカスレンズ検出部１０６によって検出されるフォーカスレンズの位置情報を動作ログ情報として記録する。さらに、例えば、動作ログ管理部１２４は、駆動指令からフォーカスレンズの目標位置、位置情報、及び位置精度Ｅを決定し、動作ログ情報として記録する。また、例えば、動作ログ管理部１２４は、フォーカスレンズの位置情報から、フォーカスレンズの速度及び加速度を算出し、動作ログ情報として記録する。さらに、フォーカスレンズ駆動部１０５の消費電力を測定するために不図示の電力検出部を設ける場合には、動作ログ管理部１２４は、電力検出部から得られるフォーカスレンズ駆動部１０５の消費電力の情報も動作ログ情報として記録することができる。

動作ログ管理部１２４は、動作ログ情報の出力要求を受けると、フォーカスレンズ１０１の駆動時に記録した動作ログ情報を、制御部１２５及び通信部１２６を介してカメラ本体２００に送信する。カメラ本体２００に送られた動作ログ情報は、通信部２１２及び制御部２１１を介して、動作ログ保持部２２２に送られ、動作ログ保持部２２２によって保持される。

次に、ステップＳ１５０４において、学習処理部２２１は、報酬管理部２２３が保持している報酬情報及び動作ログ保持部２２２が保持している動作ログ情報を基に、初期値のウエイトに基づくＮＮアルゴリズムの制御結果を点数化する。なお、制御結果の点数化に関しては、上述したように、報酬情報を用いて、動作ログ情報を基にＮＮアルゴリズムの制御結果を単位時間毎に点数化し、単位時間毎の点数を累計することで、ＮＮアルゴリズムの制御結果の累計点数を決定することができる。

次に、ステップＳ１５０５において、学習処理部２２１は、ＮＮアルゴリズム制御結果の累計点数が最大化されるようにウエイトを更新する。ウエイトの更新には誤差逆伝搬法（Ｂａｃｋ Ｐｒｏｐａｇａｔｉｏｎ）を使用するが、本実施例に係るウエイトの更新方法はこれに限定されるものではなく、公知の任意の手法を用いてよい。生成されたウエイトはＳ１５０２と同様の手順でＮＮデータ記憶部１２３に記憶される。

ステップＳ１５０６では、学習処理部２２１は、ウエイトの学習が完了したか否かを判断する。学習完了は、学習（ウエイトの更新）の反復回数が規定値に達したか、又は、更新時の動作ログ情報中の累計点数の変化量が規定値より小さいかなどにより判断することができる。学習処理部２２１によって学習が完了していないと判断された場合には、処理はステップＳ１５０３へ戻り、機械学習処理が続けられる。一方で、学習処理部２２１によって学習が完了したと判断された場合には、機械学習処理を終了させる。なお、学習が完了した機械学習モデルは、学習部２２０の記憶装置に記憶される機械学習モデルデータベースに追加され保持される。

このような処理により、レンズ１００の構成に基づく機器制約報酬情報、及びユーザ設定により変更されたユーザ要望に応じたユーザ要望報酬情報を基にＮＮの機械学習処理が実施される。これにより、レンズ１００の構成及びユーザ要望に応じた適切な制御が行えるＮＮが生成される。なお、当該機械学習処理において更新された学習済モデル（ＮＮ）のウエイトは、ステップＳ１５０５で述べたように、カメラ本体２００からレンズ１００に送られてＮＮデータ記憶部１２３に記憶され、フォーカス駆動制御に使用されることができる。

なお、本実施例に係る機械学習の具体的なアルゴリズムとしては、ＮＮを利用して、学習するための特徴量や結合重み付け係数を自ら生成する深層学習（ディープラーニング）が挙げられる。また、最近傍法、ナイーブベイズ法、決定木、サポートベクターマシンなども挙げられる。適宜、上記アルゴリズムのうち利用できるものを本実施例に適用することができる。

なお、ＧＰＵはデータをより多く並列処理することで効率的な演算を行うことができるので、ディープラーニングのような学習モデルを用いて複数回にわたり学習を行う場合にはＧＰＵで処理を行うことが有効である。そこで、学習処理部２２１による処理にはＣＰＵに加えてＧＰＵを用いてもよい。具体的には、学習モデルを含む学習プログラムを実行する場合に、ＣＰＵとＧＰＵが協働して演算を行うことで学習を行ってよい。なお、学習処理部２２１の処理はＣＰＵ又はＧＰＵのみにより演算が行われてもよい。

次に、図１６を参照して、機械学習モデルデータベースについて説明する。図１６は、機械学習モデルデータベースのデータ構造の一例を示している。機械学習モデルデータベースは、一つの機械学習モデルデータに対して、機械学習モデルＩＤ、作成日時情報、報酬情報ＩＤ、機械学習モデルＮＮ、及び機械学習モデル初期値ＮＮｉで構成されている。なお、機械学習モデルデータベースに記録されている機械学習モデルは、学習が行われた学習済モデルである。

機械学習モデルＩＤは、機械学習モデルデータを一意に決定するユニークな数値が割り当てられる。作成日時情報は、機械学習モデルが作成された日時を示す情報が記録されている。報酬情報ＩＤは、機械学習モデルの生成に使用された図１４に示す報酬情報を一意に決定するユニークな数値である。機械学習モデルＮＮは、機械学習モデルのウエイトを示す情報である。機械学習モデル初期値ＮＮｉは、機械学習モデルの生成時に機械学習モデルの初期値として使用された機械学習モデルのウエイトを示す情報である。ここで、機械学習モデルの生成に使用されたレンズ個体情報、ユーザ要望情報、ユーザ要望報酬変換情報、及び報酬情報は、報酬情報ＩＤに基づいて報酬情報データベースより取得可能である。

図１６に示す例において、例えば、機械学習モデルＩＤがＮＮＩＤ１である機械学習モデルは、作成日時Ｄａｔｅ１のときに生成され、機械学習モデルのウエイト情報は機械学習モデルＮＮ１となる。また、学習時に使用された報酬情報は報酬情報ＲＩＤ１であり、学習開始時の機械学習モデルのウエイト情報は機械学習モデル初期値ＮＮｉ１となる。

以上の機械学習モデルデータベースのデータ構造により、一つの学習済モデルに対して、学習済モデルのウエイトを示す情報及び学習済モデルを生成したときの情報を管理することができる。本実施例では、機械学習モデル初期値ＮＮｉについて、実際のウエイトを示す情報を用いる例を示したが、初期モデルを示す機械学習モデルＩＤを用いてもよい。また、報酬情報ＩＤではなく、実際の報酬情報ＩＤが示す報酬情報データベースに記録している値を用いてもよい。また、機械学習モデルＮＮ及び機械学習モデル初期値ＮＮｉとしては、ウエイトを示す情報だけでなく、ニューラルネットワーク構造の情報又はニューラルネットワーク構造のロジック情報を含めてもよい。

以上のデータベース構成により、学習済の機械学習モデルのそれぞれの関連を容易に確認することができる。さらに、類似した学習済の機械学習モデルの検索を容易にすることができる。

＜ウエイト初期値決定処理＞
次に、図１７を参照して、ステップＳ１５０１におけるＮＮのウエイト初期値決定処理の詳細について説明する。図１７は、ウエイト初期値決定処理の流れを示すフローチャートである。ステップＳ１５０１においてウエイト初期値決定処理が開始されると、処理はステップＳ１７０１に移行する。

ステップＳ１７０１では、機械学習初期値管理部２３２は、機械学習モデル保持部２３１に対して、学習済モデルの生成に使用されたレンズ装置のレンズ個体情報が、ステップＳ１００１で取得したレンズ個体情報と一致する学習済モデルの選択を要求する。機械学習モデル保持部２３１は、機械学習モデルデータベース及び報酬情報データベースを参照して、学習済モデルの生成に使用されたレンズ装置のレンズ個体情報がレンズ１００のレンズ個体情報と一致する機械学習モデルを選択する。

次に、ステップＳ１７０２において、機械学習モデル保持部２３１は、選択した学習済モデルが複数あるか否かを判断する。機械学習モデル保持部２３１が、選択した学習済モデルが複数あると判断した場合には処理はステップＳ１７０３に移行する。一方で、機械学習モデル保持部２３１が、選択した学習済モデルは複数ではないと判断した場合には、処理はステップＳ１７０４に移行する。

ステップＳ１７０３では、機械学習モデル保持部２３１が、現在適用する報酬情報又はユーザ要望情報に最も近い報酬情報又はユーザ要望情報を用いて学習を行った学習済モデルを選択する。当該学習済モデルを選択方法の詳細については後述する。機械学習モデル保持部２３１が、現在適用する報酬情報又はユーザ要望情報に最も近い報酬情報又はユーザ要望情報を用いて学習を行った学習済モデルを選択すると、処理はステップＳ１７０５に移行する。

これに対し、ステップＳ１７０４では、機械学習モデル保持部２３１は、ステップＳ１７０１で選択した学習済モデルがあるか否かを判断する。機械学習モデル保持部２３１が、ステップＳ１７０１で選択した学習済モデルがあると判断した場合には、処理はステップＳ１７０５に移行する。一方、機械学習モデル保持部２３１が、ステップＳ１７０１で選択した学習済モデルがないと判断した場合には、処理はステップＳ１７０６に移行する。

ステップＳ１７０５では、機械学習初期値管理部２３２が、機械学習モデル保持部２３１が選択した学習済モデルのウエイトをＮＮのウエイトの初期値として決定する。一方で、ステップＳ１７０６では、機械学習初期値管理部２３２が、予め決められたウエイトをＮＮのウエイトの初期値として決定する。なお、ステップＳ１７０６において、機械学習初期値管理部２３２は、予め決められたウエイトではなく、レンズ１００が現在使用しているＮＮのウエイトをＮＮのウエイトの初期値としてもよい。

以上により、機械学習初期値管理部２３２は、レンズ個体情報と、報酬情報又はユーザ要望情報とから、ＮＮのウエイトの初期値を決定することができる。このような処理によれば、ＮＮ制御部１２１が用いるＮＮは、制御目標に最も近い学習済モデルのウエイトから機械学習を開始することができ、機械学習時の駆動部の駆動回数を低減し、機械学習時間を短くすることができる。

なお、本実施例では、ステップＳ１７０１において、レンズ個体情報と一致している機種のレンズ装置を学習に用いた学習済モデルを選択した例を示した。これに対し、レンズ個体情報に類似製品の情報を予め含み、レンズ１００の類似製品を学習に用いた学習済モデルを選択できるようにしてもよい。また、本実施例では、ステップＳ１７０４の判断処理をステップＳ１７０２の判断処理の後に行っているが、ステップＳ１７０４の判断処理をステップＳ１７０２の判断処理の前に行ってもよい。

＜報酬情報が最も近い学習済モデルの選択方法＞
次に、図１８（ａ）乃至図１８（ｄ）を参照して、ステップＳ１７０３において、機械学習モデル保持部２３１が、現在適用する報酬情報に最も近い報酬情報を用いて学習を行った学習済モデルを選択する方法について説明する。図１８（ａ）乃至図１８（ｄ）は、報酬情報ＲＩＤ１～ＲＩＤ３におけるユーザ要望報酬情報の値の一例を示している。ここでは、ユーザ要望報酬情報は、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕで構成され、図１８（ａ）乃至図１８（ｄ）はそれぞれの報酬情報のデータ構造の一例を示している。以下では、報酬情報ＲＩＤ１が、実際に機械学習に用いられる報酬情報である例について説明する。

この場合、機械学習モデル保持部２３１は、報酬情報ＲＩＤ２～ＲＩＤ３の中から報酬情報ＲＩＤ１に最も近い報酬情報を選択する。例えば、機械学習モデル保持部２３１は、報酬情報ＲＩＤ１の境界値Ｅｕ１Ｒ１，Ｅｕ２Ｒ１のそれぞれに対して、比較される報酬情報の境界値Ｅｕ１，Ｅｕ２との絶対値としての差を算出する。

また、点数の値により、学習結果が変化する。このため、例えば、機械学習モデル保持部２３１は、報酬情報ＲＩＤ１の点数ＳＥｕ１Ｒ１，ＳＥｕ２Ｒ１，ＳＥｕ３Ｒ１の比率を算出し、比較される報酬情報の点数ＳＥｕ１，ＳＥｕ２，ＳＥｕ３の比率を算出する。さらに、機械学習モデル保持部２３１は、これらの算出した比率の絶対値としての差を算出する。

ここで、上記境界値Ｅｕ１，Ｅｕ２に関する差及び点数ＳＥｕ１，ＳＥｕ２，ＳＥｕ３の比率に関する差に関して、それぞれの差が小さい報酬情報ほど、報酬情報ＲＩＤ１に近い報酬情報となる。このため、機械学習モデル保持部２３１は、境界値Ｅｕ１，Ｅｕ２に関する差及び点数ＳＥｕ１，ＳＥｕ２，ＳＥｕ３の比率に関する差を、それぞれの差が小さいほど報酬情報同士の類似度が大きくなるように、類似度を示す点数に変換する。この場合、類似度を示す点数が最も高い報酬情報が、報酬情報ＲＩＤ１に最も近い報酬情報となる。

機械学習モデル保持部２３１は、上記点数化を、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕに対しても実施する。その後、機械学習モデル保持部２３１は、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕについての類似度を示す点数の加算値が最も高い報酬情報を選択する。

以上の方法で、報酬情報ＲＩＤ２～ＲＩＤ３の中から報酬情報ＲＩＤ１に最も近い報酬情報を選択することができる。機械学習モデル保持部２３１は、このようにして選択された報酬情報を用いて学習が行われた学習済モデルを、ステップＳ１７０３における、現在適用する報酬情報に最も近い報酬情報を用いて学習を行った学習済モデルとして選択する。

なお、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕの点数化に関しては、境界値の差及び点数比率の差のそれぞれに対して、機械学習結果の影響度に応じて、それぞれ固有の固定係数を乗算してもよい。また、境界値の差及び点数比率との差に関して予め決められた多項式関数から点数を算出してもよい。

さらに、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕのお互いの報酬情報の影響度を考慮し、それぞれについて算出された類似度を示す点数に対して、固有の固定係数を乗算してもよい。また、算出された類似度を示す点数に関して予め設定された多項式関数から報酬情報の影響度を考慮した点数を算出してもよい。

また、本実施例では、報酬情報におけるユーザ要望報酬情報のみを用いて、現在適用する報酬情報に最も近い報酬情報を選択した。これに対して、報酬情報におけるユーザ要望報酬情報と機器制約報酬情報の両方から類似度を示す点数を算出し、当該点数に応じて、現在適用する報酬情報に最も近い報酬情報を選択してもよい。

なお、本実施例では、類似度を示す点数を算出したが、単純に境界値に関する差のみ又は点数の比率に関する差のみに基づいて、最も近い報酬情報を選択してもよい。また、この場合、位置精度報酬情報ＲＥｕ、速度報酬情報ＲＶｕ、加速度報酬情報ＲＡｕ、及び消費電力報酬情報ＲＰｕのそれぞれについて最も近い報酬情報を選択し、最も近い報酬情報として選択された項目が多い報酬情報を、総合的に最も近い報酬情報として選択してもよい。この場合も、報酬情報の影響度を考慮し、固定係数や多項式関数を用いて、総合的に最も近い報酬情報を選択してもよい。

＜ユーザ要望情報が最も近い学習済モデルのを選択方法＞
次に、図１９を参照して、ステップＳ１７０３において、機械学習モデル保持部２３１が、現在適用するユーザ要望情報に最も近いユーザ要望情報を用いて学習を行った学習済モデルを選択する方法について説明する。図１９は、ユーザ要望情報ｕ１～ｕ３におけるユーザ要望の値の一例を示している。ここで、ユーザ要望情報は、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕで構成されている。以下では、ユーザ要望情報ｕ１が、実際に機械学習に用いられる報酬情報の生成に使用されたユーザ要望情報である例について説明する。

この場合、機械学習モデル保持部２３１は、ユーザ要望情報ｕ２～ｕ３の中からユーザ要望情報ｕ１に最も近いユーザ要望情報を選択する。例えば、機械学習モデル保持部２３１は、ユーザ要望情報ｕ１の位置精度ユーザ要望情報Ｅｕが示すレベル１に対して、比較されるユーザ要望情報の位置精度ユーザ要望情報Ｅｕとの絶対値としての差を算出する。

ここで、上記位置精度ユーザ要望情報Ｅｕに関する差は、差が小さいユーザ要望情報ほど、ユーザ要望情報ｕ１に近いユーザ要望情報となる。このため、機械学習モデル保持部２３１は、位置精度ユーザ要望情報Ｅｕに関する差を、当該差が小さいほどユーザ要望情報同士の類似度が大きくなるように、類似度を示す点数に変換する。この場合、類似度を示す点数が最も高いユーザ要望情報が、ユーザ要望情報ｕ１に最も近いユーザ要望情報となる。

機械学習モデル保持部２３１は、上記点数化を、静音ユーザ要望情報Ｓｕ及び消費電力ユーザ要望情報Ｐｕに対しても実施する。その後、機械学習モデル保持部２３１は、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕについての類似度を示す点数の加算値が最も高いユーザ要望情報を選択する。

以上の方法で、ユーザ要望情報ｕ２～ｕ３の中からユーザ要望情報ｕ１に最も近いユーザ要望情報を選択することができる。機械学習モデル保持部２３１は、このようにして選択されたユーザ要望情報を用いて学習が行われた学習済モデルを、ステップＳ１７０３における、現在適用するユーザ要望情報に最も近いユーザ要望情報を用いて学習を行った学習済モデルとして選択する。

なお、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕの点数化に関しては、算出された絶対値としての差に対して、固有の固定係数を乗算してもよい。また、算出された絶対値としての差に関して予め決められた多項式関数から点数を算出してもよい。

さらに、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕのお互いのユーザ要望情報の影響度を考慮し、それぞれについて算出された類似度を示す点数に対して、固有の固定係数を乗算してもよい。また、算出された類似度を示す点数に関して予め設定された多項式関数からユーザ要望情報の影響を考慮した点数を算出してもよい。

なお、本実施例では、類似度を示す点数を算出したが、単純にユーザ要望情報に関する差のみに基づいて、最も近いユーザ要望情報を選択してもよい。また、この場合、位置精度ユーザ要望情報Ｅｕ、静音ユーザ要望情報Ｓｕ、及び消費電力ユーザ要望情報Ｐｕのそれぞれについて最も近いユーザ要望情報を選択し、最も近いユーザ要望情報として選択された項目が多いユーザ要望情報を、総合的に最も近いユーザ要望情報として選択してもよい。この場合も、ユーザ要望情報の影響度を考慮し、固定係数や多項式関数を用いて、総合的に最も近いユーザ要望情報を選択してもよい。

また、現在適用する報酬情報又はユーザ要望情報に最も近い報酬情報又はユーザ要望情報を用いて学習を行った学習済モデルを選択する方法としては、報酬情報又はユーザ要望情報とのうちのいずれに基づいて学習済モデルを選択するかが予め決められていてよい。また、例えば、ユーザ要望情報が最も近い学習済モデルについて複数の学習済モデルが選択された場合に、当該選択された複数の学習済モデルの中から報酬情報が最も近い学習済モデルを更に選択してもよい。これに対して、報酬情報が最も近い学習済モデルについて複数の学習済モデルが選択された場合に、当該選択された複数の学習済モデルの中からユーザ要望情報が最も近い学習済モデルを更に選択してもよい。

さらに、報酬情報又はユーザ要望情報が最も近い学習済モデルについて複数の学習済モデルが選択された場合は、当該選択された複数の学習済モデルの中から一番新しく生成された学習済モデルを選択してもよい。また、学習済モデルと学習済モデルを用いて撮影された撮影映像と関連付けて管理し、上述のような処理により選択された複数の学習済モデルの中から、ユーザに撮影映像に基づいて学習済モデルを指定させ、指定された学習済モデルを選択してもよい。

上記のように、本実施例に係るカメラシステムは、レンズ１００と、レンズ１００により形成された像を撮る撮像素子２０１を備えるカメラ本体２００とを備える撮像装置の一例として機能する。レンズ１００は、光学部材と、光学部材を駆動する駆動部と、第１の学習済モデルに基づいて、駆動部を制御する制御部とを備える。ここで、第１の学習済モデルは、レンズ１００とは異なる装置に関する学習により得られた第２の学習済モデルを初期の学習済モデルとしてレンズ１００に関する学習により得られた学習済モデルである。本実施例では、フォーカスレンズ１０１は、レンズ１００の光学部材の一例として機能し、フォーカスレンズ駆動部１０５は、レンズ１００の光学部材を駆動する駆動部の一例として機能する。また、レンズ１００のＮＮ制御部１２１や制御部１２５は、第１の学習済モデルに基づいて、フォーカスレンズ駆動部１０５を制御する制御部の一部を構成することができる。

また、カメラ本体２００は、レンズ１００が着脱可能に装着されるカメラ装置の一例として機能する。さらに、カメラ本体２００は、第１の学習済モデルを取得する制御部の一例として機能する学習部２２０を備える。学習部２２０は、第２の学習済モデルを取得し、該第２の学習済モデルを初期の学習済モデルとして、ユーザの要望に従った報酬情報に基づいて第１の学習済モデルを生成することができる。なお、制御部２１１及び学習部２２０は、第１の学習済モデルを取得する制御部の一部を構成することができる。

ここで、学習部２２０は、学習済モデルの群から、レンズ装置であるレンズ１００に関する情報に基づいて第２の学習済モデルを選択する。学習部２２０は、学習済モデルの学習に用いられたレンズ装置に関する情報、学習済モデルの初期値に関する情報、学習済モデルの学習に用いられたユーザの要望に関する情報、学習済モデルの学習に用いられた報酬に関する情報、及び学習日時に関する情報のうち少なくとも１つに基づいて、第２の学習済モデルを選択することができる。また、学習部２２０は、学習済モデルの群から、第１の学習済モデルを得るための学習に用いられる報酬及びユーザの要望のうち少なくとも一方に関する情報に基づいて、第２の学習済モデルを選択することができる。なお、レンズ装置に関する情報は、レンズ装置の機種及び個体を示す情報の一例であるレンズ個体情報を含むことができる。なお、学習部２２０の機械学習モデル保持部２３１は、学習済モデルの群から、第２の学習済モデルを選択する選択部の一例として機能することができる。

なお、本実施例では、ＮＮ制御部１２１におけるＮＮに対して、第１の学習済モデルのウエイトに対応する、レンズ１００に関する学習により更新されたウエイトを適用して第１の学習済モデルを取得する。このため、カメラ本体２００から第１の学習済モデルのウエイトを取得する、ＮＮ制御部１２１、ＮＮデータ記憶部１２３、及び制御部１２５のは、第１の学習済モデルを取得するレンズ１００の制御部の一部を構成することができる。

このような構成から、本実施例に係るカメラシステムは、過去に生成された学習済モデルの中から、学習を行うレンズ１００と一致又は類似するレンズ装置を用いて学習を行った学習済モデルをＮＮの初期値として決定する。これにより、レンズ１００のＮＮについて、当該レンズ１００を用いた学習後の学習済モデルに近い学習済モデルから学習を開始することができる。

以上により、本実施例に係るカメラシステムは、固定の機械学習モデルから学習を開始する場合に比べ、少ない学習回数で最終的な学習済モデルを得ることができる。結果として、機械学習時の駆動部の駆動を抑制することができる。そのため、本実施例によれば、学習済モデルを得るのに有利なレンズ装置及びカメラ装置を含む撮像装置を提供することができる。また、本実施例に係るカメラシステムは、ユーザ要望に応じた報酬情報を学習に用いることで、ユーザー要望に即した駆動の制御を行うことができる。

なお、本実施例では、レンズ個体情報は、レンズ機種及びレンズ個体の少なくとも一方を含む。また、第１の学習済モデルは、レンズ１００を示すレンズ情報と一致するレンズ情報を有するレンズ装置を用いて取得された情報を用いた学習を行った学習済モデルであるとすることができる。さらに、レンズ１００の構成に基づく報酬情報は、レンズ個体情報を用いて特定されることができる。また、ユーザの要望に基づく報酬情報は、レンズ個体情報を用いて特定された変換情報に基づいてユーザ要望情報を変換したユーザ要望報酬情報である。

さらに、本実施例に係るカメラシステムは、複数の学習済モデルを管理するモデル管理部の一例として機能する機械学習モデル保持部２３１を更に備える。機械学習モデル保持部２３１は、機械学習モデル保持部２３１が保持する機械学習モデルデータベースにより、複数の学習済モデルと、それぞれの学習済モデルの学習に用いられたレンズ装置のレンズ個体情報と、学習関連情報とを関連付けて管理することができる。ここで、学習関連情報は、上述した機械学習モデルデータベースに含まれる事項を含むことができる。例えば、学習関連情報には、それぞれの学習モデルの初期値、ユーザ要望情報、ユーザ要望情報の変換に用いたユーザ要望報酬変換情報、報酬情報、及び学習日時の少なくとも１つが含まれる。この場合、機械学習モデル保持部２３１は、学習済モデルの群から、レンズ個体情報及び学習関連情報に基づいて第２の学習済モデルを選択することができる。

このような構成では、過去に生成した学習済モデルを、機械学習時に関連した情報と紐づけて管理することにより、容易に所望の学習済モデルを検索することができる。そのため、過去に生成された学習済モデルの群の中から、これから行う機械学習の初期値として適切な学習済モデルを容易に選択することができる。

また、本実施例に係る機械学習モデル保持部２３１は、学習済モデルの群から、レンズ個体情報と、レンズ１００の構成及びユーザ要望情報を示すユーザ要望報酬情報の少なくとも一方とを用いて、第２の学習済モデルを選択することができる。そのため、過去に生成された学習済モデルの群の中から、これから行う機械学習の初期値として適切な学習済モデルを容易に選択することができる。

さらに、本実施例に係るカメラシステムは、複数の報酬情報を管理する報酬管理部２２３を更に備える。報酬管理部２２３は、報酬情報保持部２３０が保持する報酬情報データベースにより、複数の報酬情報と、それぞれの報酬情報に対応するレンズ情報と、報酬生成情報とを関連付けて管理することができる。ここで、報酬生成情報は、上述した報酬情報データベースに含まれる事項を含むことができる。例えば、報酬生成情報には、ユーザーの要望、ユーザの要望の変換に用いた変換情報、及び報酬情報の作成日時の少なくとも１つが含まれる。この場合、機械学習モデル保持部２３１は、学習済モデルの群から、レンズ個体情報及び報酬生成情報に基づいて第２の学習済モデルを選択することができる。

このような構成では、過去に生成した報酬情報を、報酬情報生成時に関連した情報と紐づけて管理することにより、容易に所望の報酬情報を検索することができる。そのため、過去に生成された報酬情報の中から、これから行う機械学習に使用される報酬情報と最も近い報酬情報を容易に選択することができ、最も近い報酬情報を基に生成された機械学習モデルを容易に選択することができる。

また、本実施例に係るカメラシステムは、複数のユーザの要望の情報を管理する要望管理部の一例として機能するユーザ要望管理部２２６を更に備える。ユーザ要望管理部２２６は、ユーザ要望保持部２２７が保持するユーザ要望情報データベースにより、複数のユーザの要望の情報と、それぞれのユーザの要望の情報を設定したときのレンズ情報と、要望関連情報とを関連付けて管理することができる。ここで、要望関連情報は、上述したユーザ要望情報データベースに含まれる事項を含むことができる。例えば、要望関連情報は、ユーザ識別情報、要望の情報を設定したときの撮影条件、及び要望の情報を設定したときの日時の少なくとも１つが含まれる。この場合、機械学習モデル保持部２３１は、学習済モデルの群から、レンズ個体情報及び要望関連情報に基づいて第２の学習済モデルを選択することができる。

このような構成では、過去に作成したユーザ要望情報を、ユーザ要望情報作成時に関連した情報と紐づけて管理することにより、容易に所望のユーザ要望情報を検索することができる。そのため、過去に作成されたユーザ要望情報の中から、これから行う機械学習に使用される報酬情報の基となるユーザ要望情報と最も近いユーザ要望情報を容易に選択することができる。さらに、最も近いユーザ要望情報を基に生成された機械学習モデルを容易に選択することができる。

このように、報酬生成情報や要望関連情報に基づいて、第２の学習済モデルを選択することで、報酬情報又やユーザ要望情報が最も近い機械学習モデルを初期値として決定することができる。このため、レンズ１００を用いた学習後の学習済モデルに更に近い学習済学習モデルから学習を開始することができ、機械学習時の駆動部の駆動をより抑制することができる。

本実施例では、機械学習モデル保持部２３１が、レンズ個体情報を用いて第２の学習済モデルを選択する選択部及び複数の学習済モデルを管理するモデル管理部の一例として機能するように構成された。これに対し、選択部及びモデル管理部を別々の構成要素として設けてもよい。この場合、機械学習モデル保持部２３１は、選択部及びモデル管理部を含むことができる。

なお、本実施例では、フォーカスレンズ制御に要求される４つの指標に関して、撮影条件として、例えば、Ｆ値、フォーカス敏感度、並びにフォーカスレンズの駆動時間、移動速度、及び加速度変化といった撮影条件を挙げた。しかしながら、制御に関する撮影条件はこれに限られず、所望の構成に応じて変更されてよい。

また、本実施例では、レンズ１００内の構成に応じて取得できる、フォーカスレンズの現在位置や焦点深度、フォーカス敏感度をＮＮへの入力として学習に使用していたが、撮影映像から得られた情報を学習に用いてもよい。具体的には、録音した音声とアクチュエータ駆動音とのＳ／Ｎ比や、撮影時のデフォーカス量をＮＮへの入力として学習に用いてもよい。

さらに、ＮＮへの入力はこれに限られず、例えば、姿勢差、温度、及び周囲環境の音量を用いてもよい。姿勢差については、各種レンズや絞りを駆動するときの重力の影響が変化するため、姿勢差に応じてモータに必要な駆動トルクが変化する。温度については、各種レンズや絞りの駆動連結部に使用される潤滑油の特性が変化するため、温度に応じてモータに必要な駆動トルクが変化する。

また、例えば、周囲環境が静かな場所での撮影においては、ユーザが駆動音を不快に感じてしまうという問題が発生する。また、動画撮影時は録音も同時に行われるため、撮影映像に不要となる駆動音が収録されてしまうという問題が発生する。従って、撮影状況によっては駆動音をできるだけ少なくする静音が要求される。一方で、例えば、モータの駆動音を抑えるために各種レンズや絞りの駆動速度を制限している場合において、モータの駆動音が周囲環境の音量に対して小さい範囲であれば、駆動速度の制限を外しても撮影映像に影響しない。そのため、周囲環境の音量に応じて、駆動速度の最高速制限を変化させる制御も有用である。

このようにＮＮへの入力事項に他の事項を加えたり、上述の事項を減らしたりする場合には、報酬を算出する際に用いる事項を、当該ＮＮへの入力事項に応じて変更することができる。これにより、当該変更された事項に基づいて、所望の撮影条件や撮影状況に応じた制御を行うことができる。

また、レンズ１００が異なるレンズ装置に取り換えられた場合には、カメラ本体２００は、取り換えられたレンズ装置のレンズ個体情報に基づいてユーザ要望報酬情報を変更することができる。具体的には、カメラ本体２００の学習部２２０は、ユーザの要望に基づく報酬情報として、当該取り換えられたレンズ装置を示すレンズ個体情報を用いて特定されたユーザ要望報酬変換情報に基づいてユーザの要望を変換した報酬情報を学習に用いる。これにより、レンズ装置が交換された場合であっても、レンズ交換毎にユーザ要望を設定することを省略できる。そのため、レンズ交換時において、過去に使用されたユーザ要望をそのまま使うことができ、ユーザに新たなユーザ要望を設定させる手間を防ぐことができる。

また、レンズ交換時に、レンズ機種やレンズ個体に応じた機器制約報酬情報及びユーザ要望報酬変換情報に切り替えることで、機械学習に使用される報酬情報をレンズ機種やレンズ個体に最適化させることができる。

なお、本実施例では、フォーカスレンズを駆動対象としたフォーカス制御について学習済モデルを用いた制御を行う構成とした。しかしながら、本実施例に係る学習済モデルを用いた制御は、他の制御（ズーム制御、防振制御、及び絞り制御等）に対しても適用されてよい。

静音及び消費電力については、ズームレンズ等の光学部材をアクチュエータにより駆動する場合はフォーカスレンズの駆動の制御と同様の課題を有している。また、位置精度に関しても、それぞれの制御において課題を有している。例えば、ズーム制御においては、位置精度に関して、画角変化における被写体の拡大変化量の関係により要求される位置精度が変化する。さらに、ズームレンズ駆動量と画角変化量との関係により要求される位置精度が変化する。また、防振制御においては、焦点距離と映像のシフト量の関係の情報により要求される位置精度が変化する。さらに、絞り制御においては、絞り駆動量と映像の輝度変化量の関係により要求される位置精度が変化する。

そのため、フォーカス制御以外の制御（ズーム制御、防振制御、及び絞り制御等）に対して、本実施例に係る学習済モデルを用いた制御を適用することで、要求される位置精度、静音、及び消費電力に関する事項をバランスよく制御することができる。なお、上述した様々な変形例に関する事項は、以下の実施例にも適宜適用することができる。

（実施例２）
以下、図２０を参照して、本発明の実施例２に係るカメラシステムについて説明する。図２０は、本実施例に係るカメラシステムのシステム構成を示すブロック図である。本実施例は、レンズ装置が機械学習処理を行う学習部を備える点で、実施例１と異なる。なお、本実施例に係るカメラシステムは、レンズ装置が学習部と操作部を備える点を除き、実施例１に係るカメラシステムと同様の構成を有するため、実施例１と同様の構成については共通の記号を付与し、その説明は省略する。以下、本実施例に係るカメラシステムに関し、実施例１に係るカメラシステムと異なる点について説明する。

本実施例に係るカメラシステムでは、カメラ本体２００は、学習部２２０を備えていない。一方、本実施例に係るレンズ１００には、レンズマイコン１１２０、操作部１２０６、及び学習部１２２０が設けられている。

レンズマイコン１１２０には、実施例１に係るレンズマイコン１２０に係る制御部１２５とは異なる制御部１１２５が設けられている。また、レンズマイコン１１２０は、操作部１２０６及び学習部１２２０と接続され、それぞれとの情報伝達を行う点で実施例１に係るレンズマイコン１２０と異なる。

制御部１１２５は、ズームレンズ１０２、絞りユニット１０３、及び像振れ補正レンズ１０４のそれぞれの位置を制御するとともに、学習部１２２０及びカメラ本体２００との情報伝達を制御する制御部である。また、操作部１２０６は、ユーザがレンズ１００を操作するための操作部であり、ユーザは操作部１２０６を操作することで、ユーザ要望情報の設定等の機械学習に係る操作を行うことができる。

学習部１２２０は、プロセッサ（ＣＰＵ、ＧＰＵ）及び記憶装置（ＲＯＭ、ＲＡＭ、ＨＤＤ）を用いて構成されることができる。学習部１２２０には、学習処理部１２２１、動作ログ保持部１２２２、報酬管理部１２２３、機器制約報酬管理部１２２４、ユーザ要望報酬管理部１２２５、ユーザ要望管理部１２２６、及びユーザ要望保持部１２２７が設けられている。また、学習部１２２０には、報酬情報保持部１２３０、機械学習モデル保持部１２３１、及び機械学習初期値管理部１２３２が設けられている。

なお、学習部１２２０の各構成要素は、ＣＰＵやＭＰＵ等のプロセッサが記憶装置に記憶されたソフトウェアモジュールを実行することで実現されてよい。なお、プロセッサは、例えば、ＧＰＵやＦＰＧＡ等であってもよい。また、学習部１２２０の各構成要素は、ＡＳＩＣ等の特定の機能を果たす回路等によって構成されてもよい。さらに、学習部１２２０の記憶装置には、学習部１２２０の各種構成要素を実装するためのプログラム、及び動作ログ保持部１２２２が保持している動作ログ情報等の学習部１２２０の各構成要素が保持する各種情報や各種データベース等が記憶されている。

学習部１２２０は、機器制約報酬情報保持部２２８及びユーザ要望報酬変換情報保持部２２９を備えない。学習部１２２０の動作は、機器制約報酬情報及びユーザ要望報酬変換情報がレンズ機種に依存しない点以外、実施例１の学習部２２０の動作と同じである。

本実施例では、機械学習を行う学習部１２２０がレンズ１００に構成されている。従って、実施例１におけるカメラマイコン２１０と学習部２２０との間の情報伝達と同様の情報伝達が、ズームレンズ１０２と学習部１２２０との間で行われる。

また、本実施例では、学習部１２２０はレンズ１００を用いた学習を行うため、学習に用いるレンズ装置の機種及びレンズの個体は一意に決定される。従って、レンズ機種毎の機器制約報酬情報データベース及びユーザ要望報酬変換情報データベースは存在せず、レンズ１００についての機器制約報酬情報及びユーザ要望報酬変換情報が一意に決定される。

本実施例では、ＮＮ制御部１２１、制御部１１２５、及び学習部１２２０は、レンズ１００の制御部の一部を構成することができる。このため、レンズ１００の制御部は、第１の学習済モデルに基づいて、駆動部を制御することができる。また、レンズ１００の制御部は、第１の学習済モデルを取得することができる。具体的には、レンズ１００の制御部は、第２の学習済モデルを取得し、該第２の学習済モデルを初期の学習済モデルとして、ユーザの要望に従った報酬情報に基づいて前記第１の学習済モデルを生成することができる。さらに、レンズ１００の制御部は、学習済モデルの群から、レンズ１００に関する情報に基づいて第２の学習済モデルを選択することができる。なお、第２学習済モデルの選択方法は、実施例１で述べた方法と同様の方法であってよい。

学習部１２２０がレンズ１００に構成されている本実施例の構成においても、実施例１に係る機械学習処理と同様の処理を行うことで、固定の機械学習モデルから学習を開始する場合に比べ、少ない学習回数で最終的な学習済モデルを得ることができる。結果として、機械学習時の駆動部の駆動回数を低減することができる。そのため、本実施例によれば、学習済モデルを得るのに有利なレンズ装置を提供することができる。また、レンズ１００は、ユーザ要望に応じた報酬情報を学習に用いることで、ユーザー要望に即した駆動の制御を行うことができる。

（実施例３）
以下に、図２１を参照して、本発明の実施例３に係るカメラシステムについて説明する。図２１は、本実施例に係るカメラシステムのシステム構成を示すブロック図である。本実施例は、遠隔装置が機械学習処理を行う学習部を備える点で、実施例１と異なる。

なお、本実施例に係るカメラシステムは、遠隔装置が学習部と操作部を備える点を除き、実施例１に係るカメラシステムと同様の構成を有するため、実施例１と同様の構成については共通の記号を付与し、その説明は省略する。以下、本実施例に係るカメラシステムに関し、実施例１に係るカメラシステムと異なる点について説明する。

本実施例に係るカメラシステムには、レンズ１００及びカメラ本体２００に加えて、遠隔装置４００が設けられている。ここで、遠隔装置４００は、例えば携帯端末やパソコン端末である。また、遠隔装置４００は、例えばクラウドサーバ、フォグサーバ、又はエッジサーバ等の任意のサーバであってもよい。

本実施例に係るカメラ本体２００は、学習部２２０を備えていない。一方で、カメラ本体２００には、通信部２４０が設けられている。通信部２４０は、遠隔装置４００と通信するための通信部である。

遠隔装置４００には、表示部４０１、操作部４０２、遠隔装置マイクロコンピュータ（以下、遠隔装置マイコン４１０という）、及び学習部４２０が設けられている。表示部４０１は、遠隔装置４００の表示部であり、遠隔装置４００のユーザに各種情報を表示することができる。操作部４０２は、ユーザが遠隔装置４００を操作するための操作部である。

遠隔装置マイコン４１０には、制御部４１１及び通信部４１２が設けられている。制御部４１１は、遠隔装置４００を制御する制御部である。通信部４１２は、カメラ本体２００と通信するための通信部である。

学習部４２０は、プロセッサ（ＣＰＵ、ＧＰＵ）、及び記憶装置（ＲＯＭ、ＲＡＭ、ＨＤＤ）を用いて構成されることができる。学習部４２０には、学習処理部４２１、動作ログ保持部４２２、報酬管理部４２３、機器制約報酬管理部４２４、ユーザ要望報酬管理部４２５、ユーザ要望管理部４２６、ユーザ要望保持部４２７、及び機器制約報酬情報保持部４２８が設けられている。また、学習部４２０には、ユーザ要望報酬変換情報保持部４２９、報酬情報保持部４３０、機械学習モデル保持部４３１、及び機械学習初期値管理部４３２が設けられている。

なお、学習部４２０の各構成要素は、ＣＰＵやＭＰＵ等のプロセッサが記憶装置に記憶されたソフトウェアモジュールを実行することで実現されてよい。なお、プロセッサは、例えば、ＧＰＵやＦＰＧＡ等であってもよい。また、学習部４２０の各構成要素は、ＡＳＩＣ等の特定の機能を果たす回路等によって構成されてもよい。また、学習部４２０の記憶装置には、学習部４２０の各種構成要素を実装するためのプログラム、及び動作ログ保持部４２２が保持している動作ログ情報等の学習部４２０の各構成要素が保持する各種情報や各種データベース等が記憶されている。

ここで、学習部４２０の動作は、実施例１に係る学習部２２０の動作と同様である。なお、通信部２４０と通信部４１２とは、無線通信にて接続されている。無線通信は、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＷｉ－Ｆｉ等の近距離無線通信や、公衆無線ＬＡＮ等の公衆無線通信であってよい。なお、通信部２４０と通信部４１２の間の通信は有線通信であってもよい。

本実施例では、機械学習を行う学習部４２０が遠隔装置４００に構成されている。従って、実施例１におけるカメラマイコン２１０と学習部２２０との間の情報伝達が、カメラマイコン２１０と学習部４２０との間で行われる。また、信号処理回路２０３から出力される映像データは、制御部２１１、通信部２４０、及び通信部４１２を介して制御部４１１に送信されることができる。制御部４１１に送信された映像データは、表示部４０１に表示されることができる。

また、操作部２０６又は操作部４０２によりユーザが設定した位置精度、静音、及び消費電力の各レベル情報をユーザ要望情報は、制御部４１１を介してユーザ要望報酬管理部４２５に送られる。ユーザ要望報酬管理部４２５は、受け取ったユーザ要望情報に基づいてユーザ要望情報データベースを更新する。

さらに、ユーザが操作部２０６又は操作部４０２から機械学習実施を示す操作を行うと、機械学習実施の指令が制御部４１１を介して学習部４２０に伝えられる。学習部４２０は、機械学習実施の指令を受けると、実施例１に係る学習部２２０での処理と同様に、報酬情報を決定し、ウエイト初期値を決定し、機械学習処理を開始する。

このように、本実施例でも、実施例１と同様の動作にて、ユーザが設定したユーザ要望報酬情報を基に適切な機械学習の初期値が決定され、ＮＮアルゴリズムの学習が実施される。学習部４２０による機械学習処理において更新された学習済モデルのウエイトは、遠隔装置４００から、カメラ本体２００を介してレンズ１００に送られ、ＮＮデータ記憶部１２３で記憶され、フォーカス駆動制御に使用されることができる。以上の動作により、ユーザは遠隔地において撮影映像を確認しながら、ユーザ設定に応じて適切な制御を行えるＮＮを生成することができる。この場合、遠隔装置４００から第１の学習済モデルのウエイトを取得する、カメラ本体２００の制御部２１１は、第１の学習済モデルを取得するカメラ装置の制御部の一例として機能する。

なお、操作部２０６を使用して、ユーザがカメラ本体２００から、機械学習実施を示す操作及びユーザ要望報酬情報の設定を行うことも可能である。この場合、学習に関する高速演算処理のみを遠隔装置４００で行うことができる。また、本実施例では、大容量のデータベースを、レンズ１００及びカメラ本体２００とは別の遠隔装置４００に構成することができ、レンズ１００及びカメラ本体２００の小型化を実現することができる。

学習部４２０が遠隔装置４００に構成されている本実施例の構成においても、実施例１に係る機械学習処理と同様の処理を行うことで、固定の機械学習モデルから学習を開始する場合に比べ、少ない学習回数で最終的な学習済モデルを得ることができる。結果として、機械学習時の駆動部の駆動回数を低減することができる。そのため、本実施例によれば、学習済モデルを得るのに有利なレンズ装置、カメラ装置、及び遠隔装置を含む撮像システムを提供することができる。また、本実施例に係るカメラシステムは、ユーザ要望に応じた報酬情報を学習に用いることで、ユーザー要望に即した駆動の制御を行うことができる。

なお、ユーザ要望管理部４２６、ユーザ要望保持部４２７、機器制約報酬管理部４２４、機器制約報酬情報保持部４２８、ユーザ要望報酬管理部４２５、ユーザ要望報酬変換情報保持部４２９、報酬管理部４２３、報酬情報保持部４３０の全て又は一部をレンズ１００、カメラ本体２００、及び遠隔装置４００とは別の遠隔装置に構成してもよい。同様に、動作ログ保持部４２２、機械学習モデル保持部４３１、及び機械学習初期値管理部４３２の全て又は一部をレンズ１００、カメラ本体２００、遠隔装置４００とは別の遠隔装置に構成してもよい。また、本実施例では、レンズ１００は、カメラ本体２００を介して遠隔装置４００と通信を行ったが、遠隔装置４００と直接通信を行ってもよい。この場合、遠隔装置４００から第１の学習済モデルのウエイトを取得する、ＮＮ制御部１２１、ＮＮデータ記憶部１２３、及び制御部１２５は、第１の学習済モデルを取得するレンズ１００の制御部の一部を構成することができる。

上記実施例１乃至３では、レンズ１００におけるＮＮ制御部１２１が備えるＮＮを用いてフォーカスレンズの制御を行う構成について説明した。しかしながら、ＮＮはレンズ装置内に設けられていなくてもよい。例えば、ＮＮは、カメラ本体２００や遠隔装置４００、その他の遠隔装置に実装されてもよい。この場合、レンズ１００のＮＮ制御部１２１又は制御部１２５が、通信部１２６を介して、当該ＮＮに上述したＮＮへの入力を送信し、ＮＮから出力されるフォーカスレンズの駆動指令を受け取って、フォーカスレンズ駆動部１０５を駆動してもよい。また、同様の動作が、上述のように、他の制御（ズーム制御、防振制御、及び絞り制御等）に適用されてもよい。

（その他の実施例）
本発明は、上述の実施例の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。

以上、実施例を参照して本発明について説明したが、本発明は上記実施例に限定されるものではない。本発明の趣旨に反しない範囲で変更された発明、及び本発明と均等な発明も本発明に含まれる。また、上述の各実施例及び変形例は、本発明の趣旨に反しない範囲で適宜組み合わせることができる。

１００：レンズ（レンズ装置）、１０５：フォーカスレンズ（光学部材）、１０５：フォーカスレンズ駆動部（駆動部）

Claims (16)

1. 光学部材と、
   前記光学部材を駆動する駆動部と、
   第１の学習済モデルに基づいて、前記駆動部を制御する制御部と、
   を有するレンズ装置であって、
   前記第１の学習済モデルは、前記レンズ装置とは異なる装置に関する学習により得られた第２の学習済モデルを初期の学習済モデルとして前記レンズ装置に関する学習により得られた学習済モデルであることを特徴とするレンズ装置。
2. 前記制御部は、前記第１の学習済モデルを取得することを特徴とする請求項１に記載のレンズ装置。
3. 前記制御部は、前記第２の学習済モデルを取得し、該第２の学習済モデルを初期の学習済モデルとして、ユーザの要望に従った報酬情報に基づいて前記第１の学習済モデルを生成することを特徴とする請求項２に記載のレンズ装置。
4. 前記制御部は、前記学習済モデルの群から、前記レンズ装置に関する情報に基づいて前記第２の学習済モデルを選択することを特徴とする請求項２に記載のレンズ装置。
5. 前記制御部は、学習済モデルの学習に用いられたレンズ装置に関する情報、学習済モデルの初期値に関する情報、学習済モデルの学習に用いられたユーザの要望に関する情報、学習済モデルの学習に用いられた報酬に関する情報、及び学習日時に関する情報のうち少なくとも１つに基づいて、前記第２の学習済モデルを選択することを特徴とする請求項４に記載のレンズ装置。
6. 前記制御部は、前記学習済モデルの群から、前記第１の学習済モデルを得るための学習に用いられる報酬及びユーザの要望のうち少なくとも一方に関する情報に基づいて、前記第２の学習済モデルを選択することを特徴とする請求項４又は５に記載のレンズ装置。
7. 前記レンズ装置に関する情報は、前記レンズ装置の機種及び個体を示す情報を含むことを特徴とする請求項４乃至６のうちいずれか１項に記載のレンズ装置。
8. 請求項１乃至７のうちいずれか１項に記載のレンズ装置と、
   前記レンズ装置により形成された像を撮る撮像素子とを有することを特徴とする撮像装置。
9. 請求項１に記載のレンズ装置が着脱可能に装着されるカメラ装置であって、
   前記第１の学習済モデルを取得する制御部を有することを特徴とするカメラ装置。
10. 前記カメラ装置の制御部は、前記第２の学習済モデルを取得し、該第２の学習済モデルを初期の学習済モデルとして、ユーザの要望に従った報酬情報に基づいて前記第１の学習済モデルを生成することを特徴とする請求項９に記載のカメラ装置。
11. 前記カメラ装置の制御部は、前記学習済モデルの群から、前記レンズ装置に関する情報に基づいて前記第２の学習済モデルを選択することを特徴とする請求項１０に記載のカメラ装置。
12. 前記カメラ装置の制御部は、学習済モデルの学習に用いられたレンズ装置に関する情報、学習済モデルの初期値に関する情報、学習済モデルの学習に用いられたユーザの要望に関する情報、学習済モデルの学習に用いられた報酬に関する情報、及び学習日時に関する情報のうち少なくとも１つに基づいて、前記第２の学習済モデルを選択することを特徴とする請求項１１に記載のカメラ装置。
13. 前記カメラ装置の制御部は、前記学習済モデルの群から、前記第１の学習済モデルを得るための学習に用いられる報酬及びユーザの要望のうち少なくとも一方に関する情報に基づいて、前記第２の学習済モデルを選択することを特徴とする請求項１１又は１２に記載のカメラ装置。
14. 前記レンズ装置に関する情報は、前記レンズ装置の機種及び個体を示す情報を含むことを特徴とする請求項１１乃至１３のうちいずれか１項に記載のカメラ装置。
15. レンズ装置における光学部材の駆動の制御を行うことと、
    前記制御に用いられる第１の学習済モデルを生成することとを含み、
    前記第１の学習済モデルは、前記レンズ装置とは異なる装置に関する学習により得られた第２の学習済モデルを初期の学習済モデルとして前記レンズ装置に関する学習により得られた学習済モデルであることを特徴とする制御方法。
16. 請求項１５に記載の制御方法をコンピュータに実行させることを特徴とするプログラム。

Images