JP6776494B2 - 制御装置、撮像装置、移動体、制御方法、及びプログラム - Google Patents

制御装置、撮像装置、移動体、制御方法、及びプログラム Download PDF

Info

Publication number
JP6776494B2
JP6776494B2 JP2018200139A JP2018200139A JP6776494B2 JP 6776494 B2 JP6776494 B2 JP 6776494B2 JP 2018200139 A JP2018200139 A JP 2018200139A JP 2018200139 A JP2018200139 A JP 2018200139A JP 6776494 B2 JP6776494 B2 JP 6776494B2
Authority
JP
Japan
Prior art keywords
lens
current value
posture
speed
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018200139A
Other languages
English (en)
Other versions
JP2020067558A (ja
Inventor
高志 小山
高志 小山
本庄 謙一
謙一 本庄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Hasselblad AB
Original Assignee
Victor Hasselblad AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Hasselblad AB filed Critical Victor Hasselblad AB
Priority to JP2018200139A priority Critical patent/JP6776494B2/ja
Priority to CN201980033562.7A priority patent/CN112136315A/zh
Priority to PCT/CN2019/113053 priority patent/WO2020083342A1/zh
Publication of JP2020067558A publication Critical patent/JP2020067558A/ja
Application granted granted Critical
Publication of JP6776494B2 publication Critical patent/JP6776494B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/04Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification
    • G02B7/08Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification adapted to co-operate with a remote control mechanism
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Description

本発明は、制御装置、撮像装置、移動体、制御方法、及びプログラムに関する。
特許文献1には、撮像装置の姿勢の検知情報とレンズの移動方向から決定された速度情報に基づいてレンズを制御することが記載されている。
特許文献1 特開平9−73030号公報
速度制御によりフォーカスレンズの速度を制御する場合に、撮像装置の使用環境の変化などにより、フォーカスレンズの移動が安定しないことがある。
本発明の一態様に係る制御装置は、レンズとレンズを駆動する電動機を備える撮像装置を制御する制御装置でよい。制御装置は、撮像装置の姿勢を示す姿勢情報を取得する第1取得部を備えてよい。制御装置は、姿勢情報に基づいて第1電流値を決定する決定部を備えてよい。制御装置は、レンズの速度を示す値とレンズの目標速度を示す目標値との差分に基づいて、電動機に供給する電流を制御することで、レンズの速度が目標速度になるように速度制御を実行する制御部を備えてよい。制御部は、速度制御を開始するときに第1電流値の電流が電動機に供給されるように、速度制御を実行してよい。
制御部は、差分の積分値を示す値に基づいて、速度制御を実行してよい。決定部は、差分の積分値を示す値の初期値として、第1電流値を決定してよい。
決定部は、レンズの移動方向にさらに基づいて第1電流値を決定してよい。
決定部は、第1電流値、撮像装置の姿勢、及びレンズの移動方向の予め定められた対応関係を示す情報に基づいて、第1電流値を決定してよい。
制御装置は、速度制御が実行されているときに、電動機に供給されている電流の第2電流値を取得する第2取得部を備えてよい。制御装置は、第2電流値に基づいて、予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びレンズの移動方向に対応する第1電流値を更新する更新部を備えてよい。
更新部は、第2電流値が予め定められた電流値の範囲の場合、第2電流値に基づいて、予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びレンズの移動方向に対応する第1電流値を更新してよい。
更新部は、レンズの移動が開始されてから予め定められた期間が経過した後の第2電流値が第2取得部により取得されている場合、第2電流値に基づいて予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びレンズの移動方向に対応する第1電流値を更新してよい。
更新部は、第2電流値を予め定められた条件に従って小さくした値に、予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びレンズの移動方向に対応する第1電流値を更新してよい。
電動機は、ギアまたはカムを介してレンズを駆動してよい。
本発明の一態様に係る撮像装置は、上記制御装置を備えてよい。撮像装置は、レンズと、電動機と、レンズを介して光を受光するイメージセンサとを備えてよい。
本発明の一態様に係る移動体は、上記撮像装置と、撮像装置の姿勢を調整可能に支持する支持機構とを備えて移動する移動体でよい。
本発明の一態様に係る制御方法は、レンズとレンズを駆動する電動機を備える撮像装置を制御する制御方法でよい。制御方法は、撮像装置の姿勢を示す姿勢情報を取得する段階を備えてよい。制御方法は、姿勢情報に基づいて第1電流値を決定する段階を備えてよい。制御方法は、レンズの速度を示す値とレンズの目標速度を示す目標値との差分に基づいて、電動機に供給する電流を制御することで、レンズの速度が目標速度になるように速度制御を実行する段階を備えてよい。速度制御を実行する段階は、速度制御を開始するときに第1電流値の電流が電動機に供給されるように、速度制御を実行する段階を含んでよい。
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
本発明の一態様によれば、度制御によりフォーカスレンズの速度を制御する場合に、撮像装置の使用環境の変化などにより、フォーカスレンズの移動が不安定になることを抑制できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
撮像装置の外観斜視図の一例を示す図である。 撮像装置の機能ブロックを示す図である。 速度制御部により実行されるPID制御のブロック線図の一例を示す図である。 フォーカスレンズの速度及び電動機に供給される電流の電流値の時間的な変化の一例を示す図である。 傾斜角、電流値、及びレンズの移動方向の対応関係を示す情報の一例を示す図である。 初期値の電流値を更新する手順の一例を示すフローチャートである。 無人航空機及び遠隔操作装置の外観の一例を示す図である。 ハードウェア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、本実施形態に係る撮像装置100の外観斜視図の一例を示す図である。図2は、本実施形態に係る撮像装置100の機能ブロックを示す図である。
撮像装置100は、撮像部102及びレンズ部200を備える。撮像部102は、イメージセンサ120、撮像制御部110、及びメモリ130を有する。イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、ズームレンズ211及びフォーカスレンズ210を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPUなどのマイクロプロセッサ、MCUなどのマイクロコントローラなどにより構成されてよい。メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120などを制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。メモリ130は、撮像装置100の筐体から取り外し可能に設けられてよい。
撮像部102は、指示部162及び表示部160をさらに有してよい。指示部162は、撮像装置100に対する指示をユーザから受け付けるユーザインタフェースである。表示部160は、イメージセンサ120により撮像された画像、撮像装置100の各種設定情報などを表示する。表示部160は、タッチパネルで構成されてよい。
レンズ部200は、フォーカスレンズ210、ズームレンズ211、レンズ駆動部212、レンズ駆動部213及びレンズ制御部220を有する。フォーカスレンズ210、及びズームレンズ211は、少なくとも1つのレンズを含んでよい。フォーカスレンズ210、及びズームレンズ211の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部200は、撮像部102に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部212は、電動機216、及びエンコーダ218を含む。電動機216は、DCモータ、コアレスモータ、または超音波モータでよい。エンコーダ218は、電動機216の回転数、及び回転速度を検出する。レンズ駆動部212は、電動機216からの動力をカム環、ガイド軸などの機構部材を介してフォーカスレンズ210の少なくとも一部または全部に伝達して、フォーカスレンズ210の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部213は、電動機217、及びエンコーダ219を含む。電動機217は、ステッピングモータ、DCモータ、コアレスモータ、または超音波モータでよい。エンコーダ219は、電動機217の回転数、及び回転速度を検出する。レンズ駆動部213は、電動機217からの動力をカム環、ガイド軸などの機構部材を介してズームレンズ211の少なくとも一部または全部に伝達して、ズームレンズ211の少なくとも一部または全部を光軸に沿って移動させる。レンズ制御部220は、撮像部102からのレンズ制御命令に従って、レンズ駆動部212及びレンズ駆動部213の少なくとも一方を駆動して、機構部材を介してフォーカスレンズ210及びズームレンズ211の少なくとも一方を光軸方向に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。機構部材は、ギア及びカムの少なくとも一方を含む。
レンズ部200は、メモリ222をさらに有する。メモリ222は、レンズ駆動部212、及びレンズ駆動部213を介して移動するフォーカスレンズ210、及びズームレンズ211の制御値を記憶する。メモリ222は、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。
このように構成された撮像装置100において、レンズ制御部220は、電動機216に供給される電流を制御することで、フォーカスレンズ210の速度を制御する。電動機216が、DCモータ、コアレスモータ、または超音波モータなどである場合、電動機216に供給される電流を停止させた後、フォーカスレンズ210は即座に停止せず、減速しながら、ある程度移動した後、停止する。そのため、電動機216への電流の供給が停止した後、予め定められた速度で移動しているフォーカスレンズ210が停止するまでに移動する距離をシミュレーションまたは実験等で測定しておく。そして、レンズ制御部220は、その距離を考慮して、フォーカスレンズ210が目標位置に到達する前に電動機216への電流の供給を停止させる。これにより、レンズ制御部220は、フォーカスレンズ210を目標位置に停止させる。
レンズ制御部220は、フォーカスレンズ210の速度が目標速度になるように速度制御を実行する速度制御部230を有する。速度制御部230は、フォーカスレンズ210の速度を示す値とフォーカスレンズ210の目標速度を示す目標値との差分に基づいて、電動機216に供給する電流を制御することで、目標速度の速度制御を実行する。速度制御部230は、フォーカスレンズ210の速度を示す値とフォーカスレンズ210の目標速度を示す目標値との差分に基づいて、PID制御により電動機216に供給する電流を制御することで、目標速度の速度制御を実行してよい。
図3は、速度制御部230により実行されるPID制御のブロック線図の一例を示す。速度制御部230は、予め定められた目標速度A(t)と実速度V(t)との差分e(t)を導出する。速度制御部230は、差分e(t)に比例ゲインKpを乗算した値と、差分e(t)を積分した値に比例ゲインKiを乗算した値と、差分e(t)を微分した値とに基づいて、電動機216を制御するための制御量U(t)を導出する。速度制御部230は、エンコーダ218で検出される電動機216の回転速度を、実速度V(t)を示す値として取得してよい。
図4は、フォーカスレンズ210の速度及び電動機216に供給される電流の時間的な変化の一例を示す図である。(A)は、フォーカスレンズ210の速度の時間的な変化の一例を示す。(B)は、レンズが下向きの状態で、レンズが撮像装置100の前方側に移動する場合に、電動機216に供給される電流の時間的な変化の一例を示す。(C)は、レンズが上向きの状態で、レンズが撮像装置100の前方側に移動する場合に、電動機216に供給される電流の時間的な変化の一例を示す。
図4に示すように、速度制御部230は、フォーカスレンズ210が予め定められた速度V1で移動するように、電動機216に供給される電流を制御することで、PID制御でフォーカスレンズ210の速度制御を実行する。そして、速度制御部230は、フォーカスレンズ210の位置が目標位置に到達する前のタイミングT0で電動機216への電流の供給を停止する。その後、フォーカスレンズ210は、徐々に減速して停止する。
フォーカスレンズ210の移動を開始させる場合、速度制御部230は、速度制御を開始する前に、電動機216に比較的な大きな電流、例えば最大電流Isを供給して、電動機216を始動させてフォーカスレンズ210の速度が目標速度になるまで加速させる。その後、速度制御部230は、PID制御による速度制御を実行する。
速度制御部230が、PID制御による速度制御を開始する場合、点線500で示すように、電動機216に供給される電流を一旦ゼロにして、徐々に、大きくする。この場合、点線501で示すように、速度制御の開始直後、フォーカスレンズ210の速度が安定しない。そのため、速度制御部230は、PID制御による速度制御を開始する場合、電動機216に供給される電流をゼロにせず、速度制御の開始時からゼロ以上の電流値の電流を電動機216に供給することが好ましい。しかし、図4の(B)及び(C)に示すように、フォーカスレンズ210の目標速度が同じでも、撮像装置100の姿勢によって、フォーカスレンズ210の速度が目標速度になるように速度制御を実行している間に、電動機216に供給される電流の大きさは異なる。したがって、撮像装置100の姿勢によらず、予め定められた電流値の電流が速度制御の開始時に電動機216に供給された場合、フォーカスレンズ210の移動が安定しない場合がある。
そこで、速度制御部230は、速度制御を開始するとき、撮像装置100の姿勢に基づく電流値の電流が電動機216に供給されるように、速度制御を実行する。これにより、速度制御の開始直後に、フォーカスレンズ210の移動が不安定になることを抑制できる。
レンズ部200は、撮像装置100の姿勢を検知する姿勢センサ240を有する。姿勢センサ240は、3軸加速度センサでよい。姿勢センサ240は、撮像部102に設けられてもよい。レンズ制御部220は、姿勢情報取得部224、決定部226、電流値取得部227、及び更新部228をさらに有する。姿勢情報取得部224は、撮像装置100の姿勢を示す姿勢情報を取得する。姿勢情報は、撮像装置100の光軸の水平軸からの傾斜角度を撮像装置100の姿勢として示してよい。
決定部226は、姿勢情報に基づいて、速度制御を開始するときに電動機216に供給する第1電流値を決定する。決定部226は、撮像装置100の姿勢と、速度制御を開始するときに電動機216に供給する電流値との予め定められた対応関係を示す情報に基づいて、第1電流値を決定してよい。決定部226は、撮像装置100の姿勢と、速度制御を開始するときに電動機216に供給する電流値と、フォーカスレンズ210の移動方向との予め定められた対応関係を示す情報に基づいて、第1電流値を決定してよい。
速度制御部230は、速度制御を開始するときに第1電流値の電流が電動機216に供給されるように、速度制御を実行する。速度制御部230は、上記の通り、PID制御により、フォーカスレンズ210の速度を示す値とフォーカスレンズ210の目標速度を示す目標値との差分に基づいて、速度制御を実行する。速度制御部230は、その差分の積分値を示す値の初期値として、第1電流値を用いてよい。PID制御の積分値は、速度制御を開始する時点で、ゼロであるため、速度制御部230が、差分の積分値をそのまま利用すると、速度制御の開始時に電動機216に供給される電流値がゼロになってしまう。そこで、速度制御部230が、その差分の積分値を示す値の初期値として、第1電流値を用いることで、速度制御の開始時に電動機216に供給される電流値が第1電流値となる。これにより、速度制御の開始時にフォーカスレンズ210の移動が不安定になることを抑制できる。
決定部226は、上記の通り、撮像装置100の姿勢と、速度制御を開始するときに電動機216に供給する電流値と、フォーカスレンズ210の移動方向との予め定められた対応関係を示す情報に基づいて、第1電流値を決定してよい。しかし、撮像装置100の使用環境の変化、フォーカスレンズ210の僅かな経時変形などにより、フォーカスレンズ210の駆動機構に加わる負荷が変化する可能性がある。このような変化により、撮像装置100の姿勢が同じでも、フォーカスレンズ210の速度を目標速度にするために、電動機216に供給すべき電流値が変化する可能性がある。そこで、速度制御を開始するときに電動機216に供給すべき第1電流値は適宜更新されることが好ましい。すなわち、撮像装置100の姿勢と、速度制御を開始するときに電動機216に供給する電流値と、フォーカスレンズ210の移動方向との予め定められた対応関係を示す情報は、適宜更新されることが好ましい。
そこで、電流値取得部227は、速度制御が実行されているときに、電動機216に供給されている電流の第2電流値を取得する。更新部228は、第2電流値に基づいて、予め定められた対応関係に示される姿勢情報が示す撮像装置100の姿勢及びフォーカスレンズ210の移動方向に対応する第1電流値を更新する。メモリ222は、図5に示すような、予め定められた対応関係を示す情報を記憶してよい。決定部226は、メモリ222を参照して、図5に示すような予め定められた対応関係を示す情報に基づいて、速度制御を開始するときに電動機216に供給すべき第1電流値を決定してよい。
速度制御が実行されているときに電動機216に供給されている電流値が必ずしも適切な電流値であるとは限らない。撮像装置100に衝撃が加わった場合など突発的な事情で、電動機216に供給されている電流値が大きく乱れる可能がある。このような場合に電動機216に供給されている電流値で、予め定められた対応関係を示す情報が更新されることは好ましくない。
そこで、更新部228は、電流値取得部227により取得された第2電流値が予め定められた電流値の範囲の場合、第2電流値に基づいて、予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びレンズの移動方向に対応する第1電流値を更新してよい。
また、フォーカスレンズ210の移動が開始された直後は、電動機216に供給されている電流値が安定していない可能性がある。図4に示すように、フォーカスレンズ210の移動が開始する直後は、比較的大きな電流が電動機216に供給されている。そこで、更新部228は、フォーカスレンズ210の移動が開始されてから予め定められた期間が経過した後の第2電流値が電流値取得部227により取得されている場合、第2電流値に基づいて予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びフォーカスレンズ210の移動方向に対応する第1電流値を更新してよい。
さらに、速度制御を開始するときに電動機216に供給される電流の電流値が大きいすぎると、フォーカスレンズ210の移動が不安定になる可能性がある。そこで、更新部228は、電流値取得部227により取得された第2電流値をそのまま使用せずに、第2電流値を予め定められた条件に従って小さくした値に、予め定められた対応関係に示される姿勢情報が示す撮像装置の姿勢及びフォーカスレンズ210の移動方向に対応する第1電流値を更新してよい。更新部228は、第2電流値に1より小さい予め定められた割合(例えば、0.9など)を乗算して得られる値で、第1電流値を更新してよい。
図6は、電流値の更新手順の一例を示すフローチャートである。レンズ制御部220が、フォーカス制御命令を受けて、フォーカスレンズ210の駆動を開始する(S100)。姿勢情報取得部224が、姿勢センサ240を介して撮像装置100の姿勢情報を取得する(S102)。決定部226は、姿勢情報が示す姿勢(傾斜角)に対応する電流値を決定する。
速度制御部230は、撮像装置100の姿勢(傾斜角)に対応する電流値を積分器の初期値として電動機216に電流を供給することで速度制御を開始し、フォーカスレンズ210を目標速度で移動させる(S104)。電流値取得部227は、速度制御が実行されている間に、電動機216への電流の供給を停止する直前の電流値を取得する(S106)。
更新部228は、取得された電流値が、姿勢情報が示す姿勢、及びフォーカスレンズ210の移動方向に対応付けて予め定められた対応関係を示す情報に示される規定値と異なるか否かを判定する(S108)。更新部228は、取得された電流値が規定値と同じであれば、積分器の初期値として利用する電流値の更新は不要と判断して処理を終了する。
一方、更新部228は、電流値が規定値と異なる場合、電流値が予め定められた範囲内か否かを判定する。電流値が予め定められた範囲内でなければ、電流値は更新する値として不適切と判断して、更新部228は、処理を終了する。電流値が予め定められた範囲内であれば、更新部228は、電流値が、フォーカスレンズ210の駆動を開始してから予め定められた時間が経過してから取得された電流値であるか否かを判定する。予め定められた時間が経過していなければ、電流値は更新する値として不適切と判断して、更新部228は、処理を終了する。
予め定められた時間が経過していれば、更新部228は、電流値は更新する値として適切であると判断して、電流値に予め定められた重み付けをして、例えば、その電流値に0.9を乗算して、その値を、速度制御の積分器の初期値となるように、撮像装置100の姿勢と、速度制御を開始するときに電動機216に供給する電流値と、フォーカスレンズ210の移動方向との予め定められた対応関係を示す情報を更新する(S114)。
以上のように、本実施形態に係る撮像装置100によれば、PID制御による速度制御の開始直後に、フォーカスレンズ210の移動が不安定になることを抑制できる。また、PID制御による速度制御を開始するときに電動機216に供給される電流の初期値が、速度制御が実行されているときに電動機216に供給されている電流の電流値に従って適宜更新される。よって、撮像装置100の使用環境の変化、フォーカスレンズ210の僅かな経時変形などにより、フォーカスレンズ210の駆動機構に加わる負荷が変化することで、初期値が不適切な値となり、フォーカスレンズ210の移動が不安定になることを抑制できる。
上記のような撮像装置100は、移動体に搭載されてもよい。撮像装置100は、図7に示すような、無人航空機(UAV)に搭載されてもよい。UAV10は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備えてよい。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV10は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV10を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV10を飛行させる。回転翼の数は、4つには限定されない。また、UAV10は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV10の飛行を制御するためにUAV10の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV10の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV10の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV10の周囲の3次元空間データが生成されてよい。UAV10が備える撮像装置60の数は4つには限定されない。UAV10は、少なくとも1つの撮像装置60を備えていればよい。UAV10は、UAV10の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置300は、UAV10と通信して、UAV10を遠隔操作する。遠隔操作装置300は、UAV10と無線で通信してよい。遠隔操作装置300は、UAV10に上昇、下降、加速、減速、前進、後進、回転などのUAV10の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV10の高度を上昇させる指示情報を含む。指示情報は、UAV10が位置すべき高度を示してよい。UAV10は、遠隔操作装置300から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV10を上昇させる上昇命令を含んでよい。UAV10は、上昇命令を受け付けている間、上昇する。UAV10は、上昇命令を受け付けても、UAV10の高度が上限高度に達している場合には、上昇を制限してよい。
図8は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 UAV
20 UAV本体
50 ジンバル
60 撮像装置
100 撮像装置
102 撮像部
110 撮像制御部
120 イメージセンサ
130 メモリ
160 表示部
162 指示部
200 レンズ部
210 フォーカスレンズ
211 ズームレンズ
212,213 レンズ駆動部
216,217 電動機
218,219 エンコーダ
220 レンズ制御部
222 メモリ
224 姿勢情報取得部
226 決定部
227 電流値取得部
228 更新部
230 速度制御部
240 姿勢センサ
300 遠隔操作装置
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (10)

  1. レンズと前記レンズを駆動する電動機を備える撮像装置を制御する制御装置であって、
    前記撮像装置の姿勢を示す姿勢情報を取得する第1取得部と、
    第1電流値、前記撮像装置の姿勢、及び前記レンズの移動方向の予め定められた対応関係を示す情報、及び前記姿勢情報に基づいて第1電流値を決定する決定部と
    前記レンズの速度を示す値と前記レンズの目標速度を示す目標値との差分に基づいて、前記電動機に供給する電流を制御することで、前記レンズの速度が前記目標速度になるように速度制御を実行する制御部と
    前記速度制御が実行されているときに、前記電動機に供給されている電流の第2電流値を取得する第2取得部と、
    前記第2電流値に基づいて、前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する更新部と
    を備え、
    前記制御部は、前記速度制御を開始するときに前記第1電流値の電流が前記電動機に供給されるように、前記速度制御を実行し、
    前記更新部は、前記レンズの移動が開始されてから予め定められた期間が経過した後の前記第2電流値が前記第2取得部により取得されている場合、前記第2電流値に基づいて前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する、制御装置。
  2. 前記制御部は、前記差分の積分値を示す値に基づいて、前記速度制御を実行し、
    前記決定部は、前記差分の積分値を示す値の初期値として、前記第1電流値を決定する、請求項1に記載の制御装置。
  3. 前記決定部は、前記レンズの移動方向にさらに基づいて前記第1電流値を決定する、請求項1に記載の制御装置。
  4. 前記更新部は、前記第2電流値が予め定められた電流値の範囲の場合、前記第2電流値に基づいて、前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する、請求項1から3の何れか1つに記載の制御装置。
  5. 前記更新部は、前記第2電流値を予め定められた条件に従って小さくした値に、前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する、請求項1から4の何れか1つに記載の制御装置。
  6. 前記電動機は、ギアまたはカムを介して前記レンズを駆動する、請求項1から5の何れか1つに記載の制御装置。
  7. 請求項1からの何れか1つに記載の制御装置と、
    前記レンズと、
    前記電動機と、
    前記レンズを介して光を受光するイメージセンサと
    を備える撮像装置。
  8. 請求項に記載の撮像装置と、前記撮像装置の姿勢を調整可能に支持する支持機構とを備えて移動する移動体。
  9. レンズと前記レンズを駆動する電動機を備える撮像装置を制御する制御方法であって、
    前記撮像装置の姿勢を示す姿勢情報を取得する段階と、
    第1電流値、前記撮像装置の姿勢、及び前記レンズの移動方向の予め定められた対応関係を示す情報、及び前記姿勢情報に基づいて第1電流値を決定する段階と
    前記レンズの速度を示す値と前記レンズの目標速度を示す目標値との差分に基づいて、前記電動機に供給する電流を制御することで、前記レンズの速度が前記目標速度になるように速度制御を実行する段階と
    前記速度制御が実行されているときに、前記電動機に供給されている電流の第2電流値を取得する段階と、
    前記第2電流値に基づいて、前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する段階と
    を備え、
    前記速度制御を実行する段階は、前記速度制御を開始するときに前記第1電流値の電流が前記電動機に供給されるように、前記速度制御を実行する段階を含み、
    前記更新する段階は、前記レンズの移動が開始されてから予め定められた期間が経過した後の前記第2電流値が取得されている場合、前記第2電流値に基づいて前記予め定められた対応関係に示される前記姿勢情報が示す前記撮像装置の姿勢及び前記レンズの移動方向に対応する第1電流値を更新する段階を含む、制御方法。
  10. 請求項1からの何れか1つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2018200139A 2018-10-24 2018-10-24 制御装置、撮像装置、移動体、制御方法、及びプログラム Active JP6776494B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018200139A JP6776494B2 (ja) 2018-10-24 2018-10-24 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN201980033562.7A CN112136315A (zh) 2018-10-24 2019-10-24 控制装置、摄像装置、移动体、控制方法以及程序
PCT/CN2019/113053 WO2020083342A1 (zh) 2018-10-24 2019-10-24 控制装置、摄像装置、移动体、控制方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018200139A JP6776494B2 (ja) 2018-10-24 2018-10-24 制御装置、撮像装置、移動体、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020067558A JP2020067558A (ja) 2020-04-30
JP6776494B2 true JP6776494B2 (ja) 2020-10-28

Family

ID=70330916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018200139A Active JP6776494B2 (ja) 2018-10-24 2018-10-24 制御装置、撮像装置、移動体、制御方法、及びプログラム

Country Status (3)

Country Link
JP (1) JP6776494B2 (ja)
CN (1) CN112136315A (ja)
WO (1) WO2020083342A1 (ja)

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2524145B2 (ja) * 1987-03-26 1996-08-14 旭光学工業株式会社 合焦用レンズの駆動装置
JPH0829666A (ja) * 1994-07-15 1996-02-02 Olympus Optical Co Ltd 光学素子の移動装置
JP3220930B2 (ja) * 1996-02-28 2001-10-22 京セラ株式会社 超音波モ−タの速度制御装置
JPWO2005019897A1 (ja) * 2003-08-21 2007-11-01 コニカミノルタオプト株式会社 撮像装置
CN102147556B (zh) * 2011-03-09 2012-08-29 华为终端有限公司 用于移动设备的对焦方法、装置和移动设备
US8525918B2 (en) * 2011-04-20 2013-09-03 Htc Corporation Portable electronic devices and auto-focus control methods for cameras therein
JP5854732B2 (ja) * 2011-09-28 2016-02-09 キヤノン株式会社 撮像装置および撮像装置の制御方法
JP2013122565A (ja) * 2011-12-12 2013-06-20 Canon Inc レンズ装置および撮像装置
CN105446055B (zh) * 2014-06-16 2019-04-16 南昌欧菲光电技术有限公司 相机模组及其对焦方法
US20160269644A1 (en) * 2015-03-13 2016-09-15 Samsung Electro-Mechanics Co., Ltd. Driver for actuator and camera module and method thereof
KR102508248B1 (ko) * 2015-08-20 2023-03-08 삼성전자주식회사 중력 및 온도 센서를 이용한 카메라의 자동 초점 조절 방법, 카메라 제어 장치, 및 카메라 시스템
CN105282447B (zh) * 2015-11-10 2018-05-01 歌尔股份有限公司 一种摄像头模组的对焦方法和系统
CN106506966A (zh) * 2016-11-30 2017-03-15 宇龙计算机通信科技(深圳)有限公司 一种对焦方法和装置

Also Published As

Publication number Publication date
CN112136315A (zh) 2020-12-25
JP2020067558A (ja) 2020-04-30
WO2020083342A1 (zh) 2020-04-30

Similar Documents

Publication Publication Date Title
JP6878736B2 (ja) 制御装置、移動体、制御方法、及びプログラム
JP2019110462A (ja) 制御装置、システム、制御方法、及びプログラム
CN110383809B (zh) 摄像装置、摄像系统、移动体、控制方法
US20210199919A1 (en) Control device, photographing device, control method, and program
JP2019191428A (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6776494B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6838231B2 (ja) 制御装置、無人航空機、制御方法、及びプログラム
JP6331180B1 (ja) 制御装置、撮像装置、撮像システム、飛行体、制御方法、及びプログラム
JP6972458B1 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP2019161486A (ja) 動体検出装置、制御装置、移動体、動体検出方法、及びプログラム
JP6821881B1 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP2019041536A (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP7048019B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
JP6780203B2 (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP6565071B2 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP6852243B1 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP2019205047A (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6903848B2 (ja) 制御装置、レンズ装置、撮像装置、制御方法、及びプログラム
WO2018163300A1 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
JP6888215B2 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
JP6488521B2 (ja) 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム
JP2020052379A (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6459012B1 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP6519886B2 (ja) 撮像装置、撮像システム、移動体、方法、及びプログラム
JP6413170B1 (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200214

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200910

R150 Certificate of patent or registration of utility model

Ref document number: 6776494

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150