JP6488521B2 - 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム - Google Patents

制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム Download PDF

Info

Publication number
JP6488521B2
JP6488521B2 JP2017142720A JP2017142720A JP6488521B2 JP 6488521 B2 JP6488521 B2 JP 6488521B2 JP 2017142720 A JP2017142720 A JP 2017142720A JP 2017142720 A JP2017142720 A JP 2017142720A JP 6488521 B2 JP6488521 B2 JP 6488521B2
Authority
JP
Japan
Prior art keywords
imaging device
unit
gimbal
imaging
holding force
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017142720A
Other languages
English (en)
Other versions
JP2019023700A (ja
Inventor
本庄 謙一
謙一 本庄
知長 安田
知長 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2017142720A priority Critical patent/JP6488521B2/ja
Publication of JP2019023700A publication Critical patent/JP2019023700A/ja
Application granted granted Critical
Publication of JP6488521B2 publication Critical patent/JP6488521B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Lens Barrels (AREA)
  • Structure And Mechanism Of Cameras (AREA)
  • Accessories Of Cameras (AREA)
  • Studio Devices (AREA)

Description

本発明は、制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラムに関する。
特許文献1には、交換レンズを逆付けした場合に、逆付けしたレンズ用の制御情報を用いてレンズを制御することが記載されている。
特許文献1 特開2016−206568号公報
支持機構に回転可能に支持されている撮像装置のレンズを交換する場合に、支持機構が撮像装置の姿勢を維持しようとすることで、レンズの交換が容易に行えない場合がある。
本発明の一態様に係る制御装置は、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する。制御装置は、撮像装置に装着されたレンズ部を撮像装置から取り外すためのボタンが押下された場合、支持機構が発生させることができる保持力を低下させる制御部を備えてよい。
支持機構は、撮像装置を回転させる駆動部を有してよい。制御部は、駆動部に印加させることができる電圧を低下させることで、支持機構が発生させることができる保持力を低下させてよい。
制御部は、支持機構が発生させることができる保持力を低下させた後、撮像装置へのレンズ部の装着が完了したことを検知すると、支持機構が発生させることができる保持力の低下を停止してよい。
制御部は、ボタンが押下されておらず、撮像装置とレンズ部とが電気接点を介して電気的に接続されていることを検知することにより、レンズ部の装着が完了したことを検知してよい。
本発明の一態様に係る制御装置は、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する。制御装置は、予め定められた条件を満たす保持力を支持機構が発生させた場合に、支持機構が発生させることができる保持力を低下させる制御部を備えてよい。
支持機構は、撮像装置を回転させる駆動部を有してよい。制御部は、駆動部に印加させることができる電圧を低下させることで、支持機構が発生させることができる保持力を低下させてよい。
制御部は、予め定められた第1期間、予め定められた値より大きい保持力を支持機構が発生させた場合に、支持機構が発生させることができる保持力を低下させてよい。
制御部は、予め定められた第1期間、撮像装置に装着されたレンズ部を撮像装置から取り外そうとする動作を示す予め定められたパターンの保持力を支持機構が発生させた場合、支持機構が発生させることができる保持力を低下させてよい。
制御部は、支持機構が発生させることができる保持力を低下させた後、予め定められた第2期間が経過するまでの間に、撮像装置に装着されたレンズ部を撮像装置から取り外すためのボタンが押下されない場合、支持機構が発生させることができる保持力の低下を停止してよい。制御部は、支持機構が発生させることができる保持力を低下させた後、予め定められた第2期間が経過するまでの間に、撮像装置に装着されたレンズ部を撮像装置から取り外すためのボタンが押下された場合、支持機構が発生させることができる保持力の低下を継続してよい。
制御部は、支持機構が発生させることができる保持力を低下させた後、撮像装置へのレンズ部の装着が完了したことを検知すると、支持機構が発生させることができる保持力の低下を停止してよい。
制御部は、レンズ部を撮像装置から取り外すためのボタンが押下されておらず、撮像装置とレンズ部とが電気接点を介して電気的に接続されていることを検知することにより、レンズ部の装着が完了したことを検知してよい。
支持機構及び撮像装置は、無人航空機に搭載され、制御部は、無人航空機が飛行中の場合、予め定められた条件を満たす保持力を支持機構が発生させても、支持機構が発生させることができる保持力の低下を行わなくてよい。
本発明の一態様に係る支持システムは、上記制御装置と、支持機構とを備える。
本発明の一態様に係る撮像システムは、上記支持システムと、撮像装置とを備える。
本発明の一態様に係る移動体は、上記撮像システムを備えて移動する。
本発明の一態様に係る制御方法は、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する制御方法である。制御方法は、撮像装置に装着されたレンズ部を撮像装置から取り外すためのボタンが押下された場合、支持機構が発生させることができる保持力を低下させる段階を備えてよい。
本発明の一態様に係る制御方法は、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する制御方法である。制御方法は、予め定められた条件を満たす保持力を支持機構が発生させた場合に、支持機構が発生させることができる保持力を低下させる段階を備えてよい。
本発明の一態様に係るプログラムは、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構をコンピュータに制御させるためのプログラムである。プログラムは、撮像装置に装着されたレンズ部を撮像装置から取り外すためのボタンが押下された場合、支持機構が発生させることができる保持力を低下させる段階をコンピュータに実行させてよい。
本発明の一態様に係るプログラムは、撮像装置を回転可能に支持し、撮像装置に加えられる外力に対して撮像装置の姿勢を維持する保持力を発生させる支持機構をコンピュータに制御させるためのプログラムである。プログラムは、予め定められた条件を満たす保持力を支持機構が発生させた場合に、支持機構が発生させることができる保持力を低下させる段階をコンピュータに実行させてよい。
本発明の一態様によれば、撮像装置のレンズ部を交換する場合に、支持機構が撮像装置の姿勢を維持しようとすることで、レンズ部の交換がしづらくなることを防止できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
無人航空機及び遠隔操作装置の外観の一例を示す図である。 無人航空機の機能ブロックの一例を示す図である。 ロックピン及び電気接点について説明するための図である。 ロックピン及び電気接点について説明するための図である。 ロックピン及び電気接点について説明するための図である。 ロックピン及び電気接点について説明するための図である。 ロック解除ボタンが押下されたことに対応して、電源電圧を低下させる場合のタイミングチャートの一例を示す図である。 制御電圧の変化に応じて電源電圧を低下させる場合のタイミングチャートの一例を示す図である。 制御電圧の変化に応じて電源電圧を低下させる場合のタイミングチャートの一例を示す図である。 ロック解除ボタンが押下されたことに対応して電源電圧を低下させる場合の手順の一例を示すフローチャートである。 制御電圧の変化に応じて電源電圧を低下させる場合の手順の一例を示すフローチャートである。 ハードウェア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、無人航空機(UAV)10及び遠隔操作装置300の外観の一例を示す。UAV10は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備える。UAV10は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV10を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV10を飛行させる。回転翼の数は、4つには限定されない。また、UAV10は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV10の飛行を制御するためにUAV10の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV10の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV10の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV10の周囲の3次元空間データが生成されてよい。UAV10が備える撮像装置60の数は4つには限定されない。UAV10は、少なくとも1つの撮像装置60を備えていればよい。UAV10は、UAV10の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置300は、UAV10と通信して、UAV10を遠隔操作する。遠隔操作装置300は、UAV10と無線で通信してよい。遠隔操作装置300は、UAV10に上昇、下降、加速、減速、前進、後進、回転などのUAV10の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV10の高度を上昇させる指示情報を含む。指示情報は、UAV10が位置すべき高度を示してよい。UAV10は、遠隔操作装置300から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV10を上昇させる上昇命令を含んでよい。UAV10は、上昇命令を受け付けている間、上昇する。UAV10は、上昇命令を受け付けても、UAV10の高度が上限高度に達している場合には、上昇を制限してよい。
図2は、UAV10の機能ブロックの一例を示す。UAV10は、UAV制御部30、メモリ32、通信インタフェース34、推進部40、GPS受信機41、慣性計測装置42、磁気コンパス43、気圧高度計44、ジンバル50、撮像装置60及び撮像装置100を備える。
通信インタフェース34は、遠隔操作装置300などの他の装置と通信する。通信インタフェース34は、遠隔操作装置300からUAV制御部30に対する各種の命令を含む指示情報を受信してよい。メモリ32は、UAV制御部30が、推進部40、GPS受信機41、慣性計測装置(IMU)42、磁気コンパス43、気圧高度計44、ジンバル50、撮像装置60、及び撮像装置100を制御するのに必要なプログラム等を格納する。メモリ32は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ32は、UAV本体20の内部に設けられてよい。UAV本体20から取り外し可能に設けられてよい。
UAV制御部30は、メモリ32に格納されたプログラムに従ってUAV10の飛行及び撮像を制御する。UAV制御部30は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部30は、通信インタフェース34を介して遠隔操作装置300から受信した命令に従って、UAV10の飛行及び撮像を制御する。推進部40は、UAV10を推進させる。推進部40は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部40は、UAV制御部30からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、UAV10を飛行させる。
GPS受信機41は、複数のGPS衛星から発信された時刻を示す複数の信号を受信する。GPS受信機41は、受信された複数の信号に基づいてGPS受信機41の位置、つまりUAV10の位置を算出する。IMU42は、UAV10の姿勢を検出する。IMU42は、UAV10の姿勢として、UAV10の前後、左右、及び上下の3軸方向の加速度と、ピッチ、ロール、及びヨーの3軸方向の角速度とを検出する。磁気コンパス43は、UAV10の機首の方位を検出する。気圧高度計44は、UAV10が飛行する高度を検出する。気圧高度計44は、UAV10の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。
ジンバル50は、撮像装置100に加えられる外力に対して撮像装置100の姿勢を維持する保持力を発生させる。ジンバル50は、ジンバル制御部501、ヨー軸ドライバ502、ピッチ軸ドライバ512、ロール軸ドライバ522、ヨー軸駆動部504、ピッチ軸駆動部514、ロール軸駆動部524、ヨー軸回転機構506、ピッチ軸回転機構516、及びロール軸回転機構526を有する。ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524がヨー軸回転機構506、ピッチ軸回転機構516、及びロール軸回転機構526を駆動することで、ジンバル50は、撮像装置100に加えられる外力に対して撮像装置100の姿勢を維持する保持力を発生させる。ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524は、電動機でよい。
ヨー軸回転機構506は、ヨー軸を中心に撮像装置100を回転させる。ピッチ軸回転機構516は、ピッチ軸を中心に撮像装置100を回転させる。ロール軸回転機構526は、ロール軸を中心に撮像装置100を回転させる。ジンバル制御部501は、UAV制御部30からのジンバル50の動作命令に応じて、ヨー軸ドライバ502、ピッチ軸ドライバ512、及びロール軸ドライバ522に対して、それぞれの回転角度を示す動作命令を出力する。ヨー軸ドライバ502、ピッチ軸ドライバ512、及びロール軸ドライバ522は、回転角度を示す動作命令に従って、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524を駆動させる。ヨー軸回転機構506、ピッチ軸回転機構516、及びロール軸回転機構526は、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524により駆動されて回転し、撮像装置100の姿勢を変更する。
撮像装置100は、撮像部102及びレンズ部200を備える。撮像部102は、イメージセンサ120、撮像制御部110、及びメモリ130を有する。イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、複数のレンズ210を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPUなどのマイクロプロセッサ、MCUなどのマイクロコントローラなどにより構成されてよい。撮像制御部110は、UAV制御部30からの撮像装置100の動作命令に応じて、撮像装置100を制御してよい。メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120などを制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。メモリ130は、撮像装置100の筐体から取り外し可能に設けられてよい。
レンズ部200は、複数のレンズ210、レンズ駆動部212、レンズ制御部220、及びメモリ222を有する。複数のレンズ210は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ210の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部200は、撮像部102に対して着脱可能に設けられる交換レンズでよい。レンズ制御部220は、撮像部102からのレンズ制御命令に従って、レンズ駆動部212を駆動して、1または複数のレンズ210を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
撮像部102は、電気接点141を有し、レンズ部200は、電気接点142を有する。撮像部102及びレンズ部200は、電気接点141及び電気接点142を介して電気的に接続される。撮像部102は、ロックピン150及びロック解除ボタン152を有する。レンズ部200は、ロックピン150が挿入される挿入孔201を有する。ロックピン150が挿入孔201に挿入されることで、撮像部102とレンズ部200とが機械的に固定される。ロック解除ボタン152が押下されることで、ロックピン150が挿入孔201から抜出され、撮像部102とレンズ部200との機械的な固定が解除される。
図3Aは、撮像部102からレンズ部200が取り外された状態を示す。この状態で、レンズ部200が、撮像部102のマウント面144に対向して配置され、レンズ部200が撮像部102のマウント面144に押し付けられて回転すると、図3Bに示すように、ロックピン150が押下されることで、ロックピン150がオンする。撮像部102は、ロックピン150が押下されることで、オンするスイッチを有してよい。このスイッチのオンオフを検知することで、撮像部102は、ロックピン150がオンしているか否かを判断してよい。レンズ部200が撮像部102に対して予め定められた位置まで回転すると、図3Cに示すように、ロックピン150がレンズ部200に設けられた挿入孔201に嵌り、かつ撮像部102の電気接点141とレンズ部200の電気接点142とが電気的に接続される。ロックピン150が挿入孔201に嵌ると、レンズ部200は撮像部102に対して回転せず、撮像部102とレンズ部200とが機械的に固定される。レンズ部200が撮像部102から取り外される場合には、図3Dに示すように、撮像部102に設けられたロック解除ボタン152が押下される。これにより、ロックピン150が挿入孔201から抜出される。ロックピン150が挿入孔201から抜出されると、撮像部102とレンズ部200との機械的な固定が解除され、レンズ部200が撮像部102に対して回転可能になる。レンズ部200を撮像部102に対して予め定められた位置まで回転させると、レンズ部200は撮像部102から取り外し可能になる。
上記のようなジンバル50に回転可能に支持される撮像装置100に、交換レンズとしてレンズ部200が着脱可能に装着される場合がある。ここで、ジンバル50は、撮像装置100を予め定められた姿勢を維持するように動作する。ジンバル50は、撮像装置100に加えられる外力に対して撮像装置100の姿勢を維持する保持力を発生させる。ジンバル50は、撮像装置100に加えられる外力に対して撮像装置100の姿勢を維持する方向の保持力を発生させてよい。ユーザがレンズを交換しやすいように撮像装置100の姿勢を変えようとしても、ジンバル50は、撮像装置100の姿勢を維持する保持力を発生させる。したがって、ユーザは、レンズを交換しやすいように撮像装置100の姿勢を変えることを容易にできない。
そこで、本実施形態に係るジンバル50は、ユーザがレンズの交換を行おうとしている場合には、ジンバル50が発生させることができる保持力を低下させる。これにより、ユーザは、レンズを交換しやすいように撮像装置100の姿勢を容易に変えることができる。
より具体的には、ジンバル制御部501は、撮像装置100に装着されたレンズ部200を撮像装置100から取り外すためのボタンが押下された場合、ジンバル50が発生させることができる保持力を低下させる。ジンバル制御部501は、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加させることができる電圧を低下させることで、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加させることができる最大の保持力を低下させてよい。ジンバル制御部501は、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に電力を供給する電源の電源電圧を初期設定の電源電圧より低下させることで、ジンバル50が発生させることができる保持力を低下させてよい。電源電圧を低下させることで、ピッチ軸駆動部514、及びロール軸駆動部524に印加できる制御電圧も低下する。よって、ジンバル50が発生させることができる保持力も低下する。
ジンバル制御部501は、電源電圧を変化させずに、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加できる最大の制御電圧を低下させることで、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に入力できる最大の電流を低下させることで、ジンバル50が発生させることができる保持力を低下させてよい。
ジンバル制御部501は、予め定められた条件を満たす保持力をジンバル50が発生させた場合に、ジンバル50が発生させることができる保持力を低下させてもよい。ジンバル制御部501は、ジンバル制御部501は、予め定められた第1期間、予め定められた値より大きい保持力をジンバル50が発生させた場合に、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、予め定められた第1期間、撮像装置100に装着されたレンズ部200を撮像装置100から取り外そうとする動作を示す予め定められたパターンの保持力をジンバル50が発生させた場合、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、予め定められた第1期間、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加させる制御電圧が、継続的に予め定められた閾電圧より大きい場合、予め定められたパターンの保持力をジンバル50が発生させていると判断して、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、予め定められた第1期間、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524の少なくとも1つに印加させる制御電圧が、継続的に予め定められた閾電圧より大きい場合、予め定められたパターンの保持力をジンバル50が発生させていると判断して、ジンバル50が発生させることができる保持力を低下させてよい。ジンバル制御部501は、レンズ部200を撮像装置100から取り外そうとする動作を示す予め定められたパターンの制御電圧がヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524の少なくとも1つに印加されている場合に、ジンバル50が発生させることができる保持力を低下させてよい。予め定められたパターンの制御電圧は、レンズ部200の交換をユーザに実際に実施させ、そのときにヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加される制御電圧を測定し、その測定結果に基づいて定められてよい。
ここで、予め定められた第1期間、予め定められた値より大きい保持力をジンバル50が発生させていたとしても、ユーザがレンズ部200を撮像装置100から取り外す動作を行っていない可能性もある。そこで、ジンバル制御部501は、ジンバル50が発生させることができる保持力を低下させた後、予め定められた第2期間が経過するまでの間にロック解除ボタン152が押下されない場合、ジンバル50が発生させることができる保持力の低下を停止してよい。一方、ジンバル制御部501は、ジンバル50が発生させることができる保持力を低下させた後、第2期間が経過するまでの間に、ロック解除ボタン152が押下された場合、ジンバル50が発生させることができる保持力の低下を継続してよい。
また、撮像装置100及びジンバル50がUAV10に搭載されている場合、UAV10が飛行中に、予め定められた第1期間、予め定められた値より大きい保持力をジンバル50が発生させる可能性がある。しかし、UAV10が飛行中であれば、ユーザがレンズ部200を撮像装置100から取り外す動作を行っていないことは明らかである。そこで、ジンバル制御部501は、UAV10が飛行中の場合、予め定められた条件を満たす保持力をジンバル50が発生させても、ジンバル50が発生させることができる保持力の低下を行わなくてよい。ジンバル制御部501は、推進部が駆動中、すなわちUAV10の回転翼が回転中の場合、予め定められた条件を満たす保持力をジンバル50が発生させても、ジンバル50が発生させることができる保持力の低下を行わなくてよい。
ジンバル制御部501は、ジンバル50が発生させることができる保持力を低下させた後、撮像装置100へのレンズ部200の装着が完了したことを検知すると、ジンバル50が発生させることができる保持力の低下を停止してよい。ジンバル制御部501は、ロック解除ボタン152が押下されておらず、かつ撮像装置100とレンズ部200とが電気接点141及び142を介して電気的に接続されていることを検知することにより、レンズ部200の装着が完了したことを検知する。
ジンバル制御部501は、ジンバル50が発生させることができる保持力を低下させた後、撮像装置100へのレンズ部200の装着が完了したことを検知すると、低下された電源電圧を初期設定の電源電圧に戻してよい。ジンバル制御部501は、ジンバル50が発生させることができる保持力を低下させた後、撮像装置100へのレンズ部200の装着が完了したことを検知すると、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に対する制御電圧の制限を解除して、電源電圧に対応する電圧までヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加できるように設定を変更してよい。
図4は、ロック解除ボタン152が押下されたことに対応して、電源電圧を低下させる場合のタイミングチャートを示す。まず、ロック解除ボタン152が押下され(t1)、レンズ部200が撮像装置100に対して回転し始めると、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続がオフされる(t2)。ジンバル制御部501は、ロック解除ボタン152が押下され、ロック解除ボタン152がオンしたことを検知すると、ジンバル50の電源電圧を低下させる(t3)。これにより、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加させる制御電圧を制限される。よって、ジンバル50に固定されている撮像装置100の姿勢をユーザは容易に変更でき、レンズ部200の交換を容易にできる。レンズ部200が撮像装置100から取り外されると、ロック解除ボタン152は一旦オフになる(t4)。一方、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続はオフのままである。その後、ユーザが、新たなレンズ部200を撮像装置100に装着しようと、撮像部102のマウント面144にレンズ部200を押し付けると、再びロック解除ボタン152が押下され、ロック解除ボタン152がオンされる(t5)。そして、レンズ部200が撮像装置100に対して回転して、予め定められた位置に到達すると、ロック解除ボタン152がオフされ、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続がオンされる(t6)。これにより、レンズ部200の撮像装置100への装着が完了する。ジンバル制御部501は、レンズ部200の撮像装置100への装着が完了したことを検知すると、ジンバル50の電源電圧を初期設定の電源電圧に戻す(t7)。
図5及び図6は、制御電圧の変化に応じて電源電圧を低下させる場合のタイミングチャートの一例を示す。ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524の少なくとも1つへの制御電圧が予め定められた第1期間T1、継続的に予め定められた閾電圧以上である場合、ジンバル制御部501は、ジンバル50の電源電圧を低下させる(t1)。これにより、ヨー軸駆動部504、ピッチ軸駆動部514、及びロール軸駆動部524に印加される制御電圧が制限される。よって、ジンバル50に固定されている撮像装置100の姿勢をユーザは容易に変更でき、レンズ部200の交換を容易にできる。
ジンバル制御部501は、図5に示すように、ジンバル50の電源電圧を低下させた後、予め定められた第2期間T2中に、ロック解除ボタン152が押下され、ロック解除ボタン152がオンされた場合(t2)、ジンバル制御部501は、ジンバル50の電源電圧の低下を継続する。ロック解除ボタン152が押下された後、レンズ部200が撮像装置100に対して回転すると、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続がオフされる(t3)。レンズ部200が撮像装置100から取り外されると、ロック解除ボタン152は一旦オフになる(t4)。一方、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続はオフのままである。その後、ユーザが、新たなレンズ部200を撮像装置100に装着しようと、撮像部102のマウント面144にレンズ部200を押し付けると、再びロック解除ボタン152が押下され、ロック解除ボタン152がオンされる(t5)。そして、レンズ部200が撮像装置100に対して回転して、予め定められた位置に到達すると、ロック解除ボタン152がオフされ、撮像部102の電気接点141とレンズ部200の電気接点142との電気的な接続がオンされる(t6)。これにより、レンズ部200の撮像装置100への装着が完了する。ジンバル制御部501は、レンズ部200の撮像装置100への装着が完了したことを検知すると、ジンバル50の電源電圧を初期設定の電源電圧に戻す(t7)。
一方、ジンバル制御部501が、ジンバル50の電源電圧を低下させた後、図6に示すように、予め定められた第2期間T2中に、ロック解除ボタン152が押下されなかった場合、ジンバル制御部501は、レンズ部200の交換は行われないと判断して、ジンバル50の電源電圧を初期設定の電源電圧に戻す(t10)。例えば、時間t10は時間t7よりも後の時間である。これにより、レンズ部200の交換は行われない場合に、ジンバル50が発生させることができる保持力の低下が継続することを防止できる。
図7は、ロック解除ボタン152が押下されたことに対応してジンバル50の電源電圧を低下させる場合の手順の一例を示すフローチャートである。ジンバル制御部501は、ロック解除ボタン152がオンしたことを、撮像制御部110及びUAV制御部30を介して検知する(S100)と、ジンバル50の電源電圧を低下させる(S102)。次いで、ジンバル制御部501は、ロック解除ボタン152がオフ、かつ撮像部102の電気接点141とレンズ部200の電気接点142とが電気的に接続され、オンになったか否かを判定する(S104)。電気接点141及び142がオンになると、ジンバル制御部501は、ジンバル50の電源電圧の低下を停止する(S106)。
これにより、ユーザがレンズ部200の交換を行う際に、ジンバル50の保持力を低下させることができるので、レンズ部200の交換がしやすいように撮像装置100の姿勢を容易に変更できる。
図8は、制御電圧の変化に応じて電源電圧を低下させる場合の手順の一例を示すフローチャートである。ジンバル制御部501は、ジンバル50の制御電圧が予め定められた条件を満たすことを検知する(S200)。ジンバル制御部501は、ジンバル50の制御電圧が、予め定められた第1期間T1継続して、予め定められた閾電圧より大きい場合、ジンバル50の制御電圧が予め定められた条件を満たすことを検知する。次いで、ジンバル制御部501は、UAV10が飛行中か否かを判定する(S202)。UAV10が飛行中であれば、レンズ部200の交換が行われる可能性はないと判断して、処理を終了する。
一方、UAV10が飛行中でなければ、ジンバル制御部501は、レンズ部200の交換が行われる可能性があると判断して、ジンバル50の電源電圧を低下させる(S204)。次いで、ジンバル制御部501は、予め定められた期間(第2期間T2)内に、ロック解除ボタン152がオンされたか否かを判定する(S206)。ロック解除ボタン152が予め定められた期間内にオンされなかった場合、ジンバル制御部501は、レンズ部200の交換が行われる可能性はないと判断して、ジンバル50の電源電圧の低下を停止する(S210)。
予め定められた期間(第2期間T2)内に、ロック解除ボタン152がオンされると、ジンバル制御部501は、ジンバル50の電源電圧の低下を継続させる。次いで、ジンバル制御部501は、ロック解除ボタン152がオフ、かつ電気接点141及び142がオンになったか否かを判定する(S208)。すなわち、ジンバル制御部501は、レンズ部200の交換が完了したか否かを判定する。レンズ部200の交換が完了していれば、ジンバル制御部501は、ジンバル50の電源電圧の低下を停止する(S210)。
これにより、ユーザがレンズ部200の交換を行う際に、ジンバル50の保持力を低下させることができるので、レンズ部200の交換がしやすいように撮像装置100の姿勢を容易に変更できる。また、UAV10が飛行中であれば、ジンバル50の電源電圧の低下が行われない。さらに、ロック解除ボタン152がオンされない場合には、ジンバル50の電源電圧の低下が停止される。よって、レンズ部200の交換が行われない場合に、ジンバル50の電源電圧の低下による不具合を防止できる。
図9は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 UAV
20 UAV本体
30 UAV制御部
32 メモリ
34 通信インタフェース
40 推進部
41 GPS受信機
42 慣性計測装置
43 磁気コンパス
44 気圧高度計
50 ジンバル
60 撮像装置
100 撮像装置
102 撮像部
110 撮像制御部
120 イメージセンサ
130 メモリ
141,142 電気接点
150 ロックピン
152 ロック解除ボタン
200 レンズ部
201 挿入孔
210 レンズ
212 レンズ駆動部
220 レンズ制御部
222 メモリ
300 遠隔操作装置
501 ジンバル制御部
502 ヨー軸ドライバ
504 ヨー軸駆動部
506 ヨー軸回転機構
512 ピッチ軸ドライバ
514 ピッチ軸駆動部
516 ピッチ軸回転機構
522 ロール軸ドライバ
524 ロール軸駆動部
526 ロール軸回転機構
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (9)

  1. 撮像装置を回転可能に支持し、前記撮像装置に加えられる外力に対して前記撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する制御装置であって、
    前記撮像装置に装着されたレンズ部を前記撮像装置から取り外すためのボタンが押下された場合、前記支持機構が発生させることができる前記保持力を低下させる制御部を備える制御装置。
  2. 前記支持機構は、前記撮像装置を回転させる駆動部を有し、
    前記制御部は、前記駆動部に印加させることができる電圧を低下させることで、前記支持機構が発生させることができる前記保持力を低下させる、請求項1に記載の制御装置。
  3. 前記制御部は、前記支持機構が発生させることができる前記保持力を低下させた後、前記撮像装置へのレンズ部の装着が完了したことを検知すると、前記支持機構が発生させることができる前記保持力の低下を停止する、請求項1に記載の制御装置。
  4. 前記制御部は、前記ボタンが押下されておらず、前記撮像装置とレンズ部とが電気接点を介して電気的に接続されていることを検知することにより、レンズ部の装着が完了したことを検知する、請求項3に記載の制御装置。
  5. 請求項1からの何れか1つに記載の制御装置と、前記支持機構とを備える支持システム。
  6. 請求項に記載の支持システムと、前記撮像装置とを備える撮像システム。
  7. 請求項に記載の撮像システムを備えて移動する移動体。
  8. 撮像装置を回転可能に支持し、前記撮像装置に加えられる外力に対して前記撮像装置の姿勢を維持する保持力を発生させる支持機構を制御する制御方法であって、
    前記撮像装置に装着されたレンズ部を前記撮像装置から取り外すためのボタンが押下された場合、前記支持機構が発生させることができる前記保持力を低下させる段階を備える制御方法。
  9. 請求項1から4の何れか1つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2017142720A 2017-07-24 2017-07-24 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム Expired - Fee Related JP6488521B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017142720A JP6488521B2 (ja) 2017-07-24 2017-07-24 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017142720A JP6488521B2 (ja) 2017-07-24 2017-07-24 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019023700A JP2019023700A (ja) 2019-02-14
JP6488521B2 true JP6488521B2 (ja) 2019-03-27

Family

ID=65368496

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017142720A Expired - Fee Related JP6488521B2 (ja) 2017-07-24 2017-07-24 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6488521B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007183356A (ja) * 2006-01-05 2007-07-19 Casio Comput Co Ltd 防振装置
WO2016000193A1 (zh) * 2014-06-30 2016-01-07 深圳市大疆创新科技有限公司 一种云台参数调整方法、装置及云台设备
JP2017021162A (ja) * 2015-07-10 2017-01-26 キヤノン株式会社 画像形成装置

Also Published As

Publication number Publication date
JP2019023700A (ja) 2019-02-14

Similar Documents

Publication Publication Date Title
JP6399498B1 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP6493702B2 (ja) 制御方法、撮像装置、撮像システム、移動体、制御方法、及びプログラム
JP6630939B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6838231B2 (ja) 制御装置、無人航空機、制御方法、及びプログラム
CN112219146B (zh) 控制装置、摄像装置、控制方法以及程序
JP6496953B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6488521B2 (ja) 制御装置、支持システム、撮像システム、移動体、制御方法、及びプログラム
WO2018116417A1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP2019161486A (ja) 動体検出装置、制御装置、移動体、動体検出方法、及びプログラム
JP6565071B2 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP7048019B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
JP6519886B2 (ja) 撮像装置、撮像システム、移動体、方法、及びプログラム
WO2018163300A1 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
WO2018207366A1 (ja) 制御装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
JP6903848B2 (ja) 制御装置、レンズ装置、撮像装置、制御方法、及びプログラム
JP2019205047A (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6776494B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP2021028722A (ja) 制御装置、無人航空機、制御方法、及びプログラム
JP6409239B1 (ja) 撮像装置、撮像システム、飛行体、記録方法、及びプログラム
JP2019169810A (ja) 画像処理装置、撮像装置、移動体、画像処理方法、及びプログラム
JP6557936B2 (ja) 制御装置、レンズ装置、撮像装置、撮像システム、移動体、制御方法、及びプログラム
JP6413170B1 (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム
CN112136316A (zh) 控制装置、摄像装置、移动体、控制方法以及程序
JPWO2018047282A1 (ja) 撮像装置、撮像システム、移動体、方法及びプログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190207

R150 Certificate of patent or registration of utility model

Ref document number: 6488521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees