JP6260803B2 - Imaging system, moving body, imaging method, and program - Google Patents
Imaging system, moving body, imaging method, and program Download PDFInfo
- Publication number
- JP6260803B2 JP6260803B2 JP2016103313A JP2016103313A JP6260803B2 JP 6260803 B2 JP6260803 B2 JP 6260803B2 JP 2016103313 A JP2016103313 A JP 2016103313A JP 2016103313 A JP2016103313 A JP 2016103313A JP 6260803 B2 JP6260803 B2 JP 6260803B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- unit
- subject
- imaging unit
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Studio Devices (AREA)
Description
本発明は、撮像システム、移動体、撮像方法、及びプログラムに関する。 The present invention relates to an imaging system, a moving body, an imaging method, and a program.
特許文献1には、移動体に搭載されたカメラと、カメラを保持する安定化装置とを備える被写体追尾装置が開示されている。安定化装置は、カメラが被写体を連続的に撮像する間、カメラの向きを制御する。
特許文献1 特開2008−244893号公報
Patent Document 1 discloses a subject tracking device that includes a camera mounted on a moving body and a stabilization device that holds the camera. The stabilization device controls the orientation of the camera while the camera continuously captures the subject.
Japanese Patent Application Laid-Open No. 2008-244893
移動体に搭載された撮像装置の撮像範囲に所望の被写体をより確実に含めることが望まれている。 It is desired to more reliably include a desired subject in an imaging range of an imaging device mounted on a moving body.
一態様において、撮像システムは、第1撮像部と、第2撮像部と、第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された移動体の移動を制御する第1の制御部と、第1撮像部によって撮像された画像に基づいて、被写体を特定する特定部と、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御する第2の制御部とを備える。 In one aspect, the imaging system controls the movement of the moving body on which the second imaging unit is mounted based on the first imaging unit, the second imaging unit, and the first image captured by the first imaging unit. Based on the image captured by the first control unit, the image captured by the first imaging unit, control is performed so that the subject specified by the subject and the subject specified by the specification unit are included in the imaging range of the second imaging unit. A second control unit.
第1撮像部は、第1レンズ装置を有してよい。第2撮像部は、第1レンズ装置より望遠である第2レンズ装置を有してよい。 The first imaging unit may include a first lens device. The second imaging unit may include a second lens device that is more telephoto than the first lens device.
第2レンズ装置は、第1レンズ装置より画角が狭くてよい。 The second lens device may have a narrower angle of view than the first lens device.
第2レンズ装置は、第1レンズ装置より焦点距離が長くてよい。 The second lens device may have a longer focal length than the first lens device.
第2レンズ装置は、画角を変更可能でよい。特定部は、第2レンズ装置の画角が予め定められた値未満の場合、第1撮像部によって撮像された画像に基づいて、被写体を特定してよい。 The second lens device may be capable of changing the angle of view. The specifying unit may specify the subject based on the image captured by the first imaging unit when the angle of view of the second lens device is less than a predetermined value.
第1撮像部の撮像範囲は、第2撮像部の撮像範囲より広くてよい。 The imaging range of the first imaging unit may be wider than the imaging range of the second imaging unit.
撮像システムは、第1の画像に基づいて、被写体の立体情報を取得する取得部を備えてよい。第1の制御部は、立体情報に基づいて、移動体の移動を制御してよい。 The imaging system may include an acquisition unit that acquires stereoscopic information of the subject based on the first image. The first control unit may control the movement of the moving body based on the three-dimensional information.
撮像システムは、複数の第1撮像部を備えてよい。特定部は、複数の第1撮像部のうちの少なくとも1つによって撮像された画像に基づいて、被写体を特定してよい。 The imaging system may include a plurality of first imaging units. The identifying unit may identify the subject based on an image captured by at least one of the plurality of first imaging units.
撮像システムは、複数の第1撮像部を保持する第1の保持部を備えてよい。撮像システムは、第2撮像部を保持し、第2撮像部の撮像方向を変更可能な第2の保持部を備えてよい。撮像システムは、複数の第1撮像部のうち、第2撮像部の撮像方向により近い撮像方向の第1撮像部を選択する選択部を備えてよい。特定部は、選択部が選択した第1撮像部によって撮像された画像に基づいて、目標となる被写体を特定してよい。 The imaging system may include a first holding unit that holds a plurality of first imaging units. The imaging system may include a second holding unit that holds the second imaging unit and can change the imaging direction of the second imaging unit. The imaging system may include a selection unit that selects a first imaging unit having an imaging direction closer to the imaging direction of the second imaging unit among the plurality of first imaging units. The specifying unit may specify a target subject based on an image captured by the first imaging unit selected by the selection unit.
特定部は、第2撮像部によって撮像された画像にさらに基づいて、目標となる被写体を特定してよい。 The specifying unit may specify a target subject based further on the image captured by the second imaging unit.
特定部は、第1の画像に基づいて特定された被写体と、第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定してよい。 The specifying unit may specify one of the subject specified based on the first image and the subject specified based on the second image as a subject according to a predetermined criterion.
撮像システムは、第1の画像に基づいて、特定部が特定した被写体までの距離を取得する取得部を備えてよい。撮像システムは、取得部が取得した被写体までの距離に基づいて、第2撮像部の焦点距離を調整する調整部を備えてよい。 The imaging system may include an acquisition unit that acquires the distance to the subject specified by the specifying unit based on the first image. The imaging system may include an adjustment unit that adjusts the focal length of the second imaging unit based on the distance to the subject acquired by the acquisition unit.
制御部は、第2撮像部の画角を制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。 The control unit may control the angle of view of the second imaging unit so that the subject specified by the specifying unit is included in the imaging range of the second imaging unit.
制御部は、第2撮像部の向きを制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。 The control unit may control the subject specified by the specifying unit to be included in the imaging range of the second imaging unit by controlling the orientation of the second imaging unit.
一態様において、移動体は、撮像システムを備えて移動する。 In one aspect, the moving body moves with an imaging system.
制御部は、移動体の位置を制御することにより、特定部が特定した被写体が第2撮像部の撮像範囲に含まれるように制御してよい。 The control unit may control the subject specified by the specifying unit to be included in the imaging range of the second imaging unit by controlling the position of the moving body.
一態様において、撮像方法は、第1撮像部によって撮像された第1の画像に基づいて、第2撮像部が搭載された移動体の移動を制御する段階と、第1の画像に基づいて、被写体を特定する段階と、特定された被写体が第2撮像部の撮像範囲に含まれるように制御する段階とを備える。 In one aspect, the imaging method includes a step of controlling the movement of the moving body on which the second imaging unit is mounted based on the first image captured by the first imaging unit, and the first image, The step of specifying the subject and the step of controlling the specified subject to be included in the imaging range of the second imaging unit are provided.
第1撮像部は、第1レンズ装置を有してよい。第2撮像部は、第1レンズ装置より望遠である第2レンズ装置を有してよい。被写体を特定する段階は、第2レンズ装置の画角が予め定められた値以上の場合、第1撮像部によって撮像された動画に基づいて、被写体を特定する段階を含んでよい。被写体を特定する段階は、第2レンズ装置の画角が予め定められた値未満の場合、第2撮像部によって撮像された動画に基づいて、被写体を特定する段階を含んでよい。 The first imaging unit may include a first lens device. The second imaging unit may include a second lens device that is more telephoto than the first lens device. The step of specifying the subject may include the step of specifying the subject based on the moving image captured by the first imaging unit when the angle of view of the second lens device is greater than or equal to a predetermined value. The step of specifying the subject may include the step of specifying the subject based on the moving image captured by the second imaging unit when the angle of view of the second lens device is less than a predetermined value.
撮像方法は、第1の画像に基づいて、特定された被写体までの距離を取得する段階を備えてよい。撮像方法は、取得された被写体までの距離に基づいて、第2撮像部の焦点距離を調整する段階を備えてよい。 The imaging method may include a step of acquiring a distance to the identified subject based on the first image. The imaging method may include a step of adjusting the focal length of the second imaging unit based on the acquired distance to the subject.
一態様において、プログラムは、撮像方法をコンピュータに実行させる。 In one aspect, a program causes a computer to execute an imaging method.
上記の発明の概要は、本発明の特徴の全てを列挙したものではない。これらの特徴群のサブコンビネーションも発明となりうる。 The above summary of the present invention does not enumerate all of the features of the present invention. A sub-combination of these feature groups can also be an invention.
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。 Hereinafter, the present invention will be described through embodiments of the invention, but the following embodiments do not limit the invention according to the claims. Not all combinations of features described in the embodiments are essential for the solution of the invention.
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。 The claims, the description, the drawings, and the abstract include matters subject to copyright protection. The copyright owner will not object to any number of copies of these documents as they appear in the JPO file or record. However, in other cases, all copyrights are reserved.
図1は、無人航空機(UAV)100の外観の一例を示す。UAV100は、UAV本体102、ジンバル200、撮像装置220、及び複数の撮像装置230を備える。UAV100は、撮像システムを備えて移動する移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機、地上を移動する車両、水上を移動する船舶等を含む概念である。
FIG. 1 shows an example of the appearance of an unmanned aerial vehicle (UAV) 100. The UAV 100 includes a UAV
UAV本体102は、複数の回転翼を備える。UAV本体102は、複数の回転翼の回転を制御することでUAV100を飛行させる。UAV本体102は、例えば、4つの回転翼を用いてUAV100を飛行させる。回転翼の数は、4つには限定されない。また、UAV100は、回転翼を有さない固定翼機でもよい。
The UAV
撮像装置220は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。複数の撮像装置230は、UAV100の飛行を制御するためにUAV100の周囲を撮像するセンシング用のカメラである。2つの撮像装置230が、UAV100の機首である正面に設けられてよい。さらに他の2つの撮像装置230が、UAV100の底面に設けられてよい。正面側の2つの撮像装置230はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置230もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置230により撮像された画像に基づいて、UAV100の周囲の3次元空間データが生成されてよい。UAV100が備える撮像装置230の数は4つには限定されない。UAV100は、少なくとも1つの撮像装置230を備えていればよい。UAV100は、UAV100の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置230を備えてもよい。撮像装置230で設定できる画角は、撮像装置220で設定できる画角より広くてよい。撮像装置230は、単焦点レンズ又は魚眼レンズを有してもよい。UAV本体102は、第1の保持部の一例である。
The
図2は、UAV100の機能ブロックの一例を示す。UAV100は、UAV制御部110、通信インタフェース150、メモリ160、ジンバル200、回転翼機構210、撮像装置220、及び撮像装置230を備える。通信インタフェース150は、外部の送信機と通信する。通信インタフェース150は、遠隔の送信機からUAV制御部110に対する各種の命令を受信する。メモリ160は、UAV制御部110がジンバル200、回転翼機構210、撮像装置220、及び撮像装置230を制御するのに必要なプログラム等を格納する。メモリ160は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ160は、UAV100の筐体に設けられてよい。UAV100の筐体から取り外し可能に設けられてよい。
FIG. 2 shows an example of functional blocks of the
ジンバル200は、少なくとも1つの軸を中心に撮像装置220を回転可能に支持する。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸を中心に撮像装置220を回転可能に支持してよい。ジンバル200は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置220を回転させることで、撮像装置220の撮像方向を変更してよい。回転翼機構210は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。ジンバル200は、第2の保持部の一例である。
The
撮像装置220は、所望の撮像範囲の被写体を撮像して画像データを生成する。撮像装置220の画像データは、撮像装置220が有するメモリ、又はメモリ160に格納される。レンズ装置222は、1又は複数のレンズを含む。レンズ装置222は、1又は複数のレンズを光軸に沿って移動させることにより、ズーム動作及びフォーカス動作を実行する。レンズ装置222は、ズーム動作により画角を変更できる。
The
撮像装置230は、UAV100の周囲を撮像して画像データを生成する。撮像装置230の画像データは、メモリ160に格納される。撮像装置220は、レンズ装置222を備える。撮像装置230は、レンズ装置232を備える。レンズ装置232は、1又は複数のレンズを含む。レンズ装置232は、1又は複数のレンズを光軸に沿って移動させることにより、ズーム動作及びフォーカス動作を実行してもよい。レンズ装置222は、レンズ装置232より望遠でよい。レンズ装置222は、レンズ装置232より画角が狭くてよい。レンズ装置222は、レンズ装置232より焦点距離が長くてよい。撮像装置230の撮像範囲は、撮像装置220の撮像範囲より広くてよい。
The
UAV制御部110は、メモリ160に格納されたプログラムに従ってUAV100の飛行及び撮像を制御する。UAV制御部110は、CPU又はMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部110は、通信インタフェース150を介して遠隔の送信機から受信した命令に従って、UAV100の飛行及び撮像を制御する。UAV制御部110は、飛行制御及び撮像制御のためのプログラムをメモリ160から読み出して実行することにより、撮像システムとして機能する。UAV制御部110、撮像装置220及び撮像装置230は、撮像システムの一例である。撮像システムは、ジンバル200等の他の構成を含んでもよい。
The
図3は、UAV制御部110の機能ブロックの一例を示す。UAV制御部110は、立体情報取得部111、移動制御部112、被写体特定部114、撮像範囲制御部116、撮像選択部118、被写体距離取得部120、及び焦点距離調整部122を備える。UAV制御部110が備える各部は、ハードウェア、ファームウェア、及びソフトウェアのいずれかで構成されてよい。
FIG. 3 shows an example of functional blocks of the
立体情報取得部111は、複数の撮像装置230によって撮像された画像に基づいて、撮像対象の立体情報を取得する。立体情報取得部111は、複数の撮像装置230により撮像された複数の画像に基づいてUAV100の周囲の3次元空間データを生成してよい。立体情報取得部111は、第1の取得部の一例である。
The three-dimensional
移動制御部112は、撮像装置230によって撮像された画像に基づいて、UAV100の移動を制御する。移動制御部112は、立体情報取得部111により取得された立体情報に基づいてUAV100の移動を制御してよい。移動制御部112は、立体情報を解析することで、UAV100の周囲の環境を特定してよい。移動制御部112は、UAV100の周囲の環境に基づいて、障害物を回避させるようにUAV100の飛行を制御してよい。移動制御部112は、立体情報取得部111により生成された3次元空間データに基づいて飛行を制御してよい。移動制御部112は、第1の制御部の一例である。
The
被写体特定部114は、複数の撮像装置230の少なくとも1つによって撮像された画像に基づいて、目標となる被写体を特定する。被写体特定部114は、撮像選択部118が選択した撮像装置230によって撮像された画像に基づいて、目標となる被写体を特定してよい。被写体特定部114は、特定部の一例である。撮像選択部118は、複数の撮像装置230のうち、撮像装置220の撮像方向により近い撮像方向の撮像装置230を選択してよい。撮像選択部118は、選択部の一例である。
The
被写体特定部114は、撮像装置220によって撮像された画像にさらに基づいて、目標となる被写体を特定してよい。被写体特定部114は、撮像装置220の画角が予め定められた値未満の場合、撮像装置230によって撮像された画像に基づいて、目標となる被写体を特定してよい。画像とは、静止画又は動画像を含む概念である。被写体特定部114は、撮像装置230によって撮像された画像に基づいて特定された被写体と、撮像装置220によって撮像された画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、目標となる被写体として特定してよい。被写体特定部114は、撮像装置230の画像により特定された被写体の信頼度と、撮像装置220の画像により特定された被写体の信頼度とを比較してよい。被写体特定部114は、より信頼度の高い被写体を目標の被写体として特定してよい。被写体の信頼度は、被写体の確からしさを示す指標である。被写体特定部114は、予め定められた基準画像に含まれる被写体と、撮像された画像に含まれる被写体との類似度を導出することで、信頼度を導出してよい。被写体特定部114は、いわゆる顔認証システムを利用して被写体の信頼度を導出してよい。
The
撮像範囲制御部116は、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御する。撮像範囲制御部116は、撮像装置220の画角を制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、撮像装置220の向きを制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、ジンバル200を制御して撮像装置220の向きを制御してよい。撮像範囲制御部116は、UAV100の位置を制御することにより、被写体特定部114が特定した被写体が撮像装置220の撮像範囲に含まれるように制御してよい。撮像範囲制御部116は、第2の制御部の一例である。
The imaging
被写体距離取得部120は、撮像装置230によって撮像された画像に基づいて、被写体特定部114が特定した被写体までの距離を取得する。被写体距離取得部120は、第2の取得部の一例である。移動制御部112は、複数の撮像装置230によって撮像された複数の画像に基づいて、例えば三角測距方式で被写体までの距離を取得してよい。焦点距離調整部122は、被写体距離取得部120が取得した被写体までの距離に基づいて、撮像装置220の焦点距離を調整する。焦点距離調整部122は、被写体距離取得部120が取得した被写体までの距離に基づいて、レンズ装置222に対してフォーカス調整するよう指示する。焦点距離調整部122は、調整部の一例である。
The subject
被写体特定部114は、撮像装置220及び撮像装置230の少なくとも一方の画像を利用して被写体を特定する。これにより、例えば、UAV100が特定の被写体を追尾する場合に、特定の被写体を見失いにくくできる。撮像装置230は、UAV100の飛行を制御するために利用されるセンシング用のカメラでよい。したがって、被写体の追尾を補強するために、UAV100に新たなカメラを設ける必要がない。
The
センシング用のカメラは、例えば、UAV100の周囲の障害物を検出するために用いられる。したがって、センシング用のカメラは、UAV100の周囲の比較的広い領域を撮像できることが好ましい。センシング用のカメラの画角は撮像用のカメラの画角より広いほうが好ましい。よって、センシング用のカメラの撮像範囲に目標の被写体が含まれる確率は、撮像用のカメラの撮像範囲に目標の被写体が含まれる確率より高い。撮像装置220は、撮像用のカメラであり、例えば、被写体がより大きく写るように画角を狭くする場合がある。画角が狭いと被写体が撮像範囲に含まれにくくなる。そこで、撮像装置220の画像による被写体の追尾と並行して、撮像装置230の画像による被写体の追尾を実行する。これにより、たとえUAV100が撮像装置220の画像により被写体を途中で追尾できなくなっても、撮像装置230の画像により被写体を継続的に追尾できる。
The sensing camera is used to detect an obstacle around the
図4、図5、及び図6は、複数の撮像装置の複数の撮像範囲の位置関係の一例を示す図である。撮像範囲12、14、16、及び18は、それぞれ撮像装置230の撮像範囲である。撮像範囲12、14、16、及び18の位置関係は、一例であり、任意の位置関係であってよい。
4, 5, and 6 are diagrams illustrating an example of a positional relationship between a plurality of imaging ranges of a plurality of imaging devices. The imaging ranges 12, 14, 16, and 18 are imaging ranges of the
撮像範囲10は、撮像装置220の撮像範囲である。図4に示すように、撮像装置220の撮像範囲の外に目標となる被写体30が存在する。この場合、被写体特定部114が、撮像装置220の画像のみで被写体30を特定しようとしても、撮像装置220の撮像範囲に被写体30がいないので、被写体30を特定できない。被写体特定部114は、撮像範囲12又は撮像範囲14を有する撮像装置230によって撮像された画像から被写体30を特定できる。被写体特定部114が撮像装置230の画像により被写体30を特定した後、撮像範囲制御部116が、ジンバル200を制御することで、撮像装置220の撮像方向を調整する。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。撮像範囲制御部116は、図5に示すように、レンズ装置222を制御することで撮像装置220の画角を広くしてよい。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。撮像範囲制御部116は、図6に示すように、回転翼機構210を制御してUAV100の位置を変更してよい。これにより、撮像範囲制御部116は、撮像装置220の撮像範囲10を撮像範囲10'に変更してよい。これらの制御により、被写体特定部114は、再び撮像装置220の画像により被写体を特定できる。
The
図7は、UAV100による被写体の追尾の手順の一例を示す図である。当該手順は、例えば、撮像装置220により撮像された動画をUAV100を操作するユーザの送信機に提供しているときに実行されてよい。
FIG. 7 is a diagram illustrating an example of a procedure for tracking a subject by the
被写体特定部114は、撮像装置220により撮像されている画像内で目標となる被写体の指定を受け付ける(S100)。被写体特定部114は、例えば撮像装置220により撮像されている動画を観察しているユーザから、目標となる被写体の指定を送信機を介して受け付けてよい。ユーザは、送信機を介して撮像装置230の画角、焦点距離、撮像方向などの撮像条件を随時変更できる。被写体特定部114は、指定された被写体を撮像装置220により撮像された画像から特定して、被写体を追尾する(S102)。被写体特定部114は、撮像装置220の画角が予め定められた値未満か否かを判定する(S104)。撮像装置220の画角が予め定められた値以上であれば、被写体特定部114は、撮像装置230による被写体の追尾は不要と判断して、撮像装置220による追尾のみを継続する。一方、撮像装置220の画角が予め定められた値未満であれば、撮像装置220による被写体の追尾が途中でできなくなる可能性があると判断して、被写体特定部114は、撮像装置220及び230による被写体の追尾を並行して試みる。
The
撮像選択部118は、撮像装置220の撮像方向に基づいて、複数の撮像装置230の中から被写体の追尾に最適な撮像装置230を選択する(S106)。撮像選択部118は、撮像装置220の撮像方向に近い撮像方向の撮像装置230を選択する。撮像選択部118は、ジンバル200に対する撮像装置220の姿勢に基づいて、撮像装置220の撮像方向を特定してよい。撮像選択部118は、ジンバル200のピッチ軸及びヨー軸の基準回転角度からの回転角度に基づいて、撮像装置220の撮像方向を特定してよい。被写体特定部114は、選択された撮像装置230の画像から目標となる被写体を特定して、被写体をさらに追尾する(S108)。
Based on the imaging direction of the
被写体特定部114は、撮像装置220の画像により被写体の追尾ができているか否かを判定する(S110)。追尾ができていれば、被写体特定部114は、撮像装置220の画像による被写体の追尾を継続する。被写体特定部114が、撮像装置220の画像による被写体の追尾をできていない場合、被写体特定部114は、選択された撮像装置230の画像による被写体の追尾ができているか否かを判定する(S112)。
The
被写体の追尾ができている場合、撮像範囲制御部116は、撮像装置230の画像に基づいて、被写体の位置を取得する。被写体距離取得部120は、撮像装置230の画像に基づいて被写体までの距離を取得する(S114)。撮像範囲制御部116及び焦点距離調整部122は、被写体の位置及び被写体までの距離に基づいて、撮像装置220の撮像条件を調整する(S116)。撮像範囲制御部116は、被写体の位置に基づいて、撮像装置230の画角、撮像方向、又はUAV100の位置を制御して、撮像範囲を調整する。焦点距離調整部122は、被写体までの距離に基づいて撮像装置220の焦点距離を調整する。撮像装置220の撮像条件が調整された後、被写体特定部114は、再び撮像装置220の画像による被写体の追尾を継続する。
When the subject is tracked, the imaging
被写体特定部114が、撮像装置220及び撮像装置230による画像により被写体の追尾ができない場合には、被写体の追尾ができないことをユーザに通知する(S118)。ユーザは、その通知を受けて、UAV100を移動したり、撮像装置230の撮像範囲を調整したりして、被写体を探す。
If the
以上の通り、撮像装置220及び撮像装置230の少なくとも一方の画像を用いて被写体を追尾することで、UAV100による被写体の追尾をより確実にできる。また、撮像装置220の画角が比較的広い場合、撮像装置230による被写体の追尾を実行しないので、UAV制御部110の処理の負担を低減できる。
As described above, by tracking the subject using at least one image of the
図8は、UAV100による被写体の追尾の手順の他の例を示す図である。当該手順は、図7に示す手順と同様に、例えば、撮像装置220により撮像された動画をUAV100のユーザの送信機に提供しているときに実行されてよい。
FIG. 8 is a diagram illustrating another example of the subject tracking procedure performed by the
被写体特定部114は、撮像装置220により撮像されている画像内で目標となる被写体の指定を受け付ける(S200)。被写体特定部114は、指定された被写体を撮像装置220により撮像された画像から特定して、被写体を追尾する(S202)。撮像選択部118は、撮像装置220の撮像方向に基づいて、複数の撮像装置230の中から被写体の追尾に最適な撮像装置230を選択する(S204)。被写体特定部114は、選択された撮像装置230の画像から目標となる被写体を特定して、被写体をさらに追尾する(S206)。
The
被写体特定部114は、撮像装置220の画像内の被写体、及び撮像装置230の画像内の被写体のそれぞれの信頼度を算出する(S208)。被写体特定部114は、撮像装置220の信頼度が、撮像装置230の信頼度以上か否かを判定する(S210)。撮像装置220の信頼度がより高ければ、被写体特定部114は、撮像装置220の画像により被写体の追尾ができているかどうかを判定する(S212)。被写体特定部114は、撮像装置230の被写体の信頼度が基準値以上か否かにより、撮像装置220の画像により被写体の追尾ができているかどうかを判定してよい。撮像装置220の画像により被写体の追尾ができていれば、被写体特定部114は、撮像装置220の画像による被写体の追尾を継続する。
The
撮像装置220の信頼度が撮像装置230の信頼度より低い場合、撮像範囲制御部116は、撮像装置230の画像に基づいて、被写体の位置を取得する。被写体距離取得部120は、撮像装置230の画像に基づいて被写体までの距離を取得する(S214)。撮像範囲制御部116及び焦点距離調整部122は、被写体の位置及び被写体までの距離に基づいて、撮像装置220の撮像条件を調整する(S216)。撮像範囲制御部116は、被写体の位置に基づいて、撮像装置230の画角、撮像方向、又はUAV100の位置を制御して、撮像範囲を調整する。焦点距離調整部122は、被写体までの距離に基づいて撮像装置220の焦点距離を調整する。撮像装置220の撮像条件が調整された後、被写体特定部114は、撮像装置220の画像により被写体の追尾ができているかどうかを判定する(S212)。
When the reliability of the
被写体特定部114は、撮像装置220の画像により被写体の追尾ができていれば、撮像装置220の画像による被写体の追尾を継続する。一方、撮像装置220の画像により被写体の追尾ができない場合には、被写体の追尾ができないことをユーザに通知する(S218)。ユーザは、その通知を受けて、UAV100を移動したり、撮像装置230の撮像範囲を調整したりして、被写体を探す。
If the subject has been tracked by the image of the
以上の通り、撮像装置220の画像により特定された被写体の信頼度が撮像装置230の被写体より低い場合に、撮像装置230の画像に基づいて撮像装置220の撮像条件を調整できる。よって、撮像装置220の画像により誤って特定された被写体をUAV100が追尾し続けることを抑制できる。
As described above, when the reliability of the subject specified by the image of the
上記の実施形態に示される複数の段階の少なくとも1つの段階は、ハードウェア、又は関連するハードウェアに命令するプログラムによって実装されてよい。プログラムは、コンピュータ可読記録媒体に格納されてよい。記録媒体は、ROM、磁気ディスク、及び光ディスクの少なくとも1つを含んでよい。 At least one of the steps shown in the above embodiments may be implemented by hardware or a program instructing related hardware. The program may be stored in a computer readable recording medium. The recording medium may include at least one of a ROM, a magnetic disk, and an optical disk.
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。 As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現可能である。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。 The order of execution of each process such as operations, procedures, steps, and stages in the apparatus, system, program, and method shown in the claims, the description, and the drawings is particularly “before” or “prior to”. ”And the like, and can be realized in any order unless the output of the previous process is used in the subsequent process. Regarding the operation flow in the claims, the description, and the drawings, even if it is described using “first”, “next”, etc. for convenience, it means that it is essential to carry out in this order. It is not a thing.
100 UAV
102 UAV本体
110 UAV制御部
111 立体情報取得部
112 移動制御部
114 被写体特定部
116 撮像範囲制御部
118 撮像選択部
120 被写体距離取得部
122 焦点距離調整部
150 通信インタフェース
160 メモリ
200 ジンバル
210 回転翼機構
220 撮像装置
222 レンズ装置
230 撮像装置
232 レンズ装置
100 UAV
102 UAV
Claims (24)
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記特定部は、前記第2撮像部の画角が予め定められた値以上の場合、前記第2撮像部のみによって撮像された画像に基づいて、前記被写体を特定する、撮像システム。 A first imaging unit mounted on a moving body ;
A second imaging unit mounted on the moving body ;
A first control unit based on the first image captured, controls the movement of the movable body by the first image pickup unit,
A specifying unit for specifying a subject based on the first image;
A second control unit that controls the subject specified by the specifying unit to be included in an imaging range of the second imaging unit ;
The specifying unit specifies the subject based on an image picked up only by the second image pickup unit when an angle of view of the second image pickup unit is equal to or larger than a predetermined value .
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有する、請求項1に記載の撮像システム。 The first imaging unit includes a first lens device,
The imaging system according to claim 1, wherein the second imaging unit includes a second lens device that is more telephoto than the first lens device.
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記第1撮像部は、第1レンズ装置を有し、
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有し、
前記第2レンズ装置は、画角を変更可能であり、
前記特定部は、
前記第2レンズ装置の画角が予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する、撮像システム。 A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The first imaging unit includes a first lens device,
The second imaging unit includes a second lens device that is more telephoto than the first lens device,
The second lens device can change the angle of view;
The specific part is:
Wherein when the angle of view is below a predetermined value of the second lens unit, based on the image captured by the first image pickup unit, to identify the object, the imaging system.
前記第1の制御部は、前記立体情報に基づいて、前記移動体の移動を制御する、請求項1から6のいずれか一項に記載の撮像システム。 A first acquisition unit that acquires stereoscopic information of a subject based on the first image;
The imaging system according to any one of claims 1 to 6, wherein the first control unit controls movement of the moving body based on the three-dimensional information.
を備え、
前記特定部は、前記複数の第1撮像部のうちの少なくとも1つによって撮像された画像に基づいて、被写体を特定する、請求項1から7のいずれか一項に記載の撮像システム。 A plurality of the first imaging units;
The imaging system according to claim 1, wherein the specifying unit specifies a subject based on an image captured by at least one of the plurality of first imaging units.
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
複数の前記第1撮像部を保持する第1の保持部と、
前記第2撮像部を保持し、前記第2撮像部の撮像方向を変更可能な第2の保持部と、
前記複数の第1撮像部のうち、他の第1撮像部より前記第2撮像部の撮像方向に近い撮像方向の前記第1撮像部を選択する選択部と
をさらに備え、
前記特定部は、前記選択部が選択した前記第1撮像部によって撮像された画像に基づいて、被写体を特定する、撮像システム。 A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
A first holding unit for holding a plurality of the first imaging units;
A second holding unit that holds the second imaging unit and can change an imaging direction of the second imaging unit;
A selection unit that selects the first imaging unit in the imaging direction closer to the imaging direction of the second imaging unit than the other first imaging units among the plurality of first imaging units;
The specifying unit, based on the image captured by the first image pickup unit the selection unit selects and identifies the subject, an imaging system.
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記特定部は、前記第2撮像部によって撮像された第2の画像にさらに基づいて、被写体を特定する、の撮像システム。 A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The specifying unit further based on the second image captured by the second image pickup unit, to identify the object, the imaging system.
前記移動体に搭載された第2撮像部と、
前記第1撮像部によって撮像された第1の画像に基づいて、前記第2撮像部が搭載された移動体の移動を制御する第1の制御部と、
前記第1の画像に基づいて、被写体を特定する特定部と、
前記特定部が特定した被写体が前記第2撮像部の撮像範囲に含まれるように制御する第2の制御部と
を備え、
前記特定部は、前記第1の画像に基づいて特定された被写体と、前記第2撮像部によって撮像された第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定する、撮像システム。 A first imaging unit mounted on a moving body;
A second imaging unit mounted on the moving body;
A first control unit that controls movement of a moving body on which the second imaging unit is mounted based on a first image captured by the first imaging unit;
A specifying unit for specifying a subject based on the first image;
A second control unit for controlling the subject specified by the specifying unit to be included in an imaging range of the second imaging unit;
With
The specifying unit is configured to determine one of a subject specified based on the first image and a subject specified based on the second image captured by the second imaging unit, based on a predetermined reference. accordingly specified as an object, an imaging system.
前記第2の取得部が取得した被写体までの距離に基づいて、前記第2撮像部の焦点距離を調整する調整部と
をさらに備える、請求項1から11のいずれか一項に記載の撮像システム。 A second acquisition unit that acquires a distance to the subject specified by the specifying unit based on the first image;
The imaging system according to any one of claims 1 to 11, further comprising an adjustment unit that adjusts a focal length of the second imaging unit based on a distance to the subject acquired by the second acquisition unit. .
前記第1の画像に基づいて、被写体を特定する段階と、
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と
を備え、
前記第1撮像部は、第1レンズ装置を有し、
前記第2撮像部は、第2レンズ装置を有し、
前記被写体を特定する段階は、
前記第2レンズ装置の画角が予め定められた値以上の場合、前記第2撮像部のみによって撮像された画像に基づいて、被写体を特定する段階と、
前記第2レンズ装置の画角が前記予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する段階と
を含む、撮像方法。 Based on the first image captured by the first imaging unit mounted on the mobile body, comprising: a second imaging unit for controlling the movement of the moving body mounted,
Identifying a subject based on the first image;
Controlling the identified subject to be included in the imaging range of the second imaging unit ,
The first imaging unit includes a first lens device,
The second imaging unit includes a second lens device,
The step of identifying the subject includes
When the angle of view of the second lens device is greater than or equal to a predetermined value, identifying a subject based on an image captured only by the second imaging unit;
When the angle of view of the second lens device is less than the predetermined value, identifying a subject based on an image captured by the first imaging unit;
An imaging method including:
前記第1の画像に基づいて、被写体を特定する段階と、 Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記第1撮像部は、第1レンズ装置を有し、 The first imaging unit includes a first lens device,
前記第2撮像部は、前記第1レンズ装置より望遠である第2レンズ装置を有し、 The second imaging unit includes a second lens device that is more telephoto than the first lens device,
前記被写体を特定する段階は、 The step of identifying the subject includes
前記第2レンズ装置の画角が予め定められた値以上の場合、前記第2撮像部によって撮像された画像に基づいて、被写体を特定する段階と、 When the angle of view of the second lens device is greater than or equal to a predetermined value, identifying a subject based on an image captured by the second imaging unit;
前記第2レンズ装置の画角が前記予め定められた値未満の場合、前記第1撮像部によって撮像された画像に基づいて、被写体を特定する段階と When the angle of view of the second lens device is less than the predetermined value, identifying a subject based on an image captured by the first imaging unit;
を含む、撮像方法。An imaging method including:
取得された前記被写体までの距離に基づいて、前記第2撮像部の焦点距離を調整する段階と
をさらに備える、請求項17から19のいずれか一項に記載の撮像方法。 Obtaining a distance to the identified subject based on the first image;
The imaging method according to claim 17, further comprising: adjusting a focal length of the second imaging unit based on the acquired distance to the subject.
前記複数の第1撮像部のうち、他の第1撮像部より前記第2撮像部の撮像方向に近い撮像方向の第1撮像部を選択する段階と、 Selecting a first imaging unit in an imaging direction closer to the imaging direction of the second imaging unit than the other first imaging units among the plurality of first imaging units;
選択された前記第1撮像部により撮像された前記第1の画像に基づいて、被写体を特定する段階と、 Identifying a subject based on the first image captured by the selected first imaging unit;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備える、撮像方法。An imaging method comprising:
前記第1の画像に基づいて、被写体を特定する段階と、 Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記被写体を特定する段階は、前記第2撮像部によって撮像された第2の画像にさらに基づいて、被写体を特定する段階を含む、撮像方法。 The step of specifying the subject includes the step of specifying the subject further based on the second image picked up by the second image pickup unit.
前記第1の画像に基づいて、被写体を特定する段階と、 Identifying a subject based on the first image;
特定された被写体が前記第2撮像部の撮像範囲に含まれるように制御する段階と Controlling the identified subject to be included in the imaging range of the second imaging unit;
を備え、With
前記被写体を特定する段階は、前記第1の画像に基づいて特定された被写体と、前記第2撮像部によって撮像された第2の画像に基づいて特定された被写体とのうち一方を、予め定められた基準に従って、被写体として特定する段階を含む、撮像方法。 In the step of specifying the subject, one of a subject specified based on the first image and a subject specified based on the second image captured by the second imaging unit is predetermined. An imaging method including a step of specifying as a subject according to a set standard.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016103313A JP6260803B2 (en) | 2016-05-24 | 2016-05-24 | Imaging system, moving body, imaging method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016103313A JP6260803B2 (en) | 2016-05-24 | 2016-05-24 | Imaging system, moving body, imaging method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017212531A JP2017212531A (en) | 2017-11-30 |
JP6260803B2 true JP6260803B2 (en) | 2018-01-17 |
Family
ID=60476884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016103313A Active JP6260803B2 (en) | 2016-05-24 | 2016-05-24 | Imaging system, moving body, imaging method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6260803B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019189381A1 (en) * | 2018-03-30 | 2019-10-03 | 株式会社ニコン | Moving body, control device, and control program |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0845000A (en) * | 1994-07-28 | 1996-02-16 | Fuji Heavy Ind Ltd | Vehicle-to-vehicle distance controller |
JPH09322053A (en) * | 1996-05-24 | 1997-12-12 | Nippon Hoso Kyokai <Nhk> | Image pickup method for object in automatic image pickup camera system |
JP2001359083A (en) * | 2000-06-13 | 2001-12-26 | Minolta Co Ltd | Imaging unit mounted on mobile body |
JP2004040514A (en) * | 2002-07-04 | 2004-02-05 | Nippon Hoso Kyokai <Nhk> | Automatic tracking/imaging device and method |
JP2005260778A (en) * | 2004-03-15 | 2005-09-22 | Yamamoto System Design:Kk | Monitoring camera |
JP2010233043A (en) * | 2009-03-27 | 2010-10-14 | Hitachi Maxell Ltd | Image pickup device and method of imaging |
JP2011109630A (en) * | 2009-11-20 | 2011-06-02 | Advas Co Ltd | Universal head for camera apparatus |
-
2016
- 2016-05-24 JP JP2016103313A patent/JP6260803B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017212531A (en) | 2017-11-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10860039B2 (en) | Obstacle avoidance method and apparatus and unmanned aerial vehicle | |
CN107329490B (en) | Unmanned aerial vehicle obstacle avoidance method and unmanned aerial vehicle | |
WO2018185939A1 (en) | Imaging control device, imaging device, imaging system, mobile body, imaging control method and program | |
US20190258255A1 (en) | Control device, imaging system, movable object, control method, and program | |
WO2020011230A1 (en) | Control device, movable body, control method, and program | |
JP6733106B2 (en) | DETERMINING DEVICE, MOVING BODY, DETERMINING METHOD, AND PROGRAM | |
JP2017212528A (en) | Imaging system, imaging control method, imaging control system, mobile body, control method, and program | |
JP6265576B1 (en) | Imaging control apparatus, shadow position specifying apparatus, imaging system, moving object, imaging control method, shadow position specifying method, and program | |
CN111213365A (en) | Shooting control method and controller | |
WO2019206076A1 (en) | Control device, camera, moving body, control method and program | |
JP6260803B2 (en) | Imaging system, moving body, imaging method, and program | |
JP6790318B2 (en) | Unmanned aerial vehicles, control methods, and programs | |
JP6515423B2 (en) | CONTROL DEVICE, MOBILE OBJECT, CONTROL METHOD, AND PROGRAM | |
WO2018185940A1 (en) | Imaging control device, imaging device, imaging system, mobile body, imaging control method and program | |
WO2022000211A1 (en) | Photography system control method, device, movable platform, and storage medium | |
JP6641574B1 (en) | Determination device, moving object, determination method, and program | |
JP6696092B2 (en) | Control device, moving body, control method, and program | |
US20200130862A1 (en) | Control apparatus, camera apparatus, flying object, control method and program | |
JP2020181028A (en) | Controller, imaging apparatus, mobile body, method for control, and program | |
JP7003357B2 (en) | Control device, image pickup device, moving object, control method, and program | |
JP6896963B1 (en) | Control devices, imaging devices, moving objects, control methods, and programs | |
WO2021249245A1 (en) | Device, camera device, camera system, and movable member | |
US20220030166A1 (en) | Imaging apparatus and control method | |
JP6413170B1 (en) | Determination apparatus, imaging apparatus, imaging system, moving object, determination method, and program | |
WO2020088397A1 (en) | Position estimation apparatus, position estimation method, program, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170911 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20171128 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6260803 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |