JP2023149478A - 撮像素子、撮像装置、撮像装置の制御方法、およびプログラム - Google Patents
撮像素子、撮像装置、撮像装置の制御方法、およびプログラム Download PDFInfo
- Publication number
- JP2023149478A JP2023149478A JP2022058071A JP2022058071A JP2023149478A JP 2023149478 A JP2023149478 A JP 2023149478A JP 2022058071 A JP2022058071 A JP 2022058071A JP 2022058071 A JP2022058071 A JP 2022058071A JP 2023149478 A JP2023149478 A JP 2023149478A
- Authority
- JP
- Japan
- Prior art keywords
- control information
- image
- imaging device
- unit
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 126
- 238000000034 method Methods 0.000 title claims description 13
- 230000003287 optical effect Effects 0.000 claims abstract description 27
- 238000012545 processing Methods 0.000 claims description 100
- 238000004091 panning Methods 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 abstract description 6
- 238000001514 detection method Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 8
- 238000012937 correction Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000011295 pitch Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Exposure Control For Cameras (AREA)
- Lens Barrels (AREA)
- Camera Bodies And Camera Details Or Accessories (AREA)
- Accessories Of Cameras (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】高速な被写体に対して良好に追従することが可能な撮像素子を提供する。【解決手段】撮像部(105)と認識部(106)とを有する撮像素子(102)であって、撮像部は、撮像光学系(101)を介して形成された光学像を光電変換して画像データを出力し、認識部は、撮像部から出力される画像データに基づいて被写体を認識し、被写体の領域に基づいて生成された制御情報が撮像素子から出力され、制御情報に基づいて画角が変更される。【選択図】図1
Description
本発明は、撮像素子、撮像装置、撮像装置の制御方法、およびプログラムに関する。
特許文献1には、物体の大きさが画面上で所定の大きさになるようにズーム倍率を変更した後に撮影された画像から物体を検出することにより、高速でズーム倍率を変更した際の自動追尾の失敗を防ぐ自動追尾装置が開示されている。特許文献2には、車両に搭載された撮像部で生成された画像データから周辺領域のシーンを認識し、必要なシーンでのみ所定の制御を行う撮像装置が開示されている。特許文献3には、画像認識機能を有する撮像素子を備えた撮像装置が開示されている。
特許文献1~3に開示されて構成では、撮像素子の外部に設けられた画像処理部を介してレンズの駆動信号を送信するため、レンズの駆動処理に時間を要する。このため、撮像素子からの画像データの読み出しに対して画像認識処理が遅延し、高速な被写体に対して追従できない場合がある。
そこで本発明は、高速な被写体に対して良好に追従することが可能な撮像素子を提供することを目的とする。
本発明の一側面としての撮像素子は、撮像部と認識部とを有する撮像素子であって、前記撮像部は、撮像光学系を介して形成された光学像を光電変換して画像データを出力し、前記認識部は、前記撮像部から出力される前記画像データに基づいて被写体を認識し、前記被写体の領域に基づいて生成された制御情報が前記撮像素子から出力され、該制御情報に基づいて画角が変更される。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、高速な被写体に対して良好に追従することが可能な撮像素子を提供することができる。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
(第1実施形態)
まず、本発明の第1実施形態について説明する。図1は、本実施形態における撮像装置100のブロック図である。撮像装置100は、レンズ101、撮像素子102、画像処理部103、回転台(可動部)104、撮像画角変更部(画角変更部)109、およびズーム制御手段112を有する。
まず、本発明の第1実施形態について説明する。図1は、本実施形態における撮像装置100のブロック図である。撮像装置100は、レンズ101、撮像素子102、画像処理部103、回転台(可動部)104、撮像画角変更部(画角変更部)109、およびズーム制御手段112を有する。
レンズ101は、被写体の光学像(被写体像)を形成する撮像光学系である。撮像素子102は、レンズ101により形成された光学像を光電変換して画像データを出力する。また撮像素子102は、光電変換を行うとともに、人工知能(Artificial Intelligence:AI)による被写体検出またはシーン認識を行い、画像データの出力と同時にシーン認識結果に基づく制御情報を出力することができる。
撮像素子102は、撮像部(画素部)105、認識部106、制御情報生成部107、およびIF(インタフェース)108を有する。また撮像素子102は、少なくとも第1層と第2層とを含む積層構造を有する積層センサチップであり、例えば、撮像部105は第1層に配置され、認識部106は第2層に配置されている。撮像素子102は、撮像部105において光学像を画像データへ変換する。撮像部105は、図示しないCMOS素子とその制御を行う回路とを含み、光学像を光の強度に応じた電気的な画像データへ変換する。撮像部105により変換された画像データは、撮像素子102から画像処理部103への出力のためにIF108へ送られるともに、認識部106へ送られる。
認識部106は、撮像部105から出力された画像データの全てを取得した後に被写体検出やシーン認識を行うのではなく、画像データの一部のみを取得した状態で(全ての画像データの取得完了前に)被写体検出やシーン認識を行う。これにより認識部106は、撮像素子102からの画像データの出力を行うフレームと同時に、被写体検出およびシーン認識の結果を出力することが可能になる。
制御情報生成部107は、認識部106から出力された被写体情報およびシーン情報(画像認識処理の結果)に基づいて、現在撮像中のシーンが被写体に追従すべきシーンであるか否かに関するシーン検出結果、および追従する被写体の位置を出力する。制御情報生成部107は、認識部106から出力されたシーン検出結果に基づいて、被写体に追跡すべきと判定した場合、パン駆動、チルト駆動、およびズーム駆動を行うための制御情報を出力する。本実施形態において、制御情報は、撮像画角を変更するために用いられるPulse Width Modulation(PWM)信号を生成するためのシリアルデータ信号である。また制御情報は、パン駆動、チルト駆動、およびズーム駆動の駆動電圧、目標ステップ位置、Duty、またはレンズドライバ制御信号などのレンズ駆動に必要な制御信号の少なくとも一つを含むが、これに限定されるものではない。撮像部105から出力された画像データおよび制御情報生成部107にて生成された制御情報は、IF108を介して、外部出力に適した形態に変換されて撮像素子102から出力される。
撮像素子102から出力された制御情報は、レンズ101またはパン回転およびチルト回転を行う回転台104を駆動するための情報である。撮像画角変更部109は、レンズ101または図示しない筐体に設けられている。撮像画角変更部109は、撮像素子102から出力された制御情報を、撮像装置100のパンおよびチルトを変更するパン制御手段110およびチルト制御手段111、ならびにレンズ101のズーム倍率を変更するズーム制御手段112の位相電圧に変換する。これにより、パン制御手段110、チルト制御手段111、およびズーム制御手段112のそれぞれのステッピングモータ(駆動手段)を制御して所望の画角を得ることができる。なお本実施形態は、交換式レンズと筐体のそれぞれを駆動する三つの制御手段を有するが、これに限定されるものではなく、レンズおよび筐体を駆動する各制御手段が一体化されていてもよい。
一方、撮像素子102から出力された画像データは、所定の画像処理を行うための画像処理部103に入力される。画像処理部103は、IF(インタフェース)113および画像処理手段114を有する。画像処理部103に入力された画像データは、IF113を介して画像処理に適した画像データに変換された後、画像処理手段114により所定の画像処理を行う。ここで画像処理とは、例えば色収差の補正や歪曲の補正などのレンズ101による光学的な特性の補正を含むが、これに限定されるものではない。画像処理は、輪郭強調やノイズリダクションや色に関する補正などの人が好ましいと感じる画像にするための処理、または解像度の変換や記録や伝送ためのフォーマット変換などを含む処理であってもよい。画像処理手段114で画像処理された画像データは、映像として出力または記録するために画像処理部103から出力される。
図2は、撮像装置100のタイミングチャートである。1フレーム期間201は、毎秒30フレームの場合は1/30秒、毎秒60フレームの場合は1/60秒をそれぞれ示す。1フレーム期間201の間に、撮像素子102によって全画素の信号が画像データに変換される画像読み出し(全画像読み出し)202が行われる。画像読み出し202の期間は、全画像の読み出しに要する期間であり、撮像素子102の画素数、動作周波数、または回路構成などにより決定される。撮像素子102の認識部106にて全画像を用いて画像認識を行う場合、画像読み出し202が終了後に画像認識203を開始し、認識結果が出力される。この結果を基に、撮像素子102の制御情報生成部107は制御情報204を生成し、撮像画角変更部109は制御更新205を行う。
このように、撮像素子102内の認識部106で画像認識を行う場合、画像読み出し202と同じ1フレーム期間201内で認識結果が出力されるため、後段の画像処理部103で認識を行うよりも早く認識結果を得ることができる。その結果、従来と比較して、1~数フレーム分だけ早く追従制御を行うことが可能となるため、追従性が向上する。
図3は、撮像部105の画素を1/4に間引いた画素で画像認識を行う場合における撮像装置100のタイミングチャートである。1/4画素の読み出し、すなわち画像読み出し(全画像読み出し)302の期間の1/4の読み出しタイミングで画像認識303を行う。ここで、認識成功となった場合、このタイミングで制御情報304を生成して制御更新305を生成することができる。この場合、画像読み出し302の期間が終了するよりも早く認識結果が出力されるため、より早く駆動制御を変更することができ、全画素読み出しの場合よりも更に追従性を向上させることが可能となる。
1/4画素で認識が成功しなかった場合、さらに1/4画素を読み出して1/2画素の読み出しで生成した画像で認識を行う。さらに1/2画素で認識が成功しなかった場合、3/4画素、4/4=全画素読み出しでの画像で認識を行う。1/4画素、1/2画素、3/4画素、4/4画素での読み出し後の画像認識で認識が成功したタイミングで認識結果を出力可能であるため、いずれの場合でも従来と比較して早く認識結果を得ることができる。なお本実施形態では、1/4画素ずつ間引いて読み出しを行う場合を説明したが、これに限定されるものではなく、1/4以外の間引き率へ変更してもよい。
図4は、本実施形態の変形例としての撮像装置100のタイミングチャートである。図4に示されるように、画像認識403を基に制御更新405を実施した後、同じフレーム期間内で再度画像認識406を行うこともできる。なお図4では、1フレーム期間で二回画像認識を行う場合を示しているが、これに限定されるものではない。二回以上の複数回画像認識処理を行うこと、またはフレーム期間毎に認識回数を変更してもよく、画像周期とは同期せずに画像認識処理を行うことができる。
(第2実施形態)
次に、本発明の第2実施形態について説明する。図5は、本実施形態における撮像装置500のブロック図である。撮像装置500は、レンズ501、撮像素子502、画像処理部503、回転台(可動部)504、撮像画角変更部(画角変更部)515、およびズーム制御手段518を有する。
次に、本発明の第2実施形態について説明する。図5は、本実施形態における撮像装置500のブロック図である。撮像装置500は、レンズ501、撮像素子502、画像処理部503、回転台(可動部)504、撮像画角変更部(画角変更部)515、およびズーム制御手段518を有する。
レンズ501は、被写体の光学像(被写体像)を形成する撮像光学系である。撮像素子502は、レンズ501により形成された光学像を光電変換して画像データを出力する。また撮像素子502は、光電変換を行うとともに、AIによる被写体検出またはシーン認識を行い、画像データの出力と同時にシーン認識結果に基づく制御情報を出力することができる。
撮像素子502は、撮像部505、画像処理部506、認識部507、制御情報生成部508、およびIF509を有する。撮像素子502は、撮像部505において光学像を画像データへ変換する。撮像部505は、図示しないCMOS素子とその制御を行う回路とを含み、光学像を光の強度に応じた電気的な画像データへ変換する。撮像部505により変換された画像データは、撮像素子502から画像処理部503への出力のためにIF509へ送られるともに、画像処理部506へ送られる。
画像処理部506は、ホワイトバランスを合わせる処理や、画素の補間処理など、認識を行うために必要な比較的簡易な画像処理を行う。認識部507は、画像処理部506にて処理された画像データに基づいて、被写体検出またはシーン認識を行う。認識部507は、撮像部505から出力された画像データの全てを取得した後に被写体検出やシーン認識を行うのではなく、画像データの一部のみを取得した状態で(全ての画像データの取得完了前に)被写体検出やシーン認識を行う。これにより認識部507は、撮像素子502からの画像データの出力を行うフレームと同時に、被写体検出およびシーン認識の結果を出力することが可能になる。
認識部507は、撮像部505からの画像データに基づいて(画像処理部506からの出力信号を用いて)画像認識処理を行い、被写体情報(被写体検出の結果)およびシーン情報(シーン認識の結果)を出力する。制御情報生成部508は、被写体情報およびシーン情報に基づいて、現在撮像中のシーンの追従を撮像素子502または画像処理部503のいずれからの制御情報で行うかを切り替える切替信号(選択信号)と、被写体に追従するための制御情報とを出力する。切替信号および制御情報は、IF509を介して外部出力に適した形態に変換され、撮像素子502から出力される。すなわち本実施形態は、撮像画角変更部515は、撮像素子502において生成される制御情報および画像処理部503において生成される制御情報の両方を用いて、画角を変更する。
画像処理部503は、IF510を介して、撮像素子502からの出力信号を画像処理に適した画像データへ変換する。画像処理手段511は、IF510から入力された画像データに対して画像処理を行う。ここで画像処理は、例えば、色収差の補正または歪曲の補正などのレンズ501による光学的な特性の補正または画素の補間に関する処理を含む。また画像処理は、ホワイトバランスの調整、輪郭強調やノイズリダクションなどの人が画像として認識するのに必要な種々の処理を含んでもよい。また画像処理は、解像度の変換や認識に適した画像にするための画像処理を含んでいてもよい。
画像処理された画像データは、映像として出力または記録する目的で画像処理部503から出力されると同時に、被写体認識を行うために認識部512へ送られる。認識部512で行われる被写体認識は、画像処理手段511で種々の画像処理がなされた結果の画像データに対して行われるため、撮像素子502内の認識部507で認識される結果に対してより正確に認識できるが、認識結果の出力までに時間を要する。
認識部512による被写体認識の結果(被写体情報)は、制御情報生成部513に送られる。制御情報生成部513は、追従を行うための制御情報を出力する。制御情報は、撮像素子502内の制御情報生成部508で出力される制御情報と同様に、パン駆動、チルト駆動、およびズーム駆動の駆動電圧、目標ステップ位置、Duty、またはレンズドライバ制御信号などレンズ駆動に必要な制御情報の少なくとも一つを含む。制御情報生成部513から出力された制御情報は、制御情報切替部(選択部)514に入力される。制御情報切替部514には、IF510で変換された切替信号(選択信号)、および撮像素子502から出力された制御情報も入力される。
第1実施形態にて説明したように 撮像素子からの制御情報は画像のフレーム期間中に何度も更新されることがあるため、制御情報切替部514の切り替えは、画像のフレーム期間と同期せずに(非同期で)行われる。制御情報切替部514は、切替信号(選択信号)に基づいて、撮像素子502の制御情報または画像処理部503の制御情報のいずれか一つを選択して出力する。制御情報切替部514から出力された制御信号は、IF510を介して、パン回転およびチルト回転を行う回転台504と、レンズ501のズームとを駆動するための情報である。
撮像画角変更部515は、制御情報切替部514により選択された制御情報を、パン制御手段516、チルト制御手段517、およびズーム制御手段518の各制御アクチュエータに適した信号に変換する。パン制御信号はパン制御手段516に送られ、回転台504のパンを制御する。チルト制御信号はチルト制御手段517に送られ、回転台504のチルトを制御する。ズーム制御信号はズーム制御手段518に送られ、レンズ501におけるズームレンズの駆動を制御する。
図6は、本実施形態における撮像装置500のタイミングチャートである。1フレーム期間600は、毎秒30フレームの場合は1/30秒、毎秒60フレームの場合は1/60秒をそれぞれ示す。1フレーム期間600の間に撮像素子502によって全画素の信号が画像データに変換される画素読み出し(全画素読み出し)601が行われる。画素読み出し601の期間は、撮像素子502の画素数、動作周波数、または回路構成などにより決定される。
撮像素子502が制御情報を作る場合、例えば1/2に間引いた画像データで画像認識を行う場合におけるタイミングを説明する。1/2画像を読み出したところで画像処理602が始まる。これは、前述のように、ホワイトバランス処理や、画素を補間する程度の比較的簡易な処理である。画像処理602が完了後に画像認識603を開始し、認識結果が出力される。この結果を元に撮像素子502の中で制御情報604が生成される。また、撮像素子502内部の制御情報604は複数回行うことができるため、画素読み出し601の後に画像処理609を行い、続けて画像認識610による認識を行い、その認識結果の出力後に制御情報611を出力することもできる。
一方、画像処理部503で認識を行う場合、撮像素子502から画像データが入力される画像読み出し605をきっかけに画像処理606が始まる。前述のように、画像処理部503の画像処理では種々の処理を行うため、撮像素子502での画像処理602に比べて長い時間を要する。認識処理は開始前に画像が揃っている必要があるため、画像処理606の完了後に画像認識607を開始し、認識結果が出力される。この結果を元に画像処理部506の制御情報608が生成される。
以上のように、撮像素子502の内部で制御情報604を生成する場合、1フレーム期間600の間に複数回出力することができる(高速で制御情報を取得できる)が、画像処理602が簡易な処理なために正確さはやや劣る。一方、画像処理部503の内部で制御情報608を生成する場合、画像読み出し605や画像処理606に時間を要するため、制御情報611が得られるのは少なくとも1フレーム後になる。代わりに、画像処理606で様々な処理を行っているため、人が認識するのに近い認識情報を得ることができる。
本実施形態では、撮像素子502の認識部507でシーン認識を行い、シーン認識の結果に基づいて、撮像画角を変更するために用いられる制御情報を切り替える。すなわち、シーン認識の結果、速い応答速度が要求されるシーンであると判定した場合、撮像素子502の制御情報生成部508から出力される制御情報を用いる。一方、速い応答速度が要求されるシーンでない場合、画像処理部503の制御情報生成部513から出力される制御情報を用いる。このため、応答速度の速さと追従の正確さとを両立することができる。野球放送の例で考えると、ピッチャーの投球前の追従には画像処理部503の制御信号を用いて正確な追従し、ピッチャーの投球後は撮像素子502の制御信号を用いる。これにより、打球のフレームアウトをできるだけ防ぐという使い方をすることが可能である。
以上のように、各実施例の撮像素子102、502は、撮像部105、505および認識部106、507を有する。撮像部は、撮像光学系を介して形成された光学像を光電変換して画像データを出力する。認識部は、撮像部から出力される画像データに基づいて被写体を認識し(画像認識処理を行い)、被写体の領域に基づいて生成された制御情報が撮像素子から出力され、制御情報に基づいて画角が変更される。
各実施例の撮像装置100、500は、撮像素子と、画角を変更する画角変更部(撮像画角変更部109、515)とを有する。撮像素子は、被写体の領域に基づいて生成された制御情報を出力し、画角変更部は、制御情報に基づいて画角を変更する。
好ましくは、撮像装置は、パン方向およびチルト方向に移動可能な可動部(回転台104、504)を有する。可動部は、パン方向における駆動を制御するパン制御手段110、516、およびチルト方向における駆動を制御するチルト制御手段111、517を有する。画角変更部は、制御情報を用いてパン制御手段またはチルト制御手段の少なくとも一つを制御する。また好ましくは、撮像装置は、撮像光学系のズームレンズの駆動を制御するズーム制御手段112、518を有する。画角変更部は、制御情報を用いてズーム制御手段を制御する。
好ましくは、認識部からの信号は、撮像部から画像データが読み出されるフレーム期間内に出力される。より好ましくは、認識部からの信号は、撮像部から画像データが読み出されるフレーム周期と同期せずに出力される。また好ましくは、制御情報は、駆動電圧、目標ステップ位置、Duty、またはレンズドライバ制御信号の少なくとも一つを含む。また好ましくは、制御情報は、撮像画角を変更するために用いられるPWM信号を生成するためのシリアルデータ信号である。
好ましくは、撮像装置は、画像処理部503および選択部(制御情報切替部514)を有する。画像処理部は、撮像素子から出力される画像データに対して画像処理を行い、制御情報(第2制御情報)を生成する。選択部は、撮像素子において生成される制御情報または画像処理部において生成される第2制御情報を選択する。画角変更部は、選択部により選択された制御情報または第2制御情報を選択的に用いて、画角を変更する。より好ましくは、選択部は、画像処理部に設けられている。また好ましくは、選択部は、撮像素子に設けられている。より好ましくは、撮像素子は、画像処理部において生成される制御情報を画像処理部から受信する。また好ましくは、選択部は、撮像素子および画像処理部のいずれとも独立して設けられている。
好ましくは、選択部は、撮像素子から出力される選択信号に基づいて、撮像素子において生成される制御情報または画像処理部において生成される第2制御情報を選択する。より好ましくは、選択部は、画像データのフレーム期間と同期せずに、撮像素子において生成される制御情報または画像処理部において生成される第2制御情報を切り替える。また好ましくは、選択信号は、画像認識処理(シーン認識処理)により判定されたシーンに基づいて生成される。選択部は、シーンが第1シーン(例えば、速い応答速度が必要なシーン)である場合、撮像素子において生成される制御情報を選択する。一方、選択部は、シーンが第2シーン(例えば、正確な認識が必要なシーン)である場合、画像処理部において生成される制御情報を選択する。
好ましくは、認識部は、画像データにおける被写体および被写体の周辺領域を認識してフレームアウトを回避すべきか否かを判定する。より好ましくは、フレームアウトを回避すべきと判定された場合、選択部は、撮像素子において生成される制御情報を選択する。一方、フレームアウトを回避すべきでないと判定された場合、選択部は、画像処理部において生成される制御情報を選択する。
好ましくは、画角変更部は、撮像素子において生成される制御情報および画像処理部において生成される第2制御情報の両方を用いて、画角を変更する。また好ましくは、第2制御情報は、制御情報よりも処理負荷が大きい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態は、従来のように撮像素子の外部に設けられた画像処理部を介してレンズの駆動信号を送信する代わりに、積層センサチップとして構成された撮像素子の内部で認識処理を行って得られた制御情報をレンズの駆動信号として送信する。これにより、処理に要する時間を短縮することができる。このため各実施形態によれば、高速な被写体に対して良好に追従することが可能な撮像素子、撮像装置、撮像装置の制御方法、およびプログラムを提供することができる。また各実施形態によれば、高速の被写体の追従と、より正確な追従との両立が可能になり、用途に応じた追従を実現することができる。このため各実施形態の撮像装置は、例えば、AIでシーン認識を行うことで、フレームアウトが問題になるシーンか否かを判定しつつ、高速な被写体でも追従することが可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100、500 撮像装置
101、501 レンズ(撮像光学系)
102、502 撮像素子
105、505 撮像部
106、507 認識部
103、503 画像処理部
109、515 撮像画角変更部(画角変更部)
101、501 レンズ(撮像光学系)
102、502 撮像素子
105、505 撮像部
106、507 認識部
103、503 画像処理部
109、515 撮像画角変更部(画角変更部)
Claims (23)
- 撮像部と認識部とを有する撮像素子であって、
前記撮像部は、撮像光学系を介して形成された光学像を光電変換して画像データを出力し、
前記認識部は、前記撮像部から出力される前記画像データに基づいて被写体を認識し、
前記被写体の領域に基づいて生成された制御情報が前記撮像素子から出力され、該制御情報に基づいて画角が変更されることを特徴とする撮像素子。 - 前記撮像素子は、少なくとも第1層と第2層とを含む積層構造を有する積層センサチップであり、
前記撮像部は、前記第1層に配置され、
前記認識部は、前記第2層に配置されていることを特徴とする請求項1に記載の撮像素子。 - 撮像素子と、
画角を変更する画角変更部とを有し、
前記撮像素子は、撮像光学系を介して形成された光学像を光電変換して画像データを出力する撮像部と、該撮像部から出力される該画像データに基づいて被写体を認識する認識部とを有し、前記被写体の領域に基づいて生成された制御情報を出力し、
前記画角変更部は、前記制御情報に基づいて前記画角を変更することを特徴とする撮像装置。 - パン方向およびチルト方向に移動可能な可動部を更に有し、
前記可動部は、
前記パン方向における駆動を制御するパン制御手段と、
前記チルト方向における駆動を制御するチルト制御手段と、を有し、
前記画角変更部は、前記制御情報を用いて前記パン制御手段または前記チルト制御手段の少なくとも一つを制御することを特徴とする請求項3に記載の撮像装置。 - 前記撮像光学系のズームレンズの駆動を制御するズーム制御手段を更に有し、
前記画角変更部は、前記制御情報を用いて前記ズーム制御手段を制御することを特徴とする請求項3または4に記載の撮像装置。 - 前記認識部からの信号は、前記撮像部から前記画像データが読み出されるフレーム期間内に出力されることを特徴とする請求項3乃至5のいずれか一項に記載の撮像装置。
- 前記認識部からの信号は、前記撮像部から前記画像データが読み出されるフレーム周期と同期せずに出力されることを特徴とする請求項6に記載の撮像装置。
- 前記制御情報は、駆動電圧、目標ステップ位置、Duty、またはレンズドライバ制御信号の少なくとも一つを含むことを特徴とする請求項3乃至7のいずれか一項に記載の撮像装置。
- 前記制御情報は、PWM信号を生成するためのシリアルデータ信号であることを特徴とする請求項1乃至8のいずれか一項に記載の撮像装置。
- 前記撮像素子から出力される前記画像データに対して画像処理を行い、第2制御情報を生成する画像処理部と、
前記撮像素子において生成される前記制御情報または前記画像処理部において生成される前記第2制御情報を選択する選択部とを更に有し、
前記画角変更部は、前記選択部により選択された前記制御情報または前記第2制御情報を選択的に用いて、前記画角を変更することを特徴とする請求項3乃至9のいずれか一項に記載の撮像装置。 - 前記選択部は、前記画像処理部に設けられていることを特徴とする請求項10に記載の撮像装置。
- 前記選択部は、前記撮像素子に設けられていることを特徴とする請求項10に記載の撮像装置。
- 前記撮像素子は、前記第2制御情報を前記画像処理部から受信することを特徴とする請求項10に記載の撮像装置。
- 前記選択部は、前記撮像素子および前記画像処理部のいずれとも独立して設けられていることを特徴とする請求項10に記載の撮像装置。
- 前記選択部は、前記撮像素子から出力される選択信号に基づいて、前記制御情報または前記第2制御情報を選択することを特徴する請求項10乃至14のいずれか一項に記載の撮像装置。
- 前記選択部は、前記画像データのフレーム期間と同期せずに、前記制御情報または前記第2制御情報を切り替えることを特徴とする請求項10乃至15のいずれか一項に記載の撮像装置。
- 前記選択信号は、前記認識部により判定されたシーンに基づいて生成され、
前記選択部は、
前記シーンが第1シーンである場合、前記撮像素子において生成される前記制御情報を選択し、
前記シーンが第2シーンである場合、前記画像処理部において生成される前記第2制御情報を選択することを特徴とする請求項15に記載の撮像装置。 - 前記認識部は、前記画像データにおける前記被写体および該被写体の周辺領域を認識してフレームアウトを回避すべきか否かを判定することを特徴とする請求項10乃至17のいずれか一項に記載の撮像装置。
- 前記選択部は、
前記フレームアウトを回避すべきと判定された場合、前記撮像素子において生成される前記制御情報を選択し、
前記フレームアウトを回避すべきでないと判定された場合、前記画像処理部において生成される前記第2制御情報を選択することを特徴とする請求項18に記載の撮像装置。 - 前記撮像素子から出力される前記画像データに対して画像処理を行い、第2制御情報を生成する画像処理部を更に有し、
前記画角変更部は、前記撮像素子において生成される前記制御情報および前記画像処理部において生成される第2制御情報の両方を用いて、前記画角を変更することを特徴とする請求項3乃至9のいずれか一項に記載の撮像装置。 - 前記第2制御情報は、前記制御情報よりも処理負荷が大きいことを特徴とする請求項10乃至20のいずれか一項に記載の撮像装置。
- 撮像素子を用いて、撮像光学系を介して形成された光学像を光電変換して画像データを出力するステップと、
前記撮像素子において、前記画像データに基づいて被写体を認識するステップと、
前記被写体の領域に基づいて生成された制御情報を前記撮像素子から出力するステップと、
前記制御情報に基づいて画角を変更するステップと、を有することを特徴とする撮像装置の制御方法。 - 請求項22に記載の制御方法をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022058071A JP2023149478A (ja) | 2022-03-31 | 2022-03-31 | 撮像素子、撮像装置、撮像装置の制御方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022058071A JP2023149478A (ja) | 2022-03-31 | 2022-03-31 | 撮像素子、撮像装置、撮像装置の制御方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023149478A true JP2023149478A (ja) | 2023-10-13 |
Family
ID=88288344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022058071A Pending JP2023149478A (ja) | 2022-03-31 | 2022-03-31 | 撮像素子、撮像装置、撮像装置の制御方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023149478A (ja) |
-
2022
- 2022-03-31 JP JP2022058071A patent/JP2023149478A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4742242B2 (ja) | 撮像装置及びそのプログラム | |
JP3261152B2 (ja) | 複数の光学系を備えた撮像装置 | |
JP5167094B2 (ja) | 撮像装置及び撮像方法 | |
JP2001045364A (ja) | ディジタル・カメラおよびその動作制御方法 | |
WO2005085927A1 (ja) | オートフォーカス制御装置および方法、記録媒体、並びにプログラム | |
JP2007060572A (ja) | 撮像装置および方法 | |
JPH0946570A (ja) | 撮像装置 | |
US20010055064A1 (en) | Digital still camera | |
US8120668B2 (en) | Electronic camera for adjusting a parameter for regulating an image quality based on the image data outputted from an image sensor | |
JP2007110289A (ja) | 固体撮像装置 | |
JP2023149478A (ja) | 撮像素子、撮像装置、撮像装置の制御方法、およびプログラム | |
JP4612814B2 (ja) | 自動焦点調節装置及びその制御方法並びに撮像装置 | |
JP2010136301A (ja) | 撮像装置及びその固体撮像素子 | |
JPH1165004A (ja) | パノラマ撮像システム | |
JP2019168661A (ja) | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 | |
WO2017061095A1 (ja) | 撮像装置 | |
JP2006279652A (ja) | 固体撮像装置および撮像制御方法 | |
JP5455485B2 (ja) | 撮像装置 | |
JP2984281B2 (ja) | 電子カメラ | |
JP2006319784A (ja) | 画像処理装置および撮像装置 | |
JP2004056222A (ja) | 撮像装置、撮像装置の制御方法、プログラム、及びコンピュータ読み取り可能な記憶媒体 | |
JP2007060577A (ja) | 撮像装置 | |
JP2009194469A (ja) | 撮像装置 | |
JP3571853B2 (ja) | 焦点調節装置 | |
JP3118135B2 (ja) | 撮像装置 |