JP2020188323A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2020188323A JP2020188323A JP2019090224A JP2019090224A JP2020188323A JP 2020188323 A JP2020188323 A JP 2020188323A JP 2019090224 A JP2019090224 A JP 2019090224A JP 2019090224 A JP2019090224 A JP 2019090224A JP 2020188323 A JP2020188323 A JP 2020188323A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- frame
- output
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 83
- 238000012545 processing Methods 0.000 claims abstract description 65
- 238000001514 detection method Methods 0.000 claims abstract description 33
- 230000015654 memory Effects 0.000 claims description 17
- 238000000034 method Methods 0.000 description 39
- 230000005540 biological transmission Effects 0.000 description 25
- 230000007423 decrease Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000003705 background correction Methods 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/96—Management of image or video recognition tasks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/617—Upgrading or updating of programs or applications for camera control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Studio Devices (AREA)
Abstract
【課題】撮像画像のフレームレートを低下させることなく、処理装置に設ける受信インターフェースの個数を低減することができる撮像装置および撮像方法を提供すること。【解決手段】本開示に係る撮像装置は、1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサを備える。少なくとも1以上のイメージセンサは、撮像部と、認識部と、出力部とを有する。撮像部は、画像を撮像して画像データを生成する。認識部は、画像データから所定の対象物を認識する。出力部は、撮像部が1の画像を撮像する1フレーム期間のうち、他のイメージセンサによる信号線を使用した検知結果の出力期間と重複しない期間に、認識部による認識結果を処理装置へ出力する。【選択図】図3
Description
本開示は、撮像装置および撮像方法に関する。
処理装置と複数のイメージセンサとを備え、処理装置が複数のイメージセンサから受信する画像データに基づいて撮像画像の被写体を認識するシステムがある。かかるシステムでは、処理装置と複数のイメージセンサとをそれぞれ個別に信号線によって接続する場合、処理装置に複数個の受信インターフェースを設ける必要がある。
このため、処理装置と複数のイメージセンサとを1本の信号線によって接続し、複数のイメージセンサから処理装置へ時分割で画像データを送信することにより、処理装置に設ける受信インターフェースの個数を低減する技術がある(例えば、特許文献1)。
しかしながら、上記の従来技術では、複数のイメージセンサから処理装置へ時分割で画像データを送信するため、撮像画像のフレームレートが低下する。
そこで、本開示では、撮像画像のフレームレートを低下させることなく、処理装置に設ける受信インターフェースの個数を低減することができる撮像装置および撮像方法を提案する。
本開示に係る撮像装置は、1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサを備える。少なくとも1以上の前記イメージセンサは、撮像部と、認識部と、出力部とを有する。撮像部は、画像を撮像して画像データを生成する。認識部は、前記画像データから所定の対象物を認識する。出力部は、前記撮像部が1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記認識部による認識結果を前記処理装置へ出力する。
以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
[1.撮像装置の構成の概要]
図1は、本開示に係る撮像装置の構成の概要を示す説明図である。図1に示すように、本開示に係る撮像装置1は、複数(ここでは、4個)のイメージセンサ(以下、単に、センサと記載する)11、12、13、14を備える。
図1は、本開示に係る撮像装置の構成の概要を示す説明図である。図1に示すように、本開示に係る撮像装置1は、複数(ここでは、4個)のイメージセンサ(以下、単に、センサと記載する)11、12、13、14を備える。
なお、撮像装置1が備えるセンサの個数は、4個に限定されるものではなく、2個以上であればよい。複数のセンサ11、12、13、14は、例えば、車両に搭載される場合、車両の前後左右の4箇所に、それぞれ別体として設けられる。また、撮像装置1は、例えば、ステレオカメラとして使用される場合、2個のセンサ11、12が一体として設けられる。
センサ11、12、13、14は、例えば、CIS(Complementary metal oxide semiconductor Image Sensor)である。なお、センサ11、12、13、14は、一部または全部がCCD(Charge Coupled Device)イメージセンサや、ToF(Time of Flight)方式を採用した他のセンサであってもよい。
センサ11、12、13、14は、1本の信号線SLによって処理装置の一例であるアプリケーションプロセッサ(以下、AP100と記載する)と接続され、信号線SLを共用して時分割で検知結果をAP100へ送信する。
AP100は、センサ11、12、13、14の検知結果に基づく処理を実行する。例えば、AP100は、撮像装置1が車両に搭載される場合、検知結果に基づいて歩行者や前方車両の存在を検知し、その旨を示す情報をADAS(Advanced Driver Assistance System)へ通知する処理等を実行する。
このように、撮像装置1は、複数のセンサ11、12、13、14が1本の信号線SLを共用してAP100へ検知結果を送信するので、AP100に設けられる受信インターフェースを1個にすることができる。
しかしながら、撮像装置1は、複数のセンサ11、12、13、14からAP100へ撮像画像の画像データを検知結果として時分割で送信すると、撮像画像のフレームレートが低下する。かかる問題点について次に説明する。
[2.時分割で画像データを送信することによる問題点]
図2は、本開示に係る時分割で画像データを送信することによる問題点を示す説明図である。例えば、AP100にセンサ11だけが接続されており、センサ11が画像を撮像可能なフレームレートが120fpsであった場合、信号線SLを介してセンサ11からAP100へ120fpsのフレームレートで撮像画像の画像データD1を送信可能である。
図2は、本開示に係る時分割で画像データを送信することによる問題点を示す説明図である。例えば、AP100にセンサ11だけが接続されており、センサ11が画像を撮像可能なフレームレートが120fpsであった場合、信号線SLを介してセンサ11からAP100へ120fpsのフレームレートで撮像画像の画像データD1を送信可能である。
しかしながら、AP100に4個のセンサ11、12、13、14が1本の信号線SLによって接続され、各センサ11、12、13、14から時分割でAP100へ画像データを送信する場合、撮像装置1は、フレームレートを低下させる必要がある。
例えば、センサ11、センサ12、センサ13、センサ14の順に、時分割で画像データD1、D2、D3、D4をAP100へ送信する場合、センサ12は、センサ11の画像データD1の送信中にセンサ12の画像データD2を送信することができない。
このため、センサ12は、センサ11の画像データD1の送信が終了するまで、画像データD2の送信タイミング(Vsync:垂直同期信号)の位相をシフト(遅く)する必要がある。同様に、センサ13、14も順次、画像データD3、D4の送信タイミング(Vsync:垂直同期信号)の位相をシフト(遅く)する必要がある。
その結果、撮像装置1は、1フレーム期間を延長しなければならず、各センサ11、12、13、14が120fpsのフレームレートで撮像可能であっても、フレームレートを4分の1の30fpsまで低下させる必要がある。
そこで、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を低減することができる構成を備える。次に、かかる撮像装置1の構成について説明する。
[3.撮像装置の構成]
図3は、本開示に係る撮像装置の構成例を示す説明図である。なお、4個のセンサ11、12、13、14は、同一の構成である。このため、図3では、センサ11、12を選択的に図示しており、センサ13、14については、図示を省略している。また、ここでは、主にセンサ11の構成について説明し、センサ12、13、14については、重複する説明を省略する。
図3は、本開示に係る撮像装置の構成例を示す説明図である。なお、4個のセンサ11、12、13、14は、同一の構成である。このため、図3では、センサ11、12を選択的に図示しており、センサ13、14については、図示を省略している。また、ここでは、主にセンサ11の構成について説明し、センサ12、13、14については、重複する説明を省略する。
図3に示すように、撮像装置1は、センサ11と、センサ12と、図示を省略したセンサ13、14とを備える。センサ11、12、13、14は、一本の信号線SLによってAP100に接続され、信号線SLを共用し、それぞれの検知結果を時分割でAP100へ送信する。
センサ11は、撮像部21と、信号処理部22と、認識部23と、メモリ24と、出力部25とを備える。なお、他のセンサ12、13、14もセンサ11と同様の構成である。撮像部21は、レンズ、光電変換素子、およびA/D(Analog/Digital)変換部等を備える。
撮像部21は、レンズを介して入射する光を光電変換素子によって受光量に応じた信号電荷に光電変換し、A/D変換部によってアナログの信号電荷をデジタルの画素信号に変換して画像データを生成する。撮像部21は、生成した画像データを信号処理部22へ出力する。
信号処理部22、認識部23、および出力部25は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などを有するマイクロコンピュータや各種の回路によって実現される処理部である。メモリ24は、例えば、SRAM(Static Random Access Memory)やDRAM(Dynamic Random Access Memory)等の情報記憶デバイスである。
信号処理部22は、撮像部21から入力される画像データに対して、所定の信号処理を実行して認識部23と、メモリ24とへ出力する。例えば、信号処理部22は、画像データに対して、シェーディング補正、混色補正、ゲイン調整、ホワイトバランス調整、デモザイク、およびガンマ補正等の信号処理を実行して、認識部23と、メモリ24とへ出力する。
認識部23は、機械学習モデルの一例であるDNN(Deep Neural Network)26を備える。DNN26は、画像データから被写体の特徴(パターン)を認識するように機械学習によって設計された人間の脳神経回路(ニューラルネットワーク)をモデルとした多階層構造のアルゴリズムである。
認識部23は、信号処理部22から入力される画像データまたはメモリ24から読み出した画像データをDNN26へ入力してDNN処理を実行することにより、画像データの被写体を認識する。そして、認識部23は、DNN26から出力されるDNN結果を認識結果として出力部25へ出力する。
なお、認識部23は、DNNに限らず、CNN(Convolutional Neural Network)やSVM(Support Vector Machine)等の他の機械学習モデルを使用して、画像データから被写体を認識する構成であってもよい。
出力部25は、認識部23から入力されるDNN結果を検知結果としてAP100へ出力する。このとき、出力部25は、撮像部21が1の画像を撮像する1フレーム期間のうち、他のセンサ12、13、14による信号線SLを使用した検知結果の出力期間と重複しない期間に、DNN結果をAP100へ出力する。
つまり、出力部25は、1フレーム期間内に、他のセンサ12、13、14による検知結果と、認識部23によるDNN結果とを時分割でシリアルにAP100へ送信する。
また、他のセンサ12、13、14も同様に、1の画像を撮像する1フレーム期間のうち、自センサ以外のセンサによる信号線SLを使用した検知結果の出力期間と重複しない期間に、DNN結果をAP100へ出力する。
ここで、DNN結果は、画像データに比べてデータ量が非常に小さい。このため、撮像装置1は、1フレーム期間の長さを延長しなくても、1フレーム期間内に、例えば、4個のセンサ11、12、13、14から出力されるDNN結果を時分割でAP100へ出力することができる。
その結果、撮像装置1は、撮像画像のフレームレートを低下させることなく、1本の信号線SLを使用して、全てのセンサ11、12、13、14の検知結果をAP100へ出力することで、AP100に設ける受信インターフェースの数を1個に抑えることができる。
なお、センサ11の出力部25は、メモリ24に記憶された画像データをAP100へ出力することもできる。ただし、センサ11の出力部25は、1フレーム期間のうち、センサ11の認識部23による認識結果の出力期間と重複しない期間に、画像データをAP100へ出力する。
また、センサ11は、他のセンサ12、13、14からDNN結果が出力される場合には、DNN結果を出力せずに、画像データのみをAP100へ出力することもできる。また、他のセンサ12、13、14も同様に、DNN結果および画像データのうち、いずれか一方または双方をAP100へ出力することができる。
4個のセンサ11、12、13、14の各出力部25は、双方向通信を行い、フレームレートが低下しないように、DNN結果および画像データから選択したデータをAP100へ送信する。次に、かかる撮像装置1の動作例について説明する。
[4.撮像装置の動作例]
図4〜図12は、本開示に係る撮像装置の動作例を示す説明図である。なお、図4〜図8では、撮像装置1の動作の理解を容易にするため、撮像装置1が2個のイメージセンサ11、12を備えるものとして説明する。また、図4〜図8では、センサ11を第1CIS、センサ2を第2CISと称して説明する。
図4〜図12は、本開示に係る撮像装置の動作例を示す説明図である。なお、図4〜図8では、撮像装置1の動作の理解を容易にするため、撮像装置1が2個のイメージセンサ11、12を備えるものとして説明する。また、図4〜図8では、センサ11を第1CIS、センサ2を第2CISと称して説明する。
図4に示すように、第1の動作例では、第1CISおよび第2CISは、まず、1フレーム目の画像の撮像処理を行う。続いて、第1CISおよび第2CISは、2フレーム目の画像の撮像処理と同時に、1フレーム目の画像データのDNN処理を行う。
その後、第1CISおよび第2CISは、3フレーム目の画像の撮像処理と同時に、2フレーム目の画像データのDNN処理を行う。このとき同時に、第1CISおよび第2CISは、1フレーム目の画像データのDNN結果を時間的に重複することなく時分割でAP100へ送信する。
このように、第1CISおよび第2CISは、3フレーム目の画像を撮像する1フレーム期間内に、フレーム期間を延長することなく、1本の信号線SLを共用して、それぞれが時分割で画像データのDNN処理結果をAP100へ送信することができる。
そして、第1CISおよび第2CISは、4フレーム目以降、撮像処理と、1フレーム前の画像データのDNN処理と、2フレーム前のDNN結果の送信とを同時に行う。これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を1個にすることができる。
また、図5に示すように、第2の動作例では、第1CISおよび第2CISは、まず、1フレーム目の画像の撮像処理を行う。続いて、第1CISは、2フレーム目の画像の撮像処理と同時に、1フレーム目の画像データをAP100へ送信する。一方、第2CISは、2フレーム目の画像の撮像処理と同時に、1フレーム目の画像データのDNN処理を行う。
その後、第1CISおよび第2CISは、3フレーム目の画像の撮像処理を行う。このとき、同時に、第1CISは、2フレーム目の画像データをAP100へ送信する。一方、第2CISは、2フレーム目の画像データのDNN処理を行うと同時に、1フレーム目の画像データのDNN結果を、第1CISによる画像データの送信期間と重複しない期間にAP100へ送信する。
このように、第1CISおよび第2CISは、3フレーム目の画像を撮像する1フレーム期間内に、フレーム期間を延長することなく、1本の信号線SLを共用して、時間的に重複することなく時分割で画像データとDNN処理結果とをAP100へ送信することができる。
そして、第1CISは、4フレーム目以降、撮像処理と同時に、1フレーム前の画像データをAP100へ送信する。一方、第2CISは、4フレーム目以降、撮像処理と、1フレーム前の画像データのDNN処理と、2フレーム前のDNN結果の送信とを同時に行う。これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を1個にすることができる。
また、図6に示すように、第3の動作例では、第1CISおよび第2CISは、まず、1フレーム目の画像の撮像処理を行う。続いて、第1CISは、2フレーム目の画像の撮像処理と同時に、1フレーム目の画像データのDNN処理を行う。一方、第2CISは、2フレーム目の画像の撮像処理と同時に、1フレーム目の画像データをAP100へ送信する。
その後、第1CISおよび第2CISは、3フレーム目の画像の撮像処理を行う。このとき同時に、第1CISは、2フレーム目の画像データのDNN処理を行うと同時に、1フレーム目の画像データのDNN結果をAP100へ送信する。一方、第2CISは、2フレーム目の画像データを、第1CISによる1フレーム目のDNN結果の送信期間と重複しない期間にAP100へ送信する。
このように、第1CISおよび第2CISは、3フレーム目の画像を撮像する1フレーム期間内に、フレーム期間を延長することなく、1本の信号線SLを共用して、時分割でDNN処理結果と画像データとをAP100へ送信することができる。
そして、第1CISは、4フレーム目以降、撮像処理と、1フレーム前の画像データのDNN処理と、2フレーム前のDNN結果の送信とを同時に行う。一方、第2CISは、4フレーム目以降、撮像処理と同時に、1フレーム前に撮像した画像データをAP100へ送信する。これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を1個にすることができる。
また、図7に示すように、第4の動作例では、第1CISおよび第2CISは、まず、1フレーム目の画像の撮像処理を行う。続いて、第1CISおよび第2CISは、2フレーム目の画像の撮像処理を行う。
このとき同時に、第1CISは、1フレーム目の画像データのDNN処理を行う。一方、第2CISは、1フレーム目の画像データをメモリ24に保持する。なお、第2CISは、メモリ24ではなく、撮像部21が備える光電変換素子のフローティングディフュージョンを利用して画像データを保持してもよい。
その後、第1CISおよび第2CISは、3フレーム目の画像の撮像処理を行う。このとき、同時に、第1CISは、1フレーム前の画像データのDNN処理と、2フレーム前のDNN結果の送信とを行う。一方、第2CISは、保持していた1フレーム目の画像データを、第1CISによるDNN結果の送信期間と重複しない期間にAP100へ送信する。このときの画像データの送信タイミングは、例えば、第1CISから第2CISへ通知する。
このように、第1CISおよび第2CISは、3フレーム目の画像を撮像する1フレーム期間内に、フレーム期間を延長することなく、1本の信号線SLを共用して、時分割でDNN処理結果と画像データとをAP100へ送信することができる。
そして、第1CISは、4フレーム目以降、撮像処理と、1フレーム前の画像データのDNN処理と、2フレーム前のDNN結果の送信とを同時に行う。一方、第2CISは、4フレーム目以降、撮像処理と同時に、2フレーム前に撮像した画像データをAP100へ送信する。
これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を1個にすることができる。しかも、第4の動作例では、第1CISは、認識部23による認識結果であるDNN結果を出力する場合、所定の対象物を認識した2フレーム前の画像データと同一のタイミングで第2CISにより生成された画像データを第2CISのメモリ24から出力させる。
これにより、撮像装置1は、AP100へ送信する画像データと、その画像データと同じタイミングで撮像された画像データのDNN結果とを、同一のフレーム期間内にAP100へ送信することができる。
また、図8に示すように、第5の動作例では、第1CISは、まず、1フレーム期間内に、1フレーム目の画像の撮像処理を行い、続いて、1フレーム目の画像データをDNN処理する。第2CISは、例えば、第1CISによる1フレーム目の撮像処理が終了し、DNN処理が開始されるタイミングで1フレーム目の画像の撮像処理を行い、撮像処理が完了した画像データから順次AP100へ送信する。
第1CISは、例えば、第2CISによる撮像処理および画像データの送信が完了するタイミングで、2フレーム目の画像の撮像処理を行い、同時に1フレーム目のDNN結果をAP100へ送信する。続いて、第1CISは、2フレーム目の画像データをDNN処理する。
第2CISは、例えば、第1CISによる2フレーム目の撮像処理および1フレーム目のDNN結果の送信が終了し、2フレーム目のDNN処理が開始されるタイミングで2フレーム目の撮像処理および画像データの送信を行う。
以後、第1CISおよび第2CISは、上記した動作を繰り返し行う。これにより、第2CISが画像を撮像する各1フレーム期間内に、画像データをAP100へ送信することができ、第1CISが第2SICによる画像データの送信と重複しない期間に、DNN結果をAP100へ送信することができる。
なお、前述したように、DNN結果は、画像データに比べてデータ量が非常に小さい。このため、図9に示す第6動作例のように、各センサ11、12、13、14は、フレーム期間を大きく延長しなくても、1フレーム期間内に、撮像処理、DNN処理、画像データの送信、およびDNN結果の送信を行うこともできる。このとき、各センサ11、12、13、14は、被写体を認識したDNN結果の送信期間と重複しない期間に、撮像した画像データを送信する。
これにより、撮像装置1は、図10に示すように、例えば、センサ11、12のフレームレートが30fpsの場合、センサ11による画像データD1およびDNN結果D11の送信終了タイミングまで、センサ12のVsyncの位相をシフトする。
ここで、Vsyncの位相のシフト量が、例えば、センサ11の1フレーム期間の半分に相当していたとする。かかる場合、信号線SLによって60fpsのフレームレートで画像データD1およびDNN結果D11と、画像データD2およびDNN結果D12とをAP100へ送信することができる。
また、撮像装置1は、例えば、図11に示すように、フレームレートを低下させることなく、1フレーム期間内に、センサ11の画像データD1と、センサ11のDNN結果と、センサ12のDNN結果とを時分割でAP100へ送信することもできる。
このように、撮像装置1は、1フレーム期間内に、一つの画像データと、複数のセンサ11、12のDNN結果とを時分割でAP100へ送信することができる。このため、撮像装置1は、例えば、図12に示すように、フレームレートを低下させることなく、1フレーム期間内に、センサ11の画像データD1、DNN結果D11、およびセンサ12、13、14のDNN結果D12、D13、D14を時分割でAP100へ送信することができる。
[5.撮像装置の搭載例]
次に、図13は、本開示に係る撮像装置の搭載例を示す説明図である。図13に示すように、撮像装置1は、例えば、ドローン101に搭載される。撮像装置1は、ドローン101に搭載される場合、センサ11、12、13、14は、例えば、ドローン101の前後左右に設けられる。なお、AP100は、例えば、ドローン101の中央に設けられる。
次に、図13は、本開示に係る撮像装置の搭載例を示す説明図である。図13に示すように、撮像装置1は、例えば、ドローン101に搭載される。撮像装置1は、ドローン101に搭載される場合、センサ11、12、13、14は、例えば、ドローン101の前後左右に設けられる。なお、AP100は、例えば、ドローン101の中央に設けられる。
かかる場合、撮像装置1では、4個のセンサ11、12、13、14のうち、いずれか一つが1フレーム期間に画像データをAP100へ送信し、4個のセンサ11、12、13、14のそれぞれがDNN結果をAP100へ送信する。
これにより、撮像装置1は、フレームレートを低下させることなく、1本の信号線SLによって、4個のセンサ11、12、13、14のうちの一つから画像データを、全センサ11、12、13、14からDNN結果をAP100へ送信することができる。
また、撮像装置1は、AP100へ画像データの送信を行わせるセンサ11、12、13、14を切替えることも可能である。かかる場合、撮像装置1は、1フレーム前のDNN結果に基づいて、AP100へ画像データの送信を行わせるセンサ11、12、13、14を選択する。
例えば、撮像装置1は、1フレーム前の画像から撮像目的の被写体が認識されたDNN結果をセンサ11が送信した場合、センサ11に画像データを送信させ、DNN結果については、全部のセンサ11、12、13、14に送信させる。これにより、撮像装置1は、撮像目的の被写体が移動したり、ドローン101が向きを変えたりする場合であっても、撮像目的の被写体を追跡して撮像することができる。
また、撮像装置1は、例えば、4個のセンサ11、12、13、14から1フレーム期間に1回ずつ順番に画像データを送信させ、DNN結果については、全部のセンサ11、12、13、14に送信させることもできる。これにより、撮像装置1は、ドローン101の周囲を監視することができる。
[6.送信データの時分割方法]
次に、図14および図15を参照し、撮像装置による送信データの時分割方法の一例について説明する。図14および図15は、本開示に係る撮像装置による送信データの時分割方法の一例を示す説明図である。
次に、図14および図15を参照し、撮像装置による送信データの時分割方法の一例について説明する。図14および図15は、本開示に係る撮像装置による送信データの時分割方法の一例を示す説明図である。
ここでは、撮像装置1が2個の第1センサCISおよび第2CISを備える場合を例に挙げて説明する。また、ここでは、第1CISが画像データを送信し、第2CISがDNN結果を送信する場合について説明する。
図14に示すように、撮像装置1は、例えば、Frame−by−Frameインターリーブによって画像データおよびDNN結果を送信することができる。Frame−by−Frameインターリーブでは、第1CISが、まず、フレームスタート信号FSをAPへ送信した後、時分割した1フレーム分の画像データを順次APへ送信する。
その後、第2CISは、第1CISによる画像データの送信が完了すると、時分割した1フレーム分の画像データのDNN結果を順次順次APへ送信し、最後に、フレームエンド信号FEを順次APへ送信する。これにより、フレームスタート信号FS、画像データ、DNNデータ、およびフレームエンド信号FEの順に多重化されたデータが信号線SLを介してAPへ送信される。
また、図15に示すように、撮像装置1は、例えば、Line−by−Lineインターリーブによって画像データおよびDNN結果を送信することもできる。Line−by−Lineインターリーブでは、第1CISおよび第2CISが、まず、フレームスタート信号FSをAPへ送信する。
その後、第1CISは、時分割した1フレーム分の画像データの分割データを間欠的にAPへ送信する。一方、第2CISは、第1CISによって各分割データが送信されてから次の分割データが送信されるまでの各期間に、1フレーム分のDNN結果の分割データをAPへ送信する。
これにより、フレームスタート信号FSと、フレームエンド信号FEとの間に、画像データの分割データと、DNN結果の分割データとが交互に多重化されたデータが信号線SLを介してAPへ送信される。
[7.効果]
上述したように、撮像装置1は、1の信号線SLを共用して検知結果を処理装置の一例であるAP100へ出力する複数のイメージセンサ11、12、13、14を備える。少なくとも1以上のイメージセンサ11は、撮像部21と、認識部23と、出力部25とを有する。撮像部21は、画像を撮像して画像データを生成する。認識部23は、画像データから所定の対象物を認識する。出力部25は、撮像部21が1の画像を撮像する1フレーム期間のうち、他のイメージセンサ12、13、14による信号線SLを使用した検知結果の出力期間と重複しない期間に、認識部23による認識結果をAP100へ出力する。これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を低減することができる。
上述したように、撮像装置1は、1の信号線SLを共用して検知結果を処理装置の一例であるAP100へ出力する複数のイメージセンサ11、12、13、14を備える。少なくとも1以上のイメージセンサ11は、撮像部21と、認識部23と、出力部25とを有する。撮像部21は、画像を撮像して画像データを生成する。認識部23は、画像データから所定の対象物を認識する。出力部25は、撮像部21が1の画像を撮像する1フレーム期間のうち、他のイメージセンサ12、13、14による信号線SLを使用した検知結果の出力期間と重複しない期間に、認識部23による認識結果をAP100へ出力する。これにより、撮像装置1は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を低減することができる。
また、他のイメージセンサ12、13、14は、検知結果として所定の対象物の認識結果を出力する。かかる認識結果は、画像データに比べてデータ量が非常に小さい。このため、撮像装置1は、撮像画像のフレームレートを低下させることなく、1フレーム期間に、複数のセンサによる認識結果をAP100へ送信することができる。
また、出力部25は、1フレーム期間のうち、信号線SLを使用した認識部23による認識結果の出力期間と重複しない期間に、撮像部21によって生成された画像データを出力する。これにより、撮像装置1は、例えば、イメージセンサ11にだけ画像データを送信させ、他のイメージセンサ12、13、14には、認識結果を送信させることにより、フレームレートの低下を抑制することができる。
また、他のイメージセンサ12、13、14は、検知結果として画像データを出力する。これにより、撮像装置1は、イメージセンサ11、12、13、14のうち、いずれか一つから画像データを送信させ、他からは、認識結果を送信させることにより、フレームレートの低下を抑制することができる。
また、他のイメージセンサ12、13、14は、画像データを一時的に保持するメモリ24を備える。出力部25は、認識部23による認識結果を出力する場合に、所定の対象物を認識した画像データと同一のタイミングで生成された画像データを他のイメージセンサ12、13、14のメモリ24から出力させる。これにより、撮像装置1は、AP100へ送信する画像データと、その画像データと同じタイミングで撮像された画像データの認識結果とを、同一のフレーム期間内にAP100へ送信することができる。
他のイメージセンサ12、13、14は、撮像部21とは異なるタイミングで画像の撮像を行う。出力部25は、他のイメージセンサ12、13、14によって画像データが出力される期間を含む1フレーム期間内に、認識部23による認識結果を出力する。これにより、撮像装置1は、イメージセンサ11の認識結果と、他のイメージセンサ12、13、14の画像データとを同一の1フレーム期間内に送信することにより、フレームレートの低下を抑制することができる。
また、1フレーム期間内に処理装置へ画像データを送信するイメージセンサは、複数のイメージセンサ11、12、13、14のうちのいずれか一つである。これにより、撮像装置1は、1フレーム期間に送信するデータ量を抑えることにより、フレームレートの低下を抑制することができる。
また、1フレーム期間内に処理装置へ画像データを送信するイメージセンサは、1フレーム前の認識部23による認識結果に基づいて決定される。これにより、撮像装置1は、例えば、複数のイメージセンサ11、12、13、14によって、撮像目的の被写体を追跡して撮像することができる。
また、1フレーム期間内に処理装置へ画像データを送信するイメージセンサは、順番に変更される。これにより、撮像装置1は、例えば、複数のイメージセンサ11、12、13、14によって、周囲を監視することができる。
1の信号線SLを共用して検知結果を処理装置の一例であるAP100へ出力する複数のイメージセンサ11、12、13、14のうち、少なくとも1以上のイメージセンサが、画像を撮像して画像データを生成し、画像データから所定の対象物を認識し、1の画像を撮像する1フレーム期間のうち、他のイメージセンサによる信号線を使用した検知結果の出力期間と重複しない期間に、所定の対象物の認識結果を処理装置へ出力する。これにより、撮像方法は、撮像画像のフレームレートを低下させることなく、AP100に設ける受信インターフェースの個数を低減することができる。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術は以下のような構成も取ることができる。
(1)
1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサを備え、
少なくとも1以上の前記イメージセンサは、
画像を撮像して画像データを生成する撮像部と、
前記画像データから所定の対象物を認識する認識部と、
前記撮像部が1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記認識部による認識結果を前記処理装置へ出力する出力部と
を有する撮像装置。
(2)
前記他のイメージセンサは、
前記検知結果として前記所定の対象物の認識結果を出力する
前記(1)に記載の撮像装置。
(3)
前記出力部は、
前記1フレーム期間のうち、前記信号線を使用した前記認識部による認識結果の出力期間と重複しない期間に、前記撮像部によって生成された画像データを出力する
前記(1)または(2)に記載の撮像装置。
(4)
前記他のイメージセンサは、
前記検知結果として前記画像データを出力する
前記(1)〜(3)のいずれか一つに記載の撮像装置。
(5)
前記他のイメージセンサは、
画像データを一時的に保持するメモリを備え、
前記出力部は、
前記認識部による認識結果を出力する場合に、前記所定の対象物を認識した画像データと同一のタイミングで生成された画像データを前記他のイメージセンサの前記メモリから出力させる
前記(4)に記載の撮像装置。
(6)
前記他のイメージセンサは、
前記撮像部とは異なるタイミングで前記画像の撮像を行い、
前記出力部は、
前記他のイメージセンサによって前記画像データが出力される期間を含む前記1フレーム期間内に、前記認識部による認識結果を出力する
前記(4)または(5)に記載の撮像装置。
(7)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、前記複数のイメージセンサのうちのいずれか一つである
前記(1)〜(6)のいずれか一つに記載の撮像装置。
(8)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、1フレーム前の前記認識部による認識結果に基づいて決定される
前記(7)に記載の撮像装置。
(9)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、順番に変更される
前記(7)に記載の撮像装置。
(10)
1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサのうち、少なくとも1以上のイメージセンサが、
画像を撮像して画像データを生成し、
前記画像データから所定の対象物を認識し、
1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記所定の対象物の認識結果を前記処理装置へ出力する
ことを含む撮像方法。
(1)
1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサを備え、
少なくとも1以上の前記イメージセンサは、
画像を撮像して画像データを生成する撮像部と、
前記画像データから所定の対象物を認識する認識部と、
前記撮像部が1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記認識部による認識結果を前記処理装置へ出力する出力部と
を有する撮像装置。
(2)
前記他のイメージセンサは、
前記検知結果として前記所定の対象物の認識結果を出力する
前記(1)に記載の撮像装置。
(3)
前記出力部は、
前記1フレーム期間のうち、前記信号線を使用した前記認識部による認識結果の出力期間と重複しない期間に、前記撮像部によって生成された画像データを出力する
前記(1)または(2)に記載の撮像装置。
(4)
前記他のイメージセンサは、
前記検知結果として前記画像データを出力する
前記(1)〜(3)のいずれか一つに記載の撮像装置。
(5)
前記他のイメージセンサは、
画像データを一時的に保持するメモリを備え、
前記出力部は、
前記認識部による認識結果を出力する場合に、前記所定の対象物を認識した画像データと同一のタイミングで生成された画像データを前記他のイメージセンサの前記メモリから出力させる
前記(4)に記載の撮像装置。
(6)
前記他のイメージセンサは、
前記撮像部とは異なるタイミングで前記画像の撮像を行い、
前記出力部は、
前記他のイメージセンサによって前記画像データが出力される期間を含む前記1フレーム期間内に、前記認識部による認識結果を出力する
前記(4)または(5)に記載の撮像装置。
(7)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、前記複数のイメージセンサのうちのいずれか一つである
前記(1)〜(6)のいずれか一つに記載の撮像装置。
(8)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、1フレーム前の前記認識部による認識結果に基づいて決定される
前記(7)に記載の撮像装置。
(9)
前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、順番に変更される
前記(7)に記載の撮像装置。
(10)
1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサのうち、少なくとも1以上のイメージセンサが、
画像を撮像して画像データを生成し、
前記画像データから所定の対象物を認識し、
1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記所定の対象物の認識結果を前記処理装置へ出力する
ことを含む撮像方法。
1 撮像装置
11、12、13、14 センサ
21 撮像部
22 信号処理部
23 認識部
24 メモリ
25 出力部
26 DNN
100 AP
11、12、13、14 センサ
21 撮像部
22 信号処理部
23 認識部
24 メモリ
25 出力部
26 DNN
100 AP
Claims (10)
- 1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサを備え、
少なくとも1以上の前記イメージセンサは、
画像を撮像して画像データを生成する撮像部と、
前記画像データから所定の対象物を認識する認識部と、
前記撮像部が1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記認識部による認識結果を前記処理装置へ出力する出力部と
を有する撮像装置。 - 前記他のイメージセンサは、
前記検知結果として前記所定の対象物の認識結果を出力する
請求項1に記載の撮像装置。 - 前記出力部は、
前記1フレーム期間のうち、前記信号線を使用した前記認識部による認識結果の出力期間と重複しない期間に、前記撮像部によって生成された画像データを出力する
請求項1に記載の撮像装置。 - 前記他のイメージセンサは、
前記検知結果として前記画像データを出力する
請求項1に記載の撮像装置。 - 前記他のイメージセンサは、
画像データを一時的に保持するメモリを備え、
前記出力部は、
前記認識部による認識結果を出力する場合に、前記所定の対象物を認識した画像データと同一のタイミングで生成された画像データを前記他のイメージセンサの前記メモリから出力させる
請求項4に記載の撮像装置。 - 前記他のイメージセンサは、
前記撮像部とは異なるタイミングで前記画像の撮像を行い、
前記出力部は、
前記他のイメージセンサによって前記画像データが出力される期間を含む前記1フレーム期間内に、前記認識部による認識結果を出力する
請求項4に記載の撮像装置。 - 前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、前記複数のイメージセンサのうちのいずれか一つである
請求項1に記載の撮像装置。 - 前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、1フレーム前の前記認識部による認識結果に基づいて決定される
請求項7に記載の撮像装置。 - 前記1フレーム期間内に前記処理装置へ前記画像データを送信するイメージセンサは、順番に変更される
請求項7に記載の撮像装置。 - 1の信号線を共用して検知結果を処理装置へ出力する複数のイメージセンサのうち、少なくとも1以上のイメージセンサが、
画像を撮像して画像データを生成し、
前記画像データから所定の対象物を認識し、
1の前記画像を撮像する1フレーム期間のうち、他の前記イメージセンサによる前記信号線を使用した検知結果の出力期間と重複しない期間に、前記所定の対象物の認識結果を前記処理装置へ出力すること
を含む撮像方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019090224A JP2020188323A (ja) | 2019-05-10 | 2019-05-10 | 撮像装置および撮像方法 |
US17/607,590 US20220224830A1 (en) | 2019-05-10 | 2020-04-28 | Imaging device and imaging method |
CN202080026576.9A CN113661700B (zh) | 2019-05-10 | 2020-04-28 | 成像装置与成像方法 |
PCT/JP2020/018197 WO2020230635A1 (ja) | 2019-05-10 | 2020-04-28 | 撮像装置および撮像方法 |
TW109114274A TWI742636B (zh) | 2019-05-10 | 2020-04-29 | 攝像裝置及攝像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019090224A JP2020188323A (ja) | 2019-05-10 | 2019-05-10 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020188323A true JP2020188323A (ja) | 2020-11-19 |
Family
ID=73222080
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019090224A Pending JP2020188323A (ja) | 2019-05-10 | 2019-05-10 | 撮像装置および撮像方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220224830A1 (ja) |
JP (1) | JP2020188323A (ja) |
TW (1) | TWI742636B (ja) |
WO (1) | WO2020230635A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111756963B (zh) * | 2019-03-29 | 2022-01-14 | 华为技术有限公司 | 图像摄取模组及电子终端 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5495625B2 (ja) * | 2009-06-01 | 2014-05-21 | キヤノン株式会社 | 監視カメラシステム、監視カメラ及び監視カメラ制御装置 |
JP6695739B2 (ja) * | 2016-05-26 | 2020-05-20 | ソニーセミコンダクタソリューションズ株式会社 | 処理装置、画像センサ、およびシステム |
US20200186841A1 (en) * | 2017-06-09 | 2020-06-11 | Sony Semiconductor Solutions Corporation | Picture transmission device and picture reception device |
JP6988698B2 (ja) * | 2018-05-31 | 2022-01-05 | トヨタ自動車株式会社 | 物体認識装置 |
CN113168502A (zh) * | 2018-12-14 | 2021-07-23 | 英特尔公司 | 用于可变计算资源的动态自适应卷积神经网络 |
JP6644231B1 (ja) * | 2019-04-26 | 2020-02-12 | Awl株式会社 | 画像分析装置、及び画像分析システム |
-
2019
- 2019-05-10 JP JP2019090224A patent/JP2020188323A/ja active Pending
-
2020
- 2020-04-28 WO PCT/JP2020/018197 patent/WO2020230635A1/ja active Application Filing
- 2020-04-28 US US17/607,590 patent/US20220224830A1/en active Pending
- 2020-04-29 TW TW109114274A patent/TWI742636B/zh active
Also Published As
Publication number | Publication date |
---|---|
CN113661700A (zh) | 2021-11-16 |
US20220224830A1 (en) | 2022-07-14 |
TW202103055A (zh) | 2021-01-16 |
WO2020230635A1 (ja) | 2020-11-19 |
TWI742636B (zh) | 2021-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101400515B1 (ko) | 다중 이미지 센서들로부터 데이터의 결합 | |
KR101512222B1 (ko) | 다중 이미지 센서들로부터 데이터의 결합 | |
US20140368609A1 (en) | Systems And Methods For Generating A Panoramic Image | |
US20120050592A1 (en) | High-speed video camera | |
US10148936B2 (en) | Multi-band image sensor for providing three-dimensional color images | |
US9832382B2 (en) | Imaging apparatus and imaging method for outputting image based on motion | |
US11431941B2 (en) | Method, apparatus, and system for processing digital images | |
KR20210046654A (ko) | 화상 처리 장치 및 화상 처리 시스템 | |
JP6976776B2 (ja) | 固体撮像装置、撮像システム、及び移動体 | |
JP6903925B2 (ja) | 撮像表示システム、乗用装置 | |
US9247168B2 (en) | Imaging device including focusing pixels | |
WO2019241331A1 (en) | Method, apparatus, and system for processing digital images | |
JP2020188323A (ja) | 撮像装置および撮像方法 | |
KR20130133370A (ko) | 이미지 처리 방법 및 장치 | |
TWI475875B (zh) | 三維影像產生裝置 | |
JP7118659B2 (ja) | 撮像装置、撮像装置の制御方法及びプログラム | |
JP6815926B2 (ja) | 撮像装置、撮像システム、移動体、チップ | |
US11729506B2 (en) | Imaging element with processor configured to receive vibration information, imaging apparatus, operation method of imaging element, and program | |
JP6280713B2 (ja) | 撮像装置 | |
JP7414733B2 (ja) | 受信装置および送信装置 | |
JP2007243819A (ja) | 画像処理装置 | |
JP6142005B2 (ja) | 撮像装置、カメラシステム、および信号出力方法 | |
JP2013183383A (ja) | 撮像装置、撮像方法、及びプログラム | |
JP2009193337A (ja) | ページメモリコントローラ | |
CN113170029A (zh) | 图像处理装置和图像处理方法 |