JP7589153B2 - 通信システム - Google Patents

通信システム Download PDF

Info

Publication number
JP7589153B2
JP7589153B2 JP2021536964A JP2021536964A JP7589153B2 JP 7589153 B2 JP7589153 B2 JP 7589153B2 JP 2021536964 A JP2021536964 A JP 2021536964A JP 2021536964 A JP2021536964 A JP 2021536964A JP 7589153 B2 JP7589153 B2 JP 7589153B2
Authority
JP
Japan
Prior art keywords
image data
roi
information
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021536964A
Other languages
English (en)
Other versions
JPWO2021020214A1 (ja
Inventor
直樹 吉持
泰史 佐藤
宏介 長野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2021020214A1 publication Critical patent/JPWO2021020214A1/ja
Application granted granted Critical
Publication of JP7589153B2 publication Critical patent/JP7589153B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45452Input to filtering algorithms, e.g. filtering a region of the image applied to an object-based stream, e.g. MPEG-4 streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Databases & Information Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Analysis (AREA)

Description

本開示は、通信システムに関する。
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
従来では、伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われている。なお、撮影した画像から一部の画像を切り出すことについては、例えば、下記の特許文献に記載されている。
特開2016-201756号公報 特開2014-39219号公報 特開2013-164834号公報 特開2012-209831号公報
通常、ROI伝送では、撮像装置が静止状態であることが前提となっている。そのため、撮像装置が移動する場合には、元の全体画像とROI画像との位置関係が撮像装置の移動に伴って変化してしまい、ROIを適切に伝送することが困難になってしまう。撮像装置が移動する場合であっても、ROIを適切に伝送することの可能な通信システムを提供することが望ましい。
本開示の一実施形態に係る第1の通信システムは、送信装置と、受信装置とを備えている。送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI画像データとを選択的に受信装置に送信する第1送信部を有している。受信装置は、異なる撮像タイミングにより得られた複数の第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、第2画像データにおけるROI情報を生成する第2生成部と、動き情報およびROI情報を送信装置に送信する第2送信部とを有している。送信装置は、動き情報およびROI情報を用いて、第2画像データからROI画像データを抽出する抽出部を更に有している。
本開示の一実施形態に係る第1の通信システムでは、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI画像データとが選択的に送信装置から受信装置に送信される。異なる撮像タイミングにより得られた複数の第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて生成された動き情報と、第2画像データにおけるROI情報とが受信装置から送信装置に送信される。そして、送信装置において、動き情報およびROI情報を用いて、第2画像データから1または複数のROI画像データが抽出される。これにより、例えば、送信装置が移動する場合であっても、送信装置の移動が考慮されたROI画像データを得ることができる。
本開示の一実施形態に係る第2の通信システムは、送信装置と、受信装置とを備えている。送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI画像データとを選択的に受信装置に送信する第1送信部を有している。受信装置は、撮像タイミングの互いに異なる複数の第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、動き情報を用いて、第2画像データにおけるROI情報を生成する第2生成部と、ROI情報を送信装置に送信する第2送信部とを有している。送信装置は、ROI情報を用いて、第2画像データからROI画像データを抽出する。
本開示の一実施形態に係る第2の通信システムでは、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出された1または複数のROI画像データとが選択的に送信装置から受信装置に送信される。撮像タイミングの互いに異なる複数の第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて生成された動き情報を用いて生成された、第2画像データにおけるROI情報が受信装置から送信装置に送信される。そして、送信装置において、ROI情報を用いて、第2画像データからROI画像データが抽出される。これにより、例えば、送信装置が移動する場合であっても、送信装置の移動が考慮されたROI画像データを得ることができる。
通信システムの概略構成例を表す図である。 画像センサの概略構成例を表す図である。 プロセッサの概略構成例を表す図である。 MIPIで利用されるパケットの構成例を表す図である。 MIPIで利用される伝送データの構成例を表す図である。 MIPIで利用される伝送データの構成例を表す図である。 伝送データの構成例を表す図である。 対象物の動きに追従してROI画像を設定したり、カメラの動きを検出したりする様子の一例を表す図である。 図2の画像センサおよび図3のプロセッサを備えた通信システムにおけるデータ伝送の手順の一例を表す図である。 図9に続く手順の一例を表す図である。 画像センサの概略構成の一変形例を表す図である。 対象物の動きに追従してROI画像を設定したり、カメラの動きを検出したりする様子の一例を表す図である。 図9に記載の手順において、S102に置き換え可能な手順の一例を表す図である。 画像センサの概略構成の一変形例を表す図である。 画像センサの概略構成の一変形例を表す図である。 図15の画像センサを備えた通信システムにおけるプロセッサの概略構成の一例を表す図である。 画像センサの概略構成の一変形例を表す図である。 図17の画像センサを備えた通信システムにおけるプロセッサの概略構成の一例を表す図である。 図17の画像センサおよび図16のプロセッサを備えた通信システムにおけるデータ伝送の手順の一例を表す図である。 図19に続く手順の一例を表す図である。 図19に記載の手順において、S201に置き換え可能な手順の一例を表す図である。 プロセッサの概略構成の一変形例を表す図である。 図1の通信システムの概略構成の一変形例を表す図である。 上記通信システムが適用された車載用カメラの設置例を表す図である。 車載用カメラに上記通信システムを適用した一構成例を表す図である。
以下、本開示を実施するための形態について、図面を参照して詳細に説明する。以下の説明は本開示の一具体例であって、本開示は以下の態様に限定されるものではない。
<1.実施の形態>
[構成]
図1は、本実施の形態に係る通信システム1000の概略構成例を表したものである。通信システム1000は、データ信号、クロック信号および制御信号の伝送に適用されるものであり、画像センサ100(送信装置)およびプロセッサ200(受信装置)を備えている。
画像センサ100とプロセッサ200とは、データバスB1により電気的に接続される。データバスB1は、画像センサ100とプロセッサ200とを接続する、一の信号の伝送路である。画像センサ100から送信される画像を示すデータ(以下、「画像データ」と称する。)は、画像センサ100からプロセッサ200へとデータバスB1を介して伝送される。画像センサ100とプロセッサ200とはバス(制御バスB2)により電気的に接続されていてもよい。制御バスB2は、画像センサ100とプロセッサ200とを接続する、他の一の信号の伝送路であり、データバスB1とは異なる伝送路である。プロセッサ200から送信される制御データが、プロセッサ200から画像センサ100へと制御バスB2を介して伝送される。
画像センサ100は、撮像機能と送信機能とを有し、撮像により生成した画像データを送信する。画像センサ100は、通信システム1000において送信装置の役目を果たす。画像センサ100は、例えば、“デジタルスチルカメラやデジタルビデオカメラ、ステレオカメラなどの撮像デバイス”や、“赤外線センサ”、“距離画像センサ”などの、画像を生成することが可能な任意の方式の画像センサデバイスを含み、生成された画像を送信する機能を有する。画像センサ100において生成される画像は、画像センサ100におけるセンシング結果を示すデータに該当する。画像センサ100の構成の一例については、後に図2を用いて詳述する。
画像センサ100は、後述する送信方法により、画像データに対して設定される領域に対応するデータ(以下、「領域の画像データ」とも称する。)を送信する。領域の画像データの送信に係る制御は、例えば、画像センサ100における画像処理部として機能する構成要素(後述する)により行われる。画像に対して設定される領域は、ROI(Region Of Interest)と呼ばれる。以下では、画像に対して設定される領域を、「ROI」と称する。また、領域の画像データを、「ROIの画像データ」と称する。
画像に対する領域の設定に係る処理としては、例えば、「画像から物体を検出し、検出された物体を含む領域を設定する処理」、「任意の操作デバイスに対する操作などにより指定された領域を設定する処理」など、画像における一部の領域を特定することが可能な任意の処理(または、画像から一部の領域を切り出すことが可能な任意の処理)が、挙げられる。
画像センサ100は、ROIの画像データを送信すること、すなわち、画像データの一部を送信することによって、画像データ全体を伝送するよりも伝送に係るデータ量を小さくする。よって、画像センサ100が、ROIの画像データを送信することによって、例えば、伝送時間が短縮される、通信システム1000における伝送に係る負荷が低減されるなど、データ量が低減されることにより奏される様々な効果が、奏される。なお、画像センサ100は、画像センサ100の移動の有無にかかわらず、画像データから1または複数のROIの画像データを抽出し、抽出した1または複数のROIの画像データを送信することが可能である。また、画像センサ100は、画像データ全体を送信することも可能である。
プロセッサ200は、画像センサ100から送信されたデータを受信し、受信されたデータを処理する。プロセッサ200は、通信システム1000において受信装置の役目を果たす。画像センサ100から送信されたデータの処理に係る構成(受信装置の役目を果たすための構成)の一例については、後に図3を用いて詳述する。
プロセッサ200は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサや、各種処理回路などで構成される。プロセッサ200は、例えば、記録媒体への画像データの記録制御に係る処理、表示デバイスの表示画面への画像の表示制御に係る処理、任意のアプリケーションソフトウェアを実行する処理など、様々な処理を行う。記録制御に係る処理としては、例えば“記録命令を含む制御データと記録媒体に記録させるデータとを記録媒体に伝達する処理”が、挙げられる。また、表示制御に係る処理としては、例えば“表示命令を含む制御データと表示画面に表示させるデータとを表示デバイスに伝達する処理”が、挙げられる。プロセッサ200は、例えば、画像センサ100に対して制御情報を送信することによって、画像センサ100における機能を制御してもよい。プロセッサ200は、例えば、画像センサ100に対して領域指定情報を送信することによって、画像センサ100から送信されるデータを制御することも可能である。
(パケットの構造)
次に、通信システム1000において、画像センサ100からプロセッサ200への画像の送信に利用されるパケットの構造の一例について説明する。通信システム1000では、画像センサ100により撮像された画像データが行単位の部分画像データに分割され、行ごとの部分画像データが1以上のパケットを利用して送信される。これは、ROIの画像データについても同様である。
図4は、通信システム1000において画像データの送信に利用されるパケット(Packet)の構造の一例を表したものである。図4には、MIPI CSI-2規格もしくはMIPI CSI-3規格で画像データを送信する際に利用されるパケットの構造の一例が示されている。図5、図6は、通信システム1000において画像センサ100からプロセッサ200に送信される伝送データ130Aの一例を表したものである。図5、図6には、MIPI CSI-2規格もしくはMIPI CSI-3規格で画像データを送信する際に利用される伝送データ130Aの一例が示されている。
図4に示すように、画像データの送信に利用されるパケットは、データストリーム中において、ローパワーモードLPで開始され、ローパワーモードLPで終了する一連のデータとして規定される。また、当該パケットには、パケットヘッダPHと、ペイロードデータ(Payload Data)と、パケットフッタPFとがこの順に配列されて含まれる。ペイロードデータ(以下、単に「ペイロード」とも称する)には、行単位の部分画像のピクセルデータが含まれる。
パケットヘッダPHは、例えば、LongPacketのPayloadDataのパケットヘッダである。LongPacketとは、パケットヘッドPHとパケットフッタPFとの間に配置されるパケットを指している。LongPacketのPayloadDataとは、装置間で伝送される主要なデータを指している。パケットヘッダPHには、例えば、DI、WCおよびECCが含まれている。DIは、データ識別子を格納する領域である。DIには、VC(バーチャルチャネル)の番号およびDataType(各ROIのデータタイプ)が含まれている。VCは、パケットのフロー制御のために導入された概念であり、同一のリンクを共用する複数の独立したデータストリームをサポートするためのメカニズムである。WCは、プロセッサ200に対してパケットの終わりをワード数で示すための領域である。WCには、例えば、Payload長が含まれている。Payload長は、例えば、LongPacketのPayloadに含まれるバイト数であり、例えば、ROIごとのバイト数である。ECCは、ビットエラーを修正するための値を格納する領域である。ECCには、誤り訂正符号が含まれている。
伝送データ130Aは、例えば、図5、図6に示したような画像データフレームによって構成されている。画像データフレームは、通常、ヘッダ領域、パケット領域、およびフッタ領域を有している。図5、図6では、便宜的に、フッタ領域の記載が省略されている。画像データフレームにおいて、ヘッダ領域R1には、EmbeddedDataが含まれている。EmbeddedDataとは、画像データフレームのヘッダもしくはフッタに埋め込むことの可能な追加情報を指している。このとき、EmbeddedDataには、フレーム番号と、ROI数と、ROI情報が含まれている。
フレーム番号は、伝送データ130Aの識別子である。ROI数は、伝送データ130Aに含まれるROIの総数である。ROI情報は、伝送データ130Aに含まれるROIごとに設けられた、ROIについての情報である。
ROI情報は、例えば、画像データに含まれる1または複数のROIの領域番号(もしくは優先度)と、画像データにおける1または複数のROIの位置情報とを含んでいる。ROIの領域番号は、ROIごとに付与された識別子である。ROIの優先度は、ROIごとに付与された識別子であり、画像データにおける複数のROIのいずれに対して重なり領域の割愛が行われたかを判別することの可能な判別情報である。
ROIの位置情報は、例えば、ROIの左上端座標(Xa,Ya)と、ROIのX軸方向の長さと、ROIのY軸方向の長さとを含んでいる。ROIのX軸方向の長さは、例えば、ROIのX軸方向の物理領域長さXLaである。ROIのY軸方向の長さは、例えば、ROIのY軸方向の物理領域長さYLaである。物理領域長さとは、ROIの物理的な長さ(データ長)を指している。ROIの位置情報において、ROIの左上端とは異なる位置の座標が含まれていてもよい。ROIの位置情報は、例えば、さらに、ROIのX軸方向の出力領域長さXLcや、ROIのY軸方向の出力領域長さYLcを含んでいる。出力領域長さとは、例えば、ROIに対して間引き処理や画素加算などによる解像度変更がなされた後のROIの物理的な長さ(データ長)である。
ROI情報は、さらに、ROIごとに、位置情報の他に、例えば、センシングインフォメーション、露光情報、ゲイン情報、AD(Analog-Digital)語長、画像フォーマットなどを含んでいてもよい。センシングインフォメーションとは、ROIに含まれる物体についての演算内容や、ROIの画像データに対する後段信号処理のための補足情報などを指している。露光情報とは、ROIの露光時間を指している。ゲイン情報とは、ROIのゲイン情報を指している。AD語長とは、ROI内でAD変換された1画素あたりのデータの語長を指している。画像フォーマットとは、ROIの画像のフォーマットを指している。
また、図5、図6に示したように、データフレームにおいて、パケット領域R2には、1ラインごとに、LongPacketのPayloadDataが含まれており、さらに、LongPacketのPayloadDataを挟み込む位置にパケットヘッダPHおよびパケットフッタPFが含まれている。さらに、パケットヘッダPHとパケットフッタPFを挟み込む位置にローパワーモードLPが含まれている。
また、パケット領域R2には、圧縮画像データ126Aが含まれている。圧縮画像データ126Aは、1つの圧縮画像データ、もしくは複数の圧縮画像データによって構成されている。各ラインのLongPacketのPayloadDataには、圧縮画像データ126Aにおける1ライン分のピクセルデータが含まれている。
(画像センサ100)
図2は、画像センサ100の構成の一例を表したものである。図2に記載の構成は、CSIトランスミッタの一具体例に相当する。画像センサ100は、例えば、撮像部110、画像処理部120および送信部130を有している。画像センサ100は、撮像部110で得られた画像データ110Aに対して所定の処理を行うことにより生成した伝送データ130Aを、データバスB1を介してプロセッサ200に送信する。
撮像部110は、例えば、光学レンズなどを通して得られた光学的な画像信号を画像データに変換する。撮像部110は、例えば、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含んで構成されている。撮像部110は、アナログ-デジタル変換回路を有しており、アナログの画像データをデジタルの画像データに変換する。変換した後のデータ形式は、各画素の色を輝度成分Yおよび色差成分Cb,Crで表現するYCbCr形式であってもよいし、RGB形式などであってもよい。撮像部110は、撮像により得られた画像データ110A(デジタルの画像データ)を画像処理部120に出力する。
画像処理部120は、例えば、スイッチ部121、ROI検出部122、動き検出部123、制御部124、ROI切り出し部125およびスイッチ部126を有している。
スイッチ部121は、制御部124から入力される制御信号124Dに基づいて、撮像部110で得られた画像データ110Aの、後段のスイッチ部126への出力を制御する。制御信号124Dは、画像データ110Aを取得するタイミングを制御する信号であり、また、後述のROI情報122A、動き情報124Bおよび制御信号124Cの更新タイミングを制御する信号である。スイッチ部121は、例えば、制御信号124Dの入力に応じて、所定の周期T1で画像データ110Aを出力する。
ROI検出部122は、画像データ110Aに含まれる1または複数の対象物の領域(ROI)を検出する。ROI検出部122は、例えば、動体検出や顔検出などの技術を用いてROI(ROI画像データ)を検出する。動体検出では、「動体である」「動体でない」の2クラスが定義される。動体検出では、撮像タイミングの互いに異なる2枚の画像データ110Aの間の輝度差によって特徴量が導出され、導出された特徴量の大きさが所定の閾値を超えるか否かで、いずれのクラスに属するかが判断される。一方、顔検出では、「顔である」「顔でない」の2クラスが定義される。顔検出では、例えば、画像データ110AにおけるHaar-Like特徴量の大きさが所定の閾値を超えるか否かで、いずれのクラスに属するかが判断される。
ROI検出部122は、検出により得られたROI(ROI画像データ)に基づいて、ROI情報122Aを生成し、生成したROI情報122Aを制御部124に出力する。ROI情報122Aは、例えば、ROIの左上端座標と、ROIのX軸方向の長さと、ROIのY軸方向の長さとによって構成されている。ROIのX軸方向の長さは、例えば、ROIのX軸方向の物理領域長さである。ROIのY軸方向の長さは、例えば、ROIのY軸方向の物理領域長さである。物理領域長さとは、ROIの物理的な長さ(データ長)を指している。ROI情報122Aにおいて、ROIの左上端とは異なる位置の座標が含まれていてもよい。ROI検出部122は、例えば、生成したROI情報122Aを、ROIに対して付与された識別子(領域番号)と関連づけて、制御部124に出力してもよい。
動き検出部123は、異なる撮像タイミングにより得られた複数の画像データ110Aに基づいて、動き情報123Aを生成する。動き検出部123は、画像センサ100の移動に伴って、撮像タイミングの互いに異なる複数の画像データ110Aの間で生じる差異に基づいて、動き情報123Aを生成する。動き検出部123は、例えば、スイッチ部121から入力された2枚の画像データ110Aの差分をとることにより、画像データ110Aの背景の、2枚の画像データ110Aの取得周期に対応する期間内の動き量(Mx,My)を導出する。動き検出部123は、例えば、このようにして導出した動き量(Mx,My)を動き情報123Aとして制御部124に出力する。
制御部124は、ROI検出部122から入力されたROI情報122Aと、動き検出部123から入力された動き情報123Aとに基づいて、画像データ110Aの取得タイミング(撮像周期)を制御する制御信号124Dを生成する。制御部124は、例えば、動き量(Mx,My)が、ROI情報122Aから生成された所定の閾値(Thx,Thy)を超えたとき、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量Tcを算出し、算出した補正量Tcを用いて、周期T1を生成(補正)する。制御部124は、例えば、補正後の周期T1に基づくタイミングで、制御信号124Dをスイッチ部121に出力する。制御部124は、例えば、周期T1がROI画像データ125Aを切り出す際に用いられる画像データ110Aの撮像周期よりも長くなるように、周期T1を制御する。
制御部124は、動き検出部123から入力された動き情報123Aに基づいて、ROI検出部122から入力されたROI情報122Aを補正(更新)する。制御部124は、ROI切り出し部125の追跡により検出されたROI画像データ125AからROI情報122Aを補正(更新)する。制御部124は、例えば、動き量(Mx,My)が、補正前のROI情報122Aから生成された所定の閾値(Thx,Thy)以下となっているとき(つまり、周期T1の変更をしないとき)、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量(Cx,Cy)を算出し、算出した補正量(Cx,Cy)を用いて、ROI情報122Aを補正する。制御部124は、例えば、補正後の周期T1に基づくタイミングで、補正後のROI情報122AをROI切り出し部125に出力する。
制御部124は、さらに、ROI検出部122から入力されたROI情報122A(補正後のROI情報122A)をROI情報124Aとして、送信部130に出力する。制御部124は、さらに、動き検出部123から入力された動き情報123Aを動き情報124Bとして、送信部130に出力する。
ROI切り出し部125は、例えば、制御部124から入力されたROI情報122Aに基づいて、撮像部110から入力された画像データ110Aから1または複数のROI画像データ125Aを切り出す。ROI切り出し部125は、例えば、動き情報123Aに基づいて、ROI画像データ125Aを追跡する。ROI情報122Aに、ROIに対して付与された識別子(領域番号)が含まれている場合には、ROI切り出し部125は、例えば、切り出したROI画像データ125Aに、識別子(領域番号)を付与する。ROI切り出し部125は、例えば、画像データ110Aから切り出した1または複数のROI画像データ125Aを記憶部に格納する。ROI切り出し部125は、さらに、例えば、識別子(領域番号)を、ROI画像データ125Aと関連づけて、記憶部に格納する。ROI切り出し部125は、切り出した1または複数のROI画像データ125Aをスイッチ部126に出力する。
ここで、ROI画像データ125Aのサイズは、ROIの位置情報に対応するサイズと同じか、または、それよりも大きくなっている。ROI画像データ125AのX軸方向の長さXLbは、ROIのX軸方向の物理領域長さXLaと同じか、またはそれよりも大きな値となっている。ROI画像データ125AのY軸方向の長さYLbは、ROIのY軸方向の物理領域長さYLaと同じか、またはそれよりも大きな値となっている。ROI切り出し部125は、ROI画像データ125Aのサイズを、ROI情報122Aに基づいて設定している。
スイッチ部126は、制御部124から入力される制御信号124Cに基づいて、撮像部110から出力された画像データ110Aと、ROI切り出し部125から出力された1または複数のROI画像データ125Aとを選択的に送信部130に送信する。このとき、スイッチ部126は、例えば、送信する画像データ(画像データ110A、または、1または複数のROI画像データ125A)をエンコードして、圧縮画像データ126Aを生成する。スイッチ部126は、例えば、JPEG規格に準拠した圧縮形式等により画像データを圧縮する。スイッチ部126は、例えば、圧縮画像データ126Aを送信部130に送信する。
送信部130は、スイッチ部126から入力された画像データ(圧縮画像データ126A)と、制御部124から入力されたROI情報122Aおよび動き情報124Bとを含む伝送データ130Aを生成し、送出する回路である。つまり、送信部130は、画像データ110Aと、1または複数のROI画像データ125Aとを圧縮した状態で、選択的にプロセッサ200に送信する。送信部130は、例えば、ROI情報122Aおよび動き情報124BをEmbeddedDataで送出する。送信部130は、例えば、ROI情報122Aおよび動き情報124Bを制御バスB2経由でプロセッサ200に送信してもよい。
送信部130は、さらに、例えば、スイッチ部126から入力された画像データ(圧縮画像データ126A)をLongPacketのPayloadDataで送出する。送信部130は、例えば、スイッチ部126から入力された画像データ(圧縮画像データ126A)を画像データフレームによって送出するとともに、ROI情報122Aおよび動き情報124Bを画像データフレームのヘッダで送出する。送信部130は、例えば、MIPI CSI-2規格もしくはMIPI CSI-3規格で規定されたルールに従って、伝送データ130Aを生成し、データバスB1経由でプロセッサ200に送信する。
送信部130は、例えば、図7に示したように、画像データ110Aを圧縮することにより得られた複数の圧縮画像データ126Aを周期T1で送出する。送信部130は、さらに、例えば、図7に示したように、1または複数のROI画像データ125Aを圧縮することにより得られた複数の圧縮画像データ126Aを周期T1よりも短い周期で送出する。送信部130は、さらに、例えば、図7に示したように、画像データ110Aを圧縮することにより得られた複数の圧縮画像データ126Aを送出してから、1または複数のROI画像データ125Aを圧縮することにより得られた圧縮画像データ126Aを送出するまでの所定の期間の間に、無効なフレーム110Cを送出してもよい。
(プロセッサ200)
図3は、プロセッサ200の構成の一例を表したものである。図3に記載の構成は、CSIトランスミッタの一具体例に相当する。プロセッサ200は、例えば、受信部210、ROI復元部220および画像処理部230を有している。プロセッサ200は、画像センサ100から送信されてきた伝送データ130Aに対して所定の処理を行う。
受信部210は、例えば、ヘッダ分離部、ヘッダ解釈部、Payload分離部、EBD解釈部、ROIデータ分離部、デコード部および情報抽出部を有している。
ヘッダ分離部は、伝送データ130Aを、データバスB1を介して受信する。ヘッダ分離部は、例えば、ROI情報122Aおよび動き情報124BをEmbeddedDataに含むとともに、画像データ(圧縮画像データ126A)をLongPacketのPayloadDataに含む伝送データ130Aを受信する。ヘッダ分離部は、例えば、MIPI CSI-2規格もしくはMIPI CSI-3規格で規定されたルールに従って、伝送データ130Aを分離する。ヘッダ分離部は、例えば、受信した伝送データ130Aをヘッダ領域とパケット領域とに分離する。
ヘッダ解釈部は、例えば、ヘッダ領域に含まれるデータ(具体的にはEmbeddedData)に基づいて、パケット領域に含まれるLongPacketのPayloadDataの位置を特定する。Payload分離部は、例えば、ヘッダ解釈部によって特定されたLongPacketのPayloadDataの位置に基づいて、パケット領域に含まれるLongPacketのPayloadDataを、パケット領域から分離する。
EBD解釈部は、例えば、EmbeddedDataをEBDデータとして、データ分離部に出力する。EBD解釈部は、さらに、例えば、EmbeddedDataに含まれるデータタイプから、LongPacketのPayloadDataに含まれる画像データがROIの画像データの圧縮画像データ126Aであるか否か判別する。EBD解釈部は、例えば、その判別結果をROIデータ分離部に出力する。
LongPacketのPayloadDataに含まれる画像データがROIの画像データの圧縮画像データ126Aである場合、ROIデータ分離部は、例えば、LongPacketのPayloadDataをPayloadDataD1として、デコード部に出力する。PayloadDataに含まれる画像データが通常画像データ(画像データ110A)の圧縮画像データ126Aである場合、ROIデータ分離部は、LongPacketのPayloadDataをPayloadDataD2として、デコード部に出力する。
デコード部は、圧縮画像データ126Aをデコードして画像データを生成する。デコード部は、例えば、PayloadDataD1に含まれる圧縮画像データ126Aをデコードして、ROI画像データ210Dを生成する。デコード部は、例えば、PayloadDataD2に含まれる圧縮画像データ126Aをデコードして、全体画像データ210Bを生成する。
情報抽出部は、例えば、EBDデータに含まれるEmbeddedDataから、ROI情報122Aおよび動き情報124Bを抽出する。情報抽出部は、例えば、EBDデータに含まれるEmbeddedDataから、例えば、画像データ111Aに含まれるROIの数、各ROIの領域番号、各ROIのデータ長、および各ROIの画像フォーマットを抽出する。
受信部210は、例えば、得られた動き情報124Bを、動き情報210Aとして画像処理部230に出力する。受信部210は、例えば、得られた全体画像データ210Bを画像処理部230に出力する。受信部210は、例えば、得られたROI情報122Aを、ROI情報210CとしてROI復元部220に出力する。受信部210は、例えば、得られたROI画像データ210DをROI復元部220に出力する。
ROI復元部220は、例えば、デコードにより得られたROI画像データ210Dと、ROI情報210C等とに基づいて、画像データ110Aに含まれる1または複数のROI画像データ125Aを生成(復元)する。ROI復元部220は、例えば、生成(復元)により得られた1または複数のROI画像データ125Aを、ROI画像データ220Aとして画像処理部230に出力する。
画像処理部230は、受信部から入力された動き情報210Aおよび全体画像データ210Bと、ROI復元部220から入力されたROI画像データ220Aとを用いて、所定の処理を行う。
[動作]
次に、通信システム1000におけるデータ伝送の手順について説明する。図8は、対象物の動きに追従してROI画像を設定したり、カメラの動きを検出したりする様子の一例を表したものである。図9、図10は、通信システム1000におけるデータ伝送の手順の一例を表したものである。
まず、プロセッサ200がROI画像データの送信を画像センサ100に要求する(ステップS101)。すると、画像センサ100は、全体画像データを取得する間隔(全体画像取得間隔Fi)を初期値に設定し、さらに、フレームカウンタFcを初期化する(Fc=0)(ステップS102)。全体画像取得間隔Fiは、上述の周期T1に対応するパラメータである。
次に、画像センサ100は、全体画像である画像データ110Aを取得する(ステップS103)。このときの画像データ110Aは、例えば、図8左上のFrame#0の画像データ、または、図8右上のFrame#0の画像データである。画像センサ100は、例えば、制御部124から制御信号124Dをスイッチ部121に出力することにより、スイッチ部121から画像データ110Aを出力させる。次に、画像センサ100は、画像データ110Aに含まれる1または複数の物体(対象物)を検出する(ステップS104)。具体的には、画像センサ100は、画像データ110Aに含まれる1または複数の対象物の領域(ROI)を検出する。
次に、画像センサ100は、ROI情報を算出する(ステップS105)。具体的には、画像センサ100は、検出により得られたROIの位置情報(ROI情報122A)を算出する。次に、画像センサ100は、ROI画像を取得する(ステップS106)。具体的には、画像センサ100は、取得したROI情報122Aに基づいて、撮像部110から入力された画像データ110Aから1または複数のROI画像データ125Aを切り出す。画像センサ100は、取得したROI画像をプロセッサ200に送信する(ステップS107)。
プロセッサ200は、画像センサ100からROI画像を受信する(ステップS108)。このとき、プロセッサ200は、撮影を完了する指示が入力されたか否かを判断する(ステップS109)。撮影を完了する指示が入力された場合には、プロセッサ200は、動作を終了する。撮影を完了する指示が入力されていない場合には、プロセッサ200は、再び、ROI画像データの送信を画像センサ100に要求する(ステップS110)。
すると、画像センサ100は、フレームカウンタFcを1つ、インクリメントする(ステップS111)。次に、画像センサ100は、フレームカウンタFcが全体画像取得間隔Fi以上となったか否かを判定する(ステップS112)。フレームカウンタFcが全体画像取得間隔Fi以上となった場合には、画像センサ100は、フレームカウンタFcを0にリセットする(ステップS113)。このとき、画像センサ100は、ステップS103に移行する。
一方、フレームカウンタFcが全体画像取得間隔Fi以上となっていない場合には、画像センサ100は、ROI画像の比較を行う(ステップS114)。画像センサ100は、撮像タイミングの互いに異なる2枚の画像データ110Aにおいて、互いに共通の対象物が映り込む2枚のROI画像データ125A(ROI情報の互いに等しい2枚のROI画像データ125A)の間で生じる差異が無いか、または、所定の範囲内に収まっているか否かを判断する。このときのROI画像データ125Aは、例えば、図8左側のFrame#2,3の画像データ、または、図8右側のFrame#2,3の画像データである。その結果、上記の差異が無いか、または、所定の範囲内に収まっている場合、画像センサ100は、ROI画像同士が一致していると判断し、全体画像取得間隔Fiを、現在の値よりも大きな値に変更する(ステップS115)。このとき、画像センサ100は、ステップS106に移行する。一方、上記の差異が所定の範囲内から外れている場合、画像センサ100は、ROI同士に差分があると判断し、動き判定に移行する(ステップS116)。
画像センサ100は、動き判定において、例えば、スイッチ部121から入力された2枚の画像データ110Aの差分をとることにより、画像データ110Aの背景の、2枚の画像データ110Aの取得周期に対応する期間内の動き量(Mx,My)を導出する。このときの画像データ110Aは、例えば、図8左側のFrame#1,4の画像データ、または、図8右側のFrame#1,4の画像データである。画像センサ100は、導出した動き量(Mx,My)が大きい場合、具体的には、動き量(Mx,My)が、ROI情報122Aから生成された所定の閾値(Thx,Thy)を超えた場合、フレームカウンタFcを0にリセットし、全体画像取得間隔Fiを、現在の値よりも小さな値に変更する(ステップS117)。このとき、画像センサ100は、ステップS103に移行する。一方、画像センサ100は、動き判定において、動き量(Mx,My)が小さい場合、具体的には、動き量(Mx,My)が、ROI情報122Aから生成された所定の閾値(Thx,Thy)を超えない場合、ROI情報を更新する(ステップS118)。このとき、画像センサ100は、ステップS106に移行する。
画像センサ100は、例えば、動き量(Mx,My)が、補正前のROI情報122Aから生成された所定の閾値(Thx,Thy)以下となっているとき(つまり、全体画像取得間隔Fiの変更をしないとき)、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量(Cx,Cy)を算出し、算出した補正量(Cx,Cy)を用いて、ROI情報122Aを補正する。このとき、画像センサ100は、ステップS106に移行する。本実施の形態では、例えば、このようにして、周期T1や、ROI情報122Aの補正(更新)がなされる。
[効果]
次に、本実施の形態に係る通信システム1000の効果について説明する。
近年、データ量の大きなデータを大量に送信する用途が増えてきている。伝送システムに大きな負荷がかかりやすく、最悪の場合には、伝送システムがダウンし、データ伝送が行えなくなるおそれがある。
従来では、伝送システムのダウンを避けるために、例えば、撮影した画像を全て送信するのではなく、撮影対象の物体を特定し、特定した物体を切り出した一部の画像だけを送信することが行われている。
通常、ROI伝送では、撮像装置が静止状態であることが前提となっている。そのため、撮像装置が動く場合には、元の全体画像とROI画像との位置関係が撮像装置の動きに伴って変化してしまい、ROIを適切に伝送することが困難になってしまう。
一方、本実施の形態に係る画像センサ100では、異なる撮像タイミングにより得られた複数の画像データ110Aに基づいて動き情報124Bが検出される。これにより、例えば、画像センサ100が移動する場合であっても、画像センサ100の移動が考慮されたROI画像データ125Aを得ることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
また、本実施の形態に係る画像センサ100では、画像センサ100の移動に伴って複数の画像データ110Aの間で生じる差異に基づいて、動き情報124Bが検出される。これにより、例えば、画像センサ100が移動する場合であっても、画像センサ100の移動が考慮されたROI画像データ125Aを得ることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
また、本実施の形態に係る画像センサ100では、動き情報124Bは、ROI画像データ125Aの生成の際に用いられる画像データ110Aを用いて生成される。これにより、画像センサ100の動き情報を、ROI画像データ125Aを用いて生成した場合と比べて、精度よく動き情報124Bを生成することができる。
また、本実施の形態に係る画像センサ100では、動き情報124Bに基づいて、画像データ110Aの撮像周期(周期T1)が制御される。これにより、対象物の少なくとも一部がROI画像データ125Aから欠けてしまうことを抑えることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
また、本実施の形態に係る画像センサ100では、周期T1がROI画像データ125Aを切り出す際に用いられる画像データ110Aの撮像周期よりも長くなるように、周期T1が制御される。これにより、全体画像としての画像データ110Aをフレームごとに必要としないので、フレームごとに周期T1を制御する場合と比べて、転送データ量や演算量を減らすことができる。
<2.変形例>
[変形例A]
上記実施の形態では、ROI画像データ125Aのサイズは、ROI情報122Aに基づいて設定されていた。ここで、ROI画像データ125Aのサイズがあまりに大きい場合、ROI画像データ125Aのデータサイズも大きくなってしまう。そのため、通常、ROI画像データ125Aのサイズは、ROIの位置情報に対応するサイズと同じか、または、それよりも若干大きな値となる。
しかし、上記実施の形態において、対象物の移動量が大きく、次に全体画像(画像データ110A)を取得するまでの間に、対象物の少なくとも一部がROI画像データ125Aから欠けてしまう場合がある。このような場合には、ROI切り出し部125は、例えば、ROI画像データ125Aのサイズを、対象物の移動量の大きさ(例えば、対象物の、周期T1内の移動量の大きさ)に応じて変更してもよい。
本変形例において、ROI検出部122および動き検出部123には、例えば、図11に示したように、スイッチ部126の出力が入力されてもよい。このとき、ROI検出部122は、画像データ110AおよびROI画像データ125Aのいずれか一方に含まれる1または複数の対象物の領域(ROI)を検出する。動き検出部123は、撮像タイミングの互いに異なる複数の画像データ110Aおよび撮像タイミングの互いに異なる複数のROI画像データ125Aのいずれか一方に基づいて、動き情報123Aを生成する。動き検出部123は、画像センサ100の移動に伴って、撮像タイミングの互いに異なる複数のROI画像データ125Aおよび撮像タイミングの互いに異なる複数のROI画像データ125Aのいずれか一方の間で生じる差異に基づいて、動き情報123Aを生成する。
ROI切り出し部125は、例えば、図12に示したように、ROI画像データ125Aのサイズを、上記実施の形態におけるサイズよりも大きくしてもよい。このとき、画像センサ100は、図8のステップS102を、図13に記載のステップS119に置き換えた上で、通信システム1000におけるデータ伝送の一連の手順を実行してもよい。画像センサ100は、ステップS119において、ステップS102に記載の手順を実行するとともに、対象物とROI画像のサイズ比sを設定する。画像センサ100は、さらに、図10のステップS115において、全体画像取得間隔Fiを大きくするとともに、サイズ比sを小さくしてもよい。画像センサ100は、さらに、図10のステップS117において、全体画像取得間隔Fiを小さくするとともに、サイズ比sを大きくしてもよい。
このように、本変形例では、ROI画像データ125Aのサイズが制御される。これにより、対象物の少なくとも一部がROI画像データ125Aから欠けてしまうことを抑えることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
また、本変形例では、動き情報123Aに基づいて、ROI画像データ125Aが追跡され、追跡により検出されたROI画像データ125AからROI情報122Aが補正(更新)される。これにより、例えば、画像センサ100が移動する場合であっても、画像センサ100の移動が考慮されたROI画像データ125Aを得ることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
[変形例B]
上記実施の形態および変形例Aにおいて、画像センサ100が、例えば、図14に示したように、動き検出部123の代わりに、センサ140を有していてもよい。センサ140は、画像センサ100の動きを検出し、それにより、動き情報123Aを生成することの可能なデバイスであり、例えば、ジャイロセンサ、角速度センサ、GPS受信機などを含んで構成されている。
センサ140は、生成した動き情報123Aを出力140Aとして送信部130に出力する。このとき、送信部130は、動き情報124Bの代わりに出力140Aを含む伝送データ130Aを生成し、送出する。これにより、出力140Aは、伝送データ130Aの伝送によって、プロセッサ200に伝達されるので、画像処理部230は、出力140Aを考慮した処理を行うことができる。
本変形例では、動き検出部123の代わりにセンサ140が設けられている。このようにした場合であっても、上記の実施の形態と同様の効果を得ることができる。
[変形例C]
上記実施の形態および変形例Aにおいて、例えば、図15に示したように、ROI検出部122および動き検出部123が省略され、センサ140が設けられていてもよい。さらに、上記実施の形態および変形例Aにおいて、例えば、図16に示したように、ROI検出部240が設けられていてもよい。
ROI検出部240は、全体画像データ210Bに含まれる1または複数の対象物の領域(ROI)を検出する。ROI検出部240は、例えば、動体検出や顔検出などの技術を用いてROI(例えばROI画像データ)を検出する。動体検出では、「動体である」「動体でない」の2クラスが定義される。動体検出では、撮像タイミングの互いに異なる2枚の全体画像データ210Bの間の輝度差によって特徴量が導出され、導出された特徴量の大きさが所定の閾値を超えるか否かで、いずれのクラスに属するかが判断される。一方、顔検出では、「顔である」「顔でない」の2クラスが定義される。顔検出では、例えば、全体画像データ210BにおけるHaar-Like特徴量の大きさが所定の閾値を超えるか否かで、いずれのクラスに属するかが判断される。
ROI検出部240は、検出により得られたROI(例えばROI画像データ)に基づいて、ROI情報122Aを算出し、算出したROI情報122AをROI情報240Aとして画像処理部230に出力する。ROI検出部240は、例えば、ROI情報240Aを、ROIに対して付与された識別子(領域番号)と関連づけて、画像処理部230に出力してもよい。
ROI検出部240は、ROI情報122Aと、受信部210から入力された動き情報210Aとに基づいて、画像データ110Aの取得タイミング情報(周期T1)を生成する。ROI検出部240は、動き情報210Aに基づいて、ROI画像データ125Aを追跡する。ROI検出部240は、例えば、動き量(Mx,My)が、ROI情報122Aから生成された所定の閾値(Thx,Thy)を超えたとき、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量Tcを算出し、算出した補正量Tcを用いて、周期T1を補正する。
ROI検出部240は、さらに、動き情報210Aを用いて、ROI情報122Aを生成(補正)する。ROI検出部240は、さらに、補正後のROI情報122A(ROI情報240A)と、画像データ110Aの取得タイミング情報(周期T1)とを画像処理部230に出力する。画像処理部230は、ROI検出部240から入力されたデータ(ROI情報240A、周期T1)を制御データ230Aとして、制御バスB2を介して、画像センサ100の制御部124に出力する。この場合、画像センサ100において、制御部124は、制御データ230Aをプロセッサ200から受信し、受信した制御データ230Aに含まれ周期T1に基づいて、画像データ110Aの取得タイミングを制御する制御信号124Dを生成する。制御部124は、さらに、ROI情報240AをROI切り出し部125に出力する。ROI切り出し部125は、制御部124から入力されたROI情報240Aに基づいて、画像データ110Aから1または複数のROI画像データ125Aを切り出す。画像処理部230は、さらに、ROI情報240AをROI情報230Bとして、ROI復元部220に出力する。
ROI検出部240は、ROI情報240Aと、画像データ110Aの取得タイミング情報(周期T1)と、動き情報210Aとを画像処理部230に出力してもよい。この場合、画像処理部230は、ROI検出部240から入力されたデータ(ROI情報240A、周期T1、動き情報210A)を制御データ230Aとして、制御バスB2を介して、画像センサ100の制御部124に出力する。この場合、画像センサ100において、制御部124は、制御データ230Aをプロセッサ200から受信し、受信した制御データ230Aに含まれる周期T1に基づいて、画像データ110Aの取得タイミングを制御する制御信号124Dを生成する。制御部124は、さらに、動き情報210Aに基づいて、ROI情報240Aを補正し、補正後のROI情報240AをROI切り出し部125に出力する。ROI切り出し部125は、制御部124から入力されたROI情報240Aを用いて、画像データ110Aから1または複数のROI画像データ125Aを抽出する。つまり、画像センサ100において、制御部124およびROI切り出し部125は、動き情報210Aと、ROI情報240Aとを用いて、画像データ110Aから1または複数のROI画像データ125Aを抽出する。画像処理部230は、さらに、ROI情報240AをROI情報230Bとして、ROI復元部220に出力する。
ROI復元部220は、例えば、デコードにより得られたROI画像データ210Dと、画像処理部230から入力されたROI情報230B等とに基づいて、画像データ110Aに含まれる1または複数のROI画像データ125Aを生成(復元)する。ROI復元部220は、例えば、生成(復元)により得られた1または複数のROI画像データ125Aを、ROI画像データ220Aとして画像処理部230に出力する。
本変形例では、ROI検出がプロセッサ200で行われる。このようにした場合であっても、上記の実施の形態と同様の効果を得ることができる。
また、本変形例において、画像データ110Aを圧縮することにより得られた複数の圧縮画像データ126Aが送出されてから、1または複数のROI画像データ125Aを圧縮することにより得られた圧縮画像データ126Aが送出されるまでの所定の期間の間(つまり、ROI指示情報(ROI情報240A、周期T1)をプロセッサ200から受信してから一定期間)、無効なフレーム110Cが送出されてもよい。このようにした場合には、例えば、圧縮画像データ126Aを送出するタイミングを調整することが可能となる。
[変形例D]
上記変形例Cにおいて、例えば、図17に示したように、センサ140の代わりに、計時部150が設けられていてもよい。さらに、上記変形例Cにおいて、例えば、図18に示したように、動き検出部250が設けられていてもよい。
計時部150は、時間データ150Aを生成し、送信部130に出力する。このとき、計時部150は、動き情報124Bの代わりに時間データ150Aを含む伝送データ130Aを生成し、送出する。これにより、時間データ150Aは、伝送データ130Aの伝送によって、プロセッサ200に伝達される。プロセッサ200において、受信部210は、時間データ150Aを受信すると、受信した時間データ150Aを時間データ210Eとして画像処理部230に出力する。これにより、画像処理部230は、時間データ150Aを考慮した処理を行うことができる。
動き検出部250は、撮像により得られた、撮像タイミングの互いに異なる複数の全体画像データ210Bに基づいて、動き情報250Aを生成する。動き検出部250は、画像センサ100の移動に伴って、撮像タイミングの互いに異なる複数の全体画像データ210Bの間で生じる差異に基づいて、動き情報250Aを生成する。動き検出部250は、例えば、受信部210から入力された2枚の全体画像データ210Bの差分をとることにより、全体画像データ210Bの背景の、2枚の全体画像データ210Bの取得周期に対応する期間内の動き量(Mx,My)を導出する。動き検出部250は、例えば、このようにして導出した動き量(Mx,My)を動き情報250Aとして画像処理部230に出力する。
画像処理部230は、ROI情報240Aと、動き検出部250から入力された動き情報250Aとに基づいて、画像データ110Aの取得タイミング情報(周期T1)を生成する。画像処理部230は、例えば、動き量(Mx,My)が、ROI情報240Aから生成された所定の閾値(Thx,Thy)を超えたとき、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量Tcを算出し、算出した補正量Tcを用いて、周期T1を補正する。画像処理部230は、例えば、周期T1がROI画像データ125Aを切り出す際に用いられる画像データ110Aの撮像周期よりも長くなるように、周期T1を生成する。
画像処理部230は、さらに、例えば、動き情報250Aを用いて、ROI情報240Aを生成する。画像処理部230は、さらに、例えば、動き情報250Aに基づいて、ROI情報240Aを補正(更新)する。画像処理部230は、ROI画像データ220AからROI情報240Aを補正(更新)する。画像処理部230は、例えば、動き量(Mx,My)が、補正前のROI情報240Aから生成された所定の閾値(Thx,Thy)以下となっているとき(つまり、周期T1の変更をしないとき)、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量(Cx,Cy)を算出し、算出した補正量(Cx,Cy)を用いて、ROI情報240Aを補正する。画像処理部230は、例えば、補正後のROI情報240Aと、画像データ110Aの取得タイミング情報(周期T1)とを含むデータを制御データ230Aとして、制御バスB2を介して、画像センサ100の制御部124に出力する。画像処理部230は、さらに、ROI情報240AをROI情報230Bとして、ROI復元部220に出力する。この場合、画像センサ100において、制御部124は、制御データ230Aを受信し、受信した制御データ230Aに含まれる周期T1に基づいて、画像データ110Aの取得タイミングを制御する制御信号124Dを生成する。また、画像センサ100において、制御部124は、例えば、受信した制御データ230Aに含まれる周期T1に基づくタイミングで、受信した制御データ230Aに含まれるROI情報240A(補正後のROI情報240A)をROI切り出し部125に出力する。ROI切り出し部125は、例えば、制御部124から入力されたROI情報240A(補正後のROI情報240A)を用いて、撮像部110から入力された画像データ110Aから1または複数のROI画像データ125Aを抽出する。
なお、画像処理部230は、例えば、ROI情報240Aと、動き情報250Aと、画像データ110Aの取得タイミング情報(周期T1)とを含むデータを制御データ230Aとして、制御バスB2を介して、画像センサ100の制御部124に出力してもよい。この場合、画像センサ100において、制御部124は、制御データ230Aを受信し、受信した制御データ230Aに含まれる周期T1に基づいて、画像データ110Aの取得タイミングを制御する制御信号124Dを生成する。また、画像センサ100において、制御部124は、受信した制御データ230Aに含まれる動き情報123Aに基づいて、受信した制御データ230Aに含まれるROI情報240Aを補正(更新)する。制御部124は、例えば、受信した制御データ230Aに含まれる周期T1に基づくタイミングで、補正(更新)後のROI情報240AをROI切り出し部125に出力する。ROI切り出し部125は、例えば、制御部124から入力されたROI情報240A(補正後のROI情報240A)を用いて、撮像部110から入力された画像データ110Aから1または複数のROI画像データ125Aを抽出する。
[動作]
次に、本変形例に係る通信システム1000におけるデータ伝送の手順について説明する。図19、図20は、本変形例に係る通信システム1000におけるデータ伝送の手順の一例を表したものである。
まず、プロセッサ200が、全体画像データを取得する間隔(全体画像取得間隔Fi)を初期値に設定し、さらに、フレームカウンタFcを初期化する(Fc=0)(ステップS201)次に、プロセッサ200は、ROI画像データの送信を画像センサ100に要求する(ステップS202)。
すると、画像センサ100は、全体画像である画像データ110Aを取得する(ステップS203)。このときの画像データ110Aは、例えば、図8左上のFrame#0の画像データ、または、図8右上のFrame#0の画像データである。画像センサ100は、例えば、制御部124から制御信号124Dをスイッチ部121に出力することにより、スイッチ部121から画像データ110Aを出力させる。次に、画像センサ100は、全体画像である画像データ110Aをプロセッサ200に送信する(ステップS204)。
プロセッサ200は、全体画像データ210Bを受信する(ステップS205)。次に、プロセッサ200は、全体画像データ210Bに含まれる1または複数の物体(対象物)を検出する(ステップS206)。具体的には、プロセッサ200は、全体画像データ210Bに含まれる1または複数の対象物の領域(ROI)を検出する。
次に、プロセッサ200は、ROI情報を算出する(ステップS207)。具体的には、画像センサ100は、検出により得られたROIに基づいて、位置情報(ROI情報240A)を算出する。次に、プロセッサ200は、ROI画像の送信を画像センサ100に要求する(ステップS208)。
すると、画像センサ100は、ROI画像を取得する(ステップS209)。具体的には、画像センサ100は、取得したROI情報240Aに基づいて、撮像部110から入力された画像データ110Aから1または複数のROI画像データ125Aを切り出す。画像センサ100は、取得したROI画像をプロセッサ200に送信する(ステップS210)。
プロセッサ200は、画像センサ100からROI画像を受信する(ステップS211)。すると、プロセッサ200は、フレームカウンタFcを1つ、インクリメントする(ステップS212)。次に、プロセッサ200は、フレームカウンタFcが全体画像取得間隔Fi以上となったか否かを判定する(ステップS213)。フレームカウンタFcが全体画像取得間隔Fi以上となった場合には、プロセッサ200は、フレームカウンタFcを0にリセットする(ステップS214)。このとき、プロセッサ200は、ステップS202に移行する。
一方、フレームカウンタFcが全体画像取得間隔Fi以上となっていない場合には、プロセッサ200は、ROI画像の比較を行う(ステップS215)。プロセッサ200は、撮像タイミングの互いに異なる2枚の全体画像データ210Bにおいて、互いに共通の対象物が映り込む2枚のROI画像データ220A(ROI情報の互いに等しい2枚のROI画像データ220A)の間で生じる差異が無いか、または、所定の範囲内に収まっているか否かを判断する。このときのROI画像データ220Aは、例えば、図8左側のFrame#2,3の画像データ、または、図8右側のFrame#2,3の画像データである。その結果、上記の差異が無いか、または、所定の範囲内に収まっている場合、プロセッサ200は、ROI画像同士が一致していると判断し、全体画像取得間隔Fiを、現在の値よりも大きな値に変更する(ステップS216)。このとき、プロセッサ200は、ステップS208に移行する。一方、上記の差異が所定の範囲内から外れている場合、プロセッサ200は、ROI同士に差分があると判断し、動き判定に移行する(ステップS217)。
プロセッサ200は、動き判定において、例えば、受信部210から入力された2枚の全体画像データ210Bの差分をとることにより、全体画像データ210Bの背景の、2枚の全体画像データ210Bの取得周期に対応する期間内の動き量(Mx,My)を導出する。このときの全体画像データ210Bは、例えば、図8左側のFrame#1,4の画像データ、または、図8右側のFrame#1,4の画像データである。プロセッサ200は、導出した動き量(Mx,My)が大きい場合、具体的には、動き量(Mx,My)が、ROI情報240Aから生成された所定の閾値(Thx,Thy)を超えた場合、フレームカウンタFcを0にリセットし、全体画像取得間隔Fiを、現在の値よりも小さな値に変更する(ステップS218)。このとき、プロセッサ200は、ステップS202に移行する。一方、プロセッサ200は、動き判定において、動き量(Mx,My)が小さい場合、具体的には、動き量(Mx,My)が、ROI情報240Aから生成された所定の閾値(Thx,Thy)を超えない場合、ROI情報を更新する(ステップS219)。このとき、プロセッサ200は、ステップS208に移行する。
プロセッサ200は、例えば、動き量(Mx,My)が、補正前のROI情報240Aから生成された所定の閾値(Thx,Thy)以下となっているとき(つまり、全体画像取得間隔Fiの変更をしないとき)、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量(Cx,Cy)を算出し、算出した補正量(Cx,Cy)を用いて、ROI情報240Aを補正する。このとき、プロセッサ200は、ステップS106に移行する。本変形例では、例えば、このようにして、周期T1や、ROI情報240Aの補正(更新)がなされる。
本変形例では、ROI検出および動き検出がプロセッサ200で行われ、ROI指示情報(ROI情報240A、周期T1)がプロセッサ200(画像処理部230)から画像センサ100(制御部124)へ送信される。これにより、画像センサ100においてROI検出および動き検出を行う必要がないので、画像センサ100におけるデータ処理量を減らすことができる。その結果、高速のデータ伝送にも対応することが容易となる。
また、本変形例において、画像データ110Aを圧縮することにより得られた複数の圧縮画像データ126Aが送出されてから、1または複数のROI画像データ125Aを圧縮することにより得られた圧縮画像データ126Aが送出されるまでの所定の期間の間(つまり、ROI画像データ125Aの検出中において、プロセッサ200から前回と同じROI指示情報(ROI情報240A、周期T1)を受信する間)に、無効なフレーム110Cが送出される場合には、例えば、圧縮画像データ126Aを送出するタイミングを調整することが可能となる。
また、本変形例において、ROI画像データ125Aの検出中において、プロセッサ200から前回と同じROI指示情報(ROI情報240A、周期T1)を受信する間は、ROI画像データ125Aが更新されて、プロセッサ200に送信され続ける。このようにした場合であっても、例えば、画像センサ100が移動する場合に、画像センサ100の移動が考慮されたROI画像データ125Aを得ることができる。従って、画像センサ100が移動する場合であっても、画像センサ100におけるデータ処理量を減らしつつ、ROIを適切に伝送することができる。
[変形例E]
上記変形例Dでは、ROI画像データ220Aのサイズは、ROI情報240Aに基づいて設定されていた。ここで、ROI画像データ220Aのサイズがあまりに大きい場合、ROI画像データ220Aのデータサイズも大きくなってしまう。そのため、通常、ROI画像データ220Aのサイズは、ROIの位置情報に対応するサイズと同じか、または、それよりも若干大きな値となる。
しかし、上記変形例Dにおいて、対象物の移動量が大きく、次に全体画像データ210Bを取得するまでの間に、対象物の少なくとも一部がROI画像データ220Aから欠けてしまう場合がある。このような場合には、ROI切り出し部125は、例えば、ROI画像データ220Aのサイズを、対象物の移動量の大きさ(例えば、対象物の、周期T1内の移動量の大きさ)に応じて変更してもよい。
ROI切り出し部125は、例えば、図12に示したように、ROI画像データ220Aのサイズを、上記実施の形態におけるサイズよりも大きくしてもよい。このとき、プロセッサ200は、図19のステップS201を、図21に記載のステップS220に置き換えた上で、通信システム1000におけるデータ伝送の一連の手順を実行してもよい。プロセッサ200は、ステップS220において、ステップS201に記載の手順を実行するとともに、対象物とROI画像のサイズ比sを設定する。プロセッサ200は、さらに、図20のステップS216において、全体画像取得間隔Fiを大きくするとともに、サイズ比sを小さくしてもよい。プロセッサ200は、さらに、図20のステップS218において、全体画像取得間隔Fiを小さくするとともに、サイズ比sを大きくしてもよい。
このように、本変形例では、ROI画像データ220Aのサイズが制御される。これにより、対象物の少なくとも一部がROI画像データ220Aから欠けてしまうことを抑えることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
[変形例F]
上記変形例C,D,Eにおいて、動き情報210A,250Aが画像処理部230に入力される場合には、画像処理部230は、ROI情報240Aと、動き情報210Aもしくは動き情報250Aとを含むデータを制御データ230Aとして、制御バスB2を介して、画像センサ100の制御部124に出力してもよい。この場合、画像センサ100において、制御部124は、受信した制御データ230Aに含まれる動き情報210Aもしくは動き情報250Aと、ROI情報240Aとに基づいて、画像データ110Aの取得タイミング情報(周期T1)を生成してもよい。画像処理部230は、例えば、動き量(Mx,My)が、ROI情報240Aから生成された所定の閾値(Thx,Thy)を超えたとき、動き量(Mx,My)と閾値(Thx,Thy)との差分に応じた補正量Tcを算出し、算出した補正量Tcを用いて、周期T1を補正してもよい。
本変形例では、画像データ110Aの取得タイミング情報(周期T1)の生成が画像センサ100で行われる。このようにした場合であっても、上記変形例C,D,Eと同様の効果を得ることができる。
[変形例G]
上記変形例D,E、および上記変形例D,Eの変形例Fにおいて、例えば、図22に示したように、ROI検出部240への入力データとして、全体画像データ210BおよびROI画像データ220Aのいずれか一方を選択するスイッチ部260が設けられていてもよい。また、上記変形例D,E、および上記変形例D,Eの変形例Fにおいて、動き検出部250への入力データとして、全体画像データ210BおよびROI画像データ220Aのいずれか一方を選択するスイッチ部270が設けられていてもよい。
本変形例において、ROI画像データ220Aが動き検出部250に入力される場合には、動き検出部250は、異なる撮像タイミングにより得られた複数のROI画像データ220Aに基づいて、動き情報250Aを生成してもよい。この場合、動き検出部250は、画像センサ100の移動に伴って、撮像タイミングの互いに異なる複数のROI画像データ220Aの間で生じる差異に基づいて、動き情報250Aを生成する。これにより、例えば、画像センサ100が移動する場合であっても、画像センサ100の移動が考慮されたROI画像データ125Aを得ることができる。従って、画像センサ100が移動する場合であっても、ROIを適切に伝送することができる。
本変形例では、ROI検出部240および動き検出部250への入力データとしてROI画像データ220Aが選択されることにより、ROI検出部240および動き検出部250へ全体画像データ210Bが常に入力されている場合と比べて、ROI検出部240および動き検出部250における演算処理量を削減することができる。
[変形例H]
上記変形例D,E,F,Gにおいて、画像センサ100およびプロセッサ200の間をつなぐインターフェース(データバスB1,制御バスB2)、送信部130、受信部210およびROI復元部220が省略され、画像センサ100およびプロセッサ200がワンチップ化されてもよい。この場合、通信システム1000は、例えば、図23に示したように、撮像部110、画像処理部120、ROI検出部240、動き検出部250、画像処理部230および計時部150を備えていてもよい。
本変形例において、ROI検出部240および動き検出部250の入力が、スイッチ部126の出力に接続されており、計時部150の出力が画像処理部230に接続されている。このようにした場合であっても、上記実施の形態と同様の効果を得ることができる。
<3.適用例>
以下に、上記実施の形態およびその変形例に係る通信システム1000の適用例について説明する。
図24および図25に、通信システム1000の適用例として、車載用カメラの構成例を示す。図24は車載用カメラの設置例の一例を示し、図25は車載用カメラの内部構成例を示している。
例えば、図24に示したように、車両301のフロント(前方)に車載用カメラ401、左右に車載用カメラ402,403、さらにリア(後方)に車載用カメラ404が設置される。車載用カメラ401~404はそれぞれ、車内ネットワークを介してECU302(Electrical Control Unit;電子制御ユニット)に接続されている。
車両301のフロントに備え付けられた車載用カメラ401の画像取り込み角度は、例えば図24にaで示す範囲である。車載用カメラ402の画像取り込み角度は、例えば図24にbで示す範囲である。車載用カメラ403の画像取り込み角度は、例えば図24にcで示す範囲である。車載用カメラ404の画像取り込み角度は、例えば図24にdで示す範囲である。車載用カメラ401~404はそれぞれ、取り込んだ画像をECU302に出力する。この結果、車両301の前方、左右、後方の360度(全方位)の画像をECU302において取り込むことができる。
例えば、図25に示したように、車載用カメラ401~404はそれぞれ、イメージセンサ431と、DSP(Digital Signal Processing)回路432と、セレクタ433と、SerDes(SERializer/DESerializer)回路434とを有している。
DSP回路432は、イメージセンサ431から出力された撮像信号に対して各種の画像信号処理を行うものである。SerDes回路434は、信号のシリアル/パラレル変換を行うものであり、例えばFPD-Link III等の車載インタフェースチップで構成されている。
セレクタ433は、イメージセンサ431から出力された撮像信号を、DSP回路432を介して出力するか、DSP回路432を介さずに出力するかを選択するものである。
イメージセンサ431とDSP回路432との間の接続インタフェース441に、例えば、上記実施の形態およびその変形例に係る通信システム1000が適用可能である。
以上、実施の形態およびその変形例を挙げて本開示を説明したが、本開示は上記実施の形態等に限定されるものではなく、種々変形が可能である。なお、本明細書中に記載された効果は、あくまで例示である。本開示の効果は、本明細書中に記載された効果に限定されるものではない。本開示が、本明細書中に記載された効果以外の効果を持っていてもよい。
また、例えば、本開示は以下のような構成を取ることができる。
(1)
ROI(Region Of Interest)指示情報に基づいて、ROI画像データを検出する検出部と、
前記検出部により検出された前記ROI画像データからROI情報を生成する生成部と、
前記ROI画像データおよび前記ROI情報を外部装置に送信する送信部と
を備え、
前記検出部は、異なる撮像タイミングにより得られた複数の画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、検出した前記ROI画像データの動き情報を検出する
送信装置。
(2)
前記検出部は、当該送信装置の移動に伴って前記複数の画像データの間で生じる差異および当該送信装置の移動に伴って前記複数のROI画像データの間で生じる差異のいずれかに基づいて、前記動き情報を検出する
(1)に記載の送信装置。
(3)
前記動き情報に基づいて、前記画像データの撮像周期を制御する制御部を更に備えた
(1)または(2)に記載の送信装置。
(4)
前記制御部は、撮像タイミングが互いに異なるとともに、互いに共通の対象物が映り込む前記複数のROI画像データに基づいて、前記対象物の移動量を算出し、
前記検出部は、前記制御部によって算出された前記移動量の大きさに応じて、前記ROI画像データのサイズを制御する
(1)ないし(3)のいずれか1つに記載の送信装置。
(5)
前記検出部は、前記ROI指示情報を前記外部装置から受信する
(1)ないし(4)のいずれか1つに記載の送信装置。
(6)
前記送信部は、前記ROI指示情報を前記外部装置から受信してから一定期間、無効なフレームを前記外部装置に送信する
(5)に記載の送信装置。
(7)
前記検出部は、前記動き情報に基づいて、前記ROI画像データを追跡し、
前記生成部は、前記検出部の追跡により検出された前記ROI画像データから前記ROI情報を更新する
(1)ないし(6)のいずれか1つに記載の送信装置。
(8)
前記生成部は、前記ROI画像データの検出中において、前記外部装置から前回と同じROI指示情報を受信する間は、前記ROI画像データを更新して前記外部装置に送信し続ける
(1)ないし(7)のいずれか1つに記載の送信装置。
(9)
送信装置と、受信装置とを備え、
前記送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI(Region Of Interest)画像データとを選択的に前記受信装置に送信する第1送信部を有し、
前記受信装置は、
異なる撮像タイミングにより得られた複数の前記第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、
前記第2画像データにおけるROI情報を生成する第2生成部と、
前記動き情報と、前記ROI情報とを前記送信装置に送信する第2送信部と
を有し、
前記送信装置は、前記動き情報と、前記ROI情報とを用いて、前記第2画像データから前記ROI画像データを抽出する抽出部を更に有する
通信システム。
(10)
前記第1生成部は、当該送信装置の移動に伴って前記複数の第1画像データの間で生じる差異に基づいて、前記動き情報を生成する
(9)に記載の通信システム。
(11)
前記第1生成部は、前記第1画像データとして前記第2画像データを用いることにより、前記動き情報を生成する
(9)または(10)に記載の通信システム。
(12)
前記第2送信部は、前記動き情報に基づいて生成された、前記第1画像データの撮像周期情報を前記送信装置に送信し、
前記送信装置は、前記受信装置から入力された前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部を更に有する
(9)ないし(11)のいずれか1つに記載の通信システム。
(13)
前記送信装置は、
前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成する第4生成部と、
前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部と
を更に有する
(9)ないし(11)のいずれか1つに記載の通信システム。
(14)
前記受信装置は、前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成するとともに、前記第1画像データの撮像周期が前記第2画像データの撮像周期よりも長くなるように、前記第1画像データの撮像周期を生成する第3生成部を更に有する
(12)または(13)に記載の送通信システム。
(15)
送信装置と、受信装置とを備え、
前記送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI(Region Of Interest)画像データとを選択的に前記受信装置に送信する第1送信部を有し、
前記受信装置は、
異なる撮像タイミングにより得られた複数の前記第1画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、
前記動き情報を用いて、前記第2画像データにおけるROI情報を生成する第2生成部と、
前記ROI情報を前記送信装置に送信する第2送信部と
を有し、
前記送信装置は、前記ROI情報を用いて、前記第2画像データから前記ROI画像データを抽出する
通信システム。
(16)
前記第1生成部は、当該送信装置の移動に伴って前記複数の第1画像データの間で生じる差異に基づいて、前記動き情報を生成する
(15)に記載の通信システム。
(17)
前記第1生成部は、前記第1画像データとして前記第2画像データを用いることにより、前記動き情報を生成する
(15)または(16)に記載の通信システム。
(18)
前記第2送信部は、前記動き情報に基づいて生成された、前記第1画像データの撮像周期情報を前記送信装置に送信し、
前記送信装置は、前記受信装置から入力された前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部を更に有する
(15)ないし(17)のいずれか1つに記載の通信システム。
(19)
前記受信装置は、前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成するとともに、前記第1画像データの撮像周期が前記第2画像データの撮像周期よりも長くなるように、前記第1画像データの撮像周期を生成する第3生成部を更に有する
(18)に記載の通信システム。
(20)
送信装置と、受信装置とを備え、
前記送信装置は、撮像により得られた画像データから抽出されたROI(Region Of Interest)画像データを前記受信装置に送信する第1送信部を有し、
前記受信装置は、
前記画像データにおけるROI情報を生成する生成部と、
センサによって得られた前記送信装置の動き情報と、前記ROI情報とを前記送信装置に送信する第2送信部と
を有し、
前記送信装置は、前記動き情報と、前記ROI情報とを用いて、前記画像データから前記ROI画像データを抽出する抽出部を更に有する
通信システム。
(21)
送信装置と、受信装置とを備え、
前記送信装置は、撮像により得られた画像データから抽出されたROI(Region Of Interest)画像データを前記受信装置に送信する第1送信部を有し、
前記受信装置は、
センサによって得られた前記送信装置の動き情報を用いて、前記画像データにおけるROI情報を生成する第2生成部と、
前記ROI情報を前記送信装置に送信する第2送信部と
を有し、
前記送信装置は、前記ROI情報を用いて、前記画像データから前記ROI画像データを抽出する
通信システム。
(22)
画像データを受信する受信部と、
受信した前記画像データからROI(Region Of Interest)画像データを検出する検出部と、
前記検出部により検出された前記ROI画像データからROI指示情報を生成する生成部と、
前記ROI指示情報を送信する送信部と
を備え、
前記検出部は、異なる撮像タイミングにより得られた複数の画像データおよび異なる撮像タイミングにより得られた複数のROI画像データのいずれかに基づいて、検出した前記ROI画像データの動き情報を検出する
受信装置。
(23)
前記検出部は、前記動き情報に基づいて、前記ROI画像データを追跡し、
前記生成部は、前記検出部の追跡により検出された前記ROI画像データから前記ROI指示情報を更新する
(22)に記載の受信装置。
本開示の一実施形態に係る送信装置、本開示の一実施形態に係る第1の通信システム、本開示の一実施形態に係る第2通信システム、本開示の一実施形態に係る第3の通信システム、本開示の一実施形態に係る第4の通信システム、および本開示の一実施形態に係る受信装置によれば、送信装置が移動する場合であっても、ROIを適切に伝送することができる。
本出願は、日本国特許庁において2019年7月31日に出願された日本特許出願番号2019-141248号を基礎として優先権を主張するものであり、この出願のすべての内容を参照によって本出願に援用する。
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

Claims (11)

  1. 送信装置と、受信装置とを備え、
    前記送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI(Region Of Interest)画像データとを選択的に前記受信装置に送信する第1送信部を有し、
    前記受信装置は、
    異なる撮像タイミングにより得られた複数の前記第1画像データおよび異なる撮像タイミングにより得られた複数の前記ROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、
    前記ROI画像データのROI情報を生成する第2生成部と、
    前記動き情報と、前記ROI情報とを前記送信装置に送信する第2送信部と
    を有し、
    前記送信装置は、前記動き情報と、前記ROI情報とを用いて、前記第2画像データから前記ROI画像データを抽出する抽出部を更に有する
    通信システム。
  2. 前記第1生成部は、当該送信装置の移動に伴って前記複数の第1画像データの間で生じる差異に基づいて、前記動き情報を生成する
    請求項1に記載の通信システム。
  3. 前記第1生成部は、前記第1画像データとして前記第2画像データを用いることにより、前記動き情報を生成する
    請求項1に記載の通信システム。
  4. 前記第2送信部は、前記動き情報に基づいて生成された、前記第1画像データの撮像周期情報を前記送信装置に送信し、
    前記送信装置は、前記受信装置から入力された前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部を更に有する
    請求項1に記載の通信システム。
  5. 前記送信装置は、
    前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成する第4生成部と、
    前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部と
    を更に有する
    請求項1に記載の通信システム。
  6. 前記受信装置は、前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成するとともに、前記第1画像データの撮像周期が前記第2画像データの撮像周期よりも長くなるように、前記第1画像データの撮像周期を生成する第3生成部を更に有する
    請求項4に記載の通信システム。
  7. 送信装置と、受信装置とを備え、
    前記送信装置は、撮像により得られた第1画像データと、撮像により得られた第2画像データから抽出されたROI(Region Of Interest)画像データとを選択的に前記受信装置に送信する第1送信部を有し、
    前記受信装置は、
    異なる撮像タイミングにより得られた複数の前記第1画像データおよび異なる撮像タイミングにより得られた複数の前記ROI画像データのいずれかに基づいて、動き情報を生成する第1生成部と、
    前記動き情報を用いて、前記ROI画像データのROI情報を生成する第2生成部と、
    前記ROI情報を前記送信装置に送信する第2送信部と
    を有し、
    前記送信装置は、前記ROI情報を用いて、前記第2画像データから前記ROI画像データを抽出する
    通信システム。
  8. 前記第1生成部は、当該送信装置の移動に伴って前記複数の第1画像データの間で生じる差異に基づいて、前記動き情報を生成する
    請求項7に記載の通信システム。
  9. 前記第1生成部は、前記第1画像データとして前記第2画像データを用いることにより、前記動き情報を生成する
    請求項7に記載の通信システム。
  10. 前記第2送信部は、前記動き情報に基づいて生成された、前記第1画像データの撮像周期情報を前記送信装置に送信し、
    前記送信装置は、前記受信装置から入力された前記撮像周期情報に基づいて、前記第1画像データの撮像周期を制御する制御部を更に有する
    請求項7に記載の通信システム。
  11. 前記受信装置は、前記動き情報に基づいて、前記第1画像データの撮像周期情報を生成するとともに、前記第1画像データの撮像周期が前記第2画像データの撮像周期よりも長くなるように、前記第1画像データの撮像周期を生成する第3生成部を更に有する
    請求項10に記載の通信システム。
JP2021536964A 2019-07-31 2020-07-20 通信システム Active JP7589153B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019141248 2019-07-31
JP2019141248 2019-07-31
PCT/JP2020/028115 WO2021020214A1 (ja) 2019-07-31 2020-07-20 送信装置、受信装置及び通信システム

Publications (2)

Publication Number Publication Date
JPWO2021020214A1 JPWO2021020214A1 (ja) 2021-02-04
JP7589153B2 true JP7589153B2 (ja) 2024-11-25

Family

ID=74229594

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021536964A Active JP7589153B2 (ja) 2019-07-31 2020-07-20 通信システム

Country Status (7)

Country Link
US (1) US12423833B2 (ja)
EP (1) EP4007263A4 (ja)
JP (1) JP7589153B2 (ja)
KR (1) KR20220037445A (ja)
CN (1) CN114175664A (ja)
TW (1) TW202107892A (ja)
WO (1) WO2021020214A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20250244937A1 (en) * 2024-01-30 2025-07-31 Apple Inc. Techniques for image processing of non-destructive readouts
CN119854488A (zh) * 2024-11-27 2025-04-18 浙江大华技术股份有限公司 一种图像处理方法、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023629A (ja) 2001-07-10 2003-01-24 Sony Corp 画像処理装置及び画像処理方法
JP2014204342A (ja) 2013-04-05 2014-10-27 株式会社Jvcケンウッド 撮像装置及び撮像方法
JP2019091967A (ja) 2017-11-10 2019-06-13 ソニーセミコンダクタソリューションズ株式会社 送信装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8427538B2 (en) * 2004-04-30 2013-04-23 Oncam Grandeye Multiple view and multiple object processing in wide-angle video camera
JP2012209831A (ja) 2011-03-30 2012-10-25 Panasonic Corp 画像データ制御装置
JP2013164834A (ja) 2012-01-13 2013-08-22 Sony Corp 画像処理装置および方法、並びにプログラム
JP5700703B2 (ja) 2012-08-20 2015-04-15 日本電信電話株式会社 映像復号装置、映像送受信システム、映像復号方法及び映像送受信方法
KR101384332B1 (ko) * 2012-09-06 2014-04-10 현대모비스 주식회사 차량 영상처리 장치 및 방법과 이를 이용한 차량 영상처리 시스템
JP6604019B2 (ja) 2015-04-14 2019-11-13 ソニー株式会社 画像処理装置、画像処理方法、および画像処理システム
US11039092B2 (en) * 2017-11-15 2021-06-15 Nvidia Corporation Sparse scanout for image sensors
CN108307113B (zh) * 2018-01-26 2020-10-09 北京图森智途科技有限公司 图像采集方法、图像采集控制方法及相关装置
JP7065634B2 (ja) 2018-02-19 2022-05-12 ホシザキ株式会社 洗浄機

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023629A (ja) 2001-07-10 2003-01-24 Sony Corp 画像処理装置及び画像処理方法
JP2014204342A (ja) 2013-04-05 2014-10-27 株式会社Jvcケンウッド 撮像装置及び撮像方法
JP2019091967A (ja) 2017-11-10 2019-06-13 ソニーセミコンダクタソリューションズ株式会社 送信装置

Also Published As

Publication number Publication date
WO2021020214A1 (ja) 2021-02-04
US20220245828A1 (en) 2022-08-04
EP4007263A4 (en) 2022-10-19
JPWO2021020214A1 (ja) 2021-02-04
KR20220037445A (ko) 2022-03-24
EP4007263A1 (en) 2022-06-01
TW202107892A (zh) 2021-02-16
CN114175664A (zh) 2022-03-11
US12423833B2 (en) 2025-09-23

Similar Documents

Publication Publication Date Title
TWI829638B (zh) 影像傳送裝置及影像接收裝置
EP3741104B1 (en) Electronic device for recording image as per multiple frame rates using camera and method for operating same
TWI812609B (zh) 視訊傳輸裝置及視訊接收裝置
EP3707911B1 (en) Transmission device and method with region of interest mode selection
EP4580198A1 (en) Image processing method, hybrid image sensor, electronic device, and storage medium
JP7589153B2 (ja) 通信システム
JP7152475B2 (ja) 送信装置、受信装置、及び通信システム
KR102709488B1 (ko) 화상 처리 장치 및 화상 처리 시스템
US20220279110A1 (en) Imaging device, processing device, data transmission system, and data transmission method
WO2021020224A1 (ja) 送信装置、受信装置、及び通信システム
US20070223820A1 (en) Image capturing apparatus and face area extraction method
JP7450704B2 (ja) 送信装置、受信装置及び伝送システム
CN114009007A (zh) 发送装置、接收装置和传输系统
CN113170044A (zh) 接收装置和发送装置
JP7504803B2 (ja) 画像処理装置及び画像処理方法
JP7240258B2 (ja) 画像処理装置、画像処理装置の制御方法及びプログラム
JP2022095312A (ja) 撮像装置
US20240361834A1 (en) Image sensor, image processing system including the image sensor and operating method of the image processing system
JP7193359B2 (ja) 画像処理システムおよびカメラシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230713

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241113

R150 Certificate of patent or registration of utility model

Ref document number: 7589153

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150