JP2018029309A - Imaging device and transmission method - Google Patents
Imaging device and transmission method Download PDFInfo
- Publication number
- JP2018029309A JP2018029309A JP2016161387A JP2016161387A JP2018029309A JP 2018029309 A JP2018029309 A JP 2018029309A JP 2016161387 A JP2016161387 A JP 2016161387A JP 2016161387 A JP2016161387 A JP 2016161387A JP 2018029309 A JP2018029309 A JP 2018029309A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- predetermined object
- reference frame
- frames
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Abstract
Description
本発明の実施形態は、撮像装置および送信方法に関する。 Embodiments described herein relate generally to an imaging apparatus and a transmission method.
監視カメラ等の撮像装置が、撮像部により監視領域を撮像して得られた撮像画像に対してプライバシー保護処理を実行して、当該プライバシー保護処理を実行した撮像画像を、サーバ等の外部装置に送信するシステムがある。ここで、プライバシー保護処理は、撮像画像から、所定のオブジェクトを検出し、当該所定のオブジェクトに対してモザイク処理を実行する処理である。 An imaging device such as a monitoring camera performs privacy protection processing on a captured image obtained by imaging the monitoring area by the imaging unit, and the captured image that has been subjected to the privacy protection processing is transmitted to an external device such as a server. There is a system to send. Here, the privacy protection process is a process of detecting a predetermined object from the captured image and executing a mosaic process on the predetermined object.
しかしながら、上記のシステムにおいては、撮像装置においてプライバシー保護処理に要する計算時間が長くなる可能性があり、リアルタイムに撮像画像を提供するシステムにおいては、実現することが難しい場合がある。 However, in the above-described system, there is a possibility that the calculation time required for privacy protection processing in the imaging device may be long, and it may be difficult to realize in a system that provides captured images in real time.
実施形態の撮像装置は、撮像部と、エンコーダと、デコーダと、モザイク処理部と、入替処理部と、送信部と、を備える。エンコーダは、撮像部の撮像により得られる動画像が含むフレームを符号化する。デコーダは、符号化されたフレームのうちフレーム内符号化が行われた基準フレームを復号化する。モザイク処理部は、復号化された基準フレームが含む所定オブジェクトを検出し、所定オブジェクトに対してモザイク処理を実行し、かつ所定オブジェクトの検出結果に基づいて当該所定オブジェクトの移動軌跡を推定する。入替処理部は、符号化されたフレームのうちフレーム間符号化が行われかつ当該フレームを分割した各部分領域の動きベクトルを含む差分フレームから、移動軌跡上の部分領域を選択し、選択した部分領域間において、当該部分領域の動きベクトルを入れ替える入替処理を実行する。送信部は、モザイク処理を実行した基準フレームを符号化し、かつ当該符号化した基準フレームおよび入替処理を実行した差分フレームを外部装置に送信する。 The imaging device according to the embodiment includes an imaging unit, an encoder, a decoder, a mosaic processing unit, a replacement processing unit, and a transmission unit. The encoder encodes a frame included in a moving image obtained by imaging of the imaging unit. The decoder decodes a reference frame on which intra-frame coding has been performed among the coded frames. The mosaic processing unit detects a predetermined object included in the decoded reference frame, performs a mosaic process on the predetermined object, and estimates a movement trajectory of the predetermined object based on a detection result of the predetermined object. The replacement processing unit selects a partial region on the movement trajectory from the difference frame including the motion vector of each partial region in which the inter-frame encoding is performed and the frame is divided among the encoded frames, and the selected portion An exchange process for exchanging motion vectors of the partial areas between the areas is executed. The transmission unit encodes the reference frame on which the mosaic process has been performed, and transmits the encoded reference frame and the difference frame on which the replacement process has been performed to the external device.
以下、添付の図面を用いて、本実施形態にかかる撮像装置および送信方法を適用した通信システムについて説明する。 Hereinafter, a communication system to which an imaging apparatus and a transmission method according to the present embodiment are applied will be described with reference to the accompanying drawings.
図1は、本実施形態にかかる通信システムの構成の一例を示す図である。図2は、本実施形態にかかる通信システムが有する車両の構成の一例を示す図である。図1に示すように、本実施形態にかかる通信システムは、車両1と、センターサーバ2と、クライアント端末3と、基地局4と、を有する。図2に示すように、車両1には、ドライブレコーダ等であり、センターサーバ2等の外部装置と通信可能な車載装置101が搭載されている。また、車両1には、撮像部102、通信アンテナ103等が搭載される。
FIG. 1 is a diagram illustrating an example of a configuration of a communication system according to the present embodiment. FIG. 2 is a diagram illustrating an example of a configuration of a vehicle included in the communication system according to the present embodiment. As shown in FIG. 1, the communication system according to the present embodiment includes a vehicle 1, a
撮像部102は、車両1の前方等、車両1の周囲を撮像可能に設けられている。車載装置101は、撮像部102の撮像により車両1の外部等を撮像して得られる撮像画像を記憶する。また、車載装置101は、後述するGPS(Global Positioning System)アンテナ303(図3参照)を介して、GPS衛星STからGPS信号を受信し、当該受信したGPS信号に基づいて、車載装置101の位置を取得する。そして、車載装置101は、通信アンテナ103を制御して、基地局4を介して、センターサーバ2から、送信指示を受信する。
The
車載装置101は、送信指示を受信すると、通信アンテナ103を制御して、車両1の外部等を撮像して得られる撮像画像等の各種情報を、基地局4を介して、センターサーバ2等の外部装置に送信する。本実施形態では、車載装置101は、撮像画像をセンターサーバ2等の外部装置に送信する際、当該撮像画像に対して、車載装置101の位置を示す位置情報を付加して、センターサーバ2等の外部装置に送信する。これにより、センターサーバ2は、いずれの位置を撮像して得られた撮像画像であるかを検知することができる。また、車載装置101は、センターサーバ2からの送信指示を受信しなくても、車両1の外部等を撮像して得られる撮像画像を、センターサーバ2に送信することも可能である。
When receiving the transmission instruction, the in-
基地局4は、車両1に搭載された車載装置101等と無線通信可能である。本実施形態では、基地局4は、センターサーバ2から送信される送信指示を、車載装置101に転送する。また、基地局4は、車載装置101から撮像画像の各種情報を受信し、当該受信した各種情報をインターネット等のネットワークを介してセンターサーバ2に転送する。
The base station 4 can wirelessly communicate with the in-
クライアント端末3は、店舗やバス停等の混雑状況、通学路の見守り、犯罪者の追跡、夜間の見回り、災害状況の把握など、監視領域に関する監視情報の取得を目的として、撮像画像の送信を指示する送信条件をセンターサーバ2に送信する。ここで、送信条件には、監視情報を取得する監視位置を示す情報である。そして、クライアント端末3は、センターサーバ2から、監視位置の撮像画像を受信する。
The
センターサーバ2は、車載装置101から、撮像画像を受信する。また、センターサーバ2は、当該センターサーバ2が提供するサービスに契約している利用者のクライアント端末3から、送信条件を受信する。そして、センターサーバ2は、車載装置101から受信した撮像画像のうち、クライアント端末3から受信した送信条件が示す監視位置と一致する位置情報が付加された撮像画像(すなわち、監視位置を走行する車両1の車載装置101から受信した撮像画像)を、当該クライアント端末3に送信する。これにより、クライアント端末3の利用者は、監視位置の撮像画像を見て、当該監視位置の状況を認識できる。例えば、クライアント端末3の利用者は、監視カメラ等が設置されていない領域の状況を認識できる。
The
本実施形態では、センターサーバ2は、車載装置101から受信する撮像画像を、クライアント端末3に送信する例について説明するが、これに限定するものではなく、例えば、建物や道路の路側等に設置された監視カメラや後述する携帯端末304(図3参照)が有するカメラ等の撮像部により、建物や道路の路側等の監視位置を撮像して得られる撮像画像を、クライアント端末3に送信することも可能である。
In this embodiment, although the
図3は、本実施形態にかかる通信システムが有する車両のコックピットの構成の一例を示す図である。図3に示すように、本実施形態にかかる通信システムが有する車両1のコックピットには、車載装置101と、撮像部301,302と、GPSアンテナ303と、携帯端末304と、が設けられている。撮像部301,302は、撮像部102に含まれ、車両1の前方を走行する先行車両等を、互いに異なるアングルから撮像可能に設けられている。本実施形態では、撮像部301,302は、センターコンソールを挟んで左右対称に設けられている。
FIG. 3 is a diagram illustrating an example of a configuration of a cockpit of a vehicle included in the communication system according to the present embodiment. As shown in FIG. 3, the cockpit of the vehicle 1 included in the communication system according to the present embodiment is provided with an in-
GPSアンテナ303は、車両1の位置を取得するために、GPS衛星STから発信されるGPS信号を受信可能に設けられている。携帯端末304は、スマートフォンやタブレット端末等により構成され、基地局4を介して、センターサーバ2とデータ通信可能である。本実施形態では、携帯端末304は、車両1の周囲等を撮像可能な撮像部を有する。そして、携帯端末304は、センターサーバ2から送信指示を受信すると、撮像部により車両1の周囲を撮像して得られる撮像画像を、基地局4を介して、センターサーバ2に送信する。
The
図4は、本実施形態にかかる通信システムの車両が有する車載装置のハードウェア構成の一例を示す図である。図4に示すように、車載装置101は、制御部401と、通信I/F402と、記憶部403と、外部記憶装置404と、を有する。制御部401は、車載装置101全体を制御する。本実施形態では、制御部401は、MPU(Micro Processing Unit)等を含むマイクロコンピュータにより構成される。
FIG. 4 is a diagram illustrating an example of a hardware configuration of an in-vehicle device included in the vehicle of the communication system according to the present embodiment. As illustrated in FIG. 4, the in-
制御部401は、センターサーバ2から送信指示を受信すると、通信I/F402を介して、撮像部102から、当該撮像部102により車両1の周囲を撮像して得られる撮像画像を取得する。そして、制御部401は、取得した撮像画像を、通信アンテナ103を介して、センターサーバ2に送信する。通信I/F402は、撮像部102、通信I/F402、GPSアンテナ303、携帯端末304等と通信可能である。記憶部403は、制御部401による車載装置101の制御に用いる各種プログラム等を不揮発的に記憶するROM(Read Only Memory)、当該ROMに記憶される各種プログラムを実行する際の作業領域として用いられるRAM(Random Access Memory)、車両1に設定される設定データを不揮発的に記憶するフラッシュROM、撮像部102の撮像により得られる撮像画像を記憶するVRAM等を有する。外部記憶装置404は、HDD(Hard Disk Drive)やSSD(Solid State Drive)等の大容量記憶装置により構成される。
When receiving a transmission instruction from the
次に、図5および図6を用いて、本実施形態にかかる車載装置101による撮像画像の送信処理について説明する。図5は、本実施形態にかかる通信システムの車両が有する車載装置による撮像画像の送信処理の一例を説明するための図である。図6は、本実施形態にかかる通信システムの車両が有する車載装置の機能構成の一例を示す図である。
Next, a transmission process of a captured image by the in-
本実施形態では、図6に示すように、制御部401が、記憶部403に記憶されるプログラムを実行することにより、エンコーダ601、分解部602、デコーダ603、モザイク処理部604、シャッフル処理部605、および映像再構成部606を実現する。制御部401は、通信アンテナ103を介して、センターサーバ2から、送信指示を受信すると、撮像部102を制御して車両1の周囲の撮像を開始させる。エンコーダ601は、撮像部102により車両1の周囲を撮像して得られる動画像を取得する。そして、エンコーダ601は、取得した動画像が含む各フレームを符号化する。具体的には、エンコーダ601は、H.264等の規格に従って、動画像が含む各フレームを符号化する。
In the present embodiment, as illustrated in FIG. 6, the
分解部602は、エンコーダ601により符号化された動画像の各フレームを、フレーム内符号化が行われたフレーム(以下、基準フレームと言う)と、フレーム間符号化が行われかつフレームを分割した各イントラブロック(部分領域の一例)の動きベクトル(移動ベクトル)を含むフレーム(以下、差分フレームと言う)とに分解する。ここで、フレーム内符号化は、フレーム間予測を用いずに、フレームを符号化する方式である。言い換えると、フレーム内符号化は、他のフレームを用いずに、フレームを符号化する。具体的には、フレーム内符号化は、隣接する2つの画素の値から、符号化する画素である対象画素の値を予測し、予測値と実際の対象画素の値との差分を符号化する。また、フレーム間符号化は、フレーム間予測を用いて、フレームを符号化する方式である。本実施形態では、分解部602は、エンコーダ601により符号化された動画像の各フレームを、基準フレームとしてのIフレームと、差分フレームとしてのP,Bフレームとに分解する。そして、分解部602は、動画像のフレームから分解した基準フレーム(例えば、Iフレーム)を、デコーダ603に出力する。また、分解部602は、動画像のフレームから分解した差分フレーム(例えば、P,Bフレーム)を、シャッフル処理部605に出力する。
The disassembling unit 602 divides each frame of the moving image encoded by the
デコーダ603は、分解部602から入力される基準フレームを復号化する。そして、デコーダ603は、復号化した基準フレームを、モザイク処理部604に出力する。
The
モザイク処理部604は、デコーダ603により復号化された基準フレームが含む所定オブジェクトを検出する。本実施形態では、モザイク処理部604は、復号化される基準フレームに対して、パターン認識処理等を行うことによって、当該基準フレームが含む所定オブジェクトを検出する。また、本実施形態では、モザイク処理部604は、図5に示すように、基準フレームから、人や車両やナンバープレートや顔等のプライバシー保護対象のオブジェクトを所定オブジェクトOとして検出する。
The
次いで、モザイク処理部604は、複数の基準フレームからの所定オブジェクトの検出結果に基づいて、所定オブジェクトの移動軌跡を推定する。本実施形態では、モザイク処理部604は、時系列の2つの基準フレームからの所定オブジェクトの検出結果に基づいて、所定オブジェクトの移動軌跡を推定するものとする。例えば、モザイク処理部604は、時系列の2つの基準フレームそれぞれから検出された所定オブジェクトの位置を結ぶ直線を、所定オブジェクトの移動軌跡として推定する。
Next, the
さらに、モザイク処理部604は、基準フレームが含む所定オブジェクトに対してモザイク処理を実行する。本実施形態では、モザイク処理部604は、基準フレームが含む所定オブジェクトを入れ替えるモザイク処理を実行するが、これに限定するものではなく、基準フレームが含む所定オブジェクトを視認できない状態にするものであれば良い。例えば、モザイク処理部604は、基準フレームが含む所定オブジェクトを、ぼかしたり、黒塗りにしたりするモザイク処理を実行しても良い。また、本実施形態では、モザイク処理部604は、基準フレームが含む所定オブジェクトに対して、可逆変換のモザイク処理を実行するものとするが、これに限定するものではない。例えば、モザイク処理部604は、基準フレームが含む所定オブジェクトに対して、非可逆変換のモザイク処理を実行しても良い。
Further, the
シャッフル処理部605(入替処理部の一例)は、分解部602により分解される差分フレームから、モザイク処理部604により推定される移動軌跡上のイントラブロックを選択する。本実施形態では、シャッフル処理部605は、差分フレームから、移動軌跡と重なるイントラブロックと当該移動軌跡近傍のイントラブロックを選択する。そして、シャッフル処理部605は、選択したイントラブロック間において、当該イントラブロックの動きベクトルを入れ替えるシャッフル処理(入替処理の一例)を実行する。
The shuffle processing unit 605 (an example of a replacement processing unit) selects an intra block on the movement locus estimated by the
本実施形態では、シャッフル処理部605は、選択したイントラブロック間において、予め設定されたルールに基づいて、イントラブロックの動きベクトルを入れ替える。ここで、予め設定されたルールは、可逆変換によって、イントラブロックの動きベクトルを入れ替えるルールである。例えば、図5に示すように、シャッフル処理部605は、選択した所定オブジェクトO(ナンバープレート)を構成するイントラブロックに対して、可逆変換のモザイク処理を実行する。本実施形態では、シャッフル処理部605は、所定オブジェクトを構成するイントラブロックに対して、可逆変換のモザイク処理を実行しているが、所定オブジェクトを構成するイントラブロックに対して、非可逆変換のモザイク処理を実行しても良い。
In the present embodiment, the
映像再構成部606(送信部の一例)は、モザイク処理部604によりモザイク処理を実行した基準フレームを符号化する。本実施形態では、映像再構成部606は、モザイク処理を実行した基準フレームに対して、フレーム内符号化を行う。また、映像再構成部606は、符号化を行った基準フレームと、シャッフル処理を実行した差分フレームとを、センターサーバ2(外部装置の一例)に送信する。これにより、撮像部102の撮像により得られる動画像にモザイクを施してセンターサーバ2に送信する場合に、差分フレームから所定オブジェクトを検出する処理を実行する必要が無くなるので、撮像部102の撮像により得られる動画像にモザイクを施してセンターサーバ2に送信する処理の計算コストを低減できる。本実施形態では、撮像部102および車載装置101が撮像装置の一例として機能するが、図6に示す機能構成を、携帯端末304や監視カメラ等において実現することによって、携帯端末304や監視カメラ等を撮像装置の一例として機能させることも可能である。
The video reconstruction unit 606 (an example of a transmission unit) encodes the reference frame on which the mosaic processing is performed by the
次に、図7〜9を用いて、本実施形態にかかる通信システムの車両1の車載装置101による動画像の送信処理の流れについて説明する。図7は、本実施形態にかかる通信システムの車両が有する車載装置による動画像の符号化の一例を説明するための図である。図8は、本実施形態にかかる通信システムの車両が有する車載装置によるシャッフル処理の一例を説明するための図である。図9は、本実施形態にかかる通信システムが有する車載装置による動画像の送信処理の流れの一例を示すフローチャートである。
Next, the flow of a moving image transmission process performed by the in-
本実施形態では、エンコーダ601は、撮像部102により車両1の周囲を撮像して得られる動画像を構成するフレームを符号化する。分解部602は、符号化された基準フレームのうち、異なる時刻の2つの基準フレームを選択する。具体的には、分解部602は、図7に示すように、符号化された基準フレームのうち、第1時刻の基準フレームおよび当該第1時刻より後の第2時刻の基準フレーム(すなわち、時系列の2つの基準フレーム)を選択する。次いで、分解部602は、図7に示すように、符号化された差分フレームのうち、第1時刻の基準フレームと第2時刻の基準フレームの間の差分フレーム(例えば、3つの差分フレーム)を、1つのセット(フレーム群の一例)とする。
In the present embodiment, the
次に、デコーダ603は、時系列の2つの基準フレームを復号化する。モザイク処理部604は、図7に示すように、第1時刻の基準フレームおよび第2時刻の基準フレームそれぞれから所定オブジェクト(例えば、先行車両)を検出する。モザイク処理部604は、各基準フレームから検出した所定オブジェクトに対してモザイク処理を実行する。また、モザイク処理部604は、第1時刻の基準フレームにおける所定オブジェクトの位置と、第2時刻の基準フレームにおける所定オブジェクトの位置とを結ぶ直線を、第1時刻と第2時刻間における所定オブジェクトの移動軌跡と推定する(ステップS901)。例えば、モザイク処理部604は、第1時刻の基準フレームにおける所定オブジェクトの位置と、第2時刻の基準フレームにおける所定オブジェクトの位置を結ぶ直線を、所定オブジェクトの移動軌跡と推定する。
Next, the
次いで、シャッフル処理部605は、デコーダ603から出力される差分フレームが含むイントラブロックのうち移動軌跡上のイントラブロックの動きベクトルに基づいて、移動軌跡を補正する(ステップS902)。具体的には、シャッフル処理部605は、差分フレームが含むイントラブロックのうち移動軌跡上のイントラブロックの動きベクトルの方向に、当該移動軌跡が示す所定オブジェクトの移動方向が近づくように、移動軌跡を補正する。これにより、シャッフル処理部605によりシャッフル処理を実行するイントラブロックを、差分フレームが含む所定オブジェクトのイントラブロックに近づけることができるので、差分フレームが含む所定オブジェクトに対して高精度にシャッフル処理を実行できる。
Next, the
次に、シャッフル処理部605は、1つのセットに含まれる複数の差分フレームにおける移動軌跡上のイントラブロック(例えば、図8において、黒塗りのイントラブロック)を選択する(ステップS903)。そして、シャッフル処理部605は、選択したイントラブロック間において、当該イントラブロックの動きベクトルを入れ替えるシャッフル処理を実行する(ステップS904)。すなわち、シャッフル処理部605は、1つのセットに含まれる複数の差分フレームにおける移動軌跡上のイントラブロック間において、当該イントラブロックの動きベクトルを入れ替えるシャッフル処理を実行する。これにより、1つの差分フレームにおける移動軌跡上のイントラブロック間において、当該イントラブロックの動きベクトルをより複雑に入れ替えることができるので、差分フレームに対するモザイクの強度を上げることができる。
Next, the
本実施形態では、シャッフル処理部605は、選択したイントラブロック間において、当該イントラブロックの動きベクトルを入れ替える際のルールを変更することによって、差分フレームに対するモザイクの強弱を変更することも可能である。
In the present embodiment, the
その後、映像再構成部606は、モザイク処理部604によりモザイク処理を実行した時系列の基準フレームを、再度、符号化する。そして、映像再構成部606は、符号化した基準フレーム、およびシャッフル処理部605によりシャッフル処理を実行した差分フレームを、時系列に並べ替えてセンターサーバ2に送信する(ステップS905)。撮像部102の撮像により得られる動画像にモザイクを施してセンターサーバ2に送信する場合に、差分フレームから所定オブジェクトを検出する処理を実行する必要が無くなるので、撮像部102の撮像により得られる動画像にモザイクを施してセンターサーバ2に送信する処理の計算コストを低減できる。
Thereafter, the
本実施形態では、映像再構成部606は、基準フレームおよび差分フレームをセンターサーバ2等の外部装置に送信しているが、基準フレームにおいてモザイク処理を実行した位置(すなわち、基準フレームから検出した所定オブジェクトの位置)を示す情報(例えば、座標情報)を、基準フレームおよび差分フレームとともにセンターサーバ2に送信しても良い。これにより、センターサーバ2等の外部装置において、基準フレームに実行されたモザイクを解除する場合に、基準フレームにおいてモザイク処理を実行した位置を容易に特定できる。
In the present embodiment, the
また、映像再構成部606は、推定した移動軌跡を示す情報を、基準フレームおよび差分フレームとともにセンターサーバ2に送信しても良い。これにより、センターサーバ2等の外部装置において、差分フレームに実行されるモザイクを解除する場合に、差分フレームにおいてシャッフル処理を実行したイントラブロックを容易に特定できる。
In addition, the
このように、本実施形態にかかる車載装置101によれば、撮像部102の撮像により得られる動画像にモザイクを施してセンターサーバ2に送信する処理の計算コストを低減できる。
As described above, according to the in-
なお、本実施形態の車載装置101で実行されるプログラムは、ROM等に予め組み込まれて提供される。本実施形態の車載装置101で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成しても良い。
Note that the program executed by the in-
さらに、本実施形態の車載装置101で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の車載装置101で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
Furthermore, the program executed by the in-
本実施形態の車載装置101で実行されるプログラムは、上述した各部(エンコーダ601、分解部602、デコーダ603、モザイク処理部604、シャッフル処理部605、および映像再構成部606)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(Central Processing Unit)が上記ROMからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、エンコーダ601、分解部602、デコーダ603、モザイク処理部604、シャッフル処理部605、および映像再構成部606が主記憶装置上に生成されるようになっている。
The program executed by the in-
本発明の実施形態を説明したが、この実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施形態は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although the embodiment of the present invention has been described, this embodiment is presented as an example and is not intended to limit the scope of the invention. The novel embodiment can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the scope of the invention. This embodiment is included in the scope and gist of the invention, and is also included in the invention described in the claims and the equivalent scope thereof.
1 車両
2 センターサーバ
3 クライアント端末
4 基地局
101 車載装置
102,301,302 撮像部
103 通信アンテナ
401 制御部
402 通信I/F
403 記憶部
404 外部記憶装置
601 エンコーダ
602 分解部
603 デコーダ
604 モザイク処理部
605 シャッフル処理部
606 映像再構成部
DESCRIPTION OF SYMBOLS 1
403 Storage unit 404
Claims (14)
前記撮像部の撮像により得られる動画像が含むフレームを符号化するエンコーダと、
前記符号化されたフレームのうちフレーム内符号化が行われた基準フレームを復号化するデコーダと、
復号化された前記基準フレームが含む所定オブジェクトを検出し、前記所定オブジェクトに対してモザイク処理を実行し、かつ前記所定オブジェクトの検出結果に基づいて当該所定オブジェクトの移動軌跡を推定するモザイク処理部と、
前記符号化されたフレームのうちフレーム間符号化が行われかつ当該フレームを分割した各部分領域の動きベクトルを含む差分フレームから、前記移動軌跡上の前記部分領域を選択し、選択した前記部分領域間において、当該部分領域の前記動きベクトルを入れ替える入替処理を実行する入替処理部と、
前記モザイク処理を実行した前記基準フレームを符号化し、かつ当該符号化した基準フレームおよび前記入替処理を実行した前記差分フレームを外部装置に送信する送信部と、
を備えた撮像装置。 An imaging unit;
An encoder that encodes a frame included in a moving image obtained by imaging of the imaging unit;
A decoder that decodes a reference frame that has been subjected to intra-frame encoding among the encoded frames;
A mosaic processing unit that detects a predetermined object included in the decoded reference frame, performs a mosaic process on the predetermined object, and estimates a movement locus of the predetermined object based on a detection result of the predetermined object; ,
The partial area on the movement trajectory is selected from the difference frame including the motion vector of each partial area obtained by performing inter-frame encoding among the encoded frames and dividing the frame, and the selected partial area A replacement processing unit that executes replacement processing for replacing the motion vectors of the partial area,
A transmitter that encodes the reference frame on which the mosaic processing has been performed, and transmits the encoded reference frame and the difference frame on which the replacement processing has been performed to an external device;
An imaging apparatus comprising:
前記入替処理部は、前記フレーム群に含まれる前記各差分フレームにおける前記移動軌跡上の前記部分領域間において、当該部分領域の前記動きベクトルを入れ替える前記入替処理を実行する請求項1に記載の撮像装置。 The difference frame between two reference frames in time series is defined as one frame group,
2. The imaging according to claim 1, wherein the replacement processing unit executes the replacement process of replacing the motion vectors of the partial areas between the partial areas on the movement locus in the difference frames included in the frame group. apparatus.
前記符号化されたフレームのうちフレーム内符号化が行われた基準フレームを復号化し、
復号化された前記基準フレームが含む所定オブジェクトを検出し、
前記基準フレームが含む前記所定オブジェクトに対してモザイク処理を実行し、
前記所定オブジェクトの検出結果に基づいて当該所定オブジェクトの移動軌跡を推定し、
前記符号化されたフレームのうちフレーム間符号化が行われかつ当該フレームを分割した各部分領域の動きベクトルを含む差分フレームから、前記移動軌跡上の前記部分領域を選択し、
選択した前記部分領域間において、当該部分領域の前記動きベクトルを入れ替える入替処理を実行し、
前記モザイク処理を実行した前記基準フレームを符号化し、
当該符号化した基準フレームおよび前記入替処理を実行した前記差分フレームを外部装置に送信する、
ことを含む送信方法。 Encode a frame included in a moving image obtained by imaging of the imaging unit,
Decoding a reference frame subjected to intra-frame encoding among the encoded frames;
Detecting a predetermined object included in the decoded reference frame;
Mosaic processing is performed on the predetermined object included in the reference frame,
Based on the detection result of the predetermined object, the movement trajectory of the predetermined object is estimated,
Selecting the partial region on the movement trajectory from the difference frame including the motion vector of each partial region in which the inter-frame encoding is performed and the frame is divided among the encoded frames;
Performing a replacement process for replacing the motion vectors of the partial areas between the selected partial areas;
Encoding the reference frame on which the mosaic processing has been performed;
Transmitting the encoded reference frame and the difference frame subjected to the replacement process to an external device;
A transmission method including that.
前記フレーム群に含まれる前記各差分フレームにおける前記移動軌跡上の前記部分領域間において、当該部分領域の前記動きベクトルを入れ替える前記入替処理を実行する請求項8に記載の送信方法。 The difference frame between two reference frames in time series is defined as one frame group,
The transmission method according to claim 8, wherein the replacement process of exchanging the motion vectors of the partial areas is performed between the partial areas on the movement trajectory in the difference frames included in the frame group.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016161387A JP6659495B2 (en) | 2016-08-19 | 2016-08-19 | Imaging device and transmission method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016161387A JP6659495B2 (en) | 2016-08-19 | 2016-08-19 | Imaging device and transmission method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018029309A true JP2018029309A (en) | 2018-02-22 |
JP6659495B2 JP6659495B2 (en) | 2020-03-04 |
Family
ID=61248630
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016161387A Active JP6659495B2 (en) | 2016-08-19 | 2016-08-19 | Imaging device and transmission method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6659495B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019200728A (en) * | 2018-05-18 | 2019-11-21 | 株式会社デンソー | On-vehicle camera |
JP2021516390A (en) * | 2018-03-09 | 2021-07-01 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | Surround view system with adjusted projection plane |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009033738A (en) * | 2007-07-04 | 2009-02-12 | Sanyo Electric Co Ltd | Imaging apparatus, data structure of image file |
JP2010268055A (en) * | 2009-05-12 | 2010-11-25 | Canon Inc | Image processing device and image processing method |
JP2013118606A (en) * | 2011-10-31 | 2013-06-13 | Jvc Kenwood Corp | Image processing device, image processing method, and image processing program |
JP2014225726A (en) * | 2013-05-15 | 2014-12-04 | 富士通株式会社 | Information processing apparatus, program and image processing method |
-
2016
- 2016-08-19 JP JP2016161387A patent/JP6659495B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009033738A (en) * | 2007-07-04 | 2009-02-12 | Sanyo Electric Co Ltd | Imaging apparatus, data structure of image file |
JP2010268055A (en) * | 2009-05-12 | 2010-11-25 | Canon Inc | Image processing device and image processing method |
JP2013118606A (en) * | 2011-10-31 | 2013-06-13 | Jvc Kenwood Corp | Image processing device, image processing method, and image processing program |
JP2014225726A (en) * | 2013-05-15 | 2014-12-04 | 富士通株式会社 | Information processing apparatus, program and image processing method |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021516390A (en) * | 2018-03-09 | 2021-07-01 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | Surround view system with adjusted projection plane |
JP7295123B2 (en) | 2018-03-09 | 2023-06-20 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツング | Surround view system with adjusted projection plane |
JP2019200728A (en) * | 2018-05-18 | 2019-11-21 | 株式会社デンソー | On-vehicle camera |
CN110497852A (en) * | 2018-05-18 | 2019-11-26 | 株式会社电装 | Vehicle-mounted vidicon and camera chain |
JP7070082B2 (en) | 2018-05-18 | 2022-05-18 | 株式会社デンソー | In-vehicle camera |
Also Published As
Publication number | Publication date |
---|---|
JP6659495B2 (en) | 2020-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3316589B1 (en) | Video synchronization device and video synchronization method | |
JP2020017301A (en) | Image processing method, image processing system, and image processing terminal | |
JP2020533839A5 (en) | ||
CN102726047A (en) | Surveillance system | |
KR101930950B1 (en) | IP camera real time encryption system based on network switch | |
US8743953B2 (en) | Method and apparatus for adjusting video compression parameters for encoding source video based on a viewer's environment | |
US20170127081A1 (en) | Coding method using motion model information | |
JP6465600B2 (en) | Video processing apparatus and video processing method | |
JP2007266652A (en) | Moving object detection device, moving object detection method, moving object detection program, video decoder, video encoder, imaging apparatus, and video management system | |
US20140043491A1 (en) | Methods and apparatuses for detection of anomalies using compressive measurements | |
CN109688413B (en) | Method and encoder for encoding a video stream in a video encoding format supporting auxiliary frames | |
JP6659495B2 (en) | Imaging device and transmission method | |
JP6707334B2 (en) | Method and apparatus for real-time encoding | |
JP5872171B2 (en) | Camera system | |
US10536702B1 (en) | Adjusting the image of an object to search for during video encoding due to changes in appearance caused by camera movement | |
KR101772391B1 (en) | Exetended Monitoring Device Using Voice Recognition Module Installed in Multi Spot | |
WO2022074701A1 (en) | Information processing device, information processing system, and information processing method | |
US20190371142A1 (en) | Pathway determination based on multiple input feeds | |
JP2013240046A5 (en) | ||
JP2014216831A (en) | Encoding device and remote monitoring system | |
JP2022003779A (en) | Image decoding device, image decoding method, and image decoding program | |
JP7142543B2 (en) | Image processing program, image processing apparatus, image processing system, and image processing method | |
RU2789732C2 (en) | Image decoding device and image decoding method | |
EP4231638A1 (en) | Encoding of a video stream including an overlay | |
KR20230094957A (en) | Method and image processing device for encoding a video |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20170911 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20170912 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190311 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200206 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6659495 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |