JP2014179830A - 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム - Google Patents

画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム Download PDF

Info

Publication number
JP2014179830A
JP2014179830A JP2013052737A JP2013052737A JP2014179830A JP 2014179830 A JP2014179830 A JP 2014179830A JP 2013052737 A JP2013052737 A JP 2013052737A JP 2013052737 A JP2013052737 A JP 2013052737A JP 2014179830 A JP2014179830 A JP 2014179830A
Authority
JP
Japan
Prior art keywords
importance
image
control parameter
quality control
image quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013052737A
Other languages
English (en)
Other versions
JP6319545B2 (ja
Inventor
Tomohito Nakano
智史 中野
Manabu Nakamura
学 中村
Atsushi Ikeda
淳 池田
Mari Yasuda
真理 安田
Tetsuo Tanaka
哲夫 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2013052737A priority Critical patent/JP6319545B2/ja
Priority to US14/208,392 priority patent/US9560363B2/en
Publication of JP2014179830A publication Critical patent/JP2014179830A/ja
Application granted granted Critical
Publication of JP6319545B2 publication Critical patent/JP6319545B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • H04N19/198Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters including smoothing of a sequence of encoding parameters, e.g. by averaging, by choice of the maximum, minimum or median value
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19606Discriminating between target movement or movement in an area of interest and other non-signicative movements, e.g. target movements induced by camera shake or movements of pets, falling leaves, rotating fan
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19665Details related to the storage of video surveillance data
    • G08B13/19667Details realated to data compression, encryption or encoding, e.g. resolution modes for reducing data volume to lower transmission bandwidth or memory requirements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】 実際の重要度の変化に応じたパラメータで動画像の符号化を行う画像符号化装置を提供する。
【解決手段】 画像符号化装置120は、連続的に入力される複数の入力画像の各々について重要度を算出する重要度算出部11と、重要度の周期である重要度周期を算出する重要度周期算出部12と、過去の複数の重要度周期の各々における、現在時刻に対応する時刻の重要度の平均である平均重要度を算出する平均重要度算出部13と、平均重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出部14と、画質制御パラメータを用いて入力画像を符号化して映像データを生成する画像符号化部122とを備えている。
【選択図】 図1

Description

本発明は、連続的に入力される複数の入力画像を符号化して映像データを生成する画像符号化装置及びそれを含む撮影システム及び撮影記録システム、画像符号化方法、ならびに画像符号化プログラムに関するものである。
監視カメラは、監視箇所に設置されて、監視対象の動画像を撮影して記録する。このような監視対象の動画像の記録において、記録される動画像には、重要度の高いフレーム、重要度の低いフレーム、及び重要度が中程度であるフレームが混在する。例えば、監視カメラにおいて、人物の顔や車両のナンバープレートが撮影されているフレームは、重要なフレームであるが、背景だけが写っているフレームや、前フレームとの違いがほとんどないフレーム等は重要度の低いフレームである。また、監視カメラの設置位置によっては、重要度の高いフレームが多く撮影されることもあれば、重要度の低いフレームが多く撮影されることもある。
動画像を撮影して記録する際に、重要なフレームは高画質で撮影・記録し、重要度の低いフレームについては画質を落として撮影・記録することができれば、監視の用途を損なわないで限られた記憶容量を有効に活用でき、また動画像を伝送する場合にも監視の用途を損なわないでネットワークの負担を軽減できる。ここで、動画像の画質を決定する要素としては、動画像のフレームレートや符号化部における圧縮率がある。
従来、動画像の重要度に応じて画質を調整する方法が提案されている(例えば、特許文献1)。この特許文献1の方式によると、複数台の監視カメラを設置する際に、事前にそれぞれの記録時間と重要度(1〜10の整数値で表される)を設定することで、重要度に応じて各監視カメラの画質を設定することができる。そして、監視カメラの台数が増えた場合や記録装置の容量が変わった場合にも、記録時間と重要度を設定し直すだけで、画質を調整できる。
また、特許文献1の方式によれば、周期的な所定の時間帯の重要度を事前に設定しておくことで、時間帯によって重要度を切り替えるなどして、画質を動的に調整できる。
特開2009−55341号公報
しかしながら、上記の従来の方式では、以下の課題があった。一つは、事前に重要度を数値化する際に勘に頼っていたことに起因する課題であり、さらに、事前に重要度の時間変化を固定的に設定することに起因する課題があった。以下、これらの課題を説明する。
図14は、小売店の店内に監視カメラを設置した場合の重要度の変化の例を示すグラフである。実線は、実際の重要度の変化を示している。実際の重要度は、例えば来客数に基づいて計算される。実際の重要度は、小売店の開店時間である8時を過ぎてから高くなり、閉店時間である22時前に低くなっている。このような実際の重要度を踏まえて、従来の方式では、破線に示すように、営業時間である8時から22時までの重要度を高くし、それ以外の時間帯の重要度を低くするように重要度が設定される。
図15は、小売店の店内に監視カメラを設置した場合の重要度の変化の例を示すグラフであり、図14のグラフに異なる季節の実際の重要度を追加したものである。図15の一点鎖線は冬季の実際の重要度の変化を示しており、実線は夏季の実際の重要度の変化を示している。冬季と夏季とを比較すると、営業時間は8時から22時までで同じであるが、夏季の方が冬季よりも、重要度が高い時間帯が長く、立ち上がりも急峻で、ピークの大きさも大きい。
このように、単に営業時間等に基づいて勘に頼って重要度を設定すると、ピークの大きさや変化の傾きが実際の重要度と一致しなくなることがある。また、重要度の算出根拠となる来客数は、サマータイム、日照時間等の季節による影響を受け、また、学校の登下校時間、会社の出退社時間等の周辺環境にも影響される。したがって、事前に重要度の時間変化を固定的に設定してしまうと、そのような季節や周辺環境の変化に対応できない。
さらに、動画像から重要度を判断して画質を調整する場合には、その判断に誤りがあると動画像を高画質にすべきときに高画質にできない場合がある。例えば、顔検出の結果を重要度とする場合において、人が横を向きながら監視カメラの前を通った場合には、顔が検出できず、高画質に切り替えることができないという問題がある。
本発明は、上記の問題に鑑みてなされたものであり、実際の重要度の変化に応じたパラメータで動画像の符号化を行う画像符号化装置、画像符号化方法、及び画像符号化プログラム、実際の重要度の変化に応じて重要度を設定して動画像の撮影を行う撮像装置、並びに実際の重要度の変化に応じて重要度を設定する画像符号化装置及びそれを含む撮影システム及び撮影記録システム、画像符号化方法、ならびに画像符号化プログラムを提供することを目的とする。
本発明の画像符号化装置は、連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出部と、前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化部とを備えた構成を有している。
この構成により、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じた画質制御パラメータで入力画像を符号化して映像データを生成できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、前記重要度周期における、現在時刻に対応する複数の過去の時刻の重要度の平均である平均重要度に基づいて画質制御パラメータを算出してよい。
この構成により、重要度周期における複数の対応する時刻の重要度を用いて画質制御パラメータを決定できる。
上記の画像符号化装置は、前記重要度周期における、現在時刻に対応する複数の過去の時刻の重要度に基づいて前記平均重要度を算出する平均重要度算出部をさらに備えていてよい。
この構成により、画像符号化装置において平均重要度を算出できる。
上記の画像符号化装置は、前記入力画像に基づいて前記重要度を算出する重要度算出部と、前記重要度に基づいて前記重要度周期を算出する重要度周期算出部とをさらに備えていてよい。
この構成により、画像符号化装置がユーザに頼らずに入力画像に基づいて自ら重要度周期を算出できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、一日における前記画像符号化装置の稼働時間を前記重要度周期として、現在時刻に対応する過去の時刻の重要度に基づいて前記画質制御パラメータを算出してよい。
この構成により、入力画像から重要度周期の算出を行う構成を備えずに画質制御パラメータを算出できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、一週間における前記画像符号化装置の稼働時間を前記重要度周期として、現在時刻に対応する過去の時刻の重要度に基づいて前記画質制御パラメータを算出してよい。
この構成によっても、入力画像から重要度周期の算出を行う構成を備えずに画質制御パラメータを算出できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、さらに前記重要度算出部で算出された現在時刻の入力画像の重要度である現在重要度にも基づいて前記画質制御パラメータを算出してよい。
この構成により、過去の重要度のみならず、現在の重要度にも応じて画質制御パラメータが決定されるので、通常は重要度が低いが現在において重要度が高い場合には画質を上げる等の柔軟な画質制御が可能となる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、前記現在重要度及び複数周期分の前記平均重要度の平均に比例するように画質制御パラメータを算出してよい。
この構成により、現在重要度と平均重要度とを複合的に用いて画質制御パラメータ決定できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、前記現在重要度及び前記平均重要度のうちの大きい方に比例するように前記画質制御パラメータを算出してよい。
この構成により、現在重要度の算出に誤りがあって低く算出された場合にも、過去の平均重要度に基づいて適切な画質制御パラメータを決定できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、前記現在重要度と前記平均重要度との比較、及び前記現在重要度又は前記平均重要度と所定の閾値との比較に基づいて、前記画質制御パラメータを算出してよい。
この構成により、平常とは異なる異常な事態が生じている状況や、現在重要度の算出に誤りがある状況等に適切に対応して画質制御パラメータを決定できる。
上記の画像符号化装置において、前記画質制御パラメータ算出部は、前記平均重要度のみに基づいて、前記平均重要度に比例するように前記画質制御パラメータを算出してよい。
この構成により、現在重要度に左右されることなく画質制御パラメータを決定できる。なお、現在重要度は、後に平均重要度に反映されることになる。
上記の画像符号化装置は、前記画像符号化部にて生成された前記映像データの複雑度を算出する複雑度算出部と、前記複雑度の周期である複雑度周期を算出する複雑度周期算出部と、前記複雑度周期の整数倍の周期における平均画像複雑度を算出する平均画像複雑度算出部とをさらに備えていてよく、前記画質制御パラメータ算出部は、前記平均画像複雑度にも基づいて前記画質制御パラメータを算出してよい。
この構成により、映像データの複雑度周期に基づいて画質制御パラメータが決定されて発生符合量が制御されるので、所定の記憶容量を有する記録媒体に所望の時間分の符号化データを記録できる。なお、複雑度周期の整数倍の周期には、複雑度周期の1倍の周期、即ちもとの複雑度周期も含まれる。
上記の画像符号化装置において、前記重要度算出部は、前記入力画像に特定の被写体が含まれているか否かに基づいて、前記重要度を算出してよい。
この構成により、入力画像に含まれている人の顔や車のナンバープレート等の特定の被写体に基づいて重要度を算出できる。
上記の画像符号化装置において、前記重要度算出部は、前記特定の種類の被写体のモデルと前記入力画像との比較に基づいて、前記重要度を算出してよい。
この構成により、人の顔や車のナンバープレート等を特定の種類の被写体として、そのモデルと入力画像とを比較することにより、当該特定の種類の被写体が含まれている入力画像について高い重要度を算出できる。
上記の画像符号化装置において、前記重要度算出部は、特定の画像と前記入力画像との比較に基づいて、前記重要度を算出してよい。
この構成により、特定の顔画像や車のナンバープレートの画像を特定の画像として、当該特定の顔画像やナンバープレートに適合する被写体を含む入力画像について高い重要度を算出できる。
上記の画像符号化装置において、前記重要度算出部は、前記入力画像の時間的変化の大きさ、及び/又は空間的変化の大きさに基づいて、前記重要度を算出してよい。
この構成により、入力画像の複雑度(前後フレームの変化の大きさ)や混雑度(画像内での変化した箇所の多さ)を重要度として算出できる。
上記の画像符号化装置において、前記複雑度周期の整数倍の周期は、前記重要度周期の整数倍でもある共通周期であってよい。
この構成により、重要度の変動による発生符号量の変動も各共通周期内でほぼ一定となるので、共通周期における発生符号量を制御できる。
上記の画像符号化装置において、前記画像符号化部は、量子化器を備えていてよく、前記画質制御パラメータは、前記量子化器における量子化パラメータであってよい。
この構成により、量子化パラメータを調整することで映像データの画質を調整できる。
上記の画像符号化装置において、前記画質制御パラメータは、前記画像符号化部にて前記入力画像を符号化するか否かを指示するパラメータであってよい。
この構成により、符号化の要否によって映像データの画質を調整できる。
本発明の撮影システムは、上記の画像符号化装置と、被写体を撮影して映像信号を生成する撮像部と、前記映像信号を処理して前記入力画像を生成する信号処理部とを備えた構成を有している。
この構成によっても、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成できる。
上記の撮影システムにおいて、前記画質制御パラメータは、前記撮像部における撮影のフレームレートであってよい。
この構成により、フレームレートを調整することで映像データの画質を調整できる。
上記の撮影システムにおいて、前記画質制御パラメータは、前記信号処理部において前記入力画像を生成する際の解像度であってよい。
この構成により、解像度を調整することで映像データの画質を調整できる。
本発明の撮影記録システムは、上記の撮影システムと、前記撮影システムと通信可能に接続され、前記画像符号化装置で生成された映像データを記録する記録装置とを備えた構成を有している。
この構成によっても、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成でき、記録装置の記憶容量を有効に活用できる。
本発明の画像符号化方法は、連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出ステップと、前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化ステップと含んでいる。
この構成によっても、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成できる。
本発明の画像符号化プログラムは、コンピュータを、連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出部、及び前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化部として機能させる。
この構成によっても、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成できる。
本発明によれば、過去の重要度周期における対応する時刻の重要度を用いて画質制御パラメータが決定されるので、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成できる。
本発明の第1の実施の形態における画像符号化装置の構成を示すブロック図 本発明の第1の実施の形態の撮影記録システムの構成を示すブロック図 本発明の第1の実施の形態の重要度の変化の例を示すグラフ 本発明の第1の実施の形態の重要度周期算出部が自己相関関数による周期解析を行って得られるグラフ 本発明の第1の実施の形態の現在時刻に対応する過去の複数の重要度周期における時刻の重要度を示すグラフ 本発明の第1の実施の形態の重要度の変動の例(平日及び週末)を示すグラフ 本発明の第1の実施の形態の重要度の変動の例(サマータイム及びそれ以外の期間)を示すグラフ 本発明の第1の実施の形態の重要度の変動の例(夏季及び冬季)を示すグラフ 本発明の第1の実施の形態の画像符号化方法のフロー図 本発明の第2の実施の形態の画像符号化装置の構成を示すブロック図 本発明の第2の実施の形態の1GOPの画像複雑度の変動の例を示すグラフ 本発明の第2の実施の形態の画像複雑度に対してフーリエ変換を行なって得られる周波数スペクトルを示すグラフ 本発明の第2の実施の形態の画像符号化装置の動作を示すフロー図 小売店の店内に監視カメラを設置した場合の重要度の変化の例を示すグラフ 小売店の店内に監視カメラを設置した場合の重要度の変化の例を示すグラフ
以下、本発明の実施の形態の撮影記録システムについて、図面を参照しながら説明する。なお、以下に説明する実施の形態は、本発明を実施する場合の一例を示すものであって、本発明を以下に説明する具体的構成に限定するものではない。本発明の実施にあたっては、実施の形態に応じた具体的構成が適宜採用されてよい。
(第1の実施の形態)
図2は、本発明の実施の形態の撮影記録システムの構成を示すブロック図である。撮影記録システム1000は、撮影システム100と記録装置200を備えている。撮影システム100は、カメラ110と画像符号化装置120を備えている。カメラ110は、画像符号化装置120と接続されており、画像符号化装置120はネットワークNWを介して記録装置200に接続されている。なお、必ずしも画像符号化装置120と記録装置200との間にネットワークNWが介在している必要はなく、例えば記録装置200が撮影システム100に内蔵される構成であってもよい。
このような撮影記録システム1000は、例えば、店舗等に設置された監視カメラの映像を記録する監視映像記録システムとして応用され得る。この場合、監視カメラであるカメラ110は例えば店舗入り口付近を撮影するように設置され、画像符号化装置120は例えば店舗事務所に設置され、記録装置200は監視センタに設置され、画像符号化装置120と記録装置200とはインターネット経由で通信を行なう。これによって、カメラ110で撮影された監視映像が記録装置200に記録される。
カメラ110は、撮像部111と信号処理部112を備えている。撮像部111は、レンズ、撮像素子等を備えた一般的な撮影ユニットである。撮像素子は、設定されたフレームレート(例えば1/30秒)で被写体を撮影して、フレームごとに映像信号を出力する。信号処理部112は、撮像素子から出力された映像信号に対して、解像度の調整、明るさや色の調整等の信号処理を行い、処理後の映像信号を(フレーム画像)を画像符号化装置120に出力する。
カメラ110にて生成されたフレーム画像は、入力画像として、画像符号化装置120に連続的に入力される。画像符号化装置120は、これらの入力画像を符号化して映像データを構成する複数の符号化データを生成する。生成された複数の符号化データは、ネットワークNWを介して記録装置200に送信される。記録装置200は、所定の記憶容量を有する記録媒体を備えており、ネットワークNWを介して送信されてきた複数の符号化データ(映像データ)を記録媒体に記録する。
画像符号化装置120は、制御部121と画像符号化部122を備えている。制御部121は、撮影システム100にて生成される映像データの画質を制御するための画質制御パラメータを決定して出力する。本実施の形態の撮影システム100では、画質制御パラメータは、撮像部111、信号処理部112、及び/又は画像符号化部122に出力される。
図1は、本発明の実施の形態の画像符号化装置の構成を示すブロック図である。画像符号化装置120は、上述のように、制御部121と画像符号化部122とを備えている。図1に示す画像符号化装置120の構成は、コンピュータが本発明の実施の形態の画像符号化プログラムを実行することで実現されてよい。
画像符号化装置120には、入力画像が連続的に入力され、これが制御部121及び画像符号化部122にそれぞれ入力される。画像符号化部122は入力画像を符号化して映像データを生成する。画像符号化部122の量子化の工程における量子化パラメータは可変であり、この量子化パラメータを大きくすると生成される映像データの画質が低くなり、逆に量子化パラメータを小さくすると生成される映像データの画質が高くなる。
制御部121は、重要度算出部11、重要度周期算出部12、平均重要度算出部13、及び画質制御パラメータ算出部14を備えている。入力画像は重要度算出部11に入力される。
重要度算出部11は、連続的に入力される複数の入力画像の各々について(各フレーム画像について)重要度を算出する。ここで、フレームの重要度は、当該フレームを高画質で記録する必要性の高さと言い換えることもできる。具体的には、この撮影記録システム1000ないし撮影システム100が小売店の監視システムとして応用される場合には、主要な被写体は人、商品、貨幣であり、重要度の算出元となるのは、例えば人の顔、紙幣、硬貨であり、人の顔、紙幣、硬貨が写っているフレームは重要度が高いと判断する。この場合には、重要度算出部11は、人の顔、紙幣、硬貨等の特定の種類の被写体のモデルを有しており、このモデルと入力されたフレームとのマッチングを行い、そのマッチングのスコア(人の顔等と認識された度合い)を重要度とすることができる。
この例のほかにも、重要度は目的に応じて、ナンバープレートと認識された度合いとしてもよい。また、重要度算出部11は、所定の時間内における人の顔やナンバープレートのモデルとのマッチングの回数(マッチングスコアが所定の閾値以上になった回数)、すなわち、所定の時間内における店舗への来客数や通行車両の台数を重要度として算出してもよい。さらに、重要度算出部11は、特定の顔、服装、体格、車種などのターゲット画像のリストを記憶しておいて、入力されたフレームとそれらのターゲット画像とのマッチングを行い、そのマッチングのスコア、又はマッチングした回数を重要度として算出してもよい。即ち、重要度算出部11は、入力画像とモデルとのマッチングに基づいて重要度を算出してもよいし、入力画像と特定のターゲット画像とのマッチングに基づいて重要度を算出してもよい。
また、重要度算出部11は、上記のようなマッチングを行わず、単に画像の複雑度(前後フレームの変化の大きさ、即ち時間的変化の大きさ)や混雑度(画像内での変化した箇所の多さ、即ち空間的変化の大きさ)を重要度として算出してもよい。さらに、重要度算出部11は、上記の種々の要素を複合的に組み合わせて重要度を算出してもよい。
上述のように重要度算出部11は、種々の要素に基づいて重要度を算出できるが、重要度の算出方法は、その用途に応じて適切に設定される。例えば、上述のように、カメラ110が小売店に設置される場合には、その主要な被写体は人、商品、貨幣であり、人の顔、紙幣、貨幣が重要度の算出元となり得る。これによって、小売店の出入口、通路、エスカレータ、エレベータ前などにカメラ110を設置すれば、窃盗犯の映像を高画質に記録できる。また、レジにカメラ110を設置して紙幣を撮影することで、金銭授受の瞬間を高画質で記録できる。
カメラ110が街頭に設置される場合には、その主要な被写体は人や自動車であり、画像に写った人の顔、体格、服装、ナンバープレート、車種、車体の色等が重要度の算出元となり得る。これによって、繁華街にカメラ110を設置すれば、人の顔、体格、服装等から、特定の人物を高画質で記録できる。また、車両であれば、ナンバープレート、車種、車体の色などから、特定のものを高画質で記録できる。
また、カメラ110が駐車場に設置される場合には、その主な被写体は人や自動車であり、顔やナンバープレートが重要度の算出元となり得る。これによって、駐車場の出入口や、場内を見渡せる位置にカメラ110を設置すれば、料金の不払いや、場内でのトラブルがあった際の証拠として該当する車両を高画質で記録できる。
さらに、カメラ110がマンションに設置される場合には、その主な被写体は人であり、人の顔、体格、服装が重要度の算出元となり得る。これによって、駐輪場、ゴミ捨て場などにカメラ110を設定すれば、不法投棄者を高画質で記録できる。
重要度算出部11は、算出した重要度を画質制御パラメータ算出部14に出力し、画質制御パラメータ算出部14は、重要度算出部11にて算出された重要度に基づいて画像制御パラメータを算出する。本実施の形態の画質制御パラメータ算出部14は、さらに、重要度の変動周期を把握することにより、現在時刻と相関する過去の周期(1〜n周期前)における時間帯の重要度をも考慮して、画質制御パラメータを算出する。
このために、制御部121は、重要度周期算出部12及び平均重要度算出部13を備えており、重要度算出部11は算出した重要度を重要度周期算出部12及び平均重要度算出部13の各々に出力する。
例えば、カメラ110が小売店に設置される監視カメラである場合には、被写体の変動は周期的である。すなわち、昼間は来客で賑わい、夜間は換算とした動きの少ない静止画同様になるというサイクルが繰り返される。例えば重要度をフレーム間の変化の大きさとしている場合には、昼間の重要度は高くなり、夜間の重要度は低くなり、24時間を周期としてこのような重要度の変化が繰り返されることになる。
図3は、重要度の変化の例を示すグラフである。重要度周期算出部12は、重要度算出部11にて算出された重要度を入力して、過去の一定の時間(例えば600時間)の最新の重要度を記録している。重要度周期算出部12は、記録している重要度の時間変化に対して周期解析を行って、重要度周期を算出する。周期解析には、例えば、フーリエ解析、自己相関関数等の既知の手法を採用できる。
図4は、図3の例について重要度周期算出部12が自己相関関数による周期解析を行って得られるグラフである。重要度周期算出部12は、図4のグラフのピーク値を示す周期を重要度周期として算出する。ピーク値が同じ周期が複数ある場合は、最も短い周期を選択すれば被写体の変化に対して速やかに適応できて有利である。
重要度周期算出部12は、所定のタイミングで上記のようにして重要度を算出して更新する。例えば、重要度周期算出部12は、すでに算出されている最新の重要度周期ごとに重要度周期を算出して更新してよく、又は複数のフレームからなるGOP(Group Of Pictures)ごとに重要度周期を算出して更新してよく、あるいは、所定の時間ごと(例えば、1時間ごと、24時間ごと等)に重要度周期を算出して更新してもよい。重要度周期算出部12は、算出した重要度周期を平均重要度算出部13に出力する。
平均重要度算出部13は、重要度算出部11にて算出された重要度を入力して記録する。重要度算出部13には、過去の一定の時間(例えば600時間)の最新の重要度が記録されている。平均重要度算出部13は、過去の複数の重要度周期の各々における、現在時刻に対応する時刻の重要度の平均を算出して出力する。このとき、一周期の長さは重要度周期算出部12が算出した重要度周期を採用する。図5は、図3の例において、現在時刻に対応する、過去の複数の重要度周期における時刻の重要度を示すグラフである。破線の円で囲った重要度が現在時刻の重要度であり、実線の円で囲った複数の重要度は、過去の複数の重要度周期における、現在時刻に対応する各時刻の重要度である。
具体的には、平均重要度算出部13は、重要度算出部11から現在時刻の(最新の)重要度を受けると、それを記憶するとともに、現在時刻からその重要度周期の整数倍だけ遡った過去の複数の時点の重要度を抽出して、それらを平均することにより、平均重要度を算出する。平均重要度算出部13は、算出した平均重要度を画質制御パラメータ算出部14に出力する。
このように、平均重要度算出部13が最新の重要度を用いて平均重要度を更新し、かつ、重要度周期算出部12においても重要度周期を更新することは、実際の重要度の変化に応じた画質制御パラメータを求めるのに有利である。なぜなら、季節や社会的な要因によって、重要度の変動の仕方や変動の周期は変わり得るからである。
図6〜8は、重要度の変動の仕方の違いを示すグラフである。図6は、平日における重要度の変動(実線)と週末における重要度の変動(破線)を示している。このような例は、例えば監視カメラを小売店や道路に設置し、人物や車体を検出してそれを重要度の算出元とした場合に見られる。図6に示すように、週末は平日に比べて全体的に重要度が増加している。
図7は、サマータイムにおける重要度の変動(実線)とそれ以外の期間における重要度の変動(破線)を示している。このような例も、例えば監視カメラを小売店や道路に設置し、人物や車体を検出してそれを重要度の算出元とした場合に見られる。図7に示すように、サマータイムの重要度の変動は、それ以外の期間における重要度の変動を約1時間前にシフトしたものとなっている。
図8は、夏季における重要度の変動(実線)と冬季における重要度の変動(破線)を示している。このような例は、例えば監視カメラを小売店に設置し、人物(来客)を検出して来客数を重要度の算出元とした場合に見られる。図8に示すように、夏季では、朝夕の涼しい時間帯に冬季と比較して来客数が増加して重要度が高くなり、日中の暑い時間帯には、冬季と比較して来客数が減少して重要度が低くなっている。
図6〜8の例のように、重要度の変動の仕方や変動の周期は常に一定であるわけではなく、変化し得るものである。その他、夏季は日没が遅く、来客数のピークは遅くなり、春季及び秋季は外出が容易で来客数が増える等の季節による来客数の変化、冬季は積雪の影響で通勤時間が早めにシフトし、除雪の行き届いた主要道では交通量が増加する等の天候による通勤者(自動車)数の変化、ノーマイカーデー、週末、月末等の文化や習慣による通勤形態の変化等の要因によっても重要度の変動の仕方や変動の周期は変化し得る。
そこで、平均重要度算出部13は、重要度算出部11で算出された新たな重要度を取り込んで、古い重要度から順に破棄していくことで、平均重要度を算出するための重要度を更新し、平均重要度も更新する。また、重要度周期算出部12も同様に、重要度算出部11で算出された新たな重要度を取り込んで、古い重要度から順に破棄していくことで、重要度周期を算出するための重要度を更新し、重要度周期も更新する。
画像制御パラメータ算出部14は、重要度算出部11から現在時刻における現在重要度Inowを受け、平均重要度算出部13から現在時刻に対応する過去の平均重要度Iaveを受けて、これらに基づいて画質制御パラメータQを算出する。現在重要度Inowと平均重要度Iaveに基づく画質制御パラメータの算出方法としては種々の方法が考えられる。画質制御パラメータ算出部14は、これらの方法のいずれか一つを採用してもよいし、これらの方法を適宜に切り替えて採用してもよい。以下、現在重要度Inowと平均重要度Iaveに基づく画質制御パラメータの算出について説明する。
第一の算出方法は、平均重要度Iaveのみを利用する方法である。すなわち、画質制御パラメータ算出部14は、以下の式(1)によって画質制御パラメータQを算出する。
Q=Qref×Iave ・・・(1)
ここで、Qrefは、重要度が所定の基準値であるときの基準の画質を表す基準画質制御パラメータである。
この第一の算出方法によれば、過去の平均的な重要度に比例するように画質制御パラメータQが決定される。なお、この第一の算出方法の場合には、現在重要度Iaveは不要であるので、重要度算出部11から画質制御パラメータ算出部14へ現在重要度Iaveを出力しなくてもよい。
第二の算出方法は、現在重要度Inowと平均重要度Iaveを複合的に利用する方法である。すなわち、画質制御パラメータ算出部14は、以下の式(2)によって画質制御パラメータQを算出する。
Q=Qref×(Inow+Iave×n)/(n+1) ・・・(2)
この式(2)による画像制御パラメータの算出は、現在重要度Inowも含めた過去のn+1周期の平均に比例するように画質制御パラメータQを算出する。
この第二の方法によれば、現在重要度Inowも含めた平均的な重要度に比例するように画質制御パラメータQが決定される。なお、式(2)は、現在重要度Inowと平均重要度Iaveとの重みを変えて、式(2´)のようにしてもよい。
Q=Qref×{(αInow+(1−α)Iave×n)/(n+1) ・・・(2´)
ここで、0<α<1である。
第三の算出方法は、現在重要度Inowと平均重要度Iaveの大きい方を利用する方法である。すなわち、画質制御パラメータ算出部14は、以下の式(3)によって画質制御パラメータQを算出する。
Q=Qref×max(Inow,Iave) ・・・(3)
この第三の算出方法によれば、現在重要度Inowと平均重要度Iaveのうちの大きい方に比例するように画質制御パラメータQが決定される。
第四の算出方法は、現在重要度Inowのみを利用する方法である。すなわち、画質制御パラメータ算出部14は、以下の式(4)によって画質制御パラメータQを算出する。
Q=Qref×Inow ・・・(4)
なお、この第四の算出方法は、過去の重要度周期の対応する時刻の平均重要度を用いていないが、他の算出方法と組み合わせて用いることができる。すなわち、制御部121が複数の算出方法の中から使用する算出方法を適宜切り替える場合において、その複数の算出方法の一つに第四の算出方法が含まれていてよい。
第五の算出方法は、現在重要度Inowと平均重要度Iaveとを比較してそのいずれかを利用する方法である。すなわち、画質制御パラメータ算出部14は、現在重要度Inowと平均重要度Iave、さらに重要度閾値Ithrとの比較結果が示す状況に応じて、以下の式(5)〜(8)のいずれかを選択し、選択された式によって画質制御パラメータQを算出する。以下、具体的に説明する。
(第一の状況)
平均重要度Iaveが現在重要度Inowより低く、かつ、現在重要度Inowが重要度閾値Ithrより高い場合(第一の状況)は、画質制御パラメータ算出部14は、以下の式(5)によって画質制御パラメータQを算出する。
Q=Qref×Inow×c ・・・(5)
なお、重要度閾値Ithrは、重要度の判定の基準となる閾値である。また、cは1より大きい定数である。
この第一の状況とは、例えば、普段は人がいない等の理由で平均重要度Iaveが低くなっている時間帯に、人が検知された場合等の理由で高い現在重要度Inowが算出された状況を意味しており、すなわち、平常とは異なる異常な事態が生じている状況であるので、画質制御パラメータ算出部14は、平均重要度Iaveは無視して現在重要度Inowによって画質制御パラメータを決めるとともに、通常時のc倍(1<c)の画質制御パラメータを算出する。
(第二の状況)
平均重要度Iaveが現在重要度Inowより低く、かつ、現在重要度Inowが重要度閾値Ithrより低い場合(第二の状況)は、画質制御パラメータ算出部14は、以下の式(6)によって画質制御パラメータQを算出する。
Q=Qref×min(Inow,Iave) ・・・(6)
この第二の状況は、普段から何もない等の理由で平均重要度Iaveが低くなっている時間帯に、普段どおりに何もなく、低い現在重要度Inowが算出された状況を意味しており、すなわち、平常どおりであって異常がない状況であるので、画質制御パラメータ算出部14は、平均重要度Iaveと現在重要度Inowのうちのより低いほうの重要度を採用して、採用した重要度に比例するように画質制御パラメータQを決定する。
(第三の状況)
平均重要度Iaveが現在重要度Inowより高く、かつ、現在重要度Inowが重要度閾値Ithrより高い場合(第三の状況)は、画質制御パラメータ算出部14は、以下の式(7)によって画質制御パラメータQを算出する。
Q=Qref×max(Inow,Iave) ・・・(7)
この第三の状況は、普段から人が多い等の理由で平均重要度Iaveが高い時間帯に、普段どおりに人が多く、高い現在重要度Inowが算出された状況を意味しており、すなわち、平常どおりに重要度が高い状況であるので、画質制御パラメータ算出部14は、平均重要度Iaveと現在重要度Inowのうちのより高いほうの重要度を採用して、採用した重要度に比例するように画質制御パラメータQを決定する。
(第四の状況)
平均重要度Iaveが現在重要度Inowより高く、かつ、現在重要度Inowが重要度閾値Ithrより低い場合(第四の状況)は、画質制御パラメータ算出部14は、以下の式(8)によって画質制御パラメータQを算出する。
Q=Qref×Iave ・・・(8)
この第四の状況は、過去の履歴からすれば現在重要度は高いはずであるのに、現在重要度が高くない状況を意味しており、すなわち、現在の重要度を算出するに当たってその算出元の検出漏れの可能性がある状況であるので、画質制御パラメータ算出部14は、現在重要度Inowは無視して平均重要度Iaveに比例するように画質制御パラメータQを決定する。
次に、画質制御パラメータと画質制御との関係について説明する。画質制御パラメータQは、その値が大きいほど高画質の映像データが生成されるように制御するパラメータである。画像符号化部122からは複数の連続する符号化された複数の入力画像が映像データとして出力されるが、この映像データの画質は、種々の方法で調整できる。
まず、撮像部111におけるフレームレート(毎秒何フレームの映像信号を出力するか)によって画質を調整できる。フレームレートが上がれば、映像が滑らかになって、映像データの画質が向上する。また、信号処理部112において各フレームの解像度を調整すること(所定の割合で1フレーム中の映像信号を間引くこと)によっても画質を調整できる。
さらに、画像符号化部122での圧縮符号化における圧縮率を調整することによっても画質を調整できる。具体的には、量子化パラメータを調整することで画質を調整できる。また、画像符号化部122における符号化の要否を切り替えることでも画質を調整できる。
このように、画質の調整は、撮像部111、信号処理部112、画像符号化部122で行うことができる。撮影システム100は、これらのいずれかで画質の調整を行ってもよいし、これらの複数の構成のそれぞれにおいて画質の調整を行ってもよいし、平均重要度と現在重要度との関係に基づいて、適宜どの構成で画質の調整を行うかを切り替えてもよい。
画質制御パラメータ算出部14は、画質の調整を行う構成に応じた画質制御パラメータを生成する。例えば、撮像部111でフレームレートを調整することで画質を調整する場合には、画質制御パラメータ算出部14は、画質制御パラメータQとして、撮像部11で設定すべきフレームレートを算出して、撮像部111に出力する。信号処理部112で解像度を調整することで画質を調整する場合には、画質制御パラメータ算出部14は、画質制御パラメータQとして、信号処理部112で設定すべき解像度を算出して、信号処理部112に出力する。
また、画像符号化部122にて量子化パラメータを調整することで画質を調整する場合には、画質制御パラメータ算出部14は、画質制御パラメータQとして、画像符号化部122にて設定すべき量子化パラメータを算出して、画像符号化部122に出力する。画像符号化部122における符号化の要否によって画質を調整する場合には、画像制御パラメータ算出部14は、画質制御パラメータQとして、符号化の要否を指示するパラメータを画像符号化部122に出力する。
撮像部111は、画質制御パラメータ算出部14より画質制御パラメータQとしてフレームレートを指定されたときは、そのフレームレートに従って撮像素子による撮像を行う。信号処理部112は、画質制御パラメータ算出部14より画質制御パラメータQとして解像度を指定されたときは、その解像度に従って、入力された映像信号に対して信号処理を行う。画像符号化部122は、画像制御パラメータ算出部14より画質制御パラメータとして量子化パラメータを指定されたときは、その量子化パラメータによって量子化を行う。画像符号化部122は、画質制御パラメータ算出部14より画質制御パラメータQとして符号化の停止が指定されたときは、符号化を停止して入力画像をそのまま映像データとして出力する。
画像符号化部122から出力された映像データは、ネットワークNWを介して記録装置200に伝送され、記録装置200に記録される。
図9は、本発明の実施の形態の画像符号化方法のフロー図である。画像符号化方法は、画像符号化装置120の制御部で実行される。まず、画質制御パラメータ算出部14は、画質制御パラメータQをQrefで初期化する(ステップS11)。また、平均重要度算出部13は、重要度周期λをλ0で初期化する(ステップS12I)。
次に、信号処理部112からの入力画像の有無を判断する(ステップS13)。入力画像が入力されない場合には(ステップS13にてNO)、入力画像が入力されるまで待つ。入力画像が入力されると、符号化が完了したか否かを判断し(ステップS14)、終了した場合には(ステップS14にてYES)、処理を終了する。符号化が完了していない場合には(ステップS14にてNO)、以下の処理を行う。
まず、重要度算出部11は、信号処理部12より1フレームの入力画像を受けて、そのフレームの重要度、すなわち現在重要度Inowを算出し、重要度周期算出部12、平均重要度算出部13、及び画像制御パラメータ算出部14に入力する(ステップS15)。次に、重要度周期算出部12は、ステップS15にて重要度算出部11より入力された重要度を記憶するとともに、重要度周期を更新する条件を満足するか否かを判断する(ステップS16)。この条件とは、例えば、前回の更新から所定の時間が経過すること、所定の時刻が到来すること、1GOPの処理が終了すること等であり、適宜に設定できる。
重要度周期を更新する条件が満足される場合には(ステップS16にてYES)、重要度周期算出部12は、重要度周期λnewを算出してその結果を平均重要度算出部13に出力し、平均重要度算出部13は、既存の重要度周期をλnewで更新する(ステップS17)。
重要度周期が更新された場合にはその後に、重要度周期の更新のタイミングでなかった場合(ステップS16にてNO)にはステップS17をスキップして、平均重要度算出部13は、重要度算出部11から重要度が入力されたフレームの周期内時刻に対応する過去の複数の周期の重要度を用いて、入力されたフレームの周期内の時刻の過去の平均重要度Iaveを求める(ステップS18)。
画質制御パラメータ算出部14は、重要度算出部11から入力された現在重要度Inow及び平均重要度算出部13から入力された平均重要度Iaveに基づいて、画質制御パラメータQを算出し、それを関係する構成に出力して設定する(ステップS19)。撮影システム100は、設定された画質制御パラメータQに従って撮影、信号処理、符号化等の処理を行い、映像データを生成する(ステップS20)。その後、ステップS14に戻って、入力されたすべてのフレームについて符号化が終了したかを判断し、映像信号が入力され続ける限り、ステップS14〜ステップS20の処理を繰り返す。
以上のように、本実施の形態の撮影記録システム1000によれば、フレームの実際の重要度に応じて画質を調整できる。また、単に現在のフレームの重要度に基づいて画質を制御するのではなく、過去のフレームの重要度から重要度周期を算出して、過去の周期の対応する時刻の重要度をも加味して画質を調整するので、より適切に画質の制御を行うことができる。
(第2の実施の形態)
第1の実施の形態では、重要度に応じた画質で映像データを生成することで、その映像データを記録装置200に記録する際の記憶容量を有効に活用できた。さらに、記録装置200の記録媒体の記憶容量いっぱいに映像データを記録して記録媒体の空き容量がなくなるタイミングを指定できれば便利である。そのようなタイミングで、記録装置200記録媒体に記録された映像データを他の記録媒体に複写して空き容量を確保したり、新たな記録媒体への切替えを行なったりできるからである。
しかしながら、画像符号化装置200が重要度に応じて画質を制御しながら入力画像を符号化すると、入力画像の内容と画質に応じて発生符号量が変動し、記録媒体の空き容量がなくなる時間を予測することはできない。よって、記録装置200の記録媒体の空き容量がなくなって記録ができなくなる事態を避けるために、記録装置200の記録媒体の空き容量を監視しなければならない。そこで、本実施の形態では、重要度に応じて画質を制御するとともに、記録装置200の記録媒体に記録される映像の時間(日数)を指定できる画像符号化装置を提供する。このために、本実施の形態の画像符号化装置は、所望する記録時間に応じて、上記の画質制御パラメータの基準値Qref(以下、「基準画質制御パラメータ」という。)を設定する。
図10は、第2の実施の形態の画像符号化装置の構成を示すブロック図である。第1の実施の形態の画像符号化装置120と比較すると、本実施の形態の画像符号化装置120´は、第1の実施の形態の画像符号化装置120の構成に加えて、発生符号量検出部31、平均QP検出部32、複雑度算出部33、複雑度周期算出部34、平均複雑度算出部35、符号量制御部36、目標ビットレート設定部37、記録時間設定部38、記憶容量設定部39、及び共通周期算出部40を備えている。また、画像符号化部122の構成は第1の実施の形態と同様であるが、図10ではその詳細な構成が示されている。その他の構成は、第1の実施の形態の構成と同様であるので、同じ符号を付して適宜説明を省略する。以下では、画質制御パラメータQが、量子化パラメータである場合を例に本実施の形態を説明する。
画像符号化部122は、減算器21、DCT器22、量子化器23、逆量子化器24、逆DCT器25、加算器26、フレームメモリ27、動き補償予測器28、及び可変長符号化器29を備えている。
画像符号化部122には、カメラ110で撮影された連続するフレームの映像信号が、入力画像として入力される。画像符号化部122では、入力画像は、フレーム内符号化を行なうIピクチャと、順方向予測のみでフレーム間予測符号化を行なうPピクチャと、順方向及び逆方向の両方向のフレーム間予測符号化を行なうBピクチャとに分類される。また、画像符号化部122において、入力画像は、16×16画素のマクロブロックに分割されて、マクロブロック単位で符号化処理が行なわれる。
減算器21に入力されたIピクチャの入力画像は、そのままDCT器22に入力される。DCT器22は、入力画像に対して離散コサイン変換をして、DCT係数を生成し、量子化器23に出力する。量子化器23は、入力されたDCT係数を後述する符号量制御部36より指定された量子化パラメータ(量子化幅)で量子化して、量子化変換係数を生成し、逆量子化器24及び可変長符号化器29に出力する。可変長符号化器29は、入力された量子化変換係数を符号化して、Iピクチャの符号化データを生成して出力する。
逆量子化器24は、入力された量子化変換係数を逆量子化して、逆量子化変換係数を生成し、逆DCT器25に出力する。逆DCT器25は、入力された逆量子化変換係数を逆離散コサイン変換して、入力画像を復元する。復元された入力画像は、後のフレーム間予測において参照画像として用いられるためにフレームメモリ27に記録される。
動き補償予測器28にはPピクチャ及びBピクチャの入力画像が入力される。動き補償予測器28は、入力画像とフレームメモリ27に記録された参照画像とを比較して、マクロブロックごとに動きベクトルを算出する。動き補償予測器28は、さらに算出された動きベクトルに基づいて動き補償フレーム予測を行なうことにより入力画像に対する予測画像を生成する。動き補償予測器28で生成された予測画像は、減算器21及び加算器26に出力される。
減算器21は、入力画像と予測画像との差分画像を算出してDCT器22に出力する。DCT器22は入力された差分画像を離散コサイン変換して、DCT係数を算出し、量子化器23に出力する。量子化器23は、入力されたDCT係数を符号量制御器25より指定された量子化パラメータで量子化して、量子化変換係数を生成し、逆量子化器24及び可変長符号化器29に出力する。可変長符号化器29は、入力された量子化変換係数を符号化して、PピクチャまたはBピクチャの符号化データを生成して出力する。
逆量子化器24は、入力された量子化変換係数を逆量子化して、逆量子化変換係数を生成し、逆DCT器25に出力する。逆DCT器25は、入力された逆量子化変換係数を逆離散コサイン変換して、差分画像を復元し、加算器26に出力する。加算器26は、入力された差分画像と先に動き補償予測器28より出力された予測画像とを加算することで、入力画像を復元する。復元された入力画像は、参照画像としてフレームメモリ27に記録される。
以下、同様の処理を繰り返されることで、可変長符号化器29からは、Iピクチャ、Pピクチャ、Bピクチャの符号化データが所定の順序でビットストリームとして出力される。可変長符号化器29から出力されたビットストリームは、記録装置200に出力される。
上述のように、量子化器23における量子化パラメータは可変であり、この量子化パラメータを大きくすると可変長符号化器29で生成される符号化データの符号量が少なくなり、逆に量子化器23における量子化パラメータを小さくすると可変長符号化器29で生成される符号化データの符号量が多くなる。また、量子化パラメータが固定されていても、映像信号の空間周波数が高いほど、また、連続するフレームにおける被写体の動きが激しいほど、生成される符号化データの符号量が多くなる。
次に、制御部121について説明する。平均QP検出部32は、符号量制御器36にて算出された後述する基準画質制御パラメータQref(量子化パラメータ)を受けて、1GOP分の量子化パラメータの平均(平均量子化パラメータ)を算出して、複雑度算出部33に出力する。また、可変長符号化器29で生成された符号化データは、発生符号量検出部31に出力される。発生符号量検出部31は、1GOP分の発生符号量を蓄積して、当該1GOPのビットレートを算出し、複雑度算出部33に出力する。
ここで、GOPは、少なくとも1フレームのIピクチャを含む複数のフレームの集合を意味する。GOPは、そこに1フレームのIピクチャが含まれる場合には、再生可能な動画像を構成している最小の単位構造となる。発生符号量検出器31は、1GOP分の複数の符号化データの符号量の総和を当該1GOPの時間で割ることで、ビットレートを算出する。
複雑度算出部33は、平均QP検出部32から入力された平均量子化パラメータ及び発生符号量検出器31から入力されたビットレートに基づいて、画像複雑度を算出する。画像複雑度(Fim)は、入力された平均量子化パラメータ(QPAVG)及びビットレート(Br)を所定の変換関数f1に適用して得られる、符号化の難易度ないしは画像の複雑度を示す値であり、下式(9)によって算出される。
Fim=f1(QPAVG,Br) ・・・(9)
ここで、変換関数f1は、平均量子化パラメータ(QPAVG)及びビットレート(Br)の各々の増加に対して画像複雑度(Fim)が単純増加するように選択される。算出された画像複雑度は、複雑度周期算出部34及び平均複雑度算出部35に出力される。
複雑度周期算出部34は、複雑度算出部33から入力されたGOPごとの画像複雑度を記録して、その記録に対して周期解析を行なうことで、複雑度周期を算出する。本実施の形態の複雑度周期算出部34は、周期解析にフーリエ変換を採用するが、自己相関関数を用いた解析等、他の周期解析を行なってもよい。複雑度周期算出部34は、設定された周期ごと(例えば毎日1回)、又は複雑度周期算出部34が算出した最新の複雑度周期ごとに、定期的に複雑度周期を算出する。また、複雑度周期算出部34は、複雑度周期を算出する時刻になったか否かにかかわらず、外部のトリガ入力(例えば、ユーザからの指示)に応じて複雑度周期を算出する。ユーザは、例えば1日の稼働時間を変更した場合に、複雑度周期の算出を指示する。
複雑度周期算出部34は、直前の1週間(7日間)分の画像複雑度をフーリエ変換することで複雑度周期を算出する。なお、画像が1週間にわたって連続で入力されない場合、例えば毎日8時間しか画像が入力されない(画像符号化装置が稼動しない)場合にも、複雑度周期算出部34は、直前1週間分(8時間×7日分)の画像複雑度の周期解析をして複雑度周期を算出する。
複雑度周期算出部34で算出された複雑度周期は、共通周期算出部40に出力される。また、重要度周期算出部12で算出された重要度周期も、共通周期算出部40に出力される。共通周期算出部40は、入力された複雑度周期と重要度周期の最小公倍数の周期を共通周期として算出し、これを平均複雑度算出部35及び平均重要度算出部13にそれぞれ設定する。これにより、平均複雑度算出部35及び平均重要度算出部13では同一の周期が用いられることになる。
なお、複雑度周期算出部34で算出された複雑度周期と重要度周期算出部12で算出された重要度周期とが同じであれば、当然ながら共通周期算出部40ではそれらの周期が変更されることなく、そのまま共通周期として平均複雑度算出部35及び平均重要度算出部13に設定される。また、重要度算出部11が画像の複雑度を重要度としている場合には、複雑度周期と重要度周期は一致するので、共通周期算出部40自体が不要である。
平均複雑度算出部35は、共通周期算出部40によって設定された共通周期に基づいて、共通周期1周期分の画像複雑度の平均(平均画像複雑度FimAVG)を算出し、符号量制御部36に出力する。平均複雑度算出部35は、1GOPごとに、その画像複雑度のGOP以前の1共通周期分の画像複雑度を用いて、最新の1共通周期における平均画像複雑度を算出する。平均複雑度算出部35は、共通周期算出部40によって設定された共通周期1周期ごとに平均画像複雑度を算出してもよいし、複雑度算出部33から画像複雑度が入力されるごとに平均画像複雑度を算出してもよい。平均複雑度算出部35は、平均画像複雑度を算出すると、それを符号量制御部36に出力する。
記録時間設定部38は、1日の稼働時間と所望の記録日数とに基づいて、記録時間を算出する。所望の記録日数は、記録装置200の記録媒体に記録したい日数として、ユーザによって設定される。1日の稼働時間は、共通周期算出部40が算出した共通周期を用いる。1日の稼働時間は、ユーザが記録時間設定部38に設定してもよい。記録時間設定部は、1日の稼働時間に所望の記録日数をかけて記録時間を算出する。例えば、1日の稼働時間(複雑度周期)が8時間であり、30日分の映像データをこの記録媒体に記録したい場合は、記録時間設定部38にて設定される記録時間は、240時間(=8時間×30日)となる。記録時間設定部38は、算出した記録時間を目標ビットレート設定部37に出力する。
記憶容量設定部39には、ユーザによって、記録装置200の記録媒体の記憶容量が設定される。記憶容量設定部39は、記録装置200からその記憶媒体の記憶容量の情報を取得してもよい。記憶容量設定部39は、記憶容量の情報を目標ビットレート設定部37に出力する。
目標ビットレート設定部37は、記憶容量設定部39から得た記録装置200の記憶媒体の記憶容量及び記録時間設定部38から得た記録時間に基づいて、目標ビットレートを設定する。記録装置200の記録媒体の記憶容量が480GBであり、記録時間が240時間である場合には、1時間当たりの総発生符号量を約2GB/h(=480GB/240時間)にすべきである。即ち、この場合には、平均のビットレートを約4.55Mbps(=2GB×8×1024/60分/60秒)とすべきである。この場合には、目標ビットレート設定部37は、目標ビットレートとして、4.55Mbpsを設定する。
符号量制御部36は、平均複雑度算出部35から取得した平均画像複雑度及び目標ビットレート設定部37から取得した目標ビットレートに基づいて、基準画質制御パラメータQrefを決定する。具体的には、符号量制御部36は、下式(10)によって、基準画質制御パラメータQrefを決定する。
ref=f2(FimAVG,TgtBr) ・・・(10)
ここで、FimAVGは平均画像複雑度であり、TgtBrは目標ビットレートであり、f2は平均画像複雑度から目標ビットレートを達成するために基準画質制御パラメータQrefをどの程度にすればよいかを決定する関数である。なお、本実施の形態では、画質制御パラメータQは、量子化パラメータであるので、この基準画質制御パラメータQrefは基準となる量子化パラメータである。
符号量制御部36は、算出された基準画質制御パラメータQrefを画質制御パラメータ算出部14及び平均QP検出部32に出力する。画質制御パラメータ算出部14は、符号量制御部36にて算出された基準画質制御パラメータQrefを用いて、第1の実施の形態と同様にして画質制御パラメータQを決定する。平均QP検出部32は、上述のように、量子化パラメータである基準画質制御パラメータQrefを用いて平均量子化パラメータを算出する。
上記のように、平均複雑度算出部35にて複雑度周期の整数倍である共通周期1周期分における平均を算出する理由は以下のとおりである。図11は、1GOPの画像複雑度の変動の例を示すグラフである。図11の例では、1GOPを1秒として、1週間(7日)分の画像複雑度を記録したものである。時間帯によって被写体の動きの量が変動すると、図11に示したように画像複雑度は変動し得る。
例えば、カメラ400を店舗に設置して監視カメラとして用いるような場合には、昼間は来客が多く、被写体の動きが激しくなるので入力画像が複雑になり、深夜は来客が少なく、入力画像は静止画同様の単調な画像になるというように、入力画像の複雑度が変動する。このように、例えば昼と夜とでは入力画像の複雑度は大きく変動するが、この変動が周期的であれば、任意の1複雑度周期における総発生符号量はほぼ一定となり、即ち任意の1複雑度周期で平均をとった場合の平均ビットレートはほぼ一定となり、記録装置200に何日分(何周期分)の映像が記録可能であるかを確定できる。
図12は、図11の画像複雑度に対してフーリエ変換を行なって得られる周波数スペクトルを示すグラフである。複雑度周期算出部34は、画像複雑度に対してフーリエ変換を行なうことにより、図12のような周波数スペクトルを求める。複雑度周期算出部34は、この周波数スペクトルから、ピークの最も大きい周期を画像複雑度の複雑度周期とする。図12の例では、24時間に最も大きいピークが現れている。よって、図11の画像複雑度の複雑度周期は、24時間であると算出される。
上述のように、実際に基準画質制御パラメータQrefを決定するために用いられる周期は、複雑度周期の整数倍である共通周期である。上記の理由により、共通周期についても、その1周期で平均をとった場合の平均ビットレートはほぼ一定となる。また、共通周期内では、重要度周期に応じて画質制御パラメータQは変化し、それによって発生符号量も変化することになるが、重要度周期で平均をとった場合の平均ビットレートはほぼ一定となり、そのような重要度周期の整数倍である共通周期で平均をとった場合の平均ビットレートはほぼ一定となる。よって、共通周期における平均ビットレートを用いることで、記録装置200に所望の日数分(周期数分)の映像を記録するための基準画質制御パラメータQrefを求めることが可能である。
符号量制御部36は、1GOPのビットレートが目標ビットレートとなるように基準画質制御パラメータQrefを求めるのではなく、共通周期算出部40で算出された共通周期における平均ビットレートが目標ビットレートとなるように基準画質制御パラメータQrefを設定する。即ち、符号量制御部36は、1共通周期内においては、入力画像が複雑である場合にはビットレートが高くなり、入力画像が単調である場合にはビットレートが低くなることを許容する一方で、1共通周期における総発生符号量ないしは1共通周期における平均ビットレートについては、それが目標とする値となるように基準画質制御パラメータQrefを設定する。このために、符号量制御部36は、複雑度算出部33で得られた1GOPごとの画像複雑度と目標ビットレートとの関係ではなく、共通周期算出部40で得られた共通周期における平均の画像複雑度と目標ビットレートとの関係から基準画質制御パラメータQrefを決定する。
図13は、本実施の形態の画像符号化装置120´の動作を示すフロー図である。図13では、主に本実施の形態において第1の実施の形態の画像符号化装置120に対して付加された構成による動作を示している。第1の実施の形態において説明した各構成の動作は、この図13のフローと並行して実行される。
画像符号化の処理が開始すると、まず、目標ビットレートTgtBrが初期化され、TgtBr=TgtBr0とされる(ステップS51)。また、基準画質制御パラメータQrefが初期化されて、Qref=Qref0とされる(ステップS52)。さらに、複雑度周期λも初期化されて、λ=λ0とされる(ステップS53)。
次に、符号化が終了したか否かが判断され(ステップS54)、終了していない場合、即ちまだフレーム画像が入力されている場合には(ステップS54にてNO)、画像符号化部10は、1GOPの入力画像を符号化する(ステップS55)。続いて、複雑度算出部33は、ステップS55における符号化の結果、即ちそのときの平均QP及びビットレートBrから、上記の式(1)によって画像複雑度Fimを算出し(ステップS56)、複雑度周期算出部34及び平均複雑度算出部35はこの画像複雑度Fimを記録する(ステップS57)。
複雑度周期算出部34は、複雑度周期を更新するか否かを判断する(ステップS58)。複雑度周期算出部34は、上述のように、外部トリガがあるか又は複雑度周期を更新すべき時刻になった場合に、複雑度周期を更新すると判断する。複雑度周期算出部34は、複雑度周期を算出すると判断した場合には(ステップS58にてYES)、画像複雑度Fim直近の過去1週間分の記録を周期解析して、複雑度周期λnewを算出して、λ=λnewとして共通周期算出部40に出力する(ステップS59)。
共通周期算出部40は、新たな複雑度周期λnewが入力されると、それとそのときの重要度周期とを用いて、その最小公倍数である共通周期を算出し、平均複雑度算出部35及び平均重要度算出部13に出力する(ステップS60)。なお、共通周期算出部40は、重要度周期算出部12から新たな重要度周期が入力された場合にも、共通周期を更新する。
複雑度周期を算出するための外部トリガがなく、複雑度周期を更新すべき時刻にもなっていない場合(ステップS58にてNO)、及びステップS60にて共通周期を更新した後に、平均複雑度算出部35は、共通周期における平均画像複雑度FimAVGを算出する(ステップS61)。続いて、符号量制御部36は、目標ビットレート(TgtBr)と平均画像複雑度FimAVGとから、次のGOPで用いる基準画質制御パラメータQrefnewを算出し、Qref=Qrefnewとして基準画質制御パラメータQrefを更新する(ステップS62)。そして、ステップS54に戻って、符号化が終了したか、即ち、符号化すべき入力画像がまだあるか否かを判断する。符号化すべき入力画像がなくなり、符号化が終了した場合には(ステップS54にてNO)、処理を終了する。
以上のように、本実施の形態の画像符号化装置120´では、入力画像の複雑度の周期の整数倍である共通周期における平均のビットレートが目標ビットレートとなるように量子化パラメータが制御されるので、1共通周期内において被写体が変動しても、また、重要度に応じて画質が変動しても、1共通周期における発生符号量が所定の値に固定される。
なお、上記の第2の実施の形態では、共通周期算出部40は、入力された複雑度周期と重要度周期の最小公倍数の周期を共通周期として算出し、これを平均複雑度算出部35だけでなく平均重要度算出部13にも設定し、平均重要度算出部13ではこの共通周期を用いて平均重要度を算出したが、平均重要度算出部13は、重要度周期算出部12で算出された重要度周期をそのまま用いてもよい。即ち、平均複雑度算出部35のみが複雑度周期と重要度周期の最小公倍数である共通周期を用いるようにしてもよい。
また、上記の第2の実施の形態では、制御部121が複雑度周期と重要度周期の最小公倍数の周期を共通周期として算出する共通周期算出部40を備えていたが、制御部121はこの共通周期算出部40を備えていなくてもよい。この場合には、複雑度算出部33で算出する複雑度が重要度に応じた画質調整の影響を受けることになるが、複雑度周期算出部34にて算出された複雑度周期における発生符号量は一定であるので、上記と同様の目的は達成できる。なお、この場合に、複雑度周期算出部34にて周期解析をして一律に最大ピークの周期を複雑度周期として決定すると複雑度周期が極めて大きくなる場合には、所定の閾値以上のピークを持つ最小の周期を複雑度周期としてもよい。
また、上記では、第2の実施の形態として、画質制御パラメータが量子化パラメータである場合を説明したが、画質制御パラメータが撮像部111におけるフレームレート等の他のパラメータである場合にも、第2の実施の形態を適用可能である。即ち、実際の発生符号量とから画像の複雑度を算出して、複雑度周期を算出し、重要度周期と複雑度周期の最小公倍数を共通周期として、共通周期内での平均ビットレートが所望のビットレートとなるように基準画質制御パラメータを設定することで、所定の記憶容量を有する記録装置200に所望の時間の映像データを記録することが可能となる。
なお、第1及び第2の実施の形態では、カメラ110が監視箇所に固定されて設置された監視カメラである場合を例に説明したが、本発明の撮影記録システムはこれに限らず、重要度が周期的に変化する画像を撮影する任意の場合に有効に適用される。
また、上記の第1及び第2の実施の形態では、制御部121が重要度周期における、現在時刻に対応する複数の過去の時刻の重要度に基づいて平均重要度を算出する平均重要度算出部13を備え、画質制御パラメータ算出部14は、この平均重要度に基づいて画質制御パラメータを算出したが、画像制御パラメータ算出部14は、現在時刻の直前の重要度周期における、現在時刻に対応する時刻の重要度を、上記の実施の形態で説明した平均重要度の代わりに用いて、又は上記の実施の形態で説明した平均重要度とともに用いて、画質制御パラメータを算出してよい。画像制御パラメータ算出部14が平均重要度の代わりに、現在時刻の直前の重要度周期における、現在時刻に対応する時刻の重要度を用いる場合には、平均重要度算出部13を備えない構成としてもよい。
また、上記の第1及び第2の実施の形態では、画像符号化装置120が重要度周期算出部12を備えていたが、画像符号化装置120が重要度周期算出部12を備えていない構成であってもよい。この場合には、画像符号化装置120は、外部から重要度周期を指定されてよい。例えば、ユーザが重要度の周期を把握している場合には、そのようなユーザが画像符号化装置120に重要度周期を設定し、平均重要度算出部13はその設定された重要度周期を用いて平均重要度を算出してよい。ユーザは、画像符号化装置120に対して、例えば、一日における画像符号化装置120の稼働時間を重要度周期として設定してよく、一週間における画像符号化装置120の稼働時間を重要度周期として設定してもよい。
さらに、上記の第1及び第2の実施の形態では、画像符号化装置120が重要度算出部11を備えていたが、画像符号化装置120が重要度算出部11を備えていない構成であってもよい。この場合には、画像符号化装置120は、連続的に入力される入力画像の各々について、それらの入力画像に基づいて外部で算出された重要度を取得してよい。また、重要度は必ずしも入力画像に基づいて算出されなくてもよい。例えば、店舗の入口に設置された人感センサ等のセンサの検出値に基づいて重要度が算出されてもよい。
また、上記の実施の形態では、画質制御パラメータとして、撮像部111で調整されるフレームレート、信号処理部112で調整される解像度を挙げたが、フレームレートや解像度は、画像符号化部122で調整されてもよい。
本発明は、実際の重要度の変化に応じたパラメータで入力画像を符号化して映像データを生成できるという効果を有し、連続的に入力される複数の入力画像を符号化して映像データを生成する画像符号化装置等として有用である。
1000 撮影記録システム
100 撮影システム
110 カメラ
111 撮像部
112 信号処理部
120 画像符号化装置
121 制御部
122 画像符号化部
200 記録装置
11 重要度算出部
12 重要度周期算出部
13 平均重要度算出部
14 画質制御パラメータ算出部
21 減算器
22 DCT器
23 量子化器
24 逆量子化器
25 逆DCT器
26 加算器
27 フレームメモリ
28 動き補償予測器
29 可変長符号化器
31 発生符号量検出部
32 平均QP検出部
33 複雑度算出部
34 複雑度周期算出部
35 平均複雑度算出部
36 符号量制御部
37 目標ビットレート算出部
38 記録時間設定部
39 記憶容量設定部
40 共通周期算出部

Claims (24)

  1. 連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出部と、
    前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化部と、
    を備えたことを特徴とする画像符号化装置。
  2. 前記画質制御パラメータ算出部は、前記重要度周期における、現在時刻に対応する複数の過去の時刻の重要度の平均である平均重要度に基づいて画質制御パラメータを算出することを特徴とする請求項1に記載の画像符号化装置。
  3. 前記重要度周期における、現在時刻に対応する複数の過去の時刻の重要度に基づいて前記平均重要度を算出する平均重要度算出部をさらに備えたことを特徴とする請求項2に記載の画像符号化装置。
  4. 前記入力画像に基づいて前記重要度を算出する重要度算出部と、
    前記重要度に基づいて前記重要度周期を算出する重要度周期算出部と、
    をさらに備えたことを特徴とする請求項1ないし3のいずれかに記載の画像符号化装置。
  5. 前記画質制御パラメータ算出部は、一日における前記画像符号化装置の稼働時間を前記重要度周期として、現在時刻に対応する過去の時刻の重要度に基づいて前記画質制御パラメータを算出することを特徴とする請求項1ないし3のいずれかに記載の画像符号化装置。
  6. 前記画質制御パラメータ算出部は、一週間における前記画像符号化装置の稼働時間を前記重要度周期として、現在時刻に対応する過去の時刻の重要度に基づいて前記画質制御パラメータを算出することを特徴とする請求項1ないし3のいずれかに記載の画像符号化装置。
  7. 前記画質制御パラメータ算出部は、さらに前記重要度算出部で算出された現在時刻の入力画像の重要度である現在重要度にも基づいて前記画質制御パラメータを算出することを特徴とする請求項4ないし6のいずれかに記載の画像符号化装置。
  8. 前記画質制御パラメータ算出部は、前記現在重要度及び複数周期分の前記平均重要度の平均に比例するように前記画質制御パラメータを算出することを特徴とする請求項7に記載の画像符号化装置。
  9. 前記画質制御パラメータ算出部は、前記現在重要度及び前記平均重要度のうちの大きい方に比例するように前記画質制御パラメータを算出することを特徴とする請求項7に記載の画像符号化装置。
  10. 前記画質制御パラメータ算出部は、前記現在重要度と前記平均重要度との比較、及び前記現在重要度又は前記平均重要度と所定の閾値との比較に基づいて、前記画質制御パラメータを算出することを特徴とする請求項7に記載の画像符号化装置。
  11. 前記画質制御パラメータ算出部は、前記平均重要度のみに基づいて、前記平均重要度に比例するように前記画質制御パラメータを算出することを特徴とする請求項2ないし6のいずれかに記載の画像符号化装置。
  12. 前記画像符号化部にて生成された前記映像データの複雑度を算出する複雑度算出部と、
    前記複雑度の周期である複雑度周期を算出する複雑度周期算出部と、
    前記複雑度周期の整数倍の周期における平均画像複雑度を算出する平均画像複雑度算出部と、
    をさらに備え、
    前記画質制御パラメータ算出部は、前記平均画像複雑度にも基づいて前記画質制御パラメータを算出することを特徴とする請求項1ないし11のいずれかに記載の画像符号化装置。
  13. 前記複雑度周期の整数倍の周期は、前記重要度周期の整数倍でもある共通周期であることを特徴とする請求項12に記載の画像符号化装置。
  14. 前記重要度算出部は、前記入力画像に特定の被写体が含まれているか否かに基づいて、前記重要度を算出することを特徴とする請求項4に記載の画像符号化装置。
  15. 前記重要度算出部は、前記特定の種類の被写体のモデルと前記入力画像との比較に基づいて、前記重要度を算出することを特徴とする請求項14に記載の画像符号化装置。
  16. 前記重要度算出部は、特定の画像と前記入力画像との比較に基づいて、前記重要度を算出することを特徴とする請求項14に記載の画像符号化装置。
  17. 前記重要度算出部は、前記入力画像の時間的変化の大きさ、及び/又は空間的変化の大きさに基づいて、前記重要度を算出することを特徴とする請求項4に記載の画像符号化装置。
  18. 前記画質制御パラメータは、前記画像符号化部にて前記入力画像を符号化するか否かを指示するパラメータであることを特徴とする請求項1ないし17のいずれかに記載の画像符号化装置。
  19. 請求項1〜18のいずれか一項に記載の画像符号化装置と、
    被写体を撮影して映像信号を生成する撮像部と、
    前記映像信号を処理して前記入力画像を生成する信号処理部と、
    を備えたことを特徴とする撮影システム。
  20. 前記画質制御パラメータは、前記撮像部における撮影のフレームレートであることを特徴とする請求項19に記載の撮影システム。
  21. 前記画質制御パラメータは、前記信号処理部において前記入力画像を生成する際の解像度であることを特徴とする請求項19に記載の撮影システム。
  22. 請求項19に記載の撮影システムと、
    前記撮影システムと通信可能に接続され、前記画像符号化装置で生成された映像データを記録する記録装置と、
    を備えたことを特徴とする撮影記録システム。
  23. 連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出ステップと、
    前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化ステップと、
    含むことを特徴とする画像符号化方法。
  24. コンピュータを、
    連続的に入力される複数の入力画像の重要度の周期である重要度周期における、現在時刻に対応する過去の時刻の重要度に基づいて、画質制御パラメータを算出する画質制御パラメータ算出部、及び
    前記画質制御パラメータを用いて前記入力画像を符号化して映像データを生成する画像符号化部、
    として機能させることを特徴とする画像符号化プログラム。
JP2013052737A 2013-03-15 2013-03-15 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム Active JP6319545B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013052737A JP6319545B2 (ja) 2013-03-15 2013-03-15 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム
US14/208,392 US9560363B2 (en) 2013-03-15 2014-03-13 Image encoding device, photographing system, photographing recording system, image encoding method, and non-transitory computer readable medium storing image encoding control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013052737A JP6319545B2 (ja) 2013-03-15 2013-03-15 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム

Publications (2)

Publication Number Publication Date
JP2014179830A true JP2014179830A (ja) 2014-09-25
JP6319545B2 JP6319545B2 (ja) 2018-05-09

Family

ID=51527457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013052737A Active JP6319545B2 (ja) 2013-03-15 2013-03-15 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム

Country Status (2)

Country Link
US (1) US9560363B2 (ja)
JP (1) JP6319545B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016199352A (ja) * 2015-04-09 2016-12-01 株式会社日立ビルシステム エレベータのかご内映像記録システム
JP2018186438A (ja) * 2017-04-27 2018-11-22 サイレックス・テクノロジー株式会社 符号化装置、及び、符号化方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3343561B1 (en) * 2016-12-29 2020-06-24 Axis AB Method and system for playing back recorded video
CN109191597A (zh) * 2018-09-14 2019-01-11 北京悦畅科技有限公司 一种停车场的停车收费方法、装置和停车收费机器人
KR102627646B1 (ko) * 2018-10-23 2024-01-19 엘지전자 주식회사 신호 처리 장치 및 이를 구비하는 영상표시장치
US10951892B2 (en) * 2019-01-31 2021-03-16 Advanced Micro Devices, Inc. Block level rate control
JP2021118478A (ja) 2020-01-28 2021-08-10 パナソニックi−PROセンシングソリューションズ株式会社 監視カメラ、カメラパラメータ決定方法およびプログラム

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09205577A (ja) * 1996-01-26 1997-08-05 Sony Corp 追尾装置および追尾方法
JPH10257489A (ja) * 1996-11-09 1998-09-25 Samsung Electron Co Ltd 映像符号化のためのビット発生量調節装置及び方法
JP2000032437A (ja) * 1998-07-08 2000-01-28 Matsushita Electric Ind Co Ltd 画像伝送システム
JP2001025016A (ja) * 1999-07-05 2001-01-26 Victor Co Of Japan Ltd 動画像符号化装置及びその方法
JP2003018599A (ja) * 2001-07-04 2003-01-17 Matsushita Electric Ind Co Ltd 画像符号化装置および方法
JP3508916B2 (ja) * 1999-03-11 2004-03-22 日本電気株式会社 動画像可変ビットレート符号化方法および装置
JP2005056406A (ja) * 2003-07-24 2005-03-03 Victor Co Of Japan Ltd 画像の動き検出装置及びコンピュータプログラム
JP2007142527A (ja) * 2005-11-15 2007-06-07 Hitachi Ltd 移動体監視システム、移動体特徴量算出装置およびカメラ間移動体照合追跡装置
JP2007267332A (ja) * 2006-03-30 2007-10-11 Victor Co Of Japan Ltd 映像監視装置
JP2007325188A (ja) * 2006-06-05 2007-12-13 Sky Kk 画像記録方法および画像記録装置
JP2008085874A (ja) * 2006-09-28 2008-04-10 Toshiba Corp 人物監視システムおよび人物監視方法
JP2008283230A (ja) * 2007-05-08 2008-11-20 Hitachi Kokusai Electric Inc 画像処理システム
JP2009055341A (ja) * 2007-08-27 2009-03-12 Mitsubishi Electric Corp 映像監視装置
JP2009296286A (ja) * 2008-06-05 2009-12-17 Hitachi Ltd ビットレート変換装置及び変換方法
JP2010279004A (ja) * 2009-06-01 2010-12-09 Canon Inc 監視カメラシステム、監視カメラ及び監視カメラ制御装置
JP2011055204A (ja) * 2009-09-01 2011-03-17 National Institute Of Advanced Industrial Science & Technology 動画像の圧縮方法及び圧縮装置
JP2012204991A (ja) * 2011-03-24 2012-10-22 Yamaha Corp 通信システム、携帯端末、およびプログラム
JP2012231291A (ja) * 2011-04-26 2012-11-22 Toshiba Corp 動画編集装置、動画編集方法およびプログラム
JP2012239042A (ja) * 2011-05-12 2012-12-06 Hitachi Ltd 監視映像再生方法および装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005151485A (ja) 2003-11-20 2005-06-09 Hitachi Ltd 映像信号符号化装置および映像信号記録装置
EP1773066A1 (en) 2004-07-27 2007-04-11 Matsushita Electric Industrial Co., Ltd. Image encoding device and method
KR20080034094A (ko) 2005-07-15 2008-04-18 마쯔시다덴기산교 가부시키가이샤 화상 부호화 장치 및 화상 부호화 방법
JP4687404B2 (ja) * 2005-11-10 2011-05-25 ソニー株式会社 画像信号処理装置、撮像装置、および画像信号処理方法
US8442344B2 (en) * 2006-08-07 2013-05-14 Qualcomm Incorporated Adaptive spatial image filter for filtering image information
JP5398341B2 (ja) * 2009-05-11 2014-01-29 キヤノン株式会社 物体認識装置及び物体認識方法
US8594182B1 (en) * 2009-05-18 2013-11-26 Verint Systems, Inc. Systems and methods for video rate control
CN102236883A (zh) * 2010-04-27 2011-11-09 株式会社理光 图像增强方法和装置、物体检测方法和装置
US9509968B2 (en) * 2011-02-21 2016-11-29 National University Of Singapore Apparatus, system, and method for annotation of media files with sensor data

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09205577A (ja) * 1996-01-26 1997-08-05 Sony Corp 追尾装置および追尾方法
JPH10257489A (ja) * 1996-11-09 1998-09-25 Samsung Electron Co Ltd 映像符号化のためのビット発生量調節装置及び方法
JP2000032437A (ja) * 1998-07-08 2000-01-28 Matsushita Electric Ind Co Ltd 画像伝送システム
JP3508916B2 (ja) * 1999-03-11 2004-03-22 日本電気株式会社 動画像可変ビットレート符号化方法および装置
JP2001025016A (ja) * 1999-07-05 2001-01-26 Victor Co Of Japan Ltd 動画像符号化装置及びその方法
JP2003018599A (ja) * 2001-07-04 2003-01-17 Matsushita Electric Ind Co Ltd 画像符号化装置および方法
JP2005056406A (ja) * 2003-07-24 2005-03-03 Victor Co Of Japan Ltd 画像の動き検出装置及びコンピュータプログラム
JP2007142527A (ja) * 2005-11-15 2007-06-07 Hitachi Ltd 移動体監視システム、移動体特徴量算出装置およびカメラ間移動体照合追跡装置
JP2007267332A (ja) * 2006-03-30 2007-10-11 Victor Co Of Japan Ltd 映像監視装置
JP2007325188A (ja) * 2006-06-05 2007-12-13 Sky Kk 画像記録方法および画像記録装置
JP2008085874A (ja) * 2006-09-28 2008-04-10 Toshiba Corp 人物監視システムおよび人物監視方法
JP2008283230A (ja) * 2007-05-08 2008-11-20 Hitachi Kokusai Electric Inc 画像処理システム
JP2009055341A (ja) * 2007-08-27 2009-03-12 Mitsubishi Electric Corp 映像監視装置
JP2009296286A (ja) * 2008-06-05 2009-12-17 Hitachi Ltd ビットレート変換装置及び変換方法
JP2010279004A (ja) * 2009-06-01 2010-12-09 Canon Inc 監視カメラシステム、監視カメラ及び監視カメラ制御装置
JP2011055204A (ja) * 2009-09-01 2011-03-17 National Institute Of Advanced Industrial Science & Technology 動画像の圧縮方法及び圧縮装置
JP2012204991A (ja) * 2011-03-24 2012-10-22 Yamaha Corp 通信システム、携帯端末、およびプログラム
JP2012231291A (ja) * 2011-04-26 2012-11-22 Toshiba Corp 動画編集装置、動画編集方法およびプログラム
JP2012239042A (ja) * 2011-05-12 2012-12-06 Hitachi Ltd 監視映像再生方法および装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016199352A (ja) * 2015-04-09 2016-12-01 株式会社日立ビルシステム エレベータのかご内映像記録システム
JP2018186438A (ja) * 2017-04-27 2018-11-22 サイレックス・テクノロジー株式会社 符号化装置、及び、符号化方法

Also Published As

Publication number Publication date
JP6319545B2 (ja) 2018-05-09
US9560363B2 (en) 2017-01-31
US20140270719A1 (en) 2014-09-18

Similar Documents

Publication Publication Date Title
JP6319545B2 (ja) 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム
US10582196B2 (en) Generating heat maps using dynamic vision sensor events
US8558903B2 (en) Accelerometer / gyro-facilitated video stabilization
US7561190B2 (en) Method and system to reduce flicker artifacts in captured images
TWI477154B (zh) 用於編碼數位視訊資料之方法及數位視訊編碼器系統
KR20020001331A (ko) 디지털 영상 안정화 장치
JP2003284076A (ja) Mpeg映像圧縮技術を利用したデジタル映像格納装置における動き検出装置及びその方法
KR20160047395A (ko) 비디오 인코딩 방법 및 비디오 인코더 시스템
US11050924B2 (en) Method and system for auto-setting of cameras
US10091521B2 (en) Image encoding device, captured image recording system, imaging device, method of encoding image, and image encoding program
CN111988610B (zh) 用于控制视频编码器的输出比特率的方法和比特率控制器
US11205078B2 (en) System for computationally efficient analysis of traffic details in traffic video stream and a method thereof
US11321390B2 (en) Video data generation apparatus, video data generation method, and program
JP4557752B2 (ja) 動画像処理装置、動画像処理方法、及び動画像処理プログラム
JP3883250B2 (ja) 監視画像記録装置
US20090086024A1 (en) System and method for improving video compression efficiency
US20040213346A1 (en) Moving image coding apparatus and method
JP2015023498A (ja) 画像符号化装置、画像符号化方法およびプログラム
US11716475B2 (en) Image processing device and method of pre-processing images of a video stream before encoding
JP2012029213A (ja) 動画像符号化装置
JPH11266459A (ja) 動画像符号化装置、移動物体検出装置およびこれら装置に適用される動き予測装置
KR100584537B1 (ko) Mpeg4를 이용한 감시용 카메라 정보 저장 방법
JP5589924B2 (ja) フリッカ/シーンチェンジ判定装置及び方法
KR20230145920A (ko) 듀얼 이미지 모델을 사용하는 이미지 코딩을 위한 시스템 및 방법
JP2011029690A (ja) 電子カメラ及び画像符号化方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141006

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20141015

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150223

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20151029

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180320

R150 Certificate of patent or registration of utility model

Ref document number: 6319545

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250