JP2008118607A - Network decoder apparatus - Google Patents

Network decoder apparatus Download PDF

Info

Publication number
JP2008118607A
JP2008118607A JP2007012372A JP2007012372A JP2008118607A JP 2008118607 A JP2008118607 A JP 2008118607A JP 2007012372 A JP2007012372 A JP 2007012372A JP 2007012372 A JP2007012372 A JP 2007012372A JP 2008118607 A JP2008118607 A JP 2008118607A
Authority
JP
Japan
Prior art keywords
data
luminance
frame
network
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007012372A
Other languages
Japanese (ja)
Other versions
JP4919034B2 (en
Inventor
Keiji Nishimaki
恵児 西巻
Manabu Sakane
学 坂根
Kiriko Yamada
桐子 山田
Kazunori Namiki
和則 並木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2007012372A priority Critical patent/JP4919034B2/en
Publication of JP2008118607A publication Critical patent/JP2008118607A/en
Application granted granted Critical
Publication of JP4919034B2 publication Critical patent/JP4919034B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image which is easy to see even in switching sources, when a plurality of incoming intra-frame coded video data items are selectively received, decoded and displayed. <P>SOLUTION: A network decoder apparatus 12 includes: a data size variation rate calculation section 206 for calculating a rate of change of data size for each frame of received coded video data; and a control section 201 which controls to perform gamma correction of frame data using a luminance correction curve of an LUT stored in an image processing section 205 when the calculated rate of change of data size is lower than or equal to a threshold, or controls not to perform the gamma correction processing of the frame data by resetting the luminance correction curve of the LUT by outputting an initialization signal to the image processing section 205 when the rate of change exceeds the threshold. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、複数のネットワークカメラから送信された符号化映像データを受信して画像処理を行い、モニタに表示させるためのネットワークデコーダ装置に関する。   The present invention relates to a network decoder device for receiving encoded video data transmitted from a plurality of network cameras, performing image processing, and displaying the encoded video data on a monitor.

近年のIT技術やネットワーク技術の発展に伴い、複数のネットワークカメラとネットワークデコーダ装置とをネットワークを介して接続すると共に、このネットワークデコーダ装置にモニタを接続したネットワークカメラ監視システムが、セキュリティ分野において多く用いられるようになってきた。このネットワークカメラ監視システムにおいては、各ネットワークカメラで撮像した画像データを符号化処理してネットワーク上に送出し、ネットワークデコーダ装置がこれら符号化画像データを受信して復号処理し、各画像を選択的に又はマルチ画面としてモニタに表示するものである。さらに、上記の各ネットワークカメラをパン・チルト・ズーム(PTZ)動作が可能なものとし、ネットワークデコーダ装置に各ネットワークカメラのPTZ操作機能及び制御機能を備えることにより、監視者が各ネットワークカメラを遠隔操作することが可能なものもある。   Along with the development of IT technology and network technology in recent years, a network camera monitoring system in which a plurality of network cameras and a network decoder device are connected via a network and a monitor is connected to the network decoder device is often used in the security field. Has come to be. In this network camera monitoring system, image data captured by each network camera is encoded and sent to the network, and the network decoder device receives these encoded image data, decodes them, and selectively selects each image. Or on a monitor as a multi-screen. Further, each network camera described above is capable of pan / tilt / zoom (PTZ) operation, and the network decoder device is provided with the PTZ operation function and control function of each network camera, so that the supervisor can remotely control each network camera. Some can be manipulated.

また、一般的なテレビ受像機やディスプレイ装置において、画質補正機能を有したものがある。これらの装置では、入力して処理する画像データについて比較的連続性のあるフレームデータであることが期待されるため、ガンマ補正やノイズリダクション等の画質補正・改善処理を連続フレームに跨って実行するものである。   Some general television receivers and display devices have an image quality correction function. In these apparatuses, since image data to be input and processed is expected to be relatively continuous frame data, image quality correction / improvement processing such as gamma correction and noise reduction is executed across continuous frames. Is.

これのより具体的な例として、入力映像信号の画像の特徴に応じて階調補正曲線を生成し、これに基づき画質を最適に補正することができる映像信号処理装置が知られている(例えば、特許文献1参照)。この特許文献1に記載の発明は、入力映像信号の輝度信号成分に基づくヒストグラムデータを生成し、これによりダイナミックなガンマ補正を行うことを特徴としたものである。   As a more specific example of this, there is known a video signal processing apparatus capable of generating a gradation correction curve according to the characteristics of an image of an input video signal and optimally correcting the image quality based on this (for example, , See Patent Document 1). The invention described in Patent Document 1 is characterized in that histogram data based on a luminance signal component of an input video signal is generated, and thereby dynamic gamma correction is performed.

そして、この特許文献1には、画質補正機能の実現手段としてリーク型積分回路を用いた例が示されている。これは、シーンチェンジのように画像に大幅な変化が生じるとヒストグラムデータの分布も大きく変化するが、このようにヒストグラムに大きな変化が生じると、階調補正部により補正される輝度信号が急に変化してしまいかえって不自然になってしまうので、これを改善するための手段である。すなわち、ヒストグラムデータ分布の更新をある程度緩やかなものにするために、データの更新時に時間方向にリーク型の積分処理を行うようにしている。また、ヒストグラムデータが急変する場合に階調補正曲線を直線となるようにリセットすることも開示されている。   And this patent document 1 shows the example which used the leak type | mold integration circuit as an implementation | achievement means of an image quality correction function. This is because the distribution of the histogram data changes greatly when a significant change occurs in the image, such as a scene change, but when a large change occurs in the histogram, the luminance signal corrected by the gradation correction unit suddenly changes. It is a means to improve this because it changes and becomes unnatural. That is, in order to make the update of the histogram data distribution moderate to some extent, leak type integration processing is performed in the time direction at the time of data update. It is also disclosed that the gradation correction curve is reset to be a straight line when the histogram data changes suddenly.

また、画像の変化量の時間的推移を表示すると共に、一定以上の変化が検知されたときの画像を、変化量の時間的推移と関連させて表示する技術を監視システムに適用した例が知られている(例えば、特許文献2参照)。
特開2005−217574号公報 特開2005−78572号公報
In addition, an example is known in which a technique for displaying a temporal transition of the amount of change in an image and displaying an image in association with the temporal transition of the amount of change when a change above a certain level is detected is applied to a monitoring system. (For example, refer to Patent Document 2).
JP 2005-217574 A JP 2005-78572 A

しかしながら、上記特許文献1に記載のリーク型積分回路による階調補正機能をセキュリティ分野に応用する場合、特にネットワークカメラのフレームレートを低くした場合に次のような問題が生ずる。例えば、30fpsのビットレートにつきリーク積分によって1秒以内で正しい補正画像が出力される画質補正機能処理を、そのままセキュリティ分野向けに応用すると、セキュリティ分野で多用されている低フレームレート、例えば1fpsのフレームレートで処理しているネットワークカメラにおいては、30倍の時間(すなわち、30秒)後に確からしい補正画像が出力されることになる。このように、セキュリティ分野においては、上記特許文献1に記載のリーク型積分回路を用いた画質補正機能は不十分である。   However, when the gradation correction function by the leaky integration circuit described in Patent Document 1 is applied to the security field, the following problems arise particularly when the frame rate of the network camera is lowered. For example, when the image quality correction function processing that outputs a correct corrected image within 1 second by leak integration for a bit rate of 30 fps is applied to the security field as it is, a low frame rate frequently used in the security field, for example, a frame of 1 fps is used. In a network camera that is processing at a rate, a correct corrected image is output after 30 times (that is, 30 seconds). As described above, in the security field, the image quality correction function using the leaky integration circuit described in Patent Document 1 is insufficient.

また、上記特許文献2に記載の技術においては、フレーム単位での変化量をグラフ化することで容易に認識でき、変化量の大きいところでは画像が自動的に保存されるため、アラーム画像として利用することができる。しかしながら、変化量の閾値は固定値であるため、カメラから入力される画像データの解像度が変更されたり圧縮率が変更されたりした場合に、閾値も変更すべきであるがその変更手段や方法については開示されていない。   In the technique described in Patent Document 2, the amount of change in units of frames can be easily recognized, and the image is automatically saved where the amount of change is large. can do. However, since the threshold value of the change amount is a fixed value, the threshold value should be changed when the resolution of the image data input from the camera is changed or the compression rate is changed. Is not disclosed.

上述したように、ネットワークカメラ監視システムをセキュリティ分野で活用する場合においては、各ネットワークカメラを、その監視対象や監視時間帯等に応じて様々なフレームレートに設定する場合が多い。また、各ネットワークカメラから出力させる画像の解像度をSXGAサイズ、VGAサイズ、QVGAサイズ等のように複数種類を混在させる場合もある。さらには、各ネットワークカメラを、タイマ機能等によって、予め決められた撮像方向及び視野角で自動的にPTZ制御することも行われる。   As described above, when the network camera monitoring system is used in the security field, each network camera is often set to various frame rates depending on the monitoring target, the monitoring time zone, and the like. Also, there are cases where a plurality of types of resolutions of images output from each network camera are mixed, such as SXGA size, VGA size, and QVGA size. Furthermore, each network camera is automatically PTZ controlled with a predetermined imaging direction and viewing angle by a timer function or the like.

すなわち、セキュリティ分野に適用されるネットワークデコーダ装置は、前述したような一般的なテレビ受像機とは異なり、連続的なフレームデータの入力を期待できる場合とそうでない場合、ネットワークカメラによりフレームレートが大きく異なる画像データを受信する場合、ネットワークカメラによって解像度が異なる場合が想定される点が特徴である。さらに、同一ネットワークカメラからの画像でも、PTZ制御により「シーンチェンジ」に似た連続画像データを受信する点も特徴的である。   That is, the network decoder device applied to the security field differs from the general television receiver as described above in that the frame rate is increased by the network camera when continuous frame data input can be expected and when it cannot be expected. When receiving different image data, it is characteristic that the resolution may be different depending on the network camera. Further, it is also characteristic that continuous image data similar to “scene change” is received by PTZ control even for images from the same network camera.

本発明は、上記の事情に鑑みてなされたものであり、その目的は、例えば、複数のネットワークカメラからフレームレートや解像度が異なるフレーム内符号化映像データが供給された場合において、又は供給されるフレーム内符号化映像データを任意に切り替えた場合において、ソース毎に適切な画質補正を施すと共に、ソースを切り替えても見やすい画像を得ることができるネットワークデコーダ装置を提供することである。   The present invention has been made in view of the above circumstances, and the object thereof is, for example, supplied when intra-frame encoded video data having different frame rates and resolutions are supplied from a plurality of network cameras. An object of the present invention is to provide a network decoder device capable of performing appropriate image quality correction for each source and obtaining an easy-to-view image even when the source is switched when the intra-frame encoded video data is arbitrarily switched.

本発明は、上記の課題を解決するために、以下[1]〜[3]の手段を提供するものである。
[1] ネットワークを介して供給された複数のフレーム内符号化映像データのうちいずれか1つを選択的に受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して保持すると共に、初期化信号の入力に従って前記保持している輝度補正用パラメータを非補正用パラメータに変更するパラメータ保持部を有し、この保持又は変更したパラメータに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記受信したフレーム内符号化映像データのフレーム毎のデータサイズの変動率を算出するデータサイズ変動率計算手段と、
前記算出したデータサイズの変動率が閾値以下である場合は、前記輝度補正手段に保持された輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる一方、前記変動率が閾値を越える場合は、前記輝度補正手段に初期化信号を出力して前記変更された非補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
[2] ネットワークを介して供給された複数のフレーム内符号化映像データのうちいずれか1つを選択的に受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して保持すると共に、初期化信号の入力に従って前記保持している輝度補正用パラメータを非補正用パラメータに変更するパラメータ保持部を有し、この保持又は変更したパラメータに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記受信したフレーム内符号化映像データの各フレーム間の時間間隔を計測する受信データ間隔計測手段と、
前記計測した時間間隔が所定時間以下である場合は、前記輝度補正手段に保持された輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる一方、前記時間間隔が所定時間を越える場合は、前記輝度補正手段に初期化信号を出力して前記変更された非補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
[3] ネットワークを介して供給された、それぞれ識別子を含む複数のフレーム内符号化映像データのうち指定された1つの識別子に対応するフレーム内符号化映像データを受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して前記識別子に対応させて保持するパラメータ保持部を有し、指定された識別子とこれら保持した輝度補正用パラメータとに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記指定された識別子を前記輝度補正手段に入力して、前記パラメータ保持部に保持された前記識別子に対応する輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
The present invention provides the following means [1] to [3] in order to solve the above problems.
[1] One of a plurality of intra-frame encoded video data supplied via a network is selectively received, sequentially input to a decoding unit in units of frames, and subjected to decoding processing. In a network decoder device that outputs frame data,
The frame data decoded by the decoding means is input, a luminance component histogram is calculated, and a luminance correction parameter is determined and held based on the luminance distribution, and the held luminance according to the input of the initialization signal A brightness holding means for changing a correction parameter to a non-correction parameter, and correcting a brightness component of the frame data based on the held or changed parameter;
Data size fluctuation rate calculating means for calculating a data size fluctuation rate for each frame of the received intra-frame encoded video data;
When the calculated variation rate of the data size is equal to or smaller than the threshold value, the luminance component of the frame data is corrected using the luminance correction parameter held in the luminance correction unit, and when the variation rate exceeds the threshold value, Control means for outputting an initialization signal to the brightness correction means and correcting the brightness component of the frame data using the changed non-correction parameter;
A network decoder device comprising:
[2] Any one of a plurality of intra-frame encoded video data supplied via the network is selectively received, sequentially input to the decoding means in units of frames, and decoded. In a network decoder device that outputs frame data,
The frame data decoded by the decoding means is input, a luminance component histogram is calculated, and a luminance correction parameter is determined and held based on the luminance distribution, and the held luminance according to the input of the initialization signal A brightness holding means for changing a correction parameter to a non-correction parameter, and correcting a brightness component of the frame data based on the held or changed parameter;
Received data interval measuring means for measuring a time interval between each frame of the received intra-frame encoded video data;
When the measured time interval is less than or equal to a predetermined time, the luminance component of the frame data is corrected using the luminance correction parameter held in the luminance correction means, and when the time interval exceeds the predetermined time, Control means for outputting an initialization signal to the brightness correction means and correcting the brightness component of the frame data using the changed non-correction parameter;
A network decoder device comprising:
[3] Intra-frame encoded video data corresponding to one specified identifier among a plurality of intra-frame encoded video data each including an identifier supplied via the network is received and sent to the decoding unit in units of frames. In a network decoder device that sequentially inputs and decodes, and outputs these sequentially decoded frame data,
A parameter holding unit for inputting the frame data decoded by the decoding unit, calculating a histogram of luminance components, determining a luminance correction parameter based on the luminance distribution, and holding the parameter in correspondence with the identifier, and specifying Luminance correction means for correcting the luminance component of the frame data based on the identifier and the held luminance correction parameters;
Control means for inputting the designated identifier to the brightness correction means and correcting the brightness component of the frame data using the brightness correction parameter corresponding to the identifier held in the parameter holding unit;
A network decoder device comprising:

本発明によれば、ネットワークを介して供給された複数のフレーム内符号化映像データを選択的に受信してデコード処理して出力する場合に、各フレーム内符号化映像データの復号後の画質に応じた輝度補正処理を行って最適な画質のフレームデータを出力することができる。そして、本発明によれば、フレーム内符号化映像データの切り替えタイミングを検出して一旦輝度補正処理を初期化させることができるため、フレーム内符号化映像データを任意に切り替えた場合でも、特段の違和感を与えることなく画質補正がされたフレームデータを出力することができる。   According to the present invention, when a plurality of intra-frame encoded video data supplied via a network is selectively received, decoded, and output, the image quality after decoding of each intra-frame encoded video data is improved. It is possible to output frame data with optimum image quality by performing a corresponding luminance correction process. According to the present invention, since the luminance correction process can be initialized once by detecting the switching timing of the intra-frame encoded video data, even when the intra-frame encoded video data is arbitrarily switched, a special It is possible to output frame data that has been subjected to image quality correction without giving a sense of incongruity.

以下、本発明を実施するための最良の形態について、図面を参照して詳細に説明する。図1に、本発明の実施形態を適用したネットワークカメラ監視システムの概略の全体構成を示す。同図において、ネットワークカメラ監視システムは、監視対象を撮像する場所にそれぞれ設置されるネットワークカメラ11−1〜11−nと、監視者側に設置されるネットワークデコーダ装置12とがネットワーク14を介してそれぞれ接続されると共に、ネットワークデコーダ装置12にはモニタ13が接続されている。   Hereinafter, the best mode for carrying out the present invention will be described in detail with reference to the drawings. FIG. 1 shows a schematic overall configuration of a network camera monitoring system to which an embodiment of the present invention is applied. In the figure, the network camera monitoring system includes a network camera 11-1 to 11-n installed at a place where a monitoring target is imaged and a network decoder device 12 installed on the monitor side via a network 14. Each is connected, and a monitor 13 is connected to the network decoder device 12.

なお、ネットワークデコーダ装置12とモニタ13とを一体にして、ネットワークカメラビューア装置を構成するようにしてもよい。   The network decoder device 12 and the monitor 13 may be integrated to form a network camera viewer device.

ネットワークカメラ11−1〜11−nのそれぞれ(以下、ネットワークカメラ11ということもある。)は、識別子としてのカメラ番号を予め有しており、撮像して得たデジタル画像データを不図示の符号化部によってフレーム内符号化処理(例えば、JPEG圧縮処理)し、この符号化映像データを当該ネットワークカメラのカメラ番号と共に、又はカメラ番号を符号化映像データのヘッダ部に含ませて不図示のネットワークインターフェース(I/F)部でパケットデータにフォーマット変換してネットワーク14に送出する機能を有する。そして、ネットワークカメラ11は、不図示の制御部とパン・チルト・ズーム(PTZ)駆動部とを備えており、ネットワークデコーダ装置12から送信されたPTZ制御コマンドをネットワークI/F部で受信し、制御部によるPTZ制御コマンドの実行によってPTZ駆動部を駆動させて、パン・チルトの各方向を変更したりズーミングを行ったりする。   Each of the network cameras 11-1 to 11-n (hereinafter sometimes referred to as the network camera 11) has a camera number as an identifier in advance, and digital image data obtained by imaging is represented by a code (not shown). The encoding unit performs intra-frame encoding processing (for example, JPEG compression processing), and includes the encoded video data together with the camera number of the network camera or the camera number included in the header portion of the encoded video data. The interface (I / F) unit has a function of converting the format into packet data and sending it to the network 14. The network camera 11 includes a control unit (not shown) and a pan / tilt / zoom (PTZ) drive unit, and the network I / F unit receives the PTZ control command transmitted from the network decoder device 12. By executing the PTZ control command by the control unit, the PTZ driving unit is driven to change each direction of pan / tilt or perform zooming.

ネットワークデコーダ装置12は、ネットワークカメラ11−1〜11−nから送出されたパケットデータ化された符号化映像データ及びカメラ番号を受信して復号処理を実行し、この復号画像データについて後述するガンマ補正処理を実行して映像出力信号としてモニタ13に出力する機能を有する。そして、ネットワークデコーダ装置12は、監視者(操作者)による所望のネットワークカメラ11に対するPTZ操作により、カメラ番号を含むPTZ制御コマンドを生成してネットワーク14に送出する機能を有する。このネットワークデコーダ装置12の内部構成及び動作については後述する。   The network decoder device 12 receives the encoded video data and the camera number converted into packet data sent from the network cameras 11-1 to 11-n, executes a decoding process, and performs a gamma correction described later on the decoded image data. It has a function of executing the processing and outputting it as a video output signal to the monitor 13. The network decoder device 12 has a function of generating a PTZ control command including a camera number and sending it to the network 14 by a PTZ operation on a desired network camera 11 by a supervisor (operator). The internal configuration and operation of the network decoder device 12 will be described later.

モニタ13は、ネットワークデコーダ装置12からの映像出力信号を入力して画面に表示する。そして、ネットワーク14は、IP(インターネットプロトコル)制御によるネットワークであり、インターネットやLAN(ローカルエリアネットワーク)が適用できる。   The monitor 13 inputs the video output signal from the network decoder device 12 and displays it on the screen. The network 14 is a network based on IP (Internet Protocol) control, and the Internet or a LAN (Local Area Network) can be applied.

次に、本発明の実施形態を適用したネットワークカメラ監視システムにおけるネットワークデコーダ装置の第一実施例について説明する。図2は、本実施例におけるネットワークデコーダ装置12の概略の内部構成図である。同図において、ネットワークデコーダ装置12は、ネットワークインターフェース(I/F)部200と、制御部201と、ROM202と、RAM203と、ユーザインターフェース(I/F)部204と、画像処理部205と、データサイズ変動率計算部206と、変動率判定部207とを備えており、各ブロックは内部バス等により同図の如く接続されている。   Next, a first example of the network decoder device in the network camera monitoring system to which the embodiment of the present invention is applied will be described. FIG. 2 is a schematic internal configuration diagram of the network decoder device 12 in this embodiment. In the figure, a network decoder device 12 includes a network interface (I / F) unit 200, a control unit 201, a ROM 202, a RAM 203, a user interface (I / F) unit 204, an image processing unit 205, a data A size variation rate calculation unit 206 and a variation rate determination unit 207 are provided, and each block is connected as shown in FIG.

ネットワークI/F部200は、ネットワークカメラ11−1〜11−nからそれぞれ送出された、パケットデータ化された符号化映像データ及びカメラ番号(カメラ番号が符号化映像データのヘッダ部に含まれる場合を含む。)を受信して、パケットデータから符号化映像データ及びカメラ番号を抽出して制御部201に供給する機能を有する。また、ネットワークI/F部200は、制御部201において生成されたPTZ制御コマンドをパケットデータ化してネットワーク14に送出する機能を有する。   The network I / F unit 200 transmits the encoded video data and camera number converted from packet data (when the camera number is included in the header of the encoded video data) sent from the network cameras 11-1 to 11-n, respectively. And the encoded video data and the camera number are extracted from the packet data and supplied to the control unit 201. The network I / F unit 200 has a function of converting the PTZ control command generated by the control unit 201 into packet data and sending it to the network 14.

制御部201は、ROM202に予め格納された制御ソフトウェアをRAM203にロードして実行することにより、ネットワークデコーダ装置12全体を制御する機能を有するが、特に、制御部201は、ネットワークI/F部200から供給された符号化映像データ及びカメラ番号について、この符号化映像データをカメラ番号に対応させて画像処理部205に供給する機能を有する。さらに、制御部201は、ユーザI/F部204から入力された操作者の指示に従ってPTZ制御コマンドを生成し、ネットワークI/F部200に供給する機能も有する。   The control unit 201 has a function of controlling the entire network decoder device 12 by loading control software stored in advance in the ROM 202 into the RAM 203 and executing it. In particular, the control unit 201 includes the network I / F unit 200. For the encoded video data and camera number supplied from, the encoded video data is supplied to the image processing unit 205 in correspondence with the camera number. Further, the control unit 201 has a function of generating a PTZ control command in accordance with an operator instruction input from the user I / F unit 204 and supplying the PTZ control command to the network I / F unit 200.

ROM202は、制御ソフトウェアの他、ネットワークカメラ11の属性情報、例えばカメラ番号、型番、メーカ名、シリアル番号等のカメラ固有の情報や、解像度、フレームレート、色バランス等のカメラ動作に関する設定情報を予め記憶している。ROM202に記憶された各種情報は、制御ソフトウェアのバージョンアップ、ネットワークカメラ11の接続状態や設定状態の変更に対応させるため、ネットワーク14経由で書換えできることが望ましい。RAM203は、制御部201が制御ソフトウェアを実行するにあたり、各種変数や各種データ等を一時記憶するために使用される。   In addition to the control software, the ROM 202 previously stores attribute information of the network camera 11, such as camera-specific information such as camera number, model number, manufacturer name, serial number, and setting information related to camera operation such as resolution, frame rate, and color balance. I remember it. It is desirable that various information stored in the ROM 202 can be rewritten via the network 14 in order to cope with a version upgrade of the control software and a change in the connection state or setting state of the network camera 11. The RAM 203 is used to temporarily store various variables and various data when the control unit 201 executes the control software.

ユーザI/F部204は、操作者からの指示を入力するための操作入力部であり、ネットワークデコーダ装置12の電源入切スイッチを備えると共に、操作者に、所望のネットワークカメラ11のPTZ操作を行わせたり、モニタ13に表示する映像の画面指定、例えば1画面表示、4画面表示や16画面表示等のマルチ画面表示、複数画面の重ね表示等を指定させて画像処理部205に供給したりするためのものである。操作手段は、キーボードやマウスを用いることができ、また、ネットワークデコーダ装置12とモニタ13とを一体にしてネットワークカメラビューア装置を構成する場合は、タッチパネルを用いることができる。   The user I / F unit 204 is an operation input unit for inputting an instruction from the operator. The user I / F unit 204 includes a power on / off switch of the network decoder device 12 and performs a desired PTZ operation of the network camera 11 on the operator. For example, one-screen display, multi-screen display such as 4-screen display or 16-screen display, multi-screen display, etc. are specified and supplied to the image processing unit 205. Is to do. As the operation means, a keyboard or a mouse can be used. When the network decoder device 12 and the monitor 13 are integrated to form a network camera viewer device, a touch panel can be used.

画像処理部205は、制御部201から順次供給されるフレームデータ毎の符号化画像データをデコード処理して復号画像データを得たのち、画質補正処理であるガンマ補正処理を実行する機能を有する。なお、画質補正処理としては、ガンマ補正処理だけでなくクロマ補正を実行するようにしてもよい。また、画像処理部205は、順次画質補正処理された画像データを、ユーザI/F部204からの画面指定に従って画面構成して映像出力信号として出力する機能を有する。   The image processing unit 205 has a function of executing gamma correction processing which is image quality correction processing after decoding encoded image data for each frame data sequentially supplied from the control unit 201 to obtain decoded image data. As image quality correction processing, not only gamma correction processing but also chroma correction may be executed. The image processing unit 205 has a function of configuring the image data that has been subjected to the image quality correction processing in sequence according to the screen designation from the user I / F unit 204 and outputting it as a video output signal.

次に、ガンマ補正処理について説明する。画像処理部205は、図3に示すような輝度値を補正するためのLUT(Look Up Table)を生成して有している(パラメータ保持部)。LUTの生成方法は、前記特許文献1に記載の方法によってもよい。同図におけるLUTは、入力輝度値Yinに対する出力輝度値Youtを決定するための輝度補正用パラメータを有する。ネットワークデコーダ装置12の初期状態においては、同図に示した直線のようにYout=Yin、すなわち入力輝度値Yinがそのまま出力輝度値Youtとなる非補正特性(非補正用パラメータ)を適用する。そして、同図に示した曲線は、最適なガンマ補正を行うための補正曲線であり、この例によれば、入力輝度値Yinが小さい場合は出力輝度値Youtを大きくし、入力輝度値Yinが大きい場合は出力輝度値Youtを小さくするような補正特性を適用する。この補正曲線は、前記特許文献1に記載の如く入力画像の輝度ヒストグラム分布に基づき決定することが望ましい。   Next, the gamma correction process will be described. The image processing unit 205 generates and has a LUT (Look Up Table) for correcting the luminance value as shown in FIG. 3 (parameter holding unit). The LUT generation method may be the method described in Patent Document 1. The LUT in the figure has a luminance correction parameter for determining the output luminance value Yout with respect to the input luminance value Yin. In the initial state of the network decoder device 12, a non-correction characteristic (non-correction parameter) in which Yout = Yin, that is, the input luminance value Yin becomes the output luminance value Yout as it is, as shown by the straight line shown in FIG. The curve shown in the figure is a correction curve for performing an optimal gamma correction. According to this example, when the input luminance value Yin is small, the output luminance value Yout is increased, and the input luminance value Yin is When the value is large, a correction characteristic that reduces the output luminance value Yout is applied. This correction curve is desirably determined based on the luminance histogram distribution of the input image as described in Patent Document 1.

図2の説明に戻り、データサイズ変動率計算部206は、制御部201から画像処理部205へ供給された符号化画像データについてのフレームデータ単位でのデータサイズの変動率を計算する機能を有する。データサイズ変動率計算部206では、図4に示したフローチャートの如く処理を実行する。すなわち、前回供給された1フレームあたりの符号化画像データのデータサイズを保持しておき、今回供給された1フレームあたりの符号化画像データのデータサイズとのデータサイズの変動率を計算する(ステップS401)。次に、今回受信した1フレームあたりの符号化画像データのデータサイズを前回供給されたデータサイズとして更新して保持する(ステップS402)。   Returning to the description of FIG. 2, the data size variation rate calculation unit 206 has a function of calculating the variation rate of the data size in units of frame data for the encoded image data supplied from the control unit 201 to the image processing unit 205. . The data size fluctuation rate calculation unit 206 executes processing as shown in the flowchart of FIG. That is, the data size of the encoded image data per frame supplied last time is held, and the variation rate of the data size with the data size of the encoded image data per frame supplied this time is calculated (step). S401). Next, the data size of the encoded image data per frame received this time is updated and stored as the previously supplied data size (step S402).

符号化画像データがフレーム内符号化画像データであるJPEGデータである場合、同一の圧縮率及び解像度の設定により暗所を撮像した場合のJPEGデータのデータサイズと、明所を撮像した場合のJPEGデータのデータサイズとの比較では、暗所のJPEGデータのデータサイズの方が小さい場合が通常である。また、複雑な模様に相当する細やかな風景、物体、人の洋服等の高域周波数成分の多い被写体を撮像した場合のデータサイズは、のっぺりした模様のような高域周波数成分の比較的少ない被写体を撮像した場合のデータサイズよりも大きい。したがって、データサイズ変動率計算部206の結果により、カメラ番号が相違する2つのフレームデータの境界におけるシーンチェンジのみならず、ネットワークカメラ11がPTZ動作により被写体を大きく変更した場合についても検出できる。   When the encoded image data is JPEG data that is intra-frame encoded image data, the data size of the JPEG data when the dark place is imaged with the same compression rate and resolution setting, and the JPEG when the bright place is imaged In comparison with the data size of data, the data size of JPEG data in the dark is usually smaller. In addition, when capturing subjects with a lot of high-frequency components such as detailed landscapes, objects, and people's clothes that correspond to complex patterns, the data size is a subject with relatively little high-frequency components, such as a covered pattern. Is larger than the data size when the image is captured. Therefore, the result of the data size variation rate calculation unit 206 can detect not only the scene change at the boundary between two frame data having different camera numbers, but also the case where the network camera 11 greatly changes the subject by the PTZ operation.

このようにしてデータサイズの変動率を計算することにより、いわゆるシーンチェンジが生じた可能性を予測するが、ステップS402のように、今回受信した1フレームあたりの符号化画像データのデータサイズを前回供給されたデータサイズとして更新して保持することで、1つ前のフレームデータとの比較を行うことになるため、シーンチェンジの検出精度は高いものとなる。   By calculating the data size variation rate in this way, the possibility of a so-called scene change has been predicted. As in step S402, the data size of the encoded image data per frame received this time is set to the previous time. By updating and holding the supplied data size, comparison with the previous frame data is performed, so that the detection accuracy of the scene change is high.

変動率判定部207は、データサイズ変動率計算部206の出力結果であるデータサイズの変動率が、所定の範囲内に入っているか否かを判定する機能を有する。例えば、変動率>60%の場合を範囲外とし、変動率≦60%の場合を範囲内とする。変動率判定部207は、データサイズの変動率が規定の範囲外であれば、シーンチェンジやPTZ動作によって被写体が大きく変更されて符号化画像データのデータサイズが大きく変動したと判定し、画像処理部205に対して初期化信号を出力する。   The variation rate determination unit 207 has a function of determining whether or not the variation rate of the data size that is the output result of the data size variation rate calculation unit 206 is within a predetermined range. For example, the case where the rate of change> 60% is out of the range, and the case where the rate of change ≦ 60% is set within the range. If the variation rate of the data size is out of the specified range, the variation rate determination unit 207 determines that the subject has been significantly changed due to a scene change or a PTZ operation and the data size of the encoded image data has greatly varied, and image processing is performed. An initialization signal is output to the unit 205.

ここで、図5に、1フレームデータあたりの符号化画像データのデータサイズと時間軸上での変動をグラフに表した例を示す。同図において、ある特定の監視場所を撮像していたネットワークカメラ11が、PTZ動作により被写体を変更した場合を想定する。まず、シーンチェンジ1の時刻の前までは、比較的小さなデータサイズで推移しているものの若干のデータサイズの揺れが生じている。データサイズ変動率計算部206において、逐次直前のデータサイズを更新して保持することにより、このデータサイズの揺れを吸収することができ、直前のフレームデータに対するシーンチェンジを検出することができる。また、揺れを吸収することで、余分な初期化信号を出力するおそれも極めて少なくなる。   Here, FIG. 5 shows an example in which the data size of the encoded image data per frame data and the variation on the time axis are represented in a graph. In the figure, it is assumed that the network camera 11 that has taken an image of a specific monitoring place changes the subject by the PTZ operation. First, before the time of scene change 1, although the data size is relatively small, there is a slight fluctuation of the data size. In the data size variation rate calculation unit 206, the data size fluctuation can be absorbed and the scene change with respect to the immediately previous frame data can be detected by sequentially updating and holding the immediately previous data size. Moreover, the possibility of outputting an extra initialization signal is extremely reduced by absorbing the shaking.

シーンチェンジ1は、変動率判定部207における変動率>60%に該当する例であり、このタイミングで画像処理部205がLUTを参照するまでに初期化信号を出力する。画像処理部205は、この初期化信号を受信することにより、図3に示したLUTの補正曲線を初期化用の直線に変更する。また、シーンチェンジ2においても、変動率判定部207における変動率>60%に該当する例であり、このタイミングでもシーンチェンジ1の場合と同様に初期化信号を画像処理部205へ出力する。   The scene change 1 is an example corresponding to the variation rate> 60% in the variation rate determination unit 207, and at this timing, the initialization signal is output before the image processing unit 205 refers to the LUT. Upon receiving this initialization signal, the image processing unit 205 changes the LUT correction curve shown in FIG. 3 to a straight line for initialization. The scene change 2 is also an example corresponding to the change rate> 60% in the change rate determination unit 207, and the initialization signal is output to the image processing unit 205 at this timing as in the case of the scene change 1.

次に、本発明の実施形態を適用したネットワークカメラ監視システムにおけるネットワークデコーダ装置の第二実施例について説明する。図6は、本実施例におけるネットワークデコーダ装置12aの概略の内部構成図である。なお、第一実施例にて説明したブロックと同一のものについては、同一の符号を付してその説明を省略する。   Next, a second example of the network decoder device in the network camera monitoring system to which the embodiment of the present invention is applied will be described. FIG. 6 is a schematic internal configuration diagram of the network decoder device 12a in the present embodiment. In addition, about the same thing as the block demonstrated in 1st Example, the same code | symbol is attached | subjected and the description is abbreviate | omitted.

同図のネットワークデコーダ装置12aは、第一実施例におけるネットワークデコーダ装置12の構成に受信データ間隔計測部209が追加された構成を成している。受信データ間隔計測部209は、制御部201から画像処理部205に供給されるフレームデータ単位の符号化画像データの入力時間間隔を計測し、所定の時間内に符号化画像データが画像処理部205に供給されない場合に、画像処理部205に対して初期化信号を出力する。   The network decoder device 12a in the figure has a configuration in which a reception data interval measuring unit 209 is added to the configuration of the network decoder device 12 in the first embodiment. The reception data interval measurement unit 209 measures the input time interval of the encoded image data in units of frame data supplied from the control unit 201 to the image processing unit 205, and the encoded image data is converted into the image processing unit 205 within a predetermined time. If not supplied, the initialization signal is output to the image processing unit 205.

図7に、ネットワークデコーダ装置12aが複数の異なるフレームレートの符号化映像データを受信した場合のカメラ切り替えについて説明するために模式化した図を示す。なお、画像処理部205は、図8に示すような輝度値を補正するためのLUTを生成するものとする。   FIG. 7 is a schematic diagram for explaining camera switching when the network decoder device 12a receives encoded video data having a plurality of different frame rates. Note that the image processing unit 205 generates an LUT for correcting the luminance value as shown in FIG.

図7は、ネットワークデコーダ装置12aが暗所を撮像しているネットワークカメラ11−1から送信された30fpsの符号化映像データ1を受信しているときに、あるタイミングで明所を撮像しているネットワークカメラ11−2から送信された1fpsの符号化映像データ2の受信に切り替えたときの状態を模式的に示した図である。画像処理部205は、符号化映像データ1をガンマ補正する場合、図8のように生成されたLUTにおける補正曲線Aにより暗所部を明るく表示するための輝度補正をかける。   In FIG. 7, when the network decoder device 12a receives the encoded video data 1 of 30 fps transmitted from the network camera 11-1 that captures a dark place, the bright place is captured at a certain timing. It is the figure which showed typically the state when switched to reception of 1 fps encoded video data 2 transmitted from the network camera 11-2. When the encoded video data 1 is gamma-corrected, the image processing unit 205 applies luminance correction for brightly displaying the dark portion by the correction curve A in the LUT generated as shown in FIG.

ここで、図7のようにあるタイミングでネットワークカメラ11−2からの符号化映像データ2に切替わったとする。ネットワークカメラ11−2の撮像画像は明るい画像であるため、本来は図8のLUTにおける補正曲線Bにより補正する必要がある。ところが、切り替え時点において、補正曲線Bの生成が間に合わず従来どおり補正曲線Aが適用されてしまうと、不適切な輝度補正がされてネットワークカメラ11−2の映像が明るすぎる映像として出力されてしまう。加えて、次のフレームがデコード処理されるまで、明るすぎる映像が出力し続けるため、ネットワークカメラの切り替え時には監視者にとって非常に見難い状況が起こり得る。   Here, it is assumed that the video data is switched to the encoded video data 2 from the network camera 11-2 at a certain timing as shown in FIG. Since the picked-up image of the network camera 11-2 is a bright image, it must be corrected by the correction curve B in the LUT in FIG. However, when the correction curve B is not generated in time at the time of switching and the correction curve A is applied as before, inappropriate luminance correction is performed and the video of the network camera 11-2 is output as an excessively bright video. . In addition, since a video that is too bright continues to be output until the next frame is decoded, a situation that is very difficult for the supervisor to see can occur when switching the network camera.

そこで、本実施例におけるネットワークデコーダ装置12aは、受信データ間隔計測部209が画像処理部205に供給されるフレームデータ単位での符号化画像データの入力間隔、すなわちデコード処理の間隔を測定し、所定の時間内にデコード処理を実行しなければ画像処理部205に初期化信号を出力し、この初期化信号を受信した画像処理部205はLUTを参照して補正特性を直線の非補正特性に変更する。この初期化信号を出力するタイミングは、(1)所定の時間受信しないとき毎に出力してもよいし、(2)デコード間隔が伸びたときのみ、すなわち、カメラ映像が切り替わったときのみ出力してもよい。(1)の場合は、フレームレートが低いときには常に初期化信号が出力されるため、LUTは継続して非補正特性になり入力輝度値Yinがそのまま出力輝度値Youtとなる。一方、(2)の場合は、切り替え時は入力輝度値Yinがそのまま出力輝度値Youtとなるが、切り替え以降は補正曲線によるガンマ補正処理が実行される。   Therefore, in the network decoder device 12a in this embodiment, the reception data interval measurement unit 209 measures the input interval of encoded image data in units of frame data supplied to the image processing unit 205, that is, the interval of decoding processing, If the decoding process is not executed within this time, an initialization signal is output to the image processing unit 205, and the image processing unit 205 that has received this initialization signal changes the correction characteristic to a linear non-correction characteristic with reference to the LUT. To do. The timing for outputting this initialization signal may be output (1) every time a predetermined time is not received, or (2) only when the decoding interval is extended, that is, only when the camera image is switched. May be. In the case of (1), since the initialization signal is always output when the frame rate is low, the LUT continues to have uncorrected characteristics, and the input luminance value Yin becomes the output luminance value Yout as it is. On the other hand, in the case of (2), the input luminance value Yin becomes the output luminance value Yout as it is at the time of switching, but after the switching, a gamma correction process using a correction curve is executed.

次に、本発明の実施形態を適用したネットワークカメラ監視システムにおけるネットワークデコーダ装置の第三実施例について説明する。本実施例におけるネットワークデコーダ装置12bの概略の内部構成は、図2及び図6のいずれもが適用できる。本実施例においては、制御部201が図9に示したフローチャートによる処理を実行する。   Next, a third example of the network decoder device in the network camera monitoring system to which the embodiment of the present invention is applied will be described. As the schematic internal configuration of the network decoder device 12b in the present embodiment, either FIG. 2 or FIG. 6 can be applied. In the present embodiment, the control unit 201 executes processing according to the flowchart shown in FIG.

つまり、例えば、ネットワークカメラ11−1から供給される符号化映像データ1をネットワークカメラ11−2からの符号化映像データ2に切り替える場合において、制御部201は、符号化映像データ1をデコードした際に、内蔵するタイマにより計時処理を開始し(ステップS100)、所定の時間が経過するまで待機する(ステップS101)。このとき、監視者が映像を視認するための時間としては、前記所定の時間を例えば少なくとも3秒とする。次に、この3秒が経過したとき、制御部201は、符号化映像データ1から符号化映像データ2に切り替えるために、ネットワークカメラ11−2に対応したカメラ番号を制御ソフトウェアの変数に設定すると共に、画像処理部205に対して初期化信号を出力する(ステップS102)。   That is, for example, when the encoded video data 1 supplied from the network camera 11-1 is switched to the encoded video data 2 from the network camera 11-2, the control unit 201 decodes the encoded video data 1. In addition, the timing process is started by the built-in timer (step S100), and the process waits until a predetermined time elapses (step S101). At this time, as the time for the supervisor to view the video, the predetermined time is set to at least 3 seconds, for example. Next, when 3 seconds have elapsed, the control unit 201 sets the camera number corresponding to the network camera 11-2 as a variable of the control software in order to switch from the encoded video data 1 to the encoded video data 2. At the same time, an initialization signal is output to the image processing unit 205 (step S102).

そして、画像処理部205は初期化信号を受信することにより、LUTを参照して補正特性を直線の非補正特性に変更する。   Then, the image processing unit 205 receives the initialization signal and changes the correction characteristic to a linear non-correction characteristic with reference to the LUT.

なお、操作者は、ユーザI/F部204から、カメラ番号を指定するようにしてもよい。これに伴い、ユーザI/F部204は、指定されたカメラ番号を制御部201に送信し、この通知を受信した制御部201は初期化信号を画像処理部205に出力する。そして、画像処理部205は、受信した初期化信号に従ってガンマ補正を非補正特性に変更する。これにより、操作者がカメラ番号を変更した場合にも、適切な切り替えタイミングに応じた画質補正処理を行うことができる。   Note that the operator may specify a camera number from the user I / F unit 204. Along with this, the user I / F unit 204 transmits the designated camera number to the control unit 201, and the control unit 201 that has received this notification outputs an initialization signal to the image processing unit 205. Then, the image processing unit 205 changes the gamma correction to the non-correction characteristic according to the received initialization signal. Thereby, even when the operator changes the camera number, it is possible to perform image quality correction processing according to an appropriate switching timing.

次に、本発明の実施形態を適用したネットワークカメラ監視システムにおけるネットワークデコーダ装置の第四実施例について説明する。第一乃至第三実施例は、画像処理部205が1つのLUTを使用してガンマ補正処理を実行する例であり、比較的少ないメモリ容量で構成することができる。しかしながら、これらの例は、初期状態に戻す必要がない場合でも初期化信号の発生により非補正特性になる場合があるため、補正演算結果が無駄になる場合がある。例えば、セキュリティ分野での実施においては、ネットワークカメラ11−1〜11−4の4台からの映像をモニタ13に順次表示させる場合、カメラ番号1→カメラ番号2→カメラ番号3→カメラ番号4→カメラ番号1→・・・のように巡回させるケースが多い。よって、各ネットワークカメラ11に補正演算結果を保持することができれば、いちいち初期状態に戻す必要がなく、以前の補正演算結果を用いてガンマ補正処理を実行することができ効率的である。   Next, a fourth example of the network decoder device in the network camera monitoring system to which the embodiment of the present invention is applied will be described. The first to third embodiments are examples in which the image processing unit 205 executes gamma correction processing using one LUT, and can be configured with a relatively small memory capacity. However, in these examples, even if it is not necessary to return to the initial state, the correction calculation result may be wasted because there is a case where the non-correction characteristic occurs due to the generation of the initialization signal. For example, in the implementation in the security field, when images from four network cameras 11-1 to 11-4 are sequentially displayed on the monitor 13, camera number 1 → camera number 2 → camera number 3 → camera number 4 → There are many cases of patrol such as camera number 1 →. Therefore, if each network camera 11 can hold the correction calculation result, it is not necessary to return to the initial state one by one, and the gamma correction process can be executed using the previous correction calculation result, which is efficient.

図10は、本実施例におけるネットワークデコーダ装置12cの概略の内部構成図である。なお、第一実施例にて説明したブロックと同一のものについては、同一の符号を付してその説明を省略する。画像処理部205は、ガンマ補正用LUTアレイ210(パラメータ保持部)を生成して保持する。ガンマ補正用LUTアレイ210は、図3に例示したようなLUTを、ネットワークカメラ11の台数分、各カメラ番号に対応させて構成したものである。なお、クロマ補正をネットワークカメラ11毎に行う場合も、ガンマ補正用LUTアレイ210のようなクロマ補正用アレイを生成して保持することが望ましい。   FIG. 10 is a schematic internal configuration diagram of the network decoder device 12c in the present embodiment. In addition, about the same thing as the block demonstrated in 1st Example, the same code | symbol is attached | subjected and the description is abbreviate | omitted. The image processing unit 205 generates and holds the gamma correction LUT array 210 (parameter holding unit). The gamma correction LUT array 210 is configured such that the LUT illustrated in FIG. 3 corresponds to each camera number corresponding to the number of network cameras 11. Even when chroma correction is performed for each network camera 11, it is desirable to generate and hold a chroma correction array such as the gamma correction LUT array 210.

制御部201は、受信している符号化映像データに対応するカメラ番号を画像処理部205に通知する。そして、画像処理部205は、制御部201から通知されたカメラ番号に従って、ガンマ補正用LUTアレイ210の中から対応するLUTを選択しガンマ補正処理を実行する。   The control unit 201 notifies the image processing unit 205 of the camera number corresponding to the received encoded video data. Then, the image processing unit 205 selects the corresponding LUT from the gamma correction LUT array 210 according to the camera number notified from the control unit 201, and executes gamma correction processing.

次に、本発明の実施形態を適用したネットワークカメラ監視システムにおけるネットワークデコーダ装置の第五実施例について、図11のフローチャートを併せ参照して説明する。本実施例は、ネットワークデコーダ装置12dの制御部201が、ROM202に格納された制御ソフトウェアをRAM203にロードして実行することにより、ネットワークデコーダ装置12dの主要な機能を実現する例である。なお、制御部201には、ソフトウェア機能ブロックとして、画像処理部が含まれるものとする。   Next, a fifth example of the network decoder device in the network camera monitoring system to which the embodiment of the present invention is applied will be described with reference to the flowchart of FIG. In this embodiment, the control unit 201 of the network decoder device 12d loads the control software stored in the ROM 202 into the RAM 203 and executes it, thereby realizing the main functions of the network decoder device 12d. Note that the control unit 201 includes an image processing unit as a software function block.

まず、ネットワークデコーダ装置12dは、ネットワーク14を介して接続されたネットワークカメラ11−1〜11−nから送出された、パケットデータ化されたJPEGファイルをネットワークI/F部200で受信して制御部201に供給する(ステップS200)。   First, the network decoder device 12d receives the JPEG file converted into packet data sent from the network cameras 11-1 to 11-n connected via the network 14 by the network I / F unit 200, and receives the control unit. (Step S200).

次に、制御部201は、JPEGファイルのヘッダ情報を参照し、これに記録されたファイルサイズデータと実際に受信したJPEGファイルのデータサイズとを比較してデータサイズに相違がないこと、JPEGファイルに含まれたハフマンテーブルの妥当性、データフォーマット(Y:Cb:Cr比が4:2:0,4:2:4,又は4:1:1のいずれかであること)等のデコード可能性を判定し(ステップS201)、このステップでいずれかの異常を検出した場合は処理を終了する。   Next, the control unit 201 refers to the header information of the JPEG file, compares the file size data recorded therein with the data size of the actually received JPEG file, and confirms that there is no difference in data size. The validity of the Huffman table included in the data, and the data format (Y: Cb: Cr ratio should be 4: 2: 0, 4: 2: 4, or 4: 1: 1), etc. (Step S201), and if any abnormality is detected in this step, the process is terminated.

制御部201は、ステップS201においてデコード可能と判定した場合、図4のフローチャートに基づき、前回受信したJPEGファイルとのデータサイズの比較を行う(ステップS202)。次に、制御部201は、比較したデータサイズの変動率が所定の閾値(例えば、第一実施例の場合と同様に60%)を越えたと判定した場合に、画像処理部に対してリセット要求を出力して輝度補正値を初期状態に変更する(ステップS204)。一方、データサイズの変動率が閾値以下である場合は、画像処理部にリセット要求を出力せずに以下のステップS205に進む。   If the control unit 201 determines that decoding is possible in step S201, the control unit 201 compares the data size with the previously received JPEG file based on the flowchart of FIG. 4 (step S202). Next, when the control unit 201 determines that the variation rate of the compared data size has exceeded a predetermined threshold (for example, 60% as in the first embodiment), the control unit 201 requests the image processing unit to perform a reset request. Is output to change the brightness correction value to the initial state (step S204). On the other hand, if the variation rate of the data size is equal to or smaller than the threshold, the process proceeds to the following step S205 without outputting a reset request to the image processing unit.

制御部201の画像処理部は、JPEGデータをMCU(Minimum CodedUnit)単位で復号処理を行い、ピクセル毎の輝度成分やクロマ成分を生成する(ステップS205)。   The image processing unit of the control unit 201 decodes JPEG data in units of MCU (Minimum Coded Unit), and generates a luminance component and a chroma component for each pixel (step S205).

次に、画像処理部は、デコード後の輝度成分やクロマ成分から、前記特許文献1に記載の方法によりヒストグラム分布、輝度値の総加算数、ピクセル数、輝度最大値、輝度最小値等の特徴量を算出する(ステップS206)。ステップS205及びステップS206の各処理は、全てのMCUのデコードが終了するまで繰り返される(ステップS207)。そして、全てのMCUのデコード処理が終了したとき、ステップS206において算出した特徴量からLUTを計算してRAM203に記憶する(ステップS208)。このLUTは、次のJPEGファイルを受信したときに参照される。   Next, the image processing unit, from the decoded luminance component and chroma component, features such as histogram distribution, total number of luminance values, number of pixels, maximum luminance value, minimum luminance value, etc. by the method described in Patent Document 1. The amount is calculated (step S206). Each process of step S205 and step S206 is repeated until decoding of all the MCUs is completed (step S207). When the decoding process for all the MCUs is completed, the LUT is calculated from the feature amount calculated in step S206 and stored in the RAM 203 (step S208). This LUT is referred to when the next JPEG file is received.

ここで、上述したステップS206においてLUTを参照して画像処理する際、例えば次の2つの方法が適用できる。   Here, when performing image processing with reference to the LUT in step S206 described above, for example, the following two methods can be applied.

<方法1>
デコード中の画像情報の特徴量を反映しないLUTを用いて画像処理する方法である。これは、上述した図11のフローチャートによる方法であり、全てのMCUのデコード処理が完了しなくても、LUTは前回のJPEGデータに基づき算出されているため、MCU単位でデコードしながら輝度補正等の画像処理を並行して実行でき、高速な処理ができる。
<Method 1>
In this method, image processing is performed using an LUT that does not reflect the feature amount of image information being decoded. This is a method according to the flowchart of FIG. 11 described above, and even if decoding of all the MCUs is not completed, the LUT is calculated based on the previous JPEG data. Image processing can be executed in parallel, and high-speed processing can be performed.

<方法2>
デコード中の画像情報の特徴量を反映したLUTを用いて画像処理する方法である。この場合、全てのMCUのデコードが完了してから、全てのピクセルの輝度値補正等の画像処理を行う処理である。すなわち、ステップS206においては、特徴量の算出とLUTへの記憶処理とステップS208を行い、別ループにて輝度補正等の画像処理を行う手法である。これは、順次処理のため、方法1よりも低速処理になりやすく、高速化するにはコストアップとなる。しかしながら、この方法2によれば、デコード中の画像に対する最適なLUT補正値を決め易く、監視者にとって非常に見やすい映像出力が可能である。
<Method 2>
This is a method of performing image processing using an LUT reflecting the feature amount of image information being decoded. In this case, image processing such as luminance value correction of all pixels is performed after decoding of all MCUs is completed. That is, in step S206, the feature amount is calculated and stored in the LUT, and step S208 is performed, and image processing such as luminance correction is performed in another loop. Since this is a sequential process, it is likely to be a lower speed process than method 1, and the cost is increased to increase the speed. However, according to this method 2, it is easy to determine the optimum LUT correction value for the image being decoded, and it is possible to output a video that is very easy for the monitor to see.

以上詳述したように、第一実施例〜第五実施例によれば、ネットワークカメラ11−1〜11−nから送信された複数のフレーム内符号化映像データをネットワークデコーダ装置12(12a,12b,12c,12d)が選択的に受信してデコード処理し、モニタ13に出力する場合において、ネットワークデコーダ装置12(12a,12b,12c,12d)は、各符号化画像データの復号後のフレームデータについて画質に応じた輝度補正処理を行って最適な画質のフレームデータを得ることができる。そして、フレーム内符号化映像データの切り替えタイミングを検出して一旦輝度補正処理を初期化させることができるため、フレーム内符号化映像データを任意に切り替えた場合でも、特段の違和感を監視者に与えることなく、画質補正がされたフレームデータをモニタ13に出力することができる。   As described in detail above, according to the first to fifth embodiments, the plurality of intra-frame encoded video data transmitted from the network cameras 11-1 to 11-n are converted into the network decoder device 12 (12a, 12b). , 12c, 12d) are selectively received, decoded and output to the monitor 13, the network decoder device 12 (12a, 12b, 12c, 12d) receives the frame data after decoding of each encoded image data. Can be obtained by performing luminance correction processing according to the image quality. Since the luminance correction process can be initialized once by detecting the switching timing of the intra-frame encoded video data, even if the intra-frame encoded video data is arbitrarily switched, a particular sense of incongruity is given to the monitor. Therefore, it is possible to output the frame data whose image quality has been corrected to the monitor 13.

なお、上述した第一実施例から第四実施例における画像処理部205、データサイズ変動率計算部206、変動率判定部207、及び受信データ間隔計測部209による処理を、例えばDSP(Digital Signal Processor)のようなデジタル信号処理回路で一体的に処理するようにしてもよい。   The processing by the image processing unit 205, the data size variation rate calculation unit 206, the variation rate determination unit 207, and the reception data interval measurement unit 209 in the first to fourth embodiments described above is performed by, for example, a DSP (Digital Signal Processor). The digital signal processing circuit as shown in FIG.

本発明は、セキュリティ分野におけるネットワークカメラ監視システムにおいて特に有用である。   The present invention is particularly useful in a network camera monitoring system in the security field.

本発明の実施形態を適用したネットワークカメラ監視システムの概略の全体構成図である。1 is a schematic overall configuration diagram of a network camera monitoring system to which an embodiment of the present invention is applied. 第一実施例における、ネットワークデコーダ装置の概略の内部構成図である。FIG. 2 is a schematic internal configuration diagram of a network decoder device in the first embodiment. 第一実施例における、輝度値を補正するためのLUTを模式的に表した図である。It is the figure which represented typically the LUT for correct | amending a luminance value in a 1st Example. 第一実施例における、データサイズ変動率計算部の動作を説明するためのフローチャートである。It is a flowchart for demonstrating operation | movement of the data size fluctuation rate calculation part in a 1st Example. 第一実施例における、1フレームデータあたりの符号化画像データのデータサイズと時間軸上での変動をグラフに表した図である。It is the figure which represented the data size of the encoding image data per frame data in 1st Example, and the fluctuation | variation on a time axis in the graph. 第二実施例における、ネットワークデコーダ装置の概略の内部構成図である。It is a schematic internal block diagram of the network decoder apparatus in the second embodiment. 第二実施例における、ネットワークデコーダ装置が複数の異なるフレームレートの符号化映像データを受信した場合のカメラ切り替えについて説明するための図である。It is a figure for demonstrating camera switching in the 2nd Example when the network decoder apparatus receives the encoding video data of several different frame rates. 第二実施例における、輝度値を補正するためのLUTを模式的に表した図である。It is the figure which represented typically the LUT for correct | amending a luminance value in 2nd Example. 第三実施例における、制御部が実行する処理を説明するためのフローチャートである。It is a flowchart for demonstrating the process which a control part performs in 3rd Example. 第四実施例における、ネットワークデコーダ装置の概略の内部構成図である。FIG. 14 is a schematic internal configuration diagram of a network decoder device in a fourth embodiment. 第五実施例における、制御部が実行する処理を説明するためのフローチャートである。It is a flowchart for demonstrating the process which a control part performs in 5th Example.

符号の説明Explanation of symbols

11−1〜11−n ネットワークカメラ
12,12a,12b,12c ネットワークデコーダ装置
13 モニタ
14 ネットワーク
200 ネットワークインターフェース部
201 制御部
202 ROM
203 RAM
204 ユーザインターフェース部
205 画像処理部
206 データサイズ変動率計算部
207 変動率判定部
209 受信データ間隔計測部
210 ガンマ補正用LUTアレイ
11-1 to 11-n Network camera 12, 12a, 12b, 12c Network decoder device 13 Monitor 14 Network 200 Network interface unit 201 Control unit 202 ROM
203 RAM
204 User interface unit 205 Image processing unit 206 Data size variation rate calculation unit 207 Variation rate determination unit 209 Received data interval measurement unit 210 Gamma correction LUT array

Claims (3)

ネットワークを介して供給された複数のフレーム内符号化映像データのうちいずれか1つを選択的に受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して保持すると共に、初期化信号の入力に従って前記保持している輝度補正用パラメータを非補正用パラメータに変更するパラメータ保持部を有し、この保持又は変更したパラメータに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記受信したフレーム内符号化映像データのフレーム毎のデータサイズの変動率を算出するデータサイズ変動率計算手段と、
前記算出したデータサイズの変動率が閾値以下である場合は、前記輝度補正手段に保持された輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる一方、前記変動率が閾値を越える場合は、前記輝度補正手段に初期化信号を出力して前記変更された非補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
Any one of a plurality of intra-frame encoded video data supplied via the network is selectively received, sequentially input to the decoding means in units of frames, and subjected to decoding processing. In the output network decoder device,
The frame data decoded by the decoding means is input, a luminance component histogram is calculated, and a luminance correction parameter is determined and held based on the luminance distribution, and the held luminance according to the input of the initialization signal A brightness holding means for changing a correction parameter to a non-correction parameter, and correcting a brightness component of the frame data based on the held or changed parameter;
Data size fluctuation rate calculating means for calculating a data size fluctuation rate for each frame of the received intra-frame encoded video data;
When the calculated variation rate of the data size is equal to or smaller than the threshold value, the luminance component of the frame data is corrected using the luminance correction parameter held in the luminance correction unit, and when the variation rate exceeds the threshold value, Control means for outputting an initialization signal to the brightness correction means and correcting the brightness component of the frame data using the changed non-correction parameter;
A network decoder device comprising:
ネットワークを介して供給された複数のフレーム内符号化映像データのうちいずれか1つを選択的に受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して保持すると共に、初期化信号の入力に従って前記保持している輝度補正用パラメータを非補正用パラメータに変更するパラメータ保持部を有し、この保持又は変更したパラメータに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記受信したフレーム内符号化映像データの各フレーム間の時間間隔を計測する受信データ間隔計測手段と、
前記計測した時間間隔が所定時間以下である場合は、前記輝度補正手段に保持された輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる一方、前記時間間隔が所定時間を越える場合は、前記輝度補正手段に初期化信号を出力して前記変更された非補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
Any one of a plurality of intra-frame encoded video data supplied via the network is selectively received, sequentially input to the decoding means in units of frames, and subjected to decoding processing. In the output network decoder device,
The frame data decoded by the decoding means is input, a luminance component histogram is calculated, and a luminance correction parameter is determined and held based on the luminance distribution, and the held luminance according to the input of the initialization signal A brightness holding means for changing a correction parameter to a non-correction parameter, and correcting a brightness component of the frame data based on the held or changed parameter;
Received data interval measuring means for measuring a time interval between each frame of the received intra-frame encoded video data;
When the measured time interval is less than or equal to a predetermined time, the luminance component of the frame data is corrected using the luminance correction parameter held in the luminance correction means, and when the time interval exceeds the predetermined time, Control means for outputting an initialization signal to the brightness correction means and correcting the brightness component of the frame data using the changed non-correction parameter;
A network decoder device comprising:
ネットワークを介して供給された、それぞれ識別子を含む複数のフレーム内符号化映像データのうち指定された1つの識別子に対応するフレーム内符号化映像データを受信し、フレーム単位で復号手段に順次入力して復号処理し、これら順次復号されたフレームデータを出力するネットワークデコーダ装置において、
前記復号手段により復号されたフレームデータを入力し、輝度成分のヒストグラムを算出してその輝度分布に基づき輝度補正用パラメータを決定して前記識別子に対応させて保持するパラメータ保持部を有し、指定された識別子とこれら保持した輝度補正用パラメータとに基づきフレームデータの輝度成分を補正する輝度補正手段と、
前記指定された識別子を前記輝度補正手段に入力して、前記パラメータ保持部に保持された前記識別子に対応する輝度補正用パラメータを用いてフレームデータの輝度成分を補正させる制御手段と、
を備えたことを特徴とするネットワークデコーダ装置。
Intra-frame encoded video data corresponding to one specified identifier among a plurality of intra-frame encoded video data each including an identifier supplied via the network is received and sequentially input to the decoding means in units of frames. In the network decoder device that performs decoding processing and outputs the sequentially decoded frame data,
A parameter holding unit for inputting the frame data decoded by the decoding unit, calculating a histogram of luminance components, determining a luminance correction parameter based on the luminance distribution, and holding the parameter in correspondence with the identifier, and specifying Luminance correction means for correcting the luminance component of the frame data based on the identifier and the held luminance correction parameters;
Control means for inputting the designated identifier to the brightness correction means and correcting the brightness component of the frame data using the brightness correction parameter corresponding to the identifier held in the parameter holding unit;
A network decoder device comprising:
JP2007012372A 2006-10-11 2007-01-23 Network decoder device Expired - Fee Related JP4919034B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007012372A JP4919034B2 (en) 2006-10-11 2007-01-23 Network decoder device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006277253 2006-10-11
JP2006277253 2006-10-11
JP2007012372A JP4919034B2 (en) 2006-10-11 2007-01-23 Network decoder device

Publications (2)

Publication Number Publication Date
JP2008118607A true JP2008118607A (en) 2008-05-22
JP4919034B2 JP4919034B2 (en) 2012-04-18

Family

ID=39504144

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007012372A Expired - Fee Related JP4919034B2 (en) 2006-10-11 2007-01-23 Network decoder device

Country Status (1)

Country Link
JP (1) JP4919034B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008294539A (en) * 2007-05-22 2008-12-04 Hitachi Ltd Digital broadcast receiver
JP2010233114A (en) * 2009-03-27 2010-10-14 Sogo Keibi Hosho Co Ltd Monitoring system and image transfer method of the same
JP2010257100A (en) * 2009-04-23 2010-11-11 Canon Inc Image processing apparatus and image processing method
WO2011024361A1 (en) * 2009-08-27 2011-03-03 パナソニック株式会社 Network camera and video distribution system
US8279920B2 (en) 2009-03-24 2012-10-02 Via Technologies, Inc. Intra-frame prediction method and prediction apparatus using the same
TWI407797B (en) * 2009-03-27 2013-09-01 Via Tech Inc Intra-frame prediction method and prediction apparatus using the same
JP2014086913A (en) * 2012-10-24 2014-05-12 Nippon Telegr & Teleph Corp <Ntt> Video analysis device

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133305A (en) * 1992-09-07 1994-05-13 Fujitsu Ltd Picture data coding method, picture data coder using the method, picture data decoding method, picture data decoder using the method, scene change detection method, scene change detection method, scene change detector, scene change recorder, and picture data scene change recording and reproducing device
JPH11284987A (en) * 1998-03-30 1999-10-15 Kumahira Safe Co Inc Image supervisory system
JP2002077723A (en) * 2000-09-01 2002-03-15 Minolta Co Ltd Moving image processor and moving image processing method and recording medium
JP2002320111A (en) * 2001-04-23 2002-10-31 Matsushita Electric Ind Co Ltd Gradation correcting device
JP2003125220A (en) * 2001-10-15 2003-04-25 Konica Corp Certificate photo photographing system
JP2003309763A (en) * 2002-04-16 2003-10-31 Olympus Optical Co Ltd Animation imaging system
JP2004007301A (en) * 2002-06-03 2004-01-08 Kddi Media Will Corp Image processor
JP2004247988A (en) * 2003-02-14 2004-09-02 Fuji Photo Film Co Ltd Image processor and program
JP2006013863A (en) * 2004-06-25 2006-01-12 Hitachi Eng Co Ltd Imaging apparatus with emphasized contrast
JP2006267140A (en) * 2005-03-22 2006-10-05 Hitachi Ltd Video processing device and portable terminal apparatus

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133305A (en) * 1992-09-07 1994-05-13 Fujitsu Ltd Picture data coding method, picture data coder using the method, picture data decoding method, picture data decoder using the method, scene change detection method, scene change detection method, scene change detector, scene change recorder, and picture data scene change recording and reproducing device
JPH11284987A (en) * 1998-03-30 1999-10-15 Kumahira Safe Co Inc Image supervisory system
JP2002077723A (en) * 2000-09-01 2002-03-15 Minolta Co Ltd Moving image processor and moving image processing method and recording medium
JP2002320111A (en) * 2001-04-23 2002-10-31 Matsushita Electric Ind Co Ltd Gradation correcting device
JP2003125220A (en) * 2001-10-15 2003-04-25 Konica Corp Certificate photo photographing system
JP2003309763A (en) * 2002-04-16 2003-10-31 Olympus Optical Co Ltd Animation imaging system
JP2004007301A (en) * 2002-06-03 2004-01-08 Kddi Media Will Corp Image processor
JP2004247988A (en) * 2003-02-14 2004-09-02 Fuji Photo Film Co Ltd Image processor and program
JP2006013863A (en) * 2004-06-25 2006-01-12 Hitachi Eng Co Ltd Imaging apparatus with emphasized contrast
JP2006267140A (en) * 2005-03-22 2006-10-05 Hitachi Ltd Video processing device and portable terminal apparatus

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008294539A (en) * 2007-05-22 2008-12-04 Hitachi Ltd Digital broadcast receiver
US8279920B2 (en) 2009-03-24 2012-10-02 Via Technologies, Inc. Intra-frame prediction method and prediction apparatus using the same
JP2010233114A (en) * 2009-03-27 2010-10-14 Sogo Keibi Hosho Co Ltd Monitoring system and image transfer method of the same
TWI407797B (en) * 2009-03-27 2013-09-01 Via Tech Inc Intra-frame prediction method and prediction apparatus using the same
JP2010257100A (en) * 2009-04-23 2010-11-11 Canon Inc Image processing apparatus and image processing method
WO2011024361A1 (en) * 2009-08-27 2011-03-03 パナソニック株式会社 Network camera and video distribution system
JP2014086913A (en) * 2012-10-24 2014-05-12 Nippon Telegr & Teleph Corp <Ntt> Video analysis device

Also Published As

Publication number Publication date
JP4919034B2 (en) 2012-04-18

Similar Documents

Publication Publication Date Title
JP4919034B2 (en) Network decoder device
CN107302664B (en) Shooting method and mobile terminal
US20140168429A1 (en) Image Processing Apparatus, Image Processing Method and Program
TWI689203B (en) Method of pre-processing digital images, and digital image pre-processing system
JP5312256B2 (en) Imaging apparatus and imaging system
US8036479B2 (en) Image processing apparatus and method, and storage medium for controlling gradation of moving images
JP2004023373A (en) Image processor and processing method, and computer program and computer-readable storage medium
US20080136942A1 (en) Image sensor equipped photographing apparatus and picture photographing method
US8264587B2 (en) Increasing frame rate for imaging
JP5877329B2 (en) Imaging apparatus and image processing apparatus
US20060159340A1 (en) Digital image photographing apparatus and method
JP2007228099A (en) Imaging apparatus
JP2010152518A (en) Image processor and image processing method
EP3544292B1 (en) Image processing device, image processing method, and program
JP5211947B2 (en) Imaging apparatus and program
JP2008123472A (en) Video signal processor
JP2020053960A (en) Imaging apparatus, control method of the same, and program
KR100611481B1 (en) Apparatus and method for turning automatically to digital zoom mode
JP2006222617A (en) Remote photography system, remote display controller, and remote photographic device
JP2023110528A (en) Imaging apparatus, image processing device, control method for imaging apparatus, control method for image processing device
JP2003101863A (en) Image jitter prevention device
JPH08186792A (en) Image fetching device
JP2012244601A (en) Information acquisition device, information output device, information communication system, information acquisition method, information output method, control program and recording medium
JPH07107505A (en) Image pickup device
JP2021027490A (en) Image processing device, imaging device, imaging system, control method of the image processing device, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110927

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20111012

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120118

R150 Certificate of patent or registration of utility model

Ref document number: 4919034

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150210

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees