JP2005005997A - Image data processor - Google Patents

Image data processor Download PDF

Info

Publication number
JP2005005997A
JP2005005997A JP2003166647A JP2003166647A JP2005005997A JP 2005005997 A JP2005005997 A JP 2005005997A JP 2003166647 A JP2003166647 A JP 2003166647A JP 2003166647 A JP2003166647 A JP 2003166647A JP 2005005997 A JP2005005997 A JP 2005005997A
Authority
JP
Japan
Prior art keywords
image data
compression
moving image
compression encoding
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003166647A
Other languages
Japanese (ja)
Other versions
JP4394902B2 (en
Inventor
Jun Nakada
潤 中田
Hiroaki Nishimaki
宏晃 西牧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canopus Co Ltd
Original Assignee
Canopus Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canopus Co Ltd filed Critical Canopus Co Ltd
Priority to JP2003166647A priority Critical patent/JP4394902B2/en
Publication of JP2005005997A publication Critical patent/JP2005005997A/en
Application granted granted Critical
Publication of JP4394902B2 publication Critical patent/JP4394902B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image data processor which compresses and saves inputted moving picture data in different compression formats and generates moving picture data in a high quality compression format and moving picture data in a compression format for small size data at the same time by a simple and cheap constitution. <P>SOLUTION: The data processor comprises: a data input unit for acquiring inputted moving picture data; a first compression coder for executing the compression coding process of the moving picture data acquired by the data input unit, in a first compression format to generate and store first compressed moving picture data in a memory; a second compression coder for executing a compression coding process of the first compressed moving picture data in a second compression format, on the basis of the first compressed moving picture data stored in the memory, to generate and store second compressed moving picture data in the memory; and a compression process controller for making the second compression coder execute the compression coding process, during executing the compression coding process by the first compression coder. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

【0001】
【発明の属する技術分野】
本発明は、入力された動画像データを所定の圧縮フォーマットによってサイズを縮小して記録するための画像データ処理装置に関する。
【0002】
【従来の技術】
テレビジョン放送で放映される番組やアナログビデオ機器からのビデオ画像は、ビデオキャプチャと呼ばれるデータ処理装置を用いることによってデジタル動画像データに変換して記録することが可能となる。ビデオキャプチャは、デスクトップ型コンピュータの場合にはPCIバス(Peripheral Components Interconnect bus)スロットに装着可能なビデオキャプチャボードの形態で提供されており、ノート型パソコンの場合にはカードバススロットに装着可能なビデオキャプチャカードの形態で提供される。また、USB(Universal Serial Bus)、IEEE1394などのコンピュータ周辺機器に一般的に用いられる通信インターフェイスを備える外付け型のビデオキャプチャユニットを各種コンピュータに接続して用いることが可能である。
【0003】
このようなビデオキャプチャ装置によりデジタル化された動画像データは、通常、DV(Digital Video)、MPEG(Moving Picture Experts Group)などの圧縮フォーマットによる圧縮を行ってハードディスク(HDD)などの記憶装置に記録される。MPEGによるデータ圧縮を行う場合には、ハイビジョンテレビ並みの再生品質を得られるMPEG2が採用される場合が多く、前述したビデオキャプチャカードやビデオキャプチャユニットにハードウェアエンコーダを実装するものも存在する。
【0004】
【発明が解決しようとする課題】
前述したようなビデオキャプチャ装置において、DVやMPEG2などの圧縮フォーマットで変換された動画像データをパーソナルコンピュータに内蔵または外付けで接続されるハードディスクに格納する場合、記録するデータ量はハードディスクの容量に基づいて制限される。このため、高画質を要求されない動画像データについては、MPEG4などのより圧縮率の高い圧縮フォーマットによりデータを圧縮してハードディスク内に格納しておくことで、多くのデータを記録することが可能となる。この場合、ビデオキャプチャ装置に入力される動画像データを一旦MPEG2エンコーダにより圧縮変換してハードディスク内に格納し、ソフトウェアエンコーダによりこのハードディスク内に格納されているMPEG2データを読み出してMPEG4の圧縮フォーマットによるデータ変換を行うこととなる。変換されたMPEG4フォーマットによる動画像データをハードディスク内に保存した後、MPEG2フォーマットによる動画像データを削除することにより、ハードディスクの容量を有効に活用することができる。
【0005】
しかしながら、MPEG2フォーマットの動画像データをMPEG4フォーマットの動画像データに変換する作業に多くの時間を要し、また変換用ソフトウェアのためにCPUの負荷が多くかかるため、変換作業中における他のタスクの実行が制限されるという問題がある。
ビデオキャプチャ装置に異なる圧縮フォーマットによるハードウェアエンコーダを実装して、2種類以上の圧縮フォーマットで圧縮された動画像データを同時に生成しハードディスクに格納することも考えられるが、回路構成が複雑となって大きなコストがかかるという問題がある。
【0006】
本発明は、入力される動画像データを異なる圧縮フォーマットにより圧縮して保存することができ、簡単かつ安価な構成で高画質の圧縮フォーマットによる動画像データとデータサイズの小さい圧縮フォーマットによる動画像データを同時に生成することが可能な画像データ処理装置を提供することを目的とする。
【0007】
【課題を解決するための手段】
本発明の請求項1に係る画像データ処理装置は、入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理装置であって、入力される動画像データを取得するデータ入力部と、データ入力部により取得した動画像データに対して第1の圧縮フォーマットによる圧縮符号化処理を実行して第1圧縮動画像データを生成し記憶部に格納する第1圧縮符号化部と、記憶部に格納された第1圧縮動画像データに基づいて第2の圧縮フォーマットによる圧縮符号化処理を実行して第2圧縮動画像データを生成し記憶部に格納する第2圧縮符号化部と、第1圧縮符号化部による圧縮符号化処理の実行中に第2圧縮符号化部による圧縮符号化処理を実行させる圧縮処理制御部とを備える。
【0008】
この場合、第1圧縮符号化部により第1の圧縮フォーマットによる第1圧縮動画像データを生成している間に、同時に第2圧縮符号化部により第2の圧縮フォーマットによる第2圧縮動画像データを生成することができ、複数の圧縮フォーマットによる圧縮動画像データを生成するための時間を短縮することができる。本発明の請求項2に係る画像データ処理装置は請求項1に記載の画像データ処理装置であって、圧縮処理制御部はシステムの負荷が小さいと判断した場合に第2圧縮符号化部による圧縮符号化処理を許可する。
【0009】
この場合、システムの負担が小さい時を選んで第2圧縮符号化部の圧縮符号化処理を実行するため、他のタスクに影響を与えることがなくなる。
本発明の請求項3に係る画像データ処理装置は請求項1または2に記載の画像データ処理装置であって、圧縮処理制御部は、記憶部に格納された第1圧縮動画像データが第2圧縮符号化処理に必要な条件を満たすと判断した場合に、第2圧縮符号化部による圧縮符号化処理を許可する。
たとえば、記憶部に格納された第1圧縮動画像データが第2圧縮符号化部による圧縮符号化処理に必要なデータ量となってから第2圧縮符号化部の処理を実行するように構成でき、第2圧縮符号化部による圧縮符号化処理が第1圧縮符号化部による圧縮符号化処理を追い越すような不都合を防止することができる。
【0010】
本発明の請求項4に係る画像データ処理装置は請求項1または2に記載の画像データ処理装置であって、第1圧縮符号化部および第2圧縮符号化部はシステムが実行するアプリケーションソフトウェアで構成されている。
この場合、ハードウェアが簡素化されるため安価な構成とすることができる反面、システムの負荷が高くなるが、前述したように、システムの負荷が小さくなる時を選択して第2圧縮符号化処理を実行するように構成することで、他のタスクへの影響を軽減することができる。
【0011】
本発明の請求項5に係る画像データ処理装置は請求項1〜3のいずれかに記載の画像データ処理装置であって、第1圧縮符号化部および第2圧縮符号化部は少なくとも一方が回路実装されるハードウェアエンコーダで構成される。
この場合、システムの負荷を軽減することが可能となり、高速な圧縮符号化を実現することができる。特に、リアルタイムで処理する必要のある第1圧縮符号化部をハードウェアエンコーダとすることで、コマ落ちなどを防止して高画質の録画を実現することができる。
【0012】
本発明の請求項6に係る画像データ処理装置は請求項1〜5のいずれかに記載の画像データ処理装置であって、第1圧縮符号化部はMPEG2フォーマットによる圧縮符号化処理を行い、第2圧縮符号化部はMPEG4フォーマットによる圧縮符号化処理を行うことを特徴とする。
この場合、第1圧縮符号化部で生成される第1圧縮動画像データをMPEG2フォーマットによる比較的高画質の動画像データとし、第2圧縮符号化部で生成される第2圧縮動画像データをMPEG4フォーマットにより圧縮率を高めてファイルサイズの小さい動画像データとすることができる。
【0013】
本発明の請求項7に係る画像データ処理方法は、入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理方法であって、入力される動画像データをデータ入力部に取得させる段階と、第1圧縮符号化部に第1の圧縮フォーマットによる圧縮符号化処理を実行させデータ入力部により取得した動画像データから第1圧縮動画像データを生成する段階と、第1圧縮符号化部で生成された第1圧縮動画像データを記憶部に格納する段階と、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったか否かを判断する段階と、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断した場合に、第2圧縮符号化部に第2の圧縮フォーマットによる圧縮符号化処理を実行させ第1圧縮動画像データから第2圧縮動画像データを生成する段階と、第2圧縮符号化部で生成された第2圧縮動画像データを記憶部に格納する段階とを含む。
【0014】
この場合、第1の圧縮フォーマットによる圧縮符号化処理を実行中に、同時に第2の圧縮フォーマットによる圧縮符号化処理を実行することが可能となり、複数の圧縮フォーマットによる圧縮動画像データを生成するための時間を短縮することができる。
本発明の請求項8に係る画像データ処理方法は請求項7に記載の画像データ処理方法であって、システムの負荷が所定値以下である場合に、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断することを特徴とする。
【0015】
この場合、システムの負荷に小さい時に第2の圧縮フォーマットによる圧縮符号化を行うことで、他のタスクの実行に影響を与えることなく、2つの圧縮フォーマットによる圧縮動画像データを生成することが可能となる。
本発明の請求項9に係るプログラムは、入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理方法をコンピュータに実行させるためのプログラムであって、入力される動画像データをデータ入力部に取得させるステップと、第1圧縮符号化部に第1の圧縮フォーマットによる圧縮符号化処理を実行させデータ入力部により取得した動画像データから第1圧縮動画像データを生成するステップと、第1圧縮符号化部で生成された第1圧縮動画像データを記憶部に格納するステップと、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったか否かを判断するステップと、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断した場合に、第2圧縮符号化部に第2の圧縮フォーマットによる圧縮符号化処理を実行させ第1圧縮動画像データから第2圧縮動画像データを生成するステップと、第2圧縮符号化部で生成された第2圧縮動画像データを記憶部に格納するステップとを含む画像データ処理方法をコンピュータに実行させるためのプログラムである。
【0016】
この場合、パーソナルコンピュータなどのデータ処理装置にこのプログラムをインストールして実行することにより、2つの圧縮フォーマットによる圧縮動画像データをほぼ同時に生成して保存できる画像データ処理装置を構成することができる。
【0017】
【発明の実施の形態】
〈概要構成〉
本発明に係る画像データ処理装置の概要構成を図1に示す。
この画像データ処理装置は入力される動画像データを圧縮動画像データに変換して記憶部に格納するものであって、データ入力部1、記憶部2、第1圧縮符号化部3、第2圧縮符号化部4、圧縮処理制御部5を備えている。
データ入力部1は、入力される動画像データを取得するものであり、入力される動画像データがTVチューナやアナログビデオ機器からのアナログ動画像データである場合には、アナログ動画像データをデジタル変換してデジタル動画像データを生成するデジタル変換部を含んでいる。
【0018】
第1圧縮符号化部3は、データ入力部1により取得した動画像データに対して第1の圧縮フォーマットによる圧縮符号化処理を実行して第1圧縮動画像データを生成し記憶部2に格納する。
第2圧縮符号化部4は、記憶部2に格納された第1圧縮動画像データに基づいて第2の圧縮フォーマットによる圧縮符号化処理を実行して第2圧縮動画像データを生成し記憶部2に格納する。
圧縮処理制御部5は、第1圧縮符号化部3による圧縮符号化処理の実行中に第2圧縮符号化部4による圧縮符号化処理を実行させる。
【0019】
この画像データ処理装置は、データ入力部1と第1圧縮符号化部3とがパーソナルコンピュータのPCIバススロットに装着されるビデオキャプチャボードに回路実装され、第2圧縮符号化部4と圧縮処理制御部5とがパーソナルコンピュータによって実行されるアプリケーションにより実現するように構成できる。この場合、記憶部2は、パーソナルコンピュータに内蔵または外付けにより接続されたハードディスクドライブとすることができる。
また、データ入力部1と第1圧縮符号化部3とを含むビデオキャプチャユニットを構成し、アプリケーションを実行することにより第2圧縮符号化部4と圧縮処理制御部5とを実現するパーソナルコンピュータとビデオキャプチャユニットとをUSBやIEEE1394などのインターフェイスで接続するように構成することも可能である。この場合も、記憶部2はパーソナルコンピュータに内蔵または外付けにより接続されるハードディスクドライブで構成することが可能である。
【0020】
〈第1実施形態〉
本発明の1実施形態が採用される画像データ処理装置について図2に示す制御ブロック図に基づいて説明する。
この実施形態では、デスクトップ型のパーソナルコンピュータ10のPCIバススロットにMPEG2エンコーダを備えたビデオキャプチャボード11を装着して構成される画像データ処理装置を想定する。パーソナルコンピュータ10には、各種データを格納するハードディスクドライブ(以下、HDDと称す)15が内蔵されており、音声データを出力するためのスピーカ13、画像データを出力するための液晶パネルやCRTなどのディスプレイ14などが接続されている。パーソナルコンピュータ10の各部はCPU、ROM、RAMなどで構成される制御部16により制御されており、ビデオキャプチャボード11の各部もこの制御部16の制御の下に機能する。
【0021】
ビデオキャプチャボード11には、アナログ動画像データを取得するデータ入力部21、データ入力部21で取得したアナログ動画像データをデジタルデータに変換するデジタル変換部22、デジタル変換部22で変換されたデジタル動画像データに対してMPEG2フォーマットの圧縮符号化処理を実行しMPEG2動画像データを生成するMPEG2エンコーダ23を備えている。
データ入力部21は、テレビジョン放送を受信するためのTVチューナ211、アナログビデオ機器からの動画像データを入力するための外部入力端子212、入力された動画像データをオーディオ信号とビデオ信号に切り換えてデジタル変換部22に入力する入力切換器(図示せず)などを備えている。このようにデータ入力部21にTVチューナ211を実装している場合には、テレビジョン放送を受信するためにアンテナ12が接続される。外部入力端子212にビデオ入力用ケーブルおよびオーディオケーブルを接続することで、外付けのTVチューナからのアナログ動画像データを入力することが可能であり、この場合にはTVチューナ211およびアンテナ12の構成を省略することができる。
【0022】
デジタル変換部22は、データ入力部21から送出されるオーディオ信号をデジタル音声データに変換するオーディオADコンバータ、データ入力部21から送出されるビデオ信号をデジタルビデオ信号に変換するデジタル映像変換部などを備えている。オーディオADコンバータは、データ入力部21から入力されたオーディオ信号をA/D変換して、デジタルオーディオ信号をMPEG2エンコーダ23に出力する。また、デジタル映像変換部は、YC分離回路やNTSCデコーダなどの映像処理回路を介してアナログビデオ信号をデジタルビデオ信号に変換しMPEG2エンコーダ23に出力する。
【0023】
MPEG2エンコーダ23は、デジタル変換部22から出力されるデジタルオーディオ信号をMPEG2フォーマットで圧縮符号化して音声のエレメンタリストリームを生成するMPEG2オーディオエンコーダと、デジタル変換部22から出力されるデジタルビデオ信号をMPEG2フォーマットで圧縮符号化して画像のエレメンタリストリームを生成するMPEG2ビデオエンコーダと、MPEG2オーディオエンコーダおよびMPEG2ビデオエンコーダからの出力を多重化するMPEG2マルチプレクサなどを備えている。MPEG2マルチプレクサは、MPEG2オーディオエンコーダから出力される音声のエレメンタリストリーム、MPEG2ビデオエンコーダから出力される画像のエレメンタリストリームおよび各種の制御信号を多重化して、MPEG2フォーマットのプログラムストリーム(以下、MPEG2デジタルデータと称す)を生成する。
【0024】
パーソナルコンピュータ10内には、各種データを格納するHDD15、各部の制御を行う制御部16、HDD15内に格納されているMPEGデジタルデータに対して伸縮復号化処理を行うMPEGデコーダ24、MPEGデコーダ24から出力されるデジタル音声データをD/A変換してアナログ音声データをスピーカ13に出力するDAC(Digital to Analog Converter)25、MPEGデコーダ24から出力されるデジタル画像データをディスプレイ14の画素数に応じて表示可能な画像データに変換するグラフィックコントローラ26、HDD15内に格納されているMPEG2デジタルデータに基づいてMPEG4フォーマットによる圧縮符号化処理を行うMPEG4エンコーダ27などを備えている。
【0025】
HDD15は、ビデオキャプチャボード11のMPEG2エンコーダ23から出力されるMPEG2デジタルデータおよびMPEG4エンコーダ27から出力されるMPEG4デジタルデータを格納する。
MPEG4エンコーダ27は、HDD15内に格納されているMPEG2デジタルデータをMPEG2音声データとMPEG2画像データとに分離するMPEG2デマルチプレクサ、MPEG2デマルチプレクサから出力されるMPEG2音声データに基づいてMPEG4フォーマットの圧縮符号化を行い音声のエレメンタリストリームを出力するMPEG4オーディオエンコーダ、MPEG2デマルチプレクサから出力されるMPEG2画像データに基づいてMPEG4フォーマットの圧縮符号化を行い画像のエレメンタリストリームを出力するMPEG4ビデオエンコーダ、MPEG4オーディオエンコーダおよびMPEG4ビデオエンコーダからの出力を多重化するMPEG4マルチプレクサなどを備えている。MPEG4マルチプレクサは、MPEG4オーディオエンコーダから出力される音声のエレメンタリストリーム、MPEG4ビデオエンコーダから出力される画像のエレメンタリストリームおよび各種の制御信号を多重化して、MPEG4フォーマットのプログラムストリーム(以下、MPEG4デジタルデータと称す)を生成する。このMPEG4エンコーダ24は、パーソナルコンピュータ10にインストールされたアプリケーションにより実現されるソフトウェアエンコーダで構成される。
【0026】
MPEGデコーダ24は、HDD15内に格納されたMPEGデータを復号化するものであり、ここではMPEG2フォーマットで圧縮符号化されたMPEG2デジタルデータおよびMPEG4フォーマットで圧縮符号化されたMPEG4デジタルデータのいずれにも対応するように構成されたものを用いる。MPEGデコーダ24は、HDD15内に格納されているMPEGデジタルデータをMPEG音声データとMPEG2画像データとに分離するMPEG2デマルチプレクサ、MPEGデマルチプレクサからのMPEG音声データを伸張復号化してデジタル音声データを出力するMPEGオーディオデコーダ、MPEGデマルチプレクサからのMPEG画像データを伸張復号化してデジタル動画像データを出力するMPEGビデオデコーダを含んでいる。このMPEGデコーダ24についても、パーソナルコンピュータ10上で実行されるアプリケーションによるソフトウェアデコーダで構成できる。
【0027】
DAC25は、MPEGデコーダ24から出力されるデジタル音声データをD/A変換してアナログ音声信号をスピーカ13に出力する。
グラフィックコントローラ26は、MPEGデコーダ24から出力されるデジタル動画像データをディスプレイ14の画素数に応じて表示可能なデータ変換を行うものであり、グラフィックコントローラ14は、色空間変換機能、IP(Interlace to Progressive)変換、色補正機能、同期検出機能などを有している。このグラフィックコントローラ14で生成された表示データは液晶表示パネル(LCD)やCRTディスプレイなどで構成されるディスプレイ14に表示される。
【0028】
制御部16では、データ入力部21において取得したアナログ動画像データをMPEG2エンコーダ23においてMPEG2フォーマットの圧縮符号化されたMPEG2デジタルデータに変換させHDD15内に格納するとともに、HDD15内に格納されたMPEG2デジタルデータに基づいてMPEG4エンコーダ27によるMPEG4フォーマットの圧縮符号化処理を実行させて、生成されたMPEG4デジタルデータをHDD15内に格納する。このとき、制御部16は、MPEG4エンコーダ27による圧縮符号化処理がMPEG2エンコーダ23による圧縮符号化処理を追い越すことがないように、HDD15内に蓄積されたMPEG2デジタルデータがMPEG4デジタルデータへの変換に必要なデータ量であるか否かを監視しながら処理を行う。
【0029】
制御部16による主要な動作を図3および図4のフローチャートに基づいて説明する。
パーソナルコンピュータ10に搭載された動画像録画・再生用のアプリケーションがスタートすると、ステップS11において各種パラメータを初期化するなどの初期設定処理を実行する。
ステップS12では、録画指示を受け付けたか否かを判別する。動画像録画・再生用のアプリケーションを介してユーザからの録画指示を受け付けた場合にはステップS13に移行する。
【0030】
ステップS13では、録画設定画面をディスプレイ14上に表示し、ユーザからの録画予約やその他録画開始を行う際の各種設定を受け付ける。このとき、データ入力部21を介して取得したアナログ動画像データをMPEG2デジタルデータに変換してHDD15に格納するとともに、同時に同じ動画像データをMPEG4デジタルデータに変換してHDD15に格納するか否かをユーザに選択させる。録画設定が終了した場合にはステップS14に移行する。
ステップS14では、録画開始を行うか否かを判別する。ユーザから録画開始の指示があった場合や録画予約による録画開始時間になったと判断した場合には、ステップS15に移行する。
【0031】
ステップS15では、録画処理を開始する。ここでは、データ入力部21で取得したアナログ動画像データに基づいてMPEG2デジタルデータを生成してHDD15に格納し、設定に応じてMPEG4デジタルデータを生成してHDD15に格納する。
ステップS16では、再生開始を行うか否かを判別する。ユーザから再生開始の指示があった場合やタイマー設定による再生開始の時間となった場合には、ステップS17に移行する。
【0032】
ステップS17では、HDD15内に格納されているMPEG2デジタルデータまたはMPEG4デジタルデータを読み出して、MPEGデコーダにより復号化処理を行い、スピーカ13およびディスプレイ14を介して出力する。
ステップS18では、他の処理を実行しステップS11に移行する。
ステップS15における録画処理について図4のフローチャートに基づいて説明する。
ステップS21では、入力されるアナログ動画像データの取得を開始する。ここでは、TVチューナ211で受信したテレビジョン画像信号または外部入力端子から入力されるアナログビデオ信号を受信し、これをデジタル変換部22に入力する。
【0033】
ステップS22では、デジタル変換部22においてデータ入力部21から入力されたアナログ動画像データのA/D変換処理を開始する。前述したように、デジタル変換部22では、データ入力部21から送出されるオーディオ信号をデジタル音声データに変換し、データ入力部21から送出されるビデオ信号をデジタルビデオデータに変換し、それぞれメモリへの蓄積を行う。
ステップS23では、MPEG2エンコーダ23における圧縮符号化処理に必要なデジタルデータがメモリ内に蓄積されたか否かを判別する。メモリ内に蓄積されたデジタルデータが存在すると判断した場合にはステップS24に移行し、そうでない場合にはこのステップS23をループする。
【0034】
ステップS24では、メモリ内に蓄積されたデジタル音声データとデジタルビデオデータに基づいて、MPEG2エンコーダ23における圧縮符号化処理を実行する。前述したように、デジタル音声データとデジタルビデオデータとは並行して圧縮符号化処理が実行され、音声のエレメンタリストリームと画像のエレメンタリストリームが多重化されたMPEG2デジタルデータとして出力される。
ステップS25では、MPEG2エンコーダ23から出力されるMPEG2デジタルデータをHDD15内に格納する。
【0035】
ステップS26では、MPEG4フォーマットの圧縮符号化処理が選択されているか否かを判別する。録画設定時(図3ステップS13)においてユーザからMPEG4フォーマットの圧縮符号化処理が指示されている場合やデフォルトでMPEG4フォーマットの圧縮符号化処理が設定されている場合にはステップS27に移行し、そうでない場合にはステップS31に移行する。
ステップS27では、HDD15内に格納されているMPEG2デジタルデータがMPEG4フォーマットの圧縮符号化処理に必要なデータ量となったか否かを判別する。HDD15内に格納されているMPEG2デジタルデータのデータ量が、たとえば、MPEG4フォーマットへの変換に必要なフレーム数を超えていると判断した場合にはステップS28に移行し、そうでないと判断した場合にはステップS31に移行する。
【0036】
ステップS28では、HDD15内に格納されているMPEG2デジタルデータをメモリに読み出す。
ステップS29では、HDD15から読み出したMPEG2デジタルデータに基づいてMPEG4フォーマットの圧縮符号化処理を実行する。MPEG4エンコーダ27では、前述したように、HDD15内に格納されているMPEG2デジタルデータをMPEG2音声データとMPEG2画像データとに分離し、MPEG2音声データおよびMPEG2画像データのそれぞれに基づいてMPEG4フォーマットの圧縮符号化を行い音声のエレメンタリストリームおよび画像のエレメンタリストリームを生成し、これらを多重化してMPEG4デジタルデータを出力する。
【0037】
ステップS30では、MPEG4エンコーダ27から出力されるMPEG4デジタルデータをHDD15に格納する。
ステップS31では、録画処理の終了条件になったか否かを判別する。たとえば、録画予約によるの終了時刻になった場合やユーザからの終了指示があった場合には終了条件を満たすと判断してステップS32に移行し、そうでない場合にはステップS23に移行する。
ステップS32では、録画処理の終了時における所定の処理を実行する。たとえば、HDD15内に残っているMPEG2デジタルデータがMPEG4フォーマットへの変換に必要なフレーム数に満たない場合でもあっても、補間を行うなどして最後までMPEG4フォーマットの圧縮符号化されたデジタルデータを作成しHDD15内に格納する。その後、メインルーチンに復帰する。
【0038】
このようにした本発明の実施形態では、高画質ではあるがファイルサイズが大きくなるMPEG2フォーマットのデジタル動画像データをハードウェアエンコーダで高速に変換処理を行ってHDD15内に格納し、これと並行してHDD15内に格納されたMPEG2デジタルデータを用いてファイルサイズの小さいMPEG4フォーマットのデジタル動画像データをソフトウェアエンコーダにより生成しHDD15内に格納している。このことにより、MPEG2フォーマットのデジタル動画像データによる録画処理の後、MPEG4フォーマットのデジタル動画像データへの変換処理を行う場合に比して、各段に時間短縮することができる。
【0039】
ユーザは、HDD15内に格納されているMPEG2フォーマットによるデジタル動画像データとMPEG4フォーマットによるデジタル動画像データとのうち、画質を優先する場合にはMPEG2デジタルデータを残すようにし、HDD15の容量を優先する場合にはMPEG4デジタルデータを残すように選択することができる。
〈第2実施形態〉
図1におけるブロック図において、第1圧縮符号化部3および第2圧縮符号化部4をパーソナルコンピュータにインストールされたアプリケーションソフトウェアにより構成することが可能であり、これを第2実施形態として以下に説明する。
【0040】
この第2実施形態において、第1圧縮符号化部3、第2圧縮符号化部4および圧縮処理制御部5は、パーソナルコンピュータなどの情報処理装置と所定のプログラムにより構成されるものとする。
第1実施形態と同様にして、データ入力部1を介して入力される動画像データを、第1圧縮符号化部3によって第1の圧縮フォーマットによる圧縮符号化し、生成される第1圧縮動画像データを記憶部2に格納する。
また、第1圧縮符号化部3の圧縮符号化処理と並行して、第2圧縮符号化部4による圧縮符号化処理を実行し第2圧縮動画像データを生成して記憶部2に格納する。
【0041】
圧縮処理制御部5は、システムの負荷を監視し、一定の負荷以下であると判断した場合に、第2圧縮符号化部4による圧縮符号化処理を実行させる。圧縮処理制御部5は、たとえば、CPUの現在の負荷率をレポートするOSの機能を利用して、システムの現在の負荷が高いか低いかの判断を行うように構成できる。OSにこのような機能が備わっていない場合であっても、CPUの現在の負荷を取得する方法が種々提案されており、ここではその詳細を省略することとする。
このような第2実施形態における動作を図5および図6のフローチャートに基づいて説明する。図5のフローチャートでは第1圧縮符号化部3の処理とその制御に関する第1圧縮プロセスの動作を示し、図6のフローチャートでは第2圧縮符号化部4とその制御に関する第2圧縮プロセスの動作を示す。
【0042】
第1圧縮プロセスを開始すると、ステップS41において各種パラメータを初期化するなどの初期設定を行う。
ステップS42では、第2圧縮プロセスを起動する。ここでは、第2の圧縮フォーマットによる圧縮符号化を行うためのアプリケーションを起動する。
ステップS43では、動画像データの入力を行う。ここでは、データ入力部1を介して入力される動画像データをバッファなどに蓄積する。
ステップS44では、第1圧縮符号化部3による圧縮符号化処理を実行する。第1圧縮符号化部3における圧縮符号化処理は、前述したように、MPEG2フォーマットとすることができ、これ以外にも各種デジタル圧縮フォーマットとすることができる。
【0043】
ステップS45では、第1圧縮符号化部3で生成された第1圧縮動画像データを記憶部2に格納する。
ステップS46では、終了条件を満たすか否かを判別する。録画予約の設定がされておりその終了時刻となった場合、ユーザにより終了指示があった場合などに、終了条件を満たすと判断してステップS47に移行し、そうでない場合にはステップS43に移行する。
ステップS47では、第2圧縮プロセスを終了させるとともに、必要に応じて各種パラメータを所定領域に保存して、第1圧縮プロセスを終了する。
【0044】
第2圧縮プロセスでは、図6に示すような動作を第1圧縮プロセスと並行して実行する。
ステップS51では、システムの現在の負荷が小さいか否かを判別する。前述したように、圧縮処理制御部5は、OSなどから現在のCPUの負荷率(稼働率)を取得してシステムの負荷の高低を判別する。たとえば、CPUの負荷率が70%になるように各処理要求の優先度を決定することとし、第2圧縮プロセスを実行してもCPUの負荷率が70%以下であると予想される場合には、システムの現在の負荷が小さいと判断してステップS52に移行し、そうでない場合にはこのステップS51をループする。
【0045】
ステップS52では、記憶部(HDD)2内に格納されている第1圧縮動画像データを読み出す。
ステップS53では、記憶部2内に格納されている第1圧縮動画像データが第2圧縮符号化処理に必要なデータ量であるか否かを判別する。記憶部2内に格納されている第1圧縮動画像データが第2圧縮符号化処理に必要なデータ量であると判断した場合にはステップS54に移行し、そうでない場合にはステップS51に移行する。
【0046】
ステップS54では、記憶部2から読み出した第1圧縮動画像データを伸張復号化する。
ステップS55では、第2圧縮符号化部4において第2の圧縮フォーマットによる圧縮符号化処理を実行する。この場合も、前述したように、第2の圧縮フォーマットをMPEG4フォーマットとすることができ、これ以外に他のデジタル圧縮フォーマットを利用することが可能である。
ステップS56では、第2圧縮符号化部4において圧縮符号化して生成された第2圧縮動画像データを記憶部2に格納する。
【0047】
第1圧縮符号化部3と第2圧縮符号化部4とをアプリケーションソフトウェアで構成した場合にCPUの負担率が高くなることが想定されるが、本発明のように、CPUの負荷率を監視してシステムの負荷が小さい時に第2圧縮プロセスを実行しているため、他のタスクを実行する際の障害となることがない。また、前述と同様に、2つの圧縮フォーマットによる圧縮動画像データをほぼ同時に生成することが可能であり、時間を短縮することが可能であるとともに、実装回路を簡素化してコストダウンを図ることができる。
【0048】
<他の実施形態>
A)データ入力部は、デジタルビデオカメラやDVDなどのデジタル動画像データが入力される構成とすることも可能である。
B)圧縮符号化処理は、MPEG2、MPEG4に限定されるものではなく、DVやその他の圧縮フォーマットを想定することが可能である。
C)USB、IEEE1394、その他のインターフェイスによりパーソナルコンピュータと接続可能なビデオキャプチャユニットに、データ入力部、第1圧縮符号化部を設ける構成とすることができる。また、デスクトップ型パソコンの5インチベイに装着可能なビデオキャプチャボードとすることもできる。
D)ノート型パソコンのカードバススロットに装着可能なビデオキャプチャカードに、データ入力部、第1圧縮符号化部を設ける構成とすることもできる。
【0049】
【発明の効果】
本発明では、第1圧縮符号化部により第1の圧縮フォーマットによる第1圧縮動画像データを生成している間に、同時に第2圧縮符号化部により第2の圧縮フォーマットによる第2圧縮動画像データを生成することができ、複数の圧縮フォーマットによる圧縮動画像データを生成するための時間を短縮することができる。また、録画された2つの圧縮フォーマットのうち、画質を優先するかあるいは記憶部の容量を優先するかで、いずれのデータを残すかの選択が可能となる。
【図面の簡単な説明】
【図1】本発明の概略構成を示すブロック図。
【図2】第1実施形態が採用される画像データ処理装置の機能ブロック図。
【図3】その制御フローチャート。
【図4】録画処理の制御フローチャート。
【図5】第2実施形態の制御フローチャート。
【図6】第2実施形態の制御フローチャート。
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image data processing apparatus for recording input moving image data with a reduced size according to a predetermined compression format.
[0002]
[Prior art]
A program broadcast by television broadcasting and a video image from an analog video device can be converted into digital moving image data and recorded by using a data processing device called video capture. Video capture is provided in the form of a video capture board that can be installed in a PCI (Peripheral Components Interconnect bus) slot for desktop computers, and video that can be installed in a card bus slot for notebook computers. Provided in the form of a capture card. An external video capture unit having a communication interface generally used for computer peripheral devices such as USB (Universal Serial Bus) and IEEE1394 can be connected to various computers.
[0003]
Video data digitized by such a video capture device is usually recorded in a storage device such as a hard disk (HDD) after being compressed by a compression format such as DV (Digital Video) or MPEG (Moving Picture Experts Group). Is done. In the case of data compression by MPEG, MPEG2 that can obtain the reproduction quality equivalent to that of a high-definition television is often adopted, and there are also those in which a hardware encoder is mounted on the above-described video capture card or video capture unit.
[0004]
[Problems to be solved by the invention]
In the video capture device as described above, when moving image data converted in a compression format such as DV or MPEG2 is stored in a hard disk built in or externally connected to a personal computer, the amount of data to be recorded is equal to the capacity of the hard disk. Limited based on. For this reason, moving image data that does not require high image quality can be recorded in a large amount of data by compressing the data using a compression format with a higher compression rate such as MPEG4 and storing it in the hard disk. Become. In this case, the moving image data input to the video capture device is temporarily compressed and converted by the MPEG2 encoder and stored in the hard disk, and the MPEG2 data stored in the hard disk is read by the software encoder and data in the MPEG4 compression format is read. Conversion will be performed. After the converted moving image data in the MPEG4 format is stored in the hard disk, the moving image data in the MPEG2 format is deleted, whereby the capacity of the hard disk can be used effectively.
[0005]
However, it takes a lot of time to convert MPEG2 format moving image data to MPEG4 format moving image data, and the conversion software takes a lot of CPU load. There is a problem that execution is restricted.
Although it is conceivable that hardware encoders with different compression formats are mounted on the video capture device and moving image data compressed with two or more types of compression formats is generated at the same time and stored in the hard disk, the circuit configuration becomes complicated. There is a problem that it costs a lot.
[0006]
The present invention is capable of compressing and storing input moving image data in different compression formats, moving image data in a high-quality compression format with a simple and inexpensive configuration, and moving image data in a compression format with a small data size. An object of the present invention is to provide an image data processing apparatus capable of simultaneously generating image data.
[0007]
[Means for Solving the Problems]
An image data processing apparatus according to claim 1 of the present invention is an image data processing apparatus that converts input moving image data into compressed moving image data and stores the compressed moving image data in a storage unit, and acquires the input moving image data And a first compressed code for generating the first compressed moving image data by executing the compression encoding process in the first compression format for the moving image data acquired by the data input unit and storing the first compressed moving image data in the storage unit And a second compression for generating a second compressed moving image data by executing a compression encoding process in a second compression format based on the first compressed moving image data stored in the storage unit and storing the second compressed moving image data in the storage unit An encoding unit; and a compression processing control unit configured to execute the compression encoding process by the second compression encoding unit during the execution of the compression encoding process by the first compression encoding unit.
[0008]
In this case, while the first compression moving image data is generated in the first compression format by the first compression encoding unit, the second compression moving image data in the second compression format is simultaneously generated by the second compression encoding unit. Can be generated, and the time for generating compressed video data in a plurality of compression formats can be reduced. An image data processing apparatus according to a second aspect of the present invention is the image data processing apparatus according to the first aspect, wherein the compression processing control unit performs compression by the second compression encoding unit when the system load is determined to be small. Allow the encoding process.
[0009]
In this case, since the compression coding process of the second compression coding unit is executed by selecting a time when the system load is small, other tasks are not affected.
An image data processing apparatus according to a third aspect of the present invention is the image data processing apparatus according to the first or second aspect, wherein the compression processing control unit is configured such that the first compressed moving image data stored in the storage unit is a second one. When it is determined that the condition necessary for the compression encoding process is satisfied, the compression encoding process by the second compression encoding unit is permitted.
For example, the first compression moving image data stored in the storage unit can be configured to execute the process of the second compression encoding unit after the amount of data necessary for the compression encoding process by the second compression encoding unit is reached. In addition, it is possible to prevent such a disadvantage that the compression coding process by the second compression coding unit overtakes the compression coding process by the first compression coding unit.
[0010]
An image data processing apparatus according to a fourth aspect of the present invention is the image data processing apparatus according to the first or second aspect, wherein the first compression encoding unit and the second compression encoding unit are application software executed by the system. It is configured.
In this case, since the hardware is simplified, an inexpensive configuration can be achieved, but the load on the system increases. However, as described above, the second compression encoding is performed by selecting the time when the load on the system is reduced. By configuring so as to execute processing, it is possible to reduce the influence on other tasks.
[0011]
An image data processing device according to claim 5 of the present invention is the image data processing device according to any one of claims 1 to 3, wherein at least one of the first compression coding unit and the second compression coding unit is a circuit. Consists of implemented hardware encoders.
In this case, the system load can be reduced, and high-speed compression encoding can be realized. In particular, by using a hardware encoder as the first compression encoding unit that needs to be processed in real time, it is possible to realize high-quality recording while preventing frame dropping and the like.
[0012]
An image data processing apparatus according to a sixth aspect of the present invention is the image data processing apparatus according to any one of the first to fifth aspects, wherein the first compression encoding unit performs a compression encoding process in the MPEG2 format, The second compression encoding unit performs compression encoding processing in the MPEG4 format.
In this case, the first compressed moving image data generated by the first compression encoding unit is used as relatively high-quality moving image data in the MPEG2 format, and the second compressed moving image data generated by the second compression encoding unit is With the MPEG4 format, the compression rate can be increased to obtain moving image data with a small file size.
[0013]
An image data processing method according to claim 7 of the present invention is an image data processing method for converting input moving image data into compressed moving image data and storing the converted moving image data in a storage unit. A step of causing the input unit to acquire, a step of causing the first compression encoding unit to execute a compression encoding process in a first compression format, and generating first compressed moving image data from the moving image data acquired by the data input unit; A step of storing the first compressed moving image data generated by the first compression encoding unit in the storage unit, and determining whether or not a condition necessary for executing the compression encoding by the second compression format has been met. When it is determined that the conditions necessary for executing the compression encoding according to the stage and the second compression format are satisfied, the second compression encoding unit is subjected to the compression encoding processing according to the second compression format. Comprising the steps of generating a second compressed video data from the first compressed video data is row, and a step of storing the second compressed moving image data generated by the second compression encoding unit in the storage unit.
[0014]
In this case, it is possible to simultaneously execute the compression encoding process according to the second compression format while executing the compression encoding process according to the first compression format, and generate compressed moving image data according to a plurality of compression formats. Can be shortened.
An image data processing method according to an eighth aspect of the present invention is the image data processing method according to the seventh aspect, wherein when the system load is equal to or less than a predetermined value, the compression encoding by the second compression format is executed. It is characterized in that it is determined that the conditions necessary to do so.
[0015]
In this case, by performing compression encoding with the second compression format when the load on the system is small, it is possible to generate compressed moving image data with two compression formats without affecting the execution of other tasks. It becomes.
A program according to claim 9 of the present invention is a program for causing a computer to execute an image data processing method of converting input moving image data into compressed moving image data and storing the compressed moving image data in a storage unit. A step of causing the data input unit to acquire moving image data; and a step of executing a compression encoding process in the first compression format in the first compression encoding unit to obtain the first compressed moving image data from the moving image data acquired by the data input unit. A step for generating, a step for storing the first compressed moving image data generated by the first compression encoding unit in the storage unit, and a condition necessary for executing the compression encoding by the second compression format. A step of determining whether or not a second compression code is determined when it is determined that a condition necessary for executing compression encoding by the second compression format has been satisfied. Generating a second compressed moving image data from the first compressed moving image data by causing the unit to execute a compression encoding process in the second compression format, and a second compressed moving image data generated by the second compression encoding unit Is a program for causing a computer to execute an image data processing method including a step of storing the image data in a storage unit.
[0016]
In this case, by installing and executing this program in a data processing apparatus such as a personal computer, an image data processing apparatus capable of generating and storing compressed moving image data in two compression formats almost simultaneously can be configured.
[0017]
DETAILED DESCRIPTION OF THE INVENTION
<Overview configuration>
A schematic configuration of an image data processing apparatus according to the present invention is shown in FIG.
This image data processing apparatus converts input moving image data into compressed moving image data and stores it in a storage unit. The data input unit 1, the storage unit 2, the first compression encoding unit 3, the second A compression encoding unit 4 and a compression processing control unit 5 are provided.
The data input unit 1 acquires input moving image data. When the input moving image data is analog moving image data from a TV tuner or an analog video device, the analog moving image data is converted into digital data. It includes a digital conversion unit that converts and generates digital moving image data.
[0018]
The first compression encoding unit 3 performs compression encoding processing on the moving image data acquired by the data input unit 1 using the first compression format to generate first compressed moving image data and stores it in the storage unit 2. To do.
The second compression encoding unit 4 executes the compression encoding process in the second compression format based on the first compression moving image data stored in the storage unit 2 to generate the second compression moving image data, and the storage unit 2 is stored.
The compression process control unit 5 causes the second compression encoding unit 4 to execute the compression encoding process during the execution of the compression encoding process by the first compression encoding unit 3.
[0019]
In this image data processing apparatus, a data input unit 1 and a first compression encoding unit 3 are mounted on a video capture board mounted in a PCI bus slot of a personal computer, and a second compression encoding unit 4 and compression processing control are implemented. The unit 5 can be configured to be realized by an application executed by a personal computer. In this case, the storage unit 2 can be a hard disk drive that is built in or externally connected to the personal computer.
A personal computer that constitutes a video capture unit including the data input unit 1 and the first compression encoding unit 3 and that implements the second compression encoding unit 4 and the compression processing control unit 5 by executing an application; It is also possible to connect the video capture unit with an interface such as USB or IEEE1394. Also in this case, the storage unit 2 can be constituted by a hard disk drive connected to the personal computer by being built in or externally attached.
[0020]
<First Embodiment>
An image data processing apparatus in which one embodiment of the present invention is adopted will be described based on a control block diagram shown in FIG.
In this embodiment, an image data processing apparatus configured by mounting a video capture board 11 having an MPEG2 encoder in a PCI bus slot of a desktop personal computer 10 is assumed. The personal computer 10 has a built-in hard disk drive (hereinafter referred to as HDD) 15 for storing various data, such as a speaker 13 for outputting audio data, a liquid crystal panel for outputting image data, a CRT, and the like. A display 14 or the like is connected. Each unit of the personal computer 10 is controlled by a control unit 16 including a CPU, a ROM, a RAM, and the like, and each unit of the video capture board 11 also functions under the control of the control unit 16.
[0021]
The video capture board 11 includes a data input unit 21 that acquires analog moving image data, a digital conversion unit 22 that converts analog moving image data acquired by the data input unit 21 into digital data, and a digital signal converted by the digital conversion unit 22. An MPEG2 encoder 23 is provided for executing MPEG2 format compression encoding processing on moving image data to generate MPEG2 moving image data.
The data input unit 21 is a TV tuner 211 for receiving a television broadcast, an external input terminal 212 for inputting moving image data from an analog video device, and switching the input moving image data between an audio signal and a video signal. And an input switch (not shown) for inputting to the digital converter 22. As described above, when the TV tuner 211 is mounted on the data input unit 21, the antenna 12 is connected to receive a television broadcast. Analog video data from an external TV tuner can be input by connecting a video input cable and an audio cable to the external input terminal 212. In this case, the configuration of the TV tuner 211 and the antenna 12 Can be omitted.
[0022]
The digital conversion unit 22 includes an audio AD converter that converts an audio signal transmitted from the data input unit 21 into digital audio data, a digital video conversion unit that converts a video signal transmitted from the data input unit 21 into a digital video signal, and the like. I have. The audio AD converter performs A / D conversion on the audio signal input from the data input unit 21 and outputs a digital audio signal to the MPEG2 encoder 23. The digital video conversion unit converts an analog video signal into a digital video signal via a video processing circuit such as a YC separation circuit or an NTSC decoder, and outputs the digital video signal to the MPEG2 encoder 23.
[0023]
The MPEG2 encoder 23 compresses and encodes the digital audio signal output from the digital conversion unit 22 in the MPEG2 format to generate an audio elementary stream, and the digital video signal output from the digital conversion unit 22 is converted into MPEG2. An MPEG2 video encoder that generates an elementary stream of an image by compression-encoding in a format, an MPEG2 audio encoder, an MPEG2 multiplexer that multiplexes outputs from the MPEG2 video encoder, and the like are provided. The MPEG2 multiplexer multiplexes the audio elementary stream output from the MPEG2 audio encoder, the image elementary stream output from the MPEG2 video encoder, and various control signals to generate an MPEG2 format program stream (hereinafter referred to as MPEG2 digital data). Is generated).
[0024]
The personal computer 10 includes an HDD 15 that stores various data, a control unit 16 that controls each unit, an MPEG decoder 24 that performs extension / decoding processing on MPEG digital data stored in the HDD 15, and an MPEG decoder 24. A digital to analog converter (DAC) 25 that D / A converts the output digital audio data and outputs the analog audio data to the speaker 13, and the digital image data output from the MPEG decoder 24 according to the number of pixels of the display 14. A graphic controller 26 that converts the image data into displayable image data, an MPEG4 encoder 27 that performs compression encoding processing in the MPEG4 format based on MPEG2 digital data stored in the HDD 15, and the like are provided.
[0025]
The HDD 15 stores MPEG2 digital data output from the MPEG2 encoder 23 of the video capture board 11 and MPEG4 digital data output from the MPEG4 encoder 27.
The MPEG4 encoder 27 is an MPEG2 demultiplexer that separates MPEG2 digital data stored in the HDD 15 into MPEG2 audio data and MPEG2 image data, and MPEG4 format compression encoding based on the MPEG2 audio data output from the MPEG2 demultiplexer. MPEG4 audio encoder that outputs an audio elementary stream and MPEG4 video encoder and MPEG4 audio encoder that compresses and encodes MPEG4 format based on MPEG2 image data output from an MPEG2 demultiplexer and outputs an image elementary stream And an MPEG4 multiplexer for multiplexing outputs from the MPEG4 video encoder. The MPEG4 multiplexer multiplexes the audio elementary stream output from the MPEG4 audio encoder, the image elementary stream output from the MPEG4 video encoder, and various control signals, to generate an MPEG4 format program stream (hereinafter referred to as MPEG4 digital data). Is generated). The MPEG4 encoder 24 is configured by a software encoder realized by an application installed in the personal computer 10.
[0026]
The MPEG decoder 24 decodes MPEG data stored in the HDD 15, and here, both MPEG2 digital data compressed and encoded in the MPEG2 format and MPEG4 digital data compressed and encoded in the MPEG4 format are used. The one configured to correspond is used. The MPEG decoder 24 decodes MPEG digital data stored in the HDD 15 into MPEG audio data and MPEG2 image data, and decompresses and decodes the MPEG audio data from the MPEG demultiplexer and outputs the digital audio data. An MPEG audio decoder and an MPEG video decoder for outputting digital moving image data by decompressing and decoding MPEG image data from the MPEG demultiplexer are included. The MPEG decoder 24 can also be configured by a software decoder by an application executed on the personal computer 10.
[0027]
The DAC 25 D / A converts the digital audio data output from the MPEG decoder 24 and outputs an analog audio signal to the speaker 13.
The graphic controller 26 performs data conversion capable of displaying the digital moving image data output from the MPEG decoder 24 in accordance with the number of pixels of the display 14. The graphic controller 14 has a color space conversion function, IP (Interlace to Interchange). (Progressive) conversion, color correction function, synchronization detection function, and the like. Display data generated by the graphic controller 14 is displayed on a display 14 including a liquid crystal display panel (LCD), a CRT display, or the like.
[0028]
In the control unit 16, the analog moving image data acquired in the data input unit 21 is converted into MPEG2 digital data that has been compression-encoded in the MPEG2 format by the MPEG2 encoder 23, stored in the HDD 15, and MPEG2 digital stored in the HDD 15. Based on the data, the MPEG4 encoder 27 performs a compression encoding process in the MPEG4 format, and the generated MPEG4 digital data is stored in the HDD 15. At this time, the control unit 16 converts the MPEG2 digital data stored in the HDD 15 into MPEG4 digital data so that the compression encoding process by the MPEG4 encoder 27 does not overtake the compression encoding process by the MPEG2 encoder 23. Processing is performed while monitoring whether the amount of data is necessary.
[0029]
Main operations performed by the control unit 16 will be described with reference to the flowcharts of FIGS. 3 and 4.
When a moving image recording / playback application installed in the personal computer 10 is started, initial setting processing such as initialization of various parameters is executed in step S11.
In step S12, it is determined whether a recording instruction has been accepted. If a recording instruction is received from the user via the moving image recording / playback application, the process proceeds to step S13.
[0030]
In step S13, a recording setting screen is displayed on the display 14, and various settings for recording reservation and other recording start from the user are accepted. At this time, whether the analog moving image data acquired via the data input unit 21 is converted into MPEG2 digital data and stored in the HDD 15, and at the same time whether the same moving image data is converted into MPEG4 digital data and stored in the HDD 15. Let the user select When the recording setting is completed, the process proceeds to step S14.
In step S14, it is determined whether or not to start recording. If there is an instruction to start recording from the user or if it is determined that the recording start time has come due to recording reservation, the process proceeds to step S15.
[0031]
In step S15, the recording process is started. Here, MPEG2 digital data is generated and stored in the HDD 15 based on the analog moving image data acquired by the data input unit 21, and MPEG4 digital data is generated and stored in the HDD 15 according to the setting.
In step S16, it is determined whether or not to start reproduction. If the user gives an instruction to start playback or if it is time to start playback due to timer settings, the process proceeds to step S17.
[0032]
In step S17, MPEG2 digital data or MPEG4 digital data stored in the HDD 15 is read out, decoded by an MPEG decoder, and output through the speaker 13 and the display 14.
In step S18, another process is executed and the process proceeds to step S11.
The recording process in step S15 will be described based on the flowchart of FIG.
In step S21, acquisition of input analog moving image data is started. Here, a television image signal received by the TV tuner 211 or an analog video signal input from an external input terminal is received and input to the digital conversion unit 22.
[0033]
In step S22, A / D conversion processing of analog moving image data input from the data input unit 21 in the digital conversion unit 22 is started. As described above, the digital conversion unit 22 converts the audio signal transmitted from the data input unit 21 into digital audio data, converts the video signal transmitted from the data input unit 21 into digital video data, and stores them in the memory. Accumulate.
In step S23, it is determined whether or not digital data necessary for compression encoding processing in the MPEG2 encoder 23 has been stored in the memory. If it is determined that there is digital data stored in the memory, the process proceeds to step S24. If not, this step S23 is looped.
[0034]
In step S24, compression encoding processing in the MPEG2 encoder 23 is executed based on the digital audio data and digital video data stored in the memory. As described above, the digital audio data and the digital video data are compressed and encoded in parallel, and output as MPEG2 digital data in which the audio elementary stream and the image elementary stream are multiplexed.
In step S25, the MPEG2 digital data output from the MPEG2 encoder 23 is stored in the HDD 15.
[0035]
In step S26, it is determined whether or not MPEG4 format compression encoding processing has been selected. When recording is set (step S13 in FIG. 3), if the MPEG4 format compression encoding process is instructed by the user or the MPEG4 format compression encoding process is set by default, the process proceeds to step S27. If not, the process proceeds to step S31.
In step S27, it is determined whether or not the MPEG2 digital data stored in the HDD 15 has a data amount necessary for the MPEG4 format compression encoding process. For example, if it is determined that the amount of MPEG2 digital data stored in the HDD 15 exceeds the number of frames necessary for conversion to the MPEG4 format, the process proceeds to step S28. Moves to step S31.
[0036]
In step S28, the MPEG2 digital data stored in the HDD 15 is read into the memory.
In step S29, compression encoding processing in the MPEG4 format is executed based on the MPEG2 digital data read from the HDD 15. As described above, the MPEG4 encoder 27 separates the MPEG2 digital data stored in the HDD 15 into MPEG2 audio data and MPEG2 image data, and compresses the MPEG4 format based on the MPEG2 audio data and MPEG2 image data. And an audio elementary stream and an image elementary stream are generated, and these are multiplexed to output MPEG4 digital data.
[0037]
In step S30, the MPEG4 digital data output from the MPEG4 encoder 27 is stored in the HDD 15.
In step S31, it is determined whether or not a recording process end condition has been met. For example, when the end time is due to recording reservation or when an end instruction is received from the user, it is determined that the end condition is satisfied, and the process proceeds to step S32. Otherwise, the process proceeds to step S23.
In step S32, a predetermined process at the end of the recording process is executed. For example, even if the MPEG2 digital data remaining in the HDD 15 is less than the number of frames necessary for conversion to the MPEG4 format, the digital data that has been compression-encoded in the MPEG4 format to the end by performing interpolation or the like. Created and stored in HDD 15. Thereafter, the process returns to the main routine.
[0038]
In the embodiment of the present invention as described above, MPEG2 format digital moving image data that has a high image quality but a large file size is converted at high speed by a hardware encoder and stored in the HDD 15, and in parallel therewith. Using the MPEG2 digital data stored in the HDD 15, MPEG4 format digital moving image data having a small file size is generated by a software encoder and stored in the HDD 15. Thus, the time can be reduced to each stage as compared with the case of performing the conversion process to the digital moving image data in the MPEG4 format after the recording process using the digital moving image data in the MPEG2 format.
[0039]
Of the digital moving image data in the MPEG2 format and the digital moving image data in the MPEG4 format stored in the HDD 15, the user leaves the MPEG2 digital data when priority is given to the image quality, and gives priority to the capacity of the HDD 15. In some cases, it can be selected to leave MPEG4 digital data.
Second Embodiment
In the block diagram in FIG. 1, the first compression encoding unit 3 and the second compression encoding unit 4 can be configured by application software installed in a personal computer, which will be described below as a second embodiment. To do.
[0040]
In the second embodiment, the first compression encoding unit 3, the second compression encoding unit 4, and the compression processing control unit 5 are configured by an information processing apparatus such as a personal computer and a predetermined program.
As in the first embodiment, moving image data input via the data input unit 1 is compressed and encoded in the first compression format by the first compression encoding unit 3, and is generated. Data is stored in the storage unit 2.
In parallel with the compression encoding process of the first compression encoding unit 3, the compression encoding process by the second compression encoding unit 4 is executed to generate the second compressed moving image data and store it in the storage unit 2. .
[0041]
The compression processing control unit 5 monitors the load on the system, and executes the compression encoding process by the second compression encoding unit 4 when it is determined that the load is below a certain load. For example, the compression processing control unit 5 can be configured to determine whether the current load on the system is high or low by using a function of the OS that reports the current load factor of the CPU. Even when the OS does not have such a function, various methods for acquiring the current load of the CPU have been proposed, and details thereof will be omitted here.
The operation in the second embodiment will be described with reference to the flowcharts of FIGS. The flowchart of FIG. 5 shows the operation of the first compression process relating to the processing of the first compression encoding unit 3 and its control, and the flowchart of FIG. 6 shows the operation of the second compression process relating to the second compression encoding unit 4 and its control. Show.
[0042]
When the first compression process is started, initial settings such as initialization of various parameters are performed in step S41.
In step S42, the second compression process is activated. Here, an application for performing compression encoding in the second compression format is activated.
In step S43, moving image data is input. Here, moving image data input via the data input unit 1 is stored in a buffer or the like.
In step S44, the compression encoding process by the first compression encoding unit 3 is executed. As described above, the compression encoding process in the first compression encoding unit 3 can be in the MPEG2 format, and various other digital compression formats can be used.
[0043]
In step S45, the first compressed moving image data generated by the first compression encoding unit 3 is stored in the storage unit 2.
In step S46, it is determined whether an end condition is satisfied. If the recording reservation is set and the end time is reached, or if an end instruction is given by the user, it is determined that the end condition is satisfied, and the process proceeds to step S47. Otherwise, the process proceeds to step S43. To do.
In step S47, the second compression process is terminated, and various parameters are stored in a predetermined area as necessary, and the first compression process is terminated.
[0044]
In the second compression process, an operation as shown in FIG. 6 is executed in parallel with the first compression process.
In step S51, it is determined whether or not the current load on the system is small. As described above, the compression processing control unit 5 obtains the current CPU load factor (operation rate) from the OS or the like, and determines whether the system load is high or low. For example, the priority of each processing request is determined so that the CPU load factor is 70%, and the CPU load factor is expected to be 70% or less even when the second compression process is executed. Determines that the current load on the system is small and proceeds to step S52, and if not, loops this step S51.
[0045]
In step S52, the first compressed moving image data stored in the storage unit (HDD) 2 is read.
In step S53, it is determined whether or not the first compressed moving image data stored in the storage unit 2 has a data amount necessary for the second compression encoding process. If it is determined that the first compressed moving image data stored in the storage unit 2 is the amount of data necessary for the second compression encoding process, the process proceeds to step S54. If not, the process proceeds to step S51. To do.
[0046]
In step S54, the first compressed moving image data read from the storage unit 2 is decompressed and decoded.
In step S55, the second compression encoding unit 4 performs a compression encoding process using the second compression format. Also in this case, as described above, the second compression format can be the MPEG4 format, and other digital compression formats can be used.
In step S56, the second compressed moving image data generated by compression encoding in the second compression encoding unit 4 is stored in the storage unit 2.
[0047]
When the first compression encoding unit 3 and the second compression encoding unit 4 are configured by application software, it is assumed that the load ratio of the CPU becomes high. However, as in the present invention, the load ratio of the CPU is monitored. Since the second compression process is executed when the load on the system is low, there is no obstacle when executing other tasks. Further, as described above, it is possible to generate compressed moving image data in two compression formats almost at the same time, so that the time can be shortened and the mounting circuit can be simplified to reduce the cost. it can.
[0048]
<Other embodiments>
A) The data input unit may be configured to receive digital moving image data such as a digital video camera or a DVD.
B) The compression encoding process is not limited to MPEG2 and MPEG4, and DV and other compression formats can be assumed.
C) A data input unit and a first compression / encoding unit may be provided in a video capture unit that can be connected to a personal computer via USB, IEEE 1394, or other interface. It can also be a video capture board that can be installed in a 5-inch bay of a desktop personal computer.
D) A video capture card that can be installed in a card bus slot of a notebook personal computer may be provided with a data input unit and a first compression encoding unit.
[0049]
【The invention's effect】
In the present invention, while the first compression moving image data is generated in the first compression format by the first compression encoding unit, the second compression moving image in the second compression format is simultaneously generated by the second compression encoding unit. Data can be generated, and the time for generating compressed moving image data in a plurality of compression formats can be reduced. In addition, it is possible to select which data is left out of the two recorded compression formats, depending on whether the image quality is given priority or the storage capacity is given priority.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a schematic configuration of the present invention.
FIG. 2 is a functional block diagram of an image data processing apparatus in which the first embodiment is employed.
FIG. 3 is a flowchart of the control.
FIG. 4 is a control flowchart of recording processing.
FIG. 5 is a control flowchart of the second embodiment.
FIG. 6 is a control flowchart of the second embodiment.

Claims (9)

入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理装置であって、
入力される動画像データを取得するデータ入力部と、
前記データ入力部により取得した動画像データに対して第1の圧縮フォーマットによる圧縮符号化処理を実行して第1圧縮動画像データを生成し前記記憶部に格納する第1圧縮符号化部と、
前記記憶部に格納された第1圧縮動画像データに基づいて第2の圧縮フォーマットによる圧縮符号化処理を実行して第2圧縮動画像データを生成し前記記憶部に格納する第2圧縮符号化部と、
前記第1圧縮符号化部による圧縮符号化処理の実行中に前記第2圧縮符号化部による圧縮符号化処理を実行させる圧縮処理制御部と、
を備える画像データ処理装置。
An image data processing apparatus that converts input moving image data into compressed moving image data and stores the converted moving image data in a storage unit,
A data input unit for acquiring input moving image data;
A first compression encoding unit that executes compression encoding processing in a first compression format on the moving image data acquired by the data input unit to generate first compressed moving image data and store the first compressed moving image data in the storage unit;
Second compression coding for generating second compressed moving image data by performing compression coding processing in a second compression format based on the first compressed moving image data stored in the storage unit and storing the second compressed moving image data in the storage unit And
A compression processing control unit for executing the compression encoding process by the second compression encoding unit during the execution of the compression encoding process by the first compression encoding unit;
An image data processing apparatus comprising:
前記圧縮処理制御部はシステムの負荷が小さいと判断した場合に前記第2圧縮符号化部による圧縮符号化処理を許可する、請求項1に記載の画像データ処理装置。The image data processing apparatus according to claim 1, wherein the compression processing control unit permits the compression encoding process by the second compression encoding unit when determining that the load on the system is small. 前記圧縮処理制御部は、前記記憶部に格納された第1圧縮動画像データが第2圧縮符号化処理に必要な条件を満たすと判断した場合に、前記第2圧縮符号化部による圧縮符号化処理を許可する、請求項1または2に記載の画像データ処理装置。When the compression processing control unit determines that the first compressed moving image data stored in the storage unit satisfies a condition necessary for the second compression coding processing, the compression processing control unit performs compression coding by the second compression coding unit. The image data processing apparatus according to claim 1, wherein the processing is permitted. 前記第1圧縮符号化部および第2圧縮符号化部はシステムが実行するアプリケーションソフトウェアで構成される、請求項1〜3のいずれかに記載の画像データ処理装置。The image data processing apparatus according to claim 1, wherein the first compression encoding unit and the second compression encoding unit are configured by application software executed by a system. 前記第1圧縮符号化部および第2圧縮符号化部は少なくとも一方が回路実装されるハードウェアエンコーダである、請求項1〜3のいずれかに記載の画像データ処理装置。The image data processing apparatus according to claim 1, wherein at least one of the first compression encoding unit and the second compression encoding unit is a hardware encoder that is circuit-mounted. 前記第1圧縮符号化部はMPEG2フォーマットによる圧縮符号化処理を行い、前記第2圧縮符号化部はMPEG4フォーマットによる圧縮符号化処理を行う、請求項1〜5のいずれかに記載の画像データ処理装置。The image data processing according to any one of claims 1 to 5, wherein the first compression encoding unit performs compression encoding processing according to an MPEG2 format, and the second compression encoding unit performs compression encoding processing according to an MPEG4 format. apparatus. 入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理方法であって、
入力される動画像データをデータ入力部に取得させる段階と、
第1圧縮符号化部に第1の圧縮フォーマットによる圧縮符号化処理を実行させ前記データ入力部により取得した動画像データから第1圧縮動画像データを生成する段階と、
前記第1圧縮符号化部で生成された第1圧縮動画像データを前記記憶部に格納する段階と、
第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったか否かを判断する段階と、
第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断した場合に、第2圧縮符号化部に第2の圧縮フォーマットによる圧縮符号化処理を実行させ前記第1圧縮動画像データから第2圧縮動画像データを生成する段階と、
前記第2圧縮符号化部で生成された第2圧縮動画像データを前記記憶部に格納する段階と、
を含む画像データ処理方法。
An image data processing method for converting input moving image data into compressed moving image data and storing it in a storage unit,
A step of causing the data input unit to acquire input moving image data;
Causing the first compression encoding unit to perform compression encoding processing in a first compression format to generate first compressed moving image data from the moving image data acquired by the data input unit;
Storing the first compressed moving image data generated by the first compression encoding unit in the storage unit;
Determining whether a condition necessary for executing compression encoding according to the second compression format is satisfied;
When it is determined that the conditions necessary for executing the compression encoding according to the second compression format are satisfied, the second compression encoding unit is caused to execute the compression encoding processing according to the second compression format. Generating second compressed moving image data from the image data;
Storing the second compressed moving image data generated by the second compression encoding unit in the storage unit;
An image data processing method including:
システムの負荷が所定値以下である場合に、第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断する、請求項7に記載の画像データ処理方法。The image data processing method according to claim 7, wherein when the system load is equal to or less than a predetermined value, it is determined that the condition necessary for executing the compression encoding by the second compression format has been reached. 入力される動画像データを圧縮動画像データに変換して記憶部に格納する画像データ処理方法をコンピュータに実行させるためのプログラムであって、
入力される動画像データをデータ入力部に取得させるステップと、
第1圧縮符号化部に第1の圧縮フォーマットによる圧縮符号化処理を実行させ前記データ入力部により取得した動画像データから第1圧縮動画像データを生成するステップと、
前記第1圧縮符号化部で生成された第1圧縮動画像データを前記記憶部に格納するステップと、
第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったか否かを判断するステップと、
第2の圧縮フォーマットによる圧縮符号化を実行するために必要な条件になったと判断した場合に、第2圧縮符号化部に第2の圧縮フォーマットによる圧縮符号化処理を実行させ前記第1圧縮動画像データから第2圧縮動画像データを生成するステップと、
前記第2圧縮符号化部で生成された第2圧縮動画像データを前記記憶部に格納するステップと、
を含む画像データ処理方法をコンピュータに実行させるためのプログラム。
A program for causing a computer to execute an image data processing method for converting input moving image data into compressed moving image data and storing the converted moving image data in a storage unit,
Causing the data input unit to acquire input moving image data;
Causing the first compression encoding unit to perform compression encoding processing in a first compression format to generate first compressed moving image data from the moving image data acquired by the data input unit;
Storing the first compressed moving image data generated by the first compression encoding unit in the storage unit;
Determining whether or not a condition necessary for executing compression encoding according to the second compression format is satisfied;
When it is determined that the conditions necessary for executing the compression encoding according to the second compression format are satisfied, the second compression encoding unit is caused to execute the compression encoding processing according to the second compression format. Generating second compressed moving image data from the image data;
Storing the second compressed moving image data generated by the second compression encoding unit in the storage unit;
A program for causing a computer to execute an image data processing method including:
JP2003166647A 2003-06-11 2003-06-11 Image data processing device Expired - Fee Related JP4394902B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003166647A JP4394902B2 (en) 2003-06-11 2003-06-11 Image data processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003166647A JP4394902B2 (en) 2003-06-11 2003-06-11 Image data processing device

Publications (2)

Publication Number Publication Date
JP2005005997A true JP2005005997A (en) 2005-01-06
JP4394902B2 JP4394902B2 (en) 2010-01-06

Family

ID=34092748

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003166647A Expired - Fee Related JP4394902B2 (en) 2003-06-11 2003-06-11 Image data processing device

Country Status (1)

Country Link
JP (1) JP4394902B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006221617A (en) * 2005-01-17 2006-08-24 Toshiba Corp Medical apparatus with audit log managing function
JP2007006332A (en) * 2005-06-27 2007-01-11 Hitachi Ltd Digest data generating device, digest data generating method and digest data generating program
JP2007035168A (en) * 2005-07-27 2007-02-08 Fujitsu Ten Ltd Data recording device
WO2019054070A1 (en) * 2017-09-14 2019-03-21 株式会社デンソー Image processing device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006221617A (en) * 2005-01-17 2006-08-24 Toshiba Corp Medical apparatus with audit log managing function
JP2007006332A (en) * 2005-06-27 2007-01-11 Hitachi Ltd Digest data generating device, digest data generating method and digest data generating program
JP2007035168A (en) * 2005-07-27 2007-02-08 Fujitsu Ten Ltd Data recording device
WO2019054070A1 (en) * 2017-09-14 2019-03-21 株式会社デンソー Image processing device
JP2019054394A (en) * 2017-09-14 2019-04-04 株式会社デンソー Image processing device

Also Published As

Publication number Publication date
JP4394902B2 (en) 2010-01-06

Similar Documents

Publication Publication Date Title
US6947485B2 (en) System, method and apparatus for an instruction driven digital video processor
US6490324B1 (en) System, method and apparatus for a variable output video decoder
US7986345B2 (en) Image pickup apparatus, image processing method, and program
US20070258702A1 (en) Encoding or Decoding Device and Recording/Reproduction Terminal
JP4172504B2 (en) Image processing apparatus, imaging apparatus, and method
US8098291B2 (en) Image pickup apparatus, control method, and control program, and data processing apparatus, method, and program for recording a moving image and a still image
KR100877455B1 (en) Image recording apparatus, image recording method and storage medium
JP2001245294A (en) Moving image reproduction method and moving image reproducing system
US7929615B2 (en) Video processing apparatus
US6728312B1 (en) Adaptive video decoding and rendering with respect to processor congestion
EP1024668B1 (en) Method and apparatus for a motion compensation instruction generator
US6751404B1 (en) Method and apparatus for detecting processor congestion during audio and video decode
JP4394902B2 (en) Image data processing device
EP1009162A2 (en) System and apparatus for a digital audio/video decoder
WO2010100991A1 (en) Movie stream decoding apparatus, control method of same, program, and recording medium
JP2008244820A (en) Video display system and video output device
US8160131B2 (en) Apparatus and method for processing image
JP2002164790A (en) Device and method for decoding compressed stream and storage medium
JP3933554B2 (en) Video encoding / decoding device
JP2005184788A (en) Signal processing device
JP4695240B2 (en) MPEG decoder for caption display
JP4289055B2 (en) Transcoder and recording / reproducing apparatus using the same
JP4613759B2 (en) Information processing apparatus and method, transmission apparatus and method, recording apparatus and method, and program
JP2000092485A (en) Encoding device, decoding device, image processor, and image processing system
JP2012004890A (en) Video signal output device, and video signal output method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070207

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070525

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20070525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070528

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20070718

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20070726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070727

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20070907

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20080318

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20080415

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090514

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091016

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121023

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131023

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees