JP5180667B2 - Image processing apparatus and image processing method - Google Patents
Image processing apparatus and image processing method Download PDFInfo
- Publication number
- JP5180667B2 JP5180667B2 JP2008119983A JP2008119983A JP5180667B2 JP 5180667 B2 JP5180667 B2 JP 5180667B2 JP 2008119983 A JP2008119983 A JP 2008119983A JP 2008119983 A JP2008119983 A JP 2008119983A JP 5180667 B2 JP5180667 B2 JP 5180667B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame
- processing
- script
- extracted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は、動画像の再生技術に関するものである。 The present invention relates to a moving image reproduction technique.
近年、入力映像をディスプレイ上に再生する映像再生装置では、次の2つのモードが採用されている。即ち、ディスプレイの全面に映像を再生するモード(全画面モード)と、ディスプレイ上における一部領域内の映像を表示するウインドウを設け、映像ウインドウ内に映像を再生するモード(子画面モード)である。 In recent years, video playback apparatuses that play back input video on a display employ the following two modes. That is, a mode for reproducing video on the entire surface of the display (full-screen mode) and a mode for displaying video in a partial area on the display and reproducing the video in the video window (sub-screen mode). .
図2を用いて、子画面モードの実現方法について説明する。図2は、従来の映像再生装置において、子画面モードを実現するための構成を示した図である。 A method for realizing the small-screen mode will be described with reference to FIG. FIG. 2 is a diagram showing a configuration for realizing a small-screen mode in a conventional video reproduction apparatus.
主制御部201は、映像再生装置全体の制御を行う。
The
映像デコード部202は、MPEG2方式等により符号化されている映像ストリームを受けると、この映像ストリームをデコードし、デコード結果としてのフレームデータを出力する。
When receiving a video stream encoded by the MPEG2 method or the like, the
映像変換部203は、映像デコード部202から出力されたフレームデータから、主制御部201から指定された領域の映像データを特定し、特定した映像データに対して所定の変換処理(この場合は縮小処理、又は拡大処理)を施す。そして映像変換部203は、係る変換処理済みの映像データに基づく映像が、ディスプレイ204の画面上における映像ウィンドウ205内に表示されるように、係る映像データに基づく映像信号をディスプレイ204に出力する。
The
次に、映像ストリームに基づく動画像を映像ウィンドウ205内に再生するために主制御部201が行う処理について説明する。
Next, processing performed by the
まず、主制御部201は映像デコード部202に対してデコード開始を指示する。
First, the
映像デコード部202は、主制御部201からデコード開始の指示を受けると、動作を開始する。映像デコード部202は、入力された映像ストリームのシーケンスヘッダを検出すると、検出したシーケンスヘッダを主制御部201に通知する。
When receiving a decoding start instruction from the
主制御部201は、映像デコード部202から通知されたシーケンスヘッダに記述されている「映像ストリームの映像サイズ」に基づいて、映像変換部203が変換処理(映像変換処理)を行う領域を映像変換部203に設定する。
Based on the “video size of the video stream” described in the sequence header notified from the
更に、主制御部201は、ディスプレイ204上における映像ウィンドウ205の座標を映像変換部203に設定する。
Further, the
そして主制御部201は、映像変換部203に対して処理開始を指示する。
Then, the
以上の処理により、映像デコード部202、映像変換部203の順に映像ストリームが処理される映像処理フローが形成され、その結果、映像ウィンドウ205内に動画像が再生されることになる。
Through the above processing, a video processing flow is formed in which the video stream is processed in the order of the
この映像処理フローが形成された後は、主制御部201の介在なしで動画像再生が実行される。
After this video processing flow is formed, moving image reproduction is executed without the intervention of the
ここで、映像ウィンドウ205のサイズを時間経過とともに変化させることを考える。例えば、映像ウィンドウ205のサイズを60fps(フレーム/周期)のフレームレートで変化させる為には、映像変換部203への設定内容を、60fpsに対応するフレーム周期で変更する必要がある。
Here, consider changing the size of the
主制御部201において、映像ウィンドウ205の制御を行うためのアプリケーションプログラムの他に複数のアプリケーションプログラムが同時に動作していると、主制御部201が映像変換部203への設定変更を一定周期で行うことが困難な場合がある。
In the
そこで、主制御部201は、「映像ウィンドウ205のサイズを時間経過とともに変更するために必要な映像変換部203への設定手順」を記述したスクリプトを映像変換部203に供給する。
Therefore, the
これにより、映像変換部203は、供給されたスクリプトに基づいて映像デコード部202からのフレームデータのサイズ変換処理、及びディスプレイ204への出力処理を、このスクリプトに記述された周期で実行する。
MPEG2等の映像ストリームは、途中で映像サイズを変更することが可能な仕様になっている。 Video streams such as MPEG2 have specifications that allow the video size to be changed in the middle.
映像ストリームの映像サイズが途中で変更された場合は、映像デコード部202がシーケンスヘッダの変化を検出し、検出したシーケンスヘッダを主制御部201に通知する。
When the video size of the video stream is changed in the middle, the
主制御部201は、映像デコード部202から通知されたシーケンスヘッダに記述された変化後の映像サイズに基づいて再度、映像変換部203に対して領域設定処理を行う必要がある。
The
しなしながら、映像ウィンドウ205のサイズを時間経過とともに変化させている途中で映像ストリームの映像サイズが変化した場合、このサイズ変化に応じて映像変換部203への設定を変更することができないという問題があった。
However, if the video size of the video stream changes in the middle of changing the size of the
例えば、映像ウィンドウ205のサイズを時間経過とともに変化させている途中で映像ストリームの映像サイズが1920×1080から1440×1080に変化したとする。この場合、この変化に応じた設定変更が映像変換部203に正しく反映されないと、映像変換部203が有効領域1440×1080の外から映像データを読み出してしまうことになり、映像ウィンドウ205の一部に意図しないデータが表示されてしまう。
For example, assume that the video size of the video stream has changed from 1920 × 1080 to 1440 × 1080 while the size of the
本発明は以上の問題に鑑みて成されたものであり、各フレームの画像を時間経過と共に変化させて再生している途中であるフレームの画像属性が変化しても、この画像属性の変化の前後でフレームをシームレスに再生する為の技術を提供することを目的とする。 The present invention has been made in view of the above problems, and even if the image attribute of a frame that is in the process of being reproduced by changing the image of each frame over time is changed, the change in the image attribute is changed. An object is to provide a technique for seamlessly playing back and forth frames.
本発明の目的を達成するために、例えば、本発明の画像処理装置は以下の構成を備える。 In order to achieve the object of the present invention, for example, an image processing apparatus of the present invention comprises the following arrangement.
即ち、動画像を構成する各フレームの画像において、該画像の指定領域内の部分画像に対して行う処理内容を記述した第1のスクリプトを保持する手段と、
処理対象フレームの画像サイズが、該処理対象フレームの直前のフレームの画像サイズと異なる場合にのみ該処理対象フレームに対して適用される第2のスクリプトであって、該処理対象フレームの画像中の前記指定領域に相当する領域を指定するための領域情報が、該処理対象フレームの画像が取りうる画像サイズ毎に記述されている前記第2のスクリプトを保持する手段と、
前記動画像を構成する各フレームの画像を入力する手段と、
入力されたフレームの画像の画像サイズが、該入力されたフレームの直前のフレームの画像の画像サイズから変化しているか否かを判断する判断手段と、
前記判断手段が変化していないと判断した場合には、前記入力されたフレームから前記指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行い、
前記判断手段が変化していると判断した場合には、前記入力されたフレームの画像の画像サイズに対応する領域情報を前記第2のスクリプトから特定し、該特定した領域情報が示す前記入力されたフレームの画像中の領域を前記指定領域として設定し、該設定した指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行う処理手段と、
前記処理手段による処理済みの画像を出力する手段と
を備えることを特徴とする。
In other words, in each frame image constituting the moving image, means for holding a first script that describes the processing content to be performed on the partial image in the designated area of the image;
Image size of the processing target frame, a second script to be applied to the processing target frame only when different from the image size of the previous frame of the processing target frame, in the image of the processing target frame Means for holding the second script in which area information for designating an area corresponding to the designated area is described for each image size that can be taken by the image of the processing target frame;
Means for inputting an image of each frame constituting the moving image;
Image size of the input frame image, determination means for determining whether changes from the image size of the image of the frame immediately before the frame that is the input,
If it is determined that the determination means has not changed, a partial image in the designated area is extracted from the input frame, and the extracted partial image is described in the first script. Process the processing contents,
If it is determined that the determination means has changed, region information corresponding to the image size of the image of the input frame is specified from the second script, and the input that the specified region information indicates is input. An area in the image of the selected frame is set as the specified area, a partial image in the set specified area is extracted, and processing of the processing content described in the first script is performed on the extracted partial image Processing means for performing
Means for outputting an image processed by the processing means.
本発明の目的を達成するために、例えば、本発明の画像処理方法は以下の構成を備える。 In order to achieve the object of the present invention, for example, an image processing method of the present invention comprises the following arrangement.
即ち、画像処理装置が行う画像処理方法であって、
前記画像処理装置の第1の保持手段が、動画像を構成する各フレームの画像において、該画像の指定領域内の部分画像に対して行う処理内容を記述した第1のスクリプトを保持する工程と、
前記画像処理装置の第2の保持手段が、処理対象フレームの画像サイズが、該処理対象フレームの直前のフレームの画像サイズと異なる場合にのみ該処理対象フレームに対して適用される第2のスクリプトであって、該処理対象フレームの画像中の前記指定領域に相当する領域を指定するための領域情報が、該処理対象フレームの画像が取りうる画像サイズ毎に記述されている前記第2のスクリプトを保持する工程と、
前記画像処理装置の入力手段が、前記動画像を構成する各フレームの画像を入力する工程と、
前記画像処理装置の判断手段が、入力されたフレームの画像の画像サイズが、該入力されたフレームの直前のフレームの画像の画像サイズから変化しているか否かを判断する判断工程と、
前記画像処理装置の処理手段が、前記判断工程において、変化していないと判断した場合には、前記入力されたフレームから前記指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行い、
前記画像処理装置の処理手段が、前記判断工程において、変化していると判断した場合には、前記入力されたフレームの画像の画像サイズに対応する領域情報を前記第2のスクリプトから特定し、該特定した領域情報が示す前記入力されたフレームの画像中の領域を前記指定領域として設定し、該設定した指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行う処理工程と、
前記画像処理装置の出力手段が、前記処理工程による処理済みの画像を出力する工程と
を備えることを特徴とする。
That is, an image processing method performed by the image processing apparatus,
A first holding unit of the image processing apparatus holding a first script describing a processing content to be performed on a partial image in a specified region of the image in each frame image constituting the moving image; ,
Second holding means of the image processing apparatus, an image size of the processing target frame, a second script to be applied to the processing target frame only when different from the image size of the previous frame of the frame to be processed The second script in which region information for designating a region corresponding to the designated region in the image of the processing target frame is described for each image size that can be taken by the image of the processing target frame Holding the
An input unit of the image processing apparatus inputs an image of each frame constituting the moving image;
Determination means of the image processing apparatus, an image size of the input frame image, a determination step of determining whether or not change from image size of the image of the frame immediately before the frame that is the input,
If the processing means of the image processing apparatus determines that there is no change in the determination step, the partial image in the designated area is extracted from the input frame, and the extracted partial image , Processing the processing content described in the first script,
If the processing means of the image processing apparatus determines that the change has occurred in the determination step, the area information corresponding to the image size of the image of the input frame is specified from the second script, An area in the image of the input frame indicated by the specified area information is set as the specified area, a partial image in the set specified area is extracted, and the first image is extracted from the extracted partial image. Processing steps for processing the processing contents described in the script of
The output unit of the image processing apparatus includes a step of outputting an image processed by the processing step.
本発明の構成によれば、各フレームの画像を時間経過と共に変化させて再生している途中であるフレームの画像属性が変化しても、この画像属性の変化の前後でフレームをシームレスに再生することができる。 According to the configuration of the present invention, even if the image attribute of a frame that is in the process of being reproduced while changing the image of each frame with the passage of time changes, the frame is seamlessly reproduced before and after the change of the image attribute. be able to.
以下、添付図面を参照し、本発明の好適な実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載の構成の具体的な実施例の1つである。 Preferred embodiments of the present invention will be described below with reference to the accompanying drawings. The embodiment described below shows an example when the present invention is specifically implemented, and is one of the specific examples of the configurations described in the claims.
[第1の実施形態]
図1は、本実施形態に係る画像処理装置100の機能構成例を示すブロック図である。図1に示す如く、本実施形態に係る画像処理装置100は、主制御部101、映像デコード部102、映像変換部103、ディスプレイ104、メモリ113、により構成されている。
[First Embodiment]
FIG. 1 is a block diagram illustrating a functional configuration example of an
主制御部101は、画像処理装置100全体の制御を行うと共に、画像処理装置100を構成する各部の動作制御を行う。
The
映像デコード部102には、動画像データが入力される。係る動画像データは、例えば、MPEG2等の動画像ストリームデータである。従って、映像デコード部102は、係る動画像ストリームをデコードし、各フレームの画像データを順次出力する。映像デコード部102から出力された各フレームの画像データは、メモリ113内に設けられているフレームバッファ106内に格納される。
Video data is input to the
フレームバッファ106は、FIFO(FirstInFirstOut)形式のメモリであり、先に格納した画像データから順に映像変換部103に読み出される。
The
また、動画像ストリームデータには、動画像ストリーム中の各フレームの画像データの画像属性を示す情報(画像属性情報)が含まれている。本実施形態では、画像属性情報は、画像サイズを示す情報であるとする。即ち、本実施形態では、動画像ストリームには、動画像ストリームに含まれている各フレームの画像のサイズを示す情報が画像属性情報として含まれているものとする。 In addition, the moving image stream data includes information (image attribute information) indicating image attributes of image data of each frame in the moving image stream. In the present embodiment, the image attribute information is information indicating the image size. That is, in this embodiment, it is assumed that the moving image stream includes information indicating the size of the image of each frame included in the moving image stream as image attribute information.
映像デコード部102は、デコードしたフレームの画像属性情報を動画像ストリームから抽出し、抽出した画像属性情報をフレーム管理情報バッファ108に格納する。
The
映像変換部103は、フレームバッファ106から画像データを取得すると、係る画像データにおいて、主制御部101から指定された画像領域(指定領域)内のデータ(部分画像データ)を抽出する。係る画像領域は、映像変換部103がフレームバッファ106から取得した画像データが示す画像内の、主制御部101から指定された領域のことである。なお、主制御部101から指定される画像領域は、フレームの全領域でも構わない。
When obtaining the image data from the
そして映像変換部103は、主制御部101から指定されたスクリプト(映像変換スクリプト111)に基づいて、抽出した部分画像データに対して所定の変換処理を施す。本実施形態では、係る変換処理は、画像の縮小処理であるとするが、これに限定するものではなく、画像の拡大処理であっても良いし、画像の輪郭を変形させるなどの処理、もしくはアフィン変換などの画像自体を変形する処理等であっても良い。
The
そして映像変換部103は、変換処理済みの部分画像データに基づいた画像を、ディスプレイ104の表示画面内に表示される映像ウィンドウ105の位置に配置したフレームデータを作成する。そして、作成したフレームデータをメモリ113内のプレーンバッファ107内に格納する。
Then, the
そして映像変換部103は、プレーンバッファ107に格納したフレームデータに基づく映像信号を生成し、係る映像信号をディスプレイ104に対して出力する。これにより、ディスプレイ104の表示画面上における映像ウィンドウ105内には、部分画像データに基づいた画像が表示されることになる。
The
一方、主制御部101内のメモリには、2つのスクリプトのデータが格納(保持)されている。 一方は映像変換スクリプト111(第1のスクリプト)で、他方は対応スクリプト112(第2のスクリプト)である。
On the other hand, data of two scripts is stored (held) in the memory in the
映像変換スクリプト111は、映像変換部103が抽出した部分画像データに対して行う処理の内容(処理内容)を記述したデータであり、係る処理の内容は、各フレームについて記されている。図4は、映像変換スクリプト111内に記述されている情報の構成例を示す図である。
The
「フレーム番号」の列には、動画像ストリームに含まれている各フレームの番号が登録されている。最初のフレームの番号が「1」である。 In the “frame number” column, the number of each frame included in the moving image stream is registered. The number of the first frame is “1”.
「変換対象領域」の列には、動画像ストリームに含まれている各フレームにおいて、主制御部101が映像変換部103に対して指定する画像領域を示す情報が登録されている。図4では「領域A」が係る画像領域となる。なお、実際には、主制御部101には、フレームバッファ106から読み出した画像データが示す画像における「領域A」の位置情報が登録されていることになる。従って、「変換対象領域」の列には、この位置情報が登録されていても良い。
In the “conversion target area” column, information indicating an image area that the
「変換処理」の列には、動画像ストリームに含まれている各フレームの画像中の画像領域Aに対して行う処理の内容を示す情報が登録されている。例えば、フレーム番号2に対応する「変換処理」によれば、フレーム番号2の画像中の領域Aに対しては、オリジナルの画像サイズを95%(縮小率)に縮小する処理(処理2)を行う。また、フレーム番号Nに対応する「変換処理」によれば、フレーム番号Nの画像中の領域Aに対しては、オリジナルの画像サイズを85%に縮小する処理(処理2)を行う。
In the column of “conversion processing”, information indicating the content of processing performed on the image area A in the image of each frame included in the moving image stream is registered. For example, according to the “conversion process” corresponding to the
即ち、図4に示した映像変換スクリプト111は、再生順において後ろのフレームほど、領域Aの画像サイズを小さくする、という変換処理を示している。
That is, the
対応スクリプト112は、処理対象フレームの画像の画像属性が、処理対象フレームの直前のフレームにおける画像の画像属性から変化している場合にのみ適用されるものである。対応スクリプト112には、処理対象フレームの直前のフレームまでで部分画像を抽出していた領域に相当する、処理対象フレームの画像中における領域を示す情報が記されている。対応スクリプト112についての詳細な説明は後述する。
The
ここで、画像処理装置100が行う動画像再生処理の概要について、図3を用いて説明する。図3は、各フレームの画像と、それぞれのフレームの画像から抽出した部分画像とを示す図である。
Here, an outline of a moving image reproduction process performed by the
301〜305は、各フレームの画像であり、画像301、画像302、画像303、画像304、画像305の順に再生されるものとする。また、画像301〜303の横のサイズは1920画素であり、画像304,305の横のサイズは1440画素であるとする。
311〜315はそれぞれ、画像301〜305のそれぞれから抽出された部分画像である。より詳しくは、部分画像311は、画像301内の領域306から抽出された部分画像である。部分画像312は、画像302内の領域307から抽出された部分画像である。部分画像313は、画像303内の領域308から抽出された部分画像である。部分画像314は、画像304内の領域309から抽出された部分画像である。部分画像315は、画像305内の領域310から抽出された部分画像である。
311 to 315 are partial images extracted from the
ここで、画像301〜303のそれぞれから部分画像311〜313を抽出する場合には、それぞれの画像301〜303内で、同じサイズ、同じ位置の領域(306〜308)を抽出すれば良い。
Here, when extracting the
しかし、画像304から部分画像314を抽出する場合、画像304の横のサイズはそれまでの画像301〜303の横のサイズとは異なるため、それまでに抽出していた領域のサイズ、位置を用いても、同じ内容の部分画像を抽出することはできない。そこで、本実施形態では、画像303から画像304へのサイズの変化に応じて、抽出する領域のサイズや位置を変更する。画像304の場合、画像301〜303とは異なる位置、サイズの領域309から抽出を行うことで、部分画像314が得られる。また、画像305の場合、画像301〜303とは異なる位置、サイズの領域310から抽出を行うことで、部分画像315が得られる。画像304と画像305とは同じサイズの画像であるので、領域309と領域310とは同じ位置、サイズの領域となる。
However, when extracting the
次に、画像処理装置100が行う動画像再生処理について、図6のフローチャートを用いて説明する。図6は、画像処理装置100が行う動画像再生処理の詳細を示すフローチャートである。
Next, the moving image reproduction process performed by the
ステップS601では、映像デコード部102は、入力された動画像ストリームをデコードし、各フレームの画像データを順次出力する。映像デコード部102から出力された各フレームの画像データは、メモリ113内に設けられているフレームバッファ106内に格納される。また、映像デコード部102は、デコードしたフレームの画像属性情報を動画像ストリームから抽出し、抽出した画像属性情報をフレーム管理情報バッファ108に格納する。
In step S601, the
ステップS602では、映像変換部103は、フレーム管理情報バッファ108内を参照する。そして、処理対象フレームの画像データの画像属性情報が示す画像属性が、処理対象フレームの直前のフレームの画像データの画像属性情報が示す画像属性から変化しているのか否かを判断する。係る判断の結果、変化している、即ち、画像サイズに変化があった場合には、処理をステップS604に進める。一方、係る判断の結果、変化していない、即ち、画像サイズに変化がなかった場合には、処理をステップS603に進める。
In step S602, the
ステップS603では、主制御部101は、映像変換スクリプト111を参照し、処理対象フレームの画像から部分画像を抽出する為の領域を指定領域として映像変換部103に指示する。主制御部101は、処理対象フレームの画像から抽出する画像領域を指定する場合、自身が管理している映像変換スクリプト111において、処理対象フレームに対応する「変換対象領域」を特定する。そして特定した領域を指定領域として指定する。
In step S <b> 603, the
一方、ステップS604では、主制御部101は、対応スクリプト112を参照し、処理対象フレームの画像内で、部分画像を抽出するための領域を特定する為の処理を行う。
On the other hand, in step S604, the
図5は、対応スクリプト112内に記述されている情報の構成例を示す図である。
FIG. 5 is a diagram illustrating a configuration example of information described in the
対応スクリプト112には、処理対象フレームの画像中の上記指定領域に相当する領域を指定するための領域情報が、処理対象フレームの画像が取りうるサイズ毎(画像属性毎)に記述されている。
In the
例えば、処理対象フレームよりも前のフレームの画像のサイズがw×h(係る画像の画像属性情報から特定可能)であるとする。処理対象フレームの画像の画像サイズが1440×1080(係る画像の画像属性情報から特定可能)である場合、処理対象フレームから部分画像を抽出する為の領域の左上隅の座標値は、(x×1440/w、y×1080/h)となる。ここで、x、yはそれぞれ、処理対象フレームの直前のフレームの画像から部分画像データを抽出していた領域の左上隅のx座標値、y座標値である。同様に、処理対象フレームから部分画像を抽出する為の領域の右下隅の座標値は、(x’×1440/w、y’×1080/h)となる。ここで、x’、y’はそれぞれ、処理対象フレームの直前のフレームの画像から部分画像を抽出した領域の右下隅のx座標値、y座標値である。 For example, it is assumed that the image size of the frame before the processing target frame is w × h (identifiable from the image attribute information of the image). When the image size of the image of the processing target frame is 1440 × 1080 (identifiable from the image attribute information of the image), the coordinate value of the upper left corner of the region for extracting the partial image from the processing target frame is (xx 1440 / w, y × 1080 / h). Here, x and y are respectively the x coordinate value and the y coordinate value of the upper left corner of the area where the partial image data has been extracted from the image of the frame immediately before the processing target frame. Similarly, the coordinate value of the lower right corner of the region for extracting the partial image from the processing target frame is (x ′ × 1440 / w, y ′ × 1080 / h). Here, x ′ and y ′ are the x-coordinate value and the y-coordinate value of the lower right corner of the region in which the partial image is extracted from the image of the frame immediately before the processing target frame, respectively.
即ち、x、y、x’、y’は何れも、現在の指定領域の位置情報として設定されている情報である。 That is, x, y, x ′, and y ′ are all information set as position information of the current designated area.
また、処理対象フレームの画像の画像サイズが720×480(係る画像の画像属性情報から特定可能)である場合、処理対象フレームから部分画像を抽出する為の領域の左上隅の座標値は、(x×720/w、y×480/h)となる。ここで、x、yはそれぞれ、処理対象フレームの直前のフレームの画像から部分画像を抽出した領域の左上隅のx座標値、y座標値である。同様に、処理対象フレームから部分画像を抽出する為の領域の右下隅の座標値は、(x’×720/w、y’×480/h)となる。ここで、x’、y’はそれぞれ、処理対象フレームの直前のフレームの画像から部分画像を抽出していた領域の右下隅のx座標値、y座標値である。 When the image size of the image of the processing target frame is 720 × 480 (identifiable from the image attribute information of the image), the coordinate value of the upper left corner of the region for extracting the partial image from the processing target frame is ( x × 720 / w, y × 480 / h). Here, x and y are respectively the x-coordinate value and the y-coordinate value of the upper left corner of the region in which the partial image is extracted from the image of the frame immediately before the processing target frame. Similarly, the coordinate value of the lower right corner of the region for extracting the partial image from the processing target frame is (x ′ × 720 / w, y ′ × 480 / h). Here, x ′ and y ′ are the x-coordinate value and the y-coordinate value of the lower right corner of the area where the partial image has been extracted from the image of the frame immediately before the processing target frame, respectively.
このように、処理対象フレームの画像のサイズが、直前のフレームから変化しても、直前のフレームにおいて部分画像を抽出した領域に相当する(画像内容が略同じ)、処理対象フレームの画像における部分画像を特定することができる。 Thus, even if the size of the image of the processing target frame changes from the immediately preceding frame, it corresponds to the area from which the partial image was extracted in the immediately preceding frame (the image contents are substantially the same), and the portion in the image of the processing target frame An image can be specified.
なお、このように、部分画像データを抽出するための領域の位置、サイズが変更された場合には、それまでのフレームで用いていた「指定領域の位置情報」を、変更後の領域の位置情報(ここでは左上隅の座標値、右下隅の座標値)で更新する。これにより、以降のフレームでは、係る変更後の指定領域から部分画像を抽出することになる。 In addition, when the position and size of the area for extracting the partial image data are changed in this way, the “position information of the designated area” used in the previous frame is changed to the position of the area after the change. Update with information (here, upper left corner coordinate value, lower right corner coordinate value). As a result, in subsequent frames, partial images are extracted from the changed designated area.
そして主制御部101は、処理対象フレームの画像内で、部分画像を抽出するための領域を指定領域として映像変換部103に指示する。
Then, the
次に、ステップS605では、主制御部101は、映像変換スクリプト111を参照し、係る指定領域内の部分画像に対して行う「変換処理」を特定する。例えば、処理対象フレームが第2フレームである場合、「変換処理」は、処理対象フレームの画像から抽出した部分画像のサイズを、95%に縮小する処理となる。そして主制御部101は、特定した変換処理内容を、映像変換部103に指示する。これにより、映像変換部103は、ステップS603若しくはステップS604の何れかで主制御部101により指示された指定領域内の部分画像に対して、主制御部101により指示された変換処理を行う。
In step S <b> 605, the
なお、ステップS604で主制御部101が指示した指定領域のサイズと、ステップS603で主制御部101が指示した指定領域のサイズとは異なるので、それぞれの指定領域から抽出した部分画像のサイズもまた異なることになる。従って、何れの指定領域から部分画像を抽出しても、抽出した部分画像に対してステップS605における処理を行った後の部分画像のサイズを予め定められたサイズ(例えば映像ウィンドウ105のサイズ)に変換した方が好ましい、
次に、ステップS606では、映像変換部103は、ステップS605における処理済みの部分画像データに基づいた画像を、ディスプレイ104の表示画面内に表示される映像ウィンドウ105の位置に配置したフレームデータを作成する。そして、作成したフレームデータをメモリ113内のプレーンバッファ107内に格納する。
Since the size of the designated area designated by the
Next, in step S606, the
次に、ステップS607では、映像変換部103は、プレーンバッファ107に格納したフレームデータに基づく映像信号を生成し、係る映像信号をディスプレイ104に対して出力する。
In step S <b> 607, the
次に、ステップS608では、主制御部101は、上記動画像ストリームに含まれている全てのフレームについて上記処理を行ったか否かを判断する。係る判断の結果、行ったと判断した場合には、本処理を終了する。一方、係る判断の結果、行っていないと判断した場合には、処理をステップS602に戻し、次の未処理のフレームを着目フレームとして、以降の処理を行う。
Next, in step S608, the
以上、本実施形態によれば、各フレームから抽出した部分画像を、フレーム毎に異なる縮小率で縮小して表示する場合、あるフレームの画像サイズが従前のフレームの画像サイズから変化しても、変化の前後でシームレスに画像を再生することができる。 As described above, according to the present embodiment, when the partial image extracted from each frame is reduced and displayed at a different reduction ratio for each frame, even if the image size of a certain frame changes from the image size of the previous frame, Images can be played seamlessly before and after the change.
[第2の実施形態]
本実施形態は、以下説明する点を除き、第1の実施形態と同様である。
[Second Embodiment]
This embodiment is the same as the first embodiment except for the points described below.
第1の実施形態では、対応スクリプト112は、処理対象フレームの画像中の指定領域に相当する領域を指定するための領域情報が、処理対象フレームの画像が取りうる画像サイズ毎に記述されているものであった。しかし、処理対象フレームの画像が取りうる画像サイズの種類の数が多いと、その分だけ対応スクリプト112のデータサイズが大きくなるため、対応スクリプト112のデータを格納するためのメモリ容量も大きなものが必要となる。また一方で、対応スクリプト112を記憶するためのメモリ容量に制限がある場合も考えられる。
In the first embodiment, the
そこで、本実施形態では、変化する画像サイズを予め予測し、予測した画像サイズについてのみ、対応スクリプト112を作成する。
Therefore, in the present embodiment, a changing image size is predicted in advance, and the
例えば、映像デコード部102に入力される動画像ストリームが放送波に基づくものである場合を考える。このとき、同じく放送波から取得可能なEIT(Event Information Table)のコンポーネント記述子から画像属性の変化態様と変化時刻とを判別することができる。
For example, consider a case where the moving image stream input to the
主制御部101は、現在視聴中サービス(チャンネル)のイベント(番組)の切り替わりの時点で画像サイズが変化することをEITから判別する。すると、主制御部101は、EITから判別される変化後の画像サイズに対応した対応スクリプト112を作成する。
The
このように、第2の実施形態によれば、変化する画像サイズを予め予測し、予測した画像サイズについてのみ、対応スクリプト112を作成するので、対応スクリプト112を記憶するためのメモリ容量に制限がある場合に有効に作用する。
As described above, according to the second embodiment, the changing image size is predicted in advance, and the
[第3の実施形態]
上記各実施形態は、入力されたフレームの画像の画像サイズが、入力されたフレームの直前のフレームの画像の画像サイズから変化しているケースが発生した場合には、対応スクリプト112を用いて対処していた。しかし、係るケースが発生した場合、変化前の画像サイズのフレームが再度入力されるまで、画像処理装置100による動画像再生処理を中断させておいても良い。この場合、対応スクリプト112を用いることはない。また、係るケースが発生した場合、変化前の画像サイズのフレームが再度入力されるまで、ディスプレイ104の表示画面上に、待機中を示すメッセージを表示させても良い。
[Third Embodiment]
In each of the embodiments described above, when a case occurs in which the image size of the image of the input frame is changed from the image size of the image of the frame immediately before the input frame, the
このように、係るケースが発生した場合には、対応スクリプト112を用いずに、動画像再生処理を待機させても良い。待機中にどのような動作を行うのかについては特に限定するものではない。
Thus, when such a case occurs, the moving image reproduction process may be waited without using the
[第4の実施形態]
図1に示した映像デコード部102、映像変換部103は専用ハードウェアでもって構成しても良いが、それぞれの機能を主制御部101に実現させるためのコンピュータプログラムの形態でもって構成しても良い。この場合、画像処理装置100には、一般のPC(パーソナルコンピュータ)を適用することができる。
[Fourth Embodiment]
The
図7は、画像処理装置100に適用可能なコンピュータのハードウェア構成例を示すブロック図である。
FIG. 7 is a block diagram illustrating a hardware configuration example of a computer applicable to the
CPU701は、RAM702やROM703に格納されているプログラムやデータを用いて、コンピュータ全体の制御を行うと共に、画像処理装置100が行うものとして説明した上述の各種の処理を行う。即ち、本コンピュータを画像処理装置100に適用した場合、CPU701は、主制御部101に相当する。従って、CPU701内のメモリには、映像変換スクリプト111、対応スクリプト112が格納されていることになる。
The
RAM702は、外部記憶装置706からロードされたプログラムやデータ、I/F(インターフェース)707を介して外部から受信したデータ(例えば、動画像ストリームのデータ)を一時的に記憶するためのエリアを有する。更に、RAM702は、CPU701が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM702は、各種のエリアを適宜提供することができる。即ち、本コンピュータを画像処理装置100に適用した場合、RAM702は、メモリ113に相当する。
The
ROM703には、ブートプログラムや、コンピュータの設定データなどが格納されている。
The
操作部704は、キーボードやマウスなどにより構成されており、本コンピュータの操作者が操作することで、各種の指示をCPU701に対して入力することができる。
The
表示部705は、CRTや液晶画面などにより構成されており、CPU701による処理結果を画像や文字などでもって表示することができる。即ち、本コンピュータを画像処理装置100に適用した場合、表示部705は、ディスプレイ104に相当する。
The
外部記憶装置706は、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置706には、OS(オペレーティングシステム)や、映像デコード部102、映像変換部103の機能をCPU701に実行させるためのコンピュータプログラム等、上記説明において用いた様々なデータが保存されている。また、映像変換スクリプト111、対応スクリプト112のそれぞれを外部記憶装置706に保存させるようにしても良い。また、RAM702に格納するものとして説明した情報の一部若しくは全部を外部記憶装置706に保存させるようにしても良い。
The
外部記憶装置706に保存されているプログラムやデータは、CPU701による制御に従って適宜RAM702にロードされ、CPU701による処理対象となる。
Programs and data stored in the
I/F707は、動画像ストリームのデータを送信する装置と接続するためのもので、係る装置から送出された動画像ストリームのデータは、このI/F707を介してRAM702や外部記憶装置706に入力される。もちろん、I/F707に接続する為の装置についてはこれに限定するものではなく、本コンピュータにて再生する動画像を表示するための装置をこのI/F707に接続しても良い。この場合、ディスプレイ104に表示するものとして説明した情報を、I/F707を介して外部の装置に出力することになる。
The I /
[その他の実施形態]
また、本発明の目的は、以下のようにすることによって達成されることはいうまでもない。即ち、前述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。係る記憶媒体は言うまでもなく、コンピュータ読み取り可能な記憶媒体である。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
[Other Embodiments]
Needless to say, the object of the present invention can be achieved as follows. That is, a recording medium (or storage medium) that records a program code (computer program) of software that implements the functions of the above-described embodiments is supplied to the system or apparatus. Needless to say, such a storage medium is a computer-readable storage medium. Then, the computer (or CPU or MPU) of the system or apparatus reads and executes the program code stored in the recording medium. In this case, the program code itself read from the recording medium realizes the functions of the above-described embodiment, and the recording medium on which the program code is recorded constitutes the present invention.
また、コンピュータが読み出したプログラムコードを実行することにより、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, by executing the program code read by the computer, an operating system (OS) or the like running on the computer performs part or all of the actual processing based on the instruction of the program code. Needless to say, the process includes the case where the functions of the above-described embodiments are realized.
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Furthermore, it is assumed that the program code read from the recording medium is written in a memory provided in a function expansion card inserted into the computer or a function expansion unit connected to the computer. After that, based on the instruction of the program code, the CPU included in the function expansion card or function expansion unit performs part or all of the actual processing, and the function of the above-described embodiment is realized by the processing. Needless to say.
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。 When the present invention is applied to the recording medium, program code corresponding to the flowchart described above is stored in the recording medium.
Claims (8)
処理対象フレームの画像サイズが、該処理対象フレームの直前のフレームの画像サイズと異なる場合にのみ該処理対象フレームに対して適用される第2のスクリプトであって、該処理対象フレームの画像中の前記指定領域に相当する領域を指定するための領域情報が、該処理対象フレームの画像が取りうる画像サイズ毎に記述されている前記第2のスクリプトを保持する手段と、
前記動画像を構成する各フレームの画像を入力する手段と、
入力されたフレームの画像の画像サイズが、該入力されたフレームの直前のフレームの画像の画像サイズから変化しているか否かを判断する判断手段と、
前記判断手段が変化していないと判断した場合には、前記入力されたフレームから前記指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行い、
前記判断手段が変化していると判断した場合には、前記入力されたフレームの画像の画像サイズに対応する領域情報を前記第2のスクリプトから特定し、該特定した領域情報が示す前記入力されたフレームの画像中の領域を前記指定領域として設定し、該設定した指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行う処理手段と、
前記処理手段による処理済みの画像を出力する手段と
を備えることを特徴とする画像処理装置。 Means for holding a first script describing processing contents to be performed on a partial image in a specified area of the image in each frame image constituting the moving image;
Image size of the processing target frame, a second script to be applied to the processing target frame only when different from the image size of the previous frame of the processing target frame, in the image of the processing target frame Means for holding the second script in which area information for designating an area corresponding to the designated area is described for each image size that can be taken by the image of the processing target frame;
Means for inputting an image of each frame constituting the moving image;
Image size of the input frame image, determination means for determining whether changes from the image size of the image of the frame immediately before the frame that is the input,
If it is determined that the determination means has not changed, a partial image in the designated area is extracted from the input frame, and the extracted partial image is described in the first script. Process the processing contents,
If it is determined that the determination means has changed, region information corresponding to the image size of the image of the input frame is specified from the second script, and the input that the specified region information indicates is input. An area in the image of the selected frame is set as the specified area, a partial image in the set specified area is extracted, and processing of the processing content described in the first script is performed on the extracted partial image Processing means for performing
An image processing apparatus comprising: means for outputting an image processed by the processing means.
前記判断手段が変化していないと判断した場合には、前記入力されたフレームから前記指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述されている縮小率に応じた縮小処理を行う、ことを特徴とする請求項2に記載の画像処理装置。 The processing means includes
If it is determined that the determination means has not changed, a partial image in the designated area is extracted from the input frame, and the extracted partial image is described in the first script. The image processing apparatus according to claim 2, wherein a reduction process is performed according to a reduction ratio.
前記判断手段が変化していると判断した場合には、前記処理手段による動作を待機させる手段を備えることを特徴とする請求項1に記載の画像処理装置。 Furthermore,
The image processing apparatus according to claim 1, further comprising: a unit that waits for an operation performed by the processing unit when it is determined that the determination unit has changed.
前記画像処理装置の第1の保持手段が、動画像を構成する各フレームの画像において、該画像の指定領域内の部分画像に対して行う処理内容を記述した第1のスクリプトを保持する工程と、
前記画像処理装置の第2の保持手段が、処理対象フレームの画像サイズが、該処理対象フレームの直前のフレームの画像サイズと異なる場合にのみ該処理対象フレームに対して適用される第2のスクリプトであって、該処理対象フレームの画像中の前記指定領域に相当する領域を指定するための領域情報が、該処理対象フレームの画像が取りうる画像サイズ毎に記述されている前記第2のスクリプトを保持する工程と、
前記画像処理装置の入力手段が、前記動画像を構成する各フレームの画像を入力する工程と、
前記画像処理装置の判断手段が、入力されたフレームの画像の画像サイズが、該入力されたフレームの直前のフレームの画像の画像サイズから変化しているか否かを判断する判断工程と、
前記画像処理装置の処理手段が、前記判断工程において、変化していないと判断した場合には、前記入力されたフレームから前記指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行い、
前記画像処理装置の処理手段が、前記判断工程において、変化していると判断した場合には、前記入力されたフレームの画像の画像サイズに対応する領域情報を前記第2のスクリプトから特定し、該特定した領域情報が示す前記入力されたフレームの画像中の領域を前記指定領域として設定し、該設定した指定領域内の部分画像を抽出し、該抽出した部分画像に対して、前記第1のスクリプトに記述された処理内容の処理を行う処理工程と、
前記画像処理装置の出力手段が、前記処理工程による処理済みの画像を出力する工程と
を備えることを特徴とする画像処理方法。 An image processing method performed by an image processing apparatus,
A first holding unit of the image processing apparatus holding a first script describing a processing content to be performed on a partial image in a specified region of the image in each frame image constituting the moving image; ,
Second holding means of the image processing apparatus, an image size of the processing target frame, a second script to be applied to the processing target frame only when different from the image size of the previous frame of the frame to be processed The second script in which region information for designating a region corresponding to the designated region in the image of the processing target frame is described for each image size that can be taken by the image of the processing target frame Holding the
An input unit of the image processing apparatus inputs an image of each frame constituting the moving image;
Determination means of the image processing apparatus, an image size of the input frame image, a determination step of determining whether or not change from image size of the image of the frame immediately before the frame that is the input,
If the processing means of the image processing apparatus determines that there is no change in the determination step, the partial image in the designated area is extracted from the input frame, and the extracted partial image , Processing the processing content described in the first script,
If the processing means of the image processing apparatus determines that the change has occurred in the determination step, the area information corresponding to the image size of the image of the input frame is specified from the second script, An area in the image of the input frame indicated by the specified area information is set as the specified area, a partial image in the set specified area is extracted, and the first image is extracted from the extracted partial image. Processing steps for processing the processing contents described in the script of
An image processing method comprising: an output unit of the image processing apparatus including a step of outputting an image processed by the processing step.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008119983A JP5180667B2 (en) | 2008-05-01 | 2008-05-01 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008119983A JP5180667B2 (en) | 2008-05-01 | 2008-05-01 | Image processing apparatus and image processing method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2009272777A JP2009272777A (en) | 2009-11-19 |
JP2009272777A5 JP2009272777A5 (en) | 2011-06-16 |
JP5180667B2 true JP5180667B2 (en) | 2013-04-10 |
Family
ID=41438961
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008119983A Expired - Fee Related JP5180667B2 (en) | 2008-05-01 | 2008-05-01 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5180667B2 (en) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004187110A (en) * | 2002-12-05 | 2004-07-02 | Matsushita Electric Ind Co Ltd | Method of displaying and controlling video and video display device |
-
2008
- 2008-05-01 JP JP2008119983A patent/JP5180667B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009272777A (en) | 2009-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5108877B2 (en) | Display device | |
JP4411310B2 (en) | Information processing apparatus and program | |
JP5008431B2 (en) | Image processing apparatus and image processing method | |
JP2007258873A (en) | Reproducer and reproducing method | |
JP2005341132A (en) | Video data processor and processing method | |
JP2010028224A (en) | Video processing apparatus | |
US8787466B2 (en) | Video playback device, computer readable medium and video playback method | |
US6335764B1 (en) | Video output apparatus | |
JP5180667B2 (en) | Image processing apparatus and image processing method | |
US20090080802A1 (en) | Information processing apparatus and method for generating composite image | |
KR20100135131A (en) | Method of processing image in a display apparatus and the display apparatus | |
JP2007312183A (en) | Image display apparatus | |
JP5139399B2 (en) | REPRODUCTION DEVICE AND REPRODUCTION DEVICE CONTROL METHOD | |
JP2009010626A (en) | Image processing device and image processing method | |
JP4534205B2 (en) | Image display device | |
JP5014238B2 (en) | Image display device and control method thereof | |
JP2003009074A (en) | Device and method for editing animation | |
JP2000278644A (en) | Nonlinear video edit device and its method | |
JP4960321B2 (en) | REPRODUCTION DEVICE AND REPRODUCTION DEVICE CONTROL METHOD | |
TWI317229B (en) | ||
JP2009175467A (en) | Recording and reproducing device, and program | |
KR101765133B1 (en) | Method of producing animated image of mobile app, computer program and mobile device executing thereof | |
JP5153192B2 (en) | Image processing apparatus, image processing method, and program | |
JP4916418B2 (en) | Image editing apparatus, image editing method and program | |
JP2002142215A (en) | Moving image data compression/decompression method, device and information recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110427 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120918 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130111 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5180667 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160118 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |