JP3906031B2 - 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム - Google Patents

動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP3906031B2
JP3906031B2 JP2001024479A JP2001024479A JP3906031B2 JP 3906031 B2 JP3906031 B2 JP 3906031B2 JP 2001024479 A JP2001024479 A JP 2001024479A JP 2001024479 A JP2001024479 A JP 2001024479A JP 3906031 B2 JP3906031 B2 JP 3906031B2
Authority
JP
Japan
Prior art keywords
window
moving image
shape
frame
software
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001024479A
Other languages
English (en)
Other versions
JP2002229767A (ja
Inventor
達也 是津
徹 今井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2001024479A priority Critical patent/JP3906031B2/ja
Priority to US10/055,952 priority patent/US20020101925A1/en
Priority to EP02250668A priority patent/EP1229512A3/en
Publication of JP2002229767A publication Critical patent/JP2002229767A/ja
Application granted granted Critical
Publication of JP3906031B2 publication Critical patent/JP3906031B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • G09G2340/125Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Digital Computer Display Output (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Generation (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ウィンドウシステムが管理するウィンドウにおいて動作するソフトウェアに基づく表示に動画像を重ねて表示することで動画像再生を行う動画像再生方法及び装置に関する。
【0002】
【従来の技術】
文字、静止画及び動画像などの複数のメディアからなる文書を表示し、ユーザの入力に対話的に応答する装置が開発されている。例えば、HTML(HyperText Markup Language)は、WWW(World Wide Web)で提供する文書を記述する形式として広く用いられており、このようなHTML文書を表示するソフトウェアであるウェブブラウザが開発されている。
【0003】
HTMLは、CSS(Cascading Style Sheets)を併用することによって、文書の構成要素の配置を指定することができる。例えば、文字や静止画などの文書の個々の構成要素について表示位置や大きさを設定することができ、これらの構成要素を重ね合わせて表示することも可能である。
【0004】
ウェブブラウザに標準で表示機能が搭載されていない形式で提供されるメディアを表示するために、ウェブブラウザにはプラグインと呼ばれる、ソフトウェアを追加する機能がある。プラグインを用いることによって、プラグインを起動するソフトウェアでは対応していない符号化方法や伝送方式を持つ動画像を再生することが可能である。プラグインは、これが組み込まれるソフトウェアの機能を拡張するために一般に用いられている手法であり、ソフトウェアが描画する画像の所定の領域に、そのソフトウェアが対応していない種類のデータを描画させることができる。
【0005】
【発明が解決しようとする課題】
あるウィンドウに表示を行うソフトウェアAがプラグインBを起動し、プラグインBがソフトウェアAによる表示に重ねて表示を行う方法としては、(a)ソフトウェアAが表示を行うウィンドウにプラグインBが直接描画を行う方法と、(b)ソフトウェアAが表示を行うウィンドウの直接または間接に子に当たるウィンドウをソフトウェアAが生成し、その子ウィンドウをプラグインBが描画を行う領域として割り当てる方法が知られている。これらの方法においては、プラグインBによる表示の形状が変化したり、矩形でない任意の形状をとる場合に、表示が乱れるという問題がある。
【0006】
まず、ソフトウェアAが表示を行うウィンドウにプラグインBが直接描画する(a)の方法では、プラグインBにより動画像を再生する場合に、動画像の再生に伴って動画像のフレーム毎の形状が変化すると、ソフトウェアAによる表示が形状の変化する動画像の表示によって乱されてしまう。すなわち、動画像の形状が変化すると、動画像の形状変化前の既に描画した画像の一部が形状変化後のフレームの範囲を外れた場合でも、その既に描画した画像は新たな画像によって上書きされずに表示が一部残り、ソフトウェアAによる表示を上書きしたままの状態になる。
【0007】
ソフトウェアAが生成した子ウィンドウにプラグインBが描画を行う(b)の方法では、プラグインBに割り当てた子ウィンドウによって、ソフトウェアAが描画を行うウィンドウの表示を隠すことで、動画像を重ね合わせて表示する。この方法では、プラグインBの描画するウィンドウは矩形しか利用できない。すなわち、プラグインBがウィンドウの形状を非矩形に設定しても、ソフトウェアAはプラグインBによるウィンドウの配置を変更する時や、ソフトウェアAが描画を行うウィンドウのサイズを変更する時に、プラグインBに割り当てたウィンドウの形状を矩形に戻す場合があり、動画像再生を一時停止している際に動画像を正しく表示することができなかった。
【0008】
これらの問題を避けるために、ソフトウェアAが描画するウィンドウと親子関係にない独立したウィンドウをプラグインBの表示画面とする方法がある。しかし、この方法ではプラグインBによる表示をソフトウェアAによる表示の動きと連動して変化させることが不可能である。例えば、ソフトウェアAに基づくウィンドウの表示領域に他のソフトウェアに基づくウィンドウが重なったり、ソフトウェアAに基づくウィンドウがスクロールしたりすることによって、プラグインBに基づく表示の一部または全体が隠されるべき場合でも、隠されるべき部分に動画像が表示されたままとなってしまう。また、ソフトウェアAによるウィンドウの位置やサイズが変化した場合に、プラグインBによる表示が適切に変化しないという問題があった。
【0009】
本発明は、上記のような問題点を解消し、ウィンドウシステムが管理するウィンドウ内で実行されるソフトウェアに基づく表示を乱すことなく、この表示に重ねて形状の変化を伴ったり、任意の形状を有する動画像を適切に表示再生できる動画像再生方法及び装置を提供することを目的とする。
【0010】
また、動画像が表示再生される対象のウィンドウの位置及びサイズ等の変化やスクロールに応じて動画像の表示を適切に変化させることができる動画像再生方法及び装置を提供することを目的とする。
【0011】
【課題を解決するための手段】
上記の課題を解決するため、本発明は所定のソフトウェアに基づく表示を行う第1のウィンドウ内で該ソフトウェアに基づく表示に重ねて一連の複数フレームの画像からなる動画像を表示して動画像の再生を行う動画像再生方法において、第1のウィンドウの子ウィンドウである第2のウィンドウに動画像のフレーム毎の形状を設定し、第2のウィンドウの子ウィンドウである第3のウィンドウに該形状が設定されたフレームの画像を描画することを特徴とする。
【0012】
また、本発明は所定のソフトウェアに基づく表示を行う第1のウィンドウ内で、該ソフトウェアに基づく表示に重ねて一連の複数フレームの画像からなる動画像を表示して動画像再生を行う動画像再生装置において、動画像のフレーム毎の形状情報及び色情報を入力する入力部と、入力された形状情報に基づき第1のウィンドウの子ウィンドウである第2のウィンドウに、動画像再生装置が再生すべき動画像の形状を設定する形状設定部と、入力された色情報に基づき第2のウィンドウの子ウィンドウである第3のウィンドウに、形状が設定されたフレームの画像を描画する描画部と、第1、第2及び第3のウィンドウを管理するウィンドウシステムからのメッセージに従って、形状設定部に対する形状の設定の指示及び描画部に対する描画の指示を行う制御部とを具備することを特徴とする。
【0013】
動画像再生時には、制御部は形状設定部に対して形状の設定を指示し、その後にウィンドウシステムからのメッセージを受け取って、描画部に対して形状設定部により形状が設定されたフレームの画像の描画を指示する。
また、動画像再生の一時停止時には、制御部は形状設定部に対して形状の設定を指示し、ウィンドウシステムからのメッセージを待つことなく、描画部に対して形状設定部により形状が設定されたフレームの画像の描画を指示する。
さらに、形状設定部は形状の設定後、第1のウィンドウに対する再描画をウィンドウシステムに指示する。
このようにすることにより、形状の変化する動画像の再生及び一時停止において、動画像や動画像を重ねる第1のウィンドウ上の表示を乱すことなく、良好な動画像再生が可能となる。
【0014】
また、制御部は第3のウィンドウの左上端の座標について第2のウィンドウの左上端からの相対座標を算出し、形状設定部が第2のウィンドウに動画像のフレーム毎の形状を設定する際の基準座標とする。これにより動画像を重ねる対象であるウィンドウがスクロールした場合でも、動画像を正しい位置及び形状で表示することが可能である。
【0015】
さらに、本発明によると上述した動画像再生処理をコンピュータに実行させるためのプログラム、あるいは該プログラムを格納したコンピュータ読み取り可能な記録媒体を提供することもできる。
【0016】
【発明の実施の形態】
以下、本発明の実施の形態を説明する。
図1は、本発明の一実施形態に係る動画像再生装置の構成を示している。この動画像再生装置1は、ウィンドウシステム11、動画像入力部12、動画像復号部13、形状設定部14、描画部15及び制御部16から構成される。動画像再生装置1の外部には、CRTディスプレイや液晶ディスプレイのような表示装置2と、マウスやキーボードのような入力装置3が接続されている。動画像再生装置1の各部は、以下のように構成される。
【0017】
ウィンドウシステム11は、後述する第1〜第3のウィンドウを含む複数のウィンドウの管理を行い、さらに表示装置2に各ウィンドウの画面情報を出力し、入力装置3からの入力を所定のウィンドウに通知する機能を有する。ウィンドウシステム11は、複数のウィンドウを表示する場合、それらを重ねて表示することが可能である。ウィンドウシステム11はプロセッサ、メモリ及びグラフィックカード等の部品を含むハードウェア及びそのハードウェア上で実行されるソフトウェアによって構成される。
【0018】
動画像入力部12は、本実施形態では一連の複数フレームからなる動画像データをMPEG−4方式その他の動画像符号化形式で符号化して得られた動画像符号化データを入力する。動画像データは、RGBやYUV等の複数の色成分からなる一連の複数フレームの静止画の集合であってもよい。動画像入力部12は、具体的には例えばハードディスク、DVDその他の記録媒体に記録された動画像符号化データを読み込んだり、あるいは動画像再生装置1の外部に接続されたネットワークと通信を行ったりすることにより動画像符号化データを取得する。
【0019】
動画像復号部13は、動画像入力部12によって入力された動画像符号化データを復号し、動画像のフレーム毎の形状情報と色情報を取得する。形状情報は、例えば動画像を構成する各フレームの画像の画素位置の情報と、各画素が透明か不透明かを示す情報から構成される。色情報は、例えば各フレームの画像の画素位置の情報と、各画素の色を示す情報から構成される。各フレームの画像の画素位置の情報は、例えば後述するように画像の形状を座標によって指定することができ、例えばある基準座標に対する画像の縦横の画素数によって表すことができる。このように形状情報及び色情報を定めた場合、動画像を構成する各フレームの画像の形状は、形状情報中の不透明を示す情報の画素位置によって決定され、また形状情報に従って不透明とされた画素位置の色情報の画素の色に従って描画が行われる。
【0020】
なお、動画像入力部12が動画像の形状情報と色情報を入力するものであってもよく、あるいは復号後または圧縮されていない動画像データを入力し、この動画像データから形状情報と色情報を生成して出力する機能を有していてもい。これらの場合、動画像復号部13は不要である。
【0021】
形状設定部14は、ウィンドウシステム11に指示を出すことにより、動画像復号部13から入力された形状情報に基づき、制御部16によって指定された第2のウィンドウに対して動画像のフレーム毎の形状を設定する。
【0022】
描画部15は、ウィンドウシステム11に指示を出すことにより、動画像復号部13から入力された色情報に基づき、形状設定部14によって形状が設定されたフレームの画像を制御部16によって指定された第3のウィンドウに描画する。
【0023】
制御部16は、動画像復号部13、形状設定部14及び描画部15に指示を出すことによって動画像の再生を制御する。具体的には、制御部16は形状設定部14に動画像の形状を設定すべき第2のウィンドウを指定し、さらに描画部15に動画像を描画すべき第3のウィンドウを指定する。また、制御部16はウィンドウシステム11から第3のウィンドウに関するメッセージを受け取って処理を行う。
【0024】
上述した動画入力部12、動画像復号部13、形状設定部14、描画部15及び制御部16は、プロセッサとメモリ等の部品を含むハードウェア及びその上で実行されるソフトウェアによって構成される。動画入力部12には必要に応じて記録媒体及び読み出し装置や、ネットワークインタフェースを備えることができる。ウィンドウシステム11は、これら動画像再生装置1内の他の構成要素と同一の装置に搭載することも、別の装置に搭載することも可能である。
【0025】
次に、本実施形態の動画像再生装置1を使用して動画像の再生を行う動作について説明する。最初に、動画像を再生するためのウィンドウシステム11の使用方法について述べる。
【0026】
図2に、あるアプリケーションソフトウェア(ソフトウェアAとする)に基づく表示画面E21に、プラグインBによって再生される動画像を重ねて表示した様子を示す。表示画面E21は動画像表示E23を重ねる対象であり、その内容は文字や静止画によって構成される。
【0027】
矩形領域E22は、表示画面E21上のプラグインBによって再生される動画像の表示領域を示している。例えば、表示画面E21上に表示されたHTML文書を構成する文字や静止画などの構成要素に動画像を重ねて配置する場合は、CSSを用いて動画像の表示領域である矩形領域E22の配置を指定すればよい。図2の例では、表示画面E21の左上端を基準座標(0,0)とし、この基準座標(0,0)から右にx画素目、下にy画素目の位置を左上端として幅w画素、高さh画素の大きさの矩形領域E22を配置している。なお、(a,b)と記載した場合、aは水平方向(左右方向)の座標値、bは垂直方向(上下方向)の座標値を表すものとする。
【0028】
本実施形態によると、動画像表示E23では、表示画面E21上のソフトウェアAに基づく表示に重ねて、矩形領域E22内で動画像が表示される。この動画像表示E23は、動画像の再生に伴ってフレーム毎の動画像の形状及び描画内容が変化する。図2の例では、動画像表示E23は非矩形(例えば楕円)となっている。動画像表示E23の範囲は、矩形領域E22の範囲内に限定される。表示画面E21のうち、矩形領域E22の外側の領域と、矩形領域E22に属しかつ動画像表示E23の動画像の形状の外側に属する領域は、ソフトウェアAに基づく内容(文字や静止画など)が表示される。動画像の再生により動画像の形状が変化するのに伴い、動画像表示E23の領域と表示画面E21のソフトウェアAに基づく内容が表示される領域は、時間と共に変化する。
【0029】
ソフトウェアAは、上述のように表示画面E21を描画する。さらに、ソフトウェアAは動画像を再生するためにプラグインBを起動し、矩形領域E22をプラグインBに基づく描画領域と規定する。プラグインBは、動画像表示E23の形状設定と描画を行う。なお、ソフトウェアA及びプラグインBは、動画像再生装置1を構成するハードウェア上で、動画像再生装置1の構成要素と同様に実行されることが可能である。
【0030】
一般に、ウィンドウシステム上で動作するソフトウェアにおいては、そのソフトウェアにウィンドウが割り当てられ、そのウィンドウに描画することによって表示を行うことが可能である。ウィンドウシステムにおいては、ユーザによる入力操作等により、ウィンドウを所有するソフトウェアの実行以外の要因によって、ウィンドウの移動、拡大縮小、及び他のウィンドウとの重ね合わせ順位の変動が発生する。このような場合にも、動画像表示E23は表示画面E21の一部として表示されなければならない。
【0031】
ウィンドウシステムにおいては、以下のように複数のウィンドウに親子関係を持たせる機能が存在する。子ウィンドウの表示領域は、基本的に親ウィンドウの表示領域の範囲内に限定される。子ウィンドウは親ウィンドウの内に完全に含まれる必要はなく、要するに子ウィンドウの表示領域が親ウィンドウの表示領域に含まれれていればよい。子ウィンドウの描画は、親ウィンドウのうち子ウィンドウと同一位置(座標)の描画内容を上書きして行われる。親ウィンドウが移動した場合は、子ウィンドウも親ウィンドウとの相対位置を保ったまま、連動して移動する。親ウィンドウが親子関係にない他のウィンドウに隠された場合には、子ウィンドウも同様に、他のウィンドウに隠される。
【0032】
本実施形態におけるウィンドウシステム11も、上述した機能を有する。ウィンドウシステム11を用いて動画像を表示するために、本実施形態では図3のように3つのウィンドウE31,E32,E33を使用する。第1のウィンドウE31に対しては、ソフトウェアAが図2の表示画面E21の内容を描画する。第2のウィンドウE32は、第1のウィンドウE31の子ウィンドウである。第3のウィンドウE33は、第2のウィンドウE32の子ウィンドウである。第2のウィンドウE32は、ソフトウェアAによって生成され、プラグインBに割り当てられる。第3のウィンドウE33については、ソフトウェアA及びプラグインBのいずれによっても生成することが可能である。
【0033】
図3において、動画像が表示される領域は第2のウィンドウE32の領域と第3のウィンドウE33の領域との積集合であり、さらに第1のウィンドウE31の領域との積集合をとった領域である。これにより動画像が表示される領域は、第2のウィンドウE32で示される非矩形の形状になる。動画像の色情報は、第2のウィンドウE32の動画像表示領域内で、かつ第3のウィンドウE33上に描画される。第3のウィンドウE33に対する描画内容は、第2のウィンドウE32の動画像表示領域内のみが表示され、動画像表示領域外、つまり動画像の形状の範囲外については、ウィンドウシステム11によって描画はなされず、第1のウィンドウE31の本来の描画内容が表示される。この結果、第1、第2及び第3のウィンドウE31,E32,E33は、ウィンドウシステム11によってそれぞれ図2のE21,E22,E23のように表示装置3上で表示される。
【0034】
ここで、再生すべき動画像のフレーム毎の形状が変化した場合には、第2のウィンドウE32の形状が変化することにより、その動画像の形状変化が動画像の表示に反映される。表示すべき動画像の色情報が変化した場合には、第3のウィンドウE33がその色情報に従って再描画されることにより、色情報の変化が動画像の表示に反映される。
【0035】
このように本実施形態では、再生すべき動画像のフレーム毎に、動画像を重ねて表示する対象である第1のウィンドウE31の子ウィンドウである第1のウィンドウE32上に動画像のフレーム毎の形状を設定し、第1のウィンドウE32の子ウィンドウである第3のウィンドウE33上に、第2のウィンドウE32に形状が設定された各フレームの画像を描画する。
【0036】
これにより本実施形態によると、動画像の形状変化に対しても、あるいは動画像が非矩形の形状であっても、第1のウィンドウE31上のソフトウェアAに基づく表示を乱すことなく、この表示の上に動画像を正しく表示再生することができる。また、ソフトウェアAに基づく第1のウィンドウE31の表示画面がスクロールするような場合であっても、動画像の表示を適切に行うことが可能である。以下、これらの効果について詳細に説明する。
【0037】
次に、図3のウィンドウ構成において動画像を再生するための具体的な処理手順について図4を参照して説明する。
最初に、動画像を再生するための初期化処理を行う。初期化処理に際して、制御部16はウィンドウシステム11から動画像のフレーム毎の形状設定及び描画を行うための第2のウィンドウE32及び第3のウィンドウE33に関する情報を取得する。これら第1及び第2のウィンドウE32,E33がソフトウェアAからプラグインBに割り当てられない場合は、制御部16がウィンドウシステム11にウィンドウE32,E33を生成させることによって、それらのウィンドウの情報を取得する。
【0038】
制御部16は、引き続き動画像復号部13に対して動画像を再生するための準備を指示する。この指示を受けて、動画像復号部13は動画入力部12から再生すべき動画像の符号化データを取得し、さらに符号化方式、画素数及びフレーム数など再生に必要な情報を取得して解析する。
【0039】
上述した初期化処理が完了すると、制御部16は図4に示す処理を行う。最初に、再生すべき動画像のフレームの画像を描画対象のウィンドウである第3のウィンドウE33上に描画させるための指示をウィンドウシステム11に出す(ステップS41)。動画像の再生を指示してから最初にステップS41の処理を実行する場合は、先頭フレームの画像を第3のウィンドウE33上に描画する旨の指示をウィンドウシステム11に出す。
【0040】
次に、制御部16はステップS41で画像の描画を指示したフレームの表示時間後にタイマーが呼び出されるようにウィンドウシステム11に指示を出し、そのタイマー呼び出しを登録させる(ステップS42)。タイマーが一定周期で繰り返し呼び出しを行う機能を備えており、かつフレームの表示時間がすべて等しい場合は、一度タイマーを設定すると再生が行われている間は再設定する必要はない。
【0041】
次に、制御部16は必要に応じてタイマー呼び出しと平行して、再生すべき動画像のフレームの動画像符号化データの取得を動画入力部12に行わせるように、動画像復号部13に指示を出す(ステップS43)。動画像符号化データの取得をこの時点ではなく、以下のように動画像復号部13が動画像符号化データから動画像のフレーム毎の形状と色情報を復号する時点で行うようにしてもよい。
【0042】
例えば、動画像入力部12が動画像再生装置1の外部に接続されたネットワークから動画像符号化データを受信する場合は、再生すべきフレームの動画像を再生するために最低限必要な動画像符号化データの受信が完了するのを待つ。動画像符号化データが動画像再生装置1に搭載された記録媒体に保存されている場合は、記録媒体から表示すべきフレームの動画像符号化データを読み出す。
【0043】
次に、ウィンドウシステム11からのタイマー呼び出しを待ち(ステップS44)、タイマー呼び出しがあると動画像を再生すべきフレームの番号を更新する(ステップS45)。このステップS45では、動画像を再生すべきフレームの画像再生及び動画像符号化データの取得がフレームの表示時間通り行われている場合は、ステップS44でタイマー呼び出しがあると、動画像を再生すべきフレームの番号を一つ先のフレームの番号に進める。
【0044】
動画像符号化データをネットワークから受信して取得する場合に、すべてのフレームのデータを受信するために十分な通信容量が確保できない場合は、動画像再生の実時間性を重視するためにフレーム番号を不連続に進め、最新のフレームの番号に更新してもよい。
【0045】
ステップS45の処理が完了すると、ステップS41に戻り、第3のウィンドウE33に対して動画像を表示すべきフレームの画像を描画するように指示を出し、以下同様の処理を繰り返す。
【0046】
このように再生すべき動画像のフレームを動画像符号化データで規定されるフレームの表示時間毎に更新することによって、動画像を再生することが可能である。動画像再生を一時停止している場合、または再生を終了した場合は、図4の処理は行わない。
【0047】
次に、制御部16がウィンドウシステム11から通知されたメッセージを処理する手順について、図5を用いて説明する。
【0048】
まず、ステップS51において、制御部16はウィンドウシステム11からメッセージが通知されるのを待ち、通知されたメッセージの種類に応じて以下のステップS52〜S55の処理を実行する。
【0049】
ステップS52において、制御部16がウィンドウを閉じるメッセージを受信した場合は、制御部16は処理を終了する。このとき制御部16が図4の処理を実行している場合でも、制御部16は処理を終了する。
【0050】
ステップS53において、制御部16が第3のウィンドウE33への描画を指示する描画指示メッセージを受信した場合は、制御部16はステップS54に進み描画処理を行う。このウィンドウE33に対する描画指示メッセージは、図4のステップS41の実行によって発生する場合と、ユーザの入力によるウィンドウの重ね合わせ順位の変更その他の理由でウィンドウシステム11が生成する場合がある。ステップS53において、受信した描画指示メッセージがウィンドウE33への描画指示以外のメッセージであった場合は、ステップS51に戻る。
【0051】
ステップS54において、動画像の再生中であった場合には、後に説明する図6のステップS61に進む。ステップS55において、動画像再生を一時停止している場合は、後に説明する図8のステップS81に進む。動画像の再生中でも一時停止中でもない場合、例えば初期状態または停止中の場合は、描画処理を行わずステップS51に戻る。
【0052】
次に、動画像の再生中における描画処理の具体的な手順について図6を用いて説明する。
図5のステップS54において動画像の再生中であった場合には、ステップS61において動画像のフレーム毎の形状が設定済みかどうかを判定する。例えば、図4のステップS41の描画指示によって動画像の新たなフレームの画像を第3のウィンドウE33上に描画する時点では、第2のウィンドウE32上に動画像のフレーム毎の形状はまだ設定されていない。このような場合、ステップS61からステップS62に進み、S62〜S64の処理によって第2のウィンドウE32上に動画像のフレーム毎の形状を設定する。
【0053】
まず、ステップS62において、形状設定部14が動画像復号部13から動画像のフレーム毎の形状情報を取得する。動画像復号部13は、動画入力部12から動画像符号化データを取得して動画像のフレーム毎の形状情報と色情報を復号し、これらをそれぞれ形状設定部14及び描画部15の要求に応じて返す。
【0054】
次に、ステップS63において、形状設定部14が動画像の形状を座標によって指定する場合の基準座標を取得する。通常の基準座標は(0,0)に固定されている。この基準座標を基に、形状設定部14は動画像のフレーム毎の形状情報をウィンドウシステム11が規定する形式に変換する。例えば、図7(a)の左上端(0の位置)である基準座標を(bx,by)として、図7(a)のE71で示す動画像のフレーム毎の形状の動画像を矩形の集合として表現すると、図7(b)に示す座標を持つ三個の矩形の和集合で表現される。図7(b)は、三個の矩形の各々の左上端及び右下端の座標を示している。
【0055】
次に、ステップS64において形状設定部14が図7(b)に示す座標の情報に基づき図7(a)の動画像の形状を第2のウィンドウE32の領域として設定する。この設定は、形状設定部14がウィンドウE32上に動画像のフレーム毎の形状を設定するようにウィンドウシステム11に指示を出すことによって行われる。
【0056】
次に、ステップS65において、形状設定部14は動画像を重ねる対象である第1のウィンドウE31への再描画の指示をウィンドウシステム11に対して出す。この指示を受けて、ウィンドウシステム11は第2のウィンドウE32上に形状設定部14により設定された形状の外側の領域において第1のウィンドウE31上にソフトウェアAに基づく描画(再描画)を行う。これによって、ソフトウェアAでは表示すべき動画像の形状が矩形であることを仮定している場合であっても、第1のウィンドウE31が動画像によって隠されない部分について、ソフトウェアAに基づく描画内容を正しく表示することができる。
【0057】
ステップS64で動画像の形状を設定すると、上述したステップS65の処理の後、図5のステップS51に進む。ステップS51に移ると、制御部16はウィンドウシステム11からの描画指示メッセージを再び受け取り、ステップS52〜S54の処理を経てステップS61の処理を実行する。表示する動画像の形状はステップS64により設定済みであるので、ステップS61からステップS66に移行する。
【0058】
ステップS66においては、描画部15が動画像復号部13から再生すべき動画像のフレームの色情報を取得し、その色情報を基に第3のウィンドウE33に描画するようにウィンドウシステム11に指示を出すことによって、ステップS64で動画像の形状が設定されたフレームの画像を色情報に従って描画する。
【0059】
このように本実施形態によると、動画像の再生時には制御部16が形状設定部14に対して動画像のフレーム毎の形状の設定を指示し、この指示に基づき形状設定部14がウィンドウシステム11を介して第2のウィンドウE32上に動画像のフレーム毎の形状を設定する。この後、制御部16がウィンドウシステム11から描画指示のメッセージを受け取って、描画部15に対して形状設定部14により動画像の形状が設定されたフレームの画像の描画を指示し、この指示に基づき描画部15がウィンドウシステム11を介して第3のウィンドウE33上に画像を描画する。このようにすることによって、動画像の描画対象である第1のウィンドウE31内のプログラムAに基づく表示に重ねて動画像を表示再生することが可能である。
【0060】
また、第2のウィンドウE32に対してフレーム毎の動画像の形状の設定した後、第1のウィンドウE31への再描画を行うことにより、動画像を重ねて表示する対象である、プログラムAに基づく表示を行う第1のウィンドウE31上の表示が乱れないようにすることが可能である。
【0061】
例えば、従来の技術のうちソフトウェアAが表示を行うウィンドウにプラグインBが上書きにより直接描画を行う(a)の方法では、プラグインBにより動画像を再生する場合に、動画像の再生に伴って動画像の形状が変化すると、ソフトウェアAによる表示が動画像の形状変化によって乱されてしまう場合があったが、本実施形態によると動画像の形状設定後に、第1のウィンドウE31上にソフトウェアAに基づく表示の再描画を行うことによって、このような問題を解決することができる。
【0062】
次に、動画像再生を一時停止している場合の動画像の表示方法について図8を用いて説明する。
制御部16が動画像の描画指示のメッセージをウィンドウシステム11から受信した際に、動画像再生を一時停止している場合には、処理は図5のステップS55から図8のステップS81へ移行する。ステップS81,S82,S83においては、図6のステップS62,S63,S64の処理と同様に、動画像再生を一時停止した時点での動画像の形状を設定する。
【0063】
ソフトウェアAは、動画像再生の一時停止時に第2のウィンドウE32の形状を矩形に戻す場合があるので、制御部16は形状設定部14に対して動画像の形状を設定する指示を与える必要がある。
【0064】
次に、ステップS84において形状設定部14が図6のステップS65と同様に、動画像を重ねる対象である第1のウィンドウE31への再描画の指示をウィンドウシステム11に対して出す。これにより動画像再生の一時停止時においても、ウィンドウE31の描画内容を正しく表示することができる。
【0065】
そして、この場合は先の動画像再生中と異なり、ウィンドウシステム11からのメッセージを待つことなく、ステップS85において図6のステップS66と同様に、描画部15が動画像復号部13から再生すべき動画像のフレームの色情報を取得し、その色情報を基に第3のウィンドウE33に描画するようにウィンドウシステム11に指示を出すことにより、ステップS83で動画像の形状が設定されたフレームの画像を色情報に従って描画する。
【0066】
このように本実施形態によると、動画像再生を一時停止している場合においても、以下のように動画像を正しく表示することが可能である。
例えば、従来の技術のうちソフトウェアAが生成した子ウィンドウにプラグインBが描画を行う(b)の方法では、プラグインBが子ウィンドウの形状を非矩形に設定しても、ソフトウェアAはプラグインBによるウィンドウの配置変更時やソフトウェアAによるウィンドウサイズの変更時に、プラグインBによるウィンドウの形状を矩形に戻す場合があるために、動画像再生を一時停止している際に動画像を正しく表示することができなかった。
【0067】
これに対して、本実施形態では動画像再生の一時停止時には、図8のステップS83で形状設定部14が第2のウィンドウE32上に動画像の形状を設定した後、図5のステップS51のウィンドウシステム11からのメッセージ待ち受け処理及びステップS53の描画指示メッセージの確認を行うことなく、ステップS84の第1のウィンドウE31への再描画指示を経て、直ちにステップS85において第3のウィンドウE33上に色情報を再描画することにより、動画像を正しく表示再生することができる。
【0068】
最後に、動画像を重ねる対象のウィンドウである第1のウィンドウがスクロールした場合に動画像の表示再生を正しく行う方法について、図9〜図11を用いて説明する。
図9に示すように、ソフトウェアAが描画を行い、かつ動画像を重ねる対象である表示E91の大きさが第1のウィンドウE92よりも大きい場合には、ウィンドウE92をスクロールさせることによって、表示E91の一部をウィンドウE92内に表示することが可能である。
【0069】
矩形領域E93は、プラグインBによって再生される動画像の表示領域を示している。表示E91の左上端である座標(0,0)を基準座標として、矩形領域E93は左上端が基準座標(0,0)から右にx画素目、下にy画素目の座標(x,y)の位置にあり、ここから右に幅w画素、下に高さh画素の大きさを有するものとする。
【0070】
第1のウィンドウE92をスクロールする際に、矩形領域E93は表示E91との相対位置を保ったままウィンドウE92上を相対的に移動する。動画像全体がウィンドウE92の外に出た場合には、図9(a)のようにウィンドウE92に動画像は表示されない。第1のウィンドウE92上に一部または全部が重なって動画像が存在する場合には、図9(b)に示すように動画像はウィンドウE92の範囲内にある部分のみが表示される。
【0071】
動画像のフレーム毎の形状が設定される第2のウィンドウ及び描画が行われる第3のウィンドウは、共に矩形領域E93に配置されているとする。ソフトウェアAが常に第1の表示E91の左上端の座標(0,0)である基準座標からの相対位置を(x,y)に保って第1のウィンドウE92を配置する場合には、動画像をウィンドウE92の適切な位置に表示することができる。
【0072】
本実施形態では、動画像を重ねる対象の第1のウィンドウE92上に動画像が配置されている場合に、動画像のフレーム毎の形状が設定される第2のウィンドウをウィンドウE92に収まる範囲に設定するソフトウェアが用意される。このソフトウェアは図10(a)に示すように、動画像を重ねる対象の表示E91の左上端の基準座標(0,0)に対して、描画が行われる第3のウィンドウE94の左上端を座標(x,y)に配置するように構成される。第3のウィンドウE94の幅をw画素、高さをh画素とすれば、このウィンドウE94の右下端は座標(x+w,y+h)に位置する。
【0073】
一方、このソフトウェアは図10(b)に示すように動画像のフレーム毎の形状が設定される第2のウィンドウE95については、左上端の座標を表示E91の左上端である基準座標(0,0)からの相対座標(sx,sy)とし、右下端の座標は第3のウィンドウE94と同じく座標(x+w,y+h)とする。このように第2のウィンドウE95の領域が第1のウィンドウE92の領域に包含されるように、相対座標(sx,sy)を設定する必要がある。
【0074】
そして、第2のウィンドウE95に動画像の形状を設定する際には、基準座標を描画が行われる第3のウィンドウE94の基準座標(0,0)と同じにせず、図11(a)に示すように(x−sx,y−sy)に設定する。言い換えれば、第3のウィンドウE94の左上端の座標(x,y)について、第2のウィンドウE95の左上端の座標(sx,sy)からの相対座標(x−sx,y−sy)を求め、この相対座標(x−sx,y−sy)を第2のウィンドウE95に対して動画像の形状を設定する際の基準座標とする。
【0075】
これによって動画像のフレーム毎の形状の設定と画像の描画を同一座標に重ね合わせ、第1のウィンドウE92がスクロールする場合でも、図11(b)に示すようにウィンドウE92内に動画像の一部を正しく表示することができる。また、第1のウィンドウE92がスクロールする場合のみでなく、ウィンドウE92の位置や大きさが変化する場合でも、同様にウィンドウE92内に動画像を表示することができる。
【0076】
図2及び図3に示したようなウィンドウの配置においてはsx=x,sy=yであり、基準座標は(0,0)であるので、この方法を適用することが可能である。
このように第1のウィンドウE92がスクロールしたり、ウィンドウE92の位置や大きさが変化する場合でも、動画像をウィンドウE92内の正しい位置に重ね合わせて表示することが可能である。
【0077】
上述した本発明による動画像再生処理は、例えばパーソナルコンピュータやEWS(エンジニアリングワークステーション)のようなコンピュータ、あるいは携帯通信端末に内蔵のコンピュータを用いてソフトウェアにより実行することが可能である。従って、本発明は上述した一連の動画像再生処理をコンピュータに実行させるためのプログラムあるいは当該プログラムを格納したコンピュータ読み取り可能な記録媒体を提供することもできる。
【0078】
【発明の効果】
以上説明したように、本発明によれば動画像を重ねる対象の第1のウィンドウの子ウィンドウに当たる第2のウィンドウに動画像のフレーム毎の形状を設定し、第2のウィンドウのさらに子ウィンドウに当たる第3のウィンドウに動画像の描画を行うことにより、第1のウィンドウの表示を乱すことなく、動画像のフレーム毎の形状が変化する動画像を第1のウィンドウ上の表示に重ねて適切に表示することができる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る動画像再生装置の構成を示すブロック図
【図2】同実施形態に係る動画像再生装置が出力する表示画面の一例を示す図
【図3】同実施形態に係る動画像再生装置が管理する第1〜第3のウィンドウの構成図
【図4】同実施形態における制御部の基本的な処理を示す流れ図
【図5】同実施形態における制御部のウィンドウシステムからのメッセージ処理を示す流れ図
【図6】同実施形態における通常の動画像再生時の制御部、形状設定部及び描画部の処理を示す流れ図
【図7】同実施形態において再生される動画像及びその動画像のフレーム毎の形状の一例を示す図
【図8】同実施形態における動画像再生一時停止時の制御部、形状設定部及び描画部の処理を示す流れ図
【図9】同実施形態におけるスクロール時の表示画面及びウィンドウの構成の一例を示す図
【図10】同実施形態におけるスクロール時の表示画面及びウィンドウの構成の一例を示す図
【図11】同実施形態におけるスクロール時の表示画面及びウィンドウの構成の一例を示す図
【符号の説明】
1…動画像再生装置
2…表示装置
3…入力装置
11…ウィンドウシステム
12…動画像入力部
13…動画像復号部
14…動画像のフレーム毎の形状設定部
15…描画部
16…制御部
E31,E92…第1のウィンドウ
E32,E95…第2のウィンドウ
E33,E94…第3のウィンドウ

Claims (4)

  1. 所定のソフトウェアに基づく表示を行う第1のウィンドウ内で、該ソフトウェアに基づく表示に重ねて一連の複数フレームの画像からなる動画像を表示して動画像再生を行う動画像再生装置において、
    前記動画像のフレーム毎の形状情報及び色情報を入力する入力部と、
    入力された形状情報に基づき前記第1のウィンドウの子ウィンドウである第2のウィンドウに、前記動画像再生装置が再生すべき動画像の形状を設定する形状設定部と、
    入力された色情報に基づき前記第2のウィンドウの子ウィンドウである第3のウィンドウに、前記形状が設定されたフレームの画像を描画する描画部と、
    前記第1、第2及び第3のウィンドウを管理するウィンドウシステムからのメッセージに従って、前記形状設定部に対する形状の設定の指示及び前記描画部に対する描画の指示を行う制御部とを具備し、
    前記形状設定部は、前記形状の設定後、前記第1のウィンドウに対する再描画を前記ウィンドウシステムに指示することを特徴とする動画像再生装置。
  2. 前記制御部は、動画像再生時に前記形状設定部に対して前記形状の設定を指示し、その後に前記ウィンドウシステムからのメッセージを受け取って、前記描画部に対して前記形状設定部により形状が設定されたフレームの画像の描画を指示することを特徴とする請求項に記載の動画像再生装置。
  3. 前記制御部は、動画像再生の一時停止時に前記形状設定部に対して前記形状の設定を指示し、前記ウィンドウシステムからのメッセージを待つことなく、前記描画部に対して前記形状設定部により形状が設定されたフレームの画像の描画を指示することを特徴とする請求項に記載の動画像再生装置。
  4. 所定のソフトウェアに基づく表示を行う第1のウィンドウ内で、該ソフトウェアに基づく表示に重ねて一連の複数フレームの画像からなる動画像を表示して動画像再生を行う動画像再生処理をコンピュータに実行させるためのプログラムであって、
    前記動画像のフレーム毎の形状情報及び色情報を入力する処理と、
    入力された形状情報に基づき前記第1のウィンドウの子ウィンドウである第2のウィンドウに、再生すべき動画像の形状を設定する処理と、
    入力された色情報に基づき前記第2のウィンドウの子ウィンドウである第3のウィンドウに、前記形状が設定されたフレームの画像を描画する処理と、
    前記第1、第2及び第3のウィンドウを管理するウィンドウシステムからのメッセージに従って、前記動画像の形状を設定する処理の指示及び前記描画する処理の指示を行う処理と
    前記形状の設定後、前記第1のウィンドウに対する再描画を前記ウィンドウシステムに指示する処理とを含む動画像再生処理をコンピュータに実行させるためのプログラム。
JP2001024479A 2001-01-31 2001-01-31 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム Expired - Fee Related JP3906031B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2001024479A JP3906031B2 (ja) 2001-01-31 2001-01-31 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム
US10/055,952 US20020101925A1 (en) 2001-01-31 2002-01-28 Moving picture playback method and apparatus
EP02250668A EP1229512A3 (en) 2001-01-31 2002-01-31 Moving picture playback method and apparatus with the use of windows

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001024479A JP3906031B2 (ja) 2001-01-31 2001-01-31 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム

Publications (2)

Publication Number Publication Date
JP2002229767A JP2002229767A (ja) 2002-08-16
JP3906031B2 true JP3906031B2 (ja) 2007-04-18

Family

ID=18889615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001024479A Expired - Fee Related JP3906031B2 (ja) 2001-01-31 2001-01-31 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム

Country Status (3)

Country Link
US (1) US20020101925A1 (ja)
EP (1) EP1229512A3 (ja)
JP (1) JP3906031B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2613821C (en) * 2007-12-07 2012-07-17 Clemente Naftali-Menajed Method and system to display a video in an email
US8717380B2 (en) 2008-07-04 2014-05-06 Canon Kabushiki Kaisha Image processing apparatus and control method thereof
AT13347U1 (de) * 2012-08-08 2013-11-15 Your Family Entertainment Ag Verfahren und Vorrichtung zur Wiedergabe digitaler Filme
KR102255830B1 (ko) * 2014-02-05 2021-05-25 삼성전자주식회사 복수 개의 윈도우를 디스플레이하는 방법 및 장치
CN110708591B (zh) * 2018-07-10 2022-04-26 杭州海康威视系统技术有限公司 一种图像处理方法、装置及电子设备

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2044931C (en) * 1990-06-19 2000-08-01 Hajime Kamata Multiwindow display control method and apparatus
JP3147572B2 (ja) * 1993-03-22 2001-03-19 株式会社日立製作所 プログラム生成方法
US5398309A (en) * 1993-05-17 1995-03-14 Intel Corporation Method and apparatus for generating composite images using multiple local masks
US5544300A (en) * 1993-11-12 1996-08-06 Intel Corporation User interface for dynamically converting between a single top level window and multiple top level windows
US5537156A (en) * 1994-03-24 1996-07-16 Eastman Kodak Company Frame buffer address generator for the mulitple format display of multiple format source video
US5621428A (en) * 1994-12-12 1997-04-15 Auravision Corporation Automatic alignment of video window on a multimedia screen
US5828369A (en) * 1995-12-15 1998-10-27 Comprehend Technology Inc. Method and system for displaying an animation sequence for in a frameless animation window on a computer display
JP3100334B2 (ja) * 1996-04-26 2000-10-16 松下電器産業株式会社 マルチメディアタイトル編集装置及びこれに用いるスタイル作成装置
US5745109A (en) * 1996-04-30 1998-04-28 Sony Corporation Menu display interface with miniature windows corresponding to each page
US6628303B1 (en) * 1996-07-29 2003-09-30 Avid Technology, Inc. Graphical user interface for a motion video planning and editing system for a computer
WO1998035468A2 (en) * 1997-01-27 1998-08-13 Benjamin Slotznick System for delivering and displaying primary and secondary information
US6121981A (en) * 1997-05-19 2000-09-19 Microsoft Corporation Method and system for generating arbitrary-shaped animation in the user interface of a computer
US6377276B1 (en) * 1998-06-18 2002-04-23 Sony Corporation Bitmap animation of on-screen-display graphics over a distributed network and a clipping region having a visible window
JP2000259822A (ja) * 1999-03-11 2000-09-22 Cec:Kk 画像の透過合成方法
US6396500B1 (en) * 1999-03-18 2002-05-28 Microsoft Corporation Method and system for generating and displaying a slide show with animations and transitions in a browser

Also Published As

Publication number Publication date
EP1229512A2 (en) 2002-08-07
US20020101925A1 (en) 2002-08-01
EP1229512A3 (en) 2003-07-23
JP2002229767A (ja) 2002-08-16

Similar Documents

Publication Publication Date Title
JP4355377B2 (ja) 情報提供装置及び情報提供方法
US9092879B2 (en) Image display apparatus and image display method
KR20030034034A (ko) 마크업 문서와 av데이터가 기록된 정보저장매체, 그기록방법, 재생방법 및 재생장치
KR101656167B1 (ko) 애니메이션 재생 방법, 장치, 기기, 프로그램 및 기록매체
JPH10340075A (ja) 画像表示方法
JP3906031B2 (ja) 動画像再生装置及び動画像再生処理をコンピュータに実行させるためのプログラム
CN113094144A (zh) 显示屏界面控制方法及电子设备
JP2009140382A (ja) 画像編集装置と画像編集プログラムと記録媒体と画像編集方法
JP2012253712A (ja) 映像コンテンツ再生装置、映像コンテンツ再生方法、プログラム、及び記録媒体
JP2010176429A (ja) 電子コンテンツ配信システム
CN113676677B (zh) 动态图片合成方法、装置、电子设备及可读存储介质
JP4179810B2 (ja) 表示データ作成装置、表示データ作成方法、表示データ作成プログラム、および表示データ作成プログラムを記録したコンピュータ読取り可能な記録媒体
JP2908425B1 (ja) フレームを使用しているホームページのマーキング・再表示方式
JP2001005911A (ja) 文字入力装置及び表示制御方法
JP2011023836A (ja) スライドデータ作成装置、スライドデータ作成方法及びプログラム
KR100938208B1 (ko) 무빙카툰 제작방법 및 이를 수행하기 위한 프로그램이기록된 기록매체
CN112738605B (zh) 一种基于html5的iptv播放器渲染方法
JP4761743B2 (ja) コンテンツ表示制御装置、コンテンツ表示装置、方法、プログラム、及び記録媒体
KR20090014891A (ko) 무빙카툰 제작방법 및 이를 수행하기 위한 프로그램이기록된 기록매체
RU2276811C2 (ru) Носитель информации, включающий в себя размеченный документ и аудио-видеоданные, способ записи, способ воспроизведения и устройство воспроизведения
JP2004094345A (ja) 文書再生装置、文書再生方法およびプログラム
Schohn et al. CENTAUR: A two-panel user interface for mobile document access
TW200408972A (en) Apparatus and method for reproducing interactive contents by controlling font according to aspect ratio conversion
JP2001209815A (ja) プレゼンテーション及びスタイル同時作成方法及び装置
JP2536722B2 (ja) 画像制御変更装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060501

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070115

LAPS Cancellation because of no payment of annual fees