JP5520472B2 - Information processing apparatus and information processing method - Google Patents
Information processing apparatus and information processing method Download PDFInfo
- Publication number
- JP5520472B2 JP5520472B2 JP2008289667A JP2008289667A JP5520472B2 JP 5520472 B2 JP5520472 B2 JP 5520472B2 JP 2008289667 A JP2008289667 A JP 2008289667A JP 2008289667 A JP2008289667 A JP 2008289667A JP 5520472 B2 JP5520472 B2 JP 5520472B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- display
- area
- hierarchical data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、ディスプレイに表示する画像を拡大/縮小、または上下左右に移動させる画像処理を制御する情報処理技術に関する。 The present invention relates to an information processing technique for controlling image processing for enlarging / reducing an image displayed on a display or moving the image vertically and horizontally.
ゲームプログラムを実行するだけでなく、動画を再生できる家庭用エンタテインメント
システムが提案されている。この家庭用エンタテインメントシステムでは、GPUがポリ
ゴンを用いた三次元画像を生成する(例えば特許文献1参照)。
Home entertainment systems have been proposed that not only execute game programs, but also play video. In this home entertainment system, the GPU generates a three-dimensional image using polygons (see, for example, Patent Document 1).
一方、高精細な写真などのディジタル画像から生成された複数の解像度のタイル画像を用いて、表示画像の拡大/縮小処理や、上下左右方向の移動処理を行う技術が提案されている。この画像処理技術では、原画像サイズを複数段階に縮小して異なる解像度の画像を生成し、各階層の画像を一又は複数のタイル画像に分割して、原画像を階層構造で表現する。通常、最も解像度の低い画像は1つのタイル画像で構成され、最も解像度の高い原画像は、最も多い数のタイル画像で構成される。画像処理装置は、表示画像の拡大処理または縮小処理時に、使用しているタイル画像を、異なる階層のタイル画像に切り替えることで、拡大表示または縮小表示を迅速に行うようにしている。
一方、近年は携帯端末などでも表示画面のサイズが拡大し、情報処理装置の種類によらず高精細画像を表示することが可能となってきている。そのため視覚に訴える様々なコンテンツがより身近なものとなった。しかし表示すべき情報が複雑化、高度化すると、それを使いこなすためには様々な知識が必要となってくる。このため、情報の質と操作の容易性とはトレードオフの関係にある場合が多い。また画像を含む複雑なコンテンツを作成するためにはさらに専門的な知識が必要となってくる。 On the other hand, in recent years, the size of the display screen has been expanded even in portable terminals and the like, and it has become possible to display high-definition images regardless of the type of information processing apparatus. Therefore, various contents appealing to the sight became more familiar. However, as the information to be displayed becomes complex and sophisticated, various knowledge is required to make full use of it. For this reason, the quality of information and the ease of operation often have a trade-off relationship. In addition, more specialized knowledge is required to create complex contents including images.
本発明はこのような課題に鑑みてなされたものであり、その目的は、情報の質を維持しつつ容易に所望の情報を表示することのできる技術を提供することにある。 The present invention has been made in view of such problems, and an object of the present invention is to provide a technique capable of easily displaying desired information while maintaining the quality of information.
本発明のある態様は情報処理装置に関する。この情報処理装置は、ユーザより複数の個別画像を選択する入力を受け付ける入力情報取得部と、選択された複数の個別画像を所定のフォーマットで配置したインデックス画像のデータを生成する設定情報登録部と、を備え、複数の個別画像は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造をなし、設定情報登録部は、インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルを生成してメモリに出力することを特徴とする。 One embodiment of the present invention relates to an information processing apparatus. The information processing apparatus includes an input information acquisition unit that receives input for selecting a plurality of individual images from a user, a setting information registration unit that generates index image data in which the selected plurality of individual images are arranged in a predetermined format, The plurality of individual images has a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, and the setting information registration unit includes an area in which the individual images are arranged in the index image, and the area The link setting file for switching the data used for rendering the display image from the index image to the individual image is generated and output to the memory by associating with the hierarchical data of the individual image arranged in .
本発明の別の態様は情報処理方法に関する。この情報処理方法は、ユーザより複数の個別画像を選択する入力を受け付けるステップと、選択された複数の個別画像を記憶装置より読み出し、所定のフォーマットで配置したインデックス画像のデータを生成してメモリに出力するステップと、を含み、複数の個別画像は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造をなし、出力するステップは、前記インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルを生成してさらに出力することを特徴とする。 Another aspect of the present invention relates to an information processing method. In this information processing method, a step of receiving an input for selecting a plurality of individual images from a user, reading the selected plurality of individual images from a storage device, generating index image data arranged in a predetermined format, and storing them in a memory A plurality of individual images having a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, and the step of outputting includes an area in which the individual images are arranged in the index image And a link setting file for switching the data used for rendering the display image from the index image to the individual image, and further outputting the link setting file. Features.
本発明の別の態様はデータ構造に関する。このデータ構造は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像データと、個別画像を所定のフォーマットで配置したインデックス画像のデータと、インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルと、を対応づけたことを特徴とする。 Another aspect of the invention relates to a data structure. This data structure includes a plurality of individual image data having a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, index image data in which individual images are arranged in a predetermined format, and an index image A link setting file for associating the area where the individual image is arranged with the hierarchical data of the individual image arranged in the area, and switching the data used for drawing the display image from the index image to the individual image, It is characterized by matching.
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。 It should be noted that any combination of the above-described constituent elements and a representation of the present invention converted between a method, an apparatus, a system, a computer program, etc. are also effective as an aspect of the present invention.
本発明によると、情報の高度化に際しても容易な操作での情報表示が可能となる。 According to the present invention, information can be displayed by an easy operation even when information is advanced.
図1は、本発明の実施の形態にかかる画像処理システム1の使用環境を示す。画像処理システム1は、画像処理ソフトウェアを実行する画像処理装置10と、画像処理装置10による処理結果を出力する表示装置12とを備える。表示装置12は、画像を出力するディスプレイおよび音声を出力するスピーカを有するテレビであってよい。表示装置12は、画像処理装置10に有線ケーブルで接続されてよく、また無線LAN(Local Area Network)などにより無線接続されてもよい。画像処理システム1において、画像処理装置10は、ケーブル14を介してインターネットなどの外部ネットワークに接続し、階層化された圧縮画像データをダウンロードして取得してもよい。なお画像処理装置10は、無線通信により外部ネットワークに接続してもよい。
FIG. 1 shows a use environment of an image processing system 1 according to an embodiment of the present invention. The image processing system 1 includes an
画像処理装置10は、たとえばゲーム装置であってよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。なお画像処理装置10は、パーソナルコンピュータであってもよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。
The
画像処理装置10は、ユーザからの要求に応じて、表示装置12のディスプレイに表示する画像の拡大/縮小処理や、上下左右方向への移動処理などを行う。以後、これらの処理を総じて「表示画像の移動処理」と呼ぶ。ユーザが、ディスプレイに表示された画像を見ながら入力装置を操作すると、入力装置が、表示画像の移動要求信号を画像処理装置10に送信する。
The
図2は、入力装置20の外観構成を示す。入力装置20は、ユーザが操作可能な操作手段として、十字キー21、アナログスティック27a、27bと、4種の操作ボタン26を備える。4種の操作ボタン26は、○ボタン22、×ボタン23、□ボタン24および△ボタン25から構成される。
FIG. 2 shows an external configuration of the
画像処理システム1において、入力装置20の操作手段には、表示画像の拡大/縮小要求、および上下左右方向へのスクロール要求を入力するための機能が割り当てられる。たとえば、表示画像の拡大/縮小要求の入力機能は、右側のアナログスティック27bに割り当てられる。ユーザはアナログスティック27bを手前に引くことで、表示画像の縮小要求を入力でき、また手前から押すことで、表示画像の拡大要求を入力できる。また、表示領域の移動要求の入力機能は、十字キー21に割り当てられる。ユーザは十字キー21を押下することで、十字キー21を押下した方向への移動要求を入力できる。なお、画像移動要求の入力機能は別の操作手段に割り当てられてもよく、たとえばアナログスティック27aに、スクロール要求の入力機能が割り当てられてもよい。
In the image processing system 1, a function for inputting a display image enlargement / reduction request and a vertical / left / right scroll request is assigned to the operation unit of the
入力装置20は、入力された画像移動要求信号を画像処理装置10に伝送する機能をもち、本実施の形態では画像処理装置10との間で無線通信可能に構成される。入力装置20と画像処理装置10は、Bluetooth(ブルートゥース)(登録商標)プロトコルやIEEE802.11プロトコルなどを用いて無線接続を確立してもよい。なお入力装置20は、画像処理装置10とケーブルを介して接続して、画像移動要求信号を画像処理装置10に伝送してもよい。
The
図3は、本実施の形態において使用する画像データの階層構造例を示す。画像データは、深さ(Z軸)方向に、第0階層30、第1階層32、第2階層34および第3階層36からなる階層構造を有する。なお同図においては4階層のみ示しているが、階層数はこれに限定されない。以下、このような階層構造をもつ画像データを「階層データ」とよぶ。
FIG. 3 shows an example of a hierarchical structure of image data used in the present embodiment. The image data has a hierarchical structure including a
図3に示す階層データは4分木の階層構造を有し、各階層は、1以上のタイル画像38で構成される。すべてのタイル画像38は同じ画素数をもつ同一サイズに形成され、たとえば256×256画素を有する。各階層の画像データは、一つの画像を異なる解像度で表現しており、最高解像度をもつ第3階層36の原画像を複数段階に縮小して、第2階層34、第1階層32、第0階層30の画像データが生成される。たとえば第N階層の解像度(Nは0以上の整数)は、左右(X軸)方向、上下(Y軸)方向ともに、第(N+1)階層の解像度の1/2であってよい。
The hierarchical data shown in FIG. 3 has a hierarchical structure of a quadtree, and each hierarchy is composed of one or
画像処理装置10において、階層データは、所定の圧縮形式で圧縮された状態で記憶装置に保持されており、ディスプレイに表示される前に記憶装置から読み出されてデコードされる。本実施の形態の画像処理装置10は、複数種類の圧縮形式に対応したデコード機能を有し、たとえばS3TC形式、JPEG形式、JPEG2000形式の圧縮データをデコード可能とする。階層データにおいて、圧縮処理は、タイル画像単位に行われていてもよく、また同一階層または複数の階層に含まれる複数のタイル画像単位に行われていてもよい。
In the
階層データの階層構造は、図3に示すように、左右方向をX軸、上下方向をY軸、深さ方向をZ軸として設定され、仮想的な3次元空間を構築する。画像処理装置10は、入力装置20から供給される画像移動要求信号から表示画像の移動量を導出すると、その移動量を用いて仮想空間におけるフレームの4隅の座標(フレーム座標)を導出する。仮想空間におけるフレーム座標は、後述する表示画像の生成処理に利用される。なお、仮想空間におけるフレーム座標の代わりに、画像処理装置10は、階層を特定する情報と、その階層におけるテクスチャ座標(UV座標)を導出してもよい。以下、階層特定情報およびテクスチャ座標の組み合わせも、フレーム座標と呼ぶ。
As shown in FIG. 3, the hierarchical structure of the hierarchical data is set with the horizontal direction as the X axis, the vertical direction as the Y axis, and the depth direction as the Z axis, thereby constructing a virtual three-dimensional space. When the movement amount of the display image is derived from the image movement request signal supplied from the
図4は画像処理装置10の構成を示している。画像処理装置10は、無線インタフェース40、スイッチ42、表示処理部44、ハードディスクドライブ50、記録媒体装着部52、ディスクドライブ54、メインメモリ60、バッファメモリ70および制御部100を有して構成される。表示処理部44は、表示装置12のディスプレイに表示するデータをバッファするフレームメモリを有する。
FIG. 4 shows the configuration of the
スイッチ42は、イーサネットスイッチ(イーサネットは登録商標)であって、外部の機器と有線または無線で接続して、データの送受信を行うデバイスである。スイッチ42は、ケーブル14を介して外部ネットワークに接続し、画像サーバから階層化された圧縮画像データを受信してもよい。またスイッチ42は無線インタフェース40に接続し、無線インタフェース40は、所定の無線通信プロトコルで入力装置20と接続する。入力装置20においてユーザから入力された画像移動要求信号は、無線インタフェース40、スイッチ42を経由して、制御部100に供給される。
The
ハードディスクドライブ50は、データを記憶する記憶装置として機能する。スイッチ42を介して受信された圧縮画像データは、ハードディスクドライブ50に格納される。記録媒体装着部52は、メモリカードなどのリムーバブル記録媒体が装着されると、リムーバブル記録媒体からデータを読み出す。ディスクドライブ54は、読出専用のROMディスクが装着されると、ROMディスクを駆動して認識し、データを読み出す。ROMディスクは、光ディスクや光磁気ディスクなどであってよい。圧縮画像データはこれらの記録媒体に格納されていてもよい。
The
制御部100は、マルチコアCPUを備え、1つのCPUの中に1つの汎用的なプロセッサコアと、複数のシンプルなプロセッサコアを有する。汎用プロセッサコアはPPU(Power Processing Unit)と呼ばれ、残りのプロセッサコアはSPU(Synergistic-Processing Unit)と呼ばれる。
The
制御部100は、メインメモリ60およびバッファメモリ70に接続するメモリコントローラを備える。PPUはレジスタを有し、演算実行主体としてメインプロセッサを備えて、実行するアプリケーションにおける基本処理単位としてのタスクを各SPUに効率的に割り当てる。なお、PPU自身がタスクを実行してもよい。SPUはレジスタを有し、演算実行主体としてのサブプロセッサとローカルな記憶領域としてのローカルメモリを備える。ローカルメモリは、バッファメモリ70として使用されてもよい。
The
メインメモリ60およびバッファメモリ70は記憶装置であり、RAM(ランダムアクセスメモリ)として構成される。SPUは制御ユニットとして専用のDMA(Direct Memory Access)コントローラをもち、メインメモリ60とバッファメモリ70の間のデータ転送を高速に行うことができ、また表示処理部44におけるフレームメモリとバッファメモリ70の間で高速なデータ転送を実現できる。本実施の形態の制御部100は、複数のSPUを並列動作させることで、高速な画像処理機能を実現する。表示処理部44は、表示装置12に接続されて、ユーザからの要求に応じた画像処理結果を出力する。
The
本実施の形態の画像処理装置10は、表示画像の拡大/縮小処理や表示領域の移動処理を行う際に表示画像を円滑に変更させるために、後述する規則によって決定した圧縮画像データの一部をハードディスクドライブ50からメインメモリ60にロードしておく。また、ユーザからの画像移動要求をもとに、将来表示させる画像を予測し、メインメモリ60にロードした圧縮画像データのさらに一部をデコードしてバッファメモリ70に格納しておく。これにより、後の必要なタイミングで、表示画像の生成に使用する画像を瞬時に切り替えることが可能となる。以下において、将来表示させるタイル画像を予測して、バッファメモリ70に前もって展開しておく処理を、「先読み処理」とよぶ。
The
図5は、先読み処理を説明するための図を示す。図5は、階層データの構造を示しており、各階層はL0(第0階層)、L1(第1階層)、L2(第2階層)、L3(第3階層)と表現されている。図5に示す階層データ構造において、深さ(Z軸)方向における位置は、解像度を示し、L0に近い位置ほど解像度が低く、L3に近い位置ほど解像度は高い。なおディスプレイに表示される画像の大きさに注目すると、深さ方向における位置は、縮尺率に対応し、L3の表示画像の縮尺率を1とすると、L2における縮尺率は1/4、L1における縮尺率は1/16となり、L0における縮尺率は1/64となる。 FIG. 5 is a diagram for explaining the prefetch process. FIG. 5 shows the structure of hierarchical data, and each hierarchy is expressed as L0 (0th hierarchy), L1 (1st hierarchy), L2 (2nd hierarchy), and L3 (3rd hierarchy). In the hierarchical data structure shown in FIG. 5, the position in the depth (Z-axis) direction indicates the resolution. The position closer to L0 has a lower resolution, and the position closer to L3 has a higher resolution. When attention is paid to the size of the image displayed on the display, the position in the depth direction corresponds to the scale ratio, and when the scale ratio of the display image of L3 is 1, the scale ratio in L2 is 1/4, and in L1 The scale factor is 1/16, and the scale factor at L0 is 1/64.
したがって深さ方向において、表示画像がL0側からL3側へ向かう方向に変化する場合、表示画像は拡大していき、L3側からL0側へ向かう方向に変化する場合は、表示画像は縮小していく。矢印80は、ユーザからの画像移動要求信号が、表示画像の縮小を要求しており、縮尺率1/4(L2)をまたいだ様子を示している。本実施例の画像処理装置10では、タイル画像38として用意しているL1、L2の深さ方向の位置を、深さ方向の先読み境界として設定し、画像変更要求信号が先読み境界をまたぐと、先読み処理が開始される。
Therefore, in the depth direction, when the display image changes from the L0 side to the L3 side, the display image enlarges. When the display image changes from the L3 side to the L0 side, the display image is reduced. Go. An
表示画像の縮尺率がL2の近傍にある場合、表示画像は、L2(第2階層)のタイル画像を用いて作成される。具体的には、表示する画像の縮尺率が、L1タイル画像とL2タイル画像の切替境界82と、L2タイル画像とL3タイル画像の切替境界84の間にある場合に、L2タイル画像が利用される。したがって、矢印80に示すように画像の縮小処理が要求されると、L2のタイル画像が拡大された画像から、縮小された画像に変換されて表示される。画像処理装置10は、入力装置20からの画像移動要求信号と伝達関数を畳み込み演算して、画像移動要求信号が要求する表示画像の生成を遅延させ、その間に、画像移動要求信号から予測される将来必要なタイル画像38を特定して、メインメモリ60から先読みしておく。図5の例では、画像移動要求信号による要求縮尺率がL2をまたいだときに、画像処理装置10が、縮小方向にあるL1の対応するタイル画像38をメインメモリ60から先読みしてデコードし、バッファメモリ70に書き込む。
When the scale factor of the display image is in the vicinity of L2, the display image is created using a tile image of L2 (second layer). Specifically, the L2 tile image is used when the scale ratio of the image to be displayed is between the switching
なお以上は深さ方向の先読み処理について説明したが、上下左右方向の先読み処理についても同様に処理される。具体的には、バッファメモリ70に展開されている画像データに先読み境界を設定しておき、画像変更要求信号による表示位置が先読み境界をまたいだときに、先読み処理が開始されるようにする。
Although the prefetch processing in the depth direction has been described above, the prefetch processing in the up, down, left, and right directions is similarly processed. Specifically, a prefetch boundary is set for the image data developed in the
図6は本実施の形態における画像データの流れを模式的に示している。まず階層データはハードディスクドライブ50に格納されている。ハードディスクドライブ50に代わり、記録媒体装着部52やディスクドライブ54に装着された記録媒体が保持していてもよい。あるいは、画像処理装置10がネットワークを介して接続した画像サーバから階層データをダウンロードするようにしてもよい。ここでの階層データは上述のとおり、S3TC形式などによる固定長圧縮、あるいはJPEG形式などによる可変長圧縮がなされている。
FIG. 6 schematically shows the flow of image data in the present embodiment. First, the hierarchical data is stored in the
この階層データのうち、一部の画像データを圧縮した状態のままメインメモリ60にロードする(S10)。ここでロードする領域は、現在の表示画像の仮想空間における近傍や、画像の内容、ユーザの閲覧履歴等に基づいて、高頻度で表示要求がなされると予測される領域など、あらかじめ定めた規則によって決定する。ロードは、画像変更要求がなされたときのみならず、例えば所定の時間間隔で随時行う。これによりロード処理が一時期に集中しないようにする。
Among the hierarchical data, a part of the image data is loaded into the
また、ロードする圧縮画像データはおよそ一定のサイズを有するブロック単位とする。そのためハードディスクドライブ50が保持する階層データは所定の規則でブロックに分割しておく。このようにすることでメインメモリ60におけるデータ管理が効率よく行える。すなわち、圧縮画像データが可変長圧縮されたものであっても、ブロック(以後、「画像ブロック」と呼ぶ)単位であればロードするデータサイズがほぼ等しいため、基本的にメインメモリ60にそれまで格納されていたブロックのいずれかを上書きすることによって新たなロードが完了する。そのためフラグメンテーションが発生しにくく、メモリを効率的に使用できるうえ、アドレス管理も容易になる。
The compressed image data to be loaded is a block unit having a substantially constant size. Therefore, the hierarchical data held by the
次に、メインメモリ60に格納されている圧縮画像データのうち、表示に必要な領域の画像、または必要と予測される領域の画像のデータをデコードし、バッファメモリ70に格納する(S12)。バッファメモリ70は、少なくとも2つのバッファ領域72、74を含む。各バッファ領域72、74のサイズは、フレームメモリ90のサイズよりも大きく設定され、入力装置20から画像移動要求信号が入力された場合に、ある程度の量の変更要求に対しては、バッファ領域72、74に展開した画像データで表示画像を生成できるようにする。
Next, among the compressed image data stored in the
バッファ領域72、74の一方は、表示画像の生成に用いる画像を保持するために利用される表示用バッファであり、他方は、以後、必要と予測される画像を準備するために利用されるデコード用バッファである。図6の例では、バッファ領域72が表示用バッファ、バッファ領域74がデコード用バッファで、表示領域68が表示されているものとする。先読み処理によってデコード用バッファに格納する画像は、表示用バッファに格納されている画像と同一階層の画像でもよいし、縮尺の異なる別階層の画像でもよい。
One of the
次に、表示用バッファであるバッファ領域72に格納された画像のうち表示領域68の画像を、フレームメモリ90に描画する(S14)。この間に、新たな領域の画像が必要に応じてデコードされ、バッファ領域74に格納される。格納が完了したタイミングや表示領域68の移動量などに応じて、表示用バッファとデコード用バッファを切り替える(S16)。これにより、表示領域の移動や縮尺率の変更などに対し表示画像をスムーズに切り替えることができる。
Next, the image in the
これまで述べた処理は、ある画像の表示領域の移動、拡大縮小を行うために、図5で示したような一つの階層データによって構成される仮想空間において、ユーザからの画像移動要求に従いフレーム座標を移動させる態様であった。本実施の形態ではさらに、複数の階層データを表示対象として用意し、表示画像が階層データ間を行き来することを可能にする。図7はそのような態様において表示対象となる複数の階層データの関係を模式的に示している。 In the processing described so far, in order to move and enlarge / reduce the display area of a certain image, the frame coordinates according to the image movement request from the user in the virtual space constituted by one hierarchical data as shown in FIG. It was the aspect which moves. In the present embodiment, a plurality of hierarchical data is prepared as a display target, and a display image can be transferred between the hierarchical data. FIG. 7 schematically shows the relationship between a plurality of hierarchical data to be displayed in such an aspect.
図中、2つの三角形は異なる階層データ150および152を示している。それぞれの階層データ150、152は実際には、図3に示すように解像度の異なる複数の画像データが図のZ軸方向に離散的に存在する構成を有する。図5で説明したのと同様に、ユーザが画像移動要求信号により表示画像の拡大縮小を指示すると、表示画像は図のZ軸方向に移動することになる。一方、表示領域を上下左右に移動させる場合は、図の水平面を移動することになる。本実施の形態では、このような仮想空間において、2つの階層データ150および152が図のように重なり合った状態を生成する。
In the figure, two triangles indicate different
このような状態で、階層データ150の画像を表示中、ユーザが拡大指示を行い、表示画像が矢印aのように移動した場合、当該表示画像は階層データ152の領域に入る、すなわち階層データ間を移動することになる。仮想空間での当該移動をこれまでに述べた階層データの表示手順に含めることにより、異なる階層データの画像をシームレスにつないだ表示を行うことができる。階層データ150と152の画像は同じ対象物を異なる解像度の範囲で表すデータでもよいし、全く異なる対象物を表すデータでもよい。例えば階層データ150を世界地図のデータ、階層データ152を日本地図のデータとすると、ユーザが世界地図の日本の領域を拡大していくことにより、階層データ150から階層データ152への遷移が起こり、日本地図のさらに詳細な表示が行える。また、階層データ150をメニュー画面のデータ、階層データ152をメニュー画面に表示された各アイコンについて説明したマニュアルのデータとすると、ユーザがメニュー画面の所望のアイコンを拡大することにより、当該アイコンに対応する機能について説明したマニュアル画像に切り替わる、といったことが可能になる。
In this state, when the user issues an enlargement instruction while displaying the image of the
このように本実施の形態では、仮想空間における表示画像の移動、すなわち拡大、縮小を含む表示画像移動要求の入力をきっかけとして、描画に用いる階層データを切り替える。このような切り替えを、現在表示中の画像に対する基本操作のみで行えるため、切り替えのためのメニュー画面を表示させたり選択したりするなどの段階を経ることがなく、操作性のよいユーザインターフェースを提供できる。また、例えば世界地図の画像から建物や道路が確認できるような高解像度の画像まで連続して拡大できるコンテンツを作成する場合、解像度の範囲に応じて階層データを別に保持することにより、海洋領域など拡大の必要の少ない領域のデータを省くことができ、一つの巨大な階層データを構築するよりデータサイズを格段に削減できる。また、全く異なる画像を連続的に表示することが容易であり、さまざまな画像表現への応用、コンテンツの作成が容易になる。 As described above, in the present embodiment, the hierarchical data used for drawing is switched in response to the input of the display image movement request including the movement of the display image in the virtual space, that is, enlargement and reduction. Since such switching can be performed only with basic operations on the currently displayed image, a user interface with good operability is provided without the need to display or select a menu screen for switching. it can. For example, when creating content that can be expanded continuously from a world map image to a high-resolution image that allows you to see buildings and roads, you can keep the hierarchical data separately according to the resolution range, etc. Data in an area that does not need to be expanded can be omitted, and the data size can be significantly reduced rather than constructing one huge hierarchical data. In addition, it is easy to continuously display completely different images, and application to various image representations and creation of contents are facilitated.
表示中の画像のどの領域およびどの解像度で別の階層データへ切り替えるかは、図7中、線154で表される「リンク情報」としてあらかじめ設定しておく。同図の例では、Z軸がz1なる解像度、線154が表す水平面(図3参照)上の位置において、階層データ150から階層データ152への切り替えが行われる。以後、このような階層データ間の切り替えを「リンク」と呼ぶ。
Which region of the image being displayed and which resolution is to be switched to another hierarchical data is set in advance as “link information” represented by a
図8は階層データ間にリンクを設定したときの表示画像の様子を例示している。同図では、画像156、158、160なる3つの階層データを表示対象としている。そして画像156の領域162と画像158の領域163にリンクが設定されており、画像156の領域164と画像160の領域165にリンクが設定されているとする。このような領域を以後、「リンク領域」と呼ぶ。リンク領域は、図7の線154に相当する。画像156の階層データを用いて表示画像を生成中、ユーザの表示画像移動要求により表示画像がリンク領域162に重なると、画像156から画像158へ表示に用いる階層データが切り替わり、画像158内のリンク領域163が表示画像となる(矢印A)。
FIG. 8 shows an example of a display image when a link is set between hierarchical data. In the figure, three hierarchical data of
図8の例では、画像156のうち主に5角形を中心とする領域についてさらに解像度を上げた画像を別の画像158の階層データとしてハードディスクドライブ50に保持している。そしてリンク領域162とリンク領域163は同じ視野角を有するように設定する。すると、画像156の階層データでもっとも高い解像度の画像よりさらに高解像度の画像を、画像158の階層データを用いて連続的に表示することができる。このとき外観上は五角形にズームインしていくのみで、図7の矢印aの遷移が起こるため、階層データの切り替わりが行われたことをユーザが意識することはない。
In the example of FIG. 8, an image whose resolution is further increased for an area mainly centered on a pentagon of the
またリンク領域162とリンク領域163は、図に示すように矢印Aと逆方向のリンク、矢印Bも設定されている。この場合、矢印Aの遷移後、画像158の所望の領域を拡大表示などしたユーザが、表示画像を縮小し、当該表示画像が再びリンク領域163に重なったとき、画像158から画像156へ表示に用いる階層データが切り替わり、画像156内のリンク領域162が表示画像となる(矢印B)。この場合も、画像158における表示画像を縮小していくのみで、階層データの切り替わりを意識することなく、連続的な縮小が可能となる。
In the
リンク領域164からリンク領域165への遷移(矢印C)も同様に、画像156を表示中、楕円形をズームインしていき表示画像がリンク領域164と重なったときに、階層データが切り替わり、画像160のリンク領域165が表示画像となる。これにより、画像156より高解像度の画像表示が可能となる。なお表示画像がリンク領域に「重なる」という状態は、厳密に重なっていなくてもよいため、表示画像がリンク領域から所定の範囲内に入ったときを重なったと見なす、といった規則をあらかじめ設定しておけばよい。
Similarly, the transition from the
図9は制御部100の構成を詳細に示している。制御部100は入力装置20からユーザが入力した情報を取得する入力情報取得部102、階層データを画像ブロックに分割する圧縮データ分割部104、新たにロードすべき画像ブロックを決定するロードブロック決定部106、必要な画像ブロックをハードディスクドライブ50からロードするロード部108を含む。制御部100はさらに、先読み処理を行う先読み処理部110、ロードすべきデータ、あるいはデコードすべきデータがリンク先の階層データ内にあるか否かを判定するリンク判定部116、圧縮画像データをデコードするデコード部112、および表示画像を描画する表示画像処理部114を含む。制御部100はさらに、設定されたシナリオ情報を解釈してリンク判定部116、ロード部108、表示画像処理部114を制御するシナリオ解釈部117を含む。
FIG. 9 shows the configuration of the
図9において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU(Central Processing Unit)、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。既述したように、制御部100は1つのPPUと複数のSPUとを有し、PPUおよびSPUがそれぞれ単独または協同して、各機能ブロックを構成できる。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
In FIG. 9, each element described as a functional block for performing various processes can be configured by a CPU (Central Processing Unit), a memory, and other LSIs in terms of hardware. This is realized by a program loaded on the computer. As described above, the
まずハードディスクドライブ50にはリンクが設定された複数の階層データ101を格納しておく。またメインメモリ60には、ハードディスクドライブ50からロードした画像ブロックを格納する領域120のほか、リンク設定ファイル118をあらかじめ格納しておく。リンク設定ファイル118は、設定されたリンク情報を記録したファイルであり、階層データ101本体に付加されたものをハードディスクドライブ50からロードしてもよい。なおメインメモリ60に格納されたシナリオ設定ファイル119については後に説明する。
First, the
入力情報取得部102は、ユーザが入力装置20に対して入力した、画像表示の開始/終了、表示領域の移動、表示画像の拡大、縮小などの指示情報を取得する。入力情報取得部102はさらに、あらかじめ設定した表示画像を移動する速度の最大値、画像移動要求信号と畳み込み演算する伝達関数などに基づき、画像移動要求信号を遅延させてもよい。伝達関数は、たとえばガウシアン関数であってもよい。画像処理装置10は、この遅延時間を利用して、画像データの先読み処理に要する時間、後述するリンク先の画像や動画再生、アプリケーションの起動に要する時間を確保する。これにより、ユーザの要求に対応したスムーズな画像表示が可能となる。
The input
圧縮データ分割部104は、ハードディスクドライブ50などから階層データを読み出し、所定の規則により分割して画像ブロックを生成し、ハードディスクドライブ50に格納する。例えばユーザが入力装置20に対し、ハードディスクドライブ50に格納されている階層データのいずれかを選択すると、入力情報取得部102から当該情報を取得し、分割処理を開始する。または元から画像ブロックに分割された階層データをハードディスクドライブ50に格納してもよい。このような階層データを表示対象とする場合には、圧縮データ分割部104は動作しなくてよい。
The compressed
ロードブロック決定部106は、ハードディスクドライブ50からメインメモリ60へ新たにロードすべき画像ブロックの有無の確認、および次にロードする画像ブロックの決定を行い、ロード部108にロード要求を発行する。ロードブロック決定部106はその際、ロードすべき画像ブロックに、リンク先の別の階層データの画像ブロックが含まれていないかをリンク判定部116に問い合わせる。ロードブロック決定部106は、ロード部108がロード処理中でない状態において、例えば所定の時間間隔、あるいは、ユーザが画像の移動要求を行った際など、所定のタイミングで上記確認、決定の処理を行う。ロード部108は、ロードブロック決定部106からの要求に従い、実際のロード処理を行う。
The load
ユーザが表示画像の移動要求を行った際、もし移動先の画像領域を含む画像ブロックがメインメモリ60に格納されていなかったら、ハードディスクドライブ50からの画像ブロックのロード、必要領域のデコード、表示画像の描画、といった処理を一度に行う必要がある。この場合、ロード処理がボトルネックとなり、ユーザの要求に対する応答性が損なわれることが考えられる。本実施の形態では、(1)今後表示される可能性の高い領域を網羅するように画像ブロックをロードしておく、(2)ロード処理が一時期に集中しないように随時ロードしていく、というポリシーの元でロードを行う。これによりロード処理が表示画像の変更処理の妨げになることが少なくなる。
When the user requests to move the display image, if the image block including the destination image area is not stored in the
先読み処理部110は、現在の表示画像のフレーム座標とユーザが入力した表示画像移動要求の情報に従い、将来表示画像の描画に必要とされるであろう画像領域を予測し、その情報をデコード部112に供給する。ただし画像表示開始直後や、バッファメモリ70に格納済みの画像では変更先の画像が描画できない場合などは、予測をせずに、その時点の表示画像の描画に必要な画像を含む所定領域の情報をデコード部112に供給する。また先読み処理部110は、予測した画像領域や現在表示画像の描画に必要な画像領域がリンク先の別の階層データに含まれていないかをリンク判定部116に問い合わせる。
The
リンク判定部は、メインメモリ60にあらかじめ格納したリンク設定ファイル118を参照し、ロードブロック決定部106の問い合わせに応じて、ロードすべき画像ブロックにリンク先の階層データの画像ブロックが含まれているか否かを判定する。含まれている場合は、現在表示中の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおける座標に変換し、変換前の座標、リンク先の階層データのファイル名とともにロードブロック決定部106に返す。また先読み処理部110の問い合わせに応じて、描画に必要な領域にリンク先の階層データの領域が含まれているか否かを判定する。含まれていたら、リンク先のリンク領域の座標に係る情報を返す。リンクの設定例は後に示す。
The link determination unit refers to the
デコード部112は、先読み処理部110から取得した画像領域の情報に基づき、メインメモリ60から圧縮画像データの一部を読み出しデコードし、デコード用バッファまたは表示用バッファにデコード後のデータを格納する。表示画像処理部114は、ユーザが入力した表示画像移動要求に従い新たな表示画像のフレーム座標を決定し、バッファメモリ70の表示用バッファから対応する画像データを読み出し、表示処理部44のフレームメモリ90に描画する。シナリオ解釈部117は、メインメモリ60に格納したシナリオ設定ファイル119を解釈して、表示画像の連続的な誘導を行うために表示画像の制御を行う。詳細は後に述べる。
Based on the image area information acquired from the
次にリンクの設定例について説明する。図10〜13は画像内の領域(フレーム)の定義方法を説明する図である。図10は基準となるフレームと画像の位置関係を示している。図10で画像156に対する基準フレーム264は、画像156の中心と同一の中心を有し、画像156に外接する、縦横比が所定の値の矩形とする。ここで縦横比は所定の値でよく、例えば、表示するディスプレイあるいはディスプレイ上の表示領域の縦横比と同一とする。表示画像を拡大、縮小しても、フレームは常に当該比率を保持するとする。このようなフレームを基準としたときの、横方向オフセット、縦方向オフセット、拡大率、回転角、の4つのパラメータでフレームを指定する。基準フレーム264は、(横方向オフセット,縦方向オフセット,拡大率,回転角)=(0,0,1.0,0)である。
Next, a link setting example will be described. 10 to 13 are diagrams for explaining a method of defining an area (frame) in an image. FIG. 10 shows the positional relationship between a reference frame and an image. In FIG. 10, the
図11は基準フレームを平行移動させた場合のフレームの定義を説明する図であるこの場合、縦方向オフセットおよび横方向オフセットのパラメータに値が代入される。具体的にはフレームの中心272から画像156の中心、すなわち基準フレームの中心270への距離の横方向成分offset_x、縦方向成分offset_yが横方向オフセット、縦方向オフセットの値となる。したがってフレーム262は(offset_x, offset_y,1.0,0)と表現される。
FIG. 11 is a diagram for explaining the definition of the frame when the reference frame is translated. In this case, values are substituted into the parameters of the vertical offset and the horizontal offset. Specifically, the horizontal component offset_x and the vertical component offset_y of the distance from the
図12は基準フレームを平行移動させずに拡大率を変化させた場合のフレームの定義を説明する図である。この場合、フレーム266の基準フレームに対する比率が拡大率のパラメータに代入される。図12のフレーム266が図10の基準フレームの0.5倍であれば、フレーム266は(0,0,0.5,0)と表現される。
FIG. 12 is a diagram illustrating the definition of a frame when the enlargement ratio is changed without moving the reference frame in parallel. In this case, the ratio of the
図13は基準フレームを平行移動させずに回転させた場合のフレームの定義を説明する図である。この場合、フレーム280の基準フレームからの回転角282が回転角のパラメータに代入される。例えば回転角282が0.25pであれば、フレーム280は(0,0,1.0,0.25)と表現される。図11〜13のオフセット、拡大率、回転角を組み合わせることにより、表示画像のフレームはいずれも、4つのパラメータで表現できる。以後、この4つのパラメータセットを「フレーム定義パラメータ」と呼ぶ。
FIG. 13 is a diagram for explaining the definition of a frame when the reference frame is rotated without being translated. In this case, the
図14はリンク設定ファイル118のデータ構造例を示している。リンク設定ファイル118は、一行が一つのリンク、すなわちある階層データから別の階層データへの切り替えの記述に対応し、リンク元画像フレームフィールド302、有効スケール範囲フィールド304、リンク先ファイルフィールド306、およびリンク先画像フレームフィールド308、の4種類のフィールドによって構成される。リンク元画像フレームフィールド302は表示中の画像において、階層データの切り替えが発生するときの表示画像、すなわちリンク領域のフレームを上述のフレーム定義パラメータで指定する。当該フレームは、例えば図8における矢印Bのリンクにおけるリンク領域163のフレームに相当する。
FIG. 14 shows an example of the data structure of the
有効スケール範囲フィールド304は、リンク元画像フレームフィールド302における拡大率を始点としてリンクが有効となる拡大率の幅を指定する。図14の1行目では、リンク元画像フレームフィールド302に示されたリンク領域の拡大率が「2.0」であり、有効スケール範囲フィールド304の値が「98.0」であるため、拡大率が2.0〜100.0までの表示画像であればリンクを有効とし、階層データを切り替える、という設定となる。
The effective
例えば図8における矢印Bのリンクは、表示画像をズームアウト、すなわち画像158のリンク領域163より小さいフレームから、フレームの拡大率を上げていき、リンク領域163と重なったときに画像156へと切り替わる。したがって、拡大率が「2.0」以上となったときにリンクを有効とするために、有効スケール範囲フィールド304の値を正の値とする。これにより、画像158の表示において拡大率を十分上げた後にリンク領域163の近傍に移動させたとしてもリンクを有効とすることができる。
For example, the link indicated by the arrow B in FIG. 8 zooms out the display image, that is, increases the frame enlargement ratio from a frame smaller than the
一方、図8における矢印Aのリンクは、表示画像をズームイン、すなわち画像156のリンク領域162より大きいフレームから、フレームの拡大率を下げていき、リンク領域162と重なったときに画像158へと切り替わる。したがって、図14の2行目のように、有効スケール範囲フィールド304を「ー1.0」など負の値とする。リンク先ファイルフィールド306は、リンク先の階層データのファイル名を指定する。図8における矢印Bのリンクの例では、画像156の階層データのファイル名に相当する。リンク先画像フレームフィールド308は、階層データの切り替え後の表示画像、すなわちリンク先のリンク領域のフレームのフレーム定義パラメータを指定する。
On the other hand, the link indicated by the arrow A in FIG. 8 zooms in on the display image, that is, lowers the enlargement ratio of the frame from a frame larger than the
リンク設定ファイルはリンク元の階層データごとに作成する。すなわち図8における矢印AおよびCのリンクの情報は画像156の階層データのリンク設定ファイル、矢印Bのリンク情報は画像158の階層データのリンク設定ファイルに、それぞれ記述される。各ファイルは対応する階層データと関連づけて保存する。このようにすることで、双方向にリンクが設定されていてもその動きは独立とすることができる。例えば図8において矢印Aの遷移におけるリンク領域A、Bと、矢印Bの遷移におけるリンク領域A、Bは領域や解像度を異ならせることができる。図8の例では画像160にリンク設定ファイルが付加されていないため、画像160へ遷移した後はその中で画像表示その他で楽しむことになる。
A link setting file is created for each hierarchical data of the link source. That is, the link information of arrows A and C in FIG. 8 is described in the link setting file of the hierarchical data of the
このようなリンク設定ファイルをあらかじめ作成しておくことにより、リンク判定部116は、先読み処理部110からの問い合わせに応じて、先読み処理によって予測された領域が、リンク設定ファイルにおいて設定されたリンク領域を含むか否かを確認する。含む場合はリンク先の階層データのファイル名、リンク先のリンク領域のフレーム定義パラメータを返す。先読み処理部110はリンク領域を含まない場合と同様に当該情報をデコード部112に渡す。デコード部112はリンク先のリンク領域のデータをメインメモリ60より読み込みデコードする。
By creating such a link setting file in advance, the
同様にリンク判定部116は、ロードブロック決定部106からの問い合わせに応じて、ロードすべきポイントがリンク領域に含まれるか否かを確認する。含まれる場合はリンク先の階層データのファイル名を返す。この際、ロードすべきポイントのリンク元の画像における座標をリンク先の画像における座標に変換して当該情報も返信する。ロードブロック決定部106は、リンク先画像の階層データのうち、座標変換されたロードすべきポイントを含む画像ブロックをハードディスクドライブ50からメインメモリ60にロードする。
Similarly, the
ここで、ロードブロック決定部106およびリンク判定部116が行う、画像ブロックのロード処理について説明する。図15は2つの階層データにリンクが設定されているときのロードすべきポイントを模式的に示している。メインメモリ60には、基本的には現在表示されている表示画像の周辺の画像の圧縮データがロードされていることが望ましい。ここで「周辺」とは、同一階層の画像における上下左右(X軸、Y軸)方向と、階層構造の深さ(Z軸)方向の周辺を含んでよい。Z軸方向の周辺とは、表示画像およびその近傍を含む拡大画像および縮小画像を意味する。
Here, an image block loading process performed by the load
図15において、2つの三角形は図7と同様、階層データ184および186を表している。またこれらの階層データ184、186には線188のようなリンクが設定されている。現在の表示画像を線190とすると、例えば同図の白丸192および黒丸194のポイントを含む画像ブロックをメインメモリ60にロードするようにする。すなわち、表示中の階層を中心とした上下の所定数の階層において、現在の表示画像の領域から所定の範囲内にある数ポイントをロードすべきポイントとして決定する。
In FIG. 15, two triangles represent the
図15の例では、表示画像と同一階層では5つのポイント、それより1つ上、または下の階層では3つのポイント、2つ上、または2つ下の階層では1つのポイントが白丸192および黒丸194で表されている。実際には図の水平面上にさらにポイントが存在する。ここで図のように線188でリンクが設定されている場合、現在の表示画像が階層データ184のものであっても、一つ下の階層において決定したポイントがリンク領域に含まれるため、階層データ186のうち、階層データ184の当該ポイントに対応するポイントを含む画像ブロックをロードする。2つ下の階層のロードすべきポイントも同様である。同図では、現在表示中の階層データ184におけるロードすべきポイントを白丸192、上述のようにリンク先の階層データ186の座標へ変換されたポイントを黒丸194で示している。
In the example of FIG. 15, five points in the same hierarchy as the display image, three points in the hierarchy above or below, one point in the hierarchy two, two above, or two below are
ロードすべきポイントの決定および当該ポイントを含む画像ブロックのロードは、所定の時間間隔で随時行ってよい。必要な領域のデータをロードするために、ハードディスクドライブ50に画像ブロックを格納する際、各画像ブロックの画像上の領域と画像ブロックの格納領域とを対応付けた情報もハードディスクドライブ50に格納しておく。同様に、ロードされた画像ブロックも、各画像ブロックの画像上の領域と画像ブロックの格納領域とを対応付けた情報をメインメモリ60に格納しておく。ロードブロック決定部106は定期的に、ロードすべきポイントを含む画像ブロックがメインメモリ60に格納されているか否かを確認し、格納されていなければ当該画像ブロックをロード対象として決定する。このように画像ブロックの単位でのロードを随時行うことにより、ロード処理による表示の待ち時間発生を抑制できる。
The determination of the point to be loaded and the loading of the image block including the point may be performed as needed at predetermined time intervals. When an image block is stored in the
また、図15のように、ロードすべきポイントがリンク先の画像の階層データ186に新たに含まれる場合は、現在表示中の階層データ184のデータより優先して当該リンク先のデータをロードするようにしてもよい。これにより、すぐにリンク先への移行が発生しても、リンク先の新たな画像を円滑に表示させることができる。
As shown in FIG. 15, when the point to be loaded is newly included in the
次にリンク元の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおけ座標に変換する手法について説明する。図16はリンク元画像からリンク先画像へのXY座標の変換手法を説明するための図である。同図において、画像156のリンク領域200が画像158のリンク領域204に切り替わるようにリンクが設定されており、画像156のポイント196は、画像158のポイント198に対応するとする。ここでポイント196の座標を(Pa_x,Pa_y)、リンク領域200の辺の長さを(La_sx,La_sy)、当該領域の中心座標を(La_x,La_y)とし、ポイント198の座標を(Pb_x,Pb_y)、リンク領域204の辺の長さを(Lb_sx,Lb_sy)、当該領域の中心座標を(Lb_x,Lb_y)とすると、次のような式が成り立つ。
Next, a method for converting the coordinates of a point to be loaded in the hierarchical data of the link source into coordinates in the hierarchical data of the link destination will be described. FIG. 16 is a diagram for explaining a method of converting XY coordinates from a link source image to a link destination image. In the figure, it is assumed that the link is set so that the
La_sx:(Pa_x−La_x)=Lb_sx:(Pb_x−Lb_x) (式1)
La_sy:(Pa_y−La_y)=Lb_sy:(Pb_y−Lb_y) (式2)
よってポイント198の座標は次のように求められる。
Pb_x=(Lb_sx/La_sx)×(Pa_x−La_x)+Lb_x (式3)
Pb_y=(Lb_sy/La_sy)×(Pa_y−La_y)+Lb_y (式4)
La_sx: (Pa_x−La_x) = Lb_sx: (Pb_x−Lb_x) (Formula 1)
La_sy: (Pa_y−La_y) = Lb_sy: (Pb_y−Lb_y) (Formula 2)
Therefore, the coordinates of the
Pb_x = (Lb_sx / La_sx) × (Pa_x−La_x) + Lb_x (Formula 3)
Pb_y = (Lb_sy / La_sy) × (Pa_y−La_y) + Lb_y (Formula 4)
図17はリンク元画像からリンク先画像へのZ座標の変換手法を説明するための図である。階層データ184と階層データ186は線208においてリンクが設定されているとする。すなわち線208の位置は、階層データ184のリンク領域および階層データ186のリンク領域を示している。ここで変数「lod」を次のように定義する。
lod=log2Np
ここでNpは、対象となる解像度の画像の1画素の幅に含まれる、各階層データにおいて最も下層の画像、すなわち最も解像度の高い画像の画素数である。したがって変数lodは、階層データを表す三角形において底辺からの隔たりを表す指標であり、各階層データに含まれる階層の数などに依存しない、Z軸方向の共通の軸を有する。
FIG. 17 is a diagram for explaining a Z coordinate conversion method from a link source image to a link destination image. Assume that the
lod = log 2 Np
Here, Np is the number of pixels of the lowest layer image, that is, the image with the highest resolution, in each hierarchical data included in the width of one pixel of the target resolution image. Therefore, the variable “lod” is an index representing the distance from the base in the triangle representing the hierarchical data, and has a common axis in the Z-axis direction that does not depend on the number of hierarchical levels included in each hierarchical data.
一方、線208で表されるリンク領域の拡大縮小率から、変換したいポイントの拡大縮小率までの隔たりは、階層データに依存しない。ここでリンク領域のlodの値は、当該領域を画面いっぱいに表示した時のものとする。図17において、階層データ184、186双方における、リンク領域のlodの値をLa_lod、Lb_lodとし、変換したいポイント210のlodの値をPa_lod、Pb_lodとすると、上記の性質によって次の式が成り立つ。
Pa_lod−La_lod=Pb_lod−Lb_lod (式5)
したがって、
Pb_lod=Lb_lod+(Pa_lod−La_lod) (式6)
となる。
On the other hand, the distance from the enlargement / reduction ratio of the link area represented by the
Pa_lod-La_lod = Pb_lod-Lb_lod (Formula 5)
Therefore,
Pb_lod = Lb_lod + (Pa_lod−La_lod) (Formula 6)
It becomes.
式3、4、および6により、現在表示中の画像の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおける座標に置き換えることができる。ただし得られたPb_lodは階層データ186のうち画像データを有する階層上にあるとは限らないため、実際にはPb_lodから得られる位置に最も近い階層のデータをロードすることになる。
By the expressions 3, 4, and 6, the coordinates of the point to be loaded in the hierarchical data of the currently displayed image can be replaced with the coordinates in the hierarchical data of the link destination. However, since the obtained Pb_lod is not necessarily on the hierarchy having the image data in the
これまで述べた例では、2つの階層データ表示対象として扱い、一方の画像においてあらかじめ設定された領域および拡大率に表示画像が到達すると、他方の画像が表示された。すなわち他方の画像によって表示されている物をさらに拡大したり、全く別のコンテンツを表示させたり、といったことを、表示画像移動の指示入力をきっかけとして行うことができる。ここで同時に表示対象とする階層データは3つ以上としてもよく、また、拡大率を変化させていくと元の画像に戻るなど、循環させるようにリンクを設定してもよい。この場合、リンクが設定された複数の階層データを順に拡大していくと元の階層データに戻ったり、ある階層データで拡大していくと、当該階層データの縮小画像に戻ったり、といった表示ができる。後者の場合、自らのリンク設定ファイルのリンク先ファイルフィールドで自らのファイル名を指定すればよい。 In the examples described so far, the images are handled as two hierarchical data display targets, and when the display image reaches a predetermined area and enlargement ratio in one image, the other image is displayed. That is, it is possible to further enlarge the object displayed by the other image, or to display completely different content, using the display image movement instruction input as a trigger. Here, the number of hierarchical data to be displayed at the same time may be three or more, and the link may be set so as to circulate such that the original image is returned when the enlargement ratio is changed. In this case, a display such as returning to the original hierarchical data when sequentially expanding a plurality of hierarchical data to which links are set, or returning to a reduced image of the hierarchical data when enlarged with certain hierarchical data. it can. In the latter case, it is only necessary to specify the name of the file in the link destination file field of the link setting file.
このような機構を用いて例えば以下のような表示を行うことができる。
1.世界地図を拡大していくことにより、日本、県、市、町、建物へ表示を移行させるなど、同一の対象物であるがスケールが著しく異なる画像の連続移行
2.情報処理装置、ゲーム装置などのメニュー画面において表示された選択肢たるアイコンを拡大していくと、説明書など当該アイコンに関連する情報表示に移行
3.雑誌のバックナンバーなど書籍の表紙一覧画面からある表紙を拡大していくと、書籍の内容表示に移行
4.人物の瞳など画像中の対象物を拡大していくと、当該対象物の中や写っている風景などに表示が移行、移行先の画像を縮小していくと元の画像とは異なる画像へと移行
For example, the following display can be performed using such a mechanism.
1. 1. Continuous transition of images of the same object but with significantly different scales, such as shifting the display to Japan, prefectures, cities, towns, buildings, etc. by expanding the world map. 2. When an icon as an option displayed on a menu screen of an information processing device, a game device, or the like is enlarged, a display shifts to information display related to the icon such as a manual. 3. If you expand the cover from the cover list screen of the book, such as the back number of the magazine, the display shifts to the content display of the book. When an object in the image, such as a person's pupil, is magnified, the display shifts to the object or in the landscape, and when the image at the transition destination is reduced, an image different from the original image is displayed. And migration
本実施の形態では、上記の先読み処理によりリンク領域へ表示画像が変更されることを予測する。さらに現在の表示画像の仮想空間における周囲を、階層データに関わらずメモリにロードしておく。これらの機構により、異なる階層データの画像へ表示を移行する場合であっても、ロード処理、デコード処理による表示の遅れが発生しにくく、連続的な移行が可能となる。 In the present embodiment, it is predicted that the display image is changed to the link area by the above-described prefetching process. Further, the periphery of the current display image in the virtual space is loaded into the memory regardless of the hierarchical data. With these mechanisms, even when the display is shifted to an image of different hierarchical data, a delay in display due to the load process and the decode process is unlikely to occur, and a continuous shift is possible.
また、上述のようにユーザからの画像変更要求信号と伝達関数を畳み込み演算することにより表示画像の生成を遅延させる場合、伝達関数を調整することにより、画像の切り替えをより円滑に行うように見せることができる。さらにマニュアル表示など、リンク元の画像とリンク先の画像が異なる内容の場合は特に、それらの画像をクロスフェード、ディゾルブ、ワイプ、ポリゴンメッシュを用いたページめくり状表現など、動画のスイッチャーに一般的に用いられる効果のいずれかを施すことにより円滑な切り替えを表現するようにしてもよい。 In addition, when the generation of a display image is delayed by performing a convolution operation on the image change request signal from the user and the transfer function as described above, the image is switched more smoothly by adjusting the transfer function. be able to. In addition, especially when the link source image and the link destination image have different contents, such as manual display, these images are commonly used for video switchers such as cross-fade, dissolve, wipe, and page turning expression using polygon mesh. Smooth switching may be expressed by applying one of the effects used in the above.
またリンク先として動画データを設定してもよい。この場合リンク先を、1階層の動画のデータからなる階層データ、と捉えることができる。例えばある静止画像の一領域に動画データへのリンクを設定しておく。リンク設定ファイルは図14で示したデータ構造を利用することができる。リンク先ファイルフィールド306には動画ファイルのファイル名を指定する。リンク先画像フレームフィールド308は、動画の解像度や表示領域を固定とする場合は無効としてもよい。このようにリンクを設定しておき、上述の先読み処理により表示中の画像のリンク領域に表示画像が移ると予測された際に、指定しておいた動画ファイルのエンコードを開始する。または予測とは関係なくエンコード処理のみ継続させておいてもよい。
Moreover, you may set moving image data as a link destination. In this case, the link destination can be regarded as hierarchical data composed of moving picture data of one hierarchy. For example, a link to moving image data is set in one area of a still image. The link setting file can use the data structure shown in FIG. In the link
例えば画面中にいくつかの静止画像、例えばグラビア写真などを表示し、ある静止画像をズームインしていくと当該画像中の動物が動き出す、などの演出を行うことができる。同様に、リンク情報のリンク先ファイルフィールド306にアプリケーションファイルを指定しておき、画像中のある領域をズームインすると当該アプリケーションが起動するようにしてもよい。
For example, it is possible to produce effects such as displaying several still images such as gravure photographs on the screen and moving an animal in the image as the still image is zoomed in. Similarly, an application file may be designated in the link
図18はリンク領域が設定されている画像の例を示している。画像350にはリンク領域352a、352b、352cなど複数のリンク領域が設定されている。例えばリンク領域352aへズームインしていくと、上述のような機構により、当該領域のより詳細な画像や関連情報、あるいは動画再生やアプリケーション起動が行われる。画像350のようにリンク領域が限定的な場合、ユーザの位置合わせの手間を削減するために表示画像の移動を誘導してもよい。この機能はリンク領域が限定的でない場合でも、表示画像を意図的に誘導したい場合などに有効である。
FIG. 18 shows an example of an image in which a link area is set. In the
この誘導機能を提供するため、上述のリンク情報で用いたフレーム定義パラメータを利用する。すなわち誘導したい領域(以後、誘導領域と呼ぶ)ごとに、(横方向オフセット,縦方向オフセット,拡大率,回転角)で表されるフレーム定義パラメータを、リンク情報と同様にファイルとして作成しておく。当該ファイルは図9のメインメモリ60においてシナリオ設定ファイル119として格納されている。そして表示領域がシナリオ設定ファイルで設定されたフレームに対し仮想空間において所定の範囲内に入ったら誘導領域へ表示画像を誘導する。当該処理は、仮想的に誘導領域への画像移動要求信号を発生させれば上述と同様の処理によって実現できる。また「所定の範囲」もフレーム定義パラメータでシナリオ設定ファイルに定義しておく。
In order to provide this guidance function, the frame definition parameters used in the above link information are used. That is, for each area to be guided (hereinafter referred to as a guiding area), a frame definition parameter represented by (horizontal offset, vertical offset, enlargement ratio, rotation angle) is created as a file in the same way as link information. . The file is stored as the
これによりユーザが表示画像をリンク領域352a近傍に近づけるのみで、表示画像がリンク領域へ誘導され、その結果、設定されたリンク先へ容易に移行することができ、操作性が向上する。本実施の形態では、表示画像の仮想空間内での移動をきっかけとして、リンク先である別の画像への移行、動画再生、アプリケーションの起動などを行うため、上述のような移動の先読み処理により、あらかじめユーザの意向を予測することができる。したがって、別の画像データのデコード、動画データのデコード、アプリケーションの起動処理を、実際にリンク先へ表示を切り替える前に投機的に実行しておくことが可能である。これにより、ポインタなどによってアイコンを選択してから処理を開始する従来の手法に比べ、実際の画像の切り替え指示から出力までに要する時間を格段に削減することができる。
As a result, the display image is guided to the link area only by the user bringing the display image close to the vicinity of the
上記の例はリンク先へ移行したいというユーザの意図を検知して表示画像をリンク領域へ誘導するものであった。一方、同様の機構により、リンク領域か否かに関わらず表示画像を誘導するようにしてもよい。図19は一つの階層データにおいて表示画像を誘導しながら、表示する階層を移行していく様子を示している。同図において階層データ360は画像362に対応する。そして上述のフレーム定義パラメータによって、線368および線370で表される誘導領域374および376がシナリオ設定ファイル119に設定されており、現在表示中の領域372が線366に対応する。
The above example detects the user's intention to move to the link destination and guides the display image to the link area. On the other hand, a display image may be guided by a similar mechanism regardless of whether or not it is a link area. FIG. 19 shows a state in which the display layer is shifted while guiding the display image in one layer data. In the figure,
ユーザが領域372から表示画像を拡大していき、誘導領域374から所定の範囲に表示画像が入った際、表示画像を誘導領域374に誘導する(矢印D)。さらに拡大していき、誘導領域376から所定の範囲に表示画像が入った際、表示画像を誘導領域376に誘導する(矢印E)。この態様は、表示する画像の内容によって様々な目的で利用することができる。
When the user enlarges the display image from the
例えば風景写真やボートレートなどでは、ユーザが拡大したい領域は限定的である場合が多い。ところが画面を拡大縮小する従来の技術では、所望の領域を拡大したつもりが表示画像がずれており、そのときの拡大率では所望の領域を探すことが困難な場合がある。本実施の形態で拡大が予測される領域についてはあらかじめシナリオ設定ファイルに登録しておけば、ユーザが表示画像を当該領域におよそ移動させて拡大指示を入力することにより、当該領域を正確に拡大することができる。なお表示画像の誘導領域への誘導は、表示画像が誘導領域の近傍にある場合ばかりでなく、例えば所定のボタンを押下すると現在の表示画像の位置に関わらず誘導領域へ移動するようにしてもよい。 For example, in a landscape photograph or a boat rate, there are many cases where the area that the user wants to enlarge is limited. However, in the conventional technique for enlarging / reducing the screen, there is a case where the display image is shifted when the desired area is enlarged, and it is sometimes difficult to search for the desired area with the enlargement ratio at that time. If the area that is predicted to be enlarged in this embodiment is registered in the scenario setting file in advance, the user can move the display image to the area and input an enlargement instruction to accurately enlarge the area. can do. The display image is guided to the guide area not only when the display image is in the vicinity of the guide area, but, for example, when a predetermined button is pressed, the display image moves to the guide area regardless of the current position of the display image. Good.
上述の誘導は必ずしも異なる階層への誘導でなくてもよく、例えば同一階層内で表示順序を誘導するようにすることもできる。図20は異なる階層への誘導と同一階層における別領域への誘導を組み合わせた場合の表示画像の移行の様子を示している。例えば新聞記事や雑誌などの1ページを階層データ380を用いて表示する場合を考える。このとき、拡大して閲読されるであろう文字の領域を、記事ごとに誘導領域として設定しておく。同図では線386で表される誘導領域392がそれにあたる。さらにその下の階層、すなわち文字を判読できる程度の解像度を有する階層において、記事の最初から最後までを追えるように複数の誘導領域を設定しておく。線388で表される誘導領域394と、線390で表される誘導領域396がそれにあたる。
The above-described guidance does not necessarily have to be guided to a different hierarchy, and for example, the display order can be guided within the same hierarchy. FIG. 20 shows how the display image is transferred when the guidance to a different hierarchy and the guidance to another area in the same hierarchy are combined. For example, consider a case where one page such as a newspaper article or magazine is displayed using the
ユーザはまず線384で表されるページ全体の領域382を表示した後、所望の記事へ表示画像を近づけつつ拡大していく。すると当該記事の誘導領域392へ誘導される(矢印F)。そこでさらに拡大していくと当該記事の文頭の誘導領域394へ誘導される(矢印G)。誘導領域394内の文章を読んだユーザが方向指示や所定のボタンを押下する入力を行うことにより、続きの文章が記載された誘導領域396へ誘導される(矢印H)。
The user first displays the
同一階層内での表示領域の移行では、フレーム定義パラメータとともに表示順序も設定する。また上述のように表示領域の移動を指示するための操作キーも定義しておく。例えば新聞記事など段組で記載されている文章は、表示領域を右から左に移動させた後、その下方を再度右から左に移動させる必要がある。このような場合に表示領域と順序とをあらかじめ設定しておけば、拡大画像において次にどの位置へ表示画像を移動させればよいかユーザが探す必要がなくなる。また同一階層内の移動であっても、上述のとおり現在の表示画像が誘導領域の所定範囲に入ったときに誘導するようにしてもよい。 When shifting the display area within the same hierarchy, the display order is set together with the frame definition parameter. As described above, operation keys for instructing movement of the display area are also defined. For example, sentences written in columns such as newspaper articles need to be moved from right to left again after the display area is moved from right to left. In such a case, if the display area and the order are set in advance, the user does not need to search to which position the display image should be moved next in the enlarged image. Further, even if the movement is within the same hierarchy, it may be guided when the current display image enters a predetermined range of the guidance area as described above.
なお図19、20では、簡単のために一つの階層データにおける表示画像の移行を示したが、移行の途中に別の階層データへのリンクが設定されている場合は、当然当該別の階層データへ表示を移行させてよい。また上記の例は、ユーザが拡大縮小を含む画像移動要求を行った際に表示画像を誘導するものであった。本実施の形態ではさらに、所定時間ごとにあらかじめ登録しておいた誘導領域へ表示画像を移行する機能を設ける。この場合ユーザは、そのようなモードを実行する旨の指示入力を行うのみでよい。この機能により、雑誌の販売促進用画像や写真の連続閲覧など、静止画からなる素材を利用した動画に近い新たな表現手法を提供することができる。 19 and 20 show the transition of the display image in one hierarchical data for the sake of simplicity. However, if a link to another hierarchical data is set during the transition, the other hierarchical data is naturally set. The display may be shifted to. In the above example, the display image is guided when the user makes an image movement request including enlargement / reduction. In the present embodiment, a function of transferring a display image to a guide area registered in advance every predetermined time is further provided. In this case, the user only needs to input an instruction to execute such a mode. With this function, it is possible to provide a new expression technique close to a moving image using a material composed of still images, such as magazine sales promotion images and continuous browsing of photographs.
このように自動的に表示画像を移行する場合は、フレーム定義パラメータ、表示順序、および各画像の表示時間などをシナリオ設定ファイル119として作成する。この場合のシナリオ設定ファイル119は、より細かく画像の移行を制御する処理をXMLなどのマークアップ言語で記述してもよい。このとき、シナリオ解釈部117は、当該記述をメインメモリ60より読み出し解釈したうえ、表示画像処理部114、リンク判定部116、ロード部108に適宜処理要求を行うことにより、表示画像を制御する。図21はこのとき記述される処理の流れを示すフローチャートである。
When the display image is automatically transferred in this way, the frame definition parameter, the display order, the display time of each image, and the like are created as the
まず階層データを指定する(S20)。ここで指定する階層データは一つの画像を表す一つの階層データでもよいし、リンクが設定された複数の階層データのまとまりでもよい。次に、表示する画像をフレーム定義パラメータで指定する(S22)。さらに当該画像を表示する際のエフェクト処理を適宜指定する(S24)。それ以前に別の画像が表示されていれば、例えばクロスフェードの処理を指定したり、前の画像を徐々に小さくしつつ今回の画像を大きくしていく処理を指定したりする。そして、次の画像へ表示を移行するまでの時間、およびその時間における今回の画像と次の画像の補完処理を指定する(S26)。ここで「次の画像」は例えば今回の画像の拡大画像や縮小画像など、同一の階層データにおいて階層の異なる画像やリンク先の画像であってもよいし別の階層データ内の画像でもよい。 First, hierarchical data is designated (S20). The hierarchical data specified here may be one hierarchical data representing one image, or a group of a plurality of hierarchical data to which links are set. Next, the image to be displayed is designated by the frame definition parameter (S22). Further, effect processing for displaying the image is appropriately designated (S24). If another image is displayed before that, for example, a crossfade process is designated, or a process of enlarging the current image while gradually reducing the previous image is designated. Then, the time until the display shifts to the next image, and the complementary processing of the current image and the next image at that time are designated (S26). Here, the “next image” may be, for example, an enlarged image or a reduced image of the current image, an image having a different hierarchy in the same hierarchical data, an image of a link destination, or an image in different hierarchical data.
画像の補完手法は、今回の画像と次の画像をキーフレームとした場合にアニメーション技術などで一般的に用いられる手法を適用することができる。S20からS26までの処理を一単位として、異なる階層データで連続して表示したい画像があればそれを繰り返すように記述する。このように記述したシナリオ設定ファイル119を先読み処理部110が読み込むことにより、ユーザが画像移動要求を入力した場合と同様に仮想の画像移動要求を生成して、リンク判定部116に問い合わせつつデコード部112にデコード処理を依頼する。これによって、指定した画像が表示画像として次々変化する態様が容易に実現できる。なお、このときのシナリオ設定ファイルには、フレーム定義パラメータと別に、画像描画に用いる階層データの階層数を指定するようにしてもよい。
As a method for complementing an image, a method generally used in an animation technique or the like when the current image and the next image are used as key frames can be applied. The processing from S20 to S26 is taken as a unit, and if there is an image that is to be continuously displayed with different hierarchical data, it is described so as to be repeated. When the
以下にXMLで記述されたシナリオ設定ファイル119の例を示す。
(1)<?xml version="1.0" encoding="utf-8"?>
(2)<Viewer>
(3) <FileList>
(4) <File name="INDEX"/>
(5) <File name="hyoshi"/>
(6) <File name="ichiran"/>
(7) </FileList>
(8) <InitCameraPosition x="-0.219" y="0.32" scale="0.28"/>
(9) <Section>
(10) <Event type="change" name="INDEX" wait="0.0">
(11) <CameraPosition x="-0.219" y="0.32" scale="0.28"/>
(12) </Event>
(13) </Section>
(14) <Section>
(15) <Event type="camera" name="camera1" wait="0.0">
(16) <Interpolator
(17) duration='4.0'
(18) type='linear'
(19) key='0 0.5 1.0'
(20) keyValue='
(21) -0.219 0.32 0.28
(22) -0.115955 0.29424 0.2
(23) -0.115955 0.29424 0.155553
(24) '/>
(25) </Event>
(26) </Section>
(27) <Section>
(28) <Event type="change" name="hyoshi" wait="0.0">
(29) <CameraPosition x="0.01257207987839" y="-0.00214762229374"
scale="0.94793879664622"/>
(30) </Event>
(31) </Section>
(32) <Section>
(33) <Event type="change" name="09france-ichiran" wait="2.0">
(34) <CameraPosition x="-0.007705" y="-0.008650" scale="0.508980"/>
(35) <VideoPosition name="video:sample.m2v" x="0.135605" y="-0.035605"
scale="0.061268"/>
(36) <Effect type="fade0"/>
(37) </Event>
(38) </Section>
(39) <Section>
(40) <Event type="image" name="tbs01.png" wait="0.0">
(41) <Position x="0.971875" y="-0.95" alpha="0.0" layer="1003"
cardinal="rightbottom"/>
(42) </Event>
(43) </Section>
(44) </Story>
(45)</Viewer>
An example of the
(1) <? Xml version = "1.0" encoding = "utf-8"?>
(2) <Viewer>
(3) <FileList>
(4) <File name = "INDEX"/>
(5) <File name = "hyoshi"/>
(6) <File name = "ichiran"/>
(7) </ FileList>
(8) <InitCameraPosition x = "-0.219" y = "0.32" scale = "0.28"/>
(9) <Section>
(10) <Event type = "change" name = "INDEX" wait = "0.0">
(11) <CameraPosition x = "-0.219" y = "0.32" scale = "0.28"/>
(12) </ Event>
(13) </ Section>
(14) <Section>
(15) <Event type = "camera" name = "camera1" wait = "0.0">
(16) <Interpolator
(17) duration = '4.0'
(18) type = 'linear'
(19) key = '0 0.5 1.0'
(20) keyValue = '
(21) -0.219 0.32 0.28
(22) -0.115955 0.29424 0.2
(23) -0.115955 0.29424 0.155553
(24) '/>
(25) </ Event>
(26) </ Section>
(27) <Section>
(28) <Event type = "change" name = "hyoshi" wait = "0.0">
(29) <CameraPosition x = "0.01257207987839" y = "-0.00214762229374"
scale = "0.94793879664622"/>
(30) </ Event>
(31) </ Section>
(32) <Section>
(33) <Event type = "change" name = "09france-ichiran" wait = "2.0">
(34) <CameraPosition x = "-0.007705" y = "-0.008650" scale = "0.508980"/>
(35) <VideoPosition name = "video: sample.m2v" x = "0.135605" y = "-0.035605"
scale = "0.061268"/>
(36) <Effect type = "fade0"/>
(37) </ Event>
(38) </ Section>
(39) <Section>
(40) <Event type = "image" name = "tbs01.png" wait = "0.0">
(41) <Position x = "0.971875" y = "-0.95" alpha = "0.0" layer = "1003"
cardinal = "rightbottom"/>
(42) </ Event>
(43) </ Section>
(44) </ Story>
(45) </ Viewer>
上記記述において、(3)〜(7)はコンテンツ中で使用する階層データを指定している。(8)は画像の初期位置を指定している。(9)〜(13)は最初に使用する画像をインデックス表示した階層データの画像としており、表示する階層データの画像とその表示位置を指定している。(14)〜(31)は、本の表紙の階層データの画像にカメラアニメーションしながらズームしていきデータを移り変わらせている。そのうち(14)〜(26)はキーフレーム表記にてカメラアニメーションを指定している。(27)〜(31)は表示する階層データの画像とその表示位置を指定し、当該表示位置を利用してリンクを張っている。(32)〜(38)は、動画像へのリンクを含んだ階層データの画像に切り替わり動画をアップで写している。そのうち(32)〜(35)は階層データの画像へのリンクと同様に動画像へのリンクを張っている。(36)は画面切り換え時の描画効果を指定している。(39)〜(43)は動画像表示中に動画像の著作権表示画像を表示している。そのうち(40)〜(41)は、 階層構造を持たない普通の画像の表示を指定している。 In the above description, (3) to (7) designate hierarchical data used in the content. (8) designates the initial position of the image. (9) to (13) are images of hierarchical data in which the first image to be used is displayed as an index, and designate the hierarchical data image to be displayed and its display position. In (14) to (31), zooming is performed while the camera animation is applied to the hierarchical data image of the book cover, and the data is changed. Among them, (14) to (26) designate camera animation in key frame notation. In (27) to (31), an image of the hierarchical data to be displayed and its display position are designated, and a link is established using the display position. In (32) to (38), the image is switched to a hierarchical data image including a link to the moving image, and the moving image is copied up. Among them, (32) to (35) have links to moving images as well as links to images of hierarchical data. (36) designates a drawing effect at the time of screen switching. In (39) to (43), a copyright display image of a moving image is displayed during moving image display. Of these, (40) to (41) designate display of an ordinary image having no hierarchical structure.
本実施の形態は、上述のようなリンク設定ファイルやシナリオ設定ファイルを作成することにより、複数の階層データを素材として様々な画像表現を容易に実現することができる。したがって一般的なユーザが、ネットワーク上や記録媒体などでコンテンツとして提供された階層データを用いて、独自のコンテンツを作成することも考えられる。また、そのようにして作成したコンテンツ自体が流通する場合も考えられる。 In the present embodiment, by creating the link setting file and the scenario setting file as described above, various image expressions can be easily realized using a plurality of hierarchical data as materials. Therefore, it can be considered that a general user creates original content using hierarchical data provided as content on a network or a recording medium. In addition, the content itself created in this way may be distributed.
図22は本実施の形態を実現する際のデータの流通態様の例を模式的に示している。この例では、サーバ400、402、および404がネットワーク420を介して接続している。各サーバはコンテンツ制作業者のサーバでもよいし、一般ユーザの情報端末などでもよい。またサーバに代わりCD−ROMやDVDなどの記録媒体でもよい。サーバ400は、階層データ406aとそれに付加した属性ファイル408aからなるコンテンツを提供する。属性ファイル408aについては後に述べる。サーバ402は複数の階層データからなる階層データ406bと、それらのリンク情報を設定したリンク設定ファイル410b、410c、シナリオ設定ファイル412b、属性ファイル408bを付加したコンテンツを提供する。
FIG. 22 schematically shows an example of a data distribution mode when the present embodiment is realized. In this example,
なお同図のように、階層データ406bにリンクが設定されている場合、上述のようにリンク設定ファイル410b、410cは階層データごとに付加される。一方、シナリオ設定ファイルは当該リンクを前提に階層データを跨いだ設定が可能であるためリンクが設定されている階層データ全体に対して付加される。
As shown in the figure, when a link is set in the
サーバ404は、シナリオ設定ファイル412cのみを提供する。なお同図のデータ構造はあくまで例示であり、例えばリンクが設定されていない単独の階層データにシナリオ設定ファイルが付加されていてもよいし、逆にシナリオ設定ファイルが付加されずにリンク設定ファイルが付加されていてもよい。サーバ400やサーバ402が保持するコンテンツは、それのみでも表示が可能であるが、サーバ404のシナリオ設定ファイル412cにおける設定に含まれていれば、当該シナリオ設定ファイル412cと、それにより指定された階層データ406aや406bとを入手することにより、ひとつのコンテンツが生成されることになる。したがって図22で表されたデータ構造はそのいずれもが一つのコンテンツとして流通の単位になり得る。
The
このような場合を考慮し、階層データには属性ファイルを付加しておく。属性ファイルに記録する情報としては例えば、当該コンテンツの内容に係る情報、例えばコンテンツの名称、作者、発行者、協賛者、作成日、修正日、版、記述言語などの基本情報、コンテンツや素材データの権利者、課金の還元のための情報、二次利用の際の制御のための情報、有効期限、コピー可能回数、譲渡可能回数などの所有権・著作権情報、レイティングなどが挙げられる。 Considering such a case, an attribute file is added to the hierarchical data. Information to be recorded in the attribute file includes, for example, information relating to the contents of the content, for example, basic information such as content name, author, publisher, sponsor, creation date, modification date, edition, description language, content and material data Right holders, information for returning charges, information for control during secondary use, ownership / copyright information such as expiration date, number of copies allowed, number of transfers, etc., ratings and the like.
また、当該コンテンツの制御属性、例えば接続やデータ利用の許可、暗号化の方式、署名などの認証制御情報、従量課金か否か、上限を設定するか、無料とするか、仮想通貨か否かを含む通貨の指定、チャージか引き落としか小切手方式かといった決済方法といった課金に係る情報、プラットフォーム、OS、推奨リソースなどの動作環境、対象利用者、有効地域、国などのアクセス制御情報などを付加してもよい。さらに、属性情報の領域と階層データの領域、外部参照リンク情報などコンテンツの構造、コンテンツの名称、代表画像、課金案内、属性のサマリーなどを表したサムネイルの情報、フレーム情報の格納場所の情報、といったデータ構造情報を付加してもよい。 In addition, the control attributes of the content, for example, permission of connection and data use, encryption method, authentication control information such as signature, whether or not the usage fee is charged, whether an upper limit is set, whether it is free, whether it is virtual currency Adds information related to billing, such as payment method such as charge, debit or check method, operating environment such as platform, OS, recommended resources, access control information such as target user, valid area, country, etc. May be. Furthermore, attribute information area and hierarchical data area, content structure such as external reference link information, content name, representative image, billing information, thumbnail information indicating attribute summary, frame information storage location information, Such data structure information may be added.
これらの属性を個々の階層データに付加しておくことにより、例えばその階層データをリンク先とした複数の階層データからなるコンテンツを作成して表示する際、リンク先ごとに適切な処置を講じることができる。例えば著作権の対象であるコンテンツをリンク先として移行する場合はその旨の表示を必ず行うようにしたり、認証の必要が設定されているコンテンツはまず認証のためのダイアログを表示したりする。またレイティングと閲覧者のプロフィールなどによって表示の可、不可を決定し、不可であれば当該画像は表示しないようにしてもよい。表示を不可とする場合は、リンク領域に表示画像があってもリンク先への遷移はせず、元の階層データの画像が単に拡縮されるのみとしてもよい。属性情報に従った各種処理は、一般的なコンテンツの表示における処理と同様の機構により実施することができる。 By adding these attributes to individual hierarchical data, for example, when creating and displaying content consisting of multiple hierarchical data with the hierarchical data as the link destination, appropriate measures should be taken for each link destination. Can do. For example, when content that is the subject of copyright is transferred as a link destination, a message to that effect is always displayed, or for content for which authentication is required, a dialog for authentication is first displayed. Further, whether or not display is possible is determined based on the rating and the profile of the viewer, and if it is not possible, the image may not be displayed. In the case where the display is disabled, even if there is a display image in the link area, the transition to the link destination is not performed and the image of the original hierarchical data may be simply enlarged or reduced. Various processes according to the attribute information can be performed by the same mechanism as the process for displaying general contents.
なお、リンクを設定した複数の階層データは全体として一つのコンテンツを形成するため、属性ファイルは個々の階層データに付加するほか、当該複数の階層データ全体にも付加する。 Since a plurality of hierarchical data set with links form one content as a whole, the attribute file is added to each of the hierarchical data in addition to the individual hierarchical data.
次に、これまで述べた実施形態を含む、階層データを利用したコンテンツをユーザが制作するための支援技術について説明する。図23は、本実施の形態におけるコンテンツ制作支援機能を有する画像処理装置の構成を示している。なお同図に示す画像処理装置500は、実際には図4に示した画像処理装置10と同じ構成を有していてよいが、ここでは本実施の形態を実現するために備える機能ブロックのみを示している。したがって図21の制御部502は、図9に示した制御部100と同一のプロセッサで実現してもよい。あるいは別個の装置としてもよい。
Next, assistive technology for a user to create content using hierarchical data, including the embodiments described so far, will be described. FIG. 23 shows a configuration of an image processing apparatus having a content production support function in the present embodiment. Note that the
画像処理装置500は、以下に述べる機能のいずれかまたは組み合わせを有する。
1.誘導領域の設定を受け付け、シナリオ設定ファイルを生成、更新する
2.リンク領域の設定を受け付け、リンク設定ファイルを生成、更新する
3.複数の画像選択を受け付け、それらの画像を選択できるインデックス画像を、リンクを設定したうえで生成する
The
1. 1. Accept the guidance area settings and generate and update the scenario setting file. 2. Accept link area settings and generate and update link setting files Accepts multiple image selections and generates an index image that can be selected by setting links
画像処理装置500は、入力装置520、制御部502、ハードディスクドライブ550、およびメインメモリ560を備える。ハードディスクドライブ550には、既存の階層データ551が格納されている。階層データ同士にリンクが設定されていてもよい。入力装置520は、上述した機能の選択、画像領域の選択、各種設定の指示をユーザが入力するためのインターフェースであり、例えば図2に示した外観構成を有していていよい。制御部502は、入力情報取得部504、設定画像表示部506、設定情報登録部508を含む。入力情報取得部504は、ユーザが入力装置520へ入力した情報を取得し、その内容に応じて設定画像表示部506および設定情報登録部508へ適宜処理要求を行う。
The
設定画像表示部506は、ユーザが誘導領域、あるいはリンク領域を設定したい旨の入力を行った場合に、ユーザが選択した画像の階層データをハードディスクドライブ550から読み出し、表示する。またユーザからの画面移動要求に従い表示画像を移動させたり、領域を指定するための矩形をポインタの位置情報に合わせて表示したりする。設定情報登録部508は、ユーザが画像内の領域を指定してリンク領域あるいは誘導領域の設定指示を行った場合に、当該領域のフレーム定義パラメータを取得し、リンク設定ファイル562またはシナリオ設定ファイル564を生成してメインメモリ560に格納する。
The setting
設定情報登録部508はまた、ユーザが複数の画像を選択した場合に、当該画像の解像度を適宜選択して所定のフォーマットに並べたインデックス画像データ566を例えば階層データとして生成してメインメモリ560に格納する。このとき、生成したインデックス画像の階層データとそれに含まれる個々の画像(以後、「個別画像」と呼ぶ)の階層データとの間にリンクを設定したリンク設定ファイル562も同時に生成してメインメモリ560に格納する。なお上述のように、リンク設定ファイル562、シナリオ設定ファイル564、インデックス画像データ566はメインメモリ560に格納して画像の表示に用いるばかりでなく、ハードディスクドライブ550や別の記録媒体に記録してもよい。このとき、設定対象の階層データ本体とまとめて一つのコンテンツとしてもよい。
When the user selects a plurality of images, the setting
設定情報登録部508は、生成したシナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データのいずれか、または組み合わせと、対象となる階層データ自体、あるいは階層データの格納領域に係る情報とを一つのパッケージとして生成し、ハードディスクドライブ550に格納するようにしてもよい。当該パッケージにはさらに、上述した属性情報を付加するようにしてもよい。さらに当該パッケージを用いて画像処理または画像の視聴を行う際、最初に表示される初期画面に係る情報を当該パッケージにさらに付加してもよい。例えば、インデックス画像データと個別画像データ、リンク設定ファイルなどをパッケージとする場合は、初期画面に係る情報に、インデックス画像を初期画面とする設定を行う。初期画面に係る情報にはさらに、初期画面として設定された画像のうち、どの領域を表示するかを設定するようにしてもよい。これにより例えば、インデックス画像のタイトル領域を先に表示し、ユーザの指示によってインデックス画像の全体を表示する、などの態様が実現できる。
The setting
また設定画像表示部506は、ユーザが一旦設定して生成されたシナリオ設定ファイル、リンク設定ファイル、インデックス画像データと階層データを用いて、登録結果たる各種切り替え画像を表示するようにしてもよい。このときユーザは、当該画像を確認して、設定のし直しを行うことができる。また、画像処理装置500とネットワークを介して接続された画像処理装置に生成したシナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データのいずれかを送信するようにしてもよい。そして画像処理装置において表示した結果をユーザが確認し、修正箇所などの情報を画像処理装置500に返信すると、設定情報登録部508が当該情報を解釈して、シナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データを修正するようにしてもよい。
Further, the setting
図24は上記1の、誘導領域の設定を受け付け、シナリオ設定ファイルを生成、更新する処理の手順例を説明する図である。まずユーザは入力装置520に対し対象となる画像の階層データを選択する。入力情報取得部504から当該情報を得た設定画像表示部506は、ハードディスクドライブ550から階層データを読み出して表示する。図24の画像570は選択された画像の全体を表している。ユーザは設定画像表示部506の表示を確認しながら画像移動要求を入力装置520に対して行い、例えば誘導領域として設定したい領域572が画面いっぱいに表示されるようにしたあと所定の設定用ボタンを押下する。この処理に代わりポインタ操作により領域を囲む矩形を描画させて設定用ボタンを押下するようにしてもよい。
FIG. 24 is a diagram for explaining a procedure example of the above-described processing for receiving the setting of the guidance area and generating and updating the scenario setting file. First, the user selects hierarchical data of a target image with respect to the
すると設定情報登録部508は、当該領域のフレーム定義パラメータを取得し、シナリオ設定ファイル564に記録する。ユーザは必要に応じてまた別の領域574を選択し設定用ボタンを押下する。すると設定情報登録部508は、当該領域のフレーム定義パラメータをシナリオ設定ファイル564の次の行に追加する。これを繰り返すことにより、所望の領域を全てシナリオ設定ファイル564に記録する。このようにして生成されたシナリオ設定ファイル564によって、上述のように、表示したい領域を、領域572、574、・・・といった順序で、所望の解像度で順次表示していくことができる。
Then, the setting
また、上述のように各領域の表示時間、画像を補間するアニメーション処理、エフェクト処理など表示を制御する処理を記述したマークアップ言語を生成するようにしてもよい。そのためにあらかじめ、サンプル画像による画像処理のバリエーションを表示して、ユーザにより所望の処理を選択させるようにしてもよい。選択された処理は、誘導領域のフレーム定義パラメータとともにシナリオ設定ファイル564に記録する。さらに次に述べるリンク設定ファイルでリンクが設定されている複数の階層データ、またはインデックス画像データと個別画像データの全体に対し、シナリオ設定ファイルを設定してもよい。このとき設定画像表示部506は設定されたリンクに従い複数の階層データの画像を切り替えて表示するが、その他は同様の処理によりシナリオ設定ファイルを生成することができる。
In addition, as described above, a markup language describing processing for controlling display such as display time of each region, animation processing for interpolating an image, and effect processing may be generated. For this purpose, variations of image processing using sample images may be displayed in advance so that a user can select a desired process. The selected process is recorded in the
図25は上記2の、リンク領域の設定を受け付け、リンク設定ファイルを生成、更新する処理の手順例を説明する図である。まずユーザは入力装置520に対し、リンクを設定する対象となる2つの画像の2つの階層データを選択する入力を行う。入力情報取得部504から当該情報を得た設定画像表示部506は、ハードディスクドライブ550から当該階層データを読み出して2画面表示する。図25の画像582および画像584は、選択された画像を表している。ユーザは設定画像表示部506の表示を確認しながら画像582の画像移動要求を入力装置520に対して行い、リンク領域として設定したい領域586を含む画像を表示させる。そしてポインタ操作により領域を囲む矩形を描画させて領域選択を行う。画像584についても同様に領域588を選択する。その後、所定の設定用ボタンを押下する。
FIG. 25 is a diagram for explaining a procedure example of the above-described processing of accepting the setting of the link area and generating and updating the link setting file. First, the user inputs to the
すると設定情報登録部508は、領域586、588のフレーム定義パラメータを取得し、図14に示したようなデータ構造でリンク設定ファイル562に記録する。例えばリンク元画像を設定画像表示部506の左側、リンク先画像を設定画像表示部506の右側に表示するように規則づける、当該リンクが画像の拡大方向か縮小方向かをユーザに選択させる、などの措置により、有効スケール範囲フィールド304およびリンク先ファイルフィールド306に指定する情報も取得して記録する。このようにして生成されたリンク設定ファイル562によって、画像582と画像584間にリンクが設定され、上述のように領域586にズームインしていくと、画像584の階層データへ画像表示に用いるデータが移行し、さらなる拡大率の画像を表示することができる。
Then, the setting
なお上述の例は画像のデータ同士にリンクを設定する場合を示したが、リンク先は画像に限らず、動画、アプリケーション、音声、音楽、テキストなどのデータでもよい。この場合はリンク元の画像を画像582のように表示し、リンク先となり得るデータを表すアイコンなどを画像584に代わり表示してユーザに選択させるようにしてもよい。このときリンク設定ファイル562には上述のように、選択されたアイコンに対応するデータのファイル名がリンク先ファイルフィールド306に記録され、リンク先画像フレームフィールド308は無効でよい。
Although the above example shows a case where a link is set between image data, the link destination is not limited to an image, and may be data such as a moving image, an application, sound, music, text, or the like. In this case, the link source image may be displayed as an
また、領域586および588がユーザより選択された際、各領域に表示されている対象物の特徴点を抽出しマッチングを行うことにより、対象物が2つの画像で完全に重なるようにフレーム定義パラメータを仮想空間上で微調整するようにしてもよい。これにより、リンクによる画像移行時に対象物にずれが生じ、切り替え処理が明らかになるのを防止できる。この処理は、2つの画像の対象物が同一の場合に限らず、ある対象物が変化していくように2つの画像をクロスフェードしてつなげる場合にも有効である。また、図25では2つの画像からそれぞれ1つずつ領域を選択してリンクを設定したが、画像の数は3つ以上でもよく、1つの画像内でリンク領域を複数個設定するようにしてもよい。この場合も上述の処理を繰り返せば実現できる。
When the
さらに、リンク設定対象の階層データに上述のように属性情報が付加されている場合は、当該情報のうち必要なものをどこで表示するか、といった情報をユーザに入力させるためのダイアログを表示するようにしてもよい。ユーザにより当該情報が入力されたら、この情報もリンク設定ファイル562に記録しておき、リンク先への表示画像の移行の際には適宜表示するようにしてもよい。
Furthermore, when the attribute information is added to the link setting target hierarchical data as described above, a dialog for allowing the user to input information such as where to display necessary information among the information is displayed. It may be. When the information is input by the user, this information may also be recorded in the
図26は上記3の、複数の画像選択を受け付け、それらの画像を選択できるインデックス画像を、リンクを設定したうえで生成する処理態様を説明する図である。このときユーザは入力装置520に対しインデックスを生成したい複数の個別画像の階層データを選択する。すると設定情報登録部508は、例えば選択された階層データの最も解像度の低い画像など、インデックスとして適当な解像度の個別画像を埋め込んだインデックス画像、例えば図18で示した画像350の如き画像をインデックス画像データ566として生成し、メインメモリ560に格納する。同図において領域352a、352b、352cなどはユーザが選択した個別画像である。
FIG. 26 is a diagram for explaining a processing mode of generating an index image that accepts a plurality of image selections and can select those images after setting a link. At this time, the user selects hierarchical data of a plurality of individual images for which an index is to be generated with respect to the
階層データ590は既存のものをユーザが選択するようにしてもよい。例えば美術館の壁の画像を階層データ590として選択し、個別画像を壁の額縁内に配置するようにすれば、美術館の壁に個別画像が飾られている画像が生成されることになる。インデックス画像のどこに個別画像を配置するか、各画像のサイズといった情報も、さらにユーザから受け付けてもよい。この場合、設定情報登録部508は、ユーザの指定に応じた位置、サイズで個別画像を埋め込んだインデックス画像データを生成する。
The
設定情報登録部508はさらに、生成したインデックス画像の階層データ590において個別画像を埋め込んだ位置に、各個別画像の階層データ592a、592b、・・・、592nへのリンクを設定したリンク設定ファイル562を生成してメインメモリ560に格納する。このようにして生成されたインデックス画像データ566およびリンク設定ファイル562によって、インデックス画像内のある個別画像へズームインしていくと、当該個別画像の階層データ592aなどへ表示が移行し、さらなる拡大率の画像を表示したり、動画を再生したりすることができる。インデックス画像データ566、リンク設定ファイル562、および個別画像の階層データを1つのコンテンツとしてハードディスクドライブ550に格納してもよい。
The setting
なお、個別画像の階層データ592aなどとインデックス画像の階層データ590との間にリンクを設定せず、個別画像の階層データを全て包含したインデックス画像の階層データを生成するようにしてもよい。また、既存の複数のインデックス画像を埋め込んだインデックス画像を生成してもよい。この場合の処理も、個別画像の代わりにインデックス画像を選択可能とすることにより同様に実現できる。
It is also possible to generate hierarchical data of an index image including all of the hierarchical data of the individual image without setting a link between the
以上述べた本実施の形態によれば、2つの画像の階層データにリンクを設定し、平行移動、拡大、縮小の指示入力のみで、表示画像の描画に用いる階層データを移行する。このようにすることで、拡大すると無意味になってしまう領域の高解像度画像など余分なデータを省くことができるためデータサイズを縮小することができる。また世界地図と、あるビルの周辺の地図、といったスケールの著しく異なる画像を別の階層データとすることにより、階層ごとに表示画像の位置制御用の数値を設定しなおすことができ、位置の精度を保持しやすい。 According to the present embodiment described above, a link is set to the hierarchical data of two images, and the hierarchical data used for drawing the display image is transferred only by inputting parallel movement, enlargement, and reduction instructions. By doing so, extra data such as a high-resolution image in a region that becomes meaningless when enlarged can be omitted, and the data size can be reduced. In addition, by using images with remarkably different scales, such as a world map and a map around a building, as separate hierarchical data, it is possible to reset the numerical values for controlling the position of the display image for each hierarchical level. Easy to hold.
一方、メニューの画像と、当該メニュー上の各アイコンのマニュアルなど、全く異なる画像にリンクを設定した場合などは、拡大、縮小の操作のみで画像の相互移行を実現できることにより、切り替え前の画像における位置情報を念頭に置いたまま別の画像を見ることができる。例えばあるアイコンの機能を調べようと、ヘルプ画面などを表示させ、アイコンの表示と関係のありそうな記述を探し出して読む、といった従来の手法では、アイコンの表示からヘルプ内の記述の表示までにすべき処理が煩雑で、ユーザの思考が途切れやすい。その結果、結局最初に目的としていたことを失念してしまう、といったことも発生する。しかし本実施の形態では、アイコンとマニュアルとが直接結びつくため、直感的な把握が可能となり、作業の効率が向上する。 On the other hand, when a link is set to a completely different image such as a menu image and a manual for each icon on the menu, it is possible to realize mutual transition of images by only enlargement and reduction operations. Another image can be viewed with the location information in mind. For example, in order to investigate the function of an icon, a conventional method, such as displaying a help screen, searching for a description that seems to be related to the icon display, and displaying the description in the help is displayed. The process to be performed is complicated, and the user's thinking is easily interrupted. As a result, you may eventually forget what you originally intended. However, in the present embodiment, since the icon and the manual are directly connected, an intuitive grasp is possible and work efficiency is improved.
さらに、拡大、縮小、平行移動などのユーザの操作は、以後の動きを予測できるため、本実施の形態ではそれを先読みすることにより、前もってリンク先の画像のデコードを行う。これにより実際に画像の切り替えが指示されたときには円滑にリンク先の画像の描画が行え、デコード処理待ち時間を削減することができる。このことは、リンク先を動画再生やアプリケーション起動としても同様に有効である。すなわち先読み処理によって、動画再生やアプリケーション起動を前もって行っておくことにより、実際にユーザがリンク先への移行を指示した時点で円滑に出力を行うことができる。このことは、アイコンをクリックすることによって起動を行う従来の手法と比較して格段に処理待ち時間が減り、ユーザのストレスを軽減する効果がある。 Furthermore, since user operations such as enlargement, reduction, and parallel movement can predict subsequent movements, in this embodiment, the linked image is decoded in advance by prefetching it. As a result, when the image switching is actually instructed, the linked image can be drawn smoothly, and the decoding processing waiting time can be reduced. This is also effective when the link destination is a moving image reproduction or application activation. That is, by performing the moving image reproduction and application activation in advance by the prefetching process, it is possible to output smoothly when the user actually gives an instruction to move to the link destination. This has the effect of significantly reducing the processing waiting time and reducing the user's stress as compared with the conventional method of starting by clicking an icon.
また、ユーザの表示画像変更要求信号の入力から画像表示までの時間を、畳み込み演算によって遅延させたり、クロスフェードさせるなど切り替え時に適切な画像エフェクト処理を施すことにより、画像の切り替えが円滑に行われているように演出することができる。結果的に、静止画、動画を問わず、また、画像に限らず音楽やテキストデータなどでも、表示画像の移動操作を利用した新たな入力ツールを提供することができる。 In addition, images can be switched smoothly by performing appropriate image effect processing at the time of switching, such as by delaying the time from the input of the display image change request signal of the user to displaying the image by convolution calculation or crossfading. You can produce as if. As a result, it is possible to provide a new input tool that uses a moving operation of a display image regardless of whether it is a still image or a moving image, or not only an image but also music or text data.
リンクの設定はリンク元およびリンク先の階層データ内のリンク領域を、仮想空間上において定義することによって行うため、一見複雑に見えるリンク構造であっても容易に設定でき、一般ユーザが手軽にコンテンツを制作することができる。当該定義を利用して、階層データ内の領域をいくつか記憶させておくことにより、表示画像を当該領域へ誘導することができる。例えば、表示画像をおよそ位置合わせするのみで、設定されたリンク領域へ誘導することができるため、リンク先への画像の切り替えを短時間に行うことができる。また画像内で見せたい部分などを複数記録したシナリオ設定ファイルを作成することにより、そのような部分を連続表示させることができ、プロモーションやプレゼンテーションなどに効果的なコンテンツを制作することができる。あるいは、段組の記事や閲覧順序が決まっている雑誌のページなどにおいて、文字を判読できる程度に拡大したままで次の領域へ移動することができる。 Link settings are made by defining the link area in the link source and link destination hierarchical data in the virtual space, so even a seemingly complex link structure can be set easily, and content can be easily accessed by general users. Can be produced. By using the definition and storing several areas in the hierarchical data, the display image can be guided to the area. For example, since the display image can be guided to the set link area only by aligning the display image, the image can be switched to the link destination in a short time. In addition, by creating a scenario setting file in which a plurality of portions to be shown in the image are recorded, such portions can be continuously displayed, and effective contents for promotion and presentation can be produced. Alternatively, it is possible to move to the next area while enlarging the characters so that they can be read in a columned article or a magazine page whose reading order is determined.
このようにして制作した、リンク設定がなされた階層データや、シナリオ設定ファイルなど誘導領域の設定がなされた階層データは、それを一つのパッケージとして流通させることができる。一方で、階層データのみ、あるいはシナリオ設定ファイルのみ、といったモジュール単位で流通させることもできる。階層データやコンテンツには、内容に係る情報、制御に係る情報、データの構造情報などの属性情報を各単位ごとに付加しておく。これにより、コンテンツ内に別の著作者による階層データやコンテンツが含まれていた場合に、リンク先への移行を制限したり課金したりすることができる。また各単位で統一的な属性情報のフォーマットを決めておくことにより、それを利用した二次的なコンテンツの作成を効率的に行うことができる。 The hierarchical data with link settings and the hierarchical data with guidance areas set, such as scenario setting files, produced in this way can be distributed as a single package. On the other hand, it is also possible to distribute in units of modules such as only hierarchical data or only scenario setting files. In the hierarchical data and content, attribute information such as information on contents, information on control, and data structure information is added for each unit. Thereby, when the hierarchical data and content by another author are contained in the content, it is possible to restrict or charge the transition to the link destination. In addition, by determining a uniform attribute information format for each unit, it is possible to efficiently create secondary content using the format.
さらに、コンテンツの制作を支援するために、リンク領域や誘導領域を、実際の画面を表示したうえで選択できるようにし、当該選択によってリンク設定ファイルやシナリオ設定ファイルを所定のフォーマットで生成する。このようにすることで、ユーザは実際の画像を確認しながらイメージをふくらませたうえで設定を容易に行うことができる。リンク領域の設定にあたっては、特徴点の抽出やマッチング処理により2つの画像のリンク領域の位置を微調整する。これにより、画像切り替え時に位置ずれなどを起こさず連続的な移行が可能となり、見る者に画像の切り替わりを気づかせることが少なくなる。 Further, in order to support content production, a link area and a guidance area can be selected after displaying an actual screen, and a link setting file and a scenario setting file are generated in a predetermined format by the selection. In this way, the user can easily perform setting after inflating the image while confirming the actual image. In setting the link area, the position of the link area between the two images is finely adjusted by extracting feature points and matching processing. As a result, it is possible to make a continuous transition without causing a position shift or the like when switching images, and the viewer is less likely to notice the switching of images.
また、ユーザが選択した複数の個別画像を埋め込んだインデックス画像を生成する。そしてインデックス画像と個別画像とのリンク設定ファイルを生成する。これにより、雑誌のバックナンバーの中味を確認しながら所望の一冊を選択するコンテンツ、様々なアプリケーション、動画を起動できるメニュー画面のあるコンテンツ、絵画、小説、人物写真などの解説対象とその解説が切り替わるコンテンツなど、様々なコンテンツを、画像を選択するのみで容易に制作することができる。 Also, an index image in which a plurality of individual images selected by the user are embedded is generated. Then, a link setting file between the index image and the individual image is generated. As a result, the contents to select a desired book while checking the contents of the magazine's back number, various applications, contents with a menu screen that can start a movie, paintings, novels, portraits, etc. Various contents such as contents to be switched can be easily produced simply by selecting an image.
以上、本発明を実施の形態をもとに説明した。上記実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。 The present invention has been described based on the embodiments. Those skilled in the art will understand that the above-described embodiment is an exemplification, and that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are also within the scope of the present invention. is there.
1 画像処理システム、 10 画像処理装置、 12 表示装置、 20 入力装置、 30 第0階層、 32 第1階層、 34 第2階層、 36 第3階層、 38 タイル画像、 44 表示処理部、 50 ハードディスクドライブ、 60 メインメモリ、 70 バッファメモリ、 90 フレームメモリ、 100 制御部、 102 入力情報取得部、 104 圧縮データ分割部、 106 ロードブロック決定部、 108 ロード部、 110 先読み処理部、 112 デコード部、 114 表示画像処理部、 116 リンク判定部、 117 シナリオ解釈部、 118 リンク設定ファイル、 119 シナリオ設定ファイル、 408a 属性ファイル、 500 画像処理装置、 502 制御部、 504 入力情報取得部、 506 設定画像表示部、 508 設定情報登録部、 520 入力装置、 550 ハードディスクドライブ、 560 メインメモリ、 562 リンク設定ファイル、 564 シナリオ設定ファイル、 566 インデックス画像データ。
DESCRIPTION OF SYMBOLS 1 Image processing system, 10 Image processing apparatus, 12 Display apparatus, 20 Input apparatus, 30 0th hierarchy, 32 1st hierarchy, 34 2nd hierarchy, 36 3rd hierarchy, 38 tile image, 44 Display processing part, 50 Hard disk drive , 60 main memory, 70 buffer memory, 90 frame memory, 100 control unit, 102 input information acquisition unit, 104 compressed data division unit, 106 load block determination unit, 108 load unit, 110 prefetch processing unit, 112 decoding unit, 114 display Image processing unit, 116 link determination unit, 117 scenario interpretation unit, 118 link setting file, 119 scenario setting file, 408a attribute file, 500 image processing device, 502 control unit, 504 input information acquisition unit, 506 Constant image display unit, 508 setting information registration unit, 520 input device, 550 hard disk drive, 560 main memory, 562
Claims (14)
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける入力情報取得部と、
選択された複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけて記憶装置に格納する設定情報登録部と、を備えることを特徴とする情報処理装置。 An information processing apparatus for creating image display content data based on an instruction input from a user,
An input information acquisition unit that receives input for selecting a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Corresponds to the index image data in which a plurality of selected individual images are arranged in a predetermined format into a single image, the area where the individual images are arranged in the index image, and the hierarchical data of the individual images arranged in the area A link setting file that is referred to in order to switch the data used for displaying the region in the index image to the hierarchical data of the associated individual image by moving the display region during content display, and generating the individual image An information processing apparatus comprising: a setting information registration unit that stores the hierarchical data, the index image data, and the link setting file data in a storage device in association with each other.
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付けるステップと、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけて記憶装置に格納するステップと、を含むことを特徴とする情報処理方法。 An information processing method in which an information processing device creates image display content data based on an instruction input from a user,
Receiving from the user an input for selecting a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in the order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a step is a link configuration file are,, and stores the in association with the storage device with hierarchical data of the individual image data of the index image and data of the link configuration file as the data of one content and an information processing method according to claim including that.
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける機能と、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけて記憶装置に格納する機能と、をコンピュータに実現させることを特徴とするコンピュータプログラム。 A computer program for causing a computer to realize a function of creating image display content data based on an instruction input from a user,
A function of accepting an input from a user to select a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a link configuration files to generate a function of storing in the storage device in association with the data of said hierarchical data of the individual image and the index image data link configuration file as the data of one content and A computer program characterized by being realized by a computer.
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける機能と、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけて記憶装置に格納する機能と、をコンピュータに実現させることを特徴とするコンピュータプログラムを記録した記録媒体。 A recording medium recording a computer program that causes a computer to realize a function of creating data of image display content based on an instruction input from a user,
A function of accepting an input from a user to select a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a link configuration files to generate a function of storing in the storage device in association with the data of said hierarchical data of the individual image and the index image data link configuration file as the data of one content and A computer program characterized by being realized by a computer Recording the recording medium.
前記個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、
前記インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけたリンク設定ファイルと、
を対応づけた画像表示コンテンツのデータ構造であって、
前記リンク設定ファイルは、コンテンツ表示装置が前記インデックス画像をディスプレイに表示する際、メモリから読み出され参照されることにより、前記インデックス画像の前記領域の表示に用いるデータが、表示領域の移動によって、対応づけられた個別画像の階層データへ切り替えられることを特徴とする画像表示コンテンツのデータ構造。 A plurality of individual image data having a hierarchical data structure configured by layering image data of different resolutions in the order of resolution;
Index image data in which the individual images are arranged in a predetermined format as one image ;
A link setting file that associates the area where the individual image is arranged in the index image with the hierarchical data of the individual image arranged in the area;
Is a data structure of image display content in which
When the content display device displays the index image on the display, the link setting file is read from the memory and referred to, so that the data used for displaying the area of the index image is moved by the display area. A data structure of image display content, wherein the data is switched to hierarchical data of associated individual images .
Priority Applications (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008289667A JP5520472B2 (en) | 2008-11-12 | 2008-11-12 | Information processing apparatus and information processing method |
EP09825859.3A EP2360562B1 (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
KR1020117011771A KR20110087300A (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
CN201310534416.7A CN103605452B (en) | 2008-11-11 | 2009-09-08 | Image processing apparatus and image processing method |
CN2009801444115A CN102209951A (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
RU2011123257/08A RU2509341C2 (en) | 2008-11-11 | 2009-09-08 | Image processing device and image processing method |
US13/127,598 US8917286B2 (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
KR1020137020473A KR101400935B1 (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
PCT/JP2009/004441 WO2010055604A1 (en) | 2008-11-11 | 2009-09-08 | Image processing device, information processing device, image processing method, and information processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008289667A JP5520472B2 (en) | 2008-11-12 | 2008-11-12 | Information processing apparatus and information processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010117827A JP2010117827A (en) | 2010-05-27 |
JP5520472B2 true JP5520472B2 (en) | 2014-06-11 |
Family
ID=42305478
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008289667A Active JP5520472B2 (en) | 2008-11-11 | 2008-11-12 | Information processing apparatus and information processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5520472B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5419822B2 (en) * | 2010-07-23 | 2014-02-19 | 株式会社ソニー・コンピュータエンタテインメント | Image processing apparatus, image display apparatus, image processing method, and data structure of image file |
JP5713855B2 (en) | 2011-09-22 | 2015-05-07 | 株式会社ソニー・コンピュータエンタテインメント | Information processing apparatus, information processing method, and data structure of content file |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3646582B2 (en) * | 1998-09-28 | 2005-05-11 | 富士通株式会社 | Electronic information display method, electronic information browsing apparatus, and electronic information browsing program storage medium |
JP5050371B2 (en) * | 2006-03-10 | 2012-10-17 | 日本電気株式会社 | Operation record reproduction apparatus and program |
-
2008
- 2008-11-12 JP JP2008289667A patent/JP5520472B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2010117827A (en) | 2010-05-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2010055604A1 (en) | Image processing device, information processing device, image processing method, and information processing method | |
US20120056903A1 (en) | Information Processing Device And Information Processing Method | |
WO2012011215A1 (en) | Image processing device, image display device, image processing method, and data structure of image file | |
JP5520473B2 (en) | Information processing apparatus and information processing method | |
JP5520469B2 (en) | Image processing apparatus and image processing method | |
JP5467123B2 (en) | Information processing apparatus and information processing method | |
JP5520472B2 (en) | Information processing apparatus and information processing method | |
JP5920673B2 (en) | Image processing apparatus and image processing method | |
JP5520471B2 (en) | Image processing apparatus and image processing method | |
US8972877B2 (en) | Information processing device for displaying control panel image and information image on a display | |
JP5520470B2 (en) | Image processing apparatus and image processing method | |
JP5524469B2 (en) | Image processing apparatus and image processing method | |
JP5292146B2 (en) | Information processing apparatus and information processing method | |
TW201325674A (en) | Method of producing game event effects, tool using the same, and computer readable recording medium | |
JP5292149B2 (en) | Information processing apparatus and information processing method | |
KR20170093466A (en) | Apparatus and method for providing contents, and computer program recorded on computer readable recording medium for executing the method | |
JP5292147B2 (en) | Information processing apparatus and information processing method | |
JP5419783B2 (en) | Image reproducing apparatus and method for controlling image reproducing apparatus | |
JP2010231283A (en) | Information processing apparatus and information processing method | |
JP2008129863A (en) | Content distribution system and method | |
JP2007011055A (en) | Image display device and image display method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20101125 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20110128 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130625 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130823 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140311 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140407 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5520472 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |