JP5520472B2 - Information processing apparatus and information processing method - Google Patents

Information processing apparatus and information processing method Download PDF

Info

Publication number
JP5520472B2
JP5520472B2 JP2008289667A JP2008289667A JP5520472B2 JP 5520472 B2 JP5520472 B2 JP 5520472B2 JP 2008289667 A JP2008289667 A JP 2008289667A JP 2008289667 A JP2008289667 A JP 2008289667A JP 5520472 B2 JP5520472 B2 JP 5520472B2
Authority
JP
Japan
Prior art keywords
image
data
display
area
hierarchical data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008289667A
Other languages
Japanese (ja)
Other versions
JP2010117827A (en
Inventor
博俊 前川
章男 大場
博之 勢川
徹悟 稲田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2008289667A priority Critical patent/JP5520472B2/en
Application filed by Sony Interactive Entertainment Inc, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to CN2009801444115A priority patent/CN102209951A/en
Priority to EP09825859.3A priority patent/EP2360562B1/en
Priority to KR1020117011771A priority patent/KR20110087300A/en
Priority to CN201310534416.7A priority patent/CN103605452B/en
Priority to RU2011123257/08A priority patent/RU2509341C2/en
Priority to US13/127,598 priority patent/US8917286B2/en
Priority to KR1020137020473A priority patent/KR101400935B1/en
Priority to PCT/JP2009/004441 priority patent/WO2010055604A1/en
Publication of JP2010117827A publication Critical patent/JP2010117827A/en
Application granted granted Critical
Publication of JP5520472B2 publication Critical patent/JP5520472B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、ディスプレイに表示する画像を拡大/縮小、または上下左右に移動させる画像処理を制御する情報処理技術に関する。   The present invention relates to an information processing technique for controlling image processing for enlarging / reducing an image displayed on a display or moving the image vertically and horizontally.

ゲームプログラムを実行するだけでなく、動画を再生できる家庭用エンタテインメント
システムが提案されている。この家庭用エンタテインメントシステムでは、GPUがポリ
ゴンを用いた三次元画像を生成する(例えば特許文献1参照)。
Home entertainment systems have been proposed that not only execute game programs, but also play video. In this home entertainment system, the GPU generates a three-dimensional image using polygons (see, for example, Patent Document 1).

一方、高精細な写真などのディジタル画像から生成された複数の解像度のタイル画像を用いて、表示画像の拡大/縮小処理や、上下左右方向の移動処理を行う技術が提案されている。この画像処理技術では、原画像サイズを複数段階に縮小して異なる解像度の画像を生成し、各階層の画像を一又は複数のタイル画像に分割して、原画像を階層構造で表現する。通常、最も解像度の低い画像は1つのタイル画像で構成され、最も解像度の高い原画像は、最も多い数のタイル画像で構成される。画像処理装置は、表示画像の拡大処理または縮小処理時に、使用しているタイル画像を、異なる階層のタイル画像に切り替えることで、拡大表示または縮小表示を迅速に行うようにしている。
米国特許第6563999号公報
On the other hand, a technique for enlarging / reducing a display image and moving up / down / left / right using a plurality of resolution tile images generated from a digital image such as a high-definition photograph has been proposed. In this image processing technique, an original image size is reduced in a plurality of stages to generate images with different resolutions, and images in each layer are divided into one or a plurality of tile images to represent the original image in a hierarchical structure. Usually, the image with the lowest resolution is composed of one tile image, and the original image with the highest resolution is composed of the largest number of tile images. The image processing apparatus quickly performs enlarged display or reduced display by switching the tile image being used to a tile image of a different hierarchy at the time of enlargement processing or reduction processing of the display image.
US Pat. No. 6,563,999

一方、近年は携帯端末などでも表示画面のサイズが拡大し、情報処理装置の種類によらず高精細画像を表示することが可能となってきている。そのため視覚に訴える様々なコンテンツがより身近なものとなった。しかし表示すべき情報が複雑化、高度化すると、それを使いこなすためには様々な知識が必要となってくる。このため、情報の質と操作の容易性とはトレードオフの関係にある場合が多い。また画像を含む複雑なコンテンツを作成するためにはさらに専門的な知識が必要となってくる。   On the other hand, in recent years, the size of the display screen has been expanded even in portable terminals and the like, and it has become possible to display high-definition images regardless of the type of information processing apparatus. Therefore, various contents appealing to the sight became more familiar. However, as the information to be displayed becomes complex and sophisticated, various knowledge is required to make full use of it. For this reason, the quality of information and the ease of operation often have a trade-off relationship. In addition, more specialized knowledge is required to create complex contents including images.

本発明はこのような課題に鑑みてなされたものであり、その目的は、情報の質を維持しつつ容易に所望の情報を表示することのできる技術を提供することにある。   The present invention has been made in view of such problems, and an object of the present invention is to provide a technique capable of easily displaying desired information while maintaining the quality of information.

本発明のある態様は情報処理装置に関する。この情報処理装置は、ユーザより複数の個別画像を選択する入力を受け付ける入力情報取得部と、選択された複数の個別画像を所定のフォーマットで配置したインデックス画像のデータを生成する設定情報登録部と、を備え、複数の個別画像は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造をなし、設定情報登録部は、インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルを生成してメモリに出力することを特徴とする。   One embodiment of the present invention relates to an information processing apparatus. The information processing apparatus includes an input information acquisition unit that receives input for selecting a plurality of individual images from a user, a setting information registration unit that generates index image data in which the selected plurality of individual images are arranged in a predetermined format, The plurality of individual images has a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, and the setting information registration unit includes an area in which the individual images are arranged in the index image, and the area The link setting file for switching the data used for rendering the display image from the index image to the individual image is generated and output to the memory by associating with the hierarchical data of the individual image arranged in .

本発明の別の態様は情報処理方法に関する。この情報処理方法は、ユーザより複数の個別画像を選択する入力を受け付けるステップと、選択された複数の個別画像を記憶装置より読み出し、所定のフォーマットで配置したインデックス画像のデータを生成してメモリに出力するステップと、を含み、複数の個別画像は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造をなし、出力するステップは、前記インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルを生成してさらに出力することを特徴とする。   Another aspect of the present invention relates to an information processing method. In this information processing method, a step of receiving an input for selecting a plurality of individual images from a user, reading the selected plurality of individual images from a storage device, generating index image data arranged in a predetermined format, and storing them in a memory A plurality of individual images having a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, and the step of outputting includes an area in which the individual images are arranged in the index image And a link setting file for switching the data used for rendering the display image from the index image to the individual image, and further outputting the link setting file. Features.

本発明の別の態様はデータ構造に関する。このデータ構造は、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像データと、個別画像を所定のフォーマットで配置したインデックス画像のデータと、インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけ、インデックス画像から個別画像へ、表示画像の描画に用いるデータの切り替えを行うためのリンク設定ファイルと、を対応づけたことを特徴とする。   Another aspect of the invention relates to a data structure. This data structure includes a plurality of individual image data having a hierarchical data structure formed by layering image data of different resolutions in the order of resolution, index image data in which individual images are arranged in a predetermined format, and an index image A link setting file for associating the area where the individual image is arranged with the hierarchical data of the individual image arranged in the area, and switching the data used for drawing the display image from the index image to the individual image, It is characterized by matching.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and a representation of the present invention converted between a method, an apparatus, a system, a computer program, etc. are also effective as an aspect of the present invention.

本発明によると、情報の高度化に際しても容易な操作での情報表示が可能となる。   According to the present invention, information can be displayed by an easy operation even when information is advanced.

図1は、本発明の実施の形態にかかる画像処理システム1の使用環境を示す。画像処理システム1は、画像処理ソフトウェアを実行する画像処理装置10と、画像処理装置10による処理結果を出力する表示装置12とを備える。表示装置12は、画像を出力するディスプレイおよび音声を出力するスピーカを有するテレビであってよい。表示装置12は、画像処理装置10に有線ケーブルで接続されてよく、また無線LAN(Local Area Network)などにより無線接続されてもよい。画像処理システム1において、画像処理装置10は、ケーブル14を介してインターネットなどの外部ネットワークに接続し、階層化された圧縮画像データをダウンロードして取得してもよい。なお画像処理装置10は、無線通信により外部ネットワークに接続してもよい。   FIG. 1 shows a use environment of an image processing system 1 according to an embodiment of the present invention. The image processing system 1 includes an image processing device 10 that executes image processing software, and a display device 12 that outputs a processing result by the image processing device 10. The display device 12 may be a television having a display that outputs an image and a speaker that outputs sound. The display device 12 may be connected to the image processing device 10 by a wired cable, or may be wirelessly connected by a wireless local area network (LAN) or the like. In the image processing system 1, the image processing apparatus 10 may be connected to an external network such as the Internet via the cable 14 to download and acquire hierarchical compressed image data. The image processing apparatus 10 may be connected to an external network by wireless communication.

画像処理装置10は、たとえばゲーム装置であってよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。なお画像処理装置10は、パーソナルコンピュータであってもよく、画像処理用のアプリケーションプログラムをロードすることで画像処理機能を実現してもよい。   The image processing device 10 may be a game device, for example, and may implement an image processing function by loading an application program for image processing. The image processing apparatus 10 may be a personal computer, and may implement an image processing function by loading an image processing application program.

画像処理装置10は、ユーザからの要求に応じて、表示装置12のディスプレイに表示する画像の拡大/縮小処理や、上下左右方向への移動処理などを行う。以後、これらの処理を総じて「表示画像の移動処理」と呼ぶ。ユーザが、ディスプレイに表示された画像を見ながら入力装置を操作すると、入力装置が、表示画像の移動要求信号を画像処理装置10に送信する。   The image processing apparatus 10 performs enlargement / reduction processing of an image displayed on the display of the display device 12, movement processing in the up / down / left / right directions, and the like according to a request from the user. Hereinafter, these processes are collectively referred to as “display image moving process”. When the user operates the input device while viewing the image displayed on the display, the input device transmits a movement request signal for the display image to the image processing device 10.

図2は、入力装置20の外観構成を示す。入力装置20は、ユーザが操作可能な操作手段として、十字キー21、アナログスティック27a、27bと、4種の操作ボタン26を備える。4種の操作ボタン26は、○ボタン22、×ボタン23、□ボタン24および△ボタン25から構成される。   FIG. 2 shows an external configuration of the input device 20. The input device 20 includes a cross key 21, analog sticks 27a and 27b, and four types of operation buttons 26 as operation means that can be operated by the user. The four types of operation buttons 26 include a circle button 22, a x button 23, a square button 24, and a triangle button 25.

画像処理システム1において、入力装置20の操作手段には、表示画像の拡大/縮小要求、および上下左右方向へのスクロール要求を入力するための機能が割り当てられる。たとえば、表示画像の拡大/縮小要求の入力機能は、右側のアナログスティック27bに割り当てられる。ユーザはアナログスティック27bを手前に引くことで、表示画像の縮小要求を入力でき、また手前から押すことで、表示画像の拡大要求を入力できる。また、表示領域の移動要求の入力機能は、十字キー21に割り当てられる。ユーザは十字キー21を押下することで、十字キー21を押下した方向への移動要求を入力できる。なお、画像移動要求の入力機能は別の操作手段に割り当てられてもよく、たとえばアナログスティック27aに、スクロール要求の入力機能が割り当てられてもよい。   In the image processing system 1, a function for inputting a display image enlargement / reduction request and a vertical / left / right scroll request is assigned to the operation unit of the input device 20. For example, the input function of the display image enlargement / reduction request is assigned to the right analog stick 27b. The user can input a display image reduction request by pulling the analog stick 27b forward, and can input a display image enlargement request by pressing the analog stick 27b from the front. The input function of the display area movement request is assigned to the cross key 21. The user can input a movement request in the direction in which the cross key 21 is pressed by pressing the cross key 21. Note that the image movement request input function may be assigned to another operation means, for example, the scroll request input function may be assigned to the analog stick 27a.

入力装置20は、入力された画像移動要求信号を画像処理装置10に伝送する機能をもち、本実施の形態では画像処理装置10との間で無線通信可能に構成される。入力装置20と画像処理装置10は、Bluetooth(ブルートゥース)(登録商標)プロトコルやIEEE802.11プロトコルなどを用いて無線接続を確立してもよい。なお入力装置20は、画像処理装置10とケーブルを介して接続して、画像移動要求信号を画像処理装置10に伝送してもよい。   The input device 20 has a function of transmitting the input image movement request signal to the image processing device 10 and is configured to be able to perform wireless communication with the image processing device 10 in the present embodiment. The input device 20 and the image processing device 10 may establish a wireless connection using a Bluetooth (registered trademark) protocol, an IEEE802.11 protocol, or the like. Note that the input device 20 may be connected to the image processing device 10 via a cable and transmit an image movement request signal to the image processing device 10.

図3は、本実施の形態において使用する画像データの階層構造例を示す。画像データは、深さ(Z軸)方向に、第0階層30、第1階層32、第2階層34および第3階層36からなる階層構造を有する。なお同図においては4階層のみ示しているが、階層数はこれに限定されない。以下、このような階層構造をもつ画像データを「階層データ」とよぶ。   FIG. 3 shows an example of a hierarchical structure of image data used in the present embodiment. The image data has a hierarchical structure including a 0th hierarchy 30, a first hierarchy 32, a second hierarchy 34, and a third hierarchy 36 in the depth (Z-axis) direction. Although only four layers are shown in the figure, the number of layers is not limited to this. Hereinafter, image data having such a hierarchical structure is referred to as “hierarchical data”.

図3に示す階層データは4分木の階層構造を有し、各階層は、1以上のタイル画像38で構成される。すべてのタイル画像38は同じ画素数をもつ同一サイズに形成され、たとえば256×256画素を有する。各階層の画像データは、一つの画像を異なる解像度で表現しており、最高解像度をもつ第3階層36の原画像を複数段階に縮小して、第2階層34、第1階層32、第0階層30の画像データが生成される。たとえば第N階層の解像度(Nは0以上の整数)は、左右(X軸)方向、上下(Y軸)方向ともに、第(N+1)階層の解像度の1/2であってよい。   The hierarchical data shown in FIG. 3 has a hierarchical structure of a quadtree, and each hierarchy is composed of one or more tile images 38. All the tile images 38 are formed in the same size having the same number of pixels, and have, for example, 256 × 256 pixels. The image data of each layer expresses one image at different resolutions, and the original image of the third layer 36 having the highest resolution is reduced in a plurality of stages to obtain the second layer 34, the first layer 32, the 0th layer. Image data of the hierarchy 30 is generated. For example, the resolution of the Nth layer (N is an integer greater than or equal to 0) may be ½ of the resolution of the (N + 1) th layer in both the left and right (X axis) direction and the up and down (Y axis) direction.

画像処理装置10において、階層データは、所定の圧縮形式で圧縮された状態で記憶装置に保持されており、ディスプレイに表示される前に記憶装置から読み出されてデコードされる。本実施の形態の画像処理装置10は、複数種類の圧縮形式に対応したデコード機能を有し、たとえばS3TC形式、JPEG形式、JPEG2000形式の圧縮データをデコード可能とする。階層データにおいて、圧縮処理は、タイル画像単位に行われていてもよく、また同一階層または複数の階層に含まれる複数のタイル画像単位に行われていてもよい。   In the image processing apparatus 10, the hierarchical data is held in the storage device in a compressed state in a predetermined compression format, and is read from the storage device and decoded before being displayed on the display. The image processing apparatus 10 according to the present embodiment has a decoding function corresponding to a plurality of types of compression formats, and can decode, for example, compressed data in the S3TC format, JPEG format, and JPEG2000 format. In the hierarchical data, the compression processing may be performed in units of tile images, or may be performed in units of a plurality of tile images included in the same layer or a plurality of layers.

階層データの階層構造は、図3に示すように、左右方向をX軸、上下方向をY軸、深さ方向をZ軸として設定され、仮想的な3次元空間を構築する。画像処理装置10は、入力装置20から供給される画像移動要求信号から表示画像の移動量を導出すると、その移動量を用いて仮想空間におけるフレームの4隅の座標(フレーム座標)を導出する。仮想空間におけるフレーム座標は、後述する表示画像の生成処理に利用される。なお、仮想空間におけるフレーム座標の代わりに、画像処理装置10は、階層を特定する情報と、その階層におけるテクスチャ座標(UV座標)を導出してもよい。以下、階層特定情報およびテクスチャ座標の組み合わせも、フレーム座標と呼ぶ。   As shown in FIG. 3, the hierarchical structure of the hierarchical data is set with the horizontal direction as the X axis, the vertical direction as the Y axis, and the depth direction as the Z axis, thereby constructing a virtual three-dimensional space. When the movement amount of the display image is derived from the image movement request signal supplied from the input device 20, the image processing apparatus 10 derives coordinates (frame coordinates) of the four corners of the frame in the virtual space using the movement amount. The frame coordinates in the virtual space are used for display image generation processing to be described later. Instead of the frame coordinates in the virtual space, the image processing apparatus 10 may derive information for specifying the hierarchy and texture coordinates (UV coordinates) in the hierarchy. Hereinafter, the combination of the hierarchy specifying information and the texture coordinates is also referred to as frame coordinates.

図4は画像処理装置10の構成を示している。画像処理装置10は、無線インタフェース40、スイッチ42、表示処理部44、ハードディスクドライブ50、記録媒体装着部52、ディスクドライブ54、メインメモリ60、バッファメモリ70および制御部100を有して構成される。表示処理部44は、表示装置12のディスプレイに表示するデータをバッファするフレームメモリを有する。   FIG. 4 shows the configuration of the image processing apparatus 10. The image processing apparatus 10 includes a wireless interface 40, a switch 42, a display processing unit 44, a hard disk drive 50, a recording medium mounting unit 52, a disk drive 54, a main memory 60, a buffer memory 70, and a control unit 100. . The display processing unit 44 has a frame memory that buffers data to be displayed on the display of the display device 12.

スイッチ42は、イーサネットスイッチ(イーサネットは登録商標)であって、外部の機器と有線または無線で接続して、データの送受信を行うデバイスである。スイッチ42は、ケーブル14を介して外部ネットワークに接続し、画像サーバから階層化された圧縮画像データを受信してもよい。またスイッチ42は無線インタフェース40に接続し、無線インタフェース40は、所定の無線通信プロトコルで入力装置20と接続する。入力装置20においてユーザから入力された画像移動要求信号は、無線インタフェース40、スイッチ42を経由して、制御部100に供給される。   The switch 42 is an Ethernet switch (Ethernet is a registered trademark), and is a device that transmits and receives data by connecting to an external device in a wired or wireless manner. The switch 42 may be connected to an external network via the cable 14 and receive the compressed image data layered from the image server. The switch 42 is connected to the wireless interface 40, and the wireless interface 40 is connected to the input device 20 using a predetermined wireless communication protocol. The image movement request signal input from the user by the input device 20 is supplied to the control unit 100 via the wireless interface 40 and the switch 42.

ハードディスクドライブ50は、データを記憶する記憶装置として機能する。スイッチ42を介して受信された圧縮画像データは、ハードディスクドライブ50に格納される。記録媒体装着部52は、メモリカードなどのリムーバブル記録媒体が装着されると、リムーバブル記録媒体からデータを読み出す。ディスクドライブ54は、読出専用のROMディスクが装着されると、ROMディスクを駆動して認識し、データを読み出す。ROMディスクは、光ディスクや光磁気ディスクなどであってよい。圧縮画像データはこれらの記録媒体に格納されていてもよい。   The hard disk drive 50 functions as a storage device that stores data. The compressed image data received via the switch 42 is stored in the hard disk drive 50. When a removable recording medium such as a memory card is mounted, the recording medium mounting unit 52 reads data from the removable recording medium. When a read-only ROM disk is loaded, the disk drive 54 drives and recognizes the ROM disk to read data. The ROM disk may be an optical disk or a magneto-optical disk. The compressed image data may be stored in these recording media.

制御部100は、マルチコアCPUを備え、1つのCPUの中に1つの汎用的なプロセッサコアと、複数のシンプルなプロセッサコアを有する。汎用プロセッサコアはPPU(Power Processing Unit)と呼ばれ、残りのプロセッサコアはSPU(Synergistic-Processing Unit)と呼ばれる。   The control unit 100 includes a multi-core CPU, and includes one general-purpose processor core and a plurality of simple processor cores in one CPU. The general-purpose processor core is called a PPU (Power Processing Unit), and the remaining processor cores are called a SPU (Synergistic-Processing Unit).

制御部100は、メインメモリ60およびバッファメモリ70に接続するメモリコントローラを備える。PPUはレジスタを有し、演算実行主体としてメインプロセッサを備えて、実行するアプリケーションにおける基本処理単位としてのタスクを各SPUに効率的に割り当てる。なお、PPU自身がタスクを実行してもよい。SPUはレジスタを有し、演算実行主体としてのサブプロセッサとローカルな記憶領域としてのローカルメモリを備える。ローカルメモリは、バッファメモリ70として使用されてもよい。   The control unit 100 includes a memory controller connected to the main memory 60 and the buffer memory 70. The PPU has a register, has a main processor as an operation execution subject, and efficiently assigns a task as a basic processing unit in an application to be executed to each SPU. Note that the PPU itself may execute the task. The SPU has a register, and includes a sub-processor as an operation execution subject and a local memory as a local storage area. The local memory may be used as the buffer memory 70.

メインメモリ60およびバッファメモリ70は記憶装置であり、RAM(ランダムアクセスメモリ)として構成される。SPUは制御ユニットとして専用のDMA(Direct Memory Access)コントローラをもち、メインメモリ60とバッファメモリ70の間のデータ転送を高速に行うことができ、また表示処理部44におけるフレームメモリとバッファメモリ70の間で高速なデータ転送を実現できる。本実施の形態の制御部100は、複数のSPUを並列動作させることで、高速な画像処理機能を実現する。表示処理部44は、表示装置12に接続されて、ユーザからの要求に応じた画像処理結果を出力する。   The main memory 60 and the buffer memory 70 are storage devices and are configured as a RAM (Random Access Memory). The SPU has a dedicated DMA (Direct Memory Access) controller as a control unit, can transfer data between the main memory 60 and the buffer memory 70 at high speed, and the frame memory and the buffer memory 70 in the display processing unit 44 can be transferred. High-speed data transfer can be realized. The control unit 100 according to the present embodiment realizes a high-speed image processing function by operating a plurality of SPUs in parallel. The display processing unit 44 is connected to the display device 12 and outputs an image processing result according to a request from the user.

本実施の形態の画像処理装置10は、表示画像の拡大/縮小処理や表示領域の移動処理を行う際に表示画像を円滑に変更させるために、後述する規則によって決定した圧縮画像データの一部をハードディスクドライブ50からメインメモリ60にロードしておく。また、ユーザからの画像移動要求をもとに、将来表示させる画像を予測し、メインメモリ60にロードした圧縮画像データのさらに一部をデコードしてバッファメモリ70に格納しておく。これにより、後の必要なタイミングで、表示画像の生成に使用する画像を瞬時に切り替えることが可能となる。以下において、将来表示させるタイル画像を予測して、バッファメモリ70に前もって展開しておく処理を、「先読み処理」とよぶ。   The image processing apparatus 10 according to the present embodiment uses a part of compressed image data determined according to a rule described later in order to smoothly change a display image when performing a display image enlargement / reduction process or a display area movement process. Is loaded from the hard disk drive 50 into the main memory 60. Further, an image to be displayed in the future is predicted based on an image movement request from the user, and a part of the compressed image data loaded in the main memory 60 is decoded and stored in the buffer memory 70. This makes it possible to instantaneously switch an image used for generating a display image at a necessary later timing. Hereinafter, a process of predicting a tile image to be displayed in the future and developing it in advance in the buffer memory 70 is referred to as a “prefetching process”.

図5は、先読み処理を説明するための図を示す。図5は、階層データの構造を示しており、各階層はL0(第0階層)、L1(第1階層)、L2(第2階層)、L3(第3階層)と表現されている。図5に示す階層データ構造において、深さ(Z軸)方向における位置は、解像度を示し、L0に近い位置ほど解像度が低く、L3に近い位置ほど解像度は高い。なおディスプレイに表示される画像の大きさに注目すると、深さ方向における位置は、縮尺率に対応し、L3の表示画像の縮尺率を1とすると、L2における縮尺率は1/4、L1における縮尺率は1/16となり、L0における縮尺率は1/64となる。   FIG. 5 is a diagram for explaining the prefetch process. FIG. 5 shows the structure of hierarchical data, and each hierarchy is expressed as L0 (0th hierarchy), L1 (1st hierarchy), L2 (2nd hierarchy), and L3 (3rd hierarchy). In the hierarchical data structure shown in FIG. 5, the position in the depth (Z-axis) direction indicates the resolution. The position closer to L0 has a lower resolution, and the position closer to L3 has a higher resolution. When attention is paid to the size of the image displayed on the display, the position in the depth direction corresponds to the scale ratio, and when the scale ratio of the display image of L3 is 1, the scale ratio in L2 is 1/4, and in L1 The scale factor is 1/16, and the scale factor at L0 is 1/64.

したがって深さ方向において、表示画像がL0側からL3側へ向かう方向に変化する場合、表示画像は拡大していき、L3側からL0側へ向かう方向に変化する場合は、表示画像は縮小していく。矢印80は、ユーザからの画像移動要求信号が、表示画像の縮小を要求しており、縮尺率1/4(L2)をまたいだ様子を示している。本実施例の画像処理装置10では、タイル画像38として用意しているL1、L2の深さ方向の位置を、深さ方向の先読み境界として設定し、画像変更要求信号が先読み境界をまたぐと、先読み処理が開始される。   Therefore, in the depth direction, when the display image changes from the L0 side to the L3 side, the display image enlarges. When the display image changes from the L3 side to the L0 side, the display image is reduced. Go. An arrow 80 indicates that the image movement request signal from the user requests reduction of the display image, and crosses the reduction ratio 1/4 (L2). In the image processing apparatus 10 of the present embodiment, when the position in the depth direction of L1 and L2 prepared as the tile image 38 is set as a prefetch boundary in the depth direction, and the image change request signal crosses the prefetch boundary, The prefetch process is started.

表示画像の縮尺率がL2の近傍にある場合、表示画像は、L2(第2階層)のタイル画像を用いて作成される。具体的には、表示する画像の縮尺率が、L1タイル画像とL2タイル画像の切替境界82と、L2タイル画像とL3タイル画像の切替境界84の間にある場合に、L2タイル画像が利用される。したがって、矢印80に示すように画像の縮小処理が要求されると、L2のタイル画像が拡大された画像から、縮小された画像に変換されて表示される。画像処理装置10は、入力装置20からの画像移動要求信号と伝達関数を畳み込み演算して、画像移動要求信号が要求する表示画像の生成を遅延させ、その間に、画像移動要求信号から予測される将来必要なタイル画像38を特定して、メインメモリ60から先読みしておく。図5の例では、画像移動要求信号による要求縮尺率がL2をまたいだときに、画像処理装置10が、縮小方向にあるL1の対応するタイル画像38をメインメモリ60から先読みしてデコードし、バッファメモリ70に書き込む。   When the scale factor of the display image is in the vicinity of L2, the display image is created using a tile image of L2 (second layer). Specifically, the L2 tile image is used when the scale ratio of the image to be displayed is between the switching boundary 82 between the L1 tile image and the L2 tile image and the switching boundary 84 between the L2 tile image and the L3 tile image. The Therefore, when the image reduction processing is requested as indicated by the arrow 80, the L2 tile image is converted from the enlarged image to the reduced image and displayed. The image processing apparatus 10 performs a convolution operation on the image movement request signal from the input device 20 and a transfer function, delays generation of a display image requested by the image movement request signal, and is predicted from the image movement request signal in the meantime. A tile image 38 required in the future is specified and pre-read from the main memory 60. In the example of FIG. 5, when the required scale ratio according to the image movement request signal crosses L2, the image processing apparatus 10 pre-reads and decodes the corresponding tile image 38 of L1 in the reduction direction from the main memory 60, Write to the buffer memory 70.

なお以上は深さ方向の先読み処理について説明したが、上下左右方向の先読み処理についても同様に処理される。具体的には、バッファメモリ70に展開されている画像データに先読み境界を設定しておき、画像変更要求信号による表示位置が先読み境界をまたいだときに、先読み処理が開始されるようにする。   Although the prefetch processing in the depth direction has been described above, the prefetch processing in the up, down, left, and right directions is similarly processed. Specifically, a prefetch boundary is set for the image data developed in the buffer memory 70, and the prefetch process is started when the display position by the image change request signal crosses the prefetch boundary.

図6は本実施の形態における画像データの流れを模式的に示している。まず階層データはハードディスクドライブ50に格納されている。ハードディスクドライブ50に代わり、記録媒体装着部52やディスクドライブ54に装着された記録媒体が保持していてもよい。あるいは、画像処理装置10がネットワークを介して接続した画像サーバから階層データをダウンロードするようにしてもよい。ここでの階層データは上述のとおり、S3TC形式などによる固定長圧縮、あるいはJPEG形式などによる可変長圧縮がなされている。   FIG. 6 schematically shows the flow of image data in the present embodiment. First, the hierarchical data is stored in the hard disk drive 50. Instead of the hard disk drive 50, a recording medium mounted on the recording medium mounting unit 52 or the disk drive 54 may be held. Alternatively, the hierarchical data may be downloaded from an image server connected by the image processing apparatus 10 via a network. As described above, the hierarchical data here is subjected to fixed length compression in the S3TC format or the like, or variable length compression in the JPEG format or the like.

この階層データのうち、一部の画像データを圧縮した状態のままメインメモリ60にロードする(S10)。ここでロードする領域は、現在の表示画像の仮想空間における近傍や、画像の内容、ユーザの閲覧履歴等に基づいて、高頻度で表示要求がなされると予測される領域など、あらかじめ定めた規則によって決定する。ロードは、画像変更要求がなされたときのみならず、例えば所定の時間間隔で随時行う。これによりロード処理が一時期に集中しないようにする。   Among the hierarchical data, a part of the image data is loaded into the main memory 60 in a compressed state (S10). The area to be loaded here is a predetermined rule such as the vicinity of the current display image in the virtual space, the area of the image, the area where a display request is predicted to be frequently made based on the user's browsing history, etc. Determined by. The loading is performed not only when an image change request is made, but also at any given time interval, for example. This prevents the load process from being concentrated at one time.

また、ロードする圧縮画像データはおよそ一定のサイズを有するブロック単位とする。そのためハードディスクドライブ50が保持する階層データは所定の規則でブロックに分割しておく。このようにすることでメインメモリ60におけるデータ管理が効率よく行える。すなわち、圧縮画像データが可変長圧縮されたものであっても、ブロック(以後、「画像ブロック」と呼ぶ)単位であればロードするデータサイズがほぼ等しいため、基本的にメインメモリ60にそれまで格納されていたブロックのいずれかを上書きすることによって新たなロードが完了する。そのためフラグメンテーションが発生しにくく、メモリを効率的に使用できるうえ、アドレス管理も容易になる。   The compressed image data to be loaded is a block unit having a substantially constant size. Therefore, the hierarchical data held by the hard disk drive 50 is divided into blocks according to a predetermined rule. By doing so, data management in the main memory 60 can be performed efficiently. That is, even if the compressed image data is variable-length compressed, the data size to be loaded is almost equal in units of blocks (hereinafter referred to as “image blocks”). A new load is completed by overwriting any of the stored blocks. As a result, fragmentation is unlikely to occur, the memory can be used efficiently, and address management is facilitated.

次に、メインメモリ60に格納されている圧縮画像データのうち、表示に必要な領域の画像、または必要と予測される領域の画像のデータをデコードし、バッファメモリ70に格納する(S12)。バッファメモリ70は、少なくとも2つのバッファ領域72、74を含む。各バッファ領域72、74のサイズは、フレームメモリ90のサイズよりも大きく設定され、入力装置20から画像移動要求信号が入力された場合に、ある程度の量の変更要求に対しては、バッファ領域72、74に展開した画像データで表示画像を生成できるようにする。   Next, among the compressed image data stored in the main memory 60, the image data of the region necessary for display or the image of the region predicted to be necessary is decoded and stored in the buffer memory 70 (S12). The buffer memory 70 includes at least two buffer areas 72 and 74. The size of each of the buffer areas 72 and 74 is set larger than the size of the frame memory 90. When an image movement request signal is input from the input device 20, the buffer area 72 is used for a certain amount of change request. , 74, the display image can be generated.

バッファ領域72、74の一方は、表示画像の生成に用いる画像を保持するために利用される表示用バッファであり、他方は、以後、必要と予測される画像を準備するために利用されるデコード用バッファである。図6の例では、バッファ領域72が表示用バッファ、バッファ領域74がデコード用バッファで、表示領域68が表示されているものとする。先読み処理によってデコード用バッファに格納する画像は、表示用バッファに格納されている画像と同一階層の画像でもよいし、縮尺の異なる別階層の画像でもよい。   One of the buffer areas 72 and 74 is a display buffer that is used to hold an image used to generate a display image, and the other is a decoding that is used to prepare an image predicted to be necessary thereafter. Buffer. In the example of FIG. 6, it is assumed that the buffer area 72 is a display buffer, the buffer area 74 is a decoding buffer, and the display area 68 is displayed. The image stored in the decoding buffer by the prefetching process may be an image in the same hierarchy as the image stored in the display buffer, or may be an image in a different hierarchy having a different scale.

次に、表示用バッファであるバッファ領域72に格納された画像のうち表示領域68の画像を、フレームメモリ90に描画する(S14)。この間に、新たな領域の画像が必要に応じてデコードされ、バッファ領域74に格納される。格納が完了したタイミングや表示領域68の移動量などに応じて、表示用バッファとデコード用バッファを切り替える(S16)。これにより、表示領域の移動や縮尺率の変更などに対し表示画像をスムーズに切り替えることができる。   Next, the image in the display area 68 among the images stored in the buffer area 72, which is a display buffer, is drawn in the frame memory 90 (S14). During this time, the image in the new area is decoded as necessary and stored in the buffer area 74. The display buffer and the decoding buffer are switched according to the timing of completion of storage, the amount of movement of the display area 68, and the like (S16). Thereby, a display image can be smoothly switched with respect to a movement of a display area, a change of a scale ratio, or the like.

これまで述べた処理は、ある画像の表示領域の移動、拡大縮小を行うために、図5で示したような一つの階層データによって構成される仮想空間において、ユーザからの画像移動要求に従いフレーム座標を移動させる態様であった。本実施の形態ではさらに、複数の階層データを表示対象として用意し、表示画像が階層データ間を行き来することを可能にする。図7はそのような態様において表示対象となる複数の階層データの関係を模式的に示している。   In the processing described so far, in order to move and enlarge / reduce the display area of a certain image, the frame coordinates according to the image movement request from the user in the virtual space constituted by one hierarchical data as shown in FIG. It was the aspect which moves. In the present embodiment, a plurality of hierarchical data is prepared as a display target, and a display image can be transferred between the hierarchical data. FIG. 7 schematically shows the relationship between a plurality of hierarchical data to be displayed in such an aspect.

図中、2つの三角形は異なる階層データ150および152を示している。それぞれの階層データ150、152は実際には、図3に示すように解像度の異なる複数の画像データが図のZ軸方向に離散的に存在する構成を有する。図5で説明したのと同様に、ユーザが画像移動要求信号により表示画像の拡大縮小を指示すると、表示画像は図のZ軸方向に移動することになる。一方、表示領域を上下左右に移動させる場合は、図の水平面を移動することになる。本実施の形態では、このような仮想空間において、2つの階層データ150および152が図のように重なり合った状態を生成する。   In the figure, two triangles indicate different hierarchical data 150 and 152. Each of the hierarchical data 150 and 152 actually has a configuration in which a plurality of image data having different resolutions are discretely present in the Z-axis direction in the figure as shown in FIG. In the same manner as described with reference to FIG. 5, when the user instructs enlargement / reduction of the display image by the image movement request signal, the display image moves in the Z-axis direction in the figure. On the other hand, when moving the display area up, down, left, and right, the horizontal plane in the figure is moved. In the present embodiment, in such a virtual space, a state in which the two hierarchical data 150 and 152 overlap as shown in the figure is generated.

このような状態で、階層データ150の画像を表示中、ユーザが拡大指示を行い、表示画像が矢印aのように移動した場合、当該表示画像は階層データ152の領域に入る、すなわち階層データ間を移動することになる。仮想空間での当該移動をこれまでに述べた階層データの表示手順に含めることにより、異なる階層データの画像をシームレスにつないだ表示を行うことができる。階層データ150と152の画像は同じ対象物を異なる解像度の範囲で表すデータでもよいし、全く異なる対象物を表すデータでもよい。例えば階層データ150を世界地図のデータ、階層データ152を日本地図のデータとすると、ユーザが世界地図の日本の領域を拡大していくことにより、階層データ150から階層データ152への遷移が起こり、日本地図のさらに詳細な表示が行える。また、階層データ150をメニュー画面のデータ、階層データ152をメニュー画面に表示された各アイコンについて説明したマニュアルのデータとすると、ユーザがメニュー画面の所望のアイコンを拡大することにより、当該アイコンに対応する機能について説明したマニュアル画像に切り替わる、といったことが可能になる。   In this state, when the user issues an enlargement instruction while displaying the image of the hierarchical data 150 and the display image moves as indicated by the arrow a, the display image enters the area of the hierarchical data 152, that is, between the hierarchical data Will be moved. By including the movement in the virtual space in the hierarchical data display procedure described so far, it is possible to perform display in which images of different hierarchical data are seamlessly connected. The images of the hierarchical data 150 and 152 may be data representing the same object in different resolution ranges or data representing completely different objects. For example, if the hierarchical data 150 is world map data and the hierarchical data 152 is Japan map data, a transition from the hierarchical data 150 to the hierarchical data 152 occurs when the user expands the Japanese region of the world map. A more detailed display of the map of Japan can be performed. Further, when the hierarchical data 150 is data on the menu screen and the hierarchical data 152 is manual data describing each icon displayed on the menu screen, the user can expand the desired icon on the menu screen to cope with the icon. It is possible to switch to a manual image explaining the function to be performed.

このように本実施の形態では、仮想空間における表示画像の移動、すなわち拡大、縮小を含む表示画像移動要求の入力をきっかけとして、描画に用いる階層データを切り替える。このような切り替えを、現在表示中の画像に対する基本操作のみで行えるため、切り替えのためのメニュー画面を表示させたり選択したりするなどの段階を経ることがなく、操作性のよいユーザインターフェースを提供できる。また、例えば世界地図の画像から建物や道路が確認できるような高解像度の画像まで連続して拡大できるコンテンツを作成する場合、解像度の範囲に応じて階層データを別に保持することにより、海洋領域など拡大の必要の少ない領域のデータを省くことができ、一つの巨大な階層データを構築するよりデータサイズを格段に削減できる。また、全く異なる画像を連続的に表示することが容易であり、さまざまな画像表現への応用、コンテンツの作成が容易になる。   As described above, in the present embodiment, the hierarchical data used for drawing is switched in response to the input of the display image movement request including the movement of the display image in the virtual space, that is, enlargement and reduction. Since such switching can be performed only with basic operations on the currently displayed image, a user interface with good operability is provided without the need to display or select a menu screen for switching. it can. For example, when creating content that can be expanded continuously from a world map image to a high-resolution image that allows you to see buildings and roads, you can keep the hierarchical data separately according to the resolution range, etc. Data in an area that does not need to be expanded can be omitted, and the data size can be significantly reduced rather than constructing one huge hierarchical data. In addition, it is easy to continuously display completely different images, and application to various image representations and creation of contents are facilitated.

表示中の画像のどの領域およびどの解像度で別の階層データへ切り替えるかは、図7中、線154で表される「リンク情報」としてあらかじめ設定しておく。同図の例では、Z軸がz1なる解像度、線154が表す水平面(図3参照)上の位置において、階層データ150から階層データ152への切り替えが行われる。以後、このような階層データ間の切り替えを「リンク」と呼ぶ。   Which region of the image being displayed and which resolution is to be switched to another hierarchical data is set in advance as “link information” represented by a line 154 in FIG. In the example of the figure, switching from the hierarchical data 150 to the hierarchical data 152 is performed at a position where the Z-axis is z1 and the position on the horizontal plane (see FIG. 3) represented by the line 154. Hereinafter, such switching between hierarchical data is referred to as “link”.

図8は階層データ間にリンクを設定したときの表示画像の様子を例示している。同図では、画像156、158、160なる3つの階層データを表示対象としている。そして画像156の領域162と画像158の領域163にリンクが設定されており、画像156の領域164と画像160の領域165にリンクが設定されているとする。このような領域を以後、「リンク領域」と呼ぶ。リンク領域は、図7の線154に相当する。画像156の階層データを用いて表示画像を生成中、ユーザの表示画像移動要求により表示画像がリンク領域162に重なると、画像156から画像158へ表示に用いる階層データが切り替わり、画像158内のリンク領域163が表示画像となる(矢印A)。   FIG. 8 shows an example of a display image when a link is set between hierarchical data. In the figure, three hierarchical data of images 156, 158 and 160 are displayed. Assume that a link is set to the area 162 of the image 156 and the area 163 of the image 158, and a link is set to the area 164 of the image 156 and the area 165 of the image 160. Such an area is hereinafter referred to as a “link area”. The link area corresponds to the line 154 in FIG. When the display image is generated using the hierarchical data of the image 156 and the display image overlaps the link area 162 due to the user's display image movement request, the hierarchical data used for display is switched from the image 156 to the image 158, and the link in the image 158 is displayed. A region 163 becomes a display image (arrow A).

図8の例では、画像156のうち主に5角形を中心とする領域についてさらに解像度を上げた画像を別の画像158の階層データとしてハードディスクドライブ50に保持している。そしてリンク領域162とリンク領域163は同じ視野角を有するように設定する。すると、画像156の階層データでもっとも高い解像度の画像よりさらに高解像度の画像を、画像158の階層データを用いて連続的に表示することができる。このとき外観上は五角形にズームインしていくのみで、図7の矢印aの遷移が起こるため、階層データの切り替わりが行われたことをユーザが意識することはない。   In the example of FIG. 8, an image whose resolution is further increased for an area mainly centered on a pentagon of the image 156 is held in the hard disk drive 50 as hierarchical data of another image 158. The link area 162 and the link area 163 are set to have the same viewing angle. Then, a higher resolution image than the highest resolution image in the hierarchical data of the image 156 can be continuously displayed using the hierarchical data of the image 158. At this time, since the appearance is simply zoomed in to the pentagon and the transition of the arrow a in FIG. 7 occurs, the user is not aware that the hierarchical data has been switched.

またリンク領域162とリンク領域163は、図に示すように矢印Aと逆方向のリンク、矢印Bも設定されている。この場合、矢印Aの遷移後、画像158の所望の領域を拡大表示などしたユーザが、表示画像を縮小し、当該表示画像が再びリンク領域163に重なったとき、画像158から画像156へ表示に用いる階層データが切り替わり、画像156内のリンク領域162が表示画像となる(矢印B)。この場合も、画像158における表示画像を縮小していくのみで、階層データの切り替わりを意識することなく、連続的な縮小が可能となる。   In the link area 162 and the link area 163, a link in the direction opposite to the arrow A and an arrow B are also set as shown in the figure. In this case, after the transition of the arrow A, when the user who enlarged and displayed a desired area of the image 158 reduces the display image and the display image overlaps the link area 163 again, the display from the image 158 to the image 156 is performed. The hierarchical data to be used is switched, and the link area 162 in the image 156 becomes a display image (arrow B). Also in this case, it is possible to continuously reduce the display image in the image 158 only by reducing the display data without being aware of the switching of the hierarchical data.

リンク領域164からリンク領域165への遷移(矢印C)も同様に、画像156を表示中、楕円形をズームインしていき表示画像がリンク領域164と重なったときに、階層データが切り替わり、画像160のリンク領域165が表示画像となる。これにより、画像156より高解像度の画像表示が可能となる。なお表示画像がリンク領域に「重なる」という状態は、厳密に重なっていなくてもよいため、表示画像がリンク領域から所定の範囲内に入ったときを重なったと見なす、といった規則をあらかじめ設定しておけばよい。   Similarly, the transition from the link area 164 to the link area 165 (arrow C) also zooms in on the ellipse while displaying the image 156, and when the display image overlaps the link area 164, the hierarchical data is switched and the image 160 is switched. The link area 165 becomes a display image. Thereby, an image display with a higher resolution than the image 156 can be performed. It should be noted that the state that the display image “overlaps” the link area does not have to overlap exactly, so a rule is set in advance that the display image is considered to have overlapped when entering the predetermined range from the link area. Just keep it.

図9は制御部100の構成を詳細に示している。制御部100は入力装置20からユーザが入力した情報を取得する入力情報取得部102、階層データを画像ブロックに分割する圧縮データ分割部104、新たにロードすべき画像ブロックを決定するロードブロック決定部106、必要な画像ブロックをハードディスクドライブ50からロードするロード部108を含む。制御部100はさらに、先読み処理を行う先読み処理部110、ロードすべきデータ、あるいはデコードすべきデータがリンク先の階層データ内にあるか否かを判定するリンク判定部116、圧縮画像データをデコードするデコード部112、および表示画像を描画する表示画像処理部114を含む。制御部100はさらに、設定されたシナリオ情報を解釈してリンク判定部116、ロード部108、表示画像処理部114を制御するシナリオ解釈部117を含む。   FIG. 9 shows the configuration of the control unit 100 in detail. The control unit 100 includes an input information acquisition unit 102 that acquires information input by the user from the input device 20, a compressed data division unit 104 that divides hierarchical data into image blocks, and a load block determination unit that determines an image block to be newly loaded. 106 includes a load unit 108 for loading necessary image blocks from the hard disk drive 50. The control unit 100 further includes a prefetch processing unit 110 that performs prefetch processing, a link determination unit 116 that determines whether data to be loaded or data to be decoded is included in the link destination hierarchical data, and decodes the compressed image data And a display image processing unit 114 for rendering a display image. The control unit 100 further includes a scenario interpretation unit 117 that interprets the set scenario information and controls the link determination unit 116, the load unit 108, and the display image processing unit 114.

図9において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU(Central Processing Unit)、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。既述したように、制御部100は1つのPPUと複数のSPUとを有し、PPUおよびSPUがそれぞれ単独または協同して、各機能ブロックを構成できる。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。   In FIG. 9, each element described as a functional block for performing various processes can be configured by a CPU (Central Processing Unit), a memory, and other LSIs in terms of hardware. This is realized by a program loaded on the computer. As described above, the control unit 100 includes one PPU and a plurality of SPUs, and each functional block can be configured by the PPU and the SPU individually or in cooperation. Therefore, it is understood by those skilled in the art that these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof, and is not limited to any one.

まずハードディスクドライブ50にはリンクが設定された複数の階層データ101を格納しておく。またメインメモリ60には、ハードディスクドライブ50からロードした画像ブロックを格納する領域120のほか、リンク設定ファイル118をあらかじめ格納しておく。リンク設定ファイル118は、設定されたリンク情報を記録したファイルであり、階層データ101本体に付加されたものをハードディスクドライブ50からロードしてもよい。なおメインメモリ60に格納されたシナリオ設定ファイル119については後に説明する。   First, the hard disk drive 50 stores a plurality of hierarchical data 101 to which links are set. In addition to the area 120 for storing the image block loaded from the hard disk drive 50, the main memory 60 stores a link setting file 118 in advance. The link setting file 118 is a file in which the set link information is recorded, and what is added to the hierarchical data 101 main body may be loaded from the hard disk drive 50. The scenario setting file 119 stored in the main memory 60 will be described later.

入力情報取得部102は、ユーザが入力装置20に対して入力した、画像表示の開始/終了、表示領域の移動、表示画像の拡大、縮小などの指示情報を取得する。入力情報取得部102はさらに、あらかじめ設定した表示画像を移動する速度の最大値、画像移動要求信号と畳み込み演算する伝達関数などに基づき、画像移動要求信号を遅延させてもよい。伝達関数は、たとえばガウシアン関数であってもよい。画像処理装置10は、この遅延時間を利用して、画像データの先読み処理に要する時間、後述するリンク先の画像や動画再生、アプリケーションの起動に要する時間を確保する。これにより、ユーザの要求に対応したスムーズな画像表示が可能となる。   The input information acquisition unit 102 acquires instruction information such as start / end of image display, movement of a display area, enlargement / reduction of a display image, and the like input by the user to the input device 20. The input information acquisition unit 102 may further delay the image movement request signal based on a preset maximum value for moving the display image, a transfer function that performs a convolution operation with the image movement request signal, and the like. The transfer function may be a Gaussian function, for example. The image processing apparatus 10 uses this delay time to secure the time required for the prefetch processing of the image data, the time required for the reproduction of the linked image and the moving image, which will be described later, and the application activation. Thereby, smooth image display corresponding to a user's request | requirement is attained.

圧縮データ分割部104は、ハードディスクドライブ50などから階層データを読み出し、所定の規則により分割して画像ブロックを生成し、ハードディスクドライブ50に格納する。例えばユーザが入力装置20に対し、ハードディスクドライブ50に格納されている階層データのいずれかを選択すると、入力情報取得部102から当該情報を取得し、分割処理を開始する。または元から画像ブロックに分割された階層データをハードディスクドライブ50に格納してもよい。このような階層データを表示対象とする場合には、圧縮データ分割部104は動作しなくてよい。   The compressed data dividing unit 104 reads hierarchical data from the hard disk drive 50 and the like, divides the data according to a predetermined rule, generates image blocks, and stores them in the hard disk drive 50. For example, when the user selects any one of the hierarchical data stored in the hard disk drive 50 with respect to the input device 20, the information is acquired from the input information acquisition unit 102, and the division process is started. Alternatively, hierarchical data that is originally divided into image blocks may be stored in the hard disk drive 50. When such hierarchical data is to be displayed, the compressed data dividing unit 104 does not have to operate.

ロードブロック決定部106は、ハードディスクドライブ50からメインメモリ60へ新たにロードすべき画像ブロックの有無の確認、および次にロードする画像ブロックの決定を行い、ロード部108にロード要求を発行する。ロードブロック決定部106はその際、ロードすべき画像ブロックに、リンク先の別の階層データの画像ブロックが含まれていないかをリンク判定部116に問い合わせる。ロードブロック決定部106は、ロード部108がロード処理中でない状態において、例えば所定の時間間隔、あるいは、ユーザが画像の移動要求を行った際など、所定のタイミングで上記確認、決定の処理を行う。ロード部108は、ロードブロック決定部106からの要求に従い、実際のロード処理を行う。   The load block determination unit 106 checks whether there is an image block to be newly loaded from the hard disk drive 50 to the main memory 60 and determines the next image block to be loaded, and issues a load request to the load unit 108. At that time, the load block determination unit 106 inquires of the link determination unit 116 whether the image block to be loaded contains an image block of another hierarchical data to be linked. The load block determination unit 106 performs the above confirmation and determination processing at a predetermined time interval, for example, when the load unit 108 is not performing the load process, for example, when a user makes an image movement request. . The load unit 108 performs actual load processing in accordance with a request from the load block determination unit 106.

ユーザが表示画像の移動要求を行った際、もし移動先の画像領域を含む画像ブロックがメインメモリ60に格納されていなかったら、ハードディスクドライブ50からの画像ブロックのロード、必要領域のデコード、表示画像の描画、といった処理を一度に行う必要がある。この場合、ロード処理がボトルネックとなり、ユーザの要求に対する応答性が損なわれることが考えられる。本実施の形態では、(1)今後表示される可能性の高い領域を網羅するように画像ブロックをロードしておく、(2)ロード処理が一時期に集中しないように随時ロードしていく、というポリシーの元でロードを行う。これによりロード処理が表示画像の変更処理の妨げになることが少なくなる。   When the user requests to move the display image, if the image block including the destination image area is not stored in the main memory 60, the image block is loaded from the hard disk drive 50, the necessary area is decoded, and the display image is displayed. It is necessary to perform processing such as drawing at once. In this case, it is conceivable that the load process becomes a bottleneck, and the responsiveness to the user request is impaired. In this embodiment, (1) image blocks are loaded so as to cover regions that are likely to be displayed in the future, and (2) loading is performed as needed so that the loading process is not concentrated at one time. Load under policy. As a result, the load process is less likely to interfere with the display image changing process.

先読み処理部110は、現在の表示画像のフレーム座標とユーザが入力した表示画像移動要求の情報に従い、将来表示画像の描画に必要とされるであろう画像領域を予測し、その情報をデコード部112に供給する。ただし画像表示開始直後や、バッファメモリ70に格納済みの画像では変更先の画像が描画できない場合などは、予測をせずに、その時点の表示画像の描画に必要な画像を含む所定領域の情報をデコード部112に供給する。また先読み処理部110は、予測した画像領域や現在表示画像の描画に必要な画像領域がリンク先の別の階層データに含まれていないかをリンク判定部116に問い合わせる。   The prefetch processing unit 110 predicts an image area that will be required for drawing a display image in the future according to the frame coordinates of the current display image and the display image movement request information input by the user, and decodes the information. 112. However, immediately after the start of image display, or when the image to be changed cannot be drawn with the image already stored in the buffer memory 70, information on a predetermined area including an image necessary for drawing the display image at that time is not predicted. Is supplied to the decoding unit 112. In addition, the prefetch processing unit 110 inquires of the link determination unit 116 whether the predicted image region or the image region necessary for drawing the currently displayed image is included in another hierarchical data of the link destination.

リンク判定部は、メインメモリ60にあらかじめ格納したリンク設定ファイル118を参照し、ロードブロック決定部106の問い合わせに応じて、ロードすべき画像ブロックにリンク先の階層データの画像ブロックが含まれているか否かを判定する。含まれている場合は、現在表示中の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおける座標に変換し、変換前の座標、リンク先の階層データのファイル名とともにロードブロック決定部106に返す。また先読み処理部110の問い合わせに応じて、描画に必要な領域にリンク先の階層データの領域が含まれているか否かを判定する。含まれていたら、リンク先のリンク領域の座標に係る情報を返す。リンクの設定例は後に示す。   The link determination unit refers to the link setting file 118 stored in the main memory 60 in advance, and in response to an inquiry from the load block determination unit 106, whether the image block to be loaded includes the image block of the link destination hierarchical data. Determine whether or not. If included, the coordinates of the point to be loaded in the currently displayed hierarchical data are converted to the coordinates in the linked hierarchical data, and the load block is determined together with the coordinates before conversion and the file name of the linked hierarchical data Return to section 106. Further, in response to an inquiry from the prefetch processing unit 110, it is determined whether or not the area of the linked hierarchical data is included in the area necessary for drawing. If it is included, information related to the coordinates of the linked link area is returned. An example of setting a link will be shown later.

デコード部112は、先読み処理部110から取得した画像領域の情報に基づき、メインメモリ60から圧縮画像データの一部を読み出しデコードし、デコード用バッファまたは表示用バッファにデコード後のデータを格納する。表示画像処理部114は、ユーザが入力した表示画像移動要求に従い新たな表示画像のフレーム座標を決定し、バッファメモリ70の表示用バッファから対応する画像データを読み出し、表示処理部44のフレームメモリ90に描画する。シナリオ解釈部117は、メインメモリ60に格納したシナリオ設定ファイル119を解釈して、表示画像の連続的な誘導を行うために表示画像の制御を行う。詳細は後に述べる。   Based on the image area information acquired from the prefetch processing unit 110, the decoding unit 112 reads and decodes a part of the compressed image data from the main memory 60, and stores the decoded data in the decoding buffer or the display buffer. The display image processing unit 114 determines the frame coordinates of a new display image according to the display image movement request input by the user, reads the corresponding image data from the display buffer of the buffer memory 70, and the frame memory 90 of the display processing unit 44. To draw. The scenario interpretation unit 117 interprets the scenario setting file 119 stored in the main memory 60 and controls the display image in order to continuously guide the display image. Details will be described later.

次にリンクの設定例について説明する。図10〜13は画像内の領域(フレーム)の定義方法を説明する図である。図10は基準となるフレームと画像の位置関係を示している。図10で画像156に対する基準フレーム264は、画像156の中心と同一の中心を有し、画像156に外接する、縦横比が所定の値の矩形とする。ここで縦横比は所定の値でよく、例えば、表示するディスプレイあるいはディスプレイ上の表示領域の縦横比と同一とする。表示画像を拡大、縮小しても、フレームは常に当該比率を保持するとする。このようなフレームを基準としたときの、横方向オフセット、縦方向オフセット、拡大率、回転角、の4つのパラメータでフレームを指定する。基準フレーム264は、(横方向オフセット,縦方向オフセット,拡大率,回転角)=(0,0,1.0,0)である。   Next, a link setting example will be described. 10 to 13 are diagrams for explaining a method of defining an area (frame) in an image. FIG. 10 shows the positional relationship between a reference frame and an image. In FIG. 10, the reference frame 264 for the image 156 is a rectangle having the same center as the center of the image 156 and circumscribing the image 156 and having a predetermined aspect ratio. Here, the aspect ratio may be a predetermined value, for example, the same as the aspect ratio of the display to be displayed or the display area on the display. Even if the display image is enlarged or reduced, the frame always maintains the ratio. When such a frame is used as a reference, a frame is designated by four parameters of a horizontal direction offset, a vertical direction offset, an enlargement ratio, and a rotation angle. The reference frame 264 is (lateral offset, vertical offset, enlargement ratio, rotation angle) = (0, 0, 1.0, 0).

図11は基準フレームを平行移動させた場合のフレームの定義を説明する図であるこの場合、縦方向オフセットおよび横方向オフセットのパラメータに値が代入される。具体的にはフレームの中心272から画像156の中心、すなわち基準フレームの中心270への距離の横方向成分offset_x、縦方向成分offset_yが横方向オフセット、縦方向オフセットの値となる。したがってフレーム262は(offset_x, offset_y,1.0,0)と表現される。   FIG. 11 is a diagram for explaining the definition of the frame when the reference frame is translated. In this case, values are substituted into the parameters of the vertical offset and the horizontal offset. Specifically, the horizontal component offset_x and the vertical component offset_y of the distance from the center 272 of the frame to the center of the image 156, that is, the center 270 of the reference frame are values of the horizontal offset and the vertical offset. Therefore, the frame 262 is expressed as (offset_x, offset_y, 1.0, 0).

図12は基準フレームを平行移動させずに拡大率を変化させた場合のフレームの定義を説明する図である。この場合、フレーム266の基準フレームに対する比率が拡大率のパラメータに代入される。図12のフレーム266が図10の基準フレームの0.5倍であれば、フレーム266は(0,0,0.5,0)と表現される。   FIG. 12 is a diagram illustrating the definition of a frame when the enlargement ratio is changed without moving the reference frame in parallel. In this case, the ratio of the frame 266 to the reference frame is substituted into the enlargement ratio parameter. If the frame 266 of FIG. 12 is 0.5 times the reference frame of FIG. 10, the frame 266 is expressed as (0, 0, 0.5, 0).

図13は基準フレームを平行移動させずに回転させた場合のフレームの定義を説明する図である。この場合、フレーム280の基準フレームからの回転角282が回転角のパラメータに代入される。例えば回転角282が0.25pであれば、フレーム280は(0,0,1.0,0.25)と表現される。図11〜13のオフセット、拡大率、回転角を組み合わせることにより、表示画像のフレームはいずれも、4つのパラメータで表現できる。以後、この4つのパラメータセットを「フレーム定義パラメータ」と呼ぶ。   FIG. 13 is a diagram for explaining the definition of a frame when the reference frame is rotated without being translated. In this case, the rotation angle 282 of the frame 280 from the reference frame is substituted into the rotation angle parameter. For example, if the rotation angle 282 is 0.25p, the frame 280 is expressed as (0, 0, 1.0, 0.25). By combining the offsets, magnifications, and rotation angles of FIGS. 11 to 13, any frame of the display image can be expressed by four parameters. Hereinafter, these four parameter sets are referred to as “frame definition parameters”.

図14はリンク設定ファイル118のデータ構造例を示している。リンク設定ファイル118は、一行が一つのリンク、すなわちある階層データから別の階層データへの切り替えの記述に対応し、リンク元画像フレームフィールド302、有効スケール範囲フィールド304、リンク先ファイルフィールド306、およびリンク先画像フレームフィールド308、の4種類のフィールドによって構成される。リンク元画像フレームフィールド302は表示中の画像において、階層データの切り替えが発生するときの表示画像、すなわちリンク領域のフレームを上述のフレーム定義パラメータで指定する。当該フレームは、例えば図8における矢印Bのリンクにおけるリンク領域163のフレームに相当する。   FIG. 14 shows an example of the data structure of the link setting file 118. The link setting file 118 corresponds to one link, that is, a description of switching from one hierarchical data to another hierarchical data, and includes a link source image frame field 302, an effective scale range field 304, a link destination file field 306, and The link destination image frame field 308 is composed of four types of fields. The link source image frame field 302 designates the display image when the hierarchical data is switched in the image being displayed, that is, the frame of the link area by the above-described frame definition parameter. The frame corresponds to, for example, the frame of the link area 163 in the link indicated by the arrow B in FIG.

有効スケール範囲フィールド304は、リンク元画像フレームフィールド302における拡大率を始点としてリンクが有効となる拡大率の幅を指定する。図14の1行目では、リンク元画像フレームフィールド302に示されたリンク領域の拡大率が「2.0」であり、有効スケール範囲フィールド304の値が「98.0」であるため、拡大率が2.0〜100.0までの表示画像であればリンクを有効とし、階層データを切り替える、という設定となる。   The effective scale range field 304 designates the width of the enlargement ratio at which the link is effective, starting from the enlargement ratio in the link source image frame field 302. In the first line of FIG. 14, the enlargement ratio of the link area indicated in the link source image frame field 302 is “2.0”, and the value of the effective scale range field 304 is “98.0”. If the display image has a rate of 2.0 to 100.0, the link is valid and the hierarchical data is switched.

例えば図8における矢印Bのリンクは、表示画像をズームアウト、すなわち画像158のリンク領域163より小さいフレームから、フレームの拡大率を上げていき、リンク領域163と重なったときに画像156へと切り替わる。したがって、拡大率が「2.0」以上となったときにリンクを有効とするために、有効スケール範囲フィールド304の値を正の値とする。これにより、画像158の表示において拡大率を十分上げた後にリンク領域163の近傍に移動させたとしてもリンクを有効とすることができる。   For example, the link indicated by the arrow B in FIG. 8 zooms out the display image, that is, increases the frame enlargement ratio from a frame smaller than the link area 163 of the image 158, and switches to the image 156 when it overlaps the link area 163. . Therefore, the value of the effective scale range field 304 is set to a positive value in order to make the link effective when the enlargement ratio becomes “2.0” or more. As a result, the link can be made effective even when the magnification is sufficiently increased in the display of the image 158 and then moved to the vicinity of the link area 163.

一方、図8における矢印Aのリンクは、表示画像をズームイン、すなわち画像156のリンク領域162より大きいフレームから、フレームの拡大率を下げていき、リンク領域162と重なったときに画像158へと切り替わる。したがって、図14の2行目のように、有効スケール範囲フィールド304を「ー1.0」など負の値とする。リンク先ファイルフィールド306は、リンク先の階層データのファイル名を指定する。図8における矢印Bのリンクの例では、画像156の階層データのファイル名に相当する。リンク先画像フレームフィールド308は、階層データの切り替え後の表示画像、すなわちリンク先のリンク領域のフレームのフレーム定義パラメータを指定する。   On the other hand, the link indicated by the arrow A in FIG. 8 zooms in on the display image, that is, lowers the enlargement ratio of the frame from a frame larger than the link area 162 of the image 156 and switches to the image 158 when it overlaps the link area 162. . Therefore, as shown in the second row of FIG. 14, the effective scale range field 304 is set to a negative value such as “−1.0”. The link destination file field 306 designates the file name of the link destination hierarchical data. In the example of the link indicated by the arrow B in FIG. 8, this corresponds to the file name of the hierarchical data of the image 156. The link destination image frame field 308 specifies a frame definition parameter of a display image after switching of hierarchical data, that is, a frame of a link area of a link destination.

リンク設定ファイルはリンク元の階層データごとに作成する。すなわち図8における矢印AおよびCのリンクの情報は画像156の階層データのリンク設定ファイル、矢印Bのリンク情報は画像158の階層データのリンク設定ファイルに、それぞれ記述される。各ファイルは対応する階層データと関連づけて保存する。このようにすることで、双方向にリンクが設定されていてもその動きは独立とすることができる。例えば図8において矢印Aの遷移におけるリンク領域A、Bと、矢印Bの遷移におけるリンク領域A、Bは領域や解像度を異ならせることができる。図8の例では画像160にリンク設定ファイルが付加されていないため、画像160へ遷移した後はその中で画像表示その他で楽しむことになる。   A link setting file is created for each hierarchical data of the link source. That is, the link information of arrows A and C in FIG. 8 is described in the link setting file of the hierarchical data of the image 156, and the link information of arrow B is described in the link setting file of the hierarchical data of the image 158. Each file is stored in association with the corresponding hierarchical data. In this way, even if a link is set in both directions, the movement can be made independent. For example, in FIG. 8, the link areas A and B in the transition of the arrow A and the link areas A and B in the transition of the arrow B can have different areas and resolutions. In the example of FIG. 8, since the link setting file is not added to the image 160, after transitioning to the image 160, the user can enjoy image display and the like.

このようなリンク設定ファイルをあらかじめ作成しておくことにより、リンク判定部116は、先読み処理部110からの問い合わせに応じて、先読み処理によって予測された領域が、リンク設定ファイルにおいて設定されたリンク領域を含むか否かを確認する。含む場合はリンク先の階層データのファイル名、リンク先のリンク領域のフレーム定義パラメータを返す。先読み処理部110はリンク領域を含まない場合と同様に当該情報をデコード部112に渡す。デコード部112はリンク先のリンク領域のデータをメインメモリ60より読み込みデコードする。   By creating such a link setting file in advance, the link determination unit 116, in response to the inquiry from the prefetch processing unit 110, the area predicted by the prefetch processing is the link area set in the link setting file. Is included. If included, the file name of the link destination hierarchical data and the frame definition parameter of the link area of the link destination are returned. The prefetch processing unit 110 passes the information to the decoding unit 112 as in the case where the link area is not included. The decoding unit 112 reads the data of the link area of the link destination from the main memory 60 and decodes it.

同様にリンク判定部116は、ロードブロック決定部106からの問い合わせに応じて、ロードすべきポイントがリンク領域に含まれるか否かを確認する。含まれる場合はリンク先の階層データのファイル名を返す。この際、ロードすべきポイントのリンク元の画像における座標をリンク先の画像における座標に変換して当該情報も返信する。ロードブロック決定部106は、リンク先画像の階層データのうち、座標変換されたロードすべきポイントを含む画像ブロックをハードディスクドライブ50からメインメモリ60にロードする。   Similarly, the link determination unit 116 confirms whether or not the point to be loaded is included in the link area in response to an inquiry from the load block determination unit 106. If included, the file name of the linked hierarchical data is returned. At this time, the coordinates in the link source image of the point to be loaded are converted into the coordinates in the link destination image, and the information is also returned. The load block determination unit 106 loads, from the hard disk drive 50 to the main memory 60, the image block including the coordinate-converted point in the hierarchical data of the link destination image.

ここで、ロードブロック決定部106およびリンク判定部116が行う、画像ブロックのロード処理について説明する。図15は2つの階層データにリンクが設定されているときのロードすべきポイントを模式的に示している。メインメモリ60には、基本的には現在表示されている表示画像の周辺の画像の圧縮データがロードされていることが望ましい。ここで「周辺」とは、同一階層の画像における上下左右(X軸、Y軸)方向と、階層構造の深さ(Z軸)方向の周辺を含んでよい。Z軸方向の周辺とは、表示画像およびその近傍を含む拡大画像および縮小画像を意味する。   Here, an image block loading process performed by the load block determination unit 106 and the link determination unit 116 will be described. FIG. 15 schematically shows points to be loaded when links are set in two hierarchical data. It is desirable that the main memory 60 is basically loaded with compressed data of an image around the currently displayed display image. Here, the “periphery” may include the periphery in the vertical and horizontal (X-axis, Y-axis) directions and the depth (Z-axis) direction of the hierarchical structure in an image of the same hierarchy. The periphery in the Z-axis direction means a display image and an enlarged image and a reduced image including the vicinity thereof.

図15において、2つの三角形は図7と同様、階層データ184および186を表している。またこれらの階層データ184、186には線188のようなリンクが設定されている。現在の表示画像を線190とすると、例えば同図の白丸192および黒丸194のポイントを含む画像ブロックをメインメモリ60にロードするようにする。すなわち、表示中の階層を中心とした上下の所定数の階層において、現在の表示画像の領域から所定の範囲内にある数ポイントをロードすべきポイントとして決定する。   In FIG. 15, two triangles represent the hierarchical data 184 and 186, as in FIG. In addition, a link such as a line 188 is set in these hierarchical data 184 and 186. Assuming that the current display image is a line 190, for example, an image block including points of white circles 192 and black circles 194 in the figure is loaded into the main memory 60. In other words, in a predetermined number of layers above and below the layer being displayed, several points within a predetermined range from the area of the current display image are determined as points to be loaded.

図15の例では、表示画像と同一階層では5つのポイント、それより1つ上、または下の階層では3つのポイント、2つ上、または2つ下の階層では1つのポイントが白丸192および黒丸194で表されている。実際には図の水平面上にさらにポイントが存在する。ここで図のように線188でリンクが設定されている場合、現在の表示画像が階層データ184のものであっても、一つ下の階層において決定したポイントがリンク領域に含まれるため、階層データ186のうち、階層データ184の当該ポイントに対応するポイントを含む画像ブロックをロードする。2つ下の階層のロードすべきポイントも同様である。同図では、現在表示中の階層データ184におけるロードすべきポイントを白丸192、上述のようにリンク先の階層データ186の座標へ変換されたポイントを黒丸194で示している。   In the example of FIG. 15, five points in the same hierarchy as the display image, three points in the hierarchy above or below, one point in the hierarchy two, two above, or two below are white circles 192 and black circles. It is represented by 194. Actually, there are more points on the horizontal plane of the figure. Here, when the link is set by the line 188 as shown in the figure, even if the current display image is of the hierarchical data 184, the point determined in the next lower hierarchy is included in the link area. Among the data 186, an image block including a point corresponding to the point of the hierarchical data 184 is loaded. The same applies to points to be loaded in the next lower hierarchy. In the figure, points to be loaded in the currently displayed hierarchical data 184 are indicated by white circles 192, and points converted to the coordinates of the linked hierarchical data 186 as described above are indicated by black circles 194.

ロードすべきポイントの決定および当該ポイントを含む画像ブロックのロードは、所定の時間間隔で随時行ってよい。必要な領域のデータをロードするために、ハードディスクドライブ50に画像ブロックを格納する際、各画像ブロックの画像上の領域と画像ブロックの格納領域とを対応付けた情報もハードディスクドライブ50に格納しておく。同様に、ロードされた画像ブロックも、各画像ブロックの画像上の領域と画像ブロックの格納領域とを対応付けた情報をメインメモリ60に格納しておく。ロードブロック決定部106は定期的に、ロードすべきポイントを含む画像ブロックがメインメモリ60に格納されているか否かを確認し、格納されていなければ当該画像ブロックをロード対象として決定する。このように画像ブロックの単位でのロードを随時行うことにより、ロード処理による表示の待ち時間発生を抑制できる。   The determination of the point to be loaded and the loading of the image block including the point may be performed as needed at predetermined time intervals. When an image block is stored in the hard disk drive 50 in order to load data in a necessary area, information that associates the image area of each image block with the image block storage area is also stored in the hard disk drive 50. deep. Similarly, for the loaded image block, information in which the area on the image of each image block is associated with the storage area of the image block is stored in the main memory 60. The load block determination unit 106 periodically checks whether or not an image block including a point to be loaded is stored in the main memory 60, and if not, determines the image block as a load target. Thus, by performing loading in units of image blocks as needed, it is possible to suppress the occurrence of display wait time due to the loading process.

また、図15のように、ロードすべきポイントがリンク先の画像の階層データ186に新たに含まれる場合は、現在表示中の階層データ184のデータより優先して当該リンク先のデータをロードするようにしてもよい。これにより、すぐにリンク先への移行が発生しても、リンク先の新たな画像を円滑に表示させることができる。   As shown in FIG. 15, when the point to be loaded is newly included in the hierarchical data 186 of the linked image, the linked data is loaded with priority over the data of the currently displayed hierarchical data 184. You may do it. Thereby, even if the transition to the link destination occurs immediately, a new image of the link destination can be displayed smoothly.

次にリンク元の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおけ座標に変換する手法について説明する。図16はリンク元画像からリンク先画像へのXY座標の変換手法を説明するための図である。同図において、画像156のリンク領域200が画像158のリンク領域204に切り替わるようにリンクが設定されており、画像156のポイント196は、画像158のポイント198に対応するとする。ここでポイント196の座標を(Pa_x,Pa_y)、リンク領域200の辺の長さを(La_sx,La_sy)、当該領域の中心座標を(La_x,La_y)とし、ポイント198の座標を(Pb_x,Pb_y)、リンク領域204の辺の長さを(Lb_sx,Lb_sy)、当該領域の中心座標を(Lb_x,Lb_y)とすると、次のような式が成り立つ。   Next, a method for converting the coordinates of a point to be loaded in the hierarchical data of the link source into coordinates in the hierarchical data of the link destination will be described. FIG. 16 is a diagram for explaining a method of converting XY coordinates from a link source image to a link destination image. In the figure, it is assumed that the link is set so that the link area 200 of the image 156 is switched to the link area 204 of the image 158, and the point 196 of the image 156 corresponds to the point 198 of the image 158. Here, the coordinates of the point 196 are (Pa_x, Pa_y), the side length of the link area 200 is (La_sx, La_sy), the center coordinates of the area are (La_x, La_y), and the coordinates of the point 198 are (Pb_x, Pb_y). ), When the length of the side of the link area 204 is (Lb_sx, Lb_sy) and the center coordinates of the area are (Lb_x, Lb_y), the following equation is established.

La_sx:(Pa_x−La_x)=Lb_sx:(Pb_x−Lb_x) (式1)
La_sy:(Pa_y−La_y)=Lb_sy:(Pb_y−Lb_y) (式2)
よってポイント198の座標は次のように求められる。
Pb_x=(Lb_sx/La_sx)×(Pa_x−La_x)+Lb_x (式3)
Pb_y=(Lb_sy/La_sy)×(Pa_y−La_y)+Lb_y (式4)
La_sx: (Pa_x−La_x) = Lb_sx: (Pb_x−Lb_x) (Formula 1)
La_sy: (Pa_y−La_y) = Lb_sy: (Pb_y−Lb_y) (Formula 2)
Therefore, the coordinates of the point 198 are obtained as follows.
Pb_x = (Lb_sx / La_sx) × (Pa_x−La_x) + Lb_x (Formula 3)
Pb_y = (Lb_sy / La_sy) × (Pa_y−La_y) + Lb_y (Formula 4)

図17はリンク元画像からリンク先画像へのZ座標の変換手法を説明するための図である。階層データ184と階層データ186は線208においてリンクが設定されているとする。すなわち線208の位置は、階層データ184のリンク領域および階層データ186のリンク領域を示している。ここで変数「lod」を次のように定義する。
lod=logNp
ここでNpは、対象となる解像度の画像の1画素の幅に含まれる、各階層データにおいて最も下層の画像、すなわち最も解像度の高い画像の画素数である。したがって変数lodは、階層データを表す三角形において底辺からの隔たりを表す指標であり、各階層データに含まれる階層の数などに依存しない、Z軸方向の共通の軸を有する。
FIG. 17 is a diagram for explaining a Z coordinate conversion method from a link source image to a link destination image. Assume that the hierarchical data 184 and the hierarchical data 186 are linked in a line 208. That is, the position of the line 208 indicates the link area of the hierarchical data 184 and the link area of the hierarchical data 186. Here, the variable “lod” is defined as follows.
lod = log 2 Np
Here, Np is the number of pixels of the lowest layer image, that is, the image with the highest resolution, in each hierarchical data included in the width of one pixel of the target resolution image. Therefore, the variable “lod” is an index representing the distance from the base in the triangle representing the hierarchical data, and has a common axis in the Z-axis direction that does not depend on the number of hierarchical levels included in each hierarchical data.

一方、線208で表されるリンク領域の拡大縮小率から、変換したいポイントの拡大縮小率までの隔たりは、階層データに依存しない。ここでリンク領域のlodの値は、当該領域を画面いっぱいに表示した時のものとする。図17において、階層データ184、186双方における、リンク領域のlodの値をLa_lod、Lb_lodとし、変換したいポイント210のlodの値をPa_lod、Pb_lodとすると、上記の性質によって次の式が成り立つ。
Pa_lod−La_lod=Pb_lod−Lb_lod (式5)
したがって、
Pb_lod=Lb_lod+(Pa_lod−La_lod) (式6)
となる。
On the other hand, the distance from the enlargement / reduction ratio of the link area represented by the line 208 to the enlargement / reduction ratio of the point to be converted does not depend on the hierarchical data. Here, the load value of the link area is assumed to be when the area is displayed on the entire screen. In FIG. 17, assuming that the values of the link area load in both the hierarchical data 184 and 186 are La_lod and Lb_lod, and the lod value of the point 210 to be converted is Pa_lod and Pb_lod, the following equation is established according to the above properties.
Pa_lod-La_lod = Pb_lod-Lb_lod (Formula 5)
Therefore,
Pb_lod = Lb_lod + (Pa_lod−La_lod) (Formula 6)
It becomes.

式3、4、および6により、現在表示中の画像の階層データにおけるロードすべきポイントの座標を、リンク先の階層データにおける座標に置き換えることができる。ただし得られたPb_lodは階層データ186のうち画像データを有する階層上にあるとは限らないため、実際にはPb_lodから得られる位置に最も近い階層のデータをロードすることになる。   By the expressions 3, 4, and 6, the coordinates of the point to be loaded in the hierarchical data of the currently displayed image can be replaced with the coordinates in the hierarchical data of the link destination. However, since the obtained Pb_lod is not necessarily on the hierarchy having the image data in the hierarchy data 186, the data of the hierarchy closest to the position obtained from Pb_lod is actually loaded.

これまで述べた例では、2つの階層データ表示対象として扱い、一方の画像においてあらかじめ設定された領域および拡大率に表示画像が到達すると、他方の画像が表示された。すなわち他方の画像によって表示されている物をさらに拡大したり、全く別のコンテンツを表示させたり、といったことを、表示画像移動の指示入力をきっかけとして行うことができる。ここで同時に表示対象とする階層データは3つ以上としてもよく、また、拡大率を変化させていくと元の画像に戻るなど、循環させるようにリンクを設定してもよい。この場合、リンクが設定された複数の階層データを順に拡大していくと元の階層データに戻ったり、ある階層データで拡大していくと、当該階層データの縮小画像に戻ったり、といった表示ができる。後者の場合、自らのリンク設定ファイルのリンク先ファイルフィールドで自らのファイル名を指定すればよい。   In the examples described so far, the images are handled as two hierarchical data display targets, and when the display image reaches a predetermined area and enlargement ratio in one image, the other image is displayed. That is, it is possible to further enlarge the object displayed by the other image, or to display completely different content, using the display image movement instruction input as a trigger. Here, the number of hierarchical data to be displayed at the same time may be three or more, and the link may be set so as to circulate such that the original image is returned when the enlargement ratio is changed. In this case, a display such as returning to the original hierarchical data when sequentially expanding a plurality of hierarchical data to which links are set, or returning to a reduced image of the hierarchical data when enlarged with certain hierarchical data. it can. In the latter case, it is only necessary to specify the name of the file in the link destination file field of the link setting file.

このような機構を用いて例えば以下のような表示を行うことができる。
1.世界地図を拡大していくことにより、日本、県、市、町、建物へ表示を移行させるなど、同一の対象物であるがスケールが著しく異なる画像の連続移行
2.情報処理装置、ゲーム装置などのメニュー画面において表示された選択肢たるアイコンを拡大していくと、説明書など当該アイコンに関連する情報表示に移行
3.雑誌のバックナンバーなど書籍の表紙一覧画面からある表紙を拡大していくと、書籍の内容表示に移行
4.人物の瞳など画像中の対象物を拡大していくと、当該対象物の中や写っている風景などに表示が移行、移行先の画像を縮小していくと元の画像とは異なる画像へと移行
For example, the following display can be performed using such a mechanism.
1. 1. Continuous transition of images of the same object but with significantly different scales, such as shifting the display to Japan, prefectures, cities, towns, buildings, etc. by expanding the world map. 2. When an icon as an option displayed on a menu screen of an information processing device, a game device, or the like is enlarged, a display shifts to information display related to the icon such as a manual. 3. If you expand the cover from the cover list screen of the book, such as the back number of the magazine, the display shifts to the content display of the book. When an object in the image, such as a person's pupil, is magnified, the display shifts to the object or in the landscape, and when the image at the transition destination is reduced, an image different from the original image is displayed. And migration

本実施の形態では、上記の先読み処理によりリンク領域へ表示画像が変更されることを予測する。さらに現在の表示画像の仮想空間における周囲を、階層データに関わらずメモリにロードしておく。これらの機構により、異なる階層データの画像へ表示を移行する場合であっても、ロード処理、デコード処理による表示の遅れが発生しにくく、連続的な移行が可能となる。   In the present embodiment, it is predicted that the display image is changed to the link area by the above-described prefetching process. Further, the periphery of the current display image in the virtual space is loaded into the memory regardless of the hierarchical data. With these mechanisms, even when the display is shifted to an image of different hierarchical data, a delay in display due to the load process and the decode process is unlikely to occur, and a continuous shift is possible.

また、上述のようにユーザからの画像変更要求信号と伝達関数を畳み込み演算することにより表示画像の生成を遅延させる場合、伝達関数を調整することにより、画像の切り替えをより円滑に行うように見せることができる。さらにマニュアル表示など、リンク元の画像とリンク先の画像が異なる内容の場合は特に、それらの画像をクロスフェード、ディゾルブ、ワイプ、ポリゴンメッシュを用いたページめくり状表現など、動画のスイッチャーに一般的に用いられる効果のいずれかを施すことにより円滑な切り替えを表現するようにしてもよい。   In addition, when the generation of a display image is delayed by performing a convolution operation on the image change request signal from the user and the transfer function as described above, the image is switched more smoothly by adjusting the transfer function. be able to. In addition, especially when the link source image and the link destination image have different contents, such as manual display, these images are commonly used for video switchers such as cross-fade, dissolve, wipe, and page turning expression using polygon mesh. Smooth switching may be expressed by applying one of the effects used in the above.

またリンク先として動画データを設定してもよい。この場合リンク先を、1階層の動画のデータからなる階層データ、と捉えることができる。例えばある静止画像の一領域に動画データへのリンクを設定しておく。リンク設定ファイルは図14で示したデータ構造を利用することができる。リンク先ファイルフィールド306には動画ファイルのファイル名を指定する。リンク先画像フレームフィールド308は、動画の解像度や表示領域を固定とする場合は無効としてもよい。このようにリンクを設定しておき、上述の先読み処理により表示中の画像のリンク領域に表示画像が移ると予測された際に、指定しておいた動画ファイルのエンコードを開始する。または予測とは関係なくエンコード処理のみ継続させておいてもよい。   Moreover, you may set moving image data as a link destination. In this case, the link destination can be regarded as hierarchical data composed of moving picture data of one hierarchy. For example, a link to moving image data is set in one area of a still image. The link setting file can use the data structure shown in FIG. In the link destination file field 306, the file name of the moving image file is designated. The link destination image frame field 308 may be invalidated when the resolution or display area of the moving image is fixed. In this way, the link is set, and when the display image is predicted to move to the link area of the image being displayed by the above-described prefetching process, encoding of the designated moving image file is started. Alternatively, only the encoding process may be continued regardless of the prediction.

例えば画面中にいくつかの静止画像、例えばグラビア写真などを表示し、ある静止画像をズームインしていくと当該画像中の動物が動き出す、などの演出を行うことができる。同様に、リンク情報のリンク先ファイルフィールド306にアプリケーションファイルを指定しておき、画像中のある領域をズームインすると当該アプリケーションが起動するようにしてもよい。   For example, it is possible to produce effects such as displaying several still images such as gravure photographs on the screen and moving an animal in the image as the still image is zoomed in. Similarly, an application file may be designated in the link destination file field 306 of the link information, and the application may be activated when a certain area in the image is zoomed in.

図18はリンク領域が設定されている画像の例を示している。画像350にはリンク領域352a、352b、352cなど複数のリンク領域が設定されている。例えばリンク領域352aへズームインしていくと、上述のような機構により、当該領域のより詳細な画像や関連情報、あるいは動画再生やアプリケーション起動が行われる。画像350のようにリンク領域が限定的な場合、ユーザの位置合わせの手間を削減するために表示画像の移動を誘導してもよい。この機能はリンク領域が限定的でない場合でも、表示画像を意図的に誘導したい場合などに有効である。   FIG. 18 shows an example of an image in which a link area is set. In the image 350, a plurality of link areas such as link areas 352a, 352b, and 352c are set. For example, when zooming in on the link area 352a, more detailed images and related information in the area, moving image reproduction, and application activation are performed by the mechanism described above. When the link area is limited as in the image 350, the movement of the display image may be guided in order to reduce the user's trouble of alignment. This function is effective when the display image is intentionally guided even when the link area is not limited.

この誘導機能を提供するため、上述のリンク情報で用いたフレーム定義パラメータを利用する。すなわち誘導したい領域(以後、誘導領域と呼ぶ)ごとに、(横方向オフセット,縦方向オフセット,拡大率,回転角)で表されるフレーム定義パラメータを、リンク情報と同様にファイルとして作成しておく。当該ファイルは図9のメインメモリ60においてシナリオ設定ファイル119として格納されている。そして表示領域がシナリオ設定ファイルで設定されたフレームに対し仮想空間において所定の範囲内に入ったら誘導領域へ表示画像を誘導する。当該処理は、仮想的に誘導領域への画像移動要求信号を発生させれば上述と同様の処理によって実現できる。また「所定の範囲」もフレーム定義パラメータでシナリオ設定ファイルに定義しておく。   In order to provide this guidance function, the frame definition parameters used in the above link information are used. That is, for each area to be guided (hereinafter referred to as a guiding area), a frame definition parameter represented by (horizontal offset, vertical offset, enlargement ratio, rotation angle) is created as a file in the same way as link information. . The file is stored as the scenario setting file 119 in the main memory 60 of FIG. When the display area falls within a predetermined range in the virtual space with respect to the frame set in the scenario setting file, the display image is guided to the guidance area. This process can be realized by the same process as described above if an image movement request signal to the guidance area is virtually generated. The “predetermined range” is also defined in the scenario setting file using the frame definition parameter.

これによりユーザが表示画像をリンク領域352a近傍に近づけるのみで、表示画像がリンク領域へ誘導され、その結果、設定されたリンク先へ容易に移行することができ、操作性が向上する。本実施の形態では、表示画像の仮想空間内での移動をきっかけとして、リンク先である別の画像への移行、動画再生、アプリケーションの起動などを行うため、上述のような移動の先読み処理により、あらかじめユーザの意向を予測することができる。したがって、別の画像データのデコード、動画データのデコード、アプリケーションの起動処理を、実際にリンク先へ表示を切り替える前に投機的に実行しておくことが可能である。これにより、ポインタなどによってアイコンを選択してから処理を開始する従来の手法に比べ、実際の画像の切り替え指示から出力までに要する時間を格段に削減することができる。   As a result, the display image is guided to the link area only by the user bringing the display image close to the vicinity of the link area 352a. As a result, the user can easily move to the set link destination, and the operability is improved. In this embodiment, the movement of the display image in the virtual space is used as a trigger to move to another image that is a link destination, play a movie, start an application, and the like. The user's intention can be predicted in advance. Therefore, it is possible to speculatively execute decoding of another image data, decoding of moving image data, and application activation processing before actually switching the display to the link destination. As a result, compared with the conventional method of starting processing after selecting an icon with a pointer or the like, the time required from an actual image switching instruction to output can be significantly reduced.

上記の例はリンク先へ移行したいというユーザの意図を検知して表示画像をリンク領域へ誘導するものであった。一方、同様の機構により、リンク領域か否かに関わらず表示画像を誘導するようにしてもよい。図19は一つの階層データにおいて表示画像を誘導しながら、表示する階層を移行していく様子を示している。同図において階層データ360は画像362に対応する。そして上述のフレーム定義パラメータによって、線368および線370で表される誘導領域374および376がシナリオ設定ファイル119に設定されており、現在表示中の領域372が線366に対応する。   The above example detects the user's intention to move to the link destination and guides the display image to the link area. On the other hand, a display image may be guided by a similar mechanism regardless of whether or not it is a link area. FIG. 19 shows a state in which the display layer is shifted while guiding the display image in one layer data. In the figure, hierarchical data 360 corresponds to an image 362. The guidance areas 374 and 376 represented by the lines 368 and 370 are set in the scenario setting file 119 by the above-described frame definition parameters, and the currently displayed area 372 corresponds to the line 366.

ユーザが領域372から表示画像を拡大していき、誘導領域374から所定の範囲に表示画像が入った際、表示画像を誘導領域374に誘導する(矢印D)。さらに拡大していき、誘導領域376から所定の範囲に表示画像が入った際、表示画像を誘導領域376に誘導する(矢印E)。この態様は、表示する画像の内容によって様々な目的で利用することができる。   When the user enlarges the display image from the area 372 and the display image enters the predetermined range from the guidance area 374, the display image is guided to the guidance area 374 (arrow D). Further, when the display image enters a predetermined range from the guidance area 376, the display image is guided to the guidance area 376 (arrow E). This aspect can be used for various purposes depending on the content of the image to be displayed.

例えば風景写真やボートレートなどでは、ユーザが拡大したい領域は限定的である場合が多い。ところが画面を拡大縮小する従来の技術では、所望の領域を拡大したつもりが表示画像がずれており、そのときの拡大率では所望の領域を探すことが困難な場合がある。本実施の形態で拡大が予測される領域についてはあらかじめシナリオ設定ファイルに登録しておけば、ユーザが表示画像を当該領域におよそ移動させて拡大指示を入力することにより、当該領域を正確に拡大することができる。なお表示画像の誘導領域への誘導は、表示画像が誘導領域の近傍にある場合ばかりでなく、例えば所定のボタンを押下すると現在の表示画像の位置に関わらず誘導領域へ移動するようにしてもよい。   For example, in a landscape photograph or a boat rate, there are many cases where the area that the user wants to enlarge is limited. However, in the conventional technique for enlarging / reducing the screen, there is a case where the display image is shifted when the desired area is enlarged, and it is sometimes difficult to search for the desired area with the enlargement ratio at that time. If the area that is predicted to be enlarged in this embodiment is registered in the scenario setting file in advance, the user can move the display image to the area and input an enlargement instruction to accurately enlarge the area. can do. The display image is guided to the guide area not only when the display image is in the vicinity of the guide area, but, for example, when a predetermined button is pressed, the display image moves to the guide area regardless of the current position of the display image. Good.

上述の誘導は必ずしも異なる階層への誘導でなくてもよく、例えば同一階層内で表示順序を誘導するようにすることもできる。図20は異なる階層への誘導と同一階層における別領域への誘導を組み合わせた場合の表示画像の移行の様子を示している。例えば新聞記事や雑誌などの1ページを階層データ380を用いて表示する場合を考える。このとき、拡大して閲読されるであろう文字の領域を、記事ごとに誘導領域として設定しておく。同図では線386で表される誘導領域392がそれにあたる。さらにその下の階層、すなわち文字を判読できる程度の解像度を有する階層において、記事の最初から最後までを追えるように複数の誘導領域を設定しておく。線388で表される誘導領域394と、線390で表される誘導領域396がそれにあたる。   The above-described guidance does not necessarily have to be guided to a different hierarchy, and for example, the display order can be guided within the same hierarchy. FIG. 20 shows how the display image is transferred when the guidance to a different hierarchy and the guidance to another area in the same hierarchy are combined. For example, consider a case where one page such as a newspaper article or magazine is displayed using the hierarchical data 380. At this time, the area of the character that will be enlarged and read is set as a guidance area for each article. In this figure, the guiding area 392 represented by the line 386 corresponds to this. Further, a plurality of guidance areas are set so as to follow from the beginning to the end of the article in a lower layer, that is, a layer having a resolution that can read the characters. This corresponds to a guidance area 394 represented by a line 388 and a guidance area 396 represented by a line 390.

ユーザはまず線384で表されるページ全体の領域382を表示した後、所望の記事へ表示画像を近づけつつ拡大していく。すると当該記事の誘導領域392へ誘導される(矢印F)。そこでさらに拡大していくと当該記事の文頭の誘導領域394へ誘導される(矢印G)。誘導領域394内の文章を読んだユーザが方向指示や所定のボタンを押下する入力を行うことにより、続きの文章が記載された誘導領域396へ誘導される(矢印H)。   The user first displays the area 382 of the entire page represented by the line 384, and then enlarges the display image close to the desired article. Then, it is guided to the guide area 392 of the article (arrow F). Therefore, when the image is further enlarged, the information is guided to the guidance area 394 at the beginning of the article (arrow G). When the user who has read the text in the guidance area 394 performs a direction instruction or an input to press a predetermined button, the user is guided to a guidance area 396 in which a subsequent text is described (arrow H).

同一階層内での表示領域の移行では、フレーム定義パラメータとともに表示順序も設定する。また上述のように表示領域の移動を指示するための操作キーも定義しておく。例えば新聞記事など段組で記載されている文章は、表示領域を右から左に移動させた後、その下方を再度右から左に移動させる必要がある。このような場合に表示領域と順序とをあらかじめ設定しておけば、拡大画像において次にどの位置へ表示画像を移動させればよいかユーザが探す必要がなくなる。また同一階層内の移動であっても、上述のとおり現在の表示画像が誘導領域の所定範囲に入ったときに誘導するようにしてもよい。   When shifting the display area within the same hierarchy, the display order is set together with the frame definition parameter. As described above, operation keys for instructing movement of the display area are also defined. For example, sentences written in columns such as newspaper articles need to be moved from right to left again after the display area is moved from right to left. In such a case, if the display area and the order are set in advance, the user does not need to search to which position the display image should be moved next in the enlarged image. Further, even if the movement is within the same hierarchy, it may be guided when the current display image enters a predetermined range of the guidance area as described above.

なお図19、20では、簡単のために一つの階層データにおける表示画像の移行を示したが、移行の途中に別の階層データへのリンクが設定されている場合は、当然当該別の階層データへ表示を移行させてよい。また上記の例は、ユーザが拡大縮小を含む画像移動要求を行った際に表示画像を誘導するものであった。本実施の形態ではさらに、所定時間ごとにあらかじめ登録しておいた誘導領域へ表示画像を移行する機能を設ける。この場合ユーザは、そのようなモードを実行する旨の指示入力を行うのみでよい。この機能により、雑誌の販売促進用画像や写真の連続閲覧など、静止画からなる素材を利用した動画に近い新たな表現手法を提供することができる。   19 and 20 show the transition of the display image in one hierarchical data for the sake of simplicity. However, if a link to another hierarchical data is set during the transition, the other hierarchical data is naturally set. The display may be shifted to. In the above example, the display image is guided when the user makes an image movement request including enlargement / reduction. In the present embodiment, a function of transferring a display image to a guide area registered in advance every predetermined time is further provided. In this case, the user only needs to input an instruction to execute such a mode. With this function, it is possible to provide a new expression technique close to a moving image using a material composed of still images, such as magazine sales promotion images and continuous browsing of photographs.

このように自動的に表示画像を移行する場合は、フレーム定義パラメータ、表示順序、および各画像の表示時間などをシナリオ設定ファイル119として作成する。この場合のシナリオ設定ファイル119は、より細かく画像の移行を制御する処理をXMLなどのマークアップ言語で記述してもよい。このとき、シナリオ解釈部117は、当該記述をメインメモリ60より読み出し解釈したうえ、表示画像処理部114、リンク判定部116、ロード部108に適宜処理要求を行うことにより、表示画像を制御する。図21はこのとき記述される処理の流れを示すフローチャートである。   When the display image is automatically transferred in this way, the frame definition parameter, the display order, the display time of each image, and the like are created as the scenario setting file 119. In this case, the scenario setting file 119 may describe processing for controlling image migration more finely in a markup language such as XML. At this time, the scenario interpretation unit 117 reads out and interprets the description from the main memory 60, and controls the display image by appropriately making processing requests to the display image processing unit 114, the link determination unit 116, and the load unit 108. FIG. 21 is a flowchart showing the flow of processing described at this time.

まず階層データを指定する(S20)。ここで指定する階層データは一つの画像を表す一つの階層データでもよいし、リンクが設定された複数の階層データのまとまりでもよい。次に、表示する画像をフレーム定義パラメータで指定する(S22)。さらに当該画像を表示する際のエフェクト処理を適宜指定する(S24)。それ以前に別の画像が表示されていれば、例えばクロスフェードの処理を指定したり、前の画像を徐々に小さくしつつ今回の画像を大きくしていく処理を指定したりする。そして、次の画像へ表示を移行するまでの時間、およびその時間における今回の画像と次の画像の補完処理を指定する(S26)。ここで「次の画像」は例えば今回の画像の拡大画像や縮小画像など、同一の階層データにおいて階層の異なる画像やリンク先の画像であってもよいし別の階層データ内の画像でもよい。   First, hierarchical data is designated (S20). The hierarchical data specified here may be one hierarchical data representing one image, or a group of a plurality of hierarchical data to which links are set. Next, the image to be displayed is designated by the frame definition parameter (S22). Further, effect processing for displaying the image is appropriately designated (S24). If another image is displayed before that, for example, a crossfade process is designated, or a process of enlarging the current image while gradually reducing the previous image is designated. Then, the time until the display shifts to the next image, and the complementary processing of the current image and the next image at that time are designated (S26). Here, the “next image” may be, for example, an enlarged image or a reduced image of the current image, an image having a different hierarchy in the same hierarchical data, an image of a link destination, or an image in different hierarchical data.

画像の補完手法は、今回の画像と次の画像をキーフレームとした場合にアニメーション技術などで一般的に用いられる手法を適用することができる。S20からS26までの処理を一単位として、異なる階層データで連続して表示したい画像があればそれを繰り返すように記述する。このように記述したシナリオ設定ファイル119を先読み処理部110が読み込むことにより、ユーザが画像移動要求を入力した場合と同様に仮想の画像移動要求を生成して、リンク判定部116に問い合わせつつデコード部112にデコード処理を依頼する。これによって、指定した画像が表示画像として次々変化する態様が容易に実現できる。なお、このときのシナリオ設定ファイルには、フレーム定義パラメータと別に、画像描画に用いる階層データの階層数を指定するようにしてもよい。   As a method for complementing an image, a method generally used in an animation technique or the like when the current image and the next image are used as key frames can be applied. The processing from S20 to S26 is taken as a unit, and if there is an image that is to be continuously displayed with different hierarchical data, it is described so as to be repeated. When the prefetch processing unit 110 reads the scenario setting file 119 described in this way, a virtual image movement request is generated in the same way as when the user inputs an image movement request, and the decoding unit 112 is requested to perform decoding processing. As a result, it is possible to easily realize a mode in which the designated image changes one after another as a display image. In addition, in the scenario setting file at this time, the number of layers of layer data used for image drawing may be specified separately from the frame definition parameter.

以下にXMLで記述されたシナリオ設定ファイル119の例を示す。
(1)<?xml version="1.0" encoding="utf-8"?>
(2)<Viewer>
(3) <FileList>
(4) <File name="INDEX"/>
(5) <File name="hyoshi"/>
(6) <File name="ichiran"/>
(7) </FileList>
(8) <InitCameraPosition x="-0.219" y="0.32" scale="0.28"/>
(9) <Section>
(10) <Event type="change" name="INDEX" wait="0.0">
(11) <CameraPosition x="-0.219" y="0.32" scale="0.28"/>
(12) </Event>
(13) </Section>
(14) <Section>
(15) <Event type="camera" name="camera1" wait="0.0">
(16) <Interpolator
(17) duration='4.0'
(18) type='linear'
(19) key='0 0.5 1.0'
(20) keyValue='
(21) -0.219 0.32 0.28
(22) -0.115955 0.29424 0.2
(23) -0.115955 0.29424 0.155553
(24) '/>
(25) </Event>
(26) </Section>
(27) <Section>
(28) <Event type="change" name="hyoshi" wait="0.0">
(29) <CameraPosition x="0.01257207987839" y="-0.00214762229374"
scale="0.94793879664622"/>
(30) </Event>
(31) </Section>
(32) <Section>
(33) <Event type="change" name="09france-ichiran" wait="2.0">
(34) <CameraPosition x="-0.007705" y="-0.008650" scale="0.508980"/>
(35) <VideoPosition name="video:sample.m2v" x="0.135605" y="-0.035605"
scale="0.061268"/>
(36) <Effect type="fade0"/>
(37) </Event>
(38) </Section>
(39) <Section>
(40) <Event type="image" name="tbs01.png" wait="0.0">
(41) <Position x="0.971875" y="-0.95" alpha="0.0" layer="1003"
cardinal="rightbottom"/>
(42) </Event>
(43) </Section>
(44) </Story>
(45)</Viewer>
An example of the scenario setting file 119 described in XML is shown below.
(1) <? Xml version = "1.0" encoding = "utf-8"?>
(2) <Viewer>
(3) <FileList>
(4) <File name = "INDEX"/>
(5) <File name = "hyoshi"/>
(6) <File name = "ichiran"/>
(7) </ FileList>
(8) <InitCameraPosition x = "-0.219" y = "0.32" scale = "0.28"/>
(9) <Section>
(10) <Event type = "change" name = "INDEX" wait = "0.0">
(11) <CameraPosition x = "-0.219" y = "0.32" scale = "0.28"/>
(12) </ Event>
(13) </ Section>
(14) <Section>
(15) <Event type = "camera" name = "camera1" wait = "0.0">
(16) <Interpolator
(17) duration = '4.0'
(18) type = 'linear'
(19) key = '0 0.5 1.0'
(20) keyValue = '
(21) -0.219 0.32 0.28
(22) -0.115955 0.29424 0.2
(23) -0.115955 0.29424 0.155553
(24) '/>
(25) </ Event>
(26) </ Section>
(27) <Section>
(28) <Event type = "change" name = "hyoshi" wait = "0.0">
(29) <CameraPosition x = "0.01257207987839" y = "-0.00214762229374"
scale = "0.94793879664622"/>
(30) </ Event>
(31) </ Section>
(32) <Section>
(33) <Event type = "change" name = "09france-ichiran" wait = "2.0">
(34) <CameraPosition x = "-0.007705" y = "-0.008650" scale = "0.508980"/>
(35) <VideoPosition name = "video: sample.m2v" x = "0.135605" y = "-0.035605"
scale = "0.061268"/>
(36) <Effect type = "fade0"/>
(37) </ Event>
(38) </ Section>
(39) <Section>
(40) <Event type = "image" name = "tbs01.png" wait = "0.0">
(41) <Position x = "0.971875" y = "-0.95" alpha = "0.0" layer = "1003"
cardinal = "rightbottom"/>
(42) </ Event>
(43) </ Section>
(44) </ Story>
(45) </ Viewer>

上記記述において、(3)〜(7)はコンテンツ中で使用する階層データを指定している。(8)は画像の初期位置を指定している。(9)〜(13)は最初に使用する画像をインデックス表示した階層データの画像としており、表示する階層データの画像とその表示位置を指定している。(14)〜(31)は、本の表紙の階層データの画像にカメラアニメーションしながらズームしていきデータを移り変わらせている。そのうち(14)〜(26)はキーフレーム表記にてカメラアニメーションを指定している。(27)〜(31)は表示する階層データの画像とその表示位置を指定し、当該表示位置を利用してリンクを張っている。(32)〜(38)は、動画像へのリンクを含んだ階層データの画像に切り替わり動画をアップで写している。そのうち(32)〜(35)は階層データの画像へのリンクと同様に動画像へのリンクを張っている。(36)は画面切り換え時の描画効果を指定している。(39)〜(43)は動画像表示中に動画像の著作権表示画像を表示している。そのうち(40)〜(41)は、 階層構造を持たない普通の画像の表示を指定している。   In the above description, (3) to (7) designate hierarchical data used in the content. (8) designates the initial position of the image. (9) to (13) are images of hierarchical data in which the first image to be used is displayed as an index, and designate the hierarchical data image to be displayed and its display position. In (14) to (31), zooming is performed while the camera animation is applied to the hierarchical data image of the book cover, and the data is changed. Among them, (14) to (26) designate camera animation in key frame notation. In (27) to (31), an image of the hierarchical data to be displayed and its display position are designated, and a link is established using the display position. In (32) to (38), the image is switched to a hierarchical data image including a link to the moving image, and the moving image is copied up. Among them, (32) to (35) have links to moving images as well as links to images of hierarchical data. (36) designates a drawing effect at the time of screen switching. In (39) to (43), a copyright display image of a moving image is displayed during moving image display. Of these, (40) to (41) designate display of an ordinary image having no hierarchical structure.

本実施の形態は、上述のようなリンク設定ファイルやシナリオ設定ファイルを作成することにより、複数の階層データを素材として様々な画像表現を容易に実現することができる。したがって一般的なユーザが、ネットワーク上や記録媒体などでコンテンツとして提供された階層データを用いて、独自のコンテンツを作成することも考えられる。また、そのようにして作成したコンテンツ自体が流通する場合も考えられる。   In the present embodiment, by creating the link setting file and the scenario setting file as described above, various image expressions can be easily realized using a plurality of hierarchical data as materials. Therefore, it can be considered that a general user creates original content using hierarchical data provided as content on a network or a recording medium. In addition, the content itself created in this way may be distributed.

図22は本実施の形態を実現する際のデータの流通態様の例を模式的に示している。この例では、サーバ400、402、および404がネットワーク420を介して接続している。各サーバはコンテンツ制作業者のサーバでもよいし、一般ユーザの情報端末などでもよい。またサーバに代わりCD−ROMやDVDなどの記録媒体でもよい。サーバ400は、階層データ406aとそれに付加した属性ファイル408aからなるコンテンツを提供する。属性ファイル408aについては後に述べる。サーバ402は複数の階層データからなる階層データ406bと、それらのリンク情報を設定したリンク設定ファイル410b、410c、シナリオ設定ファイル412b、属性ファイル408bを付加したコンテンツを提供する。   FIG. 22 schematically shows an example of a data distribution mode when the present embodiment is realized. In this example, servers 400, 402, and 404 are connected via a network 420. Each server may be a content producer's server or an information terminal of a general user. Further, a recording medium such as a CD-ROM or a DVD may be used instead of the server. The server 400 provides content including the hierarchical data 406a and the attribute file 408a added thereto. The attribute file 408a will be described later. The server 402 provides content to which hierarchical data 406b composed of a plurality of hierarchical data and link setting files 410b and 410c, scenario setting file 412b, and attribute file 408b in which the link information is set are added.

なお同図のように、階層データ406bにリンクが設定されている場合、上述のようにリンク設定ファイル410b、410cは階層データごとに付加される。一方、シナリオ設定ファイルは当該リンクを前提に階層データを跨いだ設定が可能であるためリンクが設定されている階層データ全体に対して付加される。   As shown in the figure, when a link is set in the hierarchical data 406b, the link setting files 410b and 410c are added for each hierarchical data as described above. On the other hand, since the scenario setting file can be set across hierarchical data on the assumption of the link, the scenario setting file is added to the entire hierarchical data for which the link is set.

サーバ404は、シナリオ設定ファイル412cのみを提供する。なお同図のデータ構造はあくまで例示であり、例えばリンクが設定されていない単独の階層データにシナリオ設定ファイルが付加されていてもよいし、逆にシナリオ設定ファイルが付加されずにリンク設定ファイルが付加されていてもよい。サーバ400やサーバ402が保持するコンテンツは、それのみでも表示が可能であるが、サーバ404のシナリオ設定ファイル412cにおける設定に含まれていれば、当該シナリオ設定ファイル412cと、それにより指定された階層データ406aや406bとを入手することにより、ひとつのコンテンツが生成されることになる。したがって図22で表されたデータ構造はそのいずれもが一つのコンテンツとして流通の単位になり得る。   The server 404 provides only the scenario setting file 412c. The data structure shown in the figure is merely an example. For example, a scenario setting file may be added to single hierarchical data to which no link is set. Conversely, the link setting file is not added to the scenario setting file. It may be added. The content held by the server 400 or the server 402 can be displayed by itself, but if included in the setting in the scenario setting file 412c of the server 404, the scenario setting file 412c and the hierarchy specified thereby By obtaining the data 406a and 406b, one content is generated. Therefore, any of the data structures shown in FIG. 22 can be a unit of distribution as one content.

このような場合を考慮し、階層データには属性ファイルを付加しておく。属性ファイルに記録する情報としては例えば、当該コンテンツの内容に係る情報、例えばコンテンツの名称、作者、発行者、協賛者、作成日、修正日、版、記述言語などの基本情報、コンテンツや素材データの権利者、課金の還元のための情報、二次利用の際の制御のための情報、有効期限、コピー可能回数、譲渡可能回数などの所有権・著作権情報、レイティングなどが挙げられる。   Considering such a case, an attribute file is added to the hierarchical data. Information to be recorded in the attribute file includes, for example, information relating to the contents of the content, for example, basic information such as content name, author, publisher, sponsor, creation date, modification date, edition, description language, content and material data Right holders, information for returning charges, information for control during secondary use, ownership / copyright information such as expiration date, number of copies allowed, number of transfers, etc., ratings and the like.

また、当該コンテンツの制御属性、例えば接続やデータ利用の許可、暗号化の方式、署名などの認証制御情報、従量課金か否か、上限を設定するか、無料とするか、仮想通貨か否かを含む通貨の指定、チャージか引き落としか小切手方式かといった決済方法といった課金に係る情報、プラットフォーム、OS、推奨リソースなどの動作環境、対象利用者、有効地域、国などのアクセス制御情報などを付加してもよい。さらに、属性情報の領域と階層データの領域、外部参照リンク情報などコンテンツの構造、コンテンツの名称、代表画像、課金案内、属性のサマリーなどを表したサムネイルの情報、フレーム情報の格納場所の情報、といったデータ構造情報を付加してもよい。   In addition, the control attributes of the content, for example, permission of connection and data use, encryption method, authentication control information such as signature, whether or not the usage fee is charged, whether an upper limit is set, whether it is free, whether it is virtual currency Adds information related to billing, such as payment method such as charge, debit or check method, operating environment such as platform, OS, recommended resources, access control information such as target user, valid area, country, etc. May be. Furthermore, attribute information area and hierarchical data area, content structure such as external reference link information, content name, representative image, billing information, thumbnail information indicating attribute summary, frame information storage location information, Such data structure information may be added.

これらの属性を個々の階層データに付加しておくことにより、例えばその階層データをリンク先とした複数の階層データからなるコンテンツを作成して表示する際、リンク先ごとに適切な処置を講じることができる。例えば著作権の対象であるコンテンツをリンク先として移行する場合はその旨の表示を必ず行うようにしたり、認証の必要が設定されているコンテンツはまず認証のためのダイアログを表示したりする。またレイティングと閲覧者のプロフィールなどによって表示の可、不可を決定し、不可であれば当該画像は表示しないようにしてもよい。表示を不可とする場合は、リンク領域に表示画像があってもリンク先への遷移はせず、元の階層データの画像が単に拡縮されるのみとしてもよい。属性情報に従った各種処理は、一般的なコンテンツの表示における処理と同様の機構により実施することができる。   By adding these attributes to individual hierarchical data, for example, when creating and displaying content consisting of multiple hierarchical data with the hierarchical data as the link destination, appropriate measures should be taken for each link destination. Can do. For example, when content that is the subject of copyright is transferred as a link destination, a message to that effect is always displayed, or for content for which authentication is required, a dialog for authentication is first displayed. Further, whether or not display is possible is determined based on the rating and the profile of the viewer, and if it is not possible, the image may not be displayed. In the case where the display is disabled, even if there is a display image in the link area, the transition to the link destination is not performed and the image of the original hierarchical data may be simply enlarged or reduced. Various processes according to the attribute information can be performed by the same mechanism as the process for displaying general contents.

なお、リンクを設定した複数の階層データは全体として一つのコンテンツを形成するため、属性ファイルは個々の階層データに付加するほか、当該複数の階層データ全体にも付加する。   Since a plurality of hierarchical data set with links form one content as a whole, the attribute file is added to each of the hierarchical data in addition to the individual hierarchical data.

次に、これまで述べた実施形態を含む、階層データを利用したコンテンツをユーザが制作するための支援技術について説明する。図23は、本実施の形態におけるコンテンツ制作支援機能を有する画像処理装置の構成を示している。なお同図に示す画像処理装置500は、実際には図4に示した画像処理装置10と同じ構成を有していてよいが、ここでは本実施の形態を実現するために備える機能ブロックのみを示している。したがって図21の制御部502は、図9に示した制御部100と同一のプロセッサで実現してもよい。あるいは別個の装置としてもよい。   Next, assistive technology for a user to create content using hierarchical data, including the embodiments described so far, will be described. FIG. 23 shows a configuration of an image processing apparatus having a content production support function in the present embodiment. Note that the image processing apparatus 500 shown in the figure may actually have the same configuration as the image processing apparatus 10 shown in FIG. 4, but here only functional blocks provided for realizing the present embodiment are included. Show. 21 may be realized by the same processor as the control unit 100 shown in FIG. Or it is good also as a separate apparatus.

画像処理装置500は、以下に述べる機能のいずれかまたは組み合わせを有する。
1.誘導領域の設定を受け付け、シナリオ設定ファイルを生成、更新する
2.リンク領域の設定を受け付け、リンク設定ファイルを生成、更新する
3.複数の画像選択を受け付け、それらの画像を選択できるインデックス画像を、リンクを設定したうえで生成する
The image processing apparatus 500 has any one or combination of functions described below.
1. 1. Accept the guidance area settings and generate and update the scenario setting file. 2. Accept link area settings and generate and update link setting files Accepts multiple image selections and generates an index image that can be selected by setting links

画像処理装置500は、入力装置520、制御部502、ハードディスクドライブ550、およびメインメモリ560を備える。ハードディスクドライブ550には、既存の階層データ551が格納されている。階層データ同士にリンクが設定されていてもよい。入力装置520は、上述した機能の選択、画像領域の選択、各種設定の指示をユーザが入力するためのインターフェースであり、例えば図2に示した外観構成を有していていよい。制御部502は、入力情報取得部504、設定画像表示部506、設定情報登録部508を含む。入力情報取得部504は、ユーザが入力装置520へ入力した情報を取得し、その内容に応じて設定画像表示部506および設定情報登録部508へ適宜処理要求を行う。   The image processing apparatus 500 includes an input device 520, a control unit 502, a hard disk drive 550, and a main memory 560. The hard disk drive 550 stores existing hierarchical data 551. A link may be set between the hierarchical data. The input device 520 is an interface for the user to input the above-described function selection, image area selection, and various setting instructions, and may have the appearance configuration shown in FIG. 2, for example. The control unit 502 includes an input information acquisition unit 504, a setting image display unit 506, and a setting information registration unit 508. The input information acquisition unit 504 acquires information input to the input device 520 by the user, and appropriately makes a processing request to the setting image display unit 506 and the setting information registration unit 508 according to the content.

設定画像表示部506は、ユーザが誘導領域、あるいはリンク領域を設定したい旨の入力を行った場合に、ユーザが選択した画像の階層データをハードディスクドライブ550から読み出し、表示する。またユーザからの画面移動要求に従い表示画像を移動させたり、領域を指定するための矩形をポインタの位置情報に合わせて表示したりする。設定情報登録部508は、ユーザが画像内の領域を指定してリンク領域あるいは誘導領域の設定指示を行った場合に、当該領域のフレーム定義パラメータを取得し、リンク設定ファイル562またはシナリオ設定ファイル564を生成してメインメモリ560に格納する。   The setting image display unit 506 reads the hierarchical data of the image selected by the user from the hard disk drive 550 and displays it when the user inputs that he wants to set a guidance area or a link area. Further, the display image is moved according to a screen movement request from the user, or a rectangle for designating an area is displayed in accordance with the position information of the pointer. When the user designates an area in the image and instructs the setting of the link area or the guidance area, the setting information registration unit 508 acquires the frame definition parameter of the area, and obtains the link setting file 562 or the scenario setting file 564. And stored in the main memory 560.

設定情報登録部508はまた、ユーザが複数の画像を選択した場合に、当該画像の解像度を適宜選択して所定のフォーマットに並べたインデックス画像データ566を例えば階層データとして生成してメインメモリ560に格納する。このとき、生成したインデックス画像の階層データとそれに含まれる個々の画像(以後、「個別画像」と呼ぶ)の階層データとの間にリンクを設定したリンク設定ファイル562も同時に生成してメインメモリ560に格納する。なお上述のように、リンク設定ファイル562、シナリオ設定ファイル564、インデックス画像データ566はメインメモリ560に格納して画像の表示に用いるばかりでなく、ハードディスクドライブ550や別の記録媒体に記録してもよい。このとき、設定対象の階層データ本体とまとめて一つのコンテンツとしてもよい。   When the user selects a plurality of images, the setting information registration unit 508 also generates index image data 566 arranged in a predetermined format by appropriately selecting the resolution of the images, for example, as hierarchical data, and stores it in the main memory 560. Store. At this time, a link setting file 562 in which a link is set between the generated hierarchical data of the index image and the hierarchical data of individual images (hereinafter referred to as “individual images”) included therein is also generated at the same time. To store. As described above, the link setting file 562, the scenario setting file 564, and the index image data 566 are not only stored in the main memory 560 and used for image display, but also recorded on the hard disk drive 550 or another recording medium. Good. At this time, the content may be combined with the hierarchical data body to be set as one content.

設定情報登録部508は、生成したシナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データのいずれか、または組み合わせと、対象となる階層データ自体、あるいは階層データの格納領域に係る情報とを一つのパッケージとして生成し、ハードディスクドライブ550に格納するようにしてもよい。当該パッケージにはさらに、上述した属性情報を付加するようにしてもよい。さらに当該パッケージを用いて画像処理または画像の視聴を行う際、最初に表示される初期画面に係る情報を当該パッケージにさらに付加してもよい。例えば、インデックス画像データと個別画像データ、リンク設定ファイルなどをパッケージとする場合は、初期画面に係る情報に、インデックス画像を初期画面とする設定を行う。初期画面に係る情報にはさらに、初期画面として設定された画像のうち、どの領域を表示するかを設定するようにしてもよい。これにより例えば、インデックス画像のタイトル領域を先に表示し、ユーザの指示によってインデックス画像の全体を表示する、などの態様が実現できる。   The setting information registration unit 508 includes any one or combination of the generated scenario setting file, link setting file, and index image data, and the target hierarchical data itself or information related to the storage area of the hierarchical data in one package. May be generated and stored in the hard disk drive 550. The attribute information described above may be further added to the package. Further, when image processing or image viewing is performed using the package, information on an initial screen that is displayed first may be further added to the package. For example, when the index image data, the individual image data, the link setting file, and the like are used as a package, the index image is set as the initial screen in the information related to the initial screen. In the information relating to the initial screen, which region of the image set as the initial screen is to be displayed may be set. As a result, for example, it is possible to realize a mode in which the title area of the index image is displayed first and the entire index image is displayed according to a user instruction.

また設定画像表示部506は、ユーザが一旦設定して生成されたシナリオ設定ファイル、リンク設定ファイル、インデックス画像データと階層データを用いて、登録結果たる各種切り替え画像を表示するようにしてもよい。このときユーザは、当該画像を確認して、設定のし直しを行うことができる。また、画像処理装置500とネットワークを介して接続された画像処理装置に生成したシナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データのいずれかを送信するようにしてもよい。そして画像処理装置において表示した結果をユーザが確認し、修正箇所などの情報を画像処理装置500に返信すると、設定情報登録部508が当該情報を解釈して、シナリオ設定ファイル、リンク設定ファイル、およびインデックス画像データを修正するようにしてもよい。   Further, the setting image display unit 506 may display various switching images as registration results by using a scenario setting file, a link setting file, index image data, and hierarchical data once set and generated by the user. At this time, the user can confirm the image and perform setting again. Further, any of the generated scenario setting file, link setting file, and index image data may be transmitted to an image processing apparatus connected to the image processing apparatus 500 via a network. Then, when the user confirms the result displayed on the image processing apparatus and returns information such as a correction location to the image processing apparatus 500, the setting information registration unit 508 interprets the information, and the scenario setting file, the link setting file, and The index image data may be corrected.

図24は上記1の、誘導領域の設定を受け付け、シナリオ設定ファイルを生成、更新する処理の手順例を説明する図である。まずユーザは入力装置520に対し対象となる画像の階層データを選択する。入力情報取得部504から当該情報を得た設定画像表示部506は、ハードディスクドライブ550から階層データを読み出して表示する。図24の画像570は選択された画像の全体を表している。ユーザは設定画像表示部506の表示を確認しながら画像移動要求を入力装置520に対して行い、例えば誘導領域として設定したい領域572が画面いっぱいに表示されるようにしたあと所定の設定用ボタンを押下する。この処理に代わりポインタ操作により領域を囲む矩形を描画させて設定用ボタンを押下するようにしてもよい。   FIG. 24 is a diagram for explaining a procedure example of the above-described processing for receiving the setting of the guidance area and generating and updating the scenario setting file. First, the user selects hierarchical data of a target image with respect to the input device 520. The setting image display unit 506 that has obtained the information from the input information acquisition unit 504 reads the hierarchical data from the hard disk drive 550 and displays it. An image 570 in FIG. 24 represents the entire selected image. The user makes an image movement request to the input device 520 while confirming the display of the setting image display unit 506, and for example, after a region 572 to be set as a guidance region is displayed on the entire screen, a predetermined setting button is pressed. Press. Instead of this processing, a rectangle surrounding the area may be drawn by a pointer operation, and the setting button may be pressed.

すると設定情報登録部508は、当該領域のフレーム定義パラメータを取得し、シナリオ設定ファイル564に記録する。ユーザは必要に応じてまた別の領域574を選択し設定用ボタンを押下する。すると設定情報登録部508は、当該領域のフレーム定義パラメータをシナリオ設定ファイル564の次の行に追加する。これを繰り返すことにより、所望の領域を全てシナリオ設定ファイル564に記録する。このようにして生成されたシナリオ設定ファイル564によって、上述のように、表示したい領域を、領域572、574、・・・といった順序で、所望の解像度で順次表示していくことができる。   Then, the setting information registration unit 508 acquires the frame definition parameter of the area and records it in the scenario setting file 564. The user selects another area 574 as necessary and presses the setting button. Then, the setting information registration unit 508 adds the frame definition parameter of the area to the next line of the scenario setting file 564. By repeating this, all desired areas are recorded in the scenario setting file 564. As described above, the scenario setting file 564 generated in this way can sequentially display the areas to be displayed in the order of the areas 572, 574,.

また、上述のように各領域の表示時間、画像を補間するアニメーション処理、エフェクト処理など表示を制御する処理を記述したマークアップ言語を生成するようにしてもよい。そのためにあらかじめ、サンプル画像による画像処理のバリエーションを表示して、ユーザにより所望の処理を選択させるようにしてもよい。選択された処理は、誘導領域のフレーム定義パラメータとともにシナリオ設定ファイル564に記録する。さらに次に述べるリンク設定ファイルでリンクが設定されている複数の階層データ、またはインデックス画像データと個別画像データの全体に対し、シナリオ設定ファイルを設定してもよい。このとき設定画像表示部506は設定されたリンクに従い複数の階層データの画像を切り替えて表示するが、その他は同様の処理によりシナリオ設定ファイルを生成することができる。   In addition, as described above, a markup language describing processing for controlling display such as display time of each region, animation processing for interpolating an image, and effect processing may be generated. For this purpose, variations of image processing using sample images may be displayed in advance so that a user can select a desired process. The selected process is recorded in the scenario setting file 564 together with the frame definition parameter of the guidance area. Furthermore, a scenario setting file may be set for a plurality of hierarchical data to which links are set in the link setting file described below, or for the entire index image data and individual image data. At this time, the setting image display unit 506 switches and displays the images of the plurality of hierarchical data according to the set link, but otherwise, the scenario setting file can be generated by the same processing.

図25は上記2の、リンク領域の設定を受け付け、リンク設定ファイルを生成、更新する処理の手順例を説明する図である。まずユーザは入力装置520に対し、リンクを設定する対象となる2つの画像の2つの階層データを選択する入力を行う。入力情報取得部504から当該情報を得た設定画像表示部506は、ハードディスクドライブ550から当該階層データを読み出して2画面表示する。図25の画像582および画像584は、選択された画像を表している。ユーザは設定画像表示部506の表示を確認しながら画像582の画像移動要求を入力装置520に対して行い、リンク領域として設定したい領域586を含む画像を表示させる。そしてポインタ操作により領域を囲む矩形を描画させて領域選択を行う。画像584についても同様に領域588を選択する。その後、所定の設定用ボタンを押下する。   FIG. 25 is a diagram for explaining a procedure example of the above-described processing of accepting the setting of the link area and generating and updating the link setting file. First, the user inputs to the input device 520 to select two hierarchical data of two images to be linked. The setting image display unit 506 that has obtained the information from the input information acquisition unit 504 reads the hierarchical data from the hard disk drive 550 and displays it on two screens. An image 582 and an image 584 in FIG. 25 represent the selected image. The user makes an image movement request for the image 582 to the input device 520 while confirming the display of the setting image display unit 506, and displays an image including the region 586 to be set as the link region. A region is selected by drawing a rectangle surrounding the region by operating the pointer. Similarly, the area 588 is selected for the image 584. Thereafter, a predetermined setting button is pressed.

すると設定情報登録部508は、領域586、588のフレーム定義パラメータを取得し、図14に示したようなデータ構造でリンク設定ファイル562に記録する。例えばリンク元画像を設定画像表示部506の左側、リンク先画像を設定画像表示部506の右側に表示するように規則づける、当該リンクが画像の拡大方向か縮小方向かをユーザに選択させる、などの措置により、有効スケール範囲フィールド304およびリンク先ファイルフィールド306に指定する情報も取得して記録する。このようにして生成されたリンク設定ファイル562によって、画像582と画像584間にリンクが設定され、上述のように領域586にズームインしていくと、画像584の階層データへ画像表示に用いるデータが移行し、さらなる拡大率の画像を表示することができる。   Then, the setting information registration unit 508 acquires the frame definition parameters of the areas 586 and 588 and records them in the link setting file 562 with a data structure as shown in FIG. For example, a rule is set so that the link source image is displayed on the left side of the setting image display unit 506 and the link destination image is displayed on the right side of the setting image display unit 506, and the user selects whether the link is in the enlargement or reduction direction of the image. As a result, the information designated in the effective scale range field 304 and the link destination file field 306 is also acquired and recorded. When a link is set between the image 582 and the image 584 by the link setting file 562 generated in this way, and the area 586 is zoomed in as described above, the data used for image display is added to the hierarchical data of the image 584. It is possible to shift and display an image with a further enlargement ratio.

なお上述の例は画像のデータ同士にリンクを設定する場合を示したが、リンク先は画像に限らず、動画、アプリケーション、音声、音楽、テキストなどのデータでもよい。この場合はリンク元の画像を画像582のように表示し、リンク先となり得るデータを表すアイコンなどを画像584に代わり表示してユーザに選択させるようにしてもよい。このときリンク設定ファイル562には上述のように、選択されたアイコンに対応するデータのファイル名がリンク先ファイルフィールド306に記録され、リンク先画像フレームフィールド308は無効でよい。   Although the above example shows a case where a link is set between image data, the link destination is not limited to an image, and may be data such as a moving image, an application, sound, music, text, or the like. In this case, the link source image may be displayed as an image 582, and an icon representing data that can be a link destination may be displayed instead of the image 584 to allow the user to select. At this time, as described above, the file name of the data corresponding to the selected icon is recorded in the link destination file field 306 in the link setting file 562, and the link destination image frame field 308 may be invalid.

また、領域586および588がユーザより選択された際、各領域に表示されている対象物の特徴点を抽出しマッチングを行うことにより、対象物が2つの画像で完全に重なるようにフレーム定義パラメータを仮想空間上で微調整するようにしてもよい。これにより、リンクによる画像移行時に対象物にずれが生じ、切り替え処理が明らかになるのを防止できる。この処理は、2つの画像の対象物が同一の場合に限らず、ある対象物が変化していくように2つの画像をクロスフェードしてつなげる場合にも有効である。また、図25では2つの画像からそれぞれ1つずつ領域を選択してリンクを設定したが、画像の数は3つ以上でもよく、1つの画像内でリンク領域を複数個設定するようにしてもよい。この場合も上述の処理を繰り返せば実現できる。   When the areas 586 and 588 are selected by the user, the feature points of the objects displayed in each area are extracted and matched, so that the frame definition parameter is set so that the objects completely overlap in the two images. May be finely adjusted in the virtual space. Accordingly, it is possible to prevent the object from being shifted during the image transfer by the link, and the switching process from becoming clear. This process is effective not only when the objects of the two images are the same, but also when connecting the two images by cross-fading so that a certain object changes. In FIG. 25, one area is selected from each of the two images and links are set. However, the number of images may be three or more, and a plurality of link areas may be set in one image. Good. This case can also be realized by repeating the above processing.

さらに、リンク設定対象の階層データに上述のように属性情報が付加されている場合は、当該情報のうち必要なものをどこで表示するか、といった情報をユーザに入力させるためのダイアログを表示するようにしてもよい。ユーザにより当該情報が入力されたら、この情報もリンク設定ファイル562に記録しておき、リンク先への表示画像の移行の際には適宜表示するようにしてもよい。   Furthermore, when the attribute information is added to the link setting target hierarchical data as described above, a dialog for allowing the user to input information such as where to display necessary information among the information is displayed. It may be. When the information is input by the user, this information may also be recorded in the link setting file 562 and appropriately displayed when the display image is transferred to the link destination.

図26は上記3の、複数の画像選択を受け付け、それらの画像を選択できるインデックス画像を、リンクを設定したうえで生成する処理態様を説明する図である。このときユーザは入力装置520に対しインデックスを生成したい複数の個別画像の階層データを選択する。すると設定情報登録部508は、例えば選択された階層データの最も解像度の低い画像など、インデックスとして適当な解像度の個別画像を埋め込んだインデックス画像、例えば図18で示した画像350の如き画像をインデックス画像データ566として生成し、メインメモリ560に格納する。同図において領域352a、352b、352cなどはユーザが選択した個別画像である。   FIG. 26 is a diagram for explaining a processing mode of generating an index image that accepts a plurality of image selections and can select those images after setting a link. At this time, the user selects hierarchical data of a plurality of individual images for which an index is to be generated with respect to the input device 520. Then, the setting information registration unit 508 converts an index image in which an individual image having an appropriate resolution as an index, such as an image having the lowest resolution of the selected hierarchical data, for example, an image such as the image 350 shown in FIG. Data 566 is generated and stored in the main memory 560. In the figure, areas 352a, 352b, 352c, etc. are individual images selected by the user.

階層データ590は既存のものをユーザが選択するようにしてもよい。例えば美術館の壁の画像を階層データ590として選択し、個別画像を壁の額縁内に配置するようにすれば、美術館の壁に個別画像が飾られている画像が生成されることになる。インデックス画像のどこに個別画像を配置するか、各画像のサイズといった情報も、さらにユーザから受け付けてもよい。この場合、設定情報登録部508は、ユーザの指定に応じた位置、サイズで個別画像を埋め込んだインデックス画像データを生成する。   The hierarchical data 590 may be selected by the user. For example, if an image of a museum wall is selected as the hierarchical data 590 and an individual image is arranged within the frame of the wall, an image in which the individual image is decorated on the wall of the museum is generated. Information such as where the individual images are arranged in the index image and the size of each image may also be received from the user. In this case, the setting information registration unit 508 generates index image data in which the individual image is embedded at the position and size according to the user's designation.

設定情報登録部508はさらに、生成したインデックス画像の階層データ590において個別画像を埋め込んだ位置に、各個別画像の階層データ592a、592b、・・・、592nへのリンクを設定したリンク設定ファイル562を生成してメインメモリ560に格納する。このようにして生成されたインデックス画像データ566およびリンク設定ファイル562によって、インデックス画像内のある個別画像へズームインしていくと、当該個別画像の階層データ592aなどへ表示が移行し、さらなる拡大率の画像を表示したり、動画を再生したりすることができる。インデックス画像データ566、リンク設定ファイル562、および個別画像の階層データを1つのコンテンツとしてハードディスクドライブ550に格納してもよい。   The setting information registration unit 508 further sets a link setting file 562 in which links to the hierarchical data 592a, 592b,..., 592n of the individual images are set at positions where the individual images are embedded in the generated hierarchical data 590 of the index image. And stored in the main memory 560. When the index image data 566 and the link setting file 562 generated in this way are used to zoom in on an individual image in the index image, the display shifts to the hierarchical data 592a of the individual image, and a further enlargement ratio is obtained. You can display images and play videos. The index image data 566, the link setting file 562, and the hierarchical data of individual images may be stored in the hard disk drive 550 as one content.

なお、個別画像の階層データ592aなどとインデックス画像の階層データ590との間にリンクを設定せず、個別画像の階層データを全て包含したインデックス画像の階層データを生成するようにしてもよい。また、既存の複数のインデックス画像を埋め込んだインデックス画像を生成してもよい。この場合の処理も、個別画像の代わりにインデックス画像を選択可能とすることにより同様に実現できる。   It is also possible to generate hierarchical data of an index image including all of the hierarchical data of the individual image without setting a link between the hierarchical data 592a of the individual image and the hierarchical data 590 of the index image. Also, an index image in which a plurality of existing index images are embedded may be generated. The processing in this case can be similarly realized by making it possible to select an index image instead of an individual image.

以上述べた本実施の形態によれば、2つの画像の階層データにリンクを設定し、平行移動、拡大、縮小の指示入力のみで、表示画像の描画に用いる階層データを移行する。このようにすることで、拡大すると無意味になってしまう領域の高解像度画像など余分なデータを省くことができるためデータサイズを縮小することができる。また世界地図と、あるビルの周辺の地図、といったスケールの著しく異なる画像を別の階層データとすることにより、階層ごとに表示画像の位置制御用の数値を設定しなおすことができ、位置の精度を保持しやすい。   According to the present embodiment described above, a link is set to the hierarchical data of two images, and the hierarchical data used for drawing the display image is transferred only by inputting parallel movement, enlargement, and reduction instructions. By doing so, extra data such as a high-resolution image in a region that becomes meaningless when enlarged can be omitted, and the data size can be reduced. In addition, by using images with remarkably different scales, such as a world map and a map around a building, as separate hierarchical data, it is possible to reset the numerical values for controlling the position of the display image for each hierarchical level. Easy to hold.

一方、メニューの画像と、当該メニュー上の各アイコンのマニュアルなど、全く異なる画像にリンクを設定した場合などは、拡大、縮小の操作のみで画像の相互移行を実現できることにより、切り替え前の画像における位置情報を念頭に置いたまま別の画像を見ることができる。例えばあるアイコンの機能を調べようと、ヘルプ画面などを表示させ、アイコンの表示と関係のありそうな記述を探し出して読む、といった従来の手法では、アイコンの表示からヘルプ内の記述の表示までにすべき処理が煩雑で、ユーザの思考が途切れやすい。その結果、結局最初に目的としていたことを失念してしまう、といったことも発生する。しかし本実施の形態では、アイコンとマニュアルとが直接結びつくため、直感的な把握が可能となり、作業の効率が向上する。   On the other hand, when a link is set to a completely different image such as a menu image and a manual for each icon on the menu, it is possible to realize mutual transition of images by only enlargement and reduction operations. Another image can be viewed with the location information in mind. For example, in order to investigate the function of an icon, a conventional method, such as displaying a help screen, searching for a description that seems to be related to the icon display, and displaying the description in the help is displayed. The process to be performed is complicated, and the user's thinking is easily interrupted. As a result, you may eventually forget what you originally intended. However, in the present embodiment, since the icon and the manual are directly connected, an intuitive grasp is possible and work efficiency is improved.

さらに、拡大、縮小、平行移動などのユーザの操作は、以後の動きを予測できるため、本実施の形態ではそれを先読みすることにより、前もってリンク先の画像のデコードを行う。これにより実際に画像の切り替えが指示されたときには円滑にリンク先の画像の描画が行え、デコード処理待ち時間を削減することができる。このことは、リンク先を動画再生やアプリケーション起動としても同様に有効である。すなわち先読み処理によって、動画再生やアプリケーション起動を前もって行っておくことにより、実際にユーザがリンク先への移行を指示した時点で円滑に出力を行うことができる。このことは、アイコンをクリックすることによって起動を行う従来の手法と比較して格段に処理待ち時間が減り、ユーザのストレスを軽減する効果がある。   Furthermore, since user operations such as enlargement, reduction, and parallel movement can predict subsequent movements, in this embodiment, the linked image is decoded in advance by prefetching it. As a result, when the image switching is actually instructed, the linked image can be drawn smoothly, and the decoding processing waiting time can be reduced. This is also effective when the link destination is a moving image reproduction or application activation. That is, by performing the moving image reproduction and application activation in advance by the prefetching process, it is possible to output smoothly when the user actually gives an instruction to move to the link destination. This has the effect of significantly reducing the processing waiting time and reducing the user's stress as compared with the conventional method of starting by clicking an icon.

また、ユーザの表示画像変更要求信号の入力から画像表示までの時間を、畳み込み演算によって遅延させたり、クロスフェードさせるなど切り替え時に適切な画像エフェクト処理を施すことにより、画像の切り替えが円滑に行われているように演出することができる。結果的に、静止画、動画を問わず、また、画像に限らず音楽やテキストデータなどでも、表示画像の移動操作を利用した新たな入力ツールを提供することができる。   In addition, images can be switched smoothly by performing appropriate image effect processing at the time of switching, such as by delaying the time from the input of the display image change request signal of the user to displaying the image by convolution calculation or crossfading. You can produce as if. As a result, it is possible to provide a new input tool that uses a moving operation of a display image regardless of whether it is a still image or a moving image, or not only an image but also music or text data.

リンクの設定はリンク元およびリンク先の階層データ内のリンク領域を、仮想空間上において定義することによって行うため、一見複雑に見えるリンク構造であっても容易に設定でき、一般ユーザが手軽にコンテンツを制作することができる。当該定義を利用して、階層データ内の領域をいくつか記憶させておくことにより、表示画像を当該領域へ誘導することができる。例えば、表示画像をおよそ位置合わせするのみで、設定されたリンク領域へ誘導することができるため、リンク先への画像の切り替えを短時間に行うことができる。また画像内で見せたい部分などを複数記録したシナリオ設定ファイルを作成することにより、そのような部分を連続表示させることができ、プロモーションやプレゼンテーションなどに効果的なコンテンツを制作することができる。あるいは、段組の記事や閲覧順序が決まっている雑誌のページなどにおいて、文字を判読できる程度に拡大したままで次の領域へ移動することができる。   Link settings are made by defining the link area in the link source and link destination hierarchical data in the virtual space, so even a seemingly complex link structure can be set easily, and content can be easily accessed by general users. Can be produced. By using the definition and storing several areas in the hierarchical data, the display image can be guided to the area. For example, since the display image can be guided to the set link area only by aligning the display image, the image can be switched to the link destination in a short time. In addition, by creating a scenario setting file in which a plurality of portions to be shown in the image are recorded, such portions can be continuously displayed, and effective contents for promotion and presentation can be produced. Alternatively, it is possible to move to the next area while enlarging the characters so that they can be read in a columned article or a magazine page whose reading order is determined.

このようにして制作した、リンク設定がなされた階層データや、シナリオ設定ファイルなど誘導領域の設定がなされた階層データは、それを一つのパッケージとして流通させることができる。一方で、階層データのみ、あるいはシナリオ設定ファイルのみ、といったモジュール単位で流通させることもできる。階層データやコンテンツには、内容に係る情報、制御に係る情報、データの構造情報などの属性情報を各単位ごとに付加しておく。これにより、コンテンツ内に別の著作者による階層データやコンテンツが含まれていた場合に、リンク先への移行を制限したり課金したりすることができる。また各単位で統一的な属性情報のフォーマットを決めておくことにより、それを利用した二次的なコンテンツの作成を効率的に行うことができる。   The hierarchical data with link settings and the hierarchical data with guidance areas set, such as scenario setting files, produced in this way can be distributed as a single package. On the other hand, it is also possible to distribute in units of modules such as only hierarchical data or only scenario setting files. In the hierarchical data and content, attribute information such as information on contents, information on control, and data structure information is added for each unit. Thereby, when the hierarchical data and content by another author are contained in the content, it is possible to restrict or charge the transition to the link destination. In addition, by determining a uniform attribute information format for each unit, it is possible to efficiently create secondary content using the format.

さらに、コンテンツの制作を支援するために、リンク領域や誘導領域を、実際の画面を表示したうえで選択できるようにし、当該選択によってリンク設定ファイルやシナリオ設定ファイルを所定のフォーマットで生成する。このようにすることで、ユーザは実際の画像を確認しながらイメージをふくらませたうえで設定を容易に行うことができる。リンク領域の設定にあたっては、特徴点の抽出やマッチング処理により2つの画像のリンク領域の位置を微調整する。これにより、画像切り替え時に位置ずれなどを起こさず連続的な移行が可能となり、見る者に画像の切り替わりを気づかせることが少なくなる。   Further, in order to support content production, a link area and a guidance area can be selected after displaying an actual screen, and a link setting file and a scenario setting file are generated in a predetermined format by the selection. In this way, the user can easily perform setting after inflating the image while confirming the actual image. In setting the link area, the position of the link area between the two images is finely adjusted by extracting feature points and matching processing. As a result, it is possible to make a continuous transition without causing a position shift or the like when switching images, and the viewer is less likely to notice the switching of images.

また、ユーザが選択した複数の個別画像を埋め込んだインデックス画像を生成する。そしてインデックス画像と個別画像とのリンク設定ファイルを生成する。これにより、雑誌のバックナンバーの中味を確認しながら所望の一冊を選択するコンテンツ、様々なアプリケーション、動画を起動できるメニュー画面のあるコンテンツ、絵画、小説、人物写真などの解説対象とその解説が切り替わるコンテンツなど、様々なコンテンツを、画像を選択するのみで容易に制作することができる。   Also, an index image in which a plurality of individual images selected by the user are embedded is generated. Then, a link setting file between the index image and the individual image is generated. As a result, the contents to select a desired book while checking the contents of the magazine's back number, various applications, contents with a menu screen that can start a movie, paintings, novels, portraits, etc. Various contents such as contents to be switched can be easily produced simply by selecting an image.

以上、本発明を実施の形態をもとに説明した。上記実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   The present invention has been described based on the embodiments. Those skilled in the art will understand that the above-described embodiment is an exemplification, and that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are also within the scope of the present invention. is there.

本発明の実施の形態にかかる画像処理システムの使用環境を示す図である。It is a figure which shows the use environment of the image processing system concerning embodiment of this invention. 図1の画像処理システムに適用できる入力装置の外観構成を示す図である。It is a figure which shows the external appearance structure of the input device applicable to the image processing system of FIG. 本実施の形態において使用する画像データの階層構造例を示す図である。It is a figure which shows the hierarchical structure example of the image data used in this Embodiment. 本実施の形態における画像処理装置の構成を示す図である。It is a figure which shows the structure of the image processing apparatus in this Embodiment. 本実施の形態における先読み処理を説明するための図である。It is a figure for demonstrating the prefetch process in this Embodiment. 本実施の形態における画像データの流れを模式的に示す図である。It is a figure which shows typically the flow of the image data in this Embodiment. 本実施の形態において表示対象となる複数の階層データの関係を模式的に示す図である。It is a figure which shows typically the relationship of the several hierarchy data used as display object in this Embodiment. 本実施の形態において階層データ間にリンクを設定したときの表示画像の様子を例示する図である。It is a figure which illustrates the mode of a display image when a link is set between hierarchy data in this Embodiment. 本実施の形態における制御部の構成を詳細に示す図である。It is a figure which shows the structure of the control part in this Embodiment in detail. 本実施の形態において基準となるフレームと画像の位置関係を示す図である。It is a figure which shows the positional relationship of the flame | frame used as the reference | standard in this Embodiment, and an image. 本実施の形態において基準フレームを平行移動させた場合のフレームの定義を説明する図であるIt is a figure explaining the definition of a frame when a reference frame is translated in this embodiment. 本実施の形態において基準フレームを平行移動させずに拡大率を変化させた場合のフレームの定義を説明する図である。It is a figure explaining the definition of a frame at the time of changing a magnification without changing a reference frame in this embodiment. 本実施の形態において基準フレームを平行移動させずに回転させた場合のフレームの定義を説明する図である。It is a figure explaining the definition of a frame at the time of rotating a reference frame, without moving in parallel in this embodiment. 本実施の形態におけるリンク設定ファイルのデータ構造例を示す図である。It is a figure which shows the example of a data structure of the link setting file in this Embodiment. 本実施の形態において2つの階層データにリンクが設定されているときのロードすべきポイントを模式的に示す図である。It is a figure which shows typically the point which should be loaded when the link is set to two hierarchy data in this Embodiment. 本実施の形態においてリンク元画像からリンク先画像へのXY座標の変換手法を説明するための図である。It is a figure for demonstrating the conversion method of the XY coordinate from a link original image to a link destination image in this Embodiment. 本実施の形態においてリンク元画像からリンク先画像へのZ座標の変換手法を説明するための図である。It is a figure for demonstrating the conversion method of the Z coordinate from a link original image to a link destination image in this Embodiment. 本実施の形態においてリンク領域が設定されている画像の例を示す図である。It is a figure which shows the example of the image in which the link area | region is set in this Embodiment. 本実施の形態において、一つの階層データにおいて表示画像を誘導しながら、表示する階層を移行していく様子を示す図である。In this Embodiment, it is a figure which shows a mode that the hierarchy which displays is guided, guiding a display image in one hierarchy data. 本実施の形態において、異なる階層への誘導と同一階層における別領域への誘導を組み合わせた場合の表示画像の移行の様子を示す図である。In this Embodiment, it is a figure which shows the mode of the transfer of a display image at the time of combining the guidance to a different hierarchy and the guidance to another area in the same hierarchy. 本実施の形態のシナリオ設定ファイルにおいて、より細かく画像の移行を制御する処理を記述したときの処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a process when the process which controls the transfer of an image in detail is described in the scenario setting file of this Embodiment. 本実施の形態を実現する際のデータの流通態様の例を模式的に示す図である。It is a figure which shows typically the example of the distribution mode of the data at the time of implement | achieving this Embodiment. 本実施の形態におけるコンテンツ制作支援機能を有する画像処理装置の構成を示す図である。It is a figure which shows the structure of the image processing apparatus which has a content production assistance function in this Embodiment. 本実施の形態において誘導領域の設定を受け付け、シナリオ設定ファイルを生成、更新する処理の手順例を説明する図である。It is a figure explaining the example of a procedure of the process which receives the setting of a guidance area | region in this Embodiment, and produces | generates and updates a scenario setting file. 本実施の形態においてリンク領域の設定を受け付け、リンク設定ファイルを生成、更新する処理の手順例を説明する図である。It is a figure explaining the example of a procedure of the process which receives the setting of a link area | region in this Embodiment, and produces | generates and updates a link setting file. 本実施の形態において複数の画像選択を受け付け、それらの画像を選択できるインデックス画像を、リンクを設定したうえで生成する処理態様を説明する図である。It is a figure explaining the processing mode which accepts a plurality of image selection in this embodiment, and generates an index image which can select those images after setting a link.

符号の説明Explanation of symbols

1 画像処理システム、 10 画像処理装置、 12 表示装置、 20 入力装置、 30 第0階層、 32 第1階層、 34 第2階層、 36 第3階層、 38 タイル画像、 44 表示処理部、 50 ハードディスクドライブ、 60 メインメモリ、 70 バッファメモリ、 90 フレームメモリ、 100 制御部、 102 入力情報取得部、 104 圧縮データ分割部、 106 ロードブロック決定部、 108 ロード部、 110 先読み処理部、 112 デコード部、 114 表示画像処理部、 116 リンク判定部、 117 シナリオ解釈部、 118 リンク設定ファイル、 119 シナリオ設定ファイル、 408a 属性ファイル、 500 画像処理装置、 502 制御部、 504 入力情報取得部、 506 設定画像表示部、 508 設定情報登録部、 520 入力装置、 550 ハードディスクドライブ、 560 メインメモリ、 562 リンク設定ファイル、 564 シナリオ設定ファイル、 566 インデックス画像データ。   DESCRIPTION OF SYMBOLS 1 Image processing system, 10 Image processing apparatus, 12 Display apparatus, 20 Input apparatus, 30 0th hierarchy, 32 1st hierarchy, 34 2nd hierarchy, 36 3rd hierarchy, 38 tile image, 44 Display processing part, 50 Hard disk drive , 60 main memory, 70 buffer memory, 90 frame memory, 100 control unit, 102 input information acquisition unit, 104 compressed data division unit, 106 load block determination unit, 108 load unit, 110 prefetch processing unit, 112 decoding unit, 114 display Image processing unit, 116 link determination unit, 117 scenario interpretation unit, 118 link setting file, 119 scenario setting file, 408a attribute file, 500 image processing device, 502 control unit, 504 input information acquisition unit, 506 Constant image display unit, 508 setting information registration unit, 520 input device, 550 hard disk drive, 560 main memory, 562 link configuration file 564 scenario setting file 566 index image data.

Claims (14)

ユーザからの指示入力に基づき、画像表示コンテンツのデータを作成する情報処理装置であって、
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける入力情報取得部と、
選択された複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけて記憶装置に格納する設定情報登録部と、を備えることを特徴とする情報処理装置。
An information processing apparatus for creating image display content data based on an instruction input from a user,
An input information acquisition unit that receives input for selecting a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Corresponds to the index image data in which a plurality of selected individual images are arranged in a predetermined format into a single image, the area where the individual images are arranged in the index image, and the hierarchical data of the individual images arranged in the area A link setting file that is referred to in order to switch the data used for displaying the region in the index image to the hierarchical data of the associated individual image by moving the display region during content display, and generating the individual image An information processing apparatus comprising: a setting information registration unit that stores the hierarchical data, the index image data, and the link setting file data in a storage device in association with each other.
前記設定情報登録部は、ユーザが選択した前記個別画像の階層データから、解像度に基づき前記インデックス画像の生成に用いる階層を選択したうえ、当該階層のデータを用いて前記インデックス画像のデータを生成することを特徴とする請求項1に記載の情報処理装置。  The setting information registration unit selects a layer to be used for generating the index image based on resolution from the layer data of the individual image selected by the user, and generates data of the index image using the data of the layer The information processing apparatus according to claim 1. 前記設定情報登録部は、前記インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データのうち、選択した階層の画像データとを、前記リンク設定ファイルにおいて対応づけることを特徴とする請求項2に記載の情報処理装置。The setting information registration unit associates, in the link setting file, an area where an individual image is arranged in the index image and image data of a selected hierarchy among hierarchical data of the individual image arranged in the area. The information processing apparatus according to claim 2. 前記設定情報登録部は、前記インデックス画像のデータを前記階層データとして生成することを特徴とする請求項1から3のいずれかに記載の情報処理装置。 The setting information registration unit, the information processing apparatus according to any one of claims 1 to 3, characterized in that to generate the data of the index image as the hierarchical data. 前記設定情報登録部は、あらかじめ生成された階層データの所定領域に前記個別画像を所定の解像度で埋め込むことにより、前記インデックス画像のデータを生成することを特徴とする請求項1から3のいずれかに記載の情報処理装置。 4. The index information registration unit generates the index image data by embedding the individual image at a predetermined resolution in a predetermined area of the hierarchical data generated in advance . 5. The information processing apparatus described in 1. 前記個別画像はさらに動画像を含むことを特徴とする請求項1から5のいずれかに記載の情報処理装置。 The individual image further information processing apparatus according to any one of claims 1 to 5, characterized in that it comprises a moving image. 前記設定情報登録部は、前記インデックス画像と前記個別画像をそれぞれ表示させたうえ当該表示画像から複数の領域を選択する入力をユーザより受け付け、選択された複数の領域について、画像平面および解像度の軸によって定義される仮想空間における座標を特定して記録することにより、コンテンツ表示時に表示画像を当該複数の領域で切り替えるために参照されるシナリオ設定ファイルを生成し、前記コンテンツのデータとしてさらに対応づけることを特徴とする請求項1から3のいずれかに記載の情報処理装置。 The setting information registration unit receives an input for selecting a plurality of areas from the display image after displaying each of the index image and the individual image , and an image plane and a resolution axis for the selected plurality of areas. by recording by specifying the coordinates in the virtual space defined by the display image when displaying the content to generate a scenario setting file which is referred to for switching the plurality of regions, Ru further correspondence as data of the content the information processing apparatus according to claim 1, wherein 3 of the. 前記設定情報登録部は、コンテンツに含まれる個別画像の視聴を制御する属性情報を、各個別画像の階層データに付加することを特徴とする請求項1から7のいずれかに記載の情報処理装置。 The setting information registration unit, the information processing apparatus according to any one of the attribute information for controlling the viewing of individual images included in the content, from claim 1, characterized in that added to the hierarchical data for the individual image 7 . 前記インデックス画像は、前記画像表示コンテンツの表示時の初期表示画面であることを特徴とする請求項1から8のいずれかに記載の情報処理装置。 The index image information processing apparatus according to any one of claims 1 to 8, characterized in that the initial display screen at the time of display of the image display content. 情報処理装置がユーザからの指示入力に基づき、画像表示コンテンツのデータを作成する情報処理方法であって、
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付けるステップと、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけ記憶装置格納するステップと、を含ことを特徴とする情報処理方法。
An information processing method in which an information processing device creates image display content data based on an instruction input from a user,
Receiving from the user an input for selecting a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in the order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a step is a link configuration file are,, and stores the in association with the storage device with hierarchical data of the individual image data of the index image and data of the link configuration file as the data of one content and an information processing method according to claim including that.
ユーザからの指示入力に基づき、画像表示コンテンツのデータを作成する機能をコンピュータに実現させるコンピュータプログラムであって、
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける機能と、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけ記憶装置格納する機能と、をコンピュータに実現させることを特徴とするコンピュータプログラム。
A computer program for causing a computer to realize a function of creating image display content data based on an instruction input from a user,
A function of accepting an input from a user to select a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a link configuration files to generate a function of storing in the storage device in association with the data of said hierarchical data of the individual image and the index image data link configuration file as the data of one content and A computer program characterized by being realized by a computer.
ユーザからの指示入力に基づき、画像表示コンテンツのデータを作成する機能をコンピュータに実現させるコンピュータプログラムを記録した記録媒体であって、
ユーザより、異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像を選択する入力を受け付ける機能と、
選択された複数の個別画像の階層データを記憶装置より読み出し、当該複数の個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、前記インデックス画像において個別画像を配置した領域と当該領域に配置された個別画像の階層データとを対応づけ、コンテンツ表示時に表示領域の移動によって前記インデックス画像における当該領域の表示に用いるデータを対応づけられた個別画像の階層データへ切り替えるために参照されるリンク設定ファイルと、を生成し、前記個別画像の階層データと前記インデックス画像のデータと前記リンク設定ファイルのデータとを一のコンテンツのデータとして対応づけ記憶装置格納する機能と、をコンピュータに実現させることを特徴とするコンピュータプログラムを記録した記録媒体。
A recording medium recording a computer program that causes a computer to realize a function of creating data of image display content based on an instruction input from a user,
A function of accepting an input from a user to select a plurality of individual images having a hierarchical data structure configured by layering image data of different resolutions in order of resolution ;
Read from the storage device the hierarchical data of the selected plurality of individual images, and data of the index image of the plurality of individual images is arranged to one image in a predetermined format, and were placed individual image in the index image area Reference is made to associate the hierarchical data of the individual image arranged in the area with the hierarchical data of the individual image associated with the index image by moving the display area when the content is displayed. a link configuration files to generate a function of storing in the storage device in association with the data of said hierarchical data of the individual image and the index image data link configuration file as the data of one content and A computer program characterized by being realized by a computer Recording the recording medium.
異なる解像度の画像データを解像度順に階層化して構成される階層データの構造を有する複数の個別画像のデータと、
前記個別画像を所定のフォーマットで配置し一の画像としたインデックス画像のデータと、
前記インデックス画像において個別画像を配置した領域と、当該領域に配置された個別画像の階層データとを対応づけたリンク設定ファイルと、
を対応づけた画像表示コンテンツのデータ構造であって、
前記リンク設定ファイルは、コンテンツ表示装置が前記インデックス画像をディスプレイに表示する際、メモリから読み出され参照されることにより、前記インデックス画像の前記領域の表示に用いるデータが、表示領域の移動によって、対応づけられた個別画像の階層データへ切り替えられることを特徴とする画像表示コンテンツのデータ構造。
A plurality of individual image data having a hierarchical data structure configured by layering image data of different resolutions in the order of resolution;
Index image data in which the individual images are arranged in a predetermined format as one image ;
A link setting file that associates the area where the individual image is arranged in the index image with the hierarchical data of the individual image arranged in the area;
Is a data structure of image display content in which
When the content display device displays the index image on the display, the link setting file is read from the memory and referred to, so that the data used for displaying the area of the index image is moved by the display area. A data structure of image display content, wherein the data is switched to hierarchical data of associated individual images .
請求項13に記載の画像表示コンテンツのデータ構造を記録した記録媒体。 The recording medium which recorded the data structure of the image display content of Claim 13 .
JP2008289667A 2008-11-11 2008-11-12 Information processing apparatus and information processing method Active JP5520472B2 (en)

Priority Applications (9)

Application Number Priority Date Filing Date Title
JP2008289667A JP5520472B2 (en) 2008-11-12 2008-11-12 Information processing apparatus and information processing method
EP09825859.3A EP2360562B1 (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method
KR1020117011771A KR20110087300A (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method
CN201310534416.7A CN103605452B (en) 2008-11-11 2009-09-08 Image processing apparatus and image processing method
CN2009801444115A CN102209951A (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method
RU2011123257/08A RU2509341C2 (en) 2008-11-11 2009-09-08 Image processing device and image processing method
US13/127,598 US8917286B2 (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method
KR1020137020473A KR101400935B1 (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method
PCT/JP2009/004441 WO2010055604A1 (en) 2008-11-11 2009-09-08 Image processing device, information processing device, image processing method, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008289667A JP5520472B2 (en) 2008-11-12 2008-11-12 Information processing apparatus and information processing method

Publications (2)

Publication Number Publication Date
JP2010117827A JP2010117827A (en) 2010-05-27
JP5520472B2 true JP5520472B2 (en) 2014-06-11

Family

ID=42305478

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008289667A Active JP5520472B2 (en) 2008-11-11 2008-11-12 Information processing apparatus and information processing method

Country Status (1)

Country Link
JP (1) JP5520472B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5419822B2 (en) * 2010-07-23 2014-02-19 株式会社ソニー・コンピュータエンタテインメント Image processing apparatus, image display apparatus, image processing method, and data structure of image file
JP5713855B2 (en) 2011-09-22 2015-05-07 株式会社ソニー・コンピュータエンタテインメント Information processing apparatus, information processing method, and data structure of content file

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3646582B2 (en) * 1998-09-28 2005-05-11 富士通株式会社 Electronic information display method, electronic information browsing apparatus, and electronic information browsing program storage medium
JP5050371B2 (en) * 2006-03-10 2012-10-17 日本電気株式会社 Operation record reproduction apparatus and program

Also Published As

Publication number Publication date
JP2010117827A (en) 2010-05-27

Similar Documents

Publication Publication Date Title
WO2010055604A1 (en) Image processing device, information processing device, image processing method, and information processing method
US20120056903A1 (en) Information Processing Device And Information Processing Method
WO2012011215A1 (en) Image processing device, image display device, image processing method, and data structure of image file
JP5520473B2 (en) Information processing apparatus and information processing method
JP5520469B2 (en) Image processing apparatus and image processing method
JP5467123B2 (en) Information processing apparatus and information processing method
JP5520472B2 (en) Information processing apparatus and information processing method
JP5920673B2 (en) Image processing apparatus and image processing method
JP5520471B2 (en) Image processing apparatus and image processing method
US8972877B2 (en) Information processing device for displaying control panel image and information image on a display
JP5520470B2 (en) Image processing apparatus and image processing method
JP5524469B2 (en) Image processing apparatus and image processing method
JP5292146B2 (en) Information processing apparatus and information processing method
TW201325674A (en) Method of producing game event effects, tool using the same, and computer readable recording medium
JP5292149B2 (en) Information processing apparatus and information processing method
KR20170093466A (en) Apparatus and method for providing contents, and computer program recorded on computer readable recording medium for executing the method
JP5292147B2 (en) Information processing apparatus and information processing method
JP5419783B2 (en) Image reproducing apparatus and method for controlling image reproducing apparatus
JP2010231283A (en) Information processing apparatus and information processing method
JP2008129863A (en) Content distribution system and method
JP2007011055A (en) Image display device and image display method

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101125

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140407

R150 Certificate of patent or registration of utility model

Ref document number: 5520472

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250