JP4626784B2 - 通信装置および通信方法、並びに記録媒体 - Google Patents
通信装置および通信方法、並びに記録媒体 Download PDFInfo
- Publication number
- JP4626784B2 JP4626784B2 JP2000148552A JP2000148552A JP4626784B2 JP 4626784 B2 JP4626784 B2 JP 4626784B2 JP 2000148552 A JP2000148552 A JP 2000148552A JP 2000148552 A JP2000148552 A JP 2000148552A JP 4626784 B2 JP4626784 B2 JP 4626784B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- image
- package
- sub
- embedded
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 228
- 238000004891 communication Methods 0.000 title claims description 72
- 230000008569 process Effects 0.000 claims description 180
- 238000012545 processing Methods 0.000 claims description 137
- 230000008859 change Effects 0.000 claims description 64
- 230000004044 response Effects 0.000 claims description 40
- 238000001514 detection method Methods 0.000 claims description 39
- 230000005540 biological transmission Effects 0.000 claims description 10
- 230000000007 visual effect Effects 0.000 claims 7
- 230000000875 corresponding effect Effects 0.000 description 64
- 238000010586 diagram Methods 0.000 description 58
- 239000013598 vector Substances 0.000 description 47
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 14
- 230000000694 effects Effects 0.000 description 10
- 239000000284 extract Substances 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 8
- 230000007423 decrease Effects 0.000 description 7
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 6
- 238000011156 evaluation Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 4
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 4
- 238000004088 simulation Methods 0.000 description 4
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 241000207961 Sesamum Species 0.000 description 2
- 235000003434 Sesamum indicum Nutrition 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000011946 reduction process Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/085—Payment architectures involving remote charge determination or related payment systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/612—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- General Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Computer Networks & Wireless Communication (AREA)
- Human Computer Interaction (AREA)
- Finance (AREA)
- Signal Processing (AREA)
- Tourism & Hospitality (AREA)
- General Health & Medical Sciences (AREA)
- Economics (AREA)
- Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Information Transfer Between Computers (AREA)
- Editing Of Facsimile Originals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
【発明の属する技術分野】
本発明は、通信装置および通信方法、並びに記録媒体に関し、特に、例えば、所望の情報を、所望のメディアで得ることができるようにするとともに、例えば、広告等を、ユーザに必ず見せることができるようにする通信装置および通信方法、並びに記録媒体に関する。
【0002】
【従来の技術】
例えば、インターネットにおいて構築されているWWW(World Wide Web)システムによれば、ユーザは、WWWブラウザによって、WWWサーバから提供されるWebページを閲覧することができる。
【0003】
【発明が解決しようとする課題】
ところで、Webページは、例えば、HTML(Hyper Text Markup Language)等で記述されており、HTMLによれば、各種の情報にリンクをはることができる。従って、ユーザは、あるWebページを閲覧し、そのWebページからはられているリンクを辿っていくことで、所望の情報を得ることができる。
【0004】
しかしながら、Webページからはられているリンク先の情報のメディアは、そのWebページの作成者によって決定される。従って、ユーザは、所望の情報を、所望のメディアで得ることができるとは限らない。即ち、例えば、ユーザが、あるアーティストの曲に関する情報を得ようとするときには、その曲名をテキストで知りたいユーザや、曲を聴いてみたいユーザ、その曲が収められているアルバム(CD(Compact Disc)等)のジャケットの画像を見たいユーザ等のように、様々なユーザが存在するが、ユーザが所望するメディアで情報の提供が行われているとは限らなかった。
【0005】
一方、Webページ上には、例えば、詳細な広告情報が記述されたWebページにリンクがはられたバナー広告がおかれている場合がある。しかしながら、バナー広告からリンクがはられている広告情報は、ユーザが、そのバナー広告をクリックしなければ、WWWブラウザ上に表示されないため、広告情報を、ユーザに必然的に見せることは困難であった。
【0006】
本発明は、このような状況に鑑みてなされたものであり、ユーザが、所望の情報を、所望のメディアで得ることができるようにするとともに、広告等の所定の情報を、ユーザに必然的に見せること等ができるようにするものである。
【0007】
【課題を解決するための手段】
本発明の第1の通信装置は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、メインデータとサブデータとを組みにしたデータであるパッケージデータを複数記憶する記憶手段と、外部装置からの要求に応じて、記憶手段から所望のパッケージデータを検索する検索手段と、検索手段により検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化し、暗号化パッケージデータを出力する暗号化手段と、暗号化手段から出力される暗号化パッケージデータを、外部装置に送信する通信手段とを備えることを特徴とする。
【0008】
本発明の第1の通信方法は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するサブデータとする場合において、外部装置からの要求に応じて、記憶手段から所望のパッケージデータを検索し、検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化し、暗号化パッケージデータを出力し、暗号化パッケージデータを、外部装置に送信するステップを備えることを特徴とする。
【0009】
本発明の第1の記録媒体は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、外部装置からの要求に応じて、記憶手段から所望のパッケージデータを検索し、検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化し、暗号化パッケージデータを出力し、暗号化パッケージデータを、外部装置に送信するステップを備える処理を、コンピュータに行わせるプログラムが記録されていることを特徴とする。
【0010】
本発明の第2の通信装置は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、ユーザ指示に応じて、メインデータとサブデータとを組みにしたデータであるパッケージデータを、外部装置に要求する要求手段と、要求手段による要求に応じて、外部装置から受信されたパッケージデータが暗号化された暗号化パッケージデータを復号して、メインデータ、サブデータ、および所定の情報を取得する復号手段と、復号手段により復号されたパッケージデータのメインデータと、その復号過程において得られる所定の情報とを出力する出力手段と、出力手段に出力されるメインデータに対するユーザ指示を検出するユーザ指示検出手段と、ユーザ指示検出手段によりユーザ指示が検出されたとき、メインデータに対応するサブデータを出力手段に出力する出力制御手段とを備え、ユーザ指示検出手段により、サブデータの一部に対するユーザ指示が検出されたとき、要求手段は、当該サブデータの一部に対応するリンクデータに基づいて外部装置に新たなパッケージデータを要求し、暗号化パッケージデータは、パッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化したものであることを特徴とする。
【0011】
本発明の第2の通信方法は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、ユーザ指示に応じて、メインデータとサブデータとを組みにしたデータであるパッケージデータを、外部装置に要求し、要求に応じて、外部装置から受信されたパッケージデータが暗号化された暗号化パッケージデータを復号して、メインデータ、サブデータ、および所定の情報を取得し、復号されたパッケージデータのメインデータと、その復号過程において得られる所定の情報とを出力し、出力されるメインデータに対するユーザ指示を検出し、ユーザ指示が検出されたとき、メインデータに対応するサブデータを出力するステップを備え、サブデータの一部に対するユーザ指示が検出されたとき、当該サブデータの一部に対応するリンクデータに基づいて外部装置に新たなパッケージデータを要求し、暗号化パッケージデータは、パッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化したものであることを特徴とする。
【0012】
本発明の第2の記録媒体は、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、ユーザ指示に応じて、メインデータとサブデータとを組みにしたデータであるパッケージデータを、外部装置に要求し、要求に応じて、外部装置から受信されたパッケージデータが暗号化された暗号化パッケージデータを復号して、メインデータ、サブデータ、および所定の情報を取得し、復号されたパッケージデータのメインデータと、その復号過程において得られる所定の情報とを出力し、出力されるメインデータに対するユーザ指示を検出し、ユーザ指示が検出されたとき、メインデータに対応するサブデータを出力するステップを備え、サブデータの一部に対するユーザ指示が検出されたとき、当該サブデータの一部に対応するリンクデータに基づいて外部装置に新たなパッケージデータを要求し、暗号化パッケージデータは、パッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータを暗号化したものである処理を、コンピュータに行わせるプログラムが記録されていることを特徴とする。
【0019】
本発明の第1の通信装置および通信方法、並びに記録媒体においては、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、外部装置からの要求に応じて、記憶手段から所望のパッケージデータが検索され、検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータが暗号化されて暗号化パッケージデータが出力され、その暗号化パッケージデータが、外部装置に送信される。
【0020】
本発明の第2の通信装置および通信方法、並びに記録媒体においては、複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとすると、ユーザ指示に応じて、メインデータとサブデータとを組みにしたデータであるパッケージデータが、外部装置に要求され、要求に応じて、外部装置から受信されたパッケージデータが暗号化された暗号化パッケージデータが復号されて、メインデータ、サブデータ、および所定の情報が取得され、復号されたパッケージデータのメインデータと、その復号過程において得られる所定の情報とが出力される。さらに、出力されるメインデータに対するユーザ指示が検出され、ユーザ指示が検出されたとき、メインデータに対応するサブデータが出力される。また、サブデータの一部に対するユーザ指示が検出されたとき、サブデータの一部に対応するリンクデータに基づいて外部装置に新たなパッケージデータが要求される。そして、暗号化パッケージデータは、パッケージデータ内のサブデータと、所定の情報とに応じて、メインデータのエネルギの偏りを壊すことによりメインデータにサブデータおよび所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において所定の情報が得られるように、そのパッケージデータが暗号化されたものである。
【0023】
【発明の実施の形態】
図1は、本発明を適用したネットワークシステムの一実施の形態の構成例を示している。
【0024】
パッケージサーバ1は、例えば、ユーザ端末31や32,33,・・・,34の要求に応じて、後述するようなパッケージデータを、インターネット等のネットワーク2を介して送信する。
【0025】
ユーザ端末31乃至3N(以下、特に区別する必要がない限り、ユーザ端末3と記載する)は、必要に応じて、ネットワーク2を介し、パッケージサーバ1にパッケージデータを要求し、その要求に応じて、パッケージサーバ1からネットワーク2を介して送信されてくるパッケージデータを受信して出力する(画像やテキスト等として表示し、あるいは音声として出力する)。また、ユーザ端末3は、必要に応じて、ネットワーク2を介し、WWWサーバ4にWebページ等を要求し、その要求に応じて、WWWサーバ4からネットワーク2を介して送信されてくるWebページを受信して表示する。
【0026】
WWWサーバ4は、ユーザ端末3の要求に応じて、Webページを、ネットワーク2を介して送信する。
【0027】
次に、図2は、パッケージサーバ1、ユーザ端末3、およびWWWサーバ4のハードウェア構成例を示している。
【0028】
パッケージサーバ1、ユーザ端末3、WWWサーバ4は、例えばいずれもコンピュータをベースに構成されている。
【0029】
コンピュータは、CPU(Central Processing Unit)12を内蔵している。CPU12には、バス11を介して、入出力インタフェース20が接続されており、CPU12は、入出力インタフェース20を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部17が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)13に格納されている、後述する専用ブラウザ等を実現するプログラムを実行する。あるいは、また、CPU12は、ハードディスク15に格納されているプログラム、衛星若しくはネットワークから転送され、通信部18で受信されてハードディスク15にインストールされたプログラム、またはドライブ19に装着されたリムーバブル記録媒体21から読み出されてハードディスク15にインストールされたプログラムを、RAM(Random Access Memory)14にロードして実行する。これにより、CPU12は、後述するフローチャートにしたがった処理、あるいは後述するブロック図の構成により行われる処理を行う。そして、CPU12は、その処理結果を、必要に応じて、例えば、入出力インタフェース20を介して、LCD(Liquid CryStal Display)やスピーカ等で構成される出力部16から出力、あるいは、通信部18から送信、さらには、ハードディスク15に記録等させる。
【0030】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしも、後述するフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
【0031】
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0032】
さらに、プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク15やROM13に予め記録しておくことができる他、フロッピーディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体21に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体21は、いわゆるパッケージソフトウエアとして提供することができる。
【0033】
なお、プログラムは、上述したようなリムーバブル記録媒体21からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部18で受信し、内蔵するハードディスク15にインストールすることができる。
【0034】
次に、図3は、図1のパッケージサーバ1の機能的構成例を示している。
【0035】
データベース31は、パッケージサーバ1がユーザ端末3に提供するパッケージデータ等を記憶している。検索部32は、返信データ生成部36からの要求に応じて、データベース31からパッケージデータを検索し、返信データ生成部36に供給する。さらに、検索部32は、返信データ生成部36から、返信データとしてのパッケージデータを受信し、その返信データを、符号化/暗号化部34に供給する。符号化/暗号化部34は、検索部32からの返信データに対して、ネットワーク2を介して送信を行うためのプロトコル変換(符号化)や、セキュリティ確保のための必要な暗号化等の処理を施し、通信I/F(Interface)37に供給する。復号部35は、通信I/F37から供給される、ユーザ端末3からのデータに対して、セキュリティ確保のための暗号の解読や、プロトコル変換等の処理を施し、返信データ生成部36に供給する。
【0036】
返信データ生成部36は、復号部35から供給される、ユーザ端末3からのデータに基づいて、ユーザから要求のあったパッケージデータを認識し、そのパッケージデータを検索するように、検索部32を制御する。さらに、返信データ生成部36は、検索部32から供給されるパッケージデータから、ユーザ端末3に返信するための返信データを生成し、検索部32に供給する。また、返信データ生成部36は、ユーザ端末3からの要求等に基づいて、課金処理部38を制御する。
【0037】
通信I/F37は、符号化/暗号化部34からの返信データを、ネットワーク2を介して、ユーザ端末3に送信するとともに、ネットワーク2を介してユーザ端末3から送信されてくるデータを受信して、復号部35に供給する。課金処理部38は、返信データ生成部36の制御にしたがい、課金処理を行う。
【0038】
次に、図4乃至図6を参照して、パッケージサーバ1(図3)のデータベース31に記憶されているデータについて説明する。
【0039】
データベース31は、ルックアップテーブル(図4(A))と、データ記憶部(図4(A))とから構成されている。
【0040】
ルックアップテーブルは、図4(A)に示すように、データ記憶部の各エントリに記憶されているパッケージデータを識別するためのコンテンツ識別子と、そのパッケージデータが記憶されているエントリ(のアドレス)を指し示すポインタとから構成されている。なお、図4(A)の実施の形態では、コンテンツ識別子として、URL(Uniform Resource Locator)が用いられている。
【0041】
データ記憶部は、図4(B)に示すように、パッケージデータを記憶する1以上のエントリで構成されている。
【0042】
パッケージデータは、その先頭から、例えば、ヘッダ、アイコンデータ、テキストデータ、リンクデータが順次配置されて構成されている。
【0043】
ヘッダには、そのパッケージデータについての所定の情報(例えば、パッケージデータのデータ長等)が配置される。
【0044】
アイコンデータは、ユーザ端末3においてアイコンとして表示される画像データで、パッケージデータは、必ず、1つのアイコンデータを有している。
【0045】
テキストデータは、アイコンデータと組になり、そのアイコンに対して、所定のイベントが与えられたときに表示されるメニューの項目となるテキストで、パッケージデータは、必要な数のテキストデータを有している。ここで、図4(B)の実施の形態では、パッケージデータは、M個のテキストデータを有している。
【0046】
リンクデータは、テキストデータにリンクさせるパッケージデータを識別するための識別情報で、例えば、そのリンクされているパッケージデータのコンテンツ識別子で構成される。従って、パッケージデータは、基本的には、テキストデータと同一の数だけのリンクデータを有している。
【0047】
即ち、パッケージデータは、図5に示すように、アイコンデータと、パッケージデータへのリンクを表すリンクデータが対応付けられた必要な数のテキストデータ#1乃至#Mとの組で構成される。そして、パッケージデータは、その各テキストデータから、他の(自分自身であっても良い)パッケージデータにリンクをはることができ、従って、パッケージデータによれば、それを、いわば基本単位として、複数のパッケージデータからなるリンク構造を構成することができる。
【0048】
具体的には、例えば、図5に示したように、パッケージデータのアイコンデータを○印で、テキストデータを□印で、それぞれ表すとすると、パッケージデータによれば、図6に示すように、パッケージデータを構成するテキストデータから、他のパッケージデータにリンクをはることができる。そして、そのようなリンク付けを繰り返し行うことにより、理論的には、無限のパッケージデータがリンクされているリンク構造を実現することができる。
【0049】
なお、パッケージデータのリンク構造は、図6(A)に示すように、木構造とすることは勿論、図6(B)に点線の矢印で示すように、ループが形成されるような構造等とすることも可能である。
【0050】
ここで、図5に示したアイコンデータおよびテキストデータの組であるパッケージデータの構造は、アイコンデータを中心として、テキストデータが副次的に付随しているようにも見える。そこで、以下、適宜、パッケージデータの中心点となるデータ(例えば、図5のアイコンデータ)を、メインデータというとともに、そのメインデータと組となってパッケージデータを構成する副次的なデータ(例えば、図5のテキストデータ)を、サブデータという。
【0051】
次に、図7のフローチャートを参照して、図3のパッケージサーバ1の処理について説明する。
【0052】
なお、本実施の形態では、ユーザ端末3が、パッケージサーバ1から、パッケージデータの提供を受けるために、例えば、パッケージサーバ1に、あらかじめ登録されていることを必要とし、登録がされたユーザ端末3には、ユーザを識別するためのユーザID(Identification)が発行されているものとする。
【0053】
但し、上述のような登録なしで、パッケージデータの提供を行うことも可能である。
【0054】
パッケージサーバ1には、ネットワーク2を介して、ユーザ端末3から、所定のパッケージデータを要求するリクエスト信号が送信されてくるようになっており、通信I/F37は、ステップS1において、ユーザ端末3からのリクエスト信号を受信したかどうかを判定する。なお、リクエスト信号には、例えば、それによって要求するパッケージデータのコンテンツ識別子(図4(A))と、ユーザ端末3のユーザIDが含まれているものとする。
【0055】
ステップS1において、ユーザ端末3からのリクエスト信号を受信していないと判定された場合、ステップS1に戻り、リクエスト信号を受信するまで、ステップS1の処理を繰り返す。
【0056】
そして、ステップS1において、ユーザ端末3からのリクエスト信号を受信したと判定された場合、通信I/F37は、その受信したリクエスト信号を、復号部35に供給し、復号部35は、そのリクエスト信号に対して、暗号の解読やプロトコル変換等の処理を施し、返信データ生成部36に供給する。返信データ生成部36は、ステップS2において、復号部35からのリクエスト信号に含まれるコンテンツ識別子のパッケージデータを検索するように、検索部32を制御する。
【0057】
なお、返信データ生成部36には、リクエスト信号に含まれるユーザIDが登録されているものであるかどうかを確認させ、登録されていないものである場合には、例えば、以降の処理を行わないようにすることができる。
【0058】
検索部32は、返信データ生成部36の制御にしたがい、リクエスト信号に含まれるコンテンツ識別子を、データベース31のルックアップテーブル(図4(A))から検索し、さらに、そのコンテンツ識別子に対応付けられているポインタが示しているエントリのパッケージデータを、データベース31から読み出し、返信データ生成部36に供給する。
【0059】
返信データ生成部36は、ステップS3において、検索部32からのパッケージデータに、ユーザ端末3からのリクエスト信号に含まれていたユーザIDや、パッケージサーバ1を識別するためのサーバID等を配置することにより、返信データを生成し、検索部32を介して、符号化/暗号化部34に供給する。
【0060】
符号化/暗号化部34は、検索部34を介して供給される返信データに対して、プロトコル変換や必要な暗号化等の処理を施し、通信I/F37に供給する。通信I/F37は、ステップS4において、符号化/暗号化部34からの返信データを、ネットワーク2を介して、リクエスト信号を送信してきたユーザ端末3に送信し、ステップS1に戻り、以下、同様の処理を繰り返す。
【0061】
次に、図8は、図1のユーザ端末3の構成例を示している。
【0062】
制御部41は、イベント検出セレクタ部43において、例えば、処理の終了を指示するイベント等が検出された場合に、その処理の終了のための制御等を行う。なお、制御部41は、ユーザ端末3を構成する各ブロックの制御を行うが、その制御を表す矢印等は、図が煩雑になるのを避けるために省略してある。
【0063】
指示部42は、例えば、マウス等のポインティングデバイスで構成され、カーソルを移動等するときに操作される。なお、指示部42は、その他、例えば、キーボード等で構成したり、あるいは、マイクおよび音声認識装置で構成することも可能である。
【0064】
イベント検出セレクタ43は、指示部42が操作等されることにより与えられるイベントを検出し、そのイベントに応じて、そのイベントに対応するイベント信号を、制御部41や、データ検索部44、選択指示検出部45、リクエスト信号生成部46、コンテンツ識別子蓄積部47等に供給する。
【0065】
ここで、イベントとしては、例えば、指示部42としてのマウスのクリックや、ダブルクリック、ドラッグ等がある。なお、本実施の形態では、指示部42としてのマウスは、例えば、左右の2つのボタンを有するものとし、イベント検出セレクタ43は、左ボタンが操作されることによるクリック(左クリック)と、右ボタンが操作されることによるクリック(右クリック)とを、異なるイベントとして検出するものとする。
【0066】
データ検索部44は、イベント検出セレクタ部43から供給されるイベント信号等に基づいて、記憶部52に記憶されたパッケージデータを構成するサブデータ等を検索し、選択指示検出部45および表示部51に供給する。
【0067】
選択指示検出部45は、イベント検出セレクタ部43から供給されるイベント信号に基づいて、表示部51に表示されたサブデータとしてのテキストデータの中から、ユーザによる指示部42の操作によって選択されたものを、データ検索部44からのサブデータを参照することで検出し、その検出されたテキストデータに対応するリンクデータを、リクエスト信号生成部46に供給する。
【0068】
リクエスト信号生成部46は、選択指示検出部45から供給されるリンクデータとしてのコンテンツ識別子を含むリクエスト信号を生成し、符号化/暗号化部48に供給する。また、リクエスト信号生成部46は、イベント検出セレクタ部43からのイベント信号に基づいて、コンテンツ識別子蓄積部47に蓄積されたコンテンツ識別子を含むリクエスト信号を生成し、符号化/暗号化部48に供給する。
【0069】
コンテンツ識別子蓄積部47は、イベント検出セレクタ部43からのイベント信号に基づいて、指示部42としてのマウスのドラッグが開始されたときのカーソルが位置している、Webページのコンテンツを識別するコンテンツ識別子としてのURLやファイル名を認識して記憶する。なお、コンテンツ識別子蓄積部47は、ここでは、常に、最新のコンテンツ識別子(最後にドラッグされたコンテンツのコンテンツ識別子)を記憶する。
【0070】
符号化/暗号化部48は、リクエスト信号生成部46からのリクエスト信号に対して、パッケージサーバ1(図3)の符号化/暗号化部34と同様の処理を施し、通信I/F49に供給する。
【0071】
通信I/F49は、符号化/暗号化部48からのリクエスト信号を、ネットワーク2を介して、パッケージサーバ1に送信するとともに、ネットワーク2を介してパッケージサーバ1から送信されてくる返信データを受信して、復号部50に供給する。
【0072】
復号部50は、通信I/F49からの返信データに対して、パッケージサーバ1(図3)の復号部35と同様の処理を施し、表示部51および記憶部52に供給する。
【0073】
表示部51は、データ検索部44から供給されるサブデータや、復号部51から供給される返信データとしてのパッケージデータのメインデータ等を表示する。
【0074】
記憶部52は、復号部50から供給される返信データとしてのパッケージデータを記憶する。
【0075】
なお、ユーザ端末3は、WWWブラウザとして機能するためのブロックも有するが、図8においては(後述する図18および図67においても同様)、図が煩雑になるのを避けるため、その図示は省略してある。
【0076】
次に、図9のフローチャートおよび図10乃至図14を参照して、図8のユーザ端末3の処理について説明する。
【0077】
ユーザ端末3が、パッケージサーバ1からのパッケージデータの提供を受けるためのアプリケーションプログラム(専用ブラウザ62)を起動するように操作されると、表示部51において、例えば、図10に示すように、パッケージデータの提供を受けるための専用ブラウザ62のウインドウと、必要に応じて、WWWブラウザ60のウインドウとがオープンされる。
【0078】
WWWブラウザ60では、ユーザにより指定されたURL、またはあらかじめ設定されたURLのWebページが、ネットワーク2を介して、WWWサーバ4に要求され、その結果、WWWサーバ4から送信されてくるWebページが表示される。
【0079】
ここで、専用ブラウザ62は、リンク表示部62Aとアイコン登録部62Bとから構成される。即ち、本実施の形態では、専用ブラウザ62のウインドウの下部が、アイコン登録部62Bとされており、残りの上部が、リンク表示部62Aとされている。
【0080】
表示部51には、WWWブラウザ60および専用ブラウザ62(のウインドウ)の他、指示部42により操作可能なカーソル61も表示され、ステップS11では、イベント検出セレクタ部43が、指示部42としてのマウスが操作されることにより、WWWブラウザ60に表示されたWebページのいずれかのコンテンツがドラッグされ、さらに、専用ブラウザのアイコン登録部62B上でドロップされるというイベントが生じたかどうか、即ち、ドラッグアンドドロップが行われたかどうかを判定する。
【0081】
ステップS11において、ドラッグアンドドロップが行われたと判定された場合、ステップS12に進み、イベント検出セレクタ部43は、その旨のイベント信号を、リクエスト信号生成部46に供給し、リクエスト信号生成部46は、イベント検出セレクタ部43からのイベント信号に基づき、コンテンツ識別子蓄積部47を参照することで、ドラッグが開始されたときのカーソルが位置していた、Webページのコンテンツのコンテンツ識別子を検出する。
【0082】
そして、ステップS13に進み、リクエスト信号生成部46は、ステップS12で検出したコンテンツ識別子と、ユーザ端末3(のユーザ)に割り当てられたユーザIDとを含む、そのコンテンツ識別子に対応するパッケージデータを要求するリクエスト信号を生成し、符号化/暗号化部48を介して、通信I/F49に供給する。通信I/F49は、ステップS14において、符号化/暗号化部48を介して供給されるリクエスト信号を、ネットワーク2を介して、パッケージサーバ1に送信する。
【0083】
その後、ステップS15に進み、イベント検出セレクタ部43は、後述するようにして、専用ブラウザ62のリンク表示部62Aまたはアイコン登録部62Bに表示されたアイコン上に、カーソル61が移動され、指示部42としてのマウスが、例えば、右クリックされるというイベントが生じたかどうかを判定し、右クリックされていないと判定した場合、ステップS21に進む。
【0084】
ステップS21では、通信部I/F49が、ステップS14または後述するステップS20において送信されたリクエスト信号に対応してパッケージサーバ1が送信してくるパッケージデータとしての返信データを受信したかどうかを判定する。
【0085】
ステップS21において、返信データを受信したと判定された場合、通信I/F49は、その返信データとしてのパッケージデータを、復号部50を介して、表示部51および記憶部52に供給し、ステップS22に進む。
【0086】
ステップS22では、記憶部52は、復号部50を介して供給されるパッケージデータを記憶し、ステップS23に進む。ステップS23では、表示部51は、復号部50を介して供給されるパッケージデータを構成するアイコンデータに対応するアイコンを、専用ブラウザ62のリンク表示部62Aまたはアイコン登録部62Bに表示し、ステップS24に進む。
【0087】
ここで、パッケージサーバ1(のデータベース31)は、Webページを構成するコンテンツを象徴するアイコン(例えば、コンテンツが、gif形式の画像データ等であれば、その画像を縮小したアイコン)に対応するアイコンデータを有するパッケージデータを、そのコンテンツと同一のコンテンツ識別子に対応付けて記憶しており、従って、例えば、図11に示すように、WWWブラウザ60に表示されたWebページの画像コンテンツが、専用ブラウザ62のアイコン登録部62Bにドラッグアンドドロップされた場合には、ステップS11乃至S15,S21乃至S23の順で処理が行われ、その結果、アイコン登録部62Bには、その画像コンテンツを象徴するアイコン63が表示される。
【0088】
ステップS24では、イベント検出セレクタ部43は、指示部42としてのマウスが、専用ブラウザをクローズするように操作されたかどうかを判定し、そのような操作が行われていないと判定した場合、ステップS11に戻り、以下、同様の処理を繰り返す。
【0089】
一方、ステップS15において、専用ブラウザ62のリンク表示部62Aまたはアイコン登録部62Bに表示されたアイコン上に、カーソル61が移動され、指示部42としてのマウスが右クリックされるというイベントが生じたと判定された場合、ステップS16に進み、イベント検出セレクタ部34は、右クリックされた旨のイベント信号を、データ検索部44に供給することにより、その右クリックされたときにカーソル61が位置していたアイコンに対応するアイコンデータと組になっているテキストデータを、記憶部52から検索させる。
【0090】
データ検索部44は、記憶部52からテキストデータを検索すると、ステップS17において、そのテキストデータを項目とするプルダウンメニューを作成し、表示部51に表示させる。
【0091】
ここで、例えば、図11において、アイコン登録部62Bに表示されたアイコン63が、例えば、アーティストの顔写真である場合には、そのアイコン63に対応するアイコンデータは、そのアーティストが歌っている曲の曲名を表すテキストデータと組になってパッケージデータを構成しており、従って、そのようなアイコンに対して右クリックがされた場合には、図12(A)に示すように、テキストデータとしての曲名を項目とするプルダウンメニュー64が表示される。
【0092】
表示部51においてプルダウンメニューが表示された後は、ステップS17からS18に進む。そして、イベント検出セレクタ部43は、ユーザが指示部42を操作することにより、プルダウンメニューのいずれかの項目を選択した場合には、ステップS18において、その選択があったことを検出し、対応するイベント信号を、データ検索部44および選択指示検出部45に供給する。データ検索部44は、このイベント信号を受信すると、ユーザが指示部42を操作することにより選択したプルダウンメニューの項目のテキストデータに対応するリンクデータを、記憶部52から検索し、選択指示検出部45に供給する。選択指示検出部45は、データ検索部44からのリンクデータとしてのコンテンツ識別子を、リクエスト信号生成部46に供給し、これにより、リクエスト信号生成部46は、ステップS19において、選択指示検出部45からのコンテンツ識別子を含むリクエスト信号を生成する。
【0093】
さらに、リクエスト信号生成部46は、ステップS19で生成したリクエスト信号を、符号化/暗号化部48を介して、通信I/F49に供給する。通信I/F49は、ステップS20において、符号化/暗号化部48を介して供給されるリクエスト信号を、ネットワーク2を介して、パッケージサーバ1に送信する。その後、ステップS21に進み、以下、同様の処理が繰り返される。そして、ステップS24において、指示部42としてのマウスが、専用ブラウザ62をクローズするように操作されたと判定されると、制御部41は、WWWブラウザ60および専用ブラウザ62をクローズし、処理を終了する。
【0094】
従って、例えば、図12(A)に示したように、曲名のプルダウンメニューが表示されている場合において、図12(B)に示すように、カーソル61が、そのうちの曲名「△△△」に移動されて左クリック等されることにより選択されると、その曲名「△△△」を表すテキストデータに対応するリンクデータとしてのコンテンツ識別子が、パッケージサーバ1に送信される。
【0095】
そして、例えば、いま、曲名を表すテキストデータに対応するリンクデータとしてのコンテンツ識別子に対応付けられているパッケージデータが、その曲が収められているアルバムのジャケット写真を縮小したアイコンデータを有するものであるとすると、パッケージサーバ1からは、そのようなパッケージデータが、返信データとして、ユーザ端末3に送信されてくる。
【0096】
このパッケージデータは、上述したように、ステップS22で記憶部52で記憶され、さらに、そのパッケージデータのアイコンデータに対応するアイコンは、表示部51に表示される。
【0097】
即ち、これにより、図13(A)に示すように、専用ブラウザ62には、ユーザにより選択された曲名の曲が収められているアルバムのジャケット写真を縮小したアイコン65が表示される。
【0098】
ここで、本実施の形態では、WWWブラウザ60上のコンテンツを、アイコン登録部62B上にドラッグアンドドロップした場合には、そのコンテンツに対応するアイコンが、アイコン登録部62Bに表示される。一方、パッケージデータのテキストデータ(サブデータ)からリンクがはられているパッケージデータが有するアイコンデータに対応するアイコンは、リンク表示部62Aに表示される。このため、アイコン登録部62Bに表示されたアイコン63を右クリックすることにより表示されるプルダウンメニュー64(図12)から選択された曲名としてのテキストデータからリンクされているパッケージデータが有するアイコンデータに対応するジャケット写真のアイコン65は、図13(A)に示したように、専用ブラウザ62のリンク表示部62Aに表示される。
【0099】
また、アイコン登録部62Bに表示されたアイコンは、そのアイコン登録部62上に登録され、専用ブラウザ62がクローズされても、そのアイコンに対応するアイコンデータを有するパッケージデータは、記憶部52に記憶されたままにされる。これに対して、リンク表示部62Aに表示されたアイコンを有するパッケージデータは、例えば、専用ブラウザ62がクローズされるときに、記憶部52から消去される。従って、その後、再び、専用ブラウザ62がオープンされると、アイコン登録部62Bに登録されたアイコンは表示されるが、リンク表示部62Aに表示されていたアイコンは表示されない。
【0100】
リンク表示部62Aに表示された、ジャケット写真のアイコン65上にカーソル61を移動し、操作部42としてのマウスを左クリックすると、上述した場合と同様にして、図13(B)に示すように、そのアイコン65に対応するアイコンデータと組になっているテキストデータによる項目からなるプルダウンメニュー66が表示される。
【0101】
プルダウンメニュー66は、アイコン65に象徴されるアルバムの内容の視聴、購入、歌詞の表示(歌詞表示)の各項目からなり、図13(C)に示すように、例えば、ユーザが、そのうちの購入の項目上にカーソル61を移動して、指示部42を左クリックすることにより、アイコン65で象徴されるアルバムに収められている曲のデータを購入することを選択すると、上述した場合と同様にして、ユーザ端末3からリクエスト信号が送信され、さらに、そのリクエスト信号に応じて、購入の項目のテキストデータからリンクされているパッケージデータが、パッケージサーバ1からユーザ端末3に送信される。そして、リンク表示部62Aにおいては、図13(D)に示すように、そのパッケージデータが有するアイコンデータに対応するアイコン67が、例えば、リンク表示部62Aの最後に表示されたアイコン65の右隣に表示される。
【0102】
ここで、図13(C)に示したプルダウンメニューの購入の項目のテキストデータからは、曲のデータを購入する際の決済を象徴するアイコン67のアイコンデータを有するパッケージデータにリンクがはられており、図13(D)では、そのようなアイコン67が、リンク表示部62Aに表示されている。
【0103】
さらに、リンク表示部62Aに表示された、決済を象徴するアイコン67上にカーソル61を移動し、操作部42としてのマウスをクリックすると、上述した場合と同様にして、図14(A)に示すように、そのアイコン67に対応するアイコンデータと組になっているテキストデータによる項目からなるプルダウンメニュー68が表示される。
【0104】
プルダウンメニュー68は、アイコン67に象徴される決済の方法としてのクレジットカードによる支払い、電子マネーによる支払い、コンビニエンスストアでの支払い(コンビニ決済)の各項目からなり、ユーザが、そのうちのいずれかの項目上にカーソル61を移動して、指示部42を左クリックすることにより、曲のデータの決済方法を選択すると、専用ブラウザ62は、その選択された決済方法に対応する処理を行う。
【0105】
即ち、例えば、クレジットカードによる支払いが選択された場合には、ユーザ端末3の専用ブラウザ62は、クレジットカードの番号等を入力するためのダイアログボックスを表示し、その入力を待って、ユーザがデータの購入を選択した曲を表す曲識別情報とともに、購入情報として、パッケージサーバ1に送信する。
【0106】
購入情報のうち、クレジットカードの番号は、パッケージサーバ1(図3)の課金処理部38で課金処理され、後日、曲のデータの代金の引き落としが行われる。
【0107】
さらに、パッケージサーバ1は、ユーザ端末3からの購入情報のうちの曲識別情報によって特定される曲のデータを、図示せぬデータベースや、ネットワーク2上の図示せぬサーバから取得し、ユーザ端末3に送信する。
【0108】
ユーザ端末3は、以上のようにしてパッケージサーバ1から送信されてくる曲のデータのダウンロードを行い、例えば、図示せぬ携帯型のメモリ等に記憶させる。
【0109】
以上のように、専用ブラウザ62では、情報等を象徴するアイコンが表示され、さらに、そのアイコンに付随してプルダウンメニューが表示される。そして、そのプルダウンメニューの項目を選択すると、その項目に対応するテキストデータからリンクされているパッケージデータが有するアイコンが表示されることが繰り返されるので、ユーザは、同一操作により、所望の情報に辿り着くこと等が可能となる。
【0110】
なお、パッケージサーバ1においては、曲のデータの送信を開始する直前に、データのダウンロード中であることを象徴するアイコン69のアイコンデータ(パッケージデータではない)を、ユーザ端末3に送信するようにすることができ、この場合、ユーザ端末3の専用ブラウザ62では、図14(B)に示すように、アイコン69を、例えば、リンク表示部62Aの最後に表示されたアイコン67の右隣に表示するようにすることができる。また、パッケージサーバ1においては、アイコン69のアイコンデータを有するパッケージデータに、プルダウンメニュー68の各項目に対応するテキストデータからリンクをはっておき、そのうちのいずれかの項目が左クリックされたときに、アイコン69のアイコンデータを有するパッケージデータを、ユーザ端末3に送信するようにすることも可能である。
【0111】
さらに、上述の場合には、リンク表示部62Aにおいて、新たなアイコンを、最後に表示されたアイコンの右隣に表示するようにしたが、新たなアイコンは、既にリンク表示部62Aに表示されているアイコンに上書きする形で表示することも可能である。
【0112】
また、アイコン登録部62Bは、複数の領域に分けることができ、この場合、各領域には、同一のカテゴリの情報に関するアイコンを登録することが可能である。即ち、アイコン登録部62では、例えば、音楽や、映画、ニュースといった各カテゴリのアイコンを、そのカテゴリごとに異なる領域に登録して表示することが可能である。
【0113】
さらに、上述の場合には、専用ブラウザ62(のウインドウ)を、リンク表示部62Aとアイコン登録部62Bの2つの領域に分けるようにしたが、専用ブラウザ62は、そのように領域を分けずに、1つの領域で構成することも可能である。
【0114】
また、上述の場合には、専用ブラウザ62がクローズされたときに、記憶部52において、アイコン登録部62Bに表示されたアイコンを有するパッケージデータのみを記憶しておき、リンク表示部62Aに表示されたアイコンを有するパッケージデータは消去するようにしたが、すべてのパッケージデータを、記憶部52に記憶させておくことも可能である。この場合、再度、専用ブラウザ62がオープンされると、専用ブラウザ62には、アイコン登録部62Bに登録されたアイコンと、そのアイコンを、いわば開始点として、ユーザが辿っていったパッケージデータが有するアイコンのシーケンスが表示されるから、例えば、URLのような、あるWebページを特定するための情報ではなく、ユーザが辿っていったリンクの、いわゆるブックマークが、アイコンという視覚に訴えるメディアで実現されることになる。なお、アイコン登録部62Bには、WWWブラウザ60上に表示されたWebページを構成するコンテンツを象徴するアイコンが登録されるが、この点に注目すれば、Webページ単位ではなく、コンテンツ単位のブックマークが実現されていることになる。
【0115】
さらに、上述の場合には、専用ブラウザ62に表示されたアイコン上に、カーソル61を移動し、右クリックをしたときに、そのアイコンに対応するアイコンデータと組になっているテキストデータでなるプルダウンメニューを表示するようにしたが、プルダウンを表示する際のイベントは、右クリックに限定されるものではなく、その他、例えば、カーソル61が、アイコン上に位置するときに、プルダウンメニューを表示するようにすることも可能である。プルダウンメニューの項目の選択等の他のアクションを起動するときのイベントについても、同様に、上述したイベントに限定されるものではない。
【0116】
また、上述の場合には、パッケージサーバ1において、最終的に、曲のデータのダウンロードが行われるときに、その曲のデータに対する対価として、課金を行うようにしたが、パッケージデータの提供に対しても、必要に応じて、課金を行うようにすることが可能である。
【0117】
さらに、上述の場合には、曲のデータのダウンロードを行うようにしたが、曲のデータ等の音声データ(オーディオデータ)の他、例えば、映画等の画像データ(ビデオデータ)や、プログラム等のダウンロードを行うようにすることも可能である。ここで、上述の場合には、曲のデータのダウンロードを、パッケージサーバ1から行うようにしたが、曲のデータのダウンロードは、ネットワーク2上のその他のサーバから行うようにすることも可能である。
【0118】
また、ユーザ端末3においては、パッケージサーバ1からダウンロードして、記憶部52に記憶させたパッケージデータは更新することが可能である。即ち、例えば、パッケージサーバ1(図3)において、データベース31に記憶されたパッケージデータのアイコンデータやテキストデータが更新される場合には、その更新後のパッケージデータによって、ユーザ端末3の記憶部52のパッケージデータを更新することが可能である。
【0119】
記憶部52のパッケージデータの更新方法としては、いわゆるプッシュ技術を利用することができる。即ち、例えば、リクエスト信号生成部46において、定期的または非定期に、記憶部52に記憶されたパッケージデータに対応するコンテンツ識別子を含むリクエスト信号を生成して、パッケージサーバ1に送信し、そのリクエスト信号に対応して、パッケージサーバ1から送信されてくるパッケージデータによって、記憶部52に記憶されたパッケージデータを更新することができる。
【0120】
その他、例えば、ユーザ端末3に、固有の端末IDを割り当て、パッケージサーバ1において、ユーザ端末3がダウンロードしたパッケージデータのコンテンツ識別子を、そのユーザ端末3の端末IDと対応付けて記憶しておくようにする一方、ユーザ端末3において、例えば、インターネットであるネットワーク2に接続したときに、ユーザ端末3に割り当てられるIP(Internet Protocol)アドレスを端末IDと対応付けて、パッケージサーバ1に送信することによっても、記憶部52に記憶されたパッケージデータの更新を実現することができる。
【0121】
即ち、この場合、パッケージサーバ1では、ユーザ端末3からIPアドレスと端末IDとを受信したときに、その端末IDと対応付けられているコンテンツ識別子のパッケージデータのうちの更新されているものを検出し、その更新されているパッケージデータを、端末IDとともに送信されてきたIPアドレスを宛先として送信することにより、ユーザ端末3では、記憶部52に記憶されたパッケージデータのうち、更新されたものを受信することができる。
【0122】
以上のように、ユーザ端末3の記憶部52に記憶されたパッケージデータを更新する場合には、専用ブラウザ62に表示されるアイコンや、そのアイコンに付随して表示されるプルダウンメニューの項目が、適宜、あるいは時々刻々と変化し、ユーザに興味を持たせることが可能となる。
【0123】
ところで、上述の場合には、パッケージデータを構成するメインデータがアイコンデータであり、そのメインデータと組になっているサブデータがテキストデータであるから、ユーザは、そのテキストデータでなるプルダウンメニューを見ることによって、テキストにより情報の認識をすることができる。
【0124】
即ち、例えば、図12に示したように、アーティストの顔写真のアイコン63を右クリックすることで表示されるプルダウンメニュー64には、そのアーティストが歌っている曲の曲名がテキストで表示されるから、ユーザは、曲名をテキストで知ることができる。しかしながら、テキストによる曲名を知りたいユーザだけではなく、実際に曲を聴いてみたいユーザや、アーティストの曲が収められているアルバムのジャケットの画像を見たいユーザ等がいる。
【0125】
そこで、パッケージサーバ1のデータベース31には、テキストや、画像データ、音声データ等の複数のメディアのデータのうちのいずれかをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータをサブデータとして構成したパッケージデータを記憶させ、パッケージサーバ1からユーザ端末3に対して、そのようなパッケージデータを提供するようにすることが可能である。
【0126】
この場合、データベース31のデータ記憶部における各エントリには、図15に示すようなパッケージデータが記憶される。
【0127】
即ち、この場合、パッケージデータは、その先頭から、例えば、ヘッダ、メインデータとしての画像データ、テキストデータ、または音声データのうちのいずれか、サブデータとしてのテキストデータおよびテキスト用リンクデータ、画像データおよび画像用リンクデータ、並びに音声データおよび音声用画像データが順次配置されて構成されている。
【0128】
ヘッダ、テキストデータ、テキスト用リンクデータは、図4(B)に示したパッケージデータのヘッダ、テキストデータ、リンクデータとそれぞれ同様のものである。
【0129】
メインデータとしては、ここでは、例えば、画像データ、テキストデータ、音声データのうちのいずれかを用いることができる。なお、メインデータとして画像データまたはテキストデータが用いられる場合には、そのメインデータとしての画像データまたは音声データは表示可能であるが、メインデータとして音声データが用いられる場合には、そのメインデータとしての音声データは表示することができないため、その音声データを象徴するようなアイコンが表示される。このため、メインデータとして音声データが用いられる場合には、そのメインデータには、音声データの他、その音声データを象徴するようなアイコンのアイコンデータも含まれる。但し、メインデータとしての画像データやテキストデータについても、それらを象徴するようなアイコンのアイコンデータを含めることが可能である。
【0130】
サブデータとしての画像データと画像用リンクデータ、または音声データと音声用リンクデータは、メディアがテキストではなく、画像または音声であるという点を除けば、図4(B)に示したパッケージデータのテキストデータとリンクデータと同様のものなので、その説明は省略する。
【0131】
従って、この場合、パッケージデータは、図16に示すように、メインデータとなる画像データ、音声データ、またはテキストデータのうちの1つと、パッケージデータへのリンクを表すリンクデータが対応付けられた必要な数のテキストデータ#1乃至#M1、画像データ#1乃至#M2、および音声データ#1乃至#M3との組で構成される。そして、この場合も、パッケージデータは、サブデータである各テキストデータ、画像データ、音声データから、他の(自分自身であっても良い)パッケージデータにリンクをはることができるから、パッケージデータを基本単位として、複数のパッケージデータからなるリンク構造を構成することができる。
【0132】
具体的には、例えば、図16に示したように、パッケージデータのメインデータを◎印で、サブデータとしてのテキストデータを□印で、画像データを○印で、音声データを△印で、それぞれ表すとすると、上述のようなマルチメディアのデータで構成されるパッケージデータであっても、図17に示すように、パッケージデータを構成するサブデータとしての各メディアのデータから、他のパッケージデータにリンクをはることができる。そして、そのようなリンク付けを繰り返し行うことにより、やはり、理論的には、無限のパッケージデータがリンクされているリンク構造を実現することができる。
【0133】
なお、図17では、図が煩雑になるのを避けるため、各メインデータ(◎印)が、サブデータとしての1つずつのテキストデータ(□印)、画像データ(○印)、音声データ(△印)と組になっているパッケージデータを示してある。
【0134】
また、このように、マルチメディアのデータで構成されるパッケージデータ(以下、適宜、マルチメディアパッケージデータという)であっても、図6における場合と同様に、そのリンク構造は、木構造とすることも、また、ループが形成されるような構造等とすることも可能である。
【0135】
次に、図18は、パッケージサーバ1が、マルチメディアパッケージデータを提供する場合のユーザ端末3の構成例を示している。なお、図中、図8における場合と対応する部分については、同一の符号を付してある。
【0136】
即ち、図18のユーザ端末3は、マルチメディアパッケージデータを構成する音声データを出力するスピーカ53が設けられている他は、基本的に、図8における場合と同様に構成されているので、その説明は省略する。
【0137】
次に、図19のフローチャート、並びに図20乃至図22を参照して、図18のユーザ端末3(専用ブラウザ62)の処理について説明する。
【0138】
ユーザ端末3では、ステップS31乃至S43において、基本的には、図9のステップS11乃至S23における場合とそれぞれ同様の処理が行われる。
【0139】
但し、ステップS41において、パッケージサーバ1から返信データとしてのマルチメディアパッケージデータを受信したと判定された場合には、ステップS42に進み、そのマルチメディアパッケージデータが、記憶部52に記憶され、さらに、ステップS43に進み、そのマルチメディアパッケージデータのメインデータとなっている画像データ、音声データ、若しくはテキストデータを象徴するアイコンが、表示部51にオープンされた専用ブラウザ62に表示されるか、または、その画像データ、音声データ、若しくはテキストデータが、表示部51で表示され、あるいはスピーカ53から出力される。
【0140】
また、ステップS35において、専用ブラウザ62に表示されたメインデータを象徴するアイコンに対して、右クリックのイベントが与えられたと判定された場合には、ステップS36に進み、データ検索部44において、そのメインデータと組になっているサブデータが、記憶部52から検索され、ステップS37に進む。ステップS37では、データ検索部44で検索されたサブデータとなっているテキストデータ、画像データ、または音声データが、必要に応じて、表示部51で表示され、あるいはスピーカ53から出力される。なお、このとき、専用ブラウザ62では、その他の必要な表示が行われる。即ち、例えば、サブデータとしてのテキストデータが、プルダウンメニューの項目を構成するものである場合には、そのプルダウンメニューの表示が行われる。また、例えば、サブデータとしての音声データについては、その再生等の制御や音声データの選択等のためのボタンの表示が行われる。
【0141】
そして、その後に行われるステップS38では、ユーザが指示部42を操作することにより、サブデータのいずれかを選択した場合には、イベント検出セレクタ部43において、そのサブデータの選択が検出され、対応するイベント信号が、データ検索部44および選択指示検出部45に供給される。データ検索部44は、このイベント信号を受信すると、ユーザが指示部42を操作することにより選択したサブデータに対応するリンクデータを、記憶部52から検索し、選択指示検出部45に供給する。選択指示検出部45は、データ検索部44からのリンクデータとしてのコンテンツ識別子を、リクエスト信号生成部46に供給し、これにより、リクエスト信号生成部46は、ステップS39において、選択指示検出部45からのコンテンツ識別子を含むリクエスト信号を生成する。
【0142】
このリクエスト信号は、ステップS40において、パッケージサーバ1に送信され、パッケージサーバ1は、そのリクエスト信号に含まれるコンテンツ識別子で特定されるマルチメディアパッケージデータを、返信データとして、ユーザ端末3に送信する。そして、ステップS41において、この返信データとしてのマルチメディアパッケージデータが、ユーザ端末3の通信I/F49で受信されたと判定されると、以下、上述したように、ステップS42において、そのマルチメディアパッケージデータが記憶部52に記憶され、さらに、ステップS43において、そのマルチメディアパッケージデータのメインデータとなっている画像データ、音声データ、若しくはテキストデータを象徴するアイコンが、表示部51にオープンされた専用ブラウザ62に表示されるか、または、その画像データ、音声データ、若しくはテキストデータが、表示部51で表示され、あるいはスピーカ53から出力される。
【0143】
従って、例えば、図20に示すように、WWWブラウザ60に表示されたWebページの画像コンテンツが、専用ブラウザ62のアイコン登録部62Bにドラッグアンドドロップされた場合には、その画像コンテンツのコンテンツ識別子で特定されるマルチメディアパッケージデータが、パッケージサーバ1からダウンロードされ、そのマルチメディアパッケージデータのメインデータが、専用ブラウザ62のアイコン登録部62Bに表示される。
【0144】
ここで、図20では、ドラッグアンドドロップされた画像コンテンツのコンテンツ識別子で特定されるマルチメディアパッケージデータのメインデータが画像データとされており、アイコン登録部62Bでは、その画像データに対応する画像71が表示されている。なお、メインデータが音声データやテキストデータである場合には、その音声データに対応する音声をスピーカ53から出力し、あるいはそのテキストデータに対応するテキストを表示部51で表示する他、その音声データやテキストデータを象徴するアイコンを、アイコン登録部62Bに表示することが可能である。また、メインデータが画像データの場合であっても、同様に、アイコン登録部62Bには、その画像データを象徴するアイコンを表示するようにすることが可能である。
【0145】
専用ブラウザ62のアイコン登録部62Bに、画像71が表示された後に、その画像71上にカーソル61を移動して、右クリックを行うと、図21に示すように、サブデータが出力(表示部51における表示と、スピーカ53からの出力の両方を含む)され、さらに、必要な表示が行われる。
【0146】
即ち、図21では、サブデータとしてのテキストデータを項目とするプルダウンメニュー72が、表示部51に表示されている。また、図21では、サブデータとしての画像73が、表示部51に表示されている。さらに、図21では、サブデータとしての音声が、スピーカ53から出力され、その音声の再生制御や選択を行うための操作パネル74が、表示部51に表示されている。
【0147】
なお、図21において、メインデータとしての画像71は、アーティストの顔写真の画像であり、サブデータとしてのプルダウンメニュー72は、そのアーティストが歌っている曲名を表すテキストで構成されている。また、サブデータとしての画像73は、プルダウンメニュー72の項目となっている曲名の曲が収められているアルバムのジャケット写真の画像で構成されている。さらに、サブデータとしての音声データは、プルダウンメニュー72の項目となっている曲名の曲の先頭部分の音声データをつなぎ合わせたものとなっており、従って、スピーカ53からは、プルダウンメニュー72の項目となっている曲名の曲の先頭部分が順次出力される。また、図21において、操作パネル74は、スピーカ53から出力される曲の巻き戻しを指示する巻き戻しボタン74A、早送りを指示する早送りボタン74B、再生を指示する再生ボタン74C、停止を指示する停止ボタン74D、選択を指示する選択ボタン74Eから構成されている。
【0148】
従って、ユーザは、テキストによって曲名を知ることもできるし、実際に曲を聴いてみることもできる。さらには、曲が収められているアルバムのジャケットの画像を見ることもできる。
【0149】
スピーカ53からサブデータとしての曲の先頭部分が順次再生されている場合において、ユーザが、カーソル61を、選択ボタン74E上に移動して、例えば、左クリックを行うと、そのときスピーカ53から再生されていた曲の音声データが選択されたことが検出され、その音声データに対応する音声用リンクデータとしてのコンテンツ識別子が、リクエスト信号に含められて、パッケージサーバ1に送信される。
【0150】
この場合、例えば、そのコンテンツ識別子により特定されるマルチメディアパッケージデータのメインデータが、ユーザにより選択された曲全体の音声データであるとすると、そのような音声データをメインデータとするマルチメディアパッケージデータが、パッケージサーバ1からユーザ端末3に送信され、ユーザ端末3では、図22に示すように、そのマルチメディアパッケージデータのメインデータとなっている音声データを象徴するアイコン75が、専用ブラウザ62のリンク表示部62Aに表示され、さらに、その音声データに対応する曲が、スピーカ53から出力される。
【0151】
専用ブラウザ62のリンク表示部62Aに、アイコン75が表示された後に、そのアイコン75上にカーソル61を移動して、右クリックを行うと、図22に示すように、サブデータが出力され、さらに、必要な表示が行われる。
【0152】
即ち、図22では、サブデータとしてのテキストデータを項目とするプルダウンメニュー76が、表示部51に表示されている。また、図22では、サブデータとしての画像77が、表示部51に表示されている。さらに、図22では、サブデータとしての音声の再生制御や選択を行うための操作パネル78が、表示部51に表示されている。
【0153】
なお、図22において、サブデータとしてのプルダウンメニュー76は、そのサブデータと組になっているメインデータとしての音声データに対応する曲に対する各解説者の解説内容を表すテキストで構成されている。また、サブデータとしての画像77は、プルダウンメニュー76の項目となっている解説を行った角解説者の写真の画像で構成されている。
【0154】
さらに、図22において、サブデータとしての音声データは、プルダウンメニュー76の項目となっている各解説の音声データをつなぎ合わせたものとなっている。但し、マルチメディアパッケージデータがダウンロードされた直後においては、スピーカ53からは、そのマルチメディアパッケージデータのメインデータである音声データに対応する曲が出力されており、そのサブデータである音声データに対応する解説は出力されていない。
【0155】
このサブデータである音声データに対応する解説は、例えば、操作パネル78が操作されることにより、スピーカ53から出力される。即ち、操作パネル78は、図21の操作パネル74が有する巻き戻しボタン74A、早送りボタン74B、再生ボタン74C、停止ボタン74D、または選択ボタン74Eそれぞれと同一構成の巻き戻しボタン78A、早送りボタン78B、再生ボタン78C、停止ボタン78D、または選択ボタン78Eを有しており、例えば、再生ボタン78Cがクリックされると、メインデータとしての音声データに対応する曲の再生が停止され、サブデータとしての音声データに対応する解説の再生が開始される。
【0156】
ここで、サブデータとしての音声データに対応する解説の再生が開始された場合であっても、メインデータとしての音声データに対応する曲の再生を停止せずに、例えば、その音量を、解説の音量よりも十分小さくして、曲の再生を続行することが可能である。
【0157】
以上から、ユーザは、テキストによって曲の解説内容を読むこともできるし、その解説内容を音声で聴くこともできる。さらには、解説を行っている解説者の画像を見ることもできる。
【0158】
なお、上述の場合には、例えば、図21で説明したように、メインデータとしての画像71が、アーティストの顔写真の画像であるときに、そのアーティストが歌っている曲名を表すテキストデータ、その曲が収められているアルバムのジャケット写真の画像データ、およびその曲の音声データを、サブデータとするようにしたが、サブデータとしてのテキストデータ、画像データ、および音声データは、そのような同一内容のデータである必要はなく、異なる内容のデータであっても良い。即ち、例えば、サブデータとしてのテキストデータは、アーティストが歌っている曲の歌詞とし、画像データは、アーティストのビデオクリップとし、音声データは、アーティストが歌っている曲に対する解説者による解説とすることができる。
【0159】
次に、上述の場合においては、パッケージサーバ1からユーザに提供されるマルチメディアパッケージデータについては、そのリンク構造も、また、各マルチメディアパッケージデータの内容も、パッケージサーバ1側で定められており、従って、すべてのユーザに対して、同一の内容で、かつ同一のリンク構造のマルチメディアパッケージデータが提供される。
【0160】
即ち、パッケージサーバ1において、例えば、図23(A)に示すように、マルチメディアパッケージデータa,b,c,d,eの順でリンクがはられている場合には、すべてのユーザは、そのようにリンクを辿っていなければ、マルチメディアパッケージデータeの提供を受けることができない。また、パッケージサーバ1において、例えば、図23(B)に示すように、メインデータと組になっているサブデータとしてのテキストデータや、画像データ、音声データが多数ある場合には、すべてのユーザに対して、そのような多数のサブデータが提供される。
【0161】
ここで、図23において(後述する図24においても同様)、◎印、□印、○印、△印は、図16における場合と同様に、マルチメディアパッケージデータのメインデータ、サブデータとしてのテキストデータ、画像データ、音声データを、それぞれ表す。
【0162】
しかしながら、例えば、マルチメディアパッケージデータaからリンクを辿る場合には、ほぼ確実に、マルチメディアパッケージデータeに辿り着くユーザにとっては、マルチメディアパッケージデータa,b,c,d,eの順で、リンクを辿っていくのは面倒である。また、例えば、サブデータとして、テキストデータと画像データは必要とするが、音声データを不要とするユーザにとっては、サブデータとしての音声データが出力されるのは煩わしい。
【0163】
そこで、パッケージサーバ1においては、マルチメディアパッケージデータのリンク構造や、各マルチメディアパッケージデータの内容を、ユーザごとにカスタマイズして、マルチメディアパッケージデータの提供を行うようにすることができる。
【0164】
即ち、パッケージサーバ1においては、例えば、図24(A)に示すように、マルチメディアパッケージデータaからeに直接リンクがはられるように、リンク構造を変更したり、また、図24(B)に示すように、テキストデータと画像データのみを含み、音声データを含まないように、サブデータの内容を変更して、マルチメディアパッケージデータを提供するようにすることができる。
【0165】
ここで、サブデータについては、その他、例えば、サブデータとしてのテキストデータによるプルダウンメニューの項目の変更(削除および追加を含む)、さらには、プルダウンメニューの項目の順番の変更等のカスタマイズが可能である。なお、サブデータには、リンクデータが付随するから、サブデータとしてのプルダウンメニューの項目(テキストデータ)の追加や削除は、マルチメディアパッケージデータへのリンクの追加や削除でもある。
【0166】
図25は、マルチメディアパッケージデータのリンク構造や、各マルチメディアパッケージデータの内容のカスタマイズ可能なパッケージサーバ1の構成例を示している。なお、図中、図3における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図25のパッケージサーバ1は、ユーザ情報記憶部39が新たに設けられている他は、基本的に、図3における場合と同様に構成されている。
【0167】
ユーザ情報記憶部39では、ユーザに関するユーザ情報が収集されて記憶される。
【0168】
ユーザ情報記憶部39に記憶されるユーザ情報は、図26に示すように、ユーザ嗜好情報(図26(A))と、変更情報(図26(B))とから構成される。
【0169】
ユーザ嗜好情報は、図26(A)に示すように、ユーザを識別するためのユーザIDと、そのユーザからのマルチメディアパッケージデータの要求頻度を表す要求頻度情報とから構成される。そして、要求頻度情報は、マルチメディアパッケージデータのカテゴリごとに分類されている。即ち、例えば、音楽関係のマルチメディアパッケージデータについては、図26(A)に示すように、曲のジャンル(例えば、ポップス、ロック、演歌等)、アーティストの活動地域(例えば、日本、アメリカ合衆国、ヨーロッパ諸国等)、アーティストの性別(男、女)等ごとに、ユーザからのマルチメディアパッケージデータの要求頻度がカウントされ、そのカウント値が、要求頻度情報として登録される。
【0170】
変更情報は、図26(B)に示すように、ユーザIDと、そのユーザIDに対応する要求頻度情報に基づいて作成されたパッケージ内容変更情報およびリンクデータ変更情報とから構成される。
【0171】
パッケージ内容変更情報には、要求頻度情報に基づいてカスタマイズ(変更)されたサブデータの変更内容が登録される。また、リンクデータ変更情報には、要求頻度情報に基づいてカスタマイズされたマルチメディアパッケージデータのリンク構造の変更内容が登録される。
【0172】
図25のパッケージサーバ1では、ユーザ端末3からリクエスト信号が送信されてくると、返信データ生成部36が、そのリクエスト信号に含まれるユーザIDに対応する要求頻度情報であって、そのリクエスト信号によって要求されたマルチメディアパッケージデータのカテゴリに対応するものを更新する。さらに、返信データ生成部36は、その更新後の要求頻度情報に基づいて、パッケージ内容変更情報や、リンク変更情報を更新する。
【0173】
そして、返信データ生成部36は、更新後のパッケージ内容変更情報およびリンク変更情報を考慮して、検索部32にマルチメディアパッケージデータを検索させ、あるいは、検索部32に検索させたマルチメディアパッケージデータの内容を変更して、返信データを構成する。
【0174】
従って、この場合、パッケージサーバ1においては、ユーザが過去に要求したマルチメディアパッケージデータから、そのユーザの嗜好や癖等が収集され、その収集されたユーザの嗜好や癖等に基づいて、マルチメディアパッケージデータのリンク構造や内容がカスタマイズされて、ユーザに提供される。
【0175】
その結果、ユーザは、自身にとって、利便性の高い形で、マルチメディアパッケージデータの提供を受けることができる。
【0176】
さらに、この場合、ユーザは、マルチメディアパッケージデータの提供を受けるにつれて、より自身の嗜好等にあった内容やリンク構造のマルチメディアパッケージデータの提供を受けることが可能となり、自身にとっての利便性が増すことになる。これは、パッケージサーバ1によるサービス提供者からすれば、ユーザがサービスを利用することを維持し続け、さらには、サービスを利用するユーザ数を増加させることができることになる。
【0177】
なお、上述の場合には、パッケージサーバ1において、ユーザの嗜好等を収集し、その収集結果に基づいて、ユーザに提供するマルチメディアパッケージデータのリンク構造や内容を、いわば自動的にカスタマイズするようにしたが、このようなカスタマイズは、ユーザ自身が、パッケージサーバ1に、パッケージ内容変更情報やリンクデータ変更情報を登録して行うようにすることも可能である。但し、ユーザ自身によるカスタマイズが行われ、リンク先が変更された場合には、その変更後のリンク先のマルチメディアパッケージデータ以降にリンクされているマルチメディアパッケージデータは、ユーザに提供しないようにすることが可能である。この場合、ユーザによる、いわば勝手なカスタマイズを抑制することができる。
【0178】
さらに、マルチメディアパッケージデータのリンク先は、マルチメディアパッケージデータではない、例えば、Webページ等に変更することが可能である。また、この場合、そのWebページから、マルチメディアパッケージデータにリンクをはることを禁止するようにすることもできるし、許可するようにすることもできる。
【0179】
さらに、図26に示したユーザ嗜好情報と変更情報とは、ユーザ端末3において作成するようにすることが可能である。この場合、ユーザ端末3において、変更情報を、リクエスト信号に含めて、パッケージサーバ1に送信し、パッケージサーバ1において、そのリクエスト信号に含まれる変更情報に基づいて、リンク構造や内容を変更したマルチメディアパッケージデータを作成して、ユーザ端末3に送信するようにすることができる。この場合も、上述した場合と同様に、ユーザは、自身にとって、利便性の高い形で、マルチメディアパッケージデータの提供を受けることができる。
【0180】
次に、例えば、上述のように、パッケージサーバ1からユーザ端末3に、パッケージデータを提供する場合に、ユーザ端末3におけるパッケージデータの出力に伴って、広告情報を、ユーザに必然的に見せること等ができれば便利である。
【0181】
このように、パッケージデータの出力に伴って、広告情報を、ユーザに必然的に見せる方法としては、例えば、パッケージデータと広告情報とを対応付けて、ユーザ端末3に提供し、ユーザ端末3の専用ブラウザ62において、パッケージデータを出力するとともに、広告情報を出力するようにする方法があるが、この方法では、例えば、ユーザ端末3において、広告情報が、記憶部52から消去された場合には、パッケージデータを出力するときに、広告情報を出力することができなくなる。さらに、広告情報が、記録部52から消去されなくても、パッケージデータのファイルが、専用ブラウザ62以外のアプリケーションで開かれた場合には、やはり、広告情報は出力されない。
【0182】
また、例えば、従来の電子すかしの技術を利用し、パッケージデータを構成する画像データや音声データ等の下位数ビットに、本来のパッケージデータに替えて、広告情報を配置しておき、ユーザ端末3の専用ブラウザ62において、パッケージデータを出力するとともに、広告情報を出力するようにする方法があるが、この方法でも、例えば、ユーザ端末3において、広告情報が下位ビットに配置されたパッケージデータのファイルが、専用ブラウザ62以外のアプリケーションで開かれた場合には、広告情報は出力されない。
【0183】
そこで、ユーザ端末3におけるパッケージデータの出力に伴って、広告情報を、ユーザに必然的に見せる方法としては、例えば、本件出願人が先に提案した埋め込み符号化/復号を利用することができる。
【0184】
ここで、埋め込み符号化/復号については、例えば、本件出願人が先に出願した、例えば、特願平10−200093号や、特願平10−222951号、特願平10−333700号、特願平11−129919号、特願平11−160529号、特願平11−160530号、特願平11−284198号(特願平10−285310号を基礎とする国内優先権主張出願)、特願平11−284199号(特願平10−285309号を基礎とする国内優先権主張出願)、特願平11−284200号(特願平10−285308号を基礎とする国内優先権主張出願)等に、その詳細が記載されているが、以下に、そのうちの幾つかの手法について説明する。
【0185】
図27は、埋め込み符号化/復号を行う埋め込み符号化/復号システムの一実施の形態の構成例を示している。
【0186】
この埋め込み符号化/復号システムは、符号化装置110および復号装置120で構成されており、符号化装置110は、符号化対象としての、例えば、画像を符号化して符号化データを出力し、復号装置120は、その符号化データを、元の画像に復号するようになされている。
【0187】
即ち、画像データベース101は、符号化すべき画像(例えば、ディジタル画像)を記憶している。そして、画像データベース101からは、そこに記憶されている画像が読み出され、埋め込み符号化器103に供給される。
【0188】
また、付加情報データベース102は、符号化対象の画像に埋め込むべき情報としての付加情報(ディジタルデータ)を記憶している。そして、付加情報データベース102からも、そこに記憶されている付加情報が読み出され、埋め込み符号化器103に供給される。
【0189】
埋め込み符号化器103では、画像データベース101からの画像、および付加情報データベース102からの付加情報が受信される。さらに、埋め込み符号化器103は、画像データベース101からの画像が有するエネルギの偏りを利用して復号を行うことができるように、その画像を、付加情報データベース102からの付加情報にしたがって符号化して出力する。即ち、埋め込み符号化器103は、画像が有するエネルギの偏りを利用して復号を行うことができるように、画像に付加情報を埋め込むことで、その画像を符号化し、符号化データを出力する。埋め込み符号化器103が出力する符号化データは、例えば、半導体メモリ、光磁気ディスク、磁気ディスク、光ディスク、磁気テープ、相変化ディスクなどでなる記録媒体104に記録され、あるいは、また、例えば、地上波、衛星回線、CATV(Cable Television)網、インターネット、公衆回線などでなる伝送媒体105を介して伝送され、復号装置120に提供される。
【0190】
復号装置120は、埋め込み復号器106で構成され、そこでは、記録媒体104または伝送媒体105を介して提供される符号化データが受信される。さらに、埋め込み復号器106は、その符号化データを、画像が有するエネルギの偏りを利用して、元の画像および付加情報に復号する。復号された画像は、例えば、図示せぬモニタに供給されて表示される。
【0191】
なお、付加情報としては、例えば、元の画像に関連するテキストデータや、音声データ、その画像を縮小した縮小画像等は勿論、元の画像に無関係なデータも用いることができる。
【0192】
次に、図27の埋め込み符号化器3における符号化(埋め込み符号化)、および埋め込み復号器6における復号(埋め込み復号)の原理について説明する。
【0193】
一般に、情報と呼ばれるものは、エネルギ(エントロピー)の偏り(普遍性)を有し、この偏りが、情報(価値ある情報)として認識される。即ち、例えば、ある風景を撮影して得られる画像が、そのような風景の画像であると人によって認識されるのは、画像(画像を構成する各画素の画素値など)が、その風景に対応したエネルギの偏りを有するからであり、エネルギの偏りがない画像は、雑音等にすぎず、情報としての利用価値はない。
【0194】
従って、価値ある情報に対して、何らかの操作を施し、その情報が有する本来のエネルギの偏りを、いわば破壊した場合でも、その破壊されたエネルギの偏りを元に戻すことで、何らかの操作が施された情報も、元の情報に戻すことができる。即ち、情報を符号化して得られる符号化データは、その情報が有する本来のエネルギの偏りを利用して、元の価値ある情報に復号することができる。
【0195】
ここで、情報が有するエネルギ(の偏り)を表すものとしては、例えば、相関性、連続性、相似性などがある。
【0196】
情報の相関性とは、その情報の構成要素(例えば、画像であれば、その画像を構成する画素やラインなど)どうしの相関(例えば、自己相関や、ある構成要素と他の構成要素との距離など)を意味する。例えば、画像の相関性を表すものとしては、画像のライン間の相関があり、この相関を表す相関値としては、例えば、2つのラインにおける、対応する各画素値の差分の2乗和等を用いることができる(この場合、相関値が小さいことは、ライン間の相関が大きいことを表し、相関値が大きいことは、ライン間の相関が小さいことを表す)。
【0197】
即ち、例えば、いま、図28に示すようなHライン1102を有する画像1101があった場合に、その上から1行目のライン(第1ライン)1103と、他のラインとの相関は、一般に、図29(A)に示すように、第1ライン1103との距離が近いライン(図28における画像1101の上側のライン)ほど、第Mライン1104についての相関1201として示すように大きくなり、第1ライン1103との距離が遠いライン(図28における画像の下側のライン)ほど、第Nライン1105についての相関1202として示すように小さくなる。従って、第1ライン1103から近いほど、第1ライン1103との相関が大きくなり、遠いほど相関が小さくなるという相関の偏りがある。
【0198】
そこで、いま、図28の画像1101において、第1ライン1103から比較的近い第Mライン1104と、第1ライン1103から比較的遠い第Nライン1105との画素値を入れ替える操作を行い(1<M<N≦H)、その入れ替え後の画像1101について、第1ライン1103と、他のラインとの相関を計算値すると、それは、例えば、図29(B)に示すようになる。
【0199】
即ち、入れ替え後の画像1101では、第1ライン1103から近い第Mライン(入れ替え前の第Nライン1105)との相関1203が小さくなり、第1ライン1103から遠い第Nライン(入れ替え前の第Mライン1104)との相関1204が大きくなる。
【0200】
従って、図29(B)では、第1ライン1103から近いほど相関が大きくなり、遠いほど相関が小さくなるという相関性の偏りが破壊されている。しかしながら、画像については、一般に、第1ライン1103から近いほど相関が大きくなり、遠いほど相関が小さくなるという相関性の偏りを利用することにより、破壊された相関性の偏りを復元することができる。即ち、図29(B)において、第1ライン1103から近い第Mラインとの相関1203が小さく、第1ライン1103から遠い第Nラインとの相関1204が大きいのは、画像1101が有する本来の相関性の偏りからすれば、明らかに不自然であり(おかしく)、第Mラインと第Nラインとは入れ替えるべきである。そして、図29(B)における第Mラインと第Nラインとを入れ替えることで、図29(A)に示すような本来の相関性の偏りを有する画像、即ち、元の画像1101を復号することができる。
【0201】
ここで、図28および図29で説明した場合においては、ラインの入れ替えが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器103では、例えば、何ライン目を移動するかや、どのラインどうしを入れ替えるかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器106では、符号化後の画像、即ち、ラインの入れ替えられた画像を、その相関を利用して、ラインを元の位置に入れ替えることにより、元の画像に戻すことが、画像を復号することとなる。さらに、その復号に際し、埋め込み復号器106において、例えば、何ライン目を移動したかや、どのラインどうしを入れ替えたかなどを検出することが、画像に埋め込まれた付加情報を復号することになる。
【0202】
次に、図30は、画像の相関性を利用して元に戻すことができるように、画像に付加情報を埋め込む埋め込み符号化を行う場合の図27の埋め込み符号化器103の構成例を示している。
【0203】
画像データベース101から供給される画像は、フレームメモリ131に供給されるようになされており、フレームメモリ131は、画像データベース101からの画像を、例えば、フレーム単位で一時記憶するようになされている。
【0204】
CPU(Central Processing Unit)132は、プログラムメモリ133に記憶されたプログラムを実行することで、後述する埋め込み符号化処理を行うようになされている。即ち、CPU132は、付加情報データベース2から供給される付加情報を、例えば、所定ビット数単位で受信し、その所定ビットごとの付加情報を、フレームメモリ131に記憶された画像に埋め込むようになされている。具体的には、CPU132は、フレームメモリ131に記憶された画像を構成する一部の画素を選択し、その選択した画素に対して、付加情報に対応した処理であって、画像の相関性を利用して元に戻すことができるものを施すことにより、画素に、付加情報を埋め込むようになされている。
【0205】
プログラムメモリ133は、例えば、ROM(Read Only Memory)やRAM(Random Access Memory)などで構成され、CPU132に、埋め込み符号化処理を行わせるためのコンピュータプログラムを記憶している。
【0206】
出力I/F(Interface)134は、フレームメモリ131から、付加情報の埋め込まれた画像を読み出し、符号化データとして出力するようになされている。
【0207】
なお、フレームメモリ131は、複数のフレームを記憶することのできるように、複数バンクで構成されており、バンク切り替えを行うことで、フレームメモリ131では、画像データベース101から供給される画像の記憶、CPU132による埋め込み符号化処理の対象となっている画像の記憶、および埋め込み符号化処理後の画像(符号化データ)の出力を、同時に行うことができるようになされている。これにより、画像データベース101から供給される画像が、動画であっても、符号化データのリアルタイム出力を行うことができるようになされている。
【0208】
次に、図31のフローチャートを参照して、埋め込み符号化器103において行われる埋め込み符号化処理について説明する。
【0209】
画像データベース101では、そこに記憶されている画像が読み出され、例えば、1フレーム単位で、フレームメモリ131に供給されて記憶される。
【0210】
一方、CPU132は、付加情報データベース102から、付加情報を、例えば1ビットずつ受信しており、1ビットの付加情報を受信すると、ステップS101において、その1ビットの付加情報を埋め込む処理の対象とする画素(処理対象画素)を、フレームメモリ131に記憶された画像から選択する。
【0211】
ここで、本実施の形態では、例えば、図32に示すように、フレームメモリ131に記憶された画像から、五の目格子状に、画素が選択されるようになされている。即ち、CPU132では、ステップS101の処理が行われるごとに、図32において、斜線を付していない画素が、例えば、ラインスキャン順に、順次、処理対象画素として選択されるようになされている。なお、図32におけるp(x,y)は、左からx番目の、上からy番目の画素を表している(後述する図36においても同様)。
【0212】
その後、CPU132は、ステップS102において、付加情報データベース102から受信した付加情報が1または0のうちのいずれであるかを判定する。ステップS102において、付加情報が、1または0のうちの、例えば0であると判定された場合、ステップS101に戻る。即ち、CPU132は、付加情報が0である場合には、処理対象画素に、何らの処理も施さずに(所定の定数としての0を加算し)、ステップS101に戻り、次の1ビットの付加情報が、付加情報データベース102から送信されてくるのを待って、次に処理対象画素とすべき画素を選択し、以下、同様の処理を繰り返す。
【0213】
また、ステップS102において、付加情報が、1または0のうちの、例えば1であると判定された場合、ステップS103に進み、CPU132は、処理対象画素に対して、所定の処理を施す。即ち、CPU132は、所定の定数としての、例えば、2の、画像を構成する画素に割り当てられているビット数−1乗を、処理対象画素の画素値に加算する。
【0214】
従って、画像を構成する画素の画素値として、例えば、8ビットが割り当てられている場合には、ステップS103では、27が、処理対象画素の画素値に加算さ
れることになる。
【0215】
なお、この加算は、画素値が、例えば、YUVなどで表現されている場合には、輝度成分Y、または色成分U,Vのいずれに対して行っても良い。また、加算は、画素値が、例えば、RGBで表現されている場合には、R,G,Bのいずれに対して行っても良い。
【0216】
ステップS103において、処理対象画素の画素値に、27が加算された後は、ステップS104に進み、その加算結果がオーバフローしているかどうかが判定される。ステップS104において、加算結果がオーバフローしていないと判定された場合、ステップS105をスキップして、ステップS106に進み、CPU132は、その加算結果を、処理対象画素の画素値として、フレームメモリ131に書き込み(上書きし)、ステップS1に戻る。
【0217】
また、ステップS104において、加算結果がオーバフローしていると判定された場合、即ち、加算結果が、28以上となった場合、ステップS105に進み、その加算値の補正が行われる。即ち、ステップS105では、オーバフローした加算値が、例えば、そのオーバフローした分(オーバフローした加算値から28を減算した値)に補正される。そして、ステップS106に進み、CPU132は、その補正後の加算結果を、処理対象画素の画素値として、フレームメモリ131に書き込み、次の1ビットの付加情報が、付加情報データベース102から送信されてくるのを待って、ステップS101に戻る。
【0218】
なお、フレームメモリ131に記憶された、ある1フレームの画像について処理が行われた後は、出力I/F134は、その1フレームの画像(付加情報が埋め込まれた画像)を、符号化データとして読み出し、また、CPU132は、フレームメモリ131に記憶された、次の1フレームの画像を対象に、処理を続行する。
【0219】
以上のように、フレームメモリ131に記憶された画像を構成する一部の画素を選択し、その選択した画素に対して、付加情報に対応した処理であって、画像の相関性を利用して元に戻すことができるものを施すことにより、画素に、付加情報を埋め込むことで、画像の画質の劣化を極力なくし、かつデータ量を増加せずに、画像に付加情報を埋め込むことができる。
【0220】
即ち、付加情報が埋め込まれた画素は、画像の相関性、即ち、ここでは、付加情報が埋め込まれなかった画素との間の相関を利用することにより、オーバヘッドなしで、元の画素と付加情報に復号(戻す)ことができる。従って、その結果得られる復号画像(再生画像)には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0221】
次に、図33は、図30の埋め込み符号化器103が出力する符号化データを、画像の相関性を利用して元の画像と付加情報に復号する図27の埋め込み復号器106の構成例を示している。
【0222】
符号化データ、即ち、付加情報が埋め込まれた画像(以下、適宜、埋め込み画像という)は、フレームメモリ141に供給されるようになされており、フレームメモリ141は、埋め込み画像を、例えば、フレーム単位で一時記憶するようになされている。なお、フレームメモリ141も、図30のフレームメモリ131と同様に構成され、バンク切り替えを行うことにより、埋め込み画像が、動画であっても、そのリアルタイム処理が可能となっている。
【0223】
出力I/F142は、フレームメモリ141から、CPU143による、後述する埋め込み復号処理の結果得られる画像(復号画像)を読み出して出力するようになされている。
【0224】
CPU143は、プログラムメモリ144に記憶されたプログラムを実行することで、埋め込み復号処理を行うようになされている。即ち、CPU143は、フレームメモリ141に記憶された埋め込み画像を、画像の相関性を利用して元の画像と付加情報に復号するようになされている。具体的には、CPU143は、埋め込み画像を構成する一部の画素を、処理対象画素として選択し、図34に示すように、その処理対象画素に対して、図30のCPU132が施した処理と逆の処理を施すことで、その画素値を変更する。さらに、図34に示すように、CPU143は、画素値の変更前の処理対象画素と、その周辺画素(図34の実施の形態では、左右に隣接する画素)との相関値R1(第1の相関)を演算するとともに、画素値の変更された処理対象画素と、その画素の周辺画素との相関値R2(第2の相関)を演算し、その相関値R1とR2とを比較する。そして、CPU143は、その比較結果に基づいて、画素値の変更前または変更後の処理対象画素のうちのいずれか一方を、復号結果とするとともに、その処理対象画素に埋め込まれた付加情報(ここでは、1ビットの1または0のうちのいずれか一方)を復号する。
【0225】
プログラムメモリ143は、例えば、図30のプログラムメモリ133と同様に構成され、CPU143に、埋め込み復号化処理を行わせるためのコンピュータプログラムを記憶している。
【0226】
次に、図35のフローチャートを参照して、埋め込み復号器106において行われる埋め込み復号処理について説明する。
【0227】
フレームメモリ141では、そこに供給される埋め込み画像が、例えば、1フレーム単位で順次記憶される。
【0228】
一方、CPU143は、ステップS111において、フレームメモリ141に記憶されたあるフレームの埋め込み画像から、復号を行う処理の対象とする画素(処理対象画素)を選択する。
【0229】
ここで、CPU143では、図32に示したように、図30のCPU132と同様に、フレームメモリ141に記憶された埋め込み画像から、五の目格子状に、画素が選択されるようになされている。即ち、CPU143では、ステップS111の処理が行われるごとに、図32において、斜線を付していない画素が、例えば、ラインスキャン順に、順次、処理対象画素として選択されるようになされている。
【0230】
その後、ステップS112に進み、CPU143は、処理対象画素に対し、図30のCPU132が行った処理と逆の処理を施す。即ち、CPU132は、所定の定数としての、例えば、2の、画像を構成する画素に割り当てられているビット数−1乗を、処理対象画素の画素値から減算する。
【0231】
従って、上述したように、画像を構成する画素の画素値として、例えば、8ビットが割り当てられている場合においては、ステップS112では、27が、処理対象画素の画素値から減算されることになる。
【0232】
なお、この減算は、画素値が、例えば、YUVなどで表現されている場合には、輝度成分Y、または色成分U,Vのいずれに対して行っても良い。また、減算は、画素値が、例えば、RGBで表現されている場合には、R,G,Bのいずれに対して行っても良い。但し、ステップS112における減算は、図31のステップS103における加算が行われたものと同一のものに対して行う必要がある。即ち、画素値が、例えば、YUVなどで表現されており、図31のステップS103における加算が、YUVのうちの、例えば、Y成分に対して行われた場合には、ステップS112における減算は、やはり、Y成分に対して行う必要がある。
【0233】
ステップS112において、処理対象画素の画素値から、27が減算された後は、ステップS113に進み、その減算結果がアンダフローしているかどうかが判定される。ステップS113において、減算結果がアンダフローしていないと判定された場合、ステップS114をスキップして、ステップS115に進む。
【0234】
また、ステップS113において、減算結果がアンダフローしていると判定された場合、即ち、加算結果が、0未満となった場合、ステップS114に進み、その減算値の補正が行われる。即ち、ステップS114では、アンダフローした減算値が、例えば、その減算値に28を加算した値に補正され、ステップS115に進む。
【0235】
ステップS115では、処理対象画素の画素値(ステップS112で27を減算していないもの)(以下、適宜、第1の画素値という)P1と、その画素値から27を減算した減算値(以下では、ステップS114で補正されたものも含むものとする)(以下、適宜、第2の画素値という)P2のそれぞれについて、処理対象画素の周辺画素としての、例えば、その左右に隣接する画素との間の相関値が演算される。
【0236】
即ち、ステップS115では、例えば、処理対象画素の第1の画素値P1と、その左右の画素それぞれの画素値との差分の絶対値が演算され、その2つの絶対値の加算値が、処理対象画素の第1の画素値P1についての相関値R1として求められる。さらに、ステップS115では、処理対象画素の第2の画素値P2についても、その左右の画素それぞれの画素値との差分の絶対値どうしの加算値が演算され、それが、処理対象画素の第2の画素値P2の相関値R2として求められる。
【0237】
なお、ステップS115において、処理対象画素との間の相関を求めるのに用いる画素は、その左右に隣接する画素に限定されるものではなく、上下に隣接する画素であっても良いし、時間的に隣接する画素であっても良い。また、必ずしも、空間的または時間的に隣接する画素である必要もない。但し、処理対象画素との相関を求めるにあたっては、図32において、斜線を付した画素、即ち、付加情報が埋め込まれていない画素を用いるのが望ましい。これは、処理対象画素について、付加情報が埋め込まれた画素との相関を求めても、元の画像についての相関を得ることができず、従って、画像の相関性を利用することができないため、付加情報が埋め込まれた画素から、元の画素値および付加情報を、正確に復号するのが困難となるからである。また、画像の相関性を利用して、処理対象画素を復号する以上、処理対象画素との相関値を求めるのに用いる画素は、その処理対象画素との空間的または時間的距離が近いものであるのが望ましい。
【0238】
第1の画素値P1についての相関値R1、および第2の画素値P2についての相関値R2の算出後は、ステップS116に進み、CPU143において、その相関値R1とR2とが比較される。
【0239】
ステップS116において、相関値R1が、相関値R2より大きい(以上である)と判定された場合、ステップS117に進み、CPU143において、付加情報の復号結果として、0が出力され、ステップS111に戻る。そして、この場合、フレームメモリ141の記憶値は書き換えられず、従って、処理対象画素の画素値の復号結果は、その画素値P1のままとされる。
【0240】
即ち、第1の画素値P1についての相関値R1の方が、第2の画素値P2についての相関値R2より大きいということは、処理対象画素の画素値としては、画素値P2よりも、画素値P1の方が確からしいこととなるので、処理対象画素の画素値の復号結果は、その確からしい画素値P1とされる。さらに、画素値P1は、ステップS112で27が減算されていないものであるから、図31のステップS103で27が加算されていないと考えられる。そして、図31の埋め込み符号化処理では、付加情報が0の場合には、27を加算しないこととしているから、第1の画素値P1についての相関値R1の方が大きく、画素値P1が、処理対象画素の画素値として確からしい場合には、そこに埋め込まれた付加情報は0ということになる。
【0241】
一方、ステップS116において、相関値R2が、相関値R1より大きい(以上である)と判定された場合、ステップS118に進み、CPU143において、フレームメモリ141に記憶された処理対象画素の画素値が、その画素値から27を減算した減算値、即ち、第2の画素値P2に書き換えられる。従って、この場合、処理対象画素の画素値の復号結果は、その画素値P2とされる。そして、ステップS119に進み、CPU143において、付加情報の復号結果として、1が出力され、ステップS111に戻る。
【0242】
即ち、第2の画素値P2についての相関値R2の方が、第1の画素値P1についての相関値R1より大きいということは、処理対象画素の画素値としては、画素値P1よりも、画素値P2の方が確からしいこととなるので、処理対象画素の画素値の復号結果は、その確からしい画素値P2とされる。さらに、画素値P2は、ステップS112で、画素値P1から27が減算されたものであるから、図31のステップS103で、元の画素値に27が加算されたものであると考えられる。そして、図31の埋め込み符号化処理では、付加情報が1の場合には、27を加算することとしているから、第2の画素値P2についての相関値R2の方が大きく、画素値P2が、処理対象画素の画素値として確からしい場合には、そこに埋め込まれた付加情報は1ということになる。
【0243】
ここで、上述のようにして求められる相関値R1とR2との差分が小さい場合には、画素値P1とP2のうちのいずれが、処理対象画素の画素値として確からしいかは、一概にはいえない。そこで、このような場合には、処理対象画素の左右に隣接する画素だけでなく、他の画素をも用いて、画素値P1,P2それぞれについての相関値を求め、その相関値を比較することで、画素値P1,P2のうちのいずれが、処理対象画素の画素値として確からしいかを決定することができる。
【0244】
以上のように、付加情報が埋め込まれた画像である符号化データを、画像の相関性を利用して、元の画像と付加情報に復号するようにしたので、その復号のためのオーバヘッドがなくても、符号化データを、元の画像と付加情報に復号することができる。従って、その復号画像(再生画像)には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0245】
なお、本実施の形態では、処理対象画素と、他の画素との相関値として、それらの画素値の差分の絶対値を用いるようにしたが、相関値は、これに限定されるものではない。
【0246】
また、本実施の形態では、図32に示したように、画像から、五の目格子状に、画素を選択し、その画素に、付加情報を埋め込むようにしたが、付加情報を埋め込む画素の選択パターンは、これに限定されるものではない。但し、付加情報を埋め込んだ画素の復号にあたっては、上述したように、付加情報が埋め込まれていない画素を用いて相関を求めるのが望ましく、また、画素どうしの相関は、基本的に、それらの間の空間的または時間的距離が離れるほど小さくなっていく。従って、正確な復号を行う観点からは、付加情報を埋め込む画素は、空間的または時間的に、いわゆる疎らになるように選択するのが望ましい。一方、多くの付加情報を埋め込む観点、即ち、圧縮率の観点からは、付加情報を埋め込む画素は、ある程度多くする必要がある。従って、付加情報を埋め込む画素は、復号の正確さと、圧縮率とをバランスさせて選択するのが望ましい。
【0247】
さらに、本実施の形態では、処理対象画素として選択された1画素に、1ビットの付加情報を埋め込むようにしたが、1画素に、2ビット以上の付加情報を埋め込むようにすることも可能である。例えば、1画素に、2ビットの付加情報を埋め込む場合には、その2ビットの付加情報にしたがって、例えば、0,26,27,26+27のうちのいずれかを、画素値に加算するようにすれば良い。
【0248】
また、本実施の形態では、画素値に、0または27のうちのいずれかを加算することで(画素値に、27を加算しないか、または加算することで)、付加情報を埋め込むようにしたが、画素値に加算する値は、27に限定されるものではない。但し、画素値の下位ビットにしか影響を与えないような値を加算する場合には、その加算値と、元の画素値とが、あまり異なったものとならず、従って、図35のステップS115で求められる相関値R1とR2も、あまり異なったものとならなくなる。これは、画素値および付加情報の復号結果の精度を劣化させることとなるから、付加情報にしたがって、画素値に加算する値は、元の画素値の上位ビットに影響を与えるような値とするのが望ましい。
【0249】
さらに、本実施の形態では、画素値に、所定値を加算することで、付加情報の埋め込みを行うようにしたが、付加情報の埋め込みは、加算以外の操作(例えば、ビット反転など)を、画素値に施すことによって行うことも可能である。但し、上述したように、画素値および付加情報の復号結果の精度の劣化を防止する観点から、画素値に施す操作は、元の画素値についての相関と、操作を施した画素値についての相関とが大きく異なるようなものであることが望ましい。
【0250】
また、本実施の形態では、処理対象画素として選択された1画素に、1ビットの付加情報を埋め込むようにしたが、複数画素に、1ビットの付加情報を埋め込むようにすることも可能である。即ち、例えば、図36において○印で示す位置関係にある4画素に、1ビットの付加情報を埋め込むようにすることなどが可能である。
【0251】
具体的には、例えば、図36において、4つの画素p(1,4),p(5,4),p(1,8),p(5,8)に注目した場合、符号化時には、1ビットの付加情報にしたがい、画素p(1,4),p(5,4),p(1,8),p(5,8)それぞれの画素値に対して、同一の操作を施すことで、1ビットの付加情報を埋め込む。一方、復号時には、4つの画素p(1,4),p(5,4),p(1,8),p(5,8)それぞれについて、上述したような第1および第2の画素値P1,P2の相関値R1,R2を求め、その相関値R1,R2の大小関係を比較する。そして、その比較結果の多数決によって、4つの画素p(1,4),p(5,4),p(1,8),p(5,8)それぞれの画素値と、付加情報の復号結果を決定すれば良い。あるいは、また、4つの画素p(1,4),p(5,4),p(1,8),p(5,8)それぞれについての第1の画素値P1の相関値R1の総和と、第2の画素値P2の相関値R2の総和とを求め、その2つの総和の大小関係に基づいて、4つの画素p(1,4),p(5,4),p(1,8),p(5,8)それぞれの画素値と、付加情報の復号結果を決定しても良い。
【0252】
ここで、図32に示したように、処理対象画素として、画像から、五の目格子状に、画素を選択し、その選択された各画素に、1ビットの付加情報を埋め込むようにした場合には、画像の画素数の約半分のビット数の付加情報を埋め込むことができるが、上述したように、4画素に、1ビットの付加情報を埋め込む場合には、画像に埋め込むことのできる付加情報は、その画像の画素数の約半分の1/4のビット数となる。
【0253】
次に、情報の連続性についてであるが、例えば、画像のある1ラインについて注目した場合に、その注目ラインにおいて、図37(A)に示すような、画素値の変化パターンが連続している波形1301が観察されたとすると、その注目ラインと離れた他のラインでは、注目ラインとは異なる画素値の変化パターンが観察される。従って、注目ラインと、その注目ラインと離れた他のラインとにおいては、画素値の変化パターンが異なり、連続性においても偏りがある。即ち、画像のある部分の画素値の変化パターンに注目すると、その注目部分に隣接する部分には、同様の画素値の変化パターンが存在し、注目部分から離れるにつれて、異なる画素値の変化パターンが存在するという連続性の偏りがある。
【0254】
そこで、いま、図37(A)に示した、画像のあるラインにおける、画素値の変化パターンが連続している波形1301の一部を、例えば、図37(B)に示すように、離れたラインにおける波形1302と入れ替える。
【0255】
この場合、画像の連続性の偏りが破壊される。しかしながら、近接する部分の画素値の変化パターンは連続しており、離れるほど、画素値の変化パターンが異なるという連続性の偏りを利用することにより、破壊された連続性の偏りを復元することができる。即ち、図37(B)において、波形の一部1302の画素値の変化パターンが、他の部分の画素値の変化パターンに比較して大きく異なっているのは、波形が有する本来の連続性の偏りからすれば、明らかに不自然であり、他の部分の画素値の変化パターンと異なっている部分1302は、他の部分の画素値の変化パターンと同様の波形に入れ替えるべきである。そして、そのような入れ替えを行うことで、連続性の偏りが復元され、これにより、図37(B)に示した波形から、図37(A)に示した元の波形を復号することができる。
【0256】
ここで、図37で説明した場合においては、波形の一部を、その周辺の画素値の変化パターンとは大きく異なる画素値の変化パターンの波形に入れ替えることが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器103では、例えば、波形のどの部分の画素値の変化パターンを入れ替えるのかや、画素値の変化パターンをどの程度大きく変化させるのかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器106では、符号化後の信号、即ち、大きく異なる画素値の変化パターンを一部に有する波形を、周辺の画素値の変化パターンは連続しており、離れるほど、画素値の変化パターンが異なるという連続性の偏りを利用して、元の波形に戻すことが、その元の波形を復号することとなる。さらに、その復号に際し、埋め込み復号器106において、例えば、波形のどの部分の画素値の変化パターンが大きく変化していたのかや、画素値の変化パターンがどの程度大きく変化していたのかなどを検出することが、埋め込まれた付加情報を復号することになる。
【0257】
次に、画像の連続性を利用して、埋め込まれる付加情報が復号されるように、画像に付加情報を埋め込む埋め込み符号化処理について説明する。なお、この場合の埋め込み符号化器103の構成は、図30における場合と同様の構成であるので、説明を省略する。
【0258】
図38は、画像の連続性を利用した埋め込み符号化処理を示すフローチャートである。
【0259】
まず最初に、ステップS121において、CPU132は、画像データベース101から1フレーム分の画像データがフレームメモリ131に転送されるように制御すると共に、画像データの連続領域を検出し、更に、連続領域の位置を示す連続領域データを、図示せぬワーク用のメモリ(ワークメモリ)に記憶する。
【0260】
すなわち、CPU132は、図39(A)に示すような、224(= 7×32)×1600画素からなる画像データの連続領域を検出する場合には、例えば、画像データを、32×1画素毎の画像ブロックに分割し、その画像ブロック毎にDCT処理を施して、画像ブロック毎にDCT係数を算出する。
【0261】
CPU132は、画像ブロックをラスタスキャン順にスキャンして、順次、注目画像ブロックとし、注目画像ブロックに対応するDCT係数と左隣の隣接画像ブロックの対応するDCT係数との差分を順に算出して注目画像ブロックの連続性評価値としてワークメモリに記憶させる。CPU132は、算出された連続性評価値(差分値)が所定しきい値以下である画像ブロックを連続領域と認識し、その画像ブロックの位置をワークメモリに記憶する。ここで、算出された連続領域内の一部の画像ブロックがノイズ等の影響により連続領域ではないと判断される可能性もあるので、CPU132は、連続領域の検出の後、連続領域の拡大、縮小処理等により、連続領域内の一部の非連続の画像ブロックを、連続領域の画像ブロックに変換する補正処理を行う。
【0262】
その後、ステップS122において、CPU132は、付加情報データベース2から、付加情報を、例えば6ビット(3ビット+3ビット)ずつ受信し、ステップS123に進む。
【0263】
ステップS123において、CPU132は、上述の付加情報6ビットを埋め込むための処理対象画像である、例えば、図39(A)の第1ライン、及び第801ラインを選択抽出する。このとき、ステップS121においてワークメモリに記憶された連続領域データを参照して、CPU132は、第1ライン、第801ラインの連続領域のみを選択抽出する。図39の実施の形態においては、第1ライン、第801ラインの全領域が連続領域であるとして、選択抽出されている。
【0264】
そして、ステップS124に進み、CPU132は、処理対象画像である、例えば、第1ラインの画像と、第801のラインの画像を入れ替えることにより、画像データに付加情報を埋め込む。
【0265】
即ち、図39(B)は、付加情報が埋め込まれる前の第1ラインの画像データの画素値を示している。また、図39(C)は、付加情報が埋め込まれる前の第801ラインの画像データの画素値を示している。図39(B)および図39(C)に示すように、第1ラインの領域と第801ラインの領域では画素値の変化パターン(周波数特性)が異なっている。
【0266】
例えば、いま、上位3ビットが2で、下位3ビットが6の6ビットの付加情報が画像データに埋め込まれるとすると、CPU132は、上位3ビットの2を埋め込むため、図39(B)の左から2ブロック目を選択するとともに、下位3ビットの6を埋め込むため、図39(C)の左からの6ブロック目を選択する。更に、CPU132は、選択された2ブロック目と6ブロック目の画像データを入れ替えることにより、図39(D)、図39(E)に示すような画像データに符号化する。
【0267】
その後、ステップS125において、CPU132は、符号化された第1ラインと第801ラインの画像データを、フレームメモリ131に書き込み(上書き)、ステップS126に進む。
【0268】
ステップS126において、CPU132は、1フレームの画像データの符号化が終了したか否かを判別する。CPU132が、符号化が終了していないと判別すると、ステップS122に戻り、再び付加情報が受信される。そして、ステップS123に進み、CPU132は、次のライン、すなわち第2ラインと第802ラインを選択し、以下、同様の処理を繰り返す。
【0269】
一方、ステップS126において、CPU132が符号化を終了したと判別すると、フレームメモリ131に記憶された符号化データが、出力I/F134を介して出力され、処理を終了する。
【0270】
次に、画像の連続性を利用して付加情報が埋め込まれた符号化データを復号する埋め込み復号処理について説明する。なお、この場合の埋め込み復号器106の構成は、図33における場合と同様の構成であるので、説明を省略する。
【0271】
図40は、画像の連続性を利用して、図38の埋め込み符号化処理により得られる、符号化データを復号する埋め込み復号処理を示すフローチャートである。
【0272】
まず最初に、ステップS131において、CPU143は、1フレーム単位の符号化データをフレームメモリ141に順次記憶する。更に、CPU143は、図38で説明したのと同様の手法により、符号化データの中から連続領域を抽出し、その画像ブロックの位置を、連続領域データとして、図示せぬワークメモリに記憶する。ここで、本実施の形態では、図39で説明したことから、1ラインに3ビットの付加情報が埋め込まれるので、1ラインのうち1つの画像ブロックが変更されることにより、画像データは符号化される。よって、連続領域を抽出する際の拡大、縮小処理により連続領域内の非連続の1画像ブロックは、連続領域に変換される。
【0273】
ステップS132において、CPU143は、6ビットの付加情報を復号するための処理対象画像である図39(A)の1画像ブロック(例えば、図39(A)の左上の画像ブロック)を選択抽出する。このとき、ステップS131においてワークメモリに記憶された連続領域データを参照して、CPU143は、連続領域内の画像ブロックのみを選択抽出する。上述したことから、ここでは、第1ライン、第801ラインの全領域は連続領域であるとして、選択抽出される。
【0274】
ステップS133において、CPU143は、ステップS132において抽出された画像ブロックをDCT処理し、DCT係数を算出する。
【0275】
次に、ステップS134において、CPU143は、前の注目画像ブロックのDCT係数と、現注目画像ブロックのDCT係数の差分値を演算し、ワークメモリに、その差分値と、現注目画像ブロックのDCT係数を記憶させる。なお、前の注目画像ブロックのDCT係数がワークメモリに記憶されていないとき、差分値は0とされる。
【0276】
ステップS135において、CPU143は、1ラインの処理が終了したか否かを判別し、終了していないとき、ステップS132に戻る。一方、ステップS135において、CPU143が、1ラインの処理が終了したと判別すると、ステップS136に処理を進める。
【0277】
ステップS136において、CPU143は、ワークメモリに記憶された1ライン分の各画像ブロックのうち、上述の差分値の大きい2つの画像ブロックを検出し、その画像ブロックの位置をワークメモリ44に記憶する。
【0278】
ステップS137において、CPU143は、ワークメモリに記憶された1ライン分の画像ブロックのうち、差分値が所定値以上の画像ブロック2つを用いて付加情報を出力する。即ち、CPU143は、そのような2つの画像ブロックが隣同士であるとき、左側の画像ブロック位置をワークメモリに記憶すると共に、付加情報として出力する。例えば、図39(D)に示した場合では、差分値の大きい画像ブロックは、左から2番目と3番目の画像ブロックであり、左側の画像ブロックは2番目であるので、付加情報は2となる。
【0279】
ここで、左から0番目や7番目の画像ブロックに付加情報が埋め込まれているとき、差分値が所定値以上の画像ブロックは1つとなる可能性が高い。そこで、CPU143は、1番目の画像ブロックのみの差分値が大のときは、付加情報はを0とし、7番目の画像ブロックのみの差分値が大のときは、付加情報を7とするような、画像データの境界では特別な処理を行う。
【0280】
ステップS138において、CPU143は、現在の処理対象が画像の上段の1乃至800ラインであるか、下段の801乃至1600ラインであるかを判別する。CPU143が、現在の処理対象が画像の上段であると判別すると、ステップS139に進み、画像処理領域を上段から下段に変更する。具体的には、CPU143は、現在処理されているラインが、例えば第1ラインであれば、それに800を加算し、第801ラインを処理の対象とする。上段から下段に切り換えられた後、ステップS132に戻る。
【0281】
一方、ステップS138において、CPU143が、現在の処理対象が画像の下段であると判別すると、ステップS140に進み、CPU143は、ステップS137において最終的に記憶された2つの位置の画像ブロックを入れ替え、フレームメモリ141に書き込みむ。
【0282】
ステップS141において、CPU143は、画像データの復号が1フレーム分終了したか否かを判別する。CPU143が、復号が終了していないと判別すると、ステップS139に進み、上述したように、画像処理領域が下段から上段に変更され、以下、同様の処理が行われる。また、CPU143が、復号が終了したと判別すると、処理を終了する。
【0283】
ここで、元の画像に復号され、フレームメモリ41に記憶される画像データは、第1ラインと第801ラインのように2ライン毎に、出力I/F142を介して順に出力しても良いし、全ての復号処理が終了したのち、出力I/F142から出力しても構わない。
【0284】
次に、情報の相似性についてであるが、例えば、風景を撮影した画像等の一部は、画像のフラクタル性(自己相似性)を利用して生成することができることが知られている。即ち、例えば、図41(A)に示すような、海1401と森1402を撮影した画像においては、海1401全体の画素値の変化パターンと、その海1401の一部の画素値の変化パターンとの相似性は高いが、それらの変化パターンと、海1401から離れた森1402の画素値の変化パターンとの相似性は低いという相似性の偏りがある。ここで、画像の相似性は、上述のように画素値の変化パターンを比較して考えるのではなく、エッジ形状を比較して考えても良い。
【0285】
そこで、いま、図41(A)に示した海1401の一部1403と、森1402の一部1404とを入れ替える。
【0286】
この場合、画像の相似性の偏りが破壊され、図41(B)に示すような画像が得られる。しかしながら、近接する部分の画素値の変化パターンは相似性が高く、離れるほど、画素値の変化パターンの相似性が低くなるという相似性の偏りを利用することにより、破壊された相似性の偏りを復元することができる。即ち、図41(B)において、海1401の画像の一部が、海1401と相似性の低い森1402の画像の一部1404になっていること、および森1402の画像の一部が、森1402と相似性の低い海1401の画像の一部1403となっていることは、画像が有する本来の相似性の偏りからすれば、明らかに不自然である。具体的には、図41(B)において、海1401の画像の中の、森1402の画像の一部1404についての相似性は、海1401の他の部分についての相似性に比較して極端に低くなっており、また、森1402の画像の中の、海1401の画像の一部1403についての相似性も、森1402の他の部分についての相似性に比較して極端に低くなっている。
【0287】
従って、画像が本来有する相似性の偏りからすれば、海1401の画像の一部となっている、森1402の画像の一部1404と、森1402の画像の一部となっている、海1401の画像の一部1403とは入れ替えるべきである。そして、そのような入れ替えを行うことで、画像の相似性の偏りが復元され、これにより、図41(B)に示した画像から、図41(A)に示した元の画像を復号することができる。
【0288】
ここで、図41で説明した場合においては、海1401の画像の一部1403と、森1402の画像の一部1404とを入れ替えることが、画像の符号化を行うこととなる。また、その符号化に際し、埋め込み符号化器103では、例えば、海1401の画像のどの部分(画面上の位置)と、森1402の画像のどの部分とを入れ替えるのかなどが、付加情報にしたがって決定されることになる。一方、埋め込み復号器106では、符号化後の信号、即ち、海1401の一部が、森1402の一部1404となっているとともに、森1402の一部が、海1401の一部1403となっている画像を、周辺の画素値の変化パターンの相似性は高く、離れるほど、画素値の変化パターンの相似性が低くなっていくという相似性の偏りを利用して、元の画像に戻すことが、その元の画像を復号することとなる。さらに、その復号に際し、埋め込み復号器106において、例えば、海の画像のどの部分と、森の画像のどの部分とが入れ替えられていたのかなどを検出することが、埋め込まれた付加情報を復号することになる。
【0289】
次に、図42を参照して、相似性について、さらに説明する。
【0290】
いま、例えば、図42(A)に示すようなフラクタル画像を符号化対象として符号化を行うとした場合、埋め込み符号化器103では、付加情報に対応して、フラクタル画像の一部が、そのフラクタル画像とは相似でない画像に入れ替えられることで、フラクタル画像の符号化が行われる。即ち、埋め込み符号化器103では、図42(A)に示した、樹木の葉の形状をしたフラクタル画像の一部が、例えば、図42(B)に示すように、三角形に入れ替えられる。なお、図42では、図42(B)においてD1およびD2で示す部分が三角形になっている。また、埋め込み符号化器103では、例えば、三角形に入れ替えられるフラクタル画像の位置や、フラクタル画像と入れ替える三角形の大きさ、数などが、付加情報にしたがって決定される。
【0291】
この場合、埋め込み復号器106では、例えば、次のようにして、フラクタル画像と付加情報とが復号される。即ち、例えば、図42(B)において、点線の四角形で囲んである部分については、三角形との入れ替えを行わないこととしておき、埋め込み復号器106では、その点線の四角形で囲んである部分を、教師画像として、その教師画像と相似でない部分(ここでは、三角形)が検索される。さらに、埋め込み復号器106は、教師画像と相似でない部分である三角形を、教師画像に含まれる、フラクタル画像の基準図形から生成される画像(フラクタル画像)に入れ替え、元のフラクタル画像(図42(A))を復号する。そして、検索された三角形の位置や、大きさ、数などに基づいて、埋め込まれた付加情報を復号する。
【0292】
なお、上述の場合においては、埋め込み復号器106で、教師画像に含まれる、フラクタル画像の基準図形を検出する必要があるが、これは、例えば、次のようにして行われる。即ち、図42(B)の画像のうちの、教師画像と、それ以外の部分との相似性、および教師画像の自己相似性に基づいて、図42(B)の画像を対象に、フラクタル画像の基準図形が検索され、教師画像以外の部分を、最も効率良く表すことができる図形が、基準図形として検出される。
【0293】
また、ここでは、埋め込み復号器106において、元のフラクタル画像の生成規則が認識されており、その生成規則に基づいて、三角形と入れ替える画像が、基準図形を用いて生成される。即ち、埋め込み復号器106では、三角形と入れ替える画像を生成するための、基準図形の大きさや、位置、回転量などが、生成規則に基づいて特定され、その特定された基準図形の大きさや、位置、回転量などにしたがって、基準図形が操作され、三角形と入れ替える画像(フラクタル画像)が生成される。
【0294】
次に、画像の相似性を利用して、埋め込まれる付加情報が復号されるように、画像に付加情報を埋め込む埋め込み符号化処理について詳細に説明する。なお、この場合も、埋め込み符号化器103の構成は、図30における場合と同様の構成であるので、説明を省略する。
【0295】
図43は、相似性を利用する埋め込み符号化処理を示すフローチャートである。
【0296】
ステップS151において、CPU132は、画像データベース101から1フレーム分の画像データがフレームメモリ131に転送されるように制御すると共に、画像データの相似領域を検出し、更に、相似領域の位置を示す相似領域データを、ワークメモリに記憶させる。
【0297】
すなわち、CPU132は、例えば、図44(A)に示すような、56×1600画素からなる画像データの相似領域を画像データより検出する場合には、画像データを、8×8画素毎の画像ブロックに分割し、注目画像ブロックと周辺画像ブロックとの相似性を検出する。
【0298】
即ち、CPU132は、注目画像ブロックをラスタスキャン順にスキャンし、注目画像ブロックと左右の周辺画像ブロックとの相似性を算出する。具体的には、CPU132は、注目画像ブロックの大きさ、位置、回転量を所定量だけ変更しながら、左及び右隣の画像ブロックとのマッチングを行い、マッチング度を正規化する。さらに、CPU132は、正規化後のマッチング度を平均し、注目画像ブロックの周辺との相似性評価値として、ワークメモリに記憶させる。ここで、左端と右端の画像ブロックが注目画像ブロックのときは、一方のマッチング度を、そのまま注目画像ブロックのマッチング度とすることとする。CPU132は、算出された相似性評価値(マッチング度)が所定しきい値以上である画像ブロックを相似領域として認識し、その画像ブロックの位置を、ワークメモリに記憶させる。ここで、算出された相似領域内の一部の画像ブロックがノイズ等の影響により相似領域ではないと判断される可能性もあるので、CPU132は、相似領域の検出の後、相似領域の拡大、縮小処理により相似領域内の一部の非相似の画像ブロックを、相似領域の画像ブロックに変換する補正処理を行う。
【0299】
次に、ステップS152において、CPU132は、付加情報データベース102から、付加情報を、例えば、6ビット(3ビット+3ビット)ずつ受信する。
【0300】
ステップS153において、CPU132は、上述の付加情報6ビットを埋め込むための処理対象画像である、例えば、図44(A)の1番目のライン、及び101番目のラインを選択抽出する。このとき、ステップS151においてワークメモリに記憶された相似領域データを参照して、CPU132は、1番目のライン、101番めのラインの相似領域のみを選択抽出する。図44(A)の実施の形態においては、1番目のライン、101番目のラインの全領域が相似領域であるとして選択抽出される。
【0301】
ステップS154において、CPU132は、処理対象画像である、1番目のラインの画像と、101番目のラインの画像を入れ替えることにより、画像データに付加情報を埋め込む。
【0302】
即ち、図44(A)は、付加情報が埋め込まれる前の1番目のラインと101番目のラインの画像データの画素値を示している。図44(A)では、1番目のラインの領域と101番目のラインの領域では画素値の変化パターン、すなわち、画像ブロック内の図形の相似性が異なっている。
【0303】
例えば、いま、6ビットの付加情報の上位3ビットが2で、下位3ビットが6であるとすると、CPU132は、上位3ビットの2を埋め込むため、図44(A)の1番目のラインの2ブロック目を選択し、下位3ビットの6を埋め込むため、図44(A)の101番目のラインの6ブロック目を選択する。更に、CPU132は、選択された2ブロック目と6ブロック目の画像データを入れ替えることにより、図44(B)に示すような画像データに符号化する。
【0304】
ステップS155において、CPU132は、符号化された1番目のラインと101番目のラインの画像データを、フレームメモリ131に書き込み(上書きし)、ステップS156に進む。
【0305】
ステップS156において、CPU132は、1フレームの画像データの符号化が終了したか否かを判別する。CPU132が、符号化が終了していないと判別すると、ステップS152に戻り、再び付加情報が受信される。そして、ステップS153に進み、CPU132は、次のライン、すなわち、2番目のライン及び102番目のラインというように順に処理対象画像を選択する。
【0306】
一方、ステップS156において、CPU132が、符号化が終了したと判別すると、フレームメモリ131に記憶される符号化データが、出力I/F134を介して出力され、処理を終了する。
【0307】
次に、画像の相似性を利用して付加情報が埋め込まれた符号化データを復号する埋め込み復号処理について説明する。なお、この場合も、埋め込み復号器106の構成は、図33における場合と同様の構成であるので、説明を省略する。
【0308】
図45は、相似性を利用した埋め込み復号処理を示すフローチャートである。
【0309】
ステップS161において、CPU143は、1フレーム単位の符号化データを、フレームメモリ141に順次記憶する。更に、CPU143は、図43における場合と同様の手法により、符号化データの中から相似領域を抽出し、その画像ブロックの位置を、相似領域データとして、ワークメモリに記憶させる。ここで、本実施の形態では、上述のように、8画素毎を1ラインとした1ラインに3ビットのデータが埋め込まれるので、8画素毎の1ラインのうち1つの画像ブロックが変更されることにより画像データは符号化される。よって、相似領域を抽出する際の拡大、縮小処理により相似領域内の非相似の1画像ブロックは相似領域に変換される。
【0310】
ステップS162において、CPU143は、6ビットの付加情報を復号するための処理対象画像である、例えば、図44(A)の1画像ブロック(例えば、図44(A)の左上の画像ブロック)を選択抽出する。このとき、ステップS161においてワークメモリに記憶された相似領域データを参照して、CPU143は、相似領域内の画像ブロックのみを選択抽出する。ここでは、例えば、1番目のライン、101番目のラインの全領域が相似領域であるとして、選択抽出されるものとする。
【0311】
ステップS163において、CPU143は、ステップS162において抽出された画像ブロックを注目画像ブロックとして、左右の周辺画像ブロックとの相似性を算出する。相似性の算出方法は、図43における場合と同様の手法が用いられる。即ち、CPU143は、注目画像ブロックの大きさ、位置、回転量を所定量だけ変更しながら、左及び右隣の画像ブロックとのマッチングを行い、マッチング度を正規化し、さらに、平均する。そして、その平均値が、ステップS164において、注目画像ブロックの周辺との相似性評価値として、ワークメモリに記憶される。ここで、左端と右端の画像ブロックが注目画像ブロックのときは、一方のマッチング度がそのまま注目画像ブロックのマッチング度とされる。
【0312】
なお、ここでは、注目画像ブロックと左右の画像ブロックのマッチング度の平均を記憶するようにしたが、いずれか小さい方を記憶するようにしても構わない。
【0313】
ステップS165において、CPU143は、1番目のラインの処理が終了したか否かを判別し、終了していないときは、ステップS162に戻り、再び処理を繰り返す。一方、ステップS165において、CPU143が、1番目のラインの処理が終了したと判別すると、ステップS166に処理を進める。
【0314】
ステップS166において、CPU143は、ワークメモリに記憶された1番目のライン分の各画像ブロックのマッチング度のうち、最小のマッチング度を有する画像ブロックの位置を、ワークメモリに記憶させる。
【0315】
ステップS167において、CPU143は、ステップS166において記憶された画像ブロックの位置により付加情報を出力する。即ち、例えば、図44(B)に示した場合では、マッチング度の小さい画像ブロックは2番目の画像ブロックとなり、その結果、付加情報は2となる。
【0316】
ステップS168において、CPU143は、現在の処理対象が画像の上段1乃至100番目のラインであるか、または下段の101乃至200番目のラインであるかを判別する。CPU143が、現在の処理対象が画像の上段であると判別すると、ステップS169に進み、画像処理領域を上段から下段に変更する。具体的には、CPU143は、現在処理されているラインが、例えば1番目のラインである場合には、それに100を加算し、101番目のラインを処理の対象とする。上段から下段に切り換えられた後、ステップS162に戻り、以下、同様の処理を繰り返す。
【0317】
一方、ステップS168において、CPU143が、現在の処理対象が画像の下段であると判別すると、ステップS170に進み、ステップS167において最終的に記憶された2つの位置の画像ブロックが入れ替えられると共に、入れ替え後の画像ブロックが、フレームメモリ141に書き込まれる。
【0318】
ステップS171において、CPU143は、画像データの復号が1フレーム分終了したか否かを判別する。そして、CPU143が、復号が終了していないと判別すると、ステップS169に進み、以下、同様の処理を繰り返す。また、ステップS171において、CPU143が、処理画像が終了したと判別すると、復号処理を終了する。
【0319】
ここで、元の原画像に復号され、フレームメモリ141に記憶される画像データは、1番目のラインと101番目のラインのように、2ライン毎に、出力I/F142を介して順に出力しても良いし、全ての復号処理が終了したのち、出力I/F142から出力しても構わない。
【0320】
以上のように、埋め込み符号化器103において、符号化対象の画像が有するエネルギの偏りを利用して復号を行うことができるように、その画像を、付加情報にしたがって符号化して、符号化データを出力する場合には、埋め込み復号器106では、その符号化データを、画像が有するエネルギの偏りを利用することにより、復号のためのオーバヘッドなしで、元の画像および付加情報に復号することができる。
【0321】
また、符号化対象の画像には、付加情報が埋め込まれることで、その埋め込みの結果得られる画像は、元の画像と異なる画像とされ、人が価値ある情報として認識することのできる画像ではなくなることから、符号化対象の画像については、オーバヘッドなしの暗号化を実現することができる。
【0322】
さらに、完全可逆の電子透かしを実現することができる。即ち、従来の電子透かしでは、例えば、画質にあまり影響のない画素値の下位ビットが、電子透かしに対応する値に、単に変更されていたが、この場合、その下位ビットを、元の値に戻すことは困難である。従って、復号画像の画質は、電子透かしとしての下位ビットの変更により、少なからず劣化する。これに対して、符号化データを、元の画像が有するエネルギの偏りを利用して復号する場合には、劣化のない元の画像および付加情報を得ることができ、従って、付加情報を電子透かしとして用いることで、電子透かしに起因して復号画像の画質が劣化することはない。
【0323】
また、埋め込まれた付加情報は、符号化データから画像を復号することで取り出すことができるので、画像の符号化結果とともに、オーバヘッドなしでサイドインフォメーションを提供することができる。言い換えれば、付加情報を取り出すためのオーバヘッドなしで、その付加情報を画像に埋め込むことができるので、その埋め込みの結果得られる符号化データは、付加情報の分だけ圧縮(埋め込み圧縮)されているということができる。従って、例えば、ある画像の半分を符号化対象とするとともに、残りの半分を付加情報とすれば、符号化対象である半分の画像に、残りの半分の画像を埋め込むことができるから、この場合、画像は、単純には、1/2に圧縮されることになる。
【0324】
さらに、符号化データは、元の画像が有するエネルギの偏りという、いわば統計量を利用して復号されるため、誤りに対する耐性の強いものとなる。即ち、ロバスト性の高い符号化であるロバスト符号化(統計的符号化)を実現することができる。
【0325】
また、符号化データは、元の画像が有するエネルギの偏りを利用して復号されるため、そのエネルギの偏りに特徴があるほど、即ち、例えば、画像については、そのアクティビティが高いほど、あるいは、冗長性が低いほど、多くの付加情報を埋め込むことができる。ここで、上述したように、付加情報の埋め込みの結果得られる符号化データは、付加情報の分だけ圧縮されているということができるが、この圧縮という観点からすれば、符号化対象の情報が有するエネルギの偏りを利用して復号を行うことができるように、その情報を、付加情報にしたがって符号化する方式(埋め込み符号化方式)によれば、画像のアクティビティが高いほど、あるいは、画像の冗長性が低いほど、圧縮率が高くなる。この点、埋め込み符号化方式は、従来の符号化方式と大きく異なる(従来の符号化方式である、例えばMPEG(Moving Picture Experts Group)方式などでは、基本的に、画像のアクティビティが高いほど、あるいは、画像の冗長性が低いほど、圧縮率は低くなる)。
【0326】
さらに、例えば、上述したように、画像を符号化対象とする一方、付加情報として、画像とは異なるメディアの、例えば、音声を用いるようにすることで、音声をキーとして、画像の提供を行うようなことが可能となる。即ち、符号化装置110側において、例えば、契約者が発話した音声「開けゴマ」など付加情報として画像に埋め込んでおき、復号装置120側では、ユーザに、音声「開けゴマ」を発話してもらい、その音声と、画像に埋め込まれた音声とを用いて話者認識を行うようにする。このようにすることで、例えば、話者認識の結果、ユーザが契約者である場合にのみ、自動的に、画像を提示するようなことが可能となる。なお、この場合、付加情報としての音声は、いわゆる特徴パラメータではなく、音声波形そのものを用いることが可能である。
【0327】
また、例えば、音声を符号化対象とする一方、付加情報として、音声とは異なるメディアの、例えば、画像を用いるようにすることで、画像をキーとして、音声の提供を行うようなこと(例えば、顔認識後の音声応答)が可能となる。即ち、符号化装置110側において、例えば、ユーザへの応答としての音声に、そのユーザの顔の画像を埋め込み、復号装置120側では、ユーザの顔を撮影し、その結果得られる画像とマッチングする顔画像が埋め込まれている音声を出力するようにすることで、ユーザごとに異なる音声応答を行う音声応答システムを実現することが可能となる。
【0328】
さらに、音声に、音声を埋め込んだり、画像に、画像を埋め込んだりするような、あるメディアの情報に、それと同一メディアの情報を埋め込むようなことも可能である。あるいは、また、画像に、契約者の音声と顔画像を埋め込んでおけば、ユーザの音声と顔画像とが、画像に埋め込まれているものと一致するときのみ、その画像を提示するようにする、いわば二重鍵システムなどの実現も可能となる。
【0329】
また、例えば、テレビジョン放送信号を構成する、いわば同期した画像と音声のうちのいずれか一方に、他方を埋め込むようなことも可能であり、この場合、異なるメディアの情報どうしを統合した、いわば統合符号化を実現することができる。
【0330】
さらに、埋め込み符号化方式では、上述したように、情報には、そのエネルギの偏りに特徴があるほど、多くの付加情報を埋め込むことができる。従って、例えば、ある2つの情報について、エネルギの偏りに特徴がある方を適応的に選択し、その選択した方に、他方を埋め込むようにすることで、全体のデータ量を制御することが可能となる。即ち、2つの情報どうしの間で、一方の情報によって、他方の情報量を、いわば吸収するようなことが可能となる。そして、このように全体のデータ量を制御することができる結果、伝送路の伝送帯域や使用状況、その他の伝送環境にあったデータ量による情報伝送(環境対応ネットワーク伝送)が可能となる。
【0331】
また、例えば、画像に、その画像を縮小した画像を埋め込むことで(あるいは、音声に、その音声を間引いたものを埋め込むことで)、データ量を増加することなく、いわゆる階層符号化(下位階層の情報を少なくすることにより、上位階層の情報を生成する符号化)を実現することができる。
【0332】
さらに、例えば、画像に、その画像を検索するためのキーとなる画像を埋め込んでおくことで、そのキーとなる画像に基づいて、画像の検索を行うデータベースを実現することが可能となる。
【0333】
次に、図46は、画像の相関性を利用して元に戻すことができるように、画像に付加情報を埋め込む埋め込み符号化を行う場合の図30の埋め込み符号化器103の他のハードウェアの構成例を示している。なお、図46の埋め込み符号化器103は、出力I/F133が設けられていない他は、図30における場合と同様に構成されている。
【0334】
画像データベース101から供給される画像は、フレームメモリ131に供給されるようになされており、フレームメモリ131は、画像データベース1からの画像を、例えば、フレーム単位で一時記憶するようになされている。
【0335】
CPU(Central Processing Unit)132は、プログラムメモリ134に記憶されたプログラムを実行することで、後述する埋め込み符号化処理を行うようになされている。即ち、CPU132は、プログラムメモリ134に記憶されたプログラムにしたがって、付加情報データベース102から供給される付加情報を受信し、その付加情報を、フレームメモリ131に記憶された画像に埋め込むようになされている。具体的には、CPU132は、フレームメモリ131に記憶された画像を構成する画素の位置を、例えば、1列(垂直方向に並ぶ画素列)単位で、付加情報に基づいて入れ替える(スワップする)ことで、各列に、付加情報を埋め込むようになされている。この付加情報が埋め込まれた画像は、符号化データとして出力されるようになされている。
【0336】
プログラムメモリ134は、例えば、ROM(Read Only Memory)やRAM(Random Access Memory)などで構成され、CPU132に、埋め込み符号化処理を行わせるためのコンピュータプログラムを記憶している。
【0337】
次に、図47は、図46の埋め込み符号化器103の機能的な構成例を示している。なお、この図47に示した機能的な構成は、CPU132がプログラムメモリ134に記憶されたコンピュータプログラムを実行することで実現されるようになされている。
【0338】
フレームメモリ131は、図46で説明したように、画像データベース101から供給される画像を一時記憶するようになされている。
【0339】
スワップ情報生成部136は、付加情報データベース102から付加情報を読み出し、その付加情報に基づいて、フレームメモリ131に記憶された1フレームの画像の各列の位置を、どのように入れ替えるかを表すスワップ情報を生成するようになされている。即ち、フレームメモリ131に記憶された1フレームの画像が、M行N列の画素で構成される場合において、その画像の第n列(左からn番目の列)を、第n’列に入れ替えるときには、スワップ情報生成部136において、nとn’とが対応付けられたスワップ情報が生成される(n,n’は、1以上N以下の整数)。
【0340】
ここで、1フレームの画像の列数がN列である場合、その入れ替え方は、そのすべての列を入れ替えの対象とすると、N!(!は、階乗を表す)通りだけある。従って、この場合、1フレームには、最大で、log2(N!)ビットの付加情報の埋め込みが可能となる。
【0341】
スワップ情報生成部136で生成されたスワップ情報は、スワッピング部137に供給されるようになされている。スワッピング部137は、スワップ情報生成部136から供給されるスワップ情報にしたがって、フレームメモリ131に記憶された1フレームの画像の各列の位置を入れ替えるようになされている。
【0342】
次に、図48のフローチャートを参照して、図47の埋め込み符号化器103において行われる埋め込み符号化処理について説明する。
【0343】
画像データベース101からは、そこに記憶されている画像が読み出され、フレームメモリ131に、順次供給されて記憶される。
【0344】
一方、スワップ情報生成部136では、ステップS181において、1フレームの画像に埋め込み可能なデータ量の付加情報が、付加情報データベース2から読み出される。即ち、例えば、上述したように、1フレームの画像の列数がN列であり、そのすべての列を入れ替えの対象とする場合には、1フレームには、最大で、log2(N!)ビットの付加情報の埋め込みが可能であるから、そのようなビット数(以下)の付加情報が、付加情報データベース102から読み出される。
【0345】
そして、スワップ情報生成部136は、ステップS182に進み、ステップS181で読み出した付加情報に基づいて、スワップ情報を生成する。即ち、スワップ情報生成部136は、付加情報に基づき、フレームメモリ131に記憶された処理対象のフレームの第1列乃至第N列のうちの、例えば、第1列を除く第2列乃至第N列それぞれを、第何列に入れ替えるかを表すスワップ情報を生成する。このスワップ情報は、スワッピング部137に供給される。
【0346】
スワッピング部137は、スワップ情報生成部136からスワップ情報を受信すると、ステップS183に進み、そのスワップ情報にしたがって、フレームメモリ131に記憶された処理対象のフレームの各列の位置を入れ替える。そして、列の位置の入れ替えが行われたフレームは、フレームメモリ131から読み出され、符号化データとして出力される。
【0347】
なお、フレームの各列の位置の入れ替えは、フレームメモリ131における画像データ(を構成する画素)の記憶位置を変更することで行うことができるが、その他、例えば、フレームメモリ131からフレームを読み出すときのアドレスを制御することによって、結果として、列の位置の入れ替えが行われたフレームが、フレームメモリ131から読み出されるようにしても良い。
【0348】
また、本実施の形態では、上述したように、スワップ情報には、第2列乃至第N列それぞれを、第何列に入れ替えるかを表す情報が含まれているが、第1列を、第何列に入れ替えるかを表す情報は含まれていない。従って、スワッピング部37では、第2列乃至第N列それぞれの入れ替えは行われるが、第1列の入れ替えは行われない。
【0349】
処理対象のフレームの第2列乃至第N列すべての入れ替えが終了すると、ステップS184に進み、フレームメモリ131に、まだ処理の対象とされていないフレームが記憶されているかどうかが判定され、記憶されていると判定された場合、ステップS181に戻り、まだ処理されていないフレームを対象に、同様の処理が繰り返される。
【0350】
また、ステップS184において、フレームメモリ131に、まだ処理の対象とされていないフレームが記憶されていないと判定された場合、埋め込み符号化処理を終了する。
【0351】
以上のような埋め込み符号化処理によれば、ある1フレームの画像は、次のような符号化データに符号化される。
【0352】
即ち、いま、付加情報が、例えば、図49に示すように、N列(図49(A))の処理対象フレームの第2列を第6列に(図49(B))、第3列を第9列に(図49(C))、第4列を第7列に(図49(D))、第5列を第3列に(図49(E))、第6列を第8列に(図49(F))、第7列を第4列に(図49(G))、第8列を第5列に(図49(H))、第9列を第2列に(図49(I))、・・・、第N列を第N列に、それぞれ入れ替えるものに対応するとすると、そのような入れ替えを表すスワップ情報が、スワップ情報生成部136において生成される。そして、スワッピング部137では、例えば、図49(J)に示すようなフレームが、上述のようなスワップ情報にしたがい、第2列が第6列に、第3列が第9列に、第4列が第7列に、第5列が第3列に、第6列が第8列に、第7列が第4列に、第8列を第5列に、第9列が第2列に、・・・、第N列が第N列に、それぞれ入れ替えられる。その結果、図49(J)の画像は、図49(K)に示すような画像に符号化される。
【0353】
ここで、図49における第1列乃至第9列に注目して、埋め込み符号化処理について、さらに説明する。
【0354】
本実施の形態では、第1列は入れ替えの対象になっていない(禁止されている)ので、まず、第2列については、第1列乃至第9列のうちの第1列を除く第2列乃至第9列の合計8列の中から入れ替え先が決定される。この場合、第2列の入れ替え先は8通り存在するので、付加情報として、例えば、0乃至7の8通りの値のうちのいずれかを埋め込むことが可能である。いま、第2列乃至第8列への入れ替えに、それぞれ0乃至7の付加情報を割り当てると、図49(B)に示したように、第2列が第6列に入れ替えられる場合は、第6列への入れ替えに割り当てられた4が、付加情報として埋め込まれることになる。
【0355】
第2列が第6列に入れ替えられると、残りの入れ替え先は第2列乃至第5列および第7列乃至第9列の合計7列となり、第3列については、この7列の中から入れ替え先が決定される。従って、この場合、付加情報として、例えば、0乃至6の7通りの値のうちのいずれかを埋め込むことが可能である。いま、上述した場合と同様に、第2列乃至第5列、第7列乃至第9列への入れ替えに、それぞれ0乃至6の付加情報を割り当てると、図49(C)に示したように、第3列が第9列に入れ替えられる場合は、第9列への入れ替えに割り当てられた6が、付加情報として埋め込まれることになる。
【0356】
以下、同様にして、画像に付加情報が埋め込まれるが、このような埋め込み手法による場合には、付加情報の埋め込みが進行するほど、埋め込み可能な付加情報のビット数が減少していくことになる。
【0357】
以上のように、フレームメモリ131に記憶された画像を構成する1以上の画素の集合としての、各列の画素の位置を、付加情報に対応して入れ替えることにより、各列に、付加情報を埋め込む場合には、その逆の入れ替えを行うことで、元の画像を復号することができ、さらに、どのような入れ替えを行ったかということが付加情報となる。従って、画像の画質の劣化を極力なくし、かつデータ量を増加せずに、画像に付加情報を埋め込むことができる。
【0358】
即ち、付加情報が埋め込まれた画像である、列の位置の入れ替えが行われた画像の各列は、その画像の相関性、即ち、ここでは、元の画像と同様の正しい位置にある列との間の相関を利用することにより、オーバヘッドなしで、元の位置に入れ替えることができ、さらに、その入れ替え方により、付加情報を復号ことができる。従って、その結果得られる復号画像(再生画像)には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0359】
なお、符号化データに、正しい位置にある列が存在しない場合には、上述のように画像の相関性を利用して、画像と付加情報を復号するのは困難である。そこで、ここでは、図48の埋め込み符号化処理において、各フレームの第1列は、入れ替えを行わないで、そのまま、符号化データとして出力するようにしている。
【0360】
但し、第1列を含むすべての列を入れ替えの対象として、埋め込み符号化を行うことも可能であり、この場合、入れ替え後の列の少なくとも1以上の元の位置を、オーバヘッドとして、符号化データに含めることで、画像と付加情報の復号が容易に可能となる。
【0361】
また、付加情報は、上述のように、列を、順次入れ替えることにより、画像に埋め込んでいく他、すべての列を一度に入れ替えることにより、画像に埋め込むことも可能である。この場合、すべての列を一度に入れ替えるときの場合の数は、その列数の階乗通りだけあるが、その階乗通りの中から、どのような入れ替えパターンを選択するかが、付加情報によって決定される。また、その復号は、付加情報が埋め込まれた画像について、すべての列の階乗通りの入れ替えが行われ、その階乗通りの入れ替えパターンの中から、相関に基づいて、1つの入れ替えパターンが決定されることにより行われる。
【0362】
さらに、ここでは、画像の列を、付加情報そのものにしたがって入れ替えるようにしたが、列の入れ替えは、その他、例えば、付加情報の特徴量(例えば、付加情報のヒストグラムや、分散、ダイナミックレンジ等)に応じて行うようにすることも可能である。
【0363】
次に、図50は、図47の埋め込み符号化器103が出力する符号化データを、画像の相関性を利用して元の画像と付加情報に復号する図27の埋め込み復号器106のハードウェアの構成例を示している。なお、図50の埋め込み復号器106は、出力I/F142が設けられていない他は、図33における場合と同様に構成されている。
【0364】
符号化データ、即ち、付加情報が埋め込まれた画像(以下、適宜、埋め込み画像ともいう)は、フレームメモリ141に供給されるようになされており、フレームメモリ141は、埋め込み画像を、例えば、フレーム単位で一時記憶するようになされている。
【0365】
CPU143は、プログラムメモリ144に記憶されたプログラムを実行することで、埋め込み復号処理を行うようになされている。即ち、CPU143は、フレームメモリ141に記憶された埋め込み画像を、画像の相関性を利用して元の画像と付加情報に復号するようになされている。具体的には、CPU143は、埋め込み画像を構成する列のうち、既に復号した最新の列と、他の列との相関を計算する。そして、既に復号した列との相関を最大にする列を、その既に復号した列の右隣の位置に入れ替えることを、埋め込み画像を構成するすべての列について行うことで、元の画像を復号し、さらに、埋め込み画像を元の画像に復号する際の、埋め込み画像の各列の位置の入れ替え方に基づいて、付加情報を復号する。
【0366】
プログラムメモリ144は、CPU143に、埋め込み復号処理を行わせるためのコンピュータプログラムを記憶している。
【0367】
次に、図51は、図50の埋め込み復号器106の機能的な構成例を示している。なお、この図51に示した機能的な構成は、CPU143がプログラムメモリ144に記憶されたコンピュータプログラムを実行することで実現されるようになされている。
【0368】
フレームメモリ141は、図50で説明したように、埋め込み画像を一時記憶するようになされている。
【0369】
スワッピング部146は、フレームメモリ141に記憶された処理対象のフレームの、既に元の位置に入れ替えられた最新の列と、他の列(まだ、元の位置に戻されていない列)との相関を計算し、その相関に基づいて、処理対象のフレームの中の、まだ元の位置に戻されていない列の位置を入れ替えることで元に戻す(列の位置を復号する)ようになされている。さらに、スワッピング部146は、フレームの各列をどのように入れ替えたかを表すスワップ情報を、スワップ情報変換部147に供給するようにもなされている。
【0370】
スワップ情報変換部147は、スワッピング部146からのスワップ情報、即ち、処理対象のフレームの各列の、入れ替え前の位置と、入れ替え後の位置との対応関係に基づいて、埋め込み画像に埋め込まれた付加情報を復号するようになされている。
【0371】
次に、図52のフローチャートを参照して、図51の埋め込み復号器106において行われる埋め込み復号処理について説明する。
【0372】
フレームメモリ141では、そこに供給される埋め込み画像(符号化データ)が、例えば、1フレーム単位で順次記憶される。
【0373】
一方、スワッピング部146では、ステップS191において、フレームの列数をカウントするための変数nに、初期値としての、例えば、1がセットされ、ステップS192に進み、変数nが、フレームの列数であるNから1を減算したN−1以下であるかどうかが判定される。
【0374】
ステップS192において、変数nがN−1以下であると判定された場合、ステップS193に進み、スワッピング部146は、フレームメモリ141に記憶された処理対象のフレームから、第n列の画素(画素列)を読み出し、その第n列の各画素(の画素値)を要素として並べたベクトル(以下、適宜、列ベクトルという)vnを生成する。ここで、フレームがM行の画素で構成される場合には、列ベクトルvn(後述する列ベクトルvkも同様)は、M次元のベクトルとなる。
【0375】
その後、ステップS194において、第n列より右側にある列をカウントするための変数kに、初期値としてのn+1がセットされ、ステップS195に進み、スワッピング部146は、第k列の画素を読み出し、その第k列の画素を要素とする列ベクトルvkを生成して、ステップS196に進む。
【0376】
ステップS196では、スワッピング部146において、列ベクトルvnおよびvkを用いて、第n列と第k列との相関が求められる。
【0377】
即ち、スワッピング部146では、列ベクトルvnとvkとの距離d(n,k)が、次式にしたがって計算される。
【0378】
但し、上式において、Σは、mを、1からMに変化させてのサメーションを表す。また、また、A(i,j)は、処理対象になっているフレームの第i行第j列の画素(画素値)を表す。
【0379】
そして、スワッピング部146では、列ベクトルvnとvkとの距離d(n,k)の逆数1/d(n,k)が、第n列と第k列との相関(を表す相関値)として求められる。
【0380】
第n列と第k列との相関の算出後は、ステップS197に進み、変数kが、フレームの列数であるNから1を減算したN−1以下であるかどうかが判定される。ステップS197において、変数kがN−1以下であると判定された場合、ステップS198に進み、変数kが1だけインクリメントされ、ステップS195に戻り、以下、ステップS197において、変数kがN−1以下でないと判定されるまで、ステップS195乃至S198の処理を繰り返す。即ち、これにより、第n列と、それより右側にある埋め込み画像の列それぞれとの相関が求められる。
【0381】
その後、ステップS197において、変数kがN−1以下でないと判定されると、ステップS198に進み、スワッピング部146において、第n列との相関を最大にするkが求められる。そして、第n列との相関を最大にするkを、例えばKと表すと、スワッピング部146は、ステップS200において、フレームメモリ141に記憶された処理対象のフレームの第n+1列と第K列とをスワッピング、即ち、第K列を、第n列の右隣の第n+1列に入れ替える。
【0382】
その後、ステップS201において、変数nが1だけインクリメントされ、ステップS192に戻り、以下、ステップS192において、変数nがN−1以下でないと判定されるまで、ステップS192乃至S201の処理を繰り返す。
【0383】
ここで、本実施の形態では、埋め込み画像の第1列は、元の画像の第1列のままであるから、変数nが、初期値である1のときは、第1列との相関が最も高い埋め込み画像の列が、第1列の右隣の第2列に入れ替えられる。第1列との相関が最も高い列は、画像の相関性から、基本的に、元の画像の第2列であるから、この場合、埋め込み符号化処理において、埋め込み画像のどこかの列に入れ替えられた元の画像の第2列は、元の位置に戻される(復号される)ことになる。
【0384】
そして、変数nが2となると、上述したようにして元の位置に入れ替えられた第2列との相関が最も高い埋め込み画像の列が、その第2列の右隣の第3列に入れ替えられる。第2列との相関が最も高い列は、やはり、画像の相関性から、基本的に、元の画像の第3列であるから、この場合、埋め込み符号化処理において、埋め込み画像のどこかの列に入れ替えられた元の画像の第3列は、元の位置に戻されることになる。
【0385】
以下、同様にして、フレームメモリ141に記憶された埋め込み画像は、元の画像に復号されていく。
【0386】
そして、ステップS192において、変数nがN−1以下でないと判定された場合、即ち、埋め込み画像を構成する第2列乃至第N列すべてが、画像の相関性を利用して元の位置に戻され、これにより、フレームメモリ141に記憶された埋め込み画像が、元の画像が復号された場合、ステップS202に進み、その復号された画像が、フレームメモリ141から読み出される。さらに、ステップS202では、スワッピング部146が、埋め込み画像を元の画像に復号した際の、埋め込み画像の第2列乃至第N列それぞれの入れ替え方を表すスワップ情報が、スワップ情報変換部147に出力される。そして、スワップ情報変換部147では、スワッピング部146からのスワップ情報に基づいて、埋め込み画像に埋め込まれていた付加情報が復号されて出力される。
【0387】
その後、ステップS203に進み、フレームメモリ141に、まだ処理の対象とされていない埋め込み画像のフレームが記憶されているかどうかが判定され、記憶されていると判定された場合、ステップS191に戻り、まだ処理の対象とされていない埋め込み画像のフレームを対象に、同様の処理が繰り返される。
【0388】
また、ステップS203において、フレームメモリ141に、まだ処理の対象とされていないフレームが記憶されていないと判定された場合、埋め込み復号処理を終了する。
【0389】
以上のように、付加情報が埋め込まれた画像である符号化データを、画像の相関性を利用して、元の画像と付加情報に復号するようにしたので、その復号のためのオーバヘッドがなくても、符号化データを、元の画像と付加情報に復号することができる。従って、その復号画像には、基本的に、付加情報を埋め込むことによる画質の劣化は生じない。
【0390】
なお、図52の埋め込み復号処理においては、既に復号された最新の列(n=1の場合においては、埋め込み符号化時に入れ替えられていない第1列)と、まだ復号されていない列との相関を求め、その相関に基づいて、既に復号された最新の列の右隣の位置に入れ替えられるべき列を検出するようにしたが、その他、例えば、既に復号された複数の列と、まだ復号されていない列との相関を演算することにより、既に復号された最新の列の右隣に入れ替えられるべき列を検出するようにすることも可能である。
【0391】
ここで、図53乃至図55に、以上のような埋め込み符号化処理および復号化処理のシミュレーション結果を示す。
【0392】
図53は、埋め込み符号化処理の対象とした画像(原画像)で、長手方向を縦にして見た場合に、横×縦が512画素×832画素で構成されている。
【0393】
図54は、図53の画像に対して、埋め込み符号化処理を施した処理結果を示している。図54の画像(埋め込み画像)には、log2(512!)ビットの付加情報が埋め込まれている。なお、同図からも明らかなように、埋め込み符号化は、上述したように、画像の暗号化という機能(効果)を有する。
【0394】
図55は、図54の埋め込み符号化処理の結果を、埋め込み復号処理により復号した復号画像を示している。図53と図55とを比較することにより、画質の劣化なく、元の画像に復号されていることが分かる。なお、埋め込み復号処理により、埋め込み画像が元の画像に正確に復号されれば、その復号の際の、埋め込み画像の各列の入れ替え方に基づいて、付加情報も、正確に復号される。
【0395】
次に、上述の場合においては、埋め込み符号化器103には、例えば、図56に示すような、N列でなる画像を符号化対象とし、第1列は固定して、第2乃至第N列を、付加情報にしたがって入れ替えることにより埋め込み符号化を行わせるようにしたが、埋め込み符号化器103には、その他、例えば、図57に示すような、Hラインでなる画像を符号化対象とし、第1ラインは固定して、第2乃至第Hラインを、付加情報にしたがって入れ替えることにより埋め込み符号化を行わせることが可能である。
【0396】
また、埋め込み復号器106には、埋め込み符号化結果を、画像の相関性を利用して、元の画像と付加情報に復号させるようにしたが、埋め込み復号器106には、画像の相関性、連続性、または相似性のうちの複数を利用して、埋め込み符号化結果の復号を行わせることが可能である。
【0397】
即ち、図52における場合には、図56の画像の各列について、その列を構成する画素の画素値を要素とする列ベクトルvnを用い、その列ベクトルどうしの距離の逆数を、相関として定義し、この相関のみを利用して、符号化データの復号を行うようにしたが、この場合、埋め込み復号器106では、まず、符号化データから、第1列(第1列は、上述したように固定)の列ベクトルと最も距離の近い列ベクトルが検出され、その列ベクトルに対応する列が、第2列とされる。さらに、埋め込み復号器106では、符号化データから、第2列の列ベクトルと最も距離の近い列ベクトルが検出され、その列ベクトルに対応する列が、第3列とされる。以下、同様にして、符号化データから、第N列までが検出され、これにより、元の画像が復号されるとともに、第2乃至第N列が、どのように入れ替えられていたかが、埋め込まれた付加情報として復号される。
【0398】
一方、図56の画像の第n列(n=1,2,・・・,N)の列ベクトルv1,v2,・・・、vNが列ベクトル空間内に描く軌跡が、例えば、図58に、細い点線で示すようであったとする。
【0399】
この場合、上述したように、第1列から、最も距離の近い列ベクトルを順次検出していくと、図58に太い点線で示す軌跡が描かれる。即ち、v1,v2,v13,v3,v14,v15,v4,v5,v6,・・・といった順番で、列ベクトルが検出されていく。従って、図58の実施の形態においては、相関(ここでは、列ベクトルどうしの距離)だけでは、列ベクトルは、正しい順序で検出されず、その結果、画像および付加情報も正しく復号することができないことになる。
【0400】
そこで、第1列の列ベクトルv1と最も距離の近い列ベクトルを検出し、その列ベクトルに対応する列を、第2列とした後は、例えば、図59に示すように、第2列の列ベクトルv2と、第1列の列ベクトルv1との差分ベクトル△v12を求める。そして、列ベクトルv2に、その差分ベクトル△v12を加算したベクトルによって表される点P12に最も近い列ベクトルを検出し、その列ベクトルに対応する列を第3列とする。
【0401】
さらに、第4列については、第3列の列ベクトルv3と、第2列の列ベクトルv2との差分ベクトルを求めて、その差分ベクトルを、列ベクトルv3に加算したベクトルによって表される点に最も近い列ベクトルを検出し、その列ベクトルに対応する列を第4列とする。以下、同様にして、第N列までを求めていくようにする。
【0402】
以上のように、第n列と第n+1列との間の相関性だけでなく、第n列の列ベクトルvnと、第n+1列の列ベクトルvn+1との間の、例えば連続性、即ち、ここでは、差分ベクトルvn+1−vnの変化が連続しているということをも利用することで、図58において、細い点線で示した軌跡が描かれるような正しい順番で、列ベクトルが検出され、その結果、画像および付加情報を正しく復号することができる。
【0403】
次に、図49の実施の形態においては、符号化対象の画像の画素(但し、第1列の画素を除く)を、列単位で、付加情報に基づいて入れ替えることで、付加情報の、画像への埋め込み、即ち、埋め込み符号化を行うようにしたが、埋め込み符号化は、例えば、符号化対象の画像の画素を、行単位で入れ替えたり、また、時間方向に並ぶ所定数のフレームの同一位置にある画素列の位置を入れ替えたりすることで行うことも可能である。
【0404】
さらに、埋め込み符号化は、例えば、符号化対象の画像の画素を、列単位で入れ替え、さらに、その入れ替え後の画像の画素を、行単位で入れ替えることにより行うことも可能である。
【0405】
即ち、例えば、図60に示すような、横×縦がN×M画素でなる画像の列を、付加情報に基づいて入れ替え、例えば、図61(A)に示すような埋め込み画像とする。ここで、図61(A)においては、図60の画像の第1列が第5列に、第2列が第N列に、第3列が第1列に、第4列が第2列に、第5列が第4列に、第6列が第3列に、・・・、第N列が第6列に、それぞれ入れ替えられている。
【0406】
そして、図61(A)の画像の行を、付加情報に基づいて入れ替え、例えば、図61(B)に示すような埋め込み画像とする。ここで、図61(B)においては、図61(A)の画像の第1行が第3行に、第2行が第5行に、第3行が第2行に、第4行が第M行に、第5行が第1行に、・・・、第M行が第4行に、それぞれ入れ替えられている。
【0407】
図61(B)に示した埋め込み画像は、例えば、その第1列の左側に、入れ替えを行っていない列があるとすれば、その列を第1列として、図52で説明した埋め込み復号処理を行うことにより、図60に示した元の画像に復号することができる。即ち、列方向と行方向の両方向の入れ替えを行った埋め込み画像については、式(1)におけるΣにおいて加算される項の順番が変化するだけで、加算される項自体は変化しない。従って、式(1)によって求められる距離d(n,k)は、埋め込み符号化された画像が同一であれば、列だけ入れ替えた場合と、列と行の両方を入れ替えた場合とで変化しないため、列と行の両方を入れ替えた埋め込み画像も、列だけ入れ替えた埋め込み画像と同様に、図52の埋め込み復号処理によって、元の画像と付加情報に復号することができる。
【0408】
以上から、列と行の両方を入れ替える場合には、行と列のうち、いずれの入れ替えを先または後に行うかは、埋め込み復号処理に影響を与えない。従って、埋め込み符号化処理においては、行と列の入れ替えのうちのいずれを先または後に行っても良いし、埋め込み復号処理においても、行と列の入れ替えのうちのいずれを先または後に行っても良い。また、行と列の入れ替えを、交互に行うようなことも可能である。
【0409】
なお、埋め込み符号化処理において、列だけの入れ替えを行う場合には、埋め込み画像を元の画像に復号した際の、埋め込み画像の列の入れ替え方が、付加情報の復号結果となるが、行と列の両方の入れ替えを行う場合には、埋め込み画像の第m行n列の位置(m,n)にある画素が、復号画像のどの位置(m’,n’)に入れ替えられたかが、付加情報の復号結果となる。
【0410】
次に、図48の埋め込み符号化処理では、符号化対象の画像の第1列だけを固定にし、埋め込み復号器106では、この第1列を、いわば復号の基準として、埋め込み画像の他の列の入れ替えを行うようにしたが、復号の基準は、第1列でなくても、あらかじめ、埋め込み符号化器103と埋め込み復号器106に設定されていれば、最後の第N列であっても良いし、その他の任意の列でも良い。さらに、復号の基準は、1列の画素である必要はなく、極端には、1画素であっても良い。
【0411】
ところで、例えば、第1列を、いわば復号の基準とし、画像の相関を利用して、埋め込み画像の他の列の入れ替えを行う場合には、1の列の入れ替えを誤ると、その後の列(本実施の形態では、入れ替えを誤った列の右側にある列)の入れ替えも誤る可能性が高くなる。この場合、元の画像を復号することができないから、正しい付加情報を復号することもできなくなる。
【0412】
そこで、埋め込み符号化処理においては、複数の列を、復号の基準として残しておく(入れ替えの対象としない)(入れ替えを禁止する)ようにすることが可能である。
【0413】
即ち、例えば、画像の列方向に並ぶ画素の集合を1の入れ替え単位として入れ替えを行う場合においては、例えば、図62に斜線を付して示すように、1列おきの列を、復号の基準とし、残りの列(図62において、白抜きで示す部分)を、入れ替えの対象とすることが可能である。
【0414】
なお、図62に示した場合において、画像の列数が2N列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2(N!)ビットとなる。
【0415】
次に、埋め込み符号化は、列や行単位より細かい単位で、1以上の画素の集合を入れ替えることで行うことが可能である。
【0416】
即ち、例えば、図63に示すように、画像の各列を、5画素などの1以上の連続して並ぶ画素の集合に分け、その集合を1の入れ替え単位として入れ替えを行うことが可能である。さらに、この場合、図63に示すように、入れ替え単位を市松模様状に2つに分類し、一方(例えば、図63において白抜きの部分)を入れ替え対象とし、他方(例えば、図63において斜線を付してある部分)を復号の基準とすることが可能である。なお、このようにした場合において、画像の行数が、入れ替え単位がM個だけ並ぶ画素数で構成され、列数が2N列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2((M×N)!)ビットとなる。
【0417】
また、例えば、図64に示すように、画像の各列の画素を、6画素などの所定の画素数おきに抽出し、その抽出した画素の集合(図64において、○を付してある画素の集合や、×を付してある画素の集合、△を付してある画素の集合など)を、1の入れ替え単位として入れ替えを行うことが可能である。さらに、この場合、図64に示すように、画像を構成する各画素を市松模様状に2つに分類し、一方(例えば、図64において白抜きの部分)を入れ替え対象とし、他方(例えば、図64において斜線を付してある部分)を復号の基準とすることが可能である。なお、このようにした場合において、画像の各列から2M画素おき(図64の実施の形態では、6画素おき)に抽出した画素の集合を1の入れ替え単位とし、画像の列数がN列であれば、その画像に埋め込むことのできる付加情報のデータ量は、最大で、log2((M×N)!)ビットとなる。即ち、例えば、図64において○印で示す入れ替え単位は、同図において、1420や、1421、1422で示すように、各列に存在し、従って、各列における○印で示す入れ替え単位のみに注目すれば、N!通りの入れ替えが可能である。よって、画像の各列から2M画素おきに抽出した画素の集合を1の入れ替え単位とする場合には、各列には、M個の入れ替え単位が存在するから、図64に示した画像全体では、最大で、(M×N)!通りの入れ替えが可能であり、その結果、画像に埋め込むことのできる付加情報のデータ量は、log2((M×N)!)ビットとなる。
【0418】
ここで、図62乃至図64に示した場合においては、入れ替え対象の画素(図62乃至図64において白抜きの部分)の集合が、複数の復号の基準(図62乃至図64において斜線を付してある部分)に隣接している。このような場合においては、例えば、その複数の復号の基準それぞれと、入れ替え対象の画素の集合との距離の自乗和の逆数などを相関として利用することができる。
【0419】
以上のように、埋め込み符号化時および埋め込み復号時における入れ替え単位は、特に限定されるものではない。
【0420】
また、復号の基準とする画素の集合も特に限定されるものではない。
【0421】
なお、復号の正確さの観点からすれば、入れ替え対象の画素が、より多数の、復号の基準とされている画素に隣接しているのが好ましく、従って、図64に示した場合が最も好ましい。さらに、復号の正確さの観点からすれば、復号の基準とする画素が多い方が好ましい。
【0422】
但し、復号の基準とする画素は入れ替えの対象とされないから、その数が多い場合には、画像に埋め込むことのできる付加情報のデータ量が少なくなる。さらに、復号の基準とする画素が多い場合や、入れ替え対象の画素が、より多数の、復号の基準とされている画素に隣接している場合には、暗号化の効果が弱まる。
【0423】
従って、復号の基準とする画素の数やその配置パターンは、復号の正確さと、埋め込む付加情報のデータ量および暗号化の効果とを考慮し、埋め込み符号化および埋め込み復号の用途に応じて設定するのが望ましい。
【0424】
また、ある列が、それに近い列に入れ替えられたり、あるいは、近い位置にある列どうしが、同様の位置関係のまま入れ替えられたりする場合には、やはり、暗号化の効果が弱まるので、そのような入れ替えが行われないように、埋め込み符号化処理において、各列は、元の位置より、所定距離以上離れた位置の列に入れ替えるといった制限や、近い位置にある列どうしは、所定距離以上離れた位置の列に入れ替えるといった制限を付すことが可能である。
【0425】
さらに、埋め込み符号化の対象とする画像が、例えば、RGBコンポーネント信号で構成されるカラー画像である場合には、RGBのすべてを同一位置に入れ替えても良いし、RGBの各コンポーネントを、独立に入れ替えても良い。RGBのすべてを同一位置に入れ替える場合には、RGBの各コンポーネントを、独立に入れ替える場合に比較して、埋め込むことのできる付加情報のデータ量は少なくなるが、埋め込み復号時における復号精度を向上させることができる。一方、RGBの各コンポーネントを、独立に入れ替える場合には、RGBのすべてを同一位置に入れ替える場合に比較して、埋め込み復号時における復号精度は劣化するが、埋め込むことのできる付加情報のデータ量を多くすることができる。
【0426】
また、付加情報として用いる情報は、特に限定されるものではなく、例えば、画像や、音声、テキスト、コンピュータプログラム、制御信号、その他のデータを付加情報として用いることが可能である。なお、画像データベース101の画像の一部を付加情報とし、残りを、フレームメモリ131への供給対象とすれば、その残りの部分に、付加情報とされた画像の一部分が埋め込まれるから、画像の圧縮が実現されることになる。
【0427】
さらに、本実施の形態では、付加情報を、画像に埋め込むようにしたが、付加情報は、その他、例えば、音声に埋め込むことも可能である。即ち、例えば、時系列の音声データを、適当なフレームに区切り、各フレームの音声データを、付加情報にしたがって入れ替えることで、付加情報を、音声に埋め込むことが可能である。
【0428】
また、上述の場合には、CPU132または142に、コンピュータプログラムを実行させることで、埋め込み符号化処理または埋め込み復号処理をそれぞれ行うようにしたが、これらの処理は、それ専用のハードウェアによって行うことも可能である。
【0429】
以上のような埋め込み符号化/復号を利用して、ユーザ端末3におけるパッケージデータの出力に伴って、広告情報を、ユーザに必然的に見せる場合には、パッケージデータを、次のように埋め込み符号化して、その符号化データを、ユーザ端末3に提供するようにすれば良い。
【0430】
即ち、まず、例えば、マルチメディアパッケージデータのメインデータに、そのメインデータと組になっているサブデータとしてのテキストデータ、画像データ、および音声データを埋め込む。
【0431】
具体的には、例えば、メインデータが画像データであるとすると、図65(A)に示すような、メインデータとしての画像データのラインを、サブデータに基づいて入れ替え、図65(B)に示すような埋め込み画像を得る。
【0432】
さらに、その埋め込み画像に、広告情報を埋め込み、最終的な埋め込み画像を得る。
【0433】
具体的には、例えば、メインデータに、サブデータを埋め込むことにより得られる埋め込み画像の列を、広告情報に基づいて入れ替え、図65(C)に示すような、最終的な埋め込み画像を得る。
【0434】
なお、図65においては、最初に、メインデータとしての画像をラインを、サブデータに基づいて入れ替えることにより、埋め込み画像を得て、その後に、その埋め込み画像の列を、広告情報に基づいて入れ替えることにより、最終的な埋め込み画像を得るようにしたが、上述したように、埋め込み符号化/復号化においては、ライン(行)と列のうちのいずれの入れ替えを先または後に行うかは、埋め込み符号化/復号に影響を与えないから、図66に示すように、最初に、メインデータとしての画像の列を、広告情報に基づいて入れ替えることにより(図66(A))、埋め込み画像を得て、その後に、その埋め込み画像のラインを、サブデータに基づいて入れ替えることにより(図66(B))、最終的な埋め込み画像(図66(C))を得るようにすることも可能である。
【0435】
また、サブデータに基づいて、画像の列を入れ替えるとともに、広告情報に基づいて、画像のラインを入れ替えるようにしても良い。
【0436】
さらに、マルチメディアパッケージデータへの広告情報の埋め込み方法は、上述したようなラインや列の入れ替えに限定されるものではない。
【0437】
以上のような埋め込み画像等である符号化データが、パッケージサーバ1からユーザ端末3に提供される場合には、ユーザ端末3において、マルチメディアパッケージデータの出力に伴って、広告情報を、ユーザに必然的に見せること等が可能となる。
【0438】
なお、マルチメディアパッケージデータのメインデータがテキストデータである場合には、メインデータが画像データまたは音声データである場合に比較して、一般に、メインデータに対し、少量の情報しか埋め込むことができないため、本実施の形態では、メインデータが、画像データか、または音声データである場合にのみ、広告情報を埋め込むこととする。但し、メインデータが、テキストデータである場合であっても、広告情報を埋め込むようにすることが可能である。
【0439】
図67は、パッケージサーバ1が、マルチメディアパッケージデータを埋め込み符号化した符号化データを提供する場合のユーザ端末3の構成例を示している。なお、図中、図18における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は適宜省略する。即ち、図67のユーザ端末3は、第1復号部54および第2復号部55が新たに設けられている他は、基本的に、図18における場合と同様に構成されている。
【0440】
なお、ここでは、例えば、図65または図66で説明したように、サブデータと広告情報それぞれを、いわば独立に、メインデータに埋め込んだ符号化データとなっているマルチメディアパッケージデータが、パッケージサーバ1から提供されるものとする。
【0441】
第1復号部54は、データ検索部44が記憶部52から検索して出力するマルチメディアパッケージデータとしての埋め込み符号化された符号化データに対して、埋め込み復号処理を施し、その復号結果を、第2復号部55に出力するとともに、表示部51またはスピーカ53に供給する。第2復号部55は、第1復号部54の出力に対して、埋め込み復号処理を施し、その復号結果を、選択指示検出部45に出力するとともに、表示部51またはスピーカ53に供給する。
【0442】
次に、図68および図69のフローチャートを参照して、図67のユーザ端末3の処理について説明する。
【0443】
ユーザ端末3では、図68に示すように、ステップS211乃至S223において、図19のステップS31乃至S43における場合とそれぞれ、基本的に同様の処理が行われる。
【0444】
但し、ここでは、パッケージサーバ1から提供されるマルチメディアパッケージデータは、基本的に、埋め込み符号化された符号化データとなっているため、ステップS222では、そのような符号化データが、記憶部52に記憶される。さらに、符号化データの状態では、ステップS223においてメインデータを出力し、また、ステップS217においてサブデータを出力することができないことから、そのメインデータおよびサブデータを得るために、図67のユーザ端末3では、図69のフローチャートにしたがったマルチメディアパッケージデータ復号処理が、メインデータやサブデータの出力時に、図68のフローチャートにしたがった処理と並列に行われる。
【0445】
即ち、データ検索部44は、ステップS231において、パッケージサーバ1からダウンロードされ、記憶部52に記憶されたマルチメディアパッケージデータ(符号化データ)を、必要に応じて検索し、ステップS232に進み、その検索結果としてのマルチメディアパッケージデータのメインデータが、画像データまたは音声データのうちのいずれかであるかどうかを判定する。ステップS232において、メインデータが、画像データおよび音声データのうちのいずれでもないと判定された場合、即ち、メインデータがテキストデータである場合、ステップS231に戻る。
【0446】
即ち、メインデータがテキストデータである場合には、ここでは、上述したように、そのメインデータを有するマルチメディアパッケージデータは埋め込み符号化されていないから、メインデータおよびサブデータを即座に出力できるので、特に処理を行わずに、ステップS231に戻る。
【0447】
なお、例えば、マルチメディアパッケージデータのうちのヘッダには、情報の埋め込みが行われないこととし、また、ヘッダには、マルチメディアパッケージデータのメディアの種類が記述されているものとする。従って、ステップS232における判定処理は、マルチメディアパッケージデータのヘッダを参照することで行うことができる。
【0448】
また、ステップS232において、メインデータが、画像データまたは音声データのうちのいずれかであると判定された場合、即ち、マルチメディアパッケージデータが埋め込み符号化されている場合、データ検索部44は、その埋め込み符号化されているマルチメディアパッケージデータである符号化データを、第1復号部54に供給し、ステップS233に進む。
【0449】
ステップS233では、第1復号部54は、データ検索部44からの符号化データに対して、埋め込み復号処理を施し、これにより、符号化データに埋め込まれていた広告情報を復号するとともに、サブデータが埋め込まれた状態のメインデータ(以下、適宜、サブデータ埋め込みメインデータという)を得る。
【0450】
ステップS233で復号された広告情報は、ステップS244において、第1復号部54から表示部51またはスピーカ53に供給されて出力される。即ち、広告情報が表示可能なものである場合には、第1復号部54から表示部51に供給されて表示され、音として出力可能なものである場合には、第1復号部54からスピーカ53に供給されて出力される。
【0451】
また、ステップS233で得られたサブデータ埋め込みメインデータは、第1復号部54から第2復号部55に供給される。第2復号部55は、ステップS235において、サブデータ埋め込みメインデータに対して、埋め込み復号処理を施し、これにより、メインデータと、そのメインデータに埋め込まれていたサブデータを復号して、ステップS231に戻る。
【0452】
以上のようにして復号されたメインデータは、図68のステップS223において出力され、また、サブデータは、ステップS217において出力される。
【0453】
従って、ユーザ端末3において、例えば、画像データであるメインデータに、サブデータと広告情報が埋め込まれた符号化データがダウンロードされた場合には、図70(A)に示すような符号化データに対して、埋め込み復号処理が施されることにより、図70(B)に示すように、メインデータに埋め込まれていた広告情報が復号されて出力されるとともに、サブデータ埋め込みメインデータが得られる。そして、そのサブデータ埋め込みメインデータに対して、埋め込み符号化処理が施されることにより、図70(C)に示すように、メインデータと、そのメインデータに埋め込まれていたサブデータとが復号される。
【0454】
その結果、ユーザが、メインデータである画像データを右クリックして、そのメインデータと組になっているサブデータを表示等させようとする場合には、必ず広告情報が出力されるので、ユーザが、サブデータを見る(あるいは、聴く)場合には、必然的に、広告情報も見る(あるいは聴く)ことになる。
【0455】
さらに、符号化データのファイルを、専用ブラウザ62以外のアプリケーションで開いた場合であっても、例えば、ラインと列とが入れ替えられた画像が表示等されるだけであるから、ユーザは、広告情報を出力させることなしで、サブデータを得ることはできない。即ち、ユーザが、サブデータを得るにあたっては、必ず、広告情報が出力される。
【0456】
次に、図67のユーザ端末3には、図71のフローチャートにしたがったマルチメディアパッケージデータ復号処理を行わせることもできる。
【0457】
即ち、この場合、ステップS241乃至244、またはステップS246において、図69のステップS231乃至S235における場合と同様の処理が行われる。
【0458】
そして、ステップS244において、ステップS243で復号された広告情報が、表示部51またはスピーカ53に供給されて出力された後に行われるステップS245では、ステップS244で出力された広告情報に対して、例えば、ユーザがクリック等の所定のアクションを行ったかどうかが判定され、クリックが行われていないと判定された場合、ステップS245に戻る。
【0459】
また、ステップS245において、ステップS244で出力された広告情報に対して、クリックが行われたと判定された場合は、ステップS246に進み、メインデータと、そのメインデータに埋め込まれていたサブデータが復号される。
【0460】
従って、この場合、広告情報の出力を、いわば、ユーザが確認したことを表すクリックが行われないと、サブデータは出力されない。その結果、図69における場合に比較して、広告情報に対して、ユーザの意識を、より向けさせることができる。
【0461】
なお、上述の場合においては、メインデータに完全に復号したものを出力するようにしたが、メインデータが画像データである場合には、最初に、第1復号部54で得られるサブデータ埋め込みメインデータを出力し、その後、第2復号部55で得られるメインデータを、サブデータ埋め込みメインデータに替えて出力するようにしても良い。
【0462】
次に、広告情報を、ユーザに必然的に見せるための、マルチメディアパッケージデータの埋め込み符号化は、例えば、図72に示すように行うことも可能である。
【0463】
即ち、この場合、まず最初に、広告情報に、サブデータを埋め込み(図72(A))、サブデータ埋め込み広告情報を得る。そして、このサブデータ埋め込み広告情報を、メインデータに埋め込み(図72(B))、図72(C)に示すような、最終的に、ユーザに提供する符号化データを得る。
【0464】
このような符号化データが、パッケージサーバ1から提供される場合には、図67のユーザ端末3では、図73のフローチャートにしたがったマルチメディアパッケージデータ復号処理が行われる。
【0465】
即ち、この場合、ステップS251またはS252において、図69のステップS231またはS232における場合と、それぞれ同様の処理が行われる。
【0466】
そして、ステップS253では、第1復号部54は、データ検索部44からの符号化データに対して、埋め込み復号処理を施し、これにより、メインデータと、そのメインデータに埋め込まれていたサブデータ埋め込み広告情報とを復号する。
【0467】
ステップS253で得られたサブデータ埋め込み広告情報は、第1復号部54から第2復号部55に供給される。第2復号部55は、ステップS234において、サブデータ埋め込み広告情報に対して、埋め込み復号処理を施し、これにより、広告情報と、その広告情報に埋め込まれていたサブデータを復号して、ステップS255に進む。
【0468】
ステップS255では、ステップS254において復号された広告情報が、第2復号部55から表示部51またはスピーカ53に供給されて出力され、ステップS251に戻る。
【0469】
そして、以上のようにして復号されたメインデータは、図68のステップS223において出力され、また、サブデータは、図68のステップS217において出力される。
【0470】
従って、ユーザ端末3において、例えば、画像データであるメインデータに、図72で説明したようにして、サブデータと広告情報が埋め込まれた符号化データがダウンロードされた場合には、図74(A)に示すような符号化データに対して、埋め込み復号処理が施されることにより、図74(B)に示すように、メインデータと、サブデータ埋め込み広告情報とが復号される。そして、そのサブデータ埋め込み広告情報に対して、埋め込み符号化処理が施されることにより、図74(C)に示すように、広告情報と、その広告情報に埋め込まれていたサブデータとが復号される。
【0471】
その結果、ユーザが、メインデータである画像データを右クリックして、そのメインデータと組になっているサブデータを表示等させようとする場合には、必ず広告情報が出力されるので、ユーザが、サブデータを見る(あるいは、聴く)場合には、必然的に、広告情報も見る(あるいは聴く)ことになる。
【0472】
さらに、符号化データのファイルを、専用ブラウザ62以外のアプリケーションで開いた場合であっても、符号化データが表示等されるだけであるから、ユーザは、広告情報を出力させることなしで、サブデータを得ることはできない。即ち、ユーザが、サブデータを得るにあたっては、必ず、広告情報が出力される。
【0473】
なお、図65または図66で説明したように、サブデータと広告情報それぞれを、いわば独立に、メインデータに埋め込んだ符号化データについては、その符号化データから、サブデータと広告情報を、それぞれ独立に復号することが可能であるから、いわゆる悪意のあるユーザ等によって、広告情報を復号することなしに、サブデータが復号されることがあり得るが、図72で説明したように、広告情報に、サブデータを埋め込み、その結果得られるサブデータ埋め込み広告情報を、メインデータに埋め込む場合には、サブデータと広告情報とは、必ず同時に復号されることになるから、広告情報を復号することなしに、サブデータが復号されることを、完全に防止することができる。
【0474】
また、上述のように、パッケージサーバ1において、広告情報を埋め込んだ符号化データを提供する場合には、ユーザが、その広告情報を必然的に見聞きすることになるから、パッケージサーバ1の課金処理部38では、広告情報を埋め込んだ符号化データのダウンロード回数をカウントし、そのダウンロード回数に応じて、広告情報の提供に対する広告主への課金を行うようにすることができる。
【0475】
さらに、上述の場合には、パッケージサーバ1(のデータベース31)に、広告情報が既に埋め込まれた符号化データを記憶させておくようにしたが、パッケージサーバ1において、広告情報の埋め込みは、ユーザ端末3に対して、要求のあったマルチメディアパッケージデータを送信するときに行うようにすることが可能である。
【0476】
即ち、図75は、そのようなパッケージサーバ1の構成例を示している。なお、図中、図25における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図75のパッケージサーバ1は、埋め込み符号化器36Aおよび広告データベース40が新たに設けられている他は、図25における場合と基本的に同様に構成されている。
【0477】
埋め込み符号化器36Aは、返信データ生成部36に内蔵されており、返信データ生成部36が検索部32からマルチメディアパッケージデータを受信すると、広告データベース40に記憶されている広告情報を読み出し、その広告情報を、検索部32からのマルチメディアパッケージデータに埋め込む埋め込み符号化処理を行う。そして、埋め込み符号化器36Aは、その埋め込み符号化処理の結果得られる符号化データを、返信データとして検索部32に出力する。
【0478】
この場合、広告情報の広告主から、あらかじめ代金を徴収しておき、その代金に応じて、マルチメディアパッケージデータに広告情報を埋め込む頻度を変えるようなサービスの提供が可能となる。
【0479】
なお、上述の場合には、マルチメディアパッケージデータに、広告情報を埋め込むようにしたが、マルチメディアパッケージデータには、広告情報の他、例えば、著作権情報等の、ユーザ端末3において必ず出力させたい所定の情報を埋め込むようにすることが可能である。
【0480】
また、広告情報は、マルチメディアパッケージデータの他、例えば、図4乃至図6で説明したような、アイコンデータをメインデータとするとともに、テキストデータをサブデータとするパッケージデータに埋め込むことが可能である。
【0481】
さらに、広告情報は、メインデータとサブデータとの組になっているパッケージデータ以外の任意のデータに埋め込むようにすることが可能である。
【0482】
また、ユーザ端末3に提供する符号化データは、上述のような、広告情報をパッケージデータに埋め込んだものに限定されるものではなく、復号する過程において広告情報が得られるように、パッケージデータを符号化したものであれば良い。
【0483】
さらに、本実施の形態では、マルチメディアパッケージデータを構成するメディアのデータとして、テキストデータ、画像データ、および音声データを採用したが、その他、例えば、プログラム等をも採用することも可能であり、また、テキストデータ、画像データ、音声データ、その他のメディアのデータのうちの任意の2つだけや4つ以上を採用することも可能である。
【0484】
【発明の効果】
本発明の第1の通信装置および通信方法、並びに記録媒体によれば、ユーザは、所望のメディアによるデータの提供を受けることが可能となる。
【0485】
本発明の第2の通信装置および通信方法、並びに記録媒体によれば、ユーザは、所望のメディアによるデータの提供を、単純なインタフェースによって受けることが可能となる。
【図面の簡単な説明】
【図1】本発明を適用したネットワークシステムの一実施の形態の構成例を示す図である。
【図2】パッケージサーバ1、ユーザ端末3,WWWサーバ4のハードウェア構成例を示すブロック図である。
【図3】パッケージサーバ1の第1の機能的構成例を示すブロック図である。
【図4】データベース31の記憶内容を示す図である。
【図5】パッケージデータを示す図である。
【図6】パッケージデータどうしのリンク構造を示す図である。
【図7】パッケージサーバ1の処理を説明するフローチャートである。
【図8】ユーザ端末3の第1の機能的構成例を示すブロック図である。
【図9】ユーザ端末3の処理を説明するフローチャートである。
【図10】ユーザ端末3における表示例を示す図である。
【図11】ユーザ端末3における表示例を示す図である。
【図12】ユーザ端末3における表示例を示す図である。
【図13】ユーザ端末3における表示例を示す図である。
【図14】ユーザ端末3における表示例を示す図である。
【図15】データベース31の記憶内容を示す図である。
【図16】マルチメディアパッケージデータを示す図である。
【図17】マルチメディアパッケージデータどうしのリンク構造を示す図である。
【図18】ユーザ端末3の第2の機能的構成例を示すブロック図である。
【図19】ユーザ端末3の処理を説明するフローチャートである。
【図20】ユーザ端末3における表示例を示す図である。
【図21】ユーザ端末3における表示例を示す図である。
【図22】ユーザ端末3における表示例を示す図である。
【図23】データベース31に記憶されているマルチメディアパッケージデータを示す図である。
【図24】ユーザ端末3に提供されるマルチメディアパッケージデータのカスタマイズを説明する図である。
【図25】パッケージサーバ1の第2の機能的構成例を示すブロック図である。
【図26】ユーザ情報を構成するユーザ嗜好情報と変更情報を示す図である。
【図27】埋め込み符号化/復号システムの一実施の形態の構成例を示すブロック図である。
【図28】符号化対象の画像を示す図である。
【図29】相関性を利用した符号化/復号を説明するための図である。
【図30】埋め込み符号化器103の構成例を示すブロック図である。
【図31】埋め込み符号化処理を説明するフローチャートである。
【図32】ステップS101の処理を説明する図である。
【図33】埋め込み復号器106の構成例を示すブロック図である。
【図34】CPU143の処理を説明する図である。
【図35】埋め込み復号処理を説明するフローチャートである。
【図36】4画素に、1ビットの情報を埋め込む場合の処理を説明する図である。
【図37】連続性を利用した符号化/復号を説明する図である。
【図38】埋め込み符号化処理を説明するフローチャートである。
【図39】埋め込み符号化処理および埋め込み復号処理を説明する図である。
【図40】埋め込み復号処理を説明するフローチャートである。
【図41】相似性を利用した符号化/復号を説明するための図である。
【図42】相似性を利用した符号化/復号を説明するための図である。
【図43】埋め込み符号化処理を説明するフローチャートである。
【図44】埋め込み符号化処理および埋め込み復号処理を説明する図である。
【図45】埋め込み復号処理を説明するフローチャートである。
【図46】埋め込み符号化器103のハードウェアの構成例を示すブロック図である。
【図47】埋め込み符号化器103の機能的構成例を示すブロック図である。
【図48】埋め込み符号化処理を説明するためのフローチャートである。
【図49】埋め込み符号化処理の結果を説明するための図である。
【図50】埋め込み復号器106のハードウェアの構成例を示すブロック図である。
【図51】埋め込み復号器106の機能的構成例を示すブロック図である。
【図52】埋め込み復号処理を説明するためのフローチャートである。
【図53】埋め込み符号化のシミュレーションに用いた原画像を示すディスプレイ上に表示された中間階調の写真である。
【図54】埋め込み符号化のシミュレーション結果を示すディスプレイ上に表示された中間階調の写真である。
【図55】埋め込み復号のシミュレーション結果を示すディスプレイ上に表示された中間階調の写真である。
【図56】符号化対象となる画像を示す図である。
【図57】符号化対象となる画像を示す図である。
【図58】列ベクトル空間を示す図である。
【図59】列ベクトル空間を示す図である。
【図60】行と列の両方向の入れ替えを説明するための図である。
【図61】行と列の両方向の入れ替えを説明するための図である。
【図62】復号の基準とする画素を示す図である。
【図63】復号の基準とする画素を示す図である。
【図64】復号の基準とする画素を示す図である。
【図65】広告情報を、マルチメディアパッケージデータに埋め込んだ符号化データの生成方法を説明する図である。
【図66】広告情報を、マルチメディアパッケージデータに埋め込んだ符号化データの生成方法を説明する図である。
【図67】ユーザ端末3の第3の機能的構成例を示すブロック図である。
【図68】ユーザ端末3の処理を説明するフローチャートである。
【図69】ユーザ端末3によるマルチメディアパッケージデータ復号処理を説明するフローチャートである。
【図70】ユーザ端末3における符号化データの復号過程を示す図である。
【図71】ユーザ端末3によるマルチメディアパッケージデータ復号処理を説明するフローチャートである。
【図72】広告情報を、マルチメディアパッケージデータに埋め込んだ符号化データの生成方法を説明する図である。
【図73】ユーザ端末3によるマルチメディアパッケージデータ復号処理を説明するフローチャートである。
【図74】ユーザ端末3における符号化データの復号過程を示す図である。
【図75】パッケージサーバ1の第3の機能的構成例を示すブロック図である。
【符号の説明】
1 パッケージサーバ, 2 ネットワーク, 31乃至3N ユーザ端末, 11 バス, 12 CPU, 13 ROM, 14 RAM, 15 ハードディスク, 16 出力部, 17 入力部, 18 通信部, 19 ドライブ, 20 入出力インタフェース, 21 リムーバブル記録媒体, 31 データベース, 32 検索部, 34 符号化/暗号化部, 35 復号部, 36返信データ生成部, 36A 埋め込み符号化器, 37 通信I/F, 38 課金処理部, 39 ユーザ情報記憶部, 40 広告データベース, 41 制御部, 42 指示部, 43 イベント検出セレクタ部, 44 データ検索部, 45 選択指示検出部, 46 リクエスト信号生成部, 47 コンテンツ識別子蓄積部, 48 符号化/暗号化部, 49 通信I/F, 50 復号部, 51 表示部, 52 記憶部, 53 スピーカ, 54 第1復号部, 55 第2復号部, 62 専用ブラウザ
Claims (26)
- 外部装置からの要求に応じてデータを送信する通信装置であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、
前記メインデータとサブデータとを組みにしたデータであるパッケージデータを複数記憶する記憶手段と、
前記外部装置からの要求に応じて、前記記憶手段から所望のパッケージデータを検索する検索手段と、
前記検索手段により検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化し、前記暗号化パッケージデータを出力する暗号化手段と、
前記暗号化手段から出力される前記暗号化パッケージデータを、前記外部装置に送信する通信手段と
を備えることを特徴とする通信装置。 - 前記記憶手段は、
ビジュアルデータ、オーディオデータ、及びテキストデータのうちのいずれかのメディアであるメインデータと、
複数のビジュアルデータ、複数のオーディオデータ、及び複数のテキストデータと、各データに対応するURL(Uniform Resource Locator)アドレスとを有するサブデータと
から構成されるパッケージデータを複数記憶している
ことを特徴とする請求項1に記載の通信装置。 - 前記記憶手段のサブデータは、複数のオーディオデータの各データに対応するアイコンデータを、さらに有する
ことを特徴とする請求項2に記載の通信装置。 - 前記検索手段は、前記外部装置からのURLアドレスに応じて、前記記憶手段から所望のパッケージデータを検索する
ことを特徴とする請求項1に記載の通信装置。 - 前記外部装置への前記パッケージデータの提供に応じて、前記外部装置を使用するユーザのクレジットカード番号を含む個人情報、及び前記パッケージデータに対応する課金処理を実行する課金処理手段
をさらに備えることを特徴とする請求項1に記載の通信装置。 - 前記外部装置を使用するユーザのユーザ情報を記憶するユーザ情報記憶手段と、
前記ユーザ情報記憶手段に記憶されるユーザ情報に基づいて、前記記憶手段に記憶されるパッケージデータ内のサブデータ、或いは当該サブデータから前記パッケージデータにリンクしているリンクデータを変更する変更手段と
をさらに備えることを特徴とする請求項1に記載の通信装置。 - 前記ユーザ情報記憶手段は、
前記ユーザ毎に、当該ユーザが購入した前記パッケージデータの数をジャンル毎に記憶し、
前記ユーザ毎に、前記サブデータの変更内容、及び前記リンクデータの変更内容を記憶する
ことを特徴とする請求項6に記載の通信装置。 - 前記暗号化手段は、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの相関性の偏りを壊すことにより、前記画像データに前記サブデータを埋め込む
ことを特徴とする請求項1に記載の通信装置。 - 前記暗号化手段は、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの連続性の偏りを壊すことにより、前記画像データに前記サブデータを埋め込む
ことを特徴とする請求項1に記載の通信装置。 - 前記暗号化手段は、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの相似性の偏りを壊すことにより、前記画像データに前記サブデータを埋め込む
ことを特徴とする請求項1に記載の通信装置。 - 外部装置からの要求に応じてデータを送信する通信方法であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するサブデータとする場合において、
前記外部装置からの要求に応じて、記憶手段から所望のパッケージデータを検索し、
前記検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化し、前記暗号化パッケージデータを出力し、
前記暗号化パッケージデータを、前記外部装置に送信する
ステップを備えることを特徴とする通信方法。 - 外部装置からの要求に応じてデータを送信する処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、
前記外部装置からの要求に応じて、記憶手段から所望のパッケージデータを検索し、
前記検索されたパッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化し、前記暗号化パッケージデータを出力し、
前記暗号化パッケージデータを、前記外部装置に送信する
ステップを備える処理を、コンピュータに行わせるプログラムが記録されている
ことを特徴とする記録媒体。 - 外部装置からデータ受信する通信装置であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、
ユーザ指示に応じて、前記メインデータとサブデータとを組みにしたデータであるパッケージデータを、前記外部装置に要求する要求手段と、
前記要求手段による要求に応じて、前記外部装置から受信された前記パッケージデータが暗号化された暗号化パッケージデータを復号して、前記メインデータ、前記サブデータ、および所定の情報を取得する復号手段と、
前記復号手段により復号されたパッケージデータのメインデータと、その復号過程において得られる前記所定の情報とを出力する出力手段と、
前記出力手段に出力される前記メインデータに対するユーザ指示を検出するユーザ指示検出手段と、
前記ユーザ指示検出手段によりユーザ指示が検出されたとき、前記メインデータに対応するサブデータを前記出力手段に出力する出力制御手段と
を備え、
前記ユーザ指示検出手段により、前記サブデータの一部に対するユーザ指示が検出されたとき、前記要求手段は、当該サブデータの一部に対応するリンクデータに基づいて前記外部装置に新たなパッケージデータを要求し、
前記暗号化パッケージデータは、前記パッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化したものである
ことを特徴とする通信装置。 - 前記パッケージデータは、
ビジュアルデータ、オーディオデータ、及びテキストデータのうちのいずれかのメディアであるメインデータと、
複数のビジュアルデータ、複数のオーディオデータ、及び複数のテキストデータと、各データに対応するURLアドレスとを有するサブデータと
から構成される
ことを特徴とする請求項13に記載の通信装置。 - 前記サブデータは、オーディオデータに対応するアイコンデータをさらに有する
ことを特徴とする請求項14に記載の通信装置。 - 前記出力手段は、前記外部装置から受信された前記パッケージデータのメインデータとしてのビジュアルデータをアイコン画像として出力し、
前記ユーザ指示検出手段は、前記出力手段に出力される前記アイコン画像に対するユーザのマウス指示に応じてユーザ指示を検出し、
前記出力制御手段は、前記ユーザ指示の検出に応じて、前記メインデータに対応するサブデータをメニューで表示する
ことを特徴とする請求項14に記載の通信装置。 - 前記出力手段は、前記外部装置から受信された前記パッケージデータのメインデータとしてのビジュアルデータをアイコン画像として出力し、
前記ユーザ指示検出手段は、前記出力手段に出力される前記アイコン画像に対するユーザのマウス指示に応じてユーザ指示を検出し、
前記出力制御手段は、前記ユーザ指示の検出に応じて、前記メインデータに対応するサブデータを出力し、
ビジュアルデータとして、アイコン画像が並べて表示され、
オーディオデータとして、複数のオーディオデータを選択再生可能な操作部が表示され、
テキストデータとして、複数のテキストデータがメニューで表示される
ことを特徴とする請求項15に記載の通信装置。 - 前記要求手段は、ユーザ指示されたサブデータの一部のデータに対応するURLアドレスを、前記外部装置に送信する
ことを特徴とする請求項13に記載の通信装置。 - 前記パッケージデータを記憶する記憶手段をさらに備え、
前記要求手段は、前記外部装置に、定期的に前記記憶手段に記憶されるパッケージデータを要求し、当該パッケージデータをアップデートする
ことを特徴とする請求項18に記載の通信装置。 - 前記通信装置を使用するユーザのユーザ情報を記憶するユーザ情報記憶手段と、
前記ユーザ情報記憶手段に記憶されるユーザ情報に基づいて、前記記憶手段に記憶されるパッケージデータ内のサブデータ、或いは当該サブデータから前記パッケージデータにリンクしているリンクデータを変更させる変更情報を前記外部装置に送信する送信手段と
をさらに備え、
前記外部装置において、前記変更情報に基づいて変更されたパッケージデータが作成される
ことを特徴とする請求項19に記載の通信装置。 - 前記ユーザ情報記憶手段は、
前記ユーザ毎に、当該ユーザが購入した前記パッケージデータの数をジャンル毎に記憶し、
前記ユーザ毎に、前記サブデータの変更内容、及び前記リンクデータの変更内容を記憶する
ことを特徴とする請求項20に記載の通信装置。 - 前記パッケージデータは、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの相関性の偏りを壊すことにより、前記画像データに前記サブデータが埋め込まれる
ことを特徴とする請求項13に記載の通信装置。 - 前記パッケージデータは、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの連続性の偏りを壊すことにより、前記画像データに前記サブデータが埋め込まれる
ことを特徴とする請求項13に記載の通信装置。 - 前記パッケージデータは、前記サブデータに応じて、前記メインデータとしての画像データを所定単位でスワップして前記画像データの相似性の偏りを壊すことにより、前記画像データに前記サブデータが埋め込まれる
ことを特徴とする請求項13に記載の通信装置。 - 外部装置からデータ受信する通信方法であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、
ユーザ指示に応じて、前記メインデータとサブデータとを組みにしたデータであるパッケージデータを、前記外部装置に要求し、
前記要求に応じて、前記外部装置から受信された前記パッケージデータが暗号化された暗号化パッケージデータを復号して、前記メインデータ、前記サブデータ、および所定の情報を取得し、
前記復号された前記パッケージデータのメインデータと、その復号過程において得られる前記所定の情報とを出力し、
前記出力される前記メインデータに対するユーザ指示を検出し、
前記ユーザ指示が検出されたとき、前記メインデータに対応するサブデータを出力する
ステップを備え、
前記サブデータの一部に対するユーザ指示が検出されたとき、当該サブデータの一部に対応するリンクデータに基づいて前記外部装置に新たなパッケージデータを要求し、
前記暗号化パッケージデータは、前記パッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化したものである
ことを特徴とする通信方法。 - 外部装置からデータ受信する処理を、コンピュータに行わせるプログラムが記録されている記録媒体であって、
複数のメディアのデータのうちのいずれか1つのメディアのデータをメインデータとするとともに、複数のメディアのデータのうちの2以上のメディアのデータおよび任意のデータへのリンクが可能なデータを有するデータをサブデータとする場合において、
ユーザ指示に応じて、前記メインデータとサブデータとを組みにしたデータであるパッケージデータを、前記外部装置に要求し、
前記要求に応じて、前記外部装置から受信された前記パッケージデータが暗号化された暗号化パッケージデータを復号して、前記メインデータ、前記サブデータ、および所定の情報を取得し、
前記復号された前記パッケージデータのメインデータと、その復号過程において得られる前記所定の情報とを出力し、
前記出力される前記メインデータに対するユーザ指示を検出し、
前記ユーザ指示が検出されたとき、前記メインデータに対応するサブデータを出力する
ステップを備え、
前記サブデータの一部に対するユーザ指示が検出されたとき、当該サブデータの一部に対応するリンクデータに基づいて前記外部装置に新たなパッケージデータを要求し、
前記暗号化パッケージデータは、前記パッケージデータ内のサブデータと、所定の情報とに応じて、前記メインデータのエネルギの偏りを壊すことにより前記メインデータに前記サブデータおよび前記所定の情報を埋め込むことで、暗号化パッケージデータを復号する過程において前記所定の情報が得られるように、そのパッケージデータを暗号化したものである
処理を、コンピュータに行わせるプログラムが記録されている
ことを特徴とする記録媒体。
Priority Applications (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000148552A JP4626784B2 (ja) | 2000-05-19 | 2000-05-19 | 通信装置および通信方法、並びに記録媒体 |
MYPI20012324A MY138076A (en) | 2000-05-19 | 2001-05-16 | Communication apparatus, communication method, and recording medium used therewith |
US09/860,177 US7406712B2 (en) | 2000-05-19 | 2001-05-16 | Communication apparatus, communication method, and recording medium used therewith |
TW090111740A TW522296B (en) | 2000-05-19 | 2001-05-16 | Communication apparatus, communication method, and recording medium used therewith |
EP01304342A EP1156404A3 (en) | 2000-05-19 | 2001-05-16 | Communication apparatus and method |
KR1020010027367A KR100922932B1 (ko) | 2000-05-19 | 2001-05-18 | 통신 장치, 통신 방법, 및 이에 사용되는 저장 매체 |
CNB011228091A CN1194317C (zh) | 2000-05-19 | 2001-05-19 | 通信装置和通信方法 |
US12/104,046 US7900256B2 (en) | 2000-05-19 | 2008-04-16 | Communication apparatus, communication method, and recording medium used therewith |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000148552A JP4626784B2 (ja) | 2000-05-19 | 2000-05-19 | 通信装置および通信方法、並びに記録媒体 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007067198A Division JP4626824B2 (ja) | 2007-03-15 | 2007-03-15 | 通信装置および通信方法、並びに記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2001331724A JP2001331724A (ja) | 2001-11-30 |
JP2001331724A5 JP2001331724A5 (ja) | 2007-05-10 |
JP4626784B2 true JP4626784B2 (ja) | 2011-02-09 |
Family
ID=18654562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000148552A Expired - Fee Related JP4626784B2 (ja) | 2000-05-19 | 2000-05-19 | 通信装置および通信方法、並びに記録媒体 |
Country Status (7)
Country | Link |
---|---|
US (2) | US7406712B2 (ja) |
EP (1) | EP1156404A3 (ja) |
JP (1) | JP4626784B2 (ja) |
KR (1) | KR100922932B1 (ja) |
CN (1) | CN1194317C (ja) |
MY (1) | MY138076A (ja) |
TW (1) | TW522296B (ja) |
Families Citing this family (59)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8094949B1 (en) | 1994-10-21 | 2012-01-10 | Digimarc Corporation | Music methods and systems |
US6718046B2 (en) | 1995-05-08 | 2004-04-06 | Digimarc Corporation | Low visibility watermark using time decay fluorescence |
US7224819B2 (en) | 1995-05-08 | 2007-05-29 | Digimarc Corporation | Integrating digital watermarks in multimedia content |
US6721440B2 (en) | 1995-05-08 | 2004-04-13 | Digimarc Corporation | Low visibility watermarks using an out-of-phase color |
US6590996B1 (en) | 2000-02-14 | 2003-07-08 | Digimarc Corporation | Color adaptive watermarking |
US6763123B2 (en) | 1995-05-08 | 2004-07-13 | Digimarc Corporation | Detection of out-of-phase low visibility watermarks |
US8379908B2 (en) | 1995-07-27 | 2013-02-19 | Digimarc Corporation | Embedding and reading codes on objects |
US6829368B2 (en) * | 2000-01-26 | 2004-12-07 | Digimarc Corporation | Establishing and interacting with on-line media collections using identifiers in media signals |
US7953824B2 (en) | 1998-08-06 | 2011-05-31 | Digimarc Corporation | Image sensors worn or attached on humans for imagery identification |
US7532740B2 (en) * | 1998-09-25 | 2009-05-12 | Digimarc Corporation | Method and apparatus for embedding auxiliary information within original data |
US7373513B2 (en) * | 1998-09-25 | 2008-05-13 | Digimarc Corporation | Transmarking of multimedia signals |
US7302574B2 (en) * | 1999-05-19 | 2007-11-27 | Digimarc Corporation | Content identifiers triggering corresponding responses through collaborative processing |
US8095796B2 (en) * | 1999-05-19 | 2012-01-10 | Digimarc Corporation | Content identifiers |
US7738673B2 (en) * | 2000-04-19 | 2010-06-15 | Digimarc Corporation | Low visible digital watermarks |
US8027509B2 (en) | 2000-04-19 | 2011-09-27 | Digimarc Corporation | Digital watermarking in data representing color channels |
US6891959B2 (en) * | 2000-04-19 | 2005-05-10 | Digimarc Corporation | Hiding information out-of-phase in color channels |
US6804377B2 (en) | 2000-04-19 | 2004-10-12 | Digimarc Corporation | Detecting information hidden out-of-phase in color channels |
JP2002135246A (ja) * | 2000-07-18 | 2002-05-10 | Ns Solutions Corp | エンコード装置、デコード装置、データ処理装置、ネットワークシステム、データ処理方法、記録媒体、及びプログラム |
AU2002214613A1 (en) * | 2000-11-08 | 2002-05-21 | Digimarc Corporation | Content authentication and recovery using digital watermarks |
US6965683B2 (en) | 2000-12-21 | 2005-11-15 | Digimarc Corporation | Routing networks for use with watermark systems |
AU2002232817A1 (en) | 2000-12-21 | 2002-07-01 | Digimarc Corporation | Methods, apparatus and programs for generating and utilizing content signatures |
US7046819B2 (en) * | 2001-04-25 | 2006-05-16 | Digimarc Corporation | Encoded reference signal for digital watermarks |
US20020169721A1 (en) * | 2001-05-10 | 2002-11-14 | Cooley William Ray | Digital watermarking apparatus, systems and methods |
US20020169963A1 (en) * | 2001-05-10 | 2002-11-14 | Seder Phillip Andrew | Digital watermarking apparatus, systems and methods |
US8094869B2 (en) * | 2001-07-02 | 2012-01-10 | Digimarc Corporation | Fragile and emerging digital watermarks |
US7213757B2 (en) | 2001-08-31 | 2007-05-08 | Digimarc Corporation | Emerging security features for identification documents |
US7537170B2 (en) * | 2001-08-31 | 2009-05-26 | Digimarc Corporation | Machine-readable security features for printed objects |
US7515730B2 (en) * | 2001-12-13 | 2009-04-07 | Digimarc Corporation | Progressive image quality control using watermarking |
US7006662B2 (en) * | 2001-12-13 | 2006-02-28 | Digimarc Corporation | Reversible watermarking using expansion, rate control and iterative embedding |
US7187780B2 (en) * | 2001-12-13 | 2007-03-06 | Digimarc Corporation | Image processing methods using reversible watermarking |
US8059815B2 (en) * | 2001-12-13 | 2011-11-15 | Digimarc Corporation | Transforming data files into logical storage units for auxiliary data through reversible watermarks |
US7561714B2 (en) * | 2001-12-13 | 2009-07-14 | Digimarc Corporation | Reversible watermarking |
ATE509326T1 (de) | 2001-12-18 | 2011-05-15 | L 1 Secure Credentialing Inc | Mehrfachbildsicherheitsmerkmale zur identifikation von dokumenten und verfahren zu ihrer herstellung |
US7313375B2 (en) * | 2002-05-02 | 2007-12-25 | Lucent Technologies Inc. | Follow-me broadcast reception method and system |
US7824029B2 (en) | 2002-05-10 | 2010-11-02 | L-1 Secure Credentialing, Inc. | Identification card printer-assembler for over the counter card issuing |
US20040091111A1 (en) * | 2002-07-16 | 2004-05-13 | Levy Kenneth L. | Digital watermarking and fingerprinting applications |
FR2860111A1 (fr) * | 2003-09-23 | 2005-03-25 | Orange France | Systeme d'acces a un reseau adapte pour la mise en oeuvre d'un procede a signature simplifiee, et serveur pour sa realisation |
JP5008822B2 (ja) * | 2003-10-27 | 2012-08-22 | パナソニック株式会社 | コンテンツ再生制御方法およびコンテンツ再生制御端末 |
US8127137B2 (en) | 2004-03-18 | 2012-02-28 | Digimarc Corporation | Watermark payload encryption for media including multiple watermarks |
DE102007038763A1 (de) * | 2007-08-16 | 2009-02-19 | Siemens Ag | Verfahren und Vorrichtung zur Sicherung eines Programms gegen eine Kontrollflussmanipulation und gegen einen fehlerhaften Programmablauf |
US9117268B2 (en) * | 2008-12-17 | 2015-08-25 | Digimarc Corporation | Out of phase digital watermarking in two chrominance directions |
US8199969B2 (en) | 2008-12-17 | 2012-06-12 | Digimarc Corporation | Out of phase digital watermarking in two chrominance directions |
JP5269579B2 (ja) * | 2008-12-25 | 2013-08-21 | ソニー株式会社 | コンテンツ利用管理装置、コンテンツ利用管理方法、およびプログラム |
TWI483134B (zh) * | 2009-03-17 | 2015-05-01 | Taiwan Familymart Co Ltd | 訊息託播系統 |
EP2234400A1 (en) * | 2009-03-23 | 2010-09-29 | Sony Corporation | Method and device for providing a multimedia content stream embedding processing information for the content |
JP2010287165A (ja) * | 2009-06-15 | 2010-12-24 | Dentsu Inc | 情報合成装置、情報合成方法、及び情報合成用プログラム |
KR101631270B1 (ko) * | 2009-06-19 | 2016-06-16 | 삼성전자주식회사 | 의사 난수 필터를 이용한 영상 필터링 방법 및 장치 |
JP5661313B2 (ja) * | 2010-03-30 | 2015-01-28 | キヤノン株式会社 | 記憶装置 |
CN102340397A (zh) * | 2010-07-29 | 2012-02-01 | 富泰华工业(深圳)有限公司 | 用于文件加解密的系统、加密、解密装置及加解密方法 |
CN102740137B (zh) * | 2012-07-18 | 2014-09-03 | 西安科技大学 | 基于水印的数字电视计时收费及版权保护方法 |
USD758417S1 (en) * | 2013-06-10 | 2016-06-07 | Apple Inc. | Display screen or portion thereof with animated graphical user interface |
CN104683294B (zh) * | 2013-11-27 | 2019-01-18 | 阿里巴巴集团控股有限公司 | 一种数据处理方法和系统 |
CN107729578B (zh) * | 2015-01-23 | 2021-03-12 | Oppo广东移动通信有限公司 | 一种音乐推荐方法及装置 |
WO2017013936A1 (ja) * | 2015-07-21 | 2017-01-26 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
USD791828S1 (en) * | 2015-12-23 | 2017-07-11 | Samsung Electronics Co., Ltd. | Display screen or portion thereof with graphical user interface |
USD791829S1 (en) * | 2015-12-23 | 2017-07-11 | Samsung Electronics Co., Ltd. | Display screen or portion thereof with graphical user interface |
JP6724547B2 (ja) * | 2016-05-25 | 2020-07-15 | 株式会社リコー | 情報処理装置、情報処理方法及び情報処理プログラム |
CN111243128A (zh) * | 2018-11-13 | 2020-06-05 | 中国电信股份有限公司 | 实现超声波智能锁的方法、服务器和系统 |
USD912694S1 (en) | 2019-06-01 | 2021-03-09 | Apple Inc. | Electronic device with graphical user interface |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000059743A (ja) * | 1998-08-06 | 2000-02-25 | Sony Corp | 画像処理装置および画像処理方法、並びに提供媒体 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5659350A (en) * | 1992-12-09 | 1997-08-19 | Discovery Communications, Inc. | Operations center for a television program packaging and delivery system |
JPH10133955A (ja) * | 1996-10-29 | 1998-05-22 | Matsushita Electric Ind Co Ltd | 可搬型メディア駆動装置とその方法、及び可搬型メディアとネットワークの連携装置とその方法 |
EP0986901B1 (en) * | 1997-06-02 | 2002-09-18 | Sony Electronics Inc. | Displaying internet content and television programming |
WO2000011871A1 (en) * | 1998-08-23 | 2000-03-02 | Open Entertainment, Inc. | Transaction system for transporting media files from content provider sources to home entertainment devices |
-
2000
- 2000-05-19 JP JP2000148552A patent/JP4626784B2/ja not_active Expired - Fee Related
-
2001
- 2001-05-16 US US09/860,177 patent/US7406712B2/en not_active Expired - Fee Related
- 2001-05-16 TW TW090111740A patent/TW522296B/zh not_active IP Right Cessation
- 2001-05-16 EP EP01304342A patent/EP1156404A3/en not_active Withdrawn
- 2001-05-16 MY MYPI20012324A patent/MY138076A/en unknown
- 2001-05-18 KR KR1020010027367A patent/KR100922932B1/ko not_active IP Right Cessation
- 2001-05-19 CN CNB011228091A patent/CN1194317C/zh not_active Expired - Fee Related
-
2008
- 2008-04-16 US US12/104,046 patent/US7900256B2/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000059743A (ja) * | 1998-08-06 | 2000-02-25 | Sony Corp | 画像処理装置および画像処理方法、並びに提供媒体 |
Also Published As
Publication number | Publication date |
---|---|
CN1194317C (zh) | 2005-03-23 |
CN1325073A (zh) | 2001-12-05 |
KR100922932B1 (ko) | 2009-10-22 |
EP1156404A2 (en) | 2001-11-21 |
US7406712B2 (en) | 2008-07-29 |
TW522296B (en) | 2003-03-01 |
US7900256B2 (en) | 2011-03-01 |
KR20010105286A (ko) | 2001-11-28 |
JP2001331724A (ja) | 2001-11-30 |
EP1156404A3 (en) | 2008-12-24 |
MY138076A (en) | 2009-04-30 |
US20020040433A1 (en) | 2002-04-04 |
US20080263667A1 (en) | 2008-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4626784B2 (ja) | 通信装置および通信方法、並びに記録媒体 | |
US11902633B2 (en) | Dynamic overlay video advertisement insertion | |
US7711564B2 (en) | Connected audio and other media objects | |
US8121843B2 (en) | Fingerprint methods and systems for media signals | |
JP5651231B2 (ja) | コンテンツを決定し検索するためのメディアフィンガープリント | |
JP5432264B2 (ja) | コレクションプロファイルの生成及びコレクションプロファイルに基づく通信のための装置及び方法 | |
US20050033747A1 (en) | Apparatus and method for the server-sided linking of information | |
US20120099760A1 (en) | Associating information with a portion of media content | |
KR20020041328A (ko) | 음악 또는 다른 미디어에서 디지털 워터마킹을 이용하는방법들 및 시스템 | |
JP2010530090A (ja) | 動的混合メディア・パッケージ | |
CN103124968B (zh) | 用于后仰式娱乐的内容转换 | |
US20110087665A1 (en) | Client playlist generation | |
US20140040258A1 (en) | Content association based on triggering parameters and associated triggering conditions | |
CN114339360B (zh) | 一种视频处理的方法、相关装置及设备 | |
JP2007166113A (ja) | コンテンツ案内システム、コンテンツ案内方法、コンテンツ案内支援サーバ、コンテンツ案内支援方法、プログラム及び情報記憶媒体 | |
US20050123887A1 (en) | System and method for providing karaoke service using set-top box | |
WO2006065959A2 (en) | A method for selecting a preview of a media work | |
WO2008026302A1 (fr) | Dispositif d'affichage de contenus et procédé d'affichage de contenus | |
US20130247085A1 (en) | Method for generating video markup data on the basis of video fingerprint information, and method and system for providing information using same | |
KR101502984B1 (ko) | 콘텐츠 내 객체 정보 및 객체 기반의 응용 콘텐츠를 제공하는 방법 및 장치 | |
KR20090014460A (ko) | 멀티미디어 북마크를 이용한 광고, 공유, 전송 및 검색방법 | |
US8751475B2 (en) | Providing additional information related to earmarks | |
JP4626824B2 (ja) | 通信装置および通信方法、並びに記録媒体 | |
JP2008135045A (ja) | 情報関連付け方法 | |
JP2005148801A (ja) | 関連情報提供方法、関連情報提供装置、関連情報提供プログラム、および、関連情報提供プログラムの記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070315 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070315 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101014 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101027 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131119 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131119 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |