JP2001331724A - データ処理装置およびデータ処理方法、並びに記録媒体 - Google Patents

データ処理装置およびデータ処理方法、並びに記録媒体

Info

Publication number
JP2001331724A
JP2001331724A JP2000148552A JP2000148552A JP2001331724A JP 2001331724 A JP2001331724 A JP 2001331724A JP 2000148552 A JP2000148552 A JP 2000148552A JP 2000148552 A JP2000148552 A JP 2000148552A JP 2001331724 A JP2001331724 A JP 2001331724A
Authority
JP
Japan
Prior art keywords
data
image
sub
package
embedded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000148552A
Other languages
English (en)
Other versions
JP2001331724A5 (ja
JP4626784B2 (ja
Inventor
Tetsujiro Kondo
哲二郎 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2000148552A priority Critical patent/JP4626784B2/ja
Application filed by Sony Corp filed Critical Sony Corp
Priority to TW090111740A priority patent/TW522296B/zh
Priority to MYPI20012324A priority patent/MY138076A/en
Priority to EP01304342A priority patent/EP1156404A3/en
Priority to US09/860,177 priority patent/US7406712B2/en
Priority to KR1020010027367A priority patent/KR100922932B1/ko
Priority to CNB011228091A priority patent/CN1194317C/zh
Publication of JP2001331724A publication Critical patent/JP2001331724A/ja
Publication of JP2001331724A5 publication Critical patent/JP2001331724A5/ja
Priority to US12/104,046 priority patent/US7900256B2/en
Application granted granted Critical
Publication of JP4626784B2 publication Critical patent/JP4626784B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/085Payment architectures involving remote charge determination or related payment systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast

Abstract

(57)【要約】 【課題】 ユーザが所望の情報を得るにあたって、必然
的に、広告を表示する。 【解決手段】 ユーザには、広告情報に、サブデータを
埋め込み、その結果得られるサブデータ埋め込み広告情
報を、メインデータに埋め込んで得られる符号化データ
が提供される。ユーザ側では、符号化データ(図74
(A))が、メインデータと、そのメインデータに埋め
込まれていたサブデータ埋め込み広告情報に復号され
(図74(B))、さらに、そのサブデータ埋め込み広
告情報が、広告情報と、その広告情報に埋め込まれてい
たサブデータに復号される(図74(C))。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、データ処理装置お
よびデータ処理方法、並びに記録媒体に関し、特に、例
えば、所望の情報を、所望のメディアで得ることができ
るようにするとともに、例えば、広告等を、ユーザに必
ず見せることができるようにするデータ処理装置および
データ処理方法、並びに記録媒体に関する。
【0002】
【従来の技術】例えば、インターネットにおいて構築さ
れているWWW(World Wide Web)システムによれば、ユ
ーザは、WWWブラウザによって、WWWサーバから提
供されるWebページを閲覧することができる。
【0003】
【発明が解決しようとする課題】ところで、Webペー
ジは、例えば、HTML(Hyper Text Markup Language)
等で記述されており、HTMLによれば、各種の情報に
リンクをはることができる。従って、ユーザは、あるW
ebページを閲覧し、そのWebページからはられてい
るリンクを辿っていくことで、所望の情報を得ることが
できる。
【0004】しかしながら、Webページからはられて
いるリンク先の情報のメディアは、そのWebページの
作成者によって決定される。従って、ユーザは、所望の
情報を、所望のメディアで得ることができるとは限らな
い。即ち、例えば、ユーザが、あるアーティストの曲に
関する情報を得ようとするときには、その曲名をテキス
トで知りたいユーザや、曲を聴いてみたいユーザ、その
曲が収められているアルバム(CD(Compact Disc)等)
のジャケットの画像を見たいユーザ等のように、様々な
ユーザが存在するが、ユーザが所望するメディアで情報
の提供が行われているとは限らなかった。
【0005】一方、Webページ上には、例えば、詳細
な広告情報が記述されたWebページにリンクがはられ
たバナー広告がおかれている場合がある。しかしなが
ら、バナー広告からリンクがはられている広告情報は、
ユーザが、そのバナー広告をクリックしなければ、WW
Wブラウザ上に表示されないため、広告情報を、ユーザ
に必然的に見せることは困難であった。
【0006】本発明は、このような状況に鑑みてなされ
たものであり、ユーザが、所望の情報を、所望のメディ
アで得ることができるようにするとともに、広告等の所
定の情報を、ユーザに必然的に見せること等ができるよ
うにするものである。
【0007】
【課題を解決するための手段】本発明の第1のデータ処
理装置は、複数のメディアのデータのうちのいずれか1
つのメディアのデータをメインデータとするとともに、
複数のメディアのデータのうちの2以上のメディアのデ
ータであり、かつ任意のデータへのリンクが可能なデー
タをサブデータとする場合において、メインデータとサ
ブデータとを組みにしたデータであるパッケージデータ
を、端末からの要求に応じて取得する取得手段と、パッ
ケージデータを、端末に提供する提供手段とを備えるこ
とを特徴とする。
【0008】本発明の第1のデータ処理方法は、複数の
メディアのデータのうちのいずれか1つのメディアのデ
ータをメインデータとするとともに、複数のメディアの
データのうちの2以上のメディアのデータであり、かつ
任意のデータへのリンクが可能なデータをサブデータと
する場合において、メインデータとサブデータとを組み
にしたデータであるパッケージデータを、端末からの要
求に応じて取得する取得ステップと、パッケージデータ
を、端末に提供する提供ステップとを備えることを特徴
とする。
【0009】本発明の第1の記録媒体は、複数のメディ
アのデータのうちのいずれか1つのメディアのデータを
メインデータとするとともに、複数のメディアのデータ
のうちの2以上のメディアのデータであり、かつ任意の
データへのリンクが可能なデータをサブデータとする場
合において、メインデータとサブデータとを組みにした
データであるパッケージデータを、端末からの要求に応
じて取得する取得ステップと、パッケージデータを、端
末に提供する提供ステップとを備えるプログラムが記録
されていることを特徴とする。
【0010】本発明の第2のデータ処理装置は、複数の
メディアのデータのうちのいずれか1つのメディアのデ
ータをメインデータとするとともに、複数のメディアの
データのうちの2以上のメディアのデータであり、かつ
任意のデータへのリンクが可能なデータをサブデータと
する場合において、第1のイベントが生じた場合に、メ
インデータとサブデータとを組みにしたデータであるパ
ッケージデータを、サーバに要求する第1の要求手段
と、サーバから提供されるパッケージデータを構成する
メインデータを、出力装置に出力させるメインデータ出
力制御手段と、出力装置において出力されたメインデー
タに対して、第2のイベントが与えられた場合に、その
メインデータと組になっているサブデータを、出力装置
に出力させるサブデータ出力制御手段と、出力装置にお
いて出力されたサブデータに対して、第3のイベントが
与えられた場合に、その第3のイベントが与えられたサ
ブデータからリンクがはられているパッケージデータ
を、サーバに要求する第2の要求手段とを備えることを
特徴とする。
【0011】本発明の第2のデータ処理方法は、複数の
メディアのデータのうちのいずれか1つのメディアのデ
ータをメインデータとするとともに、複数のメディアの
データのうちの2以上のメディアのデータであり、かつ
任意のデータへのリンクが可能なデータをサブデータと
する場合において、第1のイベントが生じた場合に、メ
インデータとサブデータとを組みにしたデータであるパ
ッケージデータを、サーバに要求する第1の要求ステッ
プと、サーバから提供されるパッケージデータを構成す
るメインデータを、出力装置に出力させるメインデータ
出力制御ステップと、出力において出力されたメインデ
ータに対して、第2のイベントが与えられた場合に、そ
のメインデータと組になっているサブデータを、出力装
置に出力させるサブデータ出力制御ステップと、出力装
置において出力されたサブデータに対して、第3のイベ
ントが与えられた場合に、その第3のイベントが与えら
れたサブデータからリンクがはられているパッケージデ
ータを、サーバに要求する第2の要求ステップとを備え
ることを特徴とする。
【0012】本発明の第2の記録媒体は、複数のメディ
アのデータのうちのいずれか1つのメディアのデータを
メインデータとするとともに、複数のメディアのデータ
のうちの2以上のメディアのデータであり、かつ任意の
データへのリンクが可能なデータをサブデータとする場
合において、第1のイベントが生じた場合に、メインデ
ータとサブデータとを組みにしたデータであるパッケー
ジデータを、サーバに要求する第1の要求ステップと、
サーバから提供されるパッケージデータを構成するメイ
ンデータを、出力装置に出力させるメインデータ出力制
御ステップと、出力装置において出力されたメインデー
タに対して、第2のイベントが与えられた場合に、その
メインデータと組になっているサブデータを、出力装置
に出力させるサブデータ出力制御ステップと、出力装置
において出力されたサブデータに対して、第3のイベン
トが与えられた場合に、その第3のイベントが与えられ
たサブデータからリンクがはられているパッケージデー
タを、サーバに要求する第2の要求ステップとを備える
プログラムが記録されていることを特徴とする。
【0013】本発明の第3のデータ処理装置は、復号す
る過程において所定の情報が得られるように符号化され
た符号化データを、端末からの要求に応じて取得する取
得手段と、符号化データを、端末に提供する提供手段と
を備えることを特徴とする。
【0014】本発明の第3のデータ処理方法は、復号す
る過程において所定の情報が得られるように符号化され
た符号化データを、端末からの要求に応じて取得する取
得ステップと、符号化データを、端末に提供する提供ス
テップとを備えることを特徴とする。
【0015】本発明の第3の記録媒体は、復号する過程
において所定の情報が得られるように符号化された符号
化データを、端末からの要求に応じて取得する取得ステ
ップと、符号化データを、端末に提供する提供ステップ
とを備えるプログラムが記録されていることを特徴とす
る。
【0016】本発明の第4のデータ処理装置は、復号す
る過程において所定の情報が得られるように符号化され
た符号化データを、サーバから取得する取得手段と、符
号化データを復号する復号手段と、符号化データの復号
結果と、その復号過程において得られる所定の情報を、
出力装置に出力させる出力制御手段とを備えることを特
徴とする。
【0017】本発明の第4のデータ処理方法は、復号す
る過程において所定の情報が得られるように符号化され
た符号化データを、サーバから取得する取得ステップ
と、符号化データを復号する復号ステップと、符号化デ
ータの復号結果と、その復号過程において得られる所定
の情報を、出力装置に出力させる出力制御ステップとを
備えることを特徴とする。
【0018】本発明の第4の記録媒体は、復号する過程
において所定の情報が得られるように符号化された符号
化データを、サーバから取得する取得ステップと、符号
化データを復号する復号ステップと、符号化データの復
号結果と、その復号過程において得られる所定の情報
を、出力装置に出力させる出力制御ステップとを備える
プログラムが記録されていることを特徴とする。
【0019】本発明の第1のデータ処理装置およびデー
タ処理方法、並びに記録媒体においては、複数のメディ
アのデータのうちのいずれか1つのメディアのデータを
メインデータとするとともに、複数のメディアのデータ
のうちの2以上のメディアのデータであり、かつ任意の
データへのリンクが可能なデータをサブデータとする場
合において、メインデータとサブデータとを組みにした
データであるパッケージデータが、端末からの要求に応
じて取得され、そのパッケージデータが、端末に提供さ
れる。
【0020】本発明の第2のデータ処理装置およびデー
タ処理方法、並びに記録媒体においては、複数のメディ
アのデータのうちのいずれか1つのメディアのデータを
メインデータとするとともに、複数のメディアのデータ
のうちの2以上のメディアのデータであり、かつ任意の
データへのリンクが可能なデータをサブデータとする
と、第1のイベントが生じた場合に、メインデータとサ
ブデータとを組みにしたデータであるパッケージデータ
が、サーバに要求され、サーバから提供されるパッケー
ジデータを構成するメインデータが、出力装置に出力さ
れる。さらに、出力装置において出力されたメインデー
タに対して、第2のイベントが与えられた場合に、その
メインデータと組になっているサブデータが、出力装置
に出力され、出力装置において出力されたサブデータに
対して、第3のイベントが与えられた場合に、その第3
のイベントが与えられたサブデータからリンクがはられ
ているパッケージデータが、サーバに要求される。
【0021】本発明の第3のデータ処理装置およびデー
タ処理方法、並びに記録媒体においては、復号する過程
において所定の情報が得られるように符号化された符号
化データ、端末からの要求に応じて取得され、その符号
化データが、端末に提供される。
【0022】本発明の第4のデータ処理装置およびデー
タ処理方法、並びに記録媒体においては、復号する過程
において所定の情報が得られるように符号化された符号
化データが、サーバから取得され、その符号化データが
復号される。そして、符号化データの復号結果と、その
復号過程において得られる所定の情報が、出力装置に出
力される。
【0023】
【発明の実施の形態】図1は、本発明を適用したネット
ワークシステムの一実施の形態の構成例を示している。
【0024】パッケージサーバ1は、例えば、ユーザ端
末31や32,33,・・・,34の要求に応じて、後述す
るようなパッケージデータを、インターネット等のネッ
トワーク2を介して送信する。
【0025】ユーザ端末31乃至3N(以下、特に区別す
る必要がない限り、ユーザ端末3と記載する)は、必要
に応じて、ネットワーク2を介し、パッケージサーバ1
にパッケージデータを要求し、その要求に応じて、パッ
ケージサーバ1からネットワーク2を介して送信されて
くるパッケージデータを受信して出力する(画像やテキ
スト等として表示し、あるいは音声として出力する)。
また、ユーザ端末3は、必要に応じて、ネットワーク2
を介し、WWWサーバ4にWebページ等を要求し、そ
の要求に応じて、WWWサーバ4からネットワーク2を
介して送信されてくるWebページを受信して表示す
る。
【0026】WWWサーバ4は、ユーザ端末3の要求に
応じて、Webページを、ネットワーク2を介して送信
する。
【0027】次に、図2は、パッケージサーバ1、ユー
ザ端末3、およびWWWサーバ4のハードウェア構成例
を示している。
【0028】パッケージサーバ1、ユーザ端末3、WW
Wサーバ4は、例えばいずれもコンピュータをベースに
構成されている。
【0029】コンピュータは、CPU(Central Processing
Unit)12を内蔵している。CPU12には、バス11を
介して、入出力インタフェース20が接続されており、
CPU12は、入出力インタフェース20を介して、ユー
ザによって、キーボードや、マウス、マイク等で構成さ
れる入力部17が操作等されることにより指令が入力さ
れると、それにしたがって、ROM(Read Only Memory)1
3に格納されている、後述する専用ブラウザ等を実現す
るプログラムを実行する。あるいは、また、CPU12
は、ハードディスク15に格納されているプログラム、
衛星若しくはネットワークから転送され、通信部18で
受信されてハードディスク15にインストールされたプ
ログラム、またはドライブ19に装着されたリムーバブ
ル記録媒体21から読み出されてハードディスク15に
インストールされたプログラムを、RAM(Random Access
Memory)14にロードして実行する。これにより、CPU1
2は、後述するフローチャートにしたがった処理、ある
いは後述するブロック図の構成により行われる処理を行
う。そして、CPU12は、その処理結果を、必要に応じ
て、例えば、入出力インタフェース20を介して、LCD
(Liquid CryStal Display)やスピーカ等で構成される出
力部16から出力、あるいは、通信部18から送信、さ
らには、ハードディスク15に記録等させる。
【0030】ここで、本明細書において、コンピュータ
に各種の処理を行わせるためのプログラムを記述する処
理ステップは、必ずしも、後述するフローチャートとし
て記載された順序に沿って時系列に処理する必要はな
く、並列的あるいは個別に実行される処理(例えば、並
列処理あるいはオブジェクトによる処理)も含むもので
ある。
【0031】また、プログラムは、1のコンピュータに
より処理されるものであっても良いし、複数のコンピュ
ータによって分散処理されるものであっても良い。さら
に、プログラムは、遠方のコンピュータに転送されて実
行されるものであっても良い。
【0032】さらに、プログラムは、コンピュータに内
蔵されている記録媒体としてのハードディスク15やR
OM13に予め記録しておくことができる他、フロッピ
ー(登録商標)ディスク、CD-ROM(Compact Disc Read O
nly Memory),MO(Magneto optical)ディスク,DVD(Digi
tal Versatile Disc)、磁気ディスク、半導体メモリな
どのリムーバブル記録媒体21に、一時的あるいは永続
的に格納(記録)しておくことができる。このようなリ
ムーバブル記録媒体21は、いわゆるパッケージソフト
ウエアとして提供することができる。
【0033】なお、プログラムは、上述したようなリム
ーバブル記録媒体21からコンピュータにインストール
する他、ダウンロードサイトから、ディジタル衛星放送
用の人工衛星を介して、コンピュータに無線で転送した
り、LAN(Local Area Network)、インターネットといっ
たネットワークを介して、コンピュータに有線で転送
し、コンピュータでは、そのようにして転送されてくる
プログラムを、通信部18で受信し、内蔵するハードデ
ィスク15にインストールすることができる。
【0034】次に、図3は、図1のパッケージサーバ1
の機能的構成例を示している。
【0035】データベース31は、パッケージサーバ1
がユーザ端末3に提供するパッケージデータ等を記憶し
ている。検索部32は、返信データ生成部36からの要
求に応じて、データベース31からパッケージデータを
検索し、返信データ生成部36に供給する。さらに、検
索部32は、返信データ生成部36から、返信データと
してのパッケージデータを受信し、その返信データを、
符号化/暗号化部34に供給する。符号化/暗号化部3
4は、検索部32からの返信データに対して、ネットワ
ーク2を介して送信を行うためのプロトコル変換(符号
化)や、セキュリティ確保のための必要な暗号化等の処
理を施し、通信I/F(Interface)37に供給する。復
号部35は、通信I/F37から供給される、ユーザ端
末3からのデータに対して、セキュリティ確保のための
暗号の解読や、プロトコル変換等の処理を施し、返信デ
ータ生成部36に供給する。
【0036】返信データ生成部36は、復号部35から
供給される、ユーザ端末3からのデータに基づいて、ユ
ーザから要求のあったパッケージデータを認識し、その
パッケージデータを検索するように、検索部32を制御
する。さらに、返信データ生成部36は、検索部32か
ら供給されるパッケージデータから、ユーザ端末3に返
信するための返信データを生成し、検索部32に供給す
る。また、返信データ生成部36は、ユーザ端末3から
の要求等に基づいて、課金処理部38を制御する。
【0037】通信I/F37は、符号化/暗号化部34
からの返信データを、ネットワーク2を介して、ユーザ
端末3に送信するとともに、ネットワーク2を介してユ
ーザ端末3から送信されてくるデータを受信して、復号
部35に供給する。課金処理部38は、返信データ生成
部36の制御にしたがい、課金処理を行う。
【0038】次に、図4乃至図6を参照して、パッケー
ジサーバ1(図3)のデータベース31に記憶されてい
るデータについて説明する。
【0039】データベース31は、ルックアップテーブ
ル(図4(A))と、データ記憶部(図4(A))とか
ら構成されている。
【0040】ルックアップテーブルは、図4(A)に示
すように、データ記憶部の各エントリに記憶されている
パッケージデータを識別するためのコンテンツ識別子
と、そのパッケージデータが記憶されているエントリ
(のアドレス)を指し示すポインタとから構成されてい
る。なお、図4(A)の実施の形態では、コンテンツ識
別子として、URL(Uniform Resource Locator)が用い
られている。
【0041】データ記憶部は、図4(B)に示すよう
に、パッケージデータを記憶する1以上のエントリで構
成されている。
【0042】パッケージデータは、その先頭から、例え
ば、ヘッダ、アイコンデータ、テキストデータ、リンク
データが順次配置されて構成されている。
【0043】ヘッダには、そのパッケージデータについ
ての所定の情報(例えば、パッケージデータのデータ長
等)が配置される。
【0044】アイコンデータは、ユーザ端末3において
アイコンとして表示される画像データで、パッケージデ
ータは、必ず、1つのアイコンデータを有している。
【0045】テキストデータは、アイコンデータと組に
なり、そのアイコンに対して、所定のイベントが与えら
れたときに表示されるメニューの項目となるテキスト
で、パッケージデータは、必要な数のテキストデータを
有している。ここで、図4(B)の実施の形態では、パ
ッケージデータは、M個のテキストデータを有してい
る。
【0046】リンクデータは、テキストデータにリンク
させるパッケージデータを識別するための識別情報で、
例えば、そのリンクされているパッケージデータのコン
テンツ識別子で構成される。従って、パッケージデータ
は、基本的には、テキストデータと同一の数だけのリン
クデータを有している。
【0047】即ち、パッケージデータは、図5に示すよ
うに、アイコンデータと、パッケージデータへのリンク
を表すリンクデータが対応付けられた必要な数のテキス
トデータ#1乃至#Mとの組で構成される。そして、パ
ッケージデータは、その各テキストデータから、他の
(自分自身であっても良い)パッケージデータにリンク
をはることができ、従って、パッケージデータによれ
ば、それを、いわば基本単位として、複数のパッケージ
データからなるリンク構造を構成することができる。
【0048】具体的には、例えば、図5に示したよう
に、パッケージデータのアイコンデータを○印で、テキ
ストデータを□印で、それぞれ表すとすると、パッケー
ジデータによれば、図6に示すように、パッケージデー
タを構成するテキストデータから、他のパッケージデー
タにリンクをはることができる。そして、そのようなリ
ンク付けを繰り返し行うことにより、理論的には、無限
のパッケージデータがリンクされているリンク構造を実
現することができる。
【0049】なお、パッケージデータのリンク構造は、
図6(A)に示すように、木構造とすることは勿論、図
6(B)に点線の矢印で示すように、ループが形成され
るような構造等とすることも可能である。
【0050】ここで、図5に示したアイコンデータおよ
びテキストデータの組であるパッケージデータの構造
は、アイコンデータを中心として、テキストデータが副
次的に付随しているようにも見える。そこで、以下、適
宜、パッケージデータの中心点となるデータ(例えば、
図5のアイコンデータ)を、メインデータというととも
に、そのメインデータと組となってパッケージデータを
構成する副次的なデータ(例えば、図5のテキストデー
タ)を、サブデータという。
【0051】次に、図7のフローチャートを参照して、
図3のパッケージサーバ1の処理について説明する。
【0052】なお、本実施の形態では、ユーザ端末3
が、パッケージサーバ1から、パッケージデータの提供
を受けるために、例えば、パッケージサーバ1に、あら
かじめ登録されていることを必要とし、登録がされたユ
ーザ端末3には、ユーザを識別するためのユーザID(I
dentification)が発行されているものとする。
【0053】但し、上述のような登録なしで、パッケー
ジデータの提供を行うことも可能である。
【0054】パッケージサーバ1には、ネットワーク2
を介して、ユーザ端末3から、所定のパッケージデータ
を要求するリクエスト信号が送信されてくるようになっ
ており、通信I/F37は、ステップS1において、ユ
ーザ端末3からのリクエスト信号を受信したかどうかを
判定する。なお、リクエスト信号には、例えば、それに
よって要求するパッケージデータのコンテンツ識別子
(図4(A))と、ユーザ端末3のユーザIDが含まれ
ているものとする。
【0055】ステップS1において、ユーザ端末3から
のリクエスト信号を受信していないと判定された場合、
ステップS1に戻り、リクエスト信号を受信するまで、
ステップS1の処理を繰り返す。
【0056】そして、ステップS1において、ユーザ端
末3からのリクエスト信号を受信したと判定された場
合、通信I/F37は、その受信したリクエスト信号
を、復号部35に供給し、復号部35は、そのリクエス
ト信号に対して、暗号の解読やプロトコル変換等の処理
を施し、返信データ生成部36に供給する。返信データ
生成部36は、ステップS2において、復号部35から
のリクエスト信号に含まれるコンテンツ識別子のパッケ
ージデータを検索するように、検索部32を制御する。
【0057】なお、返信データ生成部36には、リクエ
スト信号に含まれるユーザIDが登録されているもので
あるかどうかを確認させ、登録されていないものである
場合には、例えば、以降の処理を行わないようにするこ
とができる。
【0058】検索部32は、返信データ生成部36の制
御にしたがい、リクエスト信号に含まれるコンテンツ識
別子を、データベース31のルックアップテーブル(図
4(A))から検索し、さらに、そのコンテンツ識別子
に対応付けられているポインタが示しているエントリの
パッケージデータを、データベース31から読み出し、
返信データ生成部36に供給する。
【0059】返信データ生成部36は、ステップS3に
おいて、検索部32からのパッケージデータに、ユーザ
端末3からのリクエスト信号に含まれていたユーザID
や、パッケージサーバ1を識別するためのサーバID等
を配置することにより、返信データを生成し、検索部3
2を介して、符号化/暗号化部34に供給する。
【0060】符号化/暗号化部34は、検索部34を介
して供給される返信データに対して、プロトコル変換や
必要な暗号化等の処理を施し、通信I/F37に供給す
る。通信I/F37は、ステップS4において、符号化
/暗号化部34からの返信データを、ネットワーク2を
介して、リクエスト信号を送信してきたユーザ端末3に
送信し、ステップS1に戻り、以下、同様の処理を繰り
返す。
【0061】次に、図8は、図1のユーザ端末3の構成
例を示している。
【0062】制御部41は、イベント検出セレクタ部4
3において、例えば、処理の終了を指示するイベント等
が検出された場合に、その処理の終了のための制御等を
行う。なお、制御部41は、ユーザ端末3を構成する各
ブロックの制御を行うが、その制御を表す矢印等は、図
が煩雑になるのを避けるために省略してある。
【0063】指示部42は、例えば、マウス等のポイン
ティングデバイスで構成され、カーソルを移動等すると
きに操作される。なお、指示部42は、その他、例え
ば、キーボード等で構成したり、あるいは、マイクおよ
び音声認識装置で構成することも可能である。
【0064】イベント検出セレクタ43は、指示部42
が操作等されることにより与えられるイベントを検出
し、そのイベントに応じて、そのイベントに対応するイ
ベント信号を、制御部41や、データ検索部44、選択
指示検出部45、リクエスト信号生成部46、コンテン
ツ識別子蓄積部47等に供給する。
【0065】ここで、イベントとしては、例えば、指示
部42としてのマウスのクリックや、ダブルクリック、
ドラッグ等がある。なお、本実施の形態では、指示部4
2としてのマウスは、例えば、左右の2つのボタンを有
するものとし、イベント検出セレクタ43は、左ボタン
が操作されることによるクリック(左クリック)と、右
ボタンが操作されることによるクリック(右クリック)
とを、異なるイベントとして検出するものとする。
【0066】データ検索部44は、イベント検出セレク
タ部43から供給されるイベント信号等に基づいて、記
憶部52に記憶されたパッケージデータを構成するサブ
データ等を検索し、選択指示検出部45および表示部5
1に供給する。
【0067】選択指示検出部45は、イベント検出セレ
クタ部43から供給されるイベント信号に基づいて、表
示部51に表示されたサブデータとしてのテキストデー
タの中から、ユーザによる指示部42の操作によって選
択されたものを、データ検索部44からのサブデータを
参照することで検出し、その検出されたテキストデータ
に対応するリンクデータを、リクエスト信号生成部46
に供給する。
【0068】リクエスト信号生成部46は、選択指示検
出部45から供給されるリンクデータとしてのコンテン
ツ識別子を含むリクエスト信号を生成し、符号化/暗号
化部48に供給する。また、リクエスト信号生成部46
は、イベント検出セレクタ部43からのイベント信号に
基づいて、コンテンツ識別子蓄積部47に蓄積されたコ
ンテンツ識別子を含むリクエスト信号を生成し、符号化
/暗号化部48に供給する。
【0069】コンテンツ識別子蓄積部47は、イベント
検出セレクタ部43からのイベント信号に基づいて、指
示部42としてのマウスのドラッグが開始されたときの
カーソルが位置している、Webページのコンテンツを
識別するコンテンツ識別子としてのURLやファイル名
を認識して記憶する。なお、コンテンツ識別子蓄積部4
7は、ここでは、常に、最新のコンテンツ識別子(最後
にドラッグされたコンテンツのコンテンツ識別子)を記
憶する。
【0070】符号化/暗号化部48は、リクエスト信号
生成部46からのリクエスト信号に対して、パッケージ
サーバ1(図3)の符号化/暗号化部34と同様の処理
を施し、通信I/F49に供給する。
【0071】通信I/F49は、符号化/暗号化部48
からのリクエスト信号を、ネットワーク2を介して、パ
ッケージサーバ1に送信するとともに、ネットワーク2
を介してパッケージサーバ1から送信されてくる返信デ
ータを受信して、復号部50に供給する。
【0072】復号部50は、通信I/F49からの返信
データに対して、パッケージサーバ1(図3)の復号部
35と同様の処理を施し、表示部51および記憶部52
に供給する。
【0073】表示部51は、データ検索部44から供給
されるサブデータや、復号部51から供給される返信デ
ータとしてのパッケージデータのメインデータ等を表示
する。
【0074】記憶部52は、復号部50から供給される
返信データとしてのパッケージデータを記憶する。
【0075】なお、ユーザ端末3は、WWWブラウザと
して機能するためのブロックも有するが、図8において
は(後述する図18および図67においても同様)、図
が煩雑になるのを避けるため、その図示は省略してあ
る。
【0076】次に、図9のフローチャートおよび図10
乃至図14を参照して、図8のユーザ端末3の処理につ
いて説明する。
【0077】ユーザ端末3が、パッケージサーバ1から
のパッケージデータの提供を受けるためのアプリケーシ
ョンプログラム(専用ブラウザ62)を起動するように
操作されると、表示部51において、例えば、図10に
示すように、パッケージデータの提供を受けるための専
用ブラウザ62のウインドウと、必要に応じて、WWW
ブラウザ60のウインドウとがオープンされる。
【0078】WWWブラウザ60では、ユーザにより指
定されたURL、またはあらかじめ設定されたURLの
Webページが、ネットワーク2を介して、WWWサー
バ4に要求され、その結果、WWWサーバ4から送信さ
れてくるWebページが表示される。
【0079】ここで、専用ブラウザ62は、リンク表示
部62Aとアイコン登録部62Bとから構成される。即
ち、本実施の形態では、専用ブラウザ62のウインドウ
の下部が、アイコン登録部62Bとされており、残りの
上部が、リンク表示部62Aとされている。
【0080】表示部51には、WWWブラウザ60およ
び専用ブラウザ62(のウインドウ)の他、指示部42
により操作可能なカーソル61も表示され、ステップS
11では、イベント検出セレクタ部43が、指示部42
としてのマウスが操作されることにより、WWWブラウ
ザ60に表示されたWebページのいずれかのコンテン
ツがドラッグされ、さらに、専用ブラウザのアイコン登
録部62B上でドロップされるというイベントが生じた
かどうか、即ち、ドラッグアンドドロップが行われたか
どうかを判定する。
【0081】ステップS11において、ドラッグアンド
ドロップが行われたと判定された場合、ステップS12
に進み、イベント検出セレクタ部43は、その旨のイベ
ント信号を、リクエスト信号生成部46に供給し、リク
エスト信号生成部46は、イベント検出セレクタ部43
からのイベント信号に基づき、コンテンツ識別子蓄積部
47を参照することで、ドラッグが開始されたときのカ
ーソルが位置していた、Webページのコンテンツのコ
ンテンツ識別子を検出する。
【0082】そして、ステップS13に進み、リクエス
ト信号生成部46は、ステップS12で検出したコンテ
ンツ識別子と、ユーザ端末3(のユーザ)に割り当てら
れたユーザIDとを含む、そのコンテンツ識別子に対応
するパッケージデータを要求するリクエスト信号を生成
し、符号化/暗号化部48を介して、通信I/F49に
供給する。通信I/F49は、ステップS14におい
て、符号化/暗号化部48を介して供給されるリクエス
ト信号を、ネットワーク2を介して、パッケージサーバ
1に送信する。
【0083】その後、ステップS15に進み、イベント
検出セレクタ部43は、後述するようにして、専用ブラ
ウザ62のリンク表示部62Aまたはアイコン登録部6
2Bに表示されたアイコン上に、カーソル61が移動さ
れ、指示部42としてのマウスが、例えば、右クリック
されるというイベントが生じたかどうかを判定し、右ク
リックされていないと判定した場合、ステップS21に
進む。
【0084】ステップS21では、通信部I/F49
が、ステップS14または後述するステップS20にお
いて送信されたリクエスト信号に対応してパッケージサ
ーバ1が送信してくるパッケージデータとしての返信デ
ータを受信したかどうかを判定する。
【0085】ステップS21において、返信データを受
信したと判定された場合、通信I/F49は、その返信
データとしてのパッケージデータを、復号部50を介し
て、表示部51および記憶部52に供給し、ステップS
22に進む。
【0086】ステップS22では、記憶部52は、復号
部50を介して供給されるパッケージデータを記憶し、
ステップS23に進む。ステップS23では、表示部5
1は、復号部50を介して供給されるパッケージデータ
を構成するアイコンデータに対応するアイコンを、専用
ブラウザ62のリンク表示部62Aまたはアイコン登録
部62Bに表示し、ステップS24に進む。
【0087】ここで、パッケージサーバ1(のデータベ
ース31)は、Webページを構成するコンテンツを象
徴するアイコン(例えば、コンテンツが、gif形式の画
像データ等であれば、その画像を縮小したアイコン)に
対応するアイコンデータを有するパッケージデータを、
そのコンテンツと同一のコンテンツ識別子に対応付けて
記憶しており、従って、例えば、図11に示すように、
WWWブラウザ60に表示されたWebページの画像コ
ンテンツが、専用ブラウザ62のアイコン登録部62B
にドラッグアンドドロップされた場合には、ステップS
11乃至S15,S21乃至S23の順で処理が行わ
れ、その結果、アイコン登録部62Bには、その画像コ
ンテンツを象徴するアイコン63が表示される。
【0088】ステップS24では、イベント検出セレク
タ部43は、指示部42としてのマウスが、専用ブラウ
ザをクローズするように操作されたかどうかを判定し、
そのような操作が行われていないと判定した場合、ステ
ップS11に戻り、以下、同様の処理を繰り返す。
【0089】一方、ステップS15において、専用ブラ
ウザ62のリンク表示部62Aまたはアイコン登録部6
2Bに表示されたアイコン上に、カーソル61が移動さ
れ、指示部42としてのマウスが右クリックされるとい
うイベントが生じたと判定された場合、ステップS16
に進み、イベント検出セレクタ部34は、右クリックさ
れた旨のイベント信号を、データ検索部44に供給する
ことにより、その右クリックされたときにカーソル61
が位置していたアイコンに対応するアイコンデータと組
になっているテキストデータを、記憶部52から検索さ
せる。
【0090】データ検索部44は、記憶部52からテキ
ストデータを検索すると、ステップS17において、そ
のテキストデータを項目とするプルダウンメニューを作
成し、表示部51に表示させる。
【0091】ここで、例えば、図11において、アイコ
ン登録部62Bに表示されたアイコン63が、例えば、
アーティストの顔写真である場合には、そのアイコン6
3に対応するアイコンデータは、そのアーティストが歌
っている曲の曲名を表すテキストデータと組になってパ
ッケージデータを構成しており、従って、そのようなア
イコンに対して右クリックがされた場合には、図12
(A)に示すように、テキストデータとしての曲名を項
目とするプルダウンメニュー64が表示される。
【0092】表示部51においてプルダウンメニューが
表示された後は、ステップS17からS18に進む。そ
して、イベント検出セレクタ部43は、ユーザが指示部
42を操作することにより、プルダウンメニューのいず
れかの項目を選択した場合には、ステップS18におい
て、その選択があったことを検出し、対応するイベント
信号を、データ検索部44および選択指示検出部45に
供給する。データ検索部44は、このイベント信号を受
信すると、ユーザが指示部42を操作することにより選
択したプルダウンメニューの項目のテキストデータに対
応するリンクデータを、記憶部52から検索し、選択指
示検出部45に供給する。選択指示検出部45は、デー
タ検索部44からのリンクデータとしてのコンテンツ識
別子を、リクエスト信号生成部46に供給し、これによ
り、リクエスト信号生成部46は、ステップS19にお
いて、選択指示検出部45からのコンテンツ識別子を含
むリクエスト信号を生成する。
【0093】さらに、リクエスト信号生成部46は、ス
テップS19で生成したリクエスト信号を、符号化/暗
号化部48を介して、通信I/F49に供給する。通信
I/F49は、ステップS20において、符号化/暗号
化部48を介して供給されるリクエスト信号を、ネット
ワーク2を介して、パッケージサーバ1に送信する。そ
の後、ステップS21に進み、以下、同様の処理が繰り
返される。そして、ステップS24において、指示部4
2としてのマウスが、専用ブラウザ62をクローズする
ように操作されたと判定されると、制御部41は、WW
Wブラウザ60および専用ブラウザ62をクローズし、
処理を終了する。
【0094】従って、例えば、図12(A)に示したよ
うに、曲名のプルダウンメニューが表示されている場合
において、図12(B)に示すように、カーソル61
が、そのうちの曲名「△△△」に移動されて左クリック
等されることにより選択されると、その曲名「△△△」
を表すテキストデータに対応するリンクデータとしての
コンテンツ識別子が、パッケージサーバ1に送信され
る。
【0095】そして、例えば、いま、曲名を表すテキス
トデータに対応するリンクデータとしてのコンテンツ識
別子に対応付けられているパッケージデータが、その曲
が収められているアルバムのジャケット写真を縮小した
アイコンデータを有するものであるとすると、パッケー
ジサーバ1からは、そのようなパッケージデータが、返
信データとして、ユーザ端末3に送信されてくる。
【0096】このパッケージデータは、上述したよう
に、ステップS22で記憶部52で記憶され、さらに、
そのパッケージデータのアイコンデータに対応するアイ
コンは、表示部51に表示される。
【0097】即ち、これにより、図13(A)に示すよ
うに、専用ブラウザ62には、ユーザにより選択された
曲名の曲が収められているアルバムのジャケット写真を
縮小したアイコン65が表示される。
【0098】ここで、本実施の形態では、WWWブラウ
ザ60上のコンテンツを、アイコン登録部62B上にド
ラッグアンドドロップした場合には、そのコンテンツに
対応するアイコンが、アイコン登録部62Bに表示され
る。一方、パッケージデータのテキストデータ(サブデ
ータ)からリンクがはられているパッケージデータが有
するアイコンデータに対応するアイコンは、リンク表示
部62Aに表示される。このため、アイコン登録部62
Bに表示されたアイコン63を右クリックすることによ
り表示されるプルダウンメニュー64(図12)から選
択された曲名としてのテキストデータからリンクされて
いるパッケージデータが有するアイコンデータに対応す
るジャケット写真のアイコン65は、図13(A)に示
したように、専用ブラウザ62のリンク表示部62Aに
表示される。
【0099】また、アイコン登録部62Bに表示された
アイコンは、そのアイコン登録部62上に登録され、専
用ブラウザ62がクローズされても、そのアイコンに対
応するアイコンデータを有するパッケージデータは、記
憶部52に記憶されたままにされる。これに対して、リ
ンク表示部62Aに表示されたアイコンを有するパッケ
ージデータは、例えば、専用ブラウザ62がクローズさ
れるときに、記憶部52から消去される。従って、その
後、再び、専用ブラウザ62がオープンされると、アイ
コン登録部62Bに登録されたアイコンは表示される
が、リンク表示部62Aに表示されていたアイコンは表
示されない。
【0100】リンク表示部62Aに表示された、ジャケ
ット写真のアイコン65上にカーソル61を移動し、操
作部42としてのマウスを左クリックすると、上述した
場合と同様にして、図13(B)に示すように、そのア
イコン65に対応するアイコンデータと組になっている
テキストデータによる項目からなるプルダウンメニュー
66が表示される。
【0101】プルダウンメニュー66は、アイコン65
に象徴されるアルバムの内容の視聴、購入、歌詞の表示
(歌詞表示)の各項目からなり、図13(C)に示すよ
うに、例えば、ユーザが、そのうちの購入の項目上にカ
ーソル61を移動して、指示部42を左クリックするこ
とにより、アイコン65で象徴されるアルバムに収めら
れている曲のデータを購入することを選択すると、上述
した場合と同様にして、ユーザ端末3からリクエスト信
号が送信され、さらに、そのリクエスト信号に応じて、
購入の項目のテキストデータからリンクされているパッ
ケージデータが、パッケージサーバ1からユーザ端末3
に送信される。そして、リンク表示部62Aにおいて
は、図13(D)に示すように、そのパッケージデータ
が有するアイコンデータに対応するアイコン67が、例
えば、リンク表示部62Aの最後に表示されたアイコン
65の右隣に表示される。
【0102】ここで、図13(C)に示したプルダウン
メニューの購入の項目のテキストデータからは、曲のデ
ータを購入する際の決済を象徴するアイコン67のアイ
コンデータを有するパッケージデータにリンクがはられ
ており、図13(D)では、そのようなアイコン67
が、リンク表示部62Aに表示されている。
【0103】さらに、リンク表示部62Aに表示され
た、決済を象徴するアイコン67上にカーソル61を移
動し、操作部42としてのマウスをクリックすると、上
述した場合と同様にして、図14(A)に示すように、
そのアイコン67に対応するアイコンデータと組になっ
ているテキストデータによる項目からなるプルダウンメ
ニュー68が表示される。
【0104】プルダウンメニュー68は、アイコン67
に象徴される決済の方法としてのクレジットカードによ
る支払い、電子マネーによる支払い、コンビニエンスス
トアでの支払い(コンビニ決済)の各項目からなり、ユ
ーザが、そのうちのいずれかの項目上にカーソル61を
移動して、指示部42を左クリックすることにより、曲
のデータの決済方法を選択すると、専用ブラウザ62
は、その選択された決済方法に対応する処理を行う。
【0105】即ち、例えば、クレジットカードによる支
払いが選択された場合には、ユーザ端末3の専用ブラウ
ザ62は、クレジットカードの番号等を入力するための
ダイアログボックスを表示し、その入力を待って、ユー
ザがデータの購入を選択した曲を表す曲識別情報ととも
に、購入情報として、パッケージサーバ1に送信する。
【0106】購入情報のうち、クレジットカードの番号
は、パッケージサーバ1(図3)の課金処理部38で課
金処理され、後日、曲のデータの代金の引き落としが行
われる。
【0107】さらに、パッケージサーバ1は、ユーザ端
末3からの購入情報のうちの曲識別情報によって特定さ
れる曲のデータを、図示せぬデータベースや、ネットワ
ーク2上の図示せぬサーバから取得し、ユーザ端末3に
送信する。
【0108】ユーザ端末3は、以上のようにしてパッケ
ージサーバ1から送信されてくる曲のデータのダウンロ
ードを行い、例えば、図示せぬ携帯型のメモリ等に記憶
させる。
【0109】以上のように、専用ブラウザ62では、情
報等を象徴するアイコンが表示され、さらに、そのアイ
コンに付随してプルダウンメニューが表示される。そし
て、そのプルダウンメニューの項目を選択すると、その
項目に対応するテキストデータからリンクされているパ
ッケージデータが有するアイコンが表示されることが繰
り返されるので、ユーザは、同一操作により、所望の情
報に辿り着くこと等が可能となる。
【0110】なお、パッケージサーバ1においては、曲
のデータの送信を開始する直前に、データのダウンロー
ド中であることを象徴するアイコン69のアイコンデー
タ(パッケージデータではない)を、ユーザ端末3に送
信するようにすることができ、この場合、ユーザ端末3
の専用ブラウザ62では、図14(B)に示すように、
アイコン69を、例えば、リンク表示部62Aの最後に
表示されたアイコン67の右隣に表示するようにするこ
とができる。また、パッケージサーバ1においては、ア
イコン69のアイコンデータを有するパッケージデータ
に、プルダウンメニュー68の各項目に対応するテキス
トデータからリンクをはっておき、そのうちのいずれか
の項目が左クリックされたときに、アイコン69のアイ
コンデータを有するパッケージデータを、ユーザ端末3
に送信するようにすることも可能である。
【0111】さらに、上述の場合には、リンク表示部6
2Aにおいて、新たなアイコンを、最後に表示されたア
イコンの右隣に表示するようにしたが、新たなアイコン
は、既にリンク表示部62Aに表示されているアイコン
に上書きする形で表示することも可能である。
【0112】また、アイコン登録部62Bは、複数の領
域に分けることができ、この場合、各領域には、同一の
カテゴリの情報に関するアイコンを登録することが可能
である。即ち、アイコン登録部62では、例えば、音楽
や、映画、ニュースといった各カテゴリのアイコンを、
そのカテゴリごとに異なる領域に登録して表示すること
が可能である。
【0113】さらに、上述の場合には、専用ブラウザ6
2(のウインドウ)を、リンク表示部62Aとアイコン
登録部62Bの2つの領域に分けるようにしたが、専用
ブラウザ62は、そのように領域を分けずに、1つの領
域で構成することも可能である。
【0114】また、上述の場合には、専用ブラウザ62
がクローズされたときに、記憶部52において、アイコ
ン登録部62Bに表示されたアイコンを有するパッケー
ジデータのみを記憶しておき、リンク表示部62Aに表
示されたアイコンを有するパッケージデータは消去する
ようにしたが、すべてのパッケージデータを、記憶部5
2に記憶させておくことも可能である。この場合、再
度、専用ブラウザ62がオープンされると、専用ブラウ
ザ62には、アイコン登録部62Bに登録されたアイコ
ンと、そのアイコンを、いわば開始点として、ユーザが
辿っていったパッケージデータが有するアイコンのシー
ケンスが表示されるから、例えば、URLのような、あ
るWebページを特定するための情報ではなく、ユーザ
が辿っていったリンクの、いわゆるブックマークが、ア
イコンという視覚に訴えるメディアで実現されることに
なる。なお、アイコン登録部62Bには、WWWブラウ
ザ60上に表示されたWebページを構成するコンテン
ツを象徴するアイコンが登録されるが、この点に注目す
れば、Webページ単位ではなく、コンテンツ単位のブ
ックマークが実現されていることになる。
【0115】さらに、上述の場合には、専用ブラウザ6
2に表示されたアイコン上に、カーソル61を移動し、
右クリックをしたときに、そのアイコンに対応するアイ
コンデータと組になっているテキストデータでなるプル
ダウンメニューを表示するようにしたが、プルダウンを
表示する際のイベントは、右クリックに限定されるもの
ではなく、その他、例えば、カーソル61が、アイコン
上に位置するときに、プルダウンメニューを表示するよ
うにすることも可能である。プルダウンメニューの項目
の選択等の他のアクションを起動するときのイベントに
ついても、同様に、上述したイベントに限定されるもの
ではない。
【0116】また、上述の場合には、パッケージサーバ
1において、最終的に、曲のデータのダウンロードが行
われるときに、その曲のデータに対する対価として、課
金を行うようにしたが、パッケージデータの提供に対し
ても、必要に応じて、課金を行うようにすることが可能
である。
【0117】さらに、上述の場合には、曲のデータのダ
ウンロードを行うようにしたが、曲のデータ等の音声デ
ータ(オーディオデータ)の他、例えば、映画等の画像
データ(ビデオデータ)や、プログラム等のダウンロー
ドを行うようにすることも可能である。ここで、上述の
場合には、曲のデータのダウンロードを、パッケージサ
ーバ1から行うようにしたが、曲のデータのダウンロー
ドは、ネットワーク2上のその他のサーバから行うよう
にすることも可能である。
【0118】また、ユーザ端末3においては、パッケー
ジサーバ1からダウンロードして、記憶部52に記憶さ
せたパッケージデータは更新することが可能である。即
ち、例えば、パッケージサーバ1(図3)において、デ
ータベース31に記憶されたパッケージデータのアイコ
ンデータやテキストデータが更新される場合には、その
更新後のパッケージデータによって、ユーザ端末3の記
憶部52のパッケージデータを更新することが可能であ
る。
【0119】記憶部52のパッケージデータの更新方法
としては、いわゆるプッシュ技術を利用することができ
る。即ち、例えば、リクエスト信号生成部46におい
て、定期的または非定期に、記憶部52に記憶されたパ
ッケージデータに対応するコンテンツ識別子を含むリク
エスト信号を生成して、パッケージサーバ1に送信し、
そのリクエスト信号に対応して、パッケージサーバ1か
ら送信されてくるパッケージデータによって、記憶部5
2に記憶されたパッケージデータを更新することができ
る。
【0120】その他、例えば、ユーザ端末3に、固有の
端末IDを割り当て、パッケージサーバ1において、ユ
ーザ端末3がダウンロードしたパッケージデータのコン
テンツ識別子を、そのユーザ端末3の端末IDと対応付
けて記憶しておくようにする一方、ユーザ端末3におい
て、例えば、インターネットであるネットワーク2に接
続したときに、ユーザ端末3に割り当てられるIP(Int
ernet Protocol)アドレスを端末IDと対応付けて、パ
ッケージサーバ1に送信することによっても、記憶部5
2に記憶されたパッケージデータの更新を実現すること
ができる。
【0121】即ち、この場合、パッケージサーバ1で
は、ユーザ端末3からIPアドレスと端末IDとを受信
したときに、その端末IDと対応付けられているコンテ
ンツ識別子のパッケージデータのうちの更新されている
ものを検出し、その更新されているパッケージデータ
を、端末IDとともに送信されてきたIPアドレスを宛
先として送信することにより、ユーザ端末3では、記憶
部52に記憶されたパッケージデータのうち、更新され
たものを受信することができる。
【0122】以上のように、ユーザ端末3の記憶部52
に記憶されたパッケージデータを更新する場合には、専
用ブラウザ62に表示されるアイコンや、そのアイコン
に付随して表示されるプルダウンメニューの項目が、適
宜、あるいは時々刻々と変化し、ユーザに興味を持たせ
ることが可能となる。
【0123】ところで、上述の場合には、パッケージデ
ータを構成するメインデータがアイコンデータであり、
そのメインデータと組になっているサブデータがテキス
トデータであるから、ユーザは、そのテキストデータで
なるプルダウンメニューを見ることによって、テキスト
により情報の認識をすることができる。
【0124】即ち、例えば、図12に示したように、ア
ーティストの顔写真のアイコン63を右クリックするこ
とで表示されるプルダウンメニュー64には、そのアー
ティストが歌っている曲の曲名がテキストで表示される
から、ユーザは、曲名をテキストで知ることができる。
しかしながら、テキストによる曲名を知りたいユーザだ
けではなく、実際に曲を聴いてみたいユーザや、アーテ
ィストの曲が収められているアルバムのジャケットの画
像を見たいユーザ等がいる。
【0125】そこで、パッケージサーバ1のデータベー
ス31には、テキストや、画像データ、音声データ等の
複数のメディアのデータのうちのいずれかをメインデー
タとするとともに、複数のメディアのデータのうちの2
以上のメディアのデータをサブデータとして構成したパ
ッケージデータを記憶させ、パッケージサーバ1からユ
ーザ端末3に対して、そのようなパッケージデータを提
供するようにすることが可能である。
【0126】この場合、データベース31のデータ記憶
部における各エントリには、図15に示すようなパッケ
ージデータが記憶される。
【0127】即ち、この場合、パッケージデータは、そ
の先頭から、例えば、ヘッダ、メインデータとしての画
像データ、テキストデータ、または音声データのうちの
いずれか、サブデータとしてのテキストデータおよびテ
キスト用リンクデータ、画像データおよび画像用リンク
データ、並びに音声データおよび音声用画像データが順
次配置されて構成されている。
【0128】ヘッダ、テキストデータ、テキスト用リン
クデータは、図4(B)に示したパッケージデータのヘ
ッダ、テキストデータ、リンクデータとそれぞれ同様の
ものである。
【0129】メインデータとしては、ここでは、例え
ば、画像データ、テキストデータ、音声データのうちの
いずれかを用いることができる。なお、メインデータと
して画像データまたはテキストデータが用いられる場合
には、そのメインデータとしての画像データまたは音声
データは表示可能であるが、メインデータとして音声デ
ータが用いられる場合には、そのメインデータとしての
音声データは表示することができないため、その音声デ
ータを象徴するようなアイコンが表示される。このた
め、メインデータとして音声データが用いられる場合に
は、そのメインデータには、音声データの他、その音声
データを象徴するようなアイコンのアイコンデータも含
まれる。但し、メインデータとしての画像データやテキ
ストデータについても、それらを象徴するようなアイコ
ンのアイコンデータを含めることが可能である。
【0130】サブデータとしての画像データと画像用リ
ンクデータ、または音声データと音声用リンクデータ
は、メディアがテキストではなく、画像または音声であ
るという点を除けば、図4(B)に示したパッケージデ
ータのテキストデータとリンクデータと同様のものなの
で、その説明は省略する。
【0131】従って、この場合、パッケージデータは、
図16に示すように、メインデータとなる画像データ、
音声データ、またはテキストデータのうちの1つと、パ
ッケージデータへのリンクを表すリンクデータが対応付
けられた必要な数のテキストデータ#1乃至#M1、画
像データ#1乃至#M2、および音声データ#1乃至#
3との組で構成される。そして、この場合も、パッケ
ージデータは、サブデータである各テキストデータ、画
像データ、音声データから、他の(自分自身であっても
良い)パッケージデータにリンクをはることができるか
ら、パッケージデータを基本単位として、複数のパッケ
ージデータからなるリンク構造を構成することができ
る。
【0132】具体的には、例えば、図16に示したよう
に、パッケージデータのメインデータを◎印で、サブデ
ータとしてのテキストデータを□印で、画像データを○
印で、音声データを△印で、それぞれ表すとすると、上
述のようなマルチメディアのデータで構成されるパッケ
ージデータであっても、図17に示すように、パッケー
ジデータを構成するサブデータとしての各メディアのデ
ータから、他のパッケージデータにリンクをはることが
できる。そして、そのようなリンク付けを繰り返し行う
ことにより、やはり、理論的には、無限のパッケージデ
ータがリンクされているリンク構造を実現することがで
きる。
【0133】なお、図17では、図が煩雑になるのを避
けるため、各メインデータ(◎印)が、サブデータとし
ての1つずつのテキストデータ(□印)、画像データ
(○印)、音声データ(△印)と組になっているパッケ
ージデータを示してある。
【0134】また、このように、マルチメディアのデー
タで構成されるパッケージデータ(以下、適宜、マルチ
メディアパッケージデータという)であっても、図6に
おける場合と同様に、そのリンク構造は、木構造とする
ことも、また、ループが形成されるような構造等とする
ことも可能である。
【0135】次に、図18は、パッケージサーバ1が、
マルチメディアパッケージデータを提供する場合のユー
ザ端末3の構成例を示している。なお、図中、図8にお
ける場合と対応する部分については、同一の符号を付し
てある。
【0136】即ち、図18のユーザ端末3は、マルチメ
ディアパッケージデータを構成する音声データを出力す
るスピーカ53が設けられている他は、基本的に、図8
における場合と同様に構成されているので、その説明は
省略する。
【0137】次に、図19のフローチャート、並びに図
20乃至図22を参照して、図18のユーザ端末3(専
用ブラウザ62)の処理について説明する。
【0138】ユーザ端末3では、ステップS31乃至S
43において、基本的には、図9のステップS11乃至
S23における場合とそれぞれ同様の処理が行われる。
【0139】但し、ステップS41において、パッケー
ジサーバ1から返信データとしてのマルチメディアパッ
ケージデータを受信したと判定された場合には、ステッ
プS42に進み、そのマルチメディアパッケージデータ
が、記憶部52に記憶され、さらに、ステップS43に
進み、そのマルチメディアパッケージデータのメインデ
ータとなっている画像データ、音声データ、若しくはテ
キストデータを象徴するアイコンが、表示部51にオー
プンされた専用ブラウザ62に表示されるか、または、
その画像データ、音声データ、若しくはテキストデータ
が、表示部51で表示され、あるいはスピーカ53から
出力される。
【0140】また、ステップS35において、専用ブラ
ウザ62に表示されたメインデータを象徴するアイコン
に対して、右クリックのイベントが与えられたと判定さ
れた場合には、ステップS36に進み、データ検索部4
4において、そのメインデータと組になっているサブデ
ータが、記憶部52から検索され、ステップS37に進
む。ステップS37では、データ検索部44で検索され
たサブデータとなっているテキストデータ、画像デー
タ、または音声データが、必要に応じて、表示部51で
表示され、あるいはスピーカ53から出力される。な
お、このとき、専用ブラウザ62では、その他の必要な
表示が行われる。即ち、例えば、サブデータとしてのテ
キストデータが、プルダウンメニューの項目を構成する
ものである場合には、そのプルダウンメニューの表示が
行われる。また、例えば、サブデータとしての音声デー
タについては、その再生等の制御や音声データの選択等
のためのボタンの表示が行われる。
【0141】そして、その後に行われるステップS38
では、ユーザが指示部42を操作することにより、サブ
データのいずれかを選択した場合には、イベント検出セ
レクタ部43において、そのサブデータの選択が検出さ
れ、対応するイベント信号が、データ検索部44および
選択指示検出部45に供給される。データ検索部44
は、このイベント信号を受信すると、ユーザが指示部4
2を操作することにより選択したサブデータに対応する
リンクデータを、記憶部52から検索し、選択指示検出
部45に供給する。選択指示検出部45は、データ検索
部44からのリンクデータとしてのコンテンツ識別子
を、リクエスト信号生成部46に供給し、これにより、
リクエスト信号生成部46は、ステップS39におい
て、選択指示検出部45からのコンテンツ識別子を含む
リクエスト信号を生成する。
【0142】このリクエスト信号は、ステップS40に
おいて、パッケージサーバ1に送信され、パッケージサ
ーバ1は、そのリクエスト信号に含まれるコンテンツ識
別子で特定されるマルチメディアパッケージデータを、
返信データとして、ユーザ端末3に送信する。そして、
ステップS41において、この返信データとしてのマル
チメディアパッケージデータが、ユーザ端末3の通信I
/F49で受信されたと判定されると、以下、上述した
ように、ステップS42において、そのマルチメディア
パッケージデータが記憶部52に記憶され、さらに、ス
テップS43において、そのマルチメディアパッケージ
データのメインデータとなっている画像データ、音声デ
ータ、若しくはテキストデータを象徴するアイコンが、
表示部51にオープンされた専用ブラウザ62に表示さ
れるか、または、その画像データ、音声データ、若しく
はテキストデータが、表示部51で表示され、あるいは
スピーカ53から出力される。
【0143】従って、例えば、図20に示すように、W
WWブラウザ60に表示されたWebページの画像コン
テンツが、専用ブラウザ62のアイコン登録部62Bに
ドラッグアンドドロップされた場合には、その画像コン
テンツのコンテンツ識別子で特定されるマルチメディア
パッケージデータが、パッケージサーバ1からダウンロ
ードされ、そのマルチメディアパッケージデータのメイ
ンデータが、専用ブラウザ62のアイコン登録部62B
に表示される。
【0144】ここで、図20では、ドラッグアンドドロ
ップされた画像コンテンツのコンテンツ識別子で特定さ
れるマルチメディアパッケージデータのメインデータが
画像データとされており、アイコン登録部62Bでは、
その画像データに対応する画像71が表示されている。
なお、メインデータが音声データやテキストデータであ
る場合には、その音声データに対応する音声をスピーカ
53から出力し、あるいはそのテキストデータに対応す
るテキストを表示部51で表示する他、その音声データ
やテキストデータを象徴するアイコンを、アイコン登録
部62Bに表示することが可能である。また、メインデ
ータが画像データの場合であっても、同様に、アイコン
登録部62Bには、その画像データを象徴するアイコン
を表示するようにすることが可能である。
【0145】専用ブラウザ62のアイコン登録部62B
に、画像71が表示された後に、その画像71上にカー
ソル61を移動して、右クリックを行うと、図21に示
すように、サブデータが出力(表示部51における表示
と、スピーカ53からの出力の両方を含む)され、さら
に、必要な表示が行われる。
【0146】即ち、図21では、サブデータとしてのテ
キストデータを項目とするプルダウンメニュー72が、
表示部51に表示されている。また、図21では、サブ
データとしての画像73が、表示部51に表示されてい
る。さらに、図21では、サブデータとしての音声が、
スピーカ53から出力され、その音声の再生制御や選択
を行うための操作パネル74が、表示部51に表示され
ている。
【0147】なお、図21において、メインデータとし
ての画像71は、アーティストの顔写真の画像であり、
サブデータとしてのプルダウンメニュー72は、そのア
ーティストが歌っている曲名を表すテキストで構成され
ている。また、サブデータとしての画像73は、プルダ
ウンメニュー72の項目となっている曲名の曲が収めら
れているアルバムのジャケット写真の画像で構成されて
いる。さらに、サブデータとしての音声データは、プル
ダウンメニュー72の項目となっている曲名の曲の先頭
部分の音声データをつなぎ合わせたものとなっており、
従って、スピーカ53からは、プルダウンメニュー72
の項目となっている曲名の曲の先頭部分が順次出力され
る。また、図21において、操作パネル74は、スピー
カ53から出力される曲の巻き戻しを指示する巻き戻し
ボタン74A、早送りを指示する早送りボタン74B、
再生を指示する再生ボタン74C、停止を指示する停止
ボタン74D、選択を指示する選択ボタン74Eから構
成されている。
【0148】従って、ユーザは、テキストによって曲名
を知ることもできるし、実際に曲を聴いてみることもで
きる。さらには、曲が収められているアルバムのジャケ
ットの画像を見ることもできる。
【0149】スピーカ53からサブデータとしての曲の
先頭部分が順次再生されている場合において、ユーザ
が、カーソル61を、選択ボタン74E上に移動して、
例えば、左クリックを行うと、そのときスピーカ53か
ら再生されていた曲の音声データが選択されたことが検
出され、その音声データに対応する音声用リンクデータ
としてのコンテンツ識別子が、リクエスト信号に含めら
れて、パッケージサーバ1に送信される。
【0150】この場合、例えば、そのコンテンツ識別子
により特定されるマルチメディアパッケージデータのメ
インデータが、ユーザにより選択された曲全体の音声デ
ータであるとすると、そのような音声データをメインデ
ータとするマルチメディアパッケージデータが、パッケ
ージサーバ1からユーザ端末3に送信され、ユーザ端末
3では、図22に示すように、そのマルチメディアパッ
ケージデータのメインデータとなっている音声データを
象徴するアイコン75が、専用ブラウザ62のリンク表
示部62Aに表示され、さらに、その音声データに対応
する曲が、スピーカ53から出力される。
【0151】専用ブラウザ62のリンク表示部62A
に、アイコン75が表示された後に、そのアイコン75
上にカーソル61を移動して、右クリックを行うと、図
22に示すように、サブデータが出力され、さらに、必
要な表示が行われる。
【0152】即ち、図22では、サブデータとしてのテ
キストデータを項目とするプルダウンメニュー76が、
表示部51に表示されている。また、図22では、サブ
データとしての画像77が、表示部51に表示されてい
る。さらに、図22では、サブデータとしての音声の再
生制御や選択を行うための操作パネル78が、表示部5
1に表示されている。
【0153】なお、図22において、サブデータとして
のプルダウンメニュー76は、そのサブデータと組にな
っているメインデータとしての音声データに対応する曲
に対する各解説者の解説内容を表すテキストで構成され
ている。また、サブデータとしての画像77は、プルダ
ウンメニュー76の項目となっている解説を行った角解
説者の写真の画像で構成されている。
【0154】さらに、図22において、サブデータとし
ての音声データは、プルダウンメニュー76の項目とな
っている各解説の音声データをつなぎ合わせたものとな
っている。但し、マルチメディアパッケージデータがダ
ウンロードされた直後においては、スピーカ53から
は、そのマルチメディアパッケージデータのメインデー
タである音声データに対応する曲が出力されており、そ
のサブデータである音声データに対応する解説は出力さ
れていない。
【0155】このサブデータである音声データに対応す
る解説は、例えば、操作パネル78が操作されることに
より、スピーカ53から出力される。即ち、操作パネル
78は、図21の操作パネル74が有する巻き戻しボタ
ン74A、早送りボタン74B、再生ボタン74C、停
止ボタン74D、または選択ボタン74Eそれぞれと同
一構成の巻き戻しボタン78A、早送りボタン78B、
再生ボタン78C、停止ボタン78D、または選択ボタ
ン78Eを有しており、例えば、再生ボタン78Cがク
リックされると、メインデータとしての音声データに対
応する曲の再生が停止され、サブデータとしての音声デ
ータに対応する解説の再生が開始される。
【0156】ここで、サブデータとしての音声データに
対応する解説の再生が開始された場合であっても、メイ
ンデータとしての音声データに対応する曲の再生を停止
せずに、例えば、その音量を、解説の音量よりも十分小
さくして、曲の再生を続行することが可能である。
【0157】以上から、ユーザは、テキストによって曲
の解説内容を読むこともできるし、その解説内容を音声
で聴くこともできる。さらには、解説を行っている解説
者の画像を見ることもできる。
【0158】なお、上述の場合には、例えば、図21で
説明したように、メインデータとしての画像71が、ア
ーティストの顔写真の画像であるときに、そのアーティ
ストが歌っている曲名を表すテキストデータ、その曲が
収められているアルバムのジャケット写真の画像デー
タ、およびその曲の音声データを、サブデータとするよ
うにしたが、サブデータとしてのテキストデータ、画像
データ、および音声データは、そのような同一内容のデ
ータである必要はなく、異なる内容のデータであっても
良い。即ち、例えば、サブデータとしてのテキストデー
タは、アーティストが歌っている曲の歌詞とし、画像デ
ータは、アーティストのビデオクリップとし、音声デー
タは、アーティストが歌っている曲に対する解説者によ
る解説とすることができる。
【0159】次に、上述の場合においては、パッケージ
サーバ1からユーザに提供されるマルチメディアパッケ
ージデータについては、そのリンク構造も、また、各マ
ルチメディアパッケージデータの内容も、パッケージサ
ーバ1側で定められており、従って、すべてのユーザに
対して、同一の内容で、かつ同一のリンク構造のマルチ
メディアパッケージデータが提供される。
【0160】即ち、パッケージサーバ1において、例え
ば、図23(A)に示すように、マルチメディアパッケ
ージデータa,b,c,d,eの順でリンクがはられて
いる場合には、すべてのユーザは、そのようにリンクを
辿っていなければ、マルチメディアパッケージデータe
の提供を受けることができない。また、パッケージサー
バ1において、例えば、図23(B)に示すように、メ
インデータと組になっているサブデータとしてのテキス
トデータや、画像データ、音声データが多数ある場合に
は、すべてのユーザに対して、そのような多数のサブデ
ータが提供される。
【0161】ここで、図23において(後述する図24
においても同様)、◎印、□印、○印、△印は、図16
における場合と同様に、マルチメディアパッケージデー
タのメインデータ、サブデータとしてのテキストデー
タ、画像データ、音声データを、それぞれ表す。
【0162】しかしながら、例えば、マルチメディアパ
ッケージデータaからリンクを辿る場合には、ほぼ確実
に、マルチメディアパッケージデータeに辿り着くユー
ザにとっては、マルチメディアパッケージデータa,
b,c,d,eの順で、リンクを辿っていくのは面倒で
ある。また、例えば、サブデータとして、テキストデー
タと画像データは必要とするが、音声データを不要とす
るユーザにとっては、サブデータとしての音声データが
出力されるのは煩わしい。
【0163】そこで、パッケージサーバ1においては、
マルチメディアパッケージデータのリンク構造や、各マ
ルチメディアパッケージデータの内容を、ユーザごとに
カスタマイズして、マルチメディアパッケージデータの
提供を行うようにすることができる。
【0164】即ち、パッケージサーバ1においては、例
えば、図24(A)に示すように、マルチメディアパッ
ケージデータaからeに直接リンクがはられるように、
リンク構造を変更したり、また、図24(B)に示すよ
うに、テキストデータと画像データのみを含み、音声デ
ータを含まないように、サブデータの内容を変更して、
マルチメディアパッケージデータを提供するようにする
ことができる。
【0165】ここで、サブデータについては、その他、
例えば、サブデータとしてのテキストデータによるプル
ダウンメニューの項目の変更(削除および追加を含
む)、さらには、プルダウンメニューの項目の順番の変
更等のカスタマイズが可能である。なお、サブデータに
は、リンクデータが付随するから、サブデータとしての
プルダウンメニューの項目(テキストデータ)の追加や
削除は、マルチメディアパッケージデータへのリンクの
追加や削除でもある。
【0166】図25は、マルチメディアパッケージデー
タのリンク構造や、各マルチメディアパッケージデータ
の内容のカスタマイズ可能なパッケージサーバ1の構成
例を示している。なお、図中、図3における場合と対応
する部分については、同一の符号を付してあり、以下で
は、その説明は、適宜省略する。即ち、図25のパッケ
ージサーバ1は、ユーザ情報記憶部39が新たに設けら
れている他は、基本的に、図3における場合と同様に構
成されている。
【0167】ユーザ情報記憶部39では、ユーザに関す
るユーザ情報が収集されて記憶される。
【0168】ユーザ情報記憶部39に記憶されるユーザ
情報は、図26に示すように、ユーザ嗜好情報(図26
(A))と、変更情報(図26(B))とから構成され
る。
【0169】ユーザ嗜好情報は、図26(A)に示すよ
うに、ユーザを識別するためのユーザIDと、そのユー
ザからのマルチメディアパッケージデータの要求頻度を
表す要求頻度情報とから構成される。そして、要求頻度
情報は、マルチメディアパッケージデータのカテゴリご
とに分類されている。即ち、例えば、音楽関係のマルチ
メディアパッケージデータについては、図26(A)に
示すように、曲のジャンル(例えば、ポップス、ロッ
ク、演歌等)、アーティストの活動地域(例えば、日
本、アメリカ合衆国、ヨーロッパ諸国等)、アーティス
トの性別(男、女)等ごとに、ユーザからのマルチメデ
ィアパッケージデータの要求頻度がカウントされ、その
カウント値が、要求頻度情報として登録される。
【0170】変更情報は、図26(B)に示すように、
ユーザIDと、そのユーザIDに対応する要求頻度情報
に基づいて作成されたパッケージ内容変更情報およびリ
ンクデータ変更情報とから構成される。
【0171】パッケージ内容変更情報には、要求頻度情
報に基づいてカスタマイズ(変更)されたサブデータの
変更内容が登録される。また、リンクデータ変更情報に
は、要求頻度情報に基づいてカスタマイズされたマルチ
メディアパッケージデータのリンク構造の変更内容が登
録される。
【0172】図25のパッケージサーバ1では、ユーザ
端末3からリクエスト信号が送信されてくると、返信デ
ータ生成部36が、そのリクエスト信号に含まれるユー
ザIDに対応する要求頻度情報であって、そのリクエス
ト信号によって要求されたマルチメディアパッケージデ
ータのカテゴリに対応するものを更新する。さらに、返
信データ生成部36は、その更新後の要求頻度情報に基
づいて、パッケージ内容変更情報や、リンク変更情報を
更新する。
【0173】そして、返信データ生成部36は、更新後
のパッケージ内容変更情報およびリンク変更情報を考慮
して、検索部32にマルチメディアパッケージデータを
検索させ、あるいは、検索部32に検索させたマルチメ
ディアパッケージデータの内容を変更して、返信データ
を構成する。
【0174】従って、この場合、パッケージサーバ1に
おいては、ユーザが過去に要求したマルチメディアパッ
ケージデータから、そのユーザの嗜好や癖等が収集さ
れ、その収集されたユーザの嗜好や癖等に基づいて、マ
ルチメディアパッケージデータのリンク構造や内容がカ
スタマイズされて、ユーザに提供される。
【0175】その結果、ユーザは、自身にとって、利便
性の高い形で、マルチメディアパッケージデータの提供
を受けることができる。
【0176】さらに、この場合、ユーザは、マルチメデ
ィアパッケージデータの提供を受けるにつれて、より自
身の嗜好等にあった内容やリンク構造のマルチメディア
パッケージデータの提供を受けることが可能となり、自
身にとっての利便性が増すことになる。これは、パッケ
ージサーバ1によるサービス提供者からすれば、ユーザ
がサービスを利用することを維持し続け、さらには、サ
ービスを利用するユーザ数を増加させることができるこ
とになる。
【0177】なお、上述の場合には、パッケージサーバ
1において、ユーザの嗜好等を収集し、その収集結果に
基づいて、ユーザに提供するマルチメディアパッケージ
データのリンク構造や内容を、いわば自動的にカスタマ
イズするようにしたが、このようなカスタマイズは、ユ
ーザ自身が、パッケージサーバ1に、パッケージ内容変
更情報やリンクデータ変更情報を登録して行うようにす
ることも可能である。但し、ユーザ自身によるカスタマ
イズが行われ、リンク先が変更された場合には、その変
更後のリンク先のマルチメディアパッケージデータ以降
にリンクされているマルチメディアパッケージデータ
は、ユーザに提供しないようにすることが可能である。
この場合、ユーザによる、いわば勝手なカスタマイズを
抑制することができる。
【0178】さらに、マルチメディアパッケージデータ
のリンク先は、マルチメディアパッケージデータではな
い、例えば、Webページ等に変更することが可能であ
る。また、この場合、そのWebページから、マルチメ
ディアパッケージデータにリンクをはることを禁止する
ようにすることもできるし、許可するようにすることも
できる。
【0179】さらに、図26に示したユーザ嗜好情報と
変更情報とは、ユーザ端末3において作成するようにす
ることが可能である。この場合、ユーザ端末3におい
て、変更情報を、リクエスト信号に含めて、パッケージ
サーバ1に送信し、パッケージサーバ1において、その
リクエスト信号に含まれる変更情報に基づいて、リンク
構造や内容を変更したマルチメディアパッケージデータ
を作成して、ユーザ端末3に送信するようにすることが
できる。この場合も、上述した場合と同様に、ユーザ
は、自身にとって、利便性の高い形で、マルチメディア
パッケージデータの提供を受けることができる。
【0180】次に、例えば、上述のように、パッケージ
サーバ1からユーザ端末3に、パッケージデータを提供
する場合に、ユーザ端末3におけるパッケージデータの
出力に伴って、広告情報を、ユーザに必然的に見せるこ
と等ができれば便利である。
【0181】このように、パッケージデータの出力に伴
って、広告情報を、ユーザに必然的に見せる方法として
は、例えば、パッケージデータと広告情報とを対応付け
て、ユーザ端末3に提供し、ユーザ端末3の専用ブラウ
ザ62において、パッケージデータを出力するととも
に、広告情報を出力するようにする方法があるが、この
方法では、例えば、ユーザ端末3において、広告情報
が、記憶部52から消去された場合には、パッケージデ
ータを出力するときに、広告情報を出力することができ
なくなる。さらに、広告情報が、記録部52から消去さ
れなくても、パッケージデータのファイルが、専用ブラ
ウザ62以外のアプリケーションで開かれた場合には、
やはり、広告情報は出力されない。
【0182】また、例えば、従来の電子すかしの技術を
利用し、パッケージデータを構成する画像データや音声
データ等の下位数ビットに、本来のパッケージデータに
替えて、広告情報を配置しておき、ユーザ端末3の専用
ブラウザ62において、パッケージデータを出力すると
ともに、広告情報を出力するようにする方法があるが、
この方法でも、例えば、ユーザ端末3において、広告情
報が下位ビットに配置されたパッケージデータのファイ
ルが、専用ブラウザ62以外のアプリケーションで開か
れた場合には、広告情報は出力されない。
【0183】そこで、ユーザ端末3におけるパッケージ
データの出力に伴って、広告情報を、ユーザに必然的に
見せる方法としては、例えば、本件出願人が先に提案し
た埋め込み符号化/復号を利用することができる。
【0184】ここで、埋め込み符号化/復号について
は、例えば、本件出願人が先に出願した、例えば、特願
平10−200093号や、特願平10−222951
号、特願平10−333700号、特願平11−129
919号、特願平11−160529号、特願平11−
160530号、特願平11−284198号(特願平
10−285310号を基礎とする国内優先権主張出
願)、特願平11−284199号(特願平10−28
5309号を基礎とする国内優先権主張出願)、特願平
11−284200号(特願平10−285308号を
基礎とする国内優先権主張出願)等に、その詳細が記載
されているが、以下に、そのうちの幾つかの手法につい
て説明する。
【0185】図27は、埋め込み符号化/復号を行う埋
め込み符号化/復号システムの一実施の形態の構成例を
示している。
【0186】この埋め込み符号化/復号システムは、符
号化装置110および復号装置120で構成されてお
り、符号化装置110は、符号化対象としての、例え
ば、画像を符号化して符号化データを出力し、復号装置
120は、その符号化データを、元の画像に復号するよ
うになされている。
【0187】即ち、画像データベース101は、符号化
すべき画像(例えば、ディジタル画像)を記憶してい
る。そして、画像データベース101からは、そこに記
憶されている画像が読み出され、埋め込み符号化器10
3に供給される。
【0188】また、付加情報データベース102は、符
号化対象の画像に埋め込むべき情報としての付加情報
(ディジタルデータ)を記憶している。そして、付加情
報データベース102からも、そこに記憶されている付
加情報が読み出され、埋め込み符号化器103に供給さ
れる。
【0189】埋め込み符号化器103では、画像データ
ベース101からの画像、および付加情報データベース
102からの付加情報が受信される。さらに、埋め込み
符号化器103は、画像データベース101からの画像
が有するエネルギの偏りを利用して復号を行うことがで
きるように、その画像を、付加情報データベース102
からの付加情報にしたがって符号化して出力する。即
ち、埋め込み符号化器103は、画像が有するエネルギ
の偏りを利用して復号を行うことができるように、画像
に付加情報を埋め込むことで、その画像を符号化し、符
号化データを出力する。埋め込み符号化器103が出力
する符号化データは、例えば、半導体メモリ、光磁気デ
ィスク、磁気ディスク、光ディスク、磁気テープ、相変
化ディスクなどでなる記録媒体104に記録され、ある
いは、また、例えば、地上波、衛星回線、CATV(Ca
ble Television)網、インターネット、公衆回線などで
なる伝送媒体105を介して伝送され、復号装置120
に提供される。
【0190】復号装置120は、埋め込み復号器106
で構成され、そこでは、記録媒体104または伝送媒体
105を介して提供される符号化データが受信される。
さらに、埋め込み復号器106は、その符号化データ
を、画像が有するエネルギの偏りを利用して、元の画像
および付加情報に復号する。復号された画像は、例え
ば、図示せぬモニタに供給されて表示される。
【0191】なお、付加情報としては、例えば、元の画
像に関連するテキストデータや、音声データ、その画像
を縮小した縮小画像等は勿論、元の画像に無関係なデー
タも用いることができる。
【0192】次に、図27の埋め込み符号化器3におけ
る符号化(埋め込み符号化)、および埋め込み復号器6
における復号(埋め込み復号)の原理について説明す
る。
【0193】一般に、情報と呼ばれるものは、エネルギ
(エントロピー)の偏り(普遍性)を有し、この偏り
が、情報(価値ある情報)として認識される。即ち、例
えば、ある風景を撮影して得られる画像が、そのような
風景の画像であると人によって認識されるのは、画像
(画像を構成する各画素の画素値など)が、その風景に
対応したエネルギの偏りを有するからであり、エネルギ
の偏りがない画像は、雑音等にすぎず、情報としての利
用価値はない。
【0194】従って、価値ある情報に対して、何らかの
操作を施し、その情報が有する本来のエネルギの偏り
を、いわば破壊した場合でも、その破壊されたエネルギ
の偏りを元に戻すことで、何らかの操作が施された情報
も、元の情報に戻すことができる。即ち、情報を符号化
して得られる符号化データは、その情報が有する本来の
エネルギの偏りを利用して、元の価値ある情報に復号す
ることができる。
【0195】ここで、情報が有するエネルギ(の偏り)
を表すものとしては、例えば、相関性、連続性、相似性
などがある。
【0196】情報の相関性とは、その情報の構成要素
(例えば、画像であれば、その画像を構成する画素やラ
インなど)どうしの相関(例えば、自己相関や、ある構
成要素と他の構成要素との距離など)を意味する。例え
ば、画像の相関性を表すものとしては、画像のライン間
の相関があり、この相関を表す相関値としては、例え
ば、2つのラインにおける、対応する各画素値の差分の
2乗和等を用いることができる(この場合、相関値が小
さいことは、ライン間の相関が大きいことを表し、相関
値が大きいことは、ライン間の相関が小さいことを表
す)。
【0197】即ち、例えば、いま、図28に示すような
Hライン1102を有する画像1101があった場合
に、その上から1行目のライン(第1ライン)1103
と、他のラインとの相関は、一般に、図29(A)に示
すように、第1ライン1103との距離が近いライン
(図28における画像1101の上側のライン)ほど、
第Mライン1104についての相関1201として示す
ように大きくなり、第1ライン1103との距離が遠い
ライン(図28における画像の下側のライン)ほど、第
Nライン1105についての相関1202として示すよ
うに小さくなる。従って、第1ライン1103から近い
ほど、第1ライン1103との相関が大きくなり、遠い
ほど相関が小さくなるという相関の偏りがある。
【0198】そこで、いま、図28の画像1101にお
いて、第1ライン1103から比較的近い第Mライン1
104と、第1ライン1103から比較的遠い第Nライ
ン1105との画素値を入れ替える操作を行い(1<M
<N≦H)、その入れ替え後の画像1101について、
第1ライン1103と、他のラインとの相関を計算値す
ると、それは、例えば、図29(B)に示すようにな
る。
【0199】即ち、入れ替え後の画像1101では、第
1ライン1103から近い第Mライン(入れ替え前の第
Nライン1105)との相関1203が小さくなり、第
1ライン1103から遠い第Nライン(入れ替え前の第
Mライン1104)との相関1204が大きくなる。
【0200】従って、図29(B)では、第1ライン1
103から近いほど相関が大きくなり、遠いほど相関が
小さくなるという相関性の偏りが破壊されている。しか
しながら、画像については、一般に、第1ライン110
3から近いほど相関が大きくなり、遠いほど相関が小さ
くなるという相関性の偏りを利用することにより、破壊
された相関性の偏りを復元することができる。即ち、図
29(B)において、第1ライン1103から近い第M
ラインとの相関1203が小さく、第1ライン1103
から遠い第Nラインとの相関1204が大きいのは、画
像1101が有する本来の相関性の偏りからすれば、明
らかに不自然であり(おかしく)、第Mラインと第Nラ
インとは入れ替えるべきである。そして、図29(B)
における第Mラインと第Nラインとを入れ替えること
で、図29(A)に示すような本来の相関性の偏りを有
する画像、即ち、元の画像1101を復号することがで
きる。
【0201】ここで、図28および図29で説明した場
合においては、ラインの入れ替えが、画像の符号化を行
うこととなる。また、その符号化に際し、埋め込み符号
化器103では、例えば、何ライン目を移動するかや、
どのラインどうしを入れ替えるかなどが、付加情報にし
たがって決定されることになる。一方、埋め込み復号器
106では、符号化後の画像、即ち、ラインの入れ替え
られた画像を、その相関を利用して、ラインを元の位置
に入れ替えることにより、元の画像に戻すことが、画像
を復号することとなる。さらに、その復号に際し、埋め
込み復号器106において、例えば、何ライン目を移動
したかや、どのラインどうしを入れ替えたかなどを検出
することが、画像に埋め込まれた付加情報を復号するこ
とになる。
【0202】次に、図30は、画像の相関性を利用して
元に戻すことができるように、画像に付加情報を埋め込
む埋め込み符号化を行う場合の図27の埋め込み符号化
器103の構成例を示している。
【0203】画像データベース101から供給される画
像は、フレームメモリ131に供給されるようになされ
ており、フレームメモリ131は、画像データベース1
01からの画像を、例えば、フレーム単位で一時記憶す
るようになされている。
【0204】CPU(Central Processing Unit)13
2は、プログラムメモリ133に記憶されたプログラム
を実行することで、後述する埋め込み符号化処理を行う
ようになされている。即ち、CPU132は、付加情報
データベース2から供給される付加情報を、例えば、所
定ビット数単位で受信し、その所定ビットごとの付加情
報を、フレームメモリ131に記憶された画像に埋め込
むようになされている。具体的には、CPU132は、
フレームメモリ131に記憶された画像を構成する一部
の画素を選択し、その選択した画素に対して、付加情報
に対応した処理であって、画像の相関性を利用して元に
戻すことができるものを施すことにより、画素に、付加
情報を埋め込むようになされている。
【0205】プログラムメモリ133は、例えば、RO
M(Read Only Memory)やRAM(Random Access Memo
ry)などで構成され、CPU132に、埋め込み符号化
処理を行わせるためのコンピュータプログラムを記憶し
ている。
【0206】出力I/F(Interface)134は、フレ
ームメモリ131から、付加情報の埋め込まれた画像を
読み出し、符号化データとして出力するようになされて
いる。
【0207】なお、フレームメモリ131は、複数のフ
レームを記憶することのできるように、複数バンクで構
成されており、バンク切り替えを行うことで、フレーム
メモリ131では、画像データベース101から供給さ
れる画像の記憶、CPU132による埋め込み符号化処
理の対象となっている画像の記憶、および埋め込み符号
化処理後の画像(符号化データ)の出力を、同時に行う
ことができるようになされている。これにより、画像デ
ータベース101から供給される画像が、動画であって
も、符号化データのリアルタイム出力を行うことができ
るようになされている。
【0208】次に、図31のフローチャートを参照し
て、埋め込み符号化器103において行われる埋め込み
符号化処理について説明する。
【0209】画像データベース101では、そこに記憶
されている画像が読み出され、例えば、1フレーム単位
で、フレームメモリ131に供給されて記憶される。
【0210】一方、CPU132は、付加情報データベ
ース102から、付加情報を、例えば1ビットずつ受信
しており、1ビットの付加情報を受信すると、ステップ
S101において、その1ビットの付加情報を埋め込む
処理の対象とする画素(処理対象画素)を、フレームメ
モリ131に記憶された画像から選択する。
【0211】ここで、本実施の形態では、例えば、図3
2に示すように、フレームメモリ131に記憶された画
像から、五の目格子状に、画素が選択されるようになさ
れている。即ち、CPU132では、ステップS101
の処理が行われるごとに、図32において、斜線を付し
ていない画素が、例えば、ラインスキャン順に、順次、
処理対象画素として選択されるようになされている。な
お、図32におけるp(x,y)は、左からx番目の、
上からy番目の画素を表している(後述する図36にお
いても同様)。
【0212】その後、CPU132は、ステップS10
2において、付加情報データベース102から受信した
付加情報が1または0のうちのいずれであるかを判定す
る。ステップS102において、付加情報が、1または
0のうちの、例えば0であると判定された場合、ステッ
プS101に戻る。即ち、CPU132は、付加情報が
0である場合には、処理対象画素に、何らの処理も施さ
ずに(所定の定数としての0を加算し)、ステップS1
01に戻り、次の1ビットの付加情報が、付加情報デー
タベース102から送信されてくるのを待って、次に処
理対象画素とすべき画素を選択し、以下、同様の処理を
繰り返す。
【0213】また、ステップS102において、付加情
報が、1または0のうちの、例えば1であると判定され
た場合、ステップS103に進み、CPU132は、処
理対象画素に対して、所定の処理を施す。即ち、CPU
132は、所定の定数としての、例えば、2の、画像を
構成する画素に割り当てられているビット数−1乗を、
処理対象画素の画素値に加算する。
【0214】従って、画像を構成する画素の画素値とし
て、例えば、8ビットが割り当てられている場合には、
ステップS103では、27が、処理対象画素の画素値
に加算されることになる。
【0215】なお、この加算は、画素値が、例えば、Y
UVなどで表現されている場合には、輝度成分Y、また
は色成分U,Vのいずれに対して行っても良い。また、
加算は、画素値が、例えば、RGBで表現されている場
合には、R,G,Bのいずれに対して行っても良い。
【0216】ステップS103において、処理対象画素
の画素値に、27が加算された後は、ステップS104
に進み、その加算結果がオーバフローしているかどうか
が判定される。ステップS104において、加算結果が
オーバフローしていないと判定された場合、ステップS
105をスキップして、ステップS106に進み、CP
U132は、その加算結果を、処理対象画素の画素値と
して、フレームメモリ131に書き込み(上書きし)、
ステップS1に戻る。
【0217】また、ステップS104において、加算結
果がオーバフローしていると判定された場合、即ち、加
算結果が、28以上となった場合、ステップS105に
進み、その加算値の補正が行われる。即ち、ステップS
105では、オーバフローした加算値が、例えば、その
オーバフローした分(オーバフローした加算値から2 8
を減算した値)に補正される。そして、ステップS10
6に進み、CPU132は、その補正後の加算結果を、
処理対象画素の画素値として、フレームメモリ131に
書き込み、次の1ビットの付加情報が、付加情報データ
ベース102から送信されてくるのを待って、ステップ
S101に戻る。
【0218】なお、フレームメモリ131に記憶され
た、ある1フレームの画像について処理が行われた後
は、出力I/F134は、その1フレームの画像(付加
情報が埋め込まれた画像)を、符号化データとして読み
出し、また、CPU132は、フレームメモリ131に
記憶された、次の1フレームの画像を対象に、処理を続
行する。
【0219】以上のように、フレームメモリ131に記
憶された画像を構成する一部の画素を選択し、その選択
した画素に対して、付加情報に対応した処理であって、
画像の相関性を利用して元に戻すことができるものを施
すことにより、画素に、付加情報を埋め込むことで、画
像の画質の劣化を極力なくし、かつデータ量を増加せず
に、画像に付加情報を埋め込むことができる。
【0220】即ち、付加情報が埋め込まれた画素は、画
像の相関性、即ち、ここでは、付加情報が埋め込まれな
かった画素との間の相関を利用することにより、オーバ
ヘッドなしで、元の画素と付加情報に復号(戻す)こと
ができる。従って、その結果得られる復号画像(再生画
像)には、基本的に、付加情報を埋め込むことによる画
質の劣化は生じない。
【0221】次に、図33は、図30の埋め込み符号化
器103が出力する符号化データを、画像の相関性を利
用して元の画像と付加情報に復号する図27の埋め込み
復号器106の構成例を示している。
【0222】符号化データ、即ち、付加情報が埋め込ま
れた画像(以下、適宜、埋め込み画像という)は、フレ
ームメモリ141に供給されるようになされており、フ
レームメモリ141は、埋め込み画像を、例えば、フレ
ーム単位で一時記憶するようになされている。なお、フ
レームメモリ141も、図30のフレームメモリ131
と同様に構成され、バンク切り替えを行うことにより、
埋め込み画像が、動画であっても、そのリアルタイム処
理が可能となっている。
【0223】出力I/F142は、フレームメモリ14
1から、CPU143による、後述する埋め込み復号処
理の結果得られる画像(復号画像)を読み出して出力す
るようになされている。
【0224】CPU143は、プログラムメモリ144
に記憶されたプログラムを実行することで、埋め込み復
号処理を行うようになされている。即ち、CPU143
は、フレームメモリ141に記憶された埋め込み画像
を、画像の相関性を利用して元の画像と付加情報に復号
するようになされている。具体的には、CPU143
は、埋め込み画像を構成する一部の画素を、処理対象画
素として選択し、図34に示すように、その処理対象画
素に対して、図30のCPU132が施した処理と逆の
処理を施すことで、その画素値を変更する。さらに、図
34に示すように、CPU143は、画素値の変更前の
処理対象画素と、その周辺画素(図34の実施の形態で
は、左右に隣接する画素)との相関値R1(第1の相
関)を演算するとともに、画素値の変更された処理対象
画素と、その画素の周辺画素との相関値R2(第2の相
関)を演算し、その相関値R1とR2とを比較する。そし
て、CPU143は、その比較結果に基づいて、画素値
の変更前または変更後の処理対象画素のうちのいずれか
一方を、復号結果とするとともに、その処理対象画素に
埋め込まれた付加情報(ここでは、1ビットの1または
0のうちのいずれか一方)を復号する。
【0225】プログラムメモリ143は、例えば、図3
0のプログラムメモリ133と同様に構成され、CPU
143に、埋め込み復号化処理を行わせるためのコンピ
ュータプログラムを記憶している。
【0226】次に、図35のフローチャートを参照し
て、埋め込み復号器106において行われる埋め込み復
号処理について説明する。
【0227】フレームメモリ141では、そこに供給さ
れる埋め込み画像が、例えば、1フレーム単位で順次記
憶される。
【0228】一方、CPU143は、ステップS111
において、フレームメモリ141に記憶されたあるフレ
ームの埋め込み画像から、復号を行う処理の対象とする
画素(処理対象画素)を選択する。
【0229】ここで、CPU143では、図32に示し
たように、図30のCPU132と同様に、フレームメ
モリ141に記憶された埋め込み画像から、五の目格子
状に、画素が選択されるようになされている。即ち、C
PU143では、ステップS111の処理が行われるご
とに、図32において、斜線を付していない画素が、例
えば、ラインスキャン順に、順次、処理対象画素として
選択されるようになされている。
【0230】その後、ステップS112に進み、CPU
143は、処理対象画素に対し、図30のCPU132
が行った処理と逆の処理を施す。即ち、CPU132
は、所定の定数としての、例えば、2の、画像を構成す
る画素に割り当てられているビット数−1乗を、処理対
象画素の画素値から減算する。
【0231】従って、上述したように、画像を構成する
画素の画素値として、例えば、8ビットが割り当てられ
ている場合においては、ステップS112では、2
7が、処理対象画素の画素値から減算されることにな
る。
【0232】なお、この減算は、画素値が、例えば、Y
UVなどで表現されている場合には、輝度成分Y、また
は色成分U,Vのいずれに対して行っても良い。また、
減算は、画素値が、例えば、RGBで表現されている場
合には、R,G,Bのいずれに対して行っても良い。但
し、ステップS112における減算は、図31のステッ
プS103における加算が行われたものと同一のものに
対して行う必要がある。即ち、画素値が、例えば、YU
Vなどで表現されており、図31のステップS103に
おける加算が、YUVのうちの、例えば、Y成分に対し
て行われた場合には、ステップS112における減算
は、やはり、Y成分に対して行う必要がある。
【0233】ステップS112において、処理対象画素
の画素値から、27が減算された後は、ステップS11
3に進み、その減算結果がアンダフローしているかどう
かが判定される。ステップS113において、減算結果
がアンダフローしていないと判定された場合、ステップ
S114をスキップして、ステップS115に進む。
【0234】また、ステップS113において、減算結
果がアンダフローしていると判定された場合、即ち、加
算結果が、0未満となった場合、ステップS114に進
み、その減算値の補正が行われる。即ち、ステップS1
14では、アンダフローした減算値が、例えば、その減
算値に28を加算した値に補正され、ステップS115
に進む。
【0235】ステップS115では、処理対象画素の画
素値(ステップS112で27を減算していないもの)
(以下、適宜、第1の画素値という)P1と、その画素
値から27を減算した減算値(以下では、ステップS1
14で補正されたものも含むものとする)(以下、適
宜、第2の画素値という)P2のそれぞれについて、処
理対象画素の周辺画素としての、例えば、その左右に隣
接する画素との間の相関値が演算される。
【0236】即ち、ステップS115では、例えば、処
理対象画素の第1の画素値P1と、その左右の画素それ
ぞれの画素値との差分の絶対値が演算され、その2つの
絶対値の加算値が、処理対象画素の第1の画素値P1に
ついての相関値R1として求められる。さらに、ステッ
プS115では、処理対象画素の第2の画素値P2につ
いても、その左右の画素それぞれの画素値との差分の絶
対値どうしの加算値が演算され、それが、処理対象画素
の第2の画素値P2の相関値R2として求められる。
【0237】なお、ステップS115において、処理対
象画素との間の相関を求めるのに用いる画素は、その左
右に隣接する画素に限定されるものではなく、上下に隣
接する画素であっても良いし、時間的に隣接する画素で
あっても良い。また、必ずしも、空間的または時間的に
隣接する画素である必要もない。但し、処理対象画素と
の相関を求めるにあたっては、図32において、斜線を
付した画素、即ち、付加情報が埋め込まれていない画素
を用いるのが望ましい。これは、処理対象画素につい
て、付加情報が埋め込まれた画素との相関を求めても、
元の画像についての相関を得ることができず、従って、
画像の相関性を利用することができないため、付加情報
が埋め込まれた画素から、元の画素値および付加情報
を、正確に復号するのが困難となるからである。また、
画像の相関性を利用して、処理対象画素を復号する以
上、処理対象画素との相関値を求めるのに用いる画素
は、その処理対象画素との空間的または時間的距離が近
いものであるのが望ましい。
【0238】第1の画素値P1についての相関値R1、お
よび第2の画素値P2についての相関値R2の算出後は、
ステップS116に進み、CPU143において、その
相関値R1とR2とが比較される。
【0239】ステップS116において、相関値R1
が、相関値R2より大きい(以上である)と判定された
場合、ステップS117に進み、CPU143におい
て、付加情報の復号結果として、0が出力され、ステッ
プS111に戻る。そして、この場合、フレームメモリ
141の記憶値は書き換えられず、従って、処理対象画
素の画素値の復号結果は、その画素値P1のままとされ
る。
【0240】即ち、第1の画素値P1についての相関値
R1の方が、第2の画素値P2についての相関値R2より
大きいということは、処理対象画素の画素値としては、
画素値P2よりも、画素値P1の方が確からしいこととな
るので、処理対象画素の画素値の復号結果は、その確か
らしい画素値P1とされる。さらに、画素値P1は、ステ
ップS112で27が減算されていないものであるか
ら、図31のステップS103で27が加算されていな
いと考えられる。そして、図31の埋め込み符号化処理
では、付加情報が0の場合には、27を加算しないこと
としているから、第1の画素値P1についての相関値R1
の方が大きく、画素値P1が、処理対象画素の画素値と
して確からしい場合には、そこに埋め込まれた付加情報
は0ということになる。
【0241】一方、ステップS116において、相関値
R2が、相関値R1より大きい(以上である)と判定され
た場合、ステップS118に進み、CPU143におい
て、フレームメモリ141に記憶された処理対象画素の
画素値が、その画素値から2 7を減算した減算値、即
ち、第2の画素値P2に書き換えられる。従って、この
場合、処理対象画素の画素値の復号結果は、その画素値
P2とされる。そして、ステップS119に進み、CP
U143において、付加情報の復号結果として、1が出
力され、ステップS111に戻る。
【0242】即ち、第2の画素値P2についての相関値
R2の方が、第1の画素値P1についての相関値R1より
大きいということは、処理対象画素の画素値としては、
画素値P1よりも、画素値P2の方が確からしいこととな
るので、処理対象画素の画素値の復号結果は、その確か
らしい画素値P2とされる。さらに、画素値P2は、ステ
ップS112で、画素値P1から27が減算されたもので
あるから、図31のステップS103で、元の画素値に
7が加算されたものであると考えられる。そして、図
31の埋め込み符号化処理では、付加情報が1の場合に
は、27を加算することとしているから、第2の画素値
P2についての相関値R2の方が大きく、画素値P2が、
処理対象画素の画素値として確からしい場合には、そこ
に埋め込まれた付加情報は1ということになる。
【0243】ここで、上述のようにして求められる相関
値R1とR2との差分が小さい場合には、画素値P1とP2
のうちのいずれが、処理対象画素の画素値として確から
しいかは、一概にはいえない。そこで、このような場合
には、処理対象画素の左右に隣接する画素だけでなく、
他の画素をも用いて、画素値P1,P2それぞれについて
の相関値を求め、その相関値を比較することで、画素値
P1,P2のうちのいずれが、処理対象画素の画素値とし
て確からしいかを決定することができる。
【0244】以上のように、付加情報が埋め込まれた画
像である符号化データを、画像の相関性を利用して、元
の画像と付加情報に復号するようにしたので、その復号
のためのオーバヘッドがなくても、符号化データを、元
の画像と付加情報に復号することができる。従って、そ
の復号画像(再生画像)には、基本的に、付加情報を埋
め込むことによる画質の劣化は生じない。
【0245】なお、本実施の形態では、処理対象画素
と、他の画素との相関値として、それらの画素値の差分
の絶対値を用いるようにしたが、相関値は、これに限定
されるものではない。
【0246】また、本実施の形態では、図32に示した
ように、画像から、五の目格子状に、画素を選択し、そ
の画素に、付加情報を埋め込むようにしたが、付加情報
を埋め込む画素の選択パターンは、これに限定されるも
のではない。但し、付加情報を埋め込んだ画素の復号に
あたっては、上述したように、付加情報が埋め込まれて
いない画素を用いて相関を求めるのが望ましく、また、
画素どうしの相関は、基本的に、それらの間の空間的ま
たは時間的距離が離れるほど小さくなっていく。従っ
て、正確な復号を行う観点からは、付加情報を埋め込む
画素は、空間的または時間的に、いわゆる疎らになるよ
うに選択するのが望ましい。一方、多くの付加情報を埋
め込む観点、即ち、圧縮率の観点からは、付加情報を埋
め込む画素は、ある程度多くする必要がある。従って、
付加情報を埋め込む画素は、復号の正確さと、圧縮率と
をバランスさせて選択するのが望ましい。
【0247】さらに、本実施の形態では、処理対象画素
として選択された1画素に、1ビットの付加情報を埋め
込むようにしたが、1画素に、2ビット以上の付加情報
を埋め込むようにすることも可能である。例えば、1画
素に、2ビットの付加情報を埋め込む場合には、その2
ビットの付加情報にしたがって、例えば、0,26
7,26+27のうちのいずれかを、画素値に加算する
ようにすれば良い。
【0248】また、本実施の形態では、画素値に、0ま
たは27のうちのいずれかを加算することで(画素値
に、27を加算しないか、または加算することで)、付
加情報を埋め込むようにしたが、画素値に加算する値
は、27に限定されるものではない。但し、画素値の下
位ビットにしか影響を与えないような値を加算する場合
には、その加算値と、元の画素値とが、あまり異なった
ものとならず、従って、図35のステップS115で求
められる相関値R1とR2も、あまり異なったものとなら
なくなる。これは、画素値および付加情報の復号結果の
精度を劣化させることとなるから、付加情報にしたがっ
て、画素値に加算する値は、元の画素値の上位ビットに
影響を与えるような値とするのが望ましい。
【0249】さらに、本実施の形態では、画素値に、所
定値を加算することで、付加情報の埋め込みを行うよう
にしたが、付加情報の埋め込みは、加算以外の操作(例
えば、ビット反転など)を、画素値に施すことによって
行うことも可能である。但し、上述したように、画素値
および付加情報の復号結果の精度の劣化を防止する観点
から、画素値に施す操作は、元の画素値についての相関
と、操作を施した画素値についての相関とが大きく異な
るようなものであることが望ましい。
【0250】また、本実施の形態では、処理対象画素と
して選択された1画素に、1ビットの付加情報を埋め込
むようにしたが、複数画素に、1ビットの付加情報を埋
め込むようにすることも可能である。即ち、例えば、図
36において○印で示す位置関係にある4画素に、1ビ
ットの付加情報を埋め込むようにすることなどが可能で
ある。
【0251】具体的には、例えば、図36において、4
つの画素p(1,4),p(5,4),p(1,8),
p(5,8)に注目した場合、符号化時には、1ビット
の付加情報にしたがい、画素p(1,4),p(5,
4),p(1,8),p(5,8)それぞれの画素値に
対して、同一の操作を施すことで、1ビットの付加情報
を埋め込む。一方、復号時には、4つの画素p(1,
4),p(5,4),p(1,8),p(5,8)それ
ぞれについて、上述したような第1および第2の画素値
P1,P2の相関値R1,R2を求め、その相関値R1,R2
の大小関係を比較する。そして、その比較結果の多数決
によって、4つの画素p(1,4),p(5,4),p
(1,8),p(5,8)それぞれの画素値と、付加情
報の復号結果を決定すれば良い。あるいは、また、4つ
の画素p(1,4),p(5,4),p(1,8),p
(5,8)それぞれについての第1の画素値P1の相関
値R1の総和と、第2の画素値P2の相関値R2の総和と
を求め、その2つの総和の大小関係に基づいて、4つの
画素p(1,4),p(5,4),p(1,8),p
(5,8)それぞれの画素値と、付加情報の復号結果を
決定しても良い。
【0252】ここで、図32に示したように、処理対象
画素として、画像から、五の目格子状に、画素を選択
し、その選択された各画素に、1ビットの付加情報を埋
め込むようにした場合には、画像の画素数の約半分のビ
ット数の付加情報を埋め込むことができるが、上述した
ように、4画素に、1ビットの付加情報を埋め込む場合
には、画像に埋め込むことのできる付加情報は、その画
像の画素数の約半分の1/4のビット数となる。
【0253】次に、情報の連続性についてであるが、例
えば、画像のある1ラインについて注目した場合に、そ
の注目ラインにおいて、図37(A)に示すような、画
素値の変化パターンが連続している波形1301が観察
されたとすると、その注目ラインと離れた他のラインで
は、注目ラインとは異なる画素値の変化パターンが観察
される。従って、注目ラインと、その注目ラインと離れ
た他のラインとにおいては、画素値の変化パターンが異
なり、連続性においても偏りがある。即ち、画像のある
部分の画素値の変化パターンに注目すると、その注目部
分に隣接する部分には、同様の画素値の変化パターンが
存在し、注目部分から離れるにつれて、異なる画素値の
変化パターンが存在するという連続性の偏りがある。
【0254】そこで、いま、図37(A)に示した、画
像のあるラインにおける、画素値の変化パターンが連続
している波形1301の一部を、例えば、図37(B)
に示すように、離れたラインにおける波形1302と入
れ替える。
【0255】この場合、画像の連続性の偏りが破壊され
る。しかしながら、近接する部分の画素値の変化パター
ンは連続しており、離れるほど、画素値の変化パターン
が異なるという連続性の偏りを利用することにより、破
壊された連続性の偏りを復元することができる。即ち、
図37(B)において、波形の一部1302の画素値の
変化パターンが、他の部分の画素値の変化パターンに比
較して大きく異なっているのは、波形が有する本来の連
続性の偏りからすれば、明らかに不自然であり、他の部
分の画素値の変化パターンと異なっている部分1302
は、他の部分の画素値の変化パターンと同様の波形に入
れ替えるべきである。そして、そのような入れ替えを行
うことで、連続性の偏りが復元され、これにより、図3
7(B)に示した波形から、図37(A)に示した元の
波形を復号することができる。
【0256】ここで、図37で説明した場合において
は、波形の一部を、その周辺の画素値の変化パターンと
は大きく異なる画素値の変化パターンの波形に入れ替え
ることが、画像の符号化を行うこととなる。また、その
符号化に際し、埋め込み符号化器103では、例えば、
波形のどの部分の画素値の変化パターンを入れ替えるの
かや、画素値の変化パターンをどの程度大きく変化させ
るのかなどが、付加情報にしたがって決定されることに
なる。一方、埋め込み復号器106では、符号化後の信
号、即ち、大きく異なる画素値の変化パターンを一部に
有する波形を、周辺の画素値の変化パターンは連続して
おり、離れるほど、画素値の変化パターンが異なるとい
う連続性の偏りを利用して、元の波形に戻すことが、そ
の元の波形を復号することとなる。さらに、その復号に
際し、埋め込み復号器106において、例えば、波形の
どの部分の画素値の変化パターンが大きく変化していた
のかや、画素値の変化パターンがどの程度大きく変化し
ていたのかなどを検出することが、埋め込まれた付加情
報を復号することになる。
【0257】次に、画像の連続性を利用して、埋め込ま
れる付加情報が復号されるように、画像に付加情報を埋
め込む埋め込み符号化処理について説明する。なお、こ
の場合の埋め込み符号化器103の構成は、図30にお
ける場合と同様の構成であるので、説明を省略する。
【0258】図38は、画像の連続性を利用した埋め込
み符号化処理を示すフローチャートである。
【0259】まず最初に、ステップS121において、
CPU132は、画像データベース101から1フレー
ム分の画像データがフレームメモリ131に転送される
ように制御すると共に、画像データの連続領域を検出
し、更に、連続領域の位置を示す連続領域データを、図
示せぬワーク用のメモリ(ワークメモリ)に記憶する。
【0260】すなわち、CPU132は、図39(A)
に示すような、224(= 7×32)×1600画素
からなる画像データの連続領域を検出する場合には、例
えば、画像データを、32×1画素毎の画像ブロックに
分割し、その画像ブロック毎にDCT処理を施して、画
像ブロック毎にDCT係数を算出する。
【0261】CPU132は、画像ブロックをラスタス
キャン順にスキャンして、順次、注目画像ブロックと
し、注目画像ブロックに対応するDCT係数と左隣の隣
接画像ブロックの対応するDCT係数との差分を順に算
出して注目画像ブロックの連続性評価値としてワークメ
モリに記憶させる。CPU132は、算出された連続性
評価値(差分値)が所定しきい値以下である画像ブロッ
クを連続領域と認識し、その画像ブロックの位置をワー
クメモリに記憶する。ここで、算出された連続領域内の
一部の画像ブロックがノイズ等の影響により連続領域で
はないと判断される可能性もあるので、CPU132
は、連続領域の検出の後、連続領域の拡大、縮小処理等
により、連続領域内の一部の非連続の画像ブロックを、
連続領域の画像ブロックに変換する補正処理を行う。
【0262】その後、ステップS122において、CP
U132は、付加情報データベース2から、付加情報
を、例えば6ビット(3ビット+3ビット)ずつ受信
し、ステップS123に進む。
【0263】ステップS123において、CPU132
は、上述の付加情報6ビットを埋め込むための処理対象
画像である、例えば、図39(A)の第1ライン、及び
第801ラインを選択抽出する。このとき、ステップS
121においてワークメモリに記憶された連続領域デー
タを参照して、CPU132は、第1ライン、第801
ラインの連続領域のみを選択抽出する。図39の実施の
形態においては、第1ライン、第801ラインの全領域
が連続領域であるとして、選択抽出されている。
【0264】そして、ステップS124に進み、CPU
132は、処理対象画像である、例えば、第1ラインの
画像と、第801のラインの画像を入れ替えることによ
り、画像データに付加情報を埋め込む。
【0265】即ち、図39(B)は、付加情報が埋め込
まれる前の第1ラインの画像データの画素値を示してい
る。また、図39(C)は、付加情報が埋め込まれる前
の第801ラインの画像データの画素値を示している。
図39(B)および図39(C)に示すように、第1ラ
インの領域と第801ラインの領域では画素値の変化パ
ターン(周波数特性)が異なっている。
【0266】例えば、いま、上位3ビットが2で、下位
3ビットが6の6ビットの付加情報が画像データに埋め
込まれるとすると、CPU132は、上位3ビットの2
を埋め込むため、図39(B)の左から2ブロック目を
選択するとともに、下位3ビットの6を埋め込むため、
図39(C)の左からの6ブロック目を選択する。更
に、CPU132は、選択された2ブロック目と6ブロ
ック目の画像データを入れ替えることにより、図39
(D)、図39(E)に示すような画像データに符号化
する。
【0267】その後、ステップS125において、CP
U132は、符号化された第1ラインと第801ライン
の画像データを、フレームメモリ131に書き込み(上
書き)、ステップS126に進む。
【0268】ステップS126において、CPU132
は、1フレームの画像データの符号化が終了したか否か
を判別する。CPU132が、符号化が終了していない
と判別すると、ステップS122に戻り、再び付加情報
が受信される。そして、ステップS123に進み、CP
U132は、次のライン、すなわち第2ラインと第80
2ラインを選択し、以下、同様の処理を繰り返す。
【0269】一方、ステップS126において、CPU
132が符号化を終了したと判別すると、フレームメモ
リ131に記憶された符号化データが、出力I/F13
4を介して出力され、処理を終了する。
【0270】次に、画像の連続性を利用して付加情報が
埋め込まれた符号化データを復号する埋め込み復号処理
について説明する。なお、この場合の埋め込み復号器1
06の構成は、図33における場合と同様の構成である
ので、説明を省略する。
【0271】図40は、画像の連続性を利用して、図3
8の埋め込み符号化処理により得られる、符号化データ
を復号する埋め込み復号処理を示すフローチャートであ
る。
【0272】まず最初に、ステップS131において、
CPU143は、1フレーム単位の符号化データをフレ
ームメモリ141に順次記憶する。更に、CPU143
は、図38で説明したのと同様の手法により、符号化デ
ータの中から連続領域を抽出し、その画像ブロックの位
置を、連続領域データとして、図示せぬワークメモリに
記憶する。ここで、本実施の形態では、図39で説明し
たことから、1ラインに3ビットの付加情報が埋め込ま
れるので、1ラインのうち1つの画像ブロックが変更さ
れることにより、画像データは符号化される。よって、
連続領域を抽出する際の拡大、縮小処理により連続領域
内の非連続の1画像ブロックは、連続領域に変換され
る。
【0273】ステップS132において、CPU143
は、6ビットの付加情報を復号するための処理対象画像
である図39(A)の1画像ブロック(例えば、図39
(A)の左上の画像ブロック)を選択抽出する。このと
き、ステップS131においてワークメモリに記憶され
た連続領域データを参照して、CPU143は、連続領
域内の画像ブロックのみを選択抽出する。上述したこと
から、ここでは、第1ライン、第801ラインの全領域
は連続領域であるとして、選択抽出される。
【0274】ステップS133において、CPU143
は、ステップS132において抽出された画像ブロック
をDCT処理し、DCT係数を算出する。
【0275】次に、ステップS134において、CPU
143は、前の注目画像ブロックのDCT係数と、現注
目画像ブロックのDCT係数の差分値を演算し、ワーク
メモリに、その差分値と、現注目画像ブロックのDCT
係数を記憶させる。なお、前の注目画像ブロックのDC
T係数がワークメモリに記憶されていないとき、差分値
は0とされる。
【0276】ステップS135において、CPU143
は、1ラインの処理が終了したか否かを判別し、終了し
ていないとき、ステップS132に戻る。一方、ステッ
プS135において、CPU143が、1ラインの処理
が終了したと判別すると、ステップS136に処理を進
める。
【0277】ステップS136において、CPU143
は、ワークメモリに記憶された1ライン分の各画像ブロ
ックのうち、上述の差分値の大きい2つの画像ブロック
を検出し、その画像ブロックの位置をワークメモリ44
に記憶する。
【0278】ステップS137において、CPU143
は、ワークメモリに記憶された1ライン分の画像ブロッ
クのうち、差分値が所定値以上の画像ブロック2つを用
いて付加情報を出力する。即ち、CPU143は、その
ような2つの画像ブロックが隣同士であるとき、左側の
画像ブロック位置をワークメモリに記憶すると共に、付
加情報として出力する。例えば、図39(D)に示した
場合では、差分値の大きい画像ブロックは、左から2番
目と3番目の画像ブロックであり、左側の画像ブロック
は2番目であるので、付加情報は2となる。
【0279】ここで、左から0番目や7番目の画像ブロ
ックに付加情報が埋め込まれているとき、差分値が所定
値以上の画像ブロックは1つとなる可能性が高い。そこ
で、CPU143は、1番目の画像ブロックのみの差分
値が大のときは、付加情報はを0とし、7番目の画像ブ
ロックのみの差分値が大のときは、付加情報を7とする
ような、画像データの境界では特別な処理を行う。
【0280】ステップS138において、CPU143
は、現在の処理対象が画像の上段の1乃至800ライン
であるか、下段の801乃至1600ラインであるかを
判別する。CPU143が、現在の処理対象が画像の上
段であると判別すると、ステップS139に進み、画像
処理領域を上段から下段に変更する。具体的には、CP
U143は、現在処理されているラインが、例えば第1
ラインであれば、それに800を加算し、第801ライ
ンを処理の対象とする。上段から下段に切り換えられた
後、ステップS132に戻る。
【0281】一方、ステップS138において、CPU
143が、現在の処理対象が画像の下段であると判別す
ると、ステップS140に進み、CPU143は、ステ
ップS137において最終的に記憶された2つの位置の
画像ブロックを入れ替え、フレームメモリ141に書き
込みむ。
【0282】ステップS141において、CPU143
は、画像データの復号が1フレーム分終了したか否かを
判別する。CPU143が、復号が終了していないと判
別すると、ステップS139に進み、上述したように、
画像処理領域が下段から上段に変更され、以下、同様の
処理が行われる。また、CPU143が、復号が終了し
たと判別すると、処理を終了する。
【0283】ここで、元の画像に復号され、フレームメ
モリ41に記憶される画像データは、第1ラインと第8
01ラインのように2ライン毎に、出力I/F142を
介して順に出力しても良いし、全ての復号処理が終了し
たのち、出力I/F142から出力しても構わない。
【0284】次に、情報の相似性についてであるが、例
えば、風景を撮影した画像等の一部は、画像のフラクタ
ル性(自己相似性)を利用して生成することができるこ
とが知られている。即ち、例えば、図41(A)に示す
ような、海1401と森1402を撮影した画像におい
ては、海1401全体の画素値の変化パターンと、その
海1401の一部の画素値の変化パターンとの相似性は
高いが、それらの変化パターンと、海1401から離れ
た森1402の画素値の変化パターンとの相似性は低い
という相似性の偏りがある。ここで、画像の相似性は、
上述のように画素値の変化パターンを比較して考えるの
ではなく、エッジ形状を比較して考えても良い。
【0285】そこで、いま、図41(A)に示した海1
401の一部1403と、森1402の一部1404と
を入れ替える。
【0286】この場合、画像の相似性の偏りが破壊さ
れ、図41(B)に示すような画像が得られる。しかし
ながら、近接する部分の画素値の変化パターンは相似性
が高く、離れるほど、画素値の変化パターンの相似性が
低くなるという相似性の偏りを利用することにより、破
壊された相似性の偏りを復元することができる。即ち、
図41(B)において、海1401の画像の一部が、海
1401と相似性の低い森1402の画像の一部140
4になっていること、および森1402の画像の一部
が、森1402と相似性の低い海1401の画像の一部
1403となっていることは、画像が有する本来の相似
性の偏りからすれば、明らかに不自然である。具体的に
は、図41(B)において、海1401の画像の中の、
森1402の画像の一部1404についての相似性は、
海1401の他の部分についての相似性に比較して極端
に低くなっており、また、森1402の画像の中の、海
1401の画像の一部1403についての相似性も、森
1402の他の部分についての相似性に比較して極端に
低くなっている。
【0287】従って、画像が本来有する相似性の偏りか
らすれば、海1401の画像の一部となっている、森1
402の画像の一部1404と、森1402の画像の一
部となっている、海1401の画像の一部1403とは
入れ替えるべきである。そして、そのような入れ替えを
行うことで、画像の相似性の偏りが復元され、これによ
り、図41(B)に示した画像から、図41(A)に示
した元の画像を復号することができる。
【0288】ここで、図41で説明した場合において
は、海1401の画像の一部1403と、森1402の
画像の一部1404とを入れ替えることが、画像の符号
化を行うこととなる。また、その符号化に際し、埋め込
み符号化器103では、例えば、海1401の画像のど
の部分(画面上の位置)と、森1402の画像のどの部
分とを入れ替えるのかなどが、付加情報にしたがって決
定されることになる。一方、埋め込み復号器106で
は、符号化後の信号、即ち、海1401の一部が、森1
402の一部1404となっているとともに、森140
2の一部が、海1401の一部1403となっている画
像を、周辺の画素値の変化パターンの相似性は高く、離
れるほど、画素値の変化パターンの相似性が低くなって
いくという相似性の偏りを利用して、元の画像に戻すこ
とが、その元の画像を復号することとなる。さらに、そ
の復号に際し、埋め込み復号器106において、例え
ば、海の画像のどの部分と、森の画像のどの部分とが入
れ替えられていたのかなどを検出することが、埋め込ま
れた付加情報を復号することになる。
【0289】次に、図42を参照して、相似性につい
て、さらに説明する。
【0290】いま、例えば、図42(A)に示すような
フラクタル画像を符号化対象として符号化を行うとした
場合、埋め込み符号化器103では、付加情報に対応し
て、フラクタル画像の一部が、そのフラクタル画像とは
相似でない画像に入れ替えられることで、フラクタル画
像の符号化が行われる。即ち、埋め込み符号化器103
では、図42(A)に示した、樹木の葉の形状をしたフ
ラクタル画像の一部が、例えば、図42(B)に示すよ
うに、三角形に入れ替えられる。なお、図42では、図
42(B)においてD1およびD2で示す部分が三角形
になっている。また、埋め込み符号化器103では、例
えば、三角形に入れ替えられるフラクタル画像の位置
や、フラクタル画像と入れ替える三角形の大きさ、数な
どが、付加情報にしたがって決定される。
【0291】この場合、埋め込み復号器106では、例
えば、次のようにして、フラクタル画像と付加情報とが
復号される。即ち、例えば、図42(B)において、点
線の四角形で囲んである部分については、三角形との入
れ替えを行わないこととしておき、埋め込み復号器10
6では、その点線の四角形で囲んである部分を、教師画
像として、その教師画像と相似でない部分(ここでは、
三角形)が検索される。さらに、埋め込み復号器106
は、教師画像と相似でない部分である三角形を、教師画
像に含まれる、フラクタル画像の基準図形から生成され
る画像(フラクタル画像)に入れ替え、元のフラクタル
画像(図42(A))を復号する。そして、検索された
三角形の位置や、大きさ、数などに基づいて、埋め込ま
れた付加情報を復号する。
【0292】なお、上述の場合においては、埋め込み復
号器106で、教師画像に含まれる、フラクタル画像の
基準図形を検出する必要があるが、これは、例えば、次
のようにして行われる。即ち、図42(B)の画像のう
ちの、教師画像と、それ以外の部分との相似性、および
教師画像の自己相似性に基づいて、図42(B)の画像
を対象に、フラクタル画像の基準図形が検索され、教師
画像以外の部分を、最も効率良く表すことができる図形
が、基準図形として検出される。
【0293】また、ここでは、埋め込み復号器106に
おいて、元のフラクタル画像の生成規則が認識されてお
り、その生成規則に基づいて、三角形と入れ替える画像
が、基準図形を用いて生成される。即ち、埋め込み復号
器106では、三角形と入れ替える画像を生成するため
の、基準図形の大きさや、位置、回転量などが、生成規
則に基づいて特定され、その特定された基準図形の大き
さや、位置、回転量などにしたがって、基準図形が操作
され、三角形と入れ替える画像(フラクタル画像)が生
成される。
【0294】次に、画像の相似性を利用して、埋め込ま
れる付加情報が復号されるように、画像に付加情報を埋
め込む埋め込み符号化処理について詳細に説明する。な
お、この場合も、埋め込み符号化器103の構成は、図
30における場合と同様の構成であるので、説明を省略
する。
【0295】図43は、相似性を利用する埋め込み符号
化処理を示すフローチャートである。
【0296】ステップS151において、CPU132
は、画像データベース101から1フレーム分の画像デ
ータがフレームメモリ131に転送されるように制御す
ると共に、画像データの相似領域を検出し、更に、相似
領域の位置を示す相似領域データを、ワークメモリに記
憶させる。
【0297】すなわち、CPU132は、例えば、図4
4(A)に示すような、56×1600画素からなる画
像データの相似領域を画像データより検出する場合に
は、画像データを、8×8画素毎の画像ブロックに分割
し、注目画像ブロックと周辺画像ブロックとの相似性を
検出する。
【0298】即ち、CPU132は、注目画像ブロック
をラスタスキャン順にスキャンし、注目画像ブロックと
左右の周辺画像ブロックとの相似性を算出する。具体的
には、CPU132は、注目画像ブロックの大きさ、位
置、回転量を所定量だけ変更しながら、左及び右隣の画
像ブロックとのマッチングを行い、マッチング度を正規
化する。さらに、CPU132は、正規化後のマッチン
グ度を平均し、注目画像ブロックの周辺との相似性評価
値として、ワークメモリに記憶させる。ここで、左端と
右端の画像ブロックが注目画像ブロックのときは、一方
のマッチング度を、そのまま注目画像ブロックのマッチ
ング度とすることとする。CPU132は、算出された
相似性評価値(マッチング度)が所定しきい値以上であ
る画像ブロックを相似領域として認識し、その画像ブロ
ックの位置を、ワークメモリに記憶させる。ここで、算
出された相似領域内の一部の画像ブロックがノイズ等の
影響により相似領域ではないと判断される可能性もある
ので、CPU132は、相似領域の検出の後、相似領域
の拡大、縮小処理により相似領域内の一部の非相似の画
像ブロックを、相似領域の画像ブロックに変換する補正
処理を行う。
【0299】次に、ステップS152において、CPU
132は、付加情報データベース102から、付加情報
を、例えば、6ビット(3ビット+3ビット)ずつ受信
する。
【0300】ステップS153において、CPU132
は、上述の付加情報6ビットを埋め込むための処理対象
画像である、例えば、図44(A)の1番目のライン、
及び101番目のラインを選択抽出する。このとき、ス
テップS151においてワークメモリに記憶された相似
領域データを参照して、CPU132は、1番目のライ
ン、101番めのラインの相似領域のみを選択抽出す
る。図44(A)の実施の形態においては、1番目のラ
イン、101番目のラインの全領域が相似領域であると
して選択抽出される。
【0301】ステップS154において、CPU132
は、処理対象画像である、1番目のラインの画像と、1
01番目のラインの画像を入れ替えることにより、画像
データに付加情報を埋め込む。
【0302】即ち、図44(A)は、付加情報が埋め込
まれる前の1番目のラインと101番目のラインの画像
データの画素値を示している。図44(A)では、1番
目のラインの領域と101番目のラインの領域では画素
値の変化パターン、すなわち、画像ブロック内の図形の
相似性が異なっている。
【0303】例えば、いま、6ビットの付加情報の上位
3ビットが2で、下位3ビットが6であるとすると、C
PU132は、上位3ビットの2を埋め込むため、図4
4(A)の1番目のラインの2ブロック目を選択し、下
位3ビットの6を埋め込むため、図44(A)の101
番目のラインの6ブロック目を選択する。更に、CPU
132は、選択された2ブロック目と6ブロック目の画
像データを入れ替えることにより、図44(B)に示す
ような画像データに符号化する。
【0304】ステップS155において、CPU132
は、符号化された1番目のラインと101番目のライン
の画像データを、フレームメモリ131に書き込み(上
書きし)、ステップS156に進む。
【0305】ステップS156において、CPU132
は、1フレームの画像データの符号化が終了したか否か
を判別する。CPU132が、符号化が終了していない
と判別すると、ステップS152に戻り、再び付加情報
が受信される。そして、ステップS153に進み、CP
U132は、次のライン、すなわち、2番目のライン及
び102番目のラインというように順に処理対象画像を
選択する。
【0306】一方、ステップS156において、CPU
132が、符号化が終了したと判別すると、フレームメ
モリ131に記憶される符号化データが、出力I/F1
34を介して出力され、処理を終了する。
【0307】次に、画像の相似性を利用して付加情報が
埋め込まれた符号化データを復号する埋め込み復号処理
について説明する。なお、この場合も、埋め込み復号器
106の構成は、図33における場合と同様の構成であ
るので、説明を省略する。
【0308】図45は、相似性を利用した埋め込み復号
処理を示すフローチャートである。
【0309】ステップS161において、CPU143
は、1フレーム単位の符号化データを、フレームメモリ
141に順次記憶する。更に、CPU143は、図43
における場合と同様の手法により、符号化データの中か
ら相似領域を抽出し、その画像ブロックの位置を、相似
領域データとして、ワークメモリに記憶させる。ここ
で、本実施の形態では、上述のように、8画素毎を1ラ
インとした1ラインに3ビットのデータが埋め込まれる
ので、8画素毎の1ラインのうち1つの画像ブロックが
変更されることにより画像データは符号化される。よっ
て、相似領域を抽出する際の拡大、縮小処理により相似
領域内の非相似の1画像ブロックは相似領域に変換され
る。
【0310】ステップS162において、CPU143
は、6ビットの付加情報を復号するための処理対象画像
である、例えば、図44(A)の1画像ブロック(例え
ば、図44(A)の左上の画像ブロック)を選択抽出す
る。このとき、ステップS161においてワークメモリ
に記憶された相似領域データを参照して、CPU143
は、相似領域内の画像ブロックのみを選択抽出する。こ
こでは、例えば、1番目のライン、101番目のライン
の全領域が相似領域であるとして、選択抽出されるもの
とする。
【0311】ステップS163において、CPU143
は、ステップS162において抽出された画像ブロック
を注目画像ブロックとして、左右の周辺画像ブロックと
の相似性を算出する。相似性の算出方法は、図43にお
ける場合と同様の手法が用いられる。即ち、CPU14
3は、注目画像ブロックの大きさ、位置、回転量を所定
量だけ変更しながら、左及び右隣の画像ブロックとのマ
ッチングを行い、マッチング度を正規化し、さらに、平
均する。そして、その平均値が、ステップS164にお
いて、注目画像ブロックの周辺との相似性評価値とし
て、ワークメモリに記憶される。ここで、左端と右端の
画像ブロックが注目画像ブロックのときは、一方のマッ
チング度がそのまま注目画像ブロックのマッチング度と
される。
【0312】なお、ここでは、注目画像ブロックと左右
の画像ブロックのマッチング度の平均を記憶するように
したが、いずれか小さい方を記憶するようにしても構わ
ない。
【0313】ステップS165において、CPU143
は、1番目のラインの処理が終了したか否かを判別し、
終了していないときは、ステップS162に戻り、再び
処理を繰り返す。一方、ステップS165において、C
PU143が、1番目のラインの処理が終了したと判別
すると、ステップS166に処理を進める。
【0314】ステップS166において、CPU143
は、ワークメモリに記憶された1番目のライン分の各画
像ブロックのマッチング度のうち、最小のマッチング度
を有する画像ブロックの位置を、ワークメモリに記憶さ
せる。
【0315】ステップS167において、CPU143
は、ステップS166において記憶された画像ブロック
の位置により付加情報を出力する。即ち、例えば、図4
4(B)に示した場合では、マッチング度の小さい画像
ブロックは2番目の画像ブロックとなり、その結果、付
加情報は2となる。
【0316】ステップS168において、CPU143
は、現在の処理対象が画像の上段1乃至100番目のラ
インであるか、または下段の101乃至200番目のラ
インであるかを判別する。CPU143が、現在の処理
対象が画像の上段であると判別すると、ステップS16
9に進み、画像処理領域を上段から下段に変更する。具
体的には、CPU143は、現在処理されているライン
が、例えば1番目のラインである場合には、それに10
0を加算し、101番目のラインを処理の対象とする。
上段から下段に切り換えられた後、ステップS162に
戻り、以下、同様の処理を繰り返す。
【0317】一方、ステップS168において、CPU
143が、現在の処理対象が画像の下段であると判別す
ると、ステップS170に進み、ステップS167にお
いて最終的に記憶された2つの位置の画像ブロックが入
れ替えられると共に、入れ替え後の画像ブロックが、フ
レームメモリ141に書き込まれる。
【0318】ステップS171において、CPU143
は、画像データの復号が1フレーム分終了したか否かを
判別する。そして、CPU143が、復号が終了してい
ないと判別すると、ステップS169に進み、以下、同
様の処理を繰り返す。また、ステップS171におい
て、CPU143が、処理画像が終了したと判別する
と、復号処理を終了する。
【0319】ここで、元の原画像に復号され、フレーム
メモリ141に記憶される画像データは、1番目のライ
ンと101番目のラインのように、2ライン毎に、出力
I/F142を介して順に出力しても良いし、全ての復
号処理が終了したのち、出力I/F142から出力して
も構わない。
【0320】以上のように、埋め込み符号化器103に
おいて、符号化対象の画像が有するエネルギの偏りを利
用して復号を行うことができるように、その画像を、付
加情報にしたがって符号化して、符号化データを出力す
る場合には、埋め込み復号器106では、その符号化デ
ータを、画像が有するエネルギの偏りを利用することに
より、復号のためのオーバヘッドなしで、元の画像およ
び付加情報に復号することができる。
【0321】また、符号化対象の画像には、付加情報が
埋め込まれることで、その埋め込みの結果得られる画像
は、元の画像と異なる画像とされ、人が価値ある情報と
して認識することのできる画像ではなくなることから、
符号化対象の画像については、オーバヘッドなしの暗号
化を実現することができる。
【0322】さらに、完全可逆の電子透かしを実現する
ことができる。即ち、従来の電子透かしでは、例えば、
画質にあまり影響のない画素値の下位ビットが、電子透
かしに対応する値に、単に変更されていたが、この場
合、その下位ビットを、元の値に戻すことは困難であ
る。従って、復号画像の画質は、電子透かしとしての下
位ビットの変更により、少なからず劣化する。これに対
して、符号化データを、元の画像が有するエネルギの偏
りを利用して復号する場合には、劣化のない元の画像お
よび付加情報を得ることができ、従って、付加情報を電
子透かしとして用いることで、電子透かしに起因して復
号画像の画質が劣化することはない。
【0323】また、埋め込まれた付加情報は、符号化デ
ータから画像を復号することで取り出すことができるの
で、画像の符号化結果とともに、オーバヘッドなしでサ
イドインフォメーションを提供することができる。言い
換えれば、付加情報を取り出すためのオーバヘッドなし
で、その付加情報を画像に埋め込むことができるので、
その埋め込みの結果得られる符号化データは、付加情報
の分だけ圧縮(埋め込み圧縮)されているということが
できる。従って、例えば、ある画像の半分を符号化対象
とするとともに、残りの半分を付加情報とすれば、符号
化対象である半分の画像に、残りの半分の画像を埋め込
むことができるから、この場合、画像は、単純には、1
/2に圧縮されることになる。
【0324】さらに、符号化データは、元の画像が有す
るエネルギの偏りという、いわば統計量を利用して復号
されるため、誤りに対する耐性の強いものとなる。即
ち、ロバスト性の高い符号化であるロバスト符号化(統
計的符号化)を実現することができる。
【0325】また、符号化データは、元の画像が有する
エネルギの偏りを利用して復号されるため、そのエネル
ギの偏りに特徴があるほど、即ち、例えば、画像につい
ては、そのアクティビティが高いほど、あるいは、冗長
性が低いほど、多くの付加情報を埋め込むことができ
る。ここで、上述したように、付加情報の埋め込みの結
果得られる符号化データは、付加情報の分だけ圧縮され
ているということができるが、この圧縮という観点から
すれば、符号化対象の情報が有するエネルギの偏りを利
用して復号を行うことができるように、その情報を、付
加情報にしたがって符号化する方式(埋め込み符号化方
式)によれば、画像のアクティビティが高いほど、ある
いは、画像の冗長性が低いほど、圧縮率が高くなる。こ
の点、埋め込み符号化方式は、従来の符号化方式と大き
く異なる(従来の符号化方式である、例えばMPEG
(Moving Picture Experts Group)方式などでは、基本
的に、画像のアクティビティが高いほど、あるいは、画
像の冗長性が低いほど、圧縮率は低くなる)。
【0326】さらに、例えば、上述したように、画像を
符号化対象とする一方、付加情報として、画像とは異な
るメディアの、例えば、音声を用いるようにすること
で、音声をキーとして、画像の提供を行うようなことが
可能となる。即ち、符号化装置110側において、例え
ば、契約者が発話した音声「開けゴマ」など付加情報と
して画像に埋め込んでおき、復号装置120側では、ユ
ーザに、音声「開けゴマ」を発話してもらい、その音声
と、画像に埋め込まれた音声とを用いて話者認識を行う
ようにする。このようにすることで、例えば、話者認識
の結果、ユーザが契約者である場合にのみ、自動的に、
画像を提示するようなことが可能となる。なお、この場
合、付加情報としての音声は、いわゆる特徴パラメータ
ではなく、音声波形そのものを用いることが可能であ
る。
【0327】また、例えば、音声を符号化対象とする一
方、付加情報として、音声とは異なるメディアの、例え
ば、画像を用いるようにすることで、画像をキーとし
て、音声の提供を行うようなこと(例えば、顔認識後の
音声応答)が可能となる。即ち、符号化装置110側に
おいて、例えば、ユーザへの応答としての音声に、その
ユーザの顔の画像を埋め込み、復号装置120側では、
ユーザの顔を撮影し、その結果得られる画像とマッチン
グする顔画像が埋め込まれている音声を出力するように
することで、ユーザごとに異なる音声応答を行う音声応
答システムを実現することが可能となる。
【0328】さらに、音声に、音声を埋め込んだり、画
像に、画像を埋め込んだりするような、あるメディアの
情報に、それと同一メディアの情報を埋め込むようなこ
とも可能である。あるいは、また、画像に、契約者の音
声と顔画像を埋め込んでおけば、ユーザの音声と顔画像
とが、画像に埋め込まれているものと一致するときの
み、その画像を提示するようにする、いわば二重鍵シス
テムなどの実現も可能となる。
【0329】また、例えば、テレビジョン放送信号を構
成する、いわば同期した画像と音声のうちのいずれか一
方に、他方を埋め込むようなことも可能であり、この場
合、異なるメディアの情報どうしを統合した、いわば統
合符号化を実現することができる。
【0330】さらに、埋め込み符号化方式では、上述し
たように、情報には、そのエネルギの偏りに特徴がある
ほど、多くの付加情報を埋め込むことができる。従っ
て、例えば、ある2つの情報について、エネルギの偏り
に特徴がある方を適応的に選択し、その選択した方に、
他方を埋め込むようにすることで、全体のデータ量を制
御することが可能となる。即ち、2つの情報どうしの間
で、一方の情報によって、他方の情報量を、いわば吸収
するようなことが可能となる。そして、このように全体
のデータ量を制御することができる結果、伝送路の伝送
帯域や使用状況、その他の伝送環境にあったデータ量に
よる情報伝送(環境対応ネットワーク伝送)が可能とな
る。
【0331】また、例えば、画像に、その画像を縮小し
た画像を埋め込むことで(あるいは、音声に、その音声
を間引いたものを埋め込むことで)、データ量を増加す
ることなく、いわゆる階層符号化(下位階層の情報を少
なくすることにより、上位階層の情報を生成する符号
化)を実現することができる。
【0332】さらに、例えば、画像に、その画像を検索
するためのキーとなる画像を埋め込んでおくことで、そ
のキーとなる画像に基づいて、画像の検索を行うデータ
ベースを実現することが可能となる。
【0333】次に、図46は、画像の相関性を利用して
元に戻すことができるように、画像に付加情報を埋め込
む埋め込み符号化を行う場合の図30の埋め込み符号化
器103の他のハードウェアの構成例を示している。な
お、図46の埋め込み符号化器103は、出力I/F1
33が設けられていない他は、図30における場合と同
様に構成されている。
【0334】画像データベース101から供給される画
像は、フレームメモリ131に供給されるようになされ
ており、フレームメモリ131は、画像データベース1
からの画像を、例えば、フレーム単位で一時記憶するよ
うになされている。
【0335】CPU(Central Processing Unit)13
2は、プログラムメモリ134に記憶されたプログラム
を実行することで、後述する埋め込み符号化処理を行う
ようになされている。即ち、CPU132は、プログラ
ムメモリ134に記憶されたプログラムにしたがって、
付加情報データベース102から供給される付加情報を
受信し、その付加情報を、フレームメモリ131に記憶
された画像に埋め込むようになされている。具体的に
は、CPU132は、フレームメモリ131に記憶され
た画像を構成する画素の位置を、例えば、1列(垂直方
向に並ぶ画素列)単位で、付加情報に基づいて入れ替え
る(スワップする)ことで、各列に、付加情報を埋め込
むようになされている。この付加情報が埋め込まれた画
像は、符号化データとして出力されるようになされてい
る。
【0336】プログラムメモリ134は、例えば、RO
M(Read Only Memory)やRAM(Random Access Memo
ry)などで構成され、CPU132に、埋め込み符号化
処理を行わせるためのコンピュータプログラムを記憶し
ている。
【0337】次に、図47は、図46の埋め込み符号化
器103の機能的な構成例を示している。なお、この図
47に示した機能的な構成は、CPU132がプログラ
ムメモリ134に記憶されたコンピュータプログラムを
実行することで実現されるようになされている。
【0338】フレームメモリ131は、図46で説明し
たように、画像データベース101から供給される画像
を一時記憶するようになされている。
【0339】スワップ情報生成部136は、付加情報デ
ータベース102から付加情報を読み出し、その付加情
報に基づいて、フレームメモリ131に記憶された1フ
レームの画像の各列の位置を、どのように入れ替えるか
を表すスワップ情報を生成するようになされている。即
ち、フレームメモリ131に記憶された1フレームの画
像が、M行N列の画素で構成される場合において、その
画像の第n列(左からn番目の列)を、第n’列に入れ
替えるときには、スワップ情報生成部136において、
nとn’とが対応付けられたスワップ情報が生成される
(n,n’は、1以上N以下の整数)。
【0340】ここで、1フレームの画像の列数がN列で
ある場合、その入れ替え方は、そのすべての列を入れ替
えの対象とすると、N!(!は、階乗を表す)通りだけ
ある。従って、この場合、1フレームには、最大で、l
og2(N!)ビットの付加情報の埋め込みが可能とな
る。
【0341】スワップ情報生成部136で生成されたス
ワップ情報は、スワッピング部137に供給されるよう
になされている。スワッピング部137は、スワップ情
報生成部136から供給されるスワップ情報にしたがっ
て、フレームメモリ131に記憶された1フレームの画
像の各列の位置を入れ替えるようになされている。
【0342】次に、図48のフローチャートを参照し
て、図47の埋め込み符号化器103において行われる
埋め込み符号化処理について説明する。
【0343】画像データベース101からは、そこに記
憶されている画像が読み出され、フレームメモリ131
に、順次供給されて記憶される。
【0344】一方、スワップ情報生成部136では、ス
テップS181において、1フレームの画像に埋め込み
可能なデータ量の付加情報が、付加情報データベース2
から読み出される。即ち、例えば、上述したように、1
フレームの画像の列数がN列であり、そのすべての列を
入れ替えの対象とする場合には、1フレームには、最大
で、log2(N!)ビットの付加情報の埋め込みが可
能であるから、そのようなビット数(以下)の付加情報
が、付加情報データベース102から読み出される。
【0345】そして、スワップ情報生成部136は、ス
テップS182に進み、ステップS181で読み出した
付加情報に基づいて、スワップ情報を生成する。即ち、
スワップ情報生成部136は、付加情報に基づき、フレ
ームメモリ131に記憶された処理対象のフレームの第
1列乃至第N列のうちの、例えば、第1列を除く第2列
乃至第N列それぞれを、第何列に入れ替えるかを表すス
ワップ情報を生成する。このスワップ情報は、スワッピ
ング部137に供給される。
【0346】スワッピング部137は、スワップ情報生
成部136からスワップ情報を受信すると、ステップS
183に進み、そのスワップ情報にしたがって、フレー
ムメモリ131に記憶された処理対象のフレームの各列
の位置を入れ替える。そして、列の位置の入れ替えが行
われたフレームは、フレームメモリ131から読み出さ
れ、符号化データとして出力される。
【0347】なお、フレームの各列の位置の入れ替え
は、フレームメモリ131における画像データ(を構成
する画素)の記憶位置を変更することで行うことができ
るが、その他、例えば、フレームメモリ131からフレ
ームを読み出すときのアドレスを制御することによっ
て、結果として、列の位置の入れ替えが行われたフレー
ムが、フレームメモリ131から読み出されるようにし
ても良い。
【0348】また、本実施の形態では、上述したよう
に、スワップ情報には、第2列乃至第N列それぞれを、
第何列に入れ替えるかを表す情報が含まれているが、第
1列を、第何列に入れ替えるかを表す情報は含まれてい
ない。従って、スワッピング部37では、第2列乃至第
N列それぞれの入れ替えは行われるが、第1列の入れ替
えは行われない。
【0349】処理対象のフレームの第2列乃至第N列す
べての入れ替えが終了すると、ステップS184に進
み、フレームメモリ131に、まだ処理の対象とされて
いないフレームが記憶されているかどうかが判定され、
記憶されていると判定された場合、ステップS181に
戻り、まだ処理されていないフレームを対象に、同様の
処理が繰り返される。
【0350】また、ステップS184において、フレー
ムメモリ131に、まだ処理の対象とされていないフレ
ームが記憶されていないと判定された場合、埋め込み符
号化処理を終了する。
【0351】以上のような埋め込み符号化処理によれ
ば、ある1フレームの画像は、次のような符号化データ
に符号化される。
【0352】即ち、いま、付加情報が、例えば、図49
に示すように、N列(図49(A))の処理対象フレー
ムの第2列を第6列に(図49(B))、第3列を第9
列に(図49(C))、第4列を第7列に(図49
(D))、第5列を第3列に(図49(E))、第6列
を第8列に(図49(F))、第7列を第4列に(図4
9(G))、第8列を第5列に(図49(H))、第9
列を第2列に(図49(I))、・・・、第N列を第N
列に、それぞれ入れ替えるものに対応するとすると、そ
のような入れ替えを表すスワップ情報が、スワップ情報
生成部136において生成される。そして、スワッピン
グ部137では、例えば、図49(J)に示すようなフ
レームが、上述のようなスワップ情報にしたがい、第2
列が第6列に、第3列が第9列に、第4列が第7列に、
第5列が第3列に、第6列が第8列に、第7列が第4列
に、第8列を第5列に、第9列が第2列に、・・・、第
N列が第N列に、それぞれ入れ替えられる。その結果、
図49(J)の画像は、図49(K)に示すような画像
に符号化される。
【0353】ここで、図49における第1列乃至第9列
に注目して、埋め込み符号化処理について、さらに説明
する。
【0354】本実施の形態では、第1列は入れ替えの対
象になっていない(禁止されている)ので、まず、第2
列については、第1列乃至第9列のうちの第1列を除く
第2列乃至第9列の合計8列の中から入れ替え先が決定
される。この場合、第2列の入れ替え先は8通り存在す
るので、付加情報として、例えば、0乃至7の8通りの
値のうちのいずれかを埋め込むことが可能である。い
ま、第2列乃至第8列への入れ替えに、それぞれ0乃至
7の付加情報を割り当てると、図49(B)に示したよ
うに、第2列が第6列に入れ替えられる場合は、第6列
への入れ替えに割り当てられた4が、付加情報として埋
め込まれることになる。
【0355】第2列が第6列に入れ替えられると、残り
の入れ替え先は第2列乃至第5列および第7列乃至第9
列の合計7列となり、第3列については、この7列の中
から入れ替え先が決定される。従って、この場合、付加
情報として、例えば、0乃至6の7通りの値のうちのい
ずれかを埋め込むことが可能である。いま、上述した場
合と同様に、第2列乃至第5列、第7列乃至第9列への
入れ替えに、それぞれ0乃至6の付加情報を割り当てる
と、図49(C)に示したように、第3列が第9列に入
れ替えられる場合は、第9列への入れ替えに割り当てら
れた6が、付加情報として埋め込まれることになる。
【0356】以下、同様にして、画像に付加情報が埋め
込まれるが、このような埋め込み手法による場合には、
付加情報の埋め込みが進行するほど、埋め込み可能な付
加情報のビット数が減少していくことになる。
【0357】以上のように、フレームメモリ131に記
憶された画像を構成する1以上の画素の集合としての、
各列の画素の位置を、付加情報に対応して入れ替えるこ
とにより、各列に、付加情報を埋め込む場合には、その
逆の入れ替えを行うことで、元の画像を復号することが
でき、さらに、どのような入れ替えを行ったかというこ
とが付加情報となる。従って、画像の画質の劣化を極力
なくし、かつデータ量を増加せずに、画像に付加情報を
埋め込むことができる。
【0358】即ち、付加情報が埋め込まれた画像であ
る、列の位置の入れ替えが行われた画像の各列は、その
画像の相関性、即ち、ここでは、元の画像と同様の正し
い位置にある列との間の相関を利用することにより、オ
ーバヘッドなしで、元の位置に入れ替えることができ、
さらに、その入れ替え方により、付加情報を復号ことが
できる。従って、その結果得られる復号画像(再生画
像)には、基本的に、付加情報を埋め込むことによる画
質の劣化は生じない。
【0359】なお、符号化データに、正しい位置にある
列が存在しない場合には、上述のように画像の相関性を
利用して、画像と付加情報を復号するのは困難である。
そこで、ここでは、図48の埋め込み符号化処理におい
て、各フレームの第1列は、入れ替えを行わないで、そ
のまま、符号化データとして出力するようにしている。
【0360】但し、第1列を含むすべての列を入れ替え
の対象として、埋め込み符号化を行うことも可能であ
り、この場合、入れ替え後の列の少なくとも1以上の元
の位置を、オーバヘッドとして、符号化データに含める
ことで、画像と付加情報の復号が容易に可能となる。
【0361】また、付加情報は、上述のように、列を、
順次入れ替えることにより、画像に埋め込んでいく他、
すべての列を一度に入れ替えることにより、画像に埋め
込むことも可能である。この場合、すべての列を一度に
入れ替えるときの場合の数は、その列数の階乗通りだけ
あるが、その階乗通りの中から、どのような入れ替えパ
ターンを選択するかが、付加情報によって決定される。
また、その復号は、付加情報が埋め込まれた画像につい
て、すべての列の階乗通りの入れ替えが行われ、その階
乗通りの入れ替えパターンの中から、相関に基づいて、
1つの入れ替えパターンが決定されることにより行われ
る。
【0362】さらに、ここでは、画像の列を、付加情報
そのものにしたがって入れ替えるようにしたが、列の入
れ替えは、その他、例えば、付加情報の特徴量(例え
ば、付加情報のヒストグラムや、分散、ダイナミックレ
ンジ等)に応じて行うようにすることも可能である。
【0363】次に、図50は、図47の埋め込み符号化
器103が出力する符号化データを、画像の相関性を利
用して元の画像と付加情報に復号する図27の埋め込み
復号器106のハードウェアの構成例を示している。な
お、図50の埋め込み復号器106は、出力I/F14
2が設けられていない他は、図33における場合と同様
に構成されている。
【0364】符号化データ、即ち、付加情報が埋め込ま
れた画像(以下、適宜、埋め込み画像ともいう)は、フ
レームメモリ141に供給されるようになされており、
フレームメモリ141は、埋め込み画像を、例えば、フ
レーム単位で一時記憶するようになされている。
【0365】CPU143は、プログラムメモリ144
に記憶されたプログラムを実行することで、埋め込み復
号処理を行うようになされている。即ち、CPU143
は、フレームメモリ141に記憶された埋め込み画像
を、画像の相関性を利用して元の画像と付加情報に復号
するようになされている。具体的には、CPU143
は、埋め込み画像を構成する列のうち、既に復号した最
新の列と、他の列との相関を計算する。そして、既に復
号した列との相関を最大にする列を、その既に復号した
列の右隣の位置に入れ替えることを、埋め込み画像を構
成するすべての列について行うことで、元の画像を復号
し、さらに、埋め込み画像を元の画像に復号する際の、
埋め込み画像の各列の位置の入れ替え方に基づいて、付
加情報を復号する。
【0366】プログラムメモリ144は、CPU143
に、埋め込み復号処理を行わせるためのコンピュータプ
ログラムを記憶している。
【0367】次に、図51は、図50の埋め込み復号器
106の機能的な構成例を示している。なお、この図5
1に示した機能的な構成は、CPU143がプログラム
メモリ144に記憶されたコンピュータプログラムを実
行することで実現されるようになされている。
【0368】フレームメモリ141は、図50で説明し
たように、埋め込み画像を一時記憶するようになされて
いる。
【0369】スワッピング部146は、フレームメモリ
141に記憶された処理対象のフレームの、既に元の位
置に入れ替えられた最新の列と、他の列(まだ、元の位
置に戻されていない列)との相関を計算し、その相関に
基づいて、処理対象のフレームの中の、まだ元の位置に
戻されていない列の位置を入れ替えることで元に戻す
(列の位置を復号する)ようになされている。さらに、
スワッピング部146は、フレームの各列をどのように
入れ替えたかを表すスワップ情報を、スワップ情報変換
部147に供給するようにもなされている。
【0370】スワップ情報変換部147は、スワッピン
グ部146からのスワップ情報、即ち、処理対象のフレ
ームの各列の、入れ替え前の位置と、入れ替え後の位置
との対応関係に基づいて、埋め込み画像に埋め込まれた
付加情報を復号するようになされている。
【0371】次に、図52のフローチャートを参照し
て、図51の埋め込み復号器106において行われる埋
め込み復号処理について説明する。
【0372】フレームメモリ141では、そこに供給さ
れる埋め込み画像(符号化データ)が、例えば、1フレ
ーム単位で順次記憶される。
【0373】一方、スワッピング部146では、ステッ
プS191において、フレームの列数をカウントするた
めの変数nに、初期値としての、例えば、1がセットさ
れ、ステップS192に進み、変数nが、フレームの列
数であるNから1を減算したN−1以下であるかどうか
が判定される。
【0374】ステップS192において、変数nがN−
1以下であると判定された場合、ステップS193に進
み、スワッピング部146は、フレームメモリ141に
記憶された処理対象のフレームから、第n列の画素(画
素列)を読み出し、その第n列の各画素(の画素値)を
要素として並べたベクトル(以下、適宜、列ベクトルと
いう)vnを生成する。ここで、フレームがM行の画素
で構成される場合には、列ベクトルvn(後述する列ベ
クトルvkも同様)は、M次元のベクトルとなる。
【0375】その後、ステップS194において、第n
列より右側にある列をカウントするための変数kに、初
期値としてのn+1がセットされ、ステップS195に
進み、スワッピング部146は、第k列の画素を読み出
し、その第k列の画素を要素とする列ベクトルvkを生
成して、ステップS196に進む。
【0376】ステップS196では、スワッピング部1
46において、列ベクトルvnおよびvkを用いて、第n
列と第k列との相関が求められる。
【0377】即ち、スワッピング部146では、列ベク
トルvnとvkとの距離d(n,k)が、次式にしたがっ
て計算される。
【0378】 d(n,k)=|vn−vk| =(Σ(A(m,n)−A(m,k))2)1/2 ・・・(1) 但し、上式において、Σは、mを、1からMに変化させ
てのサメーションを表す。また、また、A(i,j)
は、処理対象になっているフレームの第i行第j列の画
素(画素値)を表す。
【0379】そして、スワッピング部146では、列ベ
クトルvnとvkとの距離d(n,k)の逆数1/d
(n,k)が、第n列と第k列との相関(を表す相関
値)として求められる。
【0380】第n列と第k列との相関の算出後は、ステ
ップS197に進み、変数kが、フレームの列数である
Nから1を減算したN−1以下であるかどうかが判定さ
れる。ステップS197において、変数kがN−1以下
であると判定された場合、ステップS198に進み、変
数kが1だけインクリメントされ、ステップS195に
戻り、以下、ステップS197において、変数kがN−
1以下でないと判定されるまで、ステップS195乃至
S198の処理を繰り返す。即ち、これにより、第n列
と、それより右側にある埋め込み画像の列それぞれとの
相関が求められる。
【0381】その後、ステップS197において、変数
kがN−1以下でないと判定されると、ステップS19
8に進み、スワッピング部146において、第n列との
相関を最大にするkが求められる。そして、第n列との
相関を最大にするkを、例えばKと表すと、スワッピン
グ部146は、ステップS200において、フレームメ
モリ141に記憶された処理対象のフレームの第n+1
列と第K列とをスワッピング、即ち、第K列を、第n列
の右隣の第n+1列に入れ替える。
【0382】その後、ステップS201において、変数
nが1だけインクリメントされ、ステップS192に戻
り、以下、ステップS192において、変数nがN−1
以下でないと判定されるまで、ステップS192乃至S
201の処理を繰り返す。
【0383】ここで、本実施の形態では、埋め込み画像
の第1列は、元の画像の第1列のままであるから、変数
nが、初期値である1のときは、第1列との相関が最も
高い埋め込み画像の列が、第1列の右隣の第2列に入れ
替えられる。第1列との相関が最も高い列は、画像の相
関性から、基本的に、元の画像の第2列であるから、こ
の場合、埋め込み符号化処理において、埋め込み画像の
どこかの列に入れ替えられた元の画像の第2列は、元の
位置に戻される(復号される)ことになる。
【0384】そして、変数nが2となると、上述したよ
うにして元の位置に入れ替えられた第2列との相関が最
も高い埋め込み画像の列が、その第2列の右隣の第3列
に入れ替えられる。第2列との相関が最も高い列は、や
はり、画像の相関性から、基本的に、元の画像の第3列
であるから、この場合、埋め込み符号化処理において、
埋め込み画像のどこかの列に入れ替えられた元の画像の
第3列は、元の位置に戻されることになる。
【0385】以下、同様にして、フレームメモリ141
に記憶された埋め込み画像は、元の画像に復号されてい
く。
【0386】そして、ステップS192において、変数
nがN−1以下でないと判定された場合、即ち、埋め込
み画像を構成する第2列乃至第N列すべてが、画像の相
関性を利用して元の位置に戻され、これにより、フレー
ムメモリ141に記憶された埋め込み画像が、元の画像
が復号された場合、ステップS202に進み、その復号
された画像が、フレームメモリ141から読み出され
る。さらに、ステップS202では、スワッピング部1
46が、埋め込み画像を元の画像に復号した際の、埋め
込み画像の第2列乃至第N列それぞれの入れ替え方を表
すスワップ情報が、スワップ情報変換部147に出力さ
れる。そして、スワップ情報変換部147では、スワッ
ピング部146からのスワップ情報に基づいて、埋め込
み画像に埋め込まれていた付加情報が復号されて出力さ
れる。
【0387】その後、ステップS203に進み、フレー
ムメモリ141に、まだ処理の対象とされていない埋め
込み画像のフレームが記憶されているかどうかが判定さ
れ、記憶されていると判定された場合、ステップS19
1に戻り、まだ処理の対象とされていない埋め込み画像
のフレームを対象に、同様の処理が繰り返される。
【0388】また、ステップS203において、フレー
ムメモリ141に、まだ処理の対象とされていないフレ
ームが記憶されていないと判定された場合、埋め込み復
号処理を終了する。
【0389】以上のように、付加情報が埋め込まれた画
像である符号化データを、画像の相関性を利用して、元
の画像と付加情報に復号するようにしたので、その復号
のためのオーバヘッドがなくても、符号化データを、元
の画像と付加情報に復号することができる。従って、そ
の復号画像には、基本的に、付加情報を埋め込むことに
よる画質の劣化は生じない。
【0390】なお、図52の埋め込み復号処理において
は、既に復号された最新の列(n=1の場合において
は、埋め込み符号化時に入れ替えられていない第1列)
と、まだ復号されていない列との相関を求め、その相関
に基づいて、既に復号された最新の列の右隣の位置に入
れ替えられるべき列を検出するようにしたが、その他、
例えば、既に復号された複数の列と、まだ復号されてい
ない列との相関を演算することにより、既に復号された
最新の列の右隣に入れ替えられるべき列を検出するよう
にすることも可能である。
【0391】ここで、図53乃至図55に、以上のよう
な埋め込み符号化処理および復号化処理のシミュレーシ
ョン結果を示す。
【0392】図53は、埋め込み符号化処理の対象とし
た画像(原画像)で、長手方向を縦にして見た場合に、
横×縦が512画素×832画素で構成されている。
【0393】図54は、図53の画像に対して、埋め込
み符号化処理を施した処理結果を示している。図54の
画像(埋め込み画像)には、log2(512!)ビッ
トの付加情報が埋め込まれている。なお、同図からも明
らかなように、埋め込み符号化は、上述したように、画
像の暗号化という機能(効果)を有する。
【0394】図55は、図54の埋め込み符号化処理の
結果を、埋め込み復号処理により復号した復号画像を示
している。図53と図55とを比較することにより、画
質の劣化なく、元の画像に復号されていることが分か
る。なお、埋め込み復号処理により、埋め込み画像が元
の画像に正確に復号されれば、その復号の際の、埋め込
み画像の各列の入れ替え方に基づいて、付加情報も、正
確に復号される。
【0395】次に、上述の場合においては、埋め込み符
号化器103には、例えば、図56に示すような、N列
でなる画像を符号化対象とし、第1列は固定して、第2
乃至第N列を、付加情報にしたがって入れ替えることに
より埋め込み符号化を行わせるようにしたが、埋め込み
符号化器103には、その他、例えば、図57に示すよ
うな、Hラインでなる画像を符号化対象とし、第1ライ
ンは固定して、第2乃至第Hラインを、付加情報にした
がって入れ替えることにより埋め込み符号化を行わせる
ことが可能である。
【0396】また、埋め込み復号器106には、埋め込
み符号化結果を、画像の相関性を利用して、元の画像と
付加情報に復号させるようにしたが、埋め込み復号器1
06には、画像の相関性、連続性、または相似性のうち
の複数を利用して、埋め込み符号化結果の復号を行わせ
ることが可能である。
【0397】即ち、図52における場合には、図56の
画像の各列について、その列を構成する画素の画素値を
要素とする列ベクトルvnを用い、その列ベクトルどう
しの距離の逆数を、相関として定義し、この相関のみを
利用して、符号化データの復号を行うようにしたが、こ
の場合、埋め込み復号器106では、まず、符号化デー
タから、第1列(第1列は、上述したように固定)の列
ベクトルと最も距離の近い列ベクトルが検出され、その
列ベクトルに対応する列が、第2列とされる。さらに、
埋め込み復号器106では、符号化データから、第2列
の列ベクトルと最も距離の近い列ベクトルが検出され、
その列ベクトルに対応する列が、第3列とされる。以
下、同様にして、符号化データから、第N列までが検出
され、これにより、元の画像が復号されるとともに、第
2乃至第N列が、どのように入れ替えられていたかが、
埋め込まれた付加情報として復号される。
【0398】一方、図56の画像の第n列(n=1,
2,・・・,N)の列ベクトルv1,v2,・・・、vN
が列ベクトル空間内に描く軌跡が、例えば、図58に、
細い点線で示すようであったとする。
【0399】この場合、上述したように、第1列から、
最も距離の近い列ベクトルを順次検出していくと、図5
8に太い点線で示す軌跡が描かれる。即ち、v1,v2,
v13,v3,v14,v15,v4,v5,v6,・・・といっ
た順番で、列ベクトルが検出されていく。従って、図5
8の実施の形態においては、相関(ここでは、列ベクト
ルどうしの距離)だけでは、列ベクトルは、正しい順序
で検出されず、その結果、画像および付加情報も正しく
復号することができないことになる。
【0400】そこで、第1列の列ベクトルv1と最も距
離の近い列ベクトルを検出し、その列ベクトルに対応す
る列を、第2列とした後は、例えば、図59に示すよう
に、第2列の列ベクトルv2と、第1列の列ベクトルv1
との差分ベクトル△v12を求める。そして、列ベクトル
v2に、その差分ベクトル△v12を加算したベクトルに
よって表される点P12に最も近い列ベクトルを検出し、
その列ベクトルに対応する列を第3列とする。
【0401】さらに、第4列については、第3列の列ベ
クトルv3と、第2列の列ベクトルv2との差分ベクトル
を求めて、その差分ベクトルを、列ベクトルv3に加算
したベクトルによって表される点に最も近い列ベクトル
を検出し、その列ベクトルに対応する列を第4列とす
る。以下、同様にして、第N列までを求めていくように
する。
【0402】以上のように、第n列と第n+1列との間
の相関性だけでなく、第n列の列ベクトルvnと、第n
+1列の列ベクトルvn+1との間の、例えば連続性、即
ち、ここでは、差分ベクトルvn+1−vnの変化が連続し
ているということをも利用することで、図58におい
て、細い点線で示した軌跡が描かれるような正しい順番
で、列ベクトルが検出され、その結果、画像および付加
情報を正しく復号することができる。
【0403】次に、図49の実施の形態においては、符
号化対象の画像の画素(但し、第1列の画素を除く)
を、列単位で、付加情報に基づいて入れ替えることで、
付加情報の、画像への埋め込み、即ち、埋め込み符号化
を行うようにしたが、埋め込み符号化は、例えば、符号
化対象の画像の画素を、行単位で入れ替えたり、また、
時間方向に並ぶ所定数のフレームの同一位置にある画素
列の位置を入れ替えたりすることで行うことも可能であ
る。
【0404】さらに、埋め込み符号化は、例えば、符号
化対象の画像の画素を、列単位で入れ替え、さらに、そ
の入れ替え後の画像の画素を、行単位で入れ替えること
により行うことも可能である。
【0405】即ち、例えば、図60に示すような、横×
縦がN×M画素でなる画像の列を、付加情報に基づいて
入れ替え、例えば、図61(A)に示すような埋め込み
画像とする。ここで、図61(A)においては、図60
の画像の第1列が第5列に、第2列が第N列に、第3列
が第1列に、第4列が第2列に、第5列が第4列に、第
6列が第3列に、・・・、第N列が第6列に、それぞれ
入れ替えられている。
【0406】そして、図61(A)の画像の行を、付加
情報に基づいて入れ替え、例えば、図61(B)に示す
ような埋め込み画像とする。ここで、図61(B)にお
いては、図61(A)の画像の第1行が第3行に、第2
行が第5行に、第3行が第2行に、第4行が第M行に、
第5行が第1行に、・・・、第M行が第4行に、それぞ
れ入れ替えられている。
【0407】図61(B)に示した埋め込み画像は、例
えば、その第1列の左側に、入れ替えを行っていない列
があるとすれば、その列を第1列として、図52で説明
した埋め込み復号処理を行うことにより、図60に示し
た元の画像に復号することができる。即ち、列方向と行
方向の両方向の入れ替えを行った埋め込み画像について
は、式(1)におけるΣにおいて加算される項の順番が
変化するだけで、加算される項自体は変化しない。従っ
て、式(1)によって求められる距離d(n,k)は、
埋め込み符号化された画像が同一であれば、列だけ入れ
替えた場合と、列と行の両方を入れ替えた場合とで変化
しないため、列と行の両方を入れ替えた埋め込み画像
も、列だけ入れ替えた埋め込み画像と同様に、図52の
埋め込み復号処理によって、元の画像と付加情報に復号
することができる。
【0408】以上から、列と行の両方を入れ替える場合
には、行と列のうち、いずれの入れ替えを先または後に
行うかは、埋め込み復号処理に影響を与えない。従っ
て、埋め込み符号化処理においては、行と列の入れ替え
のうちのいずれを先または後に行っても良いし、埋め込
み復号処理においても、行と列の入れ替えのうちのいず
れを先または後に行っても良い。また、行と列の入れ替
えを、交互に行うようなことも可能である。
【0409】なお、埋め込み符号化処理において、列だ
けの入れ替えを行う場合には、埋め込み画像を元の画像
に復号した際の、埋め込み画像の列の入れ替え方が、付
加情報の復号結果となるが、行と列の両方の入れ替えを
行う場合には、埋め込み画像の第m行n列の位置(m,
n)にある画素が、復号画像のどの位置(m’,n’)
に入れ替えられたかが、付加情報の復号結果となる。
【0410】次に、図48の埋め込み符号化処理では、
符号化対象の画像の第1列だけを固定にし、埋め込み復
号器106では、この第1列を、いわば復号の基準とし
て、埋め込み画像の他の列の入れ替えを行うようにした
が、復号の基準は、第1列でなくても、あらかじめ、埋
め込み符号化器103と埋め込み復号器106に設定さ
れていれば、最後の第N列であっても良いし、その他の
任意の列でも良い。さらに、復号の基準は、1列の画素
である必要はなく、極端には、1画素であっても良い。
【0411】ところで、例えば、第1列を、いわば復号
の基準とし、画像の相関を利用して、埋め込み画像の他
の列の入れ替えを行う場合には、1の列の入れ替えを誤
ると、その後の列(本実施の形態では、入れ替えを誤っ
た列の右側にある列)の入れ替えも誤る可能性が高くな
る。この場合、元の画像を復号することができないか
ら、正しい付加情報を復号することもできなくなる。
【0412】そこで、埋め込み符号化処理においては、
複数の列を、復号の基準として残しておく(入れ替えの
対象としない)(入れ替えを禁止する)ようにすること
が可能である。
【0413】即ち、例えば、画像の列方向に並ぶ画素の
集合を1の入れ替え単位として入れ替えを行う場合にお
いては、例えば、図62に斜線を付して示すように、1
列おきの列を、復号の基準とし、残りの列(図62にお
いて、白抜きで示す部分)を、入れ替えの対象とするこ
とが可能である。
【0414】なお、図62に示した場合において、画像
の列数が2N列であれば、その画像に埋め込むことので
きる付加情報のデータ量は、最大で、log2(N!)
ビットとなる。
【0415】次に、埋め込み符号化は、列や行単位より
細かい単位で、1以上の画素の集合を入れ替えることで
行うことが可能である。
【0416】即ち、例えば、図63に示すように、画像
の各列を、5画素などの1以上の連続して並ぶ画素の集
合に分け、その集合を1の入れ替え単位として入れ替え
を行うことが可能である。さらに、この場合、図63に
示すように、入れ替え単位を市松模様状に2つに分類
し、一方(例えば、図63において白抜きの部分)を入
れ替え対象とし、他方(例えば、図63において斜線を
付してある部分)を復号の基準とすることが可能であ
る。なお、このようにした場合において、画像の行数
が、入れ替え単位がM個だけ並ぶ画素数で構成され、列
数が2N列であれば、その画像に埋め込むことのできる
付加情報のデータ量は、最大で、log2((M×N)
!)ビットとなる。
【0417】また、例えば、図64に示すように、画像
の各列の画素を、6画素などの所定の画素数おきに抽出
し、その抽出した画素の集合(図64において、○を付
してある画素の集合や、×を付してある画素の集合、△
を付してある画素の集合など)を、1の入れ替え単位と
して入れ替えを行うことが可能である。さらに、この場
合、図64に示すように、画像を構成する各画素を市松
模様状に2つに分類し、一方(例えば、図64において
白抜きの部分)を入れ替え対象とし、他方(例えば、図
64において斜線を付してある部分)を復号の基準とす
ることが可能である。なお、このようにした場合におい
て、画像の各列から2M画素おき(図64の実施の形態
では、6画素おき)に抽出した画素の集合を1の入れ替
え単位とし、画像の列数がN列であれば、その画像に埋
め込むことのできる付加情報のデータ量は、最大で、l
og2((M×N)!)ビットとなる。即ち、例えば、
図64において○印で示す入れ替え単位は、同図におい
て、1420や、1421、1422で示すように、各
列に存在し、従って、各列における○印で示す入れ替え
単位のみに注目すれば、N!通りの入れ替えが可能であ
る。よって、画像の各列から2M画素おきに抽出した画
素の集合を1の入れ替え単位とする場合には、各列に
は、M個の入れ替え単位が存在するから、図64に示し
た画像全体では、最大で、(M×N)!通りの入れ替え
が可能であり、その結果、画像に埋め込むことのできる
付加情報のデータ量は、log2((M×N)!)ビッ
トとなる。
【0418】ここで、図62乃至図64に示した場合に
おいては、入れ替え対象の画素(図62乃至図64にお
いて白抜きの部分)の集合が、複数の復号の基準(図6
2乃至図64において斜線を付してある部分)に隣接し
ている。このような場合においては、例えば、その複数
の復号の基準それぞれと、入れ替え対象の画素の集合と
の距離の自乗和の逆数などを相関として利用することが
できる。
【0419】以上のように、埋め込み符号化時および埋
め込み復号時における入れ替え単位は、特に限定される
ものではない。
【0420】また、復号の基準とする画素の集合も特に
限定されるものではない。
【0421】なお、復号の正確さの観点からすれば、入
れ替え対象の画素が、より多数の、復号の基準とされて
いる画素に隣接しているのが好ましく、従って、図64
に示した場合が最も好ましい。さらに、復号の正確さの
観点からすれば、復号の基準とする画素が多い方が好ま
しい。
【0422】但し、復号の基準とする画素は入れ替えの
対象とされないから、その数が多い場合には、画像に埋
め込むことのできる付加情報のデータ量が少なくなる。
さらに、復号の基準とする画素が多い場合や、入れ替え
対象の画素が、より多数の、復号の基準とされている画
素に隣接している場合には、暗号化の効果が弱まる。
【0423】従って、復号の基準とする画素の数やその
配置パターンは、復号の正確さと、埋め込む付加情報の
データ量および暗号化の効果とを考慮し、埋め込み符号
化および埋め込み復号の用途に応じて設定するのが望ま
しい。
【0424】また、ある列が、それに近い列に入れ替え
られたり、あるいは、近い位置にある列どうしが、同様
の位置関係のまま入れ替えられたりする場合には、やは
り、暗号化の効果が弱まるので、そのような入れ替えが
行われないように、埋め込み符号化処理において、各列
は、元の位置より、所定距離以上離れた位置の列に入れ
替えるといった制限や、近い位置にある列どうしは、所
定距離以上離れた位置の列に入れ替えるといった制限を
付すことが可能である。
【0425】さらに、埋め込み符号化の対象とする画像
が、例えば、RGBコンポーネント信号で構成されるカ
ラー画像である場合には、RGBのすべてを同一位置に
入れ替えても良いし、RGBの各コンポーネントを、独
立に入れ替えても良い。RGBのすべてを同一位置に入
れ替える場合には、RGBの各コンポーネントを、独立
に入れ替える場合に比較して、埋め込むことのできる付
加情報のデータ量は少なくなるが、埋め込み復号時にお
ける復号精度を向上させることができる。一方、RGB
の各コンポーネントを、独立に入れ替える場合には、R
GBのすべてを同一位置に入れ替える場合に比較して、
埋め込み復号時における復号精度は劣化するが、埋め込
むことのできる付加情報のデータ量を多くすることがで
きる。
【0426】また、付加情報として用いる情報は、特に
限定されるものではなく、例えば、画像や、音声、テキ
スト、コンピュータプログラム、制御信号、その他のデ
ータを付加情報として用いることが可能である。なお、
画像データベース101の画像の一部を付加情報とし、
残りを、フレームメモリ131への供給対象とすれば、
その残りの部分に、付加情報とされた画像の一部分が埋
め込まれるから、画像の圧縮が実現されることになる。
【0427】さらに、本実施の形態では、付加情報を、
画像に埋め込むようにしたが、付加情報は、その他、例
えば、音声に埋め込むことも可能である。即ち、例え
ば、時系列の音声データを、適当なフレームに区切り、
各フレームの音声データを、付加情報にしたがって入れ
替えることで、付加情報を、音声に埋め込むことが可能
である。
【0428】また、上述の場合には、CPU132また
は142に、コンピュータプログラムを実行させること
で、埋め込み符号化処理または埋め込み復号処理をそれ
ぞれ行うようにしたが、これらの処理は、それ専用のハ
ードウェアによって行うことも可能である。
【0429】以上のような埋め込み符号化/復号を利用
して、ユーザ端末3におけるパッケージデータの出力に
伴って、広告情報を、ユーザに必然的に見せる場合に
は、パッケージデータを、次のように埋め込み符号化し
て、その符号化データを、ユーザ端末3に提供するよう
にすれば良い。
【0430】即ち、まず、例えば、マルチメディアパッ
ケージデータのメインデータに、そのメインデータと組
になっているサブデータとしてのテキストデータ、画像
データ、および音声データを埋め込む。
【0431】具体的には、例えば、メインデータが画像
データであるとすると、図65(A)に示すような、メ
インデータとしての画像データのラインを、サブデータ
に基づいて入れ替え、図65(B)に示すような埋め込
み画像を得る。
【0432】さらに、その埋め込み画像に、広告情報を
埋め込み、最終的な埋め込み画像を得る。
【0433】具体的には、例えば、メインデータに、サ
ブデータを埋め込むことにより得られる埋め込み画像の
列を、広告情報に基づいて入れ替え、図65(C)に示
すような、最終的な埋め込み画像を得る。
【0434】なお、図65においては、最初に、メイン
データとしての画像をラインを、サブデータに基づいて
入れ替えることにより、埋め込み画像を得て、その後
に、その埋め込み画像の列を、広告情報に基づいて入れ
替えることにより、最終的な埋め込み画像を得るように
したが、上述したように、埋め込み符号化/復号化にお
いては、ライン(行)と列のうちのいずれの入れ替えを
先または後に行うかは、埋め込み符号化/復号に影響を
与えないから、図66に示すように、最初に、メインデ
ータとしての画像の列を、広告情報に基づいて入れ替え
ることにより(図66(A))、埋め込み画像を得て、
その後に、その埋め込み画像のラインを、サブデータに
基づいて入れ替えることにより(図66(B))、最終
的な埋め込み画像(図66(C))を得るようにするこ
とも可能である。
【0435】また、サブデータに基づいて、画像の列を
入れ替えるとともに、広告情報に基づいて、画像のライ
ンを入れ替えるようにしても良い。
【0436】さらに、マルチメディアパッケージデータ
への広告情報の埋め込み方法は、上述したようなライン
や列の入れ替えに限定されるものではない。
【0437】以上のような埋め込み画像等である符号化
データが、パッケージサーバ1からユーザ端末3に提供
される場合には、ユーザ端末3において、マルチメディ
アパッケージデータの出力に伴って、広告情報を、ユー
ザに必然的に見せること等が可能となる。
【0438】なお、マルチメディアパッケージデータの
メインデータがテキストデータである場合には、メイン
データが画像データまたは音声データである場合に比較
して、一般に、メインデータに対し、少量の情報しか埋
め込むことができないため、本実施の形態では、メイン
データが、画像データか、または音声データである場合
にのみ、広告情報を埋め込むこととする。但し、メイン
データが、テキストデータである場合であっても、広告
情報を埋め込むようにすることが可能である。
【0439】図67は、パッケージサーバ1が、マルチ
メディアパッケージデータを埋め込み符号化した符号化
データを提供する場合のユーザ端末3の構成例を示して
いる。なお、図中、図18における場合と対応する部分
については、同一の符号を付してあり、以下では、その
説明は適宜省略する。即ち、図67のユーザ端末3は、
第1復号部54および第2復号部55が新たに設けられ
ている他は、基本的に、図18における場合と同様に構
成されている。
【0440】なお、ここでは、例えば、図65または図
66で説明したように、サブデータと広告情報それぞれ
を、いわば独立に、メインデータに埋め込んだ符号化デ
ータとなっているマルチメディアパッケージデータが、
パッケージサーバ1から提供されるものとする。
【0441】第1復号部54は、データ検索部44が記
憶部52から検索して出力するマルチメディアパッケー
ジデータとしての埋め込み符号化された符号化データに
対して、埋め込み復号処理を施し、その復号結果を、第
2復号部55に出力するとともに、表示部51またはス
ピーカ53に供給する。第2復号部55は、第1復号部
54の出力に対して、埋め込み復号処理を施し、その復
号結果を、選択指示検出部45に出力するとともに、表
示部51またはスピーカ53に供給する。
【0442】次に、図68および図69のフローチャー
トを参照して、図67のユーザ端末3の処理について説
明する。
【0443】ユーザ端末3では、図68に示すように、
ステップS211乃至S223において、図19のステ
ップS31乃至S43における場合とそれぞれ、基本的
に同様の処理が行われる。
【0444】但し、ここでは、パッケージサーバ1から
提供されるマルチメディアパッケージデータは、基本的
に、埋め込み符号化された符号化データとなっているた
め、ステップS222では、そのような符号化データ
が、記憶部52に記憶される。さらに、符号化データの
状態では、ステップS223においてメインデータを出
力し、また、ステップS217においてサブデータを出
力することができないことから、そのメインデータおよ
びサブデータを得るために、図67のユーザ端末3で
は、図69のフローチャートにしたがったマルチメディ
アパッケージデータ復号処理が、メインデータやサブデ
ータの出力時に、図68のフローチャートにしたがった
処理と並列に行われる。
【0445】即ち、データ検索部44は、ステップS2
31において、パッケージサーバ1からダウンロードさ
れ、記憶部52に記憶されたマルチメディアパッケージ
データ(符号化データ)を、必要に応じて検索し、ステ
ップS232に進み、その検索結果としてのマルチメデ
ィアパッケージデータのメインデータが、画像データま
たは音声データのうちのいずれかであるかどうかを判定
する。ステップS232において、メインデータが、画
像データおよび音声データのうちのいずれでもないと判
定された場合、即ち、メインデータがテキストデータで
ある場合、ステップS231に戻る。
【0446】即ち、メインデータがテキストデータであ
る場合には、ここでは、上述したように、そのメインデ
ータを有するマルチメディアパッケージデータは埋め込
み符号化されていないから、メインデータおよびサブデ
ータを即座に出力できるので、特に処理を行わずに、ス
テップS231に戻る。
【0447】なお、例えば、マルチメディアパッケージ
データのうちのヘッダには、情報の埋め込みが行われな
いこととし、また、ヘッダには、マルチメディアパッケ
ージデータのメディアの種類が記述されているものとす
る。従って、ステップS232における判定処理は、マ
ルチメディアパッケージデータのヘッダを参照すること
で行うことができる。
【0448】また、ステップS232において、メイン
データが、画像データまたは音声データのうちのいずれ
かであると判定された場合、即ち、マルチメディアパッ
ケージデータが埋め込み符号化されている場合、データ
検索部44は、その埋め込み符号化されているマルチメ
ディアパッケージデータである符号化データを、第1復
号部54に供給し、ステップS233に進む。
【0449】ステップS233では、第1復号部54
は、データ検索部44からの符号化データに対して、埋
め込み復号処理を施し、これにより、符号化データに埋
め込まれていた広告情報を復号するとともに、サブデー
タが埋め込まれた状態のメインデータ(以下、適宜、サ
ブデータ埋め込みメインデータという)を得る。
【0450】ステップS233で復号された広告情報
は、ステップS244において、第1復号部54から表
示部51またはスピーカ53に供給されて出力される。
即ち、広告情報が表示可能なものである場合には、第1
復号部54から表示部51に供給されて表示され、音と
して出力可能なものである場合には、第1復号部54か
らスピーカ53に供給されて出力される。
【0451】また、ステップS233で得られたサブデ
ータ埋め込みメインデータは、第1復号部54から第2
復号部55に供給される。第2復号部55は、ステップ
S235において、サブデータ埋め込みメインデータに
対して、埋め込み復号処理を施し、これにより、メイン
データと、そのメインデータに埋め込まれていたサブデ
ータを復号して、ステップS231に戻る。
【0452】以上のようにして復号されたメインデータ
は、図68のステップS223において出力され、ま
た、サブデータは、ステップS217において出力され
る。
【0453】従って、ユーザ端末3において、例えば、
画像データであるメインデータに、サブデータと広告情
報が埋め込まれた符号化データがダウンロードされた場
合には、図70(A)に示すような符号化データに対し
て、埋め込み復号処理が施されることにより、図70
(B)に示すように、メインデータに埋め込まれていた
広告情報が復号されて出力されるとともに、サブデータ
埋め込みメインデータが得られる。そして、そのサブデ
ータ埋め込みメインデータに対して、埋め込み符号化処
理が施されることにより、図70(C)に示すように、
メインデータと、そのメインデータに埋め込まれていた
サブデータとが復号される。
【0454】その結果、ユーザが、メインデータである
画像データを右クリックして、そのメインデータと組に
なっているサブデータを表示等させようとする場合に
は、必ず広告情報が出力されるので、ユーザが、サブデ
ータを見る(あるいは、聴く)場合には、必然的に、広
告情報も見る(あるいは聴く)ことになる。
【0455】さらに、符号化データのファイルを、専用
ブラウザ62以外のアプリケーションで開いた場合であ
っても、例えば、ラインと列とが入れ替えられた画像が
表示等されるだけであるから、ユーザは、広告情報を出
力させることなしで、サブデータを得ることはできな
い。即ち、ユーザが、サブデータを得るにあたっては、
必ず、広告情報が出力される。
【0456】次に、図67のユーザ端末3には、図71
のフローチャートにしたがったマルチメディアパッケー
ジデータ復号処理を行わせることもできる。
【0457】即ち、この場合、ステップS241乃至2
44、またはステップS246において、図69のステ
ップS231乃至S235における場合と同様の処理が
行われる。
【0458】そして、ステップS244において、ステ
ップS243で復号された広告情報が、表示部51また
はスピーカ53に供給されて出力された後に行われるス
テップS245では、ステップS244で出力された広
告情報に対して、例えば、ユーザがクリック等の所定の
アクションを行ったかどうかが判定され、クリックが行
われていないと判定された場合、ステップS245に戻
る。
【0459】また、ステップS245において、ステッ
プS244で出力された広告情報に対して、クリックが
行われたと判定された場合は、ステップS246に進
み、メインデータと、そのメインデータに埋め込まれて
いたサブデータが復号される。
【0460】従って、この場合、広告情報の出力を、い
わば、ユーザが確認したことを表すクリックが行われな
いと、サブデータは出力されない。その結果、図69に
おける場合に比較して、広告情報に対して、ユーザの意
識を、より向けさせることができる。
【0461】なお、上述の場合においては、メインデー
タに完全に復号したものを出力するようにしたが、メイ
ンデータが画像データである場合には、最初に、第1復
号部54で得られるサブデータ埋め込みメインデータを
出力し、その後、第2復号部55で得られるメインデー
タを、サブデータ埋め込みメインデータに替えて出力す
るようにしても良い。
【0462】次に、広告情報を、ユーザに必然的に見せ
るための、マルチメディアパッケージデータの埋め込み
符号化は、例えば、図72に示すように行うことも可能
である。
【0463】即ち、この場合、まず最初に、広告情報
に、サブデータを埋め込み(図72(A))、サブデー
タ埋め込み広告情報を得る。そして、このサブデータ埋
め込み広告情報を、メインデータに埋め込み(図72
(B))、図72(C)に示すような、最終的に、ユー
ザに提供する符号化データを得る。
【0464】このような符号化データが、パッケージサ
ーバ1から提供される場合には、図67のユーザ端末3
では、図73のフローチャートにしたがったマルチメデ
ィアパッケージデータ復号処理が行われる。
【0465】即ち、この場合、ステップS251または
S252において、図69のステップS231またはS
232における場合と、それぞれ同様の処理が行われ
る。
【0466】そして、ステップS253では、第1復号
部54は、データ検索部44からの符号化データに対し
て、埋め込み復号処理を施し、これにより、メインデー
タと、そのメインデータに埋め込まれていたサブデータ
埋め込み広告情報とを復号する。
【0467】ステップS253で得られたサブデータ埋
め込み広告情報は、第1復号部54から第2復号部55
に供給される。第2復号部55は、ステップS234に
おいて、サブデータ埋め込み広告情報に対して、埋め込
み復号処理を施し、これにより、広告情報と、その広告
情報に埋め込まれていたサブデータを復号して、ステッ
プS255に進む。
【0468】ステップS255では、ステップS254
において復号された広告情報が、第2復号部55から表
示部51またはスピーカ53に供給されて出力され、ス
テップS251に戻る。
【0469】そして、以上のようにして復号されたメイ
ンデータは、図68のステップS223において出力さ
れ、また、サブデータは、図68のステップS217に
おいて出力される。
【0470】従って、ユーザ端末3において、例えば、
画像データであるメインデータに、図72で説明したよ
うにして、サブデータと広告情報が埋め込まれた符号化
データがダウンロードされた場合には、図74(A)に
示すような符号化データに対して、埋め込み復号処理が
施されることにより、図74(B)に示すように、メイ
ンデータと、サブデータ埋め込み広告情報とが復号され
る。そして、そのサブデータ埋め込み広告情報に対し
て、埋め込み符号化処理が施されることにより、図74
(C)に示すように、広告情報と、その広告情報に埋め
込まれていたサブデータとが復号される。
【0471】その結果、ユーザが、メインデータである
画像データを右クリックして、そのメインデータと組に
なっているサブデータを表示等させようとする場合に
は、必ず広告情報が出力されるので、ユーザが、サブデ
ータを見る(あるいは、聴く)場合には、必然的に、広
告情報も見る(あるいは聴く)ことになる。
【0472】さらに、符号化データのファイルを、専用
ブラウザ62以外のアプリケーションで開いた場合であ
っても、符号化データが表示等されるだけであるから、
ユーザは、広告情報を出力させることなしで、サブデー
タを得ることはできない。即ち、ユーザが、サブデータ
を得るにあたっては、必ず、広告情報が出力される。
【0473】なお、図65または図66で説明したよう
に、サブデータと広告情報それぞれを、いわば独立に、
メインデータに埋め込んだ符号化データについては、そ
の符号化データから、サブデータと広告情報を、それぞ
れ独立に復号することが可能であるから、いわゆる悪意
のあるユーザ等によって、広告情報を復号することなし
に、サブデータが復号されることがあり得るが、図72
で説明したように、広告情報に、サブデータを埋め込
み、その結果得られるサブデータ埋め込み広告情報を、
メインデータに埋め込む場合には、サブデータと広告情
報とは、必ず同時に復号されることになるから、広告情
報を復号することなしに、サブデータが復号されること
を、完全に防止することができる。
【0474】また、上述のように、パッケージサーバ1
において、広告情報を埋め込んだ符号化データを提供す
る場合には、ユーザが、その広告情報を必然的に見聞き
することになるから、パッケージサーバ1の課金処理部
38では、広告情報を埋め込んだ符号化データのダウン
ロード回数をカウントし、そのダウンロード回数に応じ
て、広告情報の提供に対する広告主への課金を行うよう
にすることができる。
【0475】さらに、上述の場合には、パッケージサー
バ1(のデータベース31)に、広告情報が既に埋め込
まれた符号化データを記憶させておくようにしたが、パ
ッケージサーバ1において、広告情報の埋め込みは、ユ
ーザ端末3に対して、要求のあったマルチメディアパッ
ケージデータを送信するときに行うようにすることが可
能である。
【0476】即ち、図75は、そのようなパッケージサ
ーバ1の構成例を示している。なお、図中、図25にお
ける場合と対応する部分については、同一の符号を付し
てあり、以下では、その説明は、適宜省略する。即ち、
図75のパッケージサーバ1は、埋め込み符号化器36
Aおよび広告データベース40が新たに設けられている
他は、図25における場合と基本的に同様に構成されて
いる。
【0477】埋め込み符号化器36Aは、返信データ生
成部36に内蔵されており、返信データ生成部36が検
索部32からマルチメディアパッケージデータを受信す
ると、広告データベース40に記憶されている広告情報
を読み出し、その広告情報を、検索部32からのマルチ
メディアパッケージデータに埋め込む埋め込み符号化処
理を行う。そして、埋め込み符号化器36Aは、その埋
め込み符号化処理の結果得られる符号化データを、返信
データとして検索部32に出力する。
【0478】この場合、広告情報の広告主から、あらか
じめ代金を徴収しておき、その代金に応じて、マルチメ
ディアパッケージデータに広告情報を埋め込む頻度を変
えるようなサービスの提供が可能となる。
【0479】なお、上述の場合には、マルチメディアパ
ッケージデータに、広告情報を埋め込むようにしたが、
マルチメディアパッケージデータには、広告情報の他、
例えば、著作権情報等の、ユーザ端末3において必ず出
力させたい所定の情報を埋め込むようにすることが可能
である。
【0480】また、広告情報は、マルチメディアパッケ
ージデータの他、例えば、図4乃至図6で説明したよう
な、アイコンデータをメインデータとするとともに、テ
キストデータをサブデータとするパッケージデータに埋
め込むことが可能である。
【0481】さらに、広告情報は、メインデータとサブ
データとの組になっているパッケージデータ以外の任意
のデータに埋め込むようにすることが可能である。
【0482】また、ユーザ端末3に提供する符号化デー
タは、上述のような、広告情報をパッケージデータに埋
め込んだものに限定されるものではなく、復号する過程
において広告情報が得られるように、パッケージデータ
を符号化したものであれば良い。
【0483】さらに、本実施の形態では、マルチメディ
アパッケージデータを構成するメディアのデータとし
て、テキストデータ、画像データ、および音声データを
採用したが、その他、例えば、プログラム等をも採用す
ることも可能であり、また、テキストデータ、画像デー
タ、音声データ、その他のメディアのデータのうちの任
意の2つだけや4つ以上を採用することも可能である。
【0484】
【発明の効果】本発明の第1のデータ処理装置およびデ
ータ処理方法、並びに記録媒体によれば、複数のメディ
アのデータのうちのいずれか1つのメディアのデータを
メインデータとするとともに、複数のメディアのデータ
のうちの2以上のメディアのデータであり、かつ任意の
データへのリンクが可能なデータをサブデータとする場
合において、メインデータとサブデータとを組みにした
データであるパッケージデータが、端末からの要求に応
じて取得され、そのパッケージデータが、端末に提供さ
れる。従って、ユーザは、所望のメディアによるデータ
の提供を受けることが可能となる。
【0485】本発明の第2のデータ処理装置およびデー
タ処理方法、並びに記録媒体によれば、複数のメディア
のデータのうちのいずれか1つのメディアのデータをメ
インデータとするとともに、複数のメディアのデータの
うちの2以上のメディアのデータであり、かつ任意のデ
ータへのリンクが可能なデータをサブデータとすると、
第1のイベントが生じた場合に、メインデータとサブデ
ータとを組みにしたデータであるパッケージデータが、
サーバに要求され、サーバから提供されるパッケージデ
ータを構成するメインデータが、出力装置に出力され
る。さらに、出力装置において出力されたメインデータ
に対して、第2のイベントが与えられた場合に、そのメ
インデータと組になっているサブデータが、出力装置に
出力され、出力装置において出力されたサブデータに対
して、第3のイベントが与えられた場合に、その第3の
イベントが与えられたサブデータからリンクがはられて
いるパッケージデータが、サーバに要求される。従っ
て、ユーザは、所望のメディアによるデータの提供を、
単純なインタフェースによって受けることが可能とな
る。
【0486】本発明の第3のデータ処理装置およびデー
タ処理方法、並びに記録媒体によれば、復号する過程に
おいて所定の情報が得られるように符号化された符号化
データ、端末からの要求に応じて取得され、その符号化
データが、端末に提供される。従って、ユーザに対し
て、必然的に、所定の情報を見せること等が可能とな
る。
【0487】本発明の第4のデータ処理装置およびデー
タ処理方法、並びに記録媒体によれば、復号する過程に
おいて所定の情報が得られるように符号化された符号化
データが、サーバから取得され、その符号化データが復
号される。そして、符号化データの復号結果と、その復
号過程において得られる所定の情報が、出力装置に出力
される。従って、ユーザに対して、必然的に、所定の情
報を見せること等が可能となる。
【図面の簡単な説明】
【図1】本発明を適用したネットワークシステムの一実
施の形態の構成例を示す図である。
【図2】パッケージサーバ1、ユーザ端末3,WWWサ
ーバ4のハードウェア構成例を示すブロック図である。
【図3】パッケージサーバ1の第1の機能的構成例を示
すブロック図である。
【図4】データベース31の記憶内容を示す図である。
【図5】パッケージデータを示す図である。
【図6】パッケージデータどうしのリンク構造を示す図
である。
【図7】パッケージサーバ1の処理を説明するフローチ
ャートである。
【図8】ユーザ端末3の第1の機能的構成例を示すブロ
ック図である。
【図9】ユーザ端末3の処理を説明するフローチャート
である。
【図10】ユーザ端末3における表示例を示す図であ
る。
【図11】ユーザ端末3における表示例を示す図であ
る。
【図12】ユーザ端末3における表示例を示す図であ
る。
【図13】ユーザ端末3における表示例を示す図であ
る。
【図14】ユーザ端末3における表示例を示す図であ
る。
【図15】データベース31の記憶内容を示す図であ
る。
【図16】マルチメディアパッケージデータを示す図で
ある。
【図17】マルチメディアパッケージデータどうしのリ
ンク構造を示す図である。
【図18】ユーザ端末3の第2の機能的構成例を示すブ
ロック図である。
【図19】ユーザ端末3の処理を説明するフローチャー
トである。
【図20】ユーザ端末3における表示例を示す図であ
る。
【図21】ユーザ端末3における表示例を示す図であ
る。
【図22】ユーザ端末3における表示例を示す図であ
る。
【図23】データベース31に記憶されているマルチメ
ディアパッケージデータを示す図である。
【図24】ユーザ端末3に提供されるマルチメディアパ
ッケージデータのカスタマイズを説明する図である。
【図25】パッケージサーバ1の第2の機能的構成例を
示すブロック図である。
【図26】ユーザ情報を構成するユーザ嗜好情報と変更
情報を示す図である。
【図27】埋め込み符号化/復号システムの一実施の形
態の構成例を示すブロック図である。
【図28】符号化対象の画像を示す図である。
【図29】相関性を利用した符号化/復号を説明するた
めの図である。
【図30】埋め込み符号化器103の構成例を示すブロ
ック図である。
【図31】埋め込み符号化処理を説明するフローチャー
トである。
【図32】ステップS101の処理を説明する図であ
る。
【図33】埋め込み復号器106の構成例を示すブロッ
ク図である。
【図34】CPU143の処理を説明する図である。
【図35】埋め込み復号処理を説明するフローチャート
である。
【図36】4画素に、1ビットの情報を埋め込む場合の
処理を説明する図である。
【図37】連続性を利用した符号化/復号を説明する図
である。
【図38】埋め込み符号化処理を説明するフローチャー
トである。
【図39】埋め込み符号化処理および埋め込み復号処理
を説明する図である。
【図40】埋め込み復号処理を説明するフローチャート
である。
【図41】相似性を利用した符号化/復号を説明するた
めの図である。
【図42】相似性を利用した符号化/復号を説明するた
めの図である。
【図43】埋め込み符号化処理を説明するフローチャー
トである。
【図44】埋め込み符号化処理および埋め込み復号処理
を説明する図である。
【図45】埋め込み復号処理を説明するフローチャート
である。
【図46】埋め込み符号化器103のハードウェアの構
成例を示すブロック図である。
【図47】埋め込み符号化器103の機能的構成例を示
すブロック図である。
【図48】埋め込み符号化処理を説明するためのフロー
チャートである。
【図49】埋め込み符号化処理の結果を説明するための
図である。
【図50】埋め込み復号器106のハードウェアの構成
例を示すブロック図である。
【図51】埋め込み復号器106の機能的構成例を示す
ブロック図である。
【図52】埋め込み復号処理を説明するためのフローチ
ャートである。
【図53】埋め込み符号化のシミュレーションに用いた
原画像を示すディスプレイ上に表示された中間階調の写
真である。
【図54】埋め込み符号化のシミュレーション結果を示
すディスプレイ上に表示された中間階調の写真である。
【図55】埋め込み復号のシミュレーション結果を示す
ディスプレイ上に表示された中間階調の写真である。
【図56】符号化対象となる画像を示す図である。
【図57】符号化対象となる画像を示す図である。
【図58】列ベクトル空間を示す図である。
【図59】列ベクトル空間を示す図である。
【図60】行と列の両方向の入れ替えを説明するための
図である。
【図61】行と列の両方向の入れ替えを説明するための
図である。
【図62】復号の基準とする画素を示す図である。
【図63】復号の基準とする画素を示す図である。
【図64】復号の基準とする画素を示す図である。
【図65】広告情報を、マルチメディアパッケージデー
タに埋め込んだ符号化データの生成方法を説明する図で
ある。
【図66】広告情報を、マルチメディアパッケージデー
タに埋め込んだ符号化データの生成方法を説明する図で
ある。
【図67】ユーザ端末3の第3の機能的構成例を示すブ
ロック図である。
【図68】ユーザ端末3の処理を説明するフローチャー
トである。
【図69】ユーザ端末3によるマルチメディアパッケー
ジデータ復号処理を説明するフローチャートである。
【図70】ユーザ端末3における符号化データの復号過
程を示す図である。
【図71】ユーザ端末3によるマルチメディアパッケー
ジデータ復号処理を説明するフローチャートである。
【図72】広告情報を、マルチメディアパッケージデー
タに埋め込んだ符号化データの生成方法を説明する図で
ある。
【図73】ユーザ端末3によるマルチメディアパッケー
ジデータ復号処理を説明するフローチャートである。
【図74】ユーザ端末3における符号化データの復号過
程を示す図である。
【図75】パッケージサーバ1の第3の機能的構成例を
示すブロック図である。
【符号の説明】
1 パッケージサーバ, 2 ネットワーク, 31
至3N ユーザ端末,11 バス, 12 CPU, 13
ROM, 14 RAM, 15 ハードディスク, 16
出力部, 17 入力部, 18 通信部, 19
ドライブ,20 入出力インタフェース, 21 リム
ーバブル記録媒体, 31 データベース, 32 検
索部, 34 符号化/暗号化部, 35 復号部,
36返信データ生成部, 36A 埋め込み符号化器,
37 通信I/F, 38 課金処理部, 39 ユ
ーザ情報記憶部, 40 広告データベース, 41
制御部, 42 指示部, 43 イベント検出セレク
タ部, 44 データ検索部, 45 選択指示検出
部, 46 リクエスト信号生成部, 47コンテンツ
識別子蓄積部, 48 符号化/暗号化部, 49 通
信I/F,50 復号部, 51 表示部, 52 記
憶部, 53 スピーカ, 54第1復号部, 55
第2復号部, 62 専用ブラウザ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06F 17/30 110 G06F 17/30 110F 170 170G 419 419B H04N 7/173 640 H04N 7/173 640Z Fターム(参考) 5B049 BB11 BB49 CC05 CC10 DD01 EE05 FF01 FF07 GG02 GG10 5B075 KK07 ND06 ND14 ND16 ND36 PQ02 PQ05 5C064 BA07 BB10 BC17 BC18 BC22 BC23 BC25 BD02 BD08 BD09 BD14

Claims (38)

    【特許請求の範囲】
  1. 【請求項1】 端末に対してデータを提供するデータ処
    理装置であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 前記メインデータとサブデータとを組みにしたデータで
    あるパッケージデータを、前記端末からの要求に応じて
    取得する取得手段と、 前記パッケージデータを、前記端末に提供する提供手段
    とを備えることを特徴とするデータ処理装置。
  2. 【請求項2】 前記パッケージデータを記憶している記
    憶手段をさらに備え、 前記取得手段は、前記記憶手段から前記パッケージデー
    タを取得することを特徴とする請求項1に記載のデータ
    処理装置。
  3. 【請求項3】 ユーザに関するユーザ情報を収集する収
    集手段と、 前記ユーザ情報に基づいて、前記ユーザに提供する前記
    パッケージデータを構成するサブデータ、またはそのサ
    ブデータから前記パッケージデータにはられているリン
    クを変更する変更手段とをさらに備え、 前記提供手段は、前記変更手段による変更後の前記パッ
    ケージデータを提供することを特徴とする請求項1に記
    載のデータ処理装置。
  4. 【請求項4】 前記パッケージデータの提供に対する課
    金を行う課金手段をさらに備えることを特徴とする請求
    項1に記載のデータ処理装置。
  5. 【請求項5】 端末に対してデータを提供するデータ処
    理方法であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 前記メインデータとサブデータとを組みにしたデータで
    あるパッケージデータを、前記端末からの要求に応じて
    取得する取得ステップと、 前記パッケージデータを、前記端末に提供する提供ステ
    ップとを備えることを特徴とするデータ処理方法。
  6. 【請求項6】 端末に対してデータを提供するデータ処
    理を、コンピュータに行わせるプログラムが記録されて
    いる記録媒体であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 前記メインデータとサブデータとを組みにしたデータで
    あるパッケージデータを、前記端末からの要求に応じて
    取得する取得ステップと、 前記パッケージデータを、前記端末に提供する提供ステ
    ップとを備えるプログラムが記録されていることを特徴
    とする記録媒体。
  7. 【請求項7】 サーバからデータの提供を受けるデータ
    処理装置であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 第1のイベントが生じた場合に、前記メインデータとサ
    ブデータとを組みにしたデータであるパッケージデータ
    を、前記サーバに要求する第1の要求手段と、 前記サーバから提供されるパッケージデータを構成する
    前記メインデータを、出力装置に出力させるメインデー
    タ出力制御手段と、 前記出力装置において出力されたメインデータに対し
    て、第2のイベントが与えられた場合に、そのメインデ
    ータと組になっている前記サブデータを、前記出力装置
    に出力させるサブデータ出力制御手段と、 前記出力装置において出力されたサブデータに対して、
    第3のイベントが与えられた場合に、その第3のイベン
    トが与えられたサブデータからリンクがはられている前
    記パッケージデータを、前記サーバに要求する第2の要
    求手段とを備えることを特徴とするデータ処理装置。
  8. 【請求項8】 前記第1乃至第3のイベントは、前記出
    力装置に表示されるカーソルを操作する操作手段により
    与えられるものであることを特徴とする請求項7に記載
    のデータ処理装置。
  9. 【請求項9】 前記出力装置において出力されるメイン
    データまたはサブデータを更新する更新手段をさらに備
    えることを特徴とする請求項7に記載のデータ処理装
    置。
  10. 【請求項10】 サーバからデータの提供を受けるデー
    タ処理方法であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 第1のイベントが生じた場合に、前記メインデータとサ
    ブデータとを組みにしたデータであるパッケージデータ
    を、前記サーバに要求する第1の要求ステップと、 前記サーバから提供されるパッケージデータを構成する
    前記メインデータを、出力装置に出力させるメインデー
    タ出力制御ステップと、 前記出力において出力されたメインデータに対して、第
    2のイベントが与えられた場合に、そのメインデータと
    組になっている前記サブデータを、前記出力装置に出力
    させるサブデータ出力制御ステップと、 前記出力装置において出力されたサブデータに対して、
    第3のイベントが与えられた場合に、その第3のイベン
    トが与えられたサブデータからリンクがはられている前
    記パッケージデータを、前記サーバに要求する第2の要
    求ステップとを備えることを特徴とするデータ処理方
    法。
  11. 【請求項11】 サーバからデータの提供を受けるデー
    タ処理を、コンピュータに行わせるプログラムが記録さ
    れている記録媒体であって、 複数のメディアのデータのうちのいずれか1つのメディ
    アのデータをメインデータとするとともに、複数のメデ
    ィアのデータのうちの2以上のメディアのデータであ
    り、かつ任意のデータへのリンクが可能なデータをサブ
    データとする場合において、 第1のイベントが生じた場合に、前記メインデータとサ
    ブデータとを組みにしたデータであるパッケージデータ
    を、前記サーバに要求する第1の要求ステップと、 前記サーバから提供されるパッケージデータを構成する
    前記メインデータを、出力装置に出力させるメインデー
    タ出力制御ステップと、 前記出力装置において出力されたメインデータに対し
    て、第2のイベントが与えられた場合に、そのメインデ
    ータと組になっている前記サブデータを、前記出力装置
    に出力させるサブデータ出力制御ステップと、 前記出力装置において出力されたサブデータを構成する
    2以上のメディアのデータに対して、第3のイベントが
    与えられた場合に、その第3のイベントが与えられたデ
    ータからリンクがはられている前記パッケージデータ
    を、前記サーバに要求する第2の要求ステップとを備え
    るプログラムが記録されていることを特徴とする記録媒
    体。
  12. 【請求項12】 端末に対してデータを提供するデータ
    処理装置であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記端末からの要求に応じて
    取得する取得手段と、 前記符号化データを、前記端末に提供する提供手段とを
    備えることを特徴とするデータ処理装置。
  13. 【請求項13】 前記符号化データを記憶している記憶
    手段をさらに備え、 前記取得手段は、前記記憶手段から前記符号化データを
    取得することを特徴とする請求項12に記載のデータ処
    理装置。
  14. 【請求項14】 データを、その復号過程において前記
    所定の情報が得られるように符号化する符号化手段をさ
    らに備えることを特徴とする請求項12に記載のデータ
    処理装置。
  15. 【請求項15】 前記符号化データは、データに、前記
    所定の情報を埋め込んだものであることを特徴とする請
    求項12に記載のデータ処理装置。
  16. 【請求項16】 前記符号化データは、所定のメインデ
    ータと、任意のデータへのリンクが可能なサブデータと
    を組にしたパッケージデータを、その復号過程において
    前記所定の情報が得られるように符号化したものである
    ことを特徴とする請求項12に記載のデータ処理装置。
  17. 【請求項17】 前記符号化データは、前記パッケージ
    データに、前記所定の情報を埋め込んだものであること
    を特徴とする請求項16に記載のデータ処理装置。
  18. 【請求項18】 前記符号化データは、前記メインデー
    タに、そのメインデータと組になっているサブデータ
    と、前記所定の情報とを埋め込んだものであることを特
    徴とする請求項17に記載のデータ処理装置。
  19. 【請求項19】 前記符号化データは、前記所定の情報
    に、前記サブデータを埋め込み、その埋め込み結果を、
    前記サブデータと組になっているメインデータに埋め込
    んだものであることを特徴とする請求項17に記載のデ
    ータ処理装置。
  20. 【請求項20】 前記メインデータは、複数のメディア
    のデータのうちのいずれか1つのメディアのデータであ
    り、 前記サブデータは、複数のメディアのデータのうちの2
    以上のメディアのデータであることを特徴とする請求項
    16に記載のデータ処理装置。
  21. 【請求項21】 前記所定の情報は、広告のための広告
    情報であることを特徴とする請求項12に記載のデータ
    処理装置。
  22. 【請求項22】 前記符号化データの提供に応じて、課
    金を行う課金手段をさらに備えることを特徴とする請求
    項12に記載のデータ処理装置。
  23. 【請求項23】 端末に対してデータを提供するデータ
    処理方法であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記端末からの要求に応じて
    取得する取得ステップと、 前記符号化データを、前記端末に提供する提供ステップ
    とを備えることを特徴とするデータ処理方法。
  24. 【請求項24】 端末に対してデータを提供するデータ
    処理を、コンピュータに行わせるプログラムが記録され
    ている記録媒体であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記端末からの要求に応じて
    取得する取得ステップと、 前記符号化データを、前記端末に提供する提供ステップ
    とを備えるプログラムが記録されていることを特徴とす
    る記録媒体。
  25. 【請求項25】 サーバからデータの提供を受けるデー
    タ処理装置であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記サーバから取得する取得
    手段と、 前記符号化データを復号する復号手段と、 前記符号化データの復号結果と、その復号過程において
    得られる前記所定の情報を、出力装置に出力させる出力
    制御手段とを備えることを特徴とするデータ処理装置。
  26. 【請求項26】 前記符号化データは、データに、前記
    所定の情報を埋め込んだものであることを特徴とする請
    求項25に記載のデータ処理装置。
  27. 【請求項27】 前記符号化データは、所定のメインデ
    ータと、任意のデータへのリンクが可能なサブデータと
    を組にしたパッケージデータを、その復号過程において
    前記所定の情報が得られるように符号化したものである
    ことを特徴とする請求項25に記載のデータ処理装置。
  28. 【請求項28】 前記符号化データは、前記パッケージ
    データに、前記所定の情報を埋め込んだものであること
    を特徴とする請求項27に記載のデータ処理装置。
  29. 【請求項29】 前記符号化データは、前記メインデー
    タに、そのメインデータと組になっているサブデータ
    と、前記所定の情報とを埋め込んだものであり、 前記
    復号手段は、前記符号化データを、前記メインデータに
    前記サブデータを埋め込んだ中間データと、前記所定の
    情報とに復号し、その後、前記中間データを、前記メイ
    ンデータとサブデータとに復号することを特徴とする請
    求項28に記載のデータ処理装置。
  30. 【請求項30】 前記復号手段は、所定のイベントが与
    えられた場合に、前記中間データを、前記メインデータ
    とサブデータとに復号することを特徴とする請求項29
    に記載のデータ処理装置。
  31. 【請求項31】 前記符号化データは、前記所定の情報
    に、前記サブデータを埋め込み、その埋め込み結果を、
    前記サブデータと組になっているメインデータに埋め込
    んだものであり、 前記復号手段は、前記符号化データを、前記メインデー
    タと、前記所定の情報に前記サブデータを埋め込んだ中
    間データとに復号し、その後、前記中間データを、前記
    サブデータと所定の情報とに復号することを特徴とする
    請求項28に記載のデータ処理装置。
  32. 【請求項32】 前記メインデータは、複数のメディア
    のデータのうちのいずれか1つのメディアのデータであ
    り、 前記サブデータは、複数のメディアのデータのうちの2
    以上のメディアのデータであることを特徴とする請求項
    27に記載のデータ処理装置。
  33. 【請求項33】 前記所定の情報は、広告のための広告
    情報であることを特徴とする請求項25に記載のデータ
    処理装置。
  34. 【請求項34】 第1のイベントが生じた場合に、前記
    パッケージデータを符号化した前記符号化データを、前
    記サーバに要求する第1の要求手段をさらに備え、 前記出力制御手段は、前記サーバから提供される符号化
    データを復号した前記パッケージデータを構成する前記
    メインデータを、前記出力装置に出力させることを特徴
    とする請求項25に記載のデータ処理装置。
  35. 【請求項35】 前記出力制御手段は、前記出力装置に
    おいて出力された前記メインデータに対して、第2のイ
    ベントが与えられたときに、そのメインデータと組にな
    っている前記サブデータを、前記出力装置に出力させる
    ことを特徴とする請求項34に記載のデータ処理装置。
  36. 【請求項36】 前記出力装置において出力されたサブ
    データの構成要素に対して、第3のイベントが与えられ
    た場合に、その第3のイベントが与えられた構成要素か
    らリンクがはられている前記パッケージデータを、前記
    サーバに要求する第2の要求手段をさらに備えることを
    特徴とする請求項35に記載のデータ処理装置。
  37. 【請求項37】 サーバからデータの提供を受けるデー
    タ処理方法であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記サーバから取得する取得
    ステップと、 前記符号化データを復号する復号ステップと、 前記符号化データの復号結果と、その復号過程において
    得られる前記所定の情報を、出力装置に出力させる出力
    制御ステップとを備えることを特徴とするデータ処理方
    法。
  38. 【請求項38】 サーバからデータの提供を受けるデー
    タ処理を、コンピュータに行わせるプログラムが記録さ
    れている記録媒体であって、 復号する過程において所定の情報が得られるように符号
    化された符号化データを、前記サーバから取得する取得
    ステップと、 前記符号化データを復号する復号ステップと、 前記符号化データの復号結果と、その復号過程において
    得られる前記所定の情報を、出力装置に出力させる出力
    制御ステップとを備えるプログラムが記録されているこ
    とを特徴とする記録媒体。
JP2000148552A 2000-05-19 2000-05-19 通信装置および通信方法、並びに記録媒体 Expired - Fee Related JP4626784B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2000148552A JP4626784B2 (ja) 2000-05-19 2000-05-19 通信装置および通信方法、並びに記録媒体
MYPI20012324A MY138076A (en) 2000-05-19 2001-05-16 Communication apparatus, communication method, and recording medium used therewith
EP01304342A EP1156404A3 (en) 2000-05-19 2001-05-16 Communication apparatus and method
US09/860,177 US7406712B2 (en) 2000-05-19 2001-05-16 Communication apparatus, communication method, and recording medium used therewith
TW090111740A TW522296B (en) 2000-05-19 2001-05-16 Communication apparatus, communication method, and recording medium used therewith
KR1020010027367A KR100922932B1 (ko) 2000-05-19 2001-05-18 통신 장치, 통신 방법, 및 이에 사용되는 저장 매체
CNB011228091A CN1194317C (zh) 2000-05-19 2001-05-19 通信装置和通信方法
US12/104,046 US7900256B2 (en) 2000-05-19 2008-04-16 Communication apparatus, communication method, and recording medium used therewith

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000148552A JP4626784B2 (ja) 2000-05-19 2000-05-19 通信装置および通信方法、並びに記録媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007067198A Division JP4626824B2 (ja) 2007-03-15 2007-03-15 通信装置および通信方法、並びに記録媒体

Publications (3)

Publication Number Publication Date
JP2001331724A true JP2001331724A (ja) 2001-11-30
JP2001331724A5 JP2001331724A5 (ja) 2007-05-10
JP4626784B2 JP4626784B2 (ja) 2011-02-09

Family

ID=18654562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000148552A Expired - Fee Related JP4626784B2 (ja) 2000-05-19 2000-05-19 通信装置および通信方法、並びに記録媒体

Country Status (7)

Country Link
US (2) US7406712B2 (ja)
EP (1) EP1156404A3 (ja)
JP (1) JP4626784B2 (ja)
KR (1) KR100922932B1 (ja)
CN (1) CN1194317C (ja)
MY (1) MY138076A (ja)
TW (1) TW522296B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010287165A (ja) * 2009-06-15 2010-12-24 Dentsu Inc 情報合成装置、情報合成方法、及び情報合成用プログラム
WO2017013936A1 (ja) * 2015-07-21 2017-01-26 ソニー株式会社 情報処理装置、情報処理方法およびプログラム

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8094949B1 (en) 1994-10-21 2012-01-10 Digimarc Corporation Music methods and systems
US6721440B2 (en) 1995-05-08 2004-04-13 Digimarc Corporation Low visibility watermarks using an out-of-phase color
US7224819B2 (en) 1995-05-08 2007-05-29 Digimarc Corporation Integrating digital watermarks in multimedia content
US6763123B2 (en) 1995-05-08 2004-07-13 Digimarc Corporation Detection of out-of-phase low visibility watermarks
US6590996B1 (en) 2000-02-14 2003-07-08 Digimarc Corporation Color adaptive watermarking
US6718046B2 (en) 1995-05-08 2004-04-06 Digimarc Corporation Low visibility watermark using time decay fluorescence
US6829368B2 (en) * 2000-01-26 2004-12-07 Digimarc Corporation Establishing and interacting with on-line media collections using identifiers in media signals
US8379908B2 (en) 1995-07-27 2013-02-19 Digimarc Corporation Embedding and reading codes on objects
US7953824B2 (en) 1998-08-06 2011-05-31 Digimarc Corporation Image sensors worn or attached on humans for imagery identification
US7373513B2 (en) * 1998-09-25 2008-05-13 Digimarc Corporation Transmarking of multimedia signals
US7532740B2 (en) 1998-09-25 2009-05-12 Digimarc Corporation Method and apparatus for embedding auxiliary information within original data
US7302574B2 (en) * 1999-05-19 2007-11-27 Digimarc Corporation Content identifiers triggering corresponding responses through collaborative processing
US8095796B2 (en) * 1999-05-19 2012-01-10 Digimarc Corporation Content identifiers
US6891959B2 (en) * 2000-04-19 2005-05-10 Digimarc Corporation Hiding information out-of-phase in color channels
US6804377B2 (en) 2000-04-19 2004-10-12 Digimarc Corporation Detecting information hidden out-of-phase in color channels
US7738673B2 (en) * 2000-04-19 2010-06-15 Digimarc Corporation Low visible digital watermarks
US8027509B2 (en) 2000-04-19 2011-09-27 Digimarc Corporation Digital watermarking in data representing color channels
JP2002135246A (ja) * 2000-07-18 2002-05-10 Ns Solutions Corp エンコード装置、デコード装置、データ処理装置、ネットワークシステム、データ処理方法、記録媒体、及びプログラム
AU2002214613A1 (en) * 2000-11-08 2002-05-21 Digimarc Corporation Content authentication and recovery using digital watermarks
WO2002051063A1 (en) 2000-12-21 2002-06-27 Digimarc Corporation Methods, apparatus and programs for generating and utilizing content signatures
US6965683B2 (en) 2000-12-21 2005-11-15 Digimarc Corporation Routing networks for use with watermark systems
US7046819B2 (en) * 2001-04-25 2006-05-16 Digimarc Corporation Encoded reference signal for digital watermarks
US20020169963A1 (en) * 2001-05-10 2002-11-14 Seder Phillip Andrew Digital watermarking apparatus, systems and methods
US20020169721A1 (en) * 2001-05-10 2002-11-14 Cooley William Ray Digital watermarking apparatus, systems and methods
US8094869B2 (en) * 2001-07-02 2012-01-10 Digimarc Corporation Fragile and emerging digital watermarks
US7213757B2 (en) 2001-08-31 2007-05-08 Digimarc Corporation Emerging security features for identification documents
US7537170B2 (en) * 2001-08-31 2009-05-26 Digimarc Corporation Machine-readable security features for printed objects
US7515730B2 (en) * 2001-12-13 2009-04-07 Digimarc Corporation Progressive image quality control using watermarking
US7187780B2 (en) * 2001-12-13 2007-03-06 Digimarc Corporation Image processing methods using reversible watermarking
US8059815B2 (en) * 2001-12-13 2011-11-15 Digimarc Corporation Transforming data files into logical storage units for auxiliary data through reversible watermarks
US7006662B2 (en) 2001-12-13 2006-02-28 Digimarc Corporation Reversible watermarking using expansion, rate control and iterative embedding
US7561714B2 (en) * 2001-12-13 2009-07-14 Digimarc Corporation Reversible watermarking
ATE509326T1 (de) * 2001-12-18 2011-05-15 L 1 Secure Credentialing Inc Mehrfachbildsicherheitsmerkmale zur identifikation von dokumenten und verfahren zu ihrer herstellung
US7313375B2 (en) * 2002-05-02 2007-12-25 Lucent Technologies Inc. Follow-me broadcast reception method and system
US7824029B2 (en) 2002-05-10 2010-11-02 L-1 Secure Credentialing, Inc. Identification card printer-assembler for over the counter card issuing
US20040091111A1 (en) * 2002-07-16 2004-05-13 Levy Kenneth L. Digital watermarking and fingerprinting applications
FR2860111A1 (fr) * 2003-09-23 2005-03-25 Orange France Systeme d'acces a un reseau adapte pour la mise en oeuvre d'un procede a signature simplifiee, et serveur pour sa realisation
JP5008822B2 (ja) * 2003-10-27 2012-08-22 パナソニック株式会社 コンテンツ再生制御方法およびコンテンツ再生制御端末
US8127137B2 (en) 2004-03-18 2012-02-28 Digimarc Corporation Watermark payload encryption for media including multiple watermarks
DE102007038763A1 (de) * 2007-08-16 2009-02-19 Siemens Ag Verfahren und Vorrichtung zur Sicherung eines Programms gegen eine Kontrollflussmanipulation und gegen einen fehlerhaften Programmablauf
US8199969B2 (en) 2008-12-17 2012-06-12 Digimarc Corporation Out of phase digital watermarking in two chrominance directions
US9117268B2 (en) * 2008-12-17 2015-08-25 Digimarc Corporation Out of phase digital watermarking in two chrominance directions
JP5269579B2 (ja) * 2008-12-25 2013-08-21 ソニー株式会社 コンテンツ利用管理装置、コンテンツ利用管理方法、およびプログラム
TWI483134B (zh) * 2009-03-17 2015-05-01 Taiwan Familymart Co Ltd 訊息託播系統
EP2234400A1 (en) * 2009-03-23 2010-09-29 Sony Corporation Method and device for providing a multimedia content stream embedding processing information for the content
KR101631270B1 (ko) * 2009-06-19 2016-06-16 삼성전자주식회사 의사 난수 필터를 이용한 영상 필터링 방법 및 장치
JP5661313B2 (ja) * 2010-03-30 2015-01-28 キヤノン株式会社 記憶装置
CN102340397A (zh) * 2010-07-29 2012-02-01 富泰华工业(深圳)有限公司 用于文件加解密的系统、加密、解密装置及加解密方法
CN102740137B (zh) * 2012-07-18 2014-09-03 西安科技大学 基于水印的数字电视计时收费及版权保护方法
USD758417S1 (en) * 2013-06-10 2016-06-07 Apple Inc. Display screen or portion thereof with animated graphical user interface
CN104683294B (zh) * 2013-11-27 2019-01-18 阿里巴巴集团控股有限公司 一种数据处理方法和系统
CN104636448B (zh) * 2015-01-23 2018-01-23 广东欧珀移动通信有限公司 一种音乐推荐方法及装置
USD791829S1 (en) * 2015-12-23 2017-07-11 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
USD791828S1 (en) * 2015-12-23 2017-07-11 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
JP6724547B2 (ja) * 2016-05-25 2020-07-15 株式会社リコー 情報処理装置、情報処理方法及び情報処理プログラム
CN111243128A (zh) * 2018-11-13 2020-06-05 中国电信股份有限公司 实现超声波智能锁的方法、服务器和系统
USD912694S1 (en) 2019-06-01 2021-03-09 Apple Inc. Electronic device with graphical user interface

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998056188A2 (en) * 1997-06-02 1998-12-10 Sony Electronics Inc. Displaying internet content and television programming
JP2000059743A (ja) * 1998-08-06 2000-02-25 Sony Corp 画像処理装置および画像処理方法、並びに提供媒体

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5659350A (en) * 1992-12-09 1997-08-19 Discovery Communications, Inc. Operations center for a television program packaging and delivery system
JPH10133955A (ja) * 1996-10-29 1998-05-22 Matsushita Electric Ind Co Ltd 可搬型メディア駆動装置とその方法、及び可搬型メディアとネットワークの連携装置とその方法
WO2000011871A1 (en) 1998-08-23 2000-03-02 Open Entertainment, Inc. Transaction system for transporting media files from content provider sources to home entertainment devices

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998056188A2 (en) * 1997-06-02 1998-12-10 Sony Electronics Inc. Displaying internet content and television programming
JP2000059743A (ja) * 1998-08-06 2000-02-25 Sony Corp 画像処理装置および画像処理方法、並びに提供媒体

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010287165A (ja) * 2009-06-15 2010-12-24 Dentsu Inc 情報合成装置、情報合成方法、及び情報合成用プログラム
WO2017013936A1 (ja) * 2015-07-21 2017-01-26 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JPWO2017013936A1 (ja) * 2015-07-21 2018-05-10 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US10916044B2 (en) 2015-07-21 2021-02-09 Sony Corporation Information processing apparatus, information processing method, and program

Also Published As

Publication number Publication date
US20080263667A1 (en) 2008-10-23
MY138076A (en) 2009-04-30
US20020040433A1 (en) 2002-04-04
US7900256B2 (en) 2011-03-01
JP4626784B2 (ja) 2011-02-09
EP1156404A3 (en) 2008-12-24
EP1156404A2 (en) 2001-11-21
KR100922932B1 (ko) 2009-10-22
CN1325073A (zh) 2001-12-05
US7406712B2 (en) 2008-07-29
KR20010105286A (ko) 2001-11-28
CN1194317C (zh) 2005-03-23
TW522296B (en) 2003-03-01

Similar Documents

Publication Publication Date Title
JP4626784B2 (ja) 通信装置および通信方法、並びに記録媒体
US11902633B2 (en) Dynamic overlay video advertisement insertion
US7711564B2 (en) Connected audio and other media objects
US8121843B2 (en) Fingerprint methods and systems for media signals
US7590259B2 (en) Deriving attributes from images, audio or video to obtain metadata
KR100827215B1 (ko) 접속된 오디오 및 다른 미디어 객체들
US10713340B2 (en) Connected audio and other media objects
JP5175908B2 (ja) 情報処理装置及びプログラム
US20030097301A1 (en) Method for exchange information based on computer network
CN103124968B (zh) 用于后仰式娱乐的内容转换
JPH11250145A (ja) コンテンツ情報流通システム
CN109474843A (zh) 语音操控终端的方法、客户端、服务器
CN114339360B (zh) 一种视频处理的方法、相关装置及设备
KR20110047768A (ko) 멀티미디어 컨텐츠 재생 장치 및 방법
WO2006065959A2 (en) A method for selecting a preview of a media work
US20110167069A1 (en) System and method for creating and providing media objects in a navigable environment
JP4626824B2 (ja) 通信装置および通信方法、並びに記録媒体
US20060059534A1 (en) Method for capturing a media segment

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070315

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100412

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101027

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees