JP2004140670A - 画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム - Google Patents
画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム Download PDFInfo
- Publication number
- JP2004140670A JP2004140670A JP2002304517A JP2002304517A JP2004140670A JP 2004140670 A JP2004140670 A JP 2004140670A JP 2002304517 A JP2002304517 A JP 2002304517A JP 2002304517 A JP2002304517 A JP 2002304517A JP 2004140670 A JP2004140670 A JP 2004140670A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- data
- user
- attention target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができるようにする。
【解決手段】ユーザ注目対象抽出モジュール73は、画像入力モジュール71に入力された原画像データの中から、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象に対応するオブジェクトデータを抽出する。ユーザ注目対象調整モジュール74、ユーザ注目対象合成モジュール75、およびダウンコンバートモジュール76は、ユーザ注目対象が他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像データを調整して、画像出力モジュール77を介して出力する。本発明は、小さな若しくは解像度の低い表示デバイスを有する表示機器に適用可能である。
【選択図】 図15
【解決手段】ユーザ注目対象抽出モジュール73は、画像入力モジュール71に入力された原画像データの中から、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象に対応するオブジェクトデータを抽出する。ユーザ注目対象調整モジュール74、ユーザ注目対象合成モジュール75、およびダウンコンバートモジュール76は、ユーザ注目対象が他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像データを調整して、画像出力モジュール77を介して出力する。本発明は、小さな若しくは解像度の低い表示デバイスを有する表示機器に適用可能である。
【選択図】 図15
Description
【0001】
【発明の属する技術分野】
本発明は、画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラムに関し、特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができるようにした画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラムに関する。
【0002】
【従来の技術】
近年、地上波、衛星、または、ケーブル等を介したテレビジョン放送用の映像(例えば、NTSC(National Television System Committee)方式、若しくはPAL(Phase Alternating by line)方式のSD(standard definition)映像、または、ハイビジョンと一般的に称されるHD(high definition)映像)は、据置型のテレビジョン受像機に代表される、ある程度の大きさをもった表示機器(以下、そのような表示機器を、据置型表示機器と称する)のみならず、携帯電話機や携帯型のテレビジョン受像機に代表される、動画像の表示が可能であるとともに、携帯可能な小型の表示機器(以下、そのような表示機器を、携帯型表示機器と称する)でも利用可能とされている。
【0003】
据置型表示機器が、高精細画像であるHD画像を標準的な画像であるSD画像に変換して表示する場合、表示されるSD画像は、HD画像であるが故に表現可能な精細さを多少失うことになるが、その画像の価値が著しく失われることはあまりない。これは、SD画像自体が、動画像を楽しむために必要な画素数を有しているとともに、ある一定以上の大きさの表示部を有する据置型表示機器が、SD画像を、解像度を落とさずに、その表示部に表示させることが可能なためである。
【0004】
【発明が解決しようとする課題】
しかしながら、携帯型表示機器は、携帯可能が前提とされていることから、その表示部は、据置型表示機器に比較して遥かに小さなものが要求され、据置型表示機器に比較して画素数が少なくされたり、画素そのものが小さくされて構成される。従って、携帯型表示機器においては、もともとHD画像やSD画像であった画像がその小さな表示部に表示される場合、その画像に含まれる複数のオブジェクトのうちの小さなオブジェクトは、表示されないか、または、たとえ表示されたとしても、ユーザが視認することが困難な状態で表示されるという課題があった。
【0005】
具体的には、例えば、いま、図1に示されるように、据置型表示機器1の表示部1−1に、野球の様子を表す画像11が表示されるとともに、携帯型表示機器2の表示部2−1に、画像11に対応する画像12が表示されているとする。
【0006】
この場合、図1に示されるように、据置型表示機器1の表示部1−1に表示される画像11を構成するオブジェクト、即ち、バッター11−1、ピッチャー11−2、および、ボール11−3のそれぞれは、全て明確に表示されている。従って、ユーザ(視聴者)は、画像11が、ピッチャー11−2がバッター11−1に向かってボール11−3を投げた状態を表した画像であることを視認できる。
【0007】
これに対して、携帯型表示機器2の表示部12には、バッター11−1に対応するバッター12−1と、ピッチャー11−2に対応するピッチャー12−2は小さいながら表示されているものの、ボール11−3に対応するものは表示されていないか、若しくは、ユーザがそれを認識し辛い状態で表示されている。従って、ユーザは、携帯型表示機器2の表示部2−1に表示された画像12が何を表しているのかを判断する場合、ピッチャー12−2とバッター12−1のみから想像しなければならず、その判断は困難である。
【0008】
なお、実際には、画像12だけではなく音声によっても状況が解説されるので、ユーザは、その音声によって、ピッチャー12−2がバッター12−1に対してボールを投げた状態であることをある程度は想像できる。
【0009】
しかしながら、ユーザは、その投げられたボールを視認できないか、または、視認し辛いため、その後の状況を画像で把握することは困難であり、ラジオ放送のような音声のみの放送に対して、テレビジョン放送のような画像と音声の両者の放送が有しているメリットを享受できないことになってしまう。また、携帯型表示機器2は、音声を出せないような場所で利用されることも多く、そのような場合、ユーザは、野球の状況を、携帯型表示機器2の表示部2−1に表示される画像12のみから判断しなければならないが、上述したように、その判断は困難である。
【0010】
以下、図面を参照して、このように、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の3つの例を説明する。
【0011】
はじめに、図2乃至図5を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第1の例を説明する。
【0012】
なお、第1の例では、例えば、図2に示されるように、据置型表示機器1の表示部1−1の解像度が、NTSC方式に規定される解像度(水平720画素、および垂直480画素の解像度であり、以下、このような解像度を、720×480画素と称する)とされている。また、携帯型表示機器2の表示部2−1の解像度が、水平180画素、および垂直120画素の解像度(以下、このような解像度を、180×120画素と称する)とされている。さらに、第1の例では、説明の都合上、据置型表示機器1の表示部1−1と携帯型表示機器2の表示部2−1の画素は同じ大きさとされている。
【0013】
即ち、第1の例では、解像度だけが下げられる場合の例について説明する。具体的には、図2に示されるように、720×480画素の画像11から180×120画素の画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0014】
なお、図3乃至図5のそれぞれに示されている1つの四角は1画素を表しており、それらの四角(画素)のうちの黒い四角(斜線が描画されている四角)はボールの1部を、白い四角は背景の1部を、それぞれ表しているとする。
【0015】
図3は、8×8画素程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、2×2画素程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0016】
図4は、4×4画素程度のボール11−3が、1×1画素程度のボール12−3に変換されることを表している。
【0017】
図5は、2×2画素程度のボール11−3が、0×0画素のボール12−3(即ち、表示されない)に変換されることを表している。
【0018】
このように、720×480画素の画像11から180×120画素の画像12に変換される場合、変換後のボール12−3の解像度は、画像11に対する画像12の解像度と同様に、変換前のボール11−3に対して1/4の解像度となってしまう。
【0019】
従って、図4と図5に示されるように、据置型表示機器1の表示部1−1に表示されるボール11−3が4×4画素よりも少ない画素で構成されている場合、変換後のボール12−3は消滅してしまい(携帯型表示機器2の表示部2−1には表示されず)、ユーザはそのボール12−3を認識することはできない。
【0020】
次に、図6乃至図9を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第2の例について説明する。
【0021】
なお、第2の例では、例えば、図6に示されるように、据置型表示機器1の表示部1−1の解像度と、携帯型表示機器2の表示部2−1の解像度のそれぞれが、同一の720×480画素とされている。さらに、第2の例では、説明の都合上、据置型表示機器1の表示部1−1の水平寸法が50cmとされ、また、携帯型表示機器2の表示部2−1の水平寸法が5cmとされている。
【0022】
即ち、第2の例では、解像度に変化はなく、画素の大きさが10分の1になる場合の例について説明する。具体的には、図6に示されるように、720×480画素の水平寸法が50cmである画像11から、720×480画素の水平寸法が5cmである画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0023】
なお、図7乃至図9のそれぞれに示されている1つの四角(黒い四角)は、ボールを構成する1画素(ボールの一部)を表しているとする。
【0024】
図7は、直径5.6mm程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、直径0.56mm程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0025】
図8は、直径2.8mm程度のボール11−3が、直径0.28mm程度のボール12−3に変換されることを表している。
【0026】
図9は、直径1.4mm程度のボール11−3が、直径0.14mm程度のボール12−3に変換されることを表している。
【0027】
このように、画像11から、画像11と同一解像度であるものの水平寸法が1/10になる画像12に変換される場合、変換後のボール12−3の直径(大きさ)も、変換前のボール11−3のそれに対して1/10(即ち、画像12の水平寸法/画像11の水平寸法)に縮小されてしまう。
【0028】
従って、携帯型表示機器2は据置型表示機器1よりもユーザと接近して使用されるため、小さいものが比較的見易くなるものの、携帯型表示機器2に表示されているボール12−3の直径が、図7乃至図9に示されるような1mmにも満たない場合、ユーザは、画像12のうちのボール12−3の周辺をよほど凝視しなければ、ボール12−3を視認することはできない。換言すると、そのような場合、ユーザは、ボール12−3の位置を想像することができなければ、ボール12−3を視認することは実質上不可能となってしまう。
【0029】
次に、図10乃至図13を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第3の例について説明する。
【0030】
なお、第3の例では、例えば、図10に示されるように、据置型表示機器1の表示部1−1の解像度が720×480画素とされ、また、携帯型表示機器2の表示部2−1の解像度が、180×120画素とされている。さらに、第3の例では、説明の都合上、据置型表示機器1の表示部1−1の水平寸法が50cmとされ、また、携帯型表示機器2の表示部2−1の水平寸法が5cmとされている。
【0031】
即ち、第3の例では、解像度が下がるとともに、画素の大きさも小さくなる(画素の大きさが5分の2になる)場合の例について説明する。具体的には、図10に示されるように、720×480画素の水平寸法が50cmである画像11から、180×120画素の水平寸法が5cmである画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0032】
なお、図11乃至図13のそれぞれに示されている1つの四角は1画素を表しており、それらの四角(画素)のうちの黒い四角はボールの1部を、白い四角は背景の1部を、それぞれ表しているとする。
【0033】
図11は、8×8画素、かつ直径5.6mm程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、2×2画素、かつ直径0.56mm程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0034】
図12は、4×4画素、かつ直径2.8mm程度のボール11−3が、1×1画素、かつ直径0.28mm程度のボール12−3に変換されることを表している。
【0035】
図13は、2×2画素、かつ直径1.4mm程度のボール11−3が、0×0画素(直径0mm)のボール12−3(即ち、表示されない)に変換されることを表している。
【0036】
このように、720×480画素、かつ水平寸法50cmの画像11から、180×120画素、かつ水平寸法5cmの画像12に変換される場合、変換後のボール12−3の解像度が低下するとともに、変換後のボール12−3の直径(大きさ)も縮小されてしまう。
【0037】
従って、上述したように、ユーザは、直径が1mmにも満たないボール12−3を視認することは困難であるし、そもそも、図13に示されるように、ボール12−3自体が消滅してしまった場合(携帯型表示機器2の表示部2−1に表示されない場合)、そのボール12−3を視認することは不可能である。
【0038】
そこで、従来、上述した課題を解決すべく、例えば、配信されるコンテンツ(映像)が野球である場合、撮影者側(放送者側)が、撮影カメラを増やし、ピッチャーがボールを投げるまでの間、ピッチャーのみを大きく撮影し、ボールが投げられた後、バッターのみを大きく撮影するという手法を利用することで、ボールが小さくなり過ぎることを避けている。
【0039】
しかしながら、この手法では、撮影に費やされるコストが増大するとともに、一度に見える範囲が限定されるため(画像に含まれるオブジェクトが限定されるため)、ユーザがその画像を見ても全体の状況を把握することが困難になるという新たな課題が発生してしまう。
【0040】
或いは、例えば、据置型表示機器1に表示される画像に対して、何らかの画像処理(例えば、特許文献1参照)が施された画像を、携帯型表示機器2に表示させることも考えられるが、特許文献1に開示されているような、従来の画像処理が単に施されただけでは、上述した課題を解決することは困難である。即ち、携帯型表示機器2が、従来の画像処理が施された画像をたとえ表示させたとしても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることは困難である。
【0041】
本発明は、このような状況に鑑みてなされたものであり、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができるようにするものである。
【0042】
【特許文献1】
特開2002−232782号公報
【0043】
【課題を解決するための手段】
本発明の画像処理装置は、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データに対応する画像の表示を制御する表示制御手段とを備えることを特徴とする。
【0044】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトの、他のオブジェクトに対する相対的なサイズを変化させるサイズ変化手段と、サイズ変化手段によりサイズが変化されたオブジェクトを、第1の画像データに対応する画像のうちの、元のサイズのオブジェクトが配置されていた位置の上に配置させるように、オブジェクトデータを第1の画像データに合成して第2の画像データを生成する合成手段とを有するようにすることができる。
【0045】
生成手段は、第1の画像データに対応する画像に対して、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトの色が調整された画像に対応する第2の画像データを生成するようにすることができる。
【0046】
生成手段は、第1の画像データのうちの、抽出手段により抽出されたオブジェクトデータ以外のデータが調整された第2の画像データを生成するようにすることができる。
【0047】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するシンボルを生成し、第1の画像データに対応する画像に対して、生成したシンボルがさらに付加された画像に対応する第2の画像データを生成するようにすることができる。
【0048】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するシンボルを生成し、第1の画像データに対応する画像に対して、オブジェクトの代わりに、生成したシンボルが配置された画像に対応する第2の画像データを生成するようにすることができる。
【0049】
オブジェクトを設定する設定手段をさらに設け、抽出手段は、第1の画像データの中から、設定手段により設定されたオブジェクトに対応するオブジェクトデータを抽出するようにすることができる。
【0050】
設定手段は、第1の画像データの特徴に基づいて、自分自身の判断でオブジェクトを設定するようにすることができる。
【0051】
ユーザの操作により、ユーザが所望するオブジェクトを指示する情報を入力する入力手段をさらに設け、設定手段は、入力手段より入力された情報に基づいてオブジェクトを設定するようにすることができる。
【0052】
オブジェクトの候補となるオブジェクト候補が複数個存在し、入力手段は、複数のオブジェクト候補のうちのユーザにより選択された所定の1つを、オブジェクトとして指示する情報を入力するようにすることができる。
【0053】
第1の画像データは、動画像のうちの第1のアクセスユニットを構成する画像データであり、抽出手段は、第1のアクセスユニットよりも前の第2のアクセスユニット、若しくは後の第3のアクセスユニット、または第2のアクセスユニットと第3のアクセスユニットの両方に基づいて、第1のアクセスユニット内のオブジェクトの位置を推定し、推定した位置に基づいて、第1のアクセスユニット内のオブジェクトに対応するオブジェクトデータを抽出するようにすることができる。
【0054】
本発明の画像処理方法は、画像の表示を制御する画像処理装置の画像処理方法であって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像の表示を制御する表示制御ステップとを含むことを特徴とする。
【0055】
本発明の第1のプログラムは、画像の表示を制御する処理をコンピュータに実行させるプログラムであって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像の表示を制御する表示制御ステップとを含むことを特徴とする。
【0056】
本発明の画像処理装置および方法、並びに第1のプログラムにおいては、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータが抽出され、抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データが調整されて第2の画像データが生成され、生成された第2の画像データに対応する画像の表示が制御される。
【0057】
本発明の画像処理装置は、内蔵する表示デバイスに対して表示の制御を行ってもよいし、外部の表示デバイスに対して表示の制御を行ってもよい。
【0058】
また、第1の画像データは、他の装置より配信または放送されてくるリアルタイムの画像データであってもよいし、記録媒体や画像処理装置に内蔵するメモリに一度記憶された画像データであってもよい。
【0059】
本発明の画像表示装置は、画像を表示する表示手段と、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データに対応する画像を、表示手段に表示させるように制御する表示制御手段とを備えることを特徴とする。
【0060】
本発明の画像表示方法は、画像を表示する表示デバイスを備える画像表示装置の画像表示方法であって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像を、表示デバイスに表示させるように制御する表示制御ステップとを含むことを特徴とする。
【0061】
本発明の第2のプログラムは、表示デバイスに対する画像の表示を制御する処理を、コンピュータに実行させるプログラムであって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像を、表示デバイスに表示させるように制御する表示制御ステップとを含むことを特徴とする。
【0062】
本発明の画像表示装置および方法、並びに第2のプログラムにおいては、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータが抽出され、抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データが調整されて第2の画像データが生成され、生成された第2の画像データに対応する画像が、表示デバイスに表示される。
【0063】
画像表示装置は、他の装置より配信または放送されてくるリアルタイムの画像データに対応する画像を表示してもよいし、記録媒体や画像処理装置に内蔵するメモリに一度記憶された画像データに対応する画像を表示してもよい。
【0064】
本発明の画像配信装置は、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データを配信する配信手段とを備えることを特徴とする。
【0065】
本発明の画像配信方法は、画像データを配信する画像配信装置の画像配信方法であって、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データを配信する配信ステップとを含むことを特徴とする。
【0066】
本発明の第3のプログラムは、画像データの配信を制御する処理をコンピュータに実行させるプログラムであって、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データの配信を制御する配信制御ステップとを含むことを特徴とする。
【0067】
本発明の画像配信装置は、画像データを有線で配信してもよいし、無線で配信してもよい。或いは、本発明の画像配信装置は、画像データを、有線および無線の両方の通信方法で配信してもよい。
【0068】
また、本発明の画像配信装置は、画像データのみを配信してもよいし、画像データとともに他のコンテンツを配信してもよい。
【0069】
【発明の実施の形態】
図14は、本発明が適用される画像処理装置または画像表示装置としての携帯型表示機器の構成例を表している。
【0070】
図14の携帯型表示機器21において、CPU(Central Processing Unit)31は、ROM(Read Only Memory)32に記録されているプログラム、または記憶部39からRAM(Random Access Memory)33にロードしたプログラムに従って各種の処理を実行する。RAM33にはまた、CPU31が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0071】
CPU31、ROM32、およびRAM33は、バス34を介して相互に接続されている。このバス34にはまた、入出力インタフェース35も接続されている。
【0072】
入出力インタフェース35には、キーボード、マウスなどよりなる入力部36、LCD(Liquid Crystal Display)51などよりなる出力部37、デジタルビデオカメラ61等の外部機器とのインタフェースとなる外部機器接続部38、ハードディスクなどより構成される記憶部39、および、アンテナ41を介する他の無線通信装置(図示せず)との無線通信処理を実行する無線通信部40が接続されている。
【0073】
無線通信部40の無線通信方式は、特に限定されず、例えば、IEEE802.11a、若しくは802.11bの無線LAN、または、ブルートゥース等の汎用的な無線通信方式が使用可能である。或いは、携帯型表示機器21が携帯電話機として機能する場合、無線通信部40は、中継基地(図示せず)を介して他の携帯電話機(図示せず)と無線通信を行うための無線通信処理を実行する。さらにまた、携帯型表示機器21がテレビジョン受像機として機能する場合、無線通信部40は、放送事業者の情報処理装置より放送されるテレビジョン信号を受信するチューナとして機能する。
【0074】
入出力インタフェース35にはまた、必要に応じてドライブ42が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブル記録媒体52が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部39にインストールされる。
【0075】
なお、本発明が適用される画像処理装置または画像表示装置の実施の形態は、図14に示されるような携帯型のパーソナルコンピュータ21に限定されず、様々な実施の形態が可能である。具体的には、例えば、ゲーム専用装置、PDA(Personal Digital Assistants)、携帯電話機、または、デジタル電化製品(例えば、携帯型のテレビジョン受像機)等様々な実施の形態が可能である。或いは、携帯型でなくとも、据置型の装置でもよい。例えば、大型の画面を有するテレビジョン受像機の中には、その表示部(画面)内の所定の小さな領域に、その領域以外の画面全体に表示されている画像とは異なる画像を縮小させて表示させる機能を有するものもある。そのような機能が利用される場合に、本発明が適用されてもよい。
【0076】
図15は、携帯型表示機器21(図14)が有している機能のうちの、後述する図16のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0077】
図15に示されるように、このソフトウエアプログラムは、画像入力モジュール71、ユーザ注目対象設定モジュール72、ユーザ注目対象抽出モジュール73、ユーザ注目対象調整モジュール74、ユーザ注目対象合成モジュール75、ダウンコンバートモジュール76、および、画像出力モジュール77といった複数のモジュールにより構成されている。
【0078】
これらの各モジュールのそれぞれは、1つの独立したアルゴリズムを持ち、かつ、そのアルゴリズムに従って固有の動作を実行する。即ち、各モジュールのそれぞれは、CPU31(図14)により適宜読み出され、実行される。なお、後述する他のモジュールについても同様とされる。
【0079】
画像入力モジュール71は、原画像に対応する画像データを入力する。
【0080】
なお、以下、画像データであることを強調する必要がない場合(画像データと画像を区別する必要がない場合)、単に、画像と称することもある。即ち、原画像に対応する画像データを、以下、単に原画像と称することもある。
【0081】
画像入力モジュール71は、原画像として、デジタルビデオカメラ61が撮影している画像を、外部機器接続部38を介して入力してもよいし、記憶部39に予め記憶されている画像を入力してもよいし、或いは、他の無線通信装置(図示せず)から配信される画像を、アンテナ41および無線通信部40を介して入力してもよい。即ち、画像入力モジュール71が原画像を入力する入力元は特に限定されず、その他、例えば、図15には図示されていないが、図14のドライブ42に接続されたリムーバブル記録媒体52が入力元とされてもよい。なお、後述する他の画像入力モジュールについても同様とされる。
【0082】
ユーザ注目対象設定モジュール72は、画像入力モジュール71が入力した原画像の中から、ユーザが着目するオブジェクト(後述するように、他のオブジェクトに対して相対的に強調されて表示されるオブジェクト)を設定する。なお、以下、このようなユーザが着目するオブジェクトを、ユーザ注目対象と称する。
【0083】
ユーザ注目対象抽出モジュール73は、画像入力モジュール71が入力した原画像の中から、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象に対応するデータを画像認識により抽出する。なお、所定のオブジェクト(この例では、ユーザ注目対象)に対応するデータを、画像データから画像認識により抽出する方法は、一般に多数知られており、ユーザ注目対象抽出モジュール73は、このような方法のうちのいずれの方法を用いても構わない。
【0084】
この例においては、例えば、画像入力モジュール71が入力する原画像が動画像とされた場合、ユーザ注目対象抽出モジュール73は、動きベクトルなど前後のフレームの抽出結果を利用して、ユーザ注目対象のデータを抽出する。このように、原画像が動画像とされた場合、ユーザ注目対象抽出モジュール73は、動きベクトルなど前後のフレームの抽出結果を利用することで、容易にユーザ注目対象を特定することが可能になる。
【0085】
ユーザ注目対象調整モジュール74は、ユーザ注目対象抽出モジュール73により抽出されたユーザ注目対象のデータを調整する。即ち、ユーザ注目対象調整モジュール74は、原画像に含まれる他のオブジェクトに対してユーザ注目対象を相対的に強調させて表示させるために、ユーザ注目対象のデータに所定の画像処理を施す。この画像処理の方法は、特に限定されないが、この例においては、例えば、ユーザ注目対象調整モジュール74は、ユーザ注目対象の画像サイズを他のオブジェクトに対して相対的に拡大する画像処理を、ユーザ注目対象のデータに行うとする。なお、画像を拡大または縮小する方法も一般に多数知られており、ユーザ注目対象調整モジュール74は、このような方法のうちのいずれの方法を用いても構わない。
【0086】
ユーザ注目対象合成モジュール75は、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象のデータを、画像入力モジュール71が入力した原画像(データ)に合成する。これにより、他のオブジェクトに対してユーザ注目対象が強調された画像(以下、このような画像を、ユーザ注目対象強調画像と称する)のデータが生成される。
【0087】
ダウンコンバートモジュール76は、ユーザ注目対象強調画像のデータのうちの、ダウンコンバート処理を施す必要があると判断したものに対して、ダウンコンバートを行なう。
【0088】
具体的には、例えば、上述した図2乃至図5に示されるように、原画像の解像度(ダウンコンバートモジュール76に入力された時点のユーザ注目対象強調画像の解像度)よりも表示部(この例では、LCD51)の解像度が低い場合、ダウンコンバートモジュール76は、ダウンコンバート処理が必要であると判断し、ユーザ注目対象強調画像のデータに対して、ダウンコンバート処理を施した後、ダウンコンバートされたユーザ注目対象強調画像のデータを画像出力モジュール77に供給する。
【0089】
これに対して、上述した図6乃至図9に示されるように、原画像と表示部の解像度が同じである場合、ダウンコンバートモジュール76は、ダウンコンバート処理が不要であると判断し、ユーザ注目対象強調画像のデータをそのまま(ダウンコンバート処理を行わず)画像出力モジュール77に供給する。
【0090】
画像出力モジュール77は、ダウンコンバートモジュール76より供給されたユーザ注目対象強調画像のデータを出力先のフォーマットに変換した後、出力先に対して出力する。出力先は、入力元と同様に特に限定されず、例えば、LCD51であってもよいし、記憶部39であってもよいし、外部機器接続部38に接続されたデジタルビデオカメラ61であってもよいし、或いは、無線通信部40であってもよい。出力先が無線通信部40の場合、出力されたユーザ注目対象強調画像に対応する画像信号は、アンテナ41を介して他の無線通信装置(図示せず)に送信される。なお、後述する他の画像出力モジュールについても同様とされる。
【0091】
次に、図16のフローチャートを参照して、図15の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0092】
はじめに、ステップS1において、画像入力モジュール71は、原画像を入力する。
【0093】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール71は、原画像として、記憶部39に予め記憶されていた図17に示される画像81−1に対応する画像データ(以下、単に原画像81−1と称する)を入力するとする。
【0094】
原画像81−1は、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像81−1は、ピッチャー92−1がバッター91−1に向かってボール93−1を投げた状態を表している。
【0095】
ステップS2において、ユーザ注目対象設定モジュール72は、ユーザ注目対象を設定する。
【0096】
設定されるユーザ注目対象は、特に限定されないが、この例においては、例えば、ユーザ注目対象設定モジュール72は、ユーザ注目対象としてボールを設定するとする。即ち、上述したように、野球を表している画像が携帯型表示機器(この例では、携帯型表示機器21)に表示される場合、ユーザはボールの視認が困難になるという課題があった。そこで、この例においては、ユーザがボールを視認できるように、ユーザ注目対象としてボールが設定される。
【0097】
なお、ユーザ注目対象設定モジュール72におけるユーザ注目対象の設定方法は、特に限定されず、例えば、ユーザが入力部36(図14)を操作して、ユーザ注目対象としてボールを指定する情報をユーザ注目対象設定モジュール72(図14のCPU31)に入力させ、ユーザ注目対象設定モジュール72が、その入力された情報に基づいて、ユーザ注目対象としてボールを設定してもよい。或いは、ユーザ注目対象設定モジュール72が、原画像81−1を解析し、それが野球を表した画像であることを認識した後、自分自身の総合的な判断で、ユーザ注目対象としてボールを設定してもよい。
【0098】
ステップS3において、ユーザ注目対象抽出モジュール73は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール73は、原画像81−1の中から、ユーザ注目対象としてボール93−1に対応する画像データ(以下、単にボール93−1と称する)を抽出する。
【0099】
ステップS4において、ユーザ注目対象調整モジュール74は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール74は、ユーザ注目対象抽出モジュール73により抽出されたボール93−1に対して拡大処理82を施して、その画像サイズを大きくした画像データ93−2(以下、そのような画像データを、単にボール93−2と称する)を生成する。
【0100】
ステップS5において、ユーザ注目対象合成モジュール75は、ユーザ注目対象(データ)を原画像(データ)に合成する。即ち、この例においては、例えば、ユーザ注目対象合成モジュール75は、画像入力モジュール71が入力した原画像81−1に、ユーザ注目対象調整モジュール74により調整された(画像サイズが大きくされた)ボール93−2を合成して、ユーザ注目対象強調画像81−2に対応する画像データ(以下、単に、ユーザ注目対象強調画像81−2と称する)を生成する。
【0101】
ステップS6において、ダウンコンバートモジュール76は、ダウンコンバートの必要があるか否かを判定する。
【0102】
ステップS6において、ダウンコンバートの必要がないと判定された場合、ステップS8において、画像出力モジュール77は、ユーザ注目対象強調画像81−2を出力する。上述したように、様々な出力先が可能であるが、この例においては、例えば、出力先はLCD51とされる。即ち、画像出力モジュール77は、ユーザ注目対象強調画像81−2に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール77より出力された画像信号に対応するユーザ注目対象強調画像81−2を表示する。
【0103】
この場合、図17において、例えば、原画像81−1が、上述した図6の画像1−1と同様に、720×480画素、かつ水平寸法50cmの画像とされ、LCD51が、720×480画素、かつ水平寸法5cmとされると、LCD51には、720×480画素、かつ水平寸法5cmのユーザ注目対象強調画像81−2が表示される。LCD51に表示されるユーザ注目対象強調画像81−2は、その全体の画像サイズが、原画像81−1に比べて小さくなるものの、ユーザ注目対象強調画像81−2に対するボール93−2の相対的なサイズ(ボール93−2の占める割合)は、原画像81−1に対するボール93−1の相対的なサイズよりも大きくなる。
【0104】
従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像81−2を見て、ピッチャー92−1がボール93−2をバッター91−1に対して投げている状況であることを確実に視認することが可能になる。換言すると、上述した第2の例(解像度に変化はなく、画素の大きさが小さくなる例)に対する従来の課題を解決することが可能になる。
【0105】
これに対して、ステップS6において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール76は、ステップS7において、ダウンコンバートを実行する。即ち、この例においては、例えば、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75により生成されたユーザ注目対象強調画像81−2に対してダウンコンバート処理を施し、ユーザ注目対象強調画像81−3に対応する画像データとし、画像出力モジュール77に供給する。
【0106】
そして、ステップS8において、画像出力モジュール77は、ユーザ注目対象強調画像81−3に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール77より出力された画像信号に対応するユーザ注目対象強調画像81−3を表示する。
【0107】
この場合、図17において、例えば、原画像81−1が、上述した図2の画像1−1と同様に、720×480画素の画像とされ、LCD51が、180×120画素とされると、LCD51には、180×120画素の解像度にダウンコンバートされたユーザ注目対象強調画像81−3が表示される。
【0108】
このように、LCD51に表示されるユーザ注目対象強調画像81−3は、原画像81−1が単にダウンコンバートされたものではなく、原画像81−1のボール93−1よりも大きいボール93−2が合成されたユーザ注目強調画像81−2がダウンコンバートされたものである。その結果、ユーザ注目対象強調画像81−3に対するボール93−3の相対的なサイズ(ボール93−3の占める割合)は、原画像81−1に対するボール93−1の相対的なサイズよりも大きくなっている。
【0109】
従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像81−3を見て、ピッチャー92−2がボール93−3をバッター91−2に対して投げている状況であることを確実に視認することが可能になる。換言すると、上述した第1の例(解像度が低くなる例)および第3の例(解像度が低くなるとともに、画像の大きさが小さくなる例)に対する従来の課題を解決することが可能になる。
【0110】
このように、図15のソフトウエアプログロムが搭載された図14の携帯型表示機器21は、ユーザ注目対象が他のオブジェクトよりも相対的に強調されたユーザ注目対象強調画像81−2、またはユーザ注目対象強調画像81−3を表示(または出力)することができるので、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0111】
ところで、上述した例では、ユーザ注目対象調整処理は、静止画像に対する処理とされたが、動画像とされても基本的に同様の処理が施される。ただし、動画像の場合、ユーザ注目対象抽出モジュール73は、例えば、以下のようにしてユーザ注目対象のデータを抽出する。
【0112】
即ち、図18は、動画像の場合、ユーザ注目対象抽出モジュール73が、ユーザ注目対象(ボール)のデータを、その動きに追従させて抽出する様子を表している。
【0113】
画像101−1は、動画像を構成するフレームのうちの所定のフレームであり、原画像81−1(図17)と同様に、野球の様子を表している。即ち、画像101−1は、ピッチャー112−1がバッター111−1に向かってボール113−1を投げた状態を表している。
【0114】
画像101−2は、画像101−1の次(後)のフレームであり、ボール113−2が、画像101−1のボール113−1の位置に対して、ピッチャー112−2よりもバッター111−2側に進んでいることを表している(実際の画像101−2には、ボール113−1と点線の矢印は含まれない)。
【0115】
画像101−3は、画像101−2の次(後)のフレームであり、ボール113−3が、画像101−2のボール113−2の位置に対して、ピッチャー112−3よりもバッター111−3側にさらに進んでいることを表している(実際の画像101−3には、ボール113−2と点線の矢印は含まれない)。
【0116】
この場合、画像101−1が仮に動画像の最初のフレームとされ、画像入力モジュール71が、原画像として画像101−1を入力すると、ユーザ注目対象抽出モジュール73は、画像認識によりボール113−1を探索し、そのデータを抽出する。この探索処理は、画像101−1の全ての範囲に及ぶため大きな処理となり、それだけ処理時間もかかることになる。
【0117】
これに対して、動画像においては前後のフレームにおける差分は一般に小さいものであるため、画像入力モジュール71が、原画像として、画像101−1の次のフレームである画像101−2を入力した場合、ユーザ注目対象抽出モジュール73は、画像101−1におけるボール113−1の付近の領域を探索するだけで、ボール113−2のデータを抽出することが可能となる。即ち、この場合の探索処理は最初のフレーム(いまの場合、画像101−1)に対して小さな処理となり、その分、処理時間も短縮される。
【0118】
画像入力モジュール71が、原画像として、画像101−2の次のフレームである画像101−3を入力した場合、ユーザ注目対象抽出モジュール73は、画像101−2が原画像である場合と同様な方法によって、ボール113−3を探索できる。さらに、ユーザ注目対象抽出モジュール73は、画像101−1から画像101−2への切り替わり時にボール113−1の位置とボール113−2の位置の間の距離(ボールの移動距離)を計測して、画像101−3におけるボール113−3の位置を予め推定することができるため、更に効率の良い探索が可能になる。
【0119】
このように、動画像においては、ユーザ注目対象抽出モジュール73は、前後のフレームから、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象(この例では、ボール)の動きに追従した探索を行なうことで、画像認識による探索よりも効率のよい探索を行うことが可能になる。即ち、処理量が少なくかつ処理時間の短い探索が可能になる。
【0120】
さらに、ユーザ注目対象抽出モジュール73は、画像認識により探索を行う場合、ユーザ注目対象と似たものが同じ画像内に含まれていると、誤った認識(探索)を行なう恐れもあるが、ユーザ注目対象(この例では、ボール)の動きに追従した探索を行う場合、ユーザ注目対象の前後のフレーム間の関係に基づいて探索を行うので、正しいユーザ注目対象をより正確かつより早く探索することが可能になる。
【0121】
なお、上述した例では、ユーザ注目対象(ボール)の位置が着目された探索が行われたが、位置以外の変化が利用される探索でも同様の効果がある。例えば、カメラが、画像101−1の状況をバッター111−1の後方から撮影した場合、ピッチャー112−1によって投げられたボール113−1は時々刻々と近づいて来ることになる。換言すると、ボールの大きさ(画像に対する相対的な大きさ)が時々刻々と大きくなる。ユーザ注目対象抽出モジュール73は、この大きさの変化に追従することで、より効率良く、かつより正確に画像内のボールを特定することが可能になる。
【0122】
このように動画像においては、ユーザ注目対象抽出モジュール73は、今回の処理の前に探索したユーザ注目対象の変化に追従して、処理対象の画像内のユーザ注目対象の探索を行なうことで、そのデータを抽出する。従って、ユーザ注目対象が効率良く探索されるとともに、誤った探索が行われる可能性も少なくなる。
【0123】
以上、携帯型表示機器21のユーザ注目対象調整処理を実現するソフトウエアプログラムとして、図15と図16の例に基づいて説明したが、このソフトウエアプログラムは、図15と図16の例に限定されず、様々な実施の形態が可能である。
【0124】
そこで、以下、図15と図16の例とは異なるソフトウエアプログラムの例について説明する。
【0125】
具体的には、例えば、図19は、携帯型表示機器21(図14)が有している機能のうちの、後述する図20のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0126】
図19に示されるように、このソフトウエアプログラムは、図15の画像入力モジュール71乃至画像出力モジュール77のそれぞれと同様の機能を有する画像入力モジュール121乃至画像出力モジュール127のそれぞれより構成されている。
【0127】
ただし、図15の例では、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75の後に配置されていたが、図19の例では、ダウンコンバートモジュール126は、ユーザ注目対象合成モジュール125の前に配置されている。
【0128】
即ち、図15の例では、先に、ユーザ注目対象合成モジュール75が、画像入力モジュール71が入力した原画像と、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成した後、ダウンコンバートモジュール76が、ユーザ注目対象強調画像のダウンコンバートを実行する。
【0129】
これに対して、図19の例では、先に、ダウンコンバートモジュール126が、画像入力モジュール121が入力した原画像のダウンコンバートを実行し、その後、ユーザ注目対象合成モジュール125が、ダウンコンバートモジュール126によりダウンコンバートされた原画像と、ユーザ注目対象調整モジュール124により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成する。
【0130】
次に、図20のフローチャートを参照して、図19の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0131】
はじめに、ステップS21において、画像入力モジュール121は、原画像を入力する。
【0132】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール121は、原画像として、デジタルビデオカメラ61が撮影した図21に示される画像131−1に対応する画像データ(以下、単に原画像131−1と称する)を、外部機器接続部38を介して入力するとする。
【0133】
原画像131−1は、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像131−1は、ピッチャー142−1がバッター141−1に向かってボール143−1を投げた状態を表している。
【0134】
また、この例においては、例えば、デジタルビデオカメラ61の表示部(図示せず)は、解像度が720×480画素とされている。即ち、画像131−1の解像度が720×480画素とされている。これに対して、携帯型表示機器21のLCD51の解像度が180×120画素とされている。
【0135】
さらに、説明の都合上、デジタルビデオカメラ61の表示部の画素と携帯型表示機器21のLCD51の画素の大きさは、同じ大きさとされている。
【0136】
即ち、この例は、図21に示されるように、解像度だけが下げられる場合の例である。換言すると、この例は、上述した図2乃至図5に示される従来の課題が発生する第1の例(720×480画素の画像から180×120画素の画像に変換される場合の第1の例)に対応する例であって、その第1の例の課題を解決することが可能な例である。
【0137】
次に、ステップS22において、ユーザ注目対象設定モジュール122は、ユーザ注目対象を設定する。なお、この例においても、上述した例と同様に、ユーザ注目対象設定モジュール122は、ユーザ注目対象としてボールを設定するとする。
【0138】
ステップS23において、ユーザ注目対象抽出モジュール123は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール123は、原画像131−1の中から、ユーザ注目対象としてボール143−1に対応する画像データ(以下、単にボール143−1と称する)を抽出する。
【0139】
ステップS24において、ユーザ注目対象調整モジュール124は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール124は、ユーザ注目対象抽出モジュール123により抽出されたボール143−1に対してサイズ変換処理132を施して、その画像サイズを元のn倍の大きさにする。
【0140】
このサイズの変換率nは、特に限定されないが、この例においては、例えば、後述するように、原画像131−1が1/4倍ダウンコンバートされた画像131−2に対して、ボール143−1のn倍のサイズのボール143−5が合成されることになるので、少なくとも1/4よりも大きい値とされる。即ち、変換率nが1/4以下とされた場合、ボール143−5の画像131−3に対する相対的な大きさ(ボール143−5の占める割合)は、ボール143−1の画像131−1に対する相対的な大きさ(元の大きさ)よりも小さくなってしまう。そこで、この例においては、変換率nは、1/4よりも大きな値とされる。
【0141】
具体的には、変換率nが、1/4<n<1とされた場合、ユーザ注目対象調整モジュール124は、処理132としてサイズ縮小処理を施して、ボール143−1に対して、その画像サイズがn(1/4<n<1)倍縮小された画像データ143−3(以下、そのような画像データを、単にボール143−3と称する)を生成する。
【0142】
変換率nが1とされた場合、ユーザ注目対象調整モジュール124は、処理132として特に何の処理も施さず、ボール143−1をそのまま使用する。
【0143】
変換率nが、1>nとされた場合、ユーザ注目対象調整モジュール124は、処理132としてサイズ拡大処理を施して、ボール143−1に対して、その画像サイズがn(1>n)倍拡大された画像データ143−4(以下、そのような画像データを、単にボール143−4と称する)を生成する。
【0144】
ステップS25において、ダウンコンバートモジュール126は、ダウンコンバートの必要があるか否かを判定する。
【0145】
ステップS25において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール126は、特に何の処理も施さない。即ち、処理は、ステップS27に進められる。
【0146】
これに対して、この例においては、ダウンコンバートモジュール126は、ステップS25において、ダウンコンバートの必要があると判定し、ステップS26において、画像入力モジュール121が入力した720×480画素の原画像131−1に対して、1/4のダウンコンバートを実行し、180×120画素の原画像131−2に対応する画像データ(以下、単に原画像131−2と称する)を生成する。
【0147】
この原画像131−2がLCD51にそのまま表示された場合、上述した第1の例に対する従来の課題が発生する。そこで、この例においては、ステップS27において、ユーザ注目対象合成モジュール125が、ダウンコンバートモジュール126によりダウンコンバートされた原画像131−2(180×120画素の原画像131−2)に、ユーザ注目対象調整モジュール124により調整されたボール143−5(ボール143−5は、変換率nが1/4<n<1であった場合、ボール143−3であり、変換率nが1であった場合、ボール143−1であり、また、変換率nが1>nであった場合、ボール143−4である)を合成して、ユーザ注目対象強調画像131−3に対応する画像データ(以下、単に、ユーザ注目対象強調画像131−3と称する)を生成する。
【0148】
ステップS28において、画像出力モジュール127は、ユーザ注目対象強調画像131−3を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール127は、ユーザ注目対象強調画像131−3に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール127より出力された画像信号に対応するユーザ注目対象強調画像131−3を表示する。
【0149】
このように、ユーザ注目対象強調画像131−3の全体は、原画像131−1に対して1/4にダウンコンバートされているが、ユーザ注目対象強調画像131−3に含まれるボール143−5は、少なくとも1/4倍よりも大きなサイズにコンバートされている。換言すると、ユーザ注目対象強調画像131−3に対するボール143−5の相対的なサイズ(ボール143−5の占める割合)は、原画像131−1に対するボール143−1の相対的なサイズよりも大きくなっている。従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像131−3を見て、ピッチャー142−2がボール143−5をバッター141−2に対して投げている状況であることを確実に視認することが可能になる。
【0150】
このように、図19のソフトウエアプログロムが搭載された携帯型表示機器21は、ユーザ注目対象が他のオブジェクトよりも強調されたユーザ注目対象強調画像131−3を表示(または出力)することができるので、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0151】
なお、上述した図19の例の説明として、携帯型表示機器21のLCD51の解像度が不十分な場合(原画像131−1の解像度より低い場合)、即ち、上述した第1の例に対する従来の課題を解決する説明を行ったが、勿論、図19の例においても、第2の例(解像度に変化はなく、画素の大きさが小さくなる例)や第3の例(解像度が低くなるとともに、画像の大きさが小さくなる例)に対する課題も解決することが可能である。
【0152】
さらに、図15と図16の例、および、図19と図20の例とは異なるソフトウエアプログラムの例が、図22と図23に示されている。
【0153】
即ち、図22は、例えば、携帯型表示機器21(図14)が有している機能のうちの、後述する図23のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0154】
図22に示されるように、このソフトウエアプログラムは、図15の画像入力モジュール71乃至画像出力モジュール77のそれぞれと同様の機能を有する画像入力モジュール151乃至画像出力モジュール157のそれぞれより構成されている。
【0155】
ただし、図15の例では、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75の後に配置されていたが、図22の例では、ダウンコンバートモジュール156は、画像入力モジュール151の直後に配置されている。
【0156】
即ち、図15の例では、ユーザ注目対象合成モジュール75が、画像入力モジュール71が入力した原画像と、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成した後、ダウンコンバートモジュール76が、ユーザ注目対象強調画像に対してダウンコンバートを実行する。
【0157】
これに対して、図22の例では、先に、ダウンコンバートモジュール156が、画像入力モジュール151が入力した原画像に対してダウンコンバートを実行する。その後、ユーザ注目対象抽出モジュール153が、そのダウンコンバートされた原画像の中から、ユーザ注目対象設定モジュール152により設定されたユーザ注目対象を抽出し、ユーザ注目対象調整モジュール154が、抽出されたユーザ注目対象を調整する。そして、ユーザ注目対象合成モジュール155が、ダウンコンバートモジュール156によりダウンコンバートされた原画像と、ユーザ注目対象調整モジュール154により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成する。
【0158】
次に、図23のフローチャートを参照して、図22の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0159】
はじめに、ステップS41において、画像入力モジュール151は、原画像を入力する。
【0160】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール151は、原画像として、他の装置(図示せず)より配信された図24に示される画像161−1に対応する画像データ(以下、単に原画像161−1と称する)を、アンテナ41および無線通信部40を介して入力するとする。
【0161】
原画像161−1も、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像161−1は、ピッチャー172−1がバッター171−1に向かってボール173−1を投げた状態を表している。
【0162】
ステップS42において、ダウンコンバートモジュール156は、ダウンコンバートの必要があるか否かを判定する。
【0163】
ステップS42において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール156は、特に何の処理も施さない。即ち、処理は、ステップS44に進められる。
【0164】
これに対して、この例においては、ダウンコンバートモジュール156は、ステップS42において、ダウンコンバートの必要があると判定し、ステップS43において、画像入力モジュール151が入力した原画像161−1に対して、1/4のダウンコンバートを実行し、原画像161−2に対応する画像データ(以下、単に原画像161−2と称する)を生成する。
【0165】
この原画像161−2がLCD51にそのまま表示された場合、上述した従来の課題が発生する。そこで、この例においては、ステップS44において、ユーザ注目対象設定モジュール152が、ユーザ注目対象を設定する。なお、この例においても、上述した例と同様に、ユーザ注目対象設定モジュール152は、ユーザ注目対象としてボールを設定するとする。
【0166】
ステップS45において、ユーザ注目対象抽出モジュール153は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール153は、原画像161−2の中から、ユーザ注目対象としてボール173−2に対応する画像データ(以下、単にボール173−2と称する)を抽出する。
【0167】
このように、この例(図22と図23の例)においては、ユーザ注目対象抽出モジュール153が、ダウンコンバートされた原画像161−2の中から、ボール173−2を探索するので、上述した他の例のように、ダウンコンバートされていない元の原画像の中からボールを探索する場合の処理量に比較して、処理量の軽減が可能になる。
【0168】
ステップS46において、ユーザ注目対象調整モジュール154は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール154は、ユーザ注目対象抽出モジュール153により抽出されたボール173−2に対してサイズ拡大処理162を施して、その画像サイズが拡大されたボールに対応する画像データ173−3(以下、そのような画像データを、単にボール173−3と称する)を生成する。
【0169】
ステップS47において、ユーザ注目対象合成モジュール155は、ダウンコンバートモジュール156によりダウンコンバートされた原画像161−2に、ユーザ注目対象調整モジュール154により調整されたボール173−3を合成して、ユーザ注目対象強調画像161−3に対応する画像データ(以下、単に、ユーザ注目対象強調画像161−3と称する)を生成する。
【0170】
ステップS48において、画像出力モジュール157は、ユーザ注目対象強調画像161−3を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール157は、ユーザ注目対象強調画像161−3に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール157より出力された画像信号に対応するユーザ注目対象強調画像161−3を表示する。
【0171】
このように、原画像161−1が1/4にダウンコンバートされた後、そのダウンコンバートされた原画像161−2の中からボール173−2が抽出され、抽出されたボール173−2が拡大されてボール173−3となり、その拡大されたボール173−3が、原画像161−2に合成されてユーザ注目対象強調画像161−3が生成される。従って、ユーザ注目対象強調画像161−3に対するボール173−3の相対的なサイズ(ボール173−3の占める割合)は、ダウンコンバートされる前の元の原画像161−1に対するボール173−1の相対的なサイズよりも大きくなる。これにより、ユーザは、LCD51に表示されたユーザ注目対象強調画像161−3を見て、ピッチャー172−2がボール173−3をバッター171−2に対して投げている状況であることを確実に視認することが可能になる。
【0172】
このように、図22のソフトウエアプログロムが搭載された携帯型表示機器21も、ユーザ注目対象が他のオブジェクトよりも強調されたユーザ注目対象強調画像161−3を表示(または出力)することができるので、他の例と同様に、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0173】
以上、図14の携帯型表示機器21が、ユーザ注目対象調整処理を行う例として、ユーザ注目対象を元の画像から抽出し調整してから、元の画像に合成することで、ユーザ注目対象を相対的に拡大する処理を行う3つの例(図15と図16の例、図19と図20の例、および、図22と図23の例)について説明した。
【0174】
勿論、ユーザ注目対象調整処理は、上述した3つの例に限定されず、様々な処理が可能である。即ち、ユーザ注目対象調整処理は、単に、ユーザ注目対象を他のオブジェクトに対して相対的に強調させて表示させることが可能な処理であればよい。
【0175】
例えば、携帯型表示機器21は、ユーザ注目対象を拡大しその周辺部を縮小することで、ユーザ注目対象を強調して表示させてもよい。
【0176】
図25乃至図27を参照して、このようなユーザ注目対象調整処理の具体的な例について説明する。
【0177】
即ち、この例では、例えば、図25の画像181−1が、オセロゲームの1場面を表す原画像とされている。また、原画像181−1のうちの、左から5升目、上から5升目の黒の駒182がユーザ注目対象として設定されている。
【0178】
この場合、上述した他の例と同様に、携帯型表示機器21が、ユーザ注目対象である駒182を、原画像181−1から抽出し調整してから原画像181−1に合成するユーザ注目対象調整処理を実行した場合、図26に示されるようなユーザ注目対象強調画像181−2が生成される。このように、オセロゲームのようなものに対して上述したユーザ注目対象調整処理の他の例が適用されると、拡大されたユーザ注目対象(駒)182が、その周辺部を隠してしまうユーザ注目対象強調画像181−2が生成されるという課題が発生する。
【0179】
そこで、このような場合、携帯型表示機器21は、ユーザ注目対象調整処理として、図27に示されるように、ユーザ注目対象(駒)182を拡大するとともに、その周辺部を逆に縮小した注目対象強調画像181−3を生成する処理を実行するとよい。図27の注目対象強調画像181−3に示されるように、携帯型表示機器21がこのようなユーザ注目対象調整処理を行うことで、ユーザ注目対象(駒)182の周辺部が隠れてしまうという課題(図26に示されるような課題)を解決することが可能になる。
【0180】
このように、携帯型表示機器21は、ユーザ注目対象を他のオブジェクトよりも強調して表示させるために、ユーザ注目対象そのものを調整してユーザ注目対象強調画像を生成するばかりではなく、ユーザ注目対象以外のオブジェクト(図27の例では、ユーザ注目対象(駒)182の周辺部のオブジェクト)を調整してユーザ注目対象強調画像を生成してもよい。
【0181】
以上、携帯型表示機器21のユーザ注目対象調整処理として、ユーザ注目対象を相対的に拡大する処理の例について説明したが、ユーザ注目対象調整処理は、これら上述した例に限定されない。即ち、ユーザ注目対象調整処理は、上述したように、単に、ユーザがユーザ注目対象を容易に認識できるような画像(ユーザ注目対象強調画像)の生成が可能な処理であればよい。
【0182】
具体的には、例えば、携帯型表示機器21は、ユーザ注目対象調整処理として、図28に示されるユーザ注目対象強調画像191−1、または、図29に示されるユーザ注目対象強調画像191−2を生成する処理を実行してもよい。
【0183】
即ち、図28のユーザ注目対象強調画像191−1は、上述した例と同様に、ピッチャー202−1がバッター201−1に向かってボール203−1を投げた状態を表す原画像から生成された画像である。ユーザ注目対象強調画像191−1においては、ユーザ注目対象であるボール203−1に対して矢印204が付加されることで、ボール203−1が強調されている(ユーザがボール203−1を容易に視認可能な画像とされている)。
【0184】
また、図29のユーザ注目対象強調画像191−2も、図28と同様に、ピッチャー202−1がバッター201−1に向かってボール203−1を投げた状態を表す原画像から生成された画像である。ユーザ注目対象強調画像191−2においては、図28の矢印204に対して、ボール203−1の周りを囲む円205が付加されることで、ボール203−1が強調されている(ユーザがボール203−1を容易に視認可能な画像とされている)。
【0185】
このように、携帯型表示機器21は、ユーザ注目対象を他のオブジェクトよりも強調して表示させるために、ユーザ注目対象そのものを調整したユーザ注目対象強調画像を生成するばかりではなく、ユーザ注目対象に対応するシンボルを新たに生成し、そのシンボルを原画像に付加した(合成した)ユーザ注目対象強調画像を生成してもよい。
【0186】
このようなシンボルが利用されるユーザ注目対象調整処理は、その他、例えば、競馬のような、ユーザ注目対象が複数個設定される場合に適用されると好適である。
【0187】
具体的には、例えば、競馬において、図30に示されるように、出走する馬が、馬221と馬222の2頭である場合、馬221と馬222は、LCD51に大きく映し出され、ユーザは馬221と馬222のそれぞれを容易に視認することが可能である。
【0188】
しかしながら、実際の競馬においては、図31に示されるように、出走する馬がさらに多くなる(図31の例では、馬221乃至馬227の7頭である)。従って、これらの沢山の馬221乃至馬227がLCD51に一度に映し出されると、馬221乃至馬227のそれぞれは非常に小さく映し出されることになり、ユーザは、馬221乃至馬227の中から、ユーザ自身が注目する馬を視認することが困難になる。さらに、一般的に、ユーザが注目する馬は、1頭ではなく複数の馬であることが多いため、ユーザ自身が注目する複数の馬を視認することがさらに困難になる。
【0189】
そこで、このような場合、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、図32に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬222および馬226のゼッケン(番号)のそれぞれに対応するシンボル232およびシンボル236のそれぞれを生成し、生成したシンボル232およびシンボル236のそれぞれを、馬222および馬226のそれぞれの周辺であって、馬221乃至馬227が隠れない位置に配置するようなユーザ注目対象強調画像を生成する処理を実行してもよい。
【0190】
また、例えば、ユーザ注目対象が馬221乃至馬227の全頭であるような場合、携帯型表示機器21は、ユーザ注目対象調整処理として、図33に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬221乃至馬227のゼッケン(番号)のそれぞれに対応するシンボル231乃至シンボル237のそれぞれを生成し、生成したシンボル231乃至シンボル237のそれぞれを、馬221乃至馬227のそれぞれの上に配置するような(合成するような)ユーザ注目対象強調画像を生成する処理を実行してもよい。
【0191】
或いは、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、図34に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬221乃至馬227のゼッケン(番号)のそれぞれに対応するシンボル231乃至シンボル237のそれぞれを生成し、生成したシンボル231乃至シンボル237のそれぞれを、馬221乃至馬227のそれぞれの代わりに配置するような(馬221乃至馬227のそれぞれを消去し、消去したそれぞれの位置にシンボル231乃至シンボル237のそれぞれを合成するような)ユーザ注目対象強調画像を生成する処理を実行してもよい。
【0192】
さらにまた、図示はしないが、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、シンボルを生成するのではなく、ユーザ注目対象の色を調整した(ユーザ注目対象の色を、他のオブジェクトに対して強調できるような所定の色に変換した)ユーザ注目対象強調画像を生成する処理を実行してもよい。具体的には、例えば、上述したような競馬の場合、ユーザ注目対象に設定された馬だけをカラー表示し、他のオブジェクト、即ち、他の馬を白黒で表示するようなユーザ注目対象強調画像が生成されてもよい。
【0193】
なお、ユーザ注目対象が複数の場合、例えば、複数のユーザ注目対象のそれぞれに対して予め優先順位が設定されるとともに、その優先順位のそれぞれに対して所定の色(相互に異なる色)が予め設定されていれば、携帯型表示機器21は、ユーザ注目対象調整処理として、複数のユーザ注目対象のそれぞれの色を、それぞれの優先順位に対応する色に変換したユーザ注目対象強調画像を生成する処理を実行してもよい。
【0194】
このように、ユーザ注目対象調整処理は、ユーザ注目対象を他のオブジェクト(他の部分)よりも相対的に目立つように原画像を調整して、ユーザ注目対象強調画像を生成する処理であればよい。即ち、ユーザ注目対象調整処理は、LCD51のような小さな若しくは解像度の低い表示デバイスであっても、ユーザが、ユーザ注目対象を容易に視認できるようなユーザ注目対象強調画像を生成する処理であれば、その処理の内容は特に限定されない。
【0195】
また、ユーザ注目対象は、上述したような野球のボール、オセロの駒、または、競馬の馬に限定されず、基本的に原画像に含まれるオブジェクトであれば、いずれのオブジェクトがユーザ注目対象とされてもよい。例えば、テニス、ゴルフ、または、サッカーのボールは勿論、これら競技の選手が、ユーザ注目対象として設定可能であるし、競技やゲーム以外の原画像の中からユーザ注目対象が設定されてもよい。
【0196】
さらにまた、ユーザ注目対象調整処理は、画像データのみならず、他のデータ(例えば、音声データ)に対しても適用可能である。
【0197】
ところで、上述したように、図14の携帯型表示機器21は、他の装置から配信される動画像や静止画像といったコンテンツを、アンテナ41および無線通信部40を介して受信し、LCD51に表示させることが可能である。
【0198】
また、例えば、図35に示されるように、このようなコンテンツが、放送事業者が利用する情報処理装置252(以下、放送事業者装置252と称する)より配信される場合、コンテンツの配信経路(伝送経路)は、一般的に、放送事業者装置252から携帯型表示機器21−1までの第1の経路と、放送事業者装置252から携帯型表示機器21−2までの第2の経路の2つに大別される。
【0199】
即ち、第1の経路は、放送事業者装置252から送信されたコンテンツが、放送アンテナ254を介して無線255で携帯型表示機器21−1まで到達する経路である。これに対して、第2の経路は、放送事業者装置252から送信されたコンテンツが、コンテンツ配信事業者が利用する情報処理装置251(以下、コンテンツ配信事業者装置251と称する)、専用線網またはインターネット網といったネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2まで到達する経路である。
【0200】
なお、コンテンツ配信事業者装置251は、放送事業者装置252とは独立に、携帯型表示機器21−2に対してコンテンツを伝送することも可能である。
【0201】
また、この例においては、例えば、携帯型表示機器21−1と携帯型表示機器21−2のハードウエア構成は、上述した図14に示される構成とされる。
【0202】
具体的には、コンテンツの放送が、例えば、地上波アナログ放送、地上波デジタル放送、または、衛星放送等である場合、第1の経路が利用される。第1の経路においては、画像等のコンテンツの流れは一方向(放送事業者装置252から携帯型表示機器21−1方向)であり、放送事業者装置252から放送されたコンテンツは、携帯型表示機器21−1を利用するユーザを含む多数のユーザに同時に利用される。従って、従来のテレビジョン放送のようにフィールド単位やフレーム単位で伝送する方式では、放送事業者装置252側で、複数のユーザそれぞれに対してユーザ注目対象を設定し、設定した複数のユーザ注目対象を処理することは容易でない。
【0203】
そこで、このような場合、例えば、上述した野球のボールのように誰もが注目する対象がユーザ注目対象として設定されることが現実的であり、上述したユーザ注目対象調整処理は、放送事業者装置252側で行われて、放送事業者装置252から、図36に示されるユーザ注目対象強調画像261−1(データ)が放送されることになる。
【0204】
なお、ユーザ注目対象強調画像261−1は、上述した他の例と同様に、ピッチャー272−1がバッター271−1に向かってボール273−1を投げた状態を表す画像であり、ユーザ注目対象であるボール273−1が、他のオブジェクト(ピッチャー272−1とバッター271−1)に対して相対的に強調されている。即ち、ユーザ注目対象強調画像261−1は、ユーザがボール273−1を容易に視認可能なように、ボール273−1が他のオブジェクトに対して大きくされた画像とされている。
【0205】
しかしながら、この場合、ボールを注目する大多数のユーザにとって満足のいく画像の放送が容易に可能となるという特長を有するものの、ボール以外のオブジェクトを注目したいユーザにとっては、不満が残る画像が放送されるという課題も有している。
【0206】
そこで、この課題を解決するために、放送事業者装置252が、コンテンツの伝送方式として、MPEG(Moving Picture Experts Group)−4のようなオブジェクト単位で画像の伝送が可能な方式を利用することが考えられる。この場合、放送事業者装置252は、図37に示されるように、原画像261−2に対応するデータ(以下、単に原画像261−2と称する)の他に、ユーザが注目する可能性が高いオブジェクトのデータ262(このようなオブジェクトのデータは、ユーザ注目対象の候補となるデータとなるので、以下、ユーザ注目対象候補262と称する)として個別に伝送することが可能になる。
【0207】
なお、原画像261−2は、図36のユーザ注目対象強調画像261−1と同様に、ピッチャー272−2がバッター271−2に向かってボール273−2を投げた状態を表す画像の画像データである。ただし、原画像261−2においては、ボール273−2が、他のオブジェクト(ピッチャー272−2とバッター271−2)に対して特に強調されていない。また、ユーザ注目対象候補262は、バッター271−2に対応する画像データ271−3(以下、単にバッター271−3と称する)、ピッチャー272−2に対応する画像データ272−3(以下、単にピッチャー272−3と称する)、および、ボール273−2に対応する画像データ273−3(以下、単にボール273−3と称する)とされている。
【0208】
このように、放送事業者装置252が、原画像261−2の他にユーザ注目対象候補262(バッター271−3、ピッチャー272−3、および、ボール273−3)を、放送アンテナ254を介して無線255で携帯型表示機器21−1に送信してきた場合、携帯型表示機器21−1は、このユーザ注目対象候補262の中からユーザ注目対象を自由に選択することが可能になる。従って、携帯型表示機器21−1は、選択したユーザ注目対象が他のオブジェクトに対して相対的に強調されたユーザ注目対象強調画像(図示せず)を生成し、LCD51(図14)等に表示させることが可能になる。
【0209】
このような放送事業者装置252が、携帯型表示機器21−1に対して複数のユーザ注目対象候補を送信してくる場合における、ユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの例が、図38と図39に示されている。
【0210】
即ち、図38は、例えば、携帯型表示機器21−1(図35)が有している機能のうちの、後述する図39のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0211】
図38に示されるように、このソフトウエアプログラムには、図15の画像入力モジュール71と同様の機能を有する画像入力モジュール281、図15のユーザ注目対象調整モジュール74と同様の機能を有するユーザ注目対象調整モジュール283、図15のユーザ注目対象合成モジュール74と同様の機能を有するユーザ注目対象合成モジュール284、図15のダウンコンバートモジュール76と同様の機能を有するダウンコンバートモジュール285、および、図15の画像出力モジュール77と同様の機能を有する画像出力モジュール286が設けられている。
【0212】
さらに、図38の例のソフトウエアプログラムには、図15のユーザ注目対象設定モジュール72とユーザ注目対象抽出モジュール73に対応するユーザ注目対象選択モジュール282が設けられている。
【0213】
ただし、図15の例では、先にユーザ注目対象が設定された後、その設定されたユーザ注目対象が抽出された。これに対して、図38の例では、画像入力モジュール281が、原画像(図37の例では、原画像261−2)を入力するとともに、放送事業者装置252(図35)側で原画像の中から予め抽出されたユーザ注目対象候補(図37の例では、ユーザ注目対象候補262)を入力する。そして、ユーザ注目対象選択モジュール282が、複数のユーザ注目対象候補のうちの、入力部36より入力された情報に対応するオブジェクト(ユーザにより指示されたオブジェクト)を、ユーザ注目対象として選択し、ユーザ注目対象調整モジュール283に供給する。
【0214】
次に、図39のフローチャートを参照して、図38の携帯型表示機器21−1のユーザ注目対象調整処理について説明する。
【0215】
例えば、いま、図35において、上述した図37に示される原画像261−2とユーザ注目対象候補262が、放送事業者装置252より放送アンテナ254を介して無線255で携帯型表示機器21−1に送信されてきたとする。
【0216】
そこで、図39のステップS61において、図38の画像入力モジュール281が、原画像261−2とユーザ注目対象候補262を入力する。なお、この入力は、この例においては、アンテナ41とされているが、アンテナ41に限定されず、その他、例えば、図38には図示されていないが、図14のドライブ42に装着されたリムーバブル記録媒体52、または、図14にも図示されていないが、LAN(Local Area Network)などより入力されても構わない。
【0217】
ステップS62において、ユーザ注目対象選択モジュール282は、画像入力モジュール281に入力されたユーザ注目対象候補262の中からユーザ注目対象となるものを選択する。
【0218】
ステップS62におけるユーザ注目対象の選択方法は、特に限定されないが、この例においては、例えば、次の通りとする。即ち、ユーザ注目対象選択モジュール282は、画像入力モジュール281に入力されたユーザ注目対象候補262をLCD51に表示させ、ユーザが、入力部36を操作して、LCD51に表示されたユーザ注目対象候補262の中からユーザ注目対象にしたいオブジェクトを指示する。ユーザ注目対象選択モジュール282は、入力部36より入力されたユーザの指示に基づいてユーザ注目対象を選択し、ユーザ注目対象調整モジュール283に供給する。
【0219】
なお、ユーザがユーザ注目対象を指示しない場合、ユーザ注目対象調整モジュール283は、自分自身の判断で、一般的に選択されることが多いオブジェクト、例えば、いまの場合、ボール273−3をユーザ注目対象として選択する。
【0220】
また、ユーザ注目対象選択モジュール282がLCD51に表示させるものは、上述したように、ユーザ注目対象候補262に対応する画像そのものでもよいが、それに限定されず、例えば、ユーザ注目対象候補262のリストでもよい。この場合、リストは、必ずしも原画像261−2やユーザ注目対象候補262とともに配信される必要はないが、それらとともに配信されたほうが使い勝手が良い。
【0221】
ステップS63において、ユーザ注目対象調整モジュール283は、ユーザ注目対象選択モジュール282により選択されたユーザ注目対象のデータ(例えば、ボール273−3)を調整する。
【0222】
ステップS64において、ユーザ注目対象合成モジュール284は、ユーザ注目対象調整モジュール283により調整されたボール273−3(ユーザ注目対象のデータ)を、画像入力モジュール281が入力した原画像261−2に合成して、ユーザ注目対象強調画像(図示はしないが、例えば、図36に示される画像261−1のような画像)に対応する画像データ(以下、単に、ユーザ注目対象強調画像と称する)を生成する。
【0223】
ステップS65において、ダウンコンバートモジュール285は、ダウンコンバートの必要があるか否かを判定する。
【0224】
ステップS65において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール285は、特に何の処理も施さない。即ち、処理は、ステップS67に進められる。
【0225】
これに対して、ステップS65において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール285は、ステップS66において、ユーザ注目対象強調画像に対して、ダウンコンバートを行う。
【0226】
ステップS67において、画像出力モジュール286は、ユーザ注目対象強調画像を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール286は、ユーザ注目対象強調画像に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール286より出力された画像信号に対応する画像(ユーザ注目対象強調画像)を表示する。
【0227】
出力先は、上述した例と同様に、LCD51に限定されず、例えば、図38に図示はされていないが、図14の記憶部39、無線通信部40とアンテナ41を介する他の装置(図14にも図示せず)、または、ドライブ42に装着されたリムーバブル記録媒体52等様々な出力先が可能である。
【0228】
このように、MPEG−4等のコンテンツの個別配信が可能な方式で、コンテンツが配信されてくる場合、携帯型表示機器21−1は、図38に示されるようなソフトウエアプログラムを実装することで、たとえ上述した第1の経路のような1方向のみの通信であっても、ユーザ(携帯型表示機器21−1側)がユーザ注目対象をある程度自由に設定することが可能になる。
【0229】
さらに、図35の携帯型表示機器21−2も、図38と同様の構成を有するソフトウエアプログラムを実装すれば、携帯型表示機器21−1と同様に、第1の経路により配信されたコンテンツの表示(ユーザ注目対象強調画像の表示)が可能になるとともに、さらに、上述した第2の経路により配信されたコンテンツの表示(ユーザ注目対象強調画像の表示)も可能になる。
【0230】
具体的には、例えば、インターネットにおけるダウンロード(down load)やストリーミング(streaming)などの場合、第2の経路が利用される。第2の経路においては、双方向の通信が可能であり、ユーザ個別の情報に基づく、各ユーザのそれぞれに適した画像等のコンテンツ伝送が可能である。従って、上述した図36または図37に示されるような方法のみならず、コンテンツ配信事業者装置251や放送事業者装置252に対して、ユーザ(携帯型表示機器21−2)がユーザ注目対象を伝えることにより、コンテンツ配信事業者装置251や放送事業者装置252が、複数のユーザのそれぞれのユーザ注目対象を反映した画像コンテンツを伝送するといった方法の利用が可能になる。
【0231】
例えば、上述した例と同様に、コンテンツが野球を表す画像である場合、携帯型表示機器21−2が、ユーザ注目対象としてボールを指定し、それをコンテンツ配信事業者装置251に対して通知すると、コンテンツ配信事業者装置251は、ユーザ注目対象調整処理を行い、図40に示されるユーザ注目対象強調画像301−1(データ)を携帯型表示機器21−2に配信することが可能になる。
【0232】
なお、ユーザ注目対象強調画像301−1は、上述した他の例と同様に、ピッチャー312−1がバッター311−1に向かってボール313−1を投げた状態を表す画像であり、ユーザ注目対象であるボール313−1が、他のオブジェクト(ピッチャー312−1とバッター311−1)に対して相対的に強調されている。即ち、ユーザ注目対象強調画像301−1は、ユーザがボール313−1を容易に視認可能なように、ボール313−1が他のオブジェクトに対して大きくされた画像とされている。図40に示されるこの方法は、各ユーザのそれぞれの好みに合わせた画像コンテンツの提供が可能になるという特長がある。
【0233】
或いは、例えば、携帯型表示機器21−2が、ユーザ注目対象としてボールを指定し、それをコンテンツ配信事業者装置251に対して通知すると、図41に示されるように、コンテンツ配信事業者装置251が、原画像301−2に対応するデータ(以下、単に原画像301−2と称する)の他に、ユーザ注目対象であるボールのデータ313−3(以下、ユーザ注目対象(ボール)313−3と記述する)を携帯型表示機器21−2に配信することも可能である。
【0234】
なお、原画像301−2は、図40のユーザ注目対象強調画像301−1と同様に、ピッチャー312−2がバッター311−2に向かってボール313−2を投げた状態を表す画像の画像データである。ただし、原画像301−2においては、ボール313−2が、他のオブジェクト(ピッチャー312−2とバッター311−2)に対して強調されていない。
【0235】
このように、図35の第1の経路のような1方向通信の場合、図37の例に示されるように、ユーザが利用するか否かが定かでないオブジェクトの伝送が必要とされる(バッター271−3、ピッチャー272−3、およびボール273−3といった複数のオブジェクトの伝送が必要とされる)。これに対して、図35の第2の経路のような双方向通信が可能な場合、図41の例に示されるように、伝送対象は、原画像301−2と、ユーザ注目対象調整処理に確実に必要となるユーザ注目対象(ボール)313−3のみでよい。図41に示されるこの方法は、伝送するデータ量を抑えつつ、複数のユーザのそれぞれの好みに合わせた画像コンテンツの配信が可能になるという特長がある。
【0236】
上述した図40と図41に示される方法に対応する、ユーザ端末21−2のユーザ注目対象調整処理が、図42のフローチャートに示されている。そこで、図42のフローチャートを参照して、図40と図41に示される方法に対応する、ユーザ端末21−2のユーザ注目対象処理について説明する。なお、ここでは、上述したように、ユーザ端末21−2のソフトウエア構成は、図38の構成とされている。
【0237】
例えば、いま、図35において、コンテンツ配信事業者251より、コンテンツ(この例では、野球の画像)の配信前に、そのコンテンツのユーザ注目対象候補(例えば、ボール、ピッチャー、バッター等)のリスト(図示せず)が、ネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2に送信されてきたとする。
【0238】
そこで、図42のステップS81において、図38のユーザ注目対象選択モジュール282が、ユーザ注目対象候補のリストを受信し、LCD51に表示させる。
【0239】
そして、ステップS82において、ユーザ注目対象選択モジュール282が、表示されたリストの中からユーザ注目対象を選択する。
【0240】
ステップS82におけるユーザ注目対象の選択方法は、特に限定されないが、ステップS62(図39)のそれと同様に、この例においては、例えば、次の通りとする。即ち、ユーザ注目対象選択モジュール282が、受信したユーザ注目対象候補のリストをLCD51に表示させると、ユーザは、入力部36を操作して、LCD51に表示されたリストの中からユーザ注目対象にしたいオブジェクトを指示する。ユーザ注目対象選択モジュール282は、入力部36より入力されたユーザの指示に基づいてユーザ注目対象を選択する。
【0241】
なお、ユーザがユーザ注目対象を指示しない場合、ユーザ注目対象選択モジュール282は、自分自身の判断で、一般的に選択されることが多いオブジェクト、例えば、いまの場合、ボールをユーザ注目対象として選択する。
【0242】
ステップS83において、ユーザ注目対象選択モジュール282は、選択されたユーザ注目対象(いまの場合、例えば、ボール)をコンテンツ配信事業者に通知する情報(以下、通知情報と称する)を、無線通信部40およびアンテナ41を介して送信する。
【0243】
図35において、携帯型表示機器21−2より送信された通知情報が、通信アンテナ256、および、ネットワーク253を介してコンテンツ配信事業者装置251に受信されると、コンテンツ配信事業者装置251は、コンテンツ(この例では、図40、または図41に示されるような画像データ)をネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2に送信(配信)してくる。
【0244】
そこで、図42のステップS84において、図38の画像入力モジュール281は、コンテンツ配信事業者装置251から配信されたコンテンツを入力する。
【0245】
ステップS85において、ユーザ注目対象調整モジュール283は、画像入力モジュール281が入力したコンテンツのユーザ注目対象が既に強調されているか否かを判定する。
【0246】
例えば、画像入力モジュール281が、コンテンツとして、図40のユーザ注目対象強調画像301−1を入力した場合、ユーザ注目対象調整モジュール283は、ステップS85において、ユーザ注目対象が既に強調されていると判定し、特に何の処理も施さない。即ち、その処理は、ステップS88に進められる。
【0247】
これに対して、画像入力モジュール281が、コンテンツとして、図41の原画像301−2とユーザ注目対象(ボール)313−3を入力した場合、ユーザ注目対象調整モジュール283は、ステップS85において、ユーザ注目対象がまだ強調されていないと判定し、ステップS86において、入力されたユーザ注目対象(ボール)313−3を調整する。
【0248】
ステップS87において、ユーザ注目対象合成モジュール284は、ユーザ注目対象調整モジュール283により調整されたユーザ注目対象(ボール)313−3を、画像入力モジュール281が入力した原画像301−2に合成して、ユーザ注目対象強調画像(図示はしないが、例えば、図40の画像301−1のような画像)に対応する画像データ(以下、単に、ユーザ注目対象強調画像と称する)を生成する。
【0249】
ステップS88において、ダウンコンバートモジュール285は、ダウンコンバートの必要があるか否かを判定する。
【0250】
ステップS88において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール285は、特に何の処理も施さない。即ち、処理は、ステップS90に進められる。
【0251】
これに対して、ステップS88において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール285は、ステップS89において、ユーザ注目対象強調画像に対して、ダウンコンバートを行う。
【0252】
ステップS90において、画像出力モジュール286は、ユーザ注目対象強調画像を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール286は、ユーザ注目対象強調画像に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール286より出力された画像信号に対応する画像(ユーザ注目対象強調画像)を表示する。
【0253】
なお、上述した例では、ユーザ注目対象は、コンテンツ配信事業者(または、放送事業者)側で抽出されたが、携帯型表示機器21−1または携帯型表示機器21−2が抽出しても良い。この場合、ユーザのユーザ注目対象の設定の自由度がより大きくなることが可能になる。
【0254】
以上のように、本発明の携帯型表示機器21(図14)は、入力された原画像の画像データの中から、予め設定されたユーザ注目対象に対応するオブジェクトデータを抽出し、ユーザ注目対象が、原画像に含まれる他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像の画像データを調整して、ユーザ注目対象強調画像に対応する画像データを生成し、生成した画像データを出力する(例えば、ユーザ注目対象強調画像をLCD51に表示させる)。
【0255】
従って、上述した携帯型表示機器21のような本発明の画像処理装置、または画像表示装置は、以下のような効果を奏することが可能になる。
【0256】
即ち、第1の効果として、LCD51のような、小さい若しくは解像度の低い表示デバイスであっても、ユーザは、その表示デバイスに表示された様々な動画像または静止画像(ユーザ注目対象強調画像)の内容を容易に把握することが可能になる。
【0257】
第2の効果として、第1の効果により、ユーザは、これまで小さな表示デバイスでは楽しむことが困難であったコンテンツも楽しむことができるようになる。
【0258】
第3の効果として、ユーザ注目対象は、画像認識により自動的に抽出されることができるので、ユーザやコンテンツ制作者が、ユーザ注目対象の位置や領域を指定する必要がなくなる。
【0259】
第4の効果として、動画像の場合、前後のフレームとの比較により、ユーザ注目対象の変化に追従した処理が行なえるので、より効率良く、かつより精度良くユーザ注目対象が探索され、抽出されることが可能になる。
【0260】
第5の効果として、ユーザ注目対象として処理可能なオブジェクトのリストがユーザに提示され、ユーザがその中から好みに沿った対象を選択することができるので、複数のユーザのそれぞれの趣向に合わせた処理が可能になる。
【0261】
第6の効果として、双方向通信が可能な通信路においては、ユーザが注目する対象をコンテンツ配信事業者や放送事業者に伝え、コンテンツ配信事業者や放送事業者はそれに沿った処理を施した画像をユーザに提供するという方法が採れる。従って、これにより伝送データ量を抑えつつユーザ個別の好みに合ったコンテンツの提供が可能になる。
【0262】
また、上述した図36や図40の例のように、受信側の携帯型表示機器21のみならず、送信側(配信側)の画像配信装置(例えば、図35の放送事業者装置252、またはコンテンツ配信事業者装置251)も、本発明が適用されるユーザ注目対象調整処理を実行することが可能である。即ち、本発明は、画像配信装置にも適用可能であり、本発明が適用された画像配信装置も、上述した第1乃至第6の効果を奏することが可能になる。
【0263】
具体的には、画像配信装置は、配信すべき原画像の画像データの中から、予め設定されたユーザ注目対象に対応するオブジェクトデータを抽出し、ユーザ注目対象が、原画像に含まれる他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像の画像データを調整して、ユーザ注目対象強調画像(例えば、図36の画像261−1や、図40の画像301−1等)に対応する画像データを生成し、携帯型表示機器21等の受信側に配信する。
【0264】
なお、本発明の画像配信装置の構成は、特に限定されないが、例えば、図14の携帯型表示機器21と同様の構成を取ることが可能である。ただし、画像配信装置が、図35の放送事業者装置252である場合、アンテナ41に相当するアンテナは、放送アンテナ254であるので、無線通信部40は、放送アンテナ254を介してコンテンツ(ユーザ注目対象強調画像の画像データ)を送信する送信処理を実行する。また、画像配信装置が、図35のコンテンツ配信事業者装置251である場合、図14には図示されていない、ネットワーク253と接続可能な通信部がさらに設けられる。
【0265】
ところで、上述したユーザ注目対象調整処理等の一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
【0266】
この記録媒体は、図14に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini−Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブル記録媒体(パッケージメディア)52により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM32や、記憶部39に含まれるハードディスクなどで構成される。
【0267】
また、上述した一連の処理は、ソフトウエアにより実行させることもできるが、ハードウエアにより実行させることもできる。
【0268】
即ち、上述したユーザ注目対象調整処理を実現するソフトウエアプログラムを構成する各モジュールのそれぞれは、対応する機能を果たすものであれば、その形態は限定されず、例えば、ハードウエアなどでモジュールが構成されてもよい。この場合、例えば、製造者等は、上述した各モジュールのそれぞれに対応する装置(ハードウエア)を製作し、それらを、図15、図19、図22、または、図38に示されるようにそれぞれ接続することで、本発明が適用される画像処理装置、画像表示装置、または画像配信装置を、図14とは異なる構成で実現することも可能である。
【0269】
さらに、上述した例においては、動画像はフレームとして処理されたが、フィールドとしても処理可能である。そこで、本明細書においては、フィールドやフレームといった単位を、アクセスユニットとも称する。
【0270】
さらにまた、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に従って、時系列的に行われる処理は勿論、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0271】
【発明の効果】
以上のごとく、本発明によれば、ユーザが所望するオブジェクトを含む画像の表示を制御することができる。特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させるように制御することができる。
【0272】
また、本発明によれば、ユーザが所望するオブジェクトを含む画像を表示することができる。特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができる。
【0273】
さらに、本発明によれば、ユーザが所望するオブジェクトを含む画像を、ユーザが所望する携帯型表示機器に対して配信することができる。特に、携帯型表示機器の表示デバイスが小さな若しくは解像度の低い表示デバイスであっても、その表示デバイスに対して、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示可能なように、画像を配信することができる。
【図面の簡単な説明】
【図1】据置型表示機器に表示される画像を、従来の携帯型表示機器に表示させた場合の課題を説明する図である。
【図2】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の例を説明する図である。
【図3】図2の第1の画像に含まれるボールを、図2の変換方法で変換する例を説明する図である。
【図4】図2の第1の画像に含まれるボールを、図2の変換方法で変換する他の例を説明する図である。
【図5】図2の第1の画像に含まれるボールを、図2の変換方法で変換するさらに他の例を説明する図である。
【図6】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の他の例を説明する図である。
【図7】図6の第1の画像に含まれるボールを、図6の変換方法で変換する例を説明する図である。
【図8】図6の第1の画像に含まれるボールを、図6の変換方法で変換する他の例を説明する図である。
【図9】図6の第1の画像に含まれるボールを、図6の変換方法で変換するさらに他の例を説明する図である。
【図10】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の他の例を説明する図である。
【図11】図10の第1の画像に含まれるボールを、図10の変換方法で変換する例を説明する図である。
【図12】図10の第1の画像に含まれるボールを、図10の変換方法で変換する他の例を説明する図である。
【図13】図10の第1の画像に含まれるボールを、図10の変換方法で変換するさらに他の例を説明する図である。
【図14】本発明が適用される携帯型表示機器のハードウエアの構成例を示すブロック図である。
【図15】図14の携帯型表示機器のソフトウエアの構成例を示すブロック図である。
【図16】図15の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図17】図16のユーザ注目対象調整処理の具体的な例を説明する図である。
【図18】動画像に対して、図16のユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図19】図14の携帯型表示機器のソフトウエアの構成の他の例を示すブロック図である。
【図20】図19の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図21】図20のユーザ注目対象調整処理の具体的な例を説明する図である。
【図22】図14の携帯型表示機器のソフトウエアの構成の他の例を示すブロック図である。
【図23】図22の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図24】図23のユーザ注目対象調整処理の具体的な例を説明する図である。
【図25】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図26】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図27】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図28】野球を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図29】野球を表す画像に対して、図28とは異なるユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図30】競馬を表す画像の例を説明する図である。
【図31】図30とは異なる例の競馬を表す画像を説明する図である。
【図32】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図33】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図34】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図35】図14の携帯型表示機器に対して、放送事業者装置またはコンテンツ配信事業者装置からコンテンツが配信される例を説明する図である。
【図36】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な例を説明する図である。
【図37】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な他の例を説明する図である。
【図38】図35の携帯型表示機器のソフトウエアの構成例を示すブロック図である。
【図39】図35の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図40】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な他の例を説明する図である。
【図41】図35の携帯型表示機器のユーザ注目対象調整処理の具体的なさらに他の例を説明する図である。
【図42】図35の携帯型表示機器のユーザ注目対象調整処理の他の例を説明するフローチャートである。
【符号の説明】
21,21−1,21−2 携帯型表示機器, 31 CPU, 71 画像入力モジュール, 72 ユーザ注目対象設定モジュール, 73 ユーザ注目対象抽出モジュール, 74 ユーザ注目対象調整モジュール, 75 ユーザ注目対象合成モジュール, 76 ダウンコンバートモジュール, 77 画像出力モジュール, 93−1乃至93−5 ユーザ注目対象(ボール), 113−1乃至113−3 ユーザ注目対象(ボール), 121 画像入力モジュール, 122 ユーザ注目対象設定モジュール, 123 ユーザ注目対象抽出モジュール, 124 ユーザ注目対象調整モジュール, 125 ユーザ注目対象合成モジュール, 126 ダウンコンバートモジュール, 127 画像出力モジュール, 143−1乃至143−7 ユーザ注目対象(ボール), 151 画像入力モジュール, 152 ユーザ注目対象設定モジュール, 153 ユーザ注目対象抽出モジュール, 154 ユーザ注目対象調整モジュール, 155 ユーザ注目対象合成モジュール, 156 ダウンコンバートモジュール, 157 画像出力モジュール, 173−1乃至173−5 ユーザ注目対象(ボール), 181−1乃至181−3 ユーザ注目対象(オセロのコマ), 203−1,203−2 ユーザ注目対象(ボール), 204,205 ユーザ注目対象指示シンボル, 221乃至227 ユーザ注目対象(競馬の馬), 231乃至237 ユーザ注目対象指示シンボル, 251 コンテンツ配信事業者装置251, 252 放送事業者装置252, 261−1乃至261−3 ユーザ注目対象(ボール), 281 画像入力モジュール, 282 ユーザ注目対象選択モジュール, 283 ユーザ注目対象調整モジュール, 284 ユーザ注目対象合成モジュール, 285 ダウンコンバートモジュール, 313−1,313−2 ユーザ注目対象(ボール)
【発明の属する技術分野】
本発明は、画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラムに関し、特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができるようにした画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラムに関する。
【0002】
【従来の技術】
近年、地上波、衛星、または、ケーブル等を介したテレビジョン放送用の映像(例えば、NTSC(National Television System Committee)方式、若しくはPAL(Phase Alternating by line)方式のSD(standard definition)映像、または、ハイビジョンと一般的に称されるHD(high definition)映像)は、据置型のテレビジョン受像機に代表される、ある程度の大きさをもった表示機器(以下、そのような表示機器を、据置型表示機器と称する)のみならず、携帯電話機や携帯型のテレビジョン受像機に代表される、動画像の表示が可能であるとともに、携帯可能な小型の表示機器(以下、そのような表示機器を、携帯型表示機器と称する)でも利用可能とされている。
【0003】
据置型表示機器が、高精細画像であるHD画像を標準的な画像であるSD画像に変換して表示する場合、表示されるSD画像は、HD画像であるが故に表現可能な精細さを多少失うことになるが、その画像の価値が著しく失われることはあまりない。これは、SD画像自体が、動画像を楽しむために必要な画素数を有しているとともに、ある一定以上の大きさの表示部を有する据置型表示機器が、SD画像を、解像度を落とさずに、その表示部に表示させることが可能なためである。
【0004】
【発明が解決しようとする課題】
しかしながら、携帯型表示機器は、携帯可能が前提とされていることから、その表示部は、据置型表示機器に比較して遥かに小さなものが要求され、据置型表示機器に比較して画素数が少なくされたり、画素そのものが小さくされて構成される。従って、携帯型表示機器においては、もともとHD画像やSD画像であった画像がその小さな表示部に表示される場合、その画像に含まれる複数のオブジェクトのうちの小さなオブジェクトは、表示されないか、または、たとえ表示されたとしても、ユーザが視認することが困難な状態で表示されるという課題があった。
【0005】
具体的には、例えば、いま、図1に示されるように、据置型表示機器1の表示部1−1に、野球の様子を表す画像11が表示されるとともに、携帯型表示機器2の表示部2−1に、画像11に対応する画像12が表示されているとする。
【0006】
この場合、図1に示されるように、据置型表示機器1の表示部1−1に表示される画像11を構成するオブジェクト、即ち、バッター11−1、ピッチャー11−2、および、ボール11−3のそれぞれは、全て明確に表示されている。従って、ユーザ(視聴者)は、画像11が、ピッチャー11−2がバッター11−1に向かってボール11−3を投げた状態を表した画像であることを視認できる。
【0007】
これに対して、携帯型表示機器2の表示部12には、バッター11−1に対応するバッター12−1と、ピッチャー11−2に対応するピッチャー12−2は小さいながら表示されているものの、ボール11−3に対応するものは表示されていないか、若しくは、ユーザがそれを認識し辛い状態で表示されている。従って、ユーザは、携帯型表示機器2の表示部2−1に表示された画像12が何を表しているのかを判断する場合、ピッチャー12−2とバッター12−1のみから想像しなければならず、その判断は困難である。
【0008】
なお、実際には、画像12だけではなく音声によっても状況が解説されるので、ユーザは、その音声によって、ピッチャー12−2がバッター12−1に対してボールを投げた状態であることをある程度は想像できる。
【0009】
しかしながら、ユーザは、その投げられたボールを視認できないか、または、視認し辛いため、その後の状況を画像で把握することは困難であり、ラジオ放送のような音声のみの放送に対して、テレビジョン放送のような画像と音声の両者の放送が有しているメリットを享受できないことになってしまう。また、携帯型表示機器2は、音声を出せないような場所で利用されることも多く、そのような場合、ユーザは、野球の状況を、携帯型表示機器2の表示部2−1に表示される画像12のみから判断しなければならないが、上述したように、その判断は困難である。
【0010】
以下、図面を参照して、このように、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の3つの例を説明する。
【0011】
はじめに、図2乃至図5を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第1の例を説明する。
【0012】
なお、第1の例では、例えば、図2に示されるように、据置型表示機器1の表示部1−1の解像度が、NTSC方式に規定される解像度(水平720画素、および垂直480画素の解像度であり、以下、このような解像度を、720×480画素と称する)とされている。また、携帯型表示機器2の表示部2−1の解像度が、水平180画素、および垂直120画素の解像度(以下、このような解像度を、180×120画素と称する)とされている。さらに、第1の例では、説明の都合上、据置型表示機器1の表示部1−1と携帯型表示機器2の表示部2−1の画素は同じ大きさとされている。
【0013】
即ち、第1の例では、解像度だけが下げられる場合の例について説明する。具体的には、図2に示されるように、720×480画素の画像11から180×120画素の画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0014】
なお、図3乃至図5のそれぞれに示されている1つの四角は1画素を表しており、それらの四角(画素)のうちの黒い四角(斜線が描画されている四角)はボールの1部を、白い四角は背景の1部を、それぞれ表しているとする。
【0015】
図3は、8×8画素程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、2×2画素程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0016】
図4は、4×4画素程度のボール11−3が、1×1画素程度のボール12−3に変換されることを表している。
【0017】
図5は、2×2画素程度のボール11−3が、0×0画素のボール12−3(即ち、表示されない)に変換されることを表している。
【0018】
このように、720×480画素の画像11から180×120画素の画像12に変換される場合、変換後のボール12−3の解像度は、画像11に対する画像12の解像度と同様に、変換前のボール11−3に対して1/4の解像度となってしまう。
【0019】
従って、図4と図5に示されるように、据置型表示機器1の表示部1−1に表示されるボール11−3が4×4画素よりも少ない画素で構成されている場合、変換後のボール12−3は消滅してしまい(携帯型表示機器2の表示部2−1には表示されず)、ユーザはそのボール12−3を認識することはできない。
【0020】
次に、図6乃至図9を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第2の例について説明する。
【0021】
なお、第2の例では、例えば、図6に示されるように、据置型表示機器1の表示部1−1の解像度と、携帯型表示機器2の表示部2−1の解像度のそれぞれが、同一の720×480画素とされている。さらに、第2の例では、説明の都合上、据置型表示機器1の表示部1−1の水平寸法が50cmとされ、また、携帯型表示機器2の表示部2−1の水平寸法が5cmとされている。
【0022】
即ち、第2の例では、解像度に変化はなく、画素の大きさが10分の1になる場合の例について説明する。具体的には、図6に示されるように、720×480画素の水平寸法が50cmである画像11から、720×480画素の水平寸法が5cmである画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0023】
なお、図7乃至図9のそれぞれに示されている1つの四角(黒い四角)は、ボールを構成する1画素(ボールの一部)を表しているとする。
【0024】
図7は、直径5.6mm程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、直径0.56mm程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0025】
図8は、直径2.8mm程度のボール11−3が、直径0.28mm程度のボール12−3に変換されることを表している。
【0026】
図9は、直径1.4mm程度のボール11−3が、直径0.14mm程度のボール12−3に変換されることを表している。
【0027】
このように、画像11から、画像11と同一解像度であるものの水平寸法が1/10になる画像12に変換される場合、変換後のボール12−3の直径(大きさ)も、変換前のボール11−3のそれに対して1/10(即ち、画像12の水平寸法/画像11の水平寸法)に縮小されてしまう。
【0028】
従って、携帯型表示機器2は据置型表示機器1よりもユーザと接近して使用されるため、小さいものが比較的見易くなるものの、携帯型表示機器2に表示されているボール12−3の直径が、図7乃至図9に示されるような1mmにも満たない場合、ユーザは、画像12のうちのボール12−3の周辺をよほど凝視しなければ、ボール12−3を視認することはできない。換言すると、そのような場合、ユーザは、ボール12−3の位置を想像することができなければ、ボール12−3を視認することは実質上不可能となってしまう。
【0029】
次に、図10乃至図13を参照して、図1の携帯型表示機器2の表示部2−1にボールが表示されない理由の第3の例について説明する。
【0030】
なお、第3の例では、例えば、図10に示されるように、据置型表示機器1の表示部1−1の解像度が720×480画素とされ、また、携帯型表示機器2の表示部2−1の解像度が、180×120画素とされている。さらに、第3の例では、説明の都合上、据置型表示機器1の表示部1−1の水平寸法が50cmとされ、また、携帯型表示機器2の表示部2−1の水平寸法が5cmとされている。
【0031】
即ち、第3の例では、解像度が下がるとともに、画素の大きさも小さくなる(画素の大きさが5分の2になる)場合の例について説明する。具体的には、図10に示されるように、720×480画素の水平寸法が50cmである画像11から、180×120画素の水平寸法が5cmである画像12に変換される場合の、変換前のボール11−3と変換後のボール12−3の様子の違いについて説明する。
【0032】
なお、図11乃至図13のそれぞれに示されている1つの四角は1画素を表しており、それらの四角(画素)のうちの黒い四角はボールの1部を、白い四角は背景の1部を、それぞれ表しているとする。
【0033】
図11は、8×8画素、かつ直径5.6mm程度のボール11−3(据置型表示機器1に表示される変換前のボール11−3)が、2×2画素、かつ直径0.56mm程度のボール12−3(携帯型表示機器2に表示される変換後のボール12−3)に変換されることを表している。
【0034】
図12は、4×4画素、かつ直径2.8mm程度のボール11−3が、1×1画素、かつ直径0.28mm程度のボール12−3に変換されることを表している。
【0035】
図13は、2×2画素、かつ直径1.4mm程度のボール11−3が、0×0画素(直径0mm)のボール12−3(即ち、表示されない)に変換されることを表している。
【0036】
このように、720×480画素、かつ水平寸法50cmの画像11から、180×120画素、かつ水平寸法5cmの画像12に変換される場合、変換後のボール12−3の解像度が低下するとともに、変換後のボール12−3の直径(大きさ)も縮小されてしまう。
【0037】
従って、上述したように、ユーザは、直径が1mmにも満たないボール12−3を視認することは困難であるし、そもそも、図13に示されるように、ボール12−3自体が消滅してしまった場合(携帯型表示機器2の表示部2−1に表示されない場合)、そのボール12−3を視認することは不可能である。
【0038】
そこで、従来、上述した課題を解決すべく、例えば、配信されるコンテンツ(映像)が野球である場合、撮影者側(放送者側)が、撮影カメラを増やし、ピッチャーがボールを投げるまでの間、ピッチャーのみを大きく撮影し、ボールが投げられた後、バッターのみを大きく撮影するという手法を利用することで、ボールが小さくなり過ぎることを避けている。
【0039】
しかしながら、この手法では、撮影に費やされるコストが増大するとともに、一度に見える範囲が限定されるため(画像に含まれるオブジェクトが限定されるため)、ユーザがその画像を見ても全体の状況を把握することが困難になるという新たな課題が発生してしまう。
【0040】
或いは、例えば、据置型表示機器1に表示される画像に対して、何らかの画像処理(例えば、特許文献1参照)が施された画像を、携帯型表示機器2に表示させることも考えられるが、特許文献1に開示されているような、従来の画像処理が単に施されただけでは、上述した課題を解決することは困難である。即ち、携帯型表示機器2が、従来の画像処理が施された画像をたとえ表示させたとしても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることは困難である。
【0041】
本発明は、このような状況に鑑みてなされたものであり、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができるようにするものである。
【0042】
【特許文献1】
特開2002−232782号公報
【0043】
【課題を解決するための手段】
本発明の画像処理装置は、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データに対応する画像の表示を制御する表示制御手段とを備えることを特徴とする。
【0044】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトの、他のオブジェクトに対する相対的なサイズを変化させるサイズ変化手段と、サイズ変化手段によりサイズが変化されたオブジェクトを、第1の画像データに対応する画像のうちの、元のサイズのオブジェクトが配置されていた位置の上に配置させるように、オブジェクトデータを第1の画像データに合成して第2の画像データを生成する合成手段とを有するようにすることができる。
【0045】
生成手段は、第1の画像データに対応する画像に対して、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトの色が調整された画像に対応する第2の画像データを生成するようにすることができる。
【0046】
生成手段は、第1の画像データのうちの、抽出手段により抽出されたオブジェクトデータ以外のデータが調整された第2の画像データを生成するようにすることができる。
【0047】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するシンボルを生成し、第1の画像データに対応する画像に対して、生成したシンボルがさらに付加された画像に対応する第2の画像データを生成するようにすることができる。
【0048】
生成手段は、抽出手段により抽出されたオブジェクトデータに対応するシンボルを生成し、第1の画像データに対応する画像に対して、オブジェクトの代わりに、生成したシンボルが配置された画像に対応する第2の画像データを生成するようにすることができる。
【0049】
オブジェクトを設定する設定手段をさらに設け、抽出手段は、第1の画像データの中から、設定手段により設定されたオブジェクトに対応するオブジェクトデータを抽出するようにすることができる。
【0050】
設定手段は、第1の画像データの特徴に基づいて、自分自身の判断でオブジェクトを設定するようにすることができる。
【0051】
ユーザの操作により、ユーザが所望するオブジェクトを指示する情報を入力する入力手段をさらに設け、設定手段は、入力手段より入力された情報に基づいてオブジェクトを設定するようにすることができる。
【0052】
オブジェクトの候補となるオブジェクト候補が複数個存在し、入力手段は、複数のオブジェクト候補のうちのユーザにより選択された所定の1つを、オブジェクトとして指示する情報を入力するようにすることができる。
【0053】
第1の画像データは、動画像のうちの第1のアクセスユニットを構成する画像データであり、抽出手段は、第1のアクセスユニットよりも前の第2のアクセスユニット、若しくは後の第3のアクセスユニット、または第2のアクセスユニットと第3のアクセスユニットの両方に基づいて、第1のアクセスユニット内のオブジェクトの位置を推定し、推定した位置に基づいて、第1のアクセスユニット内のオブジェクトに対応するオブジェクトデータを抽出するようにすることができる。
【0054】
本発明の画像処理方法は、画像の表示を制御する画像処理装置の画像処理方法であって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像の表示を制御する表示制御ステップとを含むことを特徴とする。
【0055】
本発明の第1のプログラムは、画像の表示を制御する処理をコンピュータに実行させるプログラムであって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像の表示を制御する表示制御ステップとを含むことを特徴とする。
【0056】
本発明の画像処理装置および方法、並びに第1のプログラムにおいては、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータが抽出され、抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データが調整されて第2の画像データが生成され、生成された第2の画像データに対応する画像の表示が制御される。
【0057】
本発明の画像処理装置は、内蔵する表示デバイスに対して表示の制御を行ってもよいし、外部の表示デバイスに対して表示の制御を行ってもよい。
【0058】
また、第1の画像データは、他の装置より配信または放送されてくるリアルタイムの画像データであってもよいし、記録媒体や画像処理装置に内蔵するメモリに一度記憶された画像データであってもよい。
【0059】
本発明の画像表示装置は、画像を表示する表示手段と、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データに対応する画像を、表示手段に表示させるように制御する表示制御手段とを備えることを特徴とする。
【0060】
本発明の画像表示方法は、画像を表示する表示デバイスを備える画像表示装置の画像表示方法であって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像を、表示デバイスに表示させるように制御する表示制御ステップとを含むことを特徴とする。
【0061】
本発明の第2のプログラムは、表示デバイスに対する画像の表示を制御する処理を、コンピュータに実行させるプログラムであって、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データに対応する画像を、表示デバイスに表示させるように制御する表示制御ステップとを含むことを特徴とする。
【0062】
本発明の画像表示装置および方法、並びに第2のプログラムにおいては、入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータが抽出され、抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データが調整されて第2の画像データが生成され、生成された第2の画像データに対応する画像が、表示デバイスに表示される。
【0063】
画像表示装置は、他の装置より配信または放送されてくるリアルタイムの画像データに対応する画像を表示してもよいし、記録媒体や画像処理装置に内蔵するメモリに一度記憶された画像データに対応する画像を表示してもよい。
【0064】
本発明の画像配信装置は、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、抽出手段により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成手段と、生成手段により生成された第2の画像データを配信する配信手段とを備えることを特徴とする。
【0065】
本発明の画像配信方法は、画像データを配信する画像配信装置の画像配信方法であって、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データを配信する配信ステップとを含むことを特徴とする。
【0066】
本発明の第3のプログラムは、画像データの配信を制御する処理をコンピュータに実行させるプログラムであって、配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、抽出ステップの処理により抽出されたオブジェクトデータに対応するオブジェクトが、第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、オブジェクトデータに基づいて第1の画像データを調整して第2の画像データを生成する生成ステップと、生成ステップの処理により生成された第2の画像データの配信を制御する配信制御ステップとを含むことを特徴とする。
【0067】
本発明の画像配信装置は、画像データを有線で配信してもよいし、無線で配信してもよい。或いは、本発明の画像配信装置は、画像データを、有線および無線の両方の通信方法で配信してもよい。
【0068】
また、本発明の画像配信装置は、画像データのみを配信してもよいし、画像データとともに他のコンテンツを配信してもよい。
【0069】
【発明の実施の形態】
図14は、本発明が適用される画像処理装置または画像表示装置としての携帯型表示機器の構成例を表している。
【0070】
図14の携帯型表示機器21において、CPU(Central Processing Unit)31は、ROM(Read Only Memory)32に記録されているプログラム、または記憶部39からRAM(Random Access Memory)33にロードしたプログラムに従って各種の処理を実行する。RAM33にはまた、CPU31が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0071】
CPU31、ROM32、およびRAM33は、バス34を介して相互に接続されている。このバス34にはまた、入出力インタフェース35も接続されている。
【0072】
入出力インタフェース35には、キーボード、マウスなどよりなる入力部36、LCD(Liquid Crystal Display)51などよりなる出力部37、デジタルビデオカメラ61等の外部機器とのインタフェースとなる外部機器接続部38、ハードディスクなどより構成される記憶部39、および、アンテナ41を介する他の無線通信装置(図示せず)との無線通信処理を実行する無線通信部40が接続されている。
【0073】
無線通信部40の無線通信方式は、特に限定されず、例えば、IEEE802.11a、若しくは802.11bの無線LAN、または、ブルートゥース等の汎用的な無線通信方式が使用可能である。或いは、携帯型表示機器21が携帯電話機として機能する場合、無線通信部40は、中継基地(図示せず)を介して他の携帯電話機(図示せず)と無線通信を行うための無線通信処理を実行する。さらにまた、携帯型表示機器21がテレビジョン受像機として機能する場合、無線通信部40は、放送事業者の情報処理装置より放送されるテレビジョン信号を受信するチューナとして機能する。
【0074】
入出力インタフェース35にはまた、必要に応じてドライブ42が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブル記録媒体52が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部39にインストールされる。
【0075】
なお、本発明が適用される画像処理装置または画像表示装置の実施の形態は、図14に示されるような携帯型のパーソナルコンピュータ21に限定されず、様々な実施の形態が可能である。具体的には、例えば、ゲーム専用装置、PDA(Personal Digital Assistants)、携帯電話機、または、デジタル電化製品(例えば、携帯型のテレビジョン受像機)等様々な実施の形態が可能である。或いは、携帯型でなくとも、据置型の装置でもよい。例えば、大型の画面を有するテレビジョン受像機の中には、その表示部(画面)内の所定の小さな領域に、その領域以外の画面全体に表示されている画像とは異なる画像を縮小させて表示させる機能を有するものもある。そのような機能が利用される場合に、本発明が適用されてもよい。
【0076】
図15は、携帯型表示機器21(図14)が有している機能のうちの、後述する図16のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0077】
図15に示されるように、このソフトウエアプログラムは、画像入力モジュール71、ユーザ注目対象設定モジュール72、ユーザ注目対象抽出モジュール73、ユーザ注目対象調整モジュール74、ユーザ注目対象合成モジュール75、ダウンコンバートモジュール76、および、画像出力モジュール77といった複数のモジュールにより構成されている。
【0078】
これらの各モジュールのそれぞれは、1つの独立したアルゴリズムを持ち、かつ、そのアルゴリズムに従って固有の動作を実行する。即ち、各モジュールのそれぞれは、CPU31(図14)により適宜読み出され、実行される。なお、後述する他のモジュールについても同様とされる。
【0079】
画像入力モジュール71は、原画像に対応する画像データを入力する。
【0080】
なお、以下、画像データであることを強調する必要がない場合(画像データと画像を区別する必要がない場合)、単に、画像と称することもある。即ち、原画像に対応する画像データを、以下、単に原画像と称することもある。
【0081】
画像入力モジュール71は、原画像として、デジタルビデオカメラ61が撮影している画像を、外部機器接続部38を介して入力してもよいし、記憶部39に予め記憶されている画像を入力してもよいし、或いは、他の無線通信装置(図示せず)から配信される画像を、アンテナ41および無線通信部40を介して入力してもよい。即ち、画像入力モジュール71が原画像を入力する入力元は特に限定されず、その他、例えば、図15には図示されていないが、図14のドライブ42に接続されたリムーバブル記録媒体52が入力元とされてもよい。なお、後述する他の画像入力モジュールについても同様とされる。
【0082】
ユーザ注目対象設定モジュール72は、画像入力モジュール71が入力した原画像の中から、ユーザが着目するオブジェクト(後述するように、他のオブジェクトに対して相対的に強調されて表示されるオブジェクト)を設定する。なお、以下、このようなユーザが着目するオブジェクトを、ユーザ注目対象と称する。
【0083】
ユーザ注目対象抽出モジュール73は、画像入力モジュール71が入力した原画像の中から、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象に対応するデータを画像認識により抽出する。なお、所定のオブジェクト(この例では、ユーザ注目対象)に対応するデータを、画像データから画像認識により抽出する方法は、一般に多数知られており、ユーザ注目対象抽出モジュール73は、このような方法のうちのいずれの方法を用いても構わない。
【0084】
この例においては、例えば、画像入力モジュール71が入力する原画像が動画像とされた場合、ユーザ注目対象抽出モジュール73は、動きベクトルなど前後のフレームの抽出結果を利用して、ユーザ注目対象のデータを抽出する。このように、原画像が動画像とされた場合、ユーザ注目対象抽出モジュール73は、動きベクトルなど前後のフレームの抽出結果を利用することで、容易にユーザ注目対象を特定することが可能になる。
【0085】
ユーザ注目対象調整モジュール74は、ユーザ注目対象抽出モジュール73により抽出されたユーザ注目対象のデータを調整する。即ち、ユーザ注目対象調整モジュール74は、原画像に含まれる他のオブジェクトに対してユーザ注目対象を相対的に強調させて表示させるために、ユーザ注目対象のデータに所定の画像処理を施す。この画像処理の方法は、特に限定されないが、この例においては、例えば、ユーザ注目対象調整モジュール74は、ユーザ注目対象の画像サイズを他のオブジェクトに対して相対的に拡大する画像処理を、ユーザ注目対象のデータに行うとする。なお、画像を拡大または縮小する方法も一般に多数知られており、ユーザ注目対象調整モジュール74は、このような方法のうちのいずれの方法を用いても構わない。
【0086】
ユーザ注目対象合成モジュール75は、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象のデータを、画像入力モジュール71が入力した原画像(データ)に合成する。これにより、他のオブジェクトに対してユーザ注目対象が強調された画像(以下、このような画像を、ユーザ注目対象強調画像と称する)のデータが生成される。
【0087】
ダウンコンバートモジュール76は、ユーザ注目対象強調画像のデータのうちの、ダウンコンバート処理を施す必要があると判断したものに対して、ダウンコンバートを行なう。
【0088】
具体的には、例えば、上述した図2乃至図5に示されるように、原画像の解像度(ダウンコンバートモジュール76に入力された時点のユーザ注目対象強調画像の解像度)よりも表示部(この例では、LCD51)の解像度が低い場合、ダウンコンバートモジュール76は、ダウンコンバート処理が必要であると判断し、ユーザ注目対象強調画像のデータに対して、ダウンコンバート処理を施した後、ダウンコンバートされたユーザ注目対象強調画像のデータを画像出力モジュール77に供給する。
【0089】
これに対して、上述した図6乃至図9に示されるように、原画像と表示部の解像度が同じである場合、ダウンコンバートモジュール76は、ダウンコンバート処理が不要であると判断し、ユーザ注目対象強調画像のデータをそのまま(ダウンコンバート処理を行わず)画像出力モジュール77に供給する。
【0090】
画像出力モジュール77は、ダウンコンバートモジュール76より供給されたユーザ注目対象強調画像のデータを出力先のフォーマットに変換した後、出力先に対して出力する。出力先は、入力元と同様に特に限定されず、例えば、LCD51であってもよいし、記憶部39であってもよいし、外部機器接続部38に接続されたデジタルビデオカメラ61であってもよいし、或いは、無線通信部40であってもよい。出力先が無線通信部40の場合、出力されたユーザ注目対象強調画像に対応する画像信号は、アンテナ41を介して他の無線通信装置(図示せず)に送信される。なお、後述する他の画像出力モジュールについても同様とされる。
【0091】
次に、図16のフローチャートを参照して、図15の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0092】
はじめに、ステップS1において、画像入力モジュール71は、原画像を入力する。
【0093】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール71は、原画像として、記憶部39に予め記憶されていた図17に示される画像81−1に対応する画像データ(以下、単に原画像81−1と称する)を入力するとする。
【0094】
原画像81−1は、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像81−1は、ピッチャー92−1がバッター91−1に向かってボール93−1を投げた状態を表している。
【0095】
ステップS2において、ユーザ注目対象設定モジュール72は、ユーザ注目対象を設定する。
【0096】
設定されるユーザ注目対象は、特に限定されないが、この例においては、例えば、ユーザ注目対象設定モジュール72は、ユーザ注目対象としてボールを設定するとする。即ち、上述したように、野球を表している画像が携帯型表示機器(この例では、携帯型表示機器21)に表示される場合、ユーザはボールの視認が困難になるという課題があった。そこで、この例においては、ユーザがボールを視認できるように、ユーザ注目対象としてボールが設定される。
【0097】
なお、ユーザ注目対象設定モジュール72におけるユーザ注目対象の設定方法は、特に限定されず、例えば、ユーザが入力部36(図14)を操作して、ユーザ注目対象としてボールを指定する情報をユーザ注目対象設定モジュール72(図14のCPU31)に入力させ、ユーザ注目対象設定モジュール72が、その入力された情報に基づいて、ユーザ注目対象としてボールを設定してもよい。或いは、ユーザ注目対象設定モジュール72が、原画像81−1を解析し、それが野球を表した画像であることを認識した後、自分自身の総合的な判断で、ユーザ注目対象としてボールを設定してもよい。
【0098】
ステップS3において、ユーザ注目対象抽出モジュール73は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール73は、原画像81−1の中から、ユーザ注目対象としてボール93−1に対応する画像データ(以下、単にボール93−1と称する)を抽出する。
【0099】
ステップS4において、ユーザ注目対象調整モジュール74は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール74は、ユーザ注目対象抽出モジュール73により抽出されたボール93−1に対して拡大処理82を施して、その画像サイズを大きくした画像データ93−2(以下、そのような画像データを、単にボール93−2と称する)を生成する。
【0100】
ステップS5において、ユーザ注目対象合成モジュール75は、ユーザ注目対象(データ)を原画像(データ)に合成する。即ち、この例においては、例えば、ユーザ注目対象合成モジュール75は、画像入力モジュール71が入力した原画像81−1に、ユーザ注目対象調整モジュール74により調整された(画像サイズが大きくされた)ボール93−2を合成して、ユーザ注目対象強調画像81−2に対応する画像データ(以下、単に、ユーザ注目対象強調画像81−2と称する)を生成する。
【0101】
ステップS6において、ダウンコンバートモジュール76は、ダウンコンバートの必要があるか否かを判定する。
【0102】
ステップS6において、ダウンコンバートの必要がないと判定された場合、ステップS8において、画像出力モジュール77は、ユーザ注目対象強調画像81−2を出力する。上述したように、様々な出力先が可能であるが、この例においては、例えば、出力先はLCD51とされる。即ち、画像出力モジュール77は、ユーザ注目対象強調画像81−2に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール77より出力された画像信号に対応するユーザ注目対象強調画像81−2を表示する。
【0103】
この場合、図17において、例えば、原画像81−1が、上述した図6の画像1−1と同様に、720×480画素、かつ水平寸法50cmの画像とされ、LCD51が、720×480画素、かつ水平寸法5cmとされると、LCD51には、720×480画素、かつ水平寸法5cmのユーザ注目対象強調画像81−2が表示される。LCD51に表示されるユーザ注目対象強調画像81−2は、その全体の画像サイズが、原画像81−1に比べて小さくなるものの、ユーザ注目対象強調画像81−2に対するボール93−2の相対的なサイズ(ボール93−2の占める割合)は、原画像81−1に対するボール93−1の相対的なサイズよりも大きくなる。
【0104】
従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像81−2を見て、ピッチャー92−1がボール93−2をバッター91−1に対して投げている状況であることを確実に視認することが可能になる。換言すると、上述した第2の例(解像度に変化はなく、画素の大きさが小さくなる例)に対する従来の課題を解決することが可能になる。
【0105】
これに対して、ステップS6において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール76は、ステップS7において、ダウンコンバートを実行する。即ち、この例においては、例えば、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75により生成されたユーザ注目対象強調画像81−2に対してダウンコンバート処理を施し、ユーザ注目対象強調画像81−3に対応する画像データとし、画像出力モジュール77に供給する。
【0106】
そして、ステップS8において、画像出力モジュール77は、ユーザ注目対象強調画像81−3に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール77より出力された画像信号に対応するユーザ注目対象強調画像81−3を表示する。
【0107】
この場合、図17において、例えば、原画像81−1が、上述した図2の画像1−1と同様に、720×480画素の画像とされ、LCD51が、180×120画素とされると、LCD51には、180×120画素の解像度にダウンコンバートされたユーザ注目対象強調画像81−3が表示される。
【0108】
このように、LCD51に表示されるユーザ注目対象強調画像81−3は、原画像81−1が単にダウンコンバートされたものではなく、原画像81−1のボール93−1よりも大きいボール93−2が合成されたユーザ注目強調画像81−2がダウンコンバートされたものである。その結果、ユーザ注目対象強調画像81−3に対するボール93−3の相対的なサイズ(ボール93−3の占める割合)は、原画像81−1に対するボール93−1の相対的なサイズよりも大きくなっている。
【0109】
従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像81−3を見て、ピッチャー92−2がボール93−3をバッター91−2に対して投げている状況であることを確実に視認することが可能になる。換言すると、上述した第1の例(解像度が低くなる例)および第3の例(解像度が低くなるとともに、画像の大きさが小さくなる例)に対する従来の課題を解決することが可能になる。
【0110】
このように、図15のソフトウエアプログロムが搭載された図14の携帯型表示機器21は、ユーザ注目対象が他のオブジェクトよりも相対的に強調されたユーザ注目対象強調画像81−2、またはユーザ注目対象強調画像81−3を表示(または出力)することができるので、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0111】
ところで、上述した例では、ユーザ注目対象調整処理は、静止画像に対する処理とされたが、動画像とされても基本的に同様の処理が施される。ただし、動画像の場合、ユーザ注目対象抽出モジュール73は、例えば、以下のようにしてユーザ注目対象のデータを抽出する。
【0112】
即ち、図18は、動画像の場合、ユーザ注目対象抽出モジュール73が、ユーザ注目対象(ボール)のデータを、その動きに追従させて抽出する様子を表している。
【0113】
画像101−1は、動画像を構成するフレームのうちの所定のフレームであり、原画像81−1(図17)と同様に、野球の様子を表している。即ち、画像101−1は、ピッチャー112−1がバッター111−1に向かってボール113−1を投げた状態を表している。
【0114】
画像101−2は、画像101−1の次(後)のフレームであり、ボール113−2が、画像101−1のボール113−1の位置に対して、ピッチャー112−2よりもバッター111−2側に進んでいることを表している(実際の画像101−2には、ボール113−1と点線の矢印は含まれない)。
【0115】
画像101−3は、画像101−2の次(後)のフレームであり、ボール113−3が、画像101−2のボール113−2の位置に対して、ピッチャー112−3よりもバッター111−3側にさらに進んでいることを表している(実際の画像101−3には、ボール113−2と点線の矢印は含まれない)。
【0116】
この場合、画像101−1が仮に動画像の最初のフレームとされ、画像入力モジュール71が、原画像として画像101−1を入力すると、ユーザ注目対象抽出モジュール73は、画像認識によりボール113−1を探索し、そのデータを抽出する。この探索処理は、画像101−1の全ての範囲に及ぶため大きな処理となり、それだけ処理時間もかかることになる。
【0117】
これに対して、動画像においては前後のフレームにおける差分は一般に小さいものであるため、画像入力モジュール71が、原画像として、画像101−1の次のフレームである画像101−2を入力した場合、ユーザ注目対象抽出モジュール73は、画像101−1におけるボール113−1の付近の領域を探索するだけで、ボール113−2のデータを抽出することが可能となる。即ち、この場合の探索処理は最初のフレーム(いまの場合、画像101−1)に対して小さな処理となり、その分、処理時間も短縮される。
【0118】
画像入力モジュール71が、原画像として、画像101−2の次のフレームである画像101−3を入力した場合、ユーザ注目対象抽出モジュール73は、画像101−2が原画像である場合と同様な方法によって、ボール113−3を探索できる。さらに、ユーザ注目対象抽出モジュール73は、画像101−1から画像101−2への切り替わり時にボール113−1の位置とボール113−2の位置の間の距離(ボールの移動距離)を計測して、画像101−3におけるボール113−3の位置を予め推定することができるため、更に効率の良い探索が可能になる。
【0119】
このように、動画像においては、ユーザ注目対象抽出モジュール73は、前後のフレームから、ユーザ注目対象設定モジュール72により設定されたユーザ注目対象(この例では、ボール)の動きに追従した探索を行なうことで、画像認識による探索よりも効率のよい探索を行うことが可能になる。即ち、処理量が少なくかつ処理時間の短い探索が可能になる。
【0120】
さらに、ユーザ注目対象抽出モジュール73は、画像認識により探索を行う場合、ユーザ注目対象と似たものが同じ画像内に含まれていると、誤った認識(探索)を行なう恐れもあるが、ユーザ注目対象(この例では、ボール)の動きに追従した探索を行う場合、ユーザ注目対象の前後のフレーム間の関係に基づいて探索を行うので、正しいユーザ注目対象をより正確かつより早く探索することが可能になる。
【0121】
なお、上述した例では、ユーザ注目対象(ボール)の位置が着目された探索が行われたが、位置以外の変化が利用される探索でも同様の効果がある。例えば、カメラが、画像101−1の状況をバッター111−1の後方から撮影した場合、ピッチャー112−1によって投げられたボール113−1は時々刻々と近づいて来ることになる。換言すると、ボールの大きさ(画像に対する相対的な大きさ)が時々刻々と大きくなる。ユーザ注目対象抽出モジュール73は、この大きさの変化に追従することで、より効率良く、かつより正確に画像内のボールを特定することが可能になる。
【0122】
このように動画像においては、ユーザ注目対象抽出モジュール73は、今回の処理の前に探索したユーザ注目対象の変化に追従して、処理対象の画像内のユーザ注目対象の探索を行なうことで、そのデータを抽出する。従って、ユーザ注目対象が効率良く探索されるとともに、誤った探索が行われる可能性も少なくなる。
【0123】
以上、携帯型表示機器21のユーザ注目対象調整処理を実現するソフトウエアプログラムとして、図15と図16の例に基づいて説明したが、このソフトウエアプログラムは、図15と図16の例に限定されず、様々な実施の形態が可能である。
【0124】
そこで、以下、図15と図16の例とは異なるソフトウエアプログラムの例について説明する。
【0125】
具体的には、例えば、図19は、携帯型表示機器21(図14)が有している機能のうちの、後述する図20のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0126】
図19に示されるように、このソフトウエアプログラムは、図15の画像入力モジュール71乃至画像出力モジュール77のそれぞれと同様の機能を有する画像入力モジュール121乃至画像出力モジュール127のそれぞれより構成されている。
【0127】
ただし、図15の例では、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75の後に配置されていたが、図19の例では、ダウンコンバートモジュール126は、ユーザ注目対象合成モジュール125の前に配置されている。
【0128】
即ち、図15の例では、先に、ユーザ注目対象合成モジュール75が、画像入力モジュール71が入力した原画像と、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成した後、ダウンコンバートモジュール76が、ユーザ注目対象強調画像のダウンコンバートを実行する。
【0129】
これに対して、図19の例では、先に、ダウンコンバートモジュール126が、画像入力モジュール121が入力した原画像のダウンコンバートを実行し、その後、ユーザ注目対象合成モジュール125が、ダウンコンバートモジュール126によりダウンコンバートされた原画像と、ユーザ注目対象調整モジュール124により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成する。
【0130】
次に、図20のフローチャートを参照して、図19の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0131】
はじめに、ステップS21において、画像入力モジュール121は、原画像を入力する。
【0132】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール121は、原画像として、デジタルビデオカメラ61が撮影した図21に示される画像131−1に対応する画像データ(以下、単に原画像131−1と称する)を、外部機器接続部38を介して入力するとする。
【0133】
原画像131−1は、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像131−1は、ピッチャー142−1がバッター141−1に向かってボール143−1を投げた状態を表している。
【0134】
また、この例においては、例えば、デジタルビデオカメラ61の表示部(図示せず)は、解像度が720×480画素とされている。即ち、画像131−1の解像度が720×480画素とされている。これに対して、携帯型表示機器21のLCD51の解像度が180×120画素とされている。
【0135】
さらに、説明の都合上、デジタルビデオカメラ61の表示部の画素と携帯型表示機器21のLCD51の画素の大きさは、同じ大きさとされている。
【0136】
即ち、この例は、図21に示されるように、解像度だけが下げられる場合の例である。換言すると、この例は、上述した図2乃至図5に示される従来の課題が発生する第1の例(720×480画素の画像から180×120画素の画像に変換される場合の第1の例)に対応する例であって、その第1の例の課題を解決することが可能な例である。
【0137】
次に、ステップS22において、ユーザ注目対象設定モジュール122は、ユーザ注目対象を設定する。なお、この例においても、上述した例と同様に、ユーザ注目対象設定モジュール122は、ユーザ注目対象としてボールを設定するとする。
【0138】
ステップS23において、ユーザ注目対象抽出モジュール123は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール123は、原画像131−1の中から、ユーザ注目対象としてボール143−1に対応する画像データ(以下、単にボール143−1と称する)を抽出する。
【0139】
ステップS24において、ユーザ注目対象調整モジュール124は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール124は、ユーザ注目対象抽出モジュール123により抽出されたボール143−1に対してサイズ変換処理132を施して、その画像サイズを元のn倍の大きさにする。
【0140】
このサイズの変換率nは、特に限定されないが、この例においては、例えば、後述するように、原画像131−1が1/4倍ダウンコンバートされた画像131−2に対して、ボール143−1のn倍のサイズのボール143−5が合成されることになるので、少なくとも1/4よりも大きい値とされる。即ち、変換率nが1/4以下とされた場合、ボール143−5の画像131−3に対する相対的な大きさ(ボール143−5の占める割合)は、ボール143−1の画像131−1に対する相対的な大きさ(元の大きさ)よりも小さくなってしまう。そこで、この例においては、変換率nは、1/4よりも大きな値とされる。
【0141】
具体的には、変換率nが、1/4<n<1とされた場合、ユーザ注目対象調整モジュール124は、処理132としてサイズ縮小処理を施して、ボール143−1に対して、その画像サイズがn(1/4<n<1)倍縮小された画像データ143−3(以下、そのような画像データを、単にボール143−3と称する)を生成する。
【0142】
変換率nが1とされた場合、ユーザ注目対象調整モジュール124は、処理132として特に何の処理も施さず、ボール143−1をそのまま使用する。
【0143】
変換率nが、1>nとされた場合、ユーザ注目対象調整モジュール124は、処理132としてサイズ拡大処理を施して、ボール143−1に対して、その画像サイズがn(1>n)倍拡大された画像データ143−4(以下、そのような画像データを、単にボール143−4と称する)を生成する。
【0144】
ステップS25において、ダウンコンバートモジュール126は、ダウンコンバートの必要があるか否かを判定する。
【0145】
ステップS25において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール126は、特に何の処理も施さない。即ち、処理は、ステップS27に進められる。
【0146】
これに対して、この例においては、ダウンコンバートモジュール126は、ステップS25において、ダウンコンバートの必要があると判定し、ステップS26において、画像入力モジュール121が入力した720×480画素の原画像131−1に対して、1/4のダウンコンバートを実行し、180×120画素の原画像131−2に対応する画像データ(以下、単に原画像131−2と称する)を生成する。
【0147】
この原画像131−2がLCD51にそのまま表示された場合、上述した第1の例に対する従来の課題が発生する。そこで、この例においては、ステップS27において、ユーザ注目対象合成モジュール125が、ダウンコンバートモジュール126によりダウンコンバートされた原画像131−2(180×120画素の原画像131−2)に、ユーザ注目対象調整モジュール124により調整されたボール143−5(ボール143−5は、変換率nが1/4<n<1であった場合、ボール143−3であり、変換率nが1であった場合、ボール143−1であり、また、変換率nが1>nであった場合、ボール143−4である)を合成して、ユーザ注目対象強調画像131−3に対応する画像データ(以下、単に、ユーザ注目対象強調画像131−3と称する)を生成する。
【0148】
ステップS28において、画像出力モジュール127は、ユーザ注目対象強調画像131−3を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール127は、ユーザ注目対象強調画像131−3に対応する画像データをLCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール127より出力された画像信号に対応するユーザ注目対象強調画像131−3を表示する。
【0149】
このように、ユーザ注目対象強調画像131−3の全体は、原画像131−1に対して1/4にダウンコンバートされているが、ユーザ注目対象強調画像131−3に含まれるボール143−5は、少なくとも1/4倍よりも大きなサイズにコンバートされている。換言すると、ユーザ注目対象強調画像131−3に対するボール143−5の相対的なサイズ(ボール143−5の占める割合)は、原画像131−1に対するボール143−1の相対的なサイズよりも大きくなっている。従って、ユーザは、LCD51に表示されたユーザ注目対象強調画像131−3を見て、ピッチャー142−2がボール143−5をバッター141−2に対して投げている状況であることを確実に視認することが可能になる。
【0150】
このように、図19のソフトウエアプログロムが搭載された携帯型表示機器21は、ユーザ注目対象が他のオブジェクトよりも強調されたユーザ注目対象強調画像131−3を表示(または出力)することができるので、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0151】
なお、上述した図19の例の説明として、携帯型表示機器21のLCD51の解像度が不十分な場合(原画像131−1の解像度より低い場合)、即ち、上述した第1の例に対する従来の課題を解決する説明を行ったが、勿論、図19の例においても、第2の例(解像度に変化はなく、画素の大きさが小さくなる例)や第3の例(解像度が低くなるとともに、画像の大きさが小さくなる例)に対する課題も解決することが可能である。
【0152】
さらに、図15と図16の例、および、図19と図20の例とは異なるソフトウエアプログラムの例が、図22と図23に示されている。
【0153】
即ち、図22は、例えば、携帯型表示機器21(図14)が有している機能のうちの、後述する図23のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0154】
図22に示されるように、このソフトウエアプログラムは、図15の画像入力モジュール71乃至画像出力モジュール77のそれぞれと同様の機能を有する画像入力モジュール151乃至画像出力モジュール157のそれぞれより構成されている。
【0155】
ただし、図15の例では、ダウンコンバートモジュール76は、ユーザ注目対象合成モジュール75の後に配置されていたが、図22の例では、ダウンコンバートモジュール156は、画像入力モジュール151の直後に配置されている。
【0156】
即ち、図15の例では、ユーザ注目対象合成モジュール75が、画像入力モジュール71が入力した原画像と、ユーザ注目対象調整モジュール74により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成した後、ダウンコンバートモジュール76が、ユーザ注目対象強調画像に対してダウンコンバートを実行する。
【0157】
これに対して、図22の例では、先に、ダウンコンバートモジュール156が、画像入力モジュール151が入力した原画像に対してダウンコンバートを実行する。その後、ユーザ注目対象抽出モジュール153が、そのダウンコンバートされた原画像の中から、ユーザ注目対象設定モジュール152により設定されたユーザ注目対象を抽出し、ユーザ注目対象調整モジュール154が、抽出されたユーザ注目対象を調整する。そして、ユーザ注目対象合成モジュール155が、ダウンコンバートモジュール156によりダウンコンバートされた原画像と、ユーザ注目対象調整モジュール154により調整されたユーザ注目対象を合成して、ユーザ注目対象強調画像を生成する。
【0158】
次に、図23のフローチャートを参照して、図22の携帯型表示機器21のユーザ注目対象調整処理について説明する。
【0159】
はじめに、ステップS41において、画像入力モジュール151は、原画像を入力する。
【0160】
なお、上述したように、原画像は、様々な入力元から入力が可能であるが、この例においては、例えば、画像入力モジュール151は、原画像として、他の装置(図示せず)より配信された図24に示される画像161−1に対応する画像データ(以下、単に原画像161−1と称する)を、アンテナ41および無線通信部40を介して入力するとする。
【0161】
原画像161−1も、従来の例で説明した野球の様子を表す画像11(図1)に対応する画像とされている。即ち、原画像161−1は、ピッチャー172−1がバッター171−1に向かってボール173−1を投げた状態を表している。
【0162】
ステップS42において、ダウンコンバートモジュール156は、ダウンコンバートの必要があるか否かを判定する。
【0163】
ステップS42において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール156は、特に何の処理も施さない。即ち、処理は、ステップS44に進められる。
【0164】
これに対して、この例においては、ダウンコンバートモジュール156は、ステップS42において、ダウンコンバートの必要があると判定し、ステップS43において、画像入力モジュール151が入力した原画像161−1に対して、1/4のダウンコンバートを実行し、原画像161−2に対応する画像データ(以下、単に原画像161−2と称する)を生成する。
【0165】
この原画像161−2がLCD51にそのまま表示された場合、上述した従来の課題が発生する。そこで、この例においては、ステップS44において、ユーザ注目対象設定モジュール152が、ユーザ注目対象を設定する。なお、この例においても、上述した例と同様に、ユーザ注目対象設定モジュール152は、ユーザ注目対象としてボールを設定するとする。
【0166】
ステップS45において、ユーザ注目対象抽出モジュール153は、ユーザ注目対象のデータを抽出する。即ち、この例においては、例えば、ユーザ注目対象抽出モジュール153は、原画像161−2の中から、ユーザ注目対象としてボール173−2に対応する画像データ(以下、単にボール173−2と称する)を抽出する。
【0167】
このように、この例(図22と図23の例)においては、ユーザ注目対象抽出モジュール153が、ダウンコンバートされた原画像161−2の中から、ボール173−2を探索するので、上述した他の例のように、ダウンコンバートされていない元の原画像の中からボールを探索する場合の処理量に比較して、処理量の軽減が可能になる。
【0168】
ステップS46において、ユーザ注目対象調整モジュール154は、ユーザ注目対象のデータを調整する。即ち、この例においては、例えば、ユーザ注目対象調整モジュール154は、ユーザ注目対象抽出モジュール153により抽出されたボール173−2に対してサイズ拡大処理162を施して、その画像サイズが拡大されたボールに対応する画像データ173−3(以下、そのような画像データを、単にボール173−3と称する)を生成する。
【0169】
ステップS47において、ユーザ注目対象合成モジュール155は、ダウンコンバートモジュール156によりダウンコンバートされた原画像161−2に、ユーザ注目対象調整モジュール154により調整されたボール173−3を合成して、ユーザ注目対象強調画像161−3に対応する画像データ(以下、単に、ユーザ注目対象強調画像161−3と称する)を生成する。
【0170】
ステップS48において、画像出力モジュール157は、ユーザ注目対象強調画像161−3を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール157は、ユーザ注目対象強調画像161−3に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール157より出力された画像信号に対応するユーザ注目対象強調画像161−3を表示する。
【0171】
このように、原画像161−1が1/4にダウンコンバートされた後、そのダウンコンバートされた原画像161−2の中からボール173−2が抽出され、抽出されたボール173−2が拡大されてボール173−3となり、その拡大されたボール173−3が、原画像161−2に合成されてユーザ注目対象強調画像161−3が生成される。従って、ユーザ注目対象強調画像161−3に対するボール173−3の相対的なサイズ(ボール173−3の占める割合)は、ダウンコンバートされる前の元の原画像161−1に対するボール173−1の相対的なサイズよりも大きくなる。これにより、ユーザは、LCD51に表示されたユーザ注目対象強調画像161−3を見て、ピッチャー172−2がボール173−3をバッター171−2に対して投げている状況であることを確実に視認することが可能になる。
【0172】
このように、図22のソフトウエアプログロムが搭載された携帯型表示機器21も、ユーザ注目対象が他のオブジェクトよりも強調されたユーザ注目対象強調画像161−3を表示(または出力)することができるので、他の例と同様に、上述した従来の課題を解決することができるという効果を奏することが可能になる。
【0173】
以上、図14の携帯型表示機器21が、ユーザ注目対象調整処理を行う例として、ユーザ注目対象を元の画像から抽出し調整してから、元の画像に合成することで、ユーザ注目対象を相対的に拡大する処理を行う3つの例(図15と図16の例、図19と図20の例、および、図22と図23の例)について説明した。
【0174】
勿論、ユーザ注目対象調整処理は、上述した3つの例に限定されず、様々な処理が可能である。即ち、ユーザ注目対象調整処理は、単に、ユーザ注目対象を他のオブジェクトに対して相対的に強調させて表示させることが可能な処理であればよい。
【0175】
例えば、携帯型表示機器21は、ユーザ注目対象を拡大しその周辺部を縮小することで、ユーザ注目対象を強調して表示させてもよい。
【0176】
図25乃至図27を参照して、このようなユーザ注目対象調整処理の具体的な例について説明する。
【0177】
即ち、この例では、例えば、図25の画像181−1が、オセロゲームの1場面を表す原画像とされている。また、原画像181−1のうちの、左から5升目、上から5升目の黒の駒182がユーザ注目対象として設定されている。
【0178】
この場合、上述した他の例と同様に、携帯型表示機器21が、ユーザ注目対象である駒182を、原画像181−1から抽出し調整してから原画像181−1に合成するユーザ注目対象調整処理を実行した場合、図26に示されるようなユーザ注目対象強調画像181−2が生成される。このように、オセロゲームのようなものに対して上述したユーザ注目対象調整処理の他の例が適用されると、拡大されたユーザ注目対象(駒)182が、その周辺部を隠してしまうユーザ注目対象強調画像181−2が生成されるという課題が発生する。
【0179】
そこで、このような場合、携帯型表示機器21は、ユーザ注目対象調整処理として、図27に示されるように、ユーザ注目対象(駒)182を拡大するとともに、その周辺部を逆に縮小した注目対象強調画像181−3を生成する処理を実行するとよい。図27の注目対象強調画像181−3に示されるように、携帯型表示機器21がこのようなユーザ注目対象調整処理を行うことで、ユーザ注目対象(駒)182の周辺部が隠れてしまうという課題(図26に示されるような課題)を解決することが可能になる。
【0180】
このように、携帯型表示機器21は、ユーザ注目対象を他のオブジェクトよりも強調して表示させるために、ユーザ注目対象そのものを調整してユーザ注目対象強調画像を生成するばかりではなく、ユーザ注目対象以外のオブジェクト(図27の例では、ユーザ注目対象(駒)182の周辺部のオブジェクト)を調整してユーザ注目対象強調画像を生成してもよい。
【0181】
以上、携帯型表示機器21のユーザ注目対象調整処理として、ユーザ注目対象を相対的に拡大する処理の例について説明したが、ユーザ注目対象調整処理は、これら上述した例に限定されない。即ち、ユーザ注目対象調整処理は、上述したように、単に、ユーザがユーザ注目対象を容易に認識できるような画像(ユーザ注目対象強調画像)の生成が可能な処理であればよい。
【0182】
具体的には、例えば、携帯型表示機器21は、ユーザ注目対象調整処理として、図28に示されるユーザ注目対象強調画像191−1、または、図29に示されるユーザ注目対象強調画像191−2を生成する処理を実行してもよい。
【0183】
即ち、図28のユーザ注目対象強調画像191−1は、上述した例と同様に、ピッチャー202−1がバッター201−1に向かってボール203−1を投げた状態を表す原画像から生成された画像である。ユーザ注目対象強調画像191−1においては、ユーザ注目対象であるボール203−1に対して矢印204が付加されることで、ボール203−1が強調されている(ユーザがボール203−1を容易に視認可能な画像とされている)。
【0184】
また、図29のユーザ注目対象強調画像191−2も、図28と同様に、ピッチャー202−1がバッター201−1に向かってボール203−1を投げた状態を表す原画像から生成された画像である。ユーザ注目対象強調画像191−2においては、図28の矢印204に対して、ボール203−1の周りを囲む円205が付加されることで、ボール203−1が強調されている(ユーザがボール203−1を容易に視認可能な画像とされている)。
【0185】
このように、携帯型表示機器21は、ユーザ注目対象を他のオブジェクトよりも強調して表示させるために、ユーザ注目対象そのものを調整したユーザ注目対象強調画像を生成するばかりではなく、ユーザ注目対象に対応するシンボルを新たに生成し、そのシンボルを原画像に付加した(合成した)ユーザ注目対象強調画像を生成してもよい。
【0186】
このようなシンボルが利用されるユーザ注目対象調整処理は、その他、例えば、競馬のような、ユーザ注目対象が複数個設定される場合に適用されると好適である。
【0187】
具体的には、例えば、競馬において、図30に示されるように、出走する馬が、馬221と馬222の2頭である場合、馬221と馬222は、LCD51に大きく映し出され、ユーザは馬221と馬222のそれぞれを容易に視認することが可能である。
【0188】
しかしながら、実際の競馬においては、図31に示されるように、出走する馬がさらに多くなる(図31の例では、馬221乃至馬227の7頭である)。従って、これらの沢山の馬221乃至馬227がLCD51に一度に映し出されると、馬221乃至馬227のそれぞれは非常に小さく映し出されることになり、ユーザは、馬221乃至馬227の中から、ユーザ自身が注目する馬を視認することが困難になる。さらに、一般的に、ユーザが注目する馬は、1頭ではなく複数の馬であることが多いため、ユーザ自身が注目する複数の馬を視認することがさらに困難になる。
【0189】
そこで、このような場合、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、図32に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬222および馬226のゼッケン(番号)のそれぞれに対応するシンボル232およびシンボル236のそれぞれを生成し、生成したシンボル232およびシンボル236のそれぞれを、馬222および馬226のそれぞれの周辺であって、馬221乃至馬227が隠れない位置に配置するようなユーザ注目対象強調画像を生成する処理を実行してもよい。
【0190】
また、例えば、ユーザ注目対象が馬221乃至馬227の全頭であるような場合、携帯型表示機器21は、ユーザ注目対象調整処理として、図33に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬221乃至馬227のゼッケン(番号)のそれぞれに対応するシンボル231乃至シンボル237のそれぞれを生成し、生成したシンボル231乃至シンボル237のそれぞれを、馬221乃至馬227のそれぞれの上に配置するような(合成するような)ユーザ注目対象強調画像を生成する処理を実行してもよい。
【0191】
或いは、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、図34に示されるようなユーザ注目対象強調画像を生成する処理を実行してもよい。即ち、携帯型表示機器21は、ユーザ注目対象として設定された馬221乃至馬227のゼッケン(番号)のそれぞれに対応するシンボル231乃至シンボル237のそれぞれを生成し、生成したシンボル231乃至シンボル237のそれぞれを、馬221乃至馬227のそれぞれの代わりに配置するような(馬221乃至馬227のそれぞれを消去し、消去したそれぞれの位置にシンボル231乃至シンボル237のそれぞれを合成するような)ユーザ注目対象強調画像を生成する処理を実行してもよい。
【0192】
さらにまた、図示はしないが、携帯型表示機器21は、例えば、ユーザ注目対象調整処理として、シンボルを生成するのではなく、ユーザ注目対象の色を調整した(ユーザ注目対象の色を、他のオブジェクトに対して強調できるような所定の色に変換した)ユーザ注目対象強調画像を生成する処理を実行してもよい。具体的には、例えば、上述したような競馬の場合、ユーザ注目対象に設定された馬だけをカラー表示し、他のオブジェクト、即ち、他の馬を白黒で表示するようなユーザ注目対象強調画像が生成されてもよい。
【0193】
なお、ユーザ注目対象が複数の場合、例えば、複数のユーザ注目対象のそれぞれに対して予め優先順位が設定されるとともに、その優先順位のそれぞれに対して所定の色(相互に異なる色)が予め設定されていれば、携帯型表示機器21は、ユーザ注目対象調整処理として、複数のユーザ注目対象のそれぞれの色を、それぞれの優先順位に対応する色に変換したユーザ注目対象強調画像を生成する処理を実行してもよい。
【0194】
このように、ユーザ注目対象調整処理は、ユーザ注目対象を他のオブジェクト(他の部分)よりも相対的に目立つように原画像を調整して、ユーザ注目対象強調画像を生成する処理であればよい。即ち、ユーザ注目対象調整処理は、LCD51のような小さな若しくは解像度の低い表示デバイスであっても、ユーザが、ユーザ注目対象を容易に視認できるようなユーザ注目対象強調画像を生成する処理であれば、その処理の内容は特に限定されない。
【0195】
また、ユーザ注目対象は、上述したような野球のボール、オセロの駒、または、競馬の馬に限定されず、基本的に原画像に含まれるオブジェクトであれば、いずれのオブジェクトがユーザ注目対象とされてもよい。例えば、テニス、ゴルフ、または、サッカーのボールは勿論、これら競技の選手が、ユーザ注目対象として設定可能であるし、競技やゲーム以外の原画像の中からユーザ注目対象が設定されてもよい。
【0196】
さらにまた、ユーザ注目対象調整処理は、画像データのみならず、他のデータ(例えば、音声データ)に対しても適用可能である。
【0197】
ところで、上述したように、図14の携帯型表示機器21は、他の装置から配信される動画像や静止画像といったコンテンツを、アンテナ41および無線通信部40を介して受信し、LCD51に表示させることが可能である。
【0198】
また、例えば、図35に示されるように、このようなコンテンツが、放送事業者が利用する情報処理装置252(以下、放送事業者装置252と称する)より配信される場合、コンテンツの配信経路(伝送経路)は、一般的に、放送事業者装置252から携帯型表示機器21−1までの第1の経路と、放送事業者装置252から携帯型表示機器21−2までの第2の経路の2つに大別される。
【0199】
即ち、第1の経路は、放送事業者装置252から送信されたコンテンツが、放送アンテナ254を介して無線255で携帯型表示機器21−1まで到達する経路である。これに対して、第2の経路は、放送事業者装置252から送信されたコンテンツが、コンテンツ配信事業者が利用する情報処理装置251(以下、コンテンツ配信事業者装置251と称する)、専用線網またはインターネット網といったネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2まで到達する経路である。
【0200】
なお、コンテンツ配信事業者装置251は、放送事業者装置252とは独立に、携帯型表示機器21−2に対してコンテンツを伝送することも可能である。
【0201】
また、この例においては、例えば、携帯型表示機器21−1と携帯型表示機器21−2のハードウエア構成は、上述した図14に示される構成とされる。
【0202】
具体的には、コンテンツの放送が、例えば、地上波アナログ放送、地上波デジタル放送、または、衛星放送等である場合、第1の経路が利用される。第1の経路においては、画像等のコンテンツの流れは一方向(放送事業者装置252から携帯型表示機器21−1方向)であり、放送事業者装置252から放送されたコンテンツは、携帯型表示機器21−1を利用するユーザを含む多数のユーザに同時に利用される。従って、従来のテレビジョン放送のようにフィールド単位やフレーム単位で伝送する方式では、放送事業者装置252側で、複数のユーザそれぞれに対してユーザ注目対象を設定し、設定した複数のユーザ注目対象を処理することは容易でない。
【0203】
そこで、このような場合、例えば、上述した野球のボールのように誰もが注目する対象がユーザ注目対象として設定されることが現実的であり、上述したユーザ注目対象調整処理は、放送事業者装置252側で行われて、放送事業者装置252から、図36に示されるユーザ注目対象強調画像261−1(データ)が放送されることになる。
【0204】
なお、ユーザ注目対象強調画像261−1は、上述した他の例と同様に、ピッチャー272−1がバッター271−1に向かってボール273−1を投げた状態を表す画像であり、ユーザ注目対象であるボール273−1が、他のオブジェクト(ピッチャー272−1とバッター271−1)に対して相対的に強調されている。即ち、ユーザ注目対象強調画像261−1は、ユーザがボール273−1を容易に視認可能なように、ボール273−1が他のオブジェクトに対して大きくされた画像とされている。
【0205】
しかしながら、この場合、ボールを注目する大多数のユーザにとって満足のいく画像の放送が容易に可能となるという特長を有するものの、ボール以外のオブジェクトを注目したいユーザにとっては、不満が残る画像が放送されるという課題も有している。
【0206】
そこで、この課題を解決するために、放送事業者装置252が、コンテンツの伝送方式として、MPEG(Moving Picture Experts Group)−4のようなオブジェクト単位で画像の伝送が可能な方式を利用することが考えられる。この場合、放送事業者装置252は、図37に示されるように、原画像261−2に対応するデータ(以下、単に原画像261−2と称する)の他に、ユーザが注目する可能性が高いオブジェクトのデータ262(このようなオブジェクトのデータは、ユーザ注目対象の候補となるデータとなるので、以下、ユーザ注目対象候補262と称する)として個別に伝送することが可能になる。
【0207】
なお、原画像261−2は、図36のユーザ注目対象強調画像261−1と同様に、ピッチャー272−2がバッター271−2に向かってボール273−2を投げた状態を表す画像の画像データである。ただし、原画像261−2においては、ボール273−2が、他のオブジェクト(ピッチャー272−2とバッター271−2)に対して特に強調されていない。また、ユーザ注目対象候補262は、バッター271−2に対応する画像データ271−3(以下、単にバッター271−3と称する)、ピッチャー272−2に対応する画像データ272−3(以下、単にピッチャー272−3と称する)、および、ボール273−2に対応する画像データ273−3(以下、単にボール273−3と称する)とされている。
【0208】
このように、放送事業者装置252が、原画像261−2の他にユーザ注目対象候補262(バッター271−3、ピッチャー272−3、および、ボール273−3)を、放送アンテナ254を介して無線255で携帯型表示機器21−1に送信してきた場合、携帯型表示機器21−1は、このユーザ注目対象候補262の中からユーザ注目対象を自由に選択することが可能になる。従って、携帯型表示機器21−1は、選択したユーザ注目対象が他のオブジェクトに対して相対的に強調されたユーザ注目対象強調画像(図示せず)を生成し、LCD51(図14)等に表示させることが可能になる。
【0209】
このような放送事業者装置252が、携帯型表示機器21−1に対して複数のユーザ注目対象候補を送信してくる場合における、ユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの例が、図38と図39に示されている。
【0210】
即ち、図38は、例えば、携帯型表示機器21−1(図35)が有している機能のうちの、後述する図39のフローチャートに示されるユーザ注目対象調整処理を行う機能を実現するソフトウエアプログラムの構成例を表している。
【0211】
図38に示されるように、このソフトウエアプログラムには、図15の画像入力モジュール71と同様の機能を有する画像入力モジュール281、図15のユーザ注目対象調整モジュール74と同様の機能を有するユーザ注目対象調整モジュール283、図15のユーザ注目対象合成モジュール74と同様の機能を有するユーザ注目対象合成モジュール284、図15のダウンコンバートモジュール76と同様の機能を有するダウンコンバートモジュール285、および、図15の画像出力モジュール77と同様の機能を有する画像出力モジュール286が設けられている。
【0212】
さらに、図38の例のソフトウエアプログラムには、図15のユーザ注目対象設定モジュール72とユーザ注目対象抽出モジュール73に対応するユーザ注目対象選択モジュール282が設けられている。
【0213】
ただし、図15の例では、先にユーザ注目対象が設定された後、その設定されたユーザ注目対象が抽出された。これに対して、図38の例では、画像入力モジュール281が、原画像(図37の例では、原画像261−2)を入力するとともに、放送事業者装置252(図35)側で原画像の中から予め抽出されたユーザ注目対象候補(図37の例では、ユーザ注目対象候補262)を入力する。そして、ユーザ注目対象選択モジュール282が、複数のユーザ注目対象候補のうちの、入力部36より入力された情報に対応するオブジェクト(ユーザにより指示されたオブジェクト)を、ユーザ注目対象として選択し、ユーザ注目対象調整モジュール283に供給する。
【0214】
次に、図39のフローチャートを参照して、図38の携帯型表示機器21−1のユーザ注目対象調整処理について説明する。
【0215】
例えば、いま、図35において、上述した図37に示される原画像261−2とユーザ注目対象候補262が、放送事業者装置252より放送アンテナ254を介して無線255で携帯型表示機器21−1に送信されてきたとする。
【0216】
そこで、図39のステップS61において、図38の画像入力モジュール281が、原画像261−2とユーザ注目対象候補262を入力する。なお、この入力は、この例においては、アンテナ41とされているが、アンテナ41に限定されず、その他、例えば、図38には図示されていないが、図14のドライブ42に装着されたリムーバブル記録媒体52、または、図14にも図示されていないが、LAN(Local Area Network)などより入力されても構わない。
【0217】
ステップS62において、ユーザ注目対象選択モジュール282は、画像入力モジュール281に入力されたユーザ注目対象候補262の中からユーザ注目対象となるものを選択する。
【0218】
ステップS62におけるユーザ注目対象の選択方法は、特に限定されないが、この例においては、例えば、次の通りとする。即ち、ユーザ注目対象選択モジュール282は、画像入力モジュール281に入力されたユーザ注目対象候補262をLCD51に表示させ、ユーザが、入力部36を操作して、LCD51に表示されたユーザ注目対象候補262の中からユーザ注目対象にしたいオブジェクトを指示する。ユーザ注目対象選択モジュール282は、入力部36より入力されたユーザの指示に基づいてユーザ注目対象を選択し、ユーザ注目対象調整モジュール283に供給する。
【0219】
なお、ユーザがユーザ注目対象を指示しない場合、ユーザ注目対象調整モジュール283は、自分自身の判断で、一般的に選択されることが多いオブジェクト、例えば、いまの場合、ボール273−3をユーザ注目対象として選択する。
【0220】
また、ユーザ注目対象選択モジュール282がLCD51に表示させるものは、上述したように、ユーザ注目対象候補262に対応する画像そのものでもよいが、それに限定されず、例えば、ユーザ注目対象候補262のリストでもよい。この場合、リストは、必ずしも原画像261−2やユーザ注目対象候補262とともに配信される必要はないが、それらとともに配信されたほうが使い勝手が良い。
【0221】
ステップS63において、ユーザ注目対象調整モジュール283は、ユーザ注目対象選択モジュール282により選択されたユーザ注目対象のデータ(例えば、ボール273−3)を調整する。
【0222】
ステップS64において、ユーザ注目対象合成モジュール284は、ユーザ注目対象調整モジュール283により調整されたボール273−3(ユーザ注目対象のデータ)を、画像入力モジュール281が入力した原画像261−2に合成して、ユーザ注目対象強調画像(図示はしないが、例えば、図36に示される画像261−1のような画像)に対応する画像データ(以下、単に、ユーザ注目対象強調画像と称する)を生成する。
【0223】
ステップS65において、ダウンコンバートモジュール285は、ダウンコンバートの必要があるか否かを判定する。
【0224】
ステップS65において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール285は、特に何の処理も施さない。即ち、処理は、ステップS67に進められる。
【0225】
これに対して、ステップS65において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール285は、ステップS66において、ユーザ注目対象強調画像に対して、ダウンコンバートを行う。
【0226】
ステップS67において、画像出力モジュール286は、ユーザ注目対象強調画像を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール286は、ユーザ注目対象強調画像に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール286より出力された画像信号に対応する画像(ユーザ注目対象強調画像)を表示する。
【0227】
出力先は、上述した例と同様に、LCD51に限定されず、例えば、図38に図示はされていないが、図14の記憶部39、無線通信部40とアンテナ41を介する他の装置(図14にも図示せず)、または、ドライブ42に装着されたリムーバブル記録媒体52等様々な出力先が可能である。
【0228】
このように、MPEG−4等のコンテンツの個別配信が可能な方式で、コンテンツが配信されてくる場合、携帯型表示機器21−1は、図38に示されるようなソフトウエアプログラムを実装することで、たとえ上述した第1の経路のような1方向のみの通信であっても、ユーザ(携帯型表示機器21−1側)がユーザ注目対象をある程度自由に設定することが可能になる。
【0229】
さらに、図35の携帯型表示機器21−2も、図38と同様の構成を有するソフトウエアプログラムを実装すれば、携帯型表示機器21−1と同様に、第1の経路により配信されたコンテンツの表示(ユーザ注目対象強調画像の表示)が可能になるとともに、さらに、上述した第2の経路により配信されたコンテンツの表示(ユーザ注目対象強調画像の表示)も可能になる。
【0230】
具体的には、例えば、インターネットにおけるダウンロード(down load)やストリーミング(streaming)などの場合、第2の経路が利用される。第2の経路においては、双方向の通信が可能であり、ユーザ個別の情報に基づく、各ユーザのそれぞれに適した画像等のコンテンツ伝送が可能である。従って、上述した図36または図37に示されるような方法のみならず、コンテンツ配信事業者装置251や放送事業者装置252に対して、ユーザ(携帯型表示機器21−2)がユーザ注目対象を伝えることにより、コンテンツ配信事業者装置251や放送事業者装置252が、複数のユーザのそれぞれのユーザ注目対象を反映した画像コンテンツを伝送するといった方法の利用が可能になる。
【0231】
例えば、上述した例と同様に、コンテンツが野球を表す画像である場合、携帯型表示機器21−2が、ユーザ注目対象としてボールを指定し、それをコンテンツ配信事業者装置251に対して通知すると、コンテンツ配信事業者装置251は、ユーザ注目対象調整処理を行い、図40に示されるユーザ注目対象強調画像301−1(データ)を携帯型表示機器21−2に配信することが可能になる。
【0232】
なお、ユーザ注目対象強調画像301−1は、上述した他の例と同様に、ピッチャー312−1がバッター311−1に向かってボール313−1を投げた状態を表す画像であり、ユーザ注目対象であるボール313−1が、他のオブジェクト(ピッチャー312−1とバッター311−1)に対して相対的に強調されている。即ち、ユーザ注目対象強調画像301−1は、ユーザがボール313−1を容易に視認可能なように、ボール313−1が他のオブジェクトに対して大きくされた画像とされている。図40に示されるこの方法は、各ユーザのそれぞれの好みに合わせた画像コンテンツの提供が可能になるという特長がある。
【0233】
或いは、例えば、携帯型表示機器21−2が、ユーザ注目対象としてボールを指定し、それをコンテンツ配信事業者装置251に対して通知すると、図41に示されるように、コンテンツ配信事業者装置251が、原画像301−2に対応するデータ(以下、単に原画像301−2と称する)の他に、ユーザ注目対象であるボールのデータ313−3(以下、ユーザ注目対象(ボール)313−3と記述する)を携帯型表示機器21−2に配信することも可能である。
【0234】
なお、原画像301−2は、図40のユーザ注目対象強調画像301−1と同様に、ピッチャー312−2がバッター311−2に向かってボール313−2を投げた状態を表す画像の画像データである。ただし、原画像301−2においては、ボール313−2が、他のオブジェクト(ピッチャー312−2とバッター311−2)に対して強調されていない。
【0235】
このように、図35の第1の経路のような1方向通信の場合、図37の例に示されるように、ユーザが利用するか否かが定かでないオブジェクトの伝送が必要とされる(バッター271−3、ピッチャー272−3、およびボール273−3といった複数のオブジェクトの伝送が必要とされる)。これに対して、図35の第2の経路のような双方向通信が可能な場合、図41の例に示されるように、伝送対象は、原画像301−2と、ユーザ注目対象調整処理に確実に必要となるユーザ注目対象(ボール)313−3のみでよい。図41に示されるこの方法は、伝送するデータ量を抑えつつ、複数のユーザのそれぞれの好みに合わせた画像コンテンツの配信が可能になるという特長がある。
【0236】
上述した図40と図41に示される方法に対応する、ユーザ端末21−2のユーザ注目対象調整処理が、図42のフローチャートに示されている。そこで、図42のフローチャートを参照して、図40と図41に示される方法に対応する、ユーザ端末21−2のユーザ注目対象処理について説明する。なお、ここでは、上述したように、ユーザ端末21−2のソフトウエア構成は、図38の構成とされている。
【0237】
例えば、いま、図35において、コンテンツ配信事業者251より、コンテンツ(この例では、野球の画像)の配信前に、そのコンテンツのユーザ注目対象候補(例えば、ボール、ピッチャー、バッター等)のリスト(図示せず)が、ネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2に送信されてきたとする。
【0238】
そこで、図42のステップS81において、図38のユーザ注目対象選択モジュール282が、ユーザ注目対象候補のリストを受信し、LCD51に表示させる。
【0239】
そして、ステップS82において、ユーザ注目対象選択モジュール282が、表示されたリストの中からユーザ注目対象を選択する。
【0240】
ステップS82におけるユーザ注目対象の選択方法は、特に限定されないが、ステップS62(図39)のそれと同様に、この例においては、例えば、次の通りとする。即ち、ユーザ注目対象選択モジュール282が、受信したユーザ注目対象候補のリストをLCD51に表示させると、ユーザは、入力部36を操作して、LCD51に表示されたリストの中からユーザ注目対象にしたいオブジェクトを指示する。ユーザ注目対象選択モジュール282は、入力部36より入力されたユーザの指示に基づいてユーザ注目対象を選択する。
【0241】
なお、ユーザがユーザ注目対象を指示しない場合、ユーザ注目対象選択モジュール282は、自分自身の判断で、一般的に選択されることが多いオブジェクト、例えば、いまの場合、ボールをユーザ注目対象として選択する。
【0242】
ステップS83において、ユーザ注目対象選択モジュール282は、選択されたユーザ注目対象(いまの場合、例えば、ボール)をコンテンツ配信事業者に通知する情報(以下、通知情報と称する)を、無線通信部40およびアンテナ41を介して送信する。
【0243】
図35において、携帯型表示機器21−2より送信された通知情報が、通信アンテナ256、および、ネットワーク253を介してコンテンツ配信事業者装置251に受信されると、コンテンツ配信事業者装置251は、コンテンツ(この例では、図40、または図41に示されるような画像データ)をネットワーク253、および通信アンテナ256を介して無線257で携帯型表示機器21−2に送信(配信)してくる。
【0244】
そこで、図42のステップS84において、図38の画像入力モジュール281は、コンテンツ配信事業者装置251から配信されたコンテンツを入力する。
【0245】
ステップS85において、ユーザ注目対象調整モジュール283は、画像入力モジュール281が入力したコンテンツのユーザ注目対象が既に強調されているか否かを判定する。
【0246】
例えば、画像入力モジュール281が、コンテンツとして、図40のユーザ注目対象強調画像301−1を入力した場合、ユーザ注目対象調整モジュール283は、ステップS85において、ユーザ注目対象が既に強調されていると判定し、特に何の処理も施さない。即ち、その処理は、ステップS88に進められる。
【0247】
これに対して、画像入力モジュール281が、コンテンツとして、図41の原画像301−2とユーザ注目対象(ボール)313−3を入力した場合、ユーザ注目対象調整モジュール283は、ステップS85において、ユーザ注目対象がまだ強調されていないと判定し、ステップS86において、入力されたユーザ注目対象(ボール)313−3を調整する。
【0248】
ステップS87において、ユーザ注目対象合成モジュール284は、ユーザ注目対象調整モジュール283により調整されたユーザ注目対象(ボール)313−3を、画像入力モジュール281が入力した原画像301−2に合成して、ユーザ注目対象強調画像(図示はしないが、例えば、図40の画像301−1のような画像)に対応する画像データ(以下、単に、ユーザ注目対象強調画像と称する)を生成する。
【0249】
ステップS88において、ダウンコンバートモジュール285は、ダウンコンバートの必要があるか否かを判定する。
【0250】
ステップS88において、ダウンコンバートの必要がないと判定した場合、ダウンコンバートモジュール285は、特に何の処理も施さない。即ち、処理は、ステップS90に進められる。
【0251】
これに対して、ステップS88において、ダウンコンバートの必要があると判定した場合、ダウンコンバートモジュール285は、ステップS89において、ユーザ注目対象強調画像に対して、ダウンコンバートを行う。
【0252】
ステップS90において、画像出力モジュール286は、ユーザ注目対象強調画像を出力する。なお、この例においても、上述した例と同様に、出力先はLCD51とされる。即ち、画像出力モジュール286は、ユーザ注目対象強調画像に対応する画像データを、LCD51のフォーマットの画像信号に変換させてLCD51に出力する。LCD51は、画像出力モジュール286より出力された画像信号に対応する画像(ユーザ注目対象強調画像)を表示する。
【0253】
なお、上述した例では、ユーザ注目対象は、コンテンツ配信事業者(または、放送事業者)側で抽出されたが、携帯型表示機器21−1または携帯型表示機器21−2が抽出しても良い。この場合、ユーザのユーザ注目対象の設定の自由度がより大きくなることが可能になる。
【0254】
以上のように、本発明の携帯型表示機器21(図14)は、入力された原画像の画像データの中から、予め設定されたユーザ注目対象に対応するオブジェクトデータを抽出し、ユーザ注目対象が、原画像に含まれる他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像の画像データを調整して、ユーザ注目対象強調画像に対応する画像データを生成し、生成した画像データを出力する(例えば、ユーザ注目対象強調画像をLCD51に表示させる)。
【0255】
従って、上述した携帯型表示機器21のような本発明の画像処理装置、または画像表示装置は、以下のような効果を奏することが可能になる。
【0256】
即ち、第1の効果として、LCD51のような、小さい若しくは解像度の低い表示デバイスであっても、ユーザは、その表示デバイスに表示された様々な動画像または静止画像(ユーザ注目対象強調画像)の内容を容易に把握することが可能になる。
【0257】
第2の効果として、第1の効果により、ユーザは、これまで小さな表示デバイスでは楽しむことが困難であったコンテンツも楽しむことができるようになる。
【0258】
第3の効果として、ユーザ注目対象は、画像認識により自動的に抽出されることができるので、ユーザやコンテンツ制作者が、ユーザ注目対象の位置や領域を指定する必要がなくなる。
【0259】
第4の効果として、動画像の場合、前後のフレームとの比較により、ユーザ注目対象の変化に追従した処理が行なえるので、より効率良く、かつより精度良くユーザ注目対象が探索され、抽出されることが可能になる。
【0260】
第5の効果として、ユーザ注目対象として処理可能なオブジェクトのリストがユーザに提示され、ユーザがその中から好みに沿った対象を選択することができるので、複数のユーザのそれぞれの趣向に合わせた処理が可能になる。
【0261】
第6の効果として、双方向通信が可能な通信路においては、ユーザが注目する対象をコンテンツ配信事業者や放送事業者に伝え、コンテンツ配信事業者や放送事業者はそれに沿った処理を施した画像をユーザに提供するという方法が採れる。従って、これにより伝送データ量を抑えつつユーザ個別の好みに合ったコンテンツの提供が可能になる。
【0262】
また、上述した図36や図40の例のように、受信側の携帯型表示機器21のみならず、送信側(配信側)の画像配信装置(例えば、図35の放送事業者装置252、またはコンテンツ配信事業者装置251)も、本発明が適用されるユーザ注目対象調整処理を実行することが可能である。即ち、本発明は、画像配信装置にも適用可能であり、本発明が適用された画像配信装置も、上述した第1乃至第6の効果を奏することが可能になる。
【0263】
具体的には、画像配信装置は、配信すべき原画像の画像データの中から、予め設定されたユーザ注目対象に対応するオブジェクトデータを抽出し、ユーザ注目対象が、原画像に含まれる他のオブジェクトよりも相対的に強調されるように、ユーザ注目対象のオブジェクトデータに基づいて原画像の画像データを調整して、ユーザ注目対象強調画像(例えば、図36の画像261−1や、図40の画像301−1等)に対応する画像データを生成し、携帯型表示機器21等の受信側に配信する。
【0264】
なお、本発明の画像配信装置の構成は、特に限定されないが、例えば、図14の携帯型表示機器21と同様の構成を取ることが可能である。ただし、画像配信装置が、図35の放送事業者装置252である場合、アンテナ41に相当するアンテナは、放送アンテナ254であるので、無線通信部40は、放送アンテナ254を介してコンテンツ(ユーザ注目対象強調画像の画像データ)を送信する送信処理を実行する。また、画像配信装置が、図35のコンテンツ配信事業者装置251である場合、図14には図示されていない、ネットワーク253と接続可能な通信部がさらに設けられる。
【0265】
ところで、上述したユーザ注目対象調整処理等の一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
【0266】
この記録媒体は、図14に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini−Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブル記録媒体(パッケージメディア)52により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM32や、記憶部39に含まれるハードディスクなどで構成される。
【0267】
また、上述した一連の処理は、ソフトウエアにより実行させることもできるが、ハードウエアにより実行させることもできる。
【0268】
即ち、上述したユーザ注目対象調整処理を実現するソフトウエアプログラムを構成する各モジュールのそれぞれは、対応する機能を果たすものであれば、その形態は限定されず、例えば、ハードウエアなどでモジュールが構成されてもよい。この場合、例えば、製造者等は、上述した各モジュールのそれぞれに対応する装置(ハードウエア)を製作し、それらを、図15、図19、図22、または、図38に示されるようにそれぞれ接続することで、本発明が適用される画像処理装置、画像表示装置、または画像配信装置を、図14とは異なる構成で実現することも可能である。
【0269】
さらに、上述した例においては、動画像はフレームとして処理されたが、フィールドとしても処理可能である。そこで、本明細書においては、フィールドやフレームといった単位を、アクセスユニットとも称する。
【0270】
さらにまた、本明細書において、媒体により提供されるプログラムを記述するステップは、記載された順序に従って、時系列的に行われる処理は勿論、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0271】
【発明の効果】
以上のごとく、本発明によれば、ユーザが所望するオブジェクトを含む画像の表示を制御することができる。特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させるように制御することができる。
【0272】
また、本発明によれば、ユーザが所望するオブジェクトを含む画像を表示することができる。特に、小さな若しくは解像度の低い表示デバイスに対しても、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示させることができる。
【0273】
さらに、本発明によれば、ユーザが所望するオブジェクトを含む画像を、ユーザが所望する携帯型表示機器に対して配信することができる。特に、携帯型表示機器の表示デバイスが小さな若しくは解像度の低い表示デバイスであっても、その表示デバイスに対して、ユーザが所望するオブジェクトを、ユーザが視認可能な状態で常時表示可能なように、画像を配信することができる。
【図面の簡単な説明】
【図1】据置型表示機器に表示される画像を、従来の携帯型表示機器に表示させた場合の課題を説明する図である。
【図2】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の例を説明する図である。
【図3】図2の第1の画像に含まれるボールを、図2の変換方法で変換する例を説明する図である。
【図4】図2の第1の画像に含まれるボールを、図2の変換方法で変換する他の例を説明する図である。
【図5】図2の第1の画像に含まれるボールを、図2の変換方法で変換するさらに他の例を説明する図である。
【図6】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の他の例を説明する図である。
【図7】図6の第1の画像に含まれるボールを、図6の変換方法で変換する例を説明する図である。
【図8】図6の第1の画像に含まれるボールを、図6の変換方法で変換する他の例を説明する図である。
【図9】図6の第1の画像に含まれるボールを、図6の変換方法で変換するさらに他の例を説明する図である。
【図10】図1の据置型表示機器に表示される第1の画像から、図1の携帯型表示機器に表示される第2の画像に変換する変換方法の他の例を説明する図である。
【図11】図10の第1の画像に含まれるボールを、図10の変換方法で変換する例を説明する図である。
【図12】図10の第1の画像に含まれるボールを、図10の変換方法で変換する他の例を説明する図である。
【図13】図10の第1の画像に含まれるボールを、図10の変換方法で変換するさらに他の例を説明する図である。
【図14】本発明が適用される携帯型表示機器のハードウエアの構成例を示すブロック図である。
【図15】図14の携帯型表示機器のソフトウエアの構成例を示すブロック図である。
【図16】図15の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図17】図16のユーザ注目対象調整処理の具体的な例を説明する図である。
【図18】動画像に対して、図16のユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図19】図14の携帯型表示機器のソフトウエアの構成の他の例を示すブロック図である。
【図20】図19の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図21】図20のユーザ注目対象調整処理の具体的な例を説明する図である。
【図22】図14の携帯型表示機器のソフトウエアの構成の他の例を示すブロック図である。
【図23】図22の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図24】図23のユーザ注目対象調整処理の具体的な例を説明する図である。
【図25】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図26】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図27】オセロゲームを表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図28】野球を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図29】野球を表す画像に対して、図28とは異なるユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図30】競馬を表す画像の例を説明する図である。
【図31】図30とは異なる例の競馬を表す画像を説明する図である。
【図32】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図33】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図34】図31の競馬を表す画像に対して、ユーザ注目対象調整処理を施した場合の具体的な例を説明する図である。
【図35】図14の携帯型表示機器に対して、放送事業者装置またはコンテンツ配信事業者装置からコンテンツが配信される例を説明する図である。
【図36】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な例を説明する図である。
【図37】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な他の例を説明する図である。
【図38】図35の携帯型表示機器のソフトウエアの構成例を示すブロック図である。
【図39】図35の携帯型表示機器のユーザ注目対象調整処理例を説明するフローチャートである。
【図40】図35の携帯型表示機器のユーザ注目対象調整処理の具体的な他の例を説明する図である。
【図41】図35の携帯型表示機器のユーザ注目対象調整処理の具体的なさらに他の例を説明する図である。
【図42】図35の携帯型表示機器のユーザ注目対象調整処理の他の例を説明するフローチャートである。
【符号の説明】
21,21−1,21−2 携帯型表示機器, 31 CPU, 71 画像入力モジュール, 72 ユーザ注目対象設定モジュール, 73 ユーザ注目対象抽出モジュール, 74 ユーザ注目対象調整モジュール, 75 ユーザ注目対象合成モジュール, 76 ダウンコンバートモジュール, 77 画像出力モジュール, 93−1乃至93−5 ユーザ注目対象(ボール), 113−1乃至113−3 ユーザ注目対象(ボール), 121 画像入力モジュール, 122 ユーザ注目対象設定モジュール, 123 ユーザ注目対象抽出モジュール, 124 ユーザ注目対象調整モジュール, 125 ユーザ注目対象合成モジュール, 126 ダウンコンバートモジュール, 127 画像出力モジュール, 143−1乃至143−7 ユーザ注目対象(ボール), 151 画像入力モジュール, 152 ユーザ注目対象設定モジュール, 153 ユーザ注目対象抽出モジュール, 154 ユーザ注目対象調整モジュール, 155 ユーザ注目対象合成モジュール, 156 ダウンコンバートモジュール, 157 画像出力モジュール, 173−1乃至173−5 ユーザ注目対象(ボール), 181−1乃至181−3 ユーザ注目対象(オセロのコマ), 203−1,203−2 ユーザ注目対象(ボール), 204,205 ユーザ注目対象指示シンボル, 221乃至227 ユーザ注目対象(競馬の馬), 231乃至237 ユーザ注目対象指示シンボル, 251 コンテンツ配信事業者装置251, 252 放送事業者装置252, 261−1乃至261−3 ユーザ注目対象(ボール), 281 画像入力モジュール, 282 ユーザ注目対象選択モジュール, 283 ユーザ注目対象調整モジュール, 284 ユーザ注目対象合成モジュール, 285 ダウンコンバートモジュール, 313−1,313−2 ユーザ注目対象(ボール)
Claims (19)
- 入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、
前記抽出手段により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成手段と、
前記生成手段により生成された前記第2の画像データに対応する画像の表示を制御する表示制御手段と
を備えることを特徴とする画像処理装置。 - 前記生成手段は、前記抽出手段により抽出された前記オブジェクトデータに対応する前記オブジェクトの、前記他のオブジェクトに対する相対的なサイズを変化させるサイズ変化手段と、
前記サイズ変化手段によりサイズが変化された前記オブジェクトを、前記第1の画像データに対応する前記画像のうちの、元のサイズの前記オブジェクトが配置されていた位置の上に配置させるように、前記オブジェクトデータを前記第1の画像データに合成して前記第2の画像データを生成する合成手段と
を有することを特徴とする請求項1に記載の画像処理装置。 - 前記生成手段は、前記第1の画像データに対応する画像に対して、前記抽出手段により抽出された前記オブジェクトデータに対応する前記オブジェクトの色が調整された画像に対応する前記第2の画像データを生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記生成手段は、前記第1の画像データのうちの、前記抽出手段により抽出された前記オブジェクトデータ以外のデータが調整された前記第2の画像データを生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記生成手段は、前記抽出手段により抽出された前記オブジェクトデータに対応するシンボルを生成し、前記第1の画像データに対応する画像に対して、生成した前記シンボルがさらに付加された画像に対応する前記第2の画像データを生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記生成手段は、前記抽出手段により抽出された前記オブジェクトデータに対応するシンボルを生成し、前記第1の画像データに対応する画像に対して、前記オブジェクトの代わりに、生成した前記シンボルが配置された画像に対応する前記第2の画像データを生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記オブジェクトを設定する設定手段をさらに備え、
前記抽出手段は、前記第1の画像データの中から、前記設定手段により設定された前記オブジェクトに対応する前記オブジェクトデータを抽出する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記設定手段は、前記第1の画像データの特徴に基づいて、自分自身の判断で前記オブジェクトを設定する
ことを特徴とする請求項7に記載の画像処理装置。 - ユーザの操作により、前記ユーザが所望する前記オブジェクトを指示する情報を入力する入力手段をさらに備え、
前記設定手段は、前記入力手段より入力された前記情報に基づいて前記オブジェクトを設定する
ことを特徴とする請求項7に記載の画像処理装置。 - 前記オブジェクトの候補となるオブジェクト候補が複数個存在し、
前記入力手段は、複数の前記オブジェクト候補のうちの前記ユーザにより選択された所定の1つを、前記オブジェクトとして指示する前記情報を入力する
ことを特徴とする請求項9に記載の画像処理装置。 - 前記第1の画像データは、動画像のうちの第1のアクセスユニットを構成する画像データであり、
前記抽出手段は、前記第1のアクセスユニットよりも前の第2のアクセスユニット、若しくは後の第3のアクセスユニット、または前記第2のアクセスユニットと前記第3のアクセスユニットの両方に基づいて、前記第1のアクセスユニット内の前記オブジェクトの位置を推定し、推定した前記位置に基づいて、前記第1のアクセスユニット内の前記オブジェクトに対応する前記オブジェクトデータを抽出する
ことを特徴とする請求項1に記載の画像処理装置。 - 画像の表示を制御する画像処理装置の画像処理方法において、
入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データに対応する画像の表示を制御する表示制御ステップと
を含むことを特徴とする画像処理方法。 - 画像の表示を制御する処理をコンピュータに実行させるプログラムであって、
入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データに対応する画像の表示を制御する表示制御ステップと
を含むことを特徴とするプログラム。 - 画像を表示する表示手段と、
入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、
前記抽出手段により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成手段と、
前記生成手段により生成された前記第2の画像データに対応する画像を、前記表示手段に表示させるように制御する表示制御手段と
を備えることを特徴とする画像表示装置。 - 画像を表示する表示デバイスを備える画像表示装置の画像表示方法において、
入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データに対応する画像を、前記表示デバイスに表示させるように制御する表示制御ステップと
を含むことを特徴とする画像表示方法。 - 表示デバイスに対する画像の表示を制御する処理を、コンピュータに実行させるプログラムであって、
入力された第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データに対応する画像を、前記表示デバイスに表示させるように制御する表示制御ステップと
を含むことを特徴とするプログラム。 - 配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出手段と、
前記抽出手段により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成手段と、
前記生成手段により生成された前記第2の画像データを配信する配信手段と
を備えることを特徴とする画像配信装置。 - 画像データを配信する画像配信装置の画像配信方法において、
配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データを配信する配信ステップと
を含むことを特徴とする画像配信方法。 - 画像データの配信を制御する処理をコンピュータに実行させるプログラムであって、
配信すべき第1の画像データの中から、予め設定されたオブジェクトに対応するオブジェクトデータを抽出する抽出ステップと、
前記抽出ステップの処理により抽出された前記オブジェクトデータに対応する前記オブジェクトが、前記第1の画像データに対応する画像に含まれる他のオブジェクトよりも相対的に強調されるように、前記オブジェクトデータに基づいて前記第1の画像データを調整して第2の画像データを生成する生成ステップと、前記生成ステップの処理により生成された前記第2の画像データの配信を制御する配信制御ステップと
を含むことを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002304517A JP2004140670A (ja) | 2002-10-18 | 2002-10-18 | 画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002304517A JP2004140670A (ja) | 2002-10-18 | 2002-10-18 | 画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004140670A true JP2004140670A (ja) | 2004-05-13 |
Family
ID=32451914
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002304517A Withdrawn JP2004140670A (ja) | 2002-10-18 | 2002-10-18 | 画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004140670A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1638321A1 (en) * | 2004-09-17 | 2006-03-22 | Thomson Licensing | Method of viewing audiovisual documents on a receiver, and receiver therefore |
JP2010256536A (ja) * | 2009-04-23 | 2010-11-11 | Sharp Corp | 画像処理装置及び画像表示装置 |
JP2014139681A (ja) * | 2006-09-01 | 2014-07-31 | Thomson Licensing | 適応的なビデオ呈示のための方法および装置 |
KR20150144543A (ko) * | 2014-06-17 | 2015-12-28 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
US10091411B2 (en) | 2014-06-17 | 2018-10-02 | Lg Electronics Inc. | Mobile terminal and controlling method thereof for continuously tracking object included in video |
-
2002
- 2002-10-18 JP JP2002304517A patent/JP2004140670A/ja not_active Withdrawn
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1638321A1 (en) * | 2004-09-17 | 2006-03-22 | Thomson Licensing | Method of viewing audiovisual documents on a receiver, and receiver therefore |
US9137562B2 (en) | 2004-09-17 | 2015-09-15 | Thomson Licensing | Method of viewing audiovisual documents on a receiver, and receiver for viewing such documents |
JP2014139681A (ja) * | 2006-09-01 | 2014-07-31 | Thomson Licensing | 適応的なビデオ呈示のための方法および装置 |
JP2010256536A (ja) * | 2009-04-23 | 2010-11-11 | Sharp Corp | 画像処理装置及び画像表示装置 |
KR20150144543A (ko) * | 2014-06-17 | 2015-12-28 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
KR101638922B1 (ko) * | 2014-06-17 | 2016-07-12 | 엘지전자 주식회사 | 이동단말기 및 그 제어방법 |
US10091411B2 (en) | 2014-06-17 | 2018-10-02 | Lg Electronics Inc. | Mobile terminal and controlling method thereof for continuously tracking object included in video |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8522160B2 (en) | Information processing device, contents processing method and program | |
US8358907B2 (en) | Display control apparatus, display control method, and program | |
US20200053404A1 (en) | Predictive Content Delivery for Video Streaming Services | |
JP5495855B2 (ja) | 映像処理装置及び映像処理方法 | |
JP2017531979A (ja) | スポーツ競技場における視覚的な選手追跡のためのシステムおよび方法 | |
US8279282B2 (en) | Display control apparatus, display control method, and program | |
KR101558659B1 (ko) | 화상 처리 장치, 화상 처리 방법 및 기록 매체 | |
US10362266B2 (en) | Video processing apparatus, video processing system, and video processing method | |
JP2012142860A (ja) | 任意視点映像処理装置及びその制御方法、及びプログラム | |
US20210168411A1 (en) | Storage medium, video image generation method, and video image generation system | |
KR101684461B1 (ko) | 경기장 영상 공유를 위한 시스템, 이를 위한 서버, 이를 위한 단말, 이 경기장 영상 공유 방법 및 이 방법이 기록된 컴퓨터로 판독 가능한 기록 매체 | |
US20210258505A1 (en) | Image processing apparatus, image processing method, and storage medium | |
CN113891145A (zh) | 一种超高清视频预处理主视角漫游播放系统及移动终端 | |
JP2004140670A (ja) | 画像処理装置および方法、画像表示装置および方法、画像配信装置および方法、並びにプログラム | |
CN114143561A (zh) | 一种超高清视频多视角漫游播放方法 | |
JP2016082350A (ja) | スポーツ競技ライブ観戦システム、スポーツ競技ライブ観戦システムの映像収集提供装置及び観戦者端末 | |
US20220417618A1 (en) | Information processing apparatus, information processing method, and program | |
US20210258496A1 (en) | Image processing device, image processing server, image processing method, and storage medium | |
US11683549B2 (en) | Information distribution apparatus, information distribution method, and information distribution program | |
KR101943554B1 (ko) | 스포츠 경기 정보 제공 방법 및 시스템 | |
CN102810308A (zh) | 显示控制装置、显示控制方法和程序 | |
EP4151370A1 (en) | Remote operation device and program therefor | |
US11527021B2 (en) | Image processing system, image processing method, and storage medium | |
JP7282519B2 (ja) | 画像処理装置または画像処理サーバー | |
JP2021144522A (ja) | 画像処理装置、画像処理方法、プログラム、及び画像処理システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060110 |