JPWO2017168562A1 - コンテンツ投影制御装置、情報処理方法、プログラム - Google Patents
コンテンツ投影制御装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JPWO2017168562A1 JPWO2017168562A1 JP2018507879A JP2018507879A JPWO2017168562A1 JP WO2017168562 A1 JPWO2017168562 A1 JP WO2017168562A1 JP 2018507879 A JP2018507879 A JP 2018507879A JP 2018507879 A JP2018507879 A JP 2018507879A JP WO2017168562 A1 JPWO2017168562 A1 JP WO2017168562A1
- Authority
- JP
- Japan
- Prior art keywords
- content
- priority
- component
- deteriorated
- projection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims description 23
- 238000003672 processing method Methods 0.000 title claims description 12
- 238000012545 processing Methods 0.000 claims description 154
- 239000000470 constituent Substances 0.000 claims description 106
- 230000006866 deterioration Effects 0.000 claims description 73
- 230000009467 reduction Effects 0.000 abstract description 32
- 238000000034 method Methods 0.000 description 299
- 230000008569 process Effects 0.000 description 210
- 230000008859 change Effects 0.000 description 135
- 230000004048 modification Effects 0.000 description 55
- 238000012986 modification Methods 0.000 description 55
- 230000000875 corresponding effect Effects 0.000 description 50
- 238000012937 correction Methods 0.000 description 42
- 238000003384 imaging method Methods 0.000 description 31
- 230000004044 response Effects 0.000 description 30
- 230000006870 function Effects 0.000 description 24
- 230000015556 catabolic process Effects 0.000 description 21
- 238000006731 degradation reaction Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 17
- 238000004364 calculation method Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 230000005540 biological transmission Effects 0.000 description 10
- 230000007423 decrease Effects 0.000 description 10
- 238000013523 data management Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 230000007704 transition Effects 0.000 description 7
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- 230000001629 suppression Effects 0.000 description 4
- 230000002596 correlated effect Effects 0.000 description 3
- 230000004043 responsiveness Effects 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000008021 deposition Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/74—Projection arrangements for image reproduction, e.g. using eidophor
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Controls And Circuits For Display Device (AREA)
- Transforming Electric Information Into Light Information (AREA)
Abstract
少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得し、投影領域を示す投影領域データを取得し、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定し、投影されたコンテンツを構成する構成要素の優先度を特定し、投影領域における特定された劣化部分の位置と投影領域に投影されるコンテンツデータとコンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるようにコンテンツデータに含まれる構成要素の配置位置を決定する。
Description
また、上記特許文献2には、投影像の焦点深度を調整することによって投影像により形成される虚像がぼやける等の画像品質の低下を防止する技術が開示されている。
上記特許文献3には、調整チャートを用いて投影領域を調整する技術が開示されている。
これにより、投影されたコンテンツにおいて補正を要する構成要素を適正に特定可能とされる。
これにより、配置位置の変更は劣化部分と重複する全ての構成要素について行われるのではなく、構成要素の劣化度と優先度とに基づき選出された構成要素について選択的に行うことが可能とされる。
これにより、視認性の悪化度合いの大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することが可能とされる。
これにより、視認性悪化部分の大きさに基づいて、配置位置の変更対象とする構成要素を適正に特定することが可能とされる。
これにより、優先度が高い構成要素ほど表示領域内の良位置を確保することが可能とされる。
これにより、相対的に優先度が低い構成要素については劣化部分と重複する配置が許容されるため、限られたスペース内で構成要素の配置位置を決定することが容易となる。
これにより、構成要素の特徴に応じた適切な優先度を設定することが可能とされる。
構成要素の投影サイズが大きいほど該構成要素の重要度は高いと言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことが可能とされる。
構成要素の重要度は、該構成要素の属性に相関するものであると言えるため、上記構成によれば、構成要素の重要度に従った適正な配置位置の決定を行うことが可能とされる。
このような情報処理方法によっても、上記した本発明に係るコンテンツ投影制御装置と同様の作用が得られる。
<1.第1の実施の形態>
[1-1.ネットワークシステムの概要]
[1-2.装置構成]
[1-3.第1の実施の形態の劣化補正手法]
[1-4.処理手順]
[1-5.変形例1]
[1-6.変形例2]
[1-7.変形例3]
[1-8.変形例4]
[1-9.変形例5]
[1-10.第1の実施の形態のまとめ]
<2.第2の実施の形態>
[2-1.ネットワークシステムの概要]
[2-2.第2の実施の形態の劣化対応処理手法]
[2-3.処理手順]
[2-4.変形例1]
[2-5.変形例2]
[2-6.変形例3]
[2-7.変形例4]
[2-8.変形例5]
[2-9.変形例6]
[2-10.変形例7]
[2-11.第2の実施の形態のまとめ]
<3.プログラム及び記憶媒体>
[1-1.ネットワークシステムの概要]
図1に、本実施の形態で前提とするネットワークシステム1の例を示す。
本実施の形態のネットワークシステム1は、例えばインターネットとしてのネットワーク2を介して互いに通信可能とされたウェブサーバ3と複数のユーザ端末4,4,…,4と、想定データDB5とを有している。
ユーザ端末4は、HTTP(Hypertext Transfer Protocol)要求をウェブサーバ3に送信することでウェブページや所定の処理を要求する。またユーザ端末4は、HTTP要求に応じて送られてきたウェブページデータ(例えばHTML(HyperText Markup Language)データ等)を受信してウェブページの表示処理を行う。これにより、ユーザは所望のウェブページを閲覧したり操作したりすることが可能とされている。
後述もするが、ユーザ端末4は、視覚的なコンテンツ(以下、単に「コンテンツ」とも表記する)を表示するための手段としてプロジェクタ部4aを備えており、上記のように受信したウェブページデータに基づくコンテンツを該プロジェクタ部4aにより投影して表示することが可能とされている。
なお、ウェブページは「投影されるコンテンツ」の一例に過ぎず、これに限定されるものではない。
ウェブサーバ3は、想定データDB5との間で例えばLAN(Local Area Network)等のネットワークを介して互いに通信可能とされている。ウェブサーバ3は、想定データDB5に格納された情報に基づいてユーザ端末4のプロジェクタ部4aにより投影されるコンテンツを補正するための処理を行うが、当該処理、及び想定データDB5に格納された情報の詳細については後に改めて説明する。
またネットワーク2の全部又は一部を構成する伝送媒体についても多様な例が想定される。例えばIEEE(Institute of Electrical and Electronics Engineers)1394、USB(Universal Serial Bus)、電力線搬送、電話線等の有線でも、IrDA(Infrared Data Association)のような赤外線、ブルートゥース(登録商標)、802.11無線、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。
図2は、図1で示したウェブサーバ3の内部構成を示したブロック図である。
図示のようにウェブサーバ3は、制御部30、記憶部31、入出力部32、及び通信部33を備えている。
制御部30は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)を備えて構成されている。制御部30は、HDD(Hard Disk Drive)やフラッシュメモリ装置等より構成される記憶部31が接続され、該記憶部31に対する各種データの書き込みや読み出しが可能とされている。制御部30は、上記ROMに記憶されているプログラム、又は記憶部31から上記RAMにロードされたプログラムに従って各種の処理を実行する。なお、上記RAMには、上記CPUが各種の処理を実行する上において必要なデータなども適宜記憶される。
制御部30が各種のプログラムに基づいて処理動作を行うことで、ウェブサーバ3において以降で説明する情報処理や通信が実行される。
ユーザ端末4は、プロジェクタ部4aを備えると共に、制御部40、記憶部41、入出力部42、通信部43、操作部44、カメラ部45、撮像画像処理部46、表示部47、及び第一表示駆動部48を備えている。
ここで、制御部40における上記ROM又は記憶部41には、ウェブブラウザとしての機能を実現するためのプログラムが記憶されている。該プログラムに従って、制御部40はウェブサーバ3からのウェブページデータの取得を行ったり、取得したウェブページデータに基づくウェブページを表示するための処理を行う。
制御部40は、プログラムに従って操作部44からの操作入力信号に応じた処理を行う。これにより、ユーザ端末4においてユーザの操作入力に応じた動作が実行される。
撮像画像処理部46は、カメラ部45における撮像素子で得られた撮像画像信号についてA/D変換処理や各種光学収差の補正処理等の所定の撮像画像信号処理を行い、デジタルデータとしての撮像画像データを得る。
これらカメラ部45、撮像画像処理部46は、制御部40からの指示に基づいて撮像素子からの撮像画像信号の読み出し、撮像画像信号処理を行う。
第一表示駆動部48は、制御部40からの指示に基づき表示部47の表示駆動を行う。
投影光学系50には、投影光の光源として機能する例えばLED(発光ダイオード)等で構成された光源50aと、光源50aより入射する光に対して画素単位での光変調(光強度変調)を施す光変調素子50bと、光変調素子50bにより光変調が施された光を投影対象物に投影する投影レンズ50cとを備えている。光変調素子50bは、本例では透過型の液晶パネルを用いているが、例えば反射型の液晶パネルやマイクロミラー等の他の光変調素子を用いることもできる。
第二表示駆動部52は、制御部40からの指示に基づき光変調素子50bについての表示駆動、具体的には画素単位での光強度の変調が行われるように光変調素子50bの各画素を駆動する。
図4の機能ブロック図を参照して、ウェブサーバ3における制御部30が実現する各種の機能について説明する。
図4では、制御部30が第1の実施の形態の劣化補正手法を実現するために実行する各種の処理を機能ごとに分けてブロック化して示している。
図5Aはプロジェクタ部4aにより投影されるコンテンツの例を、図5Bはコンテンツを投影する対象としての投影対象物の例を示している。
本例では、ユーザ端末4がウェブサーバ3から取得したウェブページデータに基づくコンテンツをプロジェクタ部4aにより投影した場合に、投影されたコンテンツについての劣化補正を、ウェブサーバ3がユーザ端末4で撮像された画像に基づいて行うことを前提とする。
ウェブページwpには、構成パーツpとしてp1〜p5の5つが配置されている。各構成パーツpは、それぞれがウェブページwpの一部を構成している構成要素であり、本例ではHTMLにおける<P>タグ、<div>タグ等の範囲指定のためのタグで区切られた構成要素であるとする。
本明細書において「文字」は、数字や記号を含む概念であり、例えば文字コードによって表現可能な情報を意味する。
壁wに対しては、家具s1が寄せられて配置されていたり、時計s2が掛けられていたり、ポスターやカレンダー等の貼物s3が貼り付けられていたりする。図5Bでは、プロジェクタ部4aによりウェブページwpを投影した際の該ウェブページwpの投影領域Apを破線により表しているが、壁wに対する家具s1や時計s2、貼物s3といった障害物の配置態様によっては、全ての障害物を避ける位置に投影領域Apを設定することができず、一部に障害物が重複した状態でウェブページwpを投影せざるを得ない場合がある。
図示するようにウェブサーバ3の制御部30は、機能ごとに分けてコンテンツデータ取得処理部F1、投影領域データ取得処理部F2、劣化部分特定処理部F3、表示態様変更処理部F4、及びコンテンツデータ生成処理部F5を有するものとして表すことができる。
本例では、投影領域データとして、投影領域Apに投影されたコンテンツを撮像して得られる撮像データを取得する。具体的には、プロジェクタ部4aによって投影されたウェブページwpをカメラ部45が撮像して得られる撮像画像データSiをユーザ端末4から受信して取得する。
本例の劣化部分特定処理部F3は、投影領域Apに投影されたコンテンツデータが示すコンテンツを撮像した撮像画像(本例では撮像画像データSi)とコンテンツの画像とに基づいて劣化部分を特定する。具体的には、撮像画像データSiと、投影領域に投影されたコンテンツに対応する想定表示データとに基づいて劣化部分を特定する。
想定表示データは、投影されたコンテンツ内の各位置での色を表すデータを少なくとも含む。具体的に、本例における想定表示データは、コンテンツとしての画像を所定サイズによる画素単位で分割した際の、各画素のR、B、Gの輝度値を有する画像データとされている。
想定表示データは、各ウェブページとしてのコンテンツについて、想定され得る投影環境ごとに実際に投影を行った結果に基づき生成しておく。或いは、それら投影環境ごとに投影を行った際の表示画像をシミュレーション演算により求めておくものとしてもよい。
想定データ取得処理部F2は、ユーザ端末4から送信された投影環境識別情報に基づき、想定データDB5より対応する想定表示データを取得する。
なお以下、投影環境識別情報は簡略化して「環境ID」と表記する。
想定データDB5には、ウェブサーバ3が配信可能とされるウェブページごとの、各投影環境に対応した想定表示データが格納されている。想定データDB5には、これらの想定表示データを管理する想定データ管理情報I1が格納されており、図示のように該想定データ管理情報I1は、上記の各ウェブページを一意に識別するためのページIDと環境IDとの組合せごとに、対応する想定表示データを一意に識別するための想定データIDが対応づけられた情報とされている。
なお、本例では、ユーザ端末4はウェブサーバ3に要求したウェブページをプロジェクタ部4aにより投影するため、投影されたウェブページのページIDは、上記の要求時においてウェブサーバ3側で特定されている。すなわち、ウェブサーバ3は、このようにユーザ端末4からのウェブページの要求に応じて特定されたページIDと該ユーザ端末4より受信した環境IDに基づき、想定データ管理情報I1に従って想定データDB5より該当する想定表示データを取得する。
また、上記ではユーザ端末4側における投影環境の別を考慮した想定表示データの取得を行う場合を例示したが、コンテンツの劣化補正にあたり、投影環境の別を考慮することは必須ではない。
この際、差分情報としては、想定表示データと撮像データとの特徴量の差を表す情報を特定する。具体的に、本例では想定表示データと撮像画像データSiとの色の差を表す情報を特定する。色の差を表す情報は、具体的には、画素ごとのR、G、Bの輝度値の差である。
本明細書において、「色」としては黒、白、及びグレーを含む概念である。
ここで、差分情報を撮像画像データSiの画素単位で特定するにあたっては、ユーザ端末4にて撮像画像データSiを得た際のカメラ部45の焦点距離や撮像素子から投影対象物までの距離によって、想定表示データにおける1画素分に相当する部分が撮像素子(撮像画像データSi)の何画素分に相当するかが異なることに留意すべきである。すなわち、撮像画像データSi内に存在する投影されたコンテンツの画像部分を構成する各画素が、想定表示データにおける何れの画素に対応しているかという、撮像画像データSiと想定表示データとの間の画素対応関係(以下「画素対応関係Rp」と表記)が異なってくることに留意すべきである。
このような画素対応関係Rpを特定するべく、劣化部分特定処理部F3は、取得した撮像画像データSi内から投影されたウェブページwpの画像部分を特定し、該特定した画像部分の画サイズと想定表示データの画サイズとの比率から、想定表示データにおける1画素が撮像画像データSiにおける何画素に相当するかを算出する。この算出結果から、画素対応関係Rpを特定し、特定した画素対応関係Rpに基づき、想定表示データと撮像画像データSi(投影されたコンテンツの画像部分)との差分情報を、撮像画像データSiの画素単位で特定する。
図7では先の図5Bに示した投影領域Apに対してウェブページwpを投影した場合における劣化部分Dの例を示している。
ここでは、貼物s3は例えばポスターであり、白地に図示のような波線状の黒色模様が複数形成されているとする。この場合、劣化部分特定処理部F3によっては、それら波線状の黒色模様部分がそれぞれ劣化部分Dとして特定される。なお、貼物s3に描かれたコンテンツによっては、劣化部分Dは文字形状となる場合もある。
本例では、表示態様の変更としては、色の変更を行う。
先ず、制御部30は、ウェブページwpを構成する構成パーツpごとの優先度を特定する。このような優先度を特定する機能を、図4では優先度特定処理部F4aと表記している。
本例では、優先度特定処理部F4aは、構成パーツpの重要度に基づいて優先度を特定する。具体的には、構成パーツpの投影サイズに基づいて優先度を特定する。ウェブページwpにおいては、構成パーツp1〜p5の順が画サイズの大きい順とされていることから、投影サイズとしても同順となる。従ってこの場合の優先度としては、構成パーツp5から構成パーツp1にかけて徐々に高い優先度を特定する。
ここで、劣化度は、コンテンツを構成する構成要素における劣化部分Dに起因する劣化度合いを表す指標であり、本例では次のように算出する。すなわち、対象とする構成パーツpの表示面積に占める劣化部分Dの表示面積の割合(以下「劣化面積割合」と表記)に、該構成パーツpと重複している劣化部分Dにおける色の差(上記の差分情報として特定された色の差)の平均値を乗じて算出する。なお、該平均値は、劣化部分Dを構成する画素の平均値である。
このように本例における構成パーツpごとの劣化度は、劣化部分Dが重複する面積と該劣化部分Dの想定表示データとの差分の大きさとを考慮して算出されるものである。
この場合、閾値THpは、例えば以下のように優先度の高い構成パーツpに対する閾値THpほど値が小さくなるようにする。換言すれば、優先度の高い構成パーツpほどより低い劣化度で表示態様変更の対象と判定され易くする。
優先度:1 → 閾値THp=5
優先度:2 → 閾値THp=10
優先度:3 → 閾値THp=20
優先度:4 → 閾値THp=35
優先度:5 → 閾値THp=50
これにより、重要とされる構成パーツpが優先的に表示態様変更されるようにできる。換言すれば、重要でないとされる構成パーツpについて無闇に表示態様変更が行われてしまうことの防止を図ることができ、処理負担の軽減を図ることができる。
これにより、文字部分txの視認性を元の状態(図8)よりも高めることができる。
劣化部分Dの色が黒、グレー以外の色である場合、上記の「強調される色」としては劣化部分Dの色の反対色(補色)に変更する。例えば劣化部分Dの色が青系である場合は黄系、劣化部分Dの色が赤系である場合は緑系とする。
このように文字の背景色を変更すると、劣化部分Dの色を文字の視認性を高める方向に変更することができる(図8→図9Bの例では劣化部分Dの色を明るくすることができる)。これにより、文字部分txの視認性を元の状態(図8)よりも高めることができる。
これにより、ウェブページwpに劣化部分Dに起因した視認性の低下が生じた場合に対応して、該視認性の低下が抑制されたウェブページwpが改めて投影表示されるようにすることができる。
図10のフローチャートを参照して、上記した第1の実施の形態の劣化補正手法を実現するために実行すべき処理の手順を説明する。なお、図10において、「ウェブサーバ」として示す処理は制御部30が内蔵するROM又は記憶部31に記憶されたプログラムに基づき実行するものであり、「ユーザ端末」として示す処理は制御部40が内蔵するROM又は記憶部41に記憶されたプログラムに基づき実行するものである。
なお、この図に示す処理が実行されるにあたっては、ユーザ端末4にて上述した環境ID(投影環境識別情報)が取得された状態にあるとする。
前述した投影環境を考慮しない仕様とする場合、該環境IDの取得は必須ではない。
続くステップS202で制御部30は、想定表示データ取得処理を行う。すなわち、ユーザ端末4から送信された環境IDと、ユーザ端末4から要求された(ステップS201で送信した)ウェブページのページIDとに基づき、前述した想定データ管理情報I1に従って想定データDB5より該当する想定表示データを取得する。
次いで制御部40はステップS104で、撮像画像送信処理として、取得した撮像画像データSiをウェブサーバ3に対して送信する処理を行う。
制御部40は、該ステップS104の送信処理を実行したことに応じて、ステップS105に処理を進める。
つまり、劣化部分Dが特定されない場合は、ウェブサーバ3側における構成パーツpの表示態様変更処理(S210)やユーザ端末3側での変更後のウェブページについての再投影処理(S106)は行われない。この場合、ユーザ端末4側では、ステップS103で新たな撮像画像データSiが撮像されてウェブサーバ3側に送信される(S104)。
ウェブサーバ3側では新たに送信された撮像画像データSiについてもステップS205の判定処理が行われ、劣化部分Dが特定されなければ再度、上記の不補正通知が行われる。すなわち、劣化部分Dが検出されない限り、表示態様変更処理は行われない。
そして、該再投影処理を実行したことに応じ、制御部40は先に説明したステップS107に処理を進める。上述したようにステップS107で投影終了と判定されなければ、制御部40は新たな撮像画像データSiをウェブサーバ3側に送信する。一方、投影終了と判定された場合はウェブサーバ3側にステップS108の通知が行われる。
一方、ステップS212でステップS108の通知があったと判定した場合、制御部30はこの図に示す処理を終える。
しかしながら、ウェブサーバ3側からユーザ端末4側へ不補正通知を行うことが必須ではない。この際、ユーザ端末4側が撮像画像データSiを送信する周期は、例えばウェブサーバ3側との間で定められた所定の周期とすればよい。撮像画像データSiの送信周期は、ウェブサーバ3側での差分計算(S203)から変更後のウェブページデータの送信(S211)までに要する時間よりも長い周期が設定されればよい。
なお、この点については、後述する各種の変形例、及び第2の実施の形態についても同様である。
これにより、差分の経時的な変化に対応した劣化補正を行うことができる。例えば、投影領域Apとユーザ端末4との間に視認性の低下要因となる物体が新たに移動してきた場合に、該物体による視認性の低下を抑制するように表示態様の変更を行うことができる。
これにより、例えば上記のように新たな物体が移動してくるなど、投影されたコンテンツにおける劣化部分Dが経時的な変化を示す場合に対応して、該経時的な劣化部分Dの変化に対する補正の応答性の向上を図ることができる。
なお、上記のような複数の時点での撮像データに基づく劣化構成パーツについての表示態様変更を行う例としては、図10に示した例(ユーザ端末4から新たな撮像画像データSiを受信した各時点で差分情報に基づく表示態様変更を行う例)に限定されない。
例えば、各時点で得られる複数の撮像データと想定表示データとの比較から特定される差分情報の経時的な遷移の態様が、所定の態様に合致することを条件として、差分情報に基づく表示態様の変更を行うことが考えられる。
この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS301で変更識別フラグfを「0」にセットする。変更識別フラグfは、図中のステップS305において、ステップS210の表示態様変更処理を行ったことに応じて「1」がセットされるフラグである。なお、ステップS305で変更識別フラグfのセット処理を実行したことに応じ、制御部30はステップS211の送信処理に進む。
差分変化量が閾値THd以上でなければ、制御部30はステップS209に進んで不補正通知を行う。つまりこの場合、ステップS210の表示態様変更処理は行われない。
この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS401でカウント値mを0リセットする。図示するようにこの場合のウェブサーバ3側の処理では、ステップS212においてユーザ端末4側からのステップS108の通知がないと判定した場合に、ステップS401に戻るようにされている。この点から理解されるように、カウント値mはステップS210の表示態様変更処理が実行されるごとに0リセットされるものである。
続くステップS403で制御部30は、カウント値mが所定値M以上であるか否かを判定し、カウント値mが所定値M以上でない場合は、ステップS209の不補正通知を行う。このようにカウント値mが所定値M以上ではなく不補正通知を行った場合は、処理がステップS212に進められ、該ステップS212でステップS108の通知がないと判定された場合はステップS401でカウント値mが0リセットされる。この点から理解されるように、カウント値mは、撮像画像データSiと想定表示データとの差が連続して生じた回数を表すカウント値として機能する。すなわち、ステップS403の判定処理は、撮像画像データSiと想定表示データとの差が連続してM回以上生じたか否かを判定しているものである。
すなわち、先ず、第一周期(例えば10秒)の経過によって取得した撮像画像データSi(以下、符号を「Si1」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds1」と表記)と、当該撮像画像データSi1よりも前に取得した撮像画像データSi(以下、符号を「Si0」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds0」と表記)との差である第一の差を特定し、当該第一の差が第一閾値以上である場合に、撮像画像データSiの取得周期を第一周期よりも短い第二周期(例えば2秒)に変更する。
そして、第二周期の経過によって取得した撮像画像データSi(以下、符号を「Si2」と表記)と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報(以下、符号を「Ds2」と表記)と、撮像画像データSi1よりも過去に取得した撮像画像データSi0と投影領域に投影されたコンテンツに対応する想定表示データとに基づき特定される差分情報Ds0との差である第二の差を特定し、第一の差と第二の差との差が第二閾値未満である場合には、投影領域における劣化部分の変化が継続的な変化であると推定されるため劣化部分を特定し、第一の差と第二の差との差が第二閾値以上である場合には、投影領域における劣化部分の変化が一時的な変化であると推定されるため劣化部分を特定する。
なお、第二周期の経過によって取得した撮像画像データSi2と第一周期の経過によって取得した撮像画像データSi1との差分情報(Ds3)が第二閾値未満である場合には投影領域における劣化部分の変化が継続的な変化であると推定されるため劣化部分を特定し、第一の差と第二の差との差が第二閾値以上である場合には投影領域における劣化部分の変化が一時的な変化であると推定されるため劣化部分を特定しないように構成することもできる。
この場合、ウェブサーバ3の制御部30は、ステップS202で想定表示データを取得したことに応じて、ステップS405で周期識別子sの値を「0」にセットする。周期識別子sは撮像画像データSiの取得周期を識別するための情報であり、「0」は周期=10秒(第一周期)、「1」は周期=2秒(第二周期)を意味する。
なお本例の場合、撮像画像データSiの取得周期の調整は、ステップS209の不補正通知を行うタイミングを当該周期識別子sの値に応じて調整することで実現する。
また、上記では不補正通知を行う場合に対応して、該不補正通知の周期により撮像画像データSiの取得周期を調整する場合を例示したが、不補正通知を行わない場合は、ユーザ端末4に対してs=0/s=1に対応した撮像画像データSiの送信周期(撮像周期)を指示する情報を送信すればよい。
上記では、構成パーツpの優先度が構成パーツpの投影サイズに応じて定められる例を挙げたが、該優先度は、構成パーツpの属性に応じて定められたものとすることができる。この場合、優先度特定処理部F4aは、構成パーツpごとに該属性に応じて設定された優先度を特定する。
属性の具体例としては、例えばウェブページの本文等のメインのコンテンツ部分、サイドバー部分、広告部分等を挙げることができる。属性は、構成パーツpごとに予め記述された属性情報から特定してもよいし、或いは構成パーツpの文字等の構成要素から推定して特定してもよい。
この場合、属性情報に応じた優先順位の例としては、動画、静止画、テキスト、広告の属性について、動画>静止画>テキスト>広告の順位を挙げることができる。
ここで、構成パーツpの特徴量とは、例えば構成パーツpにおけるエッジ量やエッジの密度を挙げることができる。このような構成パーツpの特徴量について、特徴量が多いほど高い優先度を特定し、特徴量が少ないほど低い優先度を特定する。これにより、エッジ量が多い、又はエッジ密度が高い構成パーツpほど、劣化部分Dとの重複量が少なくても劣化構成パーツ(つまり表示態様変更の対象とする構成要素)として特定され易くなる。換言すれば、同一色でほぼベタ塗りされた背景領域のような特徴量の少ない構成要素については優先度が低くされるため、重複する劣化部分Dにおける撮像画像データSiと想定表示データとの差が大きくても、重複範囲が比較的大きくない限りは劣化構成パーツとして特定されないことになる。
なお、「優先度を高くする」とは、前述した閾値THpを小さくすることに相当する。従って、上記のように特徴量が多いほど高い優先度を特定するとは、「特徴量が多いほど閾値が小さくなるように優先度を特定する」と換言できる。同様に、特徴量が少ないほど低い優先度を特定するとは、「特徴量が少ないほど閾値が大きくなるように優先度を特定する」と換言できる。
上記では、表示態様の変更に係る処理をウェブサーバ3側で行う例を挙げたが、ユーザ端末4側で行うこともできる。
図14は、この場合にユーザ端末4の制御部40が実行すべき処理の手順を示したフローチャートである。なお、この図に示す処理が実行されるにあたっては、ユーザ端末4において、投影すべきウェブページデータ等のコンテンツデータ、及び上述した環境IDが既に取得された状態にあるとする。
なお、ステップS501の取得処理は、ステップS203の差分計算処理よりも前に実行されるものであればよく、ステップS102の直後に実行されることに限定はされない。
なおこの場合は、ステップS205で劣化部分Dが特定されなかったと判定した場合、ステップS208で劣化構成パーツが特定されなかったと判定した場合のそれぞれには、ステップS210の変更処理及びステップS106の再投影処理をパスするべく、ステップS107に処理を進める。
ステップS107で投影終了でないと判定した場合、制御部40はステップS103の撮像処理以降の処理を再度実行し、投影終了と判定した場合は図14に示す処理を終える。
上記では、投影されるコンテンツがウェブページとされた場合に対応して、表示態様の変更をHTMLデータの記述変更により実現する場合を例示したが、JPEG等の画像データに対する画像処理により表示態様の変更を実現することもできる。
例えば、図15に示すように投影された画像において文字部分tx、該文字部分txの背景部分bgが存在し、文字部分txに重複するように劣化部分Dが生じているとする。この場合において、該画像から文字部分tx、背景部分bgの構成要素を例えばエッジ検出等の画像認識技術により特定し、特定した構成要素に対して表示態様変更のための画像処理を選択的に施すことができる。また、表示態様変更の対象とする構成要素は、画像内の劣化部分Dと一致する部分として特定することもできる。すなわち、画像内における劣化部分Dの範囲を同様にエッジ検出等により特定し、該特定した画像範囲に対し表示態様変更のための画像処理を施すことができる。
このように画像処理を用いれば、投影されたコンテンツ内の任意の範囲を該コンテンツの構成要素として抽出し、抽出した構成要素に対する表示態様変更を行うことができる。
なお、上記では文字部分tx、背景部分bgの構成要素を投影された画像(撮像画像)から特定する例を挙げたが、想定表示データからこれら文字部分tx、背景部分bgの構成要素を特定することも可能である。
また、劣化領域Dの特定は、画像(コンテンツ)を投影する前に投影領域を撮像して得られた撮像画像データに基づいて行ってもよい。
上記では、表示態様変更の例として、文字部分tx又は背景部分bgの色を劣化部分Dの色に対して強調される色に変更する場合を例示したが、表示態様変更の例としては他にも考えられる。
例えば、背景部分bg(構成要素に含まれる文字以外の部分)の表示色を劣化部分Dの色に対して同化する色に変更する例を挙げることができる。図16Aでは、文字部分txの色が白、背景部分bgの色がグレー、劣化部分Dの色が黒である場合において、背景部分bgの表示色を劣化部分Dの色と同化する黒色に変更した例を示している。なお、同化する色に変更するとは、例えば青系であれば青系、赤系であれば赤系といったように、同系色に変更することとも換言できる。
上記のように文字以外の部分の表示色を劣化部分の色に対して同化する色に変更することで、文字以外の部分と劣化部分との境界が埋没する傾向となるため、相対的に投影された文字が識別し易くなる。
例えば、図17Aの左側に示すように、投影されたコンテンツにおいて劣化部分D(例えば黒)とその隣接領域An(例えば白)が存在していた場合には、劣化部分Dの色を、隣接領域Anの色に近づける色、すなわちこの場合は白に変更する。これにより、同図の右側に示すように、変更後のコンテンツにおいては隣接領域Anと劣化部分Dとの色の違いが目立ち難くなり、劣化部分Dに起因した視認性低下の抑制効果が得られる。
例えば図17Bの上側に示すように、投影されたコンテンツにおいて文字部分tx(例えば黒)と背景部分bg(例えば白)が存在し、文字部分txに重複する劣化部分D(例えば黒)が存在しているとする。この場合、劣化部分Dの色は、該劣化部分Dの隣接領域である背景部分bgの色に近づける色、すなわちこの場合は白に変更する。これにより、同図の下側に示すように、変更後のコンテンツにおいては隣接領域(背景部分bg)と劣化部分Dとの色の違いが目立ち難くなり、劣化部分Dに起因した視認性低下の抑制効果が得られる。
上記のように第1の実施の形態のコンテンツ投影制御装置(ウェブサーバ3)は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部(コンテンツデータ取得処理部F1)と、投影領域を示す投影領域データを取得する投影領域データ取得部(投影領域データ取得処理部F2)と、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部(劣化部分特定処理部F3)と、特定された劣化部分の投影領域における位置と投影領域に表示されるコンテンツデータとに基づき、コンテンツデータに含まれる構成要素のうち劣化部分に表示される構成要素の表示態様を変更する表示態様変更部(表示態様変更処理部F4)とを備えている。
従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
従って、表示態様の変更を行う構成要素が無闇に増加してしまうことの防止を図ることができ、表示態様の変更に係る処理負担の軽減を図ることができる。
[2-1.ネットワークシステムの概要]
続いて、第2の実施の形態について説明する。
なお以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号を付して説明を省略する。
第1の実施の形態におけるネットワークシステム1との差は、ウェブサーバ3に代えてウェブサーバ3’が設けられた点である。
ウェブサーバ3’は、ユーザ端末4が投影するコンテンツについての劣化補正に係る処理として、ウェブサーバ3の場合と異なる処理を実行するものであり、内部構成は図2に示したものと同様となるため重複説明は避ける。
図19の機能ブロック図を参照して、ウェブサーバ3’における制御部30が実現する各種の機能について説明する。
図19では、制御部30が第2の実施の形態の劣化対応処理手法を実現するために実行する各種の処理を機能ごとに分けてブロック化して示している。
なお、「構成要素が劣化部分Dに含まれる」とは、「構成要素が劣化部分Dと重複する」とも換言できるものである。
なお、この場合も優先度は、構成パーツpの投影サイズに応じて定められたものであるとする。
本例における配置位置決定の具体的な手法については以降で改めて説明する。
図20では、ユーザ端末4により投影されるコンテンツがウェブページwpである場合を例示する。ウェブページwpにおける各構成パーツp(p1〜p5)は、この場合もp1が最も投影サイズ(画サイズ)が大きく、以降p2からp5にかけて投影サイズが小さくされている。
なお図21では、投影されたウェブページwpに対して図20に示した態様により劣化部分Dが生じている場合を前提とする。
以下の説明では、配置位置を変更する前における各構成パーツpの配置領域を「初期配置領域」と表記する。
本図の例では、構成パーツp1と構成パーツp2が劣化構成パーツに該当しているとする。
構成パーツp4については、構成パーツp3について確保した配置領域の右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図中<4>)。
構成パーツp5については、構成パーツp2について確保した配置領域の右側の領域に配置可能であるため、該領域に対して配置領域を確保する(図中<5>)。
本例の配置位置決定手法では、このように劣化部分D及び既確保領域を避けた位置への配置が不能な構成パーツpが出現したことに応じ、該構成パーツpを含む残りの構成パーツpについて、劣化部分Dとの重複を許容して配置位置の決定を行う。
図23<4>では、残りの構成パーツp4、p5双方の配置位置が劣化部分Dと重複する領域に決定された例を示している。
これにより、全ての構成パーツpについて劣化部分Dを避けた位置への配置が可能でない場合に対応して、相対的に優先度の高い構成パーツpが劣化部分Dに含まれる割合よりも相対的に優先度の低い構成パーツpが劣化部分Dに含まれる割合の方が高くなるように、各構成パーツpの配置位置が決定される。
従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
図24のフローチャートを参照して、上記した第2の実施の形態の劣化補正手法を実現するために実行すべき処理の手順を説明する。なお、図24においては、「ウェブサーバ」として示す処理はウェブサーバ3’における制御部30が内蔵するROM又は記憶部31に記憶されたプログラムに基づき実行するものである。
図24においても、図示の処理が実行されるにあたっては、既にユーザ端末4にて環境IDが取得された状態にあることを前提とする。
ウェブサーバ3’側の処理は、ウェブサーバ3による処理と比較して、ステップS210の変更処理に代えてステップS601の変更処理(劣化構成パーツの配置位置変更処理)が実行され、該ステップS601に続くステップS602で補正不能であるか否かの判定処理が実行され、該ステップS602で補正不能でないと判定された場合にステップS211の送信処理が実行される点が異なる。
なお、ステップS602の判定処理については後に改めて説明する。
該ステップS601の処理は、図21や図23を参照して説明したように、基本的には、優先度の高い構成パーツpから順に配置領域を確保していく処理となる。
続くステップS702で制御部30は、優先度y位(つまり1位)の構成パーツpは劣化構成パーツであるか否かを判定する。なお、構成パーツpごとの劣化度と優先度とに基づく劣化構成パーツの特定処理は、ステップS207(図24)で行われている。ステップS702の判定処理は、該特定処理の結果に基づき行うものである。
先ずステップS704で制御部30は、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがあるか否かを判定する。該当スペースがあれば、制御部30はステップS705に進み、該当スペース内に該当する構成パーツpの配置領域を確保する。
なお、該補正不能フラグの初期値は「0」であり、補正不能フラグ=1は補正不能である旨を表す。
ステップS708で優先度y位の構成パーツpが劣化構成パーツでないと判定した場合、制御部30はステップS709に進み、初期配置領域(つまり優先度y位の構成パーツpの初期配置領域)が既確保領域と重複しているか否かを判定する。
ステップS709において、初期配置領域が既確保領域と重複していないと判定した場合、制御部30はステップS710に進み、優先度y位の構成パーツpについて、初期配置領域を配置領域として確保し、ステップS714に処理を進める。
これにより、優先度が2位以下の構成パーツpについても、劣化部分D(及び既確保領域)を避けた領域への配置が可能な場合は該領域に配置領域が確保される。
すなわち、劣化部分D及び既確保領域を避けた位置への配置が不能な構成パーツpが出現したことに応じ、該構成パーツpを含む残りの構成パーツpについて、劣化部分Dとの重複を許容して配置位置の決定が行われる。
優先度識別値yが上限値pMAXに達していなければ、制御部30はステップS707に戻って優先度識別値yを1インクリメントした上で、再度ステップS708以降の処理を実行する。これにより、ウェブページwpに含まれる各構成パーツpについて配置領域確保のための処理が繰り返される。
制御部30は、ステップS601の配置位置変更処理に続くステップS602で、補正不能か否か、つまり補正不能フラグ=1であるか否かを判定する。補正不能と判定した場合、制御部30はステップS209に進み、ユーザ端末4に対する不補正通知を行う。つまり本例の場合、優先度1位の構成パーツpについて劣化部分Dを避けた位置への配置が不能とされた場合は、構成パーツpの配置位置の変更、及びユーザ端末4側での変更後のコンテンツについての再投影処理は実行されない。この場合、ユーザ端末4側ではそれまで投影中であったコンテンツが投影領域Apに引き続き投影される。該投影コンテンツにおいては、各構成パーツpは投影領域Ap内に表示されている。
これにより、配置位置変更後のコンテンツをユーザ端末4側で再投影させることができる。
これにより、第2の実施の形態においても、差分の経時的な変化に対応した劣化補正を行うことができる。
これにより、第2の実施の形態においても、投影されたコンテンツにおける劣化部分Dが経時的な変化を示す場合に対応して、該経時的な劣化部分Dの変化に対する補正の応答性の向上を図ることができる。
この点を考慮し、劣化部分Dの特定は、色の差の大きさのみでなく、撮像画像データSiと想定表示データとの間で同定される画像部分の位置やサイズの誤差の大きさに基づいて特定することもできる。例えば、撮像画像データSiと想定表示データとの間で同定されるエッジ部分の位置やサイズの誤差の大きさに基づいて劣化部分Dを特定することが考えられる。
具体的な手法としては、例えば、構成パーツpの投影サイズを縮小する際の縮小率を、構成パーツpの優先度に応じて定めておくことが考えられる。この際、縮小率は、優先度が高い構成パーツpほど縮小の度合いが小さく抑えられるように定めておく。例えば、縮小率が「1」を等倍として数値が小さくなるほど縮小の度合いが大きくなる値とされている場合には、優先度が高いほど縮小率の値は大きくなる。
このような優先度に応じた縮小率を定めることで、重要度が高い構成パーツpほど縮小に伴う視認性の低下が抑えられるようにできる。
図27は、その場合の具体的な手法についての説明図である。なお、図27では先の図22に示した態様により劣化部分Dが生じたことを前提としている。
この場合、配置位置決定処理部F6は、先ず、劣化部分Dを含む領域、すなわち低優先度の構成パーツpを優先的に配置する対象領域(以下「劣化部分含有領域Ad」と表記)を特定する。劣化部分含有領域Adは、例えば劣化部分Dが所定の密度以上に密集している領域として特定する。実際の劣化部分Dの発生態様によっては、劣化部分含有領域Adは複数特定され得る。
この図の例では、優先度が2番目に低い構成パーツp4の配置領域が確保された段階で、劣化部分含有領域Ad内には次に優先度の低い構成パーツp3を配置可能なスペースがなくなった場合を例示している。
この場合の配置位置決定処理部F6は、上記のように劣化部分含有領域Ad内に構成パーツpを配置不能となったことに応じ、構成パーツpの配置処理を、優先度が高い構成パーツpから順に劣化部分Dを避けた位置に配置する処理に切り替える。具体的にこの場合は、図27<3><4><5>の遷移として示すように、構成パーツp1、p2、p3の順で、劣化部分D及び既確保領域を除く領域への配置領域確保を行っていく。
図28において、ステップS801で制御部30は、劣化部分Dを除いた領域に優先度1位の構成パーツpを配置可能なスペースがあるか否かを判定する。
該ステップS801の処理は、優先度が低い構成パーツpから順に劣化部分Dを含む位置に配置を行っていくことによって、「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」という結果が得られるか否かを判定する処理として機能する。
なお、投影領域Apの全域が劣化部分含有領域Adとなっている場合には、構成パーツpの配置位置をどのように変更しても「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」という結果は得られない。この点から、ステップS801の処理としては、「劣化部分含有領域Adの大きさが所定値以上か否か」を判定する処理に変更することも可能である。
優先度yMAX位の構成パーツpを劣化部分含有領域Ad内に配置可能でない場合、制御部30はステップS811に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
優先度y位の構成パーツpを既確保領域を除いた劣化部分含有領域Ad内に配置可能であれば、制御部30はステップS806に進み、既確保領域を除いた劣化部分含有領域Ad内に優先度y位の構成パーツpの配置領域を確保する。
そして、続くステップS807で制御部30は、優先度識別値yを1デクリメント(−1)し、ステップS805に戻る。これにより、劣化部分含有領域Ad内に可能な限りの数の構成パーツpの配置領域が確保される。
確認のため述べておくと、本例ではステップS801の判定処理を実行しているため、少なくとも優先度1位の構成パーツpについては劣化部分Dを除いたスペースに配置領域を確保できることが保証されている。
しかしながら、配置位置変更のための処理を行うか否かの判定処理としては、例えば「優先度1位の構成パーツpを劣化度最低とする領域に配置した際の該優先度1位の劣化度が、優先度最下位の構成パーツpを劣化度最大とする領域に配置した際の該最下位の構成パーツpの劣化度よりも小さい」か否かの判定処理とする等、他の条件の成立有無を判定する処理とすることもできる。
「相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなる」ようにする配置位置決定の手法としては、上記で例示した手法に限らず他にも考えられる。
例えば、劣化構成パーツに関して、相対的に優先度が高い劣化構成パーツから順に、相対的に優先度の低い構成パーツpと入れ替えるという手法を採ることもできる。
図示するようにこの場合のウェブページwpにおいては、構成パーツpとして構成パーツp1〜p8の八つの構成パーツpが配置されているとする(この場合も末尾の番号は構成パーツpの優先度を表す)。
また、劣化部分Dは、図のように構成パーツp1の一部、及び構成パーツp2の一部にそれぞれ重複するようにして生じており、これら構成パーツp1、p2は劣化構成パーツに該当している。構成パーツp1、p2以外の構成パーツpは劣化部分Dが重複しておらず、非劣化構成パーツに該当している。
同じく劣化構成パーツである構成パーツp2と入れ替え可能で且つ入れ替えにより構成パーツp2の劣化度を低下させることのできるより下位の構成パーツpとしては、構成パーツp3と構成パーツp4の組、及び構成パーツp5、p6、p7、p8の組がある。
なお以下、構成パーツpの組は「構成パーツ組」と略称する。
このとき、劣化構成パーツである構成パーツp1、p2については、入れ替え可能な候補が複数存在している。本例では、このように劣化構成パーツについて入れ替え可能な候補が複数存在する場合は、該劣化構成パーツの元位置(初期配置領域)に対して最も近い候補を入れ替え対象とする。具体的に、構成パーツp1については、入れ替え可能な候補としての構成パーツp3及びp4の構成パーツ組と構成パーツp5〜p8の構成パーツ組のうち、構成パーツp3及びp4の構成パーツ組と入れ替える。
この場合、構成パーツp2については、より優先度の高い構成パーツp1についての配置位置入れ替え後(配置位置の決定後)に残存している(入れ替えにより該構成パーツp2の劣化度を低下させることのできる)候補は構成パーツp5〜p8の構成パーツ組のみであるため、該構成パーツp5〜p8の構成パーツ組との入れ替えを行う。
従って、相対的に重要とされる情報について視認性低下の抑制が図られ、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
図30において、制御部30はステップS901で、優先度1位、2位の構成パーツpは劣化構成パーツであるか否かを判定する。
優先度1位、2位の構成パーツpが劣化構成パーツでない場合、制御部30はステップS909に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
ここで、相対的に優先度が高い劣化構成パーツから順に相対的に優先度の低い構成パーツpと入れ替えるにあたっては、入れ替え対象の劣化構成パーツは少なくとも2以上存在していることを要する。このため、ステップS901の判定処理を設けている。
・優先度y位よりも下位で優先度y位の構成パーツpと入れ替え可能
・優先度y位の構成パーツpよりも劣化度が小さい
との条件を満たす構成パーツp又は構成パーツ組があるか否かを判定する。
ステップS903において、上記の条件を満たす構成パーツp又は構成パーツ組がなければ、制御部30はステップS909に進んで補正不能フラグを「1」にセットしてステップS601の配置位置変更処理を終える。
該当する構成パーツp又は構成パーツ組が複数でなければ、制御部30はステップS905に進み、優先度y位の構成パーツpと該当する構成パーツp又は構成パーツ組との配置位置入れ替え処理を実行し、ステップS907に進む。
一方、該当する構成パーツp又は構成パーツ組が複数であれば、制御部30はステップS906に進み、優先度y位の構成パーツpと該当する最も近い構成パーツp又は構成パーツ組との配置位置入れ替え処理を実行し、ステップS907に進む。なお、ステップS906において、「最も近い」とは、先の説明から理解されるように初期配置領域の位置同士を基準として、優先度y位の構成パーツpの位置に最も近いとの意味である。
優先度識別値yが「2」であれば、制御部30はステップS903に戻る。つまり、優先度2位の構成パーツp2について、入れ替え候補としての構成パーツp又は構成パーツ組の有無の判定(S903)、及び入れ替え候補が存在する場合におけるステップS904以降の処理が実行される。
一方、優先度識別値yが「2」でなければ(つまり「3」以上)、制御部30はステップS601の配置位置変更処理を終える。
先の図25及び図26では、配置位置変更にあたり、優先度が高い構成パーツpから順に配置位置を決定していく例を挙げたが、この際、相対的に優先度の高い構成パーツpのみを対象として劣化部分Dを避ける位置に配置位置を決定することもできる。
変形例2におけるステップS601の処理は、図25及び図26に示したステップS601の処理と比較して、ステップS710とステップS714の間にステップS1001〜S1003の処理が挿入された点が異なる。
ステップS1001において、優先度識別値yが制限値yLMTに達していないと判定した場合、制御部30はステップS707に戻り、優先度識別値yを1インクリメントする。
これにより、優先度が「yLMT」位よりも低い残りの構成パーツpについて、既確保領域を避けることのみを条件とした配置領域の確保が行われる。
第2の実施の形態における配置位置決定の手法としては、優先度に応じた表示時間の経過をトリガとして構成パーツpの配置を更新するという手法を採ることもできる。
図32は、そのような変形例3としての配置位置変更手法についての説明図である。
例えば図32Aに示すように、投影されたウェブページwpの左右それぞれの位置に劣化部分Dが生じている領域が比較的大きな面積により存在したとする。
変形例2においては、劣化部分Dを除いたスペース内に、図32Bに示すような順次表示対象領域Avを設定する。この順次表示対象領域Avとしては、例えば四角形状の領域を設定する。順次表示対象領域Avは、或る程度の面積が確保されるように、劣化部分Dを除いたスペースから、縦方向及び横方向の長さをそれぞれ所定の長さ以上確保可能な領域を探索して設定する。
具体的に本例では、図32Cの<1>〜<5>の遷移として示すように、順次表示対象領域Av内に構成パーツp1、p2、p3、p4、p5が同順で順次表示されるように、時間経過に応じて構成パーツpの配置位置を更新する。
この場合、各構成パーツpの表示時間長は優先度に応じて定められており、優先度が高い構成パーツpほど表示時間長が長くされている。すなわち、重要とされる情報ほど表示時間が長くなるようにすることができる。
また、上記変形例3の手法によれば、重要とされる情報ほど表示時間長を長くすることが可能となるため、重要な情報がコンテンツの閲覧者によって見過ごされてしまう可能性を低くすることができる。
なお、この図に示す処理が実行されるにあたっては、既に図24に示したステップS201〜S208の処理が実行され、ステップS208で劣化構成パーツが特定されたとの判定結果が得られているとする。
順次表示対象領域Avを設定可能でないと判定した場合、制御部30はこの図に示す処理を終える。すなわち、この場合は補正不能であるとして、ウェブページwpの劣化補正のための処理は行われない。
一方、ステップS1104で設定領域内に収まらないと判定した場合、制御部30は優先度y位の構成パーツpの縮小率設定処理として、ステップS1106で順次表示対象領域Av内に収まる縮小率を設定する処理を行い、ステップS1107に進む。
これにより、各構成パーツpについてステップS1104からステップS1107にかけての処理が繰り返される。
これにより、投影されるコンテンツにおいても、順次表示対象領域Av内で表示される構成パーツpが順次入れ替わることになる。
なお、第2の実施の形態においても、第1の実施の形態の変形例1のように、差分情報に基づく配置位置の変更を、各時点で得られる複数の撮像データと想定表示データとの比較から特定される差分情報の経時的な遷移の態様を考慮して行うこともできる。
具体的には、上記のような差分情報の経時的な遷移の態様が所定の態様に合致することを条件として、差分情報に基づく配置位置の変更を行うものである。
図34は、この場合に実行されるべき具体的な処理の手順を示したフローチャートである。
先の図11の処理との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS305との間にステップS602の判定処理が挿入された点が異なる。この場合、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が実行され、補正不能でないと判定された場合にステップS305の処理が実行される。
先の図12の処理との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS211との間にステップS602の判定処理が挿入された点である。この場合、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が、補正不能でないと判定された場合にステップS211の送信処理がそれぞれ実行される。
図13の処理と比較して、この場合は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS211との間にステップS602の判定処理が挿入された点が異なる。この場合も、ステップS602で補正不能と判定された場合はステップS209の不補正通知処理が、補正不能でないと判定された場合にステップS211の送信処理がそれぞれ実行される。
第2の実施の形態においても、先に説明した第1の実施の形態の変形例2と同様に、構成パーツpの優先度は、構成パーツpの属性に応じて定められたものとすることができる。すなわち、優先度特定処理部F4aは、構成パーツpごとに該属性に応じて設定された優先度を特定する。
また、構成パーツpの優先度は、構成パーツpの出現頻度によって定められたものであってもよい。
さらに、優先度は、前述した構成パーツpの特徴量(例えば構成パーツpにおけるエッジ量やエッジの密度)に基づいて特定することもできる。
また、構成パーツpの配置位置決定に係る処理は、第1の実施の形態の変形例3のように、ユーザ端末4側で行うこともできる。
図37は、この場合にユーザ端末4の制御部40が実行すべき処理の手順を示したフローチャートである。
先の図14との差異点は、ステップS210の表示態様変更処理に代えてステップS601の配置位置変更処理が実行され、ステップS601とステップS106との間にステップS602の判定処理が挿入された点である。この場合、ステップS602で補正不能と判定された場合はステップS106の再投影処理がパスされてステップS107の処理が実行され、補正不能でないと判定された場合にステップS106の再投影処理が実行される。
第2の実施の形態における配置位置変更についても、HTMLデータの記述変更により実現する場合に限定されず、JPEG等の画像データに対する画像処理により変更を実現することもできる。この場合も画像処理を用いることで、投影されたコンテンツ内の任意の範囲を該コンテンツの構成要素として抽出することができ、抽出した構成要素について配置位置変更を行うことができる。
上記のように第2の実施の形態のコンテンツ投影制御装置(ウェブサーバ3’)は、少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部(コンテンツデータ取得処理部F1)と、投影領域を示す投影領域データを取得する投影領域データ取得部(投影領域データ取得処理部F2)と、投影領域データに基づき、投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部(劣化部分特定処理部F3)と、投影されたコンテンツを構成する構成要素の優先度を特定する優先度特定部(優先度特定処理部F4a)と、投影領域における特定された劣化部分の位置と投影領域に投影されるコンテンツデータとコンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるようにコンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定部(配置位置決定処理部F6)と、を備えている。
従って、投影する領域の条件が悪い場合であっても投影されるコンテンツの視認性低下の抑制が図られるようにすることができる。
従って、配置位置の変更を行う構成要素が無闇に増加してしまうことの防止を図ることができ、配置位置の変更に係る処理負担の軽減を図ることができる。
以上、本発明に係る情報処理装置の第1の実施の形態としてのウェブサーバ3、ユーザ端末4、及び第2の実施の形態としてのウェブサーバ3’及びユーザ端末4を説明してきたが、実施の形態のプログラムは、これらウェブサーバ3、ウェブサーバ3’、ユーザ端末4の処理を情報処理装置(CPU等)に実行させるプログラムである。
すなわち、このプログラムは、情報処理装置に図10や図14等により説明した処理を実行させるプログラムに相当する。
すなわち、このプログラムは、情報処理装置に図24や図37等により説明した処理を実行させるプログラムに相当する。
そして、このようなプログラムはコンピュータ装置等の機器に内蔵されている記憶媒体としてのHDDや、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。或いはまた、半導体メモリ、メモリーカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記憶媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記憶媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記憶媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
また、配置位置の変更は劣化部分と重複する全ての構成要素について行われるのではなく、構成要素の劣化度と優先度とに基づき選出された構成要素について選択的に行うことが可能とされる。
このような情報処理方法によっても、上記した本発明に係るコンテンツ投影制御装置と同様の作用が得られる。
Claims (12)
- 少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得部と、
投影領域を示す投影領域データを取得する投影領域データ取得部と、
前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定部と、
投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定部と、
投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定部と、を備える
コンテンツ投影制御装置。 - 前記劣化部分特定部は、
前記投影領域に投影された前記コンテンツデータが示すコンテンツを撮像した撮像画像と前記コンテンツの画像とに基づいて前記劣化部分を特定する
請求項1に記載のコンテンツ投影制御装置。 - 前記配置位置決定部は、
前記特定された劣化部分毎に算出された劣化の度合いを示す劣化度と前記構成要素の優先度に応じた閾値との比較に基づいて前記コンテンツデータに含まれる構成要素の配置位置を決定する
請求項1又は請求項2に記載のコンテンツ投影制御装置。 - 前記配置位置決定部は、
前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツの画像との特徴量の差に基づいて前記劣化度を算出する
請求項3に記載のコンテンツ投影制御装置。 - 前記配置位置決定部は、
前記投影領域に投影された前記コンテンツデータが示すコンテンツを投影した撮像画像と前記コンテンツとに基づいて特定された劣化部分の大きさに基づいて前記劣化度を算出する
請求項3に記載のコンテンツ投影制御装置。 - 前記配置位置決定部は、
前記優先度が高い前記構成要素から順に配置位置を決定する
請求項1乃至請求項5の何れかに記載のコンテンツ投影制御装置。 - 前記配置位置決定部は、
前記劣化部分に含まれる前記構成要素のうち、相対的に前記優先度の高い前記構成要素のみを対象として前記劣化部分に含まれる範囲が少なくなるように配置位置を決定する
請求項1乃至請求項5の何れかに記載のコンテンツ投影制御装置。 - 前記優先度特定部は、
前記コンテンツに含まれる前記構成要素の特徴量に基づいて前記優先度を特定する
請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。 - 前記優先度特定部は、
前記コンテンツに含まれる前記構成要素の投影サイズに基づいて前記優先度を特定する
請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。 - 前記優先度特定部は、
前記コンテンツに含まれる前記構成要素の属性に基づいて前記優先度を特定する
請求項1乃至請求項7の何れかに記載のコンテンツ投影制御装置。 - 少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得ステップと、
投影領域を示す投影領域データを取得する投影領域データ取得ステップと、
前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定ステップと、
投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定ステップと、
投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定ステップと、を情報処理装置が実行する
情報処理方法。 - 少なくとも1つ以上の構成要素を含むコンテンツを示すコンテンツデータを取得するコンテンツデータ取得機能と、
投影領域を示す投影領域データを取得する投影領域データ取得機能と、
前記投影領域データに基づき、前記投影領域のうち投影条件が劣化している劣化部分を特定する劣化部分特定機能と、
投影された前記コンテンツを構成する構成要素の優先度を特定する優先度特定機能と、
投影領域における前記特定された劣化部分の位置と投影領域に投影されるコンテンツデータと前記コンテンツデータに含まれる構成要素の優先度とに基づいて、相対的に優先度の高い構成要素が劣化部分に含まれる割合よりも相対的に優先度の低い構成要素が劣化部分に含まれる割合の方が高くなるように前記コンテンツデータに含まれる構成要素の配置位置を決定する配置位置決定機能と、を情報処理装置に実現させる
プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2016/060121 WO2017168562A1 (ja) | 2016-03-29 | 2016-03-29 | コンテンツ投影制御装置、情報処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017168562A1 true JPWO2017168562A1 (ja) | 2019-03-14 |
JP6622387B2 JP6622387B2 (ja) | 2019-12-18 |
Family
ID=59962758
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018507879A Active JP6622387B2 (ja) | 2016-03-29 | 2016-03-29 | コンテンツ投影制御装置、情報処理方法、プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6622387B2 (ja) |
WO (1) | WO2017168562A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004077516A (ja) * | 2002-08-09 | 2004-03-11 | Sharp Corp | 表示装置 |
JP2013148868A (ja) * | 2011-12-21 | 2013-08-01 | Ricoh Co Ltd | 画像投影装置、画像処理装置、画像処理方法およびプログラム |
JP2015059972A (ja) * | 2013-09-17 | 2015-03-30 | 株式会社リコー | プロジェクタ装置、及び画像投影システム |
WO2015111158A1 (ja) * | 2014-01-22 | 2015-07-30 | 堺ディスプレイプロダクト株式会社 | 表示装置 |
-
2016
- 2016-03-29 WO PCT/JP2016/060121 patent/WO2017168562A1/ja active Application Filing
- 2016-03-29 JP JP2018507879A patent/JP6622387B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004077516A (ja) * | 2002-08-09 | 2004-03-11 | Sharp Corp | 表示装置 |
JP2013148868A (ja) * | 2011-12-21 | 2013-08-01 | Ricoh Co Ltd | 画像投影装置、画像処理装置、画像処理方法およびプログラム |
JP2015059972A (ja) * | 2013-09-17 | 2015-03-30 | 株式会社リコー | プロジェクタ装置、及び画像投影システム |
WO2015111158A1 (ja) * | 2014-01-22 | 2015-07-30 | 堺ディスプレイプロダクト株式会社 | 表示装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2017168562A1 (ja) | 2017-10-05 |
JP6622387B2 (ja) | 2019-12-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180336729A1 (en) | Displaying content in an augmented reality system | |
US11030808B2 (en) | Generating time-delayed augmented reality content | |
JP5870586B2 (ja) | プロジェクタ制御装置、表示装置及びプログラム。 | |
JP5648664B2 (ja) | 情報処理システム、情報処理方法、端末装置及びプログラム | |
US10504258B2 (en) | Information processing device editing map acquired from server | |
US20150271457A1 (en) | Display device, image display system, and information processing method | |
US9875565B2 (en) | Information processing device, information processing system, and information processing method for sharing image and drawing information to an external terminal device | |
US10303419B2 (en) | Information processing system, display processing apparatus, display processing method, and recording medium | |
CN105095233A (zh) | 局部网页图片更新方法、装置以及系统 | |
EP2840517A2 (en) | Method and apparatus for managing images in electronic device | |
US9639153B2 (en) | Method of controlling electronic device using transparent display and apparatus using the same | |
US20140168714A1 (en) | Image processing terminal, image processing system, and computer-readable storage medium storing control program of image processing terminal | |
KR20150015680A (ko) | 특징점의 생성을 이용한 이미지 보정 방법 및 장치 | |
JP2009020860A (ja) | 画像フレームのデータにおいてクラスタピクセルを特定してラベル付けする光学ナビゲーションのためのシステム及び方法 | |
US9921728B2 (en) | Service providing device, and method of providing a user interface | |
JP6622387B2 (ja) | コンテンツ投影制御装置、情報処理方法、プログラム | |
JP6622386B2 (ja) | コンテンツ投影制御装置、情報処理方法、プログラム | |
KR20160125322A (ko) | 광고 콘텐츠 생성 및 관리 장치와 그 방법 | |
CN109842812B (zh) | 一种多应用节目的优先排序方法、智能电视及存储介质 | |
US10862997B2 (en) | Information processing device, information processing method, and information processing system | |
CN107273072B (zh) | 图片显示方法、装置及电子设备 | |
US11341729B2 (en) | Method and electronic device for correcting external reality pixels and virtual content pixels within an augmented reality environment | |
JP5921496B2 (ja) | 端末装置、表示制御方法、及び、プログラム | |
US10542309B2 (en) | Electronic device and operation method thereof | |
JP6475652B2 (ja) | 画像出力システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180927 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180927 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191119 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191121 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6622387 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |