JP2010107593A - プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体 - Google Patents

プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体 Download PDF

Info

Publication number
JP2010107593A
JP2010107593A JP2008277301A JP2008277301A JP2010107593A JP 2010107593 A JP2010107593 A JP 2010107593A JP 2008277301 A JP2008277301 A JP 2008277301A JP 2008277301 A JP2008277301 A JP 2008277301A JP 2010107593 A JP2010107593 A JP 2010107593A
Authority
JP
Japan
Prior art keywords
image data
screen
presentation
projection image
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008277301A
Other languages
English (en)
Other versions
JP5042965B2 (ja
Inventor
Hidekazu Tamaki
秀和 玉木
Mutsuhiro Nakamo
睦裕 中茂
Minoru Kobayashi
稔 小林
Yuriko Suzuki
由里子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2008277301A priority Critical patent/JP5042965B2/ja
Publication of JP2010107593A publication Critical patent/JP2010107593A/ja
Application granted granted Critical
Publication of JP5042965B2 publication Critical patent/JP5042965B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】提示情報に対する聞き手の集中度合いを効果的に制御すると共に、聞き手の注目先を提示情報と話し手との間で効果的に切り替えられるようにして、プレゼンテーションの効果を高める。
【解決手段】スクリーンとその周辺の背景部分を撮像した背景画像データを予め記憶しておき、この背景画像データのスクリーン画像上に、資料操作端末TM1から送られる資料画像データを、その中心がスクリーン画像の中心と一致するように位置合わせして重畳することで、投影画像データを生成する。そして、スクリーン操作端末TM2に設けたズームインボタン181又はズームアウトボタン182が発表者USにより操作された場合に、上記投影画像データを所定の時間変化率で拡大又は縮小処理し、この拡大又は縮小処理された投影画像データをプロジェクタPJに供給してスクリーンSCに投影する。
【選択図】 図2

Description

この発明は、例えば会議室において会議資料等のプレゼンテーション画像をプロジェクタを使用して参加者に提示する提示システム、提示方法、提示プログラム及びその記録媒体に関する。
一般に会議では、会議資料等の画像をプロジェクタによりスクリーンに投影しながら、話し手がプレゼンテーションを行う形態が多く用いられる。この種の会議では、会議参加者や聴衆等の聞き手の注目を会議資料等のプレゼンテーション画像に集めるために、プレゼンテーション画像をズームインしたり、レーザポインタを用いてスクリーン上を指示する手法がよく用いられる。しかしながら、このような手法はその操作のすべてが聞き手の注目をプレゼンテーション画像に向けさせるものであるため、聞き手は常に緊張を強いられることになり、これがかえって提示情報に対する集中を保ちにくくさせ、理解度を低下させる一因になっている。
そこで最近では、聞き手が自身の端末を用いて、分からない点や興味を持った点をサーバ装置に送り、サーバ装置が聞き手の端末から送られた情報を蓄積して、必要に応じ話し手の端末に表示させるシステムが提案されている(例えば、特許文献1を参照。)。このシステムを用いると、プレゼンテーション中に聞き手が興味のある話題を選択してその情報を話し手にフィードバックすることができ、この情報をもとに話し手が話し方や話の内容を変化させることで、プレゼンテーションの効果を高めることが可能となる。
ところが、上記システムは常に聞き手に対し興味のある話題の選択操作を要求するため、聞き手はプレゼンテーションに集中しにくくなる。また話し手は、聞き手からのフィードバック情報を常に意識しなければならないため、自身の話のペースや、本来強調したかった話題や予定していた話の流れを乱されるという問題が発生する。
特開2000−200237号公報
以上のように、プレゼンテーションの効率を上げるために従来より実施又は提案されている手法は、提示情報に対し聞き手を注目させる方向のみの工夫だったり、プレゼンテーション中に聞き手が興味のある話題を話し手にフィードバックして話し手がこのフィードバックされた情報を参考に話題等を変化させるものとなっている。このため、聞き手が常に緊張を強いられたり、聞き手と話し手が共にプレゼンテーションに集中し難くなり、その結果期待するプレゼンテーション効果が得られなくなるという問題点があった。
この発明は上記事情に着目してなされたもので、その目的とするところは、提示情報に対する聞き手の集中度合いを効果的に制御すると共に、聞き手の注目先を提示情報と話し手との間で効果的に切り替えられるようにして、プレゼンテーションの効果を高めることが可能なプレゼンテーション画像提示システム、方法、プログラム及びその記録媒体を提供することにある。
上記目的を達成するためにこの発明の一観点は、スクリーンとその周辺部とを含む背景画像データを記憶するメモリを備え、このメモリから背景画像データを読み出し、この読み出された背景画像データのスクリーン画像領域に、プレゼンテーションに使用する資料画像データを、その中心点がスクリーン画像の中心点と一致するように位置合わせして重畳することにより、投影画像データを生成する。そして、この生成された投影画像データを、そのスクリーン画像領域の中心を起点に拡大又は縮小し、この拡大又は縮小された投影画像データを上記スクリーンに投影させるように構成したものである。
したがって、資料画像だけでなくスクリーンとその周辺を含む背景全体が、仮想的に近づいたり遠ざかったりするように聴衆に知覚させることができ、これにより資料画像に対する聴衆の集中と緩和を効果的に制御することが可能となると共に、聞き手の注目先を提示情報と話し手との間で効果的に切り替えることが可能となって、プレゼンテーション効果をより高めることができる。
この発明の一観点は、以下のような各種具体的な態様をさらに備えることを特徴とする。
第1の態様は、上記投影画像データを拡大又は縮小する際に、上記プレゼンテーションを行う発表者の手動による拡大又は縮小操作を受け付け、この受け付けた拡大又は縮小操作に応じて、上記生成された投影画像データをそのスクリーン画像領域の中心を起点に拡大又は縮小処理するものである。
このようにすると、上記投影画像データの拡大又は縮小処理が発表者の手動操作により制御される。このため、発表者の意志を直接反映させたかたちで投影画像の仮想的な遠近制御を実現できる。
第2の態様は、上記投影画像データを拡大又は縮小する際に、上記プレゼンテーションを行う発表者の上記スクリーンに対する指示操作の有無を判定し、この指示操作の有無の判定結果に応じて上記投影画像データを拡大又は縮小処理するものである。
このようにすると、発表者がスクリーンに対し指示操作を行うと投影画像データが自動的に拡大され、一方発表者がスクリーンに対する指示操作を行わないと投影画像データが自動的に縮小される。このため、発表者は投影画像データの拡大又は縮小操作を別途行う必要がなくなり、これによりプレゼンテーションに対し意識をより集中することが可能となる。
すなわちこの発明の一観点によれば、提示情報に対する聞き手の集中度合いを効果的に制御できるようになり、さらに聞き手の注目先を提示情報と話し手との間で効果的に切り替えられるようになり、これによりプレゼンテーションの効果をさらに高めることが可能なプレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体を提供することができる。
以下、図面を参照してこの発明の実施形態を説明する。
(第1の実施形態)
図1は、この発明の第1の実施形態に係わるプレゼンテーション画像提示システムの概略構成図である。
第1の実施形態に係わるシステムは、資料操作端末TM1と、この資料操作端末TM1に対し例えばLAN(Local Area Network)ケーブルLCを介して接続されるスクリーン操作端末TM2と、このスクリーン操作端末TM2に対し信号ケーブルを介して接続されるプロジェクタPJとを備えたものである。
資料操作端末TM1はパーソナル・コンピュータからなり、発表者USが操作可能な位置に設置されている。資料操作端末TM1には、プレゼンテーションに使用する資料が電子データ化されてメモリに記憶されている。資料操作端末TM1は、発表者による資料選択操作及びそのページ捲り操作を監視し、この操作が検出されるごとに当該操作により選択された資料の電子データをメモリから読み出す。そして、この読み出された資料の電子データ(例えばPNGファイル)を、例えば1秒間隔でLANケーブルLCを介してスクリーン操作端末TM2へ送信する。
スクリーン操作端末TM2もパーソナル・コンピュータからなり、上記資料操作端末TM1と同様に発表者USが操作可能な位置に設置されている。スクリーン操作端末TM2はこのシステムの中核をなすもので、次のように構成される。図2はそのハードウエア及びソフトウエアの構成を示すブロック図である。
スクリーン操作端末TM2は、中央処理ユニット(CPU;Central Processing Unit)11を備え、このCPU11にはバス12を介してプログラムメモリ13及びデータメモリ14が接続され、さらに通信インタフェース15と、プロジェクタインタフェース16と、入出力インタフェース17が接続されている。
通信インタフェース15は、CPU11の制御の下で、資料操作端末TM1から資料画像データを受信するための通信処理を行う。資料操作端末TM1との間がLANケーブルLCを介して接続される場合、通信プロトコルとしては例えばTCP/IP(Transmission Control Protocol/Internet Protocol)が使用される。
プロジェクタインタフェース16には、信号ケーブルを介してプロジェクタPJが接続される。プロジェクタインタフェース16は、CPU11の制御の下、生成された投影画像データを信号ケーブルを介してプロジェクタPJへ供給する。プロジェクタPJは、上記プロジェクタインタフェース16から供給された投影画像データに対応する光学像を生成し、この光学像をスクリーンSCに投影する。
入出力インタフェース17には、入力デバイス18及び表示デバイス19が接続される。入力デバイス18は、例えばキーボードにより構成される。キーボードの各キーのうち例えばカーソルの上下キーには、それぞれ投影画像をズームインさせるときに操作するズームインボタン181としての機能と、投影画像をズームアウトさせるときに操作するズームアウトボタン182としての機能が割り当てられる。また、例えばエンターキーにはズームイン及びズームアウト動作を停止させるときに操作する停止ボタン183としての機能が割り当てられる。入出力インタフェース17は、上記各機能ボタン181〜183の操作を検出してCPU11に伝える。なお、表示デバイス19は、上記投影画像を表示するために用いられる。
データメモリ14には、この発明を実施するために必要な記憶領域として、背景・スクリーン画像記憶部141と、資料画像記憶部142が設けられている。背景・スクリーン画像記憶部141には、予めカメラで撮像したスクリーンSCとその周辺の壁や天井等を含む背景画像のデータが格納される。資料画像記憶部142は、資料操作端末TM1から送られた資料画像データを一時保存するために使用される。
プログラムメモリ13には、この発明の第1の実施形態を実施するために必要なアプリケーション・プログラムとして、投影画像生成プログラム131と、拡大/縮小制御プログラム132が格納されている。
投影画像生成プログラム131は、以下の処理をCPU11に実行させる。
(1) 資料操作端末TM1から送信される資料画像データが通信インタフェース15により受信されるごとに、当該受信された資料画像データをデータメモリ14内の資料画像記憶領域142に記憶させる処理。
(2) 例えば2秒間隔で、背景・スクリーン画像記憶部141からスクリーンSCとその周辺の壁等を含む背景画像のデータを読み出し、この背景画像データのスクリーン画像領域に、上記受信された最新の資料画像データを両者の中心点を一致させた状態で重畳することにより、投影画像データを生成する処理。
(3) 上記生成された投影画像データを、後述する拡大/縮小制御プログラム132から倍率制御データにより与えられる倍率に従い拡大/縮小処理し、この拡大/縮小処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる処理。
拡大/縮小制御プログラム132は、入力デバイス18においてズームインボタン181又はズームアウトボタン182が操作された場合に、その操作時点から停止ボタン183が操作されるまでの経過時間に応じて上記投影画像の倍率を可変制御するための倍率制御データを生成し、この倍率制御データを上記投影画像生成プログラム131に与える処理を、上記CPU11に実行させる。
次に、以上のように構成されたシステムによるプレゼンテーション画像の提示動作を説明する。図3は、資料操作端末TM1及びスクリーン操作端末TM2による処理手順と処理内容を示すフローチャートである。
なお、スクリーン操作端末TM2の背景・スクリーン画像記憶部141には、スクリーンSCとその周辺の壁や天井等を含む背景をビデオカメラにより撮像した画像データが予め記憶されているものとして説明を行う。
資料操作端末TM1において、発表者USがプレゼンテーションに使用する資料の提示開始操作又はページ捲り操作を行ったとする。資料操作端末TM1は、上記操作をステップS31で検出すると、ステップS32において上記操作に応じて資料に対するオペレーション処理を行う。例えば、操作の種類が資料提示開始操作であれば、当該操作により指定された資料の1ページ目の画像データをメモリから選択的に読み出す。一方、操作の種類がページ捲り操作であれば、選択中の資料の次ページ又は前ページの画像データをメモリから読み出す。そして資料操作端末TM1は、ステップS33において、上記読み出された資料画像データを例えば1秒間隔でLANケーブルLCを介してスクリーン操作端末TM2へ送信する。
一方、スクリーン操作端末TM2は以下のような処理を行う。すなわち、上記資料操作端末TM1から資料画像データが送信されると、CPU11はこの資料画像データをステップS34により通信インタフェース15を介して受信して、データメモリ14内の資料画像記憶部142に保存する。以後、資料操作端末TM1から資料画像データが送られるごとに、資料画像記憶部142に保存された資料画像データを更新する。すなわち、資料操作端末TM1は先に述べたように1秒間隔で資料画像データを送信するので、資料画像記憶部142に保存された資料画像データは1秒間隔で更新される。
またCPU11は、ステップS44において、2秒間隔で背景・スクリーン画像記憶部141から背景画像データを読み出す。そして、上記読み出した背景画像データのスクリーン画像領域に、上記ステップS34により受信し保存した最新の資料画像データを資料画像記憶部142から読み出して重畳し、投影画像データを生成する。このとき、上記スクリーン画像の中心と資料画像の中心とが一致するように、スクリーン画像に対する資料画像データの重畳位置が調整される。
続いてCPU11は、上記生成された投影画像データを、拡大・縮小制御プログラム132により指定される倍率に従い、ステップS36により拡大/縮小処理する。そして、この拡大/縮小処理された投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。なお、このとき投影画像の倍率の初期値は、例えば予め定めた中間的な値に設定される。このため、上記投影画像データは上記中間的な倍率に応じたサイズに調整されたのち、プロジェクタPJへ出力される。この結果、スクリーンSCには、上記中間的なサイズに設定された資料画像が背景画像と共に投影される。
さて、以上のように中間的なサイズに設定された資料画像がスクリーンSC2投影されている状態で、スクリーン操作端末TM2において発表者USが例えばズームインボタン181を押下したとする。このとき、スクリーン操作端末TM1のCPU11は、ステップS37、ステップS38及びステップS39においてそれぞれズームインボタン181、ズームアウトボタン182及び停止ボタン183の操作を監視しており、上記ズームインボタン181の操作を検出すると、ステップS41に移行して投影画像データの倍率を所定の時間変化率で拡大させるための倍率制御データを生成する。
そしてCPU11は、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で拡大処理し、この拡大処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。このとき、上記拡大処理はスクリーン画像及び資料画像の中心点を起点に行われる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として所定の時間変化率でズームインされる。そして、投影画像の倍率が予め設定された最大倍率に達するか、又は上記ズームインの途中で発表者USが停止ボタン183を押下すると、上記投影画像のズームインは停止される。
図4は、上記最大倍率に達したときの投影画像の一例を示すものである。同図に示すように、スクリーンSCには最大倍率に拡大されたスクリーン画像IM2及び資料画像IM1が投影される。すなわち、仮想的なスクリーンIM2上に資料画像IM1が投影された画像が投影される。したがって、聴衆に対し、ズームインによりスクリーンがあたかも近づいてきた(寄ってきた)ように知覚させることができ、これにより聴衆に対し資料画像IM1を強調し、注目させることが可能となる。
一方、この状態で、スクリーン操作端末TM2において発表者USがズームアウトボタン182を押下したとする。そうすると、スクリーン操作端末TM2のCPU11は、上記ズームアウトボタン182の操作をステップ38で検出すると、ステップS42に移行して、投影画像データの倍率を所定の時間変化率で縮小させるための倍率制御データを生成する。
そしてCPU11は、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で縮小処理し、この縮小処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。このとき、上記縮小処理は、先に述べた拡大処理の場合と同様にスクリーン画像及び資料画像の中心点を起点に行われる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として所定の時間変化率でズームアウトされる。そして、投影画像の倍率が予め設定された最小倍率に達するか、又は上記ズームインの途中で発表者USが停止ボタン183を押下すると、上記投影画像のズームアウトは停止される。
図5は、上記最小倍率に達したときの投影画像の一例を示すものである。同図に示すように、スクリーンSCの中央部には最小倍率に設定されたスクリーン画像IM2及び資料画像IM1が投影され、さらにその周辺部には壁や天井、椅子等の背景を表す画像IM3が投影される。すなわち、仮想的な背景IM3をバックに仮想的なスクリーンIM2上に資料画像IM1が表示された画像が投影される。したがって、聴衆に対し、ズームアウトによりスクリーンがあたかも遠ざかった(引いた)ように知覚させることができ、これにより資料画像IM1に対する聴衆の集中を緩和すると共に、資料画像IM1に対する聴衆の注目を自然に外して注目を発表者USへと向けさせることができる。
なお、投影する背景画像の色を、スクリーン又は壁等の実際の背景の表面色に極力近づけるようにすると、上記ズームアウトした場合に投影画像中の仮想的な背景と実際の背景とが空間的に一体化して繋がったように聴衆に知覚させることができ、これによりスクリーンの奥行き方向への動きを知覚させやすくなって、プレゼンテーションに対する聴衆の没入感を高めることが可能となる。また、投影画像の投影面を大きくすればするほど、壁全体が奥行き方向に移動するように聴衆に知覚させることができ、これにより没入感をさらに高めることができる。
また、上記背景画像IM3を生成する際に、コンピュータグラフィックスの3次元立体表示技術により立体的な仮想表示を実現してもよいし、室内を撮影した写真を2次元的に拡大/縮小することにより擬似的に立体的な表現を実現してもよい。
なお、上記投影画像がズームアウトされた状態で、発表者USが再びズームインボタン181を押下したとする。そうすると、CPU11はステップS37からステップS41に移行して投影画像データの倍率を所定の時間変化率で拡大させるための倍率制御データを生成する。そしてCPU11は、投影画像生成プログラム131に従い、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で拡大処理し、この拡大処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。
したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として所定の時間変化率で再びズームインされる。そして、投影画像の倍率が予め設定された最大倍率に達するか、又は上記ズームインの途中で発表者USが停止ボタン183を押下すると、上記投影画像のズームインは停止される。
以上述べたように第1の実施形態では、スクリーン操作端末TM2において、スクリーンとその周辺の背景部分を撮像した背景画像データを背景・スクリーン画像記憶部141に予め記憶しておき、この背景画像データのスクリーン画像領域に、資料操作端末TM1から送られる資料画像データを、その中心点がスクリーン画像の中心点と一致するように位置合わせして重畳することで、投影画像データを生成する。そして、スクリーン操作端末TM2に設けたズームインボタン181又はズームアウトボタン182が発表者USにより操作された場合に、上記投影画像データを所定の時間変化率で拡大又は縮小処理し、この拡大又は縮小処理された投影画像データをプロジェクタPJに供給してスクリーンSCに投影するようにしている。
したがって、発表者USのズーム操作に応じて、資料画像だけでなくスクリーン及びその周囲の背景全体が仮想的に近づいたり遠ざかったりするように聴衆者に知覚させることができ、これにより資料画像に対する聴衆の集中と緩和を効果的に制御することが可能となり、さらに聞き手の注目先を提示情報と話し手との間で効果的に切り替えることが可能となる。また、上記投影画像データの拡大/縮小処理を、発表者USの手操作により制御するようにしているので、発表者USの意志を直接反映させた制御を実現できる。
(第2の実施形態)
この発明の第2の実施形態は、プレゼンテーション中の発表者の挙動をビデオカメラで撮像して、その撮像画像からスクリーンに対する発表者の指示操作の有無を判定し、この指示操作の有無の判定結果に応じて投影画像データの拡大/縮小処理を制御するようにしたものである。
図6は、この発明の第2の実施形態に係わるプレゼンテーション画像提示システムの概略構成図である。なお、同図において前記図1と同一部分には同一符号を付して説明を行う。
第2の実施形態に係わるシステムでは、発表者USの垂直上方となる位置にビデオカメラCMが配置してある。このビデオカメラCMは、プレゼンテーション中に発表者USの挙動をその垂直上方から撮像するもので、その撮像画像データを一定の時間間隔(例えば1秒)でスクリーン操作端末TM2に送る。なお、ビデオカメラCMとスクリーン操作端末TM2との間は、LANケーブルを介して接続してもよいし、一般的な画像用信号ケーブルを用いて接続するようにしてもよい。
スクリーン操作端末TM2は、以下のように構成される。図7はそのハードウエア及びソフトウエアの構成を示すブロック図である。なお、同図において前記図2と同一部分には同一符号を付して詳しい説明は省略する。
スクリーン操作端末TM2は、先に述べた通信インタフェース15及びプロジェクタインタフェース16に加え、カメラインタフェース20を備えている。このカメラインタフェース20には上記ビデオカメラCMが接続される。カメラインタフェース20は、上記ビデオカメラCMから出力される発表者USの撮像画像データを受信する。
プログラムメモリ13には、この発明の第2の実施形態を実施するために必要なアプリケーション・プログラムとして、先に述べた投影画像生成プログラム131と、拡大/縮小制御プログラム132に加え、指示操作判定プログラム133が格納されている。
指示操作判定プログラム133は、以下の処理を上記CPU11に実行させる。
(1) 上記カメラインタフェース20により受信された発表者USの撮像画像データを、データメモリ14内に設けた撮像画像記憶部(図示せず)に保存させる処理。
(2) 上記保存された撮像画像データに対し画像認識処理を行って、当該撮像画像データ中から発表者USの輪郭を表す画像領域を認識する。そして、この認識した画像領域を囲む最小の長方形(バウンディングボックス)を求め、このバウンディングボックスの面積と当該バウンディングボックス内における画像領域の重心位置とをもとに、発表者USがスクリーンSCを指示しているか否かを判定する処理。なお、上記画像認識処理は、CPU11のソフトウエア処理により実現する以外に、DSP(Digital Signal Processor)等の画像処理LSIにより実現することも可能である。
拡大/縮小制御プログラム132は、上記指示操作判定プログラム133による判定結果に基づいて以下のような処理を、上記CPU11に実行させる。
(1) 上記指示操作判定プログラム133により発表者USがスクリーンSCを指示していると判定された場合に、投影画像のサイズを予め設定した最大値に拡大させるための倍率制御データを生成して上記投影画像生成プログラム131に与える処理。
(2) 上記指示操作判定プログラム133により発表者USがスクリーンSCを指示していない状態が20秒続いた場合に、投影中の投影画像サイズが最大サイズか又はその3/4のサイズかを判定する処理。
(3) (2) の判定処理により、投影中の投影画像サイズが最大サイズと判定された場合に、投影画像のサイズを3/4に縮小させるための倍率制御データを生成して上記投影画像生成プログラム131に与える処理。
(4) (2) の判定処理により、投影中の投影画像サイズが3/4と判定された場合には、投影画像のサイズを2/4にさらに縮小させるための倍率制御データを生成して上記投影画像生成プログラム131に与える処理。
投影画像生成プログラム131は、背景画像データのスクリーン画像領域にその時点で最新の資料画像データを重畳することにより生成された投影画像データを、上記拡大/縮小制御プログラム132から倍率制御データにより与えられる倍率に従い拡大/縮小処理する。そして、この拡大/縮小処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる処理を、上記CPU11に実行させる。
次に、以上のように構成されたシステムによるプレゼンテーション画像の提示動作を説明する。図8は、資料操作端末TM1及びスクリーン操作端末TM2による処理手順と処理内容を示すフローチャートである。なお、同図においても前記図3と同一部分には同一符号を付して説明を行う。
資料操作端末TM1から資料画像データが送信されると、CPU11はこの資料画像データをステップS34により通信インタフェース15を介して受信して、データメモリ14内の資料画像記憶部142に保存する。以後、資料操作端末TM1から資料画像データが送られるごとに、資料画像記憶部142に保存された資料画像データを更新する。
またCPU11は、ステップS44において、2秒間隔で背景・スクリーン画像記憶部141から背景画像データを読み出す。そして、上記読み出した背景画像データのスクリーン画像領域に、上記ステップS34により受信し保存した最新の資料画像データを資料画像記憶部142から読み出して重畳し、投影画像データを生成する。このとき、上記スクリーン画像の中心点と資料画像の中心点とが一致するように、スクリーン画像に対する資料画像データの重畳位置が調整される。
続いてCPU11は、上記生成された投影画像データを、拡大・縮小制御プログラム132により指定される倍率に従い、ステップS36により拡大/縮小処理する。そして、この拡大/縮小処理された投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。なお、このとき投影画像の倍率の初期値は、例えば予め定めた中間的な値に設定される。このため、上記投影画像データは上記中間的な倍率に応じたサイズに調整されたのち、プロジェクタPJへ出力される。この結果、スクリーンSCには、上記中間的なサイズに設定された資料画像が背景画像と共に投影される。
さて、以上のように資料画像がスクリーンSCに投影されている状態で、CPU11は指示操作判定プログラム133に従い、以下のような処理を実行する。
すなわち、プレゼンテーション中の発表者USの挙動がその垂直上方においてビデオカメラCM2より撮像され、その撮像画像データが1秒間隔でスクリーン操作端末TM2へ送られる。スクリーン操作端末TM2のCPU11は、上記ビデオカメラCMから送られる発表者USの撮像画像データがカメラインタフェース20で受信されるごとに、この受信された撮像画像データをデータメモリ14内に設けた撮像画像記憶部に保存させる。
次にCPU11は、ステップ81において、上記保存された撮像画像データに対し画像認識処理を行って、当該撮像画像データ中から発表者USの輪郭を表す画像領域を認識し、この認識した画像領域を囲む最小の長方形(バウンディングボックス)を求める。例えば、図9に示すように発表者USの輪郭を表す画像領域E1が検出されたとすると、CPU11はこの検出された画像領域E1を囲む最小のバウンディングボックスBBを設定する。
続いてCPU11は、上記バウンディングボックスBBの面積を計算し、算出された面積を予め設定したしきい値(例えば、発表者USが指示操作を行っていないときの面積の1.5倍に設定)と比較する。そして、上記算出されたバウンディングボックスBBの面積が上記しきい値を超えた場合に発表者USは何らかの指示操作を行ったと判定し、超えていない場合には発表者USは指示操作を行っていないと判定する。
さらにCPU11は、上記発表者USの指示操作がスクリーンSCに対するものか否かを以下のように判定する。
すなわち、図11に示すように先ず発表者USの画像領域E1の重心Gを検出する。次に、バウンディングボックスBBの4個の角領域A〜Dのうち、先ず発表者USの画像領域E1を含む領域を選択し、次にこの選択された角領域の中から上記検出された重心Gから最も遠い角領域Aを発表者USの手の位置として選択する。続いて、上記バウンディングボックスBBの中心点Eから上記選択した角領域Aを通る直線を引き、この直線がスクリーンSCの投影面と交差する点Pが検出されるか否かを判定する。この判定の結果、図11に示すように交差点Pが見つかれば、発表者USはスクリーンSCを指示していると判定し、一方図10のように交差点Pが見つからなければ、発表者USはスクリーンSCを指示していないと判定する。
以上の判定処理により、発表者USがスクリーンSCを指示していると判定されると、CPU11はステップS85に移行し、投影画像のサイズを予め設定した最大値(4/4)に拡大させるための倍率制御データを生成して投影画像生成プログラム131に与える。そして、CPU11は投影画像生成プログラム131に従い、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で拡大処理し、この拡大処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。このとき、上記拡大処理はスクリーン画像及び資料画像の中心点を起点に行われる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として最大サイズにズームインされる。
したがってこの場合には、図4に示したようにスクリーンSCには最大サイズに拡大されたスクリーン画像IM2及び資料画像IM1が投影される。すなわち、仮想的なスクリーンIM2上に資料画像IM1が投影された画像が投影される。したがって、聴衆に対し、ズームインによりスクリーンがあたかも近づいてきた(寄ってきた)ように知覚させることができ、これにより聴衆に対し資料画像IM1を強調することが可能となる。
一方、上記ステップS81による判定処理により、発表者USがスクリーンSCを指示していないと判定され、さらにこの状態が20秒続いたとする。この場合CPU11は、ステップS82からステップS83に移行し、投影中の投影画像のサイズが最大サイズか否かを判定する。そして、この判定の結果、投影中の投影画像サイズが最大サイズと判定されれば、ステップS86により投影画像のサイズを3/4に縮小させるための倍率制御データを生成する。
そしてCPU11は、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で3/4に縮小する処理を行い、この縮小処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。このとき、上記縮小処理は、先に述べた拡大処理の場合と同様にスクリーン画像及び資料画像の中心点を起点に行われる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として3/4サイズにズームアウトされる。
さらに、上記3/4サイズに縮小された後、発表者USがスクリーンSCを指示していない状態がさらに20秒間続いたとする。この場合CPU11は、ステップS82からステップS83を介してステップS84に移行し、投影中の投影画像のサイズが最大サイズの3/4のサイズか否かを判定する。そして、この判定の結果、投影中の投影画像サイズが最大サイズの3/4と判定されれば、ステップS87により投影画像のサイズを2/4に縮小させるための倍率制御データを生成する。
そしてCPU11は、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で2/4に縮小する処理を行い、この縮小処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。このとき、上記縮小処理は、先に述べた拡大処理の場合と同様にスクリーン画像及び資料画像の中心点を起点に行われる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として2/4サイズにさらにズームアウトされる。
すなわち、プレゼンテーション中に発表者USがスクリーンSCに対する指示操作を行わなければ、スクリーンSCに表示される投影画像は20秒が経過するごとにそのサイズが3/4、2/4と段階的にズームアウトされる。ズームアウトされると、例えば図5に示したようにスクリーンSCの中央部には最小倍率に設定されたスクリーン画像IM2及び資料画像IM1が投影され、さらにその周辺部には壁や天井、椅子等の背景を表す画像IM1が投影される。
すなわち、仮想的な背景IM3をバックに仮想的なスクリーンIM2上に資料画像IM1が表示された画像が投影される。したがって、聴衆に対し、ズームアウトによりスクリーンがあたかも遠ざかった(引いた)ように知覚させることができ、これにより資料画像IM1に対する聴衆の集中を緩和することができる。
なお、上記投影画像サイズが3/4又は2/4に縮小されている状態で、発表者USがスクリーンSCに対し再度指示操作を行うと、CPU11はステップS81からステップS85に移行して投影画像のサイズを最大値(4/4)に拡大させるための倍率制御データを生成する。そして投影画像生成プログラム131に従い、ステップS44、S34及びS35により生成された投影映像データを、上記倍率制御データにより与えられる倍率に従いステップS36で拡大処理し、この拡大処理後の投影画像データをプロジェクタインタフェース16からプロジェクタPJへ出力させる。したがって、スクリーンSCに表示される投影画像は、スクリーン画像の中心点を起点として最大サイズにズームインされる。
以上述べたように第2の実施形態では、プレゼンテーション中の発表者USの挙動をその垂直上方からビデオカメラCMで撮像して、その撮像画像からスクリーンSCに対する発表者USの指示操作の有無を判定し、この指示操作の有無の判定結果に応じて投影画像データを拡大/縮小処理するようにしている。
したがって、スクリーンSCに対する発表者USの指示操作に応じて、資料画像だけでなくスクリーン及びその周囲の背景全体が仮想的に近づいたり遠ざかったりするように聴衆者に知覚させることができ、これにより資料画像に対する聴衆の集中と緩和を効果的に制御することが可能となり、さらに聞き手の注目先を提示情報と話し手との間で効果的に切り替えることが可能となる。また、上記投影画像データの拡大/縮小処理を、スクリーンSCに対する発表者USの指示操作に応じて自動的に制御するようにしているので、発表者USは投影画像データの拡大又は縮小操作を別途行う必要がなくなり、これによりプレゼンテーションに対し意識をより集中することが可能となる。
(その他の実施形態)
前記第2の実施形態では、ビデオカメラCMにより発表者USを撮像してその撮像画像をもとにスクリーンSCに対する指示操作の有無を判定するようにした。しかし、それに限定されるものではなく、他に発表者USがスクリーンSCに対しレーザポインタを用いて指示操作を行う場合に、スクリーンSCに対するレーザポインタの照射の有無をビデオカメラ等の映像を用いて判定するようにしてもよい。
また、前記第1の及び第2の実施形態では、資料操作端末TM1とスクリーン操作端末TM2との間をLANケーブルLCを介して接続した場合を例にとって説明したが、LANケーブルの代わりに無線LANやBluetooth(登録商標)、UWB(Ultra Wideband)等の小電力無線データ通信規格を適用した無線通信システムを適用してもよい。
さらに、前記各実施形態では、資料の操作を資料操作端末TM1で、またスクリーンの操作をスクリーン操作端末TM2でそれぞれ行う場合を例にとって説明したが、1台の端末で資料の操作とスクリーンの操作の両方を一括して行うように構成してもよい。このようにすると、システム構成を簡単化することができる。
その他、操作端末の種類や構成、投影画像データ生成処理及びその拡大/縮小処理の手順や内容等についても、この発明の要旨を逸脱しない範囲で種々変形して実施できる。
要するにこの発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
この発明の第1の実施形態に係わるプレゼンテーション画像提示システムの概略構成図である。 図1に示したシステム中のスクリーン操作端末のハードウエア及びソフトウエアの構成を示すブロック図である。 図1に示したシステム中の資料操作端末及びスクリーン操作端末による処理手順と処理内容を示すフローチャートである。 図1に示したシステムのスクリーンに投影される、ズームインしたときの画像の一例を示す図である。 図1に示したシステムのスクリーンに投影される、ズームアウトしたときの画像の一例を示す図である。 この発明の第2の実施形態に係わるプレゼンテーション画像提示システムの概略構成図である。 図6に示したシステム中の資料操作端末及びスクリーン操作端末による処理手順と処理内容を示すフローチャートである。 図6に示したシステム中の資料操作端末及びスクリーン操作端末による処理手順と処理内容を示すフローチャートである。 発表者がプレゼンテーション映像に対する指示を行っていないときに検出される画像領域を示す図である。 発表者がプレゼンテーション映像に対する指示を行っているときに検出される画像領域を示す図である。 発表者による指示操作の判定方法を説明するための図である。
符号の説明
TM1…資料操作端末、TM2…スクリーン操作端末、LC…LANケーブル、PJ…プロジェクタ、SC…スクリーン、CM…ビデオカメラ、US…ユーザ、BB…バウンディングボックス、E1…発表者の映像領域、IM1…発表資料画像、IM2…スクリーン画像、IM3…背景画像、11…CPU、12…バス、13…プログラムメモリ、14…データメモリ、15…通信インタフェース、16…プロジェクタインタフェース、17…入出力インタフェース、18…入力デバイス、19…表示デバイス、20…カメラインタフェース、131…投影画像生成プログラム、132…拡大/縮小制御プログラム、133…指示操作判定プログラム、141…背景・スクリーン画像記憶部、142…資料画像記憶部、181…ズームインボタン、182…ズームアウトボタン、183…停止ボタン。

Claims (10)

  1. スクリーンとその周辺部とを含む背景画像データを記憶するメモリと、
    前記メモリから背景画像データを読み出し、この読み出された背景画像データのスクリーン画像領域に、プレゼンテーションに使用する資料画像データを、その中心点がスクリーン画像の中心点と一致するように位置合わせして重畳することにより、投影画像データを生成する手段と、
    前記生成された投影画像データを、そのスクリーン画像領域の中心を起点に拡大又は縮小する手段と、
    前記拡大又は縮小された投影画像データを前記スクリーンに投影させる手段と
    を具備することを特徴とするプレゼンテーション画像の提示システム。
  2. 前記投影画像データを拡大又は縮小する手段は、
    前記プレゼンテーションを行う発表者の手動による拡大又は縮小操作を受け付ける手段と、
    前記受け付けた拡大又は縮小操作に応じ、前記生成された投影画像データをそのスクリーン画像領域の中心を起点に拡大又は縮小処理する手段と
    を備えることを特徴とする請求項1記載のプレゼンテーション画像の提示システム。
  3. 前記投影画像データを拡大又は縮小する手段は、
    前記プレゼンテーションを行う発表者の前記スクリーンに対する指示操作の有無を判定する手段と、
    前記指示操作の有無の判定結果に応じて、前記投影画像データを拡大又は縮小処理する手段と
    を備えることを特徴とする請求項1記載のプレゼンテーション画像の提示システム。
  4. プレゼンテーションに使用する資料画像データをスクリーンに投影する際に、
    前記スクリーンとその周辺部とを含む背景画像データをメモリから読み出し、この読み出された背景画像データのスクリーン画像領域に、前記プレゼンテーションに使用する資料画像データを、その中心点がスクリーン画像の中心点と一致するように位置合わせして重畳することにより、投影画像データを生成する過程と、
    前記生成された投影画像データを、そのスクリーン画像領域の中心を起点に拡大又は縮小する過程と、
    前記拡大又は縮小された投影画像データを前記スクリーンに投影させる過程と
    を具備することを特徴とするプレゼンテーション画像の提示方法。
  5. 前記投影画像データを拡大又は縮小する過程は、
    前記プレゼンテーションを行う発表者の手動による拡大又は縮小操作を受け付ける過程と、
    前記受け付けた拡大又は縮小操作に応じ、前記生成された投影画像データをそのスクリーン画像領域の中心を起点に拡大又は縮小処理する過程と
    を備えることを特徴とする請求項4記載のプレゼンテーション画像の提示方法。
  6. 前記投影画像データを拡大又は縮小する過程は、
    前記プレゼンテーションを行う発表者の前記スクリーンに対する指示操作の有無を判定する過程と、
    前記指示操作の有無の判定結果に応じて、前記投影画像データを拡大又は縮小処理する過程と
    を備えることを特徴とする請求項4記載のプレゼンテーション画像の提示方法。
  7. プレゼンテーションに使用する資料画像データをコンピュータの制御の下でスクリーンに投影する装置で使用されるプログラムであって、
    前記スクリーンとその周辺部とを含む背景画像データをメモリから読み出し、この読み出された背景画像データのスクリーン画像領域に、前記プレゼンテーションに使用する資料画像データを、その中心点がスクリーン画像の中心点と一致するように位置合わせして重畳することにより、投影画像データを生成する処理と、
    前記生成された投影画像データを、そのスクリーン画像領域の中心を起点に拡大又は縮小する処理と、
    前記拡大又は縮小された投影画像データを前記スクリーンに投影させる処理と
    を、前記コンピュータに実行させることを特徴とするプログラム。
  8. 前記投影画像データを拡大又は縮小する処理は、
    前記プレゼンテーションを行う発表者の手動による拡大又は縮小操作を受け付ける処理と、
    前記受け付けた拡大又は縮小操作に応じ、前記生成された投影画像データをそのスクリーン画像領域の中心を起点に拡大又は縮小処理する処理と
    を、前記コンピュータに実行させることを特徴とする請求項7記載のプログラム。
  9. 前記投影画像データを拡大又は縮小する処理は、
    前記プレゼンテーションを行う発表者の前記スクリーンに対する指示操作の有無を判定する処理と、
    前記指示操作の有無の判定結果に応じて、前記投影画像データを拡大又は縮小処理する処理と
    を、前記コンピュータに実行させることを特徴とする請求項7記載のプログラム。
  10. 前記請求項7乃至請求項9のいずれかに記載のプログラムを読み出し可能に格納した記録媒体。
JP2008277301A 2008-10-28 2008-10-28 プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体 Expired - Fee Related JP5042965B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008277301A JP5042965B2 (ja) 2008-10-28 2008-10-28 プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008277301A JP5042965B2 (ja) 2008-10-28 2008-10-28 プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体

Publications (2)

Publication Number Publication Date
JP2010107593A true JP2010107593A (ja) 2010-05-13
JP5042965B2 JP5042965B2 (ja) 2012-10-03

Family

ID=42297118

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008277301A Expired - Fee Related JP5042965B2 (ja) 2008-10-28 2008-10-28 プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体

Country Status (1)

Country Link
JP (1) JP5042965B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015015733A1 (ja) * 2013-08-01 2015-02-05 株式会社デンソー 画像表示装置、画像表示方法及び画像表示プログラム製品
JP2018507439A (ja) * 2015-02-04 2018-03-15 シャープ株式会社 表示機器のカムフラージュ/回復システム及び制御方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03172063A (ja) * 1989-11-30 1991-07-25 Eastman Kodatsuku Japan Kk 画像拡大投影表示装置
JPH0636007A (ja) * 1992-07-14 1994-02-10 Canon Inc 画像合成装置
JP2004304472A (ja) * 2003-03-31 2004-10-28 Seiko Epson Corp 投写面上に画像を表示させずに行う画像の表示領域の決定
JP2007219217A (ja) * 2006-02-17 2007-08-30 Seiko Epson Corp プロジェクタ、プログラムおよび情報記憶媒体
JP2007264006A (ja) * 2006-03-27 2007-10-11 Seiko Epson Corp 画像観賞システム、画像表示装置、電子式写真立て、データハンドリング装置、画像表示方法、データハンドリング方法、画像表示プログラムおよびデータハンドリングプログラム
JP2008217742A (ja) * 2007-03-08 2008-09-18 Fuji Xerox Co Ltd 表示装置及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03172063A (ja) * 1989-11-30 1991-07-25 Eastman Kodatsuku Japan Kk 画像拡大投影表示装置
JPH0636007A (ja) * 1992-07-14 1994-02-10 Canon Inc 画像合成装置
JP2004304472A (ja) * 2003-03-31 2004-10-28 Seiko Epson Corp 投写面上に画像を表示させずに行う画像の表示領域の決定
JP2007219217A (ja) * 2006-02-17 2007-08-30 Seiko Epson Corp プロジェクタ、プログラムおよび情報記憶媒体
JP2007264006A (ja) * 2006-03-27 2007-10-11 Seiko Epson Corp 画像観賞システム、画像表示装置、電子式写真立て、データハンドリング装置、画像表示方法、データハンドリング方法、画像表示プログラムおよびデータハンドリングプログラム
JP2008217742A (ja) * 2007-03-08 2008-09-18 Fuji Xerox Co Ltd 表示装置及びプログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015015733A1 (ja) * 2013-08-01 2015-02-05 株式会社デンソー 画像表示装置、画像表示方法及び画像表示プログラム製品
JP2015032096A (ja) * 2013-08-01 2015-02-16 株式会社デンソー 画面表示装置、画面表示方法及び画面表示プログラム
JP2018507439A (ja) * 2015-02-04 2018-03-15 シャープ株式会社 表示機器のカムフラージュ/回復システム及び制御方法

Also Published As

Publication number Publication date
JP5042965B2 (ja) 2012-10-03

Similar Documents

Publication Publication Date Title
CN107770627B (zh) 图像显示装置和操作图像显示装置的方法
US9124766B2 (en) Video conference apparatus, method, and storage medium
JP4102847B2 (ja) 画像データ提供装置、画像表示装置、画像表示システム、画像データ提供装置の制御方法、画像表示装置の制御方法、制御プログラム、および、記録媒体
WO2020107297A1 (zh) 视频剪辑控制方法、终端设备和系统
KR101528312B1 (ko) 영상 편집 방법 및 이를 위한 장치
US9197856B1 (en) Video conferencing framing preview
WO2022100712A1 (zh) 真实环境画面中虚拟道具的显示方法、系统及存储介质
KR20130117032A (ko) 포커스 제어장치 및 방법
JP6241802B1 (ja) 映像配信システム、ユーザ端末装置および映像配信方法
JP2012216953A (ja) 情報処理装置、表示制御方法及び表示制御装置
JP6024002B2 (ja) 動画配信システム
US11917329B2 (en) Display device and video communication data processing method
WO2019092590A1 (ru) Взаимодействие пользователей в коммуникационной системе при помощи множественного потокового вещания данных дополненной реальности
JP5042965B2 (ja) プレゼンテーション画像の提示システム、提示方法、提示プログラム及びその記録媒体
JP2006330965A (ja) オブジェクト出力方法及び情報処理装置
JP2008271149A (ja) 動画撮影装置、動画再生装置、動画配信システム、制御方法、制御プログラム、および、記録媒体
WO2018107318A1 (zh) 一种可视化装修设计方法及其装置、机器人
WO2023174009A1 (zh) 基于虚拟现实的拍摄处理方法、装置及电子设备
JP2006014119A (ja) 撮影画像送受信システム
KR20180037725A (ko) 디스플레이 장치
US20150103150A1 (en) Information processing method and electronic device
JP2009222919A (ja) 画像表示システム及び同システムに用いる表示装置、並びに情報処理方法
CN111367598B (zh) 动作指令的处理方法、装置、电子设备及计算机可读存储介质
CN109474782B (zh) 用于数据编辑的接口装置、数据编辑方法、记录介质
JP2009060251A (ja) 情報処理装置及び遠隔診断システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110111

TRDD Decision of grant or rejection written
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120627

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120703

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120711

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150720

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees