JP2006154902A - 手書き画像表示システム及び空間手書き用携帯情報端末 - Google Patents
手書き画像表示システム及び空間手書き用携帯情報端末 Download PDFInfo
- Publication number
- JP2006154902A JP2006154902A JP2004340169A JP2004340169A JP2006154902A JP 2006154902 A JP2006154902 A JP 2006154902A JP 2004340169 A JP2004340169 A JP 2004340169A JP 2004340169 A JP2004340169 A JP 2004340169A JP 2006154902 A JP2006154902 A JP 2006154902A
- Authority
- JP
- Japan
- Prior art keywords
- image
- writing
- handwritten
- image display
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
Abstract
【課題】所望の空間に仮想的な書き込みを行うとともに、その書き込み内容を書き込み位置に関する情報とともに記録することができる手書き画像表示システムを提供すること。
【解決手段】仮想面に手書きで書き込む様子を撮像した書き込み画像を入力する画像入力部1と、書き込み画像から画像処理により手書き画像を得る手書き抽出部2と、絶対座標及び書き込み/読み込み方向を含む書き込み及び読み込みの位置情報を検出する絶対座標検出部3と、手書き画像を書き込み位置の情報とともに記録する画像記録部4と、手書き画像等の情報を送受信する通信部5と、手書き画像を表示する画像表示部20及び画像表示部20からの光を反射するとともに使用者の視線方向の実視野からの光を透過するコンバイナーを有する手書き画像表示装置とを備え、コンバイナーを通すことで画像表示部20に表示した手書き画像の虚像を実視野に重畳して表示する。
【選択図】図1
【解決手段】仮想面に手書きで書き込む様子を撮像した書き込み画像を入力する画像入力部1と、書き込み画像から画像処理により手書き画像を得る手書き抽出部2と、絶対座標及び書き込み/読み込み方向を含む書き込み及び読み込みの位置情報を検出する絶対座標検出部3と、手書き画像を書き込み位置の情報とともに記録する画像記録部4と、手書き画像等の情報を送受信する通信部5と、手書き画像を表示する画像表示部20及び画像表示部20からの光を反射するとともに使用者の視線方向の実視野からの光を透過するコンバイナーを有する手書き画像表示装置とを備え、コンバイナーを通すことで画像表示部20に表示した手書き画像の虚像を実視野に重畳して表示する。
【選択図】図1
Description
本発明は、所望の空間上に書き込んだ仮想的な書き込みの内容を位置情報とともに記録し、この書き込みを複数の装置保持者が同一位置で互いに読み出すとともに、追加の書き込みも行うことができる手書き画像表示システムに関する。
従来より、平面的な実体(たとえば手書き入力パネル等)のない状況でも、空間上に手書き等の方法で仮想的に文字や図形をなぞることにより、その経路から文字パターンや図形パターンを入力することができる空間手書き図形入力装置が提案されている。この装置では、手書きにより文字や図形をなぞる指先にセンサを装着し、同センサの移動に伴う空間位置の空間座標から移動速度や加速度を測定してトレース像を抽出するように構成されている。(たとえば、特許文献1参照)
特開平6−28096号公報(〔図1〕及び〔図2〕を参照)
しかしながら、上述した従来技術の空間手書き図形入力装置は、指先と一体に移動するセンサの移動速度や加速度を測定して指先の軌跡を抽出し、センサと一体に移動する指先をトレースしてその軌跡を入力(記録)するものであるから、実際に手書き入力を行った位置に関する情報を得ることはできなかった。
そこで、装置保持者が指先等による仮想的な手書き入力(書き込み)を所望の空間上で行うとともに、その書き込み位置に関する情報も得ることができる手書き画像表示システムの開発が望まれる。
そこで、装置保持者が指先等による仮想的な手書き入力(書き込み)を所望の空間上で行うとともに、その書き込み位置に関する情報も得ることができる手書き画像表示システムの開発が望まれる。
本発明は、上記の事情に鑑みてなされたものであり、その目的とするところは、所望の空間に仮想的な書き込みを行うとともに、その書き込み内容を書き込み位置に関する情報とともに記録することができる手書き画像表示システムを提供することにある。
本発明は、上記の課題を解決するため、下記の手段を採用した。
本発明に係る手書き画像表示システムは、所望の空間に設定した仮想面に手書きで書き込む様子を撮像した書き込み画像を入力する画像入力手段と、前記書き込み画像から画像処理により手書きの軌跡を抽出して手書き画像を得る手書き抽出手段と、前記手書き画像の書き込みを行う位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報と、前記手書き画像の読み出しを行う位置に関する絶対座標及び読み出し方向を含む読み出し位置の情報とを検出する座標検出手段と、前記手書き画像を前記書き込み位置の情報とともに記録する画像記録手段と、前記手書き画像、前記書き込み位置の情報及び前記読み出し位置の情報を送受信する通信手段と、前記手書き画像を前記絶対座標とともに記録する画像記録手段と、前記手書き画像及び絶対座標の情報を送受信する通信手段と、前記手書き画像を表示する画像表示手段及び該画像表示手段からの光を反射するとともに使用者の視線方向の実視野からの光を透過する半透過型光学素子とを少なくとも有する手書き画像表示装置とを備え、前記手書き画像表示装置の使用者から見て前記半透過型光学素子よりも前方の実視野に前記画像表示手段が表示する手書き画像の虚像を重畳して表示することを特徴とするものである。
本発明に係る手書き画像表示システムは、所望の空間に設定した仮想面に手書きで書き込む様子を撮像した書き込み画像を入力する画像入力手段と、前記書き込み画像から画像処理により手書きの軌跡を抽出して手書き画像を得る手書き抽出手段と、前記手書き画像の書き込みを行う位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報と、前記手書き画像の読み出しを行う位置に関する絶対座標及び読み出し方向を含む読み出し位置の情報とを検出する座標検出手段と、前記手書き画像を前記書き込み位置の情報とともに記録する画像記録手段と、前記手書き画像、前記書き込み位置の情報及び前記読み出し位置の情報を送受信する通信手段と、前記手書き画像を前記絶対座標とともに記録する画像記録手段と、前記手書き画像及び絶対座標の情報を送受信する通信手段と、前記手書き画像を表示する画像表示手段及び該画像表示手段からの光を反射するとともに使用者の視線方向の実視野からの光を透過する半透過型光学素子とを少なくとも有する手書き画像表示装置とを備え、前記手書き画像表示装置の使用者から見て前記半透過型光学素子よりも前方の実視野に前記画像表示手段が表示する手書き画像の虚像を重畳して表示することを特徴とするものである。
このような手書き画像表示システムによれば、所望の空間に設定した仮想面に手書きで書き込む様子(背景上で指先や筆記具先端等が移動する様子)を画像入力手段で撮像した書き込み画像を入力し、この書き込み画像から手書き抽出手段の画像処理により手書きの軌跡を抽出して手書き画像を得るとともに、この手書き画像を画像表示手段に表示する。また、手書き画像を画像表示手段に表示することにより、半透過型光学素子が画像表示手段からの光を反射するとともに使用者の視線方向の実視野からの光を透過し、使用者から見て半透過型光学素子よりも前方の実視野に、画像表示手段に表示した手書き画像の虚像が重畳して表示される。
さらに、手書き画像を書き込んだ位置(装置及び仮想面)について、その絶対座標及び書き込み方向を包含する書き込み位置の情報が座標検出手段で検出される。手書き画像及び書き込み位置の情報は、通信手段により他の手書き画像表示システムとの間で送受信できるため、複数の手書き画像表示システム使用者で情報を共有することができる。また、書き込み位置の情報を手書き画像とともに画像記録手段に記録することで、手書き画像表示システムの書き込みモードが完了する。
さらに、手書き画像を書き込んだ位置(装置及び仮想面)について、その絶対座標及び書き込み方向を包含する書き込み位置の情報が座標検出手段で検出される。手書き画像及び書き込み位置の情報は、通信手段により他の手書き画像表示システムとの間で送受信できるため、複数の手書き画像表示システム使用者で情報を共有することができる。また、書き込み位置の情報を手書き画像とともに画像記録手段に記録することで、手書き画像表示システムの書き込みモードが完了する。
また、表示モードにおいては、座標検出手段により読み出しをしたい使用者が読み出し位置の情報(絶対座標及び読み出し方向)を検出し、通信手段により送受信される情報の中から、検出した読み出し位置の情報と同じ書き込み位置に対応する手書き画像を検索して画像表示手段に表示する。この結果、半透過型光学素子が画像表示手段からの光を反射するとともに使用者の視線方向の実視野からの光を透過し、使用者から見て半透過型光学素子よりも前方の実視野に、画像表示手段に表示した手書き画像の虚像が重畳して表示される。
請求項1に記載の手書き画像表示システムは、たとえば携帯電話機、デジタルカメラ及びPDA(Personal Digital Assistance )等のように、常時持ち歩くことが容易な携帯情報端末に一体化して組み込んだ空間手書き用携帯情報端末とすることが好ましい。
上述した本発明によれば、手書き画像表示システムの使用者が所望の空間上に設定した仮想面に対して指先等による仮想的な手書き入力(書き込み)を行い、この手書き入力による書き込み内容を書き込み位置の情報とともに通信手段により送受信して共有すれば、読み出し時においては、書き込み位置の情報と読み出し位置の情報とが一致する空間上の仮想面に書き込み内容を表示して複数のシステム保有者が互いに読み出し、かつ、同仮想面に新たな書き込みを行うこともできる。
すなわち、実体がなく絶対座標で規定されて移動しない仮想面(たとえば、仮想メモ用紙、仮想掲示板及び仮想のり付き付箋紙等)に手書きで仮想の書き込みを行い、この書き込みを他のシステム所有者が読んだり、あるいは新たに書き加えたりすることが可能になるので、手書き画像表示システムの所有者間のみで互いに情報を共有することが可能になる。
すなわち、実体がなく絶対座標で規定されて移動しない仮想面(たとえば、仮想メモ用紙、仮想掲示板及び仮想のり付き付箋紙等)に手書きで仮想の書き込みを行い、この書き込みを他のシステム所有者が読んだり、あるいは新たに書き加えたりすることが可能になるので、手書き画像表示システムの所有者間のみで互いに情報を共有することが可能になる。
以下、本発明に係る手書き画像表示システムの一実施形態を図面に基づいて説明する。
手書き画像表示システムは、たとえば仮想掲示板のように、所望の実視野空間に設定した仮想面上に手書きで仮想的な書き込みを行い、その書き込み内容を記録するとともに、必要に応じて同一仮想面上に重畳表示した書き込み内容を読み出すことができるように構成されている。なお、仮想掲示板等の仮想面については、予め概略の位置を定めておくことが好ましい。
手書き画像表示システムは、たとえば仮想掲示板のように、所望の実視野空間に設定した仮想面上に手書きで仮想的な書き込みを行い、その書き込み内容を記録するとともに、必要に応じて同一仮想面上に重畳表示した書き込み内容を読み出すことができるように構成されている。なお、仮想掲示板等の仮想面については、予め概略の位置を定めておくことが好ましい。
図3及び図4は、本発明による空間手書き用携帯情報端末及び手書き画像表示システムの具体的な使用状況に係る第1の実施形態を示す図であり、この場合の空間手書き用携帯情報端末(以下、「端末装置」と呼ぶ)10は、たとえば携帯電話機、デジタルカメラ及びPDA等の小型で携帯性に優れている携帯情報端末機器類の本体11内に、手書き画像表示システム(以下、「表示システム」と呼ぶ)を一体的に組み込んだ構成とされる。端末装置10の本体11には、画像入力手段となる撮影レンズ12、図示しない電源等の各種操作スイッチ類、各種制御機構及び制御基板等の他、本体11を貫通させた開口部11aから取り出して使用する開閉式の手書き画像表示装置が設けられている。この手書き画像表示装置は、画像表示部20及び半透過型光学素子のコンバイナー30を有する構成とされる。
上述した構成の端末装置10は、表示システムを使用する際、画像表示部20及びコンバイナー30を開き、本体適所を使用者の側頭部に押し当てた状態にして、コンバイナー30を通して実視界に見える所望の空間に設定した仮想面を見ながら、手書きの書き込みまたは読み出しを行うように構成されている。
上述した構成の端末装置10は、表示システムを使用する際、画像表示部20及びコンバイナー30を開き、本体適所を使用者の側頭部に押し当てた状態にして、コンバイナー30を通して実視界に見える所望の空間に設定した仮想面を見ながら、手書きの書き込みまたは読み出しを行うように構成されている。
ここで、表示システムの構成を図1のブロック図に基づいて説明する。
この表示システム(以下、「第1システム」と呼ぶ)W1は、所望の空間に設定した仮想掲示板等の仮想面に指先等による手書きで書き込む様子を背景とともに撮像した書き込み画像を入力する画像入力部(画像入力手段)1と、書き込み画像から画像処理により背景の画像を取り除き、手書きの軌跡のみを抽出することで手書き画像を得る手書き抽出部(手書き抽出手段)2と、手書き画像の書き込みを行う位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報と、手書き画像の読み出しを行う位置に関する絶対座標及び読み出し方向を含む読み出し位置の情報とを検出する絶対座標検出部(座標検出手段)3と、手書き画像を書き込み位置の情報とともに互いに関連づけして記録する画像記録部(画像記録手段)4と、手書き画像、書き込み位置の情報及び読み出し位置の情報を送受信する通信部(通信手段)5と、手書き画像を表示する画像表示部(画像表示手段)20と、画像表示部20からの光を反射するとともに使用者の視線方向の実視野からの光を透過するコンバイナー30とを備えており、使用者から見てコンバイナー30よりも前方の実視野に、画像表示部20が表示した手書き画像の虚像を仮想面に重畳表示するように構成されている。
この表示システム(以下、「第1システム」と呼ぶ)W1は、所望の空間に設定した仮想掲示板等の仮想面に指先等による手書きで書き込む様子を背景とともに撮像した書き込み画像を入力する画像入力部(画像入力手段)1と、書き込み画像から画像処理により背景の画像を取り除き、手書きの軌跡のみを抽出することで手書き画像を得る手書き抽出部(手書き抽出手段)2と、手書き画像の書き込みを行う位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報と、手書き画像の読み出しを行う位置に関する絶対座標及び読み出し方向を含む読み出し位置の情報とを検出する絶対座標検出部(座標検出手段)3と、手書き画像を書き込み位置の情報とともに互いに関連づけして記録する画像記録部(画像記録手段)4と、手書き画像、書き込み位置の情報及び読み出し位置の情報を送受信する通信部(通信手段)5と、手書き画像を表示する画像表示部(画像表示手段)20と、画像表示部20からの光を反射するとともに使用者の視線方向の実視野からの光を透過するコンバイナー30とを備えており、使用者から見てコンバイナー30よりも前方の実視野に、画像表示部20が表示した手書き画像の虚像を仮想面に重畳表示するように構成されている。
画像入力部1は、撮影レンズ12を含む各種レンズ等を組み合わせた撮影光学系を介して撮像する画像をCCDやMOS等の半導体素子によりデジタルデータの画像情報に変換し、この画像情報(書き込み画像)を手書き抽出部2に送る機能を有している。ここで撮像する書き込み画像は、たとえば仮想掲示板や仮想のり付き付箋紙(以下、「仮想付箋紙」と呼ぶ)等のように、所望の空間上に設定された実体のない仮想面上に仮想で手書きする様子、すなわち図3に示すように、使用者の指先F等を移動させることで仮想掲示板40に仮想の書き込みをしている動作を背景とともに撮像する。なお、手書きにより仮想の書き込みをする仮想面は、後述する絶対座標により規定されるため、位置が移動することはない。
手書き抽出部2は、画像入力部1で撮像した書き込み画像の入力を受け、画像処理により手書きの軌跡を抽出する機能を有している。この場合の画像処理は、書き込み画像に含まれる移動または変化しない背景画像と、手書きで移動する指先F等の軌跡画像とに分けて区別し、書き込み画像から手書きで入力した文字等の軌跡画像のみを手書き画像として抽出する。すなわち、手書き抽出部2は、入力された書き込み画像の画像処理を行うことにより、手書きの軌跡を抽出して書き込み内容の手書き画像を得るものである。
絶対座標検出部3は、手書き画像を書き込んだ位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報を検出する機能を有している。
第1システムW1の書き込み位置座標(絶対座標)は、複数のGPS衛星50から発信される電波を受信することにより、地球上における位置や移動方向等を全地球的測位システム(以下、「GPSシステム」と呼ぶ)を用いて検出される。また、第1システムW1の書き込み方向、すなわち書き込み時における第1システムW1の向き(上下左右方向)は、図示しないジャイロ等を用いた姿勢検出手段により検出される。この結果、第1システムW1で書き込んだ書き込み画像に関して、絶対座標及び書き込み方向を含む書き込み位置の情報を得ることができる。また、画像処理により第1システムW1と仮想面40との位置関係を把握できるので、書き込んだ仮想面40に関する書き込み位置の情報を得ることもできる。
第1システムW1の書き込み位置座標(絶対座標)は、複数のGPS衛星50から発信される電波を受信することにより、地球上における位置や移動方向等を全地球的測位システム(以下、「GPSシステム」と呼ぶ)を用いて検出される。また、第1システムW1の書き込み方向、すなわち書き込み時における第1システムW1の向き(上下左右方向)は、図示しないジャイロ等を用いた姿勢検出手段により検出される。この結果、第1システムW1で書き込んだ書き込み画像に関して、絶対座標及び書き込み方向を含む書き込み位置の情報を得ることができる。また、画像処理により第1システムW1と仮想面40との位置関係を把握できるので、書き込んだ仮想面40に関する書き込み位置の情報を得ることもできる。
画像記録部4は、たとえばフラッシュメモリ等の記憶媒体が用いられ、手書き抽出部2で抽出した手書き画像を絶対座標検出部3で検出した書き込み位置の情報と関連づけして記憶する機能を有している。すなわち、手書きの内容を抽出した手書き画像は、書き込みモードで新たに手書き入力を行うたびに、実際に手書きした書き込み位置の情報と関連づけした一対の書き込み情報として画像記録部4に記憶される。
通信部5は、手書き画像、書き込み位置の情報及び読み出し位置の情報を送受信する機能を有している。図示の例では、第1システムW1から第nシステムWnまで複数の表示システムが存在し、各表示システム間は基地局60を介して情報の送受信を行うことが可能とされる。すなわち、書き込み情報を他の表示システムへ送信するとともに、他の表示システムから書き込み情報を受信することができる。なお、たとえば事業所内のように比較的狭い範囲内で使用する場合には、トランシーバーのように表示システム間で直接送受信するようにして、基地局60をなくすことも可能である。
画像表示部20は、書き込みモードにおいては、手書き抽出部2で抽出した手書き中の書き込み画像を表示し、さらに、表示モードにおいては、画像記録部4に記録した書き込み画像(他の表示システムから受信した書き込み画像を含む)を表示する機能を有している。この画像表示部20は、たとえば液晶表示パネル(LCD)や有機EL表示パネル等のいわゆる薄型ディスプレイが用いられる。なお、画像表示部20は、図示しないヒンジ等を用い、本体11に対して揺動自在に軸支されている。
コンバイナー30は、画像表示部20からの光、すなわち画像表示部20の表示面21(図4参照)に表示される画像の光を反射するとともに、使用者の視線方向の実視野からの光を透過する半透過型光学素子である。換言すれば、コンバイナー30は、少なくとも1面に自由曲面(3次元非球面)を有し、実視野となる外界像(実像)を透過するとともに、画像表示部20の表示面21に表示された手書き軌跡画像の電子画像を光学的に虚像として投影し、外界像の実像に電子画像の虚像を重畳的に表示する半透過型光学素子である。
ここで、図4に基づいてコンバイナー30の構成を具体的に説明する。
このコンバイナー30は、格納状態で表示面21と対向する面に凹曲面状の反射面31を有する部材であって、使用時には、この反射面31と表示面21とが略対向し、かつ、本体11とともに略Z字状を形成するように開かれている。この使用状態では、本体11を貫通する開口部11aを通じて画像表示部20の表示面21から斜め前方へ向けて手書き画像(電子画像)の光が出され、この光(手書き画像の電子画像)は、反射面31によって本体11の後端部側(使用者の頭部側)へ向けて反射される。
このコンバイナー30は、格納状態で表示面21と対向する面に凹曲面状の反射面31を有する部材であって、使用時には、この反射面31と表示面21とが略対向し、かつ、本体11とともに略Z字状を形成するように開かれている。この使用状態では、本体11を貫通する開口部11aを通じて画像表示部20の表示面21から斜め前方へ向けて手書き画像(電子画像)の光が出され、この光(手書き画像の電子画像)は、反射面31によって本体11の後端部側(使用者の頭部側)へ向けて反射される。
この反射面31は凹面鏡として機能するため、本体11の後端部側となる側面を使用者の頭側部に押し当てた使用状態では、コンバイナー30の前方に、すなわち、使用者から見てコンバイナー30よりも遠方に、手書き画像の虚像が結像して表示される。
また、コンバイナー30において、反射面31が形成される領域は、使用者の実視界からの光を透過させる構成とされるため、使用者は、コンバイナー30を通して視線方向遠方に背景を実像として視認できるようになっている。
また、コンバイナー30において、反射面31が形成される領域は、使用者の実視界からの光を透過させる構成とされるため、使用者は、コンバイナー30を通して視線方向遠方に背景を実像として視認できるようになっている。
本実施形態では、コンバイナー30は、アクリルやポリカーボネート等の透明な材質からなる略長方形の曲面板状部材であって、その片面側に形成された金属膜等の反射層がハーフミラーとして機能する。この反射層の表面が、画像表示部20の表示面21から入射した手書き軌跡画像等の光線を表面で反射させる反射面31となる。
なお、コンバイナー30は、図示しないヒンジ等を用い、本体11に対して揺動自在に軸支されている。
なお、コンバイナー30は、図示しないヒンジ等を用い、本体11に対して揺動自在に軸支されている。
次に、上述した構成の空間手書き用携帯情報端末10について、その作用と、操作及び動作の手順を図2のフローチャートに基づいて説明する。
ステップS1で端末装置10の操作を開始すると、続くステップS2では図示しないスイッチ操作により操作モードの選択を実施する。最初の使用では、書き込みモードを選択するため、ステップS3では「YES」に進んだ後、ステップS4で書き込み画像の入力を実施する。なお、以下の説明では、1または複数の仮想面として仮想掲示板40が予め定められた位置にあるものとする。
ステップS1で端末装置10の操作を開始すると、続くステップS2では図示しないスイッチ操作により操作モードの選択を実施する。最初の使用では、書き込みモードを選択するため、ステップS3では「YES」に進んだ後、ステップS4で書き込み画像の入力を実施する。なお、以下の説明では、1または複数の仮想面として仮想掲示板40が予め定められた位置にあるものとする。
書き込み画像の入力は、たとえば図3(a)に示すように、指先Fや適当な筆記具等による手書きで仮想の書き込みを行う様子が、画像入力部1で背景とともに撮像されることにより実施される。図示の例では、選択した仮想掲示板40に「ABC」のような仮想の文字を指先Fで手書きしているが、この動作による指先Fの移動が手書きの軌跡として、背景ととともに撮像される。このような文字を書き込む手書きの軌跡及び背景は、コンバイナー30を通して使用者の目により実像として見ることができる。なお、上述した書き込みの文字は、実際には全く存在しない仮想の文字である。
続くステップS5では、手書き抽出部2で画像処理により手書きの抽出を実施する。すなわち、ステップS4で入力した書き込み画像について、所定の画像処理により背景画像から手書きの軌跡を抽出する。この場合の画像処理は、たとえば書き込み画像に含まれる移動または変化しない背景画像と、手書きの動作で移動する軌跡画像とに分けて区別し、一方の軌跡画像が手書きで入力した文字等の手書き画像として抽出され、同時に画像表示部20に表示される。
画像表示部20に表示された手書き画像は、第1システムW1の使用者がコンバイナー30を通して、仮想掲示板40に重畳された虚像として見ることができる。すなわち、使用者は、図3(b)に示すように、仮想掲示板40に書き込まれていく文字「ABC」の虚像を見て、実際に入力される書き込み内容を確認しながら書き込みを継続して行うことができる。なお、図中に示す書き込み「VWXYZ」は、他の端末による書き込みを受信して表示した例を示している。
画像表示部20に表示された手書き画像は、第1システムW1の使用者がコンバイナー30を通して、仮想掲示板40に重畳された虚像として見ることができる。すなわち、使用者は、図3(b)に示すように、仮想掲示板40に書き込まれていく文字「ABC」の虚像を見て、実際に入力される書き込み内容を確認しながら書き込みを継続して行うことができる。なお、図中に示す書き込み「VWXYZ」は、他の端末による書き込みを受信して表示した例を示している。
ステップS5で抽出及び表示された手書き画像は、次のステップS6において、絶対座標検出部3で書き込み位置の絶対座標及び書き込み方向を検出する。すなわち、地球上における書き込み位置の絶対座標をGPSシステムで検出し、さらに、検出した絶対座標においてどの方向を向いて書き込みをしているかをジャイロ等で検出し、これらの位置情報を書き込み位置情報とする。このとき、書き込み位置情報と書き込み画像との関係から、仮想掲示板40の書き込み位置に関する情報を得ることもできる。
ステップS5及びステップS6で検出された手書き画像及び書き込み位置情報は、次のステップS7において、互いを関連づけした一対の書き込み情報として通信部5から基地局60を介して他の端末へ送信される。また、これらの書き込み情報は、同時にステップS8において画像記録部4にも記録して保存される。
この結果、仮想掲示板40に書き込みをして記録するという書き込みモードは終了する(ステップS9)が、同様に他の仮想掲示板等に書き込みを続ける場合は上述したステップS2に戻り、以下同様の操作を繰り返して書き込み情報(手書き画像及び書き込み位置情報)を順次画像記録部4に記録する。
なお、上述した実施形態の説明では、各表示システムW1〜Wnが画像記録部4をそれぞれ保有しているものとしたが、基地局60に画像記録部を設けて全表示システムの書き込み情報を一括管理したり、あるいは、各表示システム及び基地局60の両方で保存するようにしてもよい。
この結果、仮想掲示板40に書き込みをして記録するという書き込みモードは終了する(ステップS9)が、同様に他の仮想掲示板等に書き込みを続ける場合は上述したステップS2に戻り、以下同様の操作を繰り返して書き込み情報(手書き画像及び書き込み位置情報)を順次画像記録部4に記録する。
なお、上述した実施形態の説明では、各表示システムW1〜Wnが画像記録部4をそれぞれ保有しているものとしたが、基地局60に画像記録部を設けて全表示システムの書き込み情報を一括管理したり、あるいは、各表示システム及び基地局60の両方で保存するようにしてもよい。
一方、上述した操作で記録した手書き画像を表示して読み出す場合、たとえば第2システムW2の使用者が読み出す場合には、所定の仮想掲示板40が設けられた場所において、ステップS3で「NO」に進んだ後、ステップS11に進んで絶対座標検出部3により読み出し位置の情報を検出する。ここで検出する読み出し位置の情報は絶対座標及び読み出し方向である。すなわち、地球上における読み出し位置の絶対座標をGPSシステムで検出し、さらに、検出した絶対座標においてどの方向を向いて読み出しをしているかをジャイロ等で検出し、これらの位置情報を読み込み位置情報とする。
次のステップS12では、通信部S12の通信により、検出した読み出し位置の情報と一致する書き込み位置の情報に対応している手書き画像を受信する。この手書き画像は、次のステップS13で画像記録部4に記録された後に、あるいは直接、画像表示部20に表示される。
従って、第2システムW2の使用者は、コンバイナー30を通して、画像表示部20に表示された手書き画像を仮想掲示板40に重畳された虚像を見て読み出すことができる。すなわち、書き込みモードで書き込んだ書き込み内容の虚像が、仮想掲示板40に重畳して表示されるので、書き込みをした使用者と同様に他の使用者も同様の書き込みを読み出すことが可能になる。
従って、第2システムW2の使用者は、コンバイナー30を通して、画像表示部20に表示された手書き画像を仮想掲示板40に重畳された虚像を見て読み出すことができる。すなわち、書き込みモードで書き込んだ書き込み内容の虚像が、仮想掲示板40に重畳して表示されるので、書き込みをした使用者と同様に他の使用者も同様の書き込みを読み出すことが可能になる。
この結果、仮想掲示板40の書き込みを読み出すという表示モードは終了する(ステップS14)が、同様に他の仮想掲示板等の読み出しを続ける場合は上述したステップS2に戻り、以下同様の操作を繰り返すことにより、各仮想掲示板に書き込まれた書き込み画像を読み出すことができる。
また、書き込み画像を読み出した後、同じ仮想掲示板40に新たな書き込みを追加する場合には、やはり上述したステップS2に戻って操作モードの切替操作を行い、以下上述した書き込みモードを実施すればよい。
また、書き込み画像を読み出した後、同じ仮想掲示板40に新たな書き込みを追加する場合には、やはり上述したステップS2に戻って操作モードの切替操作を行い、以下上述した書き込みモードを実施すればよい。
続いて、上述した構成の空間手書き用携帯情報端末10について、その具体的使用例に係る第2の実施形態を図5に示して説明する。
この実施形態では、たとえばパーソナルコンピュータのディスプレイ70の周囲に配置した仮想付箋紙71に対して、仮想の書き込みを行う場合の使用例を示している。この使用例でも、絶対座標や書き込み方向により規定される仮想付箋紙71に対し、端末装置10を使用して仮想の書き込み及び読み出しを行うとともに、他の端末装置の使用者も同様の書き込み内容を読み出したり、あるいは、新たな仮想付箋紙71に書き込んで貼り付けることも可能である。
このような使用例によれば、実際のディスプレイ70には実在して目に見える仮想付箋紙が貼られるようなことはなく、従って、必要時に端末装置10を使用して書き込み及び読み出しをすることでメモの用途を確保し、しかもすっきりとした作業環境を提供することができる。
この実施形態では、たとえばパーソナルコンピュータのディスプレイ70の周囲に配置した仮想付箋紙71に対して、仮想の書き込みを行う場合の使用例を示している。この使用例でも、絶対座標や書き込み方向により規定される仮想付箋紙71に対し、端末装置10を使用して仮想の書き込み及び読み出しを行うとともに、他の端末装置の使用者も同様の書き込み内容を読み出したり、あるいは、新たな仮想付箋紙71に書き込んで貼り付けることも可能である。
このような使用例によれば、実際のディスプレイ70には実在して目に見える仮想付箋紙が貼られるようなことはなく、従って、必要時に端末装置10を使用して書き込み及び読み出しをすることでメモの用途を確保し、しかもすっきりとした作業環境を提供することができる。
また、各端末装置毎に個別の認証番号を付与し、たとえば認証番号毎に読み出し許可を与えるような管理をすれば、仮想面に対する書き込みの内容に応じて、特定の個人やグループ内だけで情報を共有することも可能になる。
また、上述した実施形態では、仮想の枠で囲った仮想掲示板40や仮想付箋紙71としたが、仮想枠のない仮想面に書き込むようにしてもよい。
また、上述した実施形態では、仮想の枠で囲った仮想掲示板40や仮想付箋紙71としたが、仮想枠のない仮想面に書き込むようにしてもよい。
上述したように、本発明の手書き画像表示システムによれば、この表示システムを備えた端末装置10の使用者が所望の空間上に設定した仮想掲示板40や仮想付箋紙71のような仮想面に対して指先F等による仮想的な手書き入力の書き込みを行い、この書き込み内容を書き込み位置の情報とともに通信部5により送受信することで端末装置10の所有者が共有すれば、読み出し時においては、書き込み位置の情報と読み出し位置の情報とが一致する空間上の仮想面に書き込み内容を表示して複数の装置保持者が互いに読み出ししたり、あるいは、同じ仮想面に新たな書き込みを行うことも可能になる。従って、実体がなく絶対座標で規定されて移動しない仮想面に手書きで仮想の書き込みを行い、同仮想面の書き込み情報を端末装置10の所有者間で互いに共有することが可能になる。
また、このような手書き画像表示システムは、携帯電話機、デジタルカメラ及びPDA等の携帯情報端末機器類に組み込んで一体化した端末装置10とすれば、使用者は端末装置10を常時携帯して必要時に書き込み及び読み出しを容易に行うことができるようになり、多機能で利便性の高い装置を提供することができる。特に、広範な通信網に接続可能な通信機能を予め備えている携帯電話機等に組み込めば、多様な用途が期待できる。
なお、本発明は上述した実施形態に限定されるものではなく、たとえば手書き画像表示システムを携帯情報端末機器類に組み込まないでシステム単独の機能を有する装置とするなど、本発明の要旨を逸脱しない範囲内において適宜変更することができる。
なお、本発明は上述した実施形態に限定されるものではなく、たとえば手書き画像表示システムを携帯情報端末機器類に組み込まないでシステム単独の機能を有する装置とするなど、本発明の要旨を逸脱しない範囲内において適宜変更することができる。
1 画像入力部
2 手書き抽出部
3 絶対座標検出部
4 画像記録部
5 通信部
10 空間手書き用携帯情報端末(端末装置)
11 本体
12 撮影レンズ
20 画像表示部
21 表示面
30 コンバイナー
31 反射面
40 仮想掲示板(仮想面)
71 仮想付箋紙(仮想面)
2 手書き抽出部
3 絶対座標検出部
4 画像記録部
5 通信部
10 空間手書き用携帯情報端末(端末装置)
11 本体
12 撮影レンズ
20 画像表示部
21 表示面
30 コンバイナー
31 反射面
40 仮想掲示板(仮想面)
71 仮想付箋紙(仮想面)
Claims (2)
- 所望の空間に設定した仮想面に手書きで書き込む様子を撮像した書き込み画像を入力する画像入力手段と、
前記書き込み画像から画像処理により手書きの軌跡を抽出して手書き画像を得る手書き抽出手段と、
前記手書き画像の書き込みを行う位置に関する絶対座標及び書き込み方向を含む書き込み位置の情報と、前記手書き画像の読み出しを行う位置に関する絶対座標及び読み出し方向を含む読み出し位置の情報とを検出する座標検出手段と、
前記手書き画像を前記書き込み位置の情報とともに記録する画像記録手段と、
前記手書き画像、前記書き込み位置の情報及び前記読み出し位置の情報を送受信する通信手段と、
前記手書き画像を表示する画像表示手段及び該画像表示手段からの光を反射するとともに使用者の視線方向の実視野からの光を透過する半透過型光学素子を少なくとも有する手書き画像表示装置とを備え、
前記手書き画像表示装置の使用者から見て前記半透過型光学素子よりも前方の実視野に前記画像表示手段が表示する手書き画像の虚像を重畳して表示することを特徴とする手書き画像表示システム。 - 請求項1に記載の手書き画像表示システムが一体化して組み込まれていることを特徴とする空間手書き用携帯情報端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004340169A JP2006154902A (ja) | 2004-11-25 | 2004-11-25 | 手書き画像表示システム及び空間手書き用携帯情報端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004340169A JP2006154902A (ja) | 2004-11-25 | 2004-11-25 | 手書き画像表示システム及び空間手書き用携帯情報端末 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006154902A true JP2006154902A (ja) | 2006-06-15 |
Family
ID=36633179
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004340169A Pending JP2006154902A (ja) | 2004-11-25 | 2004-11-25 | 手書き画像表示システム及び空間手書き用携帯情報端末 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006154902A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008071298A (ja) * | 2006-09-15 | 2008-03-27 | Ntt Docomo Inc | 空間掲示板システム |
WO2010122859A1 (ja) * | 2009-04-23 | 2010-10-28 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
JP2010257359A (ja) * | 2009-04-28 | 2010-11-11 | Sony Corp | 情報処理装置、および情報処理方法、並びにプログラム |
WO2011010533A1 (ja) * | 2009-07-21 | 2011-01-27 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
JP2013168167A (ja) * | 2013-04-11 | 2013-08-29 | Sony Corp | 情報処理装置、および情報処理方法、並びに情報記録媒体 |
WO2014080829A1 (ja) * | 2012-11-22 | 2014-05-30 | シャープ株式会社 | データ入力装置 |
US9007401B1 (en) | 2014-02-20 | 2015-04-14 | Lg Electronics Inc. | Head mounted display and method for controlling the same |
JP6656477B1 (ja) * | 2018-12-07 | 2020-03-04 | 三菱電機株式会社 | 入力表示制御装置、入力表示制御方法及び入力表示システム |
-
2004
- 2004-11-25 JP JP2004340169A patent/JP2006154902A/ja active Pending
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8499234B2 (en) | 2006-09-15 | 2013-07-30 | Ntt Docomo, Inc. | System for communication through spatial bulletin board |
JP2008071298A (ja) * | 2006-09-15 | 2008-03-27 | Ntt Docomo Inc | 空間掲示板システム |
EP2423789A4 (en) * | 2009-04-23 | 2014-12-03 | Sony Corp | INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM |
EP2423789A1 (en) * | 2009-04-23 | 2012-02-29 | Sony Corporation | Information processing device, information processing method, and program |
CN102395948A (zh) * | 2009-04-23 | 2012-03-28 | 索尼公司 | 信息处理设备、信息处理方法以及程序 |
US8994721B2 (en) | 2009-04-23 | 2015-03-31 | Sony Corporation | Information processing apparatus, information processing method, and program for extending or expanding a viewing area of content displayed on a 2D workspace into a 3D virtual display screen |
JP2010257123A (ja) * | 2009-04-23 | 2010-11-11 | Sony Corp | 情報処理装置、および情報処理方法、並びにプログラム |
RU2536363C2 (ru) * | 2009-04-23 | 2014-12-20 | Сони Корпорейшн | Устройство обработки информации, способ обработки информации и программа |
WO2010122859A1 (ja) * | 2009-04-23 | 2010-10-28 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
JP2010257359A (ja) * | 2009-04-28 | 2010-11-11 | Sony Corp | 情報処理装置、および情報処理方法、並びにプログラム |
US9772683B2 (en) | 2009-04-28 | 2017-09-26 | Sony Corporation | Information processing apparatus to process observable virtual objects |
US8751969B2 (en) | 2009-07-21 | 2014-06-10 | Sony Corporation | Information processor, processing method and program for displaying a virtual image |
CN102473068A (zh) * | 2009-07-21 | 2012-05-23 | 索尼公司 | 信息处理器、处理方法和程序 |
WO2011010533A1 (ja) * | 2009-07-21 | 2011-01-27 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
WO2014080829A1 (ja) * | 2012-11-22 | 2014-05-30 | シャープ株式会社 | データ入力装置 |
JP2013168167A (ja) * | 2013-04-11 | 2013-08-29 | Sony Corp | 情報処理装置、および情報処理方法、並びに情報記録媒体 |
US9007401B1 (en) | 2014-02-20 | 2015-04-14 | Lg Electronics Inc. | Head mounted display and method for controlling the same |
WO2015126006A1 (en) * | 2014-02-20 | 2015-08-27 | Lg Electronics Inc. | Head mounted display and method for controlling the same |
JP6656477B1 (ja) * | 2018-12-07 | 2020-03-04 | 三菱電機株式会社 | 入力表示制御装置、入力表示制御方法及び入力表示システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9583032B2 (en) | Navigating content using a physical object | |
US10070030B2 (en) | Apparatus and method to maximize the display area of a mobile device | |
US9998642B2 (en) | Apparatus and method to maximize the display area of a mobile device | |
CN105718187B (zh) | 移动终端及控制移动终端的内容的方法 | |
US10757335B2 (en) | Mobile terminal | |
KR102292985B1 (ko) | 이동 단말기 및 그 제어방법 | |
EP3011418B1 (en) | Virtual object orientation and visualization | |
KR102223282B1 (ko) | 스마트 줄자를 구비한 이동 단말기 및 그의 물체 길이 측정 방법 | |
KR102339178B1 (ko) | 이동단말기 및 그 제어방법 | |
JP4902765B2 (ja) | 情報処理システム及び情報処理方法 | |
KR101661969B1 (ko) | 휴대 단말기 및 그 동작 제어방법 | |
US9756171B2 (en) | Mobile terminal and control method therefor | |
CN106572303A (zh) | 一种图片处理方法及终端 | |
CN104461277A (zh) | 移动终端及其控制方法 | |
US20110242103A1 (en) | Mobile terminal and method for displaying image of mobile terminal | |
KR20150044295A (ko) | 이동 단말기 및 그것의 제어 방법 | |
US10803988B2 (en) | Color analysis and control using a transparent display screen on a mobile device with non-transparent, bendable display screen or multiple display screen with 3D sensor for telemedicine diagnosis and treatment | |
CN106796485B (zh) | 移动终端及其控制方法 | |
CN102467236A (zh) | 指示受理装置和指示受理方法 | |
KR102223281B1 (ko) | 이동단말기 및 그 제어방법 | |
CN112396076A (zh) | 车牌图像生成方法、装置及计算机存储介质 | |
CN114648623A (zh) | 信息处理装置、信息处理方法以及计算机可读介质 | |
JP2006154902A (ja) | 手書き画像表示システム及び空間手書き用携帯情報端末 | |
US20150062291A1 (en) | Mobile terminal and control method therof | |
US11558711B2 (en) | Precision 6-DoF tracking for wearable devices |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071113 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090428 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20091104 |