JP7004057B1 - コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム - Google Patents

コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム Download PDF

Info

Publication number
JP7004057B1
JP7004057B1 JP2020213957A JP2020213957A JP7004057B1 JP 7004057 B1 JP7004057 B1 JP 7004057B1 JP 2020213957 A JP2020213957 A JP 2020213957A JP 2020213957 A JP2020213957 A JP 2020213957A JP 7004057 B1 JP7004057 B1 JP 7004057B1
Authority
JP
Japan
Prior art keywords
image
data
display
size
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020213957A
Other languages
English (en)
Other versions
JP2022099893A (ja
Inventor
太 國吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Proterial Ltd
Original Assignee
Hitachi Metals Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Metals Ltd filed Critical Hitachi Metals Ltd
Priority to JP2020213957A priority Critical patent/JP7004057B1/ja
Application granted granted Critical
Publication of JP7004057B1 publication Critical patent/JP7004057B1/ja
Publication of JP2022099893A publication Critical patent/JP2022099893A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】対象物を実物大で把握できるように表示制御するコンピュータプログラム、情報表示方法、情報表示装置及び情報表示システムを提供する。【解決手段】コンピュータプログラムは、表示装置と接続されるコンピュータに、対象物の画像を取得し、前記対象物のサイズに関するサイズデータを取得し、前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成する処理を実行させる。【選択図】図1

Description

本発明は、対象物を実物大で把握できるように表示制御するコンピュータプログラム、情報表示方法、情報表示装置及び情報表示システムに関する。
人又は物の大きさを反映して実物大で表示装置に表示させる方法について種々の提案がある。特許文献1には、画像データ(イメージファイル)に予め、寸法又は縮尺のデータを対応付けておき、その画像データに基づいて表示装置に画像を表示するに際しそのデータを参照し、表示装置の解像度に基づいて実物大で表示することが開示されている。
特許文献2には、プロジェクタで実物大で投影する画像に写る対象物の実寸を画像から算出し、画像内における前記被写体である対象物の大きさ及び投影距離に基づいて画像の拡縮比率を算出することが開示されている。特許文献2では、投影する画像を、対象物までの距離を測定する距離センサを用いて撮影された画像とし、その範囲の大きさと、撮像された画像の実寸が算出されている。
特開2003-122552号公報 特開2018-180125号公報
特許文献1に開示されているように、実物大で画像を表示する際に必要なデータを予め対応付けて保存しておくことで実物大で表示することができる。特許文献2に開示されているように、必要なデータとして対象物までの距離センサつきのカメラで撮影した距離データ付きの画像データに限定すれば、実物大で表示することが可能である。
しかしながら、実寸大で表示させる目的で撮影されていない、不特定多数向けに公開されている画像データ、共有目的の画像データに対して、予め、実物大で表示するために必要なデータを対応付けておくことは不可能である。
本発明は、対象物を実物大で把握できるように表示制御するコンピュータプログラム、情報表示方法、情報表示装置及び情報表示システムを提供することを目的とする。
本開示の一実施形態のコンピュータプログラムは、表示装置と接続されるコンピュータに、対象物の画像を取得し、前記対象物のサイズに関するサイズデータを取得し、前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成する処理を実行させる。
本開示の一実施形態の情報表示方法は、表示装置と接続されるコンピュータが、対象物の画像を取得し、前記対象物のサイズに関するサイズデータを取得し、前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成する処理を含む。
本開示の一実施形態の情報表示装置は、対象物の画像を取得する画像取得部と、前記対象物のサイズに関するサイズデータを取得するサイズ取得部と、前記サイズデータに基づき、前記画像を表示させる際の指示データを作成する作成部と、前記画像を前記指示データに基づいて前記対象物を実物大で表示する表示部とを備える。
本開示の一実施形態の情報表示システムは、表示装置と、該表示装置とデータの送受信が可能な表示制御装置とを含み、前記表示制御装置は、対象物の画像を取得し、取得した画像に写る対象物のサイズに関するサイズデータを取得し、前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成し、前記画像及び前記指示データを前記表示装置へ送信する。
本開示のコンピュータプログラム、情報表示方法、情報表示装置、及び情報表示システムでは、対象物のサイズを特定するためのサイズデータが取得され、サイズに関するサイズデータから、画像内の対象物が実物大で表示されるように指示データが作成される。対象物の画像に予め、撮影時の距離データや、寸法のデータが対応付けられていなくても、実寸で表示させるための指示データが作成できる。サイズデータは、対象物を特定するデータ(品番、識別コード)から取得されるか、対象物を掲載するWebデータ、又は、同一若しくは関連画像内から、あるいはユーザの操作に基づいて取得される。
本開示の一実施形態のコンピュータプログラムは、前記画像は、前記対象物1つに対して複数の画像を含み、前記コンピュータに、前記複数の画像に基づく指示データを各々作成する処理を実行させる。
本開示のコンピュータプログラムでは、対象物1つに対して複数の画像が取得され、それらの複数の画像夫々に対し、実寸で表示するための指示データが作成されてもよい。
本開示の一実施形態のコンピュータプログラムは、前記コンピュータに、前記複数の画像のいずれを表示させるかの選択を受け付け、選択された画像及び該画像の前記指示データを前記表示装置へ出力する処理を実行させる。
本開示のコンピュータプログラムでは、対象物に対して複数の画像を実寸大で表示できる場合、別途、いずれの画像を表示させるかの選択を、コンピュータで受け付けてもよい。
本開示の一実施形態のコンピュータプログラムは、前記画像は、対象物のイラスト、ポンチ絵、又は図面のデジタル画像であり、前記コンピュータに、前記サイズデータを、前記イラスト、ポンチ絵又は図面の中の寸法を示す数値から取得する処理を実行させる。
本開示のコンピュータプログラムでは、対象物のイラスト、ポンチ絵、又は図面が対象物の画像として取得された場合、そのイラスト、ポンチ絵、又は図面内に書き込まれている寸法を示す数字(数値)からサイズデータが取得されてもよい。イラスト、ポンチ絵、又は図面に基づいて対象物を実寸大で表示させることも可能である。
本開示の一実施形態のコンピュータプログラムは、前記画像は、前記対象物の電子商取引に係るWebページにおける商品画像であり、前記コンピュータに、前記サイズデータを、前記Webページから取得する処理を実行させる。
本開示のコンピュータプログラムでは、対象物の電子商取引に係るWebページにおける商品画像が対象物の画像として取得された場合には、そのWebページに記載されている対象物の寸法を示すデータがサイズデータとして取得されてもよい。Webページに記載されている情報から、寸法を示すデータであるか否かの判定は、学習によって得られてもよい。
本開示の一実施形態のコンピュータプログラムは、前記画像は、前記対象物を掲載するWebページ又はドキュメントデータにおける商品画像であり、前記コンピュータに、前記サイズデータを、前記Webページ又はドキュメントデータから取得する処理を実行させる。
本開示のコンピュータプログラムでは、対象物のメーカの商品Webページ又はドキュメントデータにおける商品画像が対象物の画像として取得された場合には、そのWebページ又はPDF 等のドキュメントデータに記載されている寸法を示すデータがサイズデータとして取得されてもよい。ドキュメントデータに記載されている情報から、寸法を示すデータであるか否かの判定は、学習によって得られてもよい。
本開示の一実施形態のコンピュータプログラムは、前記サイズデータは、前記対象物の縦、横、高さ、奥行き、及び径の寸法の内の少なくとも1つであり、前記コンピュータに、取得したサイズデータから、取得した寸法以外の寸法を算出する処理を実行させる。
本開示のコンピュータプログラムでは、サイズデータは、対象物の縦、横、高さ、奥行き、及び径の寸法の内の少なくとも1つであってもよい。コンピュータは、いずれか1つ及び画像から、他の寸法を推測算出することが可能である。
本開示の一実施形態のコンピュータプログラムは、前記コンピュータに、対象物を識別する識別情報に対応付けて、前記対象物の画像及び該画像を前記表示装置に表示させる際の指示データを記憶し、複数の対象物の画像を、各々の指示データに基づいて並列に前記表示装置に表示させる処理を実行させる。
本開示のコンピュータプログラムでは、異なる対象物の指示データを各々作成して記憶しておき、異なる対象物を実寸大で並べて表示装置に表示させることを可能とする。
本開示の一実施形態のコンピュータプログラムは、前記画像は、動画のフレーム画像であり、前記コンピュータに、前記フレーム画像それぞれに対して前記指示データを作成する処理を実行させる。
画像は動画のフレーム画像であって、フレーム画像夫々に対して指示データを作成することで実寸大で動画像を表示装置に表示させることも可能である。
本開示の一実施形態のコンピュータプログラムは、前記表示装置は、投影面へ画像を投影する投影装置であり、前記コンピュータに、前記投影装置に搭載されている投影部から前記投影面までの距離を測定するセンサから、測定された距離を取得し、取得した距離、及び前記サイズデータに基づき、前記投影装置によって前記画像を投影させる際の指示データを作成する処理を実行させる。
表示装置が投影装置である場合、投影装置で測定される投影面までの距離に基づいて、実寸大で表示するための指示データが作成される。投影装置に指示データを出力することによって、コンピュータで選択した画像を実寸大で投影装置から投影させることが可能である。
本開示の一実施形態のコンピュータプログラムは、前記表示装置は、カメラを備え、前記コンピュータに、前記カメラで撮影する撮影画像内の物の寸法を取得し、取得した寸法及び前記サイズデータに基づき、前記カメラで撮影している画像における前記対象物の大きさを決定し、前記表示装置に、前記カメラで撮影する撮影画像に、決定した大きさで前記対象物の画像を重畳させた画像を表示させる指示データを作成する処理を実行させる。
表示装置はカメラを備え、そのカメラで撮影した撮影画像を表示する表示装置であってもよい。カメラで撮影する撮影画像に写っている物体の寸法を求めることができれば、撮影画像に、コンピュータで選択した画像をその画像内での実寸大で重畳表示させた拡張現実(AR)表示が可能となる。
本開示の一実施形態のコンピュータプログラムは、前記表示装置は、三次元画像を表示する立体表示装置であり、前記コンピュータに、前記画像の三次元画像データを作成し、作成された前記三次元画像データに基づき前記表示装置に三次元画像を表示させる処理を実行させる。
表示装置は、三次元画像を表示することが可能な表示装置であってもよい。対象物の画像に基づいて三次元画像を作成し、しかも実寸大で表示装置に表示させることも可能である。
本開示によれば、対象物の電子商取引のためのWebデータ、対象物の情報共有のための写真入りのドキュメントデータ等、対象物の品番等に基づいて寸法を特定できるデータから、実物大で表示するためのデータを作成できる。本開示のコンピュータプログラムを用いることによって、汎用的な表示装置、又はプロジェクタで実物大表示することが可能になる。
第1の実施形態における表示制御システムの概要図である。 第1の実施形態の表示制御システムの各装置の構成を示すブロック図である。 表示制御装置の表示制御に係る処理手順の一例を示すフローチャートである。 表示制御装置の表示制御に係る処理手順の一例を示すフローチャートである。 操作画面の一例を示す図である。 操作画面の一例を示す図である。 操作画面の他の一例を示す図である。 操作画面の一例を示す図である。 操作画面の他の一例を示す図である。 操作画面の他の一例を示す図である。 操作画面の一例を示す図である。 操作画面の一例を示す図である。 操作画面の他の一例を示す図である。 操作画面の一例を示す図である。 操作画面の一例を示す図である。 表示装置での表示例を示す図である。 表示装置での表示例を示す図である。 変形例における表示制御に係る処理手順の一例を示すフローチャートである。 変形例における表示制御に係る処理手順の一例を示すフローチャートである。 複数の対象物に対応する操作画面の一例を示す図である。 複数の対象物に対応する操作画面の一例を示す図である。 複数の対象物に対応する操作画面の一例を示す図である。 複数の対象物に対応する操作画面の一例を示す図である。 表示装置での表示例を示す図である。 第2の実施形態における表示制御装置による表示制御処理の一例を示すフローチャートである。 第2の実施形態における操作画面及び画像の表示例を示す図である。 第3の実施形態における表示制御装置の構成を示すブロック図である。 第3の実施形態における表示制御装置による表示制御の処理手順の一例を示すフローチャートである。 第3の実施形態の操作画面の一例を示す図である。 第3の実施形態の操作画面の一例を示す図である。 第4の実施形態における表示制御システムの構成を示すブロック図である。 第4の実施形態における表示制御処理手順の一例を示すフローチャートである。
本開示をその実施の形態を示す図面を参照して具体的に説明する。
(第1の実施形態)
図1は、第1の実施形態における表示制御システム100の概要図である。第1の実施形態における表示制御システム100は、プロジェクタ11及びスクリーン12である表示装置1と、表示装置1における画像表示を制御する表示制御装置2とを含む。表示装置1と表示制御装置2とは、例えば無線通信であるネットワークNを介してデータの送受信が可能である。
表示制御システム100では、表示制御装置2は、ユーザの操作を受け付け、ユーザが選択する対象物の画像を、表示装置1にて実物大で表示するように指示データを作成し、表示装置1へ画像データ及び指示データを送信する。
図2は、第1の実施形態の表示制御システム100の各装置の構成を示すブロック図である。第1の実施形態において表示装置1は、プロジェクタ(投影装置)11及びスクリーン12である。プロジェクタ11は、光源13、変調部14、光学系15、画像処理部16、通信部17、及びセンサ18を筐体に備える。
光源13は、レーザ、LED(Light Emitting Diode)、水銀ランプ等を用いる。変調部14は、液晶素子又はDMD(登録商標)を用い、光源13からの出射光を、画像処理部16から与えられる信号に基づいて変調して光学系15へ導く。光学系15は、複数のレンズで構成され、変調部14から入射した変調光を外部のスクリーン12へ投射する。画像処理部16は、与えられた画像データと、内部メモリに記憶された(又は与えられる)解像度等の設定データとに基づいて変調部14へ信号を出力する。
通信部17は、例えば無線LAN又は Bluetooth(登録商標)等の無線通信部である。通信部17はその他、シリアル通信部、USB(Universal Serial Bus)又はHDMI(High-Definition Multimedia Interface、登録商標)に対応する通信部であってもよい。
センサ18は、光学系15の出射部からスクリーン12までの距離を測定するセンサである。センサ18は光又は超音波を用いたTOF(Time Of Flight)センサを用いるとよい。
画像処理部16は、CPU(Central Processing Unit )及び/又はGPU(Graphics Processing Unit)を用いたプロセッサを有し、変調部14へ信号を出力して表示を制御する。画像処理部16は、通信部17を介して表示制御装置2と通信接続が可能である。画像処理部16は、通信部17を介して表示制御装置2から画像データ及び指示データを受信する。画像処理部16は、通信部17を介して表示制御装置2からの問い合わせに応じてセンサ18で得られた距離、及び内部メモリに記憶された設定データを表示制御装置2へ送信することが可能である。
表示装置1は、プロジェクタ11とスクリーン12の組み合わせによって立体表示が可能な表示デバイスであってもよい。
表示制御装置2は、例えばスマートフォン、タブレット端末のコンピュータである。表示制御装置2は、処理部20、記憶部21、通信部22、表示部23、及び操作部24を備える。
処理部20は、CPU及び/又はGPUを用いたプロセッサである。処理部20は、記憶部21に記憶されている表示制御プログラム2Pに基づき、表示部23に操作画面を表示して操作を受け付け、操作に基づいて画像を実物大で表示するための指示データを作成し、表示装置1へ送信する処理を実行する。
記憶部21は、例えばハードディスク、フラッシュメモリ、SSD(Solid State Drive)等の不揮発性メモリを用いる。記憶部21は、処理部20が参照するデータを記憶する。記憶部21は、表示制御プログラム1Pを記憶する。表示制御プログラム2Pは、記録媒体9に記憶してある表示制御プログラム9Pを処理部20が読み出して記憶部21に複製したものであってもよい。記憶部21は、表示制御プログラム2Pに基づいて取得した画像データ、表示装置1から取得する設定データ、作成する指示データ等を記憶する。
通信部22は、ネットワークNを介した表示装置1との通信を実現する。通信部22は、例えば無線LAN又は Bluetooth(登録商標)等の無線通信部である。通信部22は、シリアル通信部、USB又はHDMI対応の通信部であってもよい。処理部20は、通信部22によって表示装置1との間でデータを送受信する。
表示部23は、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ等のディスプレイである。表示部23は、操作画面を表示する。表示部23は、タッチパネル内蔵型ディスプレイであってもよい。
操作部24は、処理部20との間で入出力が可能なユーザインタフェースである。操作部24は例えば、表示部23に内蔵されるタッチパネルである。操作部24は、物理ボタンであってもよい。操作部24は、音声入力部であってもよい。操作部24は、ユーザによる操作データを処理部20へ通知する。
このような構成の表示装置1及び表示制御装置2において、表示制御装置2による制御により表示装置1に対象物の画像が実物大で表示される過程についてフローチャートを参照して説明する。
図3及び図4は、表示制御装置2の表示制御に係る処理手順の一例を示すフローチャートである。表示制御装置2は、表示制御プログラム2Pを起動すると、これに基づいて以下の処理を実行する。
処理部20は、表示制御プログラム2Pに基づいて表示部23に表示される操作画面で受け付ける情報から、表示対象物の画像データを取得する(ステップS101)。
ステップS101で表示される操作画面は、第1の実施形態では表示制御プログラム2P(アプリ)の画面である(図5参照)。操作画面は、Webブラウザ、又はドキュメントデータの表示プログラムの画面であってもよい。
ステップS101において、処理部20は、画像データそのもの( JPGデータ、 PNGデータ)の選択を受け付け、これを取得してもよい。処理部20は、Webページ、Web上でアクセス可能なドキュメントデータ、又は記憶部21内のフォルダへのリンク情報を受け付け、リンク情報によってアクセスしたページ又はドキュメントデータから画像を取得してもよい。
処理部20は、取得した画像データの画像を表示部23の操作画面上に表示し(ステップS102)、画像の選択又は確認の操作を受け付ける(ステップS103)。
ステップS101でリンク情報によって画像データを取得した場合、ステップS102で処理部20は、画像データが複数含まれているリンク先のWebページ又はドキュメントデータから、複数の画像を抽出し、操作画面上に識別可能に表示する。ステップS103で処理部20は、複数の画像を表示している場合、いずれかの選択を受け付ける。
処理部20は、選択された画像又は確認された画像の画像データに対し、その画像データを含むWebページ若しくはドキュメントデータから、又は、画像データ自体から、表示対象物のサイズデータを取得する(ステップS104)。処理部20は、サイズデータとして幅、高さ等の寸法の内のいずれか1つを取得してもよい。
ステップS104において処理部20は、画像データがWebページ内の画像である場合、Webページ内の寸法を示すテキストを検索して取得する。画像データがドキュメントデータ内である場合、ドキュメントデータ内の寸法を示すテキスト(「サイズ」、「size」、「梱包サイズ」、「幅」、「高さ」、「厚み」、「奥行」、「縦(たて)」、「横(よこ)」、「W」、「H」、「D」、等)を検索し、対応する数値を取得する。画像データ自体又は画像データを含むWebページ又はドキュメントデータに、表示対象物を特定する商品名、型番が含まれる場合、処理部20は、商品名、又は型番を利用してインターネット上で寸法を検索取得してもよい。
ステップS104において処理部20は、画像データが図面、イラスト、ポンチ絵である場合、画像データの画像に対して文字認識を実行し、寸法に対応する数値を認識する。処理部20は、画像内の一辺、径等を指し示している場合、指示されている箇所とその数値を認識することが好ましい。
処理部20は、取得したサイズデータに基づいて、対象物の実物大のサイズと、画像内の対応箇所とを決定する(ステップS105)。
ステップS105で処理部20は、例えば、「高さ」という寸法(数値)のみ1つを取得した場合、画像データの画像から、その他、サイズを特定するためのデータ(幅、奥行)を決定する。例えばステップS105において処理部20は、「高さ」の寸法を取得できた場合、対象物の画像が、斜視図であるか否かを判定する。処理部20は、斜視図でないと判定した場合には画像を対象物の正面図であるとして扱い、二次元画像内の対象物に対応する領域の縦方向の長さを「高さ」としたときの横方向の長さを「幅」と決定できる。斜視図であるか否かは、例えば処理部20は、画像データのキャプションから判定してもよいし、画像処理によって輪郭を認識し、画像における縦横の方向に対する輪郭の角度から判定してもよい。ステップS105の処理については図を参照して詳細を後述する。
処理部20は、表示させる表示装置1との接続操作(表示装置1での視聴開始)を受け付ける(ステップS106)。接続操作に応じて処理部20は、通信部22を介し、起動した表示装置1と通信接続をONとし(ステップS107)、表示装置1の解像度及びスクリーン12までの距離を含む表示環境データを取得する(ステップS108)。
ステップS107,S108において処理部20は、表示装置1の通信部17と無線通信によって接続すると、表示装置1の画像処理部16へ表示環境データのリクエストを送信する。表示装置1は、起動すると画像処理部16が通信部17によって通信部22と通信接続し、内部メモリに記憶されている解像度、投影距離(範囲)、明るさ等の表示環境データを表示制御装置2へ向けて送信する。表示装置1は、センサ18によってスクリーン12までの距離を測定して表示環境データに含める。
処理部20は、取得した表示環境データに基づき、表示装置1の変調部14における所定画素数分の長さとスクリーン12上の長さとの対応関係を算出する(ステップS109)。
処理部20は、表示対象物のサイズデータと表示環境データをもとに、画像を表示画面へ実寸で表示させるように画像を縮小、拡大させる指示データを作成し、画像処理部16に送信する(ステップS109~ステップS112)。具体的には、処理部20は、ステップS105で算出した対象物の実物大のサイズと、ステップS109で算出した画素数及びスクリーン12上の長さの対応関係に基づき、対象物の画像の拡縮率を算出する(ステップS110)。
処理部20は、ステップS110で算出した拡縮率で対象物の画像の画像データを変換した画像データを指示データとして作成し(ステップS111)、画像処理部16へ送信する(ステップS112)。
ステップS111において処理部20は、元の画像データと拡縮率のデータとを指示データとしてもよい。
指示データを受信する表示装置1は、指示データに基づいて画像処理部16にて投影を開始する。表示装置1の画像処理部16は、表示装置1の筐体が動かされることを前提として、センサ18で距離を測定している間、通信部17から距離データを継続して表示制御装置2へ送信する。
処理部20は、以後、画像表示の終了指示(表示装置1での視聴終了)を受け付けたか否かを判断する(ステップS113)。終了指示を受け付けないと判断された場合(S113:NO)、距離データを取得し、距離に変化がないか否かを判断する(ステップS114)。
距離に変化がないと判断された場合(S114:NO)、処理部20は、指示データの出力を継続し(ステップS115)、処理をステップS113へ戻す。
距離に変化があると判断された場合(S114:YES)、処理部20は処理をステップS109へ戻し、対応関係を算出し直して指示データを出力する。
ステップS113にて終了指示を受け付けたと判断された場合(S113:YES)、処理部20は表示装置1との通信接続をOFFとして(ステップS116)、処理を終了する。
図3及び図4のフローチャートに示した処理手順を、画面例及び表示例を参照して具体的に説明する。図5は、操作画面230の一例を示す図である。図5の操作画面230は、表示制御プログラム2Pを起動させた際に表示される画面である。操作画面230は、画像データを受け付けるボックスコントロール231を含む。ボックスコントロール231は、画像データを含むWebページのリンク情報を受け付ける。ボックスコントロール231の参照ボタン232をタップした場合、記憶部21に記憶してある画像データの一覧リストが表示される。Webブラウザ画面のメニュー画面上で、表示制御プログラム2Pでその閲覧中のページを開く、というアプリ連携がされてもよい。
図6は、操作画面230の一例を示す図である。図6の操作画面230は、図5の操作画面230において参照ボタン232のタップによって画像データを一覧から選択した場合の表示例である。図6の操作画面230では、処理部20が記憶部21から取得した画像データの画像233が表示されており、画像233を選択することが可能である。図6に示すように画像が1枚である場合も、これを選択することで実物大表示させる画像の選択が可能である。画像233を表示する操作画面230には、画像233を選択した後に表示処理へ進むためのボタン234が含まれている。画像233を選択したことを契機に次の処理へ進んでもよい。
図7は、操作画面230の他の一例を示す図である。図7の操作画面230は、図5の操作画面230においてボックスコントロール231に、対象物(図7の例ではラップトップ型パーソナルコンピュータ)の商取引Webページ、又は製品情報Webページのリンク情報が入力された場合の表示例である。Webページに限らず、Web上に公開されているドキュメントデータ(例えばpdfファイル、プレゼン資料)であってもよい。記憶部21に記憶されているドキュメントデータであってもよい。
図7の操作画面230では、リンク情報に基づいて処理部20が取得した画像データの複数の画像233が表示されており、いずれかの画像233を選択することが可能である。処理部20は、リンク情報に基づいて取得したWebページ内の画像データを取得し、表示している(S102)。複数の画像データが含まれている場合、処理部20は複数の画像データを取得し、図7に示すように、画像を複数並べ、選択を受け付ける。図7の例では、対象物のWebページに含まれている宣伝用の他の画像の画像データも取得され、表示されているので、ユーザは1又は複数の画像233を選択する。図7においても、操作画面230には次の処理へ進むためのボタン234が含まれている。
図8は、操作画面230の一例を示す図である。図8の操作画面230は、図6又は図7の操作画面230にて画像233が選択された後の表示例である。画像233が選択されると、処理部20はサイズデータを取得する(S104)。サイズデータの操作画面230は、図8に示すようにサイズ入力用のボックスコントロール235を含む。ユーザは、ボックスコントロール235に対し操作部24によって数値を入力し、これにより処理部20は、サイズデータを取得できる。サイズデータを入力可能な操作画面230は、表示装置1の選択、接続を実行するためのボタン236を含む。
図9は、操作画面230の他の一例を示す図である。図9の操作画面230は、図8に示した操作画面230への入力操作によってサイズデータが取得された後に表示される例である。ステップS105及びS106により、処理部20が自動的にサイズデータを取得できた場合、図6又は図7の操作画面230にて画像233が選択された後、図8に示す状態を介さずに、図9の画面に遷移できる。
図9には、ボックスコントロール235に、取得されたサイズデータがミリ単位で表示されている。単位はセンチ単位、インチ単位へ切り替えが可能であってもよい。取得ミスに対応させるべく、各ボックスコントロール235内の数値の入れ替えが可能であってもよい。
図9では、画像233上に、取得されたサイズデータから決定された画像内での対応箇所を示す線分及び記号(D、W)が表示されている(S105)。図9に示すように、「高さ」「幅」「奥行」を取得できる場合、処理部20は、画像内の対象物に対応する領域(図9中の符号330で示す)の輪郭を認識し、領域330の縦方向の長さを「高さ(H)」と決定できる。なお図9では、後述するように、「高さ」は他のサイズデータと合致しないので「(?)不明」と表示されている。領域330の輪郭の他の線が、画像における縦横に対してある角度(例えば5度)以上である場合、処理部20は、斜視図として判定できる。処理部20は、斜視図と判定した場合、輪郭の他の線の内、画像の横(水平)方向に対して最も浅い角度の線分の長さを「幅」(又は横)と決定し、「幅」の線分と異なる角度の線分を「奥行」と決定できる。処理部20は逆に、画像の縦(垂直)方向に最も浅い角度の線分の長さを「奥行」と決定してもよい。
処理部20は、「高さ」、「幅」、「奥行」と決定した画像内の線分の長さを画素数単位で算出し、線分同士の比率が、取得したサイズデータと合致するか否かを判断して修正してもよい。例えば図9の例で、「幅」と「奥行」とを逆に決定し、取得したサイズデータと合致しない場合、「幅」と「奥行」の決定を逆に入れ替える。図9の例では、取得したサイズデータの「高さ」の数値は、ラップトップ型のパーソナルコンピュータを畳んだ状態の厚みに対応するので、「高さ」の比率が「幅」及び「奥行」両方に対して、取得したサイズデータと合致しない。斜視図における「高さ」については、優先順位を下げておき、処理部20は、高さに対応する箇所は「不明」として決定してよい。
処理部20は、取得したサイズデータにおける「高さ」:「幅」:「奥行」の比率と、画像内で認識された領域330の縁の寸法の比から対応箇所を決定してもよい。「高さ」の寸法が極端に短い薄い対象物の場合、上述したように、「高さ」に対応する箇所は不明として決定してよい。
処理部20は、斜視図でないと判定できた場合、画像の縦方向(±5度等)の線分の長さを「高さ(H)」と決定し、横方向(±5度等)の線分の長さを「幅」と決定できる。
図9では、決定した対応箇所(線分)に、対応箇所を識別するための記号のオブジェクトを表示している。図9の例では、「幅」の対応箇所に「W」のオブジェクト、「奥行」の対応箇所に「D」のオブジェクトを表示している。タップによる選択によって他の記号(D→W、W→D)への変更又は入れ替えが可能であることが好ましい。図9の例では、上述したように、高さ(H)については他と合致しないため「?」のオブジェクトが表示され、不明であることが示されている。
サイズデータは、上述したように「幅」、「高さ」及び「奥行」全てのデータの入力又は自動取得が達成されなくともよい(S104)。図10は、操作画面230の他の一例を示す図である。図10の操作画面230では、「幅」のサイズデータ、1つのみが入力、又は取得され、対応箇所が決定された状態を示している。1つのサイズのみであっても、対応箇所が確定できれば(S105)、後述の実物大表示は可能である。
図11は、操作画面230の一例を示す図である。図11は、図8-図10の操作画面230で少なくとも1つのサイズデータ及び対応箇所が決定された状態で、ボタン236が選択された場合に表示される画面の例を示す図である。図11の操作画面230は、表示装置1の選択画面260を含む。図11の例では、表示装置1は通信部22を介して検出された1つの表示装置1の名称が表示されている。通信部22が無線LANである場合、複数表示されてもよいし、履歴からペアリング可能な表示装置1のリストが表示されてもよい。選択画面260で、通信部22による通信接続(ペアリング)用の設定画面が表示されてもよい。
図11の操作画面230は、選択された表示装置1での視聴を開始させる開始ボタン237を含む。開始ボタン237がタップによって選択されると、処理部20は、表示装置1と通信接続をONとし(S107)、解像度及び距離のデータを取得する(S108)。
例えば処理部20は、表示装置1から、距離2メートルで60インチ相当の画面サイズを、解像度WXGA(1280×800)で表示するという表示環境データを取得する。60インチ相当の画面サイズは横(水平)が1220ミリメートル、縦(垂直)が768ミリメートルである。この表示環境データにより処理部20は、表示装置1における画素数とスクリーン12上の長さとの対応関係を1ミリメートル当たり、1.05(ピクセル)と算出する(S109)。
処理部20は、実物大サイズで420ミリメートルの幅の画像をスクリーン12で表示するには、その縁が440ピクセル分で投影される必要があると算出できる。元の画像の幅に該当する長さが画像内で例えば200ピクセルであると算出すると、処理部20は、2.2倍に拡大した画像の画像データを表示装置1へ出力すべきであると決定し(S110)、2.2倍に拡大した画像の画像データを指示データとして作成する(S111)。画像データ及び拡縮率を指示データとして作成してもよい。
図12は、操作画面230の一例を示す図である。図12の操作画面230は、表示装置1に画像を表示中であることを示し、表示を終了させるボタン238を含む。ボタン238が選択されると処理部20は、画像表示の終了指示を受け付けたと判断する(S113:YES)。図12の操作画面230には、表示対象物の画像233が含まれている。
これにより、撮影時に予め取得してある距離データが存在しないような汎用的に取得できる画像データについても、図1に示したように実物大での表示が可能である。
図5から図12の操作画面230を参照した処理手順の説明においては、表示対象の画像は1つであったが、複数の画像が選択可能であってもよい。図13は、操作画面230の他の一例を示す図である。図7に示したように、複数の画像が取得できた場合、操作画面230は、表示する画像を複数選択可能である。図13は、図7の操作画面230にて複数の画像を選択した場合の画面例である。図13の例では、1つのサイズデータに対して複数の画像が含まれており、「幅」に対応する長さのみ取得されていることが示されている。図13の例では、選択された複数の画像233それぞれに対して、領域330が認識され、「幅」の対応箇所のオブジェクトが表示された状態が示されている。
図13に示したように、同一の対象物に対する複数の画像を選択した場合、処理部20は、複数の画像の識別情報(画像データ名、又は番号を付与)に対応付けて拡縮率を算出して指示データを作成する。例えば、図13の操作画面230で選択されている正面図の画像は、対象物として特定される領域330の「幅」が、1400ピクセルであると算出されると、処理部20は、正面図の画像にてついては0.3倍に縮小した画像データを作成して出力する。
図14は、操作画面230の一例を示す図である。図14の操作画面230は、複数の画像を表示装置1に表示中に表示される例を示す。図14の操作画面230には、画像の切り替えボタン239が含まれている。図14の操作画面230では、正面図の画像を表示中であることが示されている。処理部20は、正面図の画像の画像データを0.3倍縮小させた画像データを指示データとして表示装置1へ出力している。切り替えボタン239が選択された場合、処理部20は、斜視図の画像の画像データを2.2倍した画像データを指示データとして表示装置1へ出力する。
これにより、同一の対象物について異なる画像をいずれも実物大で表示させることができ、ユーザは実物大のイメージをより掴み易い。
図15は、操作画面230の一例を示す図である。図15の操作画面230では、画像として、写真画像のようなものではなく、イラスト、ポンチ絵といった画像(デジタル画像)が選択されている。イラスト、ポンチ絵をカメラで撮影した画像、スキャナで読み取った画像であってもよい。図15に示すように、選択された画像は、対象物が簡略的に描かれたものであって、寸法が画像内に記載されている。図5の操作画面230中のボタン234が選択された場合、処理部20は、画像に対して輪郭抽出処理及び文字認識処理を実行し、サイズデータの「幅」を120(又は80)ミリメートル、「奥行」を80(又は120)ミリメートルと決定し、「高さ」を100ミリメートルと取得する(S104)。いずれか1つの寸法のみ(例えば高さのみ)取得してもよい。
処理部20は、画像における100ミリメートルに対応する一辺の画素数、例えば300ピクセルを算出し、1ミリメートル当たり3ピクセルであると算出できる。表示装置1が、距離2メートルで60インチ相当の表示環境データを取得した場合(S108)、スクリーン12上で1ミリメートルあたり1.05(ピクセル)であるから、処理部20は95ピクセル分で投影される必要があると算出できる。処理部20は、画像データを約0.33倍に縮小し、表示装置1へ出力する。
図16及び図17は、表示装置1での表示例を示す図である。図16及び図17は、スクリーン12にプロジェクタ11から画像が投影されている様子を模式的に示す。図16では、プロジェクタ11の光学系15からスクリーン12までの距離が2メートルであって、図15で選択された画像が実物大で表示されている。図17では、プロジェクタ11の光学系15からスクリーン12までの距離が1.2メートルである。表示中に距離が1.2メートルに変化した場合(S114:YES)、処理部20はスクリーン12上の長さと画素数との対応関係は、1ミリメートルあたり1.6(ピクセル)と算出し直す(S109)。処理部20は、100ミリメートルの高さのイラスト(ポンチ絵)を、プロジェクタ11によって実物大で表示するためには、画像データを0.5倍に縮小するとして指示データを作成し(S111)、表示装置1へ送信する(S112)。
このように、図16及び図17に示すように、光学系15からスクリーン12までの距離が変化しても、スクリーン12における画像の大きさを実物大のまま変わらずに表示させることができる。処理部20は、図15に示したような、手書きの図に1つのみ寸法が書き込まれたものであっても、上述の処理に基づき、1つのサイズデータを取得し、表示装置1における表示環境に応じて拡縮率を算出し、実物大で表示することができる。
(変形例)
図18及び図19は、変形例における表示制御に係る処理手順の一例を示すフローチャートである。図18及び図19のフローチャートに示す処理手順の内、図3及び図4のフローチャートに示した処理手順と共通する手順については、同一のステップ番号を付して詳細な説明を省略する。
変形例では、処理部20は、選択した画像に対して実物大のサイズと、画像内の対応箇所とを決定すると(S105)、比較する対象物を追加する選択がされたか否かを判断する(ステップS125)。
ステップS125にて選択されないと判断された場合(S125:NO)、処理部20は現状の対象物に対してステップS106の処理を続ける。
ステップS125にて選択されたと判断された場合(S125:YES)、処理部20は、対象物の識別情報(例えば番号)を付与し(ステップS126)、追加対象物について識別情報を対応付けてステップS101からステップ105の処理を実行する。
表示装置1における所定画素数分の長さとスクリーン12上の長さとの対応関係を算出すると(S109)、各対象物の画像それぞれについて対象物の実物大のサイズと、ステップS109で算出した対応関係に基づき、対象物の画像の拡縮率を算出する(ステップS131)。
処理部20は、各対象物について画像を拡縮率に応じて変換した画像データを指示データとして作成(ステップS132)、指示データを画像処理部16へ送信する(ステップS133)。ステップS132において処理部20は、各々の拡縮率で変換した画像を並べた画像の画像データである指示データを作成してもよいし、異なる画像データ及び各々に対する拡縮率を対応付けた指示データを作成してもよい。
処理部20は、終了指示を受け付けたと判断されるまで、各対象物の指示データに基づいて画像処理部16にて投影を開始、継続する。
対象物の追加は、図18及び図19のフローチャートに示した手順に限らず、ステップS101からステップS103の実行後に追加する選択がされたか否かの判断を実行してもよい。
図20は、複数の対象物に対応する操作画面230の一例を示す図である。図20の操作画面230は、1つ目の対象物の画像の取得、サイズデータの取得及び対応箇所の決定が終了した後に表示される画面である。図20の操作画面230は、比較する対象として対象物を追加する選択をするための追加ボタン240を含む。追加ボタン239が選択された場合、処理部20は、追加する対象物の画像の取得(S101)から開始する。
図21は、複数の対象物に対応する操作画面230の一例を示す図である。図21の操作画面230では、追加する対象物(形及び大きさの異なる時計)の商取引Webページ又は製品情報Webページのリンク情報が入力され、リンク情報に基づいてWebページ内の画像データが取得され、画像233が表示されている。
図22は、複数の対象物に対応する操作画面230の一例を示す図である。図23の操作画面230では、追加された対象物のサイズデータが取得され、実物大サイズと対応箇所が決定された状態で表示されている。図22の例では、1つ目の対象物(時計)の実物大サイズが「幅」及び「高さ」それぞれ280ミリメートルであり、追加された対象物(時計)の実物大サイズが「幅」が210ミリメートル、「高さ」が200ミリメートルである。
図22の操作画面230には、表示装置1の選択画面260が含まれている。ユーザが表示装置1を選択し、開始ボタン237をタップによって選択すると、処理部20は、通信接続をONとして表示処理を開始する。
処理部20は、距離2メートルを含む表示環境データを取得する。処理部20は、画素数とスクリーン12上の長さとの対応関係から、元の画像における時計の「幅」が1400ピクセルである場合、「幅」280ミリメートルの時計を表示装置1に実物大で表示するためには、約0.21倍の拡縮率が必要であると算出する。追加された対象物の画像における時計の「幅」が1000ピクセルである場合、処理部20は、「幅」210ミリメートルの時計を表示装置1に実物大で表示するためには、約0.22倍の拡縮率が必要であると算出する。
処理部20は、1つ目の対象物の画像と、追加された対象物の画像とを並べた合成画像の画像データを指示データとして作成してもよいし、異なる画像データを切り替えさせる指示データを作成してもよい。
図23は、複数の対象物に対応する操作画面230の一例を示す図である。図23の操作画面230は、表示装置1に複数の対象物の画像を表示中であることを示し、表示を終了させるボタン238を含む。図23の操作画面230には、異なる対象物の画像を並べた画像233が含まれている。
図24は、表示装置1での表示例を示す図である。図24は、スクリーン12にプロジェクタ11から画像が投影されている様子を模式的に示す。図24では、複数の対象物の画像を、各々の指示データに基づいて並列に前記表示装置に実物大で表示させている。このように、任意の画像データから、異なる対象物夫々を実物大表示で並べて表示することが可能である。プロジェクタ11として小型のものを用いることによって、例えば、設置する場所に照射して実物大で対象物をその場所に設置した場合にどのような大きさであるかを、並べて把握することができる。例えば壁に取り付ける対象物(時計)の大きさを、プロジェクタ11から壁をスクリーン12として実物大で表示させることができる。これにより、ユーザは、実際のイメージを比較によって把握することが可能である。
異なる対象物の画像を実物大で表示する場合、図23及び図24に示したように画像を各々の実物大で並べて表示することに限らず、1つずつ、切り替え可能に表示してもよい。この場合、図23の表示中の画像233を切り替えるためのボタンが、図14に示した切り替えボタン239のように表示されてもよい。切り替えボタン239が選択される都度、巡回的に、複数の対象物の画像が夫々、表示装置1で実物大で表示される。
(第2の実施形態)
第2の実施形態の表示制御システム100は、表示制御装置2のみで構成される。第2の実施形態では、表示制御装置2の表示部23にて対象物の画像を実物大で表示する。実施の形態1における表示装置1が表示部23に代替される。第2の実施形態において表示制御装置2は、スマートフォンよりも大型の表示部23を有するコンピュータである。表示制御装置2は、タブレット端末、又は、デスクトップ型若しくはラップトップ型パーソナルコンピュータ等である。表示制御装置2のハードウェア構成は、第1の実施形態における表示制御装置2の構成と同様であるから、同一の符号を付して構成部の詳細な説明を省略する。
表示制御装置2の記憶部21には、表示部23の解像度及びサイズが記憶されている。また、第2の実施形態において表示制御プログラム2Pは、記憶部21に記憶されているのみならず、Webアプリケーションプログラムであってもよいし、クラウド上で提供される複数のアプリケーションプログラムの内の1つとして提供されてもよい。表示制御プログラム2PはWebブラウザプログラムのプラグインプログラムの1つとして、Webブラウザで閲覧するWebページ内の画像データの画像を実物大で表示する機能を実現してもよい。
図25は、第2の実施形態における表示制御装置2による表示制御処理の一例を示すフローチャートである。図25のフローチャートに示す処理手順の内、第1の実施形態における図3及び図4のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。
処理部20は、操作画面230に入力される情報に基づき画像データを取得し(S101)、対象物のサイズデータを取得し(S104)、実物大サイズ及び画像内の対応箇所を決定すると(S105)、表示部23の表示環境データを取得する(ステップS201)。
ステップS201において処理部20は、表示部23のサイズ及び解像度を含む表示環境データを、記憶部21から取得する。処理部20は、表示部23の内部メモリからデータを取得してもよい。表示環境データは、設定されてある解像度及び大きさのほか、複数画面であるか否か等を含んでもよい。
処理部20は、取得した解像度及び大きさから、拡縮率を算出し(S110)、算出した拡縮率に基づいて表示対象の画像データを変換して指示データを作成し(S111)、表示部23に表示させる(ステップS202)。
第2の実施の形態では、表示部23は投影装置ではないので、距離のデータは不要である。処理部20は、終了指示を受け付けたか否かを判断し(S113)、終了指示の操作がされない限り、指示データに基づく表示を続行する。
図26は、第2の実施形態における操作画面230及び画像の表示例を示す図である。図26は、ステップS202によって表示を開始した後の操作画面230を示す。図26の操作画面230は、取得した画像データの画像251、表示ボタン252及び実物大で表示される画像253を含む。操作画面230では、第1の実施形態における図5から図7に示したように画像データの指定、又はリンク情報を受け付けて処理部20が画像データを取得すると、取得した画像データに基づく画像251が表示される。画像251が表示され、サイズデータの入力又はリンク情報に基づく取得によって実物大サイズ及び画像内の対応箇所が決定されると、表示ボタン252が操作画面230で選択可能になる。表示ボタン252をユーザが操作部24で選択した場合、処理部20は、表示部23に対する処理(S201)を実行し、同一画面内に画像253を実物大で表示する(S202)。
第2の実施形態では、パーソナルコンピュータである表示制御装置2の表示部23で対象物の画像を実物大で表示する。これにより、例えばユーザは、電子商取引に係るWebページに含まれている商品画像を、使用している画面(表示部23)上に実物大で表示させて、イメージを掴むことが可能である。別途プロジェクタ11を使用しなくても、汎用的な画像データの実物大表示が可能である。表示制御装置2として、持ち運びが容易なタブレット端末を使用することにより、ユーザは、例えば図26に示したように時計を設置したい場所に表示制御装置2を設置し、時計の使用イメージを確かめることが可能である。
(第3の実施形態)
第3の実施形態では、表示制御装置2の表示部23にてAR技術を用いて実物大に表示する。第3の実施形態では、表示制御装置2はスマートフォン又はタブレット端末であって撮像部及び距離センサを備え、撮像中の画像に、取得した画像データの画像を重畳させて表示する。
図27は、第3の実施形態における表示制御装置2の構成を示すブロック図である。表示制御装置2のハードウェア構成は、図27に示すように撮像部25、距離センサ26及び傾きセンサ27を備える点以外は、第1の実施形態における表示制御装置2の構成と同一である。第1の実施形態における表示制御装置2と共通する構成には同一の符号を付して詳細な説明を省略する。
撮像部25は、イメージセンサを用いたカメラを1又は複数含む。撮像部25は起動すると撮像素子にて撮像された画像を表示部23へモニタ出力する。
距離センサ26は、撮像部25の光学系から撮像範囲における物までの距離を測定するセンサである。距離センサ26は光又は超音波を用いたTOFセンサを用いる。
傾きセンサ27は、表示部23及び撮像部25を含む表示制御装置2全体の傾きを検知するセンサである。傾きセンサ27は、加速度センサ、地磁気センサ等を用いるとよい。傾きセンサ27から処理部20へ常時的に立体的な傾きのデータが出力されている。
第3の実施形態では、表示部23の表示環境データとして、表示部23に表示される撮像範囲の空間データ(凹凸のデータ、深度マップ等)を用いる。
図28は、第3の実施形態における表示制御装置2による表示制御の処理手順の一例を示すフローチャートである。図28のフローチャートに示す処理手順の内、第1の実施形態における図3及び図4のフローチャートに示した処理手順と共通する手順については同一の符号を付して詳細な説明を省略する。
第3の実施形態においても処理部20は、操作画面230に入力される情報に基づき画像データを取得し(S101)、対象物のサイズデータを取得し(S104)、実物大サイズ及び画像内の対応箇所を決定する(S105)。処理部20は、撮像部25を起動しセンサ26にて測定される表示環境データを取得する(ステップS301)。
処理部20は、表示部23に撮像部25からモニタ出力される画像を表示し(ステップS302)、ステップS101で取得した画像データの画像の表示箇所の指定を受け付ける(ステップS303)。
処理部20は、センサ26にて測定されたデータに基づき、指定箇所までの距離、その箇所を含む面の実サイズを算出する(ステップS304)。ステップS304において処理部20は、撮像部25で撮影される指定箇所への視差を用いて三角法で算出する等、公知の技術を用いて撮像部25から指定箇所への距離及び指定箇所における実サイズを算出する。
処理部20は算出した実空間の表示箇所までの距離及び実サイズと、画像内でのサイズ(画素数)との対応関係を算出する(ステップS305)。
処理部20は、ステップS105で決定した対象物の実物大サイズと、ステップS305で算出した指定箇所における実サイズ及び画像内でのサイズの対応関係とから、対象物の画像の拡縮率を算出する(ステップS306)。
処理部20は、ステップS306で算出した拡縮率で対象物の画像の画像データを変換した画像データを指示データとして作成し(ステップS307)、表示部23に与えて撮像部25からのモニタ出力画像に、変換後の画像データの画像を重畳表示させる(ステップS308)。
処理部20は、以後、画像表示(実物大表示)の終了指示を受け付けたか否かを判断する(ステップS309)。終了指示を受け付けないと判断された場合(S309:NO)、距離センサ26又は傾きセンサ27によって距離又は撮像範囲に変化があるか否かを判断する(ステップS310)。
距離又は撮像範囲に変化があると判断された場合(S310:YES)、処理をステップS304へ戻し、距離及び実サイズを算出し直し(S304)、対応関係を算出し、対象物の画像を、AR空間上に再描画する。
変化がないと判断された場合(S310:NO)、処理をステップS309へ戻す。
ステップS309で終了指示を受け付けたと判断された場合(S309:YES)、処理部20は処理を終了する。
図29は、第3の実施形態の操作画面230の一例を示す図である。処理部20は、画像データの取得(S101)、サイズデータの取得(S104)、対象物の実物大のサイズ及び画像内の対応箇所の決定(S105)までは、第1の実施形態と同様の操作画面230(図5から図10)を表示し、種々の操作を受け付ける。
図10に示した操作画面230にて、次へ進むボタン236が選択された場合、処理部20は、撮像部25から出力される画像を表示部23に表示する(S302)。図29の操作画面230は、撮像部25から出力される画像と、取得した画像データの画像233と、その対象物の画像を表示させる箇所の指定を促すメッセージとを含む。
図30は、第3の実施形態の操作画面230の一例を示す図である。図30の操作画面230は、図29の操作画面230にて、撮像部25から出力されている画像上の箇所を、ユーザがタップによって選択した場合に、処理部20が対象物(図30では時計)の画像を重畳表示した例を示す。図30の操作画面230には、表示を終了させる表示終了ボタン238が含まれている。
このように、表示制御装置2によって実物のサイズデータを取得し、表示部23における表示環境データと対応関係を算出することにより、予め距離データ等が対応付けられていなくても、表示部23にて、対象物をAR空間における実物大で表示させることができる。
第3の実施形態は、表示制御装置2をスマートフォン又はタブレット端末として説明し、表示制御装置2は、ラップトップ型、デスクトップ型のパーソナルコンピュータであってもよい。深度センサ付のカメラを、通信部22を介して接続しても同様の効果を達成できる。
(第4の実施形態)
第4の実施形態では、表示制御システム200は、表示装置3及び表示制御装置4を含む。表示装置3は例えばHMD(Head Mounted Display)であり、表示制御装置4と接続される。図31は、第4の実施形態における表示制御システム200の構成を示すブロック図である。
表示装置3は、筐体内にレンズ31、表示パネル32及び画像処理部33を備え、筐体外にセンサ34、コントローラ35、及び通信部36を備える。レンズ31は双眼用のレンズであって、表示パネル32に表示される画像と組み合わせて立体表示を実現する立体表示装置である。表示パネル32は例えば液晶パネルであって、通信部を介して入力される画像データに基づく画像処理部33による処理に基づき三次元画像を表示する。センサ34は、ユーザの頭部の回転及び傾きを検出して画像処理部へ検出結果を出力する。
コントローラ35は、加速度センサ等を内蔵し、複数のボタンを有して表示パネル32上に表示されるオブジェクトに対する操作を受け付ける。コントローラ35は、操作信号を画像処理部33又は通信部36を介して表示制御装置4へ出力する。
通信部36は例えばHDMI(登録商標)である。表示装置3は、通信部36を介して表示制御装置4と接続される。
表示制御装置4は例えば、パーソナルコンピュータである。タブレット端末、又はスマートフォンであってもよい。表示制御装置4は、処理部40、記憶部41、通信部42、表示部43及び操作部44を備える。
処理部40は、CPU及び/又はGPUを用いたプロセッサである。処理部40は、記憶部41に記憶されている表示制御プログラム4Pに基づき、表示部43に操作画面を表示して操作を受け付け、操作に基づいて画像を三次元空間における実物大で表示するための指示データを作成する処理を実行する。
記憶部41は、例えばハードディスク、フラッシュメモリ、SSD(Solid State Drive)等の不揮発性メモリを用いる。記憶部41は、処理部40が参照するデータを記憶する。記憶部41は、表示制御プログラム4Pを記憶する。表示制御プログラム4Pは、記録媒体8に記憶してある表示制御プログラム8Pを処理部40が読み出して記憶部41に複製したものであってもよい。記憶部41は、表示装置3に表示させる三次元画像データを記憶している。記憶部41は、表示制御プログラム4Pに基づいて取得した画像データ、作成する指示データ等を記憶する。
通信部42は、ネットワークNを介した表示装置1との通信を実現する。通信部42は、例えば無線LAN又は Bluetooth(登録商標)等の無線通信部である。通信部42は、シリアル通信部、USB又はHDMI(登録商標)対応の通信部であってもよい。第3の実施形態において処理部40は、通信部42によって表示装置3との間でデータを送受信する。
表示部43は、液晶ディスプレイ、有機EL(Electro Luminescence)ディスプレイ等のディスプレイである。表示部43は、操作画面を表示する。表示部43は、タッチパネル内蔵型ディスプレイであってもよい。
操作部44は、処理部40との間で入出力が可能なユーザインタフェースである。操作部44は例えば、キーボード及びポインティングデバイスである。操作部44は、表示部43に内蔵されるタッチパネルであってもよい。操作部44は、音声入力部であってもよい。操作部44は、ユーザによる操作データを処理部40へ通知する。
処理部40は、表示制御プログラム4Pを起動すると、これに基づいて表示装置3における表示制御を以下のように実行する。
図32は、第4の実施形態における表示制御処理手順の一例を示すフローチャートである。図32のフローチャートに示す処理手順の内、第1の実施形態における図3及び図4のフローチャートに示した処理手順と共通する手順については同一のステップ番号を付して詳細な説明を省略する。
処理部40は、操作画面に入力される情報に基づき画像データを取得し(S101)、対象物のサイズデータを取得し(S104)、実物大サイズ及び画像内の対応箇所を決定する(S105)。
処理部40は、表示装置3に出力する三次元画像の実サイズとの対応関係を、表示環境データとして取得する(ステップS401)。表示装置3に表示する三次元画像は、対象物を使用する空間の仮想空間の画像である。三次元画像は、表示装置3の筐体に外向けに設けられたカメラからモニタ出力される画像を、表示装置3で立体表示できるように加工されたものであってもよい。三次元画像は予め、操作画面上で選択されていてもよい。
処理部40は、ステップ401で取得した対応関係により、ステップS101で取得した画像データの画像を前記三次元画像にマッピングするための拡縮率を算出する(ステップS402)。三次元画像におけるある面に、対象物の画像を、その面の実サイズに合わせて貼付するために、画像をどれほど拡縮すべきなのか、仮想空間における面の想定サイズ(実サイズ)及び画素数に基づいて算出する。
処理部40は、算出した拡縮率で画像を拡縮し、出力する三次元画像上にマッピングしたデータを、指示データとして作成し(ステップS403)、通信部42から表示装置3へ出力する(ステップS404)。
ステップS101で取得された画像データの画像は、三次元画像上にマッピングされて表示されているので、表示装置3におけるユーザの姿勢の変化、向きの変化に応じて三次元画像が変化しても、三次元画像に追随し、VR空間内に対象物が設置されたように視聴を継続することができる。
処理部40は、表示装置3のコントローラ35で終了操作がされたか否かを判断し(ステップS405)、終了操作がされないと判断された場合(S405:NO)、処理をステップS404へ戻し、出力を継続する。
ステップS405で終了操作がされたと判断された場合(S405:YES)、処理部40は処理を終了する。
このようにして、予め撮影時の距離データ等が記憶されていない画像データの画像であっても、画像データが含まれるWebページ、ドキュメントデータ等に含まれている画像に写る対象物のサイズを取得することで、実物大で表示することが可能である。サイズデータは手入力されてもよい。1つの寸法のみが判明した場合であっても、拡縮率を算出でき、実物大での表示が可能である。
上述の実施形態では、静止画像を実物大で表示するものとして説明した。しかしながら、表示する画像は動画像であってもよい。動画像の場合、動画像を構成するフレーム画像からサイズに対応する箇所を決定し、拡縮率を算出してフレーム画像夫々に対し指示データが作成されるとよい。
上述のように開示された実施の形態は全ての点で例示であって、制限的なものではない。本発明の範囲は、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれる。
1,3 表示装置
11 プロジェクタ
12 スクリーン
16,33 画像処理部
19,32 表示パネル
2 表示制御装置
20 処理部
21 記憶部
23 表示部(表示装置)
2P,4P 表示制御プログラム

Claims (15)

  1. 表示装置と接続されるコンピュータに、
    前記表示装置に表示させる対象物の画像を選択させる画面を表示し、
    選択された画像に写る対象物のサイズに関するサイズデータを取得するための情報を受け付ける受付画面を表示し、
    前記受付画面で受け付けられた情報に基づき前記サイズデータを取得し、
    前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成し、
    前記画像の画像データと作成した指示データとを前記表示装置へ出力する
    処理を実行させるコンピュータプログラム。
  2. 前記画像は、前記対象物1つに対して複数の画像を含み、
    前記コンピュータに、
    前記複数の画像に基づく指示データを各々作成する
    処理を実行させる請求項1に記載のコンピュータプログラム。
  3. 前記コンピュータに、
    前記複数の画像のいずれを表示させるかの選択を受け付け、
    選択された画像及び該画像の前記指示データを前記表示装置へ出力する
    処理を実行させる請求項2に記載のコンピュータプログラム。
  4. 前記画像は、対象物のイラスト、ポンチ絵、又は図面のデジタル画像であり、
    前記コンピュータに、
    前記サイズデータを、前記イラスト、ポンチ絵又は図面の中の寸法を示す数値から取得し、
    前記受付画面を表示するに際し、取得した数値に基づき、前記受付画面に寸法を表示する
    処理を実行させる請求項1に記載のコンピュータプログラム。
  5. 前記画像は、前記対象物の電子商取引に係るWebページにおける商品画像であり、
    前記コンピュータに、
    前記サイズデータを、前記Webページから取得し、
    前記受付画面を表示するに際し、取得した数値に基づき、前記受付画面に寸法を表示する
    処理を実行させる請求項1に記載のコンピュータプログラム。
  6. 前記画像は、前記対象物を掲載するWebページ又はドキュメントデータにおける商品画像であり、
    前記コンピュータに、
    前記サイズデータを、前記Webページ又はドキュメントデータから取得し、
    前記受付画面を表示するに際し、取得した数値に基づき、前記受付画面に寸法を表示する
    処理を実行させる請求項1に記載のコンピュータプログラム。
  7. 前記サイズデータは、前記対象物の縦、横、高さ、奥行き、及び径の寸法の内の少なくとも1つであり、
    前記コンピュータに、
    取得したサイズデータから、取得した寸法以外の寸法を算出し、
    前記受付画面を表示するに際し、取得した数値に基づき、前記受付画面に寸法を表示する
    処理を実行させる請求項1から請求項6のいずれか1項に記載のコンピュータプログラム。
  8. 前記コンピュータに、
    対象物を識別する識別情報に対応付けて、前記対象物の画像及び該画像を前記表示装置に表示させる際の指示データを記憶し、
    複数の対象物の画像を、各々の指示データに基づいて並列に前記表示装置に表示させる
    処理を実行させる請求項1から請求項7のいずれか1項に記載のコンピュータプログラム。
  9. 前記画像は、動画のフレーム画像であり、
    前記コンピュータに、
    前記フレーム画像それぞれに対して前記指示データを作成する
    処理を実行させる請求項1から請求項8のいずれか1項に記載のコンピュータプログラム。
  10. 前記表示装置は、投影面へ画像を投影する投影装置であり、
    前記コンピュータに、
    前記投影装置に搭載されている投影部から前記投影面までの距離を測定するセンサから、測定された距離を取得し、
    取得した距離、及び前記サイズデータに基づき、前記投影装置によって前記画像を投影させる際の指示データを作成する
    処理を実行させる請求項1から請求項9のいずれか1項に記載のコンピュータプログラム。
  11. 前記表示装置は、カメラを備え、
    前記コンピュータに、
    前記カメラで撮影する撮影画像内の物の寸法を取得し、
    取得した寸法及び前記サイズデータに基づき、前記カメラで撮影している画像の表示空間における前記対象物の大きさを決定し、
    前記表示装置に、前記カメラで撮影する撮影画像に、決定した大きさで前記対象物の画像を重畳させた画像を表示させる指示データを作成する
    処理を実行させる請求項1から請求項9のいずれか1項に記載のコンピュータプログラム。
  12. 前記表示装置は、三次元画像を表示する立体表示装置であり、
    前記コンピュータに、
    前記画像の三次元画像データを作成し、
    作成された前記三次元画像データに基づき前記表示装置に三次元画像を表示させる
    処理を実行させる請求項1から請求項9のいずれか1項に記載のコンピュータプログラム。
  13. 表示装置と接続されるコンピュータが、
    前記表示装置に表示させる対象物の画像を選択させる画面を表示し、
    選択された画像に写る対象物のサイズに関するサイズデータを取得するための情報を受け付ける受付画面を表示し、
    前記受付画面で受け付けられた情報に基づき前記サイズデータを取得し、
    前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成し、
    前記画像の画像データと作成した指示データとを前記表示装置へ出力する
    処理を含む情報表示方法。
  14. 表示させる対象物の画像を選択させる画面を表示する第1表示部と、
    選択された対象物の画像を取得する画像取得部と、
    前記画像に写る対象物のサイズに関するサイズデータを取得するための情報を受け付ける受付画面を表示する第2表示部と、
    前記受付画面で受け付けられた情報に基づきサイズデータを取得するサイズ取得部と、
    前記サイズデータに基づき、前記画像を表示させる際の指示データを作成する作成部と、
    前記画像を前記指示データに基づいて前記対象物を実物大で表示する第3表示部と
    を備える情報表示装置。
  15. 表示装置と、該表示装置とデータの送受信が可能であって表示部を備える表示制御装置とを含み、
    前記表示制御装置は、
    前記表示装置に表示させる対象物の画像を選択させる画面を前記表示部に表示し、
    選択された対象物の画像を取得し、
    選択された画像に写る対象物のサイズに関するサイズデータを取得するための情報を受け付ける受付画面を前記表示部に表示し、
    前記受付画面で受け付けられた情報に基づきサイズデータを取得し、
    前記サイズデータに基づき、前記画像を前記表示装置で前記対象物の実物大で表示させる際の指示データを作成し、
    前記画像及び前記指示データを前記表示装置へ送信する
    情報表示システム。
JP2020213957A 2020-12-23 2020-12-23 コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム Active JP7004057B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020213957A JP7004057B1 (ja) 2020-12-23 2020-12-23 コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020213957A JP7004057B1 (ja) 2020-12-23 2020-12-23 コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム

Publications (2)

Publication Number Publication Date
JP7004057B1 true JP7004057B1 (ja) 2022-01-21
JP2022099893A JP2022099893A (ja) 2022-07-05

Family

ID=80621020

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020213957A Active JP7004057B1 (ja) 2020-12-23 2020-12-23 コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム

Country Status (1)

Country Link
JP (1) JP7004057B1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008211409A (ja) 2007-02-26 2008-09-11 Sharp Corp 携帯端末
WO2012120759A1 (ja) 2011-03-10 2012-09-13 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
US20160353072A1 (en) 2014-02-11 2016-12-01 Zte Corporation Remote Projection Method, Apparatus and System
JP2018077747A (ja) 2016-11-11 2018-05-17 デッドビーフ株式会社 画像情報処理装置及び画像情報処理方法
JP2018180125A (ja) 2017-04-06 2018-11-15 富士通株式会社 画像投影装置、画像投影方法および画像投影プログラム
US20190369847A1 (en) 2018-06-01 2019-12-05 Samsung Electronics Co., Ltd. Image display apparatus and operating method of the same
JP2020057107A (ja) 2018-09-28 2020-04-09 パナソニックIpマネジメント株式会社 商品情報提供システム、商品情報提供方法、及び、プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3516540B2 (ja) * 1995-10-27 2004-04-05 株式会社リコー 建設図面認識方法及び認識装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008211409A (ja) 2007-02-26 2008-09-11 Sharp Corp 携帯端末
WO2012120759A1 (ja) 2011-03-10 2012-09-13 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
US20160353072A1 (en) 2014-02-11 2016-12-01 Zte Corporation Remote Projection Method, Apparatus and System
JP2018077747A (ja) 2016-11-11 2018-05-17 デッドビーフ株式会社 画像情報処理装置及び画像情報処理方法
JP2018180125A (ja) 2017-04-06 2018-11-15 富士通株式会社 画像投影装置、画像投影方法および画像投影プログラム
US20190369847A1 (en) 2018-06-01 2019-12-05 Samsung Electronics Co., Ltd. Image display apparatus and operating method of the same
JP2020057107A (ja) 2018-09-28 2020-04-09 パナソニックIpマネジメント株式会社 商品情報提供システム、商品情報提供方法、及び、プログラム

Also Published As

Publication number Publication date
JP2022099893A (ja) 2022-07-05

Similar Documents

Publication Publication Date Title
AU2020202551B2 (en) Method for representing points of interest in a view of a real environment on a mobile device and mobile device therefor
EP3628121B1 (en) Electronic device for storing depth information in connection with image depending on properties of depth information obtained using image and control method thereof
KR102423175B1 (ko) 심도 맵을 이용하여 이미지를 편집하기 위한 장치 및 그에 관한 방법
CN112926428B (zh) 使用合成图像训练对象检测算法的方法和系统和存储介质
US10009603B2 (en) Method and system for adaptive viewport for a mobile device based on viewing angle
US20150379770A1 (en) Digital action in response to object interaction
US20150213648A1 (en) Depth-Disparity Calibration of a Binocular Optical Augmented Reality System
US20190227694A1 (en) Device for providing augmented reality service, and method of operating the same
CN111052063B (zh) 电子装置及其控制方法
US10878285B2 (en) Methods and systems for shape based training for an object detection algorithm
US10422996B2 (en) Electronic device and method for controlling same
EP2930593A1 (en) Multi-display system and method for controlling thereof
US11062422B2 (en) Image processing apparatus, image communication system, image processing method, and recording medium
JP2009278456A (ja) 映像表示装置
CN110999307A (zh) 显示装置和服务器及其控制方法
KR20190027079A (ko) 전자 장치, 그 제어 방법 및 컴퓨터 판독가능 기록 매체
CN108141560B (zh) 用于图像投影的系统及方法
JP2018112894A (ja) システムおよび制御方法
JP7004057B1 (ja) コンピュータプログラム、情報表示方法、情報表示装置及び情報表示システム
JP6405539B2 (ja) 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法
TWI569173B (zh) 物件數位影像呈現技術
EP3599539B1 (en) Rendering objects in virtual views
KR20080041051A (ko) 관람자의 시선 방향을 고려한 전시 시스템의 인터페이스방법 및 장치
CN107133028B (zh) 一种信息处理方法及电子设备
CN111147733B (zh) 信息处理设备、信息处理方法和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210702

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210702

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211213

R150 Certificate of patent or registration of utility model

Ref document number: 7004057

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350