JP2021089461A - Ar画像表示システム、ar画像提供方法及びプログラム - Google Patents
Ar画像表示システム、ar画像提供方法及びプログラム Download PDFInfo
- Publication number
- JP2021089461A JP2021089461A JP2019217889A JP2019217889A JP2021089461A JP 2021089461 A JP2021089461 A JP 2021089461A JP 2019217889 A JP2019217889 A JP 2019217889A JP 2019217889 A JP2019217889 A JP 2019217889A JP 2021089461 A JP2021089461 A JP 2021089461A
- Authority
- JP
- Japan
- Prior art keywords
- image
- application program
- model
- printed
- model data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】店舗などでの販売促進につながる仮想物体表示が簡単に行えるようにする。【解決手段】カードなどで構成されたAR画像提供媒体11と、端末装置100とよりなるシステムである。AR画像提供媒体11は、商品についての画像が印刷された画像印刷領域と、商品の3Dモデルデータを表示するためのアプリケーションプログラムが保存されたサイトのアドレスのコードが印刷されたアドレス印刷領域とを有する。端末装置100は、アドレス印刷領域に印刷されたコードを読み取って取得したアドレスに接続してアプリケーションプログラムを取得すると共に、AR画像提供媒体11に印刷された商品の画像認識で3Dモデルデータを取得し、取得した3Dモデルデータを描画してAR画像を得、そのAR画像を、カメラが撮影した画像に重畳して表示する。【選択図】図1
Description
本発明は、AR画像表示システム、AR画像提供方法及びプログラムに関し、特にAR(Augmented Reality:拡張現実)技術を使ったAR画像の提供を行う技術に関する。
従来、AR技術を使って、商品の販売に結びつける技術が実用化されている。例えば、インターネット上で商品を販売するサイトの運営者が用意したクラウドサーバ上に、特定の商品についてのコンピュータグラフィックデータ(CGデータ)による3Dモデルを用意し、その3Dモデルを、ユーザ端末上でカメラ画像に合成して表示することが行われている。カメラ画像に3Dモデルを合成して表示することで、例えば家具などの商品をユーザの家庭の室内に配置した様子が、AR(拡張現実)として表示され、家具などの商品を室内においた状態を、購入前に確認する技術が提案されている。
例えば、特許文献1には、仮想物体であるオフィス機器(プリンタなど)を、オフィスを撮影した画像内に合成して表示し、オフィス内にオフィス機器を設置した様子を事前に確認できるシステムについての一例が記載されている。
従来から存在する仮想物体を現実のカメラ画像に合成する処理では、ユーザは、商品の販売などを行うサイトの運営者が用意したサーバにアクセスして、商品の選択画面を表示して、選択画面上でカメラ画像に合成させたい商品を選択するようにしている。
なお、カメラ画像に3Dモデルを合成して表示することが可能な仮想物体は、サーバ側に予め用意されている商品である。ここで、サーバ側に多数の候補の商品が用意されている場合には、ユーザは、多数の候補の中から所望の商品を探し出す作業が必要になる。
具体的には、リストなどで表示された商品の選択画面から、所望の商品をユーザが探し出して、その商品の3Dモデルデータを端末にダウンロードし、取得した3Dモデルデータの描画処理を行う必要がある。
具体的には、リストなどで表示された商品の選択画面から、所望の商品をユーザが探し出して、その商品の3Dモデルデータを端末にダウンロードし、取得した3Dモデルデータの描画処理を行う必要がある。
このように従来の仮想物体を現実のカメラ画像に合成する技術は、ウェブ上のサイトにアクセスして実行するものであり、インターネット上の商品を販売するサイトで行われているだけで、現実の店舗で商品などを販売する場合には適用されていなかった。
すなわち、現実の店舗で販売される商品をユーザが気に入り、その商品が自宅に配置した様子を見ようとしても、上述したAR技術を適用した自宅での表示は事実上困難であった。
すなわち、現実の店舗で販売される商品をユーザが気に入り、その商品が自宅に配置した様子を見ようとしても、上述したAR技術を適用した自宅での表示は事実上困難であった。
一方、現実の店舗で販売される商品と同一の商品を、万一、ユーザがインターネット上の販売サイトで見つけて、そのサイト上で3Dモデルデータを取得することができれば、AR技術を適用した仮想表示が可能である。しかし、実際には、ユーザが所望の商品の3Dモデルデータをネット上で検索して見つけることは極めて困難である。
このように、現実の店舗で販売される商品について、ユーザが3Dモデルデータを簡単に取得することが難しいため、その商品の販売促進につながる手法を見出すことが容易ではなかった。
このように、現実の店舗で販売される商品について、ユーザが3Dモデルデータを簡単に取得することが難しいため、その商品の販売促進につながる手法を見出すことが容易ではなかった。
本発明は、店舗などでの販売促進につながる仮想物体表示を行うことが可能なAR画像表示システム、AR画像提供方法及びプログラムを提供することを目的とする。
本発明のAR画像表示システムは、AR画像提供媒体と、端末装置とで構成されるAR画像表示システムである。
AR画像提供媒体は、商品についての画像が印刷された画像印刷領域と、商品の3Dモデルデータを表示するためのアプリケーションプログラムが保存されたサイトのアドレスのコードが印刷されたアドレス印刷領域と、を有する。
端末装置は、アドレス印刷領域に印刷されたコードを読み取って取得したアドレスに接続して、アプリケーションプログラムを取得すると共に、取得したアプリケーションプログラムの実行で、画像印刷領域に印刷された商品を読み取って画像解析した結果に基づいて商品の3Dモデルデータを取得するデータ取得処理部と、データ取得処理部が取得した3Dモデルデータを描画してAR画像を得るモデル画像生成部と、モデル画像生成部が生成したAR画像を、カメラが撮影した画像に重畳する画像重畳部と、画像重畳部でAR画像が重畳された画像を表示する表示部と、を有する。
AR画像提供媒体は、商品についての画像が印刷された画像印刷領域と、商品の3Dモデルデータを表示するためのアプリケーションプログラムが保存されたサイトのアドレスのコードが印刷されたアドレス印刷領域と、を有する。
端末装置は、アドレス印刷領域に印刷されたコードを読み取って取得したアドレスに接続して、アプリケーションプログラムを取得すると共に、取得したアプリケーションプログラムの実行で、画像印刷領域に印刷された商品を読み取って画像解析した結果に基づいて商品の3Dモデルデータを取得するデータ取得処理部と、データ取得処理部が取得した3Dモデルデータを描画してAR画像を得るモデル画像生成部と、モデル画像生成部が生成したAR画像を、カメラが撮影した画像に重畳する画像重畳部と、画像重畳部でAR画像が重畳された画像を表示する表示部と、を有する。
また本発明のAR画像提供方法は、AR画像提供媒体に印刷されたサイトのアドレスを読み取ってアクセスすることで、AR画像提供媒体に印刷された商品の3Dモデルデータを表示するためのアプリケーションプログラムを取得するアプリケーションプログラム取得処理と、アプリケーションプログラム取得処理で取得したアプリケーションプログラムの実行で、AR画像提供媒体に印刷された商品を読み取って画像解析した結果に基づいて商品の3Dモデルデータを取得する3Dモデルデータ取得処理と、3Dモデルデータ取得処理で取得した3Dモデルデータを描画してAR画像を得るモデル画像生成処理と、モデル画像生成処理で生成したAR画像を、カメラが撮影した画像に重畳する画像重畳処理と、画像重畳処理によりAR画像が重畳された画像を表示する表示処理と、を含む。
また本発明のプログラムは、上記AR画像提供方法の各処理を実行する手順をコンピュータに実行させるプログラムである。
本発明によれば、AR画像提供媒体をユーザに配布するだけで、ユーザはスマートフォンなどの端末装置を使って、簡単にAR画像提供媒体に印刷された商品の3Dモデルデータを取得して、任意の場所を撮影した画像に重畳表示できるようになる。したがって、商品の販売業者は、カードなどのAR画像提供媒体をユーザに配布するだけで、商品の販売につながるサービスを提供できるようになる。
以下、本発明の一実施の形態例(以下「本例」と称する)を、添付図面を参照して説明する。
[AR画像表示システムの概要]
図1〜図3は、本例のAR画像表示システムの概要を示す。
本例のAR画像表示システムは、図1に示すように、ユーザP1が所持する端末装置100と、商品を販売する業者などがユーザP1に配布するカード11とを備える。端末装置100は、ユーザP1が所持するスマートフォンやタブレット端末などの、インターネットに接続する機能を有する。
図1〜図3は、本例のAR画像表示システムの概要を示す。
本例のAR画像表示システムは、図1に示すように、ユーザP1が所持する端末装置100と、商品を販売する業者などがユーザP1に配布するカード11とを備える。端末装置100は、ユーザP1が所持するスマートフォンやタブレット端末などの、インターネットに接続する機能を有する。
本例の場合、カード11は、例えば、自動車を販売する業者が配布するものである。
図2は、カード11の一例を示す。図2(a)はカード11の表面11aを示し、図2(b)はカード11の裏面11bを示す。
カード11の表面11aには、図2(a)に示すように、業者が販売する自動車の画像印刷領域12と、車名印刷領域13とが設けられている。
カード11の裏面11bには、図2(b)に示すように、アドレス印刷領域14,15と、操作手順説明領域16とが設けられている。
図2は、カード11の一例を示す。図2(a)はカード11の表面11aを示し、図2(b)はカード11の裏面11bを示す。
カード11の表面11aには、図2(a)に示すように、業者が販売する自動車の画像印刷領域12と、車名印刷領域13とが設けられている。
カード11の裏面11bには、図2(b)に示すように、アドレス印刷領域14,15と、操作手順説明領域16とが設けられている。
カード11の裏面11bの2つのアドレス印刷領域14、15には、オペレーティングシステム(OS)の種類ごとのアドレスが、二次元バーコード(QRコード:登録商標)にコード化されて印刷されている。各アドレス印刷領域14、15に印刷された二次元バーコードは、表面11aの画像印刷領域12に印刷された自動車の3Dモデルを表示するためのアプリケーションプログラムが登録されたネット上のアドレスである。
なお、図2では1種類のカード11を示しているが、自動車を販売する業者は、その業者が販売している複数の種類(車種)の自動車が個別に画像印刷領域12に表示された、複数種類のカード11を用意する。そして、自動車の販売業者は、商談などで問い合わせがあった車種のカード11をユーザに配布する。
図1の説明に戻ると、ユーザP1は、カード11の表面11aの画像印刷領域12に印刷された自動車のAR画像を表示させたいとき、そのカード11の裏面11bのアドレス印刷領域14または15に印刷された二次元バーコードを、端末装置100のカメラ107(図4)で撮影して、読み取らせる。2つのアドレス印刷領域14,15に印刷された二次元バーコードのいずれを読み取らせるかは、端末装置100に実装されたオペレーティングシステム(OS)の種類で決まる。
端末装置100は、アドレス印刷領域14または15に印刷された二次元バーコードを読み取ることで、二次元バーコードで示されたアドレスに接続する処理を実行する。二次元バーコードで示されたアドレスは、商品情報サーバ200に用意されたアドレスの一つである。端末装置100は、そのアドレスに接続することで、商品情報サーバ200に登録されたAR画像提供用のアプリケーションプログラムをダウンロードして取得することができる。
ユーザP1は、このようにして取得したアプリケーションプログラムを端末装置100で実行させた上で、カード11の表面11aの画像印刷領域12に印刷された自動車の画像を、端末装置100のカメラ107(図4)で撮影して読み取らせ、カード11に印刷された自動車を画像認識させる。この画像認識で、端末装置100は、画像印刷領域12に印刷された自動車の車種を特定し、商品情報サーバ200から、その車種の自動車の3Dモデルデータを取得する処理を行う。
ユーザP1は、このようにして取得したアプリケーションプログラムを端末装置100で実行させた上で、カード11の表面11aの画像印刷領域12に印刷された自動車の画像を、端末装置100のカメラ107(図4)で撮影して読み取らせ、カード11に印刷された自動車を画像認識させる。この画像認識で、端末装置100は、画像印刷領域12に印刷された自動車の車種を特定し、商品情報サーバ200から、その車種の自動車の3Dモデルデータを取得する処理を行う。
図3は、AR画像提供用のアプリケーションプログラムを取得した端末装置100での表示イメージを示す。
端末装置100は、取得したアプリケーションプログラムを実行し、上述したカード11の表面11aの画像印刷領域12の読み取りを行って3Dモデルデータを取得することにより、取得した自動車の3Dモデルデータを描画する処理を行う。そして、描画された自動車Mが、端末装置100の表示部105(図4)に、周囲の画像に重畳した状態で表示される周囲の画像は、端末装置100のカメラ107が撮影したリアルタイムの画像であり、描画された自動車Mは、撮影画像内の地面Gの上に表示される。
端末装置100は、取得したアプリケーションプログラムを実行し、上述したカード11の表面11aの画像印刷領域12の読み取りを行って3Dモデルデータを取得することにより、取得した自動車の3Dモデルデータを描画する処理を行う。そして、描画された自動車Mが、端末装置100の表示部105(図4)に、周囲の画像に重畳した状態で表示される周囲の画像は、端末装置100のカメラ107が撮影したリアルタイムの画像であり、描画された自動車Mは、撮影画像内の地面Gの上に表示される。
このとき描画される自動車Mは、カード11の表面11aの画像印刷領域12に印刷された自動車と同一形式のものである。なお、自動車Mを描画するデータは3Dモデルデータであるため、表示される自動車Mの向きは、ユーザP1による操作で任意の方向に動かすことができる。例えば図3のイメージでは、自動車Mをほぼ真横から見た状態を示すが、正面や後ろから見た状態の自動車Mを表示させることもできる。
このような表示が行われることで、ユーザP1は、自宅の駐車場などの任意の場所に自動車Mを配置した場合の様子を、端末装置100に表示される画像から確認することができる。
[端末装置の構成]
図4は、本例の端末装置100のハードウェア構成を示す。
端末装置100は、CPU(central processing unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、記憶部104、表示部105、モーションセンサ106、カメラ107及びネットワークインタフェース108を備え、これらの各部がバスラインでデータ転送可能に接続されている。
図4は、本例の端末装置100のハードウェア構成を示す。
端末装置100は、CPU(central processing unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、記憶部104、表示部105、モーションセンサ106、カメラ107及びネットワークインタフェース108を備え、これらの各部がバスラインでデータ転送可能に接続されている。
CPU101は、端末装置100が実行する各種機能を実現するソフトウェア(プログラム)のプログラムコードをROM102などから読み出して実行する演算処理部である。
ROM102には、端末装置100に実装された各種機能を実行するプログラムコードが記憶されている。
RAM103は、ROM102や記憶部104に記憶されているプログラムやデータを読み出すために使用されるワーク用メモリである。
ROM102には、端末装置100に実装された各種機能を実行するプログラムコードが記憶されている。
RAM103は、ROM102や記憶部104に記憶されているプログラムやデータを読み出すために使用されるワーク用メモリである。
記憶部104は、HDD(Hard Disk Drive)やSSD(Solid State Drive)などの大容量のデータ記憶部である。記憶部104には、ネットワークインタフェース108を介して受信したAR画像提供用のアプリケーションプログラムなどが記憶され、CPU101の制御で読み出される。
表示部105には、カメラ107で撮影された画像や、端末装置100内で生成された各種画像が表示される。例えばAR画像提供用のアプリケーションプログラムを実行する際には、表示部105に、カメラ107で撮影された画像や3Dモデルデータ(図3に示す自動車Mなど)が表示される。なお、表示部105にはタッチパネルで操作部105a(図5)が配置され、ユーザによる画面のタッチ操作で各種操作が可能になっている。
表示部105には、カメラ107で撮影された画像や、端末装置100内で生成された各種画像が表示される。例えばAR画像提供用のアプリケーションプログラムを実行する際には、表示部105に、カメラ107で撮影された画像や3Dモデルデータ(図3に示す自動車Mなど)が表示される。なお、表示部105にはタッチパネルで操作部105a(図5)が配置され、ユーザによる画面のタッチ操作で各種操作が可能になっている。
モーションセンサ106は、端末装置100が向いている方位や向きを検出する。このモーションセンサ106は、例えば加速度センサ、ジャイロセンサ、地磁気センサなどで構成される。
カメラ107は、端末装置100の周囲を撮影する。端末装置100がスマートフォンやタブレット端末で構成される場合、通常、端末装置100を構成する筐体の裏面側にカメラ107が配置され、このカメラ107により表示部105の反対側が撮影される。
カメラ107は、端末装置100の周囲を撮影する。端末装置100がスマートフォンやタブレット端末で構成される場合、通常、端末装置100を構成する筐体の裏面側にカメラ107が配置され、このカメラ107により表示部105の反対側が撮影される。
ネットワークインタフェース108は、インターネットNに接続される通信処理部であり、本例の場合には、アプリケーションプログラムや3Dモデルデータを取得するデータ取得処理部として機能する。
このネットワークインタフェース108は、例えばAR画像提供用のアプリケーションプログラムが格納されたアドレスのサーバにアクセスして、必要なデータを取得する。
音声入出力部109は、音声処理部とスピーカとマイクロフォンとを備え、音声処理部でCPU101から指示された音声データのアナログ変換等の音声処理が実行され、処理された音声がスピーカから出力される。例えば図3で説明したように自動車Mを表示部105が表示する際に、各種効果音やBGMの音楽などを音声入出力部109が出力してもよい。また、音声入出力部109は、マイクロフォンも備え、マイクロフォンが拾った音声を音声処理部が音声データ化する。マイクロフォンが拾った音声によるデータは、表示部105に表示された自動車Mの向きや色などを音声による指示で変更させる場合などに使用してもよい。
このネットワークインタフェース108は、例えばAR画像提供用のアプリケーションプログラムが格納されたアドレスのサーバにアクセスして、必要なデータを取得する。
音声入出力部109は、音声処理部とスピーカとマイクロフォンとを備え、音声処理部でCPU101から指示された音声データのアナログ変換等の音声処理が実行され、処理された音声がスピーカから出力される。例えば図3で説明したように自動車Mを表示部105が表示する際に、各種効果音やBGMの音楽などを音声入出力部109が出力してもよい。また、音声入出力部109は、マイクロフォンも備え、マイクロフォンが拾った音声を音声処理部が音声データ化する。マイクロフォンが拾った音声によるデータは、表示部105に表示された自動車Mの向きや色などを音声による指示で変更させる場合などに使用してもよい。
[AR画像提供機能から見た構成]
図5は、本例の端末装置100が、AR画像提供用のアプリケーションプログラムを取得してそのプログラムを実行する際の、機能から見た構成を示している。AR画像提供用のアプリケーションプログラムは、図2に示すカード11のアドレス印刷領域14または15に印刷された二次元バーコードをカメラ107が撮影して読み取ることで取得される。
図5は、本例の端末装置100が、AR画像提供用のアプリケーションプログラムを取得してそのプログラムを実行する際の、機能から見た構成を示している。AR画像提供用のアプリケーションプログラムは、図2に示すカード11のアドレス印刷領域14または15に印刷された二次元バーコードをカメラ107が撮影して読み取ることで取得される。
AR画像提供用のアプリケーションプログラムが実行され、その実行でカード11の表面11aの画像印刷領域12に印刷された画像(自動車)を読み取って3Dモデルデータを取得すると、取得した3Dモデルデータは、記憶部104に記憶される。
そして、モデル画像生成部101aは、記憶部104に記憶された3Dモデルデータを読み出し、3Dモデルの描画処理を行う。例えば、図3に示すように自動車Mの描画が行われ、モデル画像生成処理が行われる。
この描画時には、ユーザによるタッチパネルなどの操作部105aの操作で、3Dモデルの向き、サイズ、色などが調整される。
そして、モデル画像生成部101aは、記憶部104に記憶された3Dモデルデータを読み出し、3Dモデルの描画処理を行う。例えば、図3に示すように自動車Mの描画が行われ、モデル画像生成処理が行われる。
この描画時には、ユーザによるタッチパネルなどの操作部105aの操作で、3Dモデルの向き、サイズ、色などが調整される。
モデル画像生成部101aで描画された3Dモデルは、画像重畳部101bで、カメラ107で撮影されたリアルタイムの画像に重畳される。この画像重畳部101bでリアルタイムの画像に3Dモデルを重畳処理する際には、画像重畳部101bは、カメラ107で撮影された画像内の地面に相当する箇所を検出する画像認識処理を行い、その検出した地面の上に自動車などの3Dモデルが配置されるように重畳処理を行う。
画像重畳部101bで3Dモデルが重畳された画像は、表示部105により表示される。
画像重畳部101bで3Dモデルが重畳された画像は、表示部105により表示される。
[AR画像提供用のアプリケーションプログラム実行時の処理の流れ]
図6は、端末装置100によりAR画像提供用のアプリケーションプログラムを実行するときの処理例を示すフローチャートである。以下、図6のフローチャートに基づいて、AR画像提供用のアプリケーションプログラムを実行するときの処理の流れを説明する。端末装置100で起動させるアプリケーションプログラムは、図2に示すカード11の裏面11bのアドレス印刷領域14または15に印刷された二次元バーコードを、端末装置100のカメラ107で撮影して、その二次元バーコードで示されるアドレス(商品情報サーバ200のアドレス)から取得するアプリケーションプログラム取得処理で得られたものである。なお、別の車種のカード11などを使って、既にアプリケーションプログラム取得処理が行われている場合には、アプリケーションプログラムの取得処理は必要ない。
図6は、端末装置100によりAR画像提供用のアプリケーションプログラムを実行するときの処理例を示すフローチャートである。以下、図6のフローチャートに基づいて、AR画像提供用のアプリケーションプログラムを実行するときの処理の流れを説明する。端末装置100で起動させるアプリケーションプログラムは、図2に示すカード11の裏面11bのアドレス印刷領域14または15に印刷された二次元バーコードを、端末装置100のカメラ107で撮影して、その二次元バーコードで示されるアドレス(商品情報サーバ200のアドレス)から取得するアプリケーションプログラム取得処理で得られたものである。なお、別の車種のカード11などを使って、既にアプリケーションプログラム取得処理が行われている場合には、アプリケーションプログラムの取得処理は必要ない。
図6のフローチャートに従って説明すると、まずユーザは、アプリケーションプログラムを起動させた端末装置100で、図2に示すカード11の表面11aの画像印刷領域12に印刷された自動車の画像を、端末装置100のカメラ107で撮影して読み取らせ、カード11に印刷された自動車画像を認識させる。これによりカード11に印刷された車種の3Dモデルデータの要求が、端末装置100から商品情報サーバ200に対して行われる。この要求を受信した商品情報サーバ200からは、端末装置100に該当する車種の3Dモデルデータが伝送され、端末装置100の記憶部104に記憶される。この3Dモデルデータ取得処理が事前に行われて、既に同じ車種の3Dモデルデータを記憶部104が記憶している場合には、データ取得処理を省略してもよい。
そして、アプリケーションプログラムの実行で、端末装置100のCPU101は、カメラ107が撮影した画像から、地面を検出して、撮影画像の空間認識処理を行う(ステップS11)。端末装置100のCPU101は、この地面を検出する空間認識処理が成功したか否かを判断する(ステップS12)。ここで、空間認識処理に成功しない場合(ステップS12のNO)、CPU101は、ステップS11の撮影画像の空間認識処理に戻る。
ステップS12で空間認識処理に成功した場合(ステップS12のYES)、CPU101は、記憶部104に記憶された3Dモデルデータを読み出す(ステップS13)。そして、CPU101は、読み出した自動車の3Dモデルデータの描画処理を行う(ステップS14)。この描画時には、例えば正面を向いた自動車を描画する。また、後述するように描画する自動車のボディカラー(配色)については、複数の色の設定が可能であるが、最初に描画する自動車のボディカラーは、予め決められた配色(例えば白色)にする。この最初に描画する自動車のボディカラーは、例えば自動車を販売する業者が最もアピールしたい配色とする。
そして、CPU101は、ステップS14で描画した自動車の3Dモデルを、カメラ107が撮影したリアルタイムの画像内に重畳する(ステップS15)。このステップS15の処理が画像重畳処理である。この自動車の3Dモデルを撮影画像に重畳する際には、CPU101は、ステップS11の空間認識処理で検出した地面(平面)の上のほぼ中央に、描画した自動車の3Dモデルを配置する。また、CPU101は、検出した平面と端末装置100のカメラ107の中心線とが成す角度(仰俯角)を検出して、その角度が大きいとき、地面が近いと判断して、描画する自動車のサイズを大きくし、角度が小さいとき、地面が遠いと判断して、描画する自動車のサイズを小さくする。このようにして描画した自動車の3Dモデルを撮影画像に重畳することで、表示部105には、カメラ107で撮影した画像内に、描画した自動車の3Dモデルが合成される。
次に、CPU101は、ユーザP1による表示画像内での操作があるか否かを判断する(ステップS16)。このステップS16で、ユーザP1による操作があると判断したとき(ステップS16のYES)、その操作に基づいた画像となるように3Dモデルの調整を行った上で(ステップS17)、ステップS14の描画処理に戻る。
また、ステップS16で操作がないと判断したとき(ステップS16のNO)、ステップS15でのカメラ画像への重畳処理を継続して行う。なお、カメラ画像から検出される地面の位置が変化した場合には、自動車が配置される位置も対応して変化する。
また、実画像上に自動車の3Dモデルを重畳した表示を終了した後には、記憶部104に記憶された3Dモデルデータは、消去してもよい。あるいは、新たなカード11の表面11aの画像印刷領域12に印刷された自動車の画像の読み取りがあるまで、記憶部104に記憶された3Dモデルデータは保持させ、カード11の読み取りごとに記憶部104に記憶された3Dモデルデータを更新させてもよい。
また、ステップS16で操作がないと判断したとき(ステップS16のNO)、ステップS15でのカメラ画像への重畳処理を継続して行う。なお、カメラ画像から検出される地面の位置が変化した場合には、自動車が配置される位置も対応して変化する。
また、実画像上に自動車の3Dモデルを重畳した表示を終了した後には、記憶部104に記憶された3Dモデルデータは、消去してもよい。あるいは、新たなカード11の表面11aの画像印刷領域12に印刷された自動車の画像の読み取りがあるまで、記憶部104に記憶された3Dモデルデータは保持させ、カード11の読み取りごとに記憶部104に記憶された3Dモデルデータを更新させてもよい。
図7は、自動車の3Dモデルがカメラ画像に合成される状態の一例を示す。
この図7に示す画像は、表示部105により表示される画面105bを示し、カメラ画像内の地面Gのほぼ中央の箇所に、カード11のアドレス印刷領域14または15へのアクセスで所得した自動車Mの3Dモデルが表示される。
この図7に示す画像は、表示部105により表示される画面105bを示し、カメラ画像内の地面Gのほぼ中央の箇所に、カード11のアドレス印刷領域14または15へのアクセスで所得した自動車Mの3Dモデルが表示される。
この画面105b内には、例えば自動車Mのボディカラーを選択するボタン301と、操作をリセットして初期状態に戻すボタン302などが表示されている。これらのボタン301〜302を操作することで、表示される自動車Mのサイズ、向き、位置などの調整を行うことができる。また、表示された自動車Mを直接タッチするなどの操作により、画面105b内の自動車Mのサイズ、向き、位置などを調整できる。例えば、二本の指で画面105bをタッチして、その二本の指の間隔を変える、いわゆるピンチインやピンチアウトの操作で、自動車Mのサイズを変更したり、一本の指で自動車Mの表面をスライドさせて、そのスライドした方向の向きに動かす操作などが可能である。また、音声入力で各種操作を行うようにしてもよい。
なお、図7に示す画像は一例であり、端末装置100のカメラ107が撮影する向きや角度を変えることで、ユーザが居る箇所の周囲の様々な場所に自動車Mを配置した状態を確認することもできる。
なお、図7に示す画像は一例であり、端末装置100のカメラ107が撮影する向きや角度を変えることで、ユーザが居る箇所の周囲の様々な場所に自動車Mを配置した状態を確認することもできる。
このように本例のAR画像表示システムによると、実際のカメラ画像内に、3Dモデルで描画した自動車Mを、実際に自動車を購入した際に駐車するスペースや自宅前などに駐車した状態で表示することができる。したがって、自動車Mの購入時の状態をユーザにイメージさせて、ユーザの購入意欲を高めることができるので、適切な販売促進を期待することができる。
また、ユーザは、業者から渡されたカード11の表面11aに印刷された自動車を読み取らせるだけで、自動的にそのカード11の表面11aに印刷された車種を表示させることができるので、従来のような種類(車種)の選択操作を行う必要はない。したがって、ユーザは、必要な形式の自動車を簡単に表示することが可能になる。
なお、ここまでの説明では自宅の周囲などで使用することを説明したが、業者との商談中に使用することも可能である。この場合にも、ボディカラーや車の形状などの確認を画面上で行うことができるので、業者から見て商品の販売促進につながるということができる。
ボディカラーを選択するボタン301については、販売中の自動車Mに用意された複数種類のボディカラーを選択できるようにする。これにより、表示に選択可能なボディカラーが判るようになり、ユーザが購入する自動車のボディカラーの選択が良好にできるようになる。
また、カード11は、車種ごとに用意することで、販売業者にとっては自動車の販売促進ツールとして使用できる一方で、カード11を取得したユーザにとっては、カード11がコレクションの対象にもなり、ユーザの購入意欲を効果的に高めることができる。
[変形例]
なお、ここまで説明した例では、自動車を販売する場合のカードに適用した例とした。これに対して、その他の物品(家具、住宅など)を販売促進する場合に適用してもよい。
また、図2に示すようなカードにアプリケーションプログラムを取得するアドレスコードなどを印刷するのも一例であり、例えば商品説明のパンフレット(商談時に配布するパンフレット)や、商品を宣伝するチラシ(不特定多数に配布するチラシ)に、アドレスコードなどを印刷してもよい。そして、そのパンブレットやチラシで説明した物品の画像認識で、3Dモデルデータが取得できるようにしてもよい。
なお、ここまで説明した例では、自動車を販売する場合のカードに適用した例とした。これに対して、その他の物品(家具、住宅など)を販売促進する場合に適用してもよい。
また、図2に示すようなカードにアプリケーションプログラムを取得するアドレスコードなどを印刷するのも一例であり、例えば商品説明のパンフレット(商談時に配布するパンフレット)や、商品を宣伝するチラシ(不特定多数に配布するチラシ)に、アドレスコードなどを印刷してもよい。そして、そのパンブレットやチラシで説明した物品の画像認識で、3Dモデルデータが取得できるようにしてもよい。
この場合には、例えば設備メーカが設置(販売)する設備のパンフレットに、アプリケーションプログラムを取得するアドレスコードなどを印刷し、パンフレットに印刷された設備を端末装置で読み取らせることで、商談をしながら実際の設備(製品)の大きさや生産工程を立体視で見せることができるので、ユーザは、サイズや生産工程などを確認することが可能になる。なお、業者が設備での生産工程をユーザに見せる場合には、その設備が稼働した状態を動画で見せるようにすることも考えられる。
また、生産設備や住宅のように、顧客の要求に基づいて設計が行われる商品の場合、その顧客用の設計された商品(設備、住宅など)専用の3Dデータを販売業者が用意して、サイトに登録してもよい。
また、生産設備や住宅のように、顧客の要求に基づいて設計が行われる商品の場合、その顧客用の設計された商品(設備、住宅など)専用の3Dデータを販売業者が用意して、サイトに登録してもよい。
また、販売した商品に添付するマニュアルに、アプリケーションプログラムを取得するアドレスコードを印刷すると共に、商品の説明箇所の画像を印刷しておき、該当する画像を端末装置100のカメラ107で撮影して画像認識することで、好みの座標位置に3Dモデルを描画した商品を表示させてもよい。このようにマニュアルに適用することで、商品の組み立て方や、修理方法を、現実の環境内で立体的に確認できるようになる。
また、カードやパンフレットなどの紙媒体にアドレスコードを印刷する代わりに、テレビジョン放送で放映される画面内や、動画配信サイトで配信される動画の画面内に、アドレスコードを表示するようにしてもよい。このようにしたことで、テレビジョン放送や動画配信を行う際に、その画面内で宣伝した商品を端末装置100で撮影することで、3Dデータを簡単にユーザが取得でき、ユーザの購入意欲を高めることが可能になる。
また、アプリケーションプログラムを得るアドレスは、上述した実施の形態例では、2次元バーコードを適用したが、その他のコードでアドレスを記録してもよい。図2に示すように裏面に2次元バーコードを印刷するのも一例であり、カードの表面に印刷してもよい。
また、上述した実施の形態例では、カード11の表面11aに印刷された物品(自動車)の画像を端末装置100が認識して、その物品の3Dモデルデータを取得するようにした。これに対して、カード11の表面11a(自動車などが印刷された面)に、何らかの識別コードを印刷して、その識別コードの端末装置100での画像認識による検出で、対応した物品(車種)の3Dモデルデータをダウンロードするようにしてもよい。
あるいは、カード11の裏面11bに印刷されたアドレス印刷領域14,15のコードを使ってアプリケーションプログラムをダウンロードする際に、同時に3Dモデルデータを端末装置100にダウンロードしてもよい。
また、上述した実施の形態例では、3Dモデルを表示するアプリケーションプログラムを、表示されたアドレスへのアクセスで取得するようにしたが、アプリケーションプログラムについては、図6のフローチャートで説明した一連の流れとは別の処理で、事前に端末装置にダウンロードさせてもよい。
また、上述した実施の形態例では、3Dモデルを表示するアプリケーションプログラムを、表示されたアドレスへのアクセスで取得するようにしたが、アプリケーションプログラムについては、図6のフローチャートで説明した一連の流れとは別の処理で、事前に端末装置にダウンロードさせてもよい。
さらに、上述した実施の形態例では、端末装置100は、記憶部104は1つの物品(車種)の3Dモデルデータのみを記憶して、カード11の表面11aを読み取らせる処理を行うごとに、対応した車種の自動車が表示されるようにした。これに対して、端末装置100の記憶部104は、読み取った自動車などの3Dモデルデータを複数種類記憶できるようにして、ユーザによる操作で、描画して表示する際に、記憶した物品(自動車)から、好みの車種などの選択ができるようにしてもよい。
さらに、上述した実施の形態例では、端末装置100として、ネットワークインタフェース108が商品サーバ200との通信を実行して、アプリケーションプログラム取得処理や3Dモデルデータ取得処理を、カード11の読み取りの進行に従って随時行うようにした。これに対して、端末装置100は、図8に示すように、商品サーバ200とは通信を行わない構成とした上で、予めアプリケーションプログラムや3Dモデルデータを一括して所定のサーバからダウンロードして記憶部104に記憶させておく。そして、カード11の表面11aの自動車などを読み取らせて画像認識を行うことで、事前に記憶部104に記憶された、カードに印刷されたものと同じ形式の自動車などの3Dモデルデータを読み出して3Dモデルの描画を実行して、実画像上に重畳して表示してもよい。
このようにすることで、無線通信を行う環境がない状況でも、上述した実施の形態例と同様なAR画像の提供処理が行えるようになる。
このようにすることで、無線通信を行う環境がない状況でも、上述した実施の形態例と同様なAR画像の提供処理が行えるようになる。
11…カード、11a…表面、11b…裏面、12…画像印刷領域、13…車名印刷領域、14,15…アドレス印刷領域、16…操作手順説明領域、100…端末装置、101…CPU、101a…モデル画像生成部、102…ROM、103…RAM、104…記憶部、105…表示部、105a…画面、106…モーションセンサ、107…カメラ、108…ネットワークインタフェース、109…音声入出力部、200…商品情報サーバ、301,302…ボタン
Claims (7)
- AR画像提供媒体と、端末装置とで構成されるAR画像表示システムであり、
前記AR画像提供媒体は、
商品についての画像が印刷された画像印刷領域と、
前記商品の3Dモデルデータを表示するためのアプリケーションプログラムが保存されたサイトのアドレスのコードが印刷されたアドレス印刷領域と、を有し、
前記端末装置は、
前記アドレス印刷領域に印刷されたコードを読み取って取得した前記アドレスに接続して、前記アプリケーションプログラムを取得すると共に、取得した前記アプリケーションプログラムの実行で、前記画像印刷領域に印刷された商品を読み取って画像解析した結果に基づいて前記商品の3Dモデルデータを取得するデータ取得処理部と、
前記データ取得処理部が取得した前記3Dモデルデータを描画してAR画像を得るモデル画像生成部と、
前記モデル画像生成部が生成した前記AR画像を、カメラが撮影した画像に重畳する画像重畳部と、
前記画像重畳部で前記AR画像が重畳された画像を表示する表示部と、を有する
AR画像表示システム。 - 前記商品は、複数の配色が存在し、
前記表示部には、前記AR画像で表示された商品の配色を指示する操作ボタンが表示され、
前記モデル画像生成部は、前記表示部に表示された操作ボタンの選択操作に基づいて、前記AR画像を描画する際の配色を、指示された配色に変更する
請求項1に記載のAR画像表示システム。 - 前記商品は自動車であり、
前記画像重畳部は、カメラが撮影した画像内の地面を検出して、その検出した地面上に前記自動車が配置されるように前記AR画像を重畳する
請求項1または2に記載のAR画像表示システム。 - 前記AR画像提供媒体はカードであり、
前記カードの表面に前記画像印刷領域を有し、
前記カードの裏面に前記アドレス印刷領域を有する
請求項1〜3のいずれか1項に記載のAR画像表示システム。 - 前記3Dモデルデータは、前記画像印刷領域に印刷された商品を読み取って画像解析する処理を省略して、前記アドレス印刷領域に印刷されたコードを読み取ることで、前記アプリケーションプログラムと同時に取得されるようにした
請求項1〜4のいずれか1項に記載のAR画像表示システム。 - AR画像提供媒体に印刷されたサイトのアドレスを読み取ってアクセスすることで、前記AR画像提供媒体に印刷された商品の3Dモデルデータを表示するためのアプリケーションプログラムを取得するアプリケーションプログラム取得処理と、
前記アプリケーションプログラム取得処理で取得した前記アプリケーションプログラムの実行で、前記AR画像提供媒体に印刷された商品を読み取って画像解析した結果に基づいて前記商品の3Dモデルデータを取得する3Dモデルデータ取得処理と、
前記3Dモデルデータ取得処理で取得した前記3Dモデルデータを描画してAR画像を得るモデル画像生成処理と、
前記モデル画像生成処理で生成した前記AR画像を、カメラが撮影した画像に重畳する画像重畳処理と、
前記画像重畳処理により前記AR画像が重畳された画像を表示する表示処理と、を含む
AR画像提供方法。 - AR画像の表示処理をコンピュータに実行させるプログラムであり、
AR画像提供媒体に印刷されたサイトのアドレスを読み取ってアクセスすることで、前記AR画像提供媒体に印刷された商品の3Dモデルデータを表示するためのアプリケーションプログラムを取得するアプリケーションプログラム取得手順と、
前記アプリケーションプログラム取得手順で取得した前記アプリケーションプログラムの実行で、前記AR画像提供媒体に印刷された商品を読み取って画像解析した結果に基づいて前記商品の3Dモデルデータを取得する3Dモデルデータ取得手順と、
前記3Dモデルデータ取得手順で取得した前記3Dモデルデータを描画してAR画像を得るモデル画像生成手順と、
前記モデル画像生成手順で生成した前記AR画像を、カメラが撮影した画像に重畳する画像重畳手順と、
前記画像重畳手順により前記AR画像が重畳された画像を表示する表示手順と、をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019217889A JP2021089461A (ja) | 2019-12-02 | 2019-12-02 | Ar画像表示システム、ar画像提供方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019217889A JP2021089461A (ja) | 2019-12-02 | 2019-12-02 | Ar画像表示システム、ar画像提供方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021089461A true JP2021089461A (ja) | 2021-06-10 |
Family
ID=76220103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019217889A Pending JP2021089461A (ja) | 2019-12-02 | 2019-12-02 | Ar画像表示システム、ar画像提供方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021089461A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114882773A (zh) * | 2022-05-24 | 2022-08-09 | 华北电力大学(保定) | 一种基于Augmented Reality的磁场学习系统 |
-
2019
- 2019-12-02 JP JP2019217889A patent/JP2021089461A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114882773A (zh) * | 2022-05-24 | 2022-08-09 | 华北电力大学(保定) | 一种基于Augmented Reality的磁场学习系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180336734A1 (en) | Augmented Reality System, Method, and Apparatus for Displaying an Item Image in a Contextual Environment | |
JP5280475B2 (ja) | 情報処理システム、情報処理方法及びプログラム | |
JP4032776B2 (ja) | 複合現実感表示装置及び方法、記憶媒体、並びにコンピュータ・プログラム | |
US20190012717A1 (en) | Appratus and method of providing online sales information of offline product in augmented reality | |
CN109360275B (zh) | 一种物品的展示方法、移动终端及存储介质 | |
JP2016197342A (ja) | 拡張現実プログラム、拡張現実提供方法、拡張現実提供装置、及び情報配信方法 | |
US10282904B1 (en) | Providing augmented reality view of objects | |
JP2018500626A (ja) | ホログラム商品自動販売機 | |
US20140241586A1 (en) | Information retaining medium and information processing system | |
CN114153548A (zh) | 一种展示方法、装置、计算机设备及存储介质 | |
WO2022259253A1 (en) | System and method for providing interactive multi-user parallel real and virtual 3d environments | |
JP2021089461A (ja) | Ar画像表示システム、ar画像提供方法及びプログラム | |
US20150222781A1 (en) | Information provision apparatus, information provision method, and program | |
JP5493026B1 (ja) | 商品又はサービスの購入支援装置、購入支援方法及びプログラム | |
JP6510116B2 (ja) | 仮想オブジェクトの表示システムを用いた顧客把握システム、顧客把握システムプログラム及び顧客把握方法 | |
JP2020149733A (ja) | 鑑賞システム、モデル構成装置、制御方法、プログラム及び記録媒体 | |
JP2024014682A (ja) | ブロックオブジェクトの設計図を出力する方法 | |
JP2021166091A (ja) | 画像処理装置、画像処理方法、コンピュータプログラム | |
CN113256381A (zh) | 基于全景技术的购物商城系统及商品购买方法 | |
CN113345110A (zh) | 特效展示方法、装置、电子设备及存储介质 | |
JP2005184624A (ja) | 商品販売・管理方法、商品販売・管理システムおよびサーバ | |
JP2012146214A (ja) | 写真画像データの作成方法及びそれを利用したインターネット接続環境における商品販売促進システム | |
JP2016071525A (ja) | 商品取引システム、商品取引方法、及び商品取引プログラム | |
JP2002109307A (ja) | シミュレーションシステムとシミュレーション方法及びコンピュータ読み取り可能な記録媒体 | |
JP7445048B1 (ja) | プログラム及びゲーム装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191211 |