JP6570161B1 - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム Download PDF

Info

Publication number
JP6570161B1
JP6570161B1 JP2019523897A JP2019523897A JP6570161B1 JP 6570161 B1 JP6570161 B1 JP 6570161B1 JP 2019523897 A JP2019523897 A JP 2019523897A JP 2019523897 A JP2019523897 A JP 2019523897A JP 6570161 B1 JP6570161 B1 JP 6570161B1
Authority
JP
Japan
Prior art keywords
image
background image
image processing
layer
real estate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019523897A
Other languages
English (en)
Other versions
JPWO2019088273A1 (ja
Inventor
英起 多田
英起 多田
亮介 稲森
亮介 稲森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NURVE, INC.
Original Assignee
NURVE, INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NURVE, INC. filed Critical NURVE, INC.
Application granted granted Critical
Publication of JP6570161B1 publication Critical patent/JP6570161B1/ja
Publication of JPWO2019088273A1 publication Critical patent/JPWO2019088273A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics

Abstract

2次元の背景画像に対し、家具等のオブジェクトの3Dモデルを自在に且つ違和感なく合成することができる画像処理装置等を提供する。画像処理装置は、不動産物件の間取図上におけるオブジェクトの配置箇所を設定する配置設定部と、背景画像として取得された天球画像によって囲まれる3D空間において、間取図上のオブジェクトの配置箇所に対応するオブジェクト位置を推定する3D位置推定部と、オブジェクト位置に3Dモデルを配置することにより生じる影を生成する影生成部と、3D空間の中心を投影中心として3Dモデルを背景画像と同じ天球面上に投影した像をレンダリングした第1のレイヤーを生成するオブジェクトレイヤー生成部と、3D空間の中心を投影中心として上記影を天球面上に投影した像をレンダリングした第2のレイヤーを生成する影レイヤー生成部と、背景画像に第2及び第1のレイヤーを合成する画像合成部とを備える。

Description

本発明は、被写体を撮影して得られた背景画像にオブジェクトの画像を合成する画像処理装置、画像処理方法、及び画像処理プログラムに関する。
近年、不動産業界においては、売買取引の際に行われるホームステージングと呼ばれるサービスが知られるようになっている。ホームステージングとは、戸建てやマンション等の不動産物件の売却を促進するために、不動産物件に対してインテリアコーディネートを施すサービスのことである。具体的には、購入者のターゲット層や流行、物件の特徴などを考慮して選択された家具や調度品、小物などを配置する。購入希望者(検討中を含む)は、ホームステージングが適用された物件を内覧することで、当該物件に住んだ状態をイメージし易くなるため、売却が円滑に進み易いと言われている。
他方、最近では、仮想現実(バーチャルリアリティ、以下VRとも記す)技術を利用して不動産物件の内覧させるサービスも行われている。VRの画像表示は、通常、ヘッドマウントディスプレイ(以下、「HMD」とも記す)と呼ばれるメガネ型又はゴーグル型の表示装置において行われる。HMDには、視差が設けられた2つの画像が表示される画面と、ユーザの両眼の視線方向にそれぞれ設置された2つのレンズとが内蔵されており、ユーザは、これらのレンズを介して画面を見ることにより、画像を立体的に認識することができる。また、HMDにはジャイロセンサや加速度センサが内蔵されており、これらのセンサによって検出したユーザの頭部の動きに応じて、画面に表示される画像が変化する。それにより、ユーザは、あたかも立体的な画像の中に入り込んだような体験をすることができる。
不動産物件のインテリアのシミュレーションに関する技術として、特許文献1には、間取図画像や室内撮影写真等を含む物件情報から不動産物件の3Dモデルを生成し、生成した3Dモデルを元にバーチャルリアリティでの室内の閲覧や、インテリアのシミュレーションなど行う技術が開示されている(特許文献1の段落0015参照)。詳細には、事前準備された3D家具モデルのスケールを調整して、物件の3Dモデルに配置する(特許文献1の段落0070参照)。
また、実写の背景画像と三次元CGオブジェクトとの合成画像データを生成する技術に関して、特許文献2には、2つ以上の視点からなる環境マップデータから周辺環境の三次元形状データを生成する周辺環境三次元形状データ生成手段と、周辺環境三次元形状データを光源として、仮想被写体を背景画像データに合成する仮想被写体合成手段と、を備える画像処理装置が開示されている。
また、特許文献3には、前景用画像、当該前景用画像の背景となる背景用画像、当該背景用画像の奥行きを示す奥行き情報を記憶する記憶手段と、前景用画像の背景用画像上の合成位置を取得する合成位置取得手段と、背景用画像の奥行き情報から生成した空間の座標を背景用画像の座標に投影する投影手段と、投影手段による投影情報及び合成位置から合成位置の空間座標を取得する空間座標取得手段と、背景用画像を撮影した位置から見た光源の位置及び照度の情報を保持する光源パラメータ及び合成位置の空間座標から、光源と合成位置の空間座標との距離、又は合成位置の空間座標から見た光源の照度を算出する算出手段と、合成位置の空間座標及び算出した値に応じて、光源パラメータを変更する光源パラメータ変更手段と、光源パラメータを用いて、前景用画像にライティング効果を施すライティング手段と、ライティング手段によってライティング効果を施された前景用画像を、背景画像の合成位置に合成する合成手段と、を有する映像処理装置が開示されている。
また、不動産業者向けのサービスとして、非特許物件1には、株式会社リコー製のデジタルカメラ(製品名:THETA)を用いて不動産物件を撮影することにより360°画像(天球画像)し、VR用のコンテンツに加工して不動産業者に提供するサービスが開示されている。
特許第6116746号公報 特開2013−152683号公報 特開2013−149219号公報
株式会社リコー、"撮影・オーサリングサービス THETA360.biz"、[online]、[平成29年10月17日検索]、インターネット<URL: https://theta360.biz/ja/services/authoring/>
VRにより利用可能なホームステージングのコンテンツを提供する手法として、不動産物件の3次元的な背景モデルに、家具等のオブジェクトの3次元モデルを配置する手法を用いる場合、3Dデータの構築(レンダリング)に多くの計算コストを要し時間がかかると共に、データを表示する際にも多くの計算コストを要する。そのため、高スペックな機材が必要となり、ホームステージングのコンテンツを手軽に利用することが困難となってしまう。
VRにより利用可能なホームステージングのコンテンツをより簡易的に作成する手法として、実在する被写体を写した2次元の背景画像に対し、3次元モデル(家具モデル)を合成することも考えられる。しかしながら、2次元の背景画像と3次元モデルとでは、コンピュータグラフィックス空間における位置が異なっているため、背景画像に対して家具が浮いているように見えたり、奥行きが異なって見えたりするなど、コンテンツを利用するユーザにとって違和感が生じ易く、2次元の背景画像に3次元モデルを自在に配置することは困難である。
本発明は上記に鑑みてなされたものであって、2次元の背景画像に対し、家具等のオブジェクトの3次元モデルを自在に、且つ違和感なく合成することができる画像処理装置、画像処理方法、及び画像処理プログラムを提供することを目的とする。
上記課題を解決するために、本発明の一態様である画像処理装置は、不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理装置であって、前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定する配置設定部と、前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定する3D位置推定部と、前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成する影生成部と、前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するオブジェクトレイヤー生成部と、前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成する影レイヤー生成部と、前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成する画像合成部と、を備えるものである。
上記画像処理装置は、前記間取図の画像を表示する表示部と、ユーザによりなされる操作を受け付ける操作入力部と、をさらに備え、前記配置設定部は、前記操作入力部が受け付けた、前記表示部に表示された前記間取図の画像に対する操作に基づいて、前記配置箇所を設定しても良い。
上記画像処理装置において、前記影生成部は、前記背景画像に基づいて光源を設定し、該光源に基づいて前記3次元モデルの影を生成しても良い。
上記画像処理装置において、前記3D位置推定部は、前記間取図における各部の寸法に基づいて、前記オブジェクト位置を推定しても良い。
上記画像処理装置において、前記3D位置推定部は、前記配置箇所の近傍に位置する被写体の距離及び寸法に基づいて、前記オブジェクト位置を推定しても良い。
上記画像処理装置において、前記3D位置推定部は、前記背景画像から計測された被写体の距離及び寸法に基づいて撮影点を取得し、該撮影点に基づいて前記オブジェクト位置を推定しても良い。
上記画像処理装置において、前記3D位置推定部は、実測された被写体の距離及び寸法に基づいて撮影点を取得し、該撮影点に基づいて前記オブジェクト位置を推定しても良い。
本発明の別の態様である画像処理方法は、不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理方法であって、前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定するステップと、前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定するステップと、前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成するステップと、前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するステップと、前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成するステップと、前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成するステップと、を含むものである。
本発明のさらに別の態様である画像処理プログラムは、不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理プログラムであって、前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定するステップと、前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定するステップと、前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成するステップと、前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するステップと、前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成するステップと、前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成するステップと、をコンピュータに実行させるものである。
本発明によれば、間取図上におけるオブジェクトの配置箇所に対応する3次元グラフィックス空間におけるオブジェクト位置を推定し、このオブジェクト位置にオブジェクトの3次元モデルを配置した場合の3次元モデルの像及び3次元モデルの影の像をそれぞれレンダリングしたレイヤーを生成し、これらのレイヤーを背景画像に合成するので、2次元の背景画像に対し、家具等のオブジェクトの3次元モデルを自在に、且つ違和感なく合成することが可能となる。
本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図である。 図1に示す画像処理装置が実行する画像合成処理を説明するための模式図である。 図1に示す画像処理装置が実行する画像合成処理を説明するための模式図である。 本発明の第1の実施形態に係る画像処理方法を示すフローチャートである。 背景画像の被写体の一例である不動産物件の間取図である 図3に示す位置推定処理を示すフローチャートである。 3Dモデルの位置推定処理を説明するための模式図である。 3Dモデルの位置推定処理を説明するための模式図である。 3Dモデルの位置推定処理を説明するための模式図である。 図3に示す画像処理を説明するための模式図である。 本発明の第2の実施形態における位置推定処理を示すフローチャートである。 背景画像の被写体の一例である不動産物件の間取図である。 図10に示す位置推定処理を説明するための模式図である。 図10に示す位置推定処理を説明するための模式図である。 図10に示す位置推定処理を説明するための模式図である。 図10に示す位置推定処理を説明するための模式図である。 本発明の第3の実施形態に係る画像処理方法を示すフローチャートである。 背景画像の被写体の一例である不動産物件の間取図である。 本発明の第3の実施形態における画像処理方法を説明するための模式図である。 本発明の第1〜第3の実施形態に係る画像処理装置が適用されるシステムの構成例を示すネットワーク図である。 本発明の第1〜第3の実施形態に係る画像処理装置が適用されるシステムの別の構成例を示す模式図である。
以下、本発明の実施形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これらの実施形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
本発明の実施形態に係る画像処理装置は、不動産物件が写った天球画像を背景画像とし、この背景画像に対して、家具や調度品等のオブジェクトの3次元モデル(3Dモデル)の像を合成する画像処理を実行することにより、あたかも不動産物件に上記オブジェクトを配置して撮影を行ったかのような画像を生成するものである。
背景画像として使用される天球画像は、360°画像、全天球画像、全方位画像などとも呼ばれ、撮影箇所の周囲ほぼ360°の被写体が写った画像のことである。背景画像(天球画像)は、静止画であっても良いし、動画であっても良い。
本画像処理装置においては、仮想的に透明な床を背景画像上に配置し、この床に3Dモデルの影を投射することで、3Dモデルの実在感を高めている。また、背景画像を光源として3Dモデルをライティングすることで違和感を軽減している。
ここで、不動産物件の背景を含めた画像全体を3次元CGで構成するには、描画ごとにレンダリングが必要となり、この処理を実行するためには多くの計算コストがかかるため、高スペックな機材が必要であった。しかし、本実施形態に係る画像処理装置においては、2次元の背景画像に、仮想的に配置されるオブジェクトの3Dモデルを合成するため、計算コストはそれほどかからない。
また、本画像処理装置においては、2次元の背景画像の射影に合わせて、オブジェクトの3Dモデルのデータをレンダリングするので、奥行きのズレがなく、違和感なく表示することができる。
このようにして背景画像に3Dモデルを合成したコンテンツを提示することにより、不動産物件の購入や賃借を検討している顧客は、不動産物件における家具等のコーディネートを、画面上で納得いくまで試すことができる。従って、コストをそれほどかけることなく、不動産物件の購入や賃借の取引を促進することが可能となる。
以下、本発明の実施形態に係る画像処理装置について、詳細に説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態に係る画像処理装置の概略構成を示すブロック図である。図2A及び図2Bは、図1に示す画像処理装置が実行する画像合成処理を説明するための模式図である。このうち、図2Aは、不動産物件の間取図を示す。また、図2Bは、該不動産物件のリビングルーム(図2A参照)において撮影を行うことにより取得した背景画像(天球画像)に、ソファ及びローテーブル、タンス、並びに絵の3Dモデルを合成した画像の一部を示す。図2Bに示すように、ソファ及びローテーブル、タンス、並びに絵の各オブジェクトは、配置に応じた奥行き感が再現されているため、あたかもリビングルームに各オブジェクトを実際に配置して撮影を行ったかのように、背景画像に対して違和感なく表示されている。
図1に示すように、画像処理装置10は、通信インタフェース11と、表示部12と、操作入力部13と、記憶部14と、プロセッサ15とを備える。このような画像処理装置10としては、汎用のコンピュータを用いることができる。
通信インタフェース11は、画像処理装置10を通信ネットワークに接続し、通信ネットワークに接続された他の機器との間で情報の送受信を行う。通信インタフェース11は、例えばソフトモデム、ケーブルモデム、無線モデム、ADSLモデム、ONU(Optical Network Unit)等を用いて構成される。通信インタフェース11は、全天球カメラにより生成された画像データや、3Dモデルのデータ等を当該画像処理装置10に取り込むデータ取得部としても機能する。
表示部12は、液晶又は有機EL(エレクトロルミネッセンス)によって形成された表示パネル及び駆動部を含むディスプレイである。
操作入力部13は、操作ボタン、キーボード、マウス等のポインティングデバイス、表示部12上に設けられたタッチセンサ等の入力デバイスであり、ユーザによりなされる操作を受け付け、該操作に応じた信号をプロセッサ15に入力する。
記憶部14は、例えばROMやRAMといった半導体メモリ等のコンピュータ読取可能な記憶媒体である。記憶部14は、プログラム記憶部141と、背景画像データ記憶部142と、間取図データ記憶部143と、3Dデータ記憶部144と、合成画像データ記憶部145とを含み、オペレーティングシステムプログラム及びドライバプログラム、各種機能を実行するアプリケーションプログラムや、これらのプログラムの実行中に使用される各種パラメータや画像データ等を記憶する。
詳細には、プログラム記憶部141は、画像処理プログラム等の各種プログラムを記憶する。
背景画像データ記憶部142は、不動産物件を撮影することにより背景画像として取得された天球画像の画像データ(以下、背景画像データともいう)を記憶する。
間取図データ記憶部143は、不動産物件の間取図の画像データ(以下、間取図データともいう)を記憶する。
3Dデータ記憶部144は、不動産物件に仮想的に配置される家具等のオブジェクトの3Dモデルを表すデータ(以下、3Dデータともいう)、及び、関連するパラメータ(例えば、テクスチャを表すパラメータ等)を記憶する。3Dデータは、当該画像処理装置10において生成されたものであっても良いし、他の機器において生成されたものを通信ネットワークNを介して取得したものであっても良い。
合成画像データ記憶部145は、背景画像に対して3Dモデルの像を合成した合成画像の画像データ(以下、合成画像データともいう)を記憶する。
プロセッサ15は、例えばCPU(Central Processing Unit)やGPU(Graphics Processing Unit)を用いて構成され、プログラム記憶部141に記憶された各種プログラムを読み込むことにより、画像処理装置10の各部を統括的に制御すると共に、不動産物件が写った背景画像に家具等のオブジェクトの画像を合成するための各種処理を実行する。詳細には、プロセッサ15が画像処理プログラムを実行することにより実現される画像処理部150の機能には、配置設定部151と、3D位置推定部152と、オブジェクトレイヤー生成部153と、影生成部154と、影レイヤー生成部155と、画像合成部156とが含まれる。
配置設定部151は、操作入力部13から入力される信号に従って、不動産物件に仮想的に配置されるオブジェクトの間取図における配置箇所を設定する。
3D位置推定部152は、天球状の背景画像によって囲まれ、撮影点を天球の中心点と対応づけた3次元グラフィックス空間(以下、3D空間ともいう)において、間取図におけるオブジェクトの配置箇所に対応する位置(以下、オブジェクト位置ともいう)を推定する。
オブジェクトレイヤー生成部153は、オブジェクトの3Dモデルを3D空間内の上記オブジェクト位置に配置した場合に、3Dモデルを3D空間の中心から見た像を、背景画像と同じ天球面上に設けられるレイヤーにレンダリングする。即ち、3D空間の中心を投影中心として、3Dモデルを天球面上に投影した像を生成する。以下、3Dモデルの像がレンダリングされたレイヤーのことを、オブジェクトレイヤー(第1のレイヤー)という。
影生成部154は、3D空間内の上記オブジェクト位置に配置された3Dモデルによって生じる影を生成する。詳細には、影生成部154は、背景画像に基づいて光源を設定するイメージベースドライティング(Image Based Lighting)処理を実行し、設定した光源に基づいて3Dモデルの影を生成する。イメージベースドライティングとは、実在する被写体を撮影した画像をライティングの色情報として使用し、シーンをレンダリングする手法のことである。
影レイヤー生成部155は、影生成部154により生成された影を3D空間の中心から見た像を、背景画像と同じ天球面上に設けられるレイヤーにレンダリングする。即ち、3D空間の中心を投影中心として、3Dモデルの影を天球面上に投影した像を生成する。以下、影の像がレンダリングされたレイヤーのことを、影レイヤー(第2のレイヤー)という。
画像合成部156は、背景画像に影レイヤー及びオブジェクトレイヤーをこの順に重畳することにより、背景画像にオブジェクトの3Dモデルの像が合成された合成画像を生成する。
次に、本実施形態に係る画像処理方法を説明する。
本実施形態における画像処理の概要は以下のとおりである。即ち、合成対象の背景画像(天球画像)と、影用の透明な天球画像のレイヤー(影レイヤー)と、家具等のオブジェクトの3Dモデル用の透明な天球画像のレイヤー(オブジェクトレイヤー)との、計3層の天球画像を用意する。背景画像は、不動産物件の現場で全天球カメラなどを用いて撮影を行うことにより取得されたものである。なお、背景画像に重ねるレイヤーは上記2つのレイヤーに加え、適宜増やしても良い。
次に、これらの天球画像によって囲まれる3次元グラフィックス空間(3D空間)内に、オブジェクトの3Dモデルを配置する。そして、3Dモデルに影をつけるため、イメージベーストライティングにより、背景画像に基づく光源を設定する。
次に、3D空間の原点(天球の中心)に、天球画像をレンダリングするためのカメラを配置する。言い換えると、3D空間の中心から3Dモデルやその影を見る視点(投影中心)を設定する。
次に、3D空間に3Dモデルを配置した場合に、背景画像に基づいて設定された光源により生じる影の像をレンダリングし、影レイヤーに貼り付ける。また、3D空間に3Dモデルを配置した場合の該3Dモデルの像をレンダリングし、オブジェクトレイヤーに貼り付ける。このような背景画像、影レイヤー、及びオブジェクトレイヤーを重畳することにより、背景画像にオブジェクトが違和感なく合成された合成画像を得ることができる。
以下、このような画像処理について、具体例を示しながら詳細に説明する。図3は、本実施形態に係る画像処理方法を示すフローチャートである。図4は、背景画像の被写体の一例である不動産物件の間取図である。本実施形態においては、図4に示す間取図上の撮影点P0に対応する位置に全天球カメラを設置して不動産物件内を撮影することにより、静止画又は動画の天球画像を生成し、この天球画像を背景画像として3Dモデルを合成するものとして説明する。
まず、ステップS10において、画像処理部150は、3Dモデルを合成するための背景画像を取得する。本実施形態において、画像処理部150は、背景画像データ記憶部142に記憶されている背景画像データを読み出すことにより背景画像を取得する。
続くステップS11において、画像処理部150は、背景画像に合成する3Dモデルを表すデータ(3Dデータ)を取得する。詳細には、画像処理部150は、3Dデータ記憶部144に3Dデータが格納されている3Dモデルを表す名称やアイコン等を表示部12に表示させ、ユーザに所望の3Dモデルを選択させる。そして、画像処理部150は、ユーザによる操作に応じて操作入力部13から入力された信号に従い、選択された3Dモデルを表す3Dデータを3Dデータ記憶部144から読み出す。
続くステップS12において、画像処理部150は、背景画像に合成する3Dモデルに関するパラメータを取得する。詳細には、3Dモデルの各座標を曲線や曲面等の関数で表示するためのパラメータや、テクスチャマッピング等の処理で用いられるパラメータなどを3Dデータ記憶部144から読み出す。
続くステップS13において、画像処理部150は、図4に示す間取図におけるオブジェクトの配置箇所に対応する3D空間における3Dモデルの位置を推定する。
図5は、ステップS13における位置推定処理を示すフローチャートである。また、図6〜図8は、3Dモデルの位置推定処理を説明するための模式図である。このうち、図6は、三脚に取り付けた全天球カメラ20を床面上に設置した状態を示している。図7は、全天球カメラ20により不動産物件を撮影することにより得られた背景画像L1を、天球の中心点P0’を通る水平面でカットした状態を示している。図7に示す背景画像L1には、撮影点P0(図4参照)に設置された全天球カメラ20の視野に入る流し台、コンロ、壁、洋室のドア、和室の襖、浴室のドア、トイレのドア、玄関ドア等の像が写っている。図8は、同背景画像L1を、中心点P0’を通る垂直面でカットした状態を示している。図8に示す背景画像L1には、全天球カメラ20の視野に入る床面、壁、天井、玄関ドア等の像が写っている。
本実施形態においては、不動産物件における各部(間取図に示す各部屋や備品等)の寸法及び撮影点P0の座標(平面座標及び撮影点の高さ)が既知であり、これらの寸法及び座標に基づいて、3D空間における3Dモデルの位置を推定する。なお、図6に示すように、撮影点P0の高さは、三脚を含めた全天球カメラ20の高さhとして取得することができる。
まず、ステップS131において、配置設定部151は、間取図上でオブジェクトの配置を決定する。詳細には、配置設定部151は、不動産物件の間取図を表示部12に表示させ、家具等のオブジェクトを配置したい場所を間取図上でユーザに指定させる。そして、配置設定部151は、ユーザによる操作に応じて操作入力部13から入力された信号に従い、間取図におけるオブジェクトの位置情報(座標)を取得する。以下においては、図4に示す間取図上の点P1が、ユーザ所望のオブジェクトの配置箇所として決定されたものとする。
続くステップS132において、3D位置推定部152は、背景画像L1を撮影した際の撮影点P0の位置を取得する。
続くステップS133において、3D位置推定部152は、間取図に基づいて、背景画像L1によって囲まれる3D空間における3Dモデルの位置を導出する。詳細には、3D位置推定部152は、撮影点P0を天球の中心点P0’と対応づけた3D空間を作成し、間取図における各部の位置や寸法を3D空間の座標に対応づける。それにより、間取図における点P1に対応する3D空間内の点P1’の座標を取得することができる。
このようにして3Dモデルの位置が推定されると、処理はメインルーチンに戻る。
再び図3を参照すると、ステップS13に続くステップS14において、画像処理部150は、ステップS13において推定された3D空間の位置に3Dモデルを配置する。図9は、図3に示す画像処理を説明するための模式図であり、背景画像L1によって囲まれる3D空間にソファの3Dモデルa11を配置した状態を示している。
続くステップS15において、影生成部154は、光源及びマテリアルを設定する。詳細には、影生成部154は、背景画像L1に基づいて、イメージベースドライティングにおけるライトプローブ画像を生成すると共に、3Dモデルのマテリアル(表面の反射特性など)を設定する。ここで、ライトプローブ画像とは、全方位における入射照明条件を記録するハイダイナミックレンジ画像のことである。
続くステップS16において、影生成部154は、ステップS15において設定された光源及びマテリアルに基づいて、3D空間に配置された3Dモデルの影を生成する。即ち、生成したライトプローブ画像を用いてレンダリングを行う。これにより、3D空間において3Dモデルを遮蔽物とした影が生成されると共に、3Dモデルの表面にも背景画像L1に基づくライティングがなされる。図9には、光源a12により生じた3Dモデルa11の影a13が示されている。
続くステップS17において、影レイヤー生成部155は、3Dモデルの影の像がレンダリングされた影レイヤーを生成する。詳細には、影レイヤー生成部155は、ステップS16において生成された3Dモデルの影を、3D空間の中心点P0’を投影中心として、背景画像と同じ天球面上に位置する影レイヤーL2に投影する。図9には、背景画像L1の上層の影レイヤーL2に、影a13を投影した像の領域a14が示されている。なお、影レイヤーL2のうち、像の領域a14以外の領域は透明である。
続くステップS18において、オブジェクトレイヤー生成部153は、3Dモデルの像がレンダリングされたオブジェクトレイヤーを生成する。詳細には、オブジェクトレイヤー生成部153は、ステップS14において3D空間に配置され、さらに、ステップS16においてライティングされた3Dモデルを、3D空間の中心点P0’を投影中心として、背景画像と同じ天球面上に位置するオブジェクトレイヤーL3に投影する。図9には、影レイヤーL2の上層のオブジェクトレイヤーL3に、3Dモデルa11を投影した像の領域a15が示されている。なお、オブジェクトレイヤーL3のうち、像の領域a15以外の領域は透明である。
続くステップS19において、画像合成部156は、背景画像L1、影レイヤーL2、及び、オブジェクトレイヤーL3をこの順に重畳した合成画像を生成する。それにより、背景画像におけるユーザ所望の位置に3Dモデルの像が合成された画像が得られる。
このように生成された合成画像は、天球面を展開したパノラマ画像として表示しても良いし、VR用のコンテンツとして表示しても良い。
以上説明したように、本発明の第1の実施形態によれば、背景画像として取得された天球画像によって囲まれる3D空間において、間取図上で指定されたユーザ所望のオブジェクトの配置箇所に対応する位置を推定し、この位置にオブジェクトの3Dモデルを配置して、3Dモデルの像を天球面にレンダリングするので、背景画像に対してオブジェクトを自在に、且つ、位置やサイズの不整合を生じさせることなく配置することができる。
また、本発明の第1の実施形態によれば、背景画像に基づいて設定された光源により、3Dモデルの影を生成し、この影の像を天球面にレンダリングするので、違和感のない合成画像を生成することができる。
さらに、本発明の第1の実施形態によれば、背景画像に基づいて設定された光源により3Dモデルをライティングするので、よりリアルな合成画像を生成することができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。
本発明の第2の実施形態に係る画像処理装置の構成は全体として第1の実施形態(図1参照)と同様であり、3D位置推定部152が実行する3Dモデルの位置推定処理(図3のステップS13参照)が第1の実施形態と異なる。
図10は、本発明の第2の実施形態における位置推定処理を示すフローチャートである。図11は、背景画像の被写体の一例である不動産物件の間取図である。図12A〜図13Bは、本実施形態における位置推定処理を説明するための模式図である。このうち、図12Aは、全天球カメラ20により不動産物件を撮影している様子を示す側面図であり、図12Bは、該撮影によって得られた背景画像L1を、中心点P0’を通る垂直面でカットした状態を示している。図13Aは、全天球カメラ20により撮影を行っている様子を示す上面図であり、図13Bは、背景画像L1を、中心点P0’を通る水平面でカットした状態を示している。
本実施形態においては、不動産物件の各部の寸法や撮影点P0の平面座標が不明である場合における位置推定処理を説明する。この場合、以下に説明するように、ユーザ所望のオブジェクトの配置箇所の近傍に位置する家具や設備等の被写体を参照し、この被写体の寸法に基づいて、オブジェクト位置を推定する。以下、参照用に用いる被写体のことを参照オブジェクトという。
まず、ステップS231において、配置設定部151は、間取図上でオブジェクトの配置を決定する。オブジェクトの配置の決定処理は、第1の実施形態と同様である(図5のステップS131参照)。以下においては、図11に示す間取図上の点P2が、オブジェクトの配置箇所として決定されたものとする。
続くステップS232において、3D位置推定部152は、間取図におけるオブジェクトの配置箇所の近傍にある被写体を参照オブジェクトとして選択する。以下においては、図11に示す流し台が参照オブジェクト21として選択されたものとする。
続くステップS233において、3D位置推定部152は、背景画像L1に写った参照オブジェクト21がいっぱいに収まる視野領域の垂直画角及び水平画角を取得する。詳細には、図12B及び図13Bに示すように、参照オブジェクト21が写った領域a21を背景画像L1から抽出し、垂直画角α及び水平画角βを測定する。垂直画角αについては、床面から全天球カメラ20までの高さhに相当する領域を測定する。
続くステップS234において、3D位置推定部152は、背景画像L1によって囲まれ、間取図における撮影点P0を天球の中心点P0’に対応づけた3D空間を生成する。
続くステップS235において、3D位置推定部152は、3D空間における参照オブジェクト21の位置を推定する。なお、参照オブジェクト21の位置は、例えば参照オブジェクト21の中心点や撮影点P0から最短距離の点などの代表点によって表すことができる。具体例として、図12A及び図12Bに示すように、垂直画角αと撮影点P0の高さhとから、次式(1)により、撮影点P0から参照オブジェクト21の代表点までの距離d1を算出することができる。
1=h/tanα …(1)
また、図13A及び図13Bに示すように、水平画角βと距離d1とから、水平方向における参照オブジェクト21の位置を算出することができる。例えば、ある基準位置(例えば全天球カメラ20の正面のライン)から参照オブジェクト21の代表点までの距離x4は、次式(2)により求めることができる。
4=d1・sin(β/2) …(2)
続くステップS236において、3D位置推定部152は、3D空間における3Dモデルの位置を導出する。例えば、図11に示すように、参照オブジェクト21(流し台)にオブジェクトを並べるとした場合、3D空間においても、ステップS235において推定された参照オブジェクト21の位置の近傍(例えば、距離x4だけずらした位置)に3Dモデルを配置すれば良い。
その後、処理はメインルーチンに戻る。
以上説明したように、本発明の第2の実施形態によれば、撮影点P0の座標が不明の場合であっても、撮影点P0の高さhさえ既知であれば、3D空間おける3Dモデルの位置を推定することが可能となる。
ここで、ARのように、リアルタイムに撮影中の画像に3Dモデルを重ねる場合、撮影点の位置が既知であるため、3D空間における3Dモデルの位置を比較的容易に推定することができる。しかしながら、本実施形態によれば、撮影点の位置が不明な背景画像を用いる場合であっても、3D空間における3Dモデルの位置を適切に設定することが可能となる。
なお、上記実施形態においては、不動産物件に備えられた家具や設備を参照オブジェクトとして用いることとしたが、その代わりに、予め寸法がわかっているマーカーを参照オブジェクトとして不動産物件内に配置し、撮影を行っても良い。この場合、3D空間における参照オブジェクトの位置をより簡単に推定することができる。
(第3の実施形態)
次に、第3の実施形態について説明する。
本発明の第3の実施形態に係る画像処理装置の構成は全体として第1の実施形態(図1参照)と同様であり、3D位置推定部152が実行する3Dモデルの位置推定処理が、第1の実施形態と異なる。
図14は、本実施形態に係る画像処理方法を示すフローチャートである。図15は、背景画像の被写体の一例である不動産物件の間取図である。図16は、背景画像の一例を示す模式図であり、中心点P0’を通る水平面で背景画像L1をカットした状態を示している。本実施形態においては、不動産物件に配置された家具や内装などの被写体の距離(奥行き)や寸法の計測値に基づいて、不動産物件における撮影点P0を特定し、オブジェクト位置を推定する。
まず、ステップS30において、画像処理部150は、3Dモデルを合成するための背景画像を取得する。
続くステップS31において、画像処理部150は、背景画像L1に基づき、撮影点P0から複数箇所の被写体までの距離及び被写体の寸法を計測し、計測データを保存する。被写体の距離及び寸法の計測方法は、上記第2の実施形態において説明したものと同様である(図12A〜図13B参照)。距離及び寸法を計測する被写体の数は任意であるが、一例として、3箇所の被写体までの距離を計測することにより、水平面における撮影点P0の座標を特定することができる。
続くステップS32において、画像処理部150は、被写体の計測データを背景画像と関連づける。図16は、ステップS31において計測された距離d31〜d38や、水平面における寸法x31、x32、y31、y32が、背景画像L1と関連付けられた状態を示している。垂直面における寸法についても同様に、背景画像に関連付けられる。
続くステップS33において、画像処理部150は、背景画像L1に合成する3Dモデルを表す3Dデータを取得する。また、ステップS34において、画像処理部150は、背景画像L1に合成する3Dモデルに関するパラメータを取得する。ステップS33、34の処理は、それぞれ、図3に示すステップS11、S12と同様である。
続くステップS35において、画像処理部150は、間取図上でオブジェクトの配置を決定する。オブジェクトの配置の決定処理は、第1の実施形態と同様である(図5のステップS131参照)。以下においては、図15に示す間取図上の点P3が、オブジェクトの配置箇所として決定されたものとする。
続くステップS36において、画像処理部150は、背景画像L1を撮影した際の撮影点P0の位置を取得する。詳細には、3D位置推定部152が、ステップS31において計測された距離から(図15参照)、間取図における撮影点P0の座標を算出する。
続くステップS37において、画像処理部150は、背景画像L1に関連付けられた計測データに基づいて、背景画像L1によって囲まれ、間取図における撮影点P0を天球の中心点P0’に対応づけた3D空間を生成する。
続くステップS38において、画像処理部150は、ステップS35において決定されたオブジェクトの配置に基づいて、3D空間に3Dモデルを配置する。詳細には、3D位置推定部152が、間取図における撮影点P0に対するオブジェクトの配置箇所(点P3)の座標を算出し、この配置箇所に対応する3D空間内の位置(図16の点P3’)を推定し、この位置に3Dモデルを配置する。
続くステップS39〜S43における処理は、それぞれ、図3に示すステップS15〜S19と同様である。
以上説明したように、本発明の第3の実施形態によれば、複数箇所の被写体の距離及び寸法を計測するので、間取図における撮影点P0を精度良く求めることができる。従って、間取図上で決定されたオブジェクトの配置箇所に対応する3D空間内の位置をより精度良く推定することができる。
次に、本発明の第3の実施形態の変形例について説明する。
上記第3の実施形態においては、被写体の距離及び寸法を背景画像から計測することとしたが(ステップS31参照)、距離及び寸法を撮影時に実測しても良い。詳細には、全天球カメラやスマートフォンに、距離計測用の補助ツールを取り付け、或いは、専用のアプリケーションを実行させて不動産物件の撮影を行うことにより、被写体まで距離や被写体の寸法を実測し、実測データを画像データに関連付けて保存しておく。この場合、不動産物件に対応する3D空間をより正確に再現することが可能となる。
以上説明した第1〜第3の実施形態においては、イメージベースドライティングにより背景画像に基づいて光源を設定したが、光源を設定する手法はこれに限定されず、公知の種々の手法を適用することができる。例えば、背景画像に写った光源(窓、照明装置等)を3D空間内に光源オブジェクトとして配置し、大域照明計算(ラジオシティ法、フォトンマッピング法等)を行うことにより、3Dモデルの影を生成しても良い。
図17は、本発明の第1〜第3の実施形態に係る画像処理装置が適用されるシステムの構成例を示すネットワーク図である。図17に示すシステム1は、画像処理装置(サーバ)30と、不動産管理端末31と、オブジェクト管理端末32と、画像表示端末33とを備え、これらの機器が通信ネットワークNを介して接続されている。通信ネットワークNとしては、例えばインターネット回線や電話回線、LAN、専用線、移動体通信網、WiFi(Wireless Fidelity)、ブルートゥース(登録商標)等の通信回線、又はこれらの組み合わせが用いられる。通信ネットワークNは、有線、無線、又はこれらの組み合わせのいずれであっても良い。
画像処理装置30は、演算処理能力の高いホストコンピュータによって構成され、システム1を統括的に管理するサーバとして機能すると共に、上記第1〜第3の実施形態において説明した画像処理を実行する。画像処理装置30を構成するコンピュータは、必ずしも1台である必要はなく、通信ネットワークN上に分散する複数のコンピュータから構成されてもよい。
不動産管理端末31は、不動産賃貸物件や不動産売買物件に関する情報を管理する。詳細には、不動産管理端末31は、不動産物件の所在地、所有者、賃貸又は売買条件といった取引に関する情報の他、不動産物件に関する画像データ(間取図データ及び背景画像データ)を格納する。間取図データ及び背景画像データは、不動産管理端末31から画像処理装置30にアップロードされ、画像処理に用いられる。
オブジェクト管理端末32は、背景画像に合成される家具等のオブジェクトに関する情報、即ち、オブジェクトを表す3Dモデルのデータ及びパラメータや、設定ファイルを作成すると共に、格納する。これらの情報は、オブジェクト管理端末32から画像処理装置30にアップロードされ、画像処理に用いられる。
画像表示端末33は、画像処理装置30により合成された画像を表示し、ユーザに閲覧させるための端末装置である。画像表示端末33は、2次元の静止画又は動画を表示することにより、3次元的な仮想空間(VR)をユーザに認識させる。画像表示端末33としては、ユーザの頭部に直接装着して用いられるゴーグル型の専用装置(所謂ヘッドマウントディスプレイ(HMD))を用いても良いし、汎用のスマートフォンに専用のアプリケーションをインストールしたものをゴーグル型のホルダーに取り付けて用いても良い。
画像表示端末33の内部には、ユーザの左右の眼に対応する位置に2つのレンズがそれぞれ取り付けられている。VRを再生する際には、画面に設けられた左右の2つの領域に、視差が設けられた2つの画像をそれぞれ表示させる。ユーザは、2つのレンズを通して左右の眼で2つの画像をそれぞれ見ることにより、画像を3次元的に認識(立体視)することができる。
もちろん、画像表示端末33としては、HMDに限定されず、タブレット端末や据置き型のディスプレイを用いても良い。この場合、背景画像に家具等のオブジェクトの3次元モデルを合成した画像を、パノラマ画像として表示しても良い。
このようなシステム1において、画像処理装置30は、不動産管理端末31からアップロードされた背景画像の画像データと、オブジェクト管理端末32からアップロードされた3Dモデルのデータ等とを用いて、背景画像に3Dモデルが合成された合成画像を生成し、合成画像の画像データを画像表示端末33に送信する。それにより、画像表示端末33に合成画像を表示させることができる。
なお、システム1においては、通信ネットワークNに種々の端末装置をさらに接続しても良い。例えば、ユーザに背景画像やこれに合成するオブジェクトを選択させたり、間取図におけるオブジェクトの配置箇所を指定させたりするために用いられる端末装置を別途設けても良い。また、画像表示端末33を複数設け、これらの画像表示端末33において同じコンテンツを同時に鑑賞できるようにしても良い。
図18は、本発明の第1〜第3の実施形態に係る画像処理装置が適用されるシステムの別の構成例を示す模式図である。図18において、太字の実線の矢印はダウンロードされるデータの流れを表し、破線の矢印はアップロードされるデータの流れを表す。
図18に示すシステム2は、画像処理装置(エディタ)40と、画像管理サーバ41と、オブジェクト管理装置42と、コンバータ43と、サービス管理装置44と、画像表示端末45とを備える。これらの各機器は、通信ネットワークを介して互いに接続されている。
画像処理装置(エディタ)40は、第1〜第3の実施形態において説明した画像処理を実行することにより、背景画像を加工したり編集したりするエディタとして機能する。
画像管理サーバ41は、システム2において用いられる画像を管理する。
オブジェクト管理装置42は、家具や調度品等のオブジェクトの3Dモデルを表すデータ及びテクスチャ等の関連情報(以下、これらをまとめて3Dファイルという)、並びに、家具等の配置情報が記述された設定ファイルを作成し又は外部から取り込んで格納する。なお、図18に示す「FBX」とは、3Dモデルを表すデータのファイル形式の一例である。ただし、本システムにおいて使用可能なファイル形式はこれに限定されない。
コンバータ43は、3Dモデルを表すデータを、画像処理装置40に読み込み可能であり、且つ、テクスチャ等の関連情報とまとめたファイルに変換する。
サービス管理装置44は、間取図データや背景画像データを格納する記憶部を備えると共に、間取図や背景画像を表示可能な画面を備え、間取図を画面に表示して家具等のオブジェクトの配置箇所をユーザに指定させたり、背景画像44aやオブジェクトの3Dモデルが合成された合成画像44bを画面に表示してユーザに提示したりするために用いられる。
画像表示端末45の構成は図17に示す画像表示端末33と同様であり、3Dモデルが背景画像に合成された合成画像をVRとしてユーザに閲覧させる際に用いられる。
このようなシステム2においては、まず、オブジェクト管理装置42が、家具等のオブジェクトの3Dモデルのデータを画像管理サーバ41にアップロードする。コンバータ43は、3Dモデルのデータを画像管理サーバ41からダウンロードし、3Dモデルやテクスチャ等をまとめたファイルに変換して、画像管理サーバ41にアップロードする。画像処理装置40は、このように変換されたファイルを画像管理サーバ41からダウンロードすると共に、設定ファイルをオブジェクト管理装置42からダウンロードし、さらに、背景画像データをサービス管理装置44からダウンロードする。そして、画像処理装置40は、3Dモデルを背景画像に合成するための各処理(照明の設定、マテリアルの調整など)を行い、作成した合成画像データのファイルを、サービス管理装置44にアップロードする。画像表示端末45は、合成画像データのファイルをサービス管理装置44からダウンロードし、該ファイルに基づいて合成画像、即ち、ホームステージングのコンテンツを再生する。
本発明は、上記第1〜第3の実施形態及び変形例に限定されるものではなく、上記第1〜第3の実施形態に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成することができる。例えば、上記第1〜第3の実施形態及び変形例に示した全構成要素からいくつかの構成要素を除外して形成しても良いし、上記第1〜第3の実施形態及び変形例に示した構成要素を適宜組み合わせて形成しても良い。
1、2 システム
10 画像処理装置
11 通信インタフェース
12 表示部
13 操作入力部
14 記憶部
15 プロセッサ
20 全天球カメラ
21 参照オブジェクト
30 画像処理装置(サーバ)
31 不動産管理端末
32 オブジェクト管理端末
33 画像表示端末
40 画像処理装置(エディタ)
41 画像管理サーバ
42 オブジェクト管理装置
43 コンバータ
44 サービス管理装置
45 画像表示端末
141 プログラム記憶部
142 背景画像データ記憶部
143 間取図データ記憶部
144 3Dデータ記憶部
145 合成画像データ記憶部
150 画像処理部
151 配置設定部
152 3D位置推定部
153 オブジェクトレイヤー生成部
154 影生成部
155 影レイヤー生成部
156 画像合成部

Claims (9)

  1. 不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理装置であって、
    前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定する配置設定部と、
    前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定する3D位置推定部と、
    前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成する影生成部と、
    前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するオブジェクトレイヤー生成部と、
    前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成する影レイヤー生成部と、
    前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成する画像合成部と、
    を備える画像処理装置。
  2. 前記間取図の画像を表示する表示部と、
    ユーザによりなされる操作を受け付ける操作入力部と、
    をさらに備え、
    前記配置設定部は、前記操作入力部が受け付けた、前記表示部に表示された前記間取図の画像に対する操作に基づいて、前記配置箇所を設定する、請求項1に記載の画像処理装置。
  3. 前記影生成部は、前記背景画像に基づいて光源を設定し、該光源に基づいて前記3次元モデルの影を生成する、請求項1又は2に記載の画像処理装置。
  4. 前記3D位置推定部は、前記間取図における各部の寸法に基づいて、前記オブジェクト位置を推定する、請求項1〜3のいずれか1項に記載の画像処理装置。
  5. 前記3D位置推定部は、前記配置箇所の近傍に位置する被写体の距離及び寸法に基づいて、前記オブジェクト位置を推定する、請求項1〜3のいずれか1項に記載の画像処理装置。
  6. 前記3D位置推定部は、前記背景画像から計測された被写体の距離及び寸法に基づいて撮影点を取得し、該撮影点に基づいて前記オブジェクト位置を推定する、請求項1〜3のいずれか1項に記載の画像処理装置。
  7. 前記3D位置推定部は、実測された被写体の距離及び寸法に基づいて撮影点を取得し、該撮影点に基づいて前記オブジェクト位置を推定する、請求項1〜3のいずれか1項に記載の画像処理装置。
  8. 不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理方法であって、
    前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定するステップと、
    前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定するステップと、
    前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成するステップと、
    前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するステップと、
    前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成するステップと、
    前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成するステップと、
    を含む画像処理方法。
  9. 不動産物件が写った背景画像に対し、前記不動産物件に仮想的に配置されるオブジェクトの画像を合成する画像処理プログラムであって、
    前記不動産物件の間取図上における前記オブジェクトの配置箇所を設定するステップと、
    前記不動産物件を撮影することにより背景画像として取得された天球画像によって囲まれる3次元グラフィックス空間において、前記間取図上における前記オブジェクトの配置箇所に対応する位置であるオブジェクト位置を推定するステップと、
    前記オブジェクト位置に前記オブジェクトの3次元モデルを配置することによって生じる影を生成するステップと、
    前記3次元グラフィックス空間の中心を投影中心として、前記オブジェクト位置に配置された前記3次元モデルを前記背景画像と同じ天球面上に投影した像をレンダリングすることにより、第1のレイヤーを生成するステップと、
    前記3次元グラフィックス空間の中心を投影中心として、前記影を前記天球面上に投影した像をレンダリングすることにより、第2のレイヤーを生成するステップと、
    前記背景画像に前記第2のレイヤー及び前記第1のレイヤーを合成するステップと、
    をコンピュータに実行させる画像処理プログラム。


JP2019523897A 2017-11-04 2018-11-02 画像処理装置、画像処理方法、及び画像処理プログラム Active JP6570161B1 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2017213359 2017-11-04
JP2017213359 2017-11-04
JP2018044281 2018-03-12
JP2018044281 2018-03-12
PCT/JP2018/040919 WO2019088273A1 (ja) 2017-11-04 2018-11-02 画像処理装置、画像処理方法、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP6570161B1 true JP6570161B1 (ja) 2019-09-04
JPWO2019088273A1 JPWO2019088273A1 (ja) 2019-11-14

Family

ID=66331929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019523897A Active JP6570161B1 (ja) 2017-11-04 2018-11-02 画像処理装置、画像処理方法、及び画像処理プログラム

Country Status (2)

Country Link
JP (1) JP6570161B1 (ja)
WO (1) WO2019088273A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022077148A (ja) * 2020-11-11 2022-05-23 株式会社リコー 画像処理方法、プログラムおよび画像処理システム
EP4319144A1 (en) 2021-03-30 2024-02-07 Gree, Inc. Information processing system, information processing method, and information processing program
CN113313814B (zh) * 2021-05-20 2022-09-02 广州美术学院 一种基于逆向建模及ar技术的室内设计系统及方法
JP6961157B1 (ja) * 2021-05-25 2021-11-05 株式会社x garden 情報処理システム、情報処理方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006053694A (ja) * 2004-08-10 2006-02-23 Riyuukoku Univ 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体
JP2015142320A (ja) * 2014-01-30 2015-08-03 株式会社バンダイナムコエンターテインメント 撮影印刷システム、サーバシステム及びプログラム
JP2017146762A (ja) * 2016-02-17 2017-08-24 株式会社Acw−Deep 画像表示型シミュレーションサービス提供システム及び画像表示型シミュレーションサービス提供方法
WO2017171005A1 (ja) * 2016-04-01 2017-10-05 株式会社wise 3dグラフィック生成、人工知能の検証・学習システム、プログラム及び方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006053694A (ja) * 2004-08-10 2006-02-23 Riyuukoku Univ 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体
JP2015142320A (ja) * 2014-01-30 2015-08-03 株式会社バンダイナムコエンターテインメント 撮影印刷システム、サーバシステム及びプログラム
JP2017146762A (ja) * 2016-02-17 2017-08-24 株式会社Acw−Deep 画像表示型シミュレーションサービス提供システム及び画像表示型シミュレーションサービス提供方法
WO2017171005A1 (ja) * 2016-04-01 2017-10-05 株式会社wise 3dグラフィック生成、人工知能の検証・学習システム、プログラム及び方法

Also Published As

Publication number Publication date
JPWO2019088273A1 (ja) 2019-11-14
WO2019088273A1 (ja) 2019-05-09

Similar Documents

Publication Publication Date Title
US10587864B2 (en) Image processing device and method
JP6570161B1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
US10873741B2 (en) Image processing apparatus and method
US20240112430A1 (en) Techniques for capturing and displaying partial motion in virtual or augmented reality scenes
JP4739002B2 (ja) 画像処理方法、画像処理装置
JP2023036602A (ja) 拡張された仮想現実
EP2786353B1 (en) Methods and systems for capturing and moving 3d models and true-scale metadata of real world objects
JP4804256B2 (ja) 情報処理方法
JP6627861B2 (ja) 画像処理システムおよび画像処理方法、並びにプログラム
US10547822B2 (en) Image processing apparatus and method to generate high-definition viewpoint interpolation image
TWI505709B (zh) 擴增實境場景中決定個體化深度資訊的系統和方法
Střelák et al. Examining user experiences in a mobile augmented reality tourist guide
US20160212406A1 (en) Image processing apparatus and method
CN103168309A (zh) 使用gps和dsm的2d到3d图像和视频转换
JP2016006627A (ja) 画像処理装置と画像処理方法
JP2022077148A (ja) 画像処理方法、プログラムおよび画像処理システム
JP2013008257A (ja) 画像合成プログラム
US20150138199A1 (en) Image generating system and image generating program product
JP7445348B1 (ja) 情報処理装置、方法、プログラム、およびシステム
JP2005339375A (ja) 追体験空間生成装置
Ohta et al. A photo-based augmented reality system with low computational complexity
Vanoni et al. Intuitive visualization of reflectance transformation imaging for interactive analysis of cultural artifacts

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190507

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190507

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190802

R150 Certificate of patent or registration of utility model

Ref document number: 6570161

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350