JP4777193B2 - 立体映像合成装置、形状データ生成方法およびそのプログラム - Google Patents
立体映像合成装置、形状データ生成方法およびそのプログラム Download PDFInfo
- Publication number
- JP4777193B2 JP4777193B2 JP2006244197A JP2006244197A JP4777193B2 JP 4777193 B2 JP4777193 B2 JP 4777193B2 JP 2006244197 A JP2006244197 A JP 2006244197A JP 2006244197 A JP2006244197 A JP 2006244197A JP 4777193 B2 JP4777193 B2 JP 4777193B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- stereoscopic video
- calculation unit
- position calculation
- calculated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- User Interface Of Digital Computer (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
また、ペンタイプの操作部を持ち、ペンを操作することで力覚や触覚を体験することができるフォースフィードバック装置や、腕に装着し、腕全体の力覚や手の触感を体験することができるハプティック装置などの力覚・触覚提示装置もある。
31は、左映像撮影装置100から入力された映像を受付けて、該映像から1フレームずつ抽出した左画像を出力する左映像データ入力部である。
32は、右映像撮影装置200から入力された映像を受付けて、該映像から1フレームずつ抽出した右画像を出力する右映像データ入力部である。
33は、左映像データ入力部31と右映像データ入力部32から受けた左画像および右画像それぞれにおけるマーカの位置を算出するマーカ画像位置算出部である。マーカ画像位置算出部33の詳細については後述する。
35は、予め用意し、立体映像合成装置の記憶部に格納していた形状データ36に対して、マーカ立体位置算出部34が算出した位置に平行移動させる変換を施すことにより、形状データ36の表す立体形状をマーカ立体位置算出部34が算出した位置に配置した形状データを生成する形状配置部である。なお、形状データのデータ形式は、力覚・触覚提示装置500に依存するが、3次元空間の特定の位置にある立体形状を表すポリゴンデータなどのデータである。
37は、形状配置部35により生成された形状データを力覚・触覚提示装置500に出力する形状出力部である。
これにより、マーカのような単純な被写体だけでなく、複雑な形状や色彩の物体を触感を提示する対象とすることができる。
立体映像合成部40は、画像配置部38により画像データ39が配置された左画像および右画像を合成して、立体映像表示装置400に合わせた形式の立体映像データを生成する。
41は、立体映像合成部40が生成した立体映像データを、立体映像表示装置400に出力する立体映像出力部である。
まず、マーカを検出するために色の赤、緑、青成分の上限値(Rmax、Gmax、Bmax)および下限値(Rmin、Gmin、Bmin)をユーザ操作により設定し、マーカ画像位置算出部33は、これらの値を記憶部に格納する(S1)。このステップS1は、左映像撮影装置100および右映像撮影装置200にて撮影して、立体映像合成装置300にて立体映像合成を行う前に、予め行っておく。
Rmin<Ri<Rmax ・・・・(1)
Gmin<Gi<Gmax ・・・・(2)
Bmin<Bi<Bmax ・・・・(3)
ステップS4にて、上限値および下限値の範囲内にあると判定されると、ステップS5に遷移して、マーカ画像位置算出部33は、このときのi番目の画素について、画像中における位置を記憶した後、ステップS6に遷移する。
ステップS6にて、iの値がImaxとなると、ステップS7に遷移し、マーカ画像位置算出部33は、ステップS6にて位置を記憶した画素のうち、画像中の位置が縦もしくは横に隣接しあうものをまとめたグループを生成する。ここで、任意の2画素が隣接しあうか否かの判定は、該2画素の横軸方向の位置が同じで縦軸方向の位置が1画素ずれているか、横軸方向の位置が1画素ずれていて縦軸方向の位置が同じであるかのいずれかの条件を満たしている場合は隣接しあうとすることで可能である。次に、マーカ画像位置算出部33は、ステップS7にて生成したグループのうち、面積が最大のもの、すなわち、画素数が最大のものをマーカであると判定して抽出し(S8)、抽出したマーカの重心の位置を、マーカを構成する画素の座標を平均することで算出して出力する(S9)。
Z=1/(XL−XR) ・・・・(4)
また、マーカ立体位置算出部34は、マーカ画像位置算出部33が算出した左画像および右画像におけるマーカ画像の重心位置の平均をとることで、立体映像の表示空間におけるマーカのX軸方向すなわち画像の横方向の座標およびY軸方向すなわち画像の縦方向の座標を算出する。
X=(XL+XR)/2=(80+50)/2=65 ・・・(5)
Y=(YL+YR)/2=(42+40)/2=41 ・・・(6)
Z=1/(XL−XR)=1/(80−50)=0.033 ・・・(7)
ここで、Z座標の値が、X座標、Y座標の値に比べて非常に小さな値となっているが、これは、(4)式により求められるZ座標の値が、X座標、Y座標とは異なる縮尺となっているためであり、所定の定数CをZ座標に乗じることで、これを調整する。また、Z軸方向の位置を強調するように、所定の定数Cの大きさを調整してもよい。
また、本実施形態の立体映像合成装置300は、特定の被写体としてマーカを用いることで、その場に実際に無い物体であっても立体映像および形状を視覚・力覚・触覚として提示することができるため、遠隔作業やアミューズメントなどの分野で特に効果的な利用が可能である。
また、この立体映像合成装置300には、周辺機器として入力装置、表示装置等(いずれも図示せず)が接続されるものとする。ここで、入力装置とはキーボード、マウス等の入力デバイスのことをいう。表示装置とはCRT(Cathode Ray Tube)や液晶表示装置等のことをいう。
クロマキー処理では、被写体を撮影する際に背景を特定の色のみとなるようにしておく。このようにして左映像撮影装置100と右映像撮影装置200とにて撮影した映像を立体映像合成装置300に入力する。マーカ画像位置算出部33においては、撮影する際に背景とした該特定の色を予め記憶しておき、左画像および右画像において該特定の色と色が一致しない画素を特定の被写体として抽出する。
一方、背景差分処理では、予め背景のみを左映像撮影装置100と右映像撮影装置200とにて撮影して取り込んだ左目用と右目用の背景画像をマーカ画像位置算出部33にて記憶しておき、左画像は左目用の背景画像と、右画像は右目用の背景画像と比較し、色が一致しない画素を特定の被写体として抽出する。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
200…右映像撮影装置
300…立体映像合成装置
400…立体映像表示装置
500…力覚・触覚提示装置
31…左映像データ入力部
32…右映像データ入力部
33…マーカ画像位置算出部
34…マーカ立体位置算出部
35…形状配置部
36…形状データ
37…形状出力部
38…画像配置部
39…画像データ
40…立体映像合成部
41…立体映像出力部
Claims (6)
- 左目の視点から見た左画像と右目の視点から見た右画像とから立体映像を合成する立体映像合成装置において、
前記左画像および前記右画像各々における特定の被写体の位置を算出する画像位置算出部と、
前記画像位置算出部が算出した前記左画像および前記右画像各々における位置に基づき、自装置が合成する立体映像の表示空間における前記特定の被写体の位置を算出する立体位置算出部と、
前記立体位置算出部が算出した表示空間における位置に、力覚、触覚を提示するためのデータであって、所定の形状データを配置する形状配置部と、
前記形状配置部が配置した形状データを、力覚・触覚提示装置に出力する形状出力部と
を備えることを特徴とする立体映像合成装置。 - 前記立体位置算出部は、前記画像位置算出部が算出した前記左画像における被写体の位置と前記右画像における被写体の位置との横軸方向の差を算出し、さらに前記算出した差の逆数を算出することで、前記画像に対する垂直方向の位置を求めることを特徴とする請求項1に記載の立体映像合成装置。
- 前記画像位置算出部は、前記左画像および前記右画像各々について、色値が所定の範囲にある画素を抽出し、前記抽出した画素の中で接しているもの同士を集めた画素グループのうちで前記左画像および前記右画像各々で最も画素数の多い画素グループを選び、該選んだ画素グループの中心位置を算出することで、前記左画像および前記右画像各々における前記被写体の位置を算出すること
を特徴とする請求項1または請求項2に記載の立体映像合成装置。 - 自装置が立体映像を合成する前の前記左画像および前記右画像各々について、前記画像位置算出部が算出した前記左画像および前記右画像各々の位置に所定の画像データを挿入する画像配置部
を備えることを特徴とする請求項1から請求項3のいずれかの項に記載の立体映像合成装置。 - 左目の視点から見た左画像と右目の視点から見た右画像とから立体映像を合成する立体映像合成装置における形状データ生成方法において、
前記立体映像合成装置が、前記左画像および前記右画像各々における特定の被写体の位置を算出する第1の過程と、
前記立体映像合成装置が、前記第1の過程にて算出した前記左画像および前記右画像各々における前記被写体の位置に基づき、自装置が合成する立体映像の表示空間における前記被写体の位置を算出する第2の過程と、
前記立体映像合成装置が、前記第2の過程にて算出した表示空間における位置に、力覚、触覚を提示するためのデータであって、所定の形状データを配置する第3の過程と、
前記立体映像合成装置が、前記第3の過程にて配置した形状データを、力覚・触覚提示装置に出力する第4の過程と
を備えることを特徴とする形状データ生成方法。 - コンピュータを、入力された左目の視点から見た左画像と右目の視点から見た右画像とから立体映像を合成する立体映像合成装置として機能させるためのプログラムにおいて、
前記左画像および前記右画像各々における特定の被写体の位置を算出する画像位置算出部、
前記画像位置算出部が算出した前記左画像および前記右画像各々における位置に基づき、自装置が合成する立体映像の表示空間における前記特定の被写体の位置を算出する立体位置算出部、
前記立体位置算出部が算出した表示空間における位置に、力覚、触覚を提示するためのデータであって、所定の形状データを配置する形状配置部、
前記形状配置部が配置した形状データを力覚・触覚提示装置に出力する形状出力部としても機能させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006244197A JP4777193B2 (ja) | 2006-09-08 | 2006-09-08 | 立体映像合成装置、形状データ生成方法およびそのプログラム |
PCT/JP2007/056038 WO2008029531A1 (fr) | 2006-09-08 | 2007-03-23 | Dispositif de synthèse d'images vidéo stéréoscopiques, procédé de production de données de forme et programme correspondant |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006244197A JP4777193B2 (ja) | 2006-09-08 | 2006-09-08 | 立体映像合成装置、形状データ生成方法およびそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008065683A JP2008065683A (ja) | 2008-03-21 |
JP4777193B2 true JP4777193B2 (ja) | 2011-09-21 |
Family
ID=39156976
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006244197A Expired - Fee Related JP4777193B2 (ja) | 2006-09-08 | 2006-09-08 | 立体映像合成装置、形状データ生成方法およびそのプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4777193B2 (ja) |
WO (1) | WO2008029531A1 (ja) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07218251A (ja) * | 1994-02-04 | 1995-08-18 | Matsushita Electric Ind Co Ltd | ステレオ画像計測方法およびステレオ画像計測装置 |
-
2006
- 2006-09-08 JP JP2006244197A patent/JP4777193B2/ja not_active Expired - Fee Related
-
2007
- 2007-03-23 WO PCT/JP2007/056038 patent/WO2008029531A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2008029531A1 (fr) | 2008-03-13 |
JP2008065683A (ja) | 2008-03-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9684994B2 (en) | Modifying perspective of stereoscopic images based on changes in user viewpoint | |
US7907167B2 (en) | Three dimensional horizontal perspective workstation | |
US7796134B2 (en) | Multi-plane horizontal perspective display | |
US20070291035A1 (en) | Horizontal Perspective Representation | |
US8571304B2 (en) | Method and apparatus for generating stereoscopic image from two-dimensional image by using mesh map | |
TWI547901B (zh) | 模擬立體圖像顯示方法及顯示設備 | |
US20060126926A1 (en) | Horizontal perspective representation | |
JP2006325165A (ja) | テロップ発生装置、テロップ発生プログラム、及びテロップ発生方法 | |
CN109598796A (zh) | 将真实场景与虚拟物体进行3d融合显示的方法和装置 | |
WO2016169409A1 (en) | A method and apparatus for displaying a virtual object in three-dimensional (3d) space | |
JP2020173529A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
US20170104982A1 (en) | Presentation of a virtual reality scene from a series of images | |
JP2022058753A (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11727645B2 (en) | Device and method for sharing an immersion in a virtual environment | |
JP2013257621A (ja) | 画像表示システム、パズルゲームシステム、画像表示方法、パズルゲーム方法、画像表示装置、パズルゲーム装置、画像表示プログラム、および、パズルゲームプログラム | |
JP4777193B2 (ja) | 立体映像合成装置、形状データ生成方法およびそのプログラム | |
JP2008065684A (ja) | 立体映像合成装置、形状データ生成方法およびそのプログラム | |
JP2008067169A (ja) | 立体映像合成装置、形状データ生成方法およびそのプログラム | |
JP2018082356A (ja) | 立体視表示プログラム、立体視表示方法、および情報処理装置 | |
KR20140144089A (ko) | 프리뷰를 통한 다시점 영상의 편집 기법 및 그 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081107 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110301 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110427 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110621 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110629 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140708 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |