JP2016086245A - 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム - Google Patents
画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム Download PDFInfo
- Publication number
- JP2016086245A JP2016086245A JP2014216630A JP2014216630A JP2016086245A JP 2016086245 A JP2016086245 A JP 2016086245A JP 2014216630 A JP2014216630 A JP 2014216630A JP 2014216630 A JP2014216630 A JP 2014216630A JP 2016086245 A JP2016086245 A JP 2016086245A
- Authority
- JP
- Japan
- Prior art keywords
- feature
- data
- image processing
- unit
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0112—Head-up displays characterised by optical features comprising device for genereting colour display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
- G02B2027/0134—Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Abstract
【課題】後段処理の演算精度を維持しつつデータの伝送量を抑制する。【解決手段】画像処理装置であって、視差が異なる複数の画像データから特徴点を検出する検出部と、複数の画像データについて特徴点の特徴量をそれぞれ抽出する抽出部と、抽出された特徴量に基づいて複数の画像データ間における特徴点の類似度を判定する判定部と、類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定部と、送信優先度に従ってデータを送信する送信部とを備える。【選択図】 図3
Description
本発明は、画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラムに関し、特にHMD(Head Mounted Display)を用いる仮想現実技術および複合現実技術に関するものである。
近年、現実世界と仮想世界とをリアルタイムにシームレスに融合させる技術として複合現実感、いわゆるMR(Mixed Reality)技術が知られている。MR技術の1つに、ビデオシースルー型のHMD(Head Mounted Display)を利用した技術が知られている。これは、HMD使用者の瞳位置から観察される被写体と略一致する被写体をビデオカメラなどで撮像し、その撮像画像にCG(Computer Graphics)を重畳表示した画像をHMD使用者が観察できるシステムである。
本システムは、外界を撮像して使用者に画像を表示するHMDと、CG重畳表示した画像を作成する画像処理装置とで構成されている。HMDを使用して自由に動きながらMR空間を体験するためには、HMDとPCなどの外部装置との間は無線伝送で通信した方がよい。しかし、一般的に、無線による通信は有線での通信と比べて通信帯域が狭く、不安定である。
そこで、特許文献1では、画像データを圧縮して送信することに加えて、通信ネットワークの状況に応じて画像の圧縮率を変更しデータ量を調節することで、安定した画像データの送信を可能にすることが開示されている。
HMDと外部装置との無線伝送ではHMDで撮像された画像を外部装置に伝送し、外部装置で位置姿勢計測を行った上で、画像の合成が行われる。この場合、HMDから外部装置への画像データのネットワーク伝送量を抑制するため、HMDで画像データを圧縮し、符号化ストリームを外部装置へ伝送する。HMDから伝送された符号化ストリームを受信した外部装置は、符号化ストリームを伸張し、この伸張画像を用いて画像解析を行い、画像解析情報に基づき位置姿勢計測を行う。そして、位置姿勢計測が完了すると、伸張画像を用いて画像合成を施し、HMDで表示すべく合成画像をHMDへ伝送する。
しかしながら、特許文献1の技術では、外部装置で位置姿勢計測に関わるすべての演算を行う場合、画像データが圧縮された符号化ストリームを用いることになる。そのため、伸張された画像データは撮像時の画像データから劣化し、当該劣化した画像データを用いて後段の位置姿勢計測処理等の演算を行うことになり、十分な演算精度が得られないという課題がある。
本発明は、上記の課題に鑑みてなされたものであり、後段処理の演算精度を維持しつつデータの伝送を制御することを目的とする。
上記の目的を達成するために、本発明の一態様による画像処理装置は、以下の構成を備える。即ち、
視差が異なる複数の画像データから特徴点を検出する検出手段と、
前記複数の画像データについて前記特徴点の特徴量をそれぞれ抽出する抽出手段と、
前記抽出された特徴量に基づいて前記複数の画像データ間における特徴点の類似度を判定する判定手段と、
前記類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定手段と、
前記送信優先度に従って前記データを送信する送信手段と、
を備えることを特徴とする。
視差が異なる複数の画像データから特徴点を検出する検出手段と、
前記複数の画像データについて前記特徴点の特徴量をそれぞれ抽出する抽出手段と、
前記抽出された特徴量に基づいて前記複数の画像データ間における特徴点の類似度を判定する判定手段と、
前記類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定手段と、
前記送信優先度に従って前記データを送信する送信手段と、
を備えることを特徴とする。
本発明によれば、後段処理の演算精度を維持しつつデータの伝送を制御することができる。
以下、添付の図面を参照しながら、本発明の実施の形態について詳述する。
(第1実施形態)
<1.画像処理システムの構成>
本発明の一実施形態に係るMR(Mixed Reality)処理(位置姿勢計測処理)を適用する画像処理システムについて説明する。図1に示されるように、画像処理システムは、HMD(Head Mounted Display)10(画像処理装置)および外部サーバ20を含み、HMD10と外部サーバ20とは相互にネットワーク30を介して接続されている。本実施形態に係るHMD10は、2つ以上の視差が異なる画像データから特徴点を検出し、検出した特徴点から特徴量を抽出し、特徴量に基づいてデータ送信の優先度を設定して送信先である外部サーバへの伝送順序を制御する。また、ネットワークの使用帯域に応じて特徴点及び特徴量のデータ伝送量を制御する。
<1.画像処理システムの構成>
本発明の一実施形態に係るMR(Mixed Reality)処理(位置姿勢計測処理)を適用する画像処理システムについて説明する。図1に示されるように、画像処理システムは、HMD(Head Mounted Display)10(画像処理装置)および外部サーバ20を含み、HMD10と外部サーバ20とは相互にネットワーク30を介して接続されている。本実施形態に係るHMD10は、2つ以上の視差が異なる画像データから特徴点を検出し、検出した特徴点から特徴量を抽出し、特徴量に基づいてデータ送信の優先度を設定して送信先である外部サーバへの伝送順序を制御する。また、ネットワークの使用帯域に応じて特徴点及び特徴量のデータ伝送量を制御する。
外部サーバ20からネットワーク30へ表示対象となる画像及び画像に関する情報を送信する。HMD10はネットワーク30を経由して外部サーバ20で画像処理された表示画像を受信する。
<2.画像処理装置(HMD)の構成>
図2は、第1実施形態に係る画像処理装置(HMD10)の機能ブロック図である。HMD10は、第1の表示部201、第2の表示部202、画像処理部203、第1のデータ受信部204、第1の撮像部205、第2の撮像部206、特徴解析部207、縮小画像処理部208、オブジェクト検出部209、および第1のデータ送信部210を備える。
図2は、第1実施形態に係る画像処理装置(HMD10)の機能ブロック図である。HMD10は、第1の表示部201、第2の表示部202、画像処理部203、第1のデータ受信部204、第1の撮像部205、第2の撮像部206、特徴解析部207、縮小画像処理部208、オブジェクト検出部209、および第1のデータ送信部210を備える。
第1のデータ受信部204は、ネットワーク30を介して外部サーバ20から画像データを受信する。画像処理部203は、当該画像データに対して画像表示のために画像処理を施す。画像処理部203で処理されたステレオ画像は、第1の表示部201及び第2の表示部202にそれぞれ表示される。
第1の撮像部205及び第2の撮像部206は、左右の眼の代わりに、HMD10の外界をステレオ撮影する。第1の撮像部205及び第2の撮像部206は、光学素子で取り込まれた画像を現像処理し、それぞれ画像を特徴解析部207、縮小画像処理部208、及びオブジェクト検出部209に出力する。
特徴解析部207は、第1の撮像部205及び第2の撮像部206から出力された画像を取得する。特徴解析部207は、取得された画像から特徴点を検出し、当該特徴点に対応する特徴量を抽出する。そして、左右の眼に対応する各画像の特徴点の類似度を判定して特徴点に優先度を設定し、優先度が高い特徴点から優先的に特徴点のデータを第1のデータ送信部210へ出力する。特徴解析部207の詳細な処理は図3を参照しながら後述する。
縮小画像処理部208は、第1の撮像部205及び第2の撮像部206から入力されたステレオ映像を縮小して、縮小映像を第1のデータ送信部210へ出力する。映像データはデータ量が多いため、H.264やHEVC(High Efficiency Video Coding)などの映像符号化処理を用いてデータ圧縮して映像符号化ストリームを出力する方法がある。その場合、MVC(Multiview. Video Coding)などの視差情報を利用した映像符号化処理を用いてステレオ映像を低ビットレートで圧縮する方法もあるが、縮小画像の圧縮、アルゴリズムはこれに限るものではない。また、本実施形態ではネットワーク30に伝送する画像データ量を抑制するために、画像の縮小や圧縮する方法を記載したが、本発明はこれに限定されるものではない。本発明を無線MRへの適用する場合、外部サーバ20で位置姿勢計測や画像合成に必要な画像データがHMD10から送信されていればよい。
オブジェクト検出部209は、第1の撮像部205及び第2の撮像部206から取得したステレオ映像から、人物、物体、物体色、形状、質感等をオブジェクト情報として検出し、当該オブジェクト情報を第1のデータ送信部210へ出力する。
第1のデータ送信部210は、特徴解析部207から取得した特徴点及び特徴量を図1のネットワーク30へ送出する。さらに、第1のデータ送信部210は、縮小画像処理部208から取得した映像符号化ストリームや、オブジェクト検出部209から取得したオブジェクト情報をネットワーク30へ送出する。ネットワーク30に送出されたデータは、外部サーバ20が受信する。
<3.画像処理装置(HMD)の特徴解析部の構成>
続いて、特徴解析部207の処理の詳細を説明する。図3は、第1実施形態に係る特徴解析部207の機能ブロック図である。特徴解析部207は、特徴点検出部2071、特徴量抽出部2072、類似度判定部2073、優先度設定部2074、特徴点特徴量記憶部2075、及び特徴点特徴量読み出し部2076を備える。
続いて、特徴解析部207の処理の詳細を説明する。図3は、第1実施形態に係る特徴解析部207の機能ブロック図である。特徴解析部207は、特徴点検出部2071、特徴量抽出部2072、類似度判定部2073、優先度設定部2074、特徴点特徴量記憶部2075、及び特徴点特徴量読み出し部2076を備える。
特徴点検出部2071は、取得したステレオ画像の各々の注目画素と参照画素とから特徴点を検出する。ここで図4は、第1実施形態に係る特徴点検出に用いる注目画素及び参照画素の位置関係を示す図である。本実施形態では、特徴点の検出のために輝度を用いる。座標p(p(x,y))に位置する注目画素Tpを中心として、予め定められた距離にある円周状の周辺にある複数の画素を参照画素として用いる。図4では、注目画素Tpから距離3とした場合の参照画素の例を示している。周辺の画素1〜画素16が参照画素となる。なお、注目画素は矩形領域内の画素の平均値やフィルタ処理後の値を用いた補間画素であっても構わない。
注目画素Tpと参照画素との差分によってスコア(指標値)を算出し、算出されたスコアが閾値以上である場合、注目領域に凹凸があると判定する。次に、注目画素Tpのスコア算出方法について説明する。
円周状の各参照画素のうち、隣接する参照画素の塊を弧として特徴量を評価していく。例えば、参照画素4〜参照画素12の弧、参照画素5〜参照画素13の弧、参照画素6〜14の弧というように、参照画素を1つずつずらしながら、特徴量を評価する。このように、分割された各弧を構成する注目画素Tpと周辺画素との差分の合計と、閾値とを比較し、特徴量のスコアを決定する。
注目画素Tpとの差分が閾値以上である周辺画素数が多ければ、特徴量のスコアは高く、注目画素Tpとの差分が閾値以上である周辺画素数が少なければ、特徴量のスコアは小さくなる。しかし、スコアの最小値と最大値は調整できるものとする。さらに、各弧の特徴量のスコアのうち、最も大きい値を注目画素Tp、すなわち、特徴点Pのスコアとする。特徴点検出部2071により検出された特徴点は、特徴点特徴量記憶部2075に記憶される。
特徴量抽出部2072は、特徴点検出部2071で検出された特徴点の座標情報を用いて特徴量を抽出する。以下、具体的な特徴量の算出方法について説明する。まず、図5に示すように、特徴点Pの周辺にランダムに線を配置する。そして、ランダム線の始点画素とランダム線の終点画素との大小関係をビットパターンで表したものが特徴量である。
式(1)に示すランダム線の判定式を用いて、ランダム線の始点画素の輝度値と終点画素の輝度値とから、判定値を算出する方法を説明する。pは処理対象の特徴点の座標であり、aはi番目のランダム線の始点を示すベクトルで、bはi番目のランダム線の終点を示すベクトルである。I(p)は、画像Iにおける特徴点の座標pの画素値を表す。τは判定値である。
I(p+a)はランダム線の始点位置の画素値であり、一方、I(p+b)は終点位置の画素値である。判定値τは0または1の2値である。式(1)により、始点画素値I(p+a)が終点画素値I(p+b)よりも小さい場合、判定値τは1である。始点画素値I(p+a)が終点画素値I(p+b)と等しい、もしくは、大きい場合、判定値τは0である。
ここで図6(a)は、ランダム線iの始点画素の輝度値および終点画素の輝度値と、判定値との関係を示す図である。ここでは、説明を簡単にするために、ランダム線数を5本としている。式(1)を用いた場合1番目(i=1)及び3番目(i=3)のランダム線の判定値が1となり、0番目(i=0)、2番目(i=2)、及び4番目(i=4)のランダム線の判定値が0となる。
これらのランダム線i=0〜4までの判定値をビットパターンとして用いたものが特徴点Pの特徴量となる。上表の場合、特徴点Pの特徴量のビットパターンは"01010"となる。なお、ここではランダム線数を4として説明したが、ランダム線の数は限定されるものではない。計算リソースに応じて、ランダム線数を減らしても増やしても構わない。但し、ランダム線数を減らすと特徴量の演算精度は下がることがある。また、ランダム線数を一定以上に増やしても、冗長性が高まり、精度が向上しない場合がある。
特徴量抽出部2072により抽出された特徴量は、特徴点特徴量記憶部2075に記憶され、類似度判定部2073へ出力される。なお、特徴点の検出方法及び特徴量の抽出方法は、上述の方法に限定されるものではない。FAST(Features from Accelerated Segment Test)が広く知られている方法ではあるが、例えば、SIFT(Scale−Invariant Feature Transform)、或いは、ORB(Oriented FAST and Rotated BRIEF(Binary Robust Independent Elementary Features))などを用いることも可能である。
類似度判定部2073は、左右の画像それぞれについて抽出された特徴量を用いて、左右の画像データ間における特徴点の類似度を判定する。ステレオ画像のうち、一方の画像を基準画像とし、基準画像で抽出された特徴点の座標から、比較対象となる他方の画像(参照画像)内で対応する特徴点候補を抽出する。抽出方法に関しては後述する。次に、基準画像から抽出された特徴点の特徴量と、参照画像から抽出された特徴点の特徴量とを比較する。特徴量の類似度が高いと、同一部位を示す特徴点の可能性が高いと判定される。
次に、特徴点候補の抽出方法について説明する。左右の画像には視差があるので、参照画像内の基準画像の対象特徴点と同一の座標から予め定められた一定距離内に分布する特徴点が類似度判定の対象となる特徴点候補となる。例えば、基準画像の対象特徴点の座標から同心円上に分布する参照画像の特徴点を判定対象の特徴点候補としてもよいし、対象特徴点の座標から一定距離移動した矩形領域内に分布する参照画像の特徴点を判定対象の特徴点候補としてもよい。
次に、類似度の判定方法について具体的に説明する。図6(b)は、基準画像の対象特徴量と参照画像の特徴量との間でのビット列の排他的論理和の一例を示す図である。類似度は、基準画像の対象特徴量Xiと参照画像の特徴量Yiとでビット列の排他的論理和(xor)をとり、ビット列内の1をカウントして得られるハミング距離から算出することができる。図6(b)の例では、排他的論理和は"10010"、ハミング距離は"2"となる。このハミング距離の値が小さい(ゼロに近い)ほど、特徴が類似していると判定できる。
なお、ここでは、類似度の判定にハミング距離を用いる例を説明したが、類似度を判定する特徴量の差分の長さ(距離)の算出には、マンハッタン距離やユークリッド距離など、他の距離表現方法を用いることも可能である。なお、類似度の判定方法は上述の方法に限定するものではない。SAD(Sum of Absolute Difference)などブロックマッチングを適用することも可能である。
優先度設定部2074は、類似度判定部2073により判定された類似度に基づいて特徴点の優先度を設定する。以下では、図7のフローチャートを参照して、優先度設定部2074によるデータの送信優先度の設定手順を説明する。図7の処理は、類似度判定部2073により判定された類似度と閾値とを用いて、優先度1〜優先度4の4段階で優先度を設定するものである。
S701において、優先度設定部2074は、優先度決定対象である特徴点Pの類似度Dpと第1の閾値TH1との大小関係を比較する。類似度Dpが第1の閾値TH1より小さい場合は、S702へ進む。一方、類似度Dpが第1の閾値TH1以上である場合は、S703へ進む。
S702において、優先度設定部2074は、特徴点Pの送信優先度を1に設定する。S703において、優先度設定部2074は、類似度Dpと第2の閾値TH2との大小関係を比較する。類似度Dpが第2の閾値TH2より小さい場合は、S704へ進む。一方、類似度Dpが第2の閾値TH2以上である場合は、S705へ進む。
S704において、優先度設定部2074は、特徴点Pの送信優先度を2に設定する。S705において、優先度設定部2074は、類似度Dpと第3の閾値TH3との大小関係を比較する。類似度Dpが第3の閾値TH3より小さい場合は、S706へ進む。一方、類似度Dpが第3の閾値TH3以上である場合は、S707へ進む。S706において、優先度設定部2074は、特徴点Pの送信優先度を3に設定する。S707において、優先度設定部2074は、特徴点Pの送信優先度を4に設定する。
以上で図7の各処理が終了する。このようにして決定された優先度と、特徴点及び特徴量とを対応付けて、特徴点特徴量記憶部2075に記憶してもよい。
最後に、特徴点特徴量読み出し部2076は、優先度設定部2074により設定された優先度に従って、特徴点特徴量記憶部2075に記憶された特徴点及び特徴量を読み出し、特徴解析部207の外部(第1のデータ送信部210)に出力する。まず、優先度1と判定された特徴点及び特徴量をすべて出力し、次に、優先度2と判定された特徴点及び特徴量を出力する。以下、優先度3、優先度4と判定された特徴点及び特徴量を順次出力する。このようにして、特徴解析部207は、優先度が高い特徴点及び特徴量から順番に第1のデータ送信部210へ出力し、第1のデータ送信部210は、特徴解析部207から取得した特徴点及び特徴量を順番にネットワーク30に送信する。
なお、特徴点の検出処理は、図8(a)に示すようなラスタスキャン順の処理が一般的である。しかし、類似度判定部2073は、左右の画像の特徴点に対応する特徴量を用いるので、図8(a)に示すような方法では特徴点に対応する特徴量を一画面分保持するためのメモリを設ける必要がある。また、図8(a)に示すような方法では、一画面分の特徴点の検出処理完了まで後段の処理部が待機する必要がある。そこで、図8(b)に示すように、画像を矩形領域に分割し、矩形領域をラスタスキャンして、特徴点を検出、類似度を判定することも可能である。図8(b)に示すスキャン順序の場合、特徴点特徴量記憶部2075の記憶容量を削減し、特徴点検出処理の完了まで待機することによる遅延を抑制することが可能になる。
なお、上述の図8(a)及び図8(b)を用いて説明した処理順序は、特徴点検出順序の一例である。画像の処理対象領域を任意に、あるいは、ランダムに走査し、特徴点を検出することも可能である。
<4.外部サーバの構成>
続いて、図9を参照して、第1実施形態に係る外部サーバ20の機能構成について説明する。外部サーバ20は、第2のデータ送信部901、画像合成部902、第2のデータ受信部903、画像拡大部904、オブジェクト認識部905、時間軸方向類似度判定部906、及び位置姿勢計測部907を備える。
続いて、図9を参照して、第1実施形態に係る外部サーバ20の機能構成について説明する。外部サーバ20は、第2のデータ送信部901、画像合成部902、第2のデータ受信部903、画像拡大部904、オブジェクト認識部905、時間軸方向類似度判定部906、及び位置姿勢計測部907を備える。
第2のデータ受信部903は、ネットワーク30を介してHMD10から特徴点及び特徴量、縮小画像、及びオブジェクト情報を受信する。画像拡大部904は、第2のデータ受信部903で受信した縮小画像を復号して所望の画像サイズに拡大する。オブジェクト認識部905は、第2のデータ受信部903で受信したオブジェクト情報と、画像拡大部904により拡大された拡大画像とを用いて、動物体の認識やユーザ指定の属性の認識を行う。
時間軸方向類似度判定部906は、第2のデータ受信部で受信した特徴点や特徴量を用いて、時間が異なるフレーム間での類似度を判定する。位置姿勢計測部907は、類似度、特徴点及び特徴量を用いて位置姿勢を計測し、位置姿勢情報を出力する。
画像合成部902は、画像拡大部904により生成された拡大画像、及びオブジェクト認識部905により出力されたオブジェクト情報、位置姿勢計測部907により計測された位置姿勢情報に基づいて、CG合成を行い、合成画像を第2のデータ送信部901に出力する。第2のデータ送信部901は、画像合成部902により合成された合成画像をネットワーク30を介してHMD10へ出力する。
そして、HMD10は、図2に示す第1のデータ受信部204が、ネットワーク30を介して外部サーバ20から画像データを受信する。画像処理部203は、この画像データに対して画像表示の画像処理を施す。画像処理部203で処理されたステレオ画像は、第1の表示部201、及び、第2の表示部202にそれぞれ表示される。以上が、第1実施形態に係るMR処理における画像描画フローである。
本実施形態では、説明を簡単にするため、視差が異なるステレオ画像で説明したが、本発明は、同一視点の時間的に異なる画像間で特徴量を抽出しても構わない。さらに、本実施形態では、ビデオシースルー方式のMRシステムを用いて説明を行ったが、当該方式に限定されるものではなく、例えば光学シースルー方式のMRシステムにも適用可能である。
以上説明したように、本実施形態では、位置姿勢計測に用いる特徴点の検出及び特徴量の抽出の演算処理をHMD(画像処理装置)本体で実施することで、高精度に特徴点を検出し、特徴点に対応する特徴量を抽出することが可能である。さらに、外部サーバで行う時間軸方向のマッチングのために必要となる特徴点を優先的に伝送する伝送制御により、伝送帯域の抑制を可能にし、高速なMR処理(位置姿勢計測処理)を実現することができる。
このように、ステレオ画像の類似度が高い特徴点を優先して送信することで、MR処理(位置姿勢計測)の演算精度を維持しつつ、ネットワークの伝送データ量を抑制することが可能となる。
(第2実施形態)
第2の実施形態では、第1の実施形態と同様に、位置姿勢計測における特徴点の検出及び特徴量の抽出をHMD本体で行い、特徴点及び特徴量をネットワークに送信する。そして、外部サーバは、ネットワークを介して受信した特徴点及び特徴量から位置姿勢計測を行う。そのため、ここでは画像処理システムの構成の説明は割愛する。
第2の実施形態では、第1の実施形態と同様に、位置姿勢計測における特徴点の検出及び特徴量の抽出をHMD本体で行い、特徴点及び特徴量をネットワークに送信する。そして、外部サーバは、ネットワークを介して受信した特徴点及び特徴量から位置姿勢計測を行う。そのため、ここでは画像処理システムの構成の説明は割愛する。
次に、図10を参照して、第2実施形態に係る画像処理装置(HMD)の機能構成を説明する。第1実施形態でとの主な差異は、第2実施形態に係るHMD10が送信制御部1011をさらに備える点と、特徴解析部1007の処理が異なる点である。他の処理部は、図2と同じであるため、各処理部の対応を以下に示し、詳細な説明は省略する。
図10における第1のデータ受信部1004は第1のデータ受信部204に対応し、画像処理部1003は画像処理部203に対応し、第1の表示部1001は第1の表示部201に対応し、第2の表示部1002は第2の表示部202に対応する。さらに、第1の撮像部1005は第1の撮像部205に対応し、第2の撮像部1006は第2の撮像部206に対応する。また、縮小画像処理部1008は縮小画像処理部208に対応し、オブジェクト検出部1009はオブジェクト検出部209に対応し、第1のデータ送信部1010は第1のデータ送信部210に対応する。
以下、本実施形態に係る送信制御部1011の処理及び特徴解析部1007の処理について説明する。送信制御部1011は、第1のデータ送信部1010からネットワーク30に送信される特徴点及び特徴量のデータの送信量や縮小画像データの送信量を制御する。また、特徴解析部1007は、特徴解析部207と同様に、ステレオ画像から特徴点の検出及び特徴量の抽出を行う。さらに、特徴解析部1007は、送信制御部1011からの出力停止指示が解除されている間のみ、特徴点及び特徴量のデータを第1のデータ送信部1010に送信する。
より具体的には、送信制御部1011は、第1のデータ送信部1010からネットワークに送信された縮小画像データの送信量を計測する。第1のデータ送信部1010から送信される縮小画像の送信量が予め定められた閾値よりも多い場合は、特徴解析部1007から第1のデータ送信部1010に出力される特徴点及び特徴量のデータの送信量を抑制することで、第1のデータ送信部1010の送信データ量を抑制する。
また、送信制御部1011は、特徴解析部1007が第1のデータ送信部1010へ出力する特徴点及び特徴量のデータの送信量を計測する。そして、計測した特徴点及び特徴量のデータの送信量が予め定められた閾値を超過した場合は、特徴解析部1007に対して特徴点及び特徴量のデータ出力停止を指示する。一方、第1のデータ送信部1010から送信される縮小画像のデータ量が閾値以下である場合は、送信制御部1011は特徴解析部1007から出力される特徴点及び特徴量の出力停止指示を解除する。
さらに、ネットワーク30へ送信されたデータ量が使用可能帯域に達した場合は、送信制御部1011は特徴解析部1007にデータ出力停止を指示する。
以上説明したように、第2実施形態では、HMD本体からネットワークに送信されるデータ量を一定に保ち、高速な位置姿勢計測を実現することが可能になる。
(第3実施形態)
第3実施形態では、HMDからネットワークへ送信する特徴点及び特徴量のデータ量を第2実施形態とは異なる方法で制御する。以下、図11を参照して、第3実施形態に係る画像処理装置(HMD)の機能構成を説明する。
第3実施形態では、HMDからネットワークへ送信する特徴点及び特徴量のデータ量を第2実施形態とは異なる方法で制御する。以下、図11を参照して、第3実施形態に係る画像処理装置(HMD)の機能構成を説明する。
まず、第2実施形態で説明した図10のHMD構成と、図11のHMD構成との差異について説明する。図10と図11の主な差異は、送信制御部の処理の違いである。他の処理部は図10と同じであるため、図10と図11の各処理部の対応を以下に示し、詳細な機能の説明は省略する。
図11における第1のデータ受信部1104は、第1のデータ受信部1004に対応し、画像処理部1103は画像処理部1003に対応し、第1の表示部1101は第1の表示部1001に対応し、第2の表示部1102は第2の表示部1002に対応する。さらに、第1の撮像部1105は第1の撮像部1005に対応し、第2の撮像部1106は第2の撮像部1006に対応する。また、縮小画像処理部1108は縮小画像処理部1008に対応し、オブジェクト検出部1109はオブジェクト検出部1009に対応し、第1のデータ送信部1110は第1のデータ送信部1010に対応する。
以下、第2の実施形態と異なる送信制御部1111について説明する。送信制御部1111は、第1のデータ送信部1110からネットワーク30に送信される特徴点及び特徴量のデータ量を制御する。
具体的には、送信制御部1111は、図1のネットワーク30を介して特徴点及び特徴量を受信する外部サーバ20からのデータ要求指示に基づいて、特徴解析部1107に対して特徴点及び特徴量のデータ送信を許可する。
例えば、外部サーバ20のネットワーク受信帯域が確保できない場合、外部サーバ20は、一時的にHMD10へのデータ要求指示を停止する。また、HMD10側へ送信する画像のデータ量が大きくなった場合は、一時的に特徴量及び特徴点のデータ受信を停止し、過去に受信した特徴量及び特徴点の情報からマッチング処理を継続する。また、外部サーバ20側で、仮想空間上のオブジェクトの位置姿勢計測に必要な特徴点及び特徴量のデータを、既に必要な個数だけ得られたと判断した場合に、外部サーバ20は、HMD10へのデータ要求指示を停止する。
送信制御部1111は、外部サーバ20からのデータ要求指示がない間は、特徴解析部1107に対して第1のデータ送信部1110への特徴点及び特徴量のデータの出力停止を指示する。一方、送信制御部1111が外部サーバ20からデータの要求指示を受けると、特徴解析部1107に対して第1のデータ送信部1110への特徴点及び特徴量のデータ出力を指示する。
以上説明したように、本実施形態によれば、特徴点及び特徴量のデータを受信する外部サーバのデータ受信状況に応じて、HMDから出力する特徴点及び特徴量のデータ量を制御し、高速な位置姿勢計測を実現することが可能になる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
10:画像処理装置(HMD)、20:外部サーバ、30:ネットワーク、201:第1の表示部、202:第2の表示部、203:画像処理部、204:第1のデータ受信部、205:第1の撮像部、206:第2の撮像部、207:特徴解析部、208:縮小画像処理部、209:オブジェクト検出部、210:第1のデータ送信部、2071:特徴点検出部、2072:特徴量抽出部、2073:類似度判定部、2074:優先度設定部、2075:特徴点特徴量記憶部、2076:特徴点特徴量読み出し部
Claims (12)
- 視差が異なる複数の画像データから特徴点を検出する検出手段と、
前記複数の画像データについて前記特徴点の特徴量をそれぞれ抽出する抽出手段と、
前記抽出された特徴量に基づいて前記複数の画像データ間における特徴点の類似度を判定する判定手段と、
前記類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定手段と、
前記送信優先度に従って前記データを送信する送信手段と、
を備えることを特徴とする画像処理装置。 - 前記送信手段により送信されるデータ量を制御する制御手段をさらに備え、
前記制御手段は、前記データ量が閾値よりも多い場合に、前記特徴点及び特徴量のデータの送信量を抑制することを特徴とする請求項1に記載の画像処理装置。 - 前記送信手段は、前記画像データが縮小された縮小画像データをさらに送信し、
前記制御手段は、前記縮小画像のデータ量が閾値よりも多い場合に、前記特徴点及び特徴量のデータの送信量を抑制することを特徴とする請求項2に記載の画像処理装置。 - 前記特徴点及び特徴量のデータを受信する外部サーバからのデータ要求指示に基づいて前記送信手段によるデータの送信を制御する制御手段をさらに備えることを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
- 前記画像データを縮小して縮小画像データを生成する縮小画像処理手段をさらに備えることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
- 前記画像データからオブジェクト情報を検出するオブジェクト検出手段をさらに備え、
前記送信手段は、前記オブジェクト情報をさらに送信することを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。 - 前記視差が異なる複数の画像データを取得する第1の撮像手段及び第2の撮像手段をさらに備えることを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
- 前記送信手段によるデータの送信先である外部サーバで処理された画像データを前記外部サーバから受信する受信手段と、
前記受信手段により受信された画像データを処理する画像処理手段と、
前記画像処理手段により処理された画像データを表示する第1の表示手段及び第2の表示手段と
をさらに備えることを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。 - 請求項1乃至8の何れか1項に記載の画像処理装置と、
前記画像処理装置からデータを受信して処理し、当該処理されたデータを前記画像処理装置へ送信する外部サーバと
を備えることを特徴とする画像処理システム。 - 前記外部サーバは、前記画像処理装置から受信した特徴点及び特徴量のデータの時間軸方向のマッチングを行って仮想空間上のオブジェクトの位置姿勢を計測する計測手段を備えることを特徴とする請求項9に記載の画像処理システム。
- 画像処理装置の制御方法であって、
検出手段が、視差が異なる複数の画像データから特徴点を検出する検出工程と、
抽出手段が、前記複数の画像データについて前記特徴点の特徴量をそれぞれ抽出する抽出工程と、
判定手段が、前記抽出された特徴量に基づいて前記複数の画像データ間における特徴点の類似度を判定する判定工程と、
設定手段が、前記類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定工程と、
送信手段が、前記送信優先度に従って前記データを送信する送信工程と、
を有することを特徴とする画像処理装置の制御方法。 - コンピュータを、
視差が異なる複数の画像データから特徴点を検出する検出手段、
前記複数の画像データについて前記特徴点の特徴量をそれぞれ抽出する抽出手段、
前記抽出された特徴量に基づいて前記複数の画像データ間における特徴点の類似度を判定する判定手段、
前記類似度に基づいて特徴点及び特徴量を含むデータの送信優先度を設定する設定手段、
前記送信優先度に従って前記データを送信する送信手段、
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014216630A JP2016086245A (ja) | 2014-10-23 | 2014-10-23 | 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム |
US14/884,999 US10254543B2 (en) | 2014-10-23 | 2015-10-16 | Image processing apparatus, image processing system, control method for image processing apparatus, and non-transitory computer-readable storage medium for mixed reality |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014216630A JP2016086245A (ja) | 2014-10-23 | 2014-10-23 | 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016086245A true JP2016086245A (ja) | 2016-05-19 |
Family
ID=55791871
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014216630A Pending JP2016086245A (ja) | 2014-10-23 | 2014-10-23 | 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10254543B2 (ja) |
JP (1) | JP2016086245A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018088604A (ja) * | 2016-11-28 | 2018-06-07 | キヤノン株式会社 | 画像表示装置、画像表示方法、システム |
WO2020159036A1 (ko) * | 2019-01-30 | 2020-08-06 | 삼성전자주식회사 | 영상 시퀀스에 대한 캡션 정보를 생성하는 전자 장치 및 그 동작 방법 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10623743B1 (en) * | 2018-05-22 | 2020-04-14 | Facebook Technologies, Llc | Compression of captured images including light captured from locations on a device or object |
CN110428468A (zh) * | 2019-08-12 | 2019-11-08 | 北京字节跳动网络技术有限公司 | 一种穿戴式显示设备的位置坐标生成系统以及方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3944726B2 (ja) * | 2002-09-25 | 2007-07-18 | ソニー株式会社 | 撮像装置および方法 |
US7724944B2 (en) * | 2004-08-19 | 2010-05-25 | Mitsubishi Electric Corporation | Image retrieval method and image retrieval device |
JP4956375B2 (ja) * | 2007-10-30 | 2012-06-20 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
US9400941B2 (en) * | 2011-08-31 | 2016-07-26 | Metaio Gmbh | Method of matching image features with reference features |
-
2014
- 2014-10-23 JP JP2014216630A patent/JP2016086245A/ja active Pending
-
2015
- 2015-10-16 US US14/884,999 patent/US10254543B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018088604A (ja) * | 2016-11-28 | 2018-06-07 | キヤノン株式会社 | 画像表示装置、画像表示方法、システム |
WO2020159036A1 (ko) * | 2019-01-30 | 2020-08-06 | 삼성전자주식회사 | 영상 시퀀스에 대한 캡션 정보를 생성하는 전자 장치 및 그 동작 방법 |
Also Published As
Publication number | Publication date |
---|---|
US10254543B2 (en) | 2019-04-09 |
US20160116737A1 (en) | 2016-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10701332B2 (en) | Image processing apparatus, image processing method, image processing system, and storage medium | |
US9767611B2 (en) | Information processing apparatus and method for estimating depth values using an approximate plane | |
KR101722654B1 (ko) | 점 특징 및 선 특징을 사용한 강력한 추적 | |
CN104380338B (zh) | 信息处理器以及信息处理方法 | |
US10497140B2 (en) | Hybrid depth sensing pipeline | |
JP6570296B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US9378583B2 (en) | Apparatus and method for bidirectionally inpainting occlusion area based on predicted volume | |
WO2014064870A1 (ja) | 画像処理装置および画像処理方法 | |
US9679415B2 (en) | Image synthesis method and image synthesis apparatus | |
KR102450236B1 (ko) | 전자 장치, 그 제어 방법 및 컴퓨터 판독가능 기록 매체 | |
JP5755571B2 (ja) | 仮想視点画像生成装置、仮想視点画像生成方法、制御プログラム、記録媒体、および立体表示装置 | |
JP2016086245A (ja) | 画像処理装置、画像処理システム、画像処理装置の制御方法およびプログラム | |
US20190114783A1 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP6290020B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US20160110909A1 (en) | Method and apparatus for creating texture map and method of creating database | |
WO2019123554A1 (ja) | 画像処理装置、画像処理方法、及び、記録媒体 | |
CN107203961B (zh) | 一种表情迁移的方法及电子设备 | |
JP2014225301A (ja) | 画像処理装置、方法、及びプログラム | |
CN112598074A (zh) | 图像处理方法及装置、计算机可读存储介质和电子设备 | |
WO2020059575A1 (ja) | 3次元画像生成装置、3次元画像生成方法、及びプログラム | |
JP2022064506A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020046744A (ja) | 画像処理装置、背景画像の生成方法およびプログラム | |
WO2019033510A1 (zh) | 一种vr应用程序的识别方法及电子设备 | |
JP2014106647A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
TWI825892B (zh) | 立體格式影像偵測方法與使用該方法的電子裝置 |