JP2016092651A - 映像投射装置、並びに、画像処理装置およびその方法 - Google Patents

映像投射装置、並びに、画像処理装置およびその方法 Download PDF

Info

Publication number
JP2016092651A
JP2016092651A JP2014226408A JP2014226408A JP2016092651A JP 2016092651 A JP2016092651 A JP 2016092651A JP 2014226408 A JP2014226408 A JP 2014226408A JP 2014226408 A JP2014226408 A JP 2014226408A JP 2016092651 A JP2016092651 A JP 2016092651A
Authority
JP
Japan
Prior art keywords
image
pixel
deformation
interest
lattice points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014226408A
Other languages
English (en)
Other versions
JP2016092651A5 (ja
JP6487671B2 (ja
Inventor
直樹 小嶋
Naoki Kojima
直樹 小嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014226408A priority Critical patent/JP6487671B2/ja
Priority to PCT/JP2015/005007 priority patent/WO2016072044A1/en
Priority to EP15857669.4A priority patent/EP3175613B1/en
Priority to CN201580059791.8A priority patent/CN107079129B/zh
Priority to US15/507,310 priority patent/US10397514B2/en
Publication of JP2016092651A publication Critical patent/JP2016092651A/ja
Publication of JP2016092651A5 publication Critical patent/JP2016092651A5/ja
Application granted granted Critical
Publication of JP6487671B2 publication Critical patent/JP6487671B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • G06T15/60Shadow generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Geometry (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Projection Apparatus (AREA)
  • Image Processing (AREA)

Abstract

【課題】変形画像に対し、様々な投射面の形状に合わせて任意の変形を施した出力画像を生成し、観察者に映像の歪みを感じさせない映像を投射する、映像の任意の変形に対応する高精度な画像変形処理を提供する。【解決手段】映像投射装置100において、映像変形部103は、第一の画像を変形した第二の画像を含む第三の画像を生成する。記憶部106は、第二の画像上に配置された変形格子点の第二の画像における位置を示す座標値を記憶する。格子点決定部107は、記憶部106に記憶された座標値に基づいて、第三の画像における着目画素が第二の画像内に位置するか否かを判定する。【選択図】図1

Description

本発明は、映像投射装置における画像処理に関する。
近年、映像の投射は平面にとどまらず、円柱やドームなどの曲面に対して投射を行うケースが増えている。このような多様な投射面へ映像を投射する際、観察者に映像の歪みを感じさせないように、画像変形機能を搭載した映像投射装置が提案されている。映像投射装置が投射面に合わせて変形した画像を投射することにより、観察者は歪みを感じない映像を観察することができる。
しかし、円柱形状やドーム形状など様々な投射面の形状ごとに、観察者に歪みを感じさせない画像を投影するための画像変形用の演算回路を映像投射装置に搭載すると、映像投射装置の回路規模が増大するという課題がある。
このような課題を解決する方法として、変形前の画像に対して配置した格子点の座標値をメモリに記憶しておき、変形後の画像において、各格子点がどこに位置するかを対応付ける方法が知られている。また、変形後の画像に対して配置した格子点の座標値をメモリに記憶しておき、変形前の画像において、各格子点がどこに位置するかを対応付ける方法が知られている。
このような対応付けと、変形前の画像における着目画素の画素値を用いて、変形後の画像における着目画素の画素値を求めることができる。このような方法によれば、投射面の形状に因らず画像変形機能を共通化することができる。
ところで、映像投射装置向けの画像変形機能における画素値の算出は、画素抜けを防ぐために、一般に、逆変換型の再配列によって行われる。つまり、変形後画像の各画素を着目画素とし、着目画素の座標値に対応する変形前の座標値(以下、変形前座標値)を座標変換によって求める。そして、変形前座標値に対応する画素(以下、変形前着目画素)の値と、変形前着目画素の周囲画素の値を用いて着目画素の値を算出する。
変形前座標値を求める手法として、変形前の格子点の座標値と、当該格子点の変形後の座標値を用いる方法(以降、変形後格子点法)がある。また、変形後の格子点の座標値と、当該格子点の変形前の逆変形座標値を用いる方法(以後、変形前格子点法)の二通りが知られている(特許文献1、2参照)。
特許文献1は、変形前格子点法を開示し、格子点の座標値として、変形後から変形前への変換座標値(変形前座標値)をメモリに記憶する。ただし、変形前格子点法では、内側に縮小するような変形の場合、変形後画像の外側に位置する格子点は、変形形状の外側に位置するため不要になる。その結果、すべての格子点が座標変換に用いられず、座標変換の精度が低下する。座標変換の精度が低下すれば、例えば、複数台の映像投射装置による合成投射時など、各変形画像の一部を重畳して全体画像を投射する際に変形画像の間にずれが生じて鮮鋭感が低下するなど、画質劣化の要因となる。
特許文献2は、変形後格子点法を開示する。変形後格子点法には、着目画素の変形前座標値の算出に用いる格子点を決定する機能が必要である。特許文献2は、格子点の座標値として変形後座標値を用いるが、当該格子点の決定方法について何ら言及しない。
国際公開第08/139577号 特開2001-069434号公報
本発明は、映像の任意の変形に対応する高精度な画像変形処理を提供することを目的とする。
本発明は、前記の目的を達成する一手段として、以下の構成を備える。
本発明にかかる画像処理は、第一の画像を変形した第二の画像を含む第三の画像を生成する際に、前記第二の画像上に配置された変形後格子点の前記第二の画像における位置を示す座標値を記憶し、前記記憶された前記座標値に基づいて、前記第三の画像における着目画素が前記第二の画像内に位置するか否かを判定する。
本発明によれば、映像の任意の変形に対応する高精度な画像変形処理が可能になる。
実施例1の映像投射装置の構成例を示すブロック図。 映像変形部の画像変形処理を説明する図。 実施例1の映像変形部が実行する画像変形処理を説明するフローチャート。 座標処理部による変形前座標値の算出を説明する図。 実施例2の映像投射装置の構成例を示すブロック図。 拡張格子点を追加した様子を示す図。 実施例2の映像変形部が実行する画像変形処理を説明するフローチャート。 拡張格子点の別の追加例を示す図。
以下、本発明にかかる実施例の映像投射装置および画像処理方法を図面を参照して詳細に説明する。なお、実施例は特許請求の範囲にかかる本発明を限定するものではなく、また、実施例において説明する構成の組み合わせのすべてが本発明の解決手段に必須とは限らない。
[装置の構成]
図1のブロック図により実施例1の映像投射装置100の構成例を示す。映像投射装置100は、映像を入力する入力部101、入力映像に画像処理を施して映像を変形する映像変形部103、変形された映像を投射する出力部102を有する。
映像変形部103は、着目画素の変形前座標値を算出する座標変換部104と、着目画素の変形前座標値と、変形前画像から着目画素の画素値を算出する画素処理部105を有し、映像投射装置100における画像処理である画像変形処理を実行する。
座標変換部104は、変形後格子点を記憶する記憶部106、着目画素の座標変換に用いる変形後格子点の組を決定する格子点決定部107、決定された変形後格子点の組を用いて着目画素の変形前座標値を求める座標処理部108を有する。
[画像変形処理]
図2により映像変形部103の画像変形処理を説明する。入力部101は、第一の画像である図2(a)に示す変形前画像201を入力する。変形前画像201を変形した第二の画像が変形後画像202である。つまり、映像変形部103は、変形前画像201から変形後画像202を含む、第三の画像である図2(b)に示す出力画像203を生成し、出力画像203を出力部102に出力する。出力画像203を生成するために、映像変形部103は、出力画像203の各画素の画素値を算出する。
次に、格子点の定義を説明する。格子点は、変形前画像201と変形後画像202に配置した代表点に対応し、座標値(x, y)によって表される。変形前画像201の代表点に対応する格子点を「変形前格子点q」、変形後画像202の代表点に対応する格子点を「変形後格子点p」と呼ぶことにする。図2において、変形前格子点qと変形後格子点pの関係は次のようになる。
p0=f(q0)、p1=f(q1)、p2=f(q2)、p3=f(q3)、p4=f(q4)、p5=f(q5)
ここで、f()は変形における座標変換作用素。
つまり、変形前画像201に配置した変形前格子点qの座標値に、投射面の形状に対応させるための画像変形に基づく座標変換f()を施すと、変形後格子点pの座標値が得られる。記憶部106が記憶する変形後格子点pの座標値は、映像投射装置100内で演算して記憶部106に格納してもよいし、映像投射装置100外で演算して記憶部106に格納しても構わない。
格子点決定部107は、記憶部106が記憶する複数の変形後格子点pから、変形前座標値の算出に使う変形後格子点pの組を選択する。以下では、その内部に変形後格子点を包含しない最小の四辺形を構成する四つの格子点の組を「ブロック」と呼ぶ。図2(b)において、ブロックB0は変形後格子点p0、p1、p2、p3の組であり、ブロックB1は変形後格子点p2、p3、p4、p5の組である。なお、ブロックの形状は四辺形に限らず多角形でも構わない。例えば、変形後格子点p0、p1、p2を頂点とする三角形をブロックとする構成でも構わない。
変形後格子点pの組の選択は、ブロックを構成する四つの変形後格子点pによって形成される四辺形(以降、ブロック四辺形)が着目画素を包含するか否かの包含判定によって行う。なお、四辺形をもう一段細分化した二つの三角形、例えばp0p1p2やp1p2p3を包含判定の対象にしてもよい。
包含判定には、例えば交差数判定(crossing number algorithm)を用いればよい。交差数判定によれば、着目画素を起点とする水平線がブロック四辺形の辺と何回交差するかによって包含判定が行われる。交差回数が奇数のブロック四辺形は着目画素を包含すると判定され、交差回数が偶数のブロック四辺形は着目画素を包含しないと判定される。
例えば、図2(b)に示す着目画素s0を起点とする水平線は、ブロックB0四辺形の辺と一度だけ交差し、ブロックB1四辺形の辺と二度交差する。従って、着目画素s0は、ブロックB0四辺形に包含され、ブロックB1四辺形に包含されていないと判定される。なお、包含判定は、交差数判定に限定されるものでなく、回転数判定(winding number algorithm)など他のアルゴリズムを用いてもよい。
図3のフローチャートにより実施例1の映像変形部103が実行する画像変形処理を説明する。なお、図3は一画素分の画像変形処理を示し、出力画像203の全画素について図3に示す処理が繰り返される。
格子点決定部107は、注目ブロックを選択して(S11)、着目画素の包含判定を行い(S12)、着目画素を包含するブロック(以下、包含ブロック)を探索する。注目ブロックが着目画素を包含しないと判定した場合、全ブロックについて包含判定を行ったか否かを判定し(S13)、未判定のブロックがあれば処理をステップS11に戻す。
図2(b)に示す画素s2のように、変形後画像202の外側に位置する画素の場合、全ブロックについて包含判定を行っても包含ブロックは検出されない。そのような着目画素について、格子点決定部107は、着目画素が変形後画像202の画像内にはなく、画像外にあることを示す情報(以下、画像外情報)を座標処理部108に出力する(S14)。また、格子点決定部107は、包含ブロックを検出すると、包含ブロックの各変形後格子点pの座標値を座標処理部108に出力する(S15)。
座標処理部108は、格子点決定部107から入力された各変形後格子点pの座標値と、着目画素の座標値から変形前座標値を算出する(S16)。図2において、着目画素がs0、包含ブロックがB0の場合、着目画素s0、変形後格子点p0、p1、p2、p3、および、それら変形後格子点の対になる変形前格子点q0、q1、q2、q3の各座標値から変形前画素t0の座標値が算出される。
図4により座標処理部108による変形前座標値の算出を説明する。図4(a)は図2(a)に示す変形前格子点q0、q1、q2、q3部分の拡大図であり、図4(b)は図2(b)に示す変形後格子点p0、p1、p2、p3部分の拡大図である。座標処理部108は、四辺形p0p2p3p1内における着目画素s0の相対位置を求め、その相対位置を四辺形q0q2q3q1内における変形前画素t0に当て嵌めることで、変形前画素t0の座標値を求める。
まず、四辺形p0p2p3p1が長方形ではないため、着目画素s0を包含する三角形p0p2p3または三角形p0p3p1を用いて相対位置を求める。そのため、座標処理部108は、三角形p0p2p3および三角形p0p3p1について上述した包含判定を行い、着目画素s0を包含する三角形(以下、包含三角形)を判定する(S161)。なお、包含三角形の判定方法は限定されない。例えば、四角形p0p2p3p1が着目画素s0を包含するのは明らかなので、対角線p0p3と着目画素s0の比較により着目画素s0を包含する三角形(p0p2p3またはp0p3p1)を判定する方法でもよい。なお、格子点決定部107がブロックとして三角形を対象とする場合、三角形を判定する処理(S161)を省略することができる。
次に、座標処理部108は、包含三角形内における着目画素の相対位置α、βを求める(S162)。図3(b)において、p0s0を通る直線と線分p2p3の交点Mを求め、線分p2p3における交点Mの相対位置αを内挿計算により求める。そして、線分p0Mにおける着目画素s0の相対位置βを内挿計算により求める。なお、本実施例においてα、βの値域はともに0以上1未満である。
次に、座標処理部108は、相対位置α、βを変形前格子点の四辺形q0q2q3q1内における変形前画素t0の相対位置に適用して、変形前画素t0の座標値を求める(S163)。まず、ステップS161において判定された包含三角形に対応する三角形を選択する。例えば、包含三角形がp0p2p3の場合は三角形q0q2q3が選択され、包含三角形がp0p3p1の場合は三角形q0q3q1が選択される。そして、線分q2q3に対する内挿演算によってq0t0を通る直線と線分q2q3の交点Nの座標値を求め、線分q0Nに対する内挿演算によって変形前画素t0の座標値を求める。
また、座標処理部108は、着目画素について格子点決定部107から画像外情報を受け取った場合、当該情報を画素処理部105に出力する。
画素処理部105は、座標処理部108が算出した変形前座標値に対応する変形前画像201の画素とその周囲画素の画素値から、変形後画像202の着目画素の画素値を算出する(S17)。例えば、図2(a)において、変形前座標205に対応する変形前画素t0とその周囲画素206の画素値から、着目画素s0の画素値が算出される。画素値の算出には、一般的なバイリニア方式、バイキュービック方式などを用いればよい。
また、画素処理部105は、着目画素について座標処理部108を介して画像外情報を受け取った場合、当該着目画素の画素値として変形後画像202の外側を示す値を割り当てる(S18)。なお、変形後画像202の外側を示す値としては、出力画像203を投射する際に光が投射されない値、例えばRGB値であれば(0, 0, 0)などを用いればよい。そして、算出または割り当てた着目画素の画素値を出力部102に出力する(S19)。
変形後画像202に対して一画素未満でも外側にあると判定された着目画素は、変形後画像202の外側にあると判定される。また、画素処理部105は、変形前座標値に対応する画素とその周囲画素の画素値から着目画素の画素値を算出する。変形前画像201と出力画像203が同サイズとすると、変形後画像202の境界部分の画素値を算出する際、変形後画像202の境界外に対応する変形前画像201の画素がなく、変形後画像202の境界部分について滑らかな画像を生成することができない。変形後画像202の境界部分について滑らかな画像を生成するには、変形前画像201のサイズを出力画像203のサイズよりもやや大きく設定するか、出力画像203のサイズを変形前画像201のサイズよりもやや小さく設定することが望ましい。
以上の映像変形部103の画像変形処理により、変形前画像201から、様々な投射面の形状に合わせて任意の変形を施した変形後画像202を含む出力画像203を生成し、観察者に映像の歪みを感じさせない映像を投射することができる。
このように、出力画像203における着目画素の変形前座標値の算出に用いる格子点を決定して、出力画像203の全画素の画素値を算出または割り当てる画像変形処理が可能になる。この画像変形処理によれば、任意の変形に対応可能かつ高精度な変形演算が提供される。また、変形前画像201の画像サイズを相対的に大きく設定することで、変形後画像202の境界部分について滑らかな画像を生成することができる。
以下、本発明にかかる実施例2の映像投射装置および画像処理方法を説明する。なお、実施例2において、実施例1と略同様の構成については、同一の符号を付して、その詳細な説明を省略する場合がある。
実施例1では、着目画素の座標変換に用いる変形後格子点pの組を決定するために、包含ブロックを検出するまで無条件にブロックを包含判定の対象にする構成例を説明した。このような包含判定の対象ブロックの決定方法によれば、少ない判定回数で包含ブロックを検出する場合もあるが、全ブロックの包含判定を行って最後のブロックを包含ブロックとして検出する場合もあり得る。さらに、着目画素が変形後画像202の外側にある場合は全ブロックの包含判定が必要になる。このような手順の包含判定によれば、格子点決定部107の処理負荷は決して小さいとは言えない。
例えば、主走査方向の順方向に着目画素を移動し、出力画像203の右端に達したら主走査方向の逆方向に着目画素を移動する走査を行った場合、着目画素の包含ブロックは一つ前の着目画素の包含ブロックまたはその近傍にあると推定される。従って、一つ前の着目画素の包含ブロックと、その隣接ブロックを包含判定の対象にするだけで、変形後格子点pの組を決定する方法が考えられる。実施例2では、包含判定を行うブロックの数を削減して格子点決定部107の処理負荷を軽減する構成例を説明する。
図5のブロック図により実施例2の映像投射装置100の構成例を示す。図5に示すように、実施例2の座標変換部104は出力画像203の外側に配置した格子点を生成する生成部111を備えるが、その他の構成は実施例1の構成(図1)と同様である。
生成部111は、出力画像203の外側に格子点(以下、拡張格子点)を追加する。つまり、生成部111は、記憶部106が記憶する既存の変形後格子点pに加えて、追加した拡張格子点を記憶部106に格納する。拡張格子点は、対になる変形前格子点qが存在せず、格子点決定部107が無条件にブロックを包含判定の対象にせずに変形後格子点pの組を決定するためのものである。つまり、一つ前の着目画素を包含するブロックと、当該包含ブロックに隣接する八つのブロックの合計九つのブロックを包含判定の対象として、格子点決定部107が変形後格子点pの組を決定できるようにする。
図6により拡張格子点を追加した様子を示す。なお、図6は、図2(b)に示す変形後格子点pの一部(p11からp44の16点)を示す。生成部111は、これら変形後格子点pに対して拡張格子点を追加する。図6に記号□で示す点e00からe40、e01からe04が、出力画像203の外側に追加された拡張格子点である。なお、出力画像203の左上が原点(x, y)=(0, 0)とすると、例えば、拡張格子点e01の座標値は(p11x, -1)、拡張格子点e10の座標値は(-1, p11y)である。ここで、p11xは格子点p11のx座標、p11yは格子点p11のy座標である。また、拡張格子点e00の座標値は(-1, -1)とする。
図6に示すように拡張格子点eを追加すれば、出力画像203内のすべての画素はブロック四辺形の何れかに包含されることになる。なお、拡張格子点eは出力画像203の外側ではなく、出力画像203の境界上に設定しても構わない。その場合の拡張格子点e00の座標値は、原点と同様に(0, 0)になる。
図7のフローチャートにより実施例2の映像変形部103が実行する画像変形処理を説明する。なお、図7は一画素分の画像変形処理を示し、出力画像203の全画素について図7に示す処理が繰り返される。
格子点決定部107は、一つ前の着目画素を包含するブロック(以下、前包含ブロック)を中心とするブロックを包含判定の対象ブロックに決定する(S21)。例えば、着目画素がd3、一つ前の着目画素がd2であり、前包含ブロックが四辺形p11p12p22p21である場合、次のブロックが包含判定の対象ブロックになる(図6の領域602が包含判定の対象ブロックを示す)。
前包含ブロックの四辺形p11p12p22p21
前包含ブロックに隣接する四辺形e00e01p11e10、e01e02p12p11、e02e03p13p12、e10p11p21e20、p11p12p22p21、p12p13p23p22、e20p21p31e30、p21p22p32p31、p22p23p33p32
また、着目画素がd1、一つ前の着目画素がd0であり、前包含ブロックが四辺形e00e01p11e10である場合、次のブロックが包含判定の対象ブロックになる(図6の領域601が包含判定の対象ブロックを示す)。
前包含ブロックの四辺形e00e01p11e10
前包含ブロックに隣接する四辺形e01e02p12p11、p11p12p22p21、e10p11p21e20
次に、格子点決定部107は、包含判定の対象ブロックから注目ブロックを選択して(S22)、着目画素の包含判定を行い(S23)、包含ブロックを探索する。注目ブロックが着目画素を包含しないと判定した場合は処理をステップS22に戻し、次の注目ブロックを選択する。包含判定は、最大九個の対象ブロックについて順次行えばよい。
格子点決定部107は、包含ブロックを検出すると、包含ブロックが拡張格子点eを含むか否かを判定する(S24)。包含ブロックが拡張格子点eを含まない場合は、着目画素が変形後画像202に含まれると判定して、包含ブロックの各変形後格子点pの座標値を座標処理部108に出力する(S25)。また、包含ブロックが拡張格子点eを含む場合は、着目画素が変形後画像202の外側に位置すると判定して、画像外情報を座標処理部108に出力する(S26)。以降の処理(S16-S19)は実施例1と同様であり、各ステップに同一符号を付して、その説明を省略する。
このように、拡張格子点eを設けることにより包含判定の対象ブロックを最大九ブロックに限定して、包含ブロックを検出するまで無条件にブロックを包含判定の対象にすることを避けることができる。さらに、検出した包含ブロックが拡張格子点eを含む場合は着目画素が変形後画像202の外側にあると判定することができる。従って、包含判定を行うブロックの数を削減し、かつ、着目画素が変形後画像202の外側か否かの判定を簡易化して、格子点決定部107の処理負荷を軽減することができる。
なお、格子点に制約を与えることで、六つのブロックのみを包含判定の対象とすることもできる。すなわちブロックの四辺が互いに交差しないという制約を与えれば、包含ブロックが後退することはなくなる。ここで後退とは、前の着目画素が四辺形e01e02p12p11を包含ブロックとしていた場合、次の着目画素が、四辺形e00e01p11e10を包含ブロックとする左方向への遷移のことである。また、六つのブロックとは、3×3のブロックのうち、左端の一列を除いた2×3のブロックのことである。具体的には、図6のd3が着目画素であった場合、包含判定対象の六つのブロックは次の四辺形である。
e01e02p12p11、e02e03p13p12、p11p12p22p21、
p12p13p23p22、p21p22p32p31、p22p23p33p32
[変形例]
実施例2では、一つ前の着目画素を基準として包含判定の対象ブロックを決定する例を説明した。しかし、着目画素の上下左右の何れかに隣接する、または、斜め方向に隣接する、包含判定済みの画素を基準として包含判定の対象ブロックを決定すればよい。例えば、格子点決定部107は、横方向1ライン分の画素の包含ブロックの情報を保持し、着目画素に対して上方向または上斜め方向に隣接する画素の包含ブロック(前包含ブロック)を包含判定の対象ブロックの中心とする。
また、実施例2では、出力画像203の端部において、包含判定の対象ブロックの数が変化する例を説明したが、包含判定の対象ブロックの数が変化しない方法も考えられる。図8により拡張格子点eの別の追加例を示す。図8によれば、図6に示す拡張格子点e00からe40、e01からe04の外側に拡張格子点eaaからe4a、ea0からea4が追加されている。つまり、出力画像203の外側に二重に拡張格子点eを追加されている。なお、拡張格子点ea1の座標値は(p11x, -2)であり、拡張格子点e1aの座標値は(-2, p11y)である。
図8において、例えば、着目画素がd1、一つ前の着目画素がd0である場合、領域701で示すように包含判定の対象ブロックは九つになり、出力画像203内のすべての着目画素について、3×3のブロックを包含判定の対象ブロックにすることができる。
また、実施例1では、予め準備された変形後格子点に基づき包含判定を行う例を説明し、実施例2では、拡張格子点eの導入と、包含判定済みの画素を基準として包含判定の対象ブロックを決定する例を説明した。しかし、拡張格子点eを実施例1の構成に導入することもできる。そうすれば、検出した包含ブロックが拡張格子点eを含む場合、直ちに、着目画素が変形後画像202の外側に位置すると判定することができる。言い替えれば、着目画素が変形後画像202の外側に位置する場合、全ブロックの包含判定を行わずに済む可能性が高まる。
また、包含判定済みの画素を基準とする包含判定の対象ブロックの決定を実施例1の構成に導入することもできる。そうすれば、包含ブロックの検出を短時間に済ますことができる。ただし、着目画素が変形後画像202の外側に位置する場合は、全ブロックの包含判定が必要になる。
また、上記では、映像変形部103が映像投射装置100内にある例を説明したが、映像変形部103をコンピュータ装置を用いた画像処理装置として実現することもできる。つまり、映像変形部103の機能を実現するプログラムと変形後格子点のデータを記録媒体やネットワークを介してコンピュータ装置に供給する。そして、当該コンピュータ装置が変形前画像201を入力し、変形後画像202を含む出力画像203を映像投射装置100に供給すればよい。
[その他の実施例]
本発明は、上述の実施形態の一以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける一以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、一以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
103 … 映像変形部、106 … 記憶部、107 … 格子点決定部

Claims (12)

  1. 第一の画像を変形した第二の画像を含む第三の画像を生成する画像処理装置であって、
    前記第二の画像上に配置された変形後格子点の前記第二の画像における位置を示す座標値を記憶する記憶手段と、
    前記記憶手段に記憶された前記座標値に基づいて、前記第三の画像における着目画素が前記第二の画像内に位置するか否かを判定する判定手段とを有する画像処理装置。
  2. 前記第三の画像上に配置された複数の前記変形後格子点のうち前記着目画素に対応する変形後格子点の組みを決定する決定手段と、
    前記着目画素に対応する変形後格子点に基づき、前記着目画素に対応する画素の前記第一の画像における位置を示す座標値を算出する座標処理手段と、
    前記第一の画像における位置を示す座標値に基づき、前記第一の画像から前記着目画素の画素値を算出する画素処理手段とを有する請求項1に記載された画像処理装置。
  3. 前記着目画素が前記第二の画像外に位置する場合、前記決定手段は、画像外を示す情報を出力し、
    前記画素処理手段は、前記画像外が示された着目画素の画素値として、前記第二の画像の外側を表す値を割り当てる請求項1または請求項2に記載された画像処理装置。
  4. 前記決定手段は、前記変形後格子点のうち少なくとも三つを頂点とし、その内部に他の変形後格子点を含まない多角形が前記着目画素を包含するか否かの包含判定を行い、前記着目画素を包含する多角形の頂点である変形後格子点を前記着目画素に対応する変形後格子点に決定する請求項1から請求項3の何れか一項に記載された画像処理装置。
  5. 前記多角形のすべてが前記着目画素を包含しない場合、前記決定手段は、当該着目画素が前記第二の画像外に位置すると判定する請求項4に記載された画像処理装置。
  6. 前記第三の画像の境界または外側に配置した拡張格子点を生成する生成手段を有し、
    前記決定手段は、前記変形後格子点および前記拡張格子点のうち少なくとも三つを頂点とし、その内部に他の変形後格子点または他の拡張格子点を含まない多角形が前記着目画素を包含するか否かの包含判定を行い、前記頂点として前記拡張格子点を含まない多角形が前記着目画素を包含する場合、当該多角形の頂点である変形後格子点を前記着目画素に対応する変形後格子点に決定する請求項1から請求項3の何れか一項に記載された画像処理装置。
  7. 前記第三の画像の境界または外側に配置した拡張格子点を生成する生成手段を有し、
    前記決定手段は、前記変形後格子点および前記拡張格子点のうち少なくとも三つを頂点とし、その内部に他の変形後格子点または他の拡張格子点を含まない多角形が前記着目画素を包含するか否かの包含判定を行い、前記頂点として前記拡張格子点を含む多角形が前記着目画素を包含する場合、当該着目画素が前記第二の画像外に位置すると判定する請求項1から請求項3の何れか一項に記載された画像処理装置。
  8. 前記決定手段は、前記着目画素に隣接し、かつ、前記包含判定が済んだ隣接画素に基づき前記着目画素の包含判定の対象にする前記多角形を決定する請求項4から請求項7の何れか一項に記載された画像処理装置。
  9. 前記決定手段は、前記隣接画素を包含する多角形、および、前記多角形に隣接する多角形を前記着目画素の包含判定の対象にする請求項8に記載された画像処理装置。
  10. 請求項1から請求項9の何れか一項に記載された画像処理装置を有する映像投射装置。
  11. 第一の画像を変形した第二の画像を含む第三の画像を生成する画像処理方法であって、
    前記第二の画像上に配置された変形後格子点の前記第二の画像における位置を示す座標値を記憶し、
    前記記憶された前記座標値に基づいて、前記第三の画像における着目画素が前記第二の画像内に位置するか否かを判定する画像処理方法。
  12. コンピュータを請求項1から請求項9の何れか一項に記載された画像処理装置の各手段として機能させるためのプログラム。
JP2014226408A 2014-11-06 2014-11-06 画像処理装置、画像処理方法。およびプログラム Expired - Fee Related JP6487671B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2014226408A JP6487671B2 (ja) 2014-11-06 2014-11-06 画像処理装置、画像処理方法。およびプログラム
PCT/JP2015/005007 WO2016072044A1 (en) 2014-11-06 2015-10-01 Projection apparatus, image processing apparatus, and image processing method
EP15857669.4A EP3175613B1 (en) 2014-11-06 2015-10-01 Projection apparatus, image processing apparatus, and image processing method
CN201580059791.8A CN107079129B (zh) 2014-11-06 2015-10-01 投影装置、图像处理装置及图像处理方法
US15/507,310 US10397514B2 (en) 2014-11-06 2015-10-01 Projection apparatus, image processing apparatus, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014226408A JP6487671B2 (ja) 2014-11-06 2014-11-06 画像処理装置、画像処理方法。およびプログラム

Publications (3)

Publication Number Publication Date
JP2016092651A true JP2016092651A (ja) 2016-05-23
JP2016092651A5 JP2016092651A5 (ja) 2017-12-14
JP6487671B2 JP6487671B2 (ja) 2019-03-20

Family

ID=55908792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014226408A Expired - Fee Related JP6487671B2 (ja) 2014-11-06 2014-11-06 画像処理装置、画像処理方法。およびプログラム

Country Status (5)

Country Link
US (1) US10397514B2 (ja)
EP (1) EP3175613B1 (ja)
JP (1) JP6487671B2 (ja)
CN (1) CN107079129B (ja)
WO (1) WO2016072044A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017191572A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像処理装置及びその方法、プログラム
CN111816103A (zh) 2019-04-10 2020-10-23 中强光电股份有限公司 投影装置及影像调整方法
US12106492B2 (en) * 2021-11-18 2024-10-01 Volkswagen Aktiengesellschaft Computer vision system for object tracking and time-to-collision

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001083949A (ja) * 1999-09-16 2001-03-30 Japan Science & Technology Corp 映像投影装置
JP2013078001A (ja) * 2011-09-30 2013-04-25 Seiko Epson Corp プロジェクター、およびプロジェクターの制御方法
JP2014022836A (ja) * 2012-07-13 2014-02-03 Mitsubishi Electric Corp 画像処理装置、画像表示装置、画像処理方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001069434A (ja) 1999-08-27 2001-03-16 Hitachi Denshi Ltd 液晶プロジェクタの歪み補正装置
WO2008139577A1 (ja) 2007-05-09 2008-11-20 Fujitsu Microelectronics Limited 画像処理装置、撮像装置、および画像歪み補正方法
US8766998B1 (en) * 2008-08-22 2014-07-01 Aechelon Technology, Inc. Sampling of non-planar display surfaces
US8497873B2 (en) * 2009-03-26 2013-07-30 Mitsubishi Electric Corporation Apparatus and method for correction of projected images
JP2015038595A (ja) 2013-07-19 2015-02-26 キヤノン株式会社 映像生成装置、映像生成方法
JP2015060012A (ja) * 2013-09-17 2015-03-30 株式会社リコー 画像処理システム、画像処理装置、画像処理方法および画像処理プログラム、ならびに、表示システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001083949A (ja) * 1999-09-16 2001-03-30 Japan Science & Technology Corp 映像投影装置
JP2013078001A (ja) * 2011-09-30 2013-04-25 Seiko Epson Corp プロジェクター、およびプロジェクターの制御方法
JP2014022836A (ja) * 2012-07-13 2014-02-03 Mitsubishi Electric Corp 画像処理装置、画像表示装置、画像処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
PAULBOURKE: "Mesh format for image warping", [ONLINE], JPN7019000184, 1 February 2006 (2006-02-01), ISSN: 0003962485 *

Also Published As

Publication number Publication date
EP3175613B1 (en) 2020-08-05
EP3175613A1 (en) 2017-06-07
WO2016072044A1 (en) 2016-05-12
CN107079129B (zh) 2020-09-11
US10397514B2 (en) 2019-08-27
US20170289493A1 (en) 2017-10-05
JP6487671B2 (ja) 2019-03-20
EP3175613A4 (en) 2018-04-25
CN107079129A (zh) 2017-08-18

Similar Documents

Publication Publication Date Title
CN104268922B (zh) 一种图像渲染方法及图像渲染装置
JP5914045B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6581359B2 (ja) 情報処理装置及びその制御方法及びプログラム及び記憶媒体、並びに、ビデオカメラ
JP6487671B2 (ja) 画像処理装置、画像処理方法。およびプログラム
CN113643414A (zh) 一种三维图像生成方法、装置、电子设备及存储介质
JP6016662B2 (ja) 画像合成装置及び画像合成方法
US20180213215A1 (en) Method and device for displaying a three-dimensional scene on display surface having an arbitrary non-planar shape
JP2006350852A (ja) 画像生成システム
JP2010108205A (ja) 超解像画像作成方法
JP6417204B2 (ja) 画像処理装置および画像処理方法
US20130120461A1 (en) Image processor and image processing method
US20160314615A1 (en) Graphic processing device and method for processing graphic images
JP5787637B2 (ja) 画像処理装置、画像処理方法
JP6632434B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2010152529A (ja) 頂点テクスチャマッピング装置及びプログラム
JP6278716B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR20220069827A (ko) 절삭 부호화 거리 함수를 이용한 3차원 볼륨 해상도 변환 방법 및 장치
JP2016133835A (ja) 映像投射装置、並びに、画像処理装置およびその方法
JP2019517688A (ja) 二枚の表示画像間の移行を割り出すための方法及び装置、並びに、車両
JP2010068059A (ja) 映像データ生成プログラム
JP2011227864A (ja) 画像視点変換装置、画像視点変換方法、画像視点変換プログラム
JP6972089B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5721410B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2012160120A (ja) 画像処理装置、画像処理方法及びプログラム
JP2000113209A (ja) 多視点画像生成表示方法、多視点画像生成表示装置、および多視点画像生成表示プログラムを記録した記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190222

R151 Written notification of patent or utility model registration

Ref document number: 6487671

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees