JPWO2018139237A1 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JPWO2018139237A1
JPWO2018139237A1 JP2018564479A JP2018564479A JPWO2018139237A1 JP WO2018139237 A1 JPWO2018139237 A1 JP WO2018139237A1 JP 2018564479 A JP2018564479 A JP 2018564479A JP 2018564479 A JP2018564479 A JP 2018564479A JP WO2018139237 A1 JPWO2018139237 A1 JP WO2018139237A1
Authority
JP
Japan
Prior art keywords
image
signal
light
image processing
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018564479A
Other languages
English (en)
Other versions
JP6934645B2 (ja
Inventor
立昌 佐川
立昌 佐川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Publication of JPWO2018139237A1 publication Critical patent/JPWO2018139237A1/ja
Application granted granted Critical
Publication of JP6934645B2 publication Critical patent/JP6934645B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/73
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/69Spread spectrum techniques
    • H04B1/707Spread spectrum techniques using direct sequence modulation
    • H04B1/7097Interference-related aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/455Demodulation-circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B2201/00Indexing scheme relating to details of transmission systems not covered by a single group of H04B3/00 - H04B13/00
    • H04B2201/69Orthogonal indexing scheme relating to spread spectrum techniques in general
    • H04B2201/707Orthogonal indexing scheme relating to spread spectrum techniques in general relating to direct sequence modulation
    • H04B2201/7097Direct sequence modulation interference
    • H04B2201/709709Methods of preventing interference

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

比較的強い外乱光の下で動体の形状を撮影画像から復元し、あるいは視認できない画像が埋め込まれた動画像からその埋め込み画像を復調し表示させる。本発明の画像処理方法は、(a)物体の表面にスペクトラム拡散変調された信号に基づき点滅光を照射するステップS1と、(b)物体の表面からの反射光を受光し画像情報を含む信号を出力するステップS2と、(c)画像情報を含む信号から低周波数成分を含むノイズを除去するフィルター処理ステップS3と、(d)フィルター処理後の信号を逆拡散し復調するステップS4、S5と、(e)復調後の信号に基づき物体の表面の状態を反映した画像を出力するステップS6と、を含む。

Description

本発明は、画像処理方法に関し、より具体的には、外乱光下で物体の表面に投影されるあるいは画面上に表示される特定パターンを含む撮影画像を処理することにより、物体形状の復元あるいは画面上の隠蔽画像の表示などを行うための画像処理方法に関する。
従来から、プロジェクタ等の光源とカメラを用いて、撮影画像から物体形状を復元する画像処理システム/方法が提案されている。例えば、特許文献1は、観測対象物上に投影されたグリッドパターンを含む撮影画像から対象物の形状を復元する画像処理方法を開示する。特許文献2は、運動する物体への投影パターンを含む撮影画像から復調された同期パターンの位相を用いて、物体形状を復元する画像処理方法を開示する。特許文献3は、環境光下で物体へ投影されたグリッドパターンを含む撮影画像からバンドパスフィルタを用いて物体の形状を復元する画像処理方法を開示する。
また、非特許文献1は、対象物へアダマール行列に基づいたパターンを用いて複数の光源を同時に点灯して、カメラでの撮影画像から対象物の形状を復元する画像処理方法を開示する。さらに、非特許文献2は、スペクトラム拡散変調を用いて画像中に埋め込んだ情報を復調して復元(表示)する方法を開示する。
特許第5317169号公報 特許第5761750号公報 国際公開WO2014/020823公報
Proceedings of the Ninth IEEE International Conference on Computer Vision (ICCV’03) IEEE TRANSACTIONS ON IMAGE PROCESSING, VOL. 8, NO. 8, pp 1075-1083, AUGUST 1999
上記した特許文献および非特許文献の各々は、撮影画像から物体形状を復元したり、あるいは画像中に埋め込んだ情報を復元するための画像処理方法として個々にその目的を達成しているが、比較的強い外乱光の下で動体の形状を撮影画像から復元したり、あるいは視認できない画像が埋め込まれた動画像からその埋め込み画像を復調し表示させるような場合には必ずしも有効な画像処理方法を開示するものではない。
本発明の一態様の画像処理方法は、(a)物体の表面にスペクトラム拡散変調された信号に基づき点滅光を照射するステップと、(b)物体の表面からの反射光を受光し画像情報を含む信号を出力するステップと、(c)画像情報を含む信号から低周波数成分を含むノイズを除去するフィルター処理ステップと、(d)フィルター処理後の信号を逆拡散し復調するステップと、(e)復調後の信号に基づき物体の表面の状態を反映した画像を出力するステップと、を含む。
本発明の他の一態様の画像処理方法は、(a)表示画面に表示する動画像中への埋め込み映像を準備するステップであって、当該埋め込み映像は、スペクトラム拡散変調された信号に基づき前記表示画面の画素を点灯させることにより表示されるステップと、(b)表示画面に表示された、埋め込み映像を含む動画像を撮影するステップと、(c)撮影された動画像の信号から低周波数成分を含むノイズを除去するフィルター処理ステップと、(d)フィルター処理後の信号を逆拡散し復調するステップと、(e)復調後の信号に基づき埋め込み映像を出力するステップと、を含む。
本発明の一態様の画像処理システムは、(a)物体の表面にスペクトラム拡散変調された信号に基づき点滅する光を照射するための光源と、(b)物体の表面からの反射光を受光し画像情報を含む信号を出力する撮像装置と、(c)画像情報を含む信号から低周波数成分を含むノイズを除去するためのフィルターと、(d)フィルターの処理後の信号を逆拡散し復調するための演算処理装置と、(e)復調後の信号に基づき物体の表面の状態を反映した画像が表示する表示装置と、を含む。
本発明によれば、物体へのスペクトラム拡散変調光の照射と、その照射中の物体の撮影画像のフィルタリング処理を用いることにより、外乱光下において静止体あるいは動体の形状を計測することができる。また、本発明によれば、動画中へスペクトラム拡散変調を用いて映像を埋め込むことにより、その動画の撮影画像から復調した埋め込み映像を表示させることができる。
本発明の一実施形態の画像処理システムの構成を示す図である。 本発明の一実施形態の画像処理方法のフローを示す図である。 本発明の他の一実施形態の画像処理方法のフローを示す図である。 本発明の実施例1を説明するための図である。 本発明の実施例1を説明するための図である。 本発明の実施例2を説明するための図である。 本発明の実施例3を説明するための図である。 本発明の実施例3を説明するための図である。 本発明の実施例4を説明するための図である。
図面を参照しながら本発明の実施形態について説明する。図1は、本発明の一実施形態の画像処理システムの構成を示す図である。画像処理システム100は、物体1に光を照射するための光源10と、物体の表面からの反射光を受光することができる撮像装置12と、光源10と撮像装置12に接続する演算処理装置14を含む。被写体となる物体1は、少なくとも外形表面から光を反射可能な物体、言い換えれば撮像装置12で撮影可能な物体であれば良く、静止体のみならず動体も含むことができる。動体は、自らが動く(自動式)物体あるいは他の手段(機構)によって動かされる(他動式)物体の双方を含むことができる。
光源10は、物体1の表面にスペクトラム拡散変調された信号に基づき点滅する光を照射することができるように構成される。そのスペクトラム拡散変調された信号は演算処理装置14によって供給される。光源10は、発光ダイオード(LED)、レーザダイオード(LD)、ビデオプロジェクタなどの発光源を用いることができる。光源10は、より具体的には、例えば所定のパターン(ドットパターン等)を物体1の表面に投影可能なレーザパターンプロジェクターを用いることができる。光源10は、単一波長あるいは複数波長のスペクトルを含む光源を用いることができる。光源10は、少なくとも1つあればよく、2以上の異なる方向から光を照射可能な同一または異なる種類の光源を用いることもできる。
撮像装置12は、例えばCMOSやCCDからなるイメージセンサ(エリアセンサ)を含むカメラを用いることができる。撮像装置12は、モノクロまたはカラー(RGB)のカメラ、あるいはハイパースペクトルカメラを用いることができる。撮像装置12は、光源10の発光(点滅)と同期して撮影する必要があることから撮影速度(コマ/秒)が速いハイスピードカメラを用いることができる。撮像装置12は、画像情報を含む信号(映像データ)を演算処理装置14に出力する。
演算処理装置14は、撮像装置12から受信する画像情報を含む信号(映像データ)を数値的に演算処理して表示可能な、プロセッサ(CPU)、メモリ、ディスプレイ等を含むパーソナルコンピュータ(PC)等を用いることができる。演算処理装置14は、その演算処理機能として、画像情報を含む信号(映像データ)から低周波数成分を含むノイズを除去するためのフィルターとしても機能する。なお、フィルターは、演算処理装置14とは別の独立なあるいは付随する装置として構成してもよい。演算処理装置14は、さらにフィルター処理後の信号を逆拡散し復調する機能も有する。復調後の信号に基づき物体の表面の状態を反映した画像が、演算処理装置14が備えるディスプレイに表示される。
図2は、本発明の一実施形態の画像処理方法のフローを示す図である。図2のフローは、例えば図1の画像処理システムを用いて実行することができる。図2のフローは、室内または屋外の外乱光(室内照明、太陽光等)がある中で実行することができる。その際の外乱光は、撮像装置12の各受光素子の出力が飽和しない範囲であれば比較的強い光強度(明るさ)の外乱光であってもよい。本発明のシステム及び方法では、その比較的強い外乱光(ノイズ)下でも物体表面の特定画像を得ることができることが1つの特徴である。
図2のステップS1において、物体の表面にスペクトラム拡散変調された信号に基づき点滅光を照射する。具体的には、例えば図1のシステムにおいて、物体1の表面に光源10からスペクトラム拡散変調された信号に基づき発光する点滅光を照射する。スペクトラム拡散変調された信号は、演算処理装置14によって生成される。物体1は、上述したように静止体のみならず動体も含むことができる。スペクトラム拡散変調には、直接拡散方式(DS)を用いることができる。
直接拡散方式(DS)において、スペクトラム拡散変調された信号は、元の信号(基準信号)を1次変調した信号に擬似ランダム雑音(PN)系列の拡散符号を乗算して得ることができる。拡散符号は、例えば長さLの最長系列(MLS)符号を含むことができる。その長さLの最長系列(MLS)符号は、例えば演算処理装置14が内蔵する線形フィードバックシフトレジスタ(LFSR)を用いて生成することができる。拡散符号として、符号(−1と1)を含むアダマール行列や符号(0、1)を含むS行列を用いることもできる。
点滅光は、光源10にレーザパターンプロジェクターを用いることにより、例えば所定のグリッドパターンを含むようにすることができる。点滅光は単一波長あるいは複数波長のスペクトルを含むようにすることができる。点滅光は複数の異なる方向から物体1に照射させることもできる。ステップS2において、物体の表面からの反射光を受光し画像情報を含む信号を出力する。具体的には、例えば図1のシステムにおいて、物体1の表面からの反射光を撮像装置12で受光し、言い換えれば点滅光が照射されている物体1を撮像装置12で撮影し、その撮影画像を内蔵するメモリに保管し、さらにその撮影画像を演算処理装置14に送る。
ステップS3において、画像情報を含む信号から低周波数成分を含むノイズを除去するフィルター処理を行う。具体的には、例えば図1のシステムにおいて、演算処理装置14において、ハイパスフィルターと、選択的に空間フィルターを用いて撮影映像信号(映像データ)を処理してノイズ成分を除去する。このノイズ成分は、撮影時の外乱光に起因して発生する比較的低周波数のノイズを含む。ハイパスフィルター処理において、例えば、逆離散フーリエ変換(IDFT)関数を用いて、さらに窓関数(例えばハン窓(Hanning Window))を用いて、すなわち撮影画像信号(映像データ)にこれらの関数を乗算して、低周波数のノイズ及びリップルノイズを除去することができる。空間フィルター処理においては、例えばガウシアンフィルタ(Gaussian Filter)を用いて処理することができる。
ステップS4において、フィルター処理後の信号(映像データ)を逆拡散する。具体的には、フィルター処理後の信号に逆拡散符号を乗算して逆拡散後の信号を生成する。逆拡散符号は、拡散符号と同じ符号を用いることができる。ステップS5において、逆拡散後の信号を復調する。なお、ステップS4の逆拡散とステップS5の復調は1つのステップとして同時に(連続して)実行することができる。ステップS6において、復調後の信号に基づき物体の表面の状態を反映した画像を出力する。その画像(映像)は、演算処理装置14が備えるディスプレイに表示させることができる。
図2の画像処理方法で使用するスペクトラム拡散変調(直接拡散方式)は、下記の式(1)〜(5)で信号の流れが説明されるように、従来から無線通信等の技術分野で用いられているものである。本発明では、(i)光源が発する光をスペクトラム拡散変調された点滅光として物体に照射して利用する点、及び(ii)その点滅光が照射される物体の撮影画像を逆拡散する前に所定のフィルタリング処理をして外乱光等に起因するノイズ成分を除去する点が従来技術と大きく異なる点(特徴)である。
<直接拡散方式の信号の流れ>
時間tkにおける基準信号skを関数Fを用いて1次変調信号M1(tk)とする。ただし、kT<tk<(k+1)T(T:基準信号の周期、k:時間ステップ)である。
Figure 2018139237
変調信号M1(tk)は、時間ステップkでL個のチップ(送信データビット)に分割された後、拡散符号Sによってスペクトラム拡散されてスペクトラム拡散変調信号M2(tk)となる。
Figure 2018139237
送信される変調信号M2(tk)にはノイズn(tk)が加わり、受信信号M´2(tk)として受信される。
Figure 2018139237
受信信号M´2(tk)は逆拡散符号S´により逆拡散されて信号D(tk)となる。
Figure 2018139237
最後に、逆拡散後の信号D(tk)を関数Fに対応する関数F´を用いて復調して、復調信号sk´を得る。
Figure 2018139237
ここで、外乱光下で動体を観測する場合の撮影映像のフィルター処理及び逆拡散・復調処理に関してさらに説明する。外乱光は動きの無いシーンでは撮影した映像信号中のほぼ一定な直流(DC)成分と捉えることができる。しかし、動きのあるシーンでは、その直流(DC)成分は一定ではなく、撮影速度(フレームレート)に比べて遅い動体の動きに応じて変化する比較的低周波な成分を含むことになる。したがって、外乱光下で動体を観測する場合は、ハイパスフィルターを用いて映像信号からその低周波な成分を除去してから復調する必要がある。
周波数ωTよりも大きな周波数を透過させるハイパスフィルターは、周波数領域として(6)式で表すことができる。
Figure 2018139237
時間領域でのハイパスフィルターh(t)は、(7)式で定義することができる。
Figure 2018139237
ここで、IDFH(H)は、H(ω)の逆離散フーリエ変換(IDFT)を意味し、ω(t)は、ω(t)=0.5−0.5cos(2π/Lω)で定義されるハン窓(Hanning Window)を意味する。ノイズn(t)が低周波数成分だけを含む場合、h(t)との畳み込みはh(t)*n(t)=0となる。外乱光の影響は、受信信号M´2(t)とハイパスフィルターh(t)の畳み込みによって除去することができる。
拡散符号S(t)に最長系列(MLS)符号を用いた場合、逆拡散符号S´(t)=S(t)となり、動体が観測され低周波成分がゼロでない場合、逆拡散信号D(t)は(8)式のようになる。
Figure 2018139237
スペクトラム拡散信号もしかしながらゼロではない低周波成分を持っている。(8)式によって逆拡散される信号はハイパスフィルターによって影響を受けることになるので、復調させるための関数F´は元の関数Fに応じて変形させる必要がある。
追加のノイズフィルターは空間フィルターとの組み合わせによって得ることができる。周辺画素が類似信号を受信したと仮定することによって、ガウシアンフィルタ(Gaussian Filter)であるg(x、y)を受信信号に適用することができる。ここで、x、yは画素の座標である。この場合、逆拡散信号Dは(9)式のように変形される。
Figure 2018139237
次に、変調関数Fを用いた単純なケースとして直流(DC)成分の振幅変調について検討する。ちなみに、式(1)でも記載したように、1次変調信号M1(tk)=sk、ただし、kTb<tk<(k+1)Tb(Tb:基準信号の周期、k:時間ステップ)である。最初に、1つの光源の場合を想定する。sをkTb<tk<(k+1)Tbでの送信信号とし、mを空間フィルターを適用した後の受信信号M´2(t)のベクトルとする。さらに、拡散符号からベクトルS=[S(t)](t=ikTb/L、i=0、・・・、L−1)とする。ハイパスフィルター値からなる行ベクトルhによって、L×(L+Lω−1)行列Hは(10)式で定義される。
Figure 2018139237
ハイパスフィルターを用いてゼロでないノイズの低周波成分を除去することによって、(11)式を得る。
Figure 2018139237
(11)式の最小二乗法による解は(12)式となる。
Figure 2018139237
(12)式の右辺の係数の行列は逆拡散及び復調の合成関数に相当し、復調のために受信信号と畳み込みされるフィルターとして使われる。
複数の光源の場合を想定すると、最長系列(MLS)によって与えられた符号から循環シフトされた拡散符号を用いて個々の信号が抽出される。Sjをj回の循環シフトSによって与えられた拡散符号の列ベクトルとする。M個の光源が使われる場合、上述した1つの光源の場合と同様に、係数の行列は(13)で得ることができる。
Figure 2018139237
ここで、Qは(14)式で表される拡散符号の行列である。
Figure 2018139237
図3は、本発明の他の一実施形態の画像処理方法のフローを示す図である。図3のフローは、例えば図1のシステムにおける撮像装置12と演算処理装置14を用いて実行することができる。ステップS10において、表示画面に表示する動画像中への埋め込み映像を準備する。具体的には、例えば演算処理装置14によって動画像中への埋め込み映像を表示させるためのスペクトラム拡散変調された信号を生成し、そのスペクトラム拡散変調された信号に基づき演算処理装置14が備えるディスプレイに表示(ディスプレイの画素を点灯)させることができるように準備する。ディスプレイには液晶モニタやビデオプロジェクタなどが含まれる。その際、スペクトラム拡散変調された埋め込み映像の表示は、比較的高い周波数で低い光出力(各画素の輝度)に設定し、動画の再生中にはそのままでは視認できないようにする。
ステップS11において、表示画面に表示された、埋め込み映像を含む動画像を撮影する。具体的には、例えば演算処理装置14が備えるディスプレイで再生された埋め込み映像を含む動画を撮像装置12で撮影する。その撮影画像(映像データ)は、撮像装置12が内蔵するメモリに保管され、さらに演算処理装置14に送られる。ステップS12において、演算処理装置14において、撮影された動画像の信号(映像データ)から低周波数成分を含むノイズを除去するフィルター処理を行う。このフィルター処理は、基本的に上述した図2のステップS3のフィルター処理と同様な方法で行うことができる。
ステップS13において、フィルター処理後の信号(映像データ)を逆拡散する。具体的には、フィルター処理後の信号に逆拡散符号を乗算して逆拡散後の信号を生成する。逆拡散符号は、拡散符号と同じ符号を用いることができる。ステップS14において、逆拡散後の信号を復調する。なお、ステップS13の逆拡散とステップS14の復調は1つのステップとして同時に(連続して)実行することができる。ステップS15において、復調後の信号に基づき動画像中に埋め込まれた埋め込み映像を出力する。その映像は、演算処理装置14が備えるディスプレイに表示させることができる。これによりいわば動画中に隠された埋め込み映像を視認することができる。
図4と図5を参照しながら実施例1について説明する。実施例1は、強い外乱光下で対象物である彫刻像の表面にグリッドパターンを照射しながら彫刻像を撮影して、そのグリッドパターンを含む彫刻像の画像を表示(再現)させる場合の例である。図4はその測定の際の配置を示している。彫刻像(Target object)の斜め手前側に外乱光を模擬するためのランプ(External light)が置かれ、さらに手前側に本発明の方法によるスペクトラム拡散変調されたグリッドパターンを投光するためのレーザパターンプロジェクター(Laser pattern projector)と、彫刻像を撮影するためのハイスピードカメラ(High speed camera)が置かれている。なお、図示はされていなが、レーザパターンプロジェクターとハイスピードカメラは、ディスプレイを備えるコンピュータ(PC)に通信可能に接続されている。
図4の配置での測定において、ランプは、彫刻像から約0.7mの距離に置かれ、400Wの出力を有し、彫刻像を約100Kルクスで照らすことができる。レーザパターンプロジェクターは、彫刻像から約1.7mの距離に置かれ、約800nmの波長のスペクトラム拡散変調された波型グリッドパターン光を約40mWの光強度で彫刻像の表面に照射する。ハイスピードカメラは、約800nmの波長光を受光可能なバンドパスフィルタを備え、512×512画素の12ビットの画像を22500FPSで撮影することができる。
図5は、上記した測定条件で測定した結果を示すディスプレイでの表示画像を示す。(a)は、彫刻像をランプによって約100Kルクスで照らし、同時にペクトラム拡散変調された波型グリッドパターン光を照射した場合のハイスピードカメラでの撮影画像である。画像からは波型グリッドパターンは視認することはできない。(b)〜(c)は、撮影画像を上述した図2のステップS3〜S6の画像処理方法で処理した結果の表示画像である。ペクトラム拡散変調に用いる拡散符号の長さLが、(b)L=15、(c)L=63、(d)L=255と異なっている。いずれも彫刻像の表面形状を反映した波型グリッドパターンが視認できている。波型グリッドパターンの鮮明度は、拡散符号の長さLが長くなるほど鮮明になっていることがわかる。
図6を参照しながら実施例2について説明する。実施例2は、太陽光下で対象物として手から離れて動くゴムボール(動体)の表面にグリッドパターンを照射しながらゴムボールを撮影して、そのグリッドパターンを含む画像を表示(再現)させる場合の例である。測定において、図4の実施例1の場合と同様に、レーザパターンプロジェクターとハイスピードカメラを使用している。測定の際の太陽光の明るさは約50Kルクスであり、約800nmの波長のスペクトラム拡散変調された波型グリッドパターン光を約85mWの光強度でゴムボールに照射している。スペクトラム拡散変調に用いる拡散符号の長さL=255である。
図6は、測定した結果を示すディスプレイでの表示画像を示す。(a)はゴムボールの動く様子を撮影した3つの瞬間の撮影画像(処理なしの生画像)である。(b)はレーザパターンプロジェクターでスペクトラム拡散変調された波型グリッドパターン光を照射した場合の3つの瞬間の撮影画像である。画像からは波型グリッドパターンは視認することはできない。(c)は、撮影画像を上述した図2のステップS3〜S6の画像処理方法で処理した結果の表示画像である。ただし、ステップS3のフィルタリング処理は行っていない。ゴムボールと手の境界領域に本来あるべきでない画像(動きによるノイズ画像)が現れてしまっている。(d)は、フィルタリング処理(ハイパスフィルター処理)を含めて、撮影画像を上述した図2の画像処理方法で処理した結果の表示画像である。(c)であった動きによるノイズ画像が無くなっている。(e)は得られた復調画像から復元した3次元(3D)画像である。
図7と図8を参照しながら実施例3について説明する。実施例3は、フォトメトリックステレオ法に本発明の画像処理方法を適用した場合の例である。図7は測定システムの様子を示す図である。(a)においてカメラのレンズの回りに60個のLEDを円形に配置している。隣り合う6個のLEDが1セットとして点滅(オンオフ)するようになっている。LEDの点滅には、本発明のスペクトラム拡散変調された信号に基づく点滅(変調光)が用いられる。(b)に示すように、LEDを配置したカメラを対象物である台上のあひる置物から約1.5mの距離に配置する。その結果、あひる置物は10方向の各々から6個のLEDで照射されることになる。図示はされていないが、実施例1、2の場合と同様にあひる置物はハイスピードカメラで撮影できるようになっている。
図8は、測定した結果を示すディスプレイでの表示画像を示す。(a)の3画像は外乱光無しの状態で長い露光時間で撮影した参照画像である。(b)〜(d)の各画像は、LEDをスペクトラム拡散変調信号を用いて点灯させた状態でのハイスピードカメラでの撮影画像を本発明の画像処理方法で処理した後の画像である。(b)〜(d)の各々の右端の画像は3次元の復元画像である。(b)の3画像は外乱光無しの状態で得られた画像であり、(c)と(d)は外乱光有りの状態で得られた画像である。(c)ではフィルタリング処理のハイパスフィルター処理を行っており、(d)ハイパスフィルター処理に加えて空間フィルター処理も行っている。(c)と(d)の外乱光有りの状態でもあひる置物が十分に視認できるほど再現されていることがわかる。
図9を参照しながら実施例4について説明する。実施例4は、上述した図3の画像処理フローに基づき動画中に埋め込まれた埋め込み画像をコンピュータ(PC)のディスプレイに表示させる場合の例である。ディスプレイのリフレッシュレートは60Hzである。図9の(a)は入力画像(動画像)を示す。ヒヒの顔を視認することができる。(b)は本発明の方法(スペクトラム拡散変調)を用いて埋め込まれる画像(女性画像)である。使用した拡散符号の長さL=31である。(c)はスペクトラム拡散変調を用いて埋め込み画像を表示した場合の画像フレームを示している。ディスプレイの各画素の輝度が小さく埋め込み画像を視認できない黒画面状態となっている。(d)は、ディスプレイ上において、(a)の視認可能な入力画像と、(c)の視認できない埋め込み画像を左右にスライドさせながらカメラで撮影し、その撮影画像を本発明の方法で処理した後の復調画像である。この場合、ハイパスフィルター処理に加えて空間フィルター処理も行っている。埋め込み画像が表示(再現)されている。
本発明の実施形態について、図を参照しながら説明をした。しかし、本発明はこれらの実施形態に限られるものではない。さらに、本発明はその趣旨を逸脱しない範囲で当業者の知識に基づき種々なる改良、修正、変形を加えた態様で実施できるものである。
1:物体(対象物)
10:光源
12:撮像装置
14:演算処理装置
100:画像処理システム

Claims (14)

  1. 画像処理方法であって、
    物体の表面にスペクトラム拡散変調された信号に基づき点滅光を照射するステップと、
    前記物体の表面からの反射光を受光し画像情報を含む信号を出力するステップと、
    前記画像情報を含む信号から低周波数成分を含むノイズを除去するフィルター処理ステップと、
    前記フィルター処理後の信号を逆拡散し復調するステップと、
    前記復調後の信号に基づき前記物体の表面の状態を反映した画像を出力するステップと、を含む画像処理方法。
  2. 前記スペクトラム拡散変調された信号は、基準信号を1次変調した信号に擬似ランダム雑音(PN)系列の拡散符号を乗算して得られる、請求項1に記載の画像処理方法。
  3. 前記拡散符号は長さLの最長系列(MLS)符号を含む、請求項2に記載の画像処理方法。
  4. 前記フィルター処理ステップは、ハイパスフィルターと、選択的に空間フィルターとを用いて前記画像情報を含む信号を処理することを含む、請求項1に記載の画像処理方法。
  5. 前記点滅光を照射するステップは、グリッドパターンの点滅光を照射するステップを含む、請求項1に記載の画像処理方法。
  6. 前記点滅光を照射するステップは、波長の異なる複数の光を含む点滅光を照射するステップを含む、請求項1に記載の画像処理方法。
  7. 前記点滅光を照射するステップは、複数の異なる方向から点滅光を照射するステップを含む、請求項1に記載の画像処理方法。
  8. 前記物体は動体を含む、請求項1〜5のいずれか1項に記載の画像処理方法。
  9. 画像処理方法であって、
    表示画面に表示する動画像中への埋め込み映像を準備するステップであって、当該埋め込み映像は、スペクトラム拡散変調された信号に基づき前記表示画面の画素を点灯させることにより表示される、ステップと、
    前記表示画面に表示された、前記埋め込み映像を含む前記動画像を撮影するステップと、
    撮影された前記動画像の信号から低周波数成分を含むノイズを除去するフィルター処理ステップと、
    前記フィルター処理後の信号を逆拡散し復調するステップと、
    前記復調後の信号に基づき前記埋め込み映像を出力するステップと、を含む画像処理方法。
  10. 画像処理システムであって、
    物体の表面にスペクトラム拡散変調された信号に基づき点滅する光を照射するための光源と、
    前記物体の表面からの反射光を受光し画像情報を含む信号を出力する撮像装置と、
    前記画像情報を含む信号から低周波数成分を含むノイズを除去するためのフィルターと、
    前記フィルターの処理後の信号を逆拡散し復調するための演算処理装置と、
    前記復調後の信号に基づき前記物体の表面の状態を反映した画像が表示する表示装置と、を含む画像処理システム。
  11. 前記スペクトラム拡散変調された信号は、基準信号を1次変調した信号に擬似ランダム雑音(PN)系列の拡散符号を乗算して得られる、請求項10に記載の画像処理システム。
  12. 前記拡散符号は長さLの最長系列(MLS)符号を含む、請求項11に記載の画像処理システム。
  13. 前記フィルター処理装置は、ハイパスフィルターと、選択的に空間フィルターとを用いて前記画像情報を含む信号を処理することを含む、請求項10に記載の画像処理システム。
  14. 前記光源は、(i)グリッドパターンの点滅光を照射する、(ii)波長の異なる複数の光を含む点滅光を照射する、または(iii)複数の異なる方向から点滅光を照射するように構成されている、請求項10に記載の画像処理システム。
JP2018564479A 2017-01-25 2018-01-15 画像処理方法 Active JP6934645B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017011501 2017-01-25
JP2017011501 2017-01-25
PCT/JP2018/000873 WO2018139237A1 (ja) 2017-01-25 2018-01-15 画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2018139237A1 true JPWO2018139237A1 (ja) 2019-07-04
JP6934645B2 JP6934645B2 (ja) 2021-09-15

Family

ID=62978308

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018564479A Active JP6934645B2 (ja) 2017-01-25 2018-01-15 画像処理方法

Country Status (5)

Country Link
US (1) US11076093B2 (ja)
EP (1) EP3561447B1 (ja)
JP (1) JP6934645B2 (ja)
CN (1) CN110214262A (ja)
WO (1) WO2018139237A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6898684B1 (ja) * 2020-11-17 2021-07-07 株式会社シンカ・アウトフィットNq 解析装置
WO2023095733A1 (ja) * 2021-11-29 2023-06-01 コニカミノルタ株式会社 画像形成システム、画像形成方法、及びプログラム

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5449191A (en) * 1977-09-26 1979-04-18 Kobe Steel Ltd Method of detecting surface flaw of hot steel
JPS63109309A (ja) * 1986-10-28 1988-05-14 Tokai Rika Co Ltd 非接触式平坦度測定装置
JPH1141571A (ja) * 1997-07-18 1999-02-12 Sony Corp 信号合成装置、信号合成方法、映像信号記録装置、映像信号記録方法並びに記録媒体
JPH11311510A (ja) * 1998-04-27 1999-11-09 Asahi Glass Co Ltd 微小凹凸の検査方法および検査装置
JP2000269886A (ja) * 1999-01-12 2000-09-29 Toyota Motor Corp 車々間通信装置
JP2003126786A (ja) * 2001-10-23 2003-05-07 Yamazaki Baking Co Ltd 茎付レーズンの検出装置
JP2006322759A (ja) * 2005-05-17 2006-11-30 Nippon Signal Co Ltd:The 光センサ及びこれを用いた物体検出装置と光通信装置
JP2011142607A (ja) * 2009-12-08 2011-07-21 Shiseido Co Ltd 非可視化情報埋込装置、非可視化情報認識装置、非可視化情報埋込方法、非可視化情報認識方法、非可視化情報埋込プログラム、及び非可視化情報認識プログラム
WO2011132241A1 (ja) * 2010-04-23 2011-10-27 パナソニック株式会社 撮像装置
JP2011242183A (ja) * 2010-05-17 2011-12-01 Hiroshima City Univ 画像処理装置、画像処理方法およびプログラム
JP2014195263A (ja) * 2009-02-19 2014-10-09 Sony Corp 画像処理装置および方法
JP2015200544A (ja) * 2014-04-07 2015-11-12 株式会社神戸製鋼所 表面凹凸検査装置及び表面凹凸検査方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BE792187A (fr) 1971-12-03 1973-03-30 Sumitomo Chemical Co Nouveaux derives d'alkylamines
JPS5317169B2 (ja) 1974-01-28 1978-06-06
JPH07325095A (ja) 1994-05-31 1995-12-12 Sony Tektronix Corp 回転速度測定装置
US6445308B1 (en) 1999-01-12 2002-09-03 Toyota Jidosha Kabushiki Kaisha Positional data utilizing inter-vehicle communication method and traveling control apparatus
JP2007164282A (ja) 2005-12-09 2007-06-28 Tokai Rika Co Ltd タッチ式検出スイッチ
JP2009245349A (ja) * 2008-03-31 2009-10-22 Namco Bandai Games Inc 位置検出システム、プログラム、情報記憶媒体及び画像生成装置
JP5317169B2 (ja) 2008-06-13 2013-10-16 洋 川崎 画像処理装置、画像処理方法およびプログラム
KR101289595B1 (ko) * 2011-02-28 2013-07-24 이경자 격자패턴투영장치
CN104541127B (zh) 2012-07-30 2017-07-04 独立行政法人产业技术综合研究所 图像处理系统以及图像处理方法
SG10201710025WA (en) * 2013-06-06 2018-01-30 Heptagon Micro Optics Pte Ltd Sensor system with active illumination
EP2821956A1 (en) * 2013-07-05 2015-01-07 Thomson Licensing Method for detecting a watermark in a video
US9945936B2 (en) 2015-05-27 2018-04-17 Microsoft Technology Licensing, Llc Reduction in camera to camera interference in depth measurements using spread spectrum

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5449191A (en) * 1977-09-26 1979-04-18 Kobe Steel Ltd Method of detecting surface flaw of hot steel
JPS63109309A (ja) * 1986-10-28 1988-05-14 Tokai Rika Co Ltd 非接触式平坦度測定装置
JPH1141571A (ja) * 1997-07-18 1999-02-12 Sony Corp 信号合成装置、信号合成方法、映像信号記録装置、映像信号記録方法並びに記録媒体
JPH11311510A (ja) * 1998-04-27 1999-11-09 Asahi Glass Co Ltd 微小凹凸の検査方法および検査装置
JP2000269886A (ja) * 1999-01-12 2000-09-29 Toyota Motor Corp 車々間通信装置
JP2003126786A (ja) * 2001-10-23 2003-05-07 Yamazaki Baking Co Ltd 茎付レーズンの検出装置
JP2006322759A (ja) * 2005-05-17 2006-11-30 Nippon Signal Co Ltd:The 光センサ及びこれを用いた物体検出装置と光通信装置
JP2014195263A (ja) * 2009-02-19 2014-10-09 Sony Corp 画像処理装置および方法
JP2011142607A (ja) * 2009-12-08 2011-07-21 Shiseido Co Ltd 非可視化情報埋込装置、非可視化情報認識装置、非可視化情報埋込方法、非可視化情報認識方法、非可視化情報埋込プログラム、及び非可視化情報認識プログラム
WO2011132241A1 (ja) * 2010-04-23 2011-10-27 パナソニック株式会社 撮像装置
JP2011242183A (ja) * 2010-05-17 2011-12-01 Hiroshima City Univ 画像処理装置、画像処理方法およびプログラム
JP2015200544A (ja) * 2014-04-07 2015-11-12 株式会社神戸製鋼所 表面凹凸検査装置及び表面凹凸検査方法

Also Published As

Publication number Publication date
WO2018139237A1 (ja) 2018-08-02
EP3561447A1 (en) 2019-10-30
US20190387164A1 (en) 2019-12-19
US11076093B2 (en) 2021-07-27
EP3561447B1 (en) 2023-11-22
CN110214262A (zh) 2019-09-06
EP3561447A4 (en) 2020-08-26
JP6934645B2 (ja) 2021-09-15

Similar Documents

Publication Publication Date Title
CN111345903B (zh) 图像处理设备、荧光观察设备及模拟荧光观察设备的方法
WO2015098288A1 (ja) 画像処理装置、および画像処理方法
US8467857B2 (en) Hypodermic vein detection imaging apparatus based on infrared optical system
TW200728900A (en) Image pickup device and method, recording medium, and program
JP2011010258A (ja) 画像処理装置、画像表示システム、画像抽出装置
EP2476296B1 (en) Illumination system for enhancing the appearance of an object and method thereof
JP6934645B2 (ja) 画像処理方法
CA2950908C (en) Systems and methods for expanding human perception
US20180077399A1 (en) Image processing device, image processing method, and computer-readable recording medium
CN103905738B (zh) 高动态范围图像生成系统及方法
MX2021009724A (es) Sensores de profundidad y visión para entornos agrícolas desafiantes.
JP5218634B2 (ja) 擬似濃淡画像生成装置及びプログラム
JP2011139115A (ja) 高速度カメラ装置とその画像処理方法
KR101451792B1 (ko) 영상 렌더링 장치 및 그 방법
US10630907B2 (en) Methods of producing video images that are independent of the background lighting
JP7449459B1 (ja) 物体を分析する方法及びシステム
JP4535268B2 (ja) 撮影装置および撮影システム
Braun et al. Light invariant photometric stereo
Behmann et al. Psychophysical Study of Human Visual Perception of Flicker Artifacts in Automotive Digital Mirror Replacement Systems
JP2017175199A (ja) 車室内用カメラの目標範囲の設定方法および車室内用カメラ
US20220327666A1 (en) Imaging systems and methods for correcting visual artifacts caused by camera straylight
JP2016097240A (ja) 撮像装置及び撮像方法
WO2022064416A1 (en) System for converting images into sound spectrum
Xu Recover Illumination of Images Taken under Irradiation of DLP Projector
Darwish et al. Effects of the “Source/surface” and “Surface/sensor” Coupling and Colorimetric of Laser Speckle Pattern on the Performance of Optical Imaging System

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191220

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200428

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200428

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200511

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200512

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200717

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200721

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201110

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201222

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210222

C30 Protocol of an oral hearing

Free format text: JAPANESE INTERMEDIATE CODE: C30

Effective date: 20210423

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210611

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210706

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210803

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210812

R150 Certificate of patent or registration of utility model

Ref document number: 6934645

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150