JP4392291B2 - 画像処理装置、画像処理方法および画像処理プログラム - Google Patents
画像処理装置、画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP4392291B2 JP4392291B2 JP2004159977A JP2004159977A JP4392291B2 JP 4392291 B2 JP4392291 B2 JP 4392291B2 JP 2004159977 A JP2004159977 A JP 2004159977A JP 2004159977 A JP2004159977 A JP 2004159977A JP 4392291 B2 JP4392291 B2 JP 4392291B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- trajectory
- image processing
- locus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
紅山史子著,外1名,「繰り返し動画撮影による動体の消去(第I巻)」,情報処理学会(情報科学技術フォーラム),2002年,p.19−20
図1に示す画像処理装置10は、入力部11、表示部12、記憶部13およびこれらを制御する処理部14を有している。例えば、画像処理装置10は、パーソナルコンピュータなどのコンピュータである。以下、これらを具体的に説明する。
[カメラの撮影方法]
まず、時空間画像の生成に用いられるカメラの撮影方法について説明する。図2は、カメラの撮影方法を示す説明図である。図2では、被写体P,Qが静止している状態のときに、1台のカメラ(例えば、ビデオカメラ)が、x軸方向(所定の方向)に一定の速度(等速度)で平行移動し、撮影点(撮影位置)o1,o2,o3で被写体を連続撮影する。ここでいう平行移動とは、撮影者の視線方向(カメラレンズの光軸方向を意味する)に垂直で、かつスキャンライン方向に平行な移動のことである。視線方向は撮影方向を意味する。
画像I1には、被写体P(x,y,z)を示す画素p1と被写体Q(x,y,z)を示す画素q1とが含まれ、画像I2には、被写体Qを示す画素p2が含まれ、画像I3には、被写体Qを示す画素q3と被写体Pを示す画素p3とが含まれている。
したがって、図2の画像I1,I3では被写体P,Qの対応点が互いに存在するが、図2の画像I2では被写体Qの対応点しか存在しないこととなり、これらの画像I1〜I3を一連の動画像として連続的に見てみると、被写体Pが被写体Qによって見えたり隠れたりすることとなる。
なお、図2では、2つの被写体P,Qおよび3つの画像I1〜I3が示されているが、実際には、それ以外の被写体や画像が存在している。
そして、図2に示した画像I1〜I3を含む画像群を、時間(撮影時間)軸tを持つ図3に示す三次元空間(x,y,t)とみなす。図3の三次元空間は、時間軸tと空間軸(x,y)とを持っている。そして、この三次元空間を時間軸t方向に切断することで、時空間画像が生成されることとなる。つまり、ここでは、時空間画像とは、平行移動するカメラによって連続的に撮影された二次元の画像群を、時間軸tを持つ三次元空間(x,y,t)とみなし、この三次元空間を時間軸t方向に切断することで得られるものであり、時間軸tおよび空間軸(x,y)持つ。さらに詳述すると、時空間画像は、x軸方向に沿って一直線上でかつ等間隔に設定された各撮影点においてx軸方向に対して垂直方向となる撮影方向に光軸を向けて撮影されたものである。
なお、三次元空間(x,y,t)内で画素の位置をあらわす場合、(i,j)を用いて示す。図3では、例えば、画素p1などの位置を(i1,j1)などで示している。
次に、図3に示した三次元空間(x,y,t)からエピポーラ平面を抽出する方法について説明する。
図3の三次元空間(x,y,t)において、y軸方向の点yを固定(y=一定)して、x軸と時間軸tとで構成される(x−t)平面を離散的に抽出すると、例えば、図4(a)に示す(x−t)平面、すなわちエピポーラ平面を抽出することができる。
図4(a)に示したエピポーラ平面上には、例えば、図3に示した画素p1,p3,q1,q2,q3が含まれている。そして、各画素p1,p3を通る軌跡線L1と、各画素q1,q2,q3を通る軌跡線L2とが示されている。
ここで、図4(a)に示した各軌跡線L1、L2の傾き(t/x)の絶対値を比較してみると、軌跡線L2の傾きの方が、軌跡線L1の傾きよりも小さくなっている。これは、図2では、被写体Qの方が被写体Pよりもカメラからの距離が近いので、画像上での移動量xが大きくなり、軌跡線L2の傾きを示す式(t/x)中の分母xが大きくなるからである。すなわち、軌跡線の傾き(ここでは絶対値)は、軌跡線が示す像の被写体とカメラとの間の距離に反比例する。
したがって、時空間画像中、カメラの手前にある被写体の像の軌跡線は、その奥にある被写体の像の軌跡線よりも、その傾きの絶対値が小さくなる。例えば、カメラの一番手前にある被写体の像の軌跡線は、時空間画像の中で、その傾きが最小となる。
次に、画像処理装置10によって実現される補間処理の手法の概略を図5に基づいて説明する。
例えば、図5(a)に示すエピポーラ平面において、ユーザによって除去したい物体の像の軌跡線が指定されると、同図(b)に示すように、その軌跡線が除去されブランクができる。そして、指定された軌跡線とは異なる他の軌跡線Lを延長して、ブランクを埋める(同図(c)参照)。つまり、延長した軌跡線Lの色情報がブランクに設定されることとなる。なお、軌跡線Lの延長方法は、後記の図7で詳述する。
ここで、軌跡線Lの色情報がブランクに設定されることとなるが、この点について詳述しておく。まず、軌跡線Lの色情報について説明する。軌跡線Lの色情報というのは、該当する対応点である画素が持つ色情報を意味する。例えば、図4(a)の軌跡線L2の色情報というときは、該当する対応点である各画素q1,q2,q3が持つ色情報を意味する。この場合、これらの画素q1〜q3は、同じ被写体Qの像であるから、同じ色情報を持つと仮定する。
次に、画像処理装置10の処理部14における動画像の補間処理を示す手順を図6ないし図8に基づいて具体的に説明する。ここでは、まず、図6に基づいて、動画像中の消去対象の画素の受付などに関する処理手順S101〜S108について説明する。
なお、対象区間は、フレーム番号によって指定されたフレーム区間としたが、すべてのフレームが対象区間として予め設定されている場合にはS102の処理を省略してもよい。
そして、処理部14は、S103で抽出した軌跡からなる軌跡線を修正する(S104)。軌跡線の修正は、抽出した軌跡が直線となるように行えば、例えば、撮影時間を変更し修正してもよいし(特開平11−339043号公報参照)、カメラの位置を変更し修正してもよい(特開2001−28049号公報参照)。なお、軌跡が直線とならないのは、カメラの位置や撮影時間のずれなどの影響を受けるからである。
そして、処理部14は、修正後の時空間画像に基づく動画像を表示部12に表示し(S107)、利用者が入力部11を用いて、表示部12上の動画像のうち、消去すべき画素を指定する。画素の指定は、動画像中の見え隠れしている像のうち、見えている像を消去して隠れている像を再現するようにするため、見えている像を指定する。例えば、利用者が図2の画像I1〜I3中の被写体Pを再現したい場合、図2に示した画像I2中の画素q2が指定される。なお、画素の指定としては、例えば、クリック操作やドラッグ操作によって行われる。
S109では、処理部14は、図6のS108で受け付けた画素すべての軌跡線(ここでは傾きの絶対値がmのもの)についての処理について(S109の「No」の場合)、該当するすべてのx−t平面、すなわちエピポーラ平面についての処理(すなわち図3のy軸方向の処理)が終了したかどうかを判断する(S110)。
そして、S116における判定において、例えば、軌跡線が1つと判定された場合(S116の「1つ」の場合)、処理部14は、S116で判定した1つの軌跡線を延長して、該当する画素(ここでは図6のS108の受付処理により消去したもの)を軌跡線の端点とし(S117)、その軌跡線の色情報でその画素を補間する(S118:これを「補間機能」という。)。これにより、隠蔽していた被写体の像が補間されることとなる。
そして、処理部14は、S117に進み、S121で除外することにより残った傾きが最小の軌跡線を延長し、図6のS108の受付処理により消去した該当する画素をその軌跡線の端点とした(S117)後、その軌跡線の色情報でその画素を補間する(S118:これを「補間機能」という。)。これにより、カメラの一番手前にある被写体の像が再現されることとなる。
前記した実施の形態において、ブランクへの軌跡線の色情報の設定は、軌跡線の端部を延長して設定する場合で説明したが、ここでは、他の設定例について説明する。
色情報の設定は、例えば、軌跡線の開始位置の画素が持つ色情報を設定してもよいし、軌跡線の終了位置の画素が持つ色情報を設定してもよい。また、軌跡線の開始位置および終了位置の各画素の平均値を設定してもよい。
11 入力部
12 表示部
13 記憶部
14 処理部
Claims (3)
- 記憶部および処理部を備え、前記記憶部が、所定の方向に沿って一直線上でかつ等間隔に設定された撮影位置において前記所定の方向に対して垂直方向となる所定の撮影方向に光軸を向けて撮影された時空間画像を蓄積する画像処理装置であって、
前記処理部は、
前記時空間画像中の特徴点の軌跡を抽出する抽出機能と、
前記時空間画像のうちの指定された特徴点の軌跡の画素を消去する消去機能と、
前記消去した画素の近傍について前記消去した画素の軌跡よりも傾きが小さい特徴点の軌跡が複数ある場合、そのうち、その傾きが最小の特徴点の軌跡Lをもとに、前記消去した画素を前記軌跡Lの画素が持つ色情報によって補間する補間機能と、
補間後の時空間画像を外部出力する出力機能と、
を有することを特徴とする画像処理装置。 - 記憶部および処理部を備え、前記記憶部が、所定の方向に沿って一直線上でかつ等間隔に設定された撮影位置において前記所定の方向に対して垂直方向となる所定の撮影方向に光軸を向けて撮影された時空間画像を蓄積する画像処理装置における画像処理方法であって、
前記処理部は、
前記時空間画像中の特徴点の軌跡を抽出するステップと、
前記時空間画像のうちの指定された特徴点の軌跡の画素を消去するステップと、
前記消去した画素の近傍について前記消去した画素の軌跡よりも傾きが小さい特徴点の軌跡が複数ある場合、そのうち、その傾きが最小の特徴点の軌跡Lをもとに、前記消去した画素を前記軌跡Lの画素が持つ色情報によって補間するステップと、
補間後の時空間画像を外部出力するステップと、
を実行することを特徴とする画像処理方法。 - 請求項2に記載の画像処理方法をコンピュータに実行させるための画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004159977A JP4392291B2 (ja) | 2004-05-28 | 2004-05-28 | 画像処理装置、画像処理方法および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004159977A JP4392291B2 (ja) | 2004-05-28 | 2004-05-28 | 画像処理装置、画像処理方法および画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005339384A JP2005339384A (ja) | 2005-12-08 |
JP4392291B2 true JP4392291B2 (ja) | 2009-12-24 |
Family
ID=35492856
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004159977A Expired - Fee Related JP4392291B2 (ja) | 2004-05-28 | 2004-05-28 | 画像処理装置、画像処理方法および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4392291B2 (ja) |
-
2004
- 2004-05-28 JP JP2004159977A patent/JP4392291B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2005339384A (ja) | 2005-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7555158B2 (en) | Apparatus for recovering background in image sequence and method thereof | |
JP5818514B2 (ja) | 画像処理装置および画像処理方法、プログラム | |
JP5237055B2 (ja) | 映像送信装置、映像送信方法、およびコンピュータプログラム | |
US11343425B2 (en) | Control apparatus, control method, and storage medium | |
JP5725953B2 (ja) | 撮像装置及びその制御方法、並びに情報処理装置 | |
US20080018668A1 (en) | Image Processing Device and Image Processing Method | |
JP5760324B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム並びにこの画像処理プログラムが記録された記録媒体 | |
JP4839183B2 (ja) | 画像処理装置 | |
TW201345242A (zh) | 影像處理裝置、影像處理方法、程式 | |
JP2007166269A (ja) | 画像処理装置、撮像装置および画像処理方法 | |
WO2021217398A1 (zh) | 图像的处理方法及装置、可移动平台及其控制终端、计算机可读存储介质 | |
CN105791801A (zh) | 图像处理装置、图像拾取装置和图像处理方法 | |
JP6610535B2 (ja) | 画像処理装置および画像処理方法 | |
US20160078598A1 (en) | Image processor and image processing method | |
JP4348028B2 (ja) | 画像処理方法、画像処理装置、撮像装置及びコンピュータプログラム | |
JP2008281385A (ja) | 画像処理装置 | |
US20120229678A1 (en) | Image reproducing control apparatus | |
JP2015005925A (ja) | 画像処理装置および画像処理方法 | |
JP5268025B2 (ja) | 撮影装置 | |
JP5024116B2 (ja) | 被写体追跡プログラム、および被写体追跡装置 | |
JP6429483B2 (ja) | 情報処理装置、撮像装置、情報処理システム、情報処理方法およびプログラム | |
JP2009044329A (ja) | プログラム、画像処理方法および画像処理装置 | |
JP4392291B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP5906033B2 (ja) | 画像処理装置および画像処理方法、プログラム | |
JPH09288735A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060719 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090623 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090630 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090828 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091006 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091009 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131016 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |