JP3930935B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP3930935B2 JP3930935B2 JP4675097A JP4675097A JP3930935B2 JP 3930935 B2 JP3930935 B2 JP 3930935B2 JP 4675097 A JP4675097 A JP 4675097A JP 4675097 A JP4675097 A JP 4675097A JP 3930935 B2 JP3930935 B2 JP 3930935B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- difference
- unit
- time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 239000013598 vector Substances 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 14
- 238000009499 grossing Methods 0.000 claims description 5
- 230000000717 retained effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 4
- 238000000034 method Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
この発明は、画像に含まれる物体の動きを抽出し、その物体の動く方向を計算する画像処理装置に関するものである。
【0002】
【従来の技術】
画像に含まれる物体の動きの方向を計算する従来の技術として、例えば特開平4−241077号公報に開示されたニューラルネットワークを用いた方法が知られている。この方法は、動く物体の各点の速度ベクトルを求めるために、物体の動きを反映した、オプティカル・フローと呼ばれる、各点の近傍の速度ベクトルが滑らかに変化すると仮定した拘束条件を表す汎関数を用い、この汎関数が平衡状態に収束するまで繰り返し計算を行う。この計算結果としてオプティカル・フローが得られる。
【0003】
【発明が解決しようとする課題】
従来の画像処理装置は、高精度の実数値を用いた大量の繰り返し計算を伴うため大規模の記憶容量を必要とし、オプティカル・フローを実時間で計算するためには高速化のための専用ハードウェアが必要であるなどの課題があった。
【0004】
この発明は上記のような課題を解決するためになされたもので、繰り返し計算を伴わないアルゴリズムで画像に含まれる物体の動きを抽出し、動きの方向ベクトルを高速に計算することのできる画像処理装置を得ることを目的とする。
【0005】
【課題を解決するための手段】
この発明に係る画像処理装置は、時刻的に連続する複数枚の画像を用い、それらの差分画像を求め、画素毎に周辺画素との画素値を比較して方位毎に動きの方向を推定し、それらのベクトル和平均を計算することで画素毎の動きベクトルを計算するものである。
【0006】
【発明の実施の形態】
以下、この発明の実施の一形態を説明する。
実施の形態1.
図1はこの発明の実施の形態1による画像処理装置を示す構成図であり、図において、1は画像センサを有し動きのある物体の画像を撮影する画像入力部、2は画像入力部1の撮影した画像を時刻順に記憶する画像記憶部、3は画像記憶部2で記憶されている時刻順に連続した複数枚の画像の差分(以下、差分画像と呼ぶ)を計算しこれを保持する差分記憶部、4は各画素の動きの向きを推定する方位推定部、5は方位推定部4によって推定された画素Pでの4方位に関する動き方向のベクトル和(以下、初期推定ベクトルと呼ぶ)を計算する方向計算部、6は画素Pを含む近傍画素の範囲内で初期推定ベクトルの平均ベクトルを計算する方向平滑部である。
【0007】
次に動作について説明する。
この実施の形態においては、連続した2画像から差分画像を計算する場合について説明する。
動きのある物体の画像が画像入力部1で撮影されると、その物体の画像は画像記憶部2に時刻順に記憶される。この画像記憶部2に記憶された複数枚の画像の差分を差分記憶部3が計算し、得られた差分画像を保持する。
【0008】
方位推定部4は画像記憶部2に記憶されている現時刻または一時刻前の2枚の画像(以下、それぞれ現画像、前画像と呼ぶ)と、差分記憶部3に保持されている差分画像とを参照し、ある画素Pにおいて縦、横、右上(左下)および左上(右下)の4方位に関して隣接する2つの画素値を比較し、各方位に関して動きの向きを推定する。
【0009】
以下、各画素における全ての方位に沿って向きを推定する方位推定部4の向き推定アルゴリズムを図2〜図4を用いて説明する。この実施の形態においては、画像の明暗エッジの明るい方を輝度50、暗い方を輝度10として説明する。
【0010】
図2は動く明暗エッジを一次元的に示したものであり、細線および太線はそれぞれ前時刻および現時刻の明暗エッジを表し、矢印は明暗エッジの動く方向を示す。これに対し図3は図2に示した動く明暗エッジの各画素位置における輝度値について、現時刻と前時刻の差分をとった結果を示すものであり、図3(a)〜図3(d)は図2(a)〜図2(d)に対応している。これらを比較すると、差分画素値が負のときの動く方向は前時刻の明暗エッジの明るい方、差分画素値が正のときの動く方向は前時刻の明暗エッジの暗い方であることが分かる。
【0011】
これらの差分値と明暗エッジの動く方向との関係を各方位に沿った動きの向き推定法則と仮定して、方位推定部4では図4のフローチャートに示したアルゴリズムに従って各画素における全4方位の向き推定を行う。以下、図4のフローチャートを参照しながら方位推定部4の向き推定動作を説明する。
【0012】
方位推定部4は、まず、画像記憶部2に記憶されている前画像を参照して、ある画素Pにおいて特定方位上で隣接する2画素の画素値を比較し(ステップST1)、両者の画素値が等しいか否かを判別する(ステップST2)。両者の画素値が等しい場合には画素Pは明暗エッジ部ではないので、方位推定部4は向き推定動作を終了する。
【0013】
隣接する2画素の画素値が異なる場合には、方位推定部4は、それらの画素値のうち小さい方をL、大きい方をGとする(ステップST3)。方位推定部4は、続いて、差分記憶部3に保持されている差分画像を参照し、画素Pでの差分画像の画素値が0か否かを判別する(ステップST4)。差分画素値が0である場合には、画素Pにおいて前画像と現画像とで明暗差がないのであるから、方位推定部4はその動作を終了する(ステップST4)。
【0014】
差分画素値が0以外である場合には、方位推定部4は、差分画素値が負であるか否かを判別する(ステップST5)。差分画素値が負のときは、方位推定部4は、向き推定法則に従って、画素P→画素Gの向きを選択し(ステップST6)、差分画素値が負でないとき、即ち正のときは、方位推定部4は、画素P→画素Lの向きを選択して(ステップST7)方位推定動作を終了する。
【0015】
次に、動きのある画像からどのようにオプティカル・フローが計算されるかについて、図5に示した入力画像を例に取ってこの実施の形態における図1に示した各構成部分の動作を説明する。以下の説明においては、6×6画素を画像入力部1の解像度として、一様な輝度値10の明るさを背景とした一様な輝度値50の正方形の物体(以下、視標と呼ぶ)が動く場合を説明する。
【0016】
まず、画像入力部1は、図5のように視標が右および下方向に1画素分だけ動く画像を撮影する。細実線および太実線はそれぞれ前時刻および現時刻における視標の位置を示す。このとき前画像と現画像は画像記憶部2に図6に示すように各画素毎の輝度値として格納される。図6(a)と図6(b)はそれぞれ前画像と現画像に対応する。差分記憶部3はこの2枚の画像の差分の値を図7のように保持している。
【0017】
次に、この差分値に基づいた方位推定部4の動作を図8と図9を用いて説明する。図8(a)〜図8(d)は画素(x1 ,y1 )における各方位の向き推定を示す。図8(a)の場合では画素(x1 ,y1 )の差分画素値は−40、画素(x1 ,y1 )に隣接する前画像の左右の画素値はそれぞれ10と50であるので、画素(x1 ,y1 )における左右の方位に関する向き推定は図4のアルゴリズムに従って画素(x1 ,y1 )→画素(x2 ,y1 )となる。同様に、図8(b)および図8(c)の場合ではそれぞれ画素(x1 ,y1 )→画素(x1 ,y2 )、画素(x1 ,y1 )→画素(x2 ,y2 )となる。図8(d)の場合は前画像における隣接2画素の画素値が等しいので向き推定はなされない。
図9は方位推定部4の出力をベクトル的に表す図であり、全画素に図4に示したアルゴリズムを適用した結果である。
【0018】
図10は方向計算部5の出力であり、図9に示した方位推定部4の出力を用いて各画素において初期推定ベクトルを計算したものである。図11は方向平滑部6の出力であり、各画素について周辺画素8個を含む初期推定ベクトルの和の平均を計算することでオプティカル・フローが得られる。
【0019】
以上のように、この実施の形態1によれば、繰り返し計算なしでオプティカル・フローを計算することができるという効果が得られる。なお、この実施の形態では差分画像の計算に時刻的に連続する2画像を用いる例を示したが、連続する3枚の画像を用いてもよい。
また、この実施の形態1では、方向計算部で画素Pにおける4方位の動きを考慮する例を示したが、4方位以上の動きを考慮してもよい。
さらに、この実施の形態1では、明暗エッジの明るい方を輝度50、暗い方を輝度10として説明したが、輝度値に差があれば輝度値の如何に関わらず大きい方と小さい方を各々明るい方と暗い方に対応させてもよい。
【0020】
【発明の効果】
以上のように、請求項1記載の発明によれば、時刻的に連続する複数枚の画像の差分画像を求め、画素毎に周辺画素との画素値を比較して方位毎に動きの方向を推定し、それらのベクトル和平均を計算することにより画素毎の動きベクトルを計算するように構成したので、繰り返し計算なしで高速にオプティカル・フローを計算することができ、実時間で物体の動きを計算することが可能となる効果がある。
また、この請求項1記載のアルゴリズムを画像認識システムに搭載することで、実時間で人間のジェスチャー等の動きを認識することが可能であり、このことによりジョイスティック等のインタフェースを必要としないゲーム機操作が実現可能となる効果がある。
【図面の簡単な説明】
【図1】 この発明の実施の形態1による画像処理装置を示す構成図である。
【図2】 この発明の実施の形態1における一次元の明暗エッジの動きを示す図である。
【図3】 この発明の実施の形態1において一次元の明暗エッジが動くときの前時刻と現時刻の差分画素値を示す図である。
【図4】 この発明の実施の形態1における方位推定部の向き推定アルゴリズムを示すフローチャートである。
【図5】 この発明の実施の形態1における動きを含む入力画像の例を示す図である。
【図6】 この発明の実施の形態1において画像記憶部に記憶されている前時刻と現時刻の画像の画素値を示す図である。
【図7】 この発明の実施の形態1における差分画像部で保持されている前時刻と現時刻の画像の差分画素値を示す図である。
【図8】 この発明の実施の形態1における方位推定部の特定画素での動作を説明するための図である。
【図9】 この発明の実施の形態1における方位推定部の出力を示す図である。
【図10】 この発明の実施の形態1における方向計算部の出力を示す図である。
【図11】 この発明の実施の形態1における方向平滑部の出力を示す図である。
【符号の説明】
1 画像入力部、2 画像記憶部、3 差分記憶部、4 方位推定部、5 方向計算部、6 方向平滑部。
Claims (1)
- 時刻毎の画像を連続して撮影することのできる画像入力部と、
前記画像入力部で撮影された前記時刻毎の画像を記憶する画像記憶部と、
前記画像記憶部に記憶された複数枚の画像のうち時刻的に前後する2枚の画像について、時刻的に後の画像から前の画像の差分を同じ座標の画素値毎に求めこれを保持する差分記憶部と、
前記差分記憶部に保持されている差分画像を参照して前記画像の全画素について、前記時刻的に前の画像における前記画素の上下・左右・右斜め・左斜めで構成される4種類の方位毎の動きの向きを、前記時刻的に前の画像において前記画素を挟んで前記4種類の方位毎に並ぶ2個の画素値を比較して、前記画素位置における差分画素値が正値であれば前記方位の前記2個の画素値のうち画素値の小さい方を動き方向とし、前記差分画素値が負値であれば前記方位の前記2個の画素値のうち画素値の大きい方を動き方向として推定する方位推定部と、
前記方位推定部で推定した前記4種類の方位毎の前記動きの向きのベクトル和を画素毎に計算する方向計算部と、
前記方向計算部のベクトル和を各画素の近傍で平均化する方向平滑部とを備えたことを特徴とする画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP4675097A JP3930935B2 (ja) | 1997-02-28 | 1997-02-28 | 画像処理装置 |
US09/017,324 US6160901A (en) | 1997-02-28 | 1998-02-02 | Processing device and method for determining direction of motion of an image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP4675097A JP3930935B2 (ja) | 1997-02-28 | 1997-02-28 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10240945A JPH10240945A (ja) | 1998-09-11 |
JP3930935B2 true JP3930935B2 (ja) | 2007-06-13 |
Family
ID=12756017
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP4675097A Expired - Fee Related JP3930935B2 (ja) | 1997-02-28 | 1997-02-28 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6160901A (ja) |
JP (1) | JP3930935B2 (ja) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7596242B2 (en) * | 1995-06-07 | 2009-09-29 | Automotive Technologies International, Inc. | Image processing for vehicular applications |
US6580812B1 (en) * | 1998-12-21 | 2003-06-17 | Xerox Corporation | Methods and systems for automatically adding motion lines representing motion to a still image |
EP1049046A1 (de) * | 1999-04-23 | 2000-11-02 | Siemens Aktiengesellschaft | Verfahren und Vorrichtung zur Ermittlung der Position eines Objektes innerhalb einer Szene |
JP2001209488A (ja) * | 2000-01-27 | 2001-08-03 | Mitsubishi Electric Corp | 情報入力装置及び情報入力プログラムを記録した記録媒体 |
JP3852743B2 (ja) * | 2000-12-27 | 2006-12-06 | 日本電気株式会社 | 適応型物体移動方向検出装置および方法 |
US6859199B2 (en) * | 2001-11-06 | 2005-02-22 | Omnivision Technologies, Inc. | Method and apparatus for determining relative movement in an optical mouse using feature extraction |
KR100698284B1 (ko) * | 2004-12-16 | 2007-03-22 | 삼성전자주식회사 | 부화소 구조의 디스플레이에서 컬러 에러 감소 장치 및 방법 |
US7616783B2 (en) * | 2005-01-12 | 2009-11-10 | Siemens Medical Solutions Usa, Inc. | System and method for quantifying motion artifacts in perfusion image sequences |
JP4901309B2 (ja) * | 2006-05-31 | 2012-03-21 | 株式会社デンソー | 生体状態検出装置、制御装置、及び脈波センサ装着装置 |
EP2088558B1 (en) | 2006-11-30 | 2013-03-27 | Mitsubishi Electric Corporation | Motion vector detecting device |
DE102007014034B3 (de) * | 2007-03-23 | 2008-09-25 | Continental Automotive Gmbh | Optischer Sensorchip und Einklemmschutzvorrichtung mit einem solchen |
US20090062002A1 (en) * | 2007-08-30 | 2009-03-05 | Bay Tek Games, Inc. | Apparatus And Method of Detecting And Tracking Objects In Amusement Games |
JP5575652B2 (ja) * | 2007-10-26 | 2014-08-20 | コーニンクレッカ フィリップス エヌ ヴェ | レンダリングされた像の表示設定を選択するための方法及びシステム |
KR101520619B1 (ko) * | 2008-02-20 | 2015-05-18 | 삼성전자주식회사 | 스테레오 동기화를 위한 스테레오스코픽 영상의 시점 결정방법 및 장치 |
JP5187266B2 (ja) * | 2009-04-21 | 2013-04-24 | 株式会社Jvcケンウッド | 動きベクトル検出装置及び方法 |
US8284988B2 (en) * | 2009-05-13 | 2012-10-09 | Applied Vision Corporation | System and method for dimensioning objects using stereoscopic imaging |
JP2014018454A (ja) | 2012-07-19 | 2014-02-03 | Topcon Corp | 視標呈示装置 |
TWI479430B (zh) * | 2012-10-08 | 2015-04-01 | Pixart Imaging Inc | 以自然影像進行的手勢辨識方法 |
CN103353790B (zh) * | 2013-06-26 | 2016-09-14 | 林大伟 | 光线寻迹方法与装置 |
US9804688B2 (en) * | 2013-09-25 | 2017-10-31 | Yun-Shan Chang | Light tracing method and apparatus thereof |
US9804695B2 (en) * | 2014-01-08 | 2017-10-31 | Yun-Shan Chang | Cursor control apparatus and method for the same |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2624682B2 (fr) * | 1987-03-23 | 1990-03-30 | Thomson Csf | Procede et dispositif d'estimation de mouvement dans une sequence d'images animees |
US5768404A (en) * | 1994-04-13 | 1998-06-16 | Matsushita Electric Industrial Co., Ltd. | Motion and disparity estimation method, image synthesis method, and apparatus for implementing same methods |
JP3876392B2 (ja) * | 1996-04-26 | 2007-01-31 | 富士通株式会社 | 動きベクトル探索方法 |
US5796434A (en) * | 1996-06-07 | 1998-08-18 | Lsi Logic Corporation | System and method for performing motion estimation in the DCT domain with improved efficiency |
-
1997
- 1997-02-28 JP JP4675097A patent/JP3930935B2/ja not_active Expired - Fee Related
-
1998
- 1998-02-02 US US09/017,324 patent/US6160901A/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH10240945A (ja) | 1998-09-11 |
US6160901A (en) | 2000-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3930935B2 (ja) | 画像処理装置 | |
KR101071352B1 (ko) | 좌표맵을 이용한 팬틸트줌 카메라 기반의 객체 추적 장치 및 방법 | |
Kueng et al. | Low-latency visual odometry using event-based feature tracks | |
JP4527152B2 (ja) | カメラのモーションブラー関数を決定する手段を有するデジタルイメージ取得システム | |
JP3079196B2 (ja) | フィードバックループ装置およびイメージデータピクセルの繰返し動作処理方法 | |
Biswas et al. | Gesture recognition using microsoft kinect® | |
EP2858008B1 (en) | Target detecting method and system | |
KR101830804B1 (ko) | 적응 필터링을 이용한 디지털 이미지 안정화 방법 | |
JP2018522348A (ja) | センサーの3次元姿勢を推定する方法及びシステム | |
US6628715B1 (en) | Method and apparatus for estimating optical flow | |
US20030090593A1 (en) | Video stabilizer | |
JPH08251480A (ja) | ビデオ信号処理方法及び装置 | |
KR100691348B1 (ko) | 팬/틸트 제어기반의 스테레오 카메라를 이용한 이동표적추적방법 및 그 시스템 | |
JP7272024B2 (ja) | 物体追跡装置、監視システムおよび物体追跡方法 | |
US11747278B2 (en) | Deposit detection device for detecting a partial covering location, a not-adhere location, and a diffuse reflection location | |
JP5107409B2 (ja) | 動き領域の非線形スムージングを用いた動き検出方法およびフィルタリング方法 | |
EP2250624A1 (en) | Image processing method and image processing apparatus | |
TWI305895B (ja) | ||
US10764500B2 (en) | Image blur correction device and control method | |
KR100965800B1 (ko) | 차량 영상 검지 및 속도 산출방법 | |
JP2019139290A (ja) | 姿勢推定装置 | |
CN109658441A (zh) | 基于深度信息的前景检测方法及装置 | |
JP6798609B2 (ja) | 映像解析装置、映像解析方法およびプログラム | |
WO2017010268A1 (ja) | 推定装置及び推定プログラム | |
CN111695416A (zh) | 一种基于自监督学习的稠密光流估计系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20060123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060627 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20061004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20061004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070306 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070312 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100316 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110316 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110316 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120316 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130316 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130316 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140316 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |