JP7190661B2 - 画像処理装置、画像処理方法および画像処理システム - Google Patents

画像処理装置、画像処理方法および画像処理システム Download PDF

Info

Publication number
JP7190661B2
JP7190661B2 JP2019019740A JP2019019740A JP7190661B2 JP 7190661 B2 JP7190661 B2 JP 7190661B2 JP 2019019740 A JP2019019740 A JP 2019019740A JP 2019019740 A JP2019019740 A JP 2019019740A JP 7190661 B2 JP7190661 B2 JP 7190661B2
Authority
JP
Japan
Prior art keywords
image
pixels
information
pixel
averaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019019740A
Other languages
English (en)
Other versions
JP2020127169A (ja
Inventor
忠則 手塚
剛 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2019019740A priority Critical patent/JP7190661B2/ja
Priority to CN202080012689.3A priority patent/CN113412625A/zh
Priority to PCT/JP2020/003236 priority patent/WO2020162293A1/ja
Publication of JP2020127169A publication Critical patent/JP2020127169A/ja
Priority to US17/392,639 priority patent/US20210366078A1/en
Application granted granted Critical
Publication of JP7190661B2 publication Critical patent/JP7190661B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/66Transforming electric information into light information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Dentistry (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Physiology (AREA)
  • Image Processing (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本開示は、入力された画像を処理する画像処理装置、画像処理方法および画像処理システムに関する。
特許文献1には、参照画像と符号化対象画像の着目ブロックとから予測画像を生成し、予測画像と着目ブロックとから誤差画像を求め、誤差画像と予測画像とに基づいてローカルデコード画像を生成し、ローカルデコード画像と着目ブロックとの差分を求めて圧縮することで圧縮差分画像を生成してメモリに書き込む動画像符号化装置が開示されている。この動画像符号化装置によれば、ローカルデコード画像を利用するためにメモリに書き込みするデータ量を低減可能となる。
特開2011-259325号公報
しかし、特許文献1の構成では、ローカルデコード画像と着目ブロックとの差分を求めるために作られる差分画像のデータが端数処理によって丸められてしまう(つまり、下位ビットが切り捨てられてしまう)。そもそも、特許文献1は、フレームメモリ部に転送される圧縮差分画像のデータ量を減らすことを目的としているので、圧縮差分画像の生成に用いられる差分画像のデータは、その下位ビットが切り捨てられている。従って、この動画像符号化装置によって圧縮された画像を用いて、その画像中に物体の動き情報あるいは生体情報等の特徴の有無をセンシングしようとしても、上述した端数処理(つまり丸め処理)によって動き情報あるいは生体情報の検出が困難となる可能性が高く、適正なセンシングが困難となるという課題があった。
本開示は、上述した従来の状況に鑑みて案出され、入力された画像を効果的に圧縮してデータサイズを低減しながらも、圧縮後の画像中における物体の動き情報あるいは生体情報の有無の検出精度の劣化を抑制する画像処理装置、画像処理方法および画像処理システムを提供することを目的とする。
本開示は、1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化する平均化処理部と、1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成する生成部と、を備え、前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、画像処理装置を提供する。
また、本開示は、画像処理装置における画像処理方法であって、1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化するステップと、1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成するステップと、を有し、前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、画像処理方法を提供する。
また、本開示は、画像処理装置とセンシング装置とが互いに通信可能に接続される画像処理システムであって、前記画像処理装置は、1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化し、1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成して前記センシング装置に送り、前記センシング装置は、前記画像処理装置から送られる前記縮小画像を用いて、物体の動き情報あるいは生体情報をセンシングし、前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、画像処理システムを提供する。
本開示によれば、入力された画像を効果的に圧縮してデータサイズを低減しながらも、圧縮後の画像中における物体の動き情報あるいは生体情報の有無の検出精度の劣化を抑制できる。
実施の形態に係る画像処理システムの構成例を示す図 画像処理システムの動作の概要を示す図 入力画像および縮小画像のそれぞれの一例を示す図 画素加算平均による画像圧縮を説明する図 入力画像に対して行われる8×8画素の画素加算平均を説明する図 加算平均画素数テーブルの登録内容を示す図 縮小画像の生成タイミングを示す図 入力画像の画素値データを示すグラフ 画素加算平均において丸め処理を行わない画素値データと丸め処理を行った画素値データを示すグラフ 丸め処理なしで画素加算平均を行う場合の画素信号の有効成分を説明する図 比較例1,比較例2,比較例3のそれぞれにおける丸め処理ありの画素加算平均後の画像値データと、実施の形態1に係る丸め処理なしの画素加算平均後の画素値データを示すグラフ 実施の形態1に係る画像処理システムのセンシング動作手順を示すフローチャート ステップS2における画像縮小処理手順を示すフローチャート ステップS12におけるグリッド単位の縮小処理手順を示すフローチャート センシング対象に対応する特定サイズを示す特定サイズ選択テーブルの登録内容を示す図 実施の形態1の変形例1に係る画像処理システムのセンシング動作手順を示すフローチャート ステップS2Aにおける複数サイズの縮小画像生成手順を示すフローチャート 一体型のセンシング機器の構成を示す図
以下、適宜図面を参照しながら、本開示に係る画像処理装置、画像処理方法および画像処理システムの構成および作用を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
図1は、本実施の形態に係る画像処理システム5の構成例を示す図である。画像処理システム5は、カメラ10と、PC(personal computer)30と、制御機器40と、クラウドサーバ50とを含む構成である。カメラ10、PC30、制御機器40およびクラウドサーバ50は、それぞれネットワークNWに接続され、相互に通信可能である。なお、カメラ10は、PC30に有線または無線で直接に接続されてもよく、PC30内に一体的に設けられてもよい。
この画像処理システム5では、PC30またはクラウドサーバ50は、カメラ10で撮像される動画を構成する各フレーム画像を、制御機器40で行われるセンシング(後述参照)用に圧縮して動画のデータ量を削減する。これにより、ネットワークNWのデータの通信量(トラフィック量)が低減可能となる。この際、PC30またはクラウドサーバ50は、カメラ10から入力される動画のデータを空間方向に(つまり、縦横の大きさ)縮小しながらも、時間方向においては動画内での被写体の動き情報あるいは生体情報を削減しない保持しながら圧縮する。PC30またはクラウドサーバ50は、例えば撮像された動画を構成するフレーム画像のセンシングを行い、そのセンシング結果に相当するセンシング情報(後述参照)を基にして、制御機器40の作動を制御する。
カメラ10は、センシング対象である被写体を撮像する。センシング対象は、被写体(例えば人物)の生体情報(以下、「バイタル情報」と称することがある)、被写体の微小な動き、時間方向に短期的な動きあるいは時間方向に長期的な動きの情報である。被写体のバイタル情報は、例えば人物の有無、脈拍、心拍変動等が挙げられる。被写体の微小な動きは、例えば僅かな体動や呼吸動作等が挙げられる。被写体の短期的な動きは、例えば人物や物体の移動や揺れ等が挙げられる。被写体の長期的な動きは、例えば動線、家具等の物体の配置、日照(日差し、西日)、入口や窓の位置等が挙げられる。
カメラ10は、CCD(Charged Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子(つまりイメージセンサ)を有し、被写体からの光を結像し、結像した光学像を電気信号に変換して映像信号を出力する。カメラ10から出力される映像信号は、動画データとしてPC30に入力される。なお、カメラ2の台数は、1台に限らず、複数台であってもよい。また、カメラ10は、近赤外光を照射してその反射光を受光可能な赤外線カメラであってもよい。また、カメラ10は、固定カメラでもよいし、パン・チルト・ズーム可能なPTZ(Pan Tilt Zoom)カメラであってもよい。なお、カメラ10は、センシング機器の一例である。センシング機器としては、カメラの他、被写体の撮像画像を取得可能なサーモグラフィやスキャナ等であってもよい。
画像処理装置の一例としてのPC30は、カメラ10から入力した撮像画像(上述したフレーム画像)を圧縮して縮小画像を生成する。以下、カメラ10から入力した撮像画像を、「入力画像」と称する場合がある。なお、PC30は、カメラ10から撮像画像を入力する代わりに、クラウドサーバ50に蓄積された動画あるいは撮像画像を入力してもよい。PC30は、プロセッサ31と、メモリ32と、表示部33と、操作部34と、画像入力インターフェース36と、通信部37とを含む構成である。なお、図1では、インターフェースを便宜的に「I/F」と略記している。
プロセッサ31は、PC30の各部の動作を制御するものであり、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)等を用いて構成される。プロセッサ31は、PC30の各部の動作を制御する。プロセッサ31は、PC30の制御部として機能し、PC30の各部の動作を全体的に統括するための制御処理、PC30の各部との間のデータの入出力処理、データの演算(計算)処理およびデータの記憶処理を行う。プロセッサ31は、メモリ32内のROMに記憶されたプログラムの実行に従って動作する。
プロセッサ31は、カメラ10からの入力画像を空間方向にN×M画素(N,M:2以上の整数)単位で平均化する平均化処理部31aと、N×M画素単位での平均化結果を基に縮小画像を生成する縮小画像生成部31bと、縮小画像を用いて物体の動き情報あるいは生体情報をセンシングするセンシング処理部31cを含む。平均化処理部31aと縮小画像生成部31bとセンシング処理部31cとは、プロセッサ31がメモリ32に予め記憶されているプログラムを実行することにより機能的な構成として実現される。なお、センシング処理部31cはクラウドサーバ50において実行されるように構成されてもよい。
メモリ32は、入力画像等の動画データ、各種演算データ、プログラム等を記憶する。メモリ32は、一次記憶装置(例えばRAM(Random Access Memory)やROM(Read Only Memory))を含む。また、メモリ32は、二次記憶装置(例えばHDD(Hard Disk Drive)やSSD(Solid State Drive))や三次記憶装置(例えば光ディスク、SDカード)を含んでよい。
表示部33は、動画、縮小画像、センシング結果等を表示する。表示部33は、液晶表示デバイス、有機EL(Electroluminescence)デバイス、またはその他の表示デバイスを含む。
操作部34は、ユーザからの各種データや情報の入力を受け付ける。操作部34は、マウス、キーボード、タッチパッド、タッチパネル、マイクロホン、またはその他の入力デバイスを含む。
画像入力インターフェース36は、カメラ10がPC30に直接に接続される場合、カメラ10で撮像された画像データ(動画、静止画を含むデータ)を入力する。画像入力インターフェース36は、画像データを高速に転送可能なHDMI(登録商標)(High-Definition Multimedia Interface)やUSB(Universal Serial Bus) Type-C等、有線接続可能なインターフェースを含む。また、カメラ10が無線で接続される場合、画像入力インターフェース36は、近距離無線通信(例えばBluetooth(登録商標)通信)等のインターフェースを含む。
通信部37は、無線または有線を介してネットワークNWに接続された他の機器と通信し、画像データや各種の演算結果等のデータを送受信する。通信方式は、例えば、WAN(Wide Area Network)、LAN(Local Area Network)、電力線通信、近距離無線通信(例えばBluetooth(登録商標)通信)、携帯電話用の通信等の通信方式を含んでよい。
制御機器40は、PC30やクラウドサーバ50からの指示に従って制御される機器である。制御機器40として、例えば風向きや風量等を可変可能なエアーコンディショナ、照明位置や光量等を調節可能なライト等が挙げられる。
センシング装置の一例としてのクラウドサーバ50は、プロセッサ、メモリ、ストレージおよび通信部(いずれも図示せず)を有し、PC30と同様、入力画像を圧縮して縮小画像を生成する機能や、縮小画像を用いて物体の動き情報あるいは生体情報をセンシングする機能を有し、ネットワークNWに接続された多数のカメラ10から画像データを入力可能である。
図2は、画像処理システム5の動作の概要を示す図である。以下で説明する画像処理システム5の主体的な動作は、画像処理装置の一例としてのPC30およびクラウドサーバ50のうちどちらによって行われてもよい。通常、データ処理量が少ない場合、エッジ端末であるPC30が実行し、データ処理量が多い場合、クラウドサーバ50が実行することが考えられるが、そうでなくてもよい。ここでは、説明を分かり易くするために、PC30が主体的に行う場合を示す。
カメラ10は、例えばオフィス(図3参照)等の被写体を撮像し、撮像した動画をPC30に出力あるいは送信する。PC30は、カメラ10からの入力画像に含まれる各フレーム画像を入力画像GZとして取得する。このような入力画像GZは、例えば4Kあるいは8K等のHD(High Definition)クラスの高画質な画像であればある程、データサイズが大きくなる傾向がある。
PC30は、圧縮前の元画像である入力画像GZを圧縮し、複数種類のデータサイズ(後述参照)を有する縮小画像SGZを生成して得る。PC30は、この画像圧縮の際に、入力画像GZに対して、例えば8×8画素、16×16画素、32×32画素、64×64画素、128×128画素の異なる画素加算平均の処理(平均化処理の一例)をそれぞれ行い、各縮小画像SGZ1~SGZ5を得る(図2参照)。これら全ての画素加算平均を行うと、情報量(データサイズ)は元画像である入力画像GZに対して約8%程度の情報量(データサイズ)に圧縮される。従って、縮小画像SGZ1~SGZ5のそれぞれの12フレーム分相当のデータ量が、元画像である入力画像GZ1フレーム分相当のデータ量と同じとなる。また、8×8画素の画素加算平均を除くその他の画素加算平均(つまり、16×16画素、32×32画素、64×64画素、128×128画素)を行うと、情報量(データサイズ)は元画像である入力画像GZに対して約2%程度の情報量(データサイズ)に圧縮される。従って、縮小画像SGZ2~SGZ5のそれぞれの50フレーム分相当のデータ量が、元画像である入力画像GZ1フレーム分相当のデータ量と同じとなる。
また、PC30は、時間方向に蓄積されたN(Nは任意の自然数)フレーム分の縮小画像SGZを基に、センシングを行う。センシングでは、被写体(例えば人物)のバイタル情報の一例としての脈拍検出、人物の位置検出処理、動き検出処理が行われる。なお、PC30においては、超低周波の時間フィルタ処理や機械学習等が行われてもよい。PC30は、センシングの結果を基に、制御機器40の作動を制御する。例えば、制御機器40がエアコンである場合、PC30は、エアコンに対し、エアコンから吹き出す風の向き、風量等を変更する指示を行う。
図3は、入力画像GZおよび縮小画像SGZのそれぞれの一例を示す図である。入力画像GZは、カメラ10で撮像され、例えばオフィスの撮像画像で圧縮される前の元画像である。縮小画像SGZは、例えばPC30によって入力画像GZに対して8×8画素の画素加算平均が行われた後の縮小画像である。入力画像GZでは、オフィス内の状況が鮮明に映し出されている。オフィスでは、人の移動等の動きがある。一方、縮小画像SGZでは、オフィス内の状況を示す画質が劣化した状態で映し出されているが、人の移動等の動き情報は保持されているのでセンシングには適している。
図4は、画素加算平均による画像圧縮を説明する図である。PC30は、画像圧縮の際に、入力画像GZに対して、丸め処理(言い換えると、小数点以下の端数を切り捨てる整数化処理)を行うことなく、例えば8×8画素、16×16画素、32×32画素、64×64画素、128×128画素による各画素加算平均を行い、それぞれ縮小画像SGZ1,SGZ2,SGZ3,SGZ4,SGZ5を得る。PC30は、画素加算平均を行う場合に、画素値として小数点以下の値を保持する。小数点以下の値を保持する場合、画像値は、例えば単精度浮動小数点フォーマットで表現される。ここで、入力画像の微小な変化は、画素値の小数点以下の値に現われ易い。従って、PC30は、画素加算平均後の画素値として小数点以下の値を保持することで、圧縮しても元画像である入力画像に存在していた被写体の微小な変化を捉えることが可能である。
8×8画素、16×16画素、32×32画素、64×64画素、128×128画素の各画素加算平均を行った場合、これらの縮小画像は、前述したように、元画像の8%程度のデータ量に圧縮される。これらの縮小画像を用いてセンシング処理を行う場合、PC30は、センシング処理に要する計算量を削減できる。従って、PC30は、リアルタイムにセンシング処理を行うことが可能となる。
なお、PC30は、上記5つ全ての画素加算平均を行うことなく、いずれか1つ以上の画素加算平均を行ってもよい。いずれか1つ以上の画素加算平均を行う場合、PC30は、センシング対象に合わせて画素加算平均を選択してもよい。例えば、8×8画素の加算平均は、動き検出や人物の検出に用いられてよい。また、64×64画素と128×128画素の加算平均は、バイタル情報である脈拍検出に用いられてよい。また、5つ全ての画素加算平均は、長時間の動き検出、例えばゆっくりとした揺れの検出に用いられてよい。このように、1つもしくはそれ以上の画素加算平均に限る場合、全ての画素加算平均を行う場合と比べ、データ量の圧縮率はより高くなる。PC30は、センシング処理に要する計算量を大幅に削減できる。
図5は、入力画像GZに対して行われる8×8画素の画素加算平均を説明する図である。入力画像GZの1画素は、a(a:2のべき乗数)ビット(例えば8ビット)の情報量(言い換えると、0~255の階調の情報量)を有する。入力画像GZに対し、8×8画素(つまり64画素)の画素加算平均を行った結果を丸め処理なしで保存する場合、255×画素加算平均の画素数である「64」(=16320)のデータ量を保存できるビット数は、14ビット(=0~16383)であれば足りる(16320<16383)。つまり、8×8画素の画素加算平均後の画素値は、14ビットで丸め処理なしに記録可能である。なお、ここでは、モノクロ画像の場合、8×8画素の画素加算平均後の1画素の情報量は(a+b)ビット(例えば、14ビット(=8+6))であるが(b:2以上の整数)、カラー画像の場合、8×8画素の画素加算平均後の1ピクセル(RGBの画素)の情報量は、42ビット(=(8+6)×3))である。つまり、モノクロ画像でもカラー画像であっても、bの値は、2^{入力画像GZの1画素当たりの情報量(a)}(=2)と画素加算平均を行う時の処理単位となる画素数(上述した例だと8×8=64画素)との積と同一の2のべき乗数に対応する指数(c)、あるいはその積より大きい最も近い2のべき乗数に対応する指数(c+1)となる。
入力画像GZがS×T(S,T:正の整数、例えばS=32、T=24)画素で構成される場合、8×8画素の画素加算平均後の縮小画像SGZは、元画像である入力画像GZの1/64に縮小された結果、4×3画素(=(S×T)/N×M),1画素当たりの情報量が14ビットとして表される。この場合、1画素当たりの14ビットのうち、上位8ビットが整数値であり、下位6ビットが小数点以下の値である(図10参照)。
図6は、加算平均画素数テーブルTb1の登録内容を示す図である。加算平均画素数テーブルTb1には、丸め処理を行わない場合に画素加算平均後の1画素が必要なビット数(情報量)が登録されている。
例えば、1画素当たりに8ビットのデータ量を有する入力画像に対して8×8画素の画素加算平均を行う場合、1画素が必要なビット数(情報量)は14(=8+6)であり、データ圧縮率は略2.73%である。また、入力画像の解像度がフルハイビジョンサイズの1920×1080画素である場合、縮小画像の解像度は、(1/8×8)倍の240×135画素となる。
同様に、1画素当たりに8ビットのデータ量を有する入力画像に対して16×16画素の画素加算平均を行う場合、1画素が必要なビット数(情報量)は16(=8+8)であり、データ圧縮率は略0.78%である。また、入力画像の解像度が1920×1080画素である場合、縮小画像の解像度は、(1/16×16)倍の120×67画素となる。以後同様に、128×128画素の画素加算平均を行う場合、1画素が必要なビット数(情報量)は22(=8+14)であり、データ圧縮率は略0.017%である。また、入力画像の解像度が1920×1080画素である場合、縮小画像の解像度は、(1/128×128)倍の15×8画素となる。
なお、一般的なプロセッサが単精度浮動小数点フォーマットでデータを保存する場合、仮数部が23ビットであるので、1画素が必要なビット数(情報量)が22ビットである128×128画素の画素加算平均後の画素値までは、丸め処理なしで保存可能である。
図7は、縮小画像SGZの生成タイミングを示す図である。PC30は、入力された動画を構成するそれぞれのフレーム画像に対し、時間t方向に沿って所定のタイミングt1,t2,t3…で、入力画像GZに対し画素加算平均を行い、縮小画像SGZを生成する。それぞれの縮小画像SGZは、空間方向においてデータサイズが縮小(圧縮)されているが、時間方向に縮小されておらず(言い換えると、時間的に間引いて生成されている訳では無く)、微小な変化を表す情報を保持している。
ここで、丸め処理なしである場合の効果について詳述する。図8は、入力画像GZの画素値データを示すグラフである。図9は、画素加算平均において丸め処理を行わない画素値データと丸め処理を行った画素値データを示すグラフである。いずれのグラフにおいても、縦軸は画素値を表し、横軸は入力画像の所定の1ラインにおける画素位置を表す。
図8のグラフにおける各点pは、入力画像GZの各画素値(言い換えると、生データ)を表す。曲線グラフgh1は、実測値である各点pの画素値に対し、例えば最小二乗法によりフィットされた、4画素の画素加算平均を行う前のフィッティングカーブ(生データのカーブ)である。曲線グラフgh2は、各点pの画素値に対し、丸め処理なしの4画素加算平均を行った場合の画素値のカーブを表す。曲線グラフgh3は、丸め処理ありの画素加算平均を行った場合の画素値のカーブを表す。
曲線グラフgh2は、曲線グラフgh1と近似したカーブを描く。特に、曲線グラフgh2と曲線グラフgh1のピーク位置がそれぞれ一致している。一方、曲線グラフgh3は、曲線グラフgh1から少しずれたカーブを描く。特に、曲線グラフgh3と曲線グラフgh1のピーク位置が一致せずにずれている。
従って、曲線グラフgh3を用いてセンシング処理(例えば動き検出)を行う場合、丸め処理ありの画素加算平均を行ったデータでは、入力画像GZの各画素値(言い換えると、生データ)に対しピーク位置がずれるので、誤差が発生して正確な動き位置を検出できない可能性がある。これに対し、丸め処理なしの4画素加算平均を行ったデータでは、入力画像GZの各画素値(言い換えると、生データ)とピーク位置が一致するので、センシング処理において動き位置を正確に検出できる。
図10は、丸め処理なしで画素加算平均を行う場合の画素信号の有効成分を説明する図である。ここで、カメラ10で撮像される画像には、CCDやCMOS等の固体撮像素子(イメージセンサ)に起因する光ショットノイズ(言い換えると、フォトンノイズ)が含まれる。フォトンノイズは、宇宙空間にある天体から飛び込んでくるフォトン(光子)がイメージセンサで検知されることで発生する。光ショットノイズは、画素値を平均化した場合、平均化に用いた画素数をNとすると、ノイズ量が1/N(1/2)倍になる特性を有する。
例えば、8×8の画素加算平均を行う場合、ノイズ量が1/8倍になる。したがって、8ビットのデータのうち、最下位ビットのノイズ成分(例えば±1のノイズ)(図中、×印で示す)は、3ビット下位にシフトする。ノイズ成分が3ビット下位にシフトすることで、画素信号の有効成分(図中、〇印で示す)が下位2ビット増えることになる。つまり、丸め処理なしで画素加算平均を行うことで、画素信号を高精度に復元することが可能となる。
同様に、16×16の画素加算平均を行う場合、ノイズ量が1/16倍になる。従って、最下位のビットのノイズは、4ビット下位にシフトする。ノイズ成分が4ビット下位にシフトすることで、画素信号の有効成分が下位3ビット増えることになる。従って、画素信号は、より高精度に復元可能である。
図11は、比較例1,比較例2,比較例3のそれぞれにおける丸め処理ありの画素加算平均後の画像値データと、本実施の形態に係る丸め処理なしの画素加算平均後の画素値データを示すグラフである。比較例1に係る曲線グラフgh21は、丸め処理あり(整数丸め)の128×128画素の画素加算平均後のグラフを表す。比較例1に係る曲線グラフgh21は、画素値データの微小な変化をほとんど表していない。
比較例2に係る曲線グラフgh22は、丸め処理ありの64×64画素の画素加算平均後、丸め処理なしの4画素加算平均を行ったグラフを表す。比較例2に係る曲線グラフgh22は、画素値データの傾向を表わしているが、画素値データの値を正確に反映していない。
比較例3に係る曲線グラフgh23は、丸め処理ありの32×32画素の画素加算平均後、丸め処理なしの16画素加算平均を行ったグラフを表す。比較例3に係る曲線グラフgh23は、比較例1,比較例2と比べ、本実施の形態に係る曲線グラフgh11に類似し、画素値データをある程度正確に反映しているが、符号a1で示される領域等では、ピーク位置がずれている。
このように、比較例1,比較例2,比較例3のいずれの曲線グラフgh21,gh22,gh23も、本実施の形態に係る丸め処理なしの画素加算平均後の画素値データの曲線グラフgh11のように、画素値データを正確に反映したものとはならない。
次に、実施の形態1に係る画像処理システム5の動作を示す。
図12は、実施の形態1に係る画像処理システム5のセンシング動作手順を示すフローチャートである。図12に示される処理は、例えばPC30において実行される。
図12において、PC30のプロセッサ31は、画像入力インターフェース36を介して、カメラ10で撮像された動画データ(つまり、その動画データを構成するそれぞれのフレーム画像のデータ)を入力する(S1)。カメラ10で撮像される動画は、例えばフレームレート60fpsの画像である。各フレーム単位の画像は、入力画像(元画像)GZとしてPC30に入力される。
プロセッサ31の平均化処理部31aは、入力画像GZに対して画素加算平均を行う。プロセッサ31の縮小画像生成部31bは、特定サイズの縮小画像SGZを生成する(S2)。ここで、特定サイズは、N×M画素で表現され、例えば8×8画素である(N=M=8)。
プロセッサ31のセンシング処理部31cは、縮小画像SGZを基に、入力画像GZの変化の有無を判別するためのセンシング処理を行う(S3)。プロセッサ31は、このセンシング処理の結果を出力する(S4)。センシング処理の結果として、プロセッサ31は、例えばカメラ10による撮像画像に現れる微小な変化が視認し易くなるように、撮像画像にマーカを重畳表示してもよい。また、プロセッサ31は、センシング処理の結果、撮像画像に現れる動き情報が移動した場合、移動先に合わせるように、制御機器40を制御してもよい。
図13は、ステップS2における画像縮小処理手順を示すフローチャートである。ここでは、N×M画素の画素加算平均を行って縮小画像を生成する場合を示す。プロセッサ31の平均化処理部31aは、入力画像GZをグリッド単位で分割する。グリッドgdは、入力画像GZをk×l(k,l:2以上の整数)画素単位に分割した領域である。分割された各グリッドgdをグリッド番号(G1,G2,…,GN)で表す。ここでは、入力画像GZをk(例えば5)×l(例えば7)画素単位のグリッドgdに分割し、グリッド番号の最大値GNが35である場合を示す。
プロセッサ31は、グリッド番号を表す変数iを初期値1に設定する(S11)。プロセッサ31は、i番目のグリッドgdに対し縮小処理を行う(S12)。縮小処理の詳細については後述する。プロセッサ31は、i番目のグリッドgdの縮小処理結果をメモリ32に書き込む(S13)。
プロセッサ31は、変数iを値1増加させる(S14)。プロセッサ31は、変数iがグリッド番号の最大値GNを超えるか否かを判別する(S15)。変数iがグリッド番号の最大値GNを超えない場合(S15、NO)、プロセッサ31の処理はステップS12に戻り、プロセッサ31は、次のグリッドgdに対して同様の処理を繰り返す。一方、ステップS15で変数iがグリッド番号の最大値GNを超える場合(S15、YES)、つまり、全てのグリッドgdに対し縮小処理が行われた場合、プロセッサ31は図13に示す処理を終了する。
図14は、ステップS12におけるグリッド単位の縮小処理手順を示すフローチャートである。グリッドgdは、N×M画素で構成される。なお、N,Mは、2のべき乗であっても、2のべき乗でなくてもよい。例えば、N×Mは、10×10、50×50等であってもよい。グリッド中の各画素は、アドレスとしての役割を有する画素位置の変数idxで指定される。プロセッサ31は、グリッド値Uを初期値0に設定する(S21)。プロセッサ31は、グリッド中の画素位置を表す変数idxを値1に設定する(S22)。プロセッサ31は、変数idxの画素位置における画素値valを読み出す(S23)。プロセッサ31は、グリッド値Uに画素値valを加算する(S24)。
プロセッサ31は、変数idxを値1増加させる(S25)。プロセッサ31は、変数idxが値N×Mを超えるか否かを判別する(S26)。変数idxが値N×Mを超えない場合(S26、NO)、プロセッサ31の処理はステップS23に戻り、プロセッサ31は、次のグリッドに対して同様の処理を繰り返す。
一方、ステップS26で変数idxが値N×Mを超える場合(S26、YES)、プロセッサ31は、数式(1)に従い、N×M画素の画素加算平均後のグリッド値UをN×Mで除算し、このグリッドの画素値vgを算出する(S27)。
Figure 0007190661000001
プロセッサ31は、N×M画素の画素加算平均後のグリッドの画素値vg(つまり、数式(1)の算出結果)を、グリッドgdの縮小処理の結果として元の処理に返す(S28)。この後、プロセッサ31は、グリッド単位の縮小処理を終了し、元の処理に復帰する。
ここでは、特定サイズとしてN×M画素の加算平均後の縮小画像を生成する際、N×M画素は、固定あるいは任意に(例えば8×8画素に)設定された。特定サイズは、プロセッサ31によってセンシング対象に適したサイズに設定されてもよい。
図15は、センシング対象に対応する特定サイズを示す特定サイズ選択テーブルTb2の登録内容を示す図である。特定サイズ選択テーブルTb2は、予めメモリ32に登録されており、プロセッサ31によって登録内容が参照可能である。
特定サイズ選択テーブルTb2には、センシング対象が短期の動きである場合、特定サイズを表すN×M画素として8×8画素が登録される。また、センシング対象が長期の動き(ゆっくりとした動き)である場合、例えば16×16画素が登録される。また、センシング対象がバイタル情報として脈波である場合、64×64画素が登録される。また、センシング対象がその他のバイタル情報である場合、128×128画素が登録される。
プロセッサ31は、例えば操作部34を介してユーザからセンシング対象が入力されると、ステップS2の処理において、特定サイズ選択テーブルTb2を参照し、センシング対象に対応する特定サイズを選択してもよい。これにより、センシング対象の画像による変化を正確に捉えることが可能となる。
このように、実施の形態1に係る画像処理システム5では、PC30は、カメラ10からの入力画像に対し、N×M画素単位で画素加算平均し、この平均化処理により得られた画素値データに丸め処理(つまり整数化処理)を行わない、つまり空間方向の解像度を落として画像情報量を圧縮する際に小数点レベルの値を保持する。この小数点レベルの値を丸め処理しないことで、微小な時間方向の変化情報(画像センシングに必要なデータ)を保持しつつ、画像情報量の圧縮が可能となる。したがって、PC30は、センシング処理による処理量やデータ保存に必要なメモリ量を削減できる。
以上により、本実施の形態の画像処理システム5では、PC30は、平均化処理部31aおよび縮小画像生成部31bを含む。平均化処理部31aは、1画素当たり8ビットの情報量を有して32×24画素からなる入力画像GZを、例えば64画素(1画素あるいは複数の画素)から構成されるグリッドごとに、空間方向に8×8画素(N×M画素(N,M:2以上の整数))単位で平均化する。縮小画像生成部31bは、画素あるいはグリッドごとの8×8画素(N×M画素)単位での平均化結果を、1画素当たり(8+6)ビットの情報量で規定し、1画素当たり(8+6)ビットの情報量を有する32×24/8×8画素からなる縮小画像SGZを生成する。ここで、bは、6((N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1))である。センシング処理部31cは、縮小画像SGZを用いて物体の動き情報あるいは生体情報をセンシングする。
これにより、画像処理システム5は、カメラ10から入力された動画を構成するそれぞれの画像(フレーム画像)を効果的に圧縮してデータサイズを低減できる。また、画像処理システム5は、入力画像を効果的に圧縮しながらも、圧縮後の画像中における物体の動き情報あるいは生体情報の有無の検出精度(言い換えると、圧縮処理の後で行われるセンシング処理の精度)の劣化を抑制することができる。
また、PC30は、縮小画像SGZを用いて物体の動き情報あるいは生体情報をセンシングするセンシング処理部31c、を更に備える。縮小画像生成部31bは、入力画像GZが入力される度に、入力画像GZに対応して生成された縮小画像SGZをセンシング処理部31cに出力する。これにより、PC30は、カメラ10により撮像された動画を基に、被写体の動き情報および生体情報の変化をリアルタイムに検知できる。
また、平均化処理部31aは、平均化結果を丸め処理せずに縮小画像生成部31bに送る。これにより、PC30は、空間方向に縮小して縮小画像を生成してデータ量を削減する際、小数点以下のデータを丸め処理しないことで、時間方向の情報が消失しないで済む。これにより、PC30は、入力画像の微小な変化を正確に捉えることができる。
また、平均化処理部31aは、縮小画像SGZを用いて物体の動き情報あるいは生体情報をセンシングの種別情報を取得し、この種別情報に応じてN×Mの値を選択してN×M画素単位で平均化する。これにより、平均化処理部31aは、センシング対象(種別情報)に適した縮小画像を用いてセンシングすることができ、センシング対象の微小な変化を正確に捉えることができる。
また、PC30は、縮小画像SGZを用いて物体の動き情報および生体情報をそれぞれセンシングするセンシング処理部31c、を更に備える。平均化処理部31aは、動き情報のセンシングに対応する8×8(第1のN×M)の値、生体情報のセンシングに対応する64×64(少なくとも1つの第2のN×M)の値をそれぞれ選択し、それぞれのN×Mの値を用いたN×M画素単位で平均化する。これにより、PC30は、物体の動き情報に適した縮小画像を用いてセンシングすることができる。また、PC30は、生体情報に適した縮小画像を用いてセンシングすることができる。
また、平均化処理部31aは、異なるM,Nの値を持つ、複数のN×M画素単位で入力画像を平均化する。縮小画像生成部31bは、複数のN×M画素単位の平均化による複数の縮小画像SGZ1,SGZ2,…を生成する。センシング処理部31cは、複数の縮小画像SGZ1,SGZ2,…を用いてセンシングを行った結果、物体の動き情報あるいは生体情報のセンシングに適した縮小画像を選択する。これにより、センシング対象が未知であり、予めセンシング対象に適した縮小画像が分かっていなくても、実際に生成した縮小画像を用いてセンシングを試すことで、以後最適な縮小画像でセンシングが可能となる。
(実施の形態1の変形例1)
次に、実施の形態1の変形例1について説明する。なお、実施の形態1の変形例1に係る画像処理システムの構成は、実施の形態1に係る画像処理システム5と同一であるため、同一の構成には同一の符号を付与して説明を簡略化あるいは省略し、異なる内容について説明する。
図16は、実施の形態1の変形例1における画像処理システム5のセンシング動作手順を示すフローチャートである。図12に示したステップ処理と同一のステップ処理については、同一のステップ番号を付して説明を簡略化あるいは省略し、異なる内容について説明する。
図16において、プロセッサ31は、画像入力インターフェース36を介して、カメラ10で撮像された動画データを入力する(S1)。
プロセッサ31の平均化処理部31aは、入力画像を元画像として複数のサイズで圧縮し、縮小画像生成部31bは、各サイズの縮小画像を複数生成する(S2A)。複数のサイズの縮小画像を生成する場合、複数のサイズは、少なくとも8×8画素、64×64画素、128×128画素を含むことが望ましい。
プロセッサ31のセンシング処理部31cは、例えば8×8画素単位の縮小画像を用い、入力画像の変化として動きセンシング(動き検知処理の一例)を行う(S3A)。さらに、プロセッサ31は、64×64画素単位および128×128画素単位の縮小画像を用い、入力画像の変化として脈波センシング(脈波検知処理の一例)を行う(S3B)。プロセッサ31は、この検知処理の結果を出力する(S4)。
図17は、ステップS2Aにおける複数サイズの縮小画像生成手順を示すフローチャートである。
図17において、平均化処理部31aは、入力画像を元画像として圧縮し、縮小画像生成部31bは、8×8画素単位の縮小画像を生成する(S51)。平均化処理部31aは、入力画像を元画像として圧縮し、縮小画像生成部31bは、16×16画素単位の縮小画像を生成する(S52)。平均化処理部31aは、入力画像を元画像として圧縮し、縮小画像生成部31bは、32×32画素単位の縮小画像を生成する(S53)。平均化処理部31aは、入力画像を元画像として圧縮し、縮小画像生成部31bは、64×64画素単位の縮小画像を生成する(S54)。平均化処理部31aは、入力画像を元画像として圧縮し、縮小画像生成部31bは、128×128画素単位の縮小画像を生成する(S55)。この後、プロセッサ31は、元の処理に復帰する。
このように、平均化処理部31aは、異なるM,Nの値を持つ、複数のN×M画素単位で入力画像を平均化する。縮小画像生成部31bは、複数のN×M画素単位の平均化による複数の縮小画像SGZ1,SGZ2,…を生成する。センシング処理部31cは、複数の縮小画像SGZ1,SGZ2,…を用いてセンシングを行った結果、物体の動き情報あるいは生体情報のセンシングに適した縮小画像を選択し、以後、選択した縮小画像を用いてセンシング処理を行う。従って、センシング対象が未知であり、予めセンシング対象に適した縮小画像が分かっていなくても、実際に全ての縮小画像を用いてセンシングを試すことで、以後、最適な縮小画像でセンシング処理を行うことが可能となる。
なお、所定の画素数で加算平均を行う場合、プロセッサは、画素数加算平均を段階的に行ってもよい。例えば、プロセッサ31は、入力画像に対し16×16画素単位で加算平均を行う場合、まず、入力画像に対し8×8画素単位で画素加算平均を行い、その平均結果である縮小画像に対し、2×2画素単位で画素加算平均を行ってもよい。同様に、プロセッサは、入力画像に対し32×32画素単位で画素加算平均を行う場合、まず、入力画像に対し16×16画素単位で画素加算平均を行い、その平均結果である縮小画像に対し、2×2画素単位で画素加算平均を行ってもよい。
つまり、プロセッサは、入力画像をグリッドごとにN×M画素単位で平均化する際、Mを積の形に分解した所定数の第1の因数と、Nを積の形に分解した所定数の第2の因数とを用い、1組の第1の因数×前記第2の因数の画素単位で平均化し、この平均化結果を残りの1組の第1の因数×他の第2の因数の画素単位で平均化する処理を、所定数の第1の因数と前記所定数の第2の因数を全て使用するまで順次繰り返してもよい。
このように、少ない画素数単位で加算平均を繰り返し行い、1回の多い画素数単位で加算平均を行った場合と同じ平均化結果を得ることかでき、しかも、データ処理量を削減できる。
(実施の形態1の変形例2)
実施の形態1では、カメラ10とPC30と制御機器40とは、別体の装置として構成された。実施の形態1の変形例2では、カメラ10とPC30と制御機器40とは、同一の筐体に収容され、一体型のセンシング機器として構成されてもよい。図18は、一体型のセンシング機器100の構成を示す図である。一体型のセンシング機器100は、筐体100zに収容された、カメラ110、PC130および制御機器140を有する。カメラ110、PC130および制御機器140は、それぞれ上記実施の形態のカメラ10、PC30および制御機器40と同一の機能的構成を有する。一例として、一体型のセンシング機器100がエアコンに適用される場合、カメラ110は、エアコンの筐体前面に配置される。PC130は、筐体に内蔵され、カメラ110で撮像される動画の各フレーム画像を入力画像として縮小画像を生成し、縮小画像を用いてセンシング処理を行い、センシング処理結果を制御機器140に出力する。一体型のセンシング機器100の場合、PCの表示部および操作部は省かれてもよい。制御機器140は、センシング処理結果に基づくPC130からの指示にしたがい、動作を制御する。制御機器140がエアコン本体である場合、風向きや風量を調節する。
一体型のセンシング機器100の場合、画像処理システムをコンパクトに設計できる。また、センシング機器100が可搬型である場合、センシング機器100を任意の場所に移動させて、据え付け調整を行うことが可能である。また、ネットワーク環境が無い場所でも、センシング機器100は使用可能である。
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
例えば、上記実施の形態では、動画として、例えば60fpsの映像を例示したが、時間的に連続したフレーム画像、例えば1秒間に5枚程度の連続した静止画像を用いてもよい。
また、画像処理システムは、上記実施の形態の他、スポーツ、動物、見守り、ドライブレコーダ、交差点監視、動画像、リハビリテーション、顕微鏡等に利用可能である。スポーツでは、例えば動きのチェックやフォームチェック等に利用が可能である。動物では、例えば活動エリアや動線等に利用が可能である。見守りでは、例えば赤ちゃん、老人ホームでバイタル、活動量、寝返り等に利用が可能である。ドライブレコーダでは、撮像映像に映る車両周辺の動きの検出に利用が可能である。交差点監視では、交通量、動線、信号無視の量に利用が可能である。動画像では、フレーム量に含まれる特徴の抽出に利用が可能である。リハビリテーションでは、バイタルや動き等から効果の確認に利用が可能である。顕微鏡では、ゆっくりとした動きの自動検出等に利用が可能である。
本開示は、画像処理において、入力された画像を効果的に圧縮してデータサイズを低減しながらも、圧縮後の画像中における物体の動き情報あるいは生体情報の有無の検出精度の劣化を抑制する画像処理装置、画像処理方法および画像処理システムとして有用である。
5 画像処理システム
10、110 カメラ
30、130 PC31 プロセッサ
31a 平均化処理部
31b 縮小画像生成部
31c センシング処理部
32 メモリ
33 表示部
34 操作部
36 画像入力インターフェース
37 通信部
40、140 制御機器
50 クラウドサーバ
100 センシング機器

Claims (8)

  1. 1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化する平均化処理部と、
    1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成する生成部と、を備え、
    前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、
    画像処理装置。
  2. 前記縮小画像を用いて物体の動き情報あるいは生体情報をセンシングするセンシング処理部、を更に備え、
    前記生成部は、前記入力画像が入力される度に、前記入力画像に対応して生成された前記縮小画像を前記センシング処理部に出力する、
    請求項1に記載の画像処理装置。
  3. 前記生成部は、前記平均化結果を丸め処理せずに、前記平均化結果を1画素当たり前記(a+b)ビットの情報量で規定する、
    請求項1に記載の画像処理装置。
  4. 前記平均化処理部は、前記縮小画像を用いた物体の動き情報あるいは生体情報のセンシングの種別情報を取得し、前記種別情報に応じて(N×M)の値を選択して(N×M)画素単位で平均化する、
    請求項1に記載の画像処理装置。
  5. 前記縮小画像を用いて物体の動き情報および生体情報をそれぞれセンシングするセンシング処理部、を更に備え、
    前記平均化処理部は、前記動き情報のセンシングに対応する第1の(N×M)の値、前記生体情報のセンシングに対応する少なくとも1つの第2の(N×M)の値をそれぞれ選択し、それぞれの(N×M)の値を用いた(N×M)画素単位で平均化する、
    請求項1に記載の画像処理装置。
  6. 前記平均化処理部は、前記M,Nの異なる値となる複数組のペアを用いて、前記複数組のペアの前記N×M画素単位で前記入力画像を平均化し、
    前記生成部は、前記複数組のペアの前記N×M画素単位の平均化による前記ペアの個数と同数個の縮小画像を生成し、
    前記センシング処理部は、前記ペアの個数と同数個の縮小画像を用いて前記センシングを行った結果、前記物体の動き情報あるいは生体情報のセンシングに適した縮小画像を選択する、
    請求項2に記載の画像処理装置。
  7. 画像処理装置における画像処理方法であって、
    1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化するステップと、
    1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成するステップと、を有し、
    前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、
    画像処理方法。
  8. 画像処理装置とセンシング装置とが互いに通信可能に接続される画像処理システムであって、
    前記画像処理装置は、
    1画素当たりa(a:2のべき乗数)ビットの情報量を有して(S×T)画素(S,T:正の整数)からなる入力画像を、1画素あるいは複数の画素から構成されるグリッドごとに、空間方向にN×M画素(N,M:2以上の整数)単位で平均化し、
    1画素あるいは前記グリッドごとのN×M画素単位での平均化結果を、1画素当たり(a+b)ビット(b:2以上の整数)の情報量で規定し、1画素当たり(a+b)ビットの情報量を有する(S×T)/(N×M)画素からなる縮小画像を生成して前記センシング装置に送り、
    前記センシング装置は、
    前記画像処理装置から送られる前記縮小画像を用いて、物体の動き情報あるいは生体情報をセンシングし、
    前記bの値は、(N×M)に近い2のべき乗値の指数c(c:正の整数)、あるいは(c+1)である、
    画像処理システム。
JP2019019740A 2019-02-06 2019-02-06 画像処理装置、画像処理方法および画像処理システム Active JP7190661B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019019740A JP7190661B2 (ja) 2019-02-06 2019-02-06 画像処理装置、画像処理方法および画像処理システム
CN202080012689.3A CN113412625A (zh) 2019-02-06 2020-01-29 图像处理装置、图像处理方法和图像处理系统
PCT/JP2020/003236 WO2020162293A1 (ja) 2019-02-06 2020-01-29 画像処理装置、画像処理方法および画像処理システム
US17/392,639 US20210366078A1 (en) 2019-02-06 2021-08-03 Image processing device, image processing method, and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019019740A JP7190661B2 (ja) 2019-02-06 2019-02-06 画像処理装置、画像処理方法および画像処理システム

Publications (2)

Publication Number Publication Date
JP2020127169A JP2020127169A (ja) 2020-08-20
JP7190661B2 true JP7190661B2 (ja) 2022-12-16

Family

ID=71947997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019019740A Active JP7190661B2 (ja) 2019-02-06 2019-02-06 画像処理装置、画像処理方法および画像処理システム

Country Status (4)

Country Link
US (1) US20210366078A1 (ja)
JP (1) JP7190661B2 (ja)
CN (1) CN113412625A (ja)
WO (1) WO2020162293A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7274825B1 (en) 2003-03-31 2007-09-25 Hewlett-Packard Development Company, L.P. Image matching using pixel-depth reduction before image comparison
WO2007116551A1 (ja) 2006-03-30 2007-10-18 Kabushiki Kaisha Toshiba 画像符号化装置及び画像符号化方法並びに画像復号化装置及び画像復号化方法
WO2010038587A1 (ja) 2008-10-01 2010-04-08 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、動画像符号化プログラム、動画像復号プログラム、及び動画像符号化・復号システム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08317218A (ja) * 1995-05-18 1996-11-29 Minolta Co Ltd 画像処理装置
JP4236713B2 (ja) * 1997-07-30 2009-03-11 ソニー株式会社 記憶装置およびアクセス方法
US7085424B2 (en) * 2000-06-06 2006-08-01 Kobushiki Kaisha Office Noa Method and system for compressing motion image information
TW515192B (en) * 2000-06-06 2002-12-21 Noa Kk Off Compression method of motion picture image data and system there for
JP3989686B2 (ja) * 2001-02-06 2007-10-10 株式会社リコー 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録した記録媒体
US6950469B2 (en) * 2001-09-17 2005-09-27 Nokia Corporation Method for sub-pixel value interpolation
JP4035717B2 (ja) * 2002-08-23 2008-01-23 富士ゼロックス株式会社 画像処理装置及び画像処理方法
US7366356B2 (en) * 2005-08-05 2008-04-29 Seiko Epson Corporation Graphics controller providing a motion monitoring mode and a capture mode
JP2008059307A (ja) * 2006-08-31 2008-03-13 Brother Ind Ltd 画像処理装置および画像処理プログラム
US8213727B2 (en) * 2007-06-20 2012-07-03 Canon Kabushiki Kaisha Image encoding apparatus and image decoding apparatus, and control method thereof
JP4507265B2 (ja) * 2008-06-30 2010-07-21 ルネサスエレクトロニクス株式会社 画像処理回路、及びそれを搭載する表示パネルドライバ並びに表示装置
JP5254740B2 (ja) * 2008-10-24 2013-08-07 キヤノン株式会社 画像処理装置および画像処理方法
JP5398612B2 (ja) * 2010-03-23 2014-01-29 富士フイルム株式会社 動体検出装置および方法
JP2011259333A (ja) * 2010-06-11 2011-12-22 Sony Corp 画像処理装置および方法
JP2012058850A (ja) * 2010-09-06 2012-03-22 Sony Corp 画像処理装置および方法、並びにプログラム
US8526725B2 (en) * 2010-12-13 2013-09-03 Fuji Xerox Co., Ltd. Image processing apparatus including a division-conversion unit and a composing unit, image processing method, computer readable medium
JP5828649B2 (ja) * 2011-03-09 2015-12-09 キヤノン株式会社 画像処理装置、画像処理方法、及びコンピュータプログラム
JP2012235332A (ja) * 2011-05-02 2012-11-29 Sony Corp 撮像装置、および撮像装置制御方法、並びにプログラム
US20130121422A1 (en) * 2011-11-15 2013-05-16 Alcatel-Lucent Usa Inc. Method And Apparatus For Encoding/Decoding Data For Motion Detection In A Communication System
JP5826730B2 (ja) * 2012-09-20 2015-12-02 株式会社ソニー・コンピュータエンタテインメント 動画圧縮装置、画像処理装置、動画圧縮方法、画像処理方法、および動画圧縮ファイルのデータ構造
GB201308073D0 (en) * 2013-05-03 2013-06-12 Imagination Tech Ltd Encoding an image
US9639935B1 (en) * 2016-05-25 2017-05-02 Gopro, Inc. Apparatus and methods for camera alignment model calibration

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7274825B1 (en) 2003-03-31 2007-09-25 Hewlett-Packard Development Company, L.P. Image matching using pixel-depth reduction before image comparison
WO2007116551A1 (ja) 2006-03-30 2007-10-18 Kabushiki Kaisha Toshiba 画像符号化装置及び画像符号化方法並びに画像復号化装置及び画像復号化方法
WO2010038587A1 (ja) 2008-10-01 2010-04-08 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、動画像符号化プログラム、動画像復号プログラム、及び動画像符号化・復号システム

Also Published As

Publication number Publication date
JP2020127169A (ja) 2020-08-20
US20210366078A1 (en) 2021-11-25
CN113412625A (zh) 2021-09-17
WO2020162293A1 (ja) 2020-08-13

Similar Documents

Publication Publication Date Title
US8947519B2 (en) Image processing apparatus, image processing system, image processing method, and image processing program
JP4931055B2 (ja) 画像処理装置及び画像処理方法
JP5566133B2 (ja) フレームレート変換処理装置
JP6175587B2 (ja) 撮像装置、フリッカ検出方法、及びフリッカ検出プログラム
KR102386385B1 (ko) 전자 장치 및 전자 장치의 이미지 압축 방법
KR20120072353A (ko) 디지털 이미지 안정화 장치 및 그 방법
JP6852411B2 (ja) 映像信号処理装置、映像信号処理方法およびプログラム
US20120274855A1 (en) Image processing apparatus and control method for the same
TWI592903B (zh) Image processing device, image processing method and program
JP2019135810A (ja) 画像処理装置、画像処理方法およびプログラム
US20170048447A1 (en) Image processing apparatus, image processing method, and program
KR20120013767A (ko) 영상 처리 장치
JP7190661B2 (ja) 画像処理装置、画像処理方法および画像処理システム
KR20100007628A (ko) 이미지 센서 인터페이스 장치 및 이를 구비하는 디지털촬영 장치
US7366356B2 (en) Graphics controller providing a motion monitoring mode and a capture mode
US10721432B2 (en) Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing
KR101920369B1 (ko) 열화상 카메라의 영상처리장치 및 영상처리방법
US9134812B2 (en) Image positioning method and interactive imaging system using the same
US11803975B2 (en) Correcting device and correcting method of real-time image
US20200184615A1 (en) Image processing device, image processing method, and image processing program
CN114298889A (zh) 图像处理电路和图像处理方法
US10334155B2 (en) Imaging device and capsule endoscope
KR20170121991A (ko) 어안 영상 감시 시스템
US20140327695A1 (en) Image processing apparatus and control method therefor
US10091441B1 (en) Image capture at multiple resolutions

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210916

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221124

R151 Written notification of patent or utility model registration

Ref document number: 7190661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151