JP2016021651A - 静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム - Google Patents
静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム Download PDFInfo
- Publication number
- JP2016021651A JP2016021651A JP2014144397A JP2014144397A JP2016021651A JP 2016021651 A JP2016021651 A JP 2016021651A JP 2014144397 A JP2014144397 A JP 2014144397A JP 2014144397 A JP2014144397 A JP 2014144397A JP 2016021651 A JP2016021651 A JP 2016021651A
- Authority
- JP
- Japan
- Prior art keywords
- still image
- frame
- image acquisition
- section
- video data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Circuits (AREA)
- Television Signal Processing For Recording (AREA)
- Image Analysis (AREA)
Abstract
【課題】映像データから静止画像区間を特定し、その静止画像区間における代表静止画像を取得する。
【解決手段】静止画像取得装置300は、フレーム比較部352により時間的に前後に位置するフレームを読み込み、変化量を計算する。計算された変化量から、静止画像抽出部354により、静止画像区間を特定するための閾値αを用いて、静止画像区間を特定する。静止画像抽出部354により、静止画像区間に属するフレームから、代表静止画像を取得する上で第2の静止画像であるか否かを判定するための閾値βを用いて、第2の静止画像を抽出する。抽出した第2の静止画像から、代表静止画像取得部356により、特定した静止画像区間における映像データの内容を表すのに適した静止画像を取得する。
【選択図】図2
【解決手段】静止画像取得装置300は、フレーム比較部352により時間的に前後に位置するフレームを読み込み、変化量を計算する。計算された変化量から、静止画像抽出部354により、静止画像区間を特定するための閾値αを用いて、静止画像区間を特定する。静止画像抽出部354により、静止画像区間に属するフレームから、代表静止画像を取得する上で第2の静止画像であるか否かを判定するための閾値βを用いて、第2の静止画像を抽出する。抽出した第2の静止画像から、代表静止画像取得部356により、特定した静止画像区間における映像データの内容を表すのに適した静止画像を取得する。
【選択図】図2
Description
本発明は、映像データから静止画像を取得する静止画像取得装置、静止画像取得方法、及び静止画像取得プログラムに関する。
近年のデジタル技術の進展に伴い、撮影した映像より静止画像を自動的に取得することが容易にできるようになった。
撮影した映像より静止画像を自動的に取得する場合、撮影した映像よりフレームを読み込み、その読み込んだフレームから所定の条件に該当するフレームを抽出し、静止画像として取得することが知られている。例えば、映像を構成する複数のフレーム中で画像が変化しない特定の領域に着目して、当該領域を含むフレームを抽出し、静止画像として取得することが知られている。
撮影した映像より静止画像を自動的に取得する場合、撮影した映像よりフレームを読み込み、その読み込んだフレームから所定の条件に該当するフレームを抽出し、静止画像として取得することが知られている。例えば、映像を構成する複数のフレーム中で画像が変化しない特定の領域に着目して、当該領域を含むフレームを抽出し、静止画像として取得することが知られている。
特許文献1には、映像データより、映像データに付随するテキストデータ(即ち、字幕)に着目して、同じテキストデータを含むフレームを抽出し、その抽出したフレームからフレーム間において画素値の変化の小さいフレームを静止画像として抽出する、静止画像抽出装置が記載されている。
この静止画像抽出装置は、映像データよりテキストデータを読み込み、同一の字幕が表示される期間を、画素値の変化の小さいフレーム区間(以下、静止画像区間)と仮定し、その静止画像区間内にあるフレームのうち、時間的に前後に位置するフレームの画素値の差分が最も小さいフレームを、その静止画像区間の映像内容を特定する代表的な静止画像として抽出するものである。
この静止画像抽出装置は、映像データよりテキストデータを読み込み、同一の字幕が表示される期間を、画素値の変化の小さいフレーム区間(以下、静止画像区間)と仮定し、その静止画像区間内にあるフレームのうち、時間的に前後に位置するフレームの画素値の差分が最も小さいフレームを、その静止画像区間の映像内容を特定する代表的な静止画像として抽出するものである。
特許文献1に記載された静止画像抽出装置では、静止画像区間を特定する上で、テキストデータを利用しているが、映像データにはテキストデータが付随されていないケースがほとんどであり、その場合、映像データから静止画像区間を特定することができず、代表的な静止画像を抽出することができない。
本発明は、前記従来の問題に鑑みてなされたものであって、その目的は、映像データから、従来のように、映像中のテキストデータなどのフレーム中の特定領域の画像に依ることなく、静止画像区間を特定でき、その静止画像区間における映像データの内容を特定する静止画像を取得できるようにすることである。
本発明は、映像データから時間的に前後に位置するフレームを読み込むフレーム読込手段と、前記フレーム読込手段により読み込まれた時間的に前後に位置するフレームを比較し、フレーム間の変化量を計算するフレーム比較手段と、前記フレーム比較手段により計算された変化量と、第1の閾値とに基づき、前記読み込んだフレームから第1の静止画像が属する静止画像区間を特定する静止画像区間特定手段と、前記静止画像区間特定手段により特定された静止画像区間に属する第1の静止画像から、前記フレーム比較手段により計算された変化量と、第2の閾値とに基づき、前記静止画像区間毎に、第2の静止画像を抽出する静止画像抽出手段と、前記静止画像抽出手段により抽出された第2の静止画像から静止画像区間における映像データの内容を特定する静止画像を取得する静止画像取得手段と、を有する静止画像取得装置に関する。
本発明によれば、映像データから、従来のように、映像中のテキストデータなどのフレーム中の特定領域の画像に依ることなく、静止画像区間を特定でき、その静止画像区間における映像データの内容を特定する静止画像を取得することができる。
以下、本発明の実施形態について図面を参照して説明する。
図1は、本発明の実施形態に係る静止画像取得装置の概略ブロック図である。
静止画像取得装置300は、撮影装置100、外部記憶装置200、入力装置400、表示装置500及び外部接続機器600と接続される。
図1は、本発明の実施形態に係る静止画像取得装置の概略ブロック図である。
静止画像取得装置300は、撮影装置100、外部記憶装置200、入力装置400、表示装置500及び外部接続機器600と接続される。
撮影装置100は、被写対象を撮影するための、例えば、ビデオカメラ、IP(Internet Protocol)カメラ、webカメラ等であり、静止画像取得装置300にストリーミング映像を提供する。
なお、撮影装置100は、静止画像取得装置300内部の映像データ記憶部350(図2)とは別に、外部の映像記憶手段としても機能し、撮影装置100自体において撮影時の映像データを記憶することもできる。したがって、撮影装置100に記憶した映像データを、静止画像取得装置300に転送することもできる。
なお、撮影装置100は、静止画像取得装置300内部の映像データ記憶部350(図2)とは別に、外部の映像記憶手段としても機能し、撮影装置100自体において撮影時の映像データを記憶することもできる。したがって、撮影装置100に記憶した映像データを、静止画像取得装置300に転送することもできる。
外部記憶装置200は、ハードディスク等の大容量記憶装置であり、撮影装置100以外の撮影装置により撮影された映像データを記憶する。
また、撮影装置100以外の撮影装置で撮影し、その撮影装置自体に映像データを記憶させる場合、その撮影装置を外部記憶装置200とすることもできる。この場合、その撮影装置のメモリカードをメモリスロット320(図2)に挿入することで、またUSB(Universal Serial Bus)ケーブルをUSB等接続インタフェース(I/F)340(図2)に接続することで、映像データを転送することができる。
また、撮影装置100以外の撮影装置で撮影し、その撮影装置自体に映像データを記憶させる場合、その撮影装置を外部記憶装置200とすることもできる。この場合、その撮影装置のメモリカードをメモリスロット320(図2)に挿入することで、またUSB(Universal Serial Bus)ケーブルをUSB等接続インタフェース(I/F)340(図2)に接続することで、映像データを転送することができる。
静止画像取得装置300は、撮影装置100からのストリーミング映像、及び外部記憶装置200からの映像データをフレーム単位で記憶し、その映像データから静止画像区間を特定し、さらに、その特定した静止画像区間にある静止画像から、その静止画像区間における映像データの内容を特定する静止画像(以下、代表静止画像という)を取得する。
なお、静止画像取得装置300は、LAN(Local Area Network)やインターネット等のネットワークに接続することもできる。また、静止画像取得装置300には、画像処理を実行する上で必要なソフトウェアがインストールされている。
なお、静止画像取得装置300は、LAN(Local Area Network)やインターネット等のネットワークに接続することもできる。また、静止画像取得装置300には、画像処理を実行する上で必要なソフトウェアがインストールされている。
入力装置400は、例えば、キーボード、マウス等であり、ユーザが静止画像取得装置300に対して種々の操作を行うための装置である。
表示装置(以下、モニタ)500は、例えば、液晶表示装置等である。モニタ500は、現在、静止画像取得装置300に接続されている撮影装置100により撮影されている映像、静止画像取得装置300内の映像データ記憶部350(図2)に記憶されている映像、それらの映像から取得した静止画像及び代表静止画像、並びに静止画像取得装置300にインストールされたソフトウェアの操作画面等を表示する。
表示装置(以下、モニタ)500は、例えば、液晶表示装置等である。モニタ500は、現在、静止画像取得装置300に接続されている撮影装置100により撮影されている映像、静止画像取得装置300内の映像データ記憶部350(図2)に記憶されている映像、それらの映像から取得した静止画像及び代表静止画像、並びに静止画像取得装置300にインストールされたソフトウェアの操作画面等を表示する。
外部接続機器600は、例えば、PC(Personal Computer)、タブレット、スマートフォン等である。
また、外部接続機器600は、LANケーブル等の有線、又は、無線LAN、Wi−Fi(Wireless Fidelity)、Bluetooth(登録商標)等の無線で、静止画像取得装置300に接続される。
なお、外部接続機器600のディスプレイ、又はスクリーンの表示仕様は、モニタ500の表示仕様と同様である。
また、外部接続機器600は、LANケーブル等の有線、又は、無線LAN、Wi−Fi(Wireless Fidelity)、Bluetooth(登録商標)等の無線で、静止画像取得装置300に接続される。
なお、外部接続機器600のディスプレイ、又はスクリーンの表示仕様は、モニタ500の表示仕様と同様である。
図2は、本発明の実施形態に係る静止画像取得装置の機能ブロック図である。
静止画像取得装置300は、映像データ等の入出力機能として、外部映像入力部310、メモリスロット320、USB等接続インタフェース330、ユーザインタフェース340、外部映像出力部360、LANポート370、無線インタフェース380を備え、また静止画像取得機能として、静止画像取得装置300内部に、映像データ記憶部350、設定情報取得部351、フレーム比較部352、フレーム比較データ記憶部353、静止画像抽出部354、静止画像データ記憶部355、代表静止画像取得部356、表示制御部357を備える。
なお、以上の各部のうち、フレーム比較部352、静止画像抽出部354、代表静止画像取得部356は、静止画像取得装置300のコンピュータにプログラムを読み取らせることにより生成される機能実現手段である。
静止画像取得装置300は、映像データ等の入出力機能として、外部映像入力部310、メモリスロット320、USB等接続インタフェース330、ユーザインタフェース340、外部映像出力部360、LANポート370、無線インタフェース380を備え、また静止画像取得機能として、静止画像取得装置300内部に、映像データ記憶部350、設定情報取得部351、フレーム比較部352、フレーム比較データ記憶部353、静止画像抽出部354、静止画像データ記憶部355、代表静止画像取得部356、表示制御部357を備える。
なお、以上の各部のうち、フレーム比較部352、静止画像抽出部354、代表静止画像取得部356は、静止画像取得装置300のコンピュータにプログラムを読み取らせることにより生成される機能実現手段である。
外部映像入力部310は、静止画像取得装置300と撮影装置100とを接続するためのインタフェースである。
メモリスロット320は、撮影装置100以外の撮影装置により撮影された映像データを記憶したメモリカードを挿入し、映像データを転送するためのスロットである。
メモリスロット320は、撮影装置100以外の撮影装置により撮影された映像データを記憶したメモリカードを挿入し、映像データを転送するためのスロットである。
USB等接続インタフェース330は、キーボード、マウス等の入力装置400をUSBケーブルで接続するためのインタフェースであり、ユーザによる静止画像取得装置300の操作を可能にする。また、ユーザは、USB等接続インタフェース330に、外部記憶装置200をUSBケーブルで接続することにより、外部記憶装置200に記憶された映像データを静止画像取得装置300に転送することができる。
ユーザインタフェース340は、静止画像取得装置300の電源操作、代表静止画像の選択及び表示の制御等、ユーザが静止画像取得装置300に対して直接、操作するためのインタフェースである。
ユーザインタフェース340は、静止画像取得装置300の電源操作、代表静止画像の選択及び表示の制御等、ユーザが静止画像取得装置300に対して直接、操作するためのインタフェースである。
映像データ記憶部350は、静止画像取得装置300内部の映像記憶手段であり、撮影装置100で撮影され、外部映像入力部310より入力された映像データをフレーム単位で記憶する。
また、映像データ記憶部350は、外部記憶装置200よりメモリスロット320、又はUSB等接続インタフェース330を介して転送される映像データも、同様にフレーム単位で記憶する。
また、映像データ記憶部350は、外部記憶装置200よりメモリスロット320、又はUSB等接続インタフェース330を介して転送される映像データも、同様にフレーム単位で記憶する。
設定情報取得部351は、映像データから静止画像区間を特定し、さらに、その特定した静止画像区間にある静止画像から代表静止画像を取得する上で必要な情報を取得する。
即ち、設定情報取得部351で取得される情報には、静止画像抽出部354において静止画像区間を特定するためのパラメータ(閾値)、代表静止画像取得部356において静止画像から代表静止画像を取得する方法等がある。
即ち、設定情報取得部351で取得される情報には、静止画像抽出部354において静止画像区間を特定するためのパラメータ(閾値)、代表静止画像取得部356において静止画像から代表静止画像を取得する方法等がある。
フレーム比較部352は、映像データ記憶部350にフレーム単位で記憶された映像データより、時間的に前後に位置するフレームを読み込み、各フレーム内の画素毎にフレーム間における画素値の差分(変化量)を計算する。
本実施形態では、画素値の差分を計算する上で、RGB値を用いる。
RGB値で比較する場合、先ず、比較するフレーム1(r1、g1、b1)及びフレーム2(r2、g2、b2)の各画素に関して、RGB値の差分の絶対値(即ち、|r1−r2|、|g1−g2|、|b1−b2|)を計算する。次に、各々の計算結果が設定した所定の閾値(ここでは、感度という)以上となる画素数をカウントし、そのカウントされた画素数が、フレームの総画素数に対して占める割合を計算する。
本実施形態では、画素値の差分を計算する上で、RGB値を用いる。
RGB値で比較する場合、先ず、比較するフレーム1(r1、g1、b1)及びフレーム2(r2、g2、b2)の各画素に関して、RGB値の差分の絶対値(即ち、|r1−r2|、|g1−g2|、|b1−b2|)を計算する。次に、各々の計算結果が設定した所定の閾値(ここでは、感度という)以上となる画素数をカウントし、そのカウントされた画素数が、フレームの総画素数に対して占める割合を計算する。
但し、画素の差分を計算する方法としては、各画素のRGBの値を比較する方法に必ずしも限定されず、各画素のHSV(Hue Saturation Value)の値を比較する方法、映像データ(画像)をグレースケール化して各画素の輝度値を比較する方法、また映像データ(画像)に対してエッジ処理を実行し、各画素のエッジ強度を比較する方法を用いてもよい。
フレーム比較データ記憶部353は、フレーム比較部352における計算結果を、フレーム比較データとして記憶する。
フレーム比較データ記憶部353は、フレーム比較部352における計算結果を、フレーム比較データとして記憶する。
静止画像抽出部354は、フレーム比較データ記憶部353に記憶されているフレーム比較データより、静止画像区間を特定し、その特定した静止画像区間内にある静止画像を、静止画像区間毎の集合(以下、静止画像群ともいう)単位で抽出し、静止画像データ記憶部355に記憶する。
なお、静止画像データ記憶部355に記憶される静止画像データについては、図5を用いて後述する。
なお、静止画像データ記憶部355に記憶される静止画像データについては、図5を用いて後述する。
静止画像データ記憶部355は、静止画像抽出部354により抽出されたフレーム、フレーム番号、及びフレームの総画素数に対する、所定の感度以上となった画素数の割合を、静止画像抽出部354により設定された静止画像群単位で記憶する。
代表静止画像取得部356は、設定情報取得部351により取得された設定(方法)に基づき、静止画像群毎に代表静止画像を取得する。
なお、代表静止画像取得部356により取得される代表静止画像は、静止画像群に関連付けて、静止画像データ記憶部355に記憶させる。
なお、代表静止画像取得部356により取得される代表静止画像は、静止画像群に関連付けて、静止画像データ記憶部355に記憶させる。
代表静止画像取得部356による代表静止画像の取得方法としては、(i)静止画像群を構成する静止画像の各画素の平均画素値(RGB値の平均値)を算出し、その算出された平均画素値より代表静止画像を取得する方法、(ii)静止画像群の最初、又は最後等、所定の抽出位置で静止画像抽出部354により抽出され、静止画像データ記憶部355に記憶された静止画像を代表静止画像として取得する方法、また、(iii)フレームの総画素数に対する感度以上となった画素数の割合が最も小さいフレーム(静止画像)を代表静止画像として取得する方法がある。また、ユーザは、静止画像群を構成する静止画像を、表示装置500、又は外部接続機器600の表示領域(例えば、ディスプレイ、スクリーン等)に表示させ、入力装置400で選択することで、代表静止画像を取得することもできる。
表示制御部357は、入力装置400、又は外部接続機器600からの入力情報に従って、静止画像データ記憶部355に記憶されている代表静止画像等を読み込み、モニタ500、又は外部接続機器600の表示領域に表示させる。
外部映像出力部360は、静止画像取得装置300と表示装置500とを接続するためのインタフェースである。
LANポート370は、静止画像取得装置300と外部接続機器600とをLANケーブル等の有線通信手段により接続するためのインタフェースである。
無線インタフェース380は、静止画像取得装置300と外部接続機器600とをWi−Fi、Bluetooth(登録商標)等の無線通信手段により接続するためのインタフェースである。
LANポート370は、静止画像取得装置300と外部接続機器600とをLANケーブル等の有線通信手段により接続するためのインタフェースである。
無線インタフェース380は、静止画像取得装置300と外部接続機器600とをWi−Fi、Bluetooth(登録商標)等の無線通信手段により接続するためのインタフェースである。
図3は、フレーム比較データ記憶部353に記憶されるフレーム比較データである。
図3において、左欄はフレーム番号(映像データより所定の時間間隔で読み込むフレームの順番)、右欄はフレームの総画素数に対する所定の感度以上となった画素数の割合(%)を示している。例えば、フレーム番号11では、フレーム番号10との関係で、フレーム内の各画素に関してRGB値の差分の絶対値を計算し、その計算結果が設定した所定の感度以上となる画素数の、フレーム総画素数に対して占める割合が85%であることを示している。フレーム番号12では、フレーム番号11との関係で、所定の感度以上となる画素数のフレーム総画素数に対して占める割合が6%であることを示している。フレーム番号13以下も同様である。
図3において、左欄はフレーム番号(映像データより所定の時間間隔で読み込むフレームの順番)、右欄はフレームの総画素数に対する所定の感度以上となった画素数の割合(%)を示している。例えば、フレーム番号11では、フレーム番号10との関係で、フレーム内の各画素に関してRGB値の差分の絶対値を計算し、その計算結果が設定した所定の感度以上となる画素数の、フレーム総画素数に対して占める割合が85%であることを示している。フレーム番号12では、フレーム番号11との関係で、所定の感度以上となる画素数のフレーム総画素数に対して占める割合が6%であることを示している。フレーム番号13以下も同様である。
次に、図4を用いて、静止画像抽出部354による静止画像区間の特定及び静止画像の抽出のための処理手順について説明する。
図4は、図3に示す、フレーム比較データ記憶部353に記憶されるフレーム比較データをグラフ化したものである。図4において、横軸はフレーム番号、縦軸はフレームの総画素数に対する感度以上となった画素数の割合を示している。
なお、図4では、説明の便宜上、フレームを読み込む時間間隔を相応に長く設定している。
図4は、図3に示す、フレーム比較データ記憶部353に記憶されるフレーム比較データをグラフ化したものである。図4において、横軸はフレーム番号、縦軸はフレームの総画素数に対する感度以上となった画素数の割合を示している。
なお、図4では、説明の便宜上、フレームを読み込む時間間隔を相応に長く設定している。
図4を参照すると、所定の感度以上となった画素数のフレームの総画素数に対する割合が比較的低いフレーム区間として、フレーム番号12〜22までの区間と、フレーム番号29〜34までの区間がある。
この場合、フレーム番号12〜22までの区間において抽出される静止画像とフレーム番号29〜34までの区間において抽出される静止画像とでは、フレーム番号23〜28にかけてフレームの総画素数に対する所定の感度以上となった画素数の割合が大きく変化していることから、異なる場面(シーン)における静止画像となる可能性がある。
そこで、静止画像抽出部354は、場面毎に静止画像を抽出するために、静止画像区間を特定し、その特定した静止画像区間毎に(即ち、静止画像群単位で)静止画像を抽出し、静止画像データ記憶部355に記憶する。
この場合、フレーム番号12〜22までの区間において抽出される静止画像とフレーム番号29〜34までの区間において抽出される静止画像とでは、フレーム番号23〜28にかけてフレームの総画素数に対する所定の感度以上となった画素数の割合が大きく変化していることから、異なる場面(シーン)における静止画像となる可能性がある。
そこで、静止画像抽出部354は、場面毎に静止画像を抽出するために、静止画像区間を特定し、その特定した静止画像区間毎に(即ち、静止画像群単位で)静止画像を抽出し、静止画像データ記憶部355に記憶する。
以下、静止画像抽出部354における処理を、簡単に説明する。
静止画像抽出部354は、先ず、設定情報取得部351により取得される静止画像区間を特定するための閾値α(本発明の第1の閾値に対応する)を用いて、静止画像区間を特定する。具体的には、静止画像抽出部354は、映像データから所定の時間間隔でフレームを連続的に読み込み、時間的に前後に位置するフレームのフレーム間で画素値(RGB値)の差分の絶対値を計算し、その計算された絶対値が所定の感度以上となる後のフレームの画素数をカウントする。次に、後のフレームのカウントされた画素数のフレームの総画素数に対する割合が、閾値α以上から閾値α未満になった時点から閾値α未満から閾値α以上になった時点までの区間(即ち、閾値α未満となる区間)を、静止画像区間として特定する。
静止画像抽出部354は、先ず、設定情報取得部351により取得される静止画像区間を特定するための閾値α(本発明の第1の閾値に対応する)を用いて、静止画像区間を特定する。具体的には、静止画像抽出部354は、映像データから所定の時間間隔でフレームを連続的に読み込み、時間的に前後に位置するフレームのフレーム間で画素値(RGB値)の差分の絶対値を計算し、その計算された絶対値が所定の感度以上となる後のフレームの画素数をカウントする。次に、後のフレームのカウントされた画素数のフレームの総画素数に対する割合が、閾値α以上から閾値α未満になった時点から閾値α未満から閾値α以上になった時点までの区間(即ち、閾値α未満となる区間)を、静止画像区間として特定する。
静止画像抽出部354は、次に、その特定した静止画像区間毎に、この静止画像区間に属する静止画像(ここでは、便宜上、第1の静止画像という)から、画素数の割合が閾値αよりも小さい閾値β(本発明の第2の閾値に対応する)未満となる静止画像(ここでは、便宜上、第2の静止画像という)を抽出する。そして、この抽出した第2の静止画像に基づき、後述する各取得方法に従って、静止画像区間における映像データの内容を特定する静止画像を取得する。具体的には、静止画像抽出部354は、所定の感度以上となった画素数のフレームの総画素数に対する割合が閾値β未満となる第2の静止画像を、静止画像群に関連付けて静止画像データ記憶部355に記憶する。
なお、静止画像区間は、所定の感度以上となった画素数のフレームの総画素数に対する割合が、閾値α未満から閾値α以上になって初めて特定される区間であること、また、静止画像抽出部354は、静止画像区間を特定する前に、フレームを連続的に読み込み、閾値β未満となる第2の静止画像を抽出し、記憶する必要があることから、実際の処理では、静止画像抽出部354は、静止画像区間の開始時点を特定すると、所定の条件を充足するフレーム(第2の静止画像)を順次、抽出し、静止画像データ記憶部355に記憶する。
なお、静止画像区間は、所定の感度以上となった画素数のフレームの総画素数に対する割合が、閾値α未満から閾値α以上になって初めて特定される区間であること、また、静止画像抽出部354は、静止画像区間を特定する前に、フレームを連続的に読み込み、閾値β未満となる第2の静止画像を抽出し、記憶する必要があることから、実際の処理では、静止画像抽出部354は、静止画像区間の開始時点を特定すると、所定の条件を充足するフレーム(第2の静止画像)を順次、抽出し、静止画像データ記憶部355に記憶する。
その際、本実施形態では、静止画像群設定フラグという所定のフラグを用いて、静止画像群の設定がされたか否かを判別できるようにしている。
具体的には、静止画像群設定フラグは、時間的に連続する前後のフレームに関して、各フレームの画素値の差分の絶対値が設定した所定の値(感度)以上となる画素数のフレームの総画素数に対する割合が、閾値α以上から閾値α未満になると(例えば、図4において、フレーム番号11から12、フレーム番号28から29)「1」にセットされ、逆に閾値α未満から閾値α以上になると(図4において、フレーム番号22から23、フレーム番号34から35)「0」にセットされる。
また、静止画像取得装置300は、内部の処理として、静止画像区間を特定するために、静止画像群設定フラグを用いる。具体的には、静止画像取得装置300は、静止画像群設定フラグが「1」にセットされてから、「0」にセットされるまでのフレーム区間を静止画像区間として特定する。
具体的には、静止画像群設定フラグは、時間的に連続する前後のフレームに関して、各フレームの画素値の差分の絶対値が設定した所定の値(感度)以上となる画素数のフレームの総画素数に対する割合が、閾値α以上から閾値α未満になると(例えば、図4において、フレーム番号11から12、フレーム番号28から29)「1」にセットされ、逆に閾値α未満から閾値α以上になると(図4において、フレーム番号22から23、フレーム番号34から35)「0」にセットされる。
また、静止画像取得装置300は、内部の処理として、静止画像区間を特定するために、静止画像群設定フラグを用いる。具体的には、静止画像取得装置300は、静止画像群設定フラグが「1」にセットされてから、「0」にセットされるまでのフレーム区間を静止画像区間として特定する。
図4の表示例では、静止画像区間を特定するための閾値α(図中、点線)を20%に設定していることから、静止画像抽出部354は、フレーム番号12から22までを静止画像区間Aと特定し、またフレーム番号29から34までを静止画像区間Bと特定する。さらに、本実施形態では、図4に示すように、第2の静止画像であるか否かを判定するための閾値β(図中、破線)を10%に設定していることから、静止画像抽出部354は、静止画像区間Aにおいて抽出されるフレーム番号12、14、16、18、20、21、22のフレームを、静止画像群Aの第2の静止画像として、また静止画像区間Bにおいて抽出されるフレーム番号30、31、33のフレームを静止画像群Bの第2の静止画像として抽出し、静止画像データ記憶部355に記憶する。
なお、図4では、静止画像区間を特定するための閾値αを、閾値βの10%に対して、10%ほど高い20%に設定している。
このように閾値αとβを設定して、静止画像を、第1及び第2の静止画像として2段階に分けたのは、同一の場面において、静止画像として抽出されるフレームが時間的に連続することが予定される場合であっても、映像データにノイズが混入されることで画素値が変化する場合があり、その場合においても、画素数の割合が閾値αに達しない限り、ノイズが混入したフレームを同一の場面(即ち、同じ静止画像区間内)のフレームと判定できるようにするためである。
このように閾値αとβを設定して、静止画像を、第1及び第2の静止画像として2段階に分けたのは、同一の場面において、静止画像として抽出されるフレームが時間的に連続することが予定される場合であっても、映像データにノイズが混入されることで画素値が変化する場合があり、その場合においても、画素数の割合が閾値αに達しない限り、ノイズが混入したフレームを同一の場面(即ち、同じ静止画像区間内)のフレームと判定できるようにするためである。
図5は、静止画像データ記憶部355に記憶される静止画像データを示している。
図5において、左欄は静止画像群、中欄はフレーム番号、右欄はフレームの総画素数に対する感度以上となった画素数の割合を示している。
なお、静止画像抽出部354により抽出したフレームについては、不図示としている。
図5において、左欄は静止画像群、中欄はフレーム番号、右欄はフレームの総画素数に対する感度以上となった画素数の割合を示している。
なお、静止画像抽出部354により抽出したフレームについては、不図示としている。
次に、図6のフロー図を用いて、本発明の実施形態に係る静止画像取得装置により静止画像区間を特定し、代表静止画像を取得するまでの処理手順を説明する。
静止画像取得装置300は、映像データ記憶部350よりフレームの読み込みが可能であるか否かを判定する(S101)。即ち、静止画像取得装置300は、静止画像(第2の静止画像)の抽出対象となる映像データが映像データ記憶部350に記憶されているか否かを判定する。
静止画像取得装置300は、映像データ記憶部350よりフレームの読み込みが可能であるか否かを判定する(S101)。即ち、静止画像取得装置300は、静止画像(第2の静止画像)の抽出対象となる映像データが映像データ記憶部350に記憶されているか否かを判定する。
静止画像取得装置300は、フレームの読み込みが可能であると判定すると(S101 Yes)、フレーム比較部352により時間的に前後に位置するフレームを読み込む(S102)。
静止画像取得装置300は、フレーム比較部352により、ステップS102において読み込んだ時間的に前後に位置するフレームに対して、各フレーム内の画素毎にフレーム間におけるRGB値の差分の絶対値を計算する(S103)。
静止画像取得装置300は、次に、フレーム比較部352により、時間的に前後に位置するフレームの各画素のRGB値の差分の絶対値が所定の感度以上となる画素数をカウントし、フレームの総画素数に対して占める割合を算出する(S104)。
なお、図6のフロー図には図示していないが、フレーム比較部352における計算結果(図3)は、後のフレームの算出結果としてフレーム比較データ記憶部353に記憶される。
静止画像取得装置300は、フレーム比較部352により、ステップS102において読み込んだ時間的に前後に位置するフレームに対して、各フレーム内の画素毎にフレーム間におけるRGB値の差分の絶対値を計算する(S103)。
静止画像取得装置300は、次に、フレーム比較部352により、時間的に前後に位置するフレームの各画素のRGB値の差分の絶対値が所定の感度以上となる画素数をカウントし、フレームの総画素数に対して占める割合を算出する(S104)。
なお、図6のフロー図には図示していないが、フレーム比較部352における計算結果(図3)は、後のフレームの算出結果としてフレーム比較データ記憶部353に記憶される。
次に、静止画像取得装置300は、静止画像抽出部354により、ステップS101において読み込んだフレームに関して、所定の感度以上となる画素数の割合が静止画像区間を特定する閾値α未満となるか否かを判定する(S105)。
静止画像取得装置300は、静止画像抽出部354により、ステップS101において読み込んだフレームに関して、所定の感度以上となる画素数の割合が閾値α未満であると判定すると(S105 Yes)、次に、静止画像群の設定がされているか否かを判定する(S106)。具体的には、静止画像取得装置300は、静止画像抽出部354により、静止画像群の設定の有無を示す静止画像群設定フラグが「1」にセットされているか否かを判定する。
静止画像取得装置300は、静止画像抽出部354により、ステップS101において読み込んだフレームに関して、所定の感度以上となる画素数の割合が閾値α未満であると判定すると(S105 Yes)、次に、静止画像群の設定がされているか否かを判定する(S106)。具体的には、静止画像取得装置300は、静止画像抽出部354により、静止画像群の設定の有無を示す静止画像群設定フラグが「1」にセットされているか否かを判定する。
即ち、静止画像群設定フラグが「1」にセットされている場合、静止画像群が設定されていることを示し、また、静止画像群設定フラグが「0」にセットされている場合、静止画像群が設定されていないことを示す。また、既に述べたように、静止画像取得装置300は、静止画像群設定フラグが「1」にセットされてから、「0」にセットされるまでのフレーム区間を静止画像区間として特定する。
静止画像取得装置300は、静止画像群の設定がされている場合(S106 Yes)、静止画像抽出部354により、ステップS101において読み込んだフレームが第2の静止画像であるか否かを判定する(S108)。具体的には、静止画像取得装置300は、静止画像抽出部354により、所定の感度以上となる画素の割合が、閾値β未満であるか否かを判定する(S108)。
なお、ステップS106において、静止画像群の設定がされていないと判定すると(S106 No)、静止画像取得装置300は、静止画像抽出部354により静止画像群を新規に設定した上で(S107)、ステップS101において読み込んだフレームが第2の静止画像であるか否かを判定する(S108)。
なお、ステップS106において、静止画像群の設定がされていないと判定すると(S106 No)、静止画像取得装置300は、静止画像抽出部354により静止画像群を新規に設定した上で(S107)、ステップS101において読み込んだフレームが第2の静止画像であるか否かを判定する(S108)。
そして、ステップS101において読み込んだフレームが第2の静止画像であると判定すると(S108 Yes)、静止画像取得装置300は、静止画像抽出部354により、そのフレーム(第2の静止画像)を、そのフレームに設定された静止画像群に関連付けて、静止画像データ記憶部355に記憶する(S109)。
静止画像取得装置300は、ステップS109で静止画像データ記憶部355に記憶すると、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
また、静止画像取得装置300は、ステップS108において、静止画像抽出部354により、ステップS101において読み込んだフレームが第2の静止画像でないと判定した場合も(S108 No)、同様に、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
これらのステップS101からS110までの処理は、ステップS101において読み込んだ時間的に前後に位置するフレームに関して、所定の感度以上となる後のフレームの画素数の割合が静止画像区間を特定する閾値α以上(即ち、静止画像区間外)と判定されるまで(S105 No)、繰り返し実行される。
また、静止画像取得装置300は、ステップS108において、静止画像抽出部354により、ステップS101において読み込んだフレームが第2の静止画像でないと判定した場合も(S108 No)、同様に、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
これらのステップS101からS110までの処理は、ステップS101において読み込んだ時間的に前後に位置するフレームに関して、所定の感度以上となる後のフレームの画素数の割合が静止画像区間を特定する閾値α以上(即ち、静止画像区間外)と判定されるまで(S105 No)、繰り返し実行される。
静止画像取得装置300は、静止画像抽出部354により、ステップS101において読み込んだ時間的に前後に位置するフレームに関して、後のフレームの所定の感度以上となる画素数の割合が静止画像区間を特定する閾値以上と判定すると(S105 No)、静止画像群が設定されているか(即ち、静止画像群設定フラグが「1」にセットされているか)否かを判定する(S111)。
静止画像取得装置300は、静止画像群が設定されている場合(S111 Yes)、設定された静止画像群に静止画像データが記憶されているか否かを判定する(S112)。
静止画像取得装置300は、静止画像群が設定されている場合(S111 Yes)、設定された静止画像群に静止画像データが記憶されているか否かを判定する(S112)。
そして、設定された静止画像群に静止画像データが関連付けられ、記憶されていると判定すると(S112 Yes)、静止画像取得装置300は、設定情報取得部351により取得された設定に基づき、代表静止画像の取得方法を選択する(S113)。
取得方法1が選択されると(S113 取得方法1)、静止画像取得装置300は、その静止画像群に関連付けられ記憶された静止画像に関して、各画素位置における画素の平均画素値を計算し、その平均画素値に基づき代表静止画像を生成し、取得する(S114)。
取得方法2が選択されると(S113 取得方法2)、静止画像取得装置300は、最初、又は最後等、所定の抽出位置で抽出され、静止画像群に関連付けられ記憶された静止画像を代表静止画像として取得する(S115)。
取得方法3が選択されると(S113 取得方法3)、静止画像取得装置300は、フレームの総画素数に対する感度以上となった画素数の割合が最も低いフレームを代表静止画像として取得する(S116)。
取得方法1が選択されると(S113 取得方法1)、静止画像取得装置300は、その静止画像群に関連付けられ記憶された静止画像に関して、各画素位置における画素の平均画素値を計算し、その平均画素値に基づき代表静止画像を生成し、取得する(S114)。
取得方法2が選択されると(S113 取得方法2)、静止画像取得装置300は、最初、又は最後等、所定の抽出位置で抽出され、静止画像群に関連付けられ記憶された静止画像を代表静止画像として取得する(S115)。
取得方法3が選択されると(S113 取得方法3)、静止画像取得装置300は、フレームの総画素数に対する感度以上となった画素数の割合が最も低いフレームを代表静止画像として取得する(S116)。
静止画像取得装置300は、代表静止画像を取得すると(S114、S115、S116)、静止画像群設定フラグをリセットする(即ち、「0」にセットする)(S117)。
なお、ステップS112において、設定された静止画像群に静止画像データが記憶されていないと判定された場合(S112 No)も、同様に、静止画像取得装置300は、静止画像群設定フラグをリセットする(S117)
なお、ステップS112において、設定された静止画像群に静止画像データが記憶されていないと判定された場合(S112 No)も、同様に、静止画像取得装置300は、静止画像群設定フラグをリセットする(S117)
静止画像取得装置300は、静止画像群設定フラグをリセットすると(S117)、次のフレームを読み込むために、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
なお、ステップS111において静止画像群が設定されていない(即ち、静止画像群設定フラグが「0」にセットされている)場合(S111 No)も、同様に、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
なお、ステップS111において静止画像群が設定されていない(即ち、静止画像群設定フラグが「0」にセットされている)場合(S111 No)も、同様に、フレームをカウントアップさせ(S110)、再度、ステップS101から処理を実行する。
静止画像取得装置300は、映像データ記憶部350よりフレームを読み込むことができなくなるまで、以上の処理を繰り返し実行し、映像データ記憶部350よりフレームを読み込むことができなくなると(S101 No)、静止画像の取得に関する処理を終了する。
以上説明したように、本発明の実施形態に係る静止画像取得装置によれば、映像データから静止画像区間を特定し、その特定した静止画像区間毎に、静止画像区間における映像データの内容を特定するのに適した代表静止画像を取得することができる。これにより、映像データの内容を、静止画像により過不足なく表すことができ、データ容量も映像データに比べて低減することができる。
また、本発明の実施形態に係る静止画像取得装置により取得された静止画像(代表静止画像)を、例えば、製造又は作業工程上の不具合の検知に用いることで、不具合検知の精度を向上させることができる。
また、本発明の実施形態に係る静止画像取得装置により取得された静止画像(代表静止画像)を、例えば、製造又は作業工程上の不具合の検知に用いることで、不具合検知の精度を向上させることができる。
100…撮影装置、200…外部記憶装置、300…静止画像取得装置、310…外部映像入力部、320…メモリスロット、330…USB等接続インタフェース、340…ユーザインタフェース、350…映像データ記憶部、351…設定情報取得部、352…フレーム比較部、353…フレーム比較データ記憶部、354…静止画像抽出部、355…静止画像データ記憶部、356…代表静止画像取得部、357…表示制御部、360…外部映像出力部、370…LANポート、380…無線インタフェース、400…入力装置、500…表示装置、600…外部接続機器。
Claims (7)
- 映像データから時間的に前後に位置するフレームを読み込むフレーム読込手段と、
前記フレーム読込手段により読み込まれた時間的に前後に位置するフレームを比較し、フレーム間の変化量を計算するフレーム比較手段と、
前記フレーム比較手段により計算された変化量と、第1の閾値とに基づき、前記読み込んだフレームから第1の静止画像が属する静止画像区間を特定する静止画像区間特定手段と、
前記静止画像区間特定手段により特定された静止画像区間に属する第1の静止画像から、前記フレーム比較手段により計算された変化量と、第2の閾値とに基づき、前記静止画像区間毎に、第2の静止画像を抽出する静止画像抽出手段と、
前記静止画像抽出手段により抽出された第2の静止画像から静止画像区間における映像データの内容を特定する静止画像を取得する静止画像取得手段と、
を有する静止画像取得装置。 - 請求項1に記載された静止画像取得装置において、
前記静止画像取得手段が、前記静止画像抽出手段により抽出された第2の静止画像の各画素の平均画素値を計算し、当該平均画素値に基づき、前記静止画像区間における映像データの内容を特定する静止画像を生成し、取得する静止画像取得装置。 - 請求項1に記載された静止画像取得装置において、
前記静止画像取得手段が、前記静止画像抽出手段により所定のフレームの抽出位置において抽出された第2の静止画像を、前記静止画像区間における映像データの内容を特定する静止画像として取得する静止画像取得装置。 - 請求項1に記載された静止画像取得装置において、
前記静止画像取得手段が、前記フレーム比較手段により計算された変化量が最も小さいフレームを、前記静止画像区間における映像データの内容を特定する静止画像として取得する静止画像取得装置。 - 請求項1に記載された静止画像取得装置において、
前記静止画像取得手段が、前記静止画像抽出手段により抽出された第2の静止画像のうち、ユーザにより選択された第2の静止画像を、前記静止画像区間における映像データの内容を特定する静止画像として取得する静止画像取得装置。 - 映像データから時間的に前後に位置するフレームを読み込むフレーム読込工程と、
前記フレーム読込工程において読み込まれた時間的に前後に位置するフレームを比較し、フレーム間の変化量を計算するフレーム比較工程と、
前記フレーム比較工程において計算された変化量と第1の閾値に基づき、前記読み込んだフレームから第1の静止画像が属する静止画像区間を特定する静止画像区間特定工程と、
前記静止画像区間特定工程において特定された静止画像区間に属する第1の静止画像から、前記フレーム比較工程において計算された変化量と第2の閾値に基づき、前記静止画像区間毎に、第2の静止画像を抽出する第2の静止画像抽出工程と、
前記静止画像抽出工程において抽出された第2の静止画像から静止画像区間における映像データの内容を特定する静止画像を取得する静止画像取得工程と、
を有する静止画像取得装置における静止画像取得方法。 - コンピュータを、請求項1に記載された静止画像取得装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014144397A JP2016021651A (ja) | 2014-07-14 | 2014-07-14 | 静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014144397A JP2016021651A (ja) | 2014-07-14 | 2014-07-14 | 静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016021651A true JP2016021651A (ja) | 2016-02-04 |
Family
ID=55266243
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014144397A Pending JP2016021651A (ja) | 2014-07-14 | 2014-07-14 | 静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016021651A (ja) |
-
2014
- 2014-07-14 JP JP2014144397A patent/JP2016021651A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6451133B2 (ja) | 異常検知装置、異常検知方法、異常検知システム、及びプログラム | |
WO2017076040A1 (zh) | 应用于连拍过程中的图像处理方法和装置 | |
JP6682550B2 (ja) | 連続オートフォーカスのためのシステムおよび方法 | |
US9854188B2 (en) | Calibration of defective image sensor elements | |
US20180232943A1 (en) | System and method for generating a virtual viewpoint apparatus | |
US10863113B2 (en) | Image processing apparatus, image processing method, and storage medium | |
US20150243027A1 (en) | Image processing device, image processing method, and program | |
CN108806638B (zh) | 一种图像的显示方法及其装置 | |
US20180367704A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable medium | |
CN113014908A (zh) | 图像检测方法、装置和系统及计算机可读存储介质 | |
JPWO2015194421A1 (ja) | 医療用システム、その画像処理設定方法、及び画像処理装置 | |
WO2013114803A1 (ja) | 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム | |
CN109729259B (zh) | 图像处理装置、其方法、其系统以及计算机可读介质 | |
JP2018084861A (ja) | 情報処理装置、情報処理方法、及び情報処理プログラム | |
JP4853657B2 (ja) | 画像処理装置 | |
JP5818050B1 (ja) | ステータス判定システム | |
JPWO2018100662A1 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 | |
JP2010273319A (ja) | 撮像装置、顕微鏡システム、及びホワイトバランス調整方法 | |
JP2016021651A (ja) | 静止画像取得装置、静止画像取得方法、及び静止画像取得プログラム | |
JP2016046701A (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
US11595584B2 (en) | Imaging apparatus, method of controlling imaging apparatus and computer-readable medium | |
EP3148172A1 (en) | Method for color grading of a digital visual content, and corresponding electronic device, computer readable program product and computer readable storage medium | |
JP2018088207A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 | |
WO2013114802A1 (ja) | 画像処理装置及びその画像処理方法、並びにコンピュータ・プログラム、および画像処理システム | |
EP3442218A1 (en) | Imaging apparatus and control method for outputting images with different input/output characteristics in different regions and region information, client apparatus and control method for receiving images with different input/output characteristics in different regions and region information and displaying the regions in a distinguishable manner |