JP2012221033A - Electronic instrument and selection method - Google Patents

Electronic instrument and selection method Download PDF

Info

Publication number
JP2012221033A
JP2012221033A JP2011083595A JP2011083595A JP2012221033A JP 2012221033 A JP2012221033 A JP 2012221033A JP 2011083595 A JP2011083595 A JP 2011083595A JP 2011083595 A JP2011083595 A JP 2011083595A JP 2012221033 A JP2012221033 A JP 2012221033A
Authority
JP
Japan
Prior art keywords
unit
color change
pixel
pixel group
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011083595A
Other languages
Japanese (ja)
Inventor
Takeshi Yagi
健 八木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011083595A priority Critical patent/JP2012221033A/en
Priority to PCT/JP2012/057134 priority patent/WO2012133028A1/en
Publication of JP2012221033A publication Critical patent/JP2012221033A/en
Priority to US14/029,421 priority patent/US20140098992A1/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To acquire number values showing objects themselves simply which enables simple comparison between the objects.SOLUTION: An electronic instrument 1 includes: an imaging unit 10; and an extracting unit 20 which extracts rhythm information showing a pattern of color change of an object within a moving image picked up by the imaging unit 10. The extracting unit 20 includes: a first storage unit 22 which stores the rhythm information in association with a pattern of color change of a unit region constituting the object; a calculation unit 24 which calculates a pattern of color change of a unit region in the moving image; and a selection unit 26 which selects the rhythm information corresponding to the pattern of color change of the unit region calculated by the calculating unit 24 from the first storage unit 22.

Description

本発明は、電子機器及び選択方法に関するものである。   The present invention relates to an electronic device and a selection method.

従来、動画像からパターンマッチングにより所定のオブジェクト(例えば人の顔)を抽出する技術が開示されている(例えば、特許文献1参照)。特許文献1によれば、表示画面上に所定のオブジェクトの撮像領域を示すことができる。   Conventionally, a technique for extracting a predetermined object (for example, a human face) from a moving image by pattern matching has been disclosed (for example, see Patent Document 1). According to Patent Document 1, an imaging area of a predetermined object can be shown on the display screen.

特開2009−31469号公報JP 2009-31469 A

しかしながら、特許文献1に開示された技術では、オブジェクト自体を数値化(指標化)していないので、オブジェクト同士を比較することができないという問題がある。更に、オブジェクト同士を比較することができないので、オブジェクト同士の比較結果を応用した種々の応用処理(例えば、オブジェクトの類似度に基づくオブジェクトのクループ化、各撮像機器によるオブジェクトの類似度に基づく撮像機器のクループ化、基準とするオブジェクトに類似するオブジェクトの抽出)を実現することができないという問題がある。
本発明は、上記問題に鑑みてなされたものであり、オブジェクト同士を簡便に比較可能な、オブジェクト自体を示す数値(指標)を簡便に取得する電子機器を提供する。
However, the technique disclosed in Patent Document 1 has a problem that the objects themselves cannot be compared because the objects themselves are not digitized (indexed). Furthermore, since the objects cannot be compared with each other, various application processes (for example, object grouping based on the object similarity, imaging devices based on the object similarity based on each image capturing device) And the extraction of objects similar to the reference object) cannot be realized.
The present invention has been made in view of the above problems, and provides an electronic apparatus that can easily acquire a numerical value (index) indicating an object itself that can easily compare objects.

上記問題を解決するために、本発明の一態様である電子機器は、撮像部と、前記撮像部によって撮像された動画像内のオブジェクトの色の変化のパターンを表すリズム情報を抽出する抽出部とを備えることを特徴とする。   In order to solve the above problem, an electronic apparatus according to an aspect of the present invention includes an imaging unit and an extraction unit that extracts rhythm information representing a color change pattern of an object in a moving image captured by the imaging unit It is characterized by providing.

上記電子機器において、予め定めた基準となる光の下において撮像した場合の色に前記動画像を補正する補正部を更に備え、前記抽出部は、前記補正部によって補正された動画像から前記リズム情報を抽出するようにしてもよい。   The electronic apparatus further includes a correction unit that corrects the moving image to a color when imaged under a predetermined reference light, and the extraction unit extracts the rhythm from the moving image corrected by the correction unit. Information may be extracted.

上記電子機器において、前記抽出部は、前記オブジェクトを構成する単位領域の色の変化のパターンに対応付けて前記リズム情報を記憶する記憶部と、前記動画像における前記単位領域の色の変化のパターンを算出する算出部と、前記算出部によって算出された前記単位領域の色の変化のパターンに対応する前記リズム情報を前記記憶部から選択する選択部とを有するようにしてもよい。   In the electronic device, the extraction unit stores the rhythm information in association with a color change pattern of the unit area constituting the object, and a color change pattern of the unit area in the moving image. And a selection unit that selects from the storage unit the rhythm information corresponding to the color change pattern of the unit area calculated by the calculation unit.

上記電子機器において、前記単位領域は、所定数の隣接画素からなる画素グループであって、前記単位領域の色の変化のパターンは、前記画素グループ毎の平均画素値、最大画素値、最小画素値、又は、画素値の中央値の時間的な変化を示す情報であってもよい。   In the electronic apparatus, the unit area is a pixel group including a predetermined number of adjacent pixels, and the color change pattern of the unit area includes an average pixel value, a maximum pixel value, and a minimum pixel value for each pixel group. Alternatively, it may be information indicating a temporal change in the median value of the pixel values.

上記電子機器において、前記単位領域は、画素値の差が所定値以下である隣接画素からなる画素グループであって、前記単位領域の色の変化のパターンは、前記画素グループ毎の平均画素値、最大画素値、最小画素値、又は、画素値の中央値の時間的な変化を示す情報であってもよい。   In the electronic apparatus, the unit region is a pixel group including adjacent pixels having a pixel value difference equal to or less than a predetermined value, and the color change pattern of the unit region has an average pixel value for each pixel group, It may be information indicating a temporal change in the maximum pixel value, the minimum pixel value, or the median value of the pixel values.

上記電子機器において、前記単位領域は、画素値の差が所定値以下である隣接画素からなる画素グループであって、前記単位領域の色の変化のパターンは、前記画素グループの分布の時間的な変化を示す情報であってもよい。   In the electronic apparatus, the unit region is a pixel group including adjacent pixels having a pixel value difference equal to or less than a predetermined value, and the color change pattern of the unit region is temporal in the distribution of the pixel group. It may be information indicating a change.

上記電子機器において、前記色の変化は、色相、彩度、明度、色度、コントラスト比の何れか1つ、又は2以上を含む変化であってもよい。   In the electronic device, the color change may be any one of hue, saturation, brightness, chromaticity, and contrast ratio, or a change including two or more.

上記問題を解決するために、本発明の他の態様である選択方法は、動画像内のオブジェクトを構成する単位領域の色の変化のパターンに対応付けて動画像内のオブジェクトの色の変化のパターンを表すリズム情報を記憶する記憶部を備える電子機器において、撮像部によって撮像された動画像の前記リズム情報を選択する選択方法であって、前記電子機器の算出手段が、前記動画像における前記単位領域の色の変化のパターンを算出し、前記電子機器の選択手段が、前記算出手段によって算出された前記単位領域の色の変化のパターンに対応する前記リズム情報を前記記憶部から選択することを特徴とする。   In order to solve the above problem, a selection method according to another aspect of the present invention is a method of changing the color of an object in a moving image in association with a pattern of changing the color of a unit area constituting the object in the moving image. In an electronic device including a storage unit that stores rhythm information representing a pattern, the selection method selects the rhythm information of a moving image captured by an imaging unit, and the calculation unit of the electronic device includes the calculation unit in the moving image. Calculating a color change pattern of the unit region, and the selection unit of the electronic device selects the rhythm information corresponding to the color change pattern of the unit region calculated by the calculation unit from the storage unit; It is characterized by.

本発明によれば、オブジェクト自体を示す数値(リズム情報)を当該オブジェクトから簡便に取得することができる。また、当該数値を用いてオブジェクト同士を簡便に比較することができる。更に、オブジェクト同士の比較結果を種々の応用処理(例えば、オブジェクトの類似度に基づくオブジェクトのクループ化、各撮像機器によるオブジェクトの類似度に基づく撮像機器のクループ化、基準とするオブジェクトに類似するオブジェクトの抽出)に活用することができる。   According to the present invention, a numerical value (rhythm information) indicating an object itself can be easily acquired from the object. Moreover, objects can be easily compared using the numerical values. Furthermore, the comparison results between objects can be applied to various application processes (for example, object grouping based on object similarity, imaging device grouping based on object similarity by each imaging device, object similar to a reference object) Extraction).

本発明の一実施形態による電子機器1の一例を示す構成図である。It is a lineblock diagram showing an example of electronic equipment 1 by one embodiment of the present invention. 抽出部20の処理を説明するための説明図である。FIG. 6 is an explanatory diagram for explaining processing of an extraction unit 20. 抽出部20の処理を説明するための説明図である。FIG. 6 is an explanatory diagram for explaining processing of an extraction unit 20. 抽出部20の処理を説明するための説明図である。FIG. 6 is an explanatory diagram for explaining processing of an extraction unit 20. 電子機器1の動作の一例を示すフローチャートである。3 is a flowchart illustrating an example of an operation of the electronic device 1. 抽出部20の他の処理を説明するための説明図である。FIG. 10 is an explanatory diagram for explaining another process of the extraction unit 20. 抽出部20の他の処理を説明するための説明図である。FIG. 10 is an explanatory diagram for explaining another process of the extraction unit 20.

以下、図面を参照しながら本発明の一実施形態について説明する。図1は、本発明の一実施形態による電子機器1の一例を示す構成図である。   Hereinafter, an embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a configuration diagram illustrating an example of an electronic apparatus 1 according to an embodiment of the present invention.

電子機器1は、例えば、デジタルカメラであって、図1に示すように、撮像部10、抽出部20及び第2記憶部40を備える。抽出部20は、第1記憶部22、算出部24及び選択部26を有する。   The electronic device 1 is, for example, a digital camera, and includes an imaging unit 10, an extraction unit 20, and a second storage unit 40 as illustrated in FIG. The extraction unit 20 includes a first storage unit 22, a calculation unit 24, and a selection unit 26.

撮像部10は、静止画像及び動画像を撮像するカメラである。抽出部20は、撮像部10によって撮像された動画像からオブジェクトを抽出し、動画像から抽出したオブジェクトの色の変化のパターンを表すリズム情報を抽出する。第2記憶部40は、抽出部20によって抽出されたリズム情報を記憶する。以下、図2乃至図4を用いて、抽出部20による処理を詳細に説明する。図2乃至図4は、抽出部20の処理を説明するための説明図である。   The imaging unit 10 is a camera that captures still images and moving images. The extraction unit 20 extracts an object from the moving image captured by the imaging unit 10, and extracts rhythm information representing a pattern of color change of the object extracted from the moving image. The second storage unit 40 stores the rhythm information extracted by the extraction unit 20. Hereinafter, the process performed by the extraction unit 20 will be described in detail with reference to FIGS. 2 to 4 are explanatory diagrams for explaining the processing of the extraction unit 20.

図2は、動画像(P、P、P)から抽出された信号機のオブジェクト(O)を模式的に表したものである。図2(a)は信号機が青、図2(b)は信号機が黄、図2(c)は信号機が赤であるときのオブジェクトを示している。図2(a)〜図2(c)において、r1は信号機本体の撮像領域、r2は信号機本体を支持する支持部の撮像領域である。r1−1はr1内の領域であって青ランプを保持する保持部の撮像領域、r1−2はr1内の領域であって黄ランプを保持する保持部の撮像領域、r1−3はr1内の領域であって赤ランプを保持する保持部の撮像領域である。r1−1−1はr1−1内の領域であって青ランプの撮像領域、r1−2−1はr1−2内の領域であって黄ランプの撮像領域、r1−3−1はr1−3内の領域であって赤ランプの領域である。 FIG. 2 schematically shows the traffic light object (O 1 ) extracted from the moving images (P 1 , P 2 , P 3 ). 2A shows the object when the traffic light is blue, FIG. 2B shows the object when the traffic light is yellow, and FIG. 2C shows the object when the traffic light is red. 2A to 2C, r1 is an imaging area of the traffic signal body, and r2 is an imaging area of a support portion that supports the traffic signal body. r1-1 is an area within r1, which is an imaging area of a holding section that holds a blue lamp, r1-2 is an area within r1, and is an imaging area of a holding section that holds a yellow lamp, and r1-3 is within r1 This is an imaging region of a holding unit that holds a red lamp. r1-1-1 is an area within r1-1 and is an imaging area of a blue lamp, r1-2-1 is an area within r1-2 and is an imaging area of a yellow lamp, and r1-3-1 is r1- 3 is a red lamp area.

なお、説明の便宜上、信号機が青の場合、点灯中の青ランプの色は青緑色、消灯中の黄ランプ及び赤ランプの色は黒色であるものとする。即ち、図2(a)における、青ランプの領域r1−1−1の色は青緑色、黄ランプの領域r1−2−1の色は黒色、赤ランプの領域r1−3−1の色は黒色であるものとする。
信号機が黄の場合、点灯中の黄ランプの色は黄色、消灯中の青ランプ及び赤ランプの色は黒色であるものとする。即ち、図2(b)における、青ランプの領域r1−1−1の色は黒色、黄ランプの領域r1−2−1の色は黄色、赤ランプの領域r1−3−1の色は黒色であるものとする。
信号機が赤の場合、点灯中の赤ランプの色は赤色、消灯中の青ランプ及び黄ランプの色は黒色であるものとする。即ち、図2(c)における、青ランプの領域r1−1−1の色は黒色、黄ランプの領域r1−2−1の色は黒色、赤ランプの領域r1−3−1の色は赤色であるものとする。
また、信号機が青、黄、赤の何れの場合において、ランプ以外の領域は全て灰色であるものとする。
For convenience of explanation, it is assumed that when the traffic light is blue, the color of the blue lamp being turned on is blue-green, and the colors of the yellow lamp and red lamp being turned off are black. That is, in FIG. 2A, the color of the blue lamp region r1-1-1 is blue-green, the color of the yellow lamp region r1-2-1 is black, and the color of the red lamp region r1-3-1 is It shall be black.
When the traffic light is yellow, the color of the yellow lamp that is lit is yellow, and the color of the blue and red lamps that are not lit is black. That is, in FIG. 2B, the color of the blue lamp region r1-1-1 is black, the color of the yellow lamp region r1-2-1 is yellow, and the color of the red lamp region r1-3-1 is black. Suppose that
When the traffic light is red, the color of the red lamp being turned on is red, and the color of the blue lamp and the yellow lamp being turned off is black. That is, in FIG. 2C, the color of the blue lamp region r1-1-1 is black, the color of the yellow lamp region r1-2-1 is black, and the color of the red lamp region r1-3-1 is red. Suppose that
In addition, when the traffic light is any of blue, yellow, and red, all the areas other than the lamp are gray.

図3(a)は、図2に示す信号機のオブジェクト(O)を構成する単位領域を模式的に表したものである。単位領域は、所定数の隣接画素から構成され、画素グループとも称する。 FIG. 3A schematically shows unit areas constituting the object (O 1 ) of the traffic light shown in FIG. The unit area is composed of a predetermined number of adjacent pixels and is also referred to as a pixel group.

図3(b)は、図2に示す信号機のオブジェクト(O)を構成する画素グループ毎(即ち、図3(a)に示す画素グループ毎)の色の変化のパターンを表したリズム情報「R0001」である。画素グループの色の変化のパターンは、画素グループ毎の平均画素値(画素グループ内の複数の画素の画素値の平均値)の時間的な変化を示す情報である。 FIG. 3B shows rhythm information “a color change pattern for each pixel group (that is, for each pixel group shown in FIG. 3A) constituting the traffic light object (O 1 ) shown in FIG. R0001 ". The pattern of the color change of the pixel group is information indicating a temporal change in the average pixel value (average value of the pixel values of a plurality of pixels in the pixel group) for each pixel group.

図3(b)に示す画素グループID(a−4、a−5、…)は、図2に示す信号機のオブジェクト(O)を構成する画素グループ(即ち、図3(a)に示す画素グループ)を識別する識別情報である。例えば、図3(b)に示す画素グループID「a−4」は、図3(a)に示す符号Gの画素グループ(横方向のインデックス「4」及び縦方向のインデックス「a」によって規定される画素グループ)を示している。 The pixel group ID (a-4, a-5,...) Shown in FIG. 3B is a pixel group (that is, the pixel shown in FIG. 3A) constituting the traffic light object (O 1 ) shown in FIG. Identification information for identifying a group. For example, the pixel group ID “a-4” shown in FIG. 3B is defined by the pixel group (G in the horizontal direction “4” and the index “a” in the vertical direction) shown in FIG. Pixel group).

図3(b)に示す各時刻(t1、t2、…)は、図2に示す信号機の撮像タイミングである。t1〜t3は、図2(a)に示すように信号が青のときの撮像タイミングである。t4は、図2(b)に示すように信号が黄のときの撮像タイミングである。t5〜t7は、図2(c)に示すように信号が赤のときの撮像タイミングである。即ち、t1〜t7は、図2に示す信号機のオブジェクト(O)の色の変化の1周期である。なお、図3(b)に示す時刻は、説明の便宜上の時刻である(実際の信号機の場合、通常、黄の時間に対する青(及び赤)の時間は長い。 Each time (t1, t2,...) Shown in FIG. 3B is an imaging timing of the traffic light shown in FIG. t1 to t3 are imaging timings when the signal is blue as shown in FIG. t4 is an imaging timing when the signal is yellow as shown in FIG. t5 to t7 are imaging timings when the signal is red as shown in FIG. That is, t1 to t7 is one cycle of the color change of the traffic light object (O 1 ) shown in FIG. Note that the time shown in FIG. 3B is a time for convenience of explanation (in the case of an actual traffic light, the blue (and red) time is usually longer than the yellow time.

図3(b)に示す各値(D1〜D7)は、図2に示す信号機の各撮像タイミング(t1、t2、…)における、図2に示す信号機のオブジェクト(O)を構成する各画素グループ(即ち、図3(a)に示す各画素グループ)の平均画素値である。なお、D1は灰色を示す画素値、D2は青緑色を示す画素値、D3は黒色を示す画素値、D4は黒色を示す画素値、D5は黄色を示す画素値、D6は黒色を示す画素値、D7は赤色を表す画素値である。 Each value (D1 to D7) shown in FIG. 3B represents each pixel constituting the traffic light object (O 1 ) shown in FIG. 2 at each imaging timing (t1, t2,...) Of the traffic light shown in FIG. It is an average pixel value of a group (that is, each pixel group shown in FIG. 3A). D1 is a pixel value indicating gray, D2 is a pixel value indicating blue-green, D3 is a pixel value indicating black, D4 is a pixel value indicating black, D5 is a pixel value indicating yellow, and D6 is a pixel value indicating black , D7 are pixel values representing red.

つまり、図3(b)は、上述の如く、図2に示す信号機のオブジェクト(O)を構成する画素グループ毎の色の変化のパターンを表したリズム情報であるが、当該リズム情報は、具体的には、当該オブジェクト(O)の色の変化として、例えば、以下の特徴1〜特徴10を示している。 That is, FIG. 3B is rhythm information representing a color change pattern for each pixel group constituting the traffic light object (O 1 ) shown in FIG. 2, as described above. Specifically, for example, the following features 1 to 10 are shown as the color change of the object (O 1 ).

特徴1:オブジェクト(O)の主要部の領域(図2に示す領域r1)のうち、中央の領域(図2に示す領域r1−2−1)の左側に位置する領域(図2に示す領域r1−1−1)は、色が、青緑色(D2)と黒色(D3)とに周期的に変化する。
特徴2:オブジェクト(O)の主要部の領域のうち、中央の領域は、色が、黒色(D4)と黄色(D5)とに周期的に変化する。
特徴3:オブジェクト(O)の主要部の領域のうち、中央の領域の右側に位置する領域(図2に示す領域r1−3−1)は、色が、黒色(D6)と赤色(D7)とに周期的に変化する。
特徴4:オブジェクト(O)の主要部の領域のうち、中央の領域、中央の領域の左側に位置する領域、中央の領域の右側に位置する領域を除いた領域(図2に示す領域r1から領域r1−1−1、領域r1−2−1及び領域r1−3−1を除いた領域)は、常に、灰色(D1)であって色の変化がない。
特徴5:オブジェクト(O)の主要部以外の領域(図2に示す領域r2)は、常に、灰色(D1)であって色の変化がない。
特徴6:中央の領域の左側に位置する領域(領域r1−1−1)が青緑色(D2)から黒色(D3)に変化した後に、中央の領域(領域r1−2−1)が黒色(D4)から黄色(D5)に変化する。
特徴7:中央の領域(領域r1−2−1)が黄色(D5)から黒色(D4)に変化した後に、中央の領域の右側に位置する領域(領域r1−3−1)が黒色(D6)から赤色(D7)に変化する。
特徴8:中央の領域の右側に位置する領域(領域r1−3−1)が赤色(D7)から黒色(D6)に変化した後に、中央の領域の左側に位置する領域(領域r1−1−1)が黒色(D3)から青緑色(D2)に変化する。
特徴9:青緑色(D2)に変化する中央の領域の左側に位置する領域(領域r1−1−1)と、黄色(D5)に変化する中央の領域(領域r1−2−1)と、赤色(D7)に変化する中央の領域の右側に位置する領域(領域r1−3−1)とは、略同じ大きさである。
特徴10:中央の領域の左側に位置する領域(領域r1−1−1)が青緑色(D2)である時間と、中央の領域の右側に位置する領域(領域r1−3−1)が赤色(D7)である時間は等しく、中央(領域r1−2−1)の領域が黄色(D5)である時間の略3倍である。
Feature 1: Of the main part region (region r1 shown in FIG. 2) of the object (O 1 ), a region (shown in FIG. 2) located on the left side of the central region (region r1-2-1 shown in FIG. 2) In the region r1-1-1), the color periodically changes between blue-green (D2) and black (D3).
Feature 2: The color of the central area of the main area of the object (O 1 ) changes periodically between black (D4) and yellow (D5).
Feature 3: Of the main part region of the object (O 1 ), the region located on the right side of the central region (region r1-3-1 shown in FIG. 2) is black (D6) and red (D7). ) And change periodically.
Feature 4: Of the main area of the object (O 1 ), the central area, the area located on the left side of the central area, and the area excluding the area located on the right side of the central area (area r1 shown in FIG. 2) (Region excluding region r1-1-1, region r1-2-1 and region r1-3-1) is always gray (D1) and has no color change.
Feature 5: An area other than the main part of the object (O 1 ) (area r2 shown in FIG. 2) is always gray (D1) and has no color change.
Feature 6: After the region located on the left side of the central region (region r1-1-1) changes from blue-green (D2) to black (D3), the central region (region r1-2-1) is black ( The color changes from D4) to yellow (D5).
Feature 7: After the central region (region r1-2-1) has changed from yellow (D5) to black (D4), the region (region r1-3-1) located on the right side of the central region is black (D6 ) To red (D7).
Feature 8: After the area located on the right side of the central area (area r1-3-1) changes from red (D7) to black (D6), the area located on the left side of the central area (area r1-1-) 1) changes from black (D3) to blue-green (D2).
Feature 9: a region (region r1-1-1) located on the left side of the central region that changes to blue-green (D2), a central region (region r1-2-1) that changes to yellow (D5), The region (region r1-3-1) located on the right side of the central region that changes to red (D7) has substantially the same size.
Feature 10: The time when the region (region r1-1-1) located on the left side of the central region is blue-green (D2), and the region located on the right side of the central region (region r1-3-1) is red The time for (D7) is equal and is approximately three times the time for the center (region r1-2-1) region to be yellow (D5).

第1記憶部22は、図4に示すように、リズム情報に対応付けて、各オブジェクトを構成する画素グループの色の変化のパターンを記憶する。例えば、第1記憶部22は、図2に示す信号機のオブジェクト(O)のリズム情報「R0001」に対応付けて、図3(b)に示す、当該オブジェクト(O)を構成する画素グループ毎の色の変化のパターン(画素グループ毎の平均画素値の時間的な変化を示す情報)を記憶する。 As illustrated in FIG. 4, the first storage unit 22 stores a color change pattern of a pixel group constituting each object in association with rhythm information. For example, the first storage unit 22 associates the rhythm information “R0001” of the traffic light object (O 1 ) shown in FIG. 2 with the pixel group constituting the object (O 1 ) shown in FIG. A color change pattern (information indicating temporal change in average pixel value for each pixel group) is stored.

第1記憶部22が記憶する情報(オブジェクトを構成する画素グループ毎の色の変化のパターン)は、電子機器1が作成したものであってもよいし、電子機器1が外部から取得したものであってもよいし、電子機器1のユーザが入力したものであってもよい。なお、電子機器1が作成する態様としては、算出部24が、予め、サンプルとする動画像(撮像部10によって撮像された動画像でもよい)に基づいて、オブジェクトを構成する画素グループの色の変化のパターンを算出し、第1記憶部22に記憶する。   The information stored in the first storage unit 22 (color change pattern for each pixel group constituting the object) may be created by the electronic device 1 or acquired by the electronic device 1 from the outside. It may be the one input by the user of the electronic device 1. In addition, as an aspect created by the electronic device 1, the calculation unit 24 preliminarily selects the color of the pixel group that constitutes the object based on a moving image as a sample (which may be a moving image captured by the imaging unit 10). A change pattern is calculated and stored in the first storage unit 22.

第1記憶部22に、図4に示すように、リズム情報に対応付けて、各オブジェクトを構成する画素グループの色の変化のパターンを記憶されている状態において、算出部24は、撮像部10によって逐次撮像された動画像(各コマ)からオブジェクト(例えば、中央領域に撮像されているオブジェクト)を抽出する。   As shown in FIG. 4, in the state where the first memory unit 22 stores the color change patterns of the pixel groups constituting each object in association with the rhythm information, the calculation unit 24 includes the imaging unit 10. Then, an object (for example, an object imaged in the central area) is extracted from the moving images (each frame) sequentially imaged by.

各撮像タイミングにおいてオブジェクトを抽出した算出部24は、各撮像タイミングにおいて、オブジェクトを構成する画素グループ毎の平均画素値を算出する。即ち、算出部24は、オブジェクトを構成する画素グループの色の変化のパターンを算出する。オブジェクトを構成する画素グループの色の変化のパターンを算出した算出部24は、算出した色の変化のパターンを選択部26に供給する。   The calculation unit 24 that has extracted an object at each imaging timing calculates an average pixel value for each pixel group constituting the object at each imaging timing. That is, the calculation unit 24 calculates a color change pattern of a pixel group constituting the object. The calculation unit 24 that has calculated the color change pattern of the pixel group that constitutes the object supplies the calculated color change pattern to the selection unit 26.

算出部24から変化のパターンを取得した選択部26は、当該変化のパターンに対応するリズム情報を第1記憶部22から選択する。より詳細には、選択部26は、算出部24から取得した変化のパターンの1周期分と、第1記憶部22に記憶されているリズム情報毎の変化のパターンの1周期分とを比較し、算出部24から取得した変化のパターンと一致若しくは最も類似する一の変化のパターンを選択し、選択した変化のパターンに対応するリズム情報を取得する。選択部26は、取得したリズム情報を第2記憶部40に記憶する。なお、第2記憶部40に記憶されたリズム情報は、オブジェクト同士の比較などに用いられる。   The selection unit 26 that has acquired the change pattern from the calculation unit 24 selects the rhythm information corresponding to the change pattern from the first storage unit 22. More specifically, the selection unit 26 compares one cycle of the change pattern acquired from the calculation unit 24 with one cycle of the change pattern for each rhythm information stored in the first storage unit 22. Then, one change pattern that matches or most similar to the change pattern acquired from the calculation unit 24 is selected, and rhythm information corresponding to the selected change pattern is acquired. The selection unit 26 stores the acquired rhythm information in the second storage unit 40. The rhythm information stored in the second storage unit 40 is used for comparison between objects.

以下、フローチャートを用いて、電子機器1の動作を説明する。図5は、電子機器1の動作の一例を示すフローチャートである。なお、本フローチャートの開示時において、第1記憶部22には、リズム情報に対応付けて各オブジェクトを構成する画素グループの色の変化のパターンが記憶されているものとする。   Hereinafter, the operation of the electronic apparatus 1 will be described using a flowchart. FIG. 5 is a flowchart illustrating an example of the operation of the electronic device 1. Note that at the time of disclosure of this flowchart, it is assumed that the first storage unit 22 stores a pattern of color change of the pixel group constituting each object in association with the rhythm information.

算出部24は、動画像からオブジェクトを抽出する(ステップS10)。算出部24は、抽出したオブジェクトを構成する画素グループ毎の平均画素値を算出し(ステップS12)、撮像タイミング(時刻)に対応付けて一時記憶する。   The calculation unit 24 extracts an object from the moving image (step S10). The calculation unit 24 calculates an average pixel value for each pixel group constituting the extracted object (step S12), and temporarily stores it in association with the imaging timing (time).

算出部24は、色の変化の1周期分のオブジェクトを抽出したか否かを判断する(ステップS14)。換言すれば、算出部24は、当該オブジェクトを構成する画素グループの色の変化のパターンに周期性を見つけたか否かを判断する。算出部24は、色の変化の1周期分のオブジェクトを未だ抽出していないと判断した場合(ステップS14:No)、ステップS10に戻る。即ち、算出部24は、色の変化に周期性を見つける迄、ステップS10、S12を繰り返す。   The calculation unit 24 determines whether or not an object for one period of color change has been extracted (step S14). In other words, the calculation unit 24 determines whether or not periodicity is found in the color change pattern of the pixel group constituting the object. If the calculation unit 24 determines that an object for one period of color change has not yet been extracted (step S14: No), the calculation unit 24 returns to step S10. That is, the calculation unit 24 repeats steps S10 and S12 until it finds periodicity in the color change.

一方、算出部24は、色の変化の1周期分のオブジェクトを抽出したと判断した場合(ステップS14:Yes)、一時記憶した、各撮像タイミングにおける、オブジェクトを構成する画素グループ毎の平均画素値(オブジェクトを構成する画素グループの色の変化のパターン)を選択部26に供給する。   On the other hand, when it is determined that the object for one period of the color change is extracted (step S14: Yes), the calculation unit 24 temporarily stores the average pixel value for each pixel group constituting the object at each imaging timing. (A pattern of color change of the pixel group constituting the object) is supplied to the selection unit 26.

算出部24から変化のパターンを取得した選択部26は、当該変化のパターンに対応するリズム情報を第1記憶部22から選択し(ステップS16)、選択したリズム情報を第2記憶部40に記憶する。そして本フローチャートは終了する。   The selection unit 26 that has acquired the change pattern from the calculation unit 24 selects the rhythm information corresponding to the change pattern from the first storage unit 22 (step S16), and stores the selected rhythm information in the second storage unit 40. To do. And this flowchart is complete | finished.

なお、図5に示すフローチャートは、逐次撮像される動画像から、色の変化の1周期分のオブジェクトを抽出(記憶)した場合に、抽出したオブジェクトを用いて、オブジェクトを構成する画素グループの色の変化のパターンを算出するという態様、即ち、撮像中に、リズム情報を抽出するという態様における動作を示すものである。但し、リズム情報を抽出する態様は、撮像中に限定されない。例えば、抽出部20が、逐次撮像される動画像の全体を第1記憶部22に記憶した後に、算出部24及び選択部26が、動画像の全体の中の1周期分のオブジェクト図形に基づいて、リズム情報を抽出するようにしてもよい。   Note that the flowchart shown in FIG. 5 shows the color of the pixel group that constitutes an object using the extracted object when an object for one period of color change is extracted (stored) from the sequentially captured moving images. This shows an operation in the aspect of calculating the change pattern of, that is, the aspect of extracting rhythm information during imaging. However, the mode of extracting rhythm information is not limited to during imaging. For example, after the extraction unit 20 stores the entire moving image that is sequentially captured in the first storage unit 22, the calculation unit 24 and the selection unit 26 are based on the object graphic for one cycle in the entire moving image. Thus, rhythm information may be extracted.

以上、図1乃至図5を用いて説明したように、電子機器1によれば、オブジェクト自体を示す数値であるリズム情報を当該オブジェクトから簡便に取得することができる。また、数値によって表されるリズム情報を用いてオブジェクト同士を簡便に比較することができる。更に、オブジェクト同士の比較結果を種々の応用処理(例えば、オブジェクトの類似度に基づくオブジェクトのクループ化、各撮像機器によるオブジェクトの類似度に基づく撮像機器のクループ化、基準とするオブジェクトに類似するオブジェクトの抽出)に活用することができる。   As described above with reference to FIGS. 1 to 5, according to the electronic device 1, rhythm information that is a numerical value indicating the object itself can be easily acquired from the object. Further, objects can be easily compared using rhythm information represented by numerical values. Furthermore, the comparison results between objects can be applied to various application processes (for example, object grouping based on object similarity, imaging device grouping based on object similarity by each imaging device, object similar to a reference object) Extraction).

なお、上記実施形態は、画素グループの色の変化のパターンとして、画素グループ毎の平均画素値(画素グループ内の複数の画素の画素値の平均値)の時間的な変化を示す情報を用いる例であったが、画素グループの色の変化のパターンとして用いる値はこれに限定されない。例えば、画素グループ毎の最大画素値(画素グループ内の複数の画素の画素値の最大値)の時間的な変化を示す情報、画素グループ毎の最小画素値(画素グループ内の複数の画素の画素値の最小値)の時間的な変化を示す情報、画素グループ毎の画素値の中央値(画素グループ内の複数の画素の画素値の中央値)の時間的な変化を示す情報などを画素グループの色の変化のパターンとして用いてもよい。   In the above embodiment, an example of using information indicating temporal changes in the average pixel value (average value of pixel values of a plurality of pixels in a pixel group) for each pixel group is used as the color change pattern of the pixel group. However, the value used as the color change pattern of the pixel group is not limited to this. For example, information indicating temporal change of the maximum pixel value for each pixel group (maximum value of pixel values of a plurality of pixels in the pixel group), the minimum pixel value for each pixel group (pixels of the plurality of pixels in the pixel group) Information indicating the temporal change in the minimum value), information indicating the temporal change in the median pixel value for each pixel group (the median value of the pixel values of a plurality of pixels in the pixel group), etc. It may be used as a color change pattern.

また、上記実施形態は、所定数の隣接画素を画素グループとし、また、画素グループ毎の平均画素値(最大画素値、最小画素値又は画素値の中央値)の時間的な変化を示す情報を画素グループの色の変化のパターンとし、画素グループの色の変化に対応するリズム情報を抽出する態様であるが、画素グループの色の変化に対応するリズム情報を抽出する態様はこれに限定されない。   In the above-described embodiment, a predetermined number of adjacent pixels are used as pixel groups, and information indicating temporal changes in the average pixel value (maximum pixel value, minimum pixel value, or median value of pixel values) for each pixel group is provided. In this aspect, the rhythm information corresponding to the color change of the pixel group is extracted as the pattern of the color change of the pixel group, but the aspect of extracting the rhythm information corresponding to the color change of the pixel group is not limited to this.

一例として、画素値の差が所定値以下である隣接画素を画素グループとし、また、画素グループ毎の平均画素値(最大画素値、最小画素値又は画素値の中央値)の時間的な変化を示す情報を画素グループの色の変化のパターンとし、画素グループの色の変化に対応するリズム情報を抽出してもよい。図6は、抽出部20の他の処理を説明するための説明図である。   As an example, an adjacent pixel whose pixel value difference is a predetermined value or less is set as a pixel group, and an average pixel value (maximum pixel value, minimum pixel value, or median value of pixel values) for each pixel group is changed with time. The indicated information may be a pattern of color change of the pixel group, and rhythm information corresponding to the color change of the pixel group may be extracted. FIG. 6 is an explanatory diagram for explaining another process of the extraction unit 20.

図6(a)は、図2に示した信号機のオブジェクト(O)を構成する画素において、画素値の差が所定数以下である隣接画像を画素グループとして模式的に表したものである。図6(a)において、Ga1〜Ga4は、各撮像タイミング(t1〜t7)の何れにおいても画素値の差が所定数以下である隣接画像を画素グループである(図3(b)参照)。具体的には、Ga1は青ランプの領域r1−1−1、Ga2は黄ランプの領域r1−2−1、Ga3は赤ランプの領域r1−3−1、Ga4はランプ以外の領域を表している(図2参照)。 FIG. 6A schematically shows adjacent images having a pixel value difference equal to or less than a predetermined number in a pixel constituting the traffic light object (O 1 ) shown in FIG. 2 as a pixel group. In FIG. 6A, Ga1 to Ga4 are pixel groups that are adjacent images in which the difference in pixel values is equal to or less than a predetermined number at any of the imaging timings (t1 to t7) (see FIG. 3B). Specifically, Ga1 represents a blue lamp region r1-1-1, Ga2 represents a yellow lamp region r1-2-1, Ga3 represents a red lamp region r1-3-1, and Ga4 represents a region other than the lamp. (See FIG. 2).

図6(b)は、図2に示した信号機のオブジェクト(O)を構成する画素グループ毎(図6(a)に示した画素グループ毎)の色の時間的な変化のパターンを表したリズム情報「R0001’」である。なお、各値(D1〜D7)は、画素グループ内の複数の画素の画素値の平均値であって、図3(b)と同様である。但し、上述した様に、平均値に代えて、最大画素値(画素グループ内の複数の画素の画素値の最大値)、最小画素値(画素グループ内の複数の画素の画素値の最小値)、中央値(画素グループ内の複数の画素の画素値の中央値)を用いてもよい。 FIG. 6B shows a temporal change pattern of color for each pixel group (for each pixel group shown in FIG. 6A) constituting the traffic light object (O 1 ) shown in FIG. Rhythm information “R0001 ′”. Each value (D1 to D7) is an average value of the pixel values of a plurality of pixels in the pixel group, and is the same as that in FIG. However, as described above, instead of the average value, the maximum pixel value (the maximum value of the pixel values of the plurality of pixels in the pixel group), the minimum pixel value (the minimum value of the pixel values of the plurality of pixels in the pixel group) The median value (the median value of the pixel values of a plurality of pixels in the pixel group) may be used.

つまり、抽出部20は、図6に示すように、画素値の差が所定値以下である隣接画素を画素グループとし、また、画素グループ毎の平均画素値(最大画素値、最小画素値又は画素値の中央値)の時間的な変化を示す情報を画素グループの色の変化のパターンとし、画素グループの色の変化に対応するリズム情報を抽出してもよく、抽出部20が図6に示すようにリズム情報を抽出した場合であっても、図3の示すようにリズム情報を抽出した場合と同様の効果を得ることができる。   That is, as illustrated in FIG. 6, the extraction unit 20 sets adjacent pixels whose pixel value difference is equal to or smaller than a predetermined value as a pixel group, and average pixel values (maximum pixel value, minimum pixel value, or pixel) for each pixel group. The information indicating the temporal change in the median value) may be used as the pattern of the color change of the pixel group, and rhythm information corresponding to the color change of the pixel group may be extracted. Even when rhythm information is extracted in this way, the same effect as when rhythm information is extracted as shown in FIG. 3 can be obtained.

他の一例として、画素値の差が所定値以下である隣接画素を画素グループとし、また、
画素グループの分布の時間的な変化を示す情報を画素グループの色の変化のパターンとし、画素グループの色の変化に対応するリズム情報を抽出してもよい。図7は、抽出部20の他の処理を説明するための説明図である。
As another example, an adjacent pixel whose pixel value difference is equal to or less than a predetermined value is a pixel group, and
Information indicating a temporal change in the distribution of the pixel group may be used as a pattern of the color change of the pixel group, and rhythm information corresponding to the color change of the pixel group may be extracted. FIG. 7 is an explanatory diagram for explaining another process of the extraction unit 20.

図7(a)は、図2に示した信号機のオブジェクト(O)を構成する画素において、画素値の差が所定数以下である隣接画像を画素グループとして模式的に表したものである。図7(a)において、Gb1及びGb4は、信号が青のときの撮像タイミング(t1〜t3)において画素値の差が所定数以下である隣接画像を画素グループである(図3(b)参照)。具体的には、Gb1は青色の領域、Gb4は黒色及び灰色の領域を表している(図2参照)。即ち、消灯中の黄ランプ及び赤ランプの領域の画素値(黒色を示す値)とランプ以外の領域の画素値(灰色を示す値)の差は、所定値以下であるものとする。
図7(b)において、Gb2及びGb4は、信号が黄のときの撮像タイミング(t4)において画素値の差が所定数以下である隣接画像を画素グループである(図3(b)参照)。具体的には、Gb2は黄色の領域、Gb4は黒色及び灰色の領域を表している(図2参照)。即ち、消灯中の青ランプ及び赤ランプの領域の画素値(黒色を示す値)とランプ以外の領域の画素値(灰色を示す値)の差は、所定値以下であるものとする。
図7(c)において、Gb3及びGb4は、信号が赤のときの撮像タイミング(t5〜t7)において画素値の差が所定数以下である隣接画像を画素グループである(図3(b)参照)。具体的には、Gb3は赤色の領域、Gb4は黒色及び灰色の領域を表している(図2参照)。即ち、消灯中の青ランプ及び黄ランプの領域の画素値(黒色を示す値)とランプ以外の領域の画素値(灰色を示す値)の差は、所定値以下であるものとする。
FIG. 7A schematically shows adjacent images having a pixel value difference equal to or less than a predetermined number as a pixel group in the pixels constituting the traffic light object (O 1 ) shown in FIG. In FIG. 7A, Gb1 and Gb4 are pixel groups of adjacent images whose pixel value difference is equal to or less than a predetermined number at the imaging timing (t1 to t3) when the signal is blue (see FIG. 3B). ). Specifically, Gb1 represents a blue region, and Gb4 represents a black and gray region (see FIG. 2). That is, it is assumed that the difference between the pixel values (values indicating black) in the areas of the yellow lamp and the red lamp being turned off (values indicating black) and the pixel values (values indicating gray) in the areas other than the lamps is equal to or less than a predetermined value.
In FIG. 7B, Gb2 and Gb4 are pixel groups of adjacent images whose pixel value difference is equal to or less than a predetermined number at the imaging timing (t4) when the signal is yellow (see FIG. 3B). Specifically, Gb2 represents a yellow region, and Gb4 represents a black and gray region (see FIG. 2). That is, it is assumed that the difference between the pixel values (values indicating black) in the areas of the blue lamp and the red lamp being turned off and the pixel values (values indicating gray) in the areas other than the lamps is equal to or less than a predetermined value.
In FIG. 7C, Gb3 and Gb4 are pixel groups of adjacent images whose pixel value difference is equal to or less than a predetermined number at the imaging timing (t5 to t7) when the signal is red (see FIG. 3B). ). Specifically, Gb3 represents a red region, and Gb4 represents a black and gray region (see FIG. 2). That is, the difference between the pixel values (values indicating black) in the areas of the blue lamp and the yellow lamp being turned off and the pixel values (values indicating gray) in the areas other than the lamps is not more than a predetermined value.

図7(d)は、図2に示した信号機のオブジェクト(O)を構成する画素グループ毎(図7(a)〜(c)に示した画素グループ毎)の分布の時間的な変化のパターンを表したリズム情報「R0001’’」である。
図7(d)の表内の各値(S1〜S7)は、各撮像タイミングにおける各画素グループの分布(領域の形状)である。具体的には、S1は青ランプの領域r1−1−1、S2は黄ランプの領域r1−2−1、S3は赤ランプの領域r1−3−1、S4は青ランプ以外の領域、S5は黄ランプ以外の領域、S6は赤ランプ以外の領域の分布を表している。
FIG. 7D shows the temporal change in distribution of each pixel group (each pixel group shown in FIGS. 7A to 7C) constituting the traffic light object (O 1 ) shown in FIG. Rhythm information “R0001 ″” representing a pattern.
Each value (S1 to S7) in the table of FIG. 7D is the distribution (region shape) of each pixel group at each imaging timing. Specifically, S1 is a blue lamp area r1-1-1, S2 is a yellow lamp area r1-2-1, S3 is a red lamp area r1-3-1, S4 is a non-blue lamp area, S5. Represents a region other than the yellow lamp, and S6 represents a distribution of regions other than the red lamp.

つまり、抽出部20は、図7に示すように、画素値の差が所定値以下である隣接画素を画素グループとし、また、画素グループの分布の時間的な変化を示す情報を画素グループの色の変化のパターンとし、画素グループの色の変化に対応するリズム情報を抽出してもよく、図7に示すようにリズム情報を抽出した場合であっても、図3の示すようにリズム情報を抽出した場合と同様の効果を得ることができる。   That is, as illustrated in FIG. 7, the extraction unit 20 sets adjacent pixels whose pixel value difference is equal to or less than a predetermined value as a pixel group, and displays information indicating temporal changes in the distribution of the pixel group as the color of the pixel group. The rhythm information corresponding to the color change of the pixel group may be extracted, and even when the rhythm information is extracted as shown in FIG. 7, the rhythm information as shown in FIG. The same effect as when extracted can be obtained.

以上、電子機器1によれば、オブジェクト自体を示す数値であるリズム情報を当該オブジェクトから簡便に取得することができる。なお、図3に示す態様は、画素グループにおける色の変化のパターンをリズム情報とする態様であるが、色の変化のパターンは、色相、彩度、明度、色度、コントラスト(比)の何れか1つ、又は2以上を含む変化のパターンを表現するものであればよい(図6に示す態様も同様)。例えば、図3、図6に示す態様において、画素グループ毎のコントラストの変化(即ち、画素グループ毎の明暗、輝度の経時的な変化)のパターンをリズム情報としてもよい。また、例えば、図3、図6に示す態様において、画素グループ間のコントラストの変化(即ち、画素グループ間の明暗、輝度の差の経時的な変化)のパターンをリズム情報としてもよい(図6に示す態様も同様)。また、図6に示す態様は、画素値の差が所定数以下である隣接画像を画素グループとする態様であるが、画素値とは、色相、彩度、明度、色度、コントラスト(比)の何れか1つ以上を表現するものであればよい(図7に示す態様も同様)。例えば、図6、図7に示す態様において、コントラスト(明暗、輝度)の差が所定数以下である隣接画像を画素グループとしてもよい。   As described above, according to the electronic device 1, rhythm information that is a numerical value indicating the object itself can be easily acquired from the object. The mode shown in FIG. 3 is a mode in which a color change pattern in a pixel group is used as rhythm information, but the color change pattern can be any of hue, saturation, lightness, chromaticity, and contrast (ratio). Any one may be used as long as it expresses a change pattern including one or two or more (the same applies to the embodiment shown in FIG. 6). For example, in the modes shown in FIGS. 3 and 6, a pattern of contrast change for each pixel group (that is, light and dark for each pixel group, change in luminance with time) may be used as rhythm information. Further, for example, in the modes shown in FIGS. 3 and 6, a pattern of a change in contrast between pixel groups (that is, a change over time in light / darkness and luminance difference between pixel groups) may be used as the rhythm information (FIG. 6). The embodiment shown in FIG. Further, the mode shown in FIG. 6 is a mode in which adjacent images having a pixel value difference equal to or less than a predetermined number are grouped into pixels, and the pixel value is a hue, saturation, brightness, chromaticity, and contrast (ratio). Any one of them may be used (the same applies to the embodiment shown in FIG. 7). For example, in the modes shown in FIGS. 6 and 7, adjacent images in which the difference in contrast (brightness and brightness, luminance) is a predetermined number or less may be used as a pixel group.

また、図7に示す態様は、画素グループの分布を時間的な変化をリズム情報とする態様であるが、当該リズム情報は、オブジェクトを構成する各部分(各画素グループ)の形状の変化を表現したものでもある。例えば、当該リズム情報は、図7に示すように、画素グループGb4の形状の周期的な変化を表現している。
また、図7に示す態様は、オブジェクトを構成する各部分(各画素グループ)の配置の変化を表現したものでもある。例えば、仮に、画素グループGb1と画素グループGb3とが同じ画素グループ(共にGb1とする)である場合(例えば、Gb3が赤ではなく青の場合)、当該リズム情報は、画素グループGb1の配置の周期的な変化を表現することになる。
In addition, the mode shown in FIG. 7 is a mode in which the distribution of pixel groups uses rhythm information as temporal changes, but the rhythm information expresses changes in the shape of each part (each pixel group) constituting the object. It is also a thing. For example, the rhythm information represents a periodic change in the shape of the pixel group Gb4 as shown in FIG.
Further, the mode shown in FIG. 7 also represents a change in the arrangement of each part (each pixel group) constituting the object. For example, if the pixel group Gb1 and the pixel group Gb3 are the same pixel group (both are Gb1) (for example, if Gb3 is blue instead of red), the rhythm information is the period of the arrangement of the pixel group Gb1. It expresses typical change.

また、上記実施形態では、図1に示すように、撮像部10によって撮像された動画像から、直接、リズム情報を抽出する態様であるが、外光の状況により、基準となる光(所定の色温度の光、例えば、自然光)が当ったような状態になるようにフィルタリング(色を補正)し、フィルタリングした後の動画像からリズム情報を抽出するようにしてもよい。
具体的には、電子機器1は、撮像部10によって撮像された動画像の色を補正する補正部11(非図示)を更に備えるようにしてもよい。即ち、補正部11は、予め定めた基準となる光の下において撮像した場合の色に、撮像部10によって撮像された動画像の色を補正し、抽出部20に出力し、抽出部20は、補正部11によって補正された動画像からリズム情報を抽出するようにしてもよい。これにより、動画像を撮像したときの外光の状況によらずに安定したリズム情報を抽出することができるようになる。
In the above embodiment, as shown in FIG. 1, the rhythm information is directly extracted from the moving image captured by the imaging unit 10, but the reference light (predetermined depending on the external light condition) Filtering (color correction) may be performed so that light of color temperature, for example, natural light, hits, and rhythm information may be extracted from the filtered moving image.
Specifically, the electronic device 1 may further include a correction unit 11 (not shown) that corrects the color of the moving image captured by the imaging unit 10. That is, the correction unit 11 corrects the color of the moving image captured by the imaging unit 10 to the color when imaged under a predetermined reference light, and outputs the color to the extraction unit 20. The rhythm information may be extracted from the moving image corrected by the correction unit 11. As a result, stable rhythm information can be extracted regardless of the situation of external light when a moving image is captured.

なお、本発明の一実施形態による電子機器1の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、電子機器1の各処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。   Note that a program for executing each process of the electronic apparatus 1 according to an embodiment of the present invention is recorded on a computer-readable recording medium, and the program recorded on the recording medium is read into a computer system and executed. Thus, each process of the electronic device 1 may be performed. Here, the “computer system” may include an OS and hardware such as peripheral devices. Further, the “computer system” includes a homepage providing environment (or display environment) if a WWW system is used. The “computer-readable recording medium” means a flexible disk, a magneto-optical disk, a ROM, a writable nonvolatile memory such as a flash memory, a portable medium such as a CD-ROM, a hard disk built in a computer system, etc. This is a storage device.

さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。   Further, the “computer-readable recording medium” means a volatile memory (for example, DRAM (Dynamic DRAM) in a computer system that becomes a server or a client when a program is transmitted through a network such as the Internet or a communication line such as a telephone line. Random Access Memory)), etc., which hold programs for a certain period of time. The program may be transmitted from a computer system storing the program in a storage device or the like to another computer system via a transmission medium or by a transmission wave in the transmission medium. Here, the “transmission medium” for transmitting the program refers to a medium having a function of transmitting information, such as a network (communication network) such as the Internet or a communication line (communication line) such as a telephone line. The program may be for realizing a part of the functions described above. Furthermore, what can implement | achieve the function mentioned above in combination with the program already recorded on the computer system, and what is called a difference file (difference program) may be sufficient.

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。   The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes designs and the like that do not depart from the gist of the present invention.

1…電子機器、10…撮像部、11…補正部 20…抽出部、22…第1記憶部、24…算出部、26…選択部、40…第2記憶部 DESCRIPTION OF SYMBOLS 1 ... Electronic device, 10 ... Imaging part, 11 ... Correction | amendment part 20 ... Extraction part, 22 ... 1st memory | storage part, 24 ... Calculation part, 26 ... Selection part, 40 ... 2nd memory | storage part

Claims (8)

撮像部と、
前記撮像部によって撮像された動画像内のオブジェクトの色の変化のパターンを表すリズム情報を抽出する抽出部と
を備えることを特徴とする電子機器。
An imaging unit;
An electronic apparatus comprising: an extraction unit that extracts rhythm information representing a color change pattern of an object in a moving image captured by the imaging unit.
請求項1に記載の電子機器において、
予め定めた基準となる光の下において撮像した場合の色に前記動画像を補正する補正部を更に備え、
前記抽出部は、
前記補正部によって補正された動画像から前記リズム情報を抽出する
ことを特徴とする電子機器。
The electronic device according to claim 1,
A correction unit that corrects the moving image to a color when imaged under a predetermined reference light;
The extraction unit includes:
An electronic apparatus, wherein the rhythm information is extracted from the moving image corrected by the correction unit.
請求項1又は請求項2に記載の電子機器において、
前記抽出部は、
前記オブジェクトを構成する単位領域の色の変化のパターンに対応付けて前記リズム情報を記憶する記憶部と、
前記動画像における前記単位領域の色の変化のパターンを算出する算出部と、
前記算出部によって算出された前記単位領域の色の変化のパターンに対応する前記リズム情報を前記記憶部から選択する選択部と
を有することを特徴とする電子機器。
The electronic device according to claim 1 or 2,
The extraction unit includes:
A storage unit that stores the rhythm information in association with a color change pattern of unit areas constituting the object;
A calculation unit that calculates a pattern of color change of the unit area in the moving image;
An electronic apparatus comprising: a selection unit that selects, from the storage unit, the rhythm information corresponding to the color change pattern of the unit area calculated by the calculation unit.
請求項3に記載の電子機器において、
前記単位領域は、
所定数の隣接画素からなる画素グループであって、
前記単位領域の色の変化のパターンは、
前記画素グループ毎の平均画素値、最大画素値、最小画素値、又は、画素値の中央値の時間的な変化を示す情報であることを特徴とする電子機器。
The electronic device according to claim 3,
The unit area is
A pixel group consisting of a predetermined number of adjacent pixels,
The color change pattern of the unit area is:
An electronic device, which is information indicating a temporal change in an average pixel value, a maximum pixel value, a minimum pixel value, or a median value of pixel values for each pixel group.
請求項3に記載の電子機器において、
前記単位領域は、
画素値の差が所定値以下である隣接画素からなる画素グループであって、
前記単位領域の色の変化のパターンは、
前記画素グループ毎の平均画素値、最大画素値、最小画素値、又は、画素値の中央値の時間的な変化を示す情報であることを特徴とする電子機器。
The electronic device according to claim 3,
The unit area is
A pixel group consisting of adjacent pixels having a pixel value difference equal to or less than a predetermined value,
The color change pattern of the unit area is:
An electronic device, which is information indicating a temporal change in an average pixel value, a maximum pixel value, a minimum pixel value, or a median value of pixel values for each pixel group.
請求項3に記載の電子機器において、
前記単位領域は、
画素値の差が所定値以下である隣接画素からなる画素グループであって、
前記単位領域の色の変化のパターンは、
前記画素グループの分布の時間的な変化を示す情報であることを特徴とする電子機器。
The electronic device according to claim 3,
The unit area is
A pixel group consisting of adjacent pixels having a pixel value difference equal to or less than a predetermined value,
The color change pattern of the unit area is:
An electronic apparatus characterized by being information indicating temporal changes in the distribution of the pixel groups.
請求項1から請求項6の何れか1項に記載の電子機器において、
前記色の変化は、
色相、彩度、明度、色度、コントラスト比の何れか1つ、又は2以上を含む変化であることを特徴とする電子機器。
The electronic device according to any one of claims 1 to 6,
The color change is
An electronic apparatus characterized by being a change including any one of hue, saturation, brightness, chromaticity, and contrast ratio, or two or more.
動画像内のオブジェクトを構成する単位領域の色の変化のパターンに対応付けて動画像内のオブジェクトの色の変化のパターンを表すリズム情報を記憶する記憶部を備える電子機器において、撮像部によって撮像された動画像の前記リズム情報を選択する選択方法であって、
前記電子機器の算出手段が、前記動画像における前記単位領域の色の変化のパターンを算出し、
前記電子機器の選択手段が、前記算出手段によって算出された前記単位領域の色の変化のパターンに対応する前記リズム情報を前記記憶部から選択する
ことを特徴とする選択方法。
In an electronic apparatus including a storage unit that stores rhythm information representing a pattern of color change of an object in a moving image in association with a pattern of color change of a unit area constituting the object in the moving image, the image is captured by the imaging unit A selection method for selecting the rhythm information of the recorded moving image,
The calculation means of the electronic device calculates a color change pattern of the unit area in the moving image,
The selection method of the electronic device, wherein the rhythm information corresponding to the color change pattern of the unit area calculated by the calculation unit is selected from the storage unit.
JP2011083595A 2011-03-25 2011-04-05 Electronic instrument and selection method Pending JP2012221033A (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011083595A JP2012221033A (en) 2011-04-05 2011-04-05 Electronic instrument and selection method
PCT/JP2012/057134 WO2012133028A1 (en) 2011-03-25 2012-03-21 Electronic apparatus, selection method, acquisition method, electronic device, combination method and combination program
US14/029,421 US20140098992A1 (en) 2011-03-25 2013-09-17 Electronic divice, selection method, acquisition method, electronic appratus, synthesis method and synthesis program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011083595A JP2012221033A (en) 2011-04-05 2011-04-05 Electronic instrument and selection method

Publications (1)

Publication Number Publication Date
JP2012221033A true JP2012221033A (en) 2012-11-12

Family

ID=47272526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011083595A Pending JP2012221033A (en) 2011-03-25 2011-04-05 Electronic instrument and selection method

Country Status (1)

Country Link
JP (1) JP2012221033A (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000101437A (en) * 1998-04-17 2000-04-07 Tadahiro Omi Data analysis device and method according to code book system, data recognition device and its method, and recording medium
JP2001134589A (en) * 1999-11-05 2001-05-18 Nippon Hoso Kyokai <Nhk> Moving picture retrieving device
JP2007096379A (en) * 2005-09-27 2007-04-12 Casio Comput Co Ltd Imaging apparatus, image recording and retrieving apparatus and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000101437A (en) * 1998-04-17 2000-04-07 Tadahiro Omi Data analysis device and method according to code book system, data recognition device and its method, and recording medium
JP2001134589A (en) * 1999-11-05 2001-05-18 Nippon Hoso Kyokai <Nhk> Moving picture retrieving device
JP2007096379A (en) * 2005-09-27 2007-04-12 Casio Comput Co Ltd Imaging apparatus, image recording and retrieving apparatus and program

Similar Documents

Publication Publication Date Title
US10063789B2 (en) Enhanced brightness image acquisition devices and methods
CN104869320B (en) Electronic equipment and controlling electronic devices operating method
CN105659583B (en) Image processing apparatus, image processing method, electronic equipment and computer readable storage medium
CN106412458A (en) Image processing method and apparatus
CN107530132A (en) It is used for the method and system of operation tool positioning during operation is dissected
ES2912093T3 (en) Data generation device, data generation method, data generation program and recording medium
CN108717691B (en) Image fusion method and device, electronic equipment and medium
US20150063694A1 (en) Techniques for combining images with varying brightness degrees
US20120113238A1 (en) Drawn image sharing apparatus, drawn image sharing system, and drawn image sharing method
US20220060713A1 (en) Image display method and device, image recognition method and device, storage medium, electronic apparatus, and image system
CN107004390B (en) Display brightness control
CN103455966B (en) Digital watermark embedding apparatus, data waterprint embedded method and digital watermark detecting device
JP2013118526A (en) Imaging apparatus, image processing program, image processing method and image processor
US20160259099A1 (en) Sensing images and light sources
US10621769B2 (en) Simplified lighting compositing
KR20200077049A (en) Markerless type augmented reality presentation apparatus
JP2013128259A (en) Imaging apparatus, image processing apparatus, image processing program, and image processing method
JP2012221033A (en) Electronic instrument and selection method
CN112950509B (en) Image processing method and device and electronic equipment
CN108401119A (en) A kind of image processing method and mobile terminal and related media production
CN115797276A (en) Method, device, electronic device and medium for processing focus image of endoscope
CN112561810B (en) Light-mixing removing method and device for display screen, storage medium and processor
CN113487497A (en) Image processing method and device and electronic equipment
JP2007052466A (en) Image processing method, image processing system, and image processing program
US20190159732A1 (en) Wearable device and associated method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150317

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20151013