JP2016178566A - Imaging controller, imaging control program and imaging control method - Google Patents

Imaging controller, imaging control program and imaging control method Download PDF

Info

Publication number
JP2016178566A
JP2016178566A JP2015058797A JP2015058797A JP2016178566A JP 2016178566 A JP2016178566 A JP 2016178566A JP 2015058797 A JP2015058797 A JP 2015058797A JP 2015058797 A JP2015058797 A JP 2015058797A JP 2016178566 A JP2016178566 A JP 2016178566A
Authority
JP
Japan
Prior art keywords
unit
notification
sound
position information
imaging control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015058797A
Other languages
Japanese (ja)
Inventor
大輔 神代
Daisuke Kamishiro
大輔 神代
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015058797A priority Critical patent/JP2016178566A/en
Publication of JP2016178566A publication Critical patent/JP2016178566A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To more accurately detect a lively atmosphere at an arbitrary position in a wide area.SOLUTION: An imaging controller according to an embodiment comprises: a communication part which performs radio communication; a position information acquisition part which acquires position information; a sound acquisition part which acquires an ambient sound; a sound processing part which performs a threshold determination on sound pressure level of a sound, and transmits notice including information indicating that at least the sound pressure level is equal to or more than a threshold and position information by the communication part based upon a determination result; a storage part which stores notice transmitted by other devices and received by the communication part; a determination part which determines whether there is a lively atmosphere region where a lively atmosphere is generated, based upon position information corresponding to the notice when the number of pieces of notice stored in the storage part in a period from the current time to past time by a predetermined time is a predetermined number; and an imaging control part which controls the imaging part to perform imaging when the determination part determines that a lively atmosphere region is present.SELECTED DRAWING: Figure 4

Description

本発明は、撮像制御装置、撮像制御プログラムおよび撮像制御方法に関する。   The present invention relates to an imaging control device, an imaging control program, and an imaging control method.

スタジアムでスポーツ観戦をしているときなど、観客が盛り上がっているシーンを撮影したい場合がある。ユーザは、例えば観客の歓声に応じてスタジアム内の何処で盛り上がっているかを判断し、撮影を行う。特許文献1には、周囲の入力音の音圧レベルが所定以上になった場合に、自動的に撮影を行うようにした技術が開示されている。   There are times when you want to shoot a scene where the audience is excited, such as when watching a sport in a stadium. The user, for example, determines where in the stadium is exciting according to the cheering of the audience, and performs shooting. Japanese Patent Application Laid-Open No. 2004-228561 discloses a technique that automatically performs shooting when the sound pressure level of surrounding input sound exceeds a predetermined level.

しかしながら、特許文献1の技術により、単一の機器を用いて入力音の音圧レベルに基づき盛り上がりを判定する場合、ユーザの近くで単独で発生した音、例えばくしゃみや呼びかけ声などの、個人が発生源となるような音と、多数の観客が一斉に歓声を上げる音とを区別することが困難である。   However, according to the technique of Patent Document 1, when using a single device to determine the excitement based on the sound pressure level of the input sound, an individual such as a sound generated alone near the user, such as a sneeze or a calling voice, It is difficult to distinguish between a sound that is a source of sound and a sound that many audiences cheer at once.

そのため、従来の技術では、盛り上がりとは関係の無いシーンであっても撮影が行われてしまうという問題点があった。また、ユーザの位置から遠い位置で盛り上がりがあり歓声が上がっていても、この歓声による音は、ユーザの位置では低い音圧レベルの音として検出され、盛り上がりとしては判定されないという問題点もあった。   For this reason, the conventional technique has a problem in that shooting is performed even in a scene that has nothing to do with excitement. In addition, even if there is a climax at a position far from the user's position and a cheering sound, the sound of this cheering is detected as a sound with a low sound pressure level at the user's position, and is not determined as a swell. .

本発明は、上記に鑑みてなされたものであって、広いエリアの任意の位置での盛り上がりをより的確に検出可能とすることを目的とする。   The present invention has been made in view of the above, and an object of the present invention is to make it possible to more accurately detect a bulge at an arbitrary position in a wide area.

上述した課題を解決するために、本発明は、無線通信を行う通信部と、位置情報を取得する位置情報取得部と、周囲の音を取得する音取得部と、音の音圧レベルに対して閾値判定を行い、判定結果に基づき、少なくとも音圧レベルが閾値以上であることを示す情報と位置情報とを含む通知を通信部により送信する音処理部と、他の機器から送信され通信部が受信した通知を記憶する記憶部と、現在の時間から予め定められた時間だけ過去の時間までの期間に記憶部に記憶された通知の数が予め定められた数以上である場合に、通知に対応する位置情報に基づき盛り上がりが発生している盛り上がり領域が存在するか否かを判定する判定部と、判定部により盛り上がり領域が存在すると判定された場合に、撮像を行うように撮像部を制御する撮像制御部とを備える。   In order to solve the above-described problem, the present invention relates to a communication unit that performs wireless communication, a position information acquisition unit that acquires position information, a sound acquisition unit that acquires surrounding sounds, and a sound pressure level of sound. A sound processing unit that transmits a notification including at least information indicating that the sound pressure level is equal to or higher than the threshold and position information based on the determination result, and a communication unit that is transmitted from another device. A storage unit that stores the received notification, and a notification when the number of notifications stored in the storage unit in a period from the current time to a past time by a predetermined time is greater than or equal to the predetermined number A determination unit that determines whether or not a climax region where a climax occurs is present based on position information corresponding to, and an imaging unit that performs imaging when the determination unit determines that a bulge region exists Shooting to control And a control unit.

本発明によれば、広いエリアの任意の位置での盛り上がりがより的確に検出可能になるという効果を奏する。   According to the present invention, it is possible to more accurately detect a swell at an arbitrary position in a wide area.

図1は、盛り上がり領域について説明するための図である。FIG. 1 is a diagram for explaining a rising area. 図2は、実施形態に係る撮像制御装置を備えたカメラを用いた場合の例を示す図である。FIG. 2 is a diagram illustrating an example when a camera including the imaging control device according to the embodiment is used. 図3は、実施形態に係る端末装置の一例の構成を示すブロック図である。FIG. 3 is a block diagram illustrating a configuration example of the terminal device according to the embodiment. 図4は、実施形態に係る端末装置の機能を示す一例の機能ブロック図である。FIG. 4 is an exemplary functional block diagram illustrating functions of the terminal device according to the embodiment. 図5は、音圧レベルの時間推移の例を模式的に示す図である。FIG. 5 is a diagram schematically illustrating an example of the temporal transition of the sound pressure level. 図6は、実施形態に係る、音処理部による判定処理を示す一例のフローチャートである。FIG. 6 is a flowchart illustrating an example of determination processing by the sound processing unit according to the embodiment. 図7は、実施形態に係る、送信部に送信される通知の一例の構成を示す図である。FIG. 7 is a diagram illustrating a configuration of an example of a notification transmitted to the transmission unit according to the embodiment. 図8は、実施形態に係る撮像制御処理を示す一例のフローチャートである。FIG. 8 is a flowchart illustrating an example of the imaging control process according to the embodiment. 図9は、実施形態に係る通信処理について説明するための図である。FIG. 9 is a diagram for explaining communication processing according to the embodiment. 図10は、実施形態に係るマッピングの例を示す図である。FIG. 10 is a diagram illustrating an example of mapping according to the embodiment. 図11は、実施形態に係る、クラスタに対する条件判定について説明するための図である。FIG. 11 is a diagram for explaining condition determination for a cluster according to the embodiment.

以下に添付図面を参照して、撮像制御装置、撮像制御プログラムおよび撮像制御方法の実施形態を詳細に説明する。   Hereinafter, embodiments of an imaging control device, an imaging control program, and an imaging control method will be described in detail with reference to the accompanying drawings.

実施形態に係る撮像制御装置は、盛り上がりが発生している領域を高精度に検出し、検出された盛り上がり領域の撮像を可能とする。   The imaging control apparatus according to the embodiment detects a region where a swell is generated with high accuracy, and enables imaging of the detected swell region.

先ず、図1を用いて、盛り上がり領域について説明する。例えば野球場やスタジアムなど、ある程度の広さを持ち、多数の人(観客)が含まれるフィールド10を考える。このフィールド10内で、領域11において多数の人が歓声を上げているものとする。また、フィールド10内の位置12および13において、それぞれ個人により大きな音(図1の例では、くしゃみや呼びかけ)が発生されたものとする。これらの、領域11における歓声、ならびに、位置12および13における音は、何れも大きな音として認識できる。   First, the rising area will be described with reference to FIG. For example, consider a field 10 having a certain size such as a baseball field or a stadium and including a large number of people (audiences). It is assumed that many people are cheering in the field 11 within this field 10. Further, it is assumed that loud sounds (sneezing and calling in the example of FIG. 1) are generated by individuals at positions 12 and 13 in the field 10, respectively. These cheers in the region 11 and the sounds at the positions 12 and 13 can be recognized as loud sounds.

ここで、フィールド10内の盛り上がりが発生している場面を、カメラ2を用いて撮像したいと考えているユーザ1を考える。ユーザ1は、多数の人が歓声を上げている領域11が盛り上がっていると判断し、カメラ2により領域11の方向に向けて撮像を行う。一方、ユーザ1は、くしゃみや呼びかけなど、個人により発生された大きな音は、盛り上がりとして認識せず、撮像も行わないと考えられる。すなわち、ある程度以上の大きな音が、一定の位置的な広がりを持って同時に発生しているという条件を満たした場合に、その領域が盛り上がっていると認識できると考えられる。   Here, a user 1 who wants to take an image of a scene in which the climax in the field 10 is generated using the camera 2 is considered. The user 1 determines that the area 11 where many people are cheering is raised, and performs imaging in the direction of the area 11 by the camera 2. On the other hand, it is considered that the user 1 does not recognize a loud sound generated by an individual such as a sneeze or a call as an excitement and does not perform imaging. In other words, it can be recognized that the area is raised when the condition that loud sounds of a certain degree or more are generated simultaneously with a certain positional spread.

一方、領域11は、ユーザ1の位置から遠いので、ユーザ1は、歓声が聞こえず、盛り上がりを認識できない可能性がある。この場合、ユーザ1は、盛り上がりが発生している場面の撮像チャンスを逃してしまうことになる。   On the other hand, since the area 11 is far from the position of the user 1, the user 1 may not hear cheers and may not be able to recognize the excitement. In this case, the user 1 misses the imaging chance of the scene where the excitement occurs.

図2は、上述した図1の状況において、実施形態に係る撮像制御装置を備えたカメラ(端末装置)を用いた場合の例を示す。図2において、ユーザ1は、実施形態に係る撮像制御装置としての端末装置100を保持している。また、フィールド10内には、同様の端末装置100を保持している他のユーザ(観客)が複数、存在しているものとする。なお、端末装置100を保持する他のユーザは、フィールド10内の所定の範囲(例えば観客席)内のランダムな位置に存在するものとする。   FIG. 2 shows an example of using the camera (terminal device) including the imaging control device according to the embodiment in the situation of FIG. 1 described above. In FIG. 2, a user 1 holds a terminal device 100 as an imaging control device according to the embodiment. In the field 10, it is assumed that there are a plurality of other users (audiences) holding the same terminal device 100. It is assumed that other users holding the terminal device 100 exist at random positions within a predetermined range (for example, spectator seats) in the field 10.

端末装置100は、例えばマイクロホンを備え、収音を行うことができるようになっている。また、端末装置100は、例えば数10mの範囲内で通信が可能な通信手段をさらに備える。端末装置100は、例えば多機能携帯電話(スマートフォン)である。これに限らず、端末装置100は、通信機能およびマイクロホンを備えるディジタルカメラであってもよい。また、端末装置100は、通信機能およびマイクロホンを備えるタブレット端末であってもよい。   The terminal device 100 includes a microphone, for example, and can collect sound. In addition, the terminal device 100 further includes a communication unit that can communicate within a range of several tens of meters, for example. The terminal device 100 is, for example, a multi-function mobile phone (smart phone). However, the terminal device 100 may be a digital camera that includes a communication function and a microphone. The terminal device 100 may be a tablet terminal that includes a communication function and a microphone.

端末装置100は、マイクロホンにより収音された音の音圧レベルが一定以上になった場合に、通信手段により、音圧レベルが一定以上になった旨を示す情報(オン情報と呼ぶ)と、端末装置100の位置情報とを少なくとも含む通知16を送信(ブロードキャスト)する。また、端末装置100は、他の端末装置100から送信された通知16、16、…を受信する。端末装置100は、受信された通知16に基づき盛り上がりの条件を満たしている領域を判定し、判定結果に基づき撮像を制御する。   When the sound pressure level of the sound collected by the microphone exceeds a certain level, the terminal device 100 uses communication means to indicate that the sound pressure level has reached a certain level (referred to as ON information), A notification 16 including at least the position information of the terminal device 100 is transmitted (broadcast). Moreover, the terminal device 100 receives the notifications 16, 16,... Transmitted from the other terminal devices 100. The terminal device 100 determines an area that satisfies the excitement condition based on the received notification 16 and controls imaging based on the determination result.

図2の例では、領域11が、ある程度以上の大きな音が、一定の位置的な広がりを持って同時に発生しているので、盛り上がりの条件を満たす。そのため、端末装置100は、領域11に対する盛り上がりの検出に応じて撮像を行う。一方、位置12や位置13は、ある程度以上大きな音である点は満たしているが、音の発生が点的であり一定の位置的な広がりを持たないので、盛り上がりの条件を満たさず、盛り上がっているとは判定されない。そのため、端末装置100は、位置12や位置13で発生した音に応じた撮像は行わない。   In the example of FIG. 2, the region 11 satisfies a condition of excitement because loud sounds of a certain level or more are generated simultaneously with a certain positional spread. Therefore, the terminal device 100 captures an image according to the detection of the swell with respect to the region 11. On the other hand, the position 12 and the position 13 satisfy the point that the sound is louder than a certain degree, but since the sound generation is pointy and does not have a certain positional spread, It is not determined to be. Therefore, the terminal device 100 does not perform imaging according to the sound generated at the position 12 or the position 13.

(実施形態に係る構成)
図3は、実施形態に係る端末装置100の一例の構成を示す。図3において、端末装置100は、CPU(Central Processing Unit)110と、ROM(Read Only Memory)111と、RAM(Random Access Memory)112と、表示制御部113と、ストレージ115と、データI/F116と、入力デバイス117と、通信I/F118と、GPS(Global Positioning System)部120と、撮像部121と、音声取得部123と、音声処理部124とを備え、これらがバス101により互いに通信可能に接続される。
(Configuration according to the embodiment)
FIG. 3 shows an exemplary configuration of the terminal device 100 according to the embodiment. In FIG. 3, the terminal device 100 includes a CPU (Central Processing Unit) 110, a ROM (Read Only Memory) 111, a RAM (Random Access Memory) 112, a display control unit 113, a storage 115, and a data I / F 116. An input device 117, a communication I / F 118, a GPS (Global Positioning System) unit 120, an imaging unit 121, an audio acquisition unit 123, and an audio processing unit 124, which can communicate with each other via the bus 101. Connected to.

CPU110は、ROM111やストレージ115に予め記憶されたプログラムに従い、RAM112をワークメモリとして用いて、この端末装置100の全体の動作を制御する。ストレージ115は、フラッシュメモリなどの不揮発性の半導体メモリである。ストレージ115をハードディスクドライブを用いて構成してもよい。表示制御部113は、CPU110がプログラムに従い生成した表示制御信号に従い、表示デバイス114により表示可能な表示信号を生成する。表示デバイス114は、例えばLCDおよびLCDを駆動する駆動回路を含み、表示制御部113から供給された表示信号に応じた画面を表示する。   The CPU 110 controls the overall operation of the terminal device 100 using the RAM 112 as a work memory in accordance with a program stored in advance in the ROM 111 or the storage 115. The storage 115 is a non-volatile semiconductor memory such as a flash memory. The storage 115 may be configured using a hard disk drive. The display control unit 113 generates a display signal that can be displayed by the display device 114 in accordance with the display control signal generated by the CPU 110 according to the program. The display device 114 includes, for example, an LCD and a drive circuit that drives the LCD, and displays a screen according to a display signal supplied from the display control unit 113.

入力デバイス117は、ユーザ操作による入力を受け付けるもので、例えば表示デバイス114と一体的に構成されたタッチパネルである。データI/F116は、例えば数10m程度の範囲で無線通信130によるデータ通信が可能なインタフェースであって、例えばBluetooth(登録商標)に準拠した通信を行う。通信I/F118は、LAN(Local Area Network)はインターネットといったネットワークとの間で無線通信を行う。   The input device 117 receives an input by a user operation, and is, for example, a touch panel configured integrally with the display device 114. The data I / F 116 is an interface capable of performing data communication by the wireless communication 130 in a range of about several tens of meters, for example, and performs communication based on, for example, Bluetooth (registered trademark). The communication I / F 118 performs wireless communication with a network such as a LAN (Local Area Network).

GPS部120は、GPSによる信号を受信し、現在の位置を緯度・経度情報として取得する。撮像部121は、CCD(Charge Coupled Device)などのイメージセンサと、イメージセンサに光を照射させる光学系と、イメージセンサの駆動回路と、イメージセンサから出力された信号を画像データに変換する画像処理部とを含む。撮像部121は、CPU110の指示に従い撮像を行い、画像データを出力する。   The GPS unit 120 receives a GPS signal and acquires the current position as latitude / longitude information. The imaging unit 121 includes an image sensor such as a CCD (Charge Coupled Device), an optical system that irradiates light to the image sensor, a drive circuit of the image sensor, and image processing that converts a signal output from the image sensor into image data. Part. The imaging unit 121 performs imaging in accordance with an instruction from the CPU 110 and outputs image data.

音声取得部123は、マイクロホン122から出力されたアナログ方式の音信号が入力され、入力された音信号をディジタル方式の音データに変換して出力する。音声処理部124は、音声取得部123から出力された音データに対して、CPU110の指示に従い処理を施す。   The sound acquisition unit 123 receives an analog sound signal output from the microphone 122, converts the input sound signal into digital sound data, and outputs the digital sound data. The voice processing unit 124 performs processing on the sound data output from the voice acquisition unit 123 according to an instruction from the CPU 110.

図4は、実施形態に係る端末装置100の機能を示す一例の機能ブロック図である。図4において、端末装置100は、受信部1000と、送信部1001と、保存部1002と、撮像制御部1003と、音処理部1004と、位置情報取得部1005と、比較部1006と、位置情報処理部1007と、判定部1008とを含む。これら受信部1000、送信部1001、保存部1002、撮像制御部1003、音処理部1004、位置情報取得部1005、比較部1006、位置情報処理部1007および判定部1008は、CPU110上で動作するプログラム(撮像制御アプリとする)により実現される。これに限らず、これら各部の一部または全部を、独立したハードウェアにより構成してもよい。   FIG. 4 is a functional block diagram illustrating an example of functions of the terminal device 100 according to the embodiment. In FIG. 4, the terminal device 100 includes a receiving unit 1000, a transmitting unit 1001, a storage unit 1002, an imaging control unit 1003, a sound processing unit 1004, a position information acquisition unit 1005, a comparison unit 1006, and position information. A processing unit 1007 and a determination unit 1008 are included. These receiving unit 1000, transmitting unit 1001, storage unit 1002, imaging control unit 1003, sound processing unit 1004, position information acquisition unit 1005, comparison unit 1006, position information processing unit 1007, and determination unit 1008 are programs that run on the CPU 110. This is realized by (imaging control application). However, the present invention is not limited to this, and some or all of these units may be configured by independent hardware.

受信部1000は、他の機器から送信された通知をデータI/F116により受信する。送信部1002は、データI/F116により通知を送信する。保存部1002は、受信部1000により受信された通知をストレージ115やRAM112に保存する。撮像制御部1003は、撮像部121を制御して撮像を行う。音処理部1004は、音声処理部124により処理された音データに対して解析処理などを行う。   The receiving unit 1000 receives a notification transmitted from another device by the data I / F 116. The transmission unit 1002 transmits a notification using the data I / F 116. The saving unit 1002 saves the notification received by the receiving unit 1000 in the storage 115 or the RAM 112. The imaging control unit 1003 controls the imaging unit 121 to perform imaging. The sound processing unit 1004 performs an analysis process on the sound data processed by the sound processing unit 124.

位置情報取得部1005は、GPS部120を制御して位置情報を取得する。比較部1006は、受信部1000に受信された通知と、保存部1002に保存されている通知とを比較する。位置情報処理部1007は、位置情報取得部1005で取得された位置情報に対して、所定の処理を行う。判定部1008は、音処理部1004の処理結果、位置情報処理部1007の処理結果などを用いて、盛り上がり領域が存在するか否かを判定する。   The location information acquisition unit 1005 controls the GPS unit 120 to acquire location information. The comparison unit 1006 compares the notification received by the reception unit 1000 with the notification stored in the storage unit 1002. The position information processing unit 1007 performs predetermined processing on the position information acquired by the position information acquisition unit 1005. The determination unit 1008 determines whether or not a rising area exists using the processing result of the sound processing unit 1004, the processing result of the position information processing unit 1007, and the like.

これら受信部1000、送信部1001、保存部1002、撮像制御部1003、音処理部1004、位置情報取得部1005、比較部1006、位置情報処理部1007および判定部1008は、例えばストレージ115やROM111に記憶され、CPU110上で動作する撮像制御アプリにより実現される。この撮像制御アプリは、インストール可能な形式また実行可能な形式のファイルでCD(Compact Disk)、フレキシブルディスク(FD)、DVD(Digital Versatile Disk)などのコンピュータで読み取り可能な記録媒体に記録されて提供される。   These receiving unit 1000, transmitting unit 1001, storage unit 1002, imaging control unit 1003, sound processing unit 1004, position information acquisition unit 1005, comparison unit 1006, position information processing unit 1007, and determination unit 1008 are stored in, for example, the storage 115 or the ROM 111. It is stored and realized by an imaging control application that runs on the CPU 110. This imaging control application is a file in an installable or executable format that is recorded on a computer-readable recording medium such as a CD (Compact Disk), a flexible disk (FD), or a DVD (Digital Versatile Disk). Is done.

また、実施形態の端末装置100で実行される撮像制御アプリを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、当該ネットワークを介してダウンロードさせることにより提供するように構成してもよい。また、実施形態の端末装置100で実行される撮像制御アプリをインターネットなどのネットワークを経由して提供または配布するように構成してもよい。さらに、実施形態の撮像制御アプリを、ROM111などに予め組み込んで提供するように構成してもよい。   Further, the imaging control application executed by the terminal device 100 of the embodiment may be configured to be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. Further, the imaging control application executed by the terminal device 100 according to the embodiment may be configured to be provided or distributed via a network such as the Internet. Furthermore, the imaging control application of the embodiment may be configured to be provided by being incorporated in advance in the ROM 111 or the like.

実施形態の端末装置100で実行される撮像制御アプリは、上述した各部(受信部1000、送信部1001、保存部1002、撮像制御部1003、音処理部1004、位置情報取得部1005、比較部1006、位置情報処理部1007および判定部1008)を含むモジュール構成となっている。実際のハードウェアとしては、CPU110がストレージ115やROM111などの記憶媒体から当該撮像制御アプリを読み出して実行することにより、上述した各部がRAM112などの主記憶装置上にロードされ、受信部1000、送信部1001、保存部1002、撮像制御部1003、音処理部1004、位置情報取得部1005、比較部1006、位置情報処理部1007および判定部1008が主記憶装置上に生成されるようになっている。   The imaging control application executed in the terminal device 100 according to the embodiment includes the above-described units (reception unit 1000, transmission unit 1001, storage unit 1002, imaging control unit 1003, sound processing unit 1004, position information acquisition unit 1005, comparison unit 1006). The module configuration includes a position information processing unit 1007 and a determination unit 1008). As actual hardware, the CPU 110 reads out and executes the imaging control application from a storage medium such as the storage 115 and the ROM 111, so that each unit described above is loaded on the main storage device such as the RAM 112, and the reception unit 1000 transmits Unit 1001, storage unit 1002, imaging control unit 1003, sound processing unit 1004, position information acquisition unit 1005, comparison unit 1006, position information processing unit 1007, and determination unit 1008 are generated on the main storage device. .

(実施形態に係る処理)
実施形態に係る端末装置100は、上述したように、周囲の音を検出し、検出結果に応じた通知を送信すると共に、他の端末装置100において行われた音検出の結果に基づく通知を受信する。図5および図6を用いて、実施形態に係る端末装置100における音処理について説明する。
(Processing according to the embodiment)
As described above, the terminal device 100 according to the embodiment detects ambient sound, transmits a notification according to the detection result, and receives a notification based on the result of sound detection performed in another terminal device 100. To do. Sound processing in the terminal device 100 according to the embodiment will be described with reference to FIGS. 5 and 6.

図5は、マイクロホン122に収音された音による音圧レベルの時間推移の例を模式的に示す。図5において、縦軸が音圧レベル、横軸が時間tをそれぞれ示す。図5の例では、音圧レベルは、特性線200で示されるように、微小に上下しながらあるレベルから上がり、その後、最初のレベルに下がっている。ここで、図5の範囲2011と範囲2013の音圧レベルは、例えば、観客のざわめきなど、定常的に発生しているノイズ成分であると考えられる。また、範囲2011および範囲2013の間の範囲2012は、定常ノイズに対して音圧レベルが高く、盛り上がりに伴った音圧レベルの可能性がある。 FIG. 5 schematically shows an example of the temporal transition of the sound pressure level due to the sound collected by the microphone 122. In FIG. 5, the vertical axis represents the sound pressure level, and the horizontal axis represents time t. In the example of FIG. 5, the sound pressure level increases from a certain level while slightly moving up and down, and then decreases to the first level, as indicated by the characteristic line 200. Here, the sound pressure level in the range 201 1 and scope 201 3 of FIG. 5, for example, the audience bustle considered to be a noise component which is constantly generated. Moreover, the range 201 2 between the range 201 1 and scope 201 3 has a high sound pressure level for stationary noise, the possibility of the sound pressure level with the excitement.

音処理部1004は、例えばRAM112の所定領域をバッファメモリとして用いて、予め定められた時間tavg(例えば数秒)分の音データをバッファメモリに溜め込み、バッファメモリに溜め込まれた音データに対して解析処理を行う。ここでは、音処理部1004は、バッファメモリに溜め込まれた時間tavg分の音データについて、音圧レベルの平均値avgを算出する。そして、音処理部1004は、算出した平均値avgに対して閾値判定を行う。 The sound processing unit 1004 uses, for example, a predetermined area of the RAM 112 as a buffer memory, stores sound data for a predetermined time t avg (for example, several seconds) in the buffer memory, and stores the sound data stored in the buffer memory. Perform analysis processing. Here, the sound processing unit 1004 calculates the average value avg of the sound pressure levels for the sound data for the time t avg stored in the buffer memory. Then, the sound processing unit 1004 performs threshold determination on the calculated average value avg.

図6は、実施形態に係る、音処理部1004による判定処理を示す一例のフローチャートである。音処理部1004は、先ず、ステップS10で、フラグFLAGの値を0に設定する。次のステップS11で、音処理部1004は、現時点でバッファメモリに溜め込まれている音データに対して、音圧レベルの平均値avgを算出する。次のステップS12で、音処理部1004は、算出した平均値avgが閾値thを超えるか否かを判定する。   FIG. 6 is a flowchart illustrating an example of determination processing by the sound processing unit 1004 according to the embodiment. First, the sound processing unit 1004 sets the value of the flag FLAG to 0 in step S10. In the next step S11, the sound processing unit 1004 calculates an average value avg of the sound pressure levels for the sound data currently stored in the buffer memory. In the next step S12, the sound processing unit 1004 determines whether or not the calculated average value avg exceeds the threshold th.

音処理部1004は、音圧レベルの平均値avgが閾値thを超えると判定した場合、処理をステップS13に移行させる。ステップS13で、音処理部1004は、フラグFLAGの値を確認する。音処理部1004は、フラグFLAGの値が1であると判定した場合、処理をステップS11に戻す。   If the sound processing unit 1004 determines that the average value avg of the sound pressure levels exceeds the threshold th, the process proceeds to step S13. In step S13, the sound processing unit 1004 confirms the value of the flag FLAG. If the sound processing unit 1004 determines that the value of the flag FLAG is 1, the process returns to step S11.

一方、音処理部1004は、ステップS13でフラグFLAGの値が0であると判定した場合、処理をステップS14に移行させる。この場合、例えば図5の時間t0で示される、音圧レベルの平均値avgが閾値th以下の状態から閾値thを超える状態に変化したと判断できる。そのため、ステップS14で、音処理部1004は、音圧レベルの平均値avgが、閾値thを音圧レベルが高くなる方向に超えたことを示すオン情報を含む通知を送信部1001により送信する。すなわち、オン情報は、音圧レベルの平均値avgが上昇した立ち上がりのタイミングを示している。そして、音処理部1004は、ステップS15でフラグFLAGの値を1に更新し、処理をステップS11に戻す。 On the other hand, if the sound processing unit 1004 determines in step S13 that the value of the flag FLAG is 0, the sound processing unit 1004 shifts the processing to step S14. In this case, for example, it can be determined that the average value avg of the sound pressure level indicated at time t 0 in FIG. 5 has changed from a state below the threshold th to a state exceeding the threshold th. Therefore, in step S14, the sound processing unit 1004 transmits a notification including ON information indicating that the average value avg of the sound pressure levels has exceeded the threshold value th in the direction in which the sound pressure level increases. In other words, the ON information indicates the rising timing when the average value avg of the sound pressure level has increased. Then, the sound processing unit 1004 updates the value of the flag FLAG to 1 in step S15, and returns the process to step S11.

音処理部1004は、上述のステップS12で音圧レベルの平均値avgが閾値th以下であると判定した場合、処理をステップS16に移行させる。ステップS16で、音処理部1004は、フラグFLAGの値を確認する。音処理部1004は、フラグFLAGの値が0であると判定した場合、処理をステップS11に戻す。   If the sound processing unit 1004 determines that the average value avg of the sound pressure levels is equal to or less than the threshold th in step S12 described above, the sound processing unit 1004 shifts the processing to step S16. In step S16, the sound processing unit 1004 confirms the value of the flag FLAG. If the sound processing unit 1004 determines that the value of the flag FLAG is 0, the sound processing unit 1004 returns the process to step S11.

一方、音処理部1004は、ステップS16でフラグFLAGの値が1であると判定した場合、処理をステップS17に移行させる。この場合、例えば図5の時間t1で示される、音圧レベルの平均値avgが閾値thを超えた状態から閾値th以下の状態に変化したと判断できる。そのため、ステップS17で、音処理部1004は、音圧レベルの平均値avgが、閾値thを音圧レベルが低くなる方向に超えたことを示すオフ情報を含む通知を送信部1001により送信する。すなわち、オフ情報は、音圧レベルの平均値avgが下降した立ち下がりのタイミングを示している。そして、音処理部1004は、ステップS18でフラグFLAGの値を0に更新し、処理をステップS11に戻す。 On the other hand, if the sound processing unit 1004 determines that the value of the flag FLAG is 1 in step S16, the sound processing unit 1004 shifts the processing to step S17. In this case, for example, it can be determined that the average value avg of the sound pressure level indicated at time t 1 in FIG. 5 has changed from a state exceeding the threshold th to a state equal to or less than the threshold th. Therefore, in step S17, the sound processing unit 1004 transmits a notification including off information indicating that the average value avg of the sound pressure levels has exceeded the threshold value th in a direction in which the sound pressure level is lowered. That is, the off information indicates the falling timing when the average value avg of the sound pressure level is lowered. Then, the sound processing unit 1004 updates the value of the flag FLAG to 0 in step S18, and returns the process to step S11.

なお、閾値thは、予め定められた値を用いることができる。これに限らず、閾値thは、ユーザ操作に応じて設定することも可能である。さらに、閾値thは、例えば音圧レベルを一定時間測定した結果に基づきキャリブレーションして決定してもよい。   Note that a predetermined value can be used as the threshold th. Not limited to this, the threshold th can be set according to a user operation. Further, the threshold th may be determined by calibration based on the result of measuring the sound pressure level for a certain time, for example.

図7は、実施形態に係る、送信部1001に送信される通知の一例の構成を示す。図7において、通知50は、アプリ識別情報500と、起動フラグ501と、オン/オフ情報502と、検出ID503と、端末識別情報504と、位置情報505とを含む。   FIG. 7 illustrates an exemplary configuration of a notification transmitted to the transmission unit 1001 according to the embodiment. In FIG. 7, the notification 50 includes application identification information 500, activation flag 501, on / off information 502, detection ID 503, terminal identification information 504, and position information 505.

アプリ識別情報500は、図4で示した端末装置100の各機能を含むアプリケーションプログラム(以下、撮像制御アプリと呼ぶ)に共通の識別情報である。起動フラグ501は、1ビットの情報であって、この通知50が撮像制御アプリの起動時に送信されたものであるか否かを示す。オン/オフ情報502は、1ビットの情報であって、上述したオン情報およびオフ情報の何れかが適用される。検出ID503は、オン情報が含まれる通知50の送信毎に異なる値であって、例えば乱数を用いて生成される。端末識別情報504は、端末装置100を識別する情報であって、例えば端末装置100のデバイスIDを用いることができる。位置情報505は、位置情報取得部1005により取得された位置情報(緯度および経度)である。   The application identification information 500 is identification information common to an application program (hereinafter referred to as an imaging control application) including each function of the terminal device 100 illustrated in FIG. The activation flag 501 is 1-bit information and indicates whether or not the notification 50 is transmitted when the imaging control application is activated. The on / off information 502 is 1-bit information, and any one of the above-described on information and off information is applied. The detection ID 503 is a different value for each transmission of the notification 50 including the ON information, and is generated using, for example, a random number. The terminal identification information 504 is information for identifying the terminal device 100, and for example, the device ID of the terminal device 100 can be used. The position information 505 is position information (latitude and longitude) acquired by the position information acquisition unit 1005.

この通知50の送信には、例えば米国アップル社により提供されるiBeaconの技術を用いることができる。iBeaconは、Bluetooth(登録商標) Low Energyを用いてブロードキャストを行う。iBeaconでは、送信される電波に、UUID(Universally Unique Identifier)と、メジャー値と、マイナー値とを乗せる。UUIDは、128ビットの値であって、メジャー値およびマイナー値は、それぞれ16ビットの整数値である。実施形態では、例えば、アプリ識別情報500をUUIDに従い決定する。また、起動フラグ501およびオン/オフ情報502と、検出ID503と、端末識別情報504とをメジャー値に含める。また、位置情報505をマイナー値に含める。   The notification 50 can be transmitted using, for example, iBeacon technology provided by Apple Inc., USA. iBeacon broadcasts using Bluetooth (registered trademark) Low Energy. In iBeacon, a UUID (Universally Unique Identifier), a major value, and a minor value are placed on the transmitted radio wave. The UUID is a 128-bit value, and the major value and the minor value are each 16-bit integer values. In the embodiment, for example, the application identification information 500 is determined according to the UUID. In addition, the activation flag 501 and the on / off information 502, the detection ID 503, and the terminal identification information 504 are included in the major value. Further, the position information 505 is included in the minor value.

図8は、実施形態に係る撮像制御処理を示す一例のフローチャートである。ステップS30でユーザ操作などにより実施形態に係る撮像制御アプリが起動されると、次のステップS31で、撮像制御アプリは、位置情報取得部1005により位置情報を取得して、取得した位置情報を通知50に含めて送信部1001により送信する。このとき、送信部1001は、起動フラグ501を、当該通知50が起動時に送信された通知であることを示す値にして、通知50を送信する。   FIG. 8 is a flowchart illustrating an example of the imaging control process according to the embodiment. When the imaging control app according to the embodiment is activated by a user operation or the like in step S30, the imaging control app acquires location information by the location information acquisition unit 1005 and notifies the acquired location information in next step S31. 50 is transmitted by the transmission unit 1001. At this time, the transmission unit 1001 transmits the notification 50 with the activation flag 501 set to a value indicating that the notification 50 is a notification transmitted at the time of activation.

次のステップS32で、撮像制御アプリは、受信部1000により他の端末装置100からの通知50を受信したか否かを判定する。受信していないと判定した場合、処理をステップS32に戻す。一方、撮像制御アプリは、他の端末装置100からの通知50を受信したと判定した場合、処理をステップS33に移行させる。   In the next step S <b> 32, the imaging control application determines whether or not the notification 50 from the other terminal device 100 is received by the receiving unit 1000. If it is determined that it has not been received, the process returns to step S32. On the other hand, when the imaging control application determines that the notification 50 from the other terminal device 100 has been received, the imaging control application shifts the processing to step S33.

ステップS33で、撮像制御アプリは、比較部1006により、受信した通知50に含まれる検出ID503が、既に取得されている検出ID503と異なるか否かを判定する。撮像制御アプリは、比較部1006の比較結果に従い異ならない、すなわち、受信した通知50に含まれる検出ID503と同一の検出ID503を含む通知50を既に受信していると判定した場合、処理をステップS32に戻す。このとき、受信した通知50は、捨てられる。   In step S <b> 33, the imaging control application determines whether or not the detection ID 503 included in the received notification 50 is different from the detection ID 503 already acquired by the comparison unit 1006. When it is determined that the imaging control application does not differ according to the comparison result of the comparison unit 1006, that is, the notification 50 that includes the same detection ID 503 as the detection ID 503 included in the received notification 50 has been received, the process proceeds to step S32. Return to. At this time, the received notification 50 is discarded.

一方、撮像制御アプリは、ステップS33で、比較部1006の比較結果に従い異なると判定した場合、処理をステップS34に移行させる。ステップS34で、撮像制御アプリは、送信部1001により、ステップS32で受信した通知50を、そのまま再送信する。そして、次のステップS35で、撮像制御アプリは、保存部1002により、ステップS32で受信した通知50を、当該通知50を受信した時間を示すタイムスタンプと関連付けて、例えばRAM112に保存する。   On the other hand, if the imaging control application determines in step S33 that they differ according to the comparison result of the comparison unit 1006, the imaging control application shifts the processing to step S34. In step S34, the imaging control application retransmits the notification 50 received in step S32 as it is using the transmission unit 1001. Then, in the next step S35, the imaging control application causes the storage unit 1002 to store the notification 50 received in step S32 in, for example, the RAM 112 in association with the time stamp indicating the time when the notification 50 was received.

図9を用いて、ステップS32〜ステップS35の処理について、より詳細に説明する。一例として、それぞれ端末装置100の機能を有する端末装置a〜fを考える。このとき、端末装置aが、上述した図6のフローチャートに従い、ステップS14でオン情報を含む、図7の通知50に対応する通知300を、検出ID=ID1、位置情報=pos1として送信したものとする。この通知300は、例えば端末装置b、cおよびfに受信される(ステップS32)。 The process of step S32 to step S35 will be described in more detail with reference to FIG. As an example, consider terminal devices a to f each having a function of the terminal device 100. At this time, according to the flowchart of FIG. 6 described above, the terminal device a transmits a notification 300 corresponding to the notification 50 of FIG. 7 including the ON information as detection ID = ID 1 and position information = pos 1 in step S14. Shall. This notification 300 is received by, for example, the terminal devices b, c, and f (step S32).

例えば端末装置cにおいて、受信した通知300の検出ID=ID1と同一の検出IDを含む通知を過去に受信していない、すなわちステップS35で過去に保存されていないと判定した場合、この通知300を、そのまま検出ID=ID1、位置情報=pos1である通知301として再送信する(ステップS34)。また、端末装置cは、通知300を、タイムスタンプと関連付けて保存する(ステップS35)。 For example, when the terminal device c determines that the notification including the detection ID equal to ID 1 of the received notification 300 has not been received in the past, that is, the notification 300 has not been stored in the past in step S35. Are retransmitted as notification 301 with detection ID = ID 1 and position information = pos 1 (step S34). The terminal device c stores the notification 300 in association with the time stamp (step S35).

端末装置cから再送信された通知301は、例えば端末装置eおよびdに受信される(ステップS32)。例えば端末装置eは、上述と同様にして、受信した通知301の検出ID=ID1と同一の検出IDを含む通知を過去に受信していない、すなわちステップS35で過去に保存されていないと判定した場合(ステップS33)、この通知301を、そのまま検出ID=ID1、位置情報=pos1である通知302として再送信する(ステップS34)。 The notification 301 retransmitted from the terminal device c is received by, for example, the terminal devices e and d (step S32). For example, in the same manner as described above, the terminal device e determines that the notification including the detection ID equal to the detection ID = ID 1 of the received notification 301 has not been received in the past, that is, has not been stored in the past in step S35. If this is the case (step S33), this notification 301 is retransmitted as it is as a notification 302 with detection ID = ID 1 and position information = pos 1 (step S34).

この通知302は、例えば端末装置c、dおよびfに受信される。ここで、端末装置cは、受信した通知302の検出ID=ID1と同一の検出IDを含む通知を、通知300として過去に受信している。したがって、端末装置cは、ステップS33の判定に従い、新たに受信した通知302を捨てる。 This notification 302 is received by the terminal devices c, d, and f, for example. Here, the terminal device c has received a notification including the same detection ID as the detection ID = ID 1 of the received notification 302 as the notification 300 in the past. Therefore, the terminal device c discards the newly received notification 302 according to the determination in step S33.

このように、例えば端末装置aから送信された通知300は、その内容を維持しつつ、通信が可能な他の端末装置に順次にリレーされる。したがって、各端末装置a〜fは、各端末装置a〜f間で通知内容を共有できる。   Thus, for example, the notification 300 transmitted from the terminal device a is relayed sequentially to other terminal devices capable of communication while maintaining the content. Accordingly, the terminal devices a to f can share the notification contents among the terminal devices a to f.

なお、図9の例では、端末装置fは、端末装置aおよびeから、それぞれ検出ID=ID1を含む通知300および302を受信している。この場合、通知300と通知302とでは、通知がリレーされる経路が異なることから、経由する各端末装置における通信処理による遅延などにより、端末装置fは、通知300と通知302とを異なるタイミングで受信すると考えられる。したがって、端末装置fは、先に受信された通知を保存し、後に受信された通知を捨てることになり、検出IDが同一の通知を重複して持つことが避けられる。 In the example of FIG. 9, the terminal device f receives notifications 300 and 302 including the detection ID = ID 1 from the terminal devices a and e, respectively. In this case, since the route through which the notification is relayed is different between the notification 300 and the notification 302, the terminal device f causes the notification 300 and the notification 302 to be different at different timings due to a delay due to communication processing in each terminal device that passes through the notification 300 and the notification 302. It is considered to receive. Therefore, the terminal device f stores the notification received earlier, discards the notification received later, and avoids having duplicate notifications with the same detection ID.

次のステップS36で、撮像制御アプリは、位置情報処理部1007により、ステップS32で受信した通知50に含まれる起動フラグ501の値に基づき、当該通知50が他の端末装置100における撮像制御アプリの起動時に送信された通知50であるか否かを判定する。撮像制御アプリは、起動時に送信された通知50であると判定した場合、処理をステップS37に移行させる。   In the next step S 36, the imaging control application is detected by the position information processing unit 1007 based on the value of the activation flag 501 included in the notification 50 received in step S 32. It is determined whether or not the notification 50 is transmitted at the time of activation. When the imaging control application determines that the notification 50 is transmitted at the time of activation, the imaging control application shifts the processing to step S37.

ステップS37で、撮像制御アプリは、位置情報処理部1007により、ステップS32で受信した通知50に含まれる位置情報505に基づき、マップを更新する。そして、次のステップS38で、撮像制御アプリは、位置情報処理部1007により、更新されたマップに基づきクラスタリング処理を行う。   In step S37, the imaging control application updates the map by the position information processing unit 1007 based on the position information 505 included in the notification 50 received in step S32. In the next step S38, the imaging control application performs clustering processing based on the updated map by the position information processing unit 1007.

ステップS37およびステップS38の処理について、より詳細に説明する。位置情報処理部1007は、ステップS35で保存した通知50に含まれる位置情報505に基づき、マッピングを行う。図10は、実施形態に係るマッピングの例を示す。図10に示される各点は、それぞれ位置情報505に対応し、図10は、各通知50に含まれる位置情報505における緯度および経度を、xy座標上の点として示している。   The processing of step S37 and step S38 will be described in more detail. The position information processing unit 1007 performs mapping based on the position information 505 included in the notification 50 saved in step S35. FIG. 10 shows an example of mapping according to the embodiment. Each point shown in FIG. 10 corresponds to the position information 505, and FIG. 10 shows the latitude and longitude in the position information 505 included in each notification 50 as points on the xy coordinates.

位置情報処理部1007は、マッピングされた情報に基づきクラスタリング処理を行い、各位置情報505をクラスタに分類する。図10の例では、各位置情報505がクラスタ400、401および402の3つのクラスタに分類された様子が示されている。なお、クラスタリング処理の手法としては、NN(Nearest Neighbor)法、K−NN(K Nearest Neighbor)法といった、既存の技術を用いることができる。位置情報処理部1007は、ステップS36で、通知50が起動時送信のものであると判定した場合に、このステップS37およびステップS38での処理を実行する。   The position information processing unit 1007 performs clustering processing based on the mapped information, and classifies each position information 505 into clusters. In the example of FIG. 10, a state in which each piece of position information 505 is classified into three clusters 400, 401, and 402 is shown. As a clustering method, existing techniques such as an NN (Nearest Neighbor) method and a K-NN (K Nearest Neighbor) method can be used. If the position information processing unit 1007 determines in step S36 that the notification 50 is sent at startup, the position information processing unit 1007 executes the processing in steps S37 and S38.

撮像制御アプリは、ステップS38の処理の終了後、処理をステップS32に戻す。   The imaging control application returns the process to step S32 after the process of step S38 ends.

上述のステップS36で、撮像制御アプリは、位置情報処理部1007により、ステップS32で受信した通知50が起動時に送信された通知50ではないと判定した場合、処理をステップS40に移行させる。ステップS40で、撮像制御アプリは、ステップS32で受信した通知50に含まれるオン/オフ情報502がオン情報およびオフ情報の何れを示しているかを判定する。   If the position information processing unit 1007 determines that the notification 50 received in step S32 is not the notification 50 transmitted at the time of activation in step S36 described above, the imaging control application shifts the processing to step S40. In step S40, the imaging control application determines whether the on / off information 502 included in the notification 50 received in step S32 indicates on information or off information.

撮像制御アプリは、通知50に含まれるオン/オフ情報502がオフ情報を示していると判定した場合、処理をステップS50に移行させる。撮像制御アプリは、ステップS50で、上述のステップS35で保存されている通知50のうち、オフ情報を示していると判定した通知50に含まれる検出IDと同一の検出IDを持つ通知50を削除する。ステップS50の処理後、撮像制御アプリは、処理をステップS32に戻す。   If the imaging control application determines that the on / off information 502 included in the notification 50 indicates off information, the imaging control application shifts the processing to step S50. In step S50, the imaging control application deletes the notification 50 having the same detection ID as the detection ID included in the notification 50 determined to indicate off-information from the notifications 50 stored in step S35 described above. To do. After the process of step S50, the imaging control application returns the process to step S32.

一方、撮像制御アプリは、ステップS40で通知50に含まれるオン/オフ情報502がオン情報を示していると判定した場合、処理をステップS41に移行させる。ステップS41で、撮像制御アプリは、位置情報処理部1007により、過去の所定時間内に、オン情報を含む一定以上の数の通知50を受信したか否かを判定する。撮像制御アプリは、受信していないと判定した場合、処理をステップS32に戻す。なお、ステップS41の判定条件となる一定以上の数は、ステップS37で更新されたマップに含まれる位置情報505の数を母数としたときの比として決めることが考えられる。   On the other hand, if the imaging control application determines in step S40 that the on / off information 502 included in the notification 50 indicates on information, the imaging control application shifts the processing to step S41. In step S41, the imaging control application determines whether or not the position information processing unit 1007 has received a certain number of notifications 50 including ON information within a predetermined past time. When it is determined that the imaging control application has not received, the process returns to step S32. Note that it is conceivable that the certain number or more that is the determination condition in step S41 is determined as a ratio when the number of position information 505 included in the map updated in step S37 is used as a parameter.

撮像制御アプリは、ステップS41で、過去の所定時間内に、オン情報を含む一定以上の数の通知50を受信したと判定した場合、処理をステップS42に移行させる。ステップS42で、撮像制御アプリは、位置情報処理部1007によりマップ更新を行い、次のステップS43でクラスタリング処理を行う。このステップS42およびステップS43の処理は、上述したステップS37およびステップS38の処理と同一なので、ここでの説明を省略する。   If the imaging control application determines in step S41 that a predetermined number of notifications 50 including ON information have been received within the past predetermined time, the process proceeds to step S42. In step S42, the imaging control application updates the map by the position information processing unit 1007, and performs clustering processing in the next step S43. Since the process of step S42 and step S43 is the same as the process of step S37 and step S38 mentioned above, description here is abbreviate | omitted.

次のステップS44で、撮像制御アプリは、判定部1008により、ステップS43でのクラスタリング処理の結果分類されたクラスタが、所定の条件(盛り上がり条件)を満たすか否かを判定する。   In the next step S44, the imaging control application determines whether or not the cluster classified as a result of the clustering process in step S43 satisfies a predetermined condition (swelling condition) by the determination unit 1008.

図11を用いて、実施形態に係る、クラスタに対する条件判定について説明する。図11は、上述の図10に対応するもので、ステップS43のクラスタリング処理により 各位置情報505がクラスタ400、401’および402’の3つのクラスタに分類された様子を示している。なお、図11の例は、上述の図10で示したクラスタ401および402に、位置情報505が追加され、クラスタ401’および402’となっている。   The condition determination for the cluster according to the embodiment will be described with reference to FIG. FIG. 11 corresponds to FIG. 10 described above, and shows how the position information 505 is classified into three clusters 400, 401 ′, and 402 ′ by the clustering process in step S <b> 43. In the example of FIG. 11, position information 505 is added to the clusters 401 and 402 shown in FIG. 10 described above to form clusters 401 ′ and 402 ′.

盛り上がりの条件を、上述したように、ある程度以上の大きな音が、一定の位置的な広がりを持って同時に発生しているとした場合、位置情報処理部1007は、例えば、クラスタに含まれる位置情報505の数と、位置情報505に基づくクラスタの広がりとを条件として判定を行うことが考えられる。   As described above, in the case where a loud sound of a certain level or more is generated simultaneously with a certain positional spread as described above, the position information processing unit 1007, for example, uses the position information included in the cluster. It can be considered that the determination is performed on the condition of the number of 505 and the spread of the cluster based on the position information 505.

図11の例では、クラスタ400、401’および402’は、それぞれ4個、10個および6個の位置情報を含んでいる。クラスタに含まれる位置情報505の数に対する閾値を8個とした場合、クラスタ400および402’は条件を満たさないので、除外する。   In the example of FIG. 11, the clusters 400, 401 ', and 402' include 4, 10, and 6 pieces of position information, respectively. If the threshold value for the number of pieces of position information 505 included in the cluster is eight, the clusters 400 and 402 'do not satisfy the condition and are excluded.

判定部1008は、残るクラスタ401’について広がりを判定する。例えば、判定部1008は、クラスタ401’に含まれる各位置情報505が含まれる範囲410について、x座標の最大値x1および最小値x0と、y座標の最大値y1および最小値y0とを求め、求めた各座標値に基づき広がりの判定を行う。一例として、x座標の最大値x1および最小値x0の差と、y座標の最大値y1および最小値y0の差をそれぞれ求め、何れか一方が閾値を超えている場合に、広がりの条件を満たしていると判定することが考えられる。 The determination unit 1008 determines the spread of the remaining cluster 401 ′. For example, the determination unit 1008 includes the maximum value x 1 and the minimum value x 0 of the x coordinate and the maximum value y 1 and the minimum value y 0 of the y coordinate for the range 410 including the position information 505 included in the cluster 401 ′. And the spread is determined based on the obtained coordinate values. As an example, if it exceeds the difference between the maximum value x 1 and the minimum value x 0 of the x-coordinate, respectively determined the difference between the maximum value y 1 and the minimum value y 0 of the y-coordinate, the one threshold, spread It may be determined that the above condition is satisfied.

なお、盛り上がり条件は、クラスタに含まれる位置情報505の数および広がりに限られない。例えば、クラスタに係る面積や、クラスタに含まれる位置情報505の密度などを盛り上がり条件とすることも考えられる。   Note that the climax condition is not limited to the number and spread of the position information 505 included in the cluster. For example, the area related to the cluster, the density of the position information 505 included in the cluster, and the like may be used as the rising condition.

撮像制御アプリは、ステップS44で、判定部1008により所定の条件を満たさないと判定された場合、処理をステップS32に戻す。一方、撮像制御アプリは、ステップS44で判定部1008により所定の条件を満たすと判定された場合、処理をステップS45に移行させる。ステップS45で、撮像制御アプリは、撮像制御部1003により撮像部121を制御して、撮像処理を行う。   If the determination unit 1008 determines that the predetermined condition is not satisfied in step S44, the imaging control application returns the process to step S32. On the other hand, when the determination unit 1008 determines that the predetermined condition is satisfied in step S44, the imaging control application shifts the process to step S45. In step S45, the imaging control application controls the imaging unit 121 by the imaging control unit 1003 to perform imaging processing.

このとき、撮像制御アプリは、撮像部121の向きが盛り上がりの条件を満たすクラスタ401’に対応する方向を向いる場合に、撮像を行うようにすると好ましい。例えば、図11の例では、端末装置100は、撮像部121がクラスタ401’の方を向いているので、撮像制御アプリにより撮像が行われる。一方、撮像制御アプリは、例えば、撮像部121が向いていな方向のクラスタ402’が盛り上がりの条件を満たす場合、撮像を行わない。撮像部121の方向は、例えば、端末装置100内にジャイロなどを用いた方向検知機構を設けて検知することが考えられる。   At this time, it is preferable that the imaging control application performs imaging when the orientation of the imaging unit 121 is in a direction corresponding to the cluster 401 ′ that satisfies the climax condition. For example, in the example of FIG. 11, since the imaging unit 121 faces the cluster 401 ′ in the terminal device 100, imaging is performed by the imaging control application. On the other hand, the imaging control application does not perform imaging when, for example, the cluster 402 ′ in the direction in which the imaging unit 121 does not face satisfies the swell condition. For example, the direction of the imaging unit 121 may be detected by providing a direction detection mechanism using a gyro or the like in the terminal device 100.

撮像制御アプリは、ステップS45で撮像処理がなされると、処理をステップS32に戻す。   When the imaging process is performed in step S45, the imaging control application returns the process to step S32.

上述したように、実施形態に係る端末装置100は、複数の他の端末装置100による音の検知結果に基づき盛り上がりの有無および盛り上がりが発生している場所(方向)を判定している。そのため、盛り上がりの判定をより的確に行うことが可能であると共に、遠くの位置で発生した盛り上がりにも対応できる。   As described above, the terminal device 100 according to the embodiment determines the presence / absence of swell and the location (direction) where the swell occurs based on the sound detection results of the other terminal devices 100. For this reason, it is possible to more accurately determine the swell, and it is also possible to cope with a swell that occurs at a distant position.

なお、上述の実施形態は、本発明の好適な実施の例ではあるがこれに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変形による実施が可能である。   The above-described embodiment is a preferred embodiment of the present invention, but is not limited thereto, and various modifications can be made without departing from the scope of the present invention.

50,300,301,302 通知
100 端末装置
110 CPU
112 RAM
116 データI/F
120 GPS部
121 撮像部
122 マイクロホン
123 音声取得部
124 音声処理部
400,401,401’,402,402’ クラスタ
500 アプリ識別情報
501 起動フラグ
502 オン/オフ情報
503 検出ID
504 端末識別情報
505 位置情報
1000 受信部
1001 送信部
1002 保存部
1003 撮像制御部
1004 音処理部
1005 位置情報取得部
1006 比較部
1007 位置情報処理部
1008 判定部
50, 300, 301, 302 Notification 100 Terminal device 110 CPU
112 RAM
116 Data I / F
120 GPS unit 121 Imaging unit 122 Microphone 123 Audio acquisition unit 124 Audio processing unit 400, 401, 401 ′, 402, 402 ′ Cluster 500 Application identification information 501 Activation flag 502 On / off information 503 Detection ID
504 Terminal identification information 505 Position information 1000 Reception unit 1001 Transmission unit 1002 Storage unit 1003 Imaging control unit 1004 Sound processing unit 1005 Position information acquisition unit 1006 Comparison unit 1007 Position information processing unit 1008 Determination unit

特開平4−317039号公報JP-A-4-317039

Claims (8)

無線通信を行う通信部と、
位置情報を取得する位置情報取得部と、
周囲の音を取得する音取得部と、
前記音の音圧レベルに対して閾値判定を行い、判定結果に基づき、少なくとも該音圧レベルが閾値以上であることを示す情報と前記位置情報とを含む通知を前記通信部により送信する音処理部と、
他の機器から送信され前記通信部が受信した前記通知を記憶する記憶部と、
現在の時間から予め定められた時間だけ過去の時間までの期間に前記記憶部に記憶された前記通知の数が予め定められた数以上である場合に、該通知に対応する該位置情報に基づき盛り上がりが発生している盛り上がり領域が存在するか否かを判定する判定部と、
前記判定部により前記盛り上がり領域が存在すると判定された場合に、撮像を行うように撮像部を制御する撮像制御部と
を備える撮像制御装置。
A communication unit for performing wireless communication;
A location information acquisition unit for acquiring location information;
A sound acquisition unit that acquires ambient sounds;
Sound processing for performing threshold determination on the sound pressure level of the sound, and transmitting a notification including at least information indicating that the sound pressure level is equal to or higher than the threshold and the position information based on the determination result by the communication unit And
A storage unit for storing the notification transmitted from another device and received by the communication unit;
When the number of notifications stored in the storage unit in a period from the current time to a past time by a predetermined time is equal to or more than a predetermined number, based on the position information corresponding to the notification A determination unit for determining whether or not there is a rising region where the rising is generated;
An imaging control apparatus comprising: an imaging control unit that controls the imaging unit to perform imaging when the determination unit determines that the swell area exists.
前記位置情報に基づきクラスタリングを行い、クラスタリングされた各クラスタのうち、クラスタに含まれる前記位置情報の数とクラスタの広がりとを求める位置情報処理部をさらに備え、
前記判定部は、
前記各クラスタのうち、前記数と前記広がりとがそれぞれ一定以上であるクラスタを、前記盛り上がり領域であると判定する
請求項1に記載の撮像制御装置。
Clustering based on the position information, and further comprising a position information processing unit for obtaining the number of the position information included in the cluster and the spread of the cluster among the clustered clusters,
The determination unit
The imaging control device according to claim 1, wherein among the clusters, a cluster in which the number and the spread are equal to or greater than a certain value is determined as the swell region.
前記位置情報処理部は、
起動時に前記位置情報を前記通信部により送信し、
前記他の機器から送信され前記通信部が受信した、起動時に送信された前記位置情報を用いて前記クラスタを更新し、
前記判定部は、
前記各クラスタに含まれる前記位置情報の数に対する、前記各クラスタの前記期間に前記記憶部に記憶された前記通知の数の比が一定以上の場合に、前記判定を行う
請求項2に記載の撮像制御装置。
The position information processing unit
The position information is transmitted by the communication unit at startup,
Update the cluster with the location information transmitted at startup, transmitted from the other device and received by the communication unit,
The determination unit
3. The determination according to claim 2, wherein the determination is performed when a ratio of the number of notifications stored in the storage unit in the period of each cluster to a number of the position information included in each cluster is equal to or greater than a certain value. Imaging control device.
前記通信部は、
前記他の機器から受信した前記通知をさらに送信する
請求項1乃至請求項3の何れか1項に記載の撮像制御装置。
The communication unit is
The imaging control apparatus according to claim 1, further transmitting the notification received from the other device.
前記音処理部は、
前記判定結果に基づく前記通知毎に異なる識別情報を前記通知に付加して前記通信部により送信する
請求項1乃至請求項4の何れか1項に記載の撮像制御装置。
The sound processing unit
The imaging control device according to claim 1, wherein different identification information for each notification based on the determination result is added to the notification and transmitted by the communication unit.
前記通信部は、
前記他の機器から受信した前記通知に付加される前記識別情報が、前記記憶部に記憶される前記通知に付加される前記識別情報と異なる場合に、該他の機器から受信した該通知および該位置情報をさらに送信する
請求項5に記載の撮像制御装置。
The communication unit is
When the identification information added to the notification received from the other device is different from the identification information added to the notification stored in the storage unit, the notification received from the other device and the The imaging control apparatus according to claim 5, further transmitting position information.
無線通信を行う通信ステップと、
位置情報を取得する位置情報取得ステップと、
周囲の音を取得する音取得ステップと、
前記音の音圧レベルに対して閾値判定を行い、判定結果に基づき、少なくとも該音圧レベルが閾値以上であることを示す情報と前記位置情報とを含む通知を前記通信ステップにより送信する音処理ステップと、
他の機器から送信され前記通信部が受信した前記通知を記憶部に記憶する記憶ステップと、
現在の時間から予め定められた時間だけ過去の時間までの期間に前記記憶部に記憶された前記通知の数が予め定められた数以上である場合に、該通知に対応する該位置情報に基づき盛り上がりが発生している盛り上がり領域が存在するか否かを判定する判定ステップと、
前記判定ステップにより前記盛り上がり領域が存在すると判定された場合に、撮像を行うように撮像部を制御する撮像制御ステップと
をコンピュータに実行させるための撮像制御プログラム。
A communication step for performing wireless communication;
A location information acquisition step for acquiring location information;
A sound acquisition step for acquiring ambient sounds;
Sound processing for performing threshold determination on the sound pressure level of the sound and transmitting a notification including at least information indicating that the sound pressure level is equal to or higher than the threshold and the position information based on the determination result through the communication step Steps,
A storage step of storing the notification transmitted from another device and received by the communication unit in a storage unit;
When the number of notifications stored in the storage unit in a period from the current time to a past time by a predetermined time is equal to or more than a predetermined number, based on the position information corresponding to the notification A determination step for determining whether or not there is a rising region where the rising has occurred;
An imaging control program for causing a computer to execute an imaging control step of controlling an imaging unit so as to perform imaging when it is determined in the determination step that the rising area is present.
無線通信を行う通信ステップと、
位置情報を取得する位置情報取得ステップと、
周囲の音を取得する音取得ステップと、
前記音の音圧レベルに対して閾値判定を行い、判定結果に基づき、少なくとも該音圧レベルが閾値以上であることを示す情報と前記位置情報とを含む通知を前記通信ステップにより送信する音処理ステップと、
他の機器から送信され前記通信部が受信した前記通知を記憶部に記憶する記憶ステップと、
現在の時間から予め定められた時間だけ過去の時間までの期間に前記記憶部に記憶された前記通知の数が予め定められた数以上である場合に、該通知に対応する該位置情報に基づき盛り上がりが発生している盛り上がり領域が存在するか否かを判定する判定ステップと、
前記判定ステップにより前記盛り上がり領域が存在すると判定された場合に、撮像を行うように撮像部を制御する撮像制御ステップと
を備える撮像制御方法。
A communication step for performing wireless communication;
A location information acquisition step for acquiring location information;
A sound acquisition step for acquiring ambient sounds;
Sound processing for performing threshold determination on the sound pressure level of the sound and transmitting a notification including at least information indicating that the sound pressure level is equal to or higher than the threshold and the position information based on the determination result through the communication step Steps,
A storage step of storing the notification transmitted from another device and received by the communication unit in a storage unit;
When the number of notifications stored in the storage unit in a period from the current time to a past time by a predetermined time is equal to or more than a predetermined number, based on the position information corresponding to the notification A determination step for determining whether or not there is a rising region where the rising has occurred;
An imaging control method comprising: an imaging control step of controlling an imaging unit so as to perform imaging when it is determined by the determination step that the swell area exists.
JP2015058797A 2015-03-20 2015-03-20 Imaging controller, imaging control program and imaging control method Pending JP2016178566A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015058797A JP2016178566A (en) 2015-03-20 2015-03-20 Imaging controller, imaging control program and imaging control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015058797A JP2016178566A (en) 2015-03-20 2015-03-20 Imaging controller, imaging control program and imaging control method

Publications (1)

Publication Number Publication Date
JP2016178566A true JP2016178566A (en) 2016-10-06

Family

ID=57071422

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015058797A Pending JP2016178566A (en) 2015-03-20 2015-03-20 Imaging controller, imaging control program and imaging control method

Country Status (1)

Country Link
JP (1) JP2016178566A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019049960A (en) * 2017-09-07 2019-03-28 心エンジン株式会社 Image providing system, image providing program and video providing system
WO2019229909A1 (en) * 2018-05-30 2019-12-05 株式会社ウフル Enthusiasm degree display system, stadium enthusiasm degree display method, program, and sensor terminal

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019049960A (en) * 2017-09-07 2019-03-28 心エンジン株式会社 Image providing system, image providing program and video providing system
WO2019229909A1 (en) * 2018-05-30 2019-12-05 株式会社ウフル Enthusiasm degree display system, stadium enthusiasm degree display method, program, and sensor terminal

Similar Documents

Publication Publication Date Title
CN106687991B (en) System and method for setting focus of digital images based on social relationships
JP6420493B2 (en) Volume adjustment method, apparatus and terminal
JP6117446B2 (en) Real-time video providing method, real-time video providing device, server, terminal device, program, and recording medium
KR100940950B1 (en) Method and system for freshness indication of location data
EP3125135A1 (en) Picture processing method and device
KR20140098615A (en) Method for fitting hearing aid connected to Mobile terminal and Mobile terminal performing thereof
EP3641433A1 (en) Network slicing access method and apparatus
US9473867B2 (en) Notification control device, notification control method and storage medium
US20170126423A1 (en) Method, apparatus and system for setting operating mode of device
JP2016532986A (en) Upgrade method, apparatus, device, program, and recording medium
US20140297289A1 (en) Voice control device, voice control method and program
US10491829B2 (en) Display control apparatus, display control method, and program
US20140337742A1 (en) Method, an apparatus and a computer program for determination of an audio track
KR20170019450A (en) Audio watermarking for people monitoring
KR20150023406A (en) Enhancing captured data
US20170054906A1 (en) Method and device for generating a panorama
US20140333786A1 (en) System and method for remotely creating and processing media files
CN111245852A (en) Streaming data transmission method, device, system, access device and storage medium
JP2016080894A (en) Electronic apparatus, consumer electronics, control system, control method, and control program
JP2016178566A (en) Imaging controller, imaging control program and imaging control method
JP6146464B2 (en) Imaging apparatus, information acquisition apparatus, information acquisition system, transmission control method, information acquisition method, and program
CN110426041B (en) Positioning and training method and device of positioning model, electronic equipment and storage medium
US8559973B2 (en) Mode of operation based on image capture profile
CN110673732A (en) Scene sharing method, device, system, electronic equipment and storage medium
US20130235233A1 (en) Methods and devices for capturing images