JP6914480B2 - Indicator display device, indicator display method, program, and indicator display system - Google Patents

Indicator display device, indicator display method, program, and indicator display system Download PDF

Info

Publication number
JP6914480B2
JP6914480B2 JP2017019939A JP2017019939A JP6914480B2 JP 6914480 B2 JP6914480 B2 JP 6914480B2 JP 2017019939 A JP2017019939 A JP 2017019939A JP 2017019939 A JP2017019939 A JP 2017019939A JP 6914480 B2 JP6914480 B2 JP 6914480B2
Authority
JP
Japan
Prior art keywords
information
display
image
index
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017019939A
Other languages
Japanese (ja)
Other versions
JP2018007235A (en
Inventor
和典 柳
和典 柳
一晃 萩原
一晃 萩原
健士 岩本
健士 岩本
喜博 高山
喜博 高山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to US15/498,712 priority Critical patent/US20170374310A1/en
Priority to CN201710342274.2A priority patent/CN107547783B/en
Publication of JP2018007235A publication Critical patent/JP2018007235A/en
Application granted granted Critical
Publication of JP6914480B2 publication Critical patent/JP6914480B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Instructional Devices (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、撮像された際の状況を把握するための技術に関するものである。 The present invention relates to a technique for grasping a situation when an image is taken.

従来より、GPS(Global Positioning System)等を活用することで撮影時における自己の位置情報を取得し、その撮影画像を再生させる際、撮影時の位置情報を含む周辺地図を表示させ、その地図上の撮影地点に撮影したことを表示する技術が考えられている(例えば下記特許文献1参照)。 Conventionally, by utilizing GPS (Global Positioning System) etc., self-position information at the time of shooting is acquired, and when the shot image is reproduced, a peripheral map including the position information at the time of shooting is displayed on the map. A technique for displaying the fact that the image was taken at the photographing point of the above has been considered (see, for example, Patent Document 1 below).

特開2006−279266号公報Japanese Unexamined Patent Publication No. 2006-279266

しかしながら、この技術では、ユーザーに対して地図上に過去の移動経路と、撮影地点とを同時に示すことがことはできるものの、各々の撮影地点における撮影時の状況までは教えることができないと言う問題があった。 However, with this technology, although it is possible to show the user the past movement route and the shooting point at the same time on the map, it is not possible to tell the situation at the time of shooting at each shooting point. was there.

本願発明は上記の問題点に鑑みてなされたものであり、撮影地点での撮影時の状況を容易に理解できるようにすることを目的とする。 The present invention has been made in view of the above problems, and an object of the present invention is to make it easy to understand the situation at the time of shooting at the shooting point.

前記課題を解決するため、本発明の指標表示装置においては、画像の撮影に関する位置情報を取得する位置情報取得手段と、画像の撮影に関する所定情報を取得する撮影情報取得手段と、前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得手段と、前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示する表示手段と、を備え、前記位置情報取得手段が取得する位置情報は高度を含み、前記表示手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする。 In order to solve the above-mentioned problems, in the index display device of the present invention, a position information acquisition means for acquiring position information related to image shooting, a shooting information acquisition means for acquiring predetermined information regarding image shooting, and the image shooting It is acquired by the external environment information acquisition means for acquiring information about the external environment of the imaging device, the generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and the position information acquisition means. An index indicating that the predetermined information is acquired at a display position corresponding to the position information, an index image generated by the generation means, and the external environment acquired by the external environment information acquisition means. The position information acquired by the position information acquisition means includes an altitude, and the display means includes an altitude of the position information based on an operation detection from the outside. A first display mode for displaying an index indicating that the predetermined information is acquired at a display position indicated by no information, the index image, and information on the external environment, and the position information include altitude. It is characterized in that it is displayed in any display mode of the second display mode in which an index indicating that the predetermined information is acquired is displayed at the display position indicated by the information.

また、本発明の指標表示方法においては、画像の撮影に関する位置情報を取得する位置情報取得ステップと、画像の撮影に関する所定情報を取得する撮影情報取得ステップと、前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得ステップと、前記撮影情報取得ステップにて取得された前記所定情報に基づいて指標画像を生成する生成ステップと、前記位置情報取得ステップにて取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成ステップにて生成された指標画像と、前記外部環境情報取得ステップにて取得された前記外部環境に関する情報と、を表示部に表示させる表示ステップとを含み、前記表示ステップは、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする。 Further, in the index display method of the present invention, a position information acquisition step for acquiring position information related to image shooting, a shooting information acquisition step for acquiring predetermined information regarding image shooting, and an external image pickup device that has captured the image. An external environment information acquisition step for acquiring information about the environment, a generation step for generating an index image based on the predetermined information acquired in the shooting information acquisition step, and a position information acquired in the position information acquisition step. The index indicating that the predetermined information is acquired at the display position corresponding to the above, the index image generated in the generation step, and the external environment acquired in the external environment information acquisition step. It is seen containing a display step of displaying information, the display unit, wherein the display step, based on the operation detection from the outside, the predetermined information on a display position indicated by the information that does not include a high degree of the positional information The predetermined information is acquired in a first display mode for displaying an index indicating that it is an acquired point, the index image, and information about the external environment, and a display position indicated by information including altitude in the position information. It is characterized in that it is displayed in any of the display modes of the second display mode for displaying the index indicating that the point is the designated point .

また、本発明のプログラムにおいては、コンピュータを、画像の撮影に関する位置情報を取得する位置情報取得手段、画像の撮影に関する所定情報を取得する撮影情報取得手段、前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得手段、前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段、前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示する表示手段、として機能させ、前記位置情報取得手段が取得する位置情報は高度を含み、前記表示手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする。 Further, in the program of the present invention, the computer is used as a position information acquisition means for acquiring position information regarding image capture, a capture information acquisition means for acquiring predetermined information regarding image capture, and an external environment of an image pickup device that captures the image. An external environment information acquisition means for acquiring information about, a generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and a display position corresponding to the position information acquired by the position information acquisition means. Display that displays an index indicating that the predetermined information is a point where the predetermined information is acquired, an index image generated by the generation means, and information about the external environment acquired by the external environment information acquisition means. The position information acquired by the position information acquisition means includes altitude, and the display means is set to a display position indicated by information not including altitude in the position information based on operation detection from the outside. The index indicating that the predetermined information is the acquired point, the first display mode for displaying the index image and the information about the external environment, and the display position indicated by the information including the altitude in the position information. It is characterized in that it is displayed in any display mode of the second display mode that displays an index indicating that the predetermined information is the acquired point.

また、本発明の指標表示システムにおいては、表示装置と、携行者の移動中における位置情報を逐次記録するとともに、外部環境に関する情報を取得する位置情報記録装置と、当該携行者が携行する撮像装置と、を含む指標表示システムであって、前記表示装置は、前記位置情報を前記位置情報記録装置から取得する位置情報取得手段と、前記撮像装置に記録された画像の撮影に関する所定情報を前記撮像装置から取得する撮影情報取得手段と、前記画像を撮影した撮像装置の外部環境に関する情報を前記位置情報記録装置から取得する外部環境情報取得手段と、前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示するよう制御する表示制御手段と、を備え、前記位置情報取得手段が取得する位置情報は高度を含み、前記表示制御手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする。 Further, in the index display system of the present invention, a display device, a position information recording device that sequentially records position information while the carrier is moving, and acquires information on the external environment, and an imaging device carried by the carrier. In an index display system including The imaging information acquisition means acquired from the device, the external environment information acquisition means for acquiring information on the external environment of the image pickup device that captured the image from the position information recording device, and the predetermined information acquired by the imaging information acquisition means. By a generation means for generating an index image based on the above, an index indicating that the predetermined information is acquired at a display position corresponding to the position information acquired by the position information acquisition means, and the generation means. A display control means for controlling the display of the generated index image and the information about the external environment acquired by the external environment information acquisition means is provided, and the position information acquired by the position information acquisition means is highly advanced. The display control means includes, and an index indicating that the predetermined information is acquired at the display position indicated by the information not including the altitude among the position information based on the operation detection from the outside and the index. A first display mode for displaying an image and information about the external environment, and a second display for displaying an index indicating that the predetermined information is acquired at a display position indicated by information including altitude in the position information. It is characterized in that it displays in any of the display modes of 2.

本発明によれば、過去の移動途中における撮影地点での撮影時の状況を容易に理解することが可能となる。 According to the present invention, it is possible to easily understand the situation at the time of shooting at a shooting point during the past movement.

本発明の第1の実施形態に係る指標表示装置を含む指標表示システムの構成を示すブロック図である。It is a block diagram which shows the structure of the index display system including the index display device which concerns on 1st Embodiment of this invention. ユーザー移動中のセンサー装置とカメラ装置の動作を示すフローチャートで ある。It is a flowchart which shows the operation of a sensor device and a camera device while a user is moving. センサー装置のトリガー出力条件とカメラ装置の撮影モードの関係を示す説 明図である。It is an explanatory diagram showing the relationship between the trigger output condition of the sensor device and the shooting mode of the camera device. 画像処理プログラムが起動されたときの指標表示装置の動作と、それに対応 するカメラ装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the index display device when the image processing program is started, and the operation of the corresponding camera device. 図4に続くフローチャートである。It is a flowchart following FIG. 図4に対応するセンサー装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the sensor device corresponding to FIG. 画像処理プログラムの起動中に記憶部に記憶されるログテーブルを説明する概念図である。It is a conceptual diagram explaining the log table which is stored in the storage part while the image processing program is started. 指標表示装置におけるユーザーの行動履歴と画像等の記録情報の表示形態を 示す図である。It is a figure which shows the display form of the user's action history and the recorded information such as an image in an index display device. 第2の実施の形態における加工処理条件テーブルの内容を示す図である。It is a figure which shows the content of the processing processing condition table in 2nd Embodiment. 第2の実施の形態における、記憶部に記憶されるログテーブルを説明する概念図である。It is a conceptual diagram explaining the log table stored in the storage part in 2nd Embodiment. 第2の実施の形態における画像処理プログラムが起動されたときの指標表示装置の動作を示すフローチャートである。It is a flowchart which shows the operation of the index display device when the image processing program in 2nd Embodiment is started. 図11に続くフローチャートの一部である。It is a part of the flowchart following FIG. 第2の実施の形態における指標表示装置における表紙データの表示形態を 示す図である。It is a figure which shows the display form of the cover data in the index display device in 2nd Embodiment. 第2の実施の形態における指標表示装置におけるユーザーの行動履歴と画像等の記録情報の表示形態を示す図である。It is a figure which shows the display form of the user's action history and the record information such as an image in the index display device in 2nd Embodiment.

(第1の実施の形態)
以下、本発明の第1の実施の形態ついて説明する。図1は、本発明の第1の実施形態に係る指標表示装置100を含む指標表示システムの構成を示すブロック図である。この指標表示システムは、相互に通信可能な指標表示装置100とカメラ装置200とセンサー装置300とから構成されている。
(First Embodiment)
Hereinafter, the first embodiment of the present invention will be described. FIG. 1 is a block diagram showing a configuration of an index display system including an index display device 100 according to the first embodiment of the present invention. This index display system includes an index display device 100, a camera device 200, and a sensor device 300 that can communicate with each other.

まず、カメラ装置200について説明する。カメラ装置200は、ユーザーが身体等に装着した状態で静止画撮影や動画撮影、及び音声記録が可能な小型のデジタルカメラであって、装置全体の動作を制御する制御部201と、撮像部203、記録部204、音声入力部205、無線通信部206、入力部207を備えている。 First, the camera device 200 will be described. The camera device 200 is a small digital camera capable of still image shooting, moving image shooting, and voice recording while the user is attached to the body or the like, and is a control unit 201 that controls the operation of the entire device and an imaging unit 203. , Recording unit 204, voice input unit 205, wireless communication unit 206, and input unit 207.

制御部201は、CPU(Central Processing Unit)、及びその周辺回路等や、RAM(Random Access memory)等の作業用メモリ、プログラムメモリ等から構成され、CPUがプログラムメモリに記憶されているプログラムに従い動作することによりカメラ装置200の各部を制御する。なお、制御部201には、撮影日時を取得するためのカレンダー機能を有する計時手段が含まれる。 The control unit 201 is composed of a CPU (Central Processing Unit), peripheral circuits, etc., working memory such as RAM (Random Access memory), program memory, etc., and the CPU operates according to a program stored in the program memory. By doing so, each part of the camera device 200 is controlled. The control unit 201 includes a timekeeping means having a calendar function for acquiring the shooting date and time.

撮像部203は、図示しない撮影光学系を介して被写体を撮像するCMOS(Complementary Meta1 0xide Semiconductor)やCCD(Charge Coupled Device)等の撮像素子と、その駆動回路と、撮像素子から出力されるアナログ信号をデジタル形式の画像データに変換する信号処理回路等から構成され、この画像データを制御部201へ供給する。なお、カメラ装置200の撮影光学系は、周囲360゜の全天周が撮影可能な1又は複数の広角レンズにより構成される。 The image pickup unit 203 includes an image pickup element such as a CMOS (Complementary Meta10xide Semiconductor) or a CCD (Charge Coupled Device) that images a subject via an imaging optical system (not shown), a drive circuit thereof, and an analog signal output from the image pickup element. Is composed of a signal processing circuit or the like that converts the image data into digital format image data, and supplies this image data to the control unit 201. The photographing optical system of the camera device 200 is composed of one or a plurality of wide-angle lenses capable of photographing the entire sky around 360 °.

制御部201へ供給された画像データは、制御部201において各種の画像処理を施された後、圧縮され、撮影日時やサムネイル画像等の種々の付加情報を付加されて所定のフォーマットの静止画ファイルや動画ファイルとして記録部204に記録される。記録部204は、例えばカメラ装置200に内蔵されたフラッシュメモリ等の書き換え可能な不揮発性メモリや、装置本体に着脱自在な各種のメモリカードにより構成される。 The image data supplied to the control unit 201 is subjected to various image processing by the control unit 201, then compressed, and various additional information such as the shooting date and time and thumbnail images are added to the still image file in a predetermined format. It is recorded in the recording unit 204 as a moving image file. The recording unit 204 is composed of, for example, a rewritable non-volatile memory such as a flash memory built in the camera device 200, and various memory cards that can be attached to and detached from the device body.

ここで、カメラ装置200には、静止画撮影モードの下位のモードとして、人物撮影、風景撮影、連続して所定回数の撮影を行う連続撮影、周囲360゜の範囲を撮影対象とする全天周撮影、等を含む複数種の撮影モードが用意されている。また、動画撮影モードには、通常の動画撮影と、短時間(例えば10秒間)のみ撮影、等を含む複数種の動画撮影モードが用意されている。そして、画像データが静止画ファイルや動画ファイルとして記録部204に記憶される際、これらのファイルには画像データと共に、撮影時に使用された撮影モードや撮影日時等の他の付加情報が付加され記憶される。 Here, the camera device 200 has, as a lower mode of the still image shooting mode, a portrait shooting, a landscape shooting, a continuous shooting in which a predetermined number of shots are continuously taken, and an all-sky circumference having a surrounding 360 ° range as a shooting target. There are multiple shooting modes available, including shooting, etc. Further, as the moving image shooting mode, a plurality of kinds of moving image shooting modes including normal movie shooting and shooting only for a short time (for example, 10 seconds) are prepared. Then, when the image data is stored in the recording unit 204 as a still image file or a moving image file, other additional information such as the shooting mode used at the time of shooting and the shooting date and time are added and stored in these files together with the image data. Will be done.

音声入力部205は、装置本体に内蔵されたマイクと、アンプ、A/D変換器から構成され、マイクに入力した周囲の音声等を音声データに変換し、制御部201へ供給する。制御部201へ供給された音声データは制御部201において符号化された後、動画撮影時には動画データに付加されて動画ファイルとして記録される。 The voice input unit 205 is composed of a microphone built in the main body of the device, an amplifier, and an A / D converter, converts surrounding voice input to the microphone into voice data, and supplies the voice data to the control unit 201. The audio data supplied to the control unit 201 is encoded by the control unit 201, and then added to the moving image data and recorded as a moving image file at the time of moving image shooting.

カメラ装置200には、動作モードとして音声のみを記録する録音モードが用意されており、録音モードにおいては、音声入力部205において符号化された音声データが録音日時等の付加情報を付加され単独の音声ファイルとして記録部204に記録される。なお、動画撮影時における符号化された音声データの記録方式は、動画ファイルとは別に当該動画ファイルと関係付けて記録する方式であっても構わない。 The camera device 200 is provided with a recording mode for recording only voice as an operation mode. In the recording mode, the voice data encoded by the voice input unit 205 is added with additional information such as the recording date and time, and is independent. It is recorded in the recording unit 204 as an audio file. The coded audio data recording method at the time of moving image shooting may be a method of recording in relation to the moving image file separately from the moving image file.

無線通信部206は、指標表示装置100やセンサー装置300との間で無線通信を行う。特に無線通信部206は、記録部204に記録されている静止画ファイル、動画ファイル、及び、音声ファイルを必要に応じて指標表示装置100へ送信する。無線通信部206に採用される無線通信技術は、例えば国際標準規格IEEE 802.11シリーズを適用するWi−Fi(登録商標)、或いはBluetooth(登録商標)(Bluetooth Low Energy含)に準拠した技術である。なお、無線通信部206は、指標表示装置100及びセンサー装置300との間の通信が可能であれば、有線、無線に限らず他の通信技術を採用した通信手段に変更することができる。 The wireless communication unit 206 performs wireless communication with the index display device 100 and the sensor device 300. In particular, the wireless communication unit 206 transmits the still image file, the moving image file, and the audio file recorded in the recording unit 204 to the index display device 100 as needed. The wireless communication technology adopted in the wireless communication unit 206 is, for example, a technology compliant with Wi-Fi (registered trademark) to which the international standard IEEE 802.11 series is applied, or Bluetooth (registered trademark) (including Bluetooth Low Energy). be. The wireless communication unit 206 can be changed to a communication means that employs other communication technologies, not limited to wired and wireless, as long as communication between the index display device 100 and the sensor device 300 is possible.

入力部207は、撮影モードの設定スイッチやシャッターボタン等からなり、ユーザーによる操作情報を制御部101へ供給する。 The input unit 207 includes a shooting mode setting switch, a shutter button, and the like, and supplies operation information by the user to the control unit 101.

次に、センサー装置300について説明する。センサー装置300は、ユーザーの肩や腕、腰等の身体に装着された状態で使用され、ユーザーの行動履歴に関する後述する各種データを逐次取得して、それらを記録する所謂データロガーである。 Next, the sensor device 300 will be described. The sensor device 300 is a so-called data logger that is used in a state of being worn on the body of the user such as the shoulder, arm, and waist of the user, and sequentially acquires various data related to the user's behavior history and records them.

図に示したようにセンサー装置300は、装置全体の動作を制御する制御部301と、位置情報取得部302、モーションセンサー部303、外部環境取得部304、行動履歴記憶部305、無線通信部306の各部を備えている。 As shown in the figure, the sensor device 300 includes a control unit 301 that controls the operation of the entire device, a position information acquisition unit 302, a motion sensor unit 303, an external environment acquisition unit 304, an action history storage unit 305, and a wireless communication unit 306. It has each part of.

制御部301は、CPU、及びその周辺回路等や、RAM等の作業用メモリ、プログラムメモリ等から構成され、CPUがプログラムメモリに記憶されているプログラムに従い動作することによりセンサー装置300の各部を制御する。 The control unit 301 is composed of a CPU and its peripheral circuits, work memory such as RAM, a program memory, and the like, and controls each part of the sensor device 300 by operating the CPU according to a program stored in the program memory. do.

位置情報取得部302は、公知のGPS(Global Positioning System)を利用して現在位置を計測し、計測結果つまり緯度及び経度、高度からなるGPSデータを制御部301へ供給する。 The position information acquisition unit 302 measures the current position using a known GPS (Global Positioning System), and supplies the measurement result, that is, GPS data consisting of latitude, longitude, and altitude to the control unit 301.

モーションセンサー部303は、3軸方向の加速度を検出する加速度センサー、3軸方向の角速度を検出するジャイロセンサー及びその検出信号を増幅するアンプやA/D変換器から構成され、センサー装置300における3軸方向の加速度情報、角速度情報を制御部301へ供給する。 The motion sensor unit 303 is composed of an acceleration sensor that detects acceleration in the three-axis direction, a gyro sensor that detects the angular velocity in the three-axis direction, an amplifier that amplifies the detection signal, and an A / D converter. Axial acceleration information and angular velocity information are supplied to the control unit 301.

外部環境取得部304は、センサー装置300の周囲の温度、気圧、湿度をそれぞれ検出する温度センサー、気圧センサー、湿度センサーと、各センサーの検出信号を増幅するアンプやA/D変換器から構成され、検出した温度、気圧、湿度の各データ(以下、外部環境データという)を制御部301へ供給する。 The external environment acquisition unit 304 is composed of a temperature sensor, a pressure sensor, and a humidity sensor that detect the ambient temperature, pressure, and humidity of the sensor device 300, and an amplifier and an A / D converter that amplify the detection signals of each sensor. , Each of the detected temperature, pressure, and humidity data (hereinafter referred to as external environment data) is supplied to the control unit 301.

行動履歴記憶部305は、センサー装置300に内蔵されたフラッシュメモリ等の書き換え可能な不揮発性メモリにより構成され、制御部301へ供給されたGPSデータや外部環境データからなる行動履歴データが記憶される。なお、行動履歴データには、モーションセンサー部303によって取得される加速度情報、角速度情報に基づいて制御部301によりカウントされるユーザーの歩数データも含まれる。 The action history storage unit 305 is composed of a rewritable non-volatile memory such as a flash memory built in the sensor device 300, and stores action history data including GPS data and external environment data supplied to the control unit 301. .. The action history data also includes user step count data counted by the control unit 301 based on the acceleration information and the angular velocity information acquired by the motion sensor unit 303.

無線通信部306は、指標表示装置100やカメラ装置200との間で無線通信を行う。特に無線通信部306は、行動履歴記憶部305に記憶されている行動履歴データ(GPSデータや外部環境データ)を指標表示装置100へ送信する。無線通信部306に採用される無線通信技術も、例えば国際標準規格IEEE 802.11シリーズを適用するWi−Fi(登録商標)、或いはBluetooth (登録商標)(Bluetooth Low Energy含)(登録商標)を準拠した技術である。また、無線通信部306についても、指標表示装置100及びカメラ装置200との間の通信が可能であれば、有線、無線に限らず他の通信技術を採用した通信手段に変更することができる。 The wireless communication unit 306 performs wireless communication with the index display device 100 and the camera device 200. In particular, the wireless communication unit 306 transmits the action history data (GPS data and external environment data) stored in the action history storage unit 305 to the index display device 100. The wireless communication technology adopted in the wireless communication unit 306 also includes, for example, Wi-Fi (registered trademark) or Bluetooth (registered trademark) (including Bluetooth Low Energy) (registered trademark) to which the international standard IEEE 802.11 series is applied. It is a compliant technology. Further, the wireless communication unit 306 can also be changed to a communication means adopting other communication technologies, not limited to wired and wireless, as long as communication between the index display device 100 and the camera device 200 is possible.

次に、指標表示装置100について説明する。指標表示装置100は、センサー装置300から取得したGPSデータに基づいて、ユーザーの移動経路が重畳された地図やカメラ装置200から取得した静止画ファイルに基づく静止画の表示、及び、動画ファイルに基づく動画を再生表示する機能を備えた装置である。 Next, the index display device 100 will be described. The index display device 100 displays a still image based on a map on which a user's movement route is superimposed and a still image file acquired from the camera device 200 based on GPS data acquired from the sensor device 300, and is based on a moving image file. It is a device equipped with a function to play and display moving images.

図に示したように指標表示装置100は、装置の各部を制御する制御部101と、第1の無線通信部102、第2の無線通信部103、記憶部104、音声出力部105、表示部106、入力部107の各部を備えている。 As shown in the figure, the index display device 100 includes a control unit 101 that controls each unit of the device, a first wireless communication unit 102, a second wireless communication unit 103, a storage unit 104, an audio output unit 105, and a display unit. Each part of 106 and input part 107 is provided.

制御部101は、CPU、及びその周辺回路等や、RAM等の作業用メモリ等から構成され、CPUが記憶部104に記憶されているプログラムに従い動作することにより指標表示装置100の各部を制御する。 The control unit 101 is composed of a CPU, peripheral circuits, and the like, a work memory such as a RAM, and the like, and controls each part of the index display device 100 by operating the CPU according to a program stored in the storage unit 104. ..

第1の無線通信部102は、カメラ装置200やセンサー装置300との間で無線通信を行う。特に第1の無線通信部102は、センサー装置300から前述した行動履歴データを、カメラ装置200から前述した静止画ファイル、動画ファイル、または音声ファイルを夫々受信する。第1の無線通信部102に採用される無線通信技術も、例えば国際標準規格IEEE 802.11シリーズを適用するWi−Fi(登録商標)、或いはBluetooth (登録商標)(Bluetooth Low Energy含)を準拠した技術である。また、第1の無線通信部102についても、カメラ装置200やセンサー装置300との間の通信が可能であれば、有線、無線に限らず他の通信技術を採用した通信手段に変更することができる。 The first wireless communication unit 102 performs wireless communication with the camera device 200 and the sensor device 300. In particular, the first wireless communication unit 102 receives the above-mentioned action history data from the sensor device 300 and the above-mentioned still image file, moving image file, or audio file from the camera device 200, respectively. The wireless communication technology adopted in the first wireless communication unit 102 also conforms to, for example, Wi-Fi (registered trademark) to which the international standard IEEE 802.11 series is applied, or Bluetooth (registered trademark) (including Bluetooth Low Energy). It is a technology that has been used. Further, the first wireless communication unit 102 may be changed to a communication means adopting other communication technologies, not limited to wired and wireless, if communication with the camera device 200 and the sensor device 300 is possible. can.

第2の無線通信部103は、地図データベース401を有する外部の地図サーバー400との間でTCP/IP(Transmission Control Protocol/Internet Protocol)に基づく通信を行い、インターネット500を介して地図データベース401に記憶されている所定の地域の地図データを受信する。なお、第2の無線通信部103におけるインターネット500への接続は、例えば商用の通信回線網(携帯電話回線等)や公衆LAN等の無線基地局を介して行われる。 The second wireless communication unit 103 communicates with an external map server 400 having the map database 401 based on TCP / IP (Transmission Control Protocol / Internet Protocol), and stores the data in the map database 401 via the Internet 500. Receive the map data of the specified area. The connection to the Internet 500 by the second wireless communication unit 103 is performed via, for example, a commercial communication line network (mobile phone line or the like) or a wireless base station such as a public LAN.

記憶部104は、指標表示装置100に内蔵されたフラッシュメモリ等の書き換え可能な不揮発性メモリにより構成され、指標表示装置100の動作制御に必要な基本プログラムや各種のアプリケーションプログラムを記憶する。各種のアプリケーションプログラムには、カメラ装置200とセンサー装置300を装着していたユーザーの移動経路と、カメラ装置200に記録されている静止画ファイル、動画ファイルを処理するための画像処理プログラムと、運動解析プログラムとが含まれる。 The storage unit 104 is composed of a rewritable non-volatile memory such as a flash memory built in the index display device 100, and stores basic programs and various application programs necessary for operation control of the index display device 100. The various application programs include the movement path of the user wearing the camera device 200 and the sensor device 300, an image processing program for processing the still image file and the moving image file recorded in the camera device 200, and exercise. Includes an analysis program.

また、記憶部104には、センサー装置300やカメラ装置200から受信した各種データが一時的に記憶されるとともに、制御部101によって後述する各種データが記憶される。また、後述のログテーブル1041も記憶される。 Further, various data received from the sensor device 300 and the camera device 200 are temporarily stored in the storage unit 104, and various data described later are stored by the control unit 101. In addition, the log table 1041 described later is also stored.

音声出力部105は、音声ファイルに含まれる音声データをアナログ音声信号に変換するD/A(digital-to-analog conversion)コンバータ、アンプ、スピーカ等からなり、カメラ装置200から受信した音声データを再生する。 The audio output unit 105 includes a D / A (digital-to-analog conversion) converter, an amplifier, a speaker, etc. that convert the audio data contained in the audio file into an analog audio signal, and reproduces the audio data received from the camera device 200. do.

表示部106は、液晶パネル、及びその駆動回路からなり、指標表示装置100の操作に供する操作画面や、後述する周辺地図、カメラ装置200から受信された静止画や動画等を表示する。 The display unit 106 includes a liquid crystal panel and a drive circuit thereof, and displays an operation screen used for operating the index display device 100, a peripheral map described later, a still image, a moving image, or the like received from the camera device 200.

入力部107は、ユーザーが指標表示装置100を操作するための操作ボタンと、表示部106の液晶パネルの表面に一体的に設けられたタッチパネルとから構成され、ユーザーによる操作情報を制御部101へ供給する。 The input unit 107 is composed of an operation button for the user to operate the index display device 100 and a touch panel integrally provided on the surface of the liquid crystal panel of the display unit 106, and sends operation information by the user to the control unit 101. Supply.

なお、指標表示装置100は、例えばスマートフォンやタブレット型の携帯可能な情報機器により実現することができ、その場合、指標表示装置100には、上記の構成に加え、音声通信やデータ通信を行うための周知の回路、すなわち入力された音声を変調して送信する音声入力回路、送信回路、及び受信した音声信号を受信して復号再生する受信回路、再生回路やデータ送受信回路等が含まれることとなる。 The index display device 100 can be realized by, for example, a smartphone or a tablet-type portable information device. In that case, the index display device 100 is used to perform voice communication and data communication in addition to the above configuration. Well-known circuits, that is, an audio input circuit that modulates and transmits the input audio, a transmission circuit, a reception circuit that receives and decodes and reproduces the received audio signal, a reproduction circuit, a data transmission / reception circuit, and the like. Become.

以上の構成からなる指標表示システムにおいては、例えばユーザーが登山やハイキングでの移動中に、カメラ装置200とセンサー装置300とを装着し、各々を動作させて、かつ所定の操作によって互いに通信可能な状態とすると、カメラ装置200とセンサー装置300とが後述するように動作する。なお、ここでは、カメラ装置200に、一定時間後のインターバル撮影を行うとともに、その間にセンサー装置300からの要求に応じた自動撮影又は自動録音を行う所定の動作モード(以下、連動モード)が設けられており、係るモードが設定されることにより、センサー装置300との通信が確立されるものとする。 In the index display system having the above configuration, for example, while the user is moving during mountain climbing or hiking, the camera device 200 and the sensor device 300 can be attached, operated, and communicated with each other by a predetermined operation. In this state, the camera device 200 and the sensor device 300 operate as described later. Here, the camera device 200 is provided with a predetermined operation mode (hereinafter, interlocking mode) in which interval shooting is performed after a certain period of time and automatic shooting or automatic recording is performed in response to a request from the sensor device 300 during that period. It is assumed that communication with the sensor device 300 is established by setting the mode.

図2は、連動モードが設定されているときの制御部201の処理に基づくカメラ装置200側の動作と、制御部301の処理に基づくセンサー装置300側の動作を示すフローチャートである。 FIG. 2 is a flowchart showing the operation of the camera device 200 based on the processing of the control unit 201 and the operation of the sensor device 300 based on the processing of the control unit 301 when the interlocking mode is set.

まず、センサー装置300の動作について説明する。センサー装置300は、電源投入を検出することにより動作を開始し、まず、位置情報取得部302、モーションセンサー部303、外部環境取得部304によってGPSデータ等の各種情報を取得し(ステップSA1)、取得した各種情報を行動履歴データとして記録する(ステップSA2)。また、上記電源投入の検出時に、バックグラウンド処理としてセンサー装置300とカメラ装置200との通信を確立するようにしてもよい。 First, the operation of the sensor device 300 will be described. The sensor device 300 starts operation by detecting the power-on, and first, various information such as GPS data is acquired by the position information acquisition unit 302, the motion sensor unit 303, and the external environment acquisition unit 304 (step SA1). The various acquired information is recorded as action history data (step SA2). Further, when the power-on is detected, the communication between the sensor device 300 and the camera device 200 may be established as a background process.

また、センサー装置300は、取得した各種情報のうちで加速度情報が所定の閾値を超え、角速度情報が一定の条件を満たしていると(ステップSA3:YES)、この超えた加速度情報を一歩として加算して記録する(ステップSA4)。なお、加算後に生成された歩数データは、直前のステップSA2の処理で記録された他の行動履歴データと共に1レコードとして記録される。 Further, when the acceleration information exceeds a predetermined threshold value among the various acquired information and the angular velocity information satisfies a certain condition (step SA3: YES), the sensor device 300 adds the excess acceleration information as a step. And record (step SA4). The step count data generated after the addition is recorded as one record together with other action history data recorded in the process of the immediately preceding step SA2.

一方、センサー装置300は、現在の処理タイミングにおける状況が、予め決められているトリガー出力条件(撮影制御条件)に該当するか否かを逐次判断する(ステップSA5)。ここで、予め決められているトリガー出力条件は、歩数や、モーションセンサー部303によって取得された加速度情報、角速度情報、及び、GPSデータにより判断されるものであって、図3に示した4種類である。 On the other hand, the sensor device 300 sequentially determines whether or not the situation at the current processing timing corresponds to a predetermined trigger output condition (shooting control condition) (step SA5). Here, the predetermined trigger output conditions are determined by the number of steps, the acceleration information acquired by the motion sensor unit 303, the angular velocity information, and the GPS data, and are four types shown in FIG. Is.

すなわち、GPSデータにより示される現在位置に変化がなく、かつその状態が一定時間継続していたこと(図で「一定時間停止」)、歩数が設定値に達したこと(図で「歩数が設定値」)、加速度の値が直近の一定時間の変化の範囲を超えて変化し、かつその変化量が、ユーザーに急激な動きがあったと判断できる閾値を超えること(図で「急激な動きがあり」)、そして、GPSデータにより示される現在位置の高度が設定値に達したこと(図で「高度が設定値」)の4種類である。 That is, the current position indicated by GPS data did not change, and the state continued for a certain period of time (“stop for a certain period of time” in the figure), and the number of steps reached the set value (“the number of steps is set” in the figure. (Value "), the value of acceleration changes beyond the range of change over the most recent fixed time, and the amount of change exceeds the threshold at which it can be judged that the user has made a sudden movement (in the figure," sudden movement is Yes "), and the altitude of the current position indicated by GPS data has reached the set value ("altitude is the set value" in the figure).

ここで、センサー装置300は、現在の処理タイミングにおける状況が、予め決められているトリガー出力条件に該当していなければ(ステップSA5:NO)、直ちにステップSA1の処理へ戻り、それ以降の処理を繰り返す。 Here, if the status at the current processing timing does not correspond to the predetermined trigger output condition (step SA5: NO), the sensor device 300 immediately returns to the processing of step SA1 and performs the subsequent processing. repeat.

これに対し、現在の処理タイミングにおける状況が、予め決められているトリガー出力条件に該当する場合(ステップSA5:YES)、センサー装置300は、カメラ装置200に対し無線によって撮影を要求する所定のトリガー信号を出力する(ステップSA6)。この所定のトリガー信号は、そのとき該当すると判断したトリガー出力条件を示すトリガーID(「01」、「02」、「03」、「04」のいずれか)を含めた信号である。しかる後、センサー装置300はステップSA1の処理へ戻り、それ以降の処理を繰り返す。 On the other hand, when the situation at the current processing timing corresponds to a predetermined trigger output condition (step SA5: YES), the sensor device 300 wirelessly requests the camera device 200 to take a picture. Output the signal (step SA6). This predetermined trigger signal is a signal including a trigger ID (any of "01", "02", "03", and "04") indicating a trigger output condition determined to be applicable at that time. After that, the sensor device 300 returns to the process of step SA1 and repeats the subsequent processes.

つまりセンサー装置300は、GPSデータ等の各種情報を逐次取得し、かつ歩数をカウントとして、それらを記録する処理を繰り返す一方、その間には、予め決められているトリガー出力条件に該当する状況が到来する毎にカメラ装置200へトリガー信号を出力する。 That is, the sensor device 300 sequentially acquires various information such as GPS data, counts the number of steps, and repeats the process of recording them. In the meantime, a situation corresponding to a predetermined trigger output condition arrives. A trigger signal is output to the camera device 200 each time.

一方、カメラ装置200においては、連動モードが設定されて動作を開始した後には、インターバル撮影に要する撮影タイミングを取得するためのインターバル時間を計測する動作を繰り返し行っており(図示せず)、インターバル撮影の撮影タイミングが到来する毎に(ステップSB1:YES)、自動的に静止画の撮影を行い、静止画ファイルを記録部204に記録する(ステップSB3)。このとき、静止画ファイルには、その記録動作の種類(ここではインターバル撮影)を示す情報が、撮影時に使用された撮影モードや撮影日時等の他の付加情報と共に付加される。 On the other hand, in the camera device 200, after the interlocking mode is set and the operation is started, the operation of measuring the interval time for acquiring the shooting timing required for the interval shooting is repeated (not shown), and the interval Every time the shooting timing of shooting arrives (step SB1: YES), a still image is automatically shot and the still image file is recorded in the recording unit 204 (step SB3). At this time, information indicating the type of recording operation (here, interval shooting) is added to the still image file together with other additional information such as the shooting mode used at the time of shooting and the shooting date and time.

また、カメラ装置200は、撮影タイミングが到来する以前であっても(ステップSB1:NO)、ユーザーの撮影指示を検出すると(ステップSB2:YES)、撮影を行い静止画ファイルや動画ファイルを記録する(ステップSB3)。なお、ユーザーの撮影指示に応じた撮影は、予めユーザーに設定された任意の撮影モードによる静止画撮影又は動画撮影である。また、このとき静止画ファイルや動画ファイルには、記録動作の種類(ここでは手動撮影)を示す情報が撮影時に使用された撮影モードや撮影日時等の他の付加情報と共に付加される。 Further, even before the shooting timing arrives (step SB1: NO), the camera device 200 takes a picture and records a still image file or a moving image file when the user detects a shooting instruction (step SB2: YES). (Step SB3). The shooting according to the shooting instruction of the user is a still image shooting or a moving image shooting in an arbitrary shooting mode set in advance by the user. Further, at this time, information indicating the type of recording operation (here, manual shooting) is added to the still image file or the moving image file together with other additional information such as the shooting mode used at the time of shooting and the shooting date and time.

さらに、カメラ装置200は、センサー装置300から先に説明したトリガー信号を受信すると(ステップSB4:YES)、トリガーIDにより示されるトリガーの種類、及び予め決められている撮影モード等の条件に応じた撮影処理や録音処理を行う(ステップSB5)。 Further, when the camera device 200 receives the trigger signal described above from the sensor device 300 (step SB4: YES), the camera device 200 responds to conditions such as the type of trigger indicated by the trigger ID and a predetermined shooting mode. Perform shooting processing and recording processing (step SB5).

具体的には、図3に示したように、トリガーIDが「01」のときには、全天周モードによる静止画撮影を行い、トリガーIDが「02」のときには、人物撮影モードによる静止画撮影処理を行い、トリガーIDが「04」のときには、風景撮影モードによる静止画撮影処理を行う。 Specifically, as shown in FIG. 3, when the trigger ID is "01", the still image shooting is performed in the all-sky mode, and when the trigger ID is "02", the still image shooting process is performed in the portrait shooting mode. When the trigger ID is "04", the still image shooting process in the landscape shooting mode is performed.

さらに、トリガーIDが「03」のときには、その時点のモード条件に応じた記録動作を行う。すなわち、その時点の明るさが閾値以上で、かつ画角内に移動体がない場合には、ショートムービーによる動画撮影処理を行う。また、その時点の明るさが閾値以上で、かつ画角内に移動体がある場合には、連写モードによる静止画撮影処理を行う。また、その時点の明るさが閾値未満である場合には、録音処理を行う。なお、ステップSB5の処理に際して、その時点の明るさは、撮像部203によって得られる画像から検出され、画角内における移動体の有無も、撮像部203によって得られる複数フレームの画像によって判断される。 Further, when the trigger ID is "03", the recording operation is performed according to the mode condition at that time. That is, when the brightness at that time is equal to or higher than the threshold value and there is no moving object within the angle of view, a moving image shooting process using a short movie is performed. If the brightness at that time is equal to or higher than the threshold value and there is a moving object within the angle of view, the still image shooting process is performed in the continuous shooting mode. If the brightness at that time is less than the threshold value, the recording process is performed. In the process of step SB5, the brightness at that time is detected from the image obtained by the imaging unit 203, and the presence or absence of a moving object within the angle of view is also determined by the image of a plurality of frames obtained by the imaging unit 203. ..

そして、カメラ装置200は、ステップSB5の撮影処理や録音処理で取得した静止画ファイル、動画ファイル、及び、音声ファイルを記録部204に記録する(ステップSB6)。このとき、静止画ファイル、動画ファイルには、記録動作の種類(ここではトリガー信号に応じた自動撮影)を示す情報が、撮影時に使用された撮影モードや撮影日時等の他の付加情報と共に付加される。また、音声ファイルにも上記記録動作の種類(ここではトリガー信号に応じた自動録音)を示す情報が、録音日時等の他の付加情報と共に付加される。以後、カメラ装置200はステップSB1の処理へ戻り、以降の処理を繰り返す。 Then, the camera device 200 records the still image file, the moving image file, and the audio file acquired in the shooting process and the recording process of step SB5 in the recording unit 204 (step SB6). At this time, information indicating the type of recording operation (here, automatic shooting according to the trigger signal) is added to the still image file and the moving image file together with other additional information such as the shooting mode used at the time of shooting and the shooting date and time. Will be done. Further, information indicating the type of the recording operation (here, automatic recording according to the trigger signal) is added to the audio file together with other additional information such as the recording date and time. After that, the camera device 200 returns to the process of step SB1 and repeats the subsequent processes.

次に、指標表示装置100の動作について説明する。指標表示装置100においては、ユーザーが画像処理プログラムを利用することにより、カメラ装置200とセンサー装置300を装着していたユーザーの移動経路と、カメラ装置200に記録されている任意の撮影画像等を確認することができる。 Next, the operation of the index display device 100 will be described. In the index display device 100, the user uses an image processing program to display the movement path of the user wearing the camera device 200 and the sensor device 300, an arbitrary captured image recorded on the camera device 200, and the like. You can check.

図4〜図6は、ユーザーにより画像処理プログラムが起動されたときの指標表示装置100の動作、及びそれに対応するカメラ装置200とセンサー装置300の動作とを示したフローチャートである。より具体的には、指標表示装置100とカメラ装置200とセンサー装置300とにおける各々の制御部101,201,301の処理を示した図である。 4 to 6 are flowcharts showing the operation of the index display device 100 when the image processing program is started by the user, and the corresponding operations of the camera device 200 and the sensor device 300. More specifically, it is a figure which showed the process of each control part 101, 201, 301 in an index display device 100, a camera device 200, and a sensor device 300.

図4に示したように、指標表示装置100は、画像処理プログラムを起動させると、まず、カメラ装置200へ、静止画ファイル、動画ファイル、音声ファイルの記録時の情報の送信を要求する、問い合わせ信号を送信する(ステップSC101)。一方、カメラ装置200は、この問い合わせ信号を受信すると(ステップSB101:YES)、記録部204に記憶されている静止画ファイル、動画ファイル、音声ファイルの記録時の情報を指標表示装置100に一斉に送信する(ステップSB102)。送信される記録時の情報とは、静止画ファイル、動画ファイルについてはファイル名、撮影日時、撮影モード、記録動作の種類であり、音声ファイルについてはファイル名、録音日時、記録動作の種類(自動又は手動)である。 As shown in FIG. 4, when the index display device 100 activates the image processing program, it first requests the camera device 200 to transmit information at the time of recording a still image file, a moving image file, and an audio file. A signal is transmitted (step SC101). On the other hand, when the camera device 200 receives the inquiry signal (step SB101: YES), the camera device 200 simultaneously transmits the information at the time of recording the still image file, the moving image file, and the audio file stored in the recording unit 204 to the index display device 100. Transmit (step SB102). The information at the time of recording to be transmitted is the file name, shooting date and time, shooting mode, and recording operation type for still image files and video files, and the file name, recording date and time, and recording operation type (automatic) for audio files. Or manual).

次に、指標表示装置100は、カメラ装置200から記録時の情報を受信し記憶した後(ステップSC102)、各々の画像等について記録動作の種類を確認し、それらの中にセンサー装置300から送信されたトリガー信号を受信したことによって記録されたものがあるか否かを確認する(ステップSC103)。 Next, the index display device 100 receives and stores the information at the time of recording from the camera device 200 (step SC102), confirms the type of recording operation for each image and the like, and transmits the information from the sensor device 300 into them. It is confirmed whether or not there is something recorded by receiving the triggered signal (step SC103).

ここで該当する画像等があると(ステップSC103:YES)、指標表示装置100は、直近の行動履歴が記憶済みか否かを確認し、記憶済みでなければ(ステップSC4:NO)、運動解析プログラムを起動する(ステップSC105)。運動解析プログラムは、センサー装置300に記録されている行動履歴データ(GPSデータ、外部環境データ、歩数データ)を取得し、取得した行動履歴データに基づき、センサー装置300を身に付けていたときのユーザーの運動を解析するプログラムである。 Here, if there is a corresponding image or the like (step SC103: YES), the index display device 100 confirms whether or not the latest action history is stored, and if it is not stored (step SC4: NO), the motion analysis is performed. Start the program (step SC105). The motion analysis program acquires the action history data (GPS data, external environment data, step count data) recorded in the sensor device 300, and based on the acquired action history data, when the sensor device 300 is worn. It is a program that analyzes the movement of the user.

そして、指標表示装置100は、この運動解析プログラムに従った制御部101の処理により実現される機能の一部によって、GPSデータを含む行動履歴データの送信を要求する問い合わせ信号をセンサー装置300へ送信する(ステップSC106)。ここで、センサー装置300へ送信を要求する行動履歴データは、トリガー信号によって記録された画像等に対応する1又は複数の特定のレコードのデータ、すなわち画像等の記録時に記録されていたデータである。但し、行動履歴データとして全てのレコードのデータを取得しても構わない。 Then, the index display device 100 transmits an inquiry signal requesting transmission of action history data including GPS data to the sensor device 300 by a part of the functions realized by the processing of the control unit 101 according to this motion analysis program. (Step SC106). Here, the action history data requested to be transmitted to the sensor device 300 is the data of one or a plurality of specific records corresponding to the image or the like recorded by the trigger signal, that is, the data recorded at the time of recording the image or the like. .. However, the data of all records may be acquired as the action history data.

その際、図6に示したようにセンサー装置300は、この問い合わせ信号を受信すると(ステップSA101:YES)、行動履歴記憶部305に記憶されている行動履歴データ(要求されたレコードのデータ)を指標表示装置100に送信する(ステップSA102)。 At that time, as shown in FIG. 6, when the sensor device 300 receives this inquiry signal (step SA101: YES), the sensor device 300 stores the action history data (data of the requested record) stored in the action history storage unit 305. It is transmitted to the index display device 100 (step SA102).

そして、指標表示装置100は、センサー装置300から行動履歴データを受信した後(ステップSC107)、受信した行動履歴データの内で、トリガー信号によって記録された静止画ファイル、動画ファイル、音声ファイルの記録時の情報(撮影日時、録音日時)と同じ日時に測位されたGPSデータとを対応付けて記憶部104のログテーブル1041に記憶する(ステップSC108)。 Then, after receiving the action history data from the sensor device 300 (step SC107), the index display device 100 records the still image file, the moving image file, and the audio file recorded by the trigger signal in the received action history data. The time information (shooting date / time, recording date / time) and the GPS data measured at the same date / time are associated with each other and stored in the log table 1041 of the storage unit 104 (step SC108).

さらに、図5に示したように、指標表示装置100は、静止画ファイル、動画ファイル、音声ファイルの記録時の情報に関係付けてアイコン画像と合成文字とを記憶部104に記憶する(ステップSC109)。ここで、アイコン画像は、画像処理プログラムに予め用意されている画像であり、画像等の記録時におけるカメラ装置200の撮影モードに対応する画像である。具体的には、静止画ファイル、動画ファイルについては記録時の撮影モード毎に用意されている画像であり、音声ファイルについては録音動作を示す画像である。尚、これらのアイコン画像については、予め用意されたものでなく、静止画ファイルや動画ファイル、音声ファイルのプロファイルデータから撮影モードを把握し、最適なアイコン画像を生成するようにしても良い。また、合成文字は、トリガー信号によって記録された各々の画像等における撮影モードや行動履歴データに含まれるトリガーIDにより示されるトリガー出力条件(図3参照)に基づいて生成される文字である。 Further, as shown in FIG. 5, the index display device 100 stores the icon image and the composite character in the storage unit 104 in relation to the information at the time of recording the still image file, the moving image file, and the audio file (step SC109). ). Here, the icon image is an image prepared in advance in the image processing program, and is an image corresponding to the shooting mode of the camera device 200 at the time of recording the image or the like. Specifically, the still image file and the moving image file are images prepared for each shooting mode at the time of recording, and the audio file is an image showing the recording operation. Note that these icon images are not prepared in advance, and the shooting mode may be grasped from the profile data of the still image file, the moving image file, or the audio file, and the optimum icon image may be generated. Further, the composite character is a character generated based on the trigger output condition (see FIG. 3) indicated by the trigger ID included in the shooting mode and the action history data in each image or the like recorded by the trigger signal.

図7は、以上の処理により記憶部104内にあるログテーブル1041の記憶内容を示す図である。同図においては、互いに関係付けて記憶される各々の画像等の情報(リンクされている静止画ファイル、動画ファイル、音声ファイルのファイル名)、GPSデータ、アイコン画像(ファイル名)、合成文字の例を、アイコン画像の決定に使用される撮影モード、及び撮影モードと共に合成文字の決定に使用されるトリガーIDと、画像等の記録時におけるセンサー値(歩数を含む)と共に便宜的に示した図である。なお、同図においてGPSデータは便宜的に示したものであり、ここでは特定の地点「A」〜「N」の各地点を示すデータである。 FIG. 7 is a diagram showing the stored contents of the log table 1041 in the storage unit 104 by the above processing. In the figure, information such as images (linked still image files, video files, audio file file names), GPS data, icon images (file names), and composite characters that are stored in relation to each other. An example is shown for convenience with the shooting mode used to determine the icon image, the trigger ID used to determine the composite character together with the shooting mode, and the sensor value (including the number of steps) at the time of recording the image or the like. Is. Note that the GPS data in the figure is shown for convenience, and here, it is data indicating each of the specific points "A" to "N".

ここで、ステップSC109の処理で記憶部104に記憶される合成文字の内容について説明すると、トリガーIDが「01」に対応するレコードのデータには、GPSデータの地点「B」において、センサー値において加速度が閾値未満であって、GPSデータを受信したその場所でユーザーが立ち止まっている可能性が高いので「停止!」という合成文字が記憶される。 Here, the contents of the composite characters stored in the storage unit 104 in the process of step SC109 will be described. The data of the record corresponding to the trigger ID "01" includes the GPS data at the point "B" and the sensor value. Since the acceleration is less than the threshold value and there is a high possibility that the user is stopped at the place where the GPS data is received, the composite character "Stop!" Is stored.

また、画像等に対応するトリガーIDが「02」に対応するレコードのデータには、GPSデータの地点「C」において、歩数データが1000歩をカウントしたので、「1000歩!」という合成文字が記憶される。 Further, in the data of the record corresponding to the trigger ID corresponding to the image or the like "02", since the step count data counted 1000 steps at the GPS data point "C", the composite character "1000 steps!" Is displayed. Be remembered.

また、画像等に対応するトリガーIDが「03」に対応するレコードのデータには、GPSデータの地点「K」において、加速度データが閾値以上になっているので、ユーザーが何かを見回している状態と判断し、「View!」という合成文字が記憶される。 Further, in the data of the record whose trigger ID corresponding to the image or the like corresponds to "03", the acceleration data is equal to or higher than the threshold value at the GPS data point "K", so that the user is looking around. Judging as a state, the composite character "View!" Is stored.

また、画像等に対応するトリガーIDが「04」に対応するレコードのデータには、GPSデータの地点「L」において、センサー装置300から送信されたセンサー値(高度データ)において高度400mが記録されているので、「400M!」という合成文字が記憶される。 Further, in the data of the record whose trigger ID corresponding to the image or the like corresponds to "04", the altitude of 400 m is recorded in the sensor value (altitude data) transmitted from the sensor device 300 at the GPS data point "L". Therefore, the composite character "400M!" Is stored.

引き続き、指標表示装置100は、外部の地図サーバー400に接続し、ステップSC107の処理で取得した行動履歴データに含まれる複数のGPSデータに対応する測位場所を含んだ範囲の地図データを地図サーバー400から取得する(ステップSC110)。 Subsequently, the index display device 100 connects to the external map server 400, and maps data in a range including the positioning location corresponding to the plurality of GPS data included in the action history data acquired in the process of step SC107 to the map server 400. Obtained from (step SC110).

次に、指標表示装置100は、地図サーバー400から取得した地図データに基づく地図であって、各々の静止画ファイル、動画ファイル、音声ファイルが記録された記録地点(撮影地点や録音地点)を含む範囲の地図を表示部106に表示し、その地図上にユーザーの行動履歴(移動経路)を表示するとともに、図7に登録された内容で指標化して表示する(ステップSC111)。 Next, the index display device 100 is a map based on map data acquired from the map server 400, and includes recording points (shooting points and recording points) in which each still image file, moving image file, and audio file are recorded. A map of the range is displayed on the display unit 106, the user's action history (movement route) is displayed on the map, and the contents registered in FIG. 7 are indexed and displayed (step SC111).

図8は、図7に例示した静止画ファイル、動画ファイル、音声ファイルのファイル名、アイコン画像(ファイル名)、合成文字が、GPSデータと対応付けられて表示部106に表示されている場合の例を示した図である。 FIG. 8 shows a case where the still image file, the moving image file, the file name of the audio file, the icon image (file name), and the composite character illustrated in FIG. 7 are displayed on the display unit 106 in association with the GPS data. It is a figure which showed an example.

具体的に説明すると、ステップSC110の処理に際して指標表示装置100は、図8に示したように、表示部106に表示した地図上に、ステップSC107の処理で取得した行動履歴データのGPSデータに基づいてユーザーの移動経路1001を描画し、その移動経路1001上に各々の静止画ファイル、動画ファイル、音声ファイルが記録された各地点A〜N(図で黒丸)を表示する。 Specifically, in the process of step SC110, the index display device 100 is based on the GPS data of the action history data acquired in the process of step SC107 on the map displayed on the display unit 106 as shown in FIG. The user's movement path 1001 is drawn, and points A to N (black circles in the figure) in which each still image file, moving image file, and audio file are recorded are displayed on the movement path 1001.

また、指標表示装置100は、各地点A〜Nの近傍に、そこで記録された画像等の撮影モードに対応するアイコン画像(指標)をそれらの記録時の情報としてそれぞれ表示する。すなわち撮影画像(静止画ファイル、動画ファイル)については撮影モード(インターバル撮影を含む)に対応するアイコン画像を表示し、音声(音声ファイル)については録音モードに対応するアイコン画像を表示する。さらに、指標表示装置100は、トリガー信号により画像等が記録されていた地点B,C,K〜Nの近傍には、アイコン画像と共に合成文字(「停止!」等)をそれぞれ表示する。 Further, the index display device 100 displays icon images (indexes) corresponding to the shooting modes such as images recorded there in the vicinity of the points A to N as information at the time of recording them. That is, the icon image corresponding to the shooting mode (including interval shooting) is displayed for the captured image (still image file, moving image file), and the icon image corresponding to the recording mode is displayed for the audio (audio file). Further, the index display device 100 displays composite characters (“stop!”, Etc.) together with the icon image in the vicinity of the points B, C, K to N where the image or the like is recorded by the trigger signal.

そして、指標表示装置100は、図8に示したような内容を表示している間に、ユーザーによって、いずれかの指標(アイコン画像)が指示(タッチ)されたことを検出すると(ステップSC112)、指示された指標に対応する画像等の静止画ファイル、動画ファイル、又は音声ファイルの送信を指示する送信指示信号をカメラ装置200へ送信する(ステップSC115)。 Then, when the index display device 100 detects that any index (icon image) is instructed (touched) by the user while displaying the contents as shown in FIG. 8 (step SC112). , A transmission instruction signal instructing the transmission of a still image file such as an image, a moving image file, or an audio file corresponding to the instructed index is transmitted to the camera device 200 (step SC115).

このとき、図3に示したようにカメラ装置200は、この送信指示信号を受信すると(ステップSB103:YES)、送信指示された止画ファイル、動画ファイル、又は音声ファイルを記録部204から読み出して指標表示装置100に送信する(ステップSB104)。 At this time, as shown in FIG. 3, when the camera device 200 receives the transmission instruction signal (step SB103: YES), the camera device 200 reads out the still image file, the moving image file, or the audio file instructed to transmit from the recording unit 204. It is transmitted to the index display device 100 (step SB104).

そして、指標表示装置100は、カメラ装置200からこれらのファイルを受信した後(ステップSC116)、受信したこれらのファイルに含まれる静止画像、動画、音声を再生する(ステップSC117)。 Then, after receiving these files from the camera device 200 (step SC116), the index display device 100 reproduces the still images, moving images, and sounds included in these received files (step SC117).

以後、指標表示装置100は、ユーザーによる確認対象の変更指示の有無、及び画像処理プログラムの終了指示の有無をそれぞれ確認する(ステップSC118、SC119)。その間、ユーザーによる確認対象の変更指示を検出すると(ステップSC118:YES)、指標表示装置100は、図4のステップSC103の処理に戻り、表示部106に地図及び行動履歴等を表示し、それ以降の処理を繰り返す。なお、図では省略したが、確認対象の変更指示を検出した時点で撮影画像を表示しているときには、その撮影画像の表示は終了する。 After that, the index display device 100 confirms whether or not there is an instruction to change the confirmation target by the user and whether or not there is an instruction to end the image processing program (steps SC118 and SC119). During that time, when the user detects a change instruction to be confirmed (step SC118: YES), the index display device 100 returns to the process of step SC103 in FIG. 4, displays a map, an action history, and the like on the display unit 106, and thereafter. Repeat the process of. Although omitted in the figure, if the captured image is displayed when the change instruction of the confirmation target is detected, the display of the captured image ends.

そして、指標表示装置100は、ユーザーに画像処理プログラムの終了が指示された時点で(ステップSC119:YES)、画像処理プログラムに係る全ての処理を終了する。 Then, when the user is instructed to end the image processing program (step SC119: YES), the index display device 100 ends all the processing related to the image processing program.

一方、上述した処理とは異なり、指標表示装置100においては、図4のステップSC103での確認結果がYESであって、カメラ装置200から記録時の情報の中にセンサー装置300から送信されたトリガー信号を受信したことによって記録されたものがなければ、以下の処理を行う。 On the other hand, unlike the above-described processing, in the index display device 100, the confirmation result in step SC103 of FIG. 4 is YES, and the trigger transmitted from the sensor device 300 in the information at the time of recording from the camera device 200. If there is nothing recorded by receiving the signal, the following processing is performed.

すなわち図5に示したように指標表示装置100は、各画像等について記録情報を指標(アイコン画像)にして表示部106の画面上に一覧表示する(ステップSC113)。
すなわち各画像等の撮影モードに対応するアイコン画像を一覧表示する。但し、音声ファイルについては撮影モードという概念は無いのでアイコン画像のみを表示する。
That is, as shown in FIG. 5, the index display device 100 displays the recorded information for each image or the like as an index (icon image) on the screen of the display unit 106 (step SC113).
That is, the icon images corresponding to the shooting modes of each image and the like are displayed in a list. However, since there is no concept of shooting mode for audio files, only icon images are displayed.

その後、指標表示装置100は、ユーザーによって画面上のいずれかの指標(アイコン画像)が指示(タッチ)されたことを検出すると(ステップSC114:YES)、指示された指標に対応する静止画ファイル、動画ファイル、又は、音声ファイルの送信を指示する送信指示信号をカメラ装置200へ送信する(ステップSC115)。 After that, when the index display device 100 detects that any index (icon image) on the screen is instructed (touched) by the user (step SC114: YES), the still image file corresponding to the instructed index is displayed. A transmission instruction signal instructing the transmission of a moving image file or an audio file is transmitted to the camera device 200 (step SC115).

このときも、図3に示したように、カメラ装置200は、この送信指示信号を受信すると(ステップSB103:YES)、指示された静止画ファイル、動画ファイル、又は、音声ファイルを記録部204から読み出して指標表示装置100に送信する(ステップSB104)。 Also at this time, as shown in FIG. 3, when the camera device 200 receives the transmission instruction signal (step SB103: YES), the camera device 200 records the instructed still image file, moving image file, or audio file from the recording unit 204. It is read out and transmitted to the index display device 100 (step SB104).

そして、指標表示装置100は、カメラ装置200から静止画ファイル、動画ファイル、又は、音声ファイルを受信した後(ステップSC116)、受信したこれらのファイルに含まれる静止画、動画、音声を再生する(ステップSC117)。その後の処理は既説したとおりである。すなわち指標表示装置100は、ユーザーによる確認対象の変更指示を検出すると(ステップSC118:YES)、図4のステップSC103の処理に戻り、それ以降の処理を繰り返す。その際も、確認対象の変更指示を検出した時点で撮影された静止画、動画を表示しているときには、それら表示を終了する。 Then, after receiving the still image file, the moving image file, or the audio file from the camera device 200 (step SC116), the index display device 100 reproduces the still image, the moving image, and the audio contained in these received files (step SC116). Step SC117). Subsequent processing is as described above. That is, when the index display device 100 detects the change instruction of the confirmation target by the user (step SC118: YES), the index display device 100 returns to the process of step SC103 of FIG. 4 and repeats the subsequent processes. Even in that case, if the still image or moving image taken at the time when the change instruction of the confirmation target is detected, the display is terminated.

しかる後、指標表示装置100は、各記録時の情報を指標化し表示部106の画面上に再び一覧表示した後(ステップSC113)、ユーザーに画像処理プログラムの終了が指示された時点で(ステップSC119:YES)、画像処理プログラムに係る全ての処理を終了する。 After that, the index display device 100 indexes the information at the time of each recording and displays the list again on the screen of the display unit 106 (step SC113), and then when the user is instructed to end the image processing program (step SC119). : YES), all processing related to the image processing program is completed.

以上のように指標表示装置100においては、ユーザーの移動経路を示した地図に、単に撮影地点や録音地点を示すのではなく、撮影地点の近傍には撮影時の撮影モードを示すアイコン画像を表示する。したがって、ユーザーに対して、移動経路上の各々の撮影地点で使用された撮影モードから、各々の撮影地点における撮影の契機(撮影が行われた理由)や撮影目的といった撮影時の状況を容易に理解させることができる。特に、撮影日から日数が経過している場合や、手動ではなく自動撮影が行われた撮影地点における撮影時の状況を確認する際には係る効果が大である。 As described above, in the index display device 100, the map showing the movement route of the user does not simply indicate the shooting point or the recording point, but displays an icon image indicating the shooting mode at the time of shooting in the vicinity of the shooting point. do. Therefore, it is easy for the user to change the shooting mode used at each shooting point on the moving path to the shooting situation such as the shooting opportunity (reason for shooting) and the shooting purpose at each shooting point. Can be understood. In particular, this effect is great when the number of days has passed since the shooting date or when the situation at the time of shooting is confirmed at the shooting point where automatic shooting is performed instead of manual shooting.

したがって、例えば撮影画像(撮影地点)が多い場合や、撮影日から日数が経過している場合等であっても、特定の状況下で自動的に撮影された撮影画像を容易に知ることができる。 Therefore, for example, even when there are many captured images (shooting points) or when the number of days has passed since the shooting date, it is possible to easily know the captured images automatically captured under a specific situation. ..

また、各々の撮影地点に表示されたアイコン画像が指示されると、それに対応する撮影画像(本画像)を表示することができるため、特定の状況下で自動的に撮影された撮影画像だけを容易に再生して内容を確認することができる。 In addition, when the icon image displayed at each shooting point is instructed, the corresponding shot image (this image) can be displayed, so only the shot image automatically shot under a specific situation can be displayed. You can easily play it back and check the contents.

また、自動撮影が行われていた撮影地点については、アイコン画像と共に合成文字を地図上に表示させることにより、撮影時点におけるユーザーの行動内容(予め決められている行動内容)も確認することができる。したがって、各々の撮影地点における撮影時の状況をより一層容易に理解させることができる。 In addition, for the shooting points where automatic shooting was performed, the user's behavior content (predetermined behavior content) at the time of shooting can also be confirmed by displaying composite characters on the map together with the icon image. .. Therefore, it is possible to more easily understand the situation at the time of shooting at each shooting point.

また、指標表示装置100においては、カメラ装置200から撮影画像の撮影時における撮影モードを無線によって取得し、かつ各々の撮影画像の撮影地点のGSPデータを無線によって取得する。したがって、指標表示装置100のユーザーは、移動途中の各々の撮影地点における撮影時の状況を容易に確認することができる。 Further, in the index display device 100, the shooting mode at the time of shooting the shot image is wirelessly acquired from the camera device 200, and the GSP data of the shooting point of each shot image is wirelessly acquired. Therefore, the user of the index display device 100 can easily confirm the situation at the time of shooting at each shooting point during movement.

また、指標表示装置100のユーザーとは異なる他のユーザーがカメラ装置200及びセンサー装置300を使用していた場合には、指標表示装置100のユーザーは、他人の撮影時の状況を容易に確認することもできる。 Further, when another user different from the user of the index display device 100 is using the camera device 200 and the sensor device 300, the user of the index display device 100 can easily confirm the situation at the time of shooting by another person. You can also do it.

なお、本実施形態において、主として指標表示装置100とカメラ装置200とセンサー装置300とからなる指標表示システムについて説明したが、指標表示装置100は、カメラ装置200とセンサー装置300の双方、又はいずれか一方の機能を備えていても構わない。また、カメラ装置200とセンサー装置300とは単一の電子機器により構成されていても良い。 In the present embodiment, the index display system mainly composed of the index display device 100, the camera device 200, and the sensor device 300 has been described, but the index display device 100 includes both the camera device 200 and the sensor device 300, or either of them. It may have one of the functions. Further, the camera device 200 and the sensor device 300 may be configured by a single electronic device.

(第2の実施の形態)
次に本発明の実施形態の第2の実施の形態ついて説明する。尚、上述の第1の実施の形態と説明や動作が同じ箇所については同じ図面及び同一の符号を用いることで説明を省略する。また、第2の実施の形態においては、指標表示装置100は、図4のステップSC106において、センサー装置300に対し全ての行動履歴データの送信を要求するものとする。
(Second Embodiment)
Next, a second embodiment of the embodiment of the present invention will be described. It should be noted that the same drawings and the same reference numerals will be used for the parts having the same description and operation as those of the first embodiment described above, and the description thereof will be omitted. Further, in the second embodiment, the index display device 100 requests the sensor device 300 to transmit all the action history data in step SC106 of FIG.

第2の実施の形態においては、指標表示装置100は記憶部104内に図9に示すような加工処理条件テーブル1042を備える。この加工処理条件テーブルには、行動履歴データに含まれる外部環境データ(高度、気温、気圧)や、ユーザーの歩数データに基づいて算出された消費カロリーデータが、所定の閾値を超えたことを条件に、その条件を満たした時を記録日時とする静止画ファイル、動画ファイル、音声ファイルを、加工処理内容に設定された内容で加工処理することを定義したテーブルである。図9の場合、例えば、条件が「気温が5度以下でAWB(オートホワイトバランス)の判定で「曇」、「日陰」判定された撮影画像については、加工条件として、水滴のイメージを合成し、ソフトフォーカス処理を施すことで、霧や靄に近い気象条件であることを強調した画像にする。また、例えば、条件が「消費カロリーが予め設定した所定値を超えた時に撮影された撮影画像については、加工条件としてメダルや勲章のイメージや所定のフレームを合成する。 In the second embodiment, the index display device 100 includes a processing processing condition table 1042 as shown in FIG. 9 in the storage unit 104. In this processing condition table, it is a condition that the external environment data (altitude, temperature, pressure) included in the action history data and the calorie consumption data calculated based on the user's step count data exceed a predetermined threshold. In addition, it is a table that defines that a still image file, a moving image file, and an audio file whose recording date and time are satisfied when the condition is satisfied are processed with the contents set in the processing contents. In the case of FIG. 9, for example, for a photographed image in which the condition is "cloudy" or "shade" in the AWB (auto white balance) judgment when the temperature is 5 degrees or less, an image of water droplets is combined as a processing condition. By applying soft focus processing, the image emphasizes that the weather conditions are close to fog and mist. Further, for example, for a photographed image taken when the condition "the calorie consumption exceeds a preset predetermined value, an image of a medal or a medal or a predetermined frame is combined as a processing condition.

また、指標表示装置100は、図4のステップSC108において、センサー装置300から行動履歴データを受信した後(ステップSC107)、受信した行動履歴データの内で、トリガー信号によって記録された静止画ファイル、動画ファイル、音声ファイルの記録時の情報(撮影日時、録音日時)と同じ日時に測位されたGPSデータとを対応付けて記憶部104のログテーブル1043に図10に図示するように記憶する。本実施の形態においては、ログテーブル1043は更に、その他の外部環境、加速度、角速度の値の集合データS1〜S14を全て受信・取得し、ログテーブル1043で静止画ファイル、動画ファイル、音声ファイルとGPSデータや取得日時で対応付けする。 Further, in step SC108 of FIG. 4, the index display device 100 receives the action history data from the sensor device 300 (step SC107), and then the still image file recorded by the trigger signal in the received action history data. The information (shooting date / time, recording date / time) at the time of recording the moving image file and the audio file is stored in the log table 1043 of the storage unit 104 in association with the GPS data measured at the same date and time as shown in FIG. In the present embodiment, the log table 1043 further receives and acquires all the set data S1 to S14 of other external environment, acceleration, and angular velocity values, and the log table 1043 includes a still image file, a moving image file, and an audio file. Correspond with GPS data and acquisition date and time.

図11は第2の実施の形態における画像処理プログラムが起動されたときの指標表示装置の動作を示すフローチャートであり、図5に示した第1の実施の形態の同フローチャートから改良したものある。
指標表示装置100の制御部110は、図5のステップSC110からの流れで行動履歴データに含まれる複数のGPSデータに対応する測位場所を含んだ範囲の地図データを地図サーバー400から取得すると、これらのGPSデータや行動履歴データから行程データを生成する(ステップSC201)。そして、取得した静止画ファイルから代表画像となるものを選択して読み出し、表紙データを生成する(ステップSC202)。
FIG. 11 is a flowchart showing the operation of the index display device when the image processing program in the second embodiment is started, and is an improvement from the flowchart of the first embodiment shown in FIG.
When the control unit 110 of the index display device 100 acquires the map data of the range including the positioning location corresponding to the plurality of GPS data included in the action history data from the map server 400 in the flow from the step SC110 of FIG. 5, these Process data is generated from the GPS data and the action history data of the above (step SC201). Then, a representative image is selected from the acquired still image files and read out to generate cover data (step SC202).

図13はこの時に生成される表紙データを図示したものである。同図においては、画面は上下に分割され、上の表示領域には、GPSデータや行動履歴データ等から得られたデータとして以下の情報が表示されている。
・現在時刻「9:34」
・GPSデータに含まれる高度データや外部環境データとして得られた高度(気圧)データから演算された到達地点の標高「標高500m」
・スタート地点から計時された経過時間「経過:1時間21分」
・外部環境データとして得られた気温(温度)データから演算された到達地点の気温「気温:14℃」
・経過時間と測位による移動距離から演算された速度「速度:3.6km/h」
・移動中に得られた加速度センサー、角速度センサー、及び、GPSデータの各値から、所定時間以上、これらの値に変化が無かった期間を休憩時間と推定した回数「休憩:2回」
・移動中に得られた加速度センサー、角速度センサーから歩数を計数し、その計数値から得られた消費カロリー「消費:256kcal」
FIG. 13 illustrates the cover data generated at this time. In the figure, the screen is divided into upper and lower parts, and the following information is displayed in the upper display area as data obtained from GPS data, action history data, and the like.
・ Current time "9:34"
-Altitude "500m" of the arrival point calculated from the altitude data included in the GPS data and the altitude (atmospheric pressure) data obtained as external environment data.
・ Elapsed time measured from the starting point "Elapsed: 1 hour 21 minutes"
-Temperature at the destination calculated from the temperature data obtained as external environment data "Temperature: 14 ° C"
-Speed calculated from the elapsed time and the distance traveled by positioning "Speed: 3.6 km / h"
-The number of times that the period during which there was no change in these values for a predetermined time or more from each value of the accelerometer, angular velocity sensor, and GPS data obtained during movement was estimated as the break time "Break: 2 times"
-The number of steps is counted from the acceleration sensor and angular velocity sensor obtained during movement, and the calorie consumption obtained from the counted value "consumption: 256 kcal"

また、下の領域には、この行程で記録された複数の静止画ファイル、または動画ファイルから選択されて読み出されたものが代表画像として表示されている。尚、この代表画像の選択方法については様々考えられる。例えば、代表画像は参加メンバー全員が含まれている画像であっても良いし、ゴール地点の風景画像であっても良い。 Further, in the lower area, a plurality of still image files recorded in this process or those selected and read from a moving image file are displayed as representative images. It should be noted that various methods for selecting the representative image can be considered. For example, the representative image may be an image including all the participating members, or may be a landscape image of the goal point.

また、表示データが生成され表示されると、ユーザーによる外部操作により行程データへの切り換え指示を検出したか否かを判断する(ステップSC203)。切り替え指示を検出しなかった場合は(ステップS203:NO)、繰り返しこの指示の検出を待つ一方、切り替え指示を検出した場合は(ステップS203:YES)、地図サーバー400から取得した地図データに基づく地図であって、各々の静止画ファイル、動画ファイル、音声ファイルが記録されたことを示す記録情報(撮影地点や録音地点)を指標化し、更に図10に記録されたユーザーの行動履歴(移動経路)を付加したものを、トップビュー1063として表示する(ステップSC204)。 Further, when the display data is generated and displayed, it is determined whether or not the instruction to switch to the process data is detected by an external operation by the user (step SC203). If the switching instruction is not detected (step S203: NO), the detection of this instruction is repeatedly waited, while if the switching instruction is detected (step S203: YES), the map based on the map data acquired from the map server 400 is used. The recorded information (shooting point and recording point) indicating that each still image file, video file, and audio file was recorded is indexed, and the user's action history (movement route) recorded in FIG. 10 is further indexed. Is added and displayed as the top view 1063 (step SC204).

具体的に説明すると、ステップSC204の処理に際して指標表示装置100は、図14(a)に示したようにトップビュー1063に表示した地図上に、ステップSC107の処理で取得した行動履歴データのGPSデータに基づいてユーザーの移動経路1001を描画し、その移動経路1001上に各々の静止画ファイル、動画ファイル、音声ファイルが記録された各地点A〜E(図で黒丸)を表示する。 Specifically, in the process of step SC204, the index display device 100 displays GPS data of the action history data acquired in the process of step SC107 on the map displayed in the top view 1063 as shown in FIG. 14 (a). A user's movement path 1001 is drawn based on the above, and points A to E (black circles in the figure) in which each still image file, moving image file, and audio file are recorded are displayed on the movement path 1001.

また、指標表示装置100は、各地点A〜Eの近傍に、そこで記録された画像等の撮影モードに対応するアイコン画像(指標)をそれらの記録時の情報としてそれぞれ表示する。すなわち撮影画像(静止画ファイル、動画ファイル)については撮影モード(インターバル撮影を含む)に対応するアイコン画像を表示し、音声(音声ファイル)については録音モードに対応するアイコン画像を表示する。さらに、指標表示装置100は、トリガー信号により画像等が記録されていた地点A〜Cの近傍には、アイコン画像と共に合成文字(「停止!」等)をそれぞれ表示する。またこの移動経路1001には、他の経路とは表示色が異なる区間1069〜1071が表示する。この区間1069〜1071は、夫々、区間の計測時間、移動距離、加速度センサーや角速度センサーの値に基づいて、その区間の移動速度を算出し、ユーザーが歩行で移動したのか、或いは走ったのか、他の移動手段(自転車や車)を用いたのかを差別化して表示したものである。 Further, the index display device 100 displays icon images (indexes) corresponding to the shooting modes such as images recorded there in the vicinity of the points A to E as information at the time of recording them. That is, the icon image corresponding to the shooting mode (including interval shooting) is displayed for the captured image (still image file, moving image file), and the icon image corresponding to the recording mode is displayed for the audio (audio file). Further, the index display device 100 displays a composite character (“stop!”, Etc.) together with the icon image in the vicinity of the points A to C where the image or the like is recorded by the trigger signal. Further, in this movement route 1001, sections 1069 to 1071 whose display colors are different from those of other routes are displayed. In each of the sections 1069 to 1071, the moving speed of the section is calculated based on the measurement time, the moving distance, and the values of the acceleration sensor and the angular velocity sensor of the section, and whether the user has moved or ran by walking. It is a differentiated display of whether other means of transportation (bicycle or car) were used.

更に同図においては、ユーザーが指標1064を指示すると、制御部110はこの移動経路1001で規則された静止画ファイル、動画ファイルを再生するよう制御する。また「バード」、「トップ」、「サイド」の表示がある1065は、移動経路1001の表示態様を表現したものであり、ユーザーの外部操作検出によって、「バード(バードビューの略表記)」、「トップ(トップビューの略表記)」、「サイド(サイドビューの略表記)」の各表示態様が切り替わる。また、トップビューの下には、GPSデータ、加速度センサー、角速度センサー、外部環境データを適宜用いて算出した、当該移動行程の所要時間1066、移動距離1067、高低差1068が表示される。尚、所要時間1066、移動距離1067、高低差1068は「バード」、「トップ」、「サイド」の各表示態様においては共通して表示されるものとする。 Further, in the figure, when the user instructs the index 1064, the control unit 110 controls to play the still image file and the moving image file regulated by the movement path 1001. Further, 1065 with the indications of "bird", "top", and "side" expresses the display mode of the movement path 1001, and by detecting the external operation of the user, "bird (abbreviation of bird view)", Each display mode of "top (abbreviation of top view)" and "side (abbreviation of side view)" is switched. Further, below the top view, the required time 1066, the moving distance 1067, and the height difference 1068 of the moving stroke calculated by appropriately using the GPS data, the acceleration sensor, the angular velocity sensor, and the external environment data are displayed. The required time 1066, the moving distance 1067, and the height difference 1068 are commonly displayed in each of the "bird", "top", and "side" display modes.

制御部101はユーザーによる外部操作で1065における何れか他の表示(この場合は「バード」、「サイド」の何れか)への切り換えが指示されたか否かを判断する(ステップSC205)。切り換えの指示を検出しなかった場合は(ステップSC205:NO)、図5のステップSC112へ移行する。一方、表示の切り換えの指示を検出した場合は(ステップSC205:YES)、その切り換えが「バード」への表示の切り換え指示か、或いは、「サイド」への表示の切り換え指示かを判断する(ステップSC206)。 The control unit 101 determines whether or not a switch to any other display (in this case, "bird" or "side") in 1065 is instructed by an external operation by the user (step SC205). If the switching instruction is not detected (step SC205: NO), the process proceeds to step SC112 in FIG. On the other hand, when the display switching instruction is detected (step SC205: YES), it is determined whether the switching is the display switching instruction to "bird" or the display switching instruction to "side" (step). SC206).

制御部101は「バード」への切り換え指示を検出すると、トップビュー1063から各々の静止画ファイル、動画ファイル、音声ファイルが記録されたことを示す記録情報(撮影地点や録音地点)を指標化し、更に図10に記録されたユーザーの行動履歴(移動経路)を付加したものを、俯瞰視による3D(立体)表示であるバードビュー1072として表示する(ステップSC207)。この時、指標表示装置100は、図14(b)に示したようにバードビュー1072に表示した地図上に、ステップSC107の処理で取得した行動履歴データのGPSデータに基づいてユーザーの移動経路1001を描画し、その移動経路1001上に各々の静止画ファイル、動画ファイル、音声ファイルが記録された各地点A〜G(図で黒丸)を表示する。尚、この表示においては、すなわち撮影画像(静止画ファイル、動画ファイル)については撮影モード(インターバル撮影を含む)に対応するアイコン画像は表示しないが、これらの画像を表示させてよい。 When the control unit 101 detects the switching instruction to "bird", it indexes the recording information (shooting point or recording point) indicating that each still image file, moving image file, or audio file has been recorded from the top view 1063. Further, the one to which the user's action history (movement path) recorded in FIG. 10 is added is displayed as a bird view 1072 which is a 3D (three-dimensional) display by a bird's-eye view (step SC207). At this time, the index display device 100 sets the user's movement route 1001 on the map displayed in the bird view 1072 as shown in FIG. 14B based on the GPS data of the action history data acquired in the process of step SC107. Is drawn, and points A to G (black circles in the figure) in which each still image file, moving image file, and audio file are recorded are displayed on the movement path 1001. In this display, that is, the icon images corresponding to the shooting modes (including interval shooting) are not displayed for the shot images (still image files, moving image files), but these images may be displayed.

制御部101はユーザーによる外部操作で1065における何れか他の表示への切り換えが指示されたか否かを判断する(ステップSC208)。またステップSC208で切り換え指示が検出されない場合(ステップSC208:NO)、当該アプリ(アプリケーションソフトウェア)の終了指示を検出したか否かを判断する(ステップS209)。ステップSC209でアプリの終了指示を検出すると(ステップSC209:YES)、当該処理を終了する。一方、ステップSC209でアプリの終了指示を検出しない場合(ステップSC209:NO)、ステップSC206の処理に戻る。また、ステップSC208において、切り換え指示が検出された場合(ステップS208:YES)、更に、切り換え指示された表示が、「サイド」、「トップ」の何れなのかを判断する(ステップSC210)。 The control unit 101 determines whether or not a switch to any other display in 1065 has been instructed by an external operation by the user (step SC208). If the switching instruction is not detected in step SC208 (step SC208: NO), it is determined whether or not the termination instruction of the application (application software) has been detected (step S209). When the end instruction of the application is detected in step SC209 (step SC209: YES), the process is terminated. On the other hand, when the end instruction of the application is not detected in step SC209 (step SC209: NO), the process returns to the process of step SC206. Further, when the switching instruction is detected in step SC208 (step S208: YES), it is further determined whether the switching instruction display is “side” or “top” (step SC210).

ここで「トップ」への切り換え指示を検出した場合はステップSC204に移行する。一方、「サイド」への切り換え指示を検出した場合は、地図を表示することなく、各々の静止画ファイル、動画ファイル、音声ファイルが記録されたことを示す記録情報(撮影地点や録音地点)を指標化し、更に図10に記録されたユーザーの行動履歴のうち高度データや加速度センサー、角速度センサー等の計測データ(主に傾斜角度)から得た行程データを付加したものを、サイドビュー1073として表示する(ステップSC211)。 If a switching instruction to "top" is detected here, the process proceeds to step SC204. On the other hand, when a switch to "side" instruction is detected, the recording information (shooting point or recording point) indicating that each still image file, video file, or audio file has been recorded is displayed without displaying the map. The side view 1073 is obtained by indexing the user's behavior history recorded in FIG. 10 and adding process data obtained from measurement data (mainly tilt angle) such as altitude data, acceleration sensor, and angular velocity sensor. (Step SC211).

具体的に説明すると、ステップSC211の処理に際して指標表示装置100は、図14(c)に示したように移動経路の高低を簡略的に表示したものに、各々の静止画ファイル、動画ファイル、音声ファイルが記録された各地点A〜G(図で黒丸)を表示する。尚、この表示においては、すなわち撮影画像(静止画ファイル、動画ファイル)については撮影モード(インターバル撮影を含む)に対応するアイコン画像は表示しないが、これらの画像を表示させてよい。 Specifically, in the processing of step SC211, the index display device 100 simply displays the height of the movement path as shown in FIG. 14 (c), and each still image file, moving image file, and audio are displayed. Display each point A to G (black circle in the figure) where the file was recorded. In this display, that is, the icon images corresponding to the shooting modes (including interval shooting) are not displayed for the shot images (still image files, moving image files), but these images may be displayed.

制御部101はユーザーによる外部操作で1065における何れか他の表示への切り換えが指示されたか否かを判断する(ステップSC212)。またステップSC212で切り換え指示が検出されない場合(ステップSC212:NO)、当該アプリ(アプリケーションソフトウェア)の終了指示を検出したか否かを判断する(ステップS213)。ステップSC213でアプリの終了指示を検出すると(ステップSC213:YES)、当該処理を終了する。一方、ステップSC213でアプリの終了指示を検出しない場合(ステップSC213:NO)、ステップSC211の処理に戻る。また、ステップSC212において、切り換え指示が検出された場合(ステップS212:YES)、更に、切り換え指示された表示が、「トップ」、「バード」の何れなのかを判断する(ステップSC214)。ここで「トップ」への切り換え指示を検出した場合はステップSC204に移行する。一方、「バード」への切り換え指示を検出した場合は、ステップSC207に移行する。 The control unit 101 determines whether or not a switch to any other display in 1065 has been instructed by an external operation by the user (step SC212). If the switching instruction is not detected in step SC212 (step SC212: NO), it is determined whether or not the termination instruction of the application (application software) has been detected (step S213). When the end instruction of the application is detected in step SC213 (step SC213: YES), the process is terminated. On the other hand, when the end instruction of the application is not detected in step SC213 (step SC213: NO), the process returns to the process of step SC211. Further, when the switching instruction is detected in step SC212 (step S212: YES), it is further determined whether the switching instruction display is "top" or "bird" (step SC214). If a switching instruction to "top" is detected here, the process proceeds to step SC204. On the other hand, when the instruction to switch to "bird" is detected, the process proceeds to step SC207.

また、指標表示装置100は、図12に図示するように、カメラ装置200から静止画ファイル、動画ファイル、又は、音声ファイルを受信した後(ステップSC116)、これらのファイルの取得(記録・撮像)時における外部環境データや加速度センサー、角速度センサーから算出された歩数データ、及び、この歩数データから求められる消費カロリーデータを取得し、これら取得されたデータが、図9の加工処理条件テーブルに設定された条件を満たし、その結果、対応する静止画ファイル、動画ファイル、又は、音声ファイルが加工処理対象になるか否かを判断する(ステップSC120)。加工対象になっていると判断された場合は(ステップSC120:YES)、対象となる静止画ファイル、動画ファイル、又は、音声ファイルが加工処理し(ステップSC121)、加工処理された静止画、動画、音声を再生する(ステップSC122)。尚、この加工処理の概要については、図9の説明にて記載したので省略する。一方、加工対象になっていないと判断された場合は(ステップSC120:NO)、受信したこれらのファイルに含まれる静止画、動画、音声を再生する。 Further, as shown in FIG. 12, the index display device 100 receives a still image file, a moving image file, or an audio file from the camera device 200 (step SC116), and then acquires (records / images) these files. The external environment data at the time, the step count data calculated from the acceleration sensor and the angular velocity sensor, and the calorie consumption data obtained from the step count data are acquired, and these acquired data are set in the processing condition table of FIG. It is determined whether or not the corresponding still image file, moving image file, or audio file is subject to processing processing as a result of satisfying the above conditions (step SC120). If it is determined that the target is to be processed (step SC120: YES), the target still image file, moving image file, or audio file is processed (step SC121), and the processed still image or moving image is processed. , Play the audio (step SC122). The outline of this processing is described in the description of FIG. 9, and will be omitted. On the other hand, when it is determined that the processing target is not (step SC120: NO), the still image, the moving image, and the sound included in these received files are reproduced.

以上のように第2の実施の形態の指標表示装置100においては、移動経路を複数種で表現することができる。このため、どのような地形を移動したのか等の理解が容易になる。また、外部環境や行動履歴と加工処理条件とを紐付けすることで、受信した静止画ファイル、動画ファイル、又は、音声ファイルを、特定の目標を達成した記念として再生出力することができる。 As described above, in the index display device 100 of the second embodiment, the movement route can be represented by a plurality of types. Therefore, it becomes easy to understand what kind of terrain has been moved. In addition, by associating the external environment and action history with the processing conditions, the received still image file, moving image file, or audio file can be reproduced and output as a memorial to the achievement of a specific goal.

なお、本実施形態において、主として指標表示装置100とカメラ装置200とセンサー装置300とからなる指標表示システムについて説明したが、指標表示装置100は、カメラ装置200とセンサー装置300の双方、又はいずれか一方の機能を備えていても構わない。また、カメラ装置200とセンサー装置300とは単一の電子機器により構成されていても良い。 In the present embodiment, the index display system mainly composed of the index display device 100, the camera device 200, and the sensor device 300 has been described, but the index display device 100 includes both the camera device 200 and the sensor device 300, or either of them. It may have one of the functions. Further, the camera device 200 and the sensor device 300 may be configured by a single electronic device.

以上、本発明の実施形態、及びその変形例について説明したが、これらは本発明の作用
効果が得られる範囲内であれば適宜変更が可能であり、変更後の実施形態も特許請求の範
囲に記載された発明、及びその発明と均等の発明の範囲に含まれる。以下に、本出願の当
初の特許請求の範囲に記載された発明を付記する。
(付記1)
画像の撮影に関する位置情報を取得する位置情報取得手段と、
画像の撮影に関する所定情報を取得する撮影情報取得手段と、
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、
前記位置情報取得手段によって取得された位置情報により示される位置に前記生成手段によって生成された指標画像を表示する表示手段と
を備えることを特徴とする指標表示装置。
(付記2)
前記画像を撮影した撮像装置を携行する者の、行動に関する情報を取得する行動情報取得手段を更に備え、
前記表示手段は更に、前記行動情報取得手段によって取得された前記行動に関する情報を前記所定情報と対応付けて表示する
ことを特徴とする請求項1に記載の指標表示装置。
(付記3)
前記行動に関する情報は、前記携行する者の複数種の移動態様を含み、
前記表示手段は、前記行動に関する情報として前記複数種の移動態様を夫々識別可能に表示することを特徴とする請求項2に記載の指標表示装置。
(付記4)
前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得手段を更に備え、
前記表示手段は更に、前記外部環境情報取得手段によって取得された前記外部環境に関する情報を表示することを特徴とする請求項1乃至3の何れか1項に記載の指標表示装置。
(付記5)
前記表示手段によって表示された前記所定情報に対する指示を検出する指示検出手段と、
前記指示検出手段によって指示が検出された前記所定情報に対応する画像を前記表示手段に表示させるよう制御する表示制御手段と
を更に備えることを特徴とする請求項1乃至3の何れか1項に記載の指標表示装置。
(付記6)
前記表示手段に表示される画像と前記行動に関する情報とを対応付けるよう制御する第1の制御手段を更に備え、
前記表示制御手段は、前記表示手段に画像を表示する場合、前記第1の制御手段によって対応付けられた前記行動に関する情報に基づく表示態様で、当該画像を表示するよう制御することを特徴とする請求項5記載の指標表示装置。
(付記7)
前記表示手段に表示される画像と外部環境に関する情報とを対応付けるよう制御する第2の制御手段を更に備え、
前記表示制御手段は、前記表示手段に画像を表示する場合、前記第2の制御手段によって対応付けられた前記外部環境に関する情報に基づく表示態様で、当該画像を表示するよう制御することを特徴とする請求項5又は6に記載の指標表示装置。
(付記8)
前記表示制御手段は、表示対象なる画像に対し所定の加工若しくは他の画像を合成するよう制御することを特徴とする請求項6又は7に記載の指標表示装置。
(付記9)
外部機器と通信する通信手段を更に備え、
前記画像、前記位置情報、前記所定情報の少なくとも一つは、前記通信手段により受信されたものであることを特徴とする請求項1乃至8の何れか1項に記載の指標表示装置。
(付記10)
前記所定情報とは、前記画像の撮影に使用された撮影モードであることを特徴とする請求項1乃至9のいずれか1項に記載の指標表示装置。
(付記11)
前記画像には、所定の条件を満たしたことを契機として撮影されたものが含まれることを特徴とする請求項1乃至10のいずれか1項に記載の指標表示装置。
(付記12)
画像の撮影に関する位置情報を取得する位置情報取得ステップと、
画像の撮影に関する所定情報を取得する撮影情報取得ステップと、
前記撮影情報取得ステップにて取得された前記所定情報に基づいて指標画像を生成する生成ステップと、
前記位置情報取得ステップにて取得された位置情報により示される位置に前記生成ステップにて生成された指標画像を表示させる表示ステップと
を含むことを特徴とする指標表示方法。
(付記13)
コンピュータを、
画像の撮影に関する位置情報を取得する位置情報取得手段、
画像の撮影に関する所定情報を取得する撮影情報取得手段、
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段、
前記位置情報取得手段によって取得された位置情報により示される位置に前記生成手段によって生成された指標画像を表示させる表示手段
として機能させることを特徴とするプログラム。
(付記14)
表示装置と、携行者の移動中における位置情報を逐次記録する位置情報記録装置と、当該携行者が携行する撮像装置と、を含む指標表示システムであって、
前記表示装置は、
前記位置情報を前記位置情報記録装置から取得する位置情報取得手段と、
前記撮像装置に記録された画像の撮影に関する所定情報を前記撮像装置から取得する撮影情報取得手段と、
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、
前記位置情報取得手段によって取得された位置情報により示される位置に前記生成手段によって生成された指標画像を表示するよう制御する表示制御手段と
を備えたことを特徴とする指標表示システム。
The embodiments of the present invention and modifications thereof have been described above, but these can be appropriately changed as long as the effects of the present invention can be obtained, and the modified embodiments are also within the scope of claims. It is included in the scope of the described invention and the invention equivalent to the invention. The inventions described in the claims of the original application of this application are described below.
(Appendix 1)
Location information acquisition means for acquiring location information related to image capture,
Shooting information acquisition means for acquiring predetermined information regarding image shooting,
A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and a generation means.
An index display device comprising: a display means for displaying an index image generated by the generation means at a position indicated by the position information acquired by the position information acquisition means.
(Appendix 2)
Further provided with a behavior information acquisition means for acquiring information on the behavior of the person carrying the image pickup device that captured the image.
The index display device according to claim 1, wherein the display means further displays information about the behavior acquired by the behavior information acquisition means in association with the predetermined information.
(Appendix 3)
The information regarding the behavior includes a plurality of types of movement modes of the carrying person.
The index display device according to claim 2, wherein the display means displays the plurality of types of movement modes in an identifiable manner as information on the behavior.
(Appendix 4)
Further provided with an external environment information acquisition means for acquiring information on the external environment of the imaging device that captured the image.
The index display device according to any one of claims 1 to 3, wherein the display means further displays information about the external environment acquired by the external environment information acquisition means.
(Appendix 5)
An instruction detecting means for detecting an instruction for the predetermined information displayed by the display means, and
The invention according to any one of claims 1 to 3, further comprising a display control means for controlling the display means to display an image corresponding to the predetermined information for which an instruction has been detected by the instruction detection means. The index display device described.
(Appendix 6)
A first control means for controlling so as to associate an image displayed on the display means with information related to the behavior is further provided.
When displaying an image on the display means, the display control means controls to display the image in a display mode based on the information related to the behavior associated with the first control means. The index display device according to claim 5.
(Appendix 7)
A second control means for controlling so as to associate the image displayed on the display means with the information about the external environment is further provided.
When displaying an image on the display means, the display control means controls to display the image in a display mode based on information about the external environment associated with the second control means. The index display device according to claim 5 or 6.
(Appendix 8)
The index display device according to claim 6 or 7, wherein the display control means controls the image to be displayed so as to perform predetermined processing or synthesize another image.
(Appendix 9)
Further equipped with communication means to communicate with external devices
The index display device according to any one of claims 1 to 8, wherein at least one of the image, the position information, and the predetermined information is received by the communication means.
(Appendix 10)
The index display device according to any one of claims 1 to 9, wherein the predetermined information is a shooting mode used for shooting the image.
(Appendix 11)
The index display device according to any one of claims 1 to 10, wherein the image includes an image taken when a predetermined condition is satisfied.
(Appendix 12)
The location information acquisition step to acquire the location information related to image shooting, and
A shooting information acquisition step for acquiring predetermined information regarding image shooting, and
A generation step of generating an index image based on the predetermined information acquired in the shooting information acquisition step, and a generation step.
An index display method including a display step for displaying an index image generated in the generation step at a position indicated by the position information acquired in the position information acquisition step.
(Appendix 13)
Computer,
Location information acquisition means for acquiring location information related to image capture,
Shooting information acquisition means for acquiring predetermined information regarding image shooting,
A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means,
A program characterized in that it functions as a display means for displaying an index image generated by the generation means at a position indicated by the position information acquired by the position information acquisition means.
(Appendix 14)
An index display system including a display device, a position information recording device that sequentially records position information while the carrier is moving, and an imaging device carried by the carrier.
The display device is
A position information acquisition means for acquiring the position information from the position information recording device, and
An imaging information acquisition means for acquiring predetermined information regarding imaging of an image recorded in the imaging device from the imaging device, and
A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and a generation means.
An index display system including a display control means for controlling the display of an index image generated by the generation means at a position indicated by the position information acquired by the position information acquisition means.

100 指標表示装置
101 制御部
102 第1の無線通信部
103 第2の無線通信部
104 記憶部
105 音声出力部
106 表示部
107 入力部
200 カメラ装置
201 制御部
203 撮像部
303 モーションセンサー部
204 記録部
205 音声入力部
206 無線通信部
207 入力部
300 センサー装置
301 制御部
302 位置情報取得部
304 外部環境取得部
305 行動履歴記憶部
306 無線通信部
400 地図サーバー
401 地図データベース
500 インターネット
1001 移動経路
100 Index display device 101 Control unit 102 First wireless communication unit 103 Second wireless communication unit 104 Storage unit 105 Audio output unit 106 Display unit 107 Input unit 200 Camera device 201 Control unit 203 Imaging unit 303 Motion sensor unit 204 Recording unit 205 Voice input unit 206 Wireless communication unit 207 Input unit 300 Sensor device 301 Control unit 302 Position information acquisition unit 304 External environment acquisition unit 305 Action history storage unit 306 Wireless communication unit 400 Map server 401 Map database 500 Internet 1001 Movement route

Claims (12)

画像の撮影に関する位置情報を取得する位置情報取得手段と、
画像の撮影に関する所定情報を取得する撮影情報取得手段と、
前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得手段と、
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、
前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示する表示手段と
を備え
前記位置情報取得手段が取得する位置情報は高度を含み、
前記表示手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする指標表示装置。
Location information acquisition means for acquiring location information related to image capture,
Shooting information acquisition means for acquiring predetermined information regarding image shooting,
An external environment information acquisition means for acquiring information on the external environment of the imaging device that captured the image, and
A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and a generation means.
An index indicating that the predetermined information is acquired at a display position corresponding to the position information acquired by the position information acquisition means, an index image generated by the generation means, and the external environment information acquisition. A display means for displaying the information about the external environment acquired by the means, and a display means for displaying the information.
Equipped with a,
The position information acquired by the position information acquisition means includes altitude and includes altitude.
Based on the operation detection from the outside, the display means includes an index indicating that the predetermined information is acquired at the display position indicated by the information not including the altitude in the position information, the index image, and the outside. A first display mode for displaying information about the environment and a second display mode for displaying an index indicating that the predetermined information is acquired at the display position indicated by the information including altitude in the position information. An index display device characterized by displaying in any of the display modes of.
前記画像を撮影した撮像装置を携行する者の、行動に関する情報を取得する行動情報取得手段を更に備え、
前記表示手段は更に、前記第1の表示モードで前記行動情報取得手段によって取得された前記行動に関する情報を前記所定情報と対応付けて表示する
ことを特徴とする請求項1に記載の指標表示装置。
Further provided with a behavior information acquisition means for acquiring information on the behavior of the person carrying the image pickup device that captured the image.
The index display device according to claim 1, wherein the display means further displays information about the action acquired by the action information acquisition means in the first display mode in association with the predetermined information. ..
前記行動に関する情報は、前記携行する者の複数種の移動態様を含み、
前記表示手段は、前記第1の表示モードで前記行動に関する情報として前記複数種の移動態様を夫々識別可能に表示することを特徴とする請求項2に記載の指標表示装置。
The information regarding the behavior includes a plurality of types of movement modes of the carrying person.
The index display device according to claim 2, wherein the display means displays the plurality of types of movement modes in an identifiable manner as information on the behavior in the first display mode.
前記撮像装置によって撮影された画像と前記行動に関する情報とを対応付けるよう制御する第1の制御手段を更に備え、
前記表示手段は、前記撮影された画像を表示する場合、前記第1の制御手段によって対応付けられた前記行動に関する情報に基づく表示態様で、前記撮影された画像を表示することを特徴とする請求項2又は3に記載の指標表示装置。
Further, a first control means for controlling so as to associate the image captured by the image pickup device with the information related to the behavior is provided.
When displaying the captured image, the display means displays the captured image in a display mode based on the information related to the behavior associated with the first control means. Item 2. The index display device according to item 2 or 3.
前記撮像装置によって撮影された画像と外部環境に関する情報とを対応付けるよう制御する第2の制御手段を更に備え、
前記表示手段は、前記撮影された画像を表示する場合、前記第2の制御手段によって対応付けられた前記外部環境に関する情報に基づく表示態様で、前記撮影された画像を表示することを特徴とする請求項4に記載の指標表示装置。
Further, a second control means for controlling so as to associate the image captured by the image pickup device with the information about the external environment is provided.
When displaying the captured image, the display means displays the captured image in a display mode based on information about the external environment associated with the second control means. The index display device according to claim 4.
前記表示手段は、表示対象となる画像に対し所定の加工若しくは他の画像を合成したものを表示することを特徴とする請求項5に記載の指標表示装置。 The index display device according to claim 5, wherein the display means displays an image to be displayed by combining a predetermined process or another image. 外部機器と通信する通信手段を更に備え、
前記撮影された画像、前記位置情報、前記所定情報の少なくとも一つは、前記通信手段により受信されたものであることを特徴とする請求項1乃至6の何れか1項に記載の指標表示装置。
Further equipped with communication means to communicate with external devices
The index display device according to any one of claims 1 to 6, wherein at least one of the captured image, the position information, and the predetermined information is received by the communication means. ..
前記所定情報とは、前記画像の撮影に使用された撮影モードであることを特徴とする請求項1乃至7のいずれか1項に記載の指標表示装置。 The index display device according to any one of claims 1 to 7, wherein the predetermined information is a shooting mode used for shooting the image. 前記撮影された画像には、所定の条件を満たしたことを契機として撮影されたものが含まれることを特徴とする請求項1乃至8のいずれか1項に記載の指標表示装置。 The index display device according to any one of claims 1 to 8, wherein the captured image includes an image captured when a predetermined condition is satisfied. 画像の撮影に関する位置情報を取得する位置情報取得ステップと、The location information acquisition step to acquire the location information related to image shooting, and
画像の撮影に関する所定情報を取得する撮影情報取得ステップと、A shooting information acquisition step for acquiring predetermined information regarding image shooting, and
前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得ステップと、An external environment information acquisition step for acquiring information on the external environment of the image pickup device that captured the image, and
前記撮影情報取得ステップにて取得された前記所定情報に基づいて指標画像を生成する生成ステップと、A generation step of generating an index image based on the predetermined information acquired in the shooting information acquisition step, and a generation step.
前記位置情報取得ステップにて取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成ステップにて生成された指標画像と、前記外部環境情報取得ステップにて取得された前記外部環境に関する情報と、を表示部に表示させる表示ステップと、An index indicating that the predetermined information is acquired at a display position corresponding to the position information acquired in the position information acquisition step, an index image generated in the generation step, and the external environment. A display step for displaying the information about the external environment acquired in the information acquisition step on the display unit, and
を含み、Including
前記表示ステップは、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする指標表示方法。The display step includes an index indicating that the predetermined information is acquired at a display position indicated by information that does not include altitude in the position information based on operation detection from the outside, the index image, and the outside. A first display mode for displaying information about the environment and a second display mode for displaying an index indicating that the predetermined information is acquired at the display position indicated by the information including altitude in the position information. An index display method characterized by displaying in any of the display modes of.
コンピュータを、Computer,
画像の撮影に関する位置情報を取得する位置情報取得手段、Location information acquisition means for acquiring location information related to image capture,
画像の撮影に関する所定情報を取得する撮影情報取得手段、Shooting information acquisition means for acquiring predetermined information regarding image shooting,
前記画像を撮影した撮像装置の外部環境に関する情報を取得する外部環境情報取得手段、An external environment information acquisition means for acquiring information on the external environment of the image pickup device that captured the image.
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段、A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means,
前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示する表示手段、An index indicating that the predetermined information is acquired at a display position corresponding to the position information acquired by the position information acquisition means, an index image generated by the generation means, and the external environment information acquisition. A display means for displaying the information about the external environment acquired by the means,
として機能させ、To function as
前記位置情報取得手段が取得する位置情報は高度を含み、The position information acquired by the position information acquisition means includes altitude and includes altitude.
前記表示手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とするプログラム。Based on the operation detection from the outside, the display means includes an index indicating that the predetermined information is acquired at a display position indicated by information not including altitude in the position information, the index image, and the outside. A first display mode for displaying information about the environment and a second display mode for displaying an index indicating that the predetermined information is acquired at the display position indicated by the information including altitude in the position information. A program characterized by displaying in any of the display modes of.
表示装置と、携行者の移動中における位置情報を逐次記録するとともに、外部環境に関する情報を取得する位置情報記録装置と、当該携行者が携行する撮像装置と、を含む指標表示システムであって、An index display system including a display device, a position information recording device that sequentially records position information while the carrier is moving, and acquires information on the external environment, and an imaging device carried by the carrier.
前記表示装置は、The display device is
前記位置情報を前記位置情報記録装置から取得する位置情報取得手段と、A position information acquisition means for acquiring the position information from the position information recording device, and
前記撮像装置に記録された画像の撮影に関する所定情報を前記撮像装置から取得する撮影情報取得手段と、An imaging information acquisition means for acquiring predetermined information regarding imaging of an image recorded in the imaging device from the imaging device, and
前記画像を撮影した撮像装置の外部環境に関する情報を前記位置情報記録装置から取得する外部環境情報取得手段と、An external environment information acquisition means for acquiring information on the external environment of the image pickup device that captured the image from the position information recording device, and
前記撮影情報取得手段によって取得された前記所定情報に基づいて指標画像を生成する生成手段と、A generation means for generating an index image based on the predetermined information acquired by the shooting information acquisition means, and a generation means.
前記位置情報取得手段によって取得された位置情報に対応する表示位置に、前記所定情報が取得された地点であることを示す指標と、前記生成手段によって生成された指標画像と、前記外部環境情報取得手段によって取得された前記外部環境に関する情報と、を表示するよう制御する表示制御手段と、An index indicating that the predetermined information is acquired at a display position corresponding to the position information acquired by the position information acquisition means, an index image generated by the generation means, and the external environment information acquisition. The display control means for controlling the display of the information about the external environment acquired by the means, and the display control means.
を備え、With
前記位置情報取得手段が取得する位置情報は高度を含み、The position information acquired by the position information acquisition means includes altitude and includes altitude.
前記表示制御手段は、外部からの操作検出に基づき、前記位置情報のうち高度を含まない情報により示される表示位置に前記所定情報が取得された地点であることを示す指標と前記指標画像と前記外部環境に関する情報とを表示する第1の表示モードと、前記位置情報で高度を含む情報により示される表示位置に前記所定情報が取得された地点であることを示す指標を表示する第2の表示モードの何れかの表示モードで表示することを特徴とする指標表示システム。The display control means includes an index indicating that the predetermined information is acquired at a display position indicated by information that does not include altitude in the position information based on operation detection from the outside, the index image, and the display control means. A first display mode for displaying information about the external environment and a second display for displaying an index indicating that the predetermined information is acquired at the display position indicated by the information including altitude in the position information. An index display system characterized by displaying in any of the display modes.
JP2017019939A 2016-06-27 2017-02-06 Indicator display device, indicator display method, program, and indicator display system Active JP6914480B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/498,712 US20170374310A1 (en) 2016-06-27 2017-04-27 Display apparatus, display method, storage medium and display system
CN201710342274.2A CN107547783B (en) 2016-06-27 2017-05-15 Display device, display method, recording medium, and display system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016126837 2016-06-27
JP2016126837 2016-06-27

Publications (2)

Publication Number Publication Date
JP2018007235A JP2018007235A (en) 2018-01-11
JP6914480B2 true JP6914480B2 (en) 2021-08-04

Family

ID=60949518

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017019939A Active JP6914480B2 (en) 2016-06-27 2017-02-06 Indicator display device, indicator display method, program, and indicator display system

Country Status (2)

Country Link
JP (1) JP6914480B2 (en)
CN (1) CN107547783B (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7063257B2 (en) * 2018-12-14 2022-05-09 トヨタ自動車株式会社 Information processing systems, programs, and information processing methods
CN109856657B (en) * 2019-03-04 2022-06-21 陕西师范大学 Path recording method based on image transformation

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3738310B2 (en) * 1997-08-04 2006-01-25 カシオ計算機株式会社 camera
US6819356B1 (en) * 1998-11-18 2004-11-16 Casio Computer Co., Ltd. Image search method in electronic still camera with GPS reception function
JP2006279266A (en) * 2005-03-28 2006-10-12 Noritsu Koki Co Ltd Electronic album preparation device, electronic album preparing system, and electronic album preparation program
JP5024093B2 (en) * 2008-02-08 2012-09-12 ソニー株式会社 Image capturing device, display device thereof, and image data management system
JP5494346B2 (en) * 2009-11-26 2014-05-14 株式会社Jvcケンウッド Information display device, information display device control method, and program
JP2012216881A (en) * 2011-03-31 2012-11-08 Sanyo Electric Co Ltd Electronic camera
WO2012165088A1 (en) * 2011-05-31 2012-12-06 富士フイルム株式会社 Image-capturing device and program
JP2014187518A (en) * 2013-03-22 2014-10-02 Casio Comput Co Ltd Imaging apparatus, imaging method, and program
CN103267525B (en) * 2013-04-28 2016-05-04 东莞宇龙通信科技有限公司 Electronic photo and association method and system
JP6183047B2 (en) * 2013-08-12 2017-08-23 ソニー株式会社 Information processing apparatus, information processing method, and program

Also Published As

Publication number Publication date
CN107547783A (en) 2018-01-05
CN107547783B (en) 2021-01-26
JP2018007235A (en) 2018-01-11

Similar Documents

Publication Publication Date Title
US9495759B2 (en) Mobile, wearable, automated target tracking system
WO2012011226A1 (en) Information processing apparatus, information processing method, and recording medium
WO2010001778A1 (en) Imaging device, image display device, and electronic camera
WO2012011345A1 (en) Information processing apparatus, information processing method, program, and recording medium
JP2015028686A (en) Method of generating social time line, social net work service system, server, terminal, and program
JP2024071543A (en) Information processing device, information processing method, and program
JP2007129407A (en) Camera system, map information display system
JP2008072228A (en) Camera, camera system, portable equipment, recording method of position information, and program
JP6914480B2 (en) Indicator display device, indicator display method, program, and indicator display system
JP6852141B2 (en) Information processing device, imaging device, control method of information processing device, and program
CN106254755B (en) Photographic device, camera shooting control method and recording medium
JP6638772B2 (en) Imaging device, image recording method, and program
WO2012011244A1 (en) Information processing apparatus, information processing method, program, and recording medium
JP2012019374A (en) Electronic album creation server, information processor, electronic album creation system, and control method of electronic album creation server
JP6950793B2 (en) Electronics and programs
JP6241495B2 (en) Training support apparatus, training support method, and program
JP2009089126A (en) Information association system and information association method
JP6375597B2 (en) Network system, server, program, and training support method
JP6435595B2 (en) Training support system, server, terminal, camera, method and program
JP5924474B2 (en) Portable electronic device, its control method and program
JP2009211341A (en) Image display method and display apparatus thereof
JP6052274B2 (en) Information processing apparatus, information processing method, and program
JP2021184645A (en) Terminal device
CN107872637B (en) Image reproducing apparatus, image reproducing method, and recording medium
US20170374310A1 (en) Display apparatus, display method, storage medium and display system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210627

R150 Certificate of patent or registration of utility model

Ref document number: 6914480

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150