JP2005191892A - Information acquisition device and multi-media information preparation system using it - Google Patents

Information acquisition device and multi-media information preparation system using it Download PDF

Info

Publication number
JP2005191892A
JP2005191892A JP2003430283A JP2003430283A JP2005191892A JP 2005191892 A JP2005191892 A JP 2005191892A JP 2003430283 A JP2003430283 A JP 2003430283A JP 2003430283 A JP2003430283 A JP 2003430283A JP 2005191892 A JP2005191892 A JP 2005191892A
Authority
JP
Japan
Prior art keywords
information
image
type
association
type information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003430283A
Other languages
Japanese (ja)
Inventor
Makoto Miyake
真 三宅
Mamoru Oda
守 小田
Ryoji Ono
良治 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2003430283A priority Critical patent/JP2005191892A/en
Publication of JP2005191892A publication Critical patent/JP2005191892A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To organically unite various kinds of video information and information relating to them regardless of still images or moving images. <P>SOLUTION: An information acquisition device is provided with a photographing device 1, an information providing server S provided on the outside and a network 5 for connecting the photographing device 1 and the information providing server S. Various kinds information, which are local information, the information that clients such as shops, restaurants, public institutions (including a tourist association or the like), stations and hospitals respectively have for instance, that can be referred to generally, are uploaded to the information providing server S. In the case of successively photographing video images in the respective scenes of a certain sightseeing beauty spot for instance by the photographing device 1, the video images 31a-31f in the respective scenes and the description text file of the local information acquired from the local information server S through a communication part 7 are made to correspond and stored in a memory. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、情報取得装置に関し、特にデジタルスチルカメラ及びデジタルビデオカメラなどの撮影装置と、その新しい活用技術に関する。   The present invention relates to an information acquisition apparatus, and more particularly, to a photographing apparatus such as a digital still camera and a digital video camera, and a new utilization technique thereof.

デジタルビデオカメラなどの撮影装置における一般的な使用方法としては、時系列的に撮影・記録を行い、再生時には撮影順に再生を行うのが一般的である。撮影時には、その撮影情報がいつ、どの場所で撮影されたものかがわかっていても、再生時にはそれを忘れてしまうこともある。   As a general usage method in a photographing apparatus such as a digital video camera, photographing and recording are performed in time series, and reproduction is generally performed in the order of photographing. At the time of shooting, even when the shooting information is known when and where it was shot, it may be forgotten during playback.

静止画や動画の撮影日時に関する情報を撮影画像の一部に挿入して撮影し、後から撮影画像を見た場合に、撮影日時がわかるようにする技術が一般的に用いられている。   A technique is generally used in which information related to the shooting date and time of a still image or a moving image is inserted into a part of the shot image, and when the shot image is viewed later, the shooting date and time can be known.

さらに、静止画を撮影するデジタルスチルカメラ又は動画(静止画を含む)を撮影する場合に、例えば、撮影時にGPSにより取得した位置情報を対応させて記録させることにより、再生時に撮影済み写真に関する撮影場所がわかるようにした撮影装置がある(例えば、特許文献1参照)。この装置を用いると、撮影済み情報と、これと対応させて記録された撮影場所と、を表示させることで、撮影後においても情報を記録した撮影場所を確認することができる。   Further, when shooting a digital still camera or a moving image (including a still image) for shooting a still image, for example, shooting related to a photograph that has been shot at the time of playback by recording the positional information acquired by GPS in association with the shooting. There is an imaging device that can identify the location (see, for example, Patent Document 1). When this apparatus is used, it is possible to check the shooting location where the information is recorded even after shooting by displaying the captured information and the shooting location recorded in association therewith.

特開2001−235790号公報JP 2001-235790 A

本発明は、静止画・動画を問わず、様々な映像情報と、これに関連する情報とを融合させ、さらなる情報の活用を図ることができる新たなマルチメディア情報作成システムを提供することを目的とする。   It is an object of the present invention to provide a new multimedia information creation system that can fuse various video information and related information, regardless of whether it is a still image or a moving image, and can further utilize the information. And

本発明の一観点によれば、第1種情報を取得する第1種情報取得手段と、前記第1種情報と、該第1種情報と内容的に関連する第2種情報であって外部の情報ソースから取得可能な第2種情報と、を関連付けする関連付け情報を生成する関連付け情報生成手段と、前記第1種情報と前記関連付け情報とを記憶する第1記憶手段とを有する情報取得装置が提供される。   According to one aspect of the present invention, there is provided a first type information acquisition means for acquiring first type information, the first type information, and second type information related in content to the first type information and externally. An information acquisition apparatus comprising: association information generating means for generating association information for associating second type information that can be acquired from the information source; and first storage means for storing the first type information and the association information Is provided.

また、第1種情報を取得する第1種情報取得手段と、前記第1種情報と内容的に関連する第2種情報を外部の情報ソースから取得する第2種情報取得手段と、前記第1種情報と前記第2種情報とを関連付けする関連付け情報を生成する関連付け情報生成手段とを有する情報取得装置が提供される。   A first type information acquiring unit for acquiring first type information; a second type information acquiring unit for acquiring second type information related to the first type information from an external information source; An information acquisition device is provided that includes association information generating means for generating association information that associates one type of information with the second type of information.

上記情報取得装置によれば、外部の情報ソースから、取得した第1種情報と内容的に関連する第2種情報を取得して両者を関連付けするため、関連付け後の第1種情報と第2種情報とは、有機的に結びついている。すなわち、単なる関連情報は単なる書誌的な情報にとどまるものではなく、例えば第1種情報の解説的な内容に関連する情報である。   According to the information acquisition apparatus, since the second type information that is related to the acquired first type information from the external information source is acquired and associated with each other, the first type information after the association and the second type information are associated with each other. Species information is organically linked. That is, mere related information is not limited to mere bibliographic information, but is information related to the explanatory content of the first type information, for example.

本発明によれば、映像データなどに関連する関連情報を付加する場合に、付加情報を外部から取得し、これらを関連付することにより、バリエーションに富んだマルチメディア情報データを簡単に作成することができるという利点がある。   According to the present invention, when adding related information related to video data or the like, multimedia information data rich in variations can be easily created by acquiring additional information from the outside and associating these with additional information. There is an advantage that can be.

本明細書において、第1種情報取得手段が、例えば撮像装置であれば、この撮像装置により直接撮影又は録音等が行われる情報が第1種情報である。一方、第2種情報とは、第1種情報取得手段により取得された第1種情報とは異なる情報であるが第1種情報に関連して取得された情報である。第2種情報取得手段とは、第2種情報を取得する手段であり、第1種情報取得手段以外の情報取得手段であって、外部の情報ソース、例えばインターネットや無線LAN等から情報を取得する手段である。   In the present specification, if the first type information acquisition means is, for example, an imaging device, the information that is directly captured or recorded by the imaging device is the first type information. On the other hand, the second type information is information that is different from the first type information acquired by the first type information acquisition means, but is acquired in association with the first type information. The type 2 information acquisition means is means for acquiring type 2 information, and is information acquisition means other than the type 1 information acquisition means, and acquires information from an external information source such as the Internet or a wireless LAN. It is means to do.

また、「内容的に関連する」とは、撮影日時や撮影場所などの書誌的な情報のみではなく、内容を解説したり補足したりすることができる情報のことである。内容を、情報処理に基づいて解析して関連する情報を付加しても良いし、ユーザが主体的に選択しても良い。   “Content-related” means not only bibliographic information such as shooting date and time and shooting location but also information that can explain or supplement the content. The content may be analyzed based on information processing and related information may be added, or the user may independently select it.

本明細書において、撮像装置を主体として説明しているため、撮影装置により撮影されたデータに付加する関連情報を外部から取得すると称する。録音装置を主体とした場合には、録音した音声情報に外部から取得した映像データを付加する場合もあり、内部・外部とは相対的な表現である。但し、一般的に映像データ、特にハイビジョンの動画データはデータ量が大きくなるため、デジタルビデオカメラなどの撮影装置が主体となる場合を例にして説明する。   In this specification, since the imaging apparatus is mainly described, it is referred to as acquiring related information added to data captured by the imaging apparatus from the outside. When the recording device is mainly used, video data acquired from the outside may be added to the recorded audio information, and the internal and external are relative expressions. However, in general, video data, particularly high-definition moving image data, has a large amount of data, and therefore, a case where a photographing apparatus such as a digital video camera is mainly used will be described as an example.

本発明に係るマルチメディア情報作成システムは、静止画や動画などの画像データ(以下、「撮影データ」と総称する。)を撮影するための撮影装置を機軸としたシステムであり、基本的には撮影装置により撮影された撮影データに関連する付加情報(関連情報)を、撮影装置の外部から取得し、撮影データと対応する関連情報とを関連付けしておき、再生処理においては撮影データに対して関連情報を付加した形式で出力するシステムに関する。   The multimedia information creation system according to the present invention is a system based on a photographing apparatus for photographing image data such as still images and moving images (hereinafter collectively referred to as “photographing data”). Additional information (related information) related to shooting data shot by the shooting device is acquired from the outside of the shooting device, the shooting data and related information are associated with each other, and in the reproduction process, The present invention relates to a system for outputting in a format to which related information is added.

関連情報は、撮影情報に関する上記のような撮影日時や撮影場所などの固定的情報のみならず、例えばネットワークなどを介して外部から取得可能な種々の情報である。この関連情報を撮影データと有機的に関連付けすることにより、マルチメディア情報を作成し、様々なシーンでの活用が可能となる。以下に、本発明の実施の形態による撮影装置及びその活用技術について図面を参照しつつ説明を行う。   The related information is not only fixed information regarding the shooting information such as the shooting date and time and the shooting location, but also various information that can be acquired from the outside via a network or the like. By associating the related information with the shooting data, multimedia information can be created and used in various scenes. Hereinafter, an imaging device and its utilization technique according to an embodiment of the present invention will be described with reference to the drawings.

まず、本発明の第1の実施の形態による撮影装置について説明を行う。図1は、本実施の形態による撮影装置を活用したマルチメディア情報作成システムの基本的な概略構成例を示す図である。図2(A)、(B)は、本実施の形態による撮影装置の外観例を示す図であり、図2(A)は斜視図、図2(B)は背面の概略構成図である。図3は、撮影装置の構成例を示す機能ブロック図である。図4は、本実施の形態による撮影装置のモニタ画面の表示例を示す図である。図5は、撮影装置に設けられた操作スイッチの構成例を示す図である。   First, the photographing apparatus according to the first embodiment of the present invention will be described. FIG. 1 is a diagram showing an example of a basic schematic configuration of a multimedia information creation system using a photographing apparatus according to the present embodiment. 2A and 2B are views showing an example of the appearance of the photographing apparatus according to the present embodiment, FIG. 2A is a perspective view, and FIG. 2B is a schematic configuration diagram on the back. FIG. 3 is a functional block diagram illustrating a configuration example of the photographing apparatus. FIG. 4 is a diagram showing a display example of the monitor screen of the photographing apparatus according to the present embodiment. FIG. 5 is a diagram illustrating a configuration example of an operation switch provided in the photographing apparatus.

図1に示すように、本実施の形態によるマルチメディア情報作成システムAは、例えばデジタルビデオカメラなどの撮影装置1と、外部に設けられた情報ソース、例えば情報提供サーバ(地域情報webサーバ)Sと、撮影装置1と情報提供サーバSとを接続するネットワーク5と、を有している。情報提供サーバSは、例えば地域情報を格納するデータベースを有しており、例えば、販売店、飲食店、公共機関(観光協会などを含む)、駅、病院などのクライアントがそれぞれの有する情報であって一般に参照させることが可能な各種情報を情報提供サーバにアップロードしている。これにより、情報提供サーバSは、例えば、地域情報ウェブサーバとしての性格を有する。   As shown in FIG. 1, a multimedia information creation system A according to the present embodiment includes an imaging device 1 such as a digital video camera and an information source provided outside, for example, an information providing server (regional information web server) S. And a network 5 that connects the imaging device 1 and the information providing server S. The information providing server S has, for example, a database for storing regional information. For example, the information providing server S includes information held by clients such as stores, restaurants, public institutions (including tourist associations), stations, hospitals, and the like. Various information that can be generally referred to is uploaded to the information providing server. Thereby, the information provision server S has the character as a local information web server, for example.

次に、本実施の形態による撮影装置の構造について図2及び図3を参照して説明する。図3及び図2(A)に示すように、本実施の形態による撮影装置1の本体部2は、CCD固体撮影装置の他にレンズ部10やビューファインダ14などの光学系とモニタ16とを備えた撮像部4と、撮像部4において撮像された画像データを記録、再生する記録再生部3と、を有している。図3及び図2(A)、(B)に示すように、記録再生部3を形成する一面に切り換えスイッチSWを含む操作部18が設けられている。切り換えスイッチSWを用いることにより、例えば動画と静止画との撮影の切り換えを行う。   Next, the structure of the photographing apparatus according to the present embodiment will be described with reference to FIGS. As shown in FIGS. 3 and 2A, the main body 2 of the photographing apparatus 1 according to the present embodiment includes an optical system such as a lens unit 10 and a viewfinder 14 and a monitor 16 in addition to the CCD solid-state photographing apparatus. The image pickup unit 4 is provided, and the recording / playback unit 3 records and plays back image data picked up by the image pickup unit 4. As shown in FIGS. 3 and 2A and 2B, an operation unit 18 including a changeover switch SW is provided on one surface forming the recording / reproducing unit 3. By using the changeover switch SW, for example, shooting between a moving image and a still image is switched.

図5に示すように、本実施の形態による撮影装置では、押し込み形式の1つの切り換えスイッチSWを用いて、例えば初期位置P1から第1の停止位置P2まで押した状態で動画が撮影することができ、さらにスイッチSWを第2の停止位置P3まで深く押し込むと、静止画を撮影することができるようになっている。静止画を撮影した後に手を離すと、動画撮影が行える第1停止位置に戻る。スイッチSWを上記のように構成することにより、動画と静止画との撮影の切り換えが迅速かつ簡単にできるという利点がある。   As shown in FIG. 5, in the photographing apparatus according to the present embodiment, a moving image can be photographed in a state where, for example, the push-down switch SW is pushed from the initial position P1 to the first stop position P2. The still image can be taken by further pressing the switch SW to the second stop position P3. When the hand is released after taking a still image, the camera returns to the first stop position where movie shooting can be performed. By configuring the switch SW as described above, there is an advantage that switching between shooting of a moving image and a still image can be performed quickly and easily.

さらに、記録再生部3の裏面側に設けられインターフェイスを形成するスロット部7aに、通信カード、例えば無線LANカード7bを差し込むことにより、外部との通信を行う通信部7が形成される。通信部7により、図示しないアクセスポイントを介してインターネットなどのネットワークを通じて情報提供サーバSにアクセスすることができる。尚、撮像部4には、さらに、位置情報取得部、例えばGPS(Global Positioning System:図3)21を内蔵又は外付け可能になっているのが好ましい。   Further, by inserting a communication card, for example, a wireless LAN card 7b, into a slot portion 7a that is provided on the back side of the recording / reproducing unit 3 and forms an interface, a communication unit 7 that performs communication with the outside is formed. The communication unit 7 can access the information providing server S through a network such as the Internet via an access point (not shown). In addition, it is preferable that the imaging unit 4 further includes a position information acquisition unit, for example, a GPS (Global Positioning System: FIG. 3) 21 that can be built in or externally attached.

次に、上記のマルチメディア情報作成システムAによるマルチメディア情報作成手順について、図1〜4までを参照しつつ簡単に説明する。詳細な手順については後述する。撮影装置(デジタルビデオカメラ)1を用いてユーザが観光地「日光」に行き、日光における様々な名所を撮影していく場合を例にして説明する。デジタルビデオカメラにより、日光の名所である、「杉並木」31a、「三猿」31b、「華厳の滝」31c、「ロープウェイ」31d、「(日光)東照宮」31e、「日光江戸村」31fのそれぞれのシーンにおける映像を順に撮影していった場合に(図では31aから31fまでは、静止画として表示されているが、実際には動画像の1シーンを表示しているものとしても良い。)、それぞれのシーンにおける映像31a〜31fと、地域情報サーバSから通信部7を介して取得した地域情報の解説テキストファイルと、を対応付けしてメモリ3に記憶する。次いで、メモリ3内における記憶に基づいて、地域情報と映像とを対応させて表示させることも可能であり、或いは、テキストデータを音声データに変換し、映像を、これに対応する音声データにより解説するマルチメディア情報を生成することも可能である。これにより、映像に対して地域情報の解説を自動的に入れることができる。この手順については後述する。   Next, the multimedia information creation procedure by the multimedia information creation system A will be briefly described with reference to FIGS. Detailed procedures will be described later. An example will be described in which a user goes to a sightseeing spot “Nikko” using a photographing apparatus (digital video camera) 1 and photographs various sights in Nikko. With the digital video camera, “Suginamiki” 31a, “Three Monkeys” 31b, “Kegon no Taki” 31c, “Ropeway” 31d, “(Nikko) Toshogu” 31e, “Nikko Edomura” 31f When the images in the above scene are sequentially photographed (in the figure, 31a to 31f are displayed as still images, but in practice, one scene of a moving image may be displayed). The videos 31a to 31f in the respective scenes and the explanation text file of the area information acquired from the area information server S via the communication unit 7 are stored in the memory 3 in association with each other. Next, based on the storage in the memory 3, it is possible to display the area information and the video in association with each other, or convert the text data into audio data and explain the video with the audio data corresponding thereto. It is also possible to generate multimedia information. As a result, the explanation of the area information can be automatically added to the video. This procedure will be described later.

図4(A)、(B)は、映像を撮影する際のLCD表示モニタ16への表示例を示す図である。図4(A)に示すように、ユーザは、上記マルチメディア情報作成に基づいて、撮影中の映像表示16aと映像表示16aと関連して取得された地域情報とを、例えばテキストに基づく文字情報(テロップ情報)16b(インデックス16cと内容16dとを含む)として映像にスーパーインポーズさせて表示させることができる。   FIGS. 4A and 4B are diagrams showing examples of display on the LCD display monitor 16 when shooting a video. As shown in FIG. 4A, based on the above-described creation of multimedia information, the user uses, for example, text information based on text based on the video display 16a being photographed and the area information acquired in association with the video display 16a. (Telop information) 16b (including the index 16c and the content 16d) can be displayed superimposed on the video.

この際、テロップ情報16bによる表示が映像と対応しているとユーザが判断した場合には、これを映像と関連付けしてメモリに記憶させるための操作を行う。映像にふさわしくない関連情報であると判断された場合には、関連付けを行わないか、或いは、現在表示されているテロップ情報とは異なる別のテロップ情報を関連付けの候補として取得し(図4(B)の16x(16c−1〜4)参照)をメニュー表示し、映像に対応するふさわしい表示が行われた場合に、これを関連付けするようにしても良い。或いは、関連情報の候補として複数の候補メニュー(16c−1〜16c−4)を表示させ、その中からふさわしい関連情報を選択可能に表示させ、表示させた候補の中からユーザの選択を促すようにしても良い。   At this time, if the user determines that the display by the telop information 16b corresponds to the video, an operation for associating this with the video and storing it in the memory is performed. If it is determined that the relevant information is not suitable for the video, the association is not performed or another telop information different from the currently displayed telop information is acquired as a candidate for association (FIG. 4B ) 16x (see 16c-1 to 4)) may be displayed as a menu, and when an appropriate display corresponding to the video is performed, this may be associated. Alternatively, a plurality of candidate menus (16c-1 to 16c-4) are displayed as related information candidates, and appropriate related information is displayed so as to be selectable, and the user is prompted to select from the displayed candidates. Anyway.

以下に、動画と関連情報とを対応付けして齟齬なく再生するための技術の例について図6を参照しつつ説明を行う。例として、一般的な高画質圧縮動画データであるMPEG2フォーマットにより圧縮された動画データと、関連情報(テキストに基づく文字列)と、を対応付けして再生する(同期をとる)技術の例について説明を行う。MPEG2による圧縮技術は、5s(秒)から10s(秒)を1単位とする1カット101b、101d、101f、103b、103dのデータ列と、これらのデータ列の間に設けられたインデックス101a、101c、101e、101g、103a、103cとを有している。   Hereinafter, an example of a technique for reproducing a moving image and related information in a correlated manner will be described with reference to FIG. As an example, an example of a technique for reproducing (synchronizing) moving image data compressed by the MPEG2 format, which is general high-quality compressed moving image data, and related information (character string based on text) in association with each other Give an explanation. The compression technique based on MPEG2 is a data sequence of one cut 101b, 101d, 101f, 103b, 103d with 5s (seconds) to 10s (seconds) as one unit, and indexes 101a, 101c provided between these data sequences. , 101e, 101g, 103a, 103c.

ここで、MPEG2では、時系列的に前のデータとの差分のみを後のデータとすることにより、データの圧縮を行っているため、例えばデータ量の大小の経時的な変化を見ることにより、どの時点で大きくシーンが変化しているか、すなわちシーンチェンジが生じているかを判定することができる。図6に示す例では、1シーン(101a〜101g)と次の1シーン(103a〜103d)とで、103bでデータ量が大きくなるのを検知すると、この103bにおいてシーンチェンジ(特徴的なシーンの変化)が生じていると推測できる。シーンチェンジとは、例えば図1の杉並木のシーン31aから三猿のシーン31bに変化することに対応する。このシーンチェンジのタイミングと同期させてテキストデータ105(TEXTA)とテキストデータ107(TEXTB)とを挿入することにより、ほぼ正確に動画データ中にテキストデータをスーパーインポーズすることができる。尚、この場合に、同期に関する大きな時間的ずれは上述のように表示モニタ16において確認すれば防止でき、精密な時間的な同期に関してはこの方法で取ることができる。MPEGのタイムスタンプ情報をベースにして対応付けしても良いし、新たなインデックステーブルを作成して管理しても良い。その他、例えば、スイッチSWのオンオフのタイミングによってシーンチェンジのタイミングを判別する方法もある。   Here, in MPEG2, data compression is performed by using only the difference from the previous data in time series as the subsequent data. For example, by looking at the change over time in the amount of data, It can be determined at which point the scene has changed greatly, that is, whether a scene change has occurred. In the example illustrated in FIG. 6, when it is detected that the data amount increases in 103b between one scene (101a to 101g) and the next one (103a to 103d), a scene change (characteristic scene change) is detected in 103b. Change). The scene change corresponds to, for example, a change from the cedar row tree scene 31a in FIG. 1 to the three monkey scenes 31b. By inserting the text data 105 (TEXTA) and the text data 107 (TEXTB) in synchronization with the scene change timing, the text data can be superimposed on the moving image data almost accurately. In this case, a large time lag related to synchronization can be prevented by checking on the display monitor 16 as described above, and precise time synchronization can be obtained by this method. Associations may be made based on MPEG time stamp information, or a new index table may be created and managed. In addition, for example, there is a method of determining the scene change timing based on the on / off timing of the switch SW.

次に、本実施の形態によるマルチメディア情報作成システムにおける情報作成手順について図8を参照しつつ説明を行う。図8に示すように、まずステップS1において処理を開始する。ステップS2において関連情報付加モードであるか否かを選択する。関連情報付加モードでない場合には、ステップS3に進む(ステップS3については、第2の実施の形態において図10を参照しつつ説明する)。ステップS2において関連情報付加モードを選択した場合には、ステップS4に進み、動画モードか否かを選択する。動画モードでない場合には、ステップS5の静止画モードに進み、ステップS6において関連情報として定型的なデータ(文書などに既に記載されているデータ)であるか否かを判定する。定型的なデータである場合にはステップS7に進み書物などから文字情報を関連情報として取得する(この際、文字を打ち込んで入力しても良い。取得情報の一部を流用しても良い。)。定型的でない場合にはステップS8においてネットワークを介して情報ソースから関連する情報を取得し、いずれの場合もステップS9において静止画と関連情報とを合成する。   Next, an information creation procedure in the multimedia information creation system according to the present embodiment will be described with reference to FIG. As shown in FIG. 8, first, processing is started in step S1. In step S2, it is selected whether or not it is a related information addition mode. If it is not the related information addition mode, the process proceeds to step S3 (step S3 will be described with reference to FIG. 10 in the second embodiment). When the related information addition mode is selected in step S2, the process proceeds to step S4 to select whether or not the moving image mode is selected. If it is not the moving image mode, the process proceeds to the still image mode in step S5, and it is determined in step S6 whether or not it is typical data (data already described in a document or the like) as related information. If the data is typical data, the process proceeds to step S7, and character information is acquired as related information from a book or the like (in this case, characters may be entered and input. Part of the acquired information may be used). ). If it is not typical, the related information is acquired from the information source via the network in step S8, and in either case, the still image and the related information are combined in step S9.

一方、ステップS4において動画モードを選択した場合(ステップS10)には、ステップS11に進み、例えばネットワークから現在撮影中の動画に関連する情報を取得する。次いで、ステップS12において、動画と関連情報とを対応付けして合成する。   On the other hand, when the moving image mode is selected in step S4 (step S10), the process proceeds to step S11, and for example, information related to the moving image being photographed is acquired from the network. Next, in step S12, the moving image and the related information are associated with each other and synthesized.

ステップS7からの処理について図9を参照しつつ説明を行う。ステップS21において処理が開始され、ステップS22において、カメラによりチケットやパンフレットなどの刊行物などに記載されている情報を撮影する。ステップS23において、撮影した情報を画像データとして取得し、ステップS24において画像データをOCRなどの文字認識機能を用いて文字に変換する。ステップS25において、ステップS24で変換された文字情報をテキスト情報としてメモリ内に保存する。その後、ステップS26又はS27に進み、映像に文字をスーパーインポーズするか、或いは、ステップS27においてテキスト情報を音声情報に変換した後、ステップS28において映像に音声を合わせて再生を行う。   The processing from step S7 will be described with reference to FIG. In step S21, the process is started. In step S22, information described in a publication such as a ticket or a pamphlet is photographed by a camera. In step S23, the photographed information is acquired as image data, and in step S24, the image data is converted into characters using a character recognition function such as OCR. In step S25, the character information converted in step S24 is stored in the memory as text information. Thereafter, the process proceeds to step S26 or S27, where characters are superimposed on the video, or text information is converted to audio information in step S27, and then the audio is reproduced in accordance with the video in step S28.

以上、本発明の第1の実施の形態によるマルチメディア情報作成システムによれば、撮影装置により撮影した映像情報と、この映像情報に関連する情報であって外部から取得した関連情報と、を予め対応付けしておくことができる。その場で又は撮影後に、映像情報と内容的に関連する関連情報とを合成してマルチメディア情報を作成する場合に、ユーザの記憶のみに頼る必要がなく、編集が非常に簡単にできるという利点がある。尚、後述するように、情報源(サーバS)として自宅のホームサーバを用いても良い。   As described above, according to the multimedia information creation system according to the first embodiment of the present invention, the video information captured by the imaging device and the related information acquired from the outside that is related to the video information are obtained in advance. It can be associated. When creating multimedia information by combining video information and content-related related information on the spot or after shooting, there is no need to rely only on the user's memory and the editing is very easy There is. As will be described later, a home server at home may be used as the information source (server S).

次に、本発明の第1の実施の形態によるマルチメディア情報作成システムの変形例について図1〜図4までを参照しつつ説明を行う。本変形例によるマルチメディア情報作成システムは、GPS21を利用するシステムである。   Next, a modification of the multimedia information creation system according to the first embodiment of the present invention will be described with reference to FIGS. The multimedia information creation system according to this modification is a system that uses the GPS 21.

GPS21により撮影時の位置情報を取得することができる。この際に、撮影画像とGPS21による位置情報とを関連付けする。位置情報に基づいて情報提供サーバSから地域情報を取得し、撮影画像と地域情報とを関連付けして記憶する。この記憶に基づく再生を行うことにより、撮影画像と撮影画像に関連する地域情報とを対応させた形式で視聴することができる。或いは、撮影画像と位置情報とを関連付けして記憶しておくことで、例えば再生時に位置情報に基づいて、情報提供サーバSから地域情報を取得し、撮影画像と地域情報とを対応させて再生することも可能である。   Position information at the time of shooting can be acquired by the GPS 21. At this time, the captured image and the position information by the GPS 21 are associated with each other. The area information is acquired from the information providing server S based on the position information, and the captured image and the area information are associated and stored. By performing reproduction based on this storage, it is possible to view the photographed image and the area information related to the photographed image in a corresponding format. Alternatively, the captured image and the positional information are stored in association with each other, so that, for example, the regional information is acquired from the information providing server S based on the positional information at the time of reproduction, and the captured image and the regional information are associated and reproduced. It is also possible to do.

この場合に、位置情報を地図上に表示させ、地図上の位置に対応する画像データを呼び出すことも可能であり、また、画像データに基づいて(例えば画像データを指定すると対応する位置が地図上で点滅するなどの表示をすることで)地図検索を行うことも可能である。すなわち、例えば日光の地図を表示させ、位置をマウスなどでクリックすることで、画像情報と関連情報とを表示させることができ、いわゆる地図をインデックスとした電子アルバムを作成することができる。   In this case, it is also possible to display position information on the map and call image data corresponding to the position on the map, and based on the image data (for example, when image data is specified, the corresponding position is displayed on the map). It is also possible to perform a map search (by flashing and so on). That is, for example, by displaying a map of sunlight and clicking a position with a mouse or the like, image information and related information can be displayed, and an electronic album using a so-called map as an index can be created.

尚、上記変形例では、画像を撮影する際の位置情報に基づいて地域情報などを検索する例を示したが、位置情報の代わりに、撮影している画像を解析し、その解析結果に基づいて内容的に関連情報を取得するように構成しても良いし、複数の候補中からユーザが選択しても良い。画像の内容解析処理は、例えば、画像中の特徴的な部分と取得した位置情報とに基づいて、多くの画像データとそれと対応する解説的なデータとを含む地域情報データベース中から特徴点が類似する画像を特定し、これに基づいて関連する情報をデータベースから取り出すようにしても良い。又は、図1の映像31eに示すように、日光東照宮を撮影している場合であれば、意識的に又は無意識に撮影した日光東照宮の石碑に記載された文字を、ユーザの何らかの操作により或いは自動的にOCR認識処理し、現在撮影中の映像の内容に関するキーワードを取得し、これに基づいて関連情報を外部から取得するようにしても良い。この際、OCR認識処理に基づく外部データベース検索のためのキーワード候補をモニタ部に複数表示させ、ユーザに正しいキーワードを選択させるようにすると、検索処理の確実性が増す。或いは、ユーザが現在撮影中の画像に関する簡単なキーワードを入力又は表示メニュー候補から選択し、このキーワードに基づいて外部のデータベースから情報を取得するようにしても良い。   In the above modification, the example in which the area information or the like is searched based on the position information at the time of capturing the image is shown. However, instead of the position information, the captured image is analyzed, and based on the analysis result. The related information may be acquired in terms of content, or the user may select from a plurality of candidates. Image content analysis processing, for example, based on the characteristic part in the image and the acquired position information, the feature points are similar from the regional information database containing a lot of image data and the corresponding explanatory data The image to be identified may be specified, and based on this, related information may be extracted from the database. Alternatively, as shown in the video 31e of FIG. 1, if the user is shooting Nikko Toshogu Shrine, characters written on the Nikko Toshogu stone monument, taken consciously or unconsciously, are automatically operated by some user operation or automatically. Alternatively, OCR recognition processing may be performed to acquire a keyword related to the content of the video currently being shot, and related information may be acquired from the outside based on the keyword. At this time, if a plurality of keyword candidates for external database search based on the OCR recognition process are displayed on the monitor unit and the user selects the correct keyword, the reliability of the search process is increased. Alternatively, a simple keyword related to an image currently being photographed by the user may be input or selected from display menu candidates, and information may be acquired from an external database based on the keyword.

次に、本実施の形態によるマルチメディア情報取得装置における画像情報と位置情報との対応付けについて説明する。画像情報、特に動画と位置情報とを対応付ける方法には周知の方法として同期用テーブルをシステム上に保持する方法を用いることができる。例えば、MPEGにより圧縮された動画データであれば、0.5秒毎に区切りがある(GOP:Group of picture)。このGOPを利用して動画データと関連情報データとを対応付けする同期用テーブルを作成しておくことで、両者を対応付けすることが可能である。   Next, association between image information and position information in the multimedia information acquisition apparatus according to the present embodiment will be described. As a method for associating image information, in particular, a moving image and position information, a method of holding a synchronization table on the system can be used as a well-known method. For example, in the case of moving image data compressed by MPEG, there is a break every 0.5 seconds (GOP: Group of pictures). By creating a synchronization table that associates moving image data and related information data using this GOP, it is possible to associate the two.

尚、撮影した映像情報と、関連情報と、関連付け情報とは、撮影と関連情報との取得に応じて合成しても良いし、映像情報をDVテープに保存し、関連付け情報と関連情報とをメモリに保存しておいて、再生時に合成しても良いが、全ての情報をインターネットディスクなどに保存しておいても良い。或いは、上述のように関連情報は関連付け情報に基づいて後に取得しても良い。   Note that the captured video information, the related information, and the association information may be combined according to the acquisition of the shooting and the related information, or the video information is stored on a DV tape, and the association information and the related information are combined. It may be stored in a memory and combined at the time of playback, but all information may be stored on an Internet disk or the like. Alternatively, as described above, the related information may be acquired later based on the association information.

次に、本発明の第2の実施の形態によるマルチメディア情報作成システムについて図面を参照しつつ説明を行う。第1の実施の形態は、撮影情報を基準にして関連情報を付加していく関連情報付加モードである。一方、本実施の形態によるシステムは、まずテキスト情報などの関連情報を取得し、取得した関連情報に基づいて映像データを取得する(撮影を行う)処理であることを特徴とする。この処理について図7と図10とを参照しつつ説明を行う。図7は、本実施の形態による映像データとテキストデータとの対応付け方法を示す図である。図10は、図8のステップS3からの処理に相当する図である。   Next, a multimedia information creation system according to the second embodiment of the present invention will be described with reference to the drawings. The first embodiment is a related information addition mode in which related information is added based on photographing information. On the other hand, the system according to the present embodiment is characterized in that it is processing that first acquires related information such as text information and acquires video data (performs photographing) based on the acquired related information. This process will be described with reference to FIGS. FIG. 7 is a diagram showing a method for associating video data and text data according to the present embodiment. FIG. 10 is a diagram corresponding to the processing from step S3 of FIG.

図8のステップS3から開始し、ステップS31において処理を開始し、ステップS30において関連情報を情報ソースから取得するか、或いは、ステップS32〜ステップS34において、チケットやパンフレットの情報をカメラにより撮影し(ステップS32)、情報を画像データとして取得し(ステップS33)、画像データをOCRにより文字認識しテキスト情報に変換する(ステップS34)。図7に示すように、変換されたテキスト情報は、TA、TB、TC、…の期間の周期のタイミングで切り替わる。 Starting from step S3 in FIG. 8, processing is started in step S31, and related information is acquired from an information source in step S30, or information on tickets and pamphlets is photographed with a camera in steps S32 to S34 ( In step S32), information is acquired as image data (step S33), and the image data is recognized by OCR and converted to text information (step S34). As shown in FIG. 7, the converted text information is switched at the timing of the period of periods T A , T B , T C ,.

ステップS30又はステップS34の処理後に、ステップS35に進み、関連情報に基づいて対応する画像を撮影する。ステップS36において、関連情報と、対応する画像とを合成する。図7に示すように、TA期間に画像情報111aを、TB期間に画像情報111bを、TC期間に画像情報111cを配置する。以上の処理により、例えばある規定に沿った関連情報に基づいて画像を撮影することができ、ある規定に沿った一連の画像群、いわゆる電子アルバムを簡単に作成することができる。尚、文字認識の代わりに音声認識技術などを用いても良い。また、本実施の形態によるマルチメディア情報作成システムは、定期観光バス等の乗客に撮影装置を貸し出すサービスなどに応用することも可能である。 After the process of step S30 or step S34, the process proceeds to step S35, and a corresponding image is taken based on the related information. In step S36, the related information and the corresponding image are synthesized. As shown in FIG. 7, the image information 111a to T A period, an image information 111b in T B period, arranging the image information 111c to T C period. Through the processing described above, for example, an image can be taken based on related information according to a certain rule, and a series of image groups according to a certain rule, a so-called electronic album can be easily created. Note that voice recognition technology or the like may be used instead of character recognition. In addition, the multimedia information creation system according to the present embodiment can be applied to a service for lending a photographing apparatus to passengers such as a regular sightseeing bus.

次に、本発明の第3の実施の形態によるマルチメディア情報取得システムについて図面を参照しつつ説明を行う。図11は、本実施の形態によるマルチメディア情報作成システムの構成例を示す図である。図11に示すように、本実施の形態によるシステムにおいて用いられる撮影装置は、例えば静止画又は静止画と動画とを撮影可能な携帯電話機(携帯端末)11である。或いは、携帯電話機11とカメラ1とを連携して用いても良い。携帯電話機11には、通信手段と撮像手段と表示手段とメモリと制御部とが備えられており、さらにGPS機能を具備するものであれば、1台で情報提供サーバ以外のシステム構成を具備していることになる。従って、携帯電話機のユーザは、画像を取得しつつGPS機能に基づく位置情報などと関連付けて地域情報を、携帯電話機の通信手段を用いて取得し、これらの情報を上述の如く自己のサーバ(PC)又はインターネットディスク6などに保存しておくことができる。保存されている情報に基づいて、例えば、PC上において上記インターネットディスクにアクセスして、映像と関連情報とを合成した情報を再生することができる。携帯電話機では一般にメモリ容量が少ないため、インターネットディスクなどに撮影データを保存する方法が有効である。この場合には、再生時においてインターネットディスクからデータを取得して再生することができる。   Next, a multimedia information acquisition system according to the third embodiment of the present invention will be described with reference to the drawings. FIG. 11 is a diagram illustrating a configuration example of a multimedia information creation system according to the present embodiment. As shown in FIG. 11, the photographing apparatus used in the system according to the present embodiment is, for example, a mobile phone (mobile terminal) 11 capable of photographing a still image or a still image and a moving image. Alternatively, the mobile phone 11 and the camera 1 may be used in cooperation. The mobile phone 11 includes a communication unit, an imaging unit, a display unit, a memory, and a control unit. If the mobile phone 11 has a GPS function, a single unit has a system configuration other than the information providing server. Will be. Therefore, the user of the mobile phone acquires regional information in association with position information based on the GPS function while acquiring an image using the communication means of the mobile phone, and this information is stored in the own server (PC) as described above. ) Or the Internet disk 6 or the like. Based on the stored information, for example, the Internet disc can be accessed on a PC, and information obtained by combining video and related information can be reproduced. Since mobile phones generally have a small memory capacity, a method of saving shooting data on an Internet disk or the like is effective. In this case, data can be acquired from the Internet disk and played back during playback.

尚、符号6aに示すテーブルは、映像情報101b〜103cと、テロップ情報105、107と、両者を関連付けする関連付け情報1−1〜2−2と、を対応させた表である。この表6aに示す内容に基づいて、映像情報と関連情報とを関連付け(同期)させて再生することが可能である。   The table indicated by reference numeral 6a is a table in which the video information 101b to 103c, the telop information 105 and 107, and the association information 1-1 to 2-2 for associating both are associated with each other. Based on the contents shown in Table 6a, video information and related information can be associated (synchronized) and reproduced.

以下、図12から図15までを参照しつつ、本発明の各実施の形態によるマルチメディア情報作成システムを用いた他の応用例についてより具体的に説明する。   Hereinafter, another application example using the multimedia information creation system according to each embodiment of the present invention will be described in more detail with reference to FIGS.

図12は、動画メールによるコミュニケーション方法を示す図である。図12に示すように、本発明の各実施の形態による撮影装置201を用いて動画を撮影し、付随する無線LAN207bなどの通信手段を用いホットスポット206aを介したネットワーク接続により、パーソナルコンピュータ(以下PCと称する。)210又はホットスポット206bを介した他の通信機能付き撮影装置211に対して動画メール212aを送信する。   FIG. 12 is a diagram illustrating a communication method using moving image mail. As shown in FIG. 12, a personal computer (hereinafter, referred to as a personal computer (hereinafter referred to as “personal computer”)) is used to capture a moving image by using the image capturing apparatus 201 according to each embodiment of the present invention, This is referred to as a PC.) The moving image mail 212a is transmitted to the photographing device 211 with a communication function 210 via 210 or the hot spot 206b.

動画メール212aを受け取った相手方はそれを見たことによる感想などを例えば文字又は音声によるメッセージ付き映像メール217aをリターンするという形で返信する。   The other party who has received the moving image mail 212a returns an impression of seeing the moving image mail 212a, for example, in the form of returning a video mail 217a with a message by text or voice.

このように、双方で動画メールとメッセージ付き映像メールのリターンとをやり取りすることで、あたかも双方がすぐ近くにいるような感覚でコミュニケーションを行うことができる。   In this way, by exchanging the video mail and the return of the video mail with a message between the two sides, it is possible to communicate as if both sides are in the immediate vicinity.

図13は、コンテンツの受信に関する応用例を示す図である。図13に示すように、本発明の各実施の形態による撮影装置201を用い、付随する無線LAN207bなどの通信手段207を用いホットスポット206aを介したネットワーク205接続により、オンデマンドサーバ221と接続する。オンデマンドサーバ221は、ユーザの要求に応じて、映画、音楽、スポーツなどのコンテンツを有料又は無料で提供するためのコンテンツサーバ223を有している。オンデマンドサーバ221は、ユーザ側からの要求により圧縮したコンテンツを撮影装置201側に送信し、撮影装置201側でコンテンツデータを解凍することで、例えば動画コンテンツの再生により、好みのアーチィストのライブ映像などを移動しながら視聴して楽しむことが可能である。尚、ライブ映像をDVテープに蓄積しておき、ネットワーク205を介して取得した関連情報も合わせて視聴することも可能である。   FIG. 13 is a diagram illustrating an application example regarding content reception. As shown in FIG. 13, an imaging apparatus 201 according to each embodiment of the present invention is used to connect to an on-demand server 221 by connecting to a network 205 via a hot spot 206a using a communication means 207 such as an accompanying wireless LAN 207b. . The on-demand server 221 includes a content server 223 for providing content such as movies, music, and sports for a fee or free of charge according to a user request. The on-demand server 221 transmits the content compressed according to the request from the user side to the photographing apparatus 201 side, and decompresses the content data on the photographing apparatus 201 side. It is possible to watch and enjoy while moving. It is also possible to store live video on a DV tape and view related information acquired via the network 205 as well.

図14は、送信内容のバックアップに関する応用例である。図14は、本発明の各実施の形態による撮影装置201であって無線LAN207bなどの通信手段207を備えた撮影装置201により、例えば気に入ったお店をチェックして撮影装置207により撮影し、画像データ236に、お店を例えば友人に紹介するための紹介メールを添付し、通信手段207を用いて友人に画像データと紹介メールを送るとともに、自宅のホームサーバ231又はPC230又はハードディスクレコーダ232などの記録再生装置232にCcで画像データと紹介メールとを送る。自宅に送られたデータに基づき、例えば記録再生装置232内のメモリに動画付きメールのデータとそのリスト237を生成することもできる。これらのデータとリストとを、送信内容の確認とバックアップとに利用することができる。図に示すようにリスト237表示中には、画像データによるインデックスと関連するデータ属性と、再生処理に必要な操作用アイコンの表示によるGUIが提供されており、データ再生時のインデックスとして用いるのに便利である。尚、紹介メールには、外部から取得した関連情報を含めることができる。   FIG. 14 shows an application example relating to backup of transmission contents. FIG. 14 shows an image capturing apparatus 201 according to each embodiment of the present invention, which includes an image capturing apparatus 201 provided with communication means 207 such as a wireless LAN 207b. An introduction mail for introducing the shop to a friend, for example, is attached to the data 236, the image data and the introduction mail are sent to the friend using the communication means 207, the home server 231 at home, the PC 230, the hard disk recorder 232, etc. The image data and the introduction mail are sent to the recording / reproducing apparatus 232 by Cc. Based on the data sent to the home, for example, the mail data with moving image and the list 237 thereof can be generated in the memory in the recording / reproducing apparatus 232. These data and list can be used for confirmation of transmission contents and backup. As shown in the figure, while the list 237 is displayed, a data attribute related to the index by the image data and a GUI by displaying an operation icon necessary for the reproduction processing are provided and used as an index at the time of data reproduction. Convenient. In addition, related information acquired from the outside can be included in the introduction mail.

図15は、動画コンテンツの再生(鑑賞)に関する応用例を示す図である。図15に示すように、本実施の形態による撮影装置201を用い或いは別の方法で記録したコンテンツを、例えばPC240内のハードディスク(HDD)又は記録再生装置242内の記録部又は記録媒体中に記録する際に、符号247に示すように、コンテンツの代表的な静止画面などをインデックス代わりに用いて、コンテンツのリストを作成しておく。この際にも、上述のように関連情報を映像データと関連付けて記憶しておくと良い。撮影装置201のコンテンツ再生機能又はその他の装置のコンテンツ再生機能を用い、これらの装置を持ち歩いている場合に、ユーザが、コンテンツのリスト247に基づいて視聴(再生)したい動画コンテンツを指定すると(この場合は、サッカーの試合の映像245を指定)、PC240又は記録再生装置242からコンテンツのストリームデータがネットワーク205を介し無線LAN207aを含む通信手段207により撮影装置201に送られる。この送られた情報に基づいて、例えば撮影装置201のモニタにより要求したサッカーの試合の再生映像を視聴することができる。尚、コンテンツは、現在放送中の映像であってPC240又は記録再生装置に接続された図示しないハイビジョン液晶テレビなどに現在表示されている映像でも良く、この場合には生の映像を外出先でリアルタイムに楽しむことも可能である。   FIG. 15 is a diagram illustrating an application example related to reproduction (viewing) of moving image content. As shown in FIG. 15, content recorded using the imaging device 201 according to the present embodiment or by another method is recorded in, for example, a hard disk (HDD) in the PC 240 or a recording unit or recording medium in the recording / reproducing device 242. At this time, as shown by reference numeral 247, a list of contents is created using a typical still screen of contents instead of an index. Also in this case, it is preferable to store the related information in association with the video data as described above. When using the content playback function of the photographing device 201 or the content playback function of another device and carrying these devices, the user designates the video content that the user wants to view (play) based on the content list 247 (this) In this case, the video 245 of the soccer game is designated), and the stream data of the content is sent from the PC 240 or the recording / reproducing device 242 to the photographing device 201 via the network 205 by the communication means 207 including the wireless LAN 207a. Based on this sent information, for example, a replay video of a soccer game requested by the monitor of the photographing apparatus 201 can be viewed. The content may be an image currently being broadcast and currently displayed on a high-definition liquid crystal television (not shown) connected to the PC 240 or the recording / reproducing device. In this case, the live image is real-time on the go. It is also possible to enjoy it.

図16は、映像データ保持サービスの一例を示す図である。上述したように、インターネットディスクを用いると、大容量の動画データを外部に保存しておき、いつでも参照することができる。インターネットディスクのコンテンツデータベース251内に、上記各実施の形態により作成したマルチメディアデータ(画像データに関連情報を付加したデータ)を、インターネットディスクを保持するサーバにアクセスすることにより、いつでもどこでも、また、認証等により許容されているユーザであればだれでも、マルチメディア情報を参照することができる。従って、マルチメディア情報を、将来にわたって保存・参照・配信することができるとともに、個人映像ウェブとしても機能し、さらに、グループ内で共通に用いることができるようにすれば、グループ間で共通の映像ウェブとして用いることもできる。すなわち、ユーザ又はその仲間は、PC253からネットワーク205を介してサーバにアクセスしてコンテンツデータベース251の内容を参照したり、動画や静止画を関連情報とともに再生したりすることができる。   FIG. 16 is a diagram illustrating an example of the video data holding service. As described above, when an Internet disk is used, a large amount of moving image data can be stored externally and referenced at any time. The multimedia data (data obtained by adding related information to image data) created in the above-described embodiments in the content database 251 of the Internet disk is accessed anytime, anywhere by accessing the server holding the Internet disk. Any user who is permitted by authentication or the like can refer to the multimedia information. Therefore, if multimedia information can be stored / referenced / distributed in the future, it can also function as a personal video web, and can be used in common within a group, it can be shared between groups. It can also be used as a web. That is, the user or his / her friend can access the server from the PC 253 via the network 205 to refer to the contents of the content database 251 and reproduce a moving image or a still image together with related information.

以上、本実施の形態に沿って説明したが、本発明はこれらの例に限定されるものではなく、種々の変形が可能であるのは言うまでもない。本実施の形態によるマルチメディア情報作成システムは、各種通信機能を利用可能な撮像装置により実現することが可能である。また、上記、各実施の形態においては、映像データに対して音声又は文字情報などを付加する場合について主として説明したが、映像データに映像データを付加する場合など同種のデータを付加する場合や、音声データに映像データを付加する場合(例えば音楽アルバムにアーチストの映像を外部から取得して付加する場合など、著作権法等において許容されている範囲内で様々な応用が可能である。   As mentioned above, although demonstrated along this Embodiment, it cannot be overemphasized that this invention is not limited to these examples, and various deformation | transformation are possible. The multimedia information creation system according to the present embodiment can be realized by an imaging apparatus that can use various communication functions. In each of the embodiments described above, the case of adding audio or character information to video data has been mainly described. However, when adding the same kind of data such as video data to video data, When video data is added to audio data (for example, when an artist's video is acquired and added to a music album from the outside, various applications are possible within the scope permitted by the Copyright Act or the like.

映像データなどに関連する関連情報を付加する場合に、付加情報を外部から取得し、これらを関連付することにより、バリエーションに富んだマルチメディア情報データを作成することができる。   When adding related information related to video data or the like, multimedia information data rich in variations can be created by acquiring the additional information from the outside and associating these with the related information.

本実施の形態による撮影装置を活用したマルチメディア情報作成システムの基本的な概略構成例を示す図である。It is a figure which shows the basic schematic structural example of the multimedia information creation system using the imaging device by this Embodiment. 図2(A)、(B)は、本実施の形態による撮影装置の外観例を示す図であり、図2(A)は斜視図、図2(B)は背面の概略構成図である。2A and 2B are views showing an example of the appearance of the photographing apparatus according to the present embodiment, FIG. 2A is a perspective view, and FIG. 2B is a schematic configuration diagram on the back. 撮影装置の構成例を示す機能ブロック図である。It is a functional block diagram which shows the structural example of an imaging device. 本実施の形態による撮影装置のモニタ画面の表示例を示す図である。It is a figure which shows the example of a display of the monitor screen of the imaging device by this Embodiment. 撮影装置に設けられた操作スイッチの構成例を示す図である。It is a figure which shows the structural example of the operation switch provided in the imaging device. 動画と関連情報とを対応付けして再生するための技術の例を示す図である。It is a figure which shows the example of the technique for matching and reproducing | regenerating a moving image and related information. 映像データとテキストデータとの対応付け方法を示す図である。It is a figure which shows the matching method of video data and text data. 本実施の形態によるマルチメディア情報作成システムにおける情報作成手順を示すフローチャート図である。It is a flowchart figure which shows the information creation procedure in the multimedia information creation system by this Embodiment. 図8のステップS7からの処理の流れを示すフローチャート図である。It is a flowchart figure which shows the flow of the process from FIG.8 S7. 図8のステップS3からの処理を示すフローチャート図である。It is a flowchart figure which shows the process from step S3 of FIG. 本発明の第3の実施の形態によるマルチメディア情報取得システムの構成例を示す図である。It is a figure which shows the structural example of the multimedia information acquisition system by the 3rd Embodiment of this invention. 動画メールによるコミュニケーションのコンセプトを示す図である。It is a figure which shows the concept of the communication by video mail. コンテンツの受信に関する応用例を示す図である。It is a figure which shows the application example regarding reception of a content. 送信内容のバックアップに関する応用例を示す図である。It is a figure which shows the application example regarding the backup of the transmission content. 動画コンテンツの再生(鑑賞)に関する応用例を示す図である。It is a figure which shows the example of application regarding reproduction | regeneration (appreciation) of a moving image content. 映像データ保持サービスの一例を示す図である。It is a figure which shows an example of a video data retention service.

符号の説明Explanation of symbols

1…撮影装置、2…本体部、3…記録再生部(メモリ)、4…撮像部、S…情報提供サーバ、5…ネットワーク、7…通信部、16…モニタ。   DESCRIPTION OF SYMBOLS 1 ... Imaging device, 2 ... Main-body part, 3 ... Recording / reproducing part (memory), 4 ... Imaging part, S ... Information provision server, 5 ... Network, 7 ... Communication part, 16 ... Monitor.

Claims (26)

第1種情報を取得する第1種情報取得手段と、
前記第1種情報と、該第1種情報と関連する内容を有する第2種情報であって外部の情報ソースから取得可能な第2種情報と、を関連付けする関連付け情報を生成する関連付け情報生成手段と、
前記第1種情報と前記関連付け情報とを記憶する第1記憶手段と
を有する情報取得装置。
First type information acquisition means for acquiring first type information;
Association information generation for generating association information for associating the first type information with the second type information having contents related to the first type information and obtainable from an external information source Means,
An information acquisition apparatus comprising: a first storage unit that stores the first type information and the association information.
前記関連付け情報に基づいて前記第2種情報を前記外部の情報ソースから取得するための第2種情報取得手段と、該第2種情報取得手段との間のインターフェイスを形成するインターフェイス手段を有することを特徴とする請求項1に記載の情報取得装置。   A second type information acquisition unit for acquiring the second type information from the external information source based on the association information; and an interface unit that forms an interface between the second type information acquisition unit. The information acquisition apparatus according to claim 1. 前記第1種情報と前記第2種情報とを、前記関連付け情報に基づいて合成する情報合成手段と、
該情報合成手段により合成された合成情報を記憶する第2記憶手段と
を有する請求項1又は2に記載の情報取得装置。
Information synthesizing means for synthesizing the first type information and the second type information based on the association information;
The information acquisition apparatus according to claim 1, further comprising: a second storage unit that stores the combined information combined by the information combining unit.
第1種情報を取得する第1種情報取得手段と、
前記第1種情報と関連する内容を有する第2種情報を外部の情報ソースから取得する第2種情報取得手段と、
前記第1種情報と前記第2種情報とを関連付けする関連付け情報を生成する関連付け情報生成手段と
を有する情報取得装置。
First type information acquisition means for acquiring first type information;
Second type information acquisition means for acquiring second type information having contents related to the first type information from an external information source;
An information acquisition device comprising association information generating means for generating association information for associating the first type information and the second type information.
前記第1種情報と、該第1種情報と関連する内容を有する前記第2種情報と、前記関連付け情報と、を記憶する記憶手段を有する請求項4に記載の情報取得装置。   The information acquisition apparatus according to claim 4, further comprising a storage unit that stores the first type information, the second type information having contents related to the first type information, and the association information. 前記第1種情報と、該第1種情報と関連する内容を有する前記第2種情報と、前記関連付け情報と、のうちのいずれか1又は2以上を記憶する記憶手段と、
該記憶手段に記憶されなかった情報を他の記憶手段に記憶させる制御を行う記憶制御手段と
を有する請求項4に記載の情報取得装置。
Storage means for storing any one or more of the first type information, the second type information having contents related to the first type information, and the association information;
The information acquisition apparatus according to claim 4, further comprising a storage control unit that performs control to store information that is not stored in the storage unit in another storage unit.
前記第1種情報と、前記関連付け情報と、を記憶する記憶手段を有し、
該第1種情報と関連する前記第2種情報と、該記憶手段に記憶されなかった情報を他の記憶手段に記憶させる制御を行う記憶制御手段と
を有する請求項4に記載の情報取得装置。
Storage means for storing the first type information and the association information;
5. The information acquisition apparatus according to claim 4, further comprising: a storage control unit configured to control the second type information related to the first type information and the information not stored in the storage unit to be stored in another storage unit. .
請求項4から7までのいずれか1項に記載の情報取得装置と、
前記第1種情報と前記第2種情報とを合成した合成情報を、前記記憶手段に記憶前又は記憶後に生成する情報合成手段を有することを特徴とする情報取得システム。
The information acquisition device according to any one of claims 4 to 7,
An information acquisition system comprising: information combining means for generating combined information obtained by combining the first type information and the second type information before or after storage in the storage means.
請求項3又は7に記載の情報取得装置に加えて、さらに、前記合成情報を再生する合成情報再生手段を有することを特徴とする情報処理装置。   8. An information processing apparatus, further comprising synthetic information reproduction means for reproducing the synthetic information in addition to the information acquisition apparatus according to claim 3 or 7. 前記第1種情報の内容を解析する解析部を備え、該解析部の解析に基づいて前記第2種情報を検索することを特徴とする請求項1から9までのいずれか1項に記載の装置。   The analysis part which analyzes the content of the said 1st type information is provided, The said 2nd type information is searched based on the analysis of this analysis part, The any one of Claim 1-9 characterized by the above-mentioned. apparatus. 画像情報を取得する撮像手段と、
前記画像情報と、該画像情報と関連する内容を有する画像情報、音声情報及びテロップ情報のうちの少なくともいずれか1つを含む関連情報であって外部の情報ソースから取得可能な関連情報と、を関連付けする関連付け情報を生成する関連付け情報生成手段と、
前記画像情報と前記関連付け情報とを記憶する記憶手段と
を有するカメラ。
Imaging means for obtaining image information;
The image information, and related information including at least one of image information, audio information, and telop information having contents related to the image information, and related information that can be acquired from an external information source. Association information generating means for generating association information to be associated;
A camera having storage means for storing the image information and the association information.
請求項11に記載のカメラであって、
前記関連付け情報に基づいて前記画像情報と関連する内容を有する前記関連情報を、ネットワークを介して外部の情報ソースから取得するための通信手段との間のインターフェイスを形成する通信インターフェイスを有することを特徴とするカメラ。
The camera according to claim 11,
A communication interface that forms an interface with communication means for acquiring the related information having contents related to the image information based on the association information from an external information source via a network; Camera.
画像情報を取得する撮像手段と、
前記画像情報と関連する内容を有する関連情報であって、画像情報、音声情報及びテロップ情報のうちの少なくともいずれか1つを含む関連情報を、ネットワークを介して外部の情報ソースから取得するための通信手段と、
前記画像情報と前記関連情報とを関連付けする関連付け情報を生成する関連付け情報生成手段と、
前記画像情報と前記関連情報と前記関連付け情報とを記憶する記憶手段と
を有する携帯端末。
Imaging means for obtaining image information;
Relevant information having contents related to the image information, the related information including at least one of image information, audio information, and telop information being acquired from an external information source via a network Communication means;
Association information generating means for generating association information for associating the image information with the related information;
A portable terminal comprising storage means for storing the image information, the related information, and the association information.
音声情報及びテロップ情報のうちの少なくとも一方を含む関連情報を提供する外部の情報ソースと、
画像情報を取得する撮像手段と、前記画像情報と関連する内容を有する関連情報であって画像情報、音声情報及びテロップ情報のうちの少なくともいずれか1つを含む関連情報を、ネットワークを介して前記情報ソースから取得するための通信手段と、前記画像情報と前記関連情報とを関連付けする関連付け情報を生成する関連付け情報生成手段と、前記画像情報と前記関連情報と前記関連付け情報とを記憶する記憶手段と、を有する情報取得装置と
を有するマルチメディア情報作成システム。
An external information source providing related information including at least one of audio information and telop information;
Image capturing means for acquiring image information, and related information having contents related to the image information, the related information including at least one of image information, audio information, and telop information being transmitted via the network Communication means for obtaining from an information source, association information generating means for generating association information for associating the image information with the related information, and storage means for storing the image information, the related information, and the association information And a multimedia information creation system.
前記画像情報の内容を解析する画像解析部と、
該画像解析部の解析に基づいて、前記第1種情報と関連付けする関連情報を検索する関連情報検索部と
を有することを特徴とする請求項11から14までのいずれか1項に記載の装置。
An image analysis unit for analyzing the content of the image information;
The apparatus according to claim 11, further comprising: a related information search unit that searches for related information associated with the first type information based on an analysis of the image analysis unit. .
前記画像情報を取得した際の位置情報を検出する位置情報検出手段と、
前記位置情報に基づいて前記画像情報と前記関連情報と、を関連付けする関連付け手段を有することを特徴とする請求項11から14までのいずれか1項に記載の装置。
Position information detecting means for detecting position information when the image information is acquired;
15. The apparatus according to claim 11, further comprising an association unit that associates the image information with the related information based on the position information.
前記画像情報と前記関連情報との関連付けの際に用いられる複数の関連付け情報候補を、前記画像情報とともに或いは単独で表示させる表示部と、
該表示部に表示された前記関連付け情報候補の中から適した関連付け情報を選択し確定するための操作を行う操作部と
を有することを特徴とする請求項11から16までのいずれか1項に記載の装置。
A display unit that displays a plurality of association information candidates used in association with the image information and the related information together with the image information or alone;
17. The operation unit according to claim 11, further comprising: an operation unit that performs an operation for selecting and confirming appropriate association information from the association information candidates displayed on the display unit. The device described.
前記画像情報の切り替わりタイミングを検出する検出部と、
該検出部による検出された切り替わりタイミングに基づいて、前記関連情報を前記画像情報に同期させる同期手段と
を有することを特徴とする請求項11から17までのいずれか1項に記載の装置。
A detection unit for detecting the switching timing of the image information;
18. The apparatus according to claim 11, further comprising: a synchronization unit configured to synchronize the related information with the image information based on a switching timing detected by the detection unit.
前記切り替わりタイミングは、映像の特徴点の切り替わりタイミング又は撮影のオンオフタイミングであることを特徴とする請求項18に記載の装置。   The apparatus according to claim 18, wherein the switching timing is a switching timing of a feature point of an image or an on / off timing of photographing. 静止画と動画とを含む画像情報を取得する撮像手段を有するカメラであって、
静止画撮影と動画撮影との切替操作をワンアクションで行える切替スイッチを有することを特徴とするカメラ。
A camera having an imaging means for acquiring image information including a still image and a moving image,
A camera having a changeover switch that can perform a switching operation between still image shooting and moving image shooting with one action.
前記切替スイッチは、押し込み型の1つのボタンスイッチであり、該ボタンスイッチの押し込み操作により切替が行われるタイプのスイッチであることを特徴とする請求項20に記載のカメラ。   21. The camera according to claim 20, wherein the change-over switch is a push-type button switch, and is a switch that is switched by a push-down operation of the button switch. 第1種情報を取得するステップと、
前記第1種情報と、該第1種情報と関連する内容を有する第2種情報と、を関連付けするステップと、
前記第1種情報と前記関連付け情報とを記憶するステップと
を有する情報取得方法。
Obtaining the first type information;
Associating the first type information with second type information having contents related to the first type information;
An information acquisition method comprising: storing the first type information and the association information.
第1種情報を取得するステップと、
前記第1種情報と関連する内容を有する第2種情報を外部の情報ソースから取得するステップと、
前記第1種情報と前記第2種情報とを関連付けするステップと
を有する情報取得方法。
Obtaining the first type information;
Obtaining second type information having content related to the first type information from an external information source;
An information acquisition method comprising: associating the first type information and the second type information.
コンピュータに請求項22又は23に記載のステップを実行させるためのプログラム。   24. A program for causing a computer to execute the steps according to claim 22 or 23. 撮像手段と、
内蔵又は外付けにより外部と通信可能にする通信手段と、
前記撮像手段により撮像された画像データと、前記通信手段を介して外部から取得した情報とを関連付けする関連付け手段と
を有する情報取得装置。
Imaging means;
A communication means for enabling communication with the outside by a built-in or external device;
An information acquisition apparatus comprising: an association unit that associates image data captured by the imaging unit with information acquired from the outside via the communication unit.
第1種情報を取得する第1種情報取得手段と、
前記第1種情報と、該第1種情報と関連する第2種情報であって外部の情報ソースから取得可能な第2種情報と、を関連付けする関連付け情報を生成する関連付け情報生成手段と、
前記第1種情報と前記関連付け情報とを記憶する第1記憶手段と
を有する情報取得装置。
First type information acquisition means for acquiring first type information;
Association information generating means for generating association information for associating the first type information with the second type information related to the first type information and obtainable from an external information source;
An information acquisition apparatus comprising: a first storage unit that stores the first type information and the association information.
JP2003430283A 2003-12-25 2003-12-25 Information acquisition device and multi-media information preparation system using it Pending JP2005191892A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003430283A JP2005191892A (en) 2003-12-25 2003-12-25 Information acquisition device and multi-media information preparation system using it

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003430283A JP2005191892A (en) 2003-12-25 2003-12-25 Information acquisition device and multi-media information preparation system using it

Publications (1)

Publication Number Publication Date
JP2005191892A true JP2005191892A (en) 2005-07-14

Family

ID=34788698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003430283A Pending JP2005191892A (en) 2003-12-25 2003-12-25 Information acquisition device and multi-media information preparation system using it

Country Status (1)

Country Link
JP (1) JP2005191892A (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007034403A (en) * 2005-07-22 2007-02-08 Nikon Corp Image display device and image display program
JP2007124418A (en) * 2005-10-28 2007-05-17 Kyocera Corp Channel retrieval method and broadcasting receiver
JP2008262487A (en) * 2007-04-13 2008-10-30 Sony Corp Imaging unit, and method for generating and recording synchronization file
JP2008294943A (en) * 2007-05-28 2008-12-04 Hitachi Ltd Program related information acquistion system and video recorder
JP2012231291A (en) * 2011-04-26 2012-11-22 Toshiba Corp Device and method for editing moving image, and program
JP2016026424A (en) * 2009-09-10 2016-02-12 オープンティーヴィー, インク.Opentv, Inc. Method and system for sharing digital media content
JP2018525675A (en) * 2015-08-18 2018-09-06 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited Method and device for generating live text broadcast content using past broadcast text

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007034403A (en) * 2005-07-22 2007-02-08 Nikon Corp Image display device and image display program
JP2007124418A (en) * 2005-10-28 2007-05-17 Kyocera Corp Channel retrieval method and broadcasting receiver
JP2008262487A (en) * 2007-04-13 2008-10-30 Sony Corp Imaging unit, and method for generating and recording synchronization file
JP2008294943A (en) * 2007-05-28 2008-12-04 Hitachi Ltd Program related information acquistion system and video recorder
JP2016026424A (en) * 2009-09-10 2016-02-12 オープンティーヴィー, インク.Opentv, Inc. Method and system for sharing digital media content
JP2012231291A (en) * 2011-04-26 2012-11-22 Toshiba Corp Device and method for editing moving image, and program
US8903225B2 (en) 2011-04-26 2014-12-02 Kabushiki Kaisha Toshiba Video editing device, video editing method, program, and medium in which the program is recorded
JP2018525675A (en) * 2015-08-18 2018-09-06 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited Method and device for generating live text broadcast content using past broadcast text

Similar Documents

Publication Publication Date Title
US10068158B2 (en) Image processing systems and methods for automatically generating image album data from multiple cameras
US7609901B2 (en) Recording/reproducing system
US20090228508A1 (en) Recording Device and Method, Imaging Apparatus, Playing Device and Method, and Program
JP2007082088A (en) Contents and meta data recording and reproducing device and contents processing device and program
JP5292399B2 (en) Content editing device
JP2005293339A (en) Information processor and information processing method
JP2002101372A (en) Camera incorporated type data recording and reproducing device and data recording and reproducing method
JP2006340136A (en) Video image reproducing method, index information providing method, video image reproducing terminal, and video index creation and retrieval system
JP2005191892A (en) Information acquisition device and multi-media information preparation system using it
US9154545B2 (en) Video information control apparatus and method
JP2006311322A (en) Television display apparatus
JP2009232114A (en) Image reproducing apparatus, its method and image reproducing program
JP2012244343A (en) Multi-image reproduction device and multi-image reproduction method
JP4358043B2 (en) Image display method and image display system
JP4798215B2 (en) Electronics
KR100671147B1 (en) Apparatus for experiencing famous scene and Method thereof
JP2005303906A (en) Method and apparatus of detecting frame of photographic movie
JP2014030267A (en) Imaging apparatus
JP2006074406A (en) Edit function-attached video photographing apparatus
JP2000261744A (en) Method and system for photographing video image for edit with object information acquisition function and storage medium recording program describing this method
JP4462373B2 (en) Recording medium and reproducing apparatus
JP4596080B2 (en) Recording medium and reproducing apparatus
JP5078723B2 (en) Image group reproduction device, image group reproduction method, and image group reproduction program
JP4826677B2 (en) Recording medium and reproducing apparatus
KR100682392B1 (en) Media File Compiler Including Positioning Information and the Method Thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080507