JP2006135895A - Image recording/reproducing system and electronic album creation system - Google Patents

Image recording/reproducing system and electronic album creation system Download PDF

Info

Publication number
JP2006135895A
JP2006135895A JP2004325421A JP2004325421A JP2006135895A JP 2006135895 A JP2006135895 A JP 2006135895A JP 2004325421 A JP2004325421 A JP 2004325421A JP 2004325421 A JP2004325421 A JP 2004325421A JP 2006135895 A JP2006135895 A JP 2006135895A
Authority
JP
Japan
Prior art keywords
data
image
music
music data
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004325421A
Other languages
Japanese (ja)
Other versions
JP4350635B2 (en
Inventor
Osamu Nonaka
修 野中
Noboru Hara
登 原
Satoshi Miyazaki
敏 宮崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2004325421A priority Critical patent/JP4350635B2/en
Publication of JP2006135895A publication Critical patent/JP2006135895A/en
Application granted granted Critical
Publication of JP4350635B2 publication Critical patent/JP4350635B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image recording/reproducing system capable of easily cross-referencing a photographed image with music related to a photographed place of the image and easily reproducing the cross-referenced music at reproduction of the photographed image so as to allow a user to be able to reminisce about the recollection at the time of photographing with deep emotion thereby enhancing the appreciation effect and to provide an electronic album creating system. <P>SOLUTION: The image recording/reproducing system is compoed of: a photographing place cross-reference means 8 for cross-referencing location information data being information with respect to a place at which an image is photographed; a means 24 for searching music data related to the location at which the image is photographed from a database 2 wherein various music data are stored; and a reproduction means 40 for simultaneously reproducing the music data searched by the searching means 24 and the image data. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、ユーザーが撮影した画像を、音楽と組み合わせて記録または再生する場合に好適な画像記録再生システム及び電子アルバム作成システムに関する。   The present invention relates to an image recording / reproducing system and an electronic album creating system suitable for recording or reproducing an image taken by a user in combination with music.

デジタルカメラ普及以前の画像撮影においては、単に静止画を紙にプリントするにとどまっていた。しかしながら、近年のデジタルカメラの普及により、撮影画像としてデジタルデータが一般的になりつつある。これにより、CDやMD等により先にデジタル化が進んでいた音楽と、デジタルデータである撮影画像とを組み合わせて再生することが可能となった。さらに、再生装置としては、DVDプレーヤーやHDプレーヤー等が現在普及しつつあるので、マルチメディア再生の基盤はすでに整っている状況であると言える。   Prior to the popularization of digital cameras, still images were simply printed on paper. However, with the recent spread of digital cameras, digital data is becoming common as captured images. As a result, it has become possible to reproduce music that has been previously digitized by CD, MD, and the like and a captured image that is digital data in combination. Furthermore, since DVD players, HD players, and the like are now in widespread use as playback devices, it can be said that the infrastructure for multimedia playback is already in place.

しかしながら、撮影画像とそれに対応する最適な音楽とを組み合わせることにより、画像再生時にBGMを付加した再生をするには、一般のユーザーが独力で行うには技術的に困難であった。   However, it has been technically difficult for a general user to independently perform reproduction with BGM added at the time of image reproduction by combining a photographed image and the optimal music corresponding to the photographed image.

例えば、特許文献1には、撮影画像データとその撮影場所を示す地図画像データとを対応付けて出力することによりどこで撮影されたものかを容易に確認することができる技術が開示されている。   For example, Patent Document 1 discloses a technology that can easily confirm where a photograph was taken by outputting the photographed image data and map image data indicating the photographing location in association with each other.

また、特許文献2には、音楽と関連付けられている地図上の施設、地点、地域等を容易に検索することができるナビゲーション装置の技術が開示されている。この技術によれば、音楽と関連付けられている地図上の地域等を検索することが容易になる。
特開平9−139906号公報 特開2002−311986号公報
Further, Patent Document 2 discloses a technology of a navigation device that can easily search for facilities, points, regions, and the like on a map associated with music. According to this technique, it becomes easy to search for an area or the like on a map associated with music.
JP-A-9-139906 JP 2002-311986 A

しかしながら、上記特許文献1に開示された技術では、ユーザーの撮影した画像データとその撮影場所を示す地図画像データとを組み合わせて出力して、どこで撮影されたものかを容易に確認できるようになっているが、撮影した画像の鑑賞に関しては何ら工夫されていない。   However, with the technique disclosed in Patent Document 1, it is possible to easily check where the image was taken by outputting a combination of image data taken by the user and map image data indicating the shooting location. However, nothing is devised for appreciating the captured images.

また、上記特許文献2に開示された技術は、音楽と関連付けられている地図上の地域等を容易に検索することができるナビゲーション装置であり、音楽と地図情報との関連付けを行ってはいるが、さらに画像記録再生装置との組み合わせによる画像鑑賞にまでは踏み込んでいない。   Further, the technique disclosed in Patent Document 2 is a navigation device that can easily search a region on a map associated with music, and associates music with map information. Furthermore, it does not go into the image appreciation by the combination with the image recording / reproducing apparatus.

本発明は、上記事情に鑑みてなされたもので、撮影した画像と該画像の撮影地に関係する音楽とを容易に対応付けられ、撮影画像の再生時には対応付けられた音楽が同時に再生できるようにし、撮影当時の思い出を感慨深く追想することができ、鑑賞効果を高めることの可能な画像記録再生システム及び電子アルバム作成システムを提供することを目的とする。   The present invention has been made in view of the above circumstances, so that a photographed image can be easily associated with music related to the photographing location of the image, and the associated music can be reproduced at the same time when the photographed image is reproduced. Another object of the present invention is to provide an image recording / reproducing system and an electronic album creating system capable of deeply recollecting memories at the time of shooting and enhancing the appreciation effect.

上記の目的を達成するために、本発明の第1の態様による画像記録再生装置は、画像撮影を行った地点に関する情報である場所情報データと撮影した画像である画像データとを関連付けする撮影地点関連付け手段と、上記画像データと関連付けられた場所情報を用いて、上記画像撮影を行った地点に関連のある楽曲データを、楽曲データが格納されているデータベースから検索する手段と、上記検索する手段により検索された楽曲データと上記画像データとを同時に再生する再生手段と、からなることを特徴とする。   In order to achieve the above object, the image recording / reproducing apparatus according to the first aspect of the present invention relates to a shooting point that associates location information data that is information relating to a point at which an image was shot and image data that is a shot image. Means for searching for music data related to the spot where the image was taken from a database in which the music data is stored, and means for searching, using the location information associated with the image data; And reproducing means for simultaneously reproducing the music data retrieved by the above and the image data.

上記の目的を達成するために、本発明の第2の態様による画像記録再生システムは、撮影場所の位置を入力する場所情報入力手段と、撮影した画像データと上記場所情報入力手段による場所情報データとを関連付けするデータ関連付け手段と、楽曲データが格納されているデータベースと、上記場所情報データと関連深い楽曲データを上記データベースから検索する検索手段と、上記検索手段により検索された楽曲データと上記画像データとを同時に再生する再生手段とを有することを特徴とする。   In order to achieve the above object, an image recording / reproducing system according to the second aspect of the present invention includes location information input means for inputting the position of a shooting location, captured image data, and location information data by the location information input means. A data association means for associating the music data, a database in which the music data is stored, a search means for searching music data closely related to the location information data from the database, the music data searched by the search means, and the image And reproducing means for simultaneously reproducing data.

上記の目的を達成するために、本発明の第3の態様による電子アルバム作成システムは、画像撮影を行った場所に関する情報である場所情報データが関連付けされた撮影画像データが記録されている記録手段と、上記記録手段に記録された撮影画像データより上記場所情報データを抽出し、その抽出した場所情報データに基づいて、上記画像撮影を行った場所と関連を有する音楽の楽曲データを、楽曲データが格納されているデータベース中から検索する検索手段と、上記検索手段により検索された楽曲データと、上記撮影画像データとを対応付けして上記記録手段または記録メディアに記録する制御手段と、を具備することを特徴とする。   In order to achieve the above object, the electronic album creating system according to the third aspect of the present invention is a recording means in which photographed image data associated with location information data, which is information relating to a location where an image was photographed, is recorded. The location information data is extracted from the captured image data recorded in the recording means, and music data related to the location where the image was captured is stored as music data based on the extracted location information data. A search means for searching from a database in which is stored, and a control means for associating the music data searched by the search means with the photographed image data and recording them in the recording means or recording medium. It is characterized by doing.

上記の目的を達成するために、本発明の第4の態様による電子アルバム作成システムは、画像撮影を行った場所に関する情報である撮影場所データが関連付けされた撮影画像データから上記撮影場所データを抽出し、その抽出した撮影場所データに基づいて上記画像撮影を行った場所に対応する地名を抽出する地名抽出部と、上記地名抽出部で抽出した地名により、上記画像撮影を行った場所と関連を有する音楽の楽曲データをサーバに問い合わせ、上記サーバより楽曲データを受信する送受信部と、上記送受信部が受信した楽曲データと上記撮影画像データとを対応付けし、記録手段に記録するアルバム化部と、からなる送受信手段を有することを特徴とする。   In order to achieve the above object, an electronic album creating system according to a fourth aspect of the present invention extracts the shooting location data from shooting image data associated with shooting location data, which is information relating to the location where the image was shot. And a place name extraction unit that extracts a place name corresponding to the place where the image was taken based on the extracted shooting place data, and a place name extracted by the place name extraction unit is related to the place where the image was taken. A transmission / reception unit that inquires the music data of the music that the server has and receives the music data from the server; an albuming unit that associates the music data received by the transmission / reception unit with the photographed image data and records the data in the recording unit; It has the transmission-and-reception means which consists of.

上記の目的を達成するために、本発明の第5の態様による電子アルバム作成システムは、画像撮影を行った地点に関する情報である場所情報データと撮影した画像である画像データとを関連付けする撮影地点関連付け手段と、上記画像データと関連付けられた場所情報を用いて、上記画像撮影を行った地点に関連のある楽曲データを、楽曲データが格納されているデータベースから検索する手段と、上記検索する手段により検索された楽曲データと上記画像データとを対応付けする制御手段と、を有することを特徴とする。   In order to achieve the above object, an electronic album creating system according to a fifth aspect of the present invention is a shooting point that associates location information data that is information about a point at which an image was shot with image data that is a shot image. Means for searching for music data related to the spot where the image was taken from a database in which the music data is stored, and means for searching, using the location information associated with the image data; Control means for associating the music data retrieved by the above-mentioned image data with the image data.

本発明によれば、撮影した画像と該画像の撮影地に関係する音楽とを容易に対応付けられ、撮影画像の再生時には対応付けられた音楽が同時に再生できるようになり、撮影当時の思い出を感慨深く追想することができ、鑑賞効果を高めることの可能な画像記録再生システム及び電子アルバム作成システムを提供することができる。   According to the present invention, a photographed image can be easily associated with music related to the photographing location of the image, and the associated music can be reproduced at the same time when the photographed image is reproduced. It is possible to provide an image recording / playback system and an electronic album creation system that can be deeply recollected and enhance the appreciation effect.

現在検索エンジンの技術は既に発達しており、インターネットでは地名等をキーワードとして、そのキーワードを含む楽曲を検索することは容易である。また、インターネットを用いなくとも、同様のシステムを携帯電話等の通信技術によって達成する事は可能である。   Currently, search engine technology has already been developed, and it is easy to search for music containing a place name as a keyword on the Internet. Further, a similar system can be achieved by a communication technology such as a mobile phone without using the Internet.

本発明の発明者は、この技術を効果的に利用することにより、例えばユーザーは旅行等で撮影した画像を記録した記録手段をインターネット等に接続するだけで、画像に対して最適な音楽を組み合わせた再生が可能となるのではないかとの知見を得た。   By utilizing this technology effectively, the inventor of the present invention can combine the optimal music for the image only by connecting the recording means for recording the image taken during the trip to the Internet, for example. We learned that it would be possible to regenerate.

本発明では、この環境を利用し、旅行等で特定の地域に行った場合は、撮影画像に対してその地域に関する音楽を組み合わせ、画像再生時にBGMとして上記音楽が流れるようにすることで、旅行当時を思い出し、かつ雰囲気豊かな鑑賞を楽しむ事ができるようにする。   In the present invention, when this environment is used and a trip or the like is performed, the music related to the region is combined with the photographed image so that the music flows as BGM when the image is reproduced. Make sure you can remember the time and enjoy the atmosphere.

例えば、ウィーンではシュトラウスのワルツ、パリではシャンソン、マドリッドではフラメンコというように、その地域に関連する音楽が必ず存在する。音楽によって人間の感情を盛り上げることは、例えば観光バスやレストラン等でもよく行われている。また、種々の演劇、映画又はオペラに代表されるように、映像と音楽とが結びつけられると、聴覚刺激と視覚刺激が効果的に組み合わさり、鑑賞者に強いインパクトを与えると言える。   For example, there is always music related to the region, such as Strauss Waltz in Vienna, Chanson in Paris and Flamenco in Madrid. Enlivening human emotions with music is often done, for example, in sightseeing buses and restaurants. In addition, as represented by various theaters, movies, or operas, it can be said that when video and music are combined, auditory stimulation and visual stimulation are effectively combined to have a strong impact on the viewer.

[第1実施形態]
以下、図面を参照して本発明の第1実施形態に係る画像記録再生システム及び電子アルバム作成システムを説明する。
[First Embodiment]
Hereinafter, an image recording / reproducing system and an electronic album creating system according to a first embodiment of the present invention will be described with reference to the drawings.

図1は、本発明の第1実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成を示す図である。なお、本実施形態においては、画像記録再生装置として、例えばデジタルカメラを想定している。以下、図1を用いて本発明の第1実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成について説明する。   FIG. 1 is a diagram showing the configuration of an image recording / playback system and an electronic album creation system according to the first embodiment of the present invention. In the present embodiment, for example, a digital camera is assumed as the image recording / reproducing apparatus. The configuration of the image recording / playback system and the electronic album creation system according to the first embodiment of the present invention will be described below with reference to FIG.

同図における破線部内は、画像記録再生装置(上述のように、本実施形態においてはデジタルカメラを想定している為、以下デジタルカメラと称す)2を表す。まず、デジタルカメラ2の構成について説明する。   In the drawing, a broken line portion represents an image recording / reproducing apparatus 2 (hereinafter referred to as a digital camera since a digital camera is assumed in the present embodiment as described above) 2. First, the configuration of the digital camera 2 will be described.

デジタルカメラ2には、その動作制御を行う制御部1が設けられている。この制御部1には、操作手段1aが接続され、ユーザーによる該操作手段1aの操作状態に応じて、デジタルカメラ2の動作制御がなされる。   The digital camera 2 is provided with a control unit 1 that controls its operation. An operation unit 1a is connected to the control unit 1, and operation control of the digital camera 2 is performed according to an operation state of the operation unit 1a by a user.

また、制御部1の制御により撮影手段4が画像の撮影を行う。この撮影手段4により撮影された画像データは、同じくデジタルカメラ2内に設けられたデータ関連付け手段8によって、場所情報データと関連付けられて、記録部材としての記録手段6に記録される。ここで、場所情報データとは、画像の撮影場所に関する情報であり、場所情報入力手段10に設けられたスイッチ10aを、ユーザーが操作することにより入力する。なお、この入力のときには、表示部12を利用しつつ操作を行っても勿論よい。また、この場所情報入力手段10への入力は、上述のようなユーザーによる手動入力ではなく、GPS(全地球測位システム)情報14をアンテナ16aを介して受信回路16で受信し、これを上記場所情報入力手段10に入力しても勿論よい。   In addition, the image capturing unit 4 captures an image under the control of the control unit 1. The image data photographed by the photographing means 4 is recorded in the recording means 6 as a recording member in association with the location information data by the data associating means 8 similarly provided in the digital camera 2. Here, the location information data is information relating to the shooting location of the image, and is input by the user operating the switch 10a provided in the location information input means 10. It should be noted that the operation may be performed while using the display unit 12 for this input. Further, the input to the location information input means 10 is not manual input by the user as described above, but GPS (Global Positioning System) information 14 is received by the receiving circuit 16 via the antenna 16a, and this is received by the location information. Of course, the information may be input to the information input means 10.

上述の構成からなるデジタルカメラ2と、インターネット20とを接続する手段として、本画像記録再生システム及び電子アルバム作成システムは、送受信手段18を含む。該送受信手段18は、USB等のコネクタまたは無線による通信手段を有し、撮影場所に関する場所情報データと関連付けられた画像データを、インターネット20を介して基地局22へ送信することができる。なお、上記送受信手段18としては、たとえばパーソナルコンピューターを用いても良い。   As means for connecting the digital camera 2 having the above-described configuration and the Internet 20, the image recording / playback system and the electronic album creating system include transmission / reception means 18. The transmission / reception means 18 includes a connector such as a USB or a wireless communication means, and can transmit image data associated with location information data related to the shooting location to the base station 22 via the Internet 20. For example, a personal computer may be used as the transmission / reception means 18.

上記基地局22には、地名情報抽出手段24が設けられていて、上述のように送受信手段18によってデジタルカメラ2から送信されてきた場所情報データを用いて、場所情報データに対応する楽曲データを、基地局22に設けられたデータベース26から選択する。なお、この楽曲データ選択に際しては、上述の場所情報データに関する地名の入った題名を持つ曲目の楽曲データを選択したり、該地名の土地ゆかりの作曲家の作品である楽曲データ又は歌手の歌である楽曲データ等を候補とする。   The base station 22 is provided with place name information extracting means 24, and using the place information data transmitted from the digital camera 2 by the transmitting / receiving means 18 as described above, music data corresponding to the place information data is obtained. , Select from the database 26 provided in the base station 22. In selecting the music data, the music data of the music having the title including the place name related to the above-mentioned place information data is selected, or the music data or the song of the singer is the work of the composer related to the place of the place name. A piece of music data or the like is a candidate.

このようにして選択されたデジタル音声信号である楽曲データは、基地局22内に設けられた対応付け手段28により、送信されてきた画像データと対応付けされて、基地局22内に設けられた記録手段30に記録される。   The music data that is the digital audio signal selected in this way is provided in the base station 22 in association with the transmitted image data by the association means 28 provided in the base station 22. Recorded in the recording means 30.

また、上述のように楽曲データと対応付けられた画像データは、再びインターネット20及び送受信手段18を介して、図1において一点鎖線に囲まれた電子アルバム部32内に設けられた電子アルバムメモリ部34に記録することができる。   Further, the image data associated with the music data as described above is sent again to the electronic album memory unit provided in the electronic album unit 32 surrounded by the one-dot chain line in FIG. 34 can be recorded.

なお、このように電子アルバムメモリ部34に楽曲データを対応付けした画像データを記録する方法としては、全てのデータをインターネット20を介して行うのではなく、その一部のみをインターネット20を介して行う方法がある。たとえば、インターネット20を介さずにデジタルカメラ2の制御部1から電子アルバム部32へ直接送信し、音声データのみをインターネット20経由で送信し、対応付けして記録するシステムが可能である。つまり、検索された楽曲データのみをインターネット20を介して、電子アルバム部32内のビュワー(不図示)と電子アルバムメモリ部34とに送信し、画像データはデジタルカメラ2から直接、電子アルバム部32へと入力するシステムである。画像データの容量が大きいときには、このようにインターネット20を介さずに電子アルバムメモリ部34に記録するシステムを用いたほうがよい。なお、画像データの容量が大きくない場合であっても、そのような画像データをインターネット20を介さずに電子アルバムメモリ部34に記録するシステムを用いても勿論よい。   In addition, as a method of recording image data in which music data is associated with the electronic album memory unit 34 in this way, not all data is transmitted via the Internet 20, but only a part thereof is transmitted via the Internet 20. There is a way to do it. For example, a system that directly transmits from the control unit 1 of the digital camera 2 to the electronic album unit 32 without using the Internet 20 and transmits only audio data through the Internet 20 and records them in association with each other is possible. That is, only the searched music data is transmitted to the viewer (not shown) in the electronic album unit 32 and the electronic album memory unit 34 via the Internet 20, and the image data is directly sent from the digital camera 2 to the electronic album unit 32. It is a system to input to. When the capacity of the image data is large, it is better to use a system for recording in the electronic album memory unit 34 without using the Internet 20 as described above. Even if the image data capacity is not large, it is of course possible to use a system that records such image data in the electronic album memory unit 34 without going through the Internet 20.

上記電子アルバム部32は、本実施形態のようにデジタルカメラ2とは別体の装置としてもよいし、両者を一体型の装置としても勿論良い。   The electronic album unit 32 may be a separate device from the digital camera 2 as in the present embodiment, or may be an integrated device.

なお、電子アルバム部32に、画像再生部36と音声再生部38として、たとえば大型ディスプレイ及び大型スピーカーを具備させることによって、高画質・高音質を楽しむことができる。このような構成を採りたい場合は、デジタルカメラ2と電子アルバム部32とを別体にした方がよい。別体にする場合は、デジタルカメラ2と電子アルバム部32とを、たとえばコネクタを用いて繋げることができる構成を採り、さらに電子アルバム操作手段40aをユーザーが操作し、その操作状態に応じて電子アルバム制御手段40が電子アルバムメモリ部34内のデータを選択したり、再生方法を切り替えたり等の制御をする。   In addition, by providing the electronic album unit 32 with, for example, a large display and a large speaker as the image reproduction unit 36 and the audio reproduction unit 38, high image quality and high sound quality can be enjoyed. In order to adopt such a configuration, it is better to separate the digital camera 2 and the electronic album unit 32 from each other. When separate, the digital camera 2 and the electronic album unit 32 are connected to each other using, for example, a connector, and the user operates the electronic album operation unit 40a, and the electronic album is operated according to the operation state. The album control means 40 performs control such as selecting data in the electronic album memory unit 34 and switching the reproduction method.

以下、デジタルカメラ2の、撮影動作から画像データと場所情報データとの関連付けまでの動作制御を、図2に示すフローチャートを用いて説明する。   Hereinafter, the operation control of the digital camera 2 from the photographing operation to associating the image data with the location information data will be described with reference to the flowchart shown in FIG.

まず、S1は撮影を行うステップである。S1では、ユーザーによるスイッチ1aの操作状態を制御部1が判断して制御を行い、撮影手段4が撮影を行う。続くS2において、場所情報入力手段10への入力を行う。これは、場所情報入力操作手段10aによりユーザーが手動入力しても、GPS(全地球測位システム)情報14を、デジタルカメラ2に設けられたアンテナ16aを介して受信回路16で受信し、場所情報入力手段10にすることによる入力でもよい。このようにして、S2において撮影場所の場所情報を入力した後はS3に進む。   First, S1 is a step for performing photographing. In S1, the control unit 1 determines and controls the operation state of the switch 1a by the user, and the photographing unit 4 performs photographing. In subsequent S2, input to the location information input means 10 is performed. This is because the GPS (global positioning system) information 14 is received by the receiving circuit 16 via the antenna 16a provided in the digital camera 2 even if the user manually inputs the information by the location information input operation means 10a. An input by using the input means 10 may be used. In this way, after inputting the location information of the shooting location in S2, the process proceeds to S3.

S3は、画像データと場所情報データとを関連付けするステップである。このS3では、制御部1の制御により、撮影した各々の画像データとその撮影場所を示す場所情報データとの関連付けが行われる。   S3 is a step of associating the image data with the location information data. In S <b> 3, under the control of the control unit 1, each captured image data is associated with location information data indicating the shooting location.

図3は、上述のように場所情報データとの関連付けがなされた画像データと、楽曲データとを対応付けする動作制御を示すフローチャートである。なお、図3のフローチャートは、基地局22内においての動作制御を示している。したがって、図3のフローチャートにおける動作制御を行う前に、場所情報データと関連付けされた画像データは、上述したように送受信手段18及びインターネット20を介して、基地局22へ送信されていることを前提とする。以下、図3のフローチャートを用いて、場所情報データとの関連付けがなされた画像データと、楽曲データとを対応付けする動作制御を説明する。   FIG. 3 is a flowchart showing operation control for associating the image data associated with the location information data and the music data as described above. Note that the flowchart in FIG. 3 shows operation control in the base station 22. Therefore, before performing the operation control in the flowchart of FIG. 3, it is assumed that the image data associated with the location information data is transmitted to the base station 22 via the transmission / reception means 18 and the Internet 20 as described above. And The operation control for associating the image data associated with the location information data with the music data will be described below using the flowchart of FIG.

まず、S5において、地名情報抽出手段24が、画像データと関連付けられた場所情報データを参照して、該場所情報データと対応する音声信号である楽曲データを、データベース26から検索して選択する。   First, in S5, the place name information extracting means 24 refers to the place information data associated with the image data, searches the database 26 for music data corresponding to the place information data and selects it.

続くS6において、S5で選択された楽曲データの候補楽曲の曲名リストを作成し、インターネット20を介して、送受信手段18へ送信する。この曲名リストは、その土地にちなんだ名前を持つ曲、作曲家の作品、歌手の歌の曲目等を文字データとして送るため、通信に要するデータ容量も少なくすむ。なお、このリストによる実際の選択画面は、例えば図4に示すような画面表示となる。これにより、ユーザーは即座に、送受信手段(例えばパーソナルコンピューター)18の画面上で、好きな楽曲を選択することができる。   In subsequent S 6, a song name list of candidate songs of the song data selected in S 5 is created and transmitted to the transmission / reception means 18 via the Internet 20. Since this song name list sends a song having a name associated with the land, a composer's work, a song of a singer's song, and the like as character data, the data capacity required for communication can be reduced. The actual selection screen based on this list is displayed as shown in FIG. 4, for example. As a result, the user can immediately select a favorite music piece on the screen of the transmission / reception means (for example, personal computer) 18.

次にS7では、ユーザーは送受信手段(例えばパーソナルコンピューター)18の操作手段18a(例えばキーボードやマウス等)を操作して、S6で表示された対応付けの対象となる画像サンプルの中から、どの画像をどの曲に対応させるかを選択する。ここでは、図4に示すように複数の画像が選択可能であり、選択された画像の周囲には強調するための枠を付ける等の処理を行う。複数の画像を選択した場合は、同じ曲が流れる中でそれら複数の画像が表示されるようになる。なお、楽曲リストは、候補楽曲の具体的な曲名を示すだけでなく、曲調を暗示する表記を同時に示しても勿論よい。また、曲調を暗示する表記だけを示しても勿論よい。   In step S7, the user operates the operation unit 18a (for example, a keyboard or a mouse) of the transmission / reception unit (for example, a personal computer) 18 to select which image from the image samples to be associated displayed in step S6. Select the song that corresponds to. Here, as shown in FIG. 4, a plurality of images can be selected, and processing such as adding a frame for emphasis around the selected image is performed. When a plurality of images are selected, the plurality of images are displayed while the same song flows. It should be noted that the music list may of course not only indicate the specific music titles of the candidate music but also indicate notation that implies the music tone at the same time. Of course, only the notation implying the tune may be shown.

S7において、上述に示すような選択操作がなされた場合はS12へ進む。S12では、S7での選択結果に基づいて、基地局22がインターネット20を介して送受信手段18へ楽曲データを送信する。さらに、送受信手段18は、電子アルバム部32内の電子アルバムメモリ部34へ、上記楽曲データを送信する。なお、このS7では、楽曲データの送信先として、上述のように電子アルバム部32内の電子アルバムメモリ部34ではなく、基地局22内の記録手段30に対して送信してもよい。   If the selection operation as described above is performed in S7, the process proceeds to S12. In S <b> 12, the base station 22 transmits music data to the transmission / reception means 18 via the Internet 20 based on the selection result in S <b> 7. Further, the transmission / reception means 18 transmits the music data to the electronic album memory unit 34 in the electronic album unit 32. In S7, the music data may be transmitted to the recording unit 30 in the base station 22 instead of the electronic album memory unit 34 in the electronic album unit 32 as described above.

また、S7では、画像データと楽曲データとの対応付けも行うが、送受信手段18としてパーソナルコンピューターを用いる場合は、ユーザーの指示により楽曲データと画像データとを対応付ける動作制御は該パーソナルコンピューターで行うことができる。一方、送受信手段18として、パーソナルコンピューターを用いない構成を採る場合は、基地局22内の対応付け手段28が、画像データと楽曲データとを対応付ける動作制御を行うことになる。なお、送受信手段18としてパーソナルコンピューターを用いる場合であっても、対応付け手段28で対応付けを行っても勿論よい。   In S7, the image data and the music data are also associated with each other. However, when a personal computer is used as the transmission / reception means 18, the operation control for associating the music data with the image data according to a user instruction is performed on the personal computer. Can do. On the other hand, when the transmission / reception unit 18 is configured not to use a personal computer, the association unit 28 in the base station 22 performs operation control for associating the image data with the music data. It should be noted that even if a personal computer is used as the transmission / reception means 18, the association means 28 may perform the association.

上述のS7において所定の選択操作が行われなかった場合は、S8に進む。ここで、もし通信による課金にこだわらなくてよいのであれば、S8をY分岐してS9に進んで候補の全楽曲を選択する。そして、上述のS12へ進む。これにより、図5に示すように、同じ画像データに対して異なる楽曲データを付加した、さまざまなバージョンの電子アルバムが、電子アルバム部32内に作成されることになる。なお、電子アルバムの作成場所としては、基地局22内の記録手段30を用いても勿論よい。近年のメディアの大容量化が、こうした複数バージョンの電子アルバムの記録を可能にしている。   If the predetermined selection operation is not performed in S7 described above, the process proceeds to S8. Here, if it is not necessary to pay for communication, S8 is branched into Y and the process proceeds to S9 to select all candidate songs. Then, the process proceeds to S12 described above. As a result, as shown in FIG. 5, various versions of the electronic album in which different music data are added to the same image data are created in the electronic album unit 32. Of course, the recording means 30 in the base station 22 may be used as the creation location of the electronic album. Increasing media capacity in recent years has made it possible to record multiple versions of electronic albums.

また、このように候補の全楽曲を選択してしまうのは、通信時間や通信費用やライセンス料の関係で好ましくないとユーザーが判断した場合には、ユーザーが操作手段18aを操作することにより、S8をS10に分岐して、画像データを参照して楽曲選択を行うステップへ進む(S8をN分岐してS10へ進む)。   In addition, if the user determines that selecting all the candidate songs in this way is not preferable due to the communication time, communication cost, and license fee, the user operates the operation means 18a, The process branches from S8 to S10, and proceeds to the step of selecting a music piece by referring to the image data (N is branched from S8 to S10).

S10では、基地局22の対応付け手段28が画像データを参照する。そして、S11において、基地局22の対応付け手段28は画像データの被写体を分析し、該画像データに対応した楽曲データをデータベース26から選択する。   In S10, the association means 28 of the base station 22 refers to the image data. In step S11, the association unit 28 of the base station 22 analyzes the subject of the image data and selects music data corresponding to the image data from the database 26.

このような画像データの分析に関しては、近年人物認証の技術が広く研究され、画像データから人物を特定する技術が発達している。本発明では、この人物認証技術を応用して画像の中から人間の顔部分を特定し、被写体である人物の数を特定できるアルゴリズムを利用する。なお、この人物認証による人数特定の際に、デジタルカメラ2から送られる画像データに付加されている、撮影時の情報(被写体距離等の情報)を併用して判定を行っても勿論よい。このような技術を利用して行う楽曲データ選択のフローチャートを図6に示す。なお、本実施形態においては、場所データ以外のデータも利用して、画像データに対応する最適な楽曲データを画像データに対応付けする。以下、図6のフローチャートを用いて説明する。   With regard to such image data analysis, in recent years, a technique for person authentication has been widely studied, and a technique for identifying a person from image data has been developed. In the present invention, an algorithm that applies the person authentication technique to identify a human face part from an image and identifies the number of persons as subjects is used. It should be noted that when the number of persons is specified by this person authentication, it is of course possible to make a determination by using information at the time of shooting (information such as subject distance) added to the image data sent from the digital camera 2 as well. FIG. 6 shows a flowchart of music data selection performed using such a technique. In the present embodiment, data other than location data is also used to associate optimum music data corresponding to image data with image data. Hereinafter, a description will be given using the flowchart of FIG.

まず、S20において、デジタルカメラ2から送信されてきた複数の画像データにおいて、同じ場所で撮影された画像データが複数存在するか否かを、基地局22内の対応付け手段28が判断する。ここで、複数存在すると判断された場合は、Y分岐してS30へ進む。   First, in S20, the association unit 28 in the base station 22 determines whether or not there are a plurality of image data photographed at the same place in a plurality of image data transmitted from the digital camera 2. Here, if it is determined that there are a plurality, the Y branch is taken and the process proceeds to S30.

S30では、対応付け手段28が、同じ場所で撮影された画像データをひとまとめにする。このステップにおいて、同じ場所で撮影された画像データが複数ある場合に、それらの画像をひとまとめにすることで、一曲あたり数分は要するであろう楽曲データに、相互に関連のある複数の画像を対応させることができる。つまり、撮影画像の鑑賞は一枚当たり、数秒程度で十分であることを考慮したステップであると言える。   In S30, the associating means 28 collects image data shot at the same place. In this step, when there are multiple image data shot at the same place, by combining these images, multiple images that are related to the song data that would take several minutes per song Can be made to correspond. In other words, it can be said that the appreciation of the photographed image is a step that takes into consideration that a few seconds per image is sufficient.

つづくS31において、S30において撮影場所によりグループ化された画像の中で、中心となる人物が複数人存在するか否かを、対応付け手段28が判定する。ここで、複数であると判断された場合は、Y分岐してS35へ進む。   In step S31, the association unit 28 determines whether or not there are a plurality of central persons in the images grouped by the shooting location in step S30. Here, if it is determined that there are a plurality, the Y branch is taken and the process proceeds to S35.

S35においては、風景写真を含むか否かを、対応付け手段28が、さらに判断する。ここで、風景写真を含むと判断された場合は、旅行にて撮影された写真であると判断し、S35をY分岐してS36へ進む。   In S35, the association unit 28 further determines whether or not a landscape photograph is included. If it is determined that a landscape photograph is included, it is determined that the photograph is taken on a trip, S35 is branched into Y, and the process proceeds to S36.

続くS36では、カップルの写真であるか否かの判断を、対応付け手段28が行う。ここで、カップルでの写真であると判断される場合は、カップルでの旅行であると判断され、S43へ進む。したがって、S43では、撮影場所を考慮したロマンチックな曲調の楽曲データを、対応付け手段28が選択する。   In the subsequent S36, the associating unit 28 determines whether the photograph is a couple. Here, when it is determined that the photograph is a couple, it is determined that the trip is a couple, and the process proceeds to S43. Therefore, in S43, the associating unit 28 selects music data having a romantic tone that takes the shooting location into consideration.

また、上述のS36においてカップルでないと判断された場合は、通常の旅行であると判断し、S42へ進む。したがって、S42では、地名を考慮した流行曲である楽曲データを、対応付け手段28が選択する。このように、風景写真を含み、且つカップルでの写真ではない場合、通常の団体旅行であると判断できるので、対応付ける楽曲データとしては、ロマンチックな曲ではなく、明るく軽快で一般的に知られた流行曲を選択することとした。   If it is determined in S36 that the couple is not a couple, it is determined that the trip is a normal trip, and the process proceeds to S42. Therefore, in S <b> 42, the association unit 28 selects music data that is a trendy music considering the place name. In this way, if you include a landscape photo and it is not a photo of a couple, you can judge that it is a normal group trip, so the song data to be associated is not a romantic song but a bright, nimble and generally known It was decided to select popular songs.

また、上述のS35において、風景写真を含まないと判断された場合は、S38へ進む。S38では、カップルでの写真であるか否かを対応付け手段28が判断する。ここで、カップルでの写真であると判断される場合は、旅行ではない単なるデートであると判断し、Y分岐してS40へ進む。したがって、S40では、特に地名を考慮せずにロマンチックな曲調の楽曲データを選択する。   On the other hand, if it is determined in S35 that the landscape photograph is not included, the process proceeds to S38. In S <b> 38, the association unit 28 determines whether the photograph is a couple. Here, when it is determined that the photograph is a couple, it is determined that it is not a trip but a simple date, and a branch is made to Y to proceed to S40. Therefore, in S40, music data having a romantic tone is selected without considering the place name.

一方、S38において、カップルでの写真ではないと判断された場合は、S41へ進む。このように、風景を含まずカップル写真でもない場合には、宴会での撮影画像であるとして、その時期の流行曲のメドレーを、対応付け手段28が選択する。   On the other hand, if it is determined in S38 that the photograph is not a couple, the process proceeds to S41. As described above, when the image does not include a landscape and is not a couple photo, the association unit 28 selects a medley of a popular song at that time as an image taken at a banquet.

なお、上述のように風景写真の有無で旅行写真であるか否かの判定する以外にも、ユーザーの居住地の情報を基地局のデータベースが有している場合には、撮影時の場所がユーザーの居住地から例えば50km以上離れているか否かの判定を行うことにより、旅行での写真であるか否かを判定しても勿論よい。   As described above, in addition to determining whether the photograph is a travel photograph based on the presence or absence of a landscape photograph, if the base station database has information on the user's residence, the location at the time of shooting is Of course, it may be determined whether or not it is a photograph of a trip by determining whether or not it is 50 km or more away from the user's residence.

また、上述のS31において、S30で撮影場所によりグループ化した画像中で、中心となる人物が複数人ではないと、対応付け手段28により判断された場合には、1人で写っている撮影画像であるとして、N分岐S32へ進む。   Further, in the above-described S31, in the image grouped according to the shooting location in S30, if the association unit 28 determines that there are not a plurality of central persons, the shot image taken by one person As a result, the process proceeds to the N branch S32.

S32では、風景写真を含むか否かを対応付け手段28が判断し、風景写真を含む場合はY分岐してS45へ進む。S45では、特にその撮影を行った土地に関連した曲で、ヒーリング系の音楽を、対応付け手段28が選択する。   In S32, the associating means 28 determines whether or not a landscape photograph is included, and if it includes a landscape photograph, the process branches to Y45 and proceeds to S45. In S45, the associating means 28 selects the healing music, particularly with the music related to the land where the image was taken.

一方、S32で風景写真を含まないと、対応付け手段28が判断した場合は、N分岐してS46へ進む。S46では、個人的なアルバムでの写真であるとして、ヒーリング系の音楽を対応付け手段28が選択する。   On the other hand, if the associating means 28 determines that the landscape photograph is not included in S32, it branches N and proceeds to S46. In S46, the association means 28 selects healing music as a photo in a personal album.

また、上述のS20において、同じ場所で撮影された画像データが複数存在しないと、対応付け手段28が判断した場合は、N分岐してS21へ進む。S21では、同じ日付に撮影された画像をひとまとめにし、S22へ進む。このステップは、同じ日付に撮影された画像が複数ある場合に、それらの画像をひとまとめにすることで、一曲あたり数分は要するであろう音楽の再生に、相互に関連のある複数の画像を対応させる為である。撮影画像の鑑賞は一枚当たり、数秒程度で十分であることを考慮したステップである。   In S20 described above, if the associating unit 28 determines that a plurality of image data photographed at the same place does not exist, the process branches to N21 after branching N. In S21, images taken on the same date are grouped, and the process proceeds to S22. In this step, if there are multiple images taken on the same date, they can be grouped together to create multiple images that are related to each other for playing music that would take several minutes per song. It is for making it correspond. Appreciation of the captured image is a step that takes into account that a few seconds per image is sufficient.

続くS22においては、風景写真を多く含むか否かの判断を対応付け手段28が判断する。ここで、風景写真を多く含むと判断される場合は、S22をY分岐してS24に分岐する。S24では、撮影場所を考慮した楽曲データを選択できるように、その風景写真を撮影した場所の地名を特定してS31に分岐する。以降、上述したS31以降のステップを辿るが、最終的な楽曲データの選択の際には、S24で特定された地名を考慮に入れた楽曲データの選択を行う。   In the subsequent S22, the associating means 28 determines whether or not many landscape photographs are included. Here, when it is determined that many landscape photographs are included, S22 is branched into Y and then branched to S24. In S24, the place name of the place where the landscape photograph was taken is specified and the process branches to S31 so that the music data can be selected in consideration of the place of photography. Thereafter, the steps after S31 described above are followed, but when selecting the final music data, the music data is selected in consideration of the place name specified in S24.

また、上述のS22において、風景写真が多くないと判断された場合には、N分岐してS23へ進む。S23では、被写体の人物がカップルの写真であるか否かを、対応付け手段28が判断する。ここで、カップルの写真であると判断される場合は、Y分岐してS40へ進む。S40においては、ロマンチックな曲調の楽曲データを、対応付け手段28が選択する。一方、S23にて、カップルの写真でないと判断された場合は、個人的な写真であると判断され、N分岐してS46へ進む。したがって、S46においては、ヒーリング効果の高い楽曲データを対応付け手段28が選択する。   If it is determined in S22 that there are not many landscape photographs, the process branches to S23 after branching N. In S23, the association unit 28 determines whether the subject person is a photograph of a couple. Here, when it is determined that the photograph is a couple's photograph, the process branches to Y and proceeds to S40. In S40, the associating means 28 selects music data having a romantic tune. On the other hand, if it is determined in S23 that the photograph is not a couple's photograph, it is determined that the photograph is a personal photograph, and N branches and proceeds to S46. Therefore, in S46, the association means 28 selects music data having a high healing effect.

上述のように、撮影画像の画像データに対して適切な楽曲データを、対応付け手段28が選択したステップ(S41,S42,S43,S45,S46)を経た後は、S45へ進む。このS45では、対応付け手段28が、複数の画像データをひとまとめにし、その画像データと上述のステップにおいて選択された音楽の楽曲データとを対応付けする。   As described above, after the step (S41, S42, S43, S45, S46) in which the association means 28 selects appropriate music data for the image data of the photographed image, the process proceeds to S45. In S45, the association unit 28 collects a plurality of pieces of image data and associates the image data with the music data of the music selected in the above step.

以上説明したように、本発明の第1実施形態によれば、互いに関連を有する複数の画像に対して一曲の適切な音楽が関連づけられるので、画像再生の際にはBGMとしての音楽を、短くぶつ切りにすることなく自然な流れで鑑賞できる電子アルバムを容易に作成できる。また、画像データに対して選択される音楽の楽曲データは、該画像データにとって最も相応しい音楽の楽曲データであるので、鑑賞効果も高まる。また、本発明を用いて作成した電子アルバムのように、撮影画像の再生時に撮影画像に関連の深い音楽が付加されることにより、撮影当時の思い出を感慨深く追想することができる。   As described above, according to the first embodiment of the present invention, one piece of appropriate music is associated with a plurality of images that are related to each other. You can easily create an electronic album that can be viewed in a natural way without chopping it up. Also, the music data selected for the image data is the music data most suitable for the image data, so that the viewing effect is enhanced. In addition, as with an electronic album created using the present invention, music that is deeply related to a captured image is added when the captured image is reproduced, so that memories at the time of shooting can be recollected deeply.

つまり、本実施形態に係る画像記録再生システム及び電子アルバム作成システムにより、従来は旅行等でデジタルカメラにより撮影されたが、鑑賞される機会の少なかった画像データを、鑑賞にふさわしい作品として構成することが容易にできる。しかも、ユーザーは撮影画像1つ1つに音楽を選択するような面倒な作業を行うことなく作成できる。再生にあたっては、DVDプレーヤーやHDプレーヤー等の機能を有効に利用した鑑賞ができる。   In other words, the image recording / playback system and the electronic album creation system according to the present embodiment constitute image data that has been photographed with a digital camera on a trip or the like but has been rarely viewed as a work suitable for viewing. Can be easily done. In addition, the user can create the image without performing the troublesome task of selecting music for each captured image. During playback, viewing can be performed using the functions of a DVD player, HD player, etc. effectively.

なお、選択されたデジタル音声データである楽曲データは、基地局22に設けられた対応付け手段28により、撮影された画像データと対応付けされて、基地局22に設けられた記録手段30に記録することが可能な構成となっている。したがって、この記録手段30の内容を再生することにより、インターネット上でも鑑賞することのできるマルチメディア式の電子アルバムを作成することができる。   The music data, which is the selected digital audio data, is recorded in the recording unit 30 provided in the base station 22 in association with the captured image data by the association unit 28 provided in the base station 22. It is possible to do this. Therefore, by reproducing the contents of the recording means 30, it is possible to create a multimedia electronic album that can be viewed on the Internet.

[第2実施形態]
次に、本発明の第2実施形態に係る画像記録再生システム及び電子アルバム作成システムについて説明する。
[Second Embodiment]
Next, an image recording / reproducing system and an electronic album creating system according to the second embodiment of the present invention will be described.

本実施形態では、ファイルサイズの大きな画像データ等の、通信回線を通じての送受信にかかる時間および通信料金を最小限に抑える為に、基地局との送受信するデータ量を最小限に抑えるシステム構成とした。以下、図面を用いて本実施形態に係る画像記録再生システム及び電子アルバム作成システムについて説明する。   In this embodiment, in order to minimize the time and communication charge for transmission / reception of image data with a large file size through the communication line, the system configuration is configured to minimize the amount of data transmitted / received to / from the base station. . Hereinafter, an image recording / reproducing system and an electronic album creating system according to the present embodiment will be described with reference to the drawings.

図7は本実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成を示す図である。以下、図7を用いて本実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成について説明する。なお、作成された電子アルバムの再生を行う部分等、前出の第1実施形態に係る画像記録再生システム及び電子アルバム作成システムと同一の構成部分についての図示及び説明は一部省略する。   FIG. 7 is a diagram showing a configuration of an image recording / playback system and an electronic album creation system according to the present embodiment. Hereinafter, the configuration of the image recording / reproducing system and the electronic album creating system according to the present embodiment will be described with reference to FIG. Note that illustrations and descriptions of the same components as the image recording / playback system and the electronic album creation system according to the first embodiment, such as a portion for playing back the created electronic album, are partially omitted.

本実施形態の画像記録再生システム及び電子アルバム作成システムにおいては、画像記録再生装置2は、地名を表すデータである地名データの入力機能を有している。また、送受信手段18は、地名抽出部18b、アルバム化部18d、及び送受信部18eを有している。ここで、地名抽出部18bとは、地名に関する情報のデータベースである地名データベース18cを参照して、画像記録再生装置2によりもたらされる撮影場所データから、撮影場所の判定を行う構成部である。また、アルバム化部18dは、画像データと楽曲データとを対応付けする構成部であり、対応付けしたデータを電子アルバム部32に記録する。また、送受信部18eは、データの送受信をインターネット20と行う構成部である。   In the image recording / playback system and the electronic album creation system of the present embodiment, the image recording / playback apparatus 2 has a function of inputting place name data, which is data representing the place name. The transmission / reception means 18 includes a place name extraction unit 18b, an albuming unit 18d, and a transmission / reception unit 18e. Here, the place name extraction unit 18b refers to a place name database 18c that is a database of information on place names, and is a configuration unit that determines a shooting place from shooting place data provided by the image recording / reproducing apparatus 2. The albuming unit 18d is a configuration unit that associates image data with music data, and records the associated data in the electronic album unit 32. The transmission / reception unit 18e is a component that performs transmission / reception of data with the Internet 20.

なお、ここでは送受信手段18としてパーソナルコンピューターを想定している。また、上記地名データベース18c及び電子アルバム部32は、図7に示すように画像記録再生装置2及び送受信手段18とは別体にせずに、画像記録再生装置2または送受信手段18内に設けても勿論よい。   Here, a personal computer is assumed as the transmission / reception means 18. Further, the place name database 18c and the electronic album unit 32 may be provided in the image recording / reproducing apparatus 2 or the transmitting / receiving means 18 without being separated from the image recording / reproducing apparatus 2 and the transmitting / receiving means 18, as shown in FIG. Of course.

また、データベース検索部42は、楽曲データ等を格納したデータベースであり、インターネット20を介して送受信手段18から送信される地名を表す地名データを基に、対応する候補音楽の楽曲データを検索する。   The database search unit 42 is a database that stores music data and the like, and searches music data of the corresponding candidate music based on the place name data representing the place name transmitted from the transmission / reception means 18 via the Internet 20.

図8は、本実施形態に係る画像記録再生システム及び電子アルバム作成システムでの、アルバム作成の動作制御を示すフローチャートである。以下、図8のフローチャートを用いて本実施形態に係る画像記録再生システム及び電子アルバム作成システムの動作制御を説明する。   FIG. 8 is a flowchart showing album creation operation control in the image recording / playback system and electronic album creation system according to the present embodiment. Hereinafter, the operation control of the image recording / reproducing system and the electronic album creating system according to the present embodiment will be described with reference to the flowchart of FIG.

まず、図8のフローチャートにおけるS50は、電子アルバム化する対象の画像データの撮影場所の判定を行うステップである。送受信手段18の地名抽出部18bが、上記画像データを参照し、当該画像データの撮影を行った撮影場所(地図座標)を判定する。   First, S50 in the flowchart of FIG. 8 is a step of determining a shooting location of image data to be converted into an electronic album. The place name extraction unit 18b of the transmission / reception means 18 refers to the image data and determines the shooting location (map coordinates) where the image data was shot.

続いてS51において、地名抽出部18bが地名データベース18cを参照して撮影場所の地名を表す地名データを抽出する。なお、この地名データとしては、この地名抽出部18bは、たとえば「琵琶湖」又は「滋賀県」等のように大まかな地域の地名とする。また、例えば「近江八幡」「五箇荘」「彦根」などと具体的な地名としても勿論よい。   Subsequently, in S51, the place name extraction unit 18b refers to the place name database 18c and extracts place name data representing the place name of the shooting place. As the place name data, the place name extracting unit 18b uses place names of rough areas such as “Lake Biwa” or “Shiga Prefecture”. Of course, specific place names such as “Omihachiman”, “Gokaso”, and “Hikone” may be used.

なお、ここでは、地名抽出機能を送受信手段18に持たせたが、データベース検索部42に地名抽出機能を持たせても勿論よい。その場合には、撮影場所(地図座標)データをインターネット20を介してデータベース検索部42に送信するシステムとなる。また、代表地名の選択も大型コンピューターからなるデータベース検索部42で行わせる方が、正確な検索が可能となるし、個人で大きなシステムを有する必要もなくなる。   Here, the place name extraction function is provided in the transmission / reception means 18, but the database search unit 42 may of course have the place name extraction function. In that case, the system is such that the shooting location (map coordinate) data is transmitted to the database search unit 42 via the Internet 20. In addition, when the representative place name is selected by the database search unit 42 composed of a large computer, an accurate search becomes possible, and it is not necessary to have a large system by an individual.

続くS52において、地名抽出部18bが、各地名ごとに当該画像データをグループ化する。次にS53において、S52でグループ化された代表的な地名データである代表地名データのみを送受信部18eが、インターネット20を介してデータベース検索部42へ送信する。このように代表地名データのみを送信する構成のため、大きな画像データのファイルを送信するときに生じる時間的費用的な無駄を省くことができる。   In subsequent S52, the place name extraction unit 18b groups the image data for each place name. Next, in S53, the transmitting / receiving unit 18e transmits only the representative place name data, which is the representative place name data grouped in S52, to the database searching unit 42 via the Internet 20. As described above, since only the representative place name data is transmitted, it is possible to eliminate time-consuming waste that occurs when a large image data file is transmitted.

次に、S54においては、S53で送信されてきた代表地名データから、データベース検索部42が、電子アルバム化の候補となる音楽の楽曲データを選択し、その楽曲データを送受信手段18へ送信する。そして、送受信手段18の送受信部18eが、データベース検索部42が送信した候補楽曲の楽曲データを受信する。   Next, in S54, the database search unit 42 selects music data of music that is a candidate for electronic album from the representative place name data transmitted in S53, and transmits the music data to the transmission / reception means 18. Then, the transmission / reception unit 18e of the transmission / reception means 18 receives the music data of the candidate music transmitted by the database search unit 42.

続くS55においては、送受信手段18のアルバム化部18dが、S54にて取得した楽曲データと上記S52でグループ化された画像データとを対応付けて各画像グループに楽曲を付与する。さらに、このように対応付けされたデータは、アルバム化部18dにより、電子アルバム部32に記録される。最後に、S56において、上記各画像グループに代表地名を表すインデックスを付与する。   In subsequent S55, the albuming unit 18d of the transmission / reception means 18 associates the music data acquired in S54 with the image data grouped in S52 and assigns music to each image group. Further, the data associated in this way is recorded in the electronic album unit 32 by the albuming unit 18d. Finally, in S56, an index representing the representative place name is assigned to each image group.

上述のような本実施形態に係るシステムで作成されたアルバムは、図9の模式図に示すような音楽と画像の再生が可能となる。つまり、各画像グループと地域的に関連深い音楽の楽曲データが付加されて再生され、再生表示されている画像グループが切り換わるごとに、次に再生表示される画像グループに関する地名インデックスが表示される。   The album created by the system according to the present embodiment as described above can reproduce music and images as shown in the schematic diagram of FIG. That is, music data of music closely related to each image group is added and reproduced, and each time the displayed image group is switched, the place name index for the next image group to be reproduced and displayed is displayed. .

以上説明したように、本発明の第2実施形態によれば、携帯電話又は通信回線を利用して通信されるデータに画像データを含まず、地名データや音楽データのみが送られるため、画像データの送受信を行う場合に比べて通信データ量の少ない効率的な通信となる。   As described above, according to the second embodiment of the present invention, image data is not included in data communicated using a mobile phone or a communication line, and only place name data and music data are transmitted. Compared with the case of transmitting and receiving, the communication becomes less efficient and the communication becomes efficient.

つまり、本実施形態では、小さな通信データ量にも関わらず、撮影した画像データに適切な音楽の楽曲データを容易に対応付けられ、撮影画像再生の際には対応付けられた音楽が再生されるようにした画像記録再生システム及び電子アルバム作成システムを提供することができる。また、本発明を用いて作成した電子アルバムのように、撮影画像の再生時に撮影した画像データに関連の深い音楽の楽曲データが付加されることにより、撮影当時の思い出を感慨深く追想することができる。   That is, in the present embodiment, despite the small amount of communication data, the music data of appropriate music can be easily associated with the captured image data, and the associated music is reproduced when the captured image is reproduced. An image recording / reproducing system and an electronic album creating system can be provided. In addition, like an electronic album created using the present invention, music data of deeply related music is added to the image data captured during playback of the captured image, so that memories at the time of shooting can be recollected deeply. .

以上、本発明の実施形態について説明したが、本発明は上述した実施形態以外にも、本発明の要旨を逸脱しない範囲で種々の変形実施が可能である。   As mentioned above, although embodiment of this invention was described, in the range which does not deviate from the summary of this invention other than embodiment mentioned above, this invention can be variously modified.

本発明の第1実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成を示す図である。It is a figure which shows the structure of the image recording / reproducing system which concerns on 1st Embodiment of this invention, and an electronic album production system. 画像記録再生装置(本実施形態においてはデジタルカメラを想定)での撮影制御を示すフローチャートである。6 is a flowchart showing photographing control in an image recording / reproducing apparatus (a digital camera is assumed in the present embodiment). 場所情報が付加された画像データに対し、基地局の対応付け手段が、音声データを対応付けするステップを示したフローチャートである。It is the flowchart which showed the step which the correlation means of a base station matches audio | voice data with respect to the image data to which location information was added. 曲名リストによる実際の選択画面の画面表示例を示す図である。It is a figure which shows the example of a screen display of the actual selection screen by a song name list. 同じ画像パターンに対して異なる楽曲を付加した、さまざまなバージョンのアルバムを示す図である。It is a figure which shows the album of various versions which added the different music with respect to the same image pattern. 人物認証技術を利用して行う音楽データ選択のフローチャートである。It is a flowchart of the music data selection performed using a person authentication technique. 第2実施形態に係る画像記録再生システム及び電子アルバム作成システムの構成を表す図である。It is a figure showing the structure of the image recording / reproducing system and electronic album production system which concern on 2nd Embodiment. 第2実施形態におけるアルバム作成のフローチャートである。It is a flowchart of album creation in 2nd Embodiment. 第2実施形態に係る画像記録再生システム及び電子アルバム作成システムで作成された電子アルバムの再生状況を表す模式図である。It is a schematic diagram showing the reproduction | regeneration condition of the electronic album produced with the image recording / reproducing system and electronic album production system which concern on 2nd Embodiment.

符号の説明Explanation of symbols

1…制御部、 2…画像記録再生装置、 2a…操作手段、 4…撮影手段、 6…記録手段、 8…データ関連付け手段、 10…場所情報入力手段、 10a…場所情報入力操作手段、 12…表示部、 14…GPS情報、 16a…アンテナ、 16…受信回路、 18…送受信手段、 18a…操作手段、 18b…地名抽出部、 18c…地名データベース、 20…インターネット、 22…基地局、 24…地名情報抽出手段、 26…データベース、 28…対応付け手段、 30…記録手段、 32…電子アルバム部、 34…電子アルバムメモリ部、 36…画像再生部、 38…音声再生部、 40a…電子アルバム操作手段、 40…電子アルバム制御手段、 42…データベース検索部。     DESCRIPTION OF SYMBOLS 1 ... Control part, 2 ... Image recording / reproducing apparatus, 2a ... Operation means, 4 ... Imaging | photography means, 6 ... Recording means, 8 ... Data correlation means, 10 ... Location information input means, 10a ... Location information input operation means, 12 ... Display unit, 14 ... GPS information, 16a ... antenna, 16 ... receiving circuit, 18 ... transmission / reception means, 18a ... operation means, 18b ... place name extraction unit, 18c ... place name database, 20 ... internet, 22 ... base station, 24 ... place name Information extraction means, 26 ... database, 28 ... association means, 30 ... recording means, 32 ... electronic album section, 34 ... electronic album memory section, 36 ... image reproduction section, 38 ... audio reproduction section, 40a ... electronic album operation means 40 ... Electronic album control means, 42 ... Database search section.

Claims (16)

画像撮影を行った地点に関する情報である場所情報データと撮影した画像である画像データとを関連付けする撮影地点関連付け手段と、
上記画像データと関連付けられた場所情報を用いて、上記画像撮影を行った地点に関連のある楽曲データを、楽曲データが格納されているデータベースから検索する手段と、
上記検索する手段により検索された楽曲データと上記画像データとを同時に再生する再生手段と、
からなることを特徴とする画像記録再生システム。
A shooting point associating means for associating location information data that is information relating to a point at which an image was shot and image data that is a shot image;
Means for searching for music data related to the spot where the image was taken from a database in which music data is stored, using the location information associated with the image data;
Reproduction means for simultaneously reproducing the music data searched by the searching means and the image data;
An image recording / reproducing system comprising:
上記検索する手段は、上記画像データの画像分析を更に行い、上記楽曲データの検索のときに、上記画像分析の分析結果を考慮して楽曲データを検索することを特徴とする請求項1に記載の画像記録再生システム。   2. The search unit according to claim 1, wherein the searching unit further performs image analysis of the image data, and searches the music data in consideration of the analysis result of the image analysis when searching for the music data. Image recording and playback system. 上記データベースに格納されている楽曲データは、上記場所情報データに関連する作曲家の作品である楽曲データ、上記場所情報データに関連する歌手の歌である楽曲データ及び上記場所情報データに関連する曲名を持つ楽曲の楽曲データの少なくとも一つを含むことを特徴とする請求項1に記載の画像記録再生システム。   The music data stored in the database includes music data that is a composer's work related to the location information data, music data that is a singer's song related to the location information data, and a song name related to the location information data The image recording / reproducing system according to claim 1, wherein the image recording / reproducing system includes at least one piece of music data. 全地球測位システム機能を更に有し、該全地球測位システム機能及び上記撮影地点関連付け手段はカメラ部の構成要素であり、上記場所情報データは、上記全地球測位システムにより取得されることを特徴とする請求項1に記載の画像記録再生システム。   It further has a global positioning system function, the global positioning system function and the photographing point association means are components of a camera unit, and the location information data is acquired by the global positioning system. The image recording / reproducing system according to claim 1. 上記画像撮影のときには、上記画像データに上記全地球測位システム機能により取得した上記場所情報データを付加するデータ化手段を更に有することを特徴とする請求項4に記載の画像記録再生システム。   5. The image recording / reproducing system according to claim 4, further comprising data converting means for adding the location information data acquired by the global positioning system function to the image data at the time of image capturing. 上記データベースは、1つの場所情報データに対して、該場所情報データに対応する楽曲データを複数有し、上記画像データと対応付けされる楽曲データを上記複数の楽曲データ中から選択することができる選択手段を有することを特徴とする請求項1に記載の画像記録再生システム。   The database has a plurality of pieces of music data corresponding to the place information data for one piece of place information data, and music data associated with the image data can be selected from the plurality of pieces of music data. The image recording / reproducing system according to claim 1, further comprising a selection unit. 上記選択手段による楽曲データ選択のときに、選択が為されない場合には、上記複数の楽曲データのそれぞれに対して同一の画像データを対応付けし、複数のバージョンの電子アルバムを作成することを特徴とする請求項6に記載の画像記録再生システム。   When selection is not made at the time of music data selection by the selection means, the same image data is associated with each of the plurality of music data to create a plurality of versions of an electronic album The image recording / reproducing system according to claim 6. 撮影場所の位置を入力する場所情報入力手段と、
撮影した画像データと上記場所情報入力手段による場所情報データとを関連付けするデータ関連付け手段と、
楽曲データが格納されているデータベースと、
上記場所情報データと関連深い楽曲データを上記データベースから検索する検索手段と、
上記検索手段により検索された楽曲データと上記画像データとを同時に再生する再生手段とを有する画像記録再生システム。
Location information input means for inputting the position of the shooting location;
Data association means for associating photographed image data with location information data by the location information input means;
A database storing music data;
Search means for searching music data closely related to the location information data from the database;
An image recording / reproducing system comprising reproduction means for simultaneously reproducing the music data searched by the search means and the image data.
上記画像データの画像分析を行い、該画像分析の分析結果に従って該画像データに対応付けする楽曲データを選択する選択手段を更に有することを特徴とする請求項8に記載の画像記録再生システム。   9. The image recording / reproducing system according to claim 8, further comprising selection means for performing image analysis of the image data and selecting music data associated with the image data according to the analysis result of the image analysis. 上記データベースに格納されている楽曲データは、上記場所情報データに関連する作曲家の作品である楽曲データ、上記場所情報データに関連する歌手の歌である楽曲データ及び上記場所情報データに関連する曲名を持つ楽曲の楽曲データの少なくとも一つを含むことを特徴とする請求項8記載の画像記録再生システム。   The music data stored in the database includes music data that is a composer's work related to the location information data, music data that is a singer's song related to the location information data, and a song name related to the location information data The image recording / reproducing system according to claim 8, wherein the image recording / reproducing system includes at least one piece of music data. 上記検索手段による検索で複数の楽曲データを候補として取得し、上記画像データに対応付けする楽曲データを上記複数の候補の楽曲データの中から選択することができることを特徴とする請求項8から10のうちいずれか1つに記載の画像記録再生システム。   11. A plurality of music data can be acquired as candidates by searching by the search means, and music data to be associated with the image data can be selected from the plurality of candidate music data. The image recording / reproducing system according to any one of the above. 上記候補の楽曲データの中からの楽曲データ選択のときに、選択が為されない場合には、同一の画像データに対して複数の楽曲データを対応付けることにより、複数のバージョンの電子アルバムを作成することを特徴とする請求項11に記載の画像記録再生システム。   If selection is not made when selecting music data from the candidate music data, a plurality of versions of the electronic album are created by associating a plurality of music data with the same image data. The image recording / reproducing system according to claim 11. 全地球測位システム機能と、
上記全地球測位システム機能からの場所情報データを、上記画像データに付加するデータ関連付け手段とを有することを特徴とする請求項8から10のうちいずれか1つに記載の画像記録再生システム。
Global positioning system function,
The image recording / reproducing system according to any one of claims 8 to 10, further comprising data association means for adding location information data from the global positioning system function to the image data.
画像撮影を行った場所に関する情報である場所情報データが関連付けされた撮影画像データが記録されている記録手段と、
上記記録手段に記録された撮影画像データより上記場所情報データを抽出し、その抽出した場所情報データに基づいて、上記画像撮影を行った場所と関連を有する音楽の楽曲データを、楽曲データが格納されているデータベース中から検索する検索手段と、
上記検索手段により検索された楽曲データと、上記撮影画像データとを対応付けして上記記録手段または記録メディアに記録する制御手段と、
を具備することを特徴とする電子アルバム作成システム。
Recording means for recording captured image data associated with location information data, which is information relating to the location where the image was taken,
The location information data is extracted from the photographed image data recorded in the recording means, and the song data stores the song data of the music related to the place where the image was photographed based on the extracted location information data. Search means for searching from a database that is stored,
Control means for associating the music data searched by the search means with the photographed image data and recording them in the recording means or recording medium;
An electronic album creation system comprising:
画像撮影を行った場所に関する情報である撮影場所データが関連付けされた撮影画像データから上記撮影場所データを抽出し、その抽出した撮影場所データに基づいて上記画像撮影を行った場所に対応する地名を抽出する地名抽出部と、
上記地名抽出部で抽出した地名により、上記画像撮影を行った場所と関連を有する音楽の楽曲データをサーバに問い合わせ、上記サーバより楽曲データを受信する送受信部と、
上記送受信部が受信した楽曲データと上記撮影画像データとを対応付けし、記録手段に記録するアルバム化部と、
からなる送受信手段を有することを特徴とする電子アルバム作成システム。
The shooting location data is extracted from the shooting image data associated with the shooting location data, which is information relating to the location where the image was taken, and the place name corresponding to the location where the image was shot is based on the extracted shooting location data. A place name extraction unit to extract;
A transmission / reception unit that inquires of the server about music data related to the place where the image was photographed by the place name extracted by the place name extraction unit, and receives music data from the server;
An albuming unit for associating the music data received by the transmission / reception unit with the captured image data and recording it in a recording unit;
An electronic album creating system comprising: a transmitting / receiving means comprising:
画像撮影を行った地点に関する情報である場所情報データと撮影した画像である画像データとを関連付けする撮影地点関連付け手段と、
上記画像データと関連付けられた場所情報を用いて、上記画像撮影を行った地点に関連のある楽曲データを、楽曲データが格納されているデータベースから検索する手段と、
上記検索する手段により検索された楽曲データと上記画像データとを対応付けする制御手段と、
を有することを特徴とする電子アルバム作成システム。
A shooting point associating means for associating location information data that is information relating to a point at which an image was shot and image data that is a shot image;
Means for searching for music data related to the spot where the image was taken from a database in which music data is stored, using the location information associated with the image data;
Control means for associating the music data searched by the searching means with the image data;
An electronic album creating system characterized by comprising:
JP2004325421A 2004-11-09 2004-11-09 Image recording / playback system and electronic album creation system Expired - Fee Related JP4350635B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004325421A JP4350635B2 (en) 2004-11-09 2004-11-09 Image recording / playback system and electronic album creation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004325421A JP4350635B2 (en) 2004-11-09 2004-11-09 Image recording / playback system and electronic album creation system

Publications (2)

Publication Number Publication Date
JP2006135895A true JP2006135895A (en) 2006-05-25
JP4350635B2 JP4350635B2 (en) 2009-10-21

Family

ID=36728979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004325421A Expired - Fee Related JP4350635B2 (en) 2004-11-09 2004-11-09 Image recording / playback system and electronic album creation system

Country Status (1)

Country Link
JP (1) JP4350635B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008001877A1 (en) * 2006-06-29 2008-01-03 Nikon Corporation Reproducing device, reproducing system and television set
JP2008279929A (en) * 2007-05-11 2008-11-20 Kenwood Corp Information processor
JP2010199885A (en) * 2009-02-24 2010-09-09 Nikon Corp Device, system and program for providing information
JP2012209724A (en) * 2011-03-29 2012-10-25 Sony Corp Playlist creation apparatus, playlist creation method and playlist creating program
JP2013054770A (en) * 2012-11-20 2013-03-21 Jvc Kenwood Corp Information processing apparatus, information processing method, and program
JP2014200109A (en) * 2014-07-14 2014-10-23 株式会社ニコン Reproduction rendering program and reproduction rendering device
JP2018107834A (en) * 2018-04-05 2018-07-05 株式会社ニコン Reproduction presentation program and reproduction presentation device

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008001877A1 (en) * 2006-06-29 2008-01-03 Nikon Corporation Reproducing device, reproducing system and television set
JP5088321B2 (en) * 2006-06-29 2012-12-05 株式会社ニコン Playback device, playback system, and television set
US8791994B2 (en) 2006-06-29 2014-07-29 Nikon Corporation Replay device, replay system, and television set
JP2008279929A (en) * 2007-05-11 2008-11-20 Kenwood Corp Information processor
JP2010199885A (en) * 2009-02-24 2010-09-09 Nikon Corp Device, system and program for providing information
JP2012209724A (en) * 2011-03-29 2012-10-25 Sony Corp Playlist creation apparatus, playlist creation method and playlist creating program
JP2013054770A (en) * 2012-11-20 2013-03-21 Jvc Kenwood Corp Information processing apparatus, information processing method, and program
JP2014200109A (en) * 2014-07-14 2014-10-23 株式会社ニコン Reproduction rendering program and reproduction rendering device
JP2018107834A (en) * 2018-04-05 2018-07-05 株式会社ニコン Reproduction presentation program and reproduction presentation device

Also Published As

Publication number Publication date
JP4350635B2 (en) 2009-10-21

Similar Documents

Publication Publication Date Title
KR101240562B1 (en) Information processing apparatus and method and recording medium
KR100733095B1 (en) Information processing apparatus and information processing method
US7587136B2 (en) Image capturing apparatus, image capturing method, output apparatus, output method and program
JP2009117973A (en) Playback apparatus and playback method
JP4350635B2 (en) Image recording / playback system and electronic album creation system
JP2007164269A (en) Retrieval device, retrieval/reproducing device, and image reproducing device
JP2010021638A (en) Device and method for adding tag information, and computer program
JP5320913B2 (en) Imaging apparatus and keyword creation program
JP5112901B2 (en) Image reproducing apparatus, image reproducing method, image reproducing server, and image reproducing system
JP2004152174A (en) Content reproducing device, content providing system, content retrieving method, and program
JP2005191892A (en) Information acquisition device and multi-media information preparation system using it
JP2007172675A (en) Reproduction device, program, and reproduction system
JP6038256B2 (en) Image search system and image search method
JP2003323368A (en) Portable information terminal and information delivery system using the same
JP2006238357A (en) Output device, output method, program, and voice providing system
JP2007221498A (en) Camera, music image device, and music image reproducing method and program
JP2003116094A (en) Electronic album system
JP4322736B2 (en) Audio equipment
JP4559210B2 (en) Electronic album creation apparatus and electronic album creation system
JP2014235301A (en) Command input discrimination system using gesture
JP7451999B2 (en) Recording device, video system, recording method, and program
JP7452000B2 (en) Recording device, recording method, and program
KR102493886B1 (en) Method for storing mood information during the taking pictures and playing thereof
JP4642685B2 (en) Online karaoke system, karaoke device, and method that can play back songs recorded at any time.
JP2006304257A (en) Image pickup device, image pickup method, output device, and output method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090722

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120731

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4350635

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130731

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees