JP6115673B2 - Apparatus and program - Google Patents

Apparatus and program Download PDF

Info

Publication number
JP6115673B2
JP6115673B2 JP2016080927A JP2016080927A JP6115673B2 JP 6115673 B2 JP6115673 B2 JP 6115673B2 JP 2016080927 A JP2016080927 A JP 2016080927A JP 2016080927 A JP2016080927 A JP 2016080927A JP 6115673 B2 JP6115673 B2 JP 6115673B2
Authority
JP
Japan
Prior art keywords
image
search
image data
unit
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016080927A
Other languages
Japanese (ja)
Other versions
JP2016170790A (en
JP2016170790A5 (en
Inventor
佐々木 智彦
智彦 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016080927A priority Critical patent/JP6115673B2/en
Publication of JP2016170790A publication Critical patent/JP2016170790A/en
Publication of JP2016170790A5 publication Critical patent/JP2016170790A5/en
Application granted granted Critical
Publication of JP6115673B2 publication Critical patent/JP6115673B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、所定の被写体を撮像する撮像手段を有し、当該撮像手段によって撮像された被写体の画像データを通信ネットワークを介して検索支援システムに送信することで、前記被写体に関連する情報を取得する発明に関する。   The present invention includes an imaging unit that captures an image of a predetermined subject, and acquires information related to the subject by transmitting image data of the subject captured by the imaging unit to a search support system via a communication network. It relates to the invention to do.

展望台に設置されているカメラ付き望遠鏡等によって、現実に見える山など風景を大きく拡大して見る場合には、拡大率に限界がある。そのため、拡大率が限界に達してしまうと、それ以上拡大して見ることができない。即ち、拡大値が最大に達してしまった場合、使用者が「さらに詳しく見たい」と思っても、更に詳しい情報を得ることができなかった。そのため、従来、望遠鏡内に予め被写体(対象物)のコンピュータグラフィックス画像を記憶しておき、拡大率が限界に達した場合に、現実に見える対象物をコンピュータグラフィックス画像に切り換えることで、使用者の要求を満たすという発明が開示されている(特許文献1)。   There is a limit to the enlargement ratio when viewing landscapes such as mountains that can be seen with a telescope with a camera installed on the observatory. For this reason, when the enlargement rate reaches the limit, it cannot be enlarged further. That is, when the enlargement value has reached the maximum, even if the user wants to see more details, it has not been possible to obtain more detailed information. Therefore, conventionally, a computer graphics image of the subject (object) is stored in advance in the telescope, and when the enlargement ratio reaches the limit, it can be used by switching the object that looks real to a computer graphics image. Has been disclosed (Patent Document 1).

しかしながら、特許文献1に記載の発明では、展望台に設置されている望遠鏡で見える風景は、ある程度決まっているため、望遠鏡内に記憶しておくコンピュータグラフィックス画像を用意することは比較的容易であるが、街中、野山等を歩いている際に見つけた対象物を撮影するような場合には、世の中の様々な物体のコンピュータグラフィックス画像を用意しておく必要があるため、現実的には不可能であるという問題が生じる。   However, in the invention described in Patent Document 1, since the scenery that can be seen with the telescope installed on the observation platform is determined to some extent, it is relatively easy to prepare a computer graphics image stored in the telescope. However, in the case of shooting an object found while walking in a city, a mountain, etc., it is necessary to prepare computer graphics images of various objects in the world, so in reality, The problem of being impossible arises.

本発明は、上記事情に鑑みてなされたもので、撮像された被写体である物体が世の中に存在する様々なものであっても、この物体の画像データに関連する物体の画像データを取得できる発明を提供することを目的とする。   The present invention has been made in view of the above circumstances, and can acquire image data of an object related to the image data of the object even if there are various objects that are captured subjects in the world. The purpose is to provide.

請求項1に係る発明は、撮像手段を有する装置であって、画像データの画像を表示する表示手段と、前記表示手段で表示された画像に対して、縮小表示の操作を受け付ける受付手段と、前記縮小表示に対応できるかを判断する判断手段と、対応できないと判断されたとき、前記装置と異なる他の装置に対して、前記画像データが撮影された位置の衛星画像の画像データを要求する要求手段と、を有し、前記表示手段は、前記要求に基づいて取得した前記画像データの画像を表示することを特徴とする装置である。
The invention according to claim 1 is an apparatus having an imaging unit, a display unit that displays an image of image data, and a reception unit that receives a reduced display operation on the image displayed by the display unit; A determination unit that determines whether or not the reduced display can be supported, and when it is determined that the reduced display cannot be supported, requests image data of a satellite image at a position where the image data is captured from another device different from the device. Requesting means, and the display means displays an image of the image data acquired based on the request.

以上説明したように本発明によれば、撮像された被写体である物体が世の中に存在する様々なものであっても、この物体の画像データに関連する物体の画像データを取得できるという効果を奏する。   As described above, according to the present invention, it is possible to obtain image data of an object related to the image data of the object even if there are various objects that are captured objects in the world. .

図1は、本発明の第1の実施形態に係る画像検索システムの概略図である。である。FIG. 1 is a schematic diagram of an image search system according to the first embodiment of the present invention. It is. 図2は、本発明の第1の実施形態に係る画像検索システムを構成する各装置のハードウェア構成図である。FIG. 2 is a hardware configuration diagram of each device configuring the image search system according to the first embodiment of the present invention. 図3は、本発明の第1の実施形態に係る撮像装置の正面図である。FIG. 3 is a front view of the imaging apparatus according to the first embodiment of the present invention. 図4は、本発明の第1の実施形態に係る画像検索システムを構成する各装置の機能ブロック図である。FIG. 4 is a functional block diagram of each device constituting the image search system according to the first embodiment of the present invention. 図5は、検索支援装置における画像認識部の詳細な機能ブロック図である。FIG. 5 is a detailed functional block diagram of the image recognition unit in the search support apparatus. 図6は、検索エンジン管理テーブルを示す概念図である。FIG. 6 is a conceptual diagram showing a search engine management table. 図7は、本発明の第1の実施形態に係る画像検索システムを構成する各装置における処理及び各装置間の処理を示したシーケン図である。FIG. 7 is a sequence diagram showing processing in each device and processing between each device constituting the image search system according to the first embodiment of the present invention. 図8は、撮像装置における利用者からの要求受付処理を示した処理フロー図である。FIG. 8 is a process flow diagram illustrating a request reception process from a user in the imaging apparatus. 図9は、検索支援装置における検索エンジンの選択処理を示した処理フロー図である。FIG. 9 is a process flow diagram showing search engine selection processing in the search support apparatus. 図10は、撮像装置の操作例を示した図である。FIG. 10 is a diagram illustrating an operation example of the imaging apparatus. 図11は、撮像装置の操作性を示した図である。FIG. 11 is a diagram illustrating the operability of the imaging apparatus. 図12は、撮像装置のディスプレイに表示される画面の遷移を示した図である。FIG. 12 is a diagram illustrating transition of screens displayed on the display of the imaging apparatus. 図13は、本発明の第2の実施形態に係る撮像装置の斜視図である。FIG. 13 is a perspective view of an imaging apparatus according to the second embodiment of the present invention.

〔第1の実施形態〕
以下、図1乃至図12を用いて、本発明の第1の実施形態について説明する。図1は、本発明の第1の実施形態に係る画像検索システムの概略図であり、まずは図1を用いて、本実施形態の概略を説明する。
[First Embodiment]
Hereinafter, the first embodiment of the present invention will be described with reference to FIGS. FIG. 1 is a schematic diagram of an image search system according to the first embodiment of the present invention. First, the outline of the present embodiment will be described with reference to FIG.

図1に示す撮像装置10aは、所定の被写体を撮像するデジタルカメラ等の撮像機能を有しており、例えば、撮像装置10aの利用者が、街中、野山等で見つけた被写体を撮影することができる。そして、撮影された被写体の画像データを通信ネットワークを介して検索支援装置20aに送信する。検索支援装置20aは、被写体の名称やカテゴリに対応した図鑑系の検索エンジン等のURLを管理しており、撮像装置10aから送られて来た画像データに基づいて、最適な検索エンジンを選択する。検索支援装置20aでは、選択された検索エンジンを有する検索サーバ30aに対して、検索キーデータを送信することで、検索を開始させる。検索サーバ30aは、検索支援装置20aから送られて来た検索キーデータに基づいて検索を行い、検索結果である画像データを通信ネットワークを介して撮像装置10aに送る。これにより、例えば、被写体が「おたまじゃくし」の場合、撮像装置10aで撮像された「おたまじゃくし」の画像データを検索支援装置20aに送信すれば、検索支援装置20aが検索サーバ30aに「おたまじゃくし」の未来の画像を検索させ、検索サーバ30aは、「おたまじゃくし」の未来の生物としての「蛙」の画像データを検索結果として撮像装置10aに送信する。これにより、撮像装置10aでは、ディスプレイに「蛙」の画像を表示することができ、被写体である「おたまじゃくし」に関連する物体である「蛙」の画像データを容易に取得できる。このように、撮像装置10aの利用者は、被写体の将来等の物体の画像データを容易に取得することができるため、街中、野山等で珍しい生物等を見つけたような場合に、この生物は将来どのように変わって行くのだろうかと思う好奇心に迅速に応えることができる。   An imaging apparatus 10a shown in FIG. 1 has an imaging function such as a digital camera that images a predetermined subject. For example, a user of the imaging apparatus 10a can photograph a subject found in a city, a mountain, or the like. it can. Then, the image data of the photographed subject is transmitted to the search support device 20a via the communication network. The search support device 20a manages URLs such as a pictorial book search engine corresponding to the subject name and category, and selects an optimal search engine based on image data sent from the imaging device 10a. . In the search support apparatus 20a, the search is started by transmitting the search key data to the search server 30a having the selected search engine. The search server 30a performs a search based on the search key data sent from the search support device 20a, and sends image data as a search result to the imaging device 10a via the communication network. Thus, for example, when the subject is “Otamajakushi”, if the image data of “Otamajakushi” captured by the imaging device 10a is transmitted to the search support device 20a, the search support device 20a sends the search server 30a the future of “Otamajakushi”. The search server 30a transmits the image data of “蛙” as a future creature of “Otamajakushi” to the imaging device 10a as a search result. Thereby, in the imaging device 10a, the image of “蛙” can be displayed on the display, and the image data of “蛙” that is an object related to “Otama Jakushi” that is the subject can be easily acquired. In this way, the user of the imaging device 10a can easily acquire image data of an object such as the future of the subject. Therefore, when a rare creature or the like is found in a city, a mountain, or the like, We can respond quickly to the curiosity of how it will change in the future.

次に、図2乃至図12を用いて、本発明の第1の実施形態を更に詳細に説明する。図2は、本実施形態に係る画像検索システムを構成する各装置のハードウェア構成図である。まず、図2に示されているように、本実施形態の画像検索システムは、撮像装置10a、検索支援装置20a、及び検索サーバ30aによって構築されている。検索支援装置20aと検索サーバ30aとは、インターネット2を介して通信することができる。撮像装置10aと検索支援装置20a及び検索サーバ30aとは、インターネット2、ゲートウェイ3、携帯電話網4、及び基地局5によって構築される通信ネットワークを介して、通信することができる。   Next, the first embodiment of the present invention will be described in more detail with reference to FIGS. FIG. 2 is a hardware configuration diagram of each device configuring the image search system according to the present embodiment. First, as shown in FIG. 2, the image search system of the present embodiment is constructed by an imaging device 10a, a search support device 20a, and a search server 30a. The search support device 20a and the search server 30a can communicate with each other via the Internet 2. The imaging device 10a, the search support device 20a, and the search server 30a can communicate with each other via a communication network constructed by the Internet 2, the gateway 3, the mobile phone network 4, and the base station 5.

このうち、撮像装置10aは、撮像装置10a全体の動作を制御するCPU(Central Processing Unit)101、基本入出力プログラムを記憶したROM(Read Only Memory)102、CPU101のワークエリアとして使用されるRAM(Random Access Memory)103、CPU101の制御にしたがってデータの読み出し又は書き込みを行うEEPROM(Electrically Erasable and Programmable ROM)104、CPU101の制御に従って被写体を撮像し画像データを得るCCD(Charge Coupled Device)105、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサー等の各種加速度・方位センサー106、フラッシュメモリ等の記録メディア107に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ108を備えている。そして、メディアドライブ108の制御に従って、既に記録されていたデータが読み出され、又は新たにデータが書き込まれて記憶する記録メディア107が着脱自在な構成となっている。   Among these, the imaging apparatus 10a includes a CPU (Central Processing Unit) 101 that controls the overall operation of the imaging apparatus 10a, a ROM (Read Only Memory) 102 that stores basic input / output programs, and a RAM ( Random Access Memory) 103, EEPROM (Electrically Erasable and Programmable ROM) 104 that reads and writes data according to the control of the CPU 101, CCD (Charge Coupled Device) 105 that captures the subject and obtains image data according to the control of the CPU 101, and geomagnetism There are provided various acceleration / direction sensors 106 such as an electronic magnetic compass, a gyrocompass and an acceleration sensor to be detected, and a media drive 108 for controlling reading or writing (storage) of data to a recording medium 107 such as a flash memory. Under the control of the media drive 108, the data that has already been recorded is read, or the recording medium 107 in which data is newly written and stored is detachable.

なお、EEPROM104には、CPU101が実行するオペレーティングシステム(OS)、その他のプログラム、及び、種々データが記憶されている。CCD105は、光を電荷に変換して被写体の画像を電子化する電荷結合素子であり、被写体を撮像するが、CCDに限らず。CMOS(Complementary Metal Oxide Semiconductor)を用いてもよい。   Note that the EEPROM 104 stores an operating system (OS) executed by the CPU 101, other programs, and various data. The CCD 105 is a charge-coupled device that converts light into electric charge and digitizes the image of the subject, and images the subject, but is not limited to the CCD. CMOS (Complementary Metal Oxide Semiconductor) may be used.

更に、撮像装置10aは、音声を音声信号に変換する音声入力部111、音声信号を音声に変換する音声出力部112、アンテナ113a、このアンテナ113aを利用して無線通信信号により、最寄の基地局5と通信を行う通信部113、GPS(Global Positioning Systems)衛星から撮像装置10aの位置情報(緯度、経度、および高度)を含んだGPS信号を受信するGPS受信部114、被写体の画像や各種アイコン等を表示する液晶や有機ELなどのディスプレイ115、このディスプレイ115上に載せられ、感圧式又は静電式のパネルによって構成され、指やタッチペン等によるタッチによってディスプレイ115上におけるタッチ位置を検出するタッチパネル116、及び、上記各部を電気的に接続するためのアドレスバスやデータバス等のバスライン110を備えている。   Furthermore, the imaging apparatus 10a includes a voice input unit 111 that converts voice into a voice signal, a voice output unit 112 that converts voice signal into voice, an antenna 113a, and a wireless communication signal that uses the antenna 113a to obtain the nearest base station. A communication unit 113 that communicates with the station 5; a GPS reception unit 114 that receives a GPS signal including position information (latitude, longitude, and altitude) of the imaging device 10a from a GPS (Global Positioning Systems) satellite; A display 115 such as a liquid crystal display or an organic EL display for displaying an icon, etc., is mounted on the display 115 and is configured by a pressure-sensitive or electrostatic panel, and detects a touch position on the display 115 by touching with a finger or a touch pen. The touch panel 116 and an address bus and data for electrically connecting the above-described units. And a bus line 110 such as a bus.

なお、音声入力部111は、音声を入力するマイクが含まれ、音声出力部112には、音声を出力するスピーカが含まれている。また、基地局5は、携帯電話網4と通信を行い、携帯電話網4は、ゲートウェイ3を介してインターネット2と通信を行い、インターネット2は、検索支援装置20aや検索サーバ30aと通信を行う。これにより、撮像装置10aは、検索支援装置20aや検索サーバ30aと通信することが可能となる。ここで、通信部113で送受信される無線通信信号は、音声データ、文字データ、画像データ等が含まれる信号である。   Note that the voice input unit 111 includes a microphone that inputs voice, and the voice output unit 112 includes a speaker that outputs voice. The base station 5 communicates with the mobile phone network 4, the mobile phone network 4 communicates with the Internet 2 via the gateway 3, and the Internet 2 communicates with the search support device 20a and the search server 30a. . Thereby, the imaging device 10a can communicate with the search support device 20a and the search server 30a. Here, the wireless communication signal transmitted / received by the communication unit 113 is a signal including voice data, character data, image data, and the like.

一方、検索支援装置20aは、検索支援装置20a全体の動作を制御するCPU201、基本入出力プログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、CPU201の制御にしたがってHD(Hard Disk)205に対するデータの読み出し又は書き込みを制御するHDD(Hard Disk Drive)204、HDD204の制御に従って書き込まれたデータを記憶するHD205、CPU201の制御に従ってFD(Flexible Disk)207に対するデータの読み出し又は書き込み(記憶)を制御するFDD(Flexible Disk Drive)206を備えている。そして、FDD206の制御に従って、既に記憶していたデータが読み出され、又は新たにデータが書き込まれて記憶する記録媒体の一例としてのFD207が着脱自在な構成となっている。   On the other hand, the search support apparatus 20a includes a CPU 201 that controls the overall operation of the search support apparatus 20a, a ROM 202 that stores basic input / output programs, a RAM 203 that is used as a work area for the CPU 201, and an HD (Hard Disk) 205 that is controlled by the CPU 201. HDD (Hard Disk Drive) 204 that controls the reading or writing of data to the HDD, the HD 205 that stores data written according to the control of the HDD 204, and the data reading or writing (storage) to the FD (Flexible Disk) 207 according to the control of the CPU 201 An FDD (Flexible Disk Drive) 206 to be controlled is provided. Then, under the control of the FDD 206, the already stored data is read, or the FD 207 as an example of a recording medium on which data is newly written and stored is detachable.

更に、検索支援装置20aは、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する液晶、有機EL、CRT(Cathode-ray Tube)等のディスプレイ208、不図示のLANやインターネット2を利用してデータ伝送をするための通信インターフェース部209を備えている。更に、検索支援装置20aは、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211、各種指示の選択や実行、処理対象の選択、カーソルの移動などをおこなうマウス212、着脱可能な記録媒体の一例としてのCD−ROM213に対するデータの読み出し又は書き込みを制御するCD−ROMドライブ214、及び、上記各部を電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。なお、RAM203に記憶されているプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM(Compact Disc Read Only Memory)、FD、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。なお、検索サーバ30aは、検索支援装置20aと同様なハードウェア構成を有するため、同一の構成要素(各部)には、同一の符号を付して、その説明を省略する。   Further, the search support device 20a includes a display 208 such as a liquid crystal display, an organic EL display, a CRT (Cathode-ray Tube) such as a cursor, menu, window, character, or image, a LAN (not shown), and the Internet 2. A communication interface unit 209 is provided for data transmission using it. Furthermore, the search support device 20a includes a keyboard 211 having a plurality of keys for inputting characters, numerical values, various instructions, a mouse 212 for selecting and executing various instructions, selecting a processing target, moving a cursor, and the like. A CD-ROM drive 214 that controls reading or writing of data with respect to a CD-ROM 213 as an example of a detachable recording medium, and a bus line 210 such as an address bus or a data bus for electrically connecting the above-described units. I have. The program stored in the RAM 203 is a file in an installable or executable format, and is a CD-ROM (Compact Disc Read Only Memory), FD, CD-R (Compact Disc Recordable), DVD (Digital Versatile Disk). ) Or the like may be recorded and provided on a computer-readable recording medium. Since the search server 30a has the same hardware configuration as the search support apparatus 20a, the same components (each unit) are assigned the same reference numerals, and the description thereof is omitted.

次に、図3を用いて、本実施形態の画像検索システムを構築する各装置の機能を説明する。図3は、本実施形態の画像検索システムを構成する各装置の機能ブロック図である。   Next, the function of each device that constructs the image search system of the present embodiment will be described with reference to FIG. FIG. 3 is a functional block diagram of each device constituting the image search system of the present embodiment.

まず、撮像装置10aは、送受信部11、要求受付部12、撮像部13、表示部14、対応判断部15、撮像状況検知部16、及び、記憶・読出処理部19を有し、これら各部は、図2に示すCPU101がROM102に記憶されているプログラムに従って動作することにより実現される機能又は手段である。また、撮像装置10aは、図2に示すEEPROM104により構築される記憶部1000を有している。   First, the imaging apparatus 10a includes a transmission / reception unit 11, a request reception unit 12, an imaging unit 13, a display unit 14, a correspondence determination unit 15, an imaging state detection unit 16, and a storage / reading processing unit 19. 2 is a function or means realized by the CPU 101 shown in FIG. 2 operating in accordance with a program stored in the ROM 102. The imaging device 10a has a storage unit 1000 constructed by the EEPROM 104 shown in FIG.

このうち、送受信部11は、主に図2に示す通信部113によって実行され、アンテナ113aを介して最寄の基地局5と無線通信信号(各種データ・情報を含む)の送受信を行う。要求受付部12は、主に図2に示す音声入力部111やタッチパネル116によって実行され、利用者(操作者)から、被写体の未来や過去を示す物体の画像データ、又は被写体の拡大や縮小された画像データ等の要求を受け付け、要求情報を作成する。なお、被写体が拡大された画像としては、被写体そのものを拡大して見る場合の拡大画像だけでなく、被写体と撮像装置10aとの距離を近くすることで、あたかも顕微鏡で被写体を見るような場合の拡大画像も含まれる。また、被写体が縮小された画像としては、被写体そのものを縮小して見る場合の縮小画像だけでなく、被写体と撮像装置10aとの距離を遠ざけることで、あたかも飛行機や衛星から見るような場合の縮小画像も含まれる。   Among these, the transmission / reception unit 11 is mainly executed by the communication unit 113 shown in FIG. 2, and transmits / receives a wireless communication signal (including various data / information) to / from the nearest base station 5 via the antenna 113a. The request receiving unit 12 is mainly executed by the voice input unit 111 and the touch panel 116 illustrated in FIG. 2, and an image data of an object indicating the future or past of the subject, or enlargement or reduction of the subject is performed by a user (operator). The request information such as the received image data is received and request information is created. The image in which the subject is magnified is not only an enlarged image when the subject itself is magnified, but also when the subject is viewed with a microscope by reducing the distance between the subject and the imaging device 10a. Enlarged images are also included. In addition, the reduced image of the subject is not only a reduced image when the subject itself is reduced and viewed, but also a reduction when viewed from an airplane or a satellite by increasing the distance between the subject and the imaging device 10a. Images are also included.

また、撮像部13は、主に図2に示すCCD105によって実行され、被写体を撮像して画像データを得る。表示部14は、主に図2に示すディスプレイ115によって実行され、利用者から受け付けた要求を示す要求情報、図3に示す被写体等の画像データに係る画像やオートフォーカス枠等を表示する。対応判断部15は、主に図2に示すCPU101及びROM102並びにRAM103に展開されているプログラムによって実行され、要求受付部12で受け付けた利用者からの要求が、撮像装置10a単体で対応できるかを判断する。   The imaging unit 13 is mainly executed by the CCD 105 shown in FIG. 2 and images a subject to obtain image data. The display unit 14 is executed mainly by the display 115 shown in FIG. 2, and displays request information indicating a request received from the user, an image related to image data such as a subject shown in FIG. 3, an autofocus frame, and the like. The correspondence determination unit 15 is executed mainly by the programs developed in the CPU 101, the ROM 102, and the RAM 103 shown in FIG. 2, and whether the request from the user received by the request reception unit 12 can be handled by the imaging apparatus 10a alone. to decide.

また、撮像状況検知部16は、主に図2に示すGPS受信部114や加速度・方位センサー106などによって実行され、撮像部13によって被写体が撮像される際の状況を検知し、この検知結果を含めたメタデータを作成する。この撮像の状況の例として、撮像装置10aの地球上における位置や移動加速、撮像部13が向いている角度や方位、撮像時間(年、月、日、時間)等が挙げられ、これらが示される各情報がメタデータに含まれる。記憶・読出処理部19は、主に図2に示すCPU101やROM102などによって実行され、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。   Further, the imaging state detection unit 16 is executed mainly by the GPS reception unit 114 and the acceleration / direction sensor 106 shown in FIG. 2, and detects the situation when the subject is imaged by the imaging unit 13, and the detection result is obtained. Create included metadata. Examples of the imaging situation include the position and acceleration of the imaging device 10a on the earth, the angle and direction in which the imaging unit 13 is facing, the imaging time (year, month, day, time), and the like. Each piece of information is included in the metadata. The storage / reading processing unit 19 is mainly executed by the CPU 101 and the ROM 102 shown in FIG. 2, and stores various data in the storage unit 1000 and reads various data stored in the storage unit 1000.

また、記憶部1000には、被写体の画像データが、この被写体が撮影された際に作成されたメタデータと関連付けて記憶される。また、検索サーバから送られてくる画像データ、それ以外の画像データ、及び音声データ等も記憶することは可能である。   The storage unit 1000 stores subject image data in association with metadata created when the subject is photographed. It is also possible to store image data sent from the search server, other image data, audio data, and the like.

以上より、撮像装置10aは、検索支援装置20aに対して、撮像部13によって撮像され記憶部1000に記憶されている被写体の画像データ(D1)、要求受付部12によって利用者から受け付けた要求を示す要求情報(i1)、及び、撮像状況検知部で作成され記憶部1000に記憶されたメタデータ(d1)を送信することができる。また、撮像装置10aは、検索支援装置20aから送られてくる検索結果としての被写体に関連する物体の画像データ(D2)を受信することができる。   As described above, the imaging device 10a sends the image data (D1) of the subject imaged by the imaging unit 13 and stored in the storage unit 1000 to the search support device 20a, and the request received from the user by the request receiving unit 12. The request information (i1) to be shown and the metadata (d1) created by the imaging state detection unit and stored in the storage unit 1000 can be transmitted. Further, the imaging device 10a can receive image data (D2) of an object related to the subject as a search result sent from the search support device 20a.

なお、図3に撮像装置3の正面図を示す。図3に示されているように、撮像装置10aは、本体10a−1、本体に設けられた「メニュー画面表示ボタン」10a−2、本体に設けられた表示部10a−3、本体に設けられたスピーカ10a−5を備えている。このうち、「メニュー画面表示ボタン」10a−2は、アプリケーションを示すアイコンが表示されているメニュー画面を表示させるためのボタンである。また、表示部10a−3には、被写体を撮影する際の撮影ボタン10a−4、被写体10a−6に対してオートフォーカス及びキャプチャリングを指示する際に利用者から押下されるオートフォーカス枠10a−7が表示されている。   FIG. 3 shows a front view of the image pickup apparatus 3. As shown in FIG. 3, the imaging device 10a is provided in a main body 10a-1, a “menu screen display button” 10a-2 provided in the main body, a display unit 10a-3 provided in the main body, and the main body. Speaker 10a-5. Among these, the “menu screen display button” 10a-2 is a button for displaying a menu screen on which an icon indicating an application is displayed. Further, the display unit 10a-3 includes a shooting button 10a-4 for shooting a subject, and an autofocus frame 10a- pressed by the user when instructing autofocusing and capturing to the subject 10a-6. 7 is displayed.

次に、検索支援装置20aの各種機能について説明する。検索支援装置20aは、図4に示されているように、送受信部21、特定要求判断部22、画像認識部23、検索エンジン選択部24、及び、記憶・読出処理部29を有し、これら各部は、図2に示すCPU201がROM202に記憶されているプログラムに従って動作することにより実現される機能又は手段である。また、検索支援装置20aは、図2に示すHD205により構築される記憶部2000を有している。この記憶部2000には、図6に示されているような検索エンジン管理テーブルによって構成されている検索エンジン管理部2001と、画像認識部23が画像認識する際に用いる後述の識別辞書ファイル管理部2002とが構築されている。上記検索エンジン管理テーブルは、図6に示されているように、所定の被写体の名称又はカテゴリと、これら名称又はカテゴリ毎に使い分ける検索サーバ(検索エンジン)をそれぞれ特定するための検索エンジン特定情報とを関連付けて記憶する。ここでは、検索エンジン特定情報として、検索エンジンのURLを示しているが、これに限らず、検索エンジンを特定するための固有の識別子であってもよい。この場合には、別途、検索エンジンの識別子と検索エンジンのURLとを関連付けたテーブルが必要となり、この場合も、検索エンジン管理部2001を構成することになる。   Next, various functions of the search support device 20a will be described. As shown in FIG. 4, the search support device 20a includes a transmission / reception unit 21, a specific request determination unit 22, an image recognition unit 23, a search engine selection unit 24, and a storage / read processing unit 29. Each unit is a function or means realized by the CPU 201 illustrated in FIG. 2 operating according to a program stored in the ROM 202. Further, the search support apparatus 20a has a storage unit 2000 constructed by the HD 205 shown in FIG. The storage unit 2000 includes a search engine management unit 2001 configured by a search engine management table as shown in FIG. 6 and an identification dictionary file management unit described later used when the image recognition unit 23 recognizes an image. 2002 is built. As shown in FIG. 6, the search engine management table includes search engine specifying information for specifying the name or category of a predetermined subject and a search server (search engine) to be used for each name or category. Are stored in association with each other. Here, the URL of the search engine is shown as the search engine specifying information. However, the search engine specifying information is not limited to this, and may be a unique identifier for specifying the search engine. In this case, a table that associates the identifier of the search engine and the URL of the search engine is required separately. In this case, the search engine management unit 2001 is configured.

また、上記送受信部21は、主に図2に示す通信インターフェース部203によって実行され、インターネット2と各種データの送受信を行う。この送受信部21は、撮像装置10aから送られて来る被写体の画像データ(D1)、要求情報(i1)、及び、メタデータ(d1)を受信する。また、送受信部21は、検索支援装置20aから検索サーバ30a(図7に示す検索サーバ30bの場合もある)に対して、画像データ(D1)を検索キーとし、要求情報(i1)に係る要求に対応した検索を開始させるための通信を行う検索開始部としての機能も有する。また、この検索開始部は、検索キーを画像データ(D1)ではなくメタデータ(d1)に含まれる位置情報にすると共に、前記状況情報(i1)に対応した検索を開始させるための通信を行うこともできる。   The transmission / reception unit 21 is mainly executed by the communication interface unit 203 shown in FIG. 2 and transmits / receives various data to / from the Internet 2. The transmission / reception unit 21 receives image data (D1) of the subject, request information (i1), and metadata (d1) sent from the imaging device 10a. In addition, the transmission / reception unit 21 uses the image data (D1) as a search key from the search support device 20a to the search server 30a (which may be the search server 30b shown in FIG. 7), and requests related to the request information (i1). It has a function as a search start part which performs communication for starting search corresponding to. Further, the search start unit uses the search key as position information included in the metadata (d1) instead of the image data (D1), and performs communication for starting the search corresponding to the situation information (i1). You can also.

また、特定要件判断部22は、主に図2に示すCPU201及びROM202並びにRAM203に展開されているプログラムによって実行され、送受信部21が撮像装置10aから受信した要求情報(i1)に係る要求が、予め定められた特定の要求であるかを判断する。この特定の要求は、例えば、被写体と撮像装置10aとの距離を遠ざけることで、あたかも飛行機や衛星から見るような場合の縮小画像の要求である。即ち、利用者の要求が、図鑑用検索エンジンによる検索では対応できず、世界中の衛星写真によって構築されたバーチャル地球儀を提供する検索エンジンでなければ対応できないような場合には、特定の検索エンジンに検索させる必要があるため、この特定の検索エンジンを使用するかを判断する必要がある。   Further, the specific requirement determination unit 22 is executed mainly by a program developed in the CPU 201, the ROM 202, and the RAM 203 illustrated in FIG. 2, and a request related to the request information (i1) received by the transmission / reception unit 21 from the imaging device 10a is as follows. It is determined whether the request is a predetermined specific request. This specific request is, for example, a request for a reduced image when viewed from an airplane or a satellite by increasing the distance between the subject and the imaging device 10a. In other words, if a user's request cannot be handled by a search using a pictorial book search engine, but can only be handled by a search engine that provides a virtual globe constructed from satellite photos from around the world, a specific search engine can be used. You need to determine whether to use this particular search engine.

また、画像認識部23は、主に図2に示すCPU201及びROM202並びにRAM203に展開されているプログラムによって実行され、送受信部21で受信された画像データに対して画像認識の処理を行い、この画像データに係る被写体の名称又はカテゴリを出力する。ここで、図5を用いて、画像認識部23を更に詳細に説明する。なお、図5は、画像認識部23の詳細な機能ブロック図である。   The image recognition unit 23 is executed mainly by a program developed in the CPU 201, the ROM 202, and the RAM 203 shown in FIG. 2, and performs image recognition processing on the image data received by the transmission / reception unit 21. The name or category of the subject related to the data is output. Here, the image recognition unit 23 will be described in more detail with reference to FIG. FIG. 5 is a detailed functional block diagram of the image recognition unit 23.

図5に示されているように、画像認識部23は、画像入力部231、濃度変換部232、位置正規化処理部233、特徴パターン抽出部234、照合処理部235、及び、判定処理部236を有している。   As shown in FIG. 5, the image recognition unit 23 includes an image input unit 231, a density conversion unit 232, a position normalization processing unit 233, a feature pattern extraction unit 234, a matching processing unit 235, and a determination processing unit 236. have.

このうち、画像入力部231は、特定要求判断部22から送られてくる被写体の画像データを以後の処理にあった形式のディジタル画像データに変換し、濃度変換部232に送る機能又は手段を有する。濃度変換部232は、被写体の画像データに対して輝度値の補正(照度値の正規化)などの濃度変換処理を施した後、位置正規化処理部233に送る機能又は手段を有する。位置正規化処理部233は、画像データ中から照合の対象となる日被写体の形状パターンの位置、傾き、及び大きさの正規化を行ない、照合処理の対象となる被写体の正規化パターンを切り出して特徴パターン抽出手部234へ送る機能又は手段を有する。ここで位置正規化処理部233の構成としては、例えば、特願平2−219675に示されている実施例を用いることができる。   Among these, the image input unit 231 has a function or means for converting the image data of the subject sent from the specific request determination unit 22 into digital image data in a format suitable for the subsequent processing and sending it to the density conversion unit 232. . The density conversion unit 232 has a function or means for sending the image data of the subject to the position normalization processing unit 233 after performing density conversion processing such as luminance value correction (illuminance value normalization). The position normalization processing unit 233 normalizes the position, inclination, and size of the shape pattern of the day subject to be collated from the image data, and extracts the normalization pattern of the subject to be collated. It has a function or means for sending it to the feature pattern extraction hand part 234. Here, as the configuration of the position normalization processing unit 233, for example, an embodiment shown in Japanese Patent Application No. 2-219675 can be used.

続いて、特徴パターン抽出部234は、位置正規化処理部233から送られる被写体の正規化パターンに対して、照合時に標準パターンとの照合を行なう特徴パターンを抽出して、照合処理部235へ送る機能又は手段を有する。なお、記憶部2000には、予め識別対象物の標準的な画像について上述した画像入力部231から特徴パターン抽出部234までと同等の処理を行なって求めた標準パターンが管理されている識別辞書ファイル管理部が構築されている。   Subsequently, the feature pattern extraction unit 234 extracts a feature pattern to be compared with the standard pattern at the time of matching with respect to the normalized pattern of the subject sent from the position normalization processing unit 233 and sends it to the matching processing unit 235. It has a function or means. The storage unit 2000 stores in advance an identification dictionary file in which standard patterns obtained by performing processes equivalent to those of the image input unit 231 to the feature pattern extraction unit 234 described above for standard images of identification objects are managed in advance. A management department has been established.

また、照合処理部235は、被写体の画像データについて特徴パターン抽出部234で求めた特徴パターンと、記憶・読出処理部29を介して得た識別辞書ファイル管理部2002で管理されている動物、昆虫等の標準パターンとの間に類似性尺度を数値化し、この結果を判定処理部236へ送る機能又は手段を有する。照合処理については、特徴ベクトルの最小距離識別の例に代表される統計的識別関数による方法、又は、ニューラルネットによる学習を応用する方法などが挙げられる。判定処理部236は、照合処理部235で計算された入力パターンと各識別対象物の標準パターンとの間の類似性尺度のデータ群に対して、実現しようとする識別機能の形態に即して、適当な値による閾値処理などによる判定処理を行ない、その結果得られる識別結果を検索エンジン選択部24に出力する機能又は手段を有する。   In addition, the matching processing unit 235 uses the feature pattern obtained by the feature pattern extraction unit 234 for the image data of the subject and the animals and insects managed by the identification dictionary file management unit 2002 obtained through the storage / reading processing unit 29. And a standard pattern such as a standard pattern, and a function or means for sending the result to the determination processing unit 236. Examples of the matching process include a method using a statistical discrimination function typified by an example of minimum distance identification of feature vectors, a method using learning using a neural network, and the like. The determination processing unit 236 follows the form of the identification function to be realized for the data group of the similarity measure between the input pattern calculated by the matching processing unit 235 and the standard pattern of each identification target object. Further, it has a function or means for performing a determination process such as a threshold process using an appropriate value and outputting an identification result obtained as a result to the search engine selection unit 24.

次に、図4に戻って、検索エンジン選択部24は、画像認識部23の画像認識により得られた画像データ(D1)に係る被写体の名称又はカテゴリに基づいて、記憶部2000に構築されている検索エンジン管理部2001を検索して、対応する検索エンジン特定情報を読み出す検索エンジン検索部241を有している。検索エンジン選択部24は、検索エンジン検索部241によって読み出された検索結果としての検索エンジン特定情報に基づいて、画像データ(D1)又はメタデータ(d1)の位置情報を検索キーとして検索させる検索エンジンを有する検索サーバを選択する。   Next, returning to FIG. 4, the search engine selection unit 24 is constructed in the storage unit 2000 based on the name or category of the subject related to the image data (D1) obtained by the image recognition of the image recognition unit 23. The search engine management unit 2001 is searched, and the search engine search unit 241 that reads out the corresponding search engine specifying information is included. The search engine selection unit 24 performs a search that uses the position information of the image data (D1) or metadata (d1) as a search key based on the search engine specifying information as the search result read by the search engine search unit 241. Select a search server with an engine.

また、記憶・読出処理部29は、主に図2に示すCPU201やROM202などによって実行され、記憶部2000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。   The storage / reading processing unit 29 is mainly executed by the CPU 201 and the ROM 202 shown in FIG. 2, and stores various data in the storage unit 2000 and reads various data stored in the storage unit 1000.

以上により、検索支援装置20aは、撮像装置10aから送られて来る画像データ(D1)、要求情報(i1)、及び、メタデータ(d1)を送信することができる。また、検索支援装置20aは、検索エンジン選択部24によって選択された検索エンジンを有する検索サーバに対して、検索キーとしての画像データ(D1)又はメタデータ(d1)の位置情報を、要求情報(i1)に係る要求に対応した検索を開始させることができる。   As described above, the search support device 20a can transmit the image data (D1), the request information (i1), and the metadata (d1) sent from the imaging device 10a. Further, the search support device 20a sends the position information of the image data (D1) or the metadata (d1) as the search key to the search server having the search engine selected by the search engine selection unit 24 as request information ( A search corresponding to the request related to i1) can be started.

次に、検索サーバ30aの機能について説明する。ここでは、例えば、検索サーバ30aは、動物図鑑、昆虫図鑑、両生類図鑑、建物図鑑、乗物図鑑等の各種図鑑をそれぞれ管理している複数の検索サーバのうちの一つである。ここでは、その一例として、両生類図鑑を管理し検索することができる検索サーバを示している。これら複数の検索サーバは、検索支援装置20における検索エンジン選択部241によって選択される。また、図6に示す検索エンジン管理テーブルのカテゴリは、各種検索サーバに対応している。なお、図7に示す検索サーバ30bは、図鑑系の検索サーバとは異なり、世界中の衛星写真から構成されたバーチャル地球儀における所定の視点位置からの画像を検索することができる検索エンジンを有する検索サーバである。   Next, the function of the search server 30a will be described. Here, for example, the search server 30a is one of a plurality of search servers that respectively manage various picture books such as an animal picture book, an insect picture book, an amphibian picture book, a building picture book, and a vehicle picture book. Here, as an example, a search server capable of managing and searching an amphibian encyclopedia is shown. The plurality of search servers are selected by the search engine selection unit 241 in the search support apparatus 20. The categories in the search engine management table shown in FIG. 6 correspond to various search servers. The search server 30b shown in FIG. 7 is different from the pictorial book search server, and has a search engine that can search for an image from a predetermined viewpoint position in a virtual globe composed of satellite photos from all over the world. It is a server.

また、検索サーバ30aは、図4に示されているように、送受信部31、検索部32、及び、記憶・読出処理部39を有し、これら各部は、図2に示すCPU201がROM202に記憶されているプログラムに従って動作することにより実現される機能又は手段である。また、検索サーバ30aは、図2に示すHD205により構築される記憶部3000を有している。この記憶部3000には、検索結果としての図鑑による物体の画像データが管理されている。例えば、両生類図鑑の場合には、おたまじゃくしの卵(おたまじゃくしの過去の物体)、おたまじゃく、蛙(おたまじゃくしの未来の物体)といったように、おたまじゃくしが時間的変移することにより成り得る物体の画像データが関連付けられて、時間的変移した物体であると認識できるように管理されている。   Further, as shown in FIG. 4, the search server 30 a has a transmission / reception unit 31, a search unit 32, and a storage / read processing unit 39, and these units are stored in the ROM 202 by the CPU 201 shown in FIG. 2. It is a function or means realized by operating according to the program being executed. In addition, the search server 30a has a storage unit 3000 constructed by the HD 205 shown in FIG. In the storage unit 3000, image data of an object by a picture book as a search result is managed. For example, in the case of an amphibian encyclopedia, image data of an object that can be formed by a temporal shift of the tadpole, such as a tadpole egg (a past object of a tadpole), a tadpole, or a spider (a future object of a tadpole). Are related to each other and managed so that the object can be recognized as a temporally shifted object.

また、上記送受信部31は、主に図2に示す通信インターフェース部203によって実行され、インターネット2と各種データの送受信を行う。この送受信部21は、検索支援装置10aから送られて来る検索キーとしての被写体の画像データ(D1)(又はメタデータ(d1)の位置情報)、及び、要求情報(i1)を受信する機能を有する。また、送受信部31は、検索サーバ30aから撮像装置10aに対して、検索結果としての物体の画像データを送信する機能も有する。   The transmission / reception unit 31 is mainly executed by the communication interface unit 203 shown in FIG. 2 and transmits / receives various data to / from the Internet 2. The transmission / reception unit 21 has a function of receiving subject image data (D1) (or metadata (d1) position information) and request information (i1) as search keys sent from the search support device 10a. Have. The transmission / reception unit 31 also has a function of transmitting image data of an object as a search result from the search server 30a to the imaging device 10a.

また、検索部32は、主に図2に示すCPU201及びROM202並びにRAM203に展開されているプログラムによって実行され、いわゆる検索エンジンである。記憶・読出処理部39は、主に図2に示すCPU201やROM202などによって実行され、記憶部3000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出す処理を行う。   The search unit 32 is a so-called search engine that is executed mainly by programs developed in the CPU 201, the ROM 202, and the RAM 203 shown in FIG. The storage / reading processing unit 39 is mainly executed by the CPU 201 and the ROM 202 shown in FIG. 2 and stores various data in the storage unit 3000 and reads various data stored in the storage unit 1000.

以上により、検索サーバ30aは、検索支援装置10aから送られて来る検索キーとしての被写体の画像データ(D1)(又はメタデータ(d1)の位置情報)、及び、要求情報(i1)を受信して検索を行い、この検索結果としての物体の画像データを、撮像装置10aに送信することができる。   As described above, the search server 30a receives the image data (D1) of the subject (or the position information of the metadata (d1)) and the request information (i1) as search keys sent from the search support device 10a. The image data of the object as a search result can be transmitted to the imaging device 10a.

なお、上記では、複数の図鑑系検索サーバが存在していると説明したが、これに限らず、一つの検索サーバで、上記各種図鑑をそれぞれ管理し検索できる複数の検索エンジンを有するようにし、検索エンジン選択部241によって、最適な検索エンジンを選択することができるようにしてもよい。   In the above description, a plurality of pictorial book search servers exist. However, the present invention is not limited to this, and a single search server has a plurality of search engines that can manage and search the various pictorial books. The search engine selection unit 241 may select an optimal search engine.

また、検索サーバ30bは、検索結果管理部3001で管理するデータが、図鑑系データではなくバーチャル地球儀のデータである点、及び検索部32が、バーチャル地球儀用の専用検索エンジンである点以外は、同様の構成を有してるため、その説明を省略する。   In addition, the search server 30b, except that the data managed by the search result management unit 3001 is virtual globe data instead of pictorial book data, and the search unit 32 is a dedicated search engine for virtual globes, Since it has the same structure, the description is abbreviate | omitted.

続いて、図7乃至図12を用いて、本実施形態の画像検索システムを利用した画像検索方法について説明する。図7は、本実施形態に係る画像検索システムを構成する各装置における処理及び各装置間の処理を示したシーケン図である。図8は、撮像装置における利用者からの要求受付処理を示した処理フロー図である。図9は、検索支援装置における検索エンジンの選択処理を示した処理フロー図である。   Next, an image search method using the image search system of this embodiment will be described with reference to FIGS. FIG. 7 is a sequence diagram showing processing in each device and processing between each device constituting the image search system according to the present embodiment. FIG. 8 is a process flow diagram illustrating a request reception process from a user in the imaging apparatus. FIG. 9 is a process flow diagram showing search engine selection processing in the search support apparatus.

まず、図7に示されているように、撮像装置10aは、利用者からの要求を受け付ける(ステップS1)。この処理は、図8に詳細に示されている。図8に示されているように、まずは、撮像された被写体の画像データに対して縮小又は拡大の要求があったかを判断する(ステップS1−1)。要求があったと判断した場合には(YES)、被写体をキャプチャリングして、撮像を開始する(ステップS1−2)。また、撮像された画像データ(D1)と撮像の際に取得したメタデータ(d1)を関連付けて、記憶部1000に記憶する(ステップS1−3)。次に、画像に対して縮小又は拡大の要求があったかを判断する(ステップS1−4)。縮小又は拡大の要求があったと判断した場合には(YES)、更に、拡大又は縮小の限界を超えたかを判断する(ステップS1−5)。ここで、限界を超えたと判断した場合には(YES)、記憶部1000から、画像データ(D1)及び、関連付けられているメタデータ(d1)を読み出す(ステップS1−6)。一方、上記ステップS1−4にて、縮小又は拡大の要求がないと判断した場合には、更に、画像に対して過去又は未来の要求があったかを判断する(ステップS1−7)。そして、過去又は未来の要求があったと判断した場合には(YES)、上記ステップS1−6と同様の処理を行う。そして、読み出された画像データ(D1)、メタデータ(d1)、及び、利用者からの要求(縮小又は拡大の画像を欲しい、又は、過去若しくは未来の画像を欲しい)を示す要求情報(i1)を出力する(ステップ1−8)。   First, as illustrated in FIG. 7, the imaging device 10a receives a request from a user (step S1). This process is shown in detail in FIG. As shown in FIG. 8, first, it is determined whether there has been a request for reduction or enlargement of the image data of the imaged subject (step S1-1). If it is determined that there is a request (YES), the subject is captured and imaging is started (step S1-2). Further, the captured image data (D1) and the metadata (d1) acquired at the time of imaging are associated with each other and stored in the storage unit 1000 (step S1-3). Next, it is determined whether there is a request for reduction or enlargement of the image (step S1-4). If it is determined that there is a request for reduction or enlargement (YES), it is further determined whether the limit of enlargement or reduction has been exceeded (step S1-5). If it is determined that the limit has been exceeded (YES), the image data (D1) and the associated metadata (d1) are read from the storage unit 1000 (step S1-6). On the other hand, if it is determined in step S1-4 that there is no request for reduction or enlargement, it is further determined whether there has been a request for the past or the future for the image (step S1-7). If it is determined that there has been a request in the past or the future (YES), the same processing as in step S1-6 is performed. Then, request information (i1) indicating the read image data (D1), metadata (d1), and a request from the user (desiring a reduced or enlarged image, or a past or future image). ) Is output (step 1-8).

ここで、利用者による縮小又は拡大の物体の画像の要求の受付は、図10に示すように、撮像装置10aの表示部10a−3のタッチパネルに指を触れて、外側に広げると拡大すると判断し、狭めると縮小すると判断することで行われる。また、利用者による過去又は未来の物体の画像の要求の受付は、図11に示されているように、撮像装置10aの表示部10a−3のタッチパネルに指を触れて、右側に移動させると未来だと判断し、左側に移動させると過去だと判断することで行われる。   Here, as shown in FIG. 10, the user accepts the request for the image of the reduced or enlarged object by touching the touch panel of the display unit 10a-3 of the imaging apparatus 10a and expanding the outside to determine that the image is enlarged. However, it is performed by judging that the size is reduced when the size is narrowed. In addition, as shown in FIG. 11, the user accepts a request for an image of a past or future object by touching the touch panel of the display unit 10a-3 of the imaging device 10a and moving it to the right side. This is done by judging that it is the future, and moving it to the left to be the past.

なお、上記ステップ1−7で、過去又は未来の要求がなかったと判断した場合には(NO)、画像データ(D1)、メタデータ(d1)、及び、要求情報(i1)を出力しない(ステップS1−9)。また、上記ステップS1−5で、縮小又は拡大の限界を超えていないと判断した場合にも(NO)、画像データ(D1)、メタデータ(d1)、及び、要求情報(i1)を出力しない(ステップS1−10)。   If it is determined in step 1-7 that there is no past or future request (NO), image data (D1), metadata (d1), and request information (i1) are not output (step 1). S1-9). Even when it is determined in step S1-5 that the limit of reduction or enlargement is not exceeded (NO), the image data (D1), metadata (d1), and request information (i1) are not output. (Step S1-10).

以上のようにして出力された画像データ(D1)、メタデータ(d1)、及び、要求情報(i1)は、検索支援装置20aに送られる(ステップS2)。これにより、検索支援装置20aは、検索エンジンの選択を行う(ステップS3)。この処理は、図9に詳細に示されている。図9に示されているように、まずは、要求情報(i1)で示される要求が、特定の要求かを判断する(ステップS3−1)。この特定の要求は、上記のごとく、被写体と撮像装置10aとの距離を遠ざけた場合に得られる画像データの要求である。ここで、特定の要求でないと判断した場合には(NO)、画像データ(D1)に対して画像認識の処理を行う(ステップS3−2)。そして、この画像認識により得た画像データに係る被写体の名称又はカテゴリに基づいて、検索エンジン管理部2001を検索して、対応する検索エンジン特定情報を読み出す(ステップS3−3)。そして、画像データ(D1)を検索キーとして出力する(ステップS3−4)。一方、上記ステップ3−1にて、特定の要求であると判断した場合には、予め定められている検索エンジンを有する検索サーバ30bを特定する(ステップS3−5)。そして、メタデータ(d1)の位置情報を検索キーとして出力する(ステップ3−6)。   The image data (D1), metadata (d1), and request information (i1) output as described above are sent to the search support device 20a (step S2). Thereby, the search support device 20a selects a search engine (step S3). This process is shown in detail in FIG. As shown in FIG. 9, first, it is determined whether the request indicated by the request information (i1) is a specific request (step S3-1). This specific request is a request for image data obtained when the distance between the subject and the imaging device 10a is increased as described above. If it is determined that the request is not a specific request (NO), image recognition processing is performed on the image data (D1) (step S3-2). Then, the search engine management unit 2001 is searched based on the name or category of the subject related to the image data obtained by the image recognition, and the corresponding search engine specifying information is read (step S3-3). Then, the image data (D1) is output as a search key (step S3-4). On the other hand, if it is determined in step 3-1 that the request is a specific request, the search server 30b having a predetermined search engine is specified (step S3-5). Then, the position information of the metadata (d1) is output as a search key (step 3-6).

次に、上記S3−4の処理を実行した場合には、図7に戻って、検索支援装置20aは検索サーバ30aに、検索キーとしての画像データ(D1)及び要求情報(i1)を送信する(ステップS4)。これにより、検索サーバ30aは、要求情報(i1)に係る要求に応じて、画像データ(D1)を検索キーとした画像検索を行う(ステップS5)。その後、検索サーバ30aは、撮像装置10aに対して検索結果としての物体の画像データを送信する(ステップS6)。これにより。撮像装置10aでは、検索結果としての物体の画像データをモニタ10a−3に表示させる(ステップS7)。   Next, when the process of S3-4 is executed, the process returns to FIG. 7 and the search support apparatus 20a transmits the image data (D1) and the request information (i1) as a search key to the search server 30a. (Step S4). Accordingly, the search server 30a performs an image search using the image data (D1) as a search key in response to the request related to the request information (i1) (step S5). Thereafter, the search server 30a transmits the image data of the object as a search result to the imaging device 10a (step S6). By this. In the imaging device 10a, the image data of the object as a search result is displayed on the monitor 10a-3 (step S7).

一方、図9における上記S3−6の処理を実行した場合には、図7に戻って、検索支援装置20aは検索サーバ30bに、検索キーとしてのメタデータ(d1)の位置情報、及び要求情報(i1)を送信する(ステップS4’)。これにより、検索サーバ30bは、要求情報(i1)に係る要求に応じて、位置情報を検索キーとした画像検索を行う(ステップS5’)。その後、検索サーバ30bは、撮像装置10aに対して検索結果としての物体の画像データを送信する(ステップS6)。これにより。撮像装置10aでは、検索結果としての物体の画像データをモニタ10a−3に表示させる(ステップS7)。   On the other hand, when the process of S3-6 in FIG. 9 is executed, returning to FIG. 7, the search support apparatus 20a sends the search server 30b the location information of the metadata (d1) as the search key and the request information. (I1) is transmitted (step S4 ′). Thereby, the search server 30b performs an image search using the position information as a search key in response to the request related to the request information (i1) (step S5 '). Thereafter, the search server 30b transmits the image data of the object as a search result to the imaging device 10a (step S6). By this. In the imaging device 10a, the image data of the object as a search result is displayed on the monitor 10a-3 (step S7).

以上説明したように、利用者の要求に応じた被写体の過去若しくは未来の物体の画像、又は、被写体の縮小(被写体との距離を遠ざける要求を含む)又は拡大(被写体との距離を近づける画像、顕微鏡画像、又は化学式の画像を含む)の物体の画像は、図12に示されているような画像である。図12では、横軸のプラス方向を「未来」、横軸のマイナス方向を「過去」、縦軸のプラス方向を「縮小」、及び、縦軸のマイナス方向を「拡大」の要求があった物体の画像として示されている。例えば、現時点の被写体の画像(0,0)が「おやまじゃくし」の場合、この未来の画像(1,0)は、「蛙」の画像である。また、過去の画像(−1,0)は、「卵」である。一方、現位置の被写体の画像(0,0)の縮小が進むと、撮像位置を上空から見た画像(0,2)となり、更に縮小が進むと、衛星画像(0,3)、(0,4)となる。なお、衛星画像(0,4)から過去要求すると、古代の地球の姿を示した画像(−N,4)を要求することになる。また、現位置の被写体の画像(0,0)の拡大が進むと、顕微鏡画像(0,−2)となり、更に拡大が進むと、化学式を示した画像(0,−3)を要求することになる。   As described above, an image of a past or future object of a subject according to a user's request, or a reduction (including a request to increase the distance from the subject) or enlargement (an image that brings a distance from the subject closer), The image of the object (including a microscope image or a chemical formula image) is an image as shown in FIG. In FIG. 12, there is a request for the positive direction of the horizontal axis “future”, the negative direction of the horizontal axis “past”, the positive direction of the vertical axis “reduction”, and the negative direction of the vertical axis “enlarge”. It is shown as an image of the object. For example, when the image (0,0) of the current subject is “Oyamajakushi”, the future image (1,0) is an image of “蛙”. The past image (-1, 0) is “egg”. On the other hand, when the image (0, 0) of the subject at the current position is reduced, the image (0, 2) is obtained when the imaging position is viewed from above. When the reduction is further advanced, the satellite images (0, 3), (0 , 4). Note that when a past request is made from the satellite image (0, 4), an image (-N, 4) showing the shape of the ancient earth is requested. Further, when the enlargement of the image (0, 0) of the subject at the current position proceeds, a microscope image (0, -2) is obtained. When the enlargement further proceeds, an image (0, -3) indicating a chemical formula is requested. become.

以上説明したように本実施形態によれば、撮像された被写体である物体が世の中に存在する様々なものであっても、この被写体の画像データに関連する物体の画像データを取得できるという効果を奏する。また、被写体に関連する物体の画像データを容易に取得できるという効果を奏する。   As described above, according to the present embodiment, there is an effect that even if there are various objects that are captured subjects in the world, image data of the objects related to the image data of the subjects can be acquired. Play. In addition, the image data of the object related to the subject can be easily obtained.

〔第2の実施形態〕
以下に、本発明の第2の実施形態について説明する。なお、本実施形態の撮像装置10bと第1の実施形態の撮像装置10aとでは、基本的に外観と利用者の操作入力部分が異なるだけで、検索支援装置20aや検索サーバ30a、30bとの通信方法、及び通信データは同様であるため、説明を省略し、撮像装置10bの外観の構成のみを説明する。
[Second Embodiment]
The second embodiment of the present invention will be described below. Note that the imaging device 10b of the present embodiment and the imaging device 10a of the first embodiment basically differ only in the appearance and the operation input part of the user, but with the search support device 20a and the search servers 30a and 30b. Since the communication method and the communication data are the same, the description is omitted, and only the external configuration of the imaging device 10b will be described.

図13に示されているように、撮像装置10bは、ルーペ状の構成を有しており、本体10b−1と、本体上部に回転自在に設けられた回転入力部10b−2と、本体10b−1の側面に設けられた回転・押下入力部10b−4により構成されている。回転入力部10b−2には画像を表示するディスプレイ10b−6が設けられている。ディスプレイ10b−6には、第1の実施形態と同様の機能を有するオートフォーカス枠10b−7が表示され、利用者の指などによるタッチによってオートフォーカスとキャプチャリングを行う。また、回転入力部10b−2が矢印の右ネジが締まる方向に回されると画像の拡大が要求されたと判断し、矢印の右ネジが外れる方向に回されると画像の縮小が要求されたと判断する。また、回転・押下入力部10b−4が矢印の右ネジが締まる方向(時計の針を進める方向)に回されると未来の物体の画像が要求されたと判断し、矢印の右ネジが外れる方向(時計の針を戻す方向)に回されると過去の物体の画像が要求されたと判断する。   As illustrated in FIG. 13, the imaging device 10b has a loupe-like configuration, and includes a main body 10b-1, a rotation input unit 10b-2 that is rotatably provided on the upper part of the main body, and a main body 10b. -1 and the rotation / push-down input unit 10b-4 provided on the side surface. The rotation input unit 10b-2 is provided with a display 10b-6 that displays an image. The display 10b-6 displays an autofocus frame 10b-7 having the same function as in the first embodiment, and performs autofocus and capturing by touching with a user's finger or the like. Further, when the rotation input unit 10b-2 is rotated in the direction in which the right screw of the arrow is tightened, it is determined that the enlargement of the image is requested, and when the rotation input unit 10b-2 is rotated in the direction of removing the right screw of the arrow, the image reduction is requested. to decide. Further, when the rotation / push-down input unit 10b-4 is turned in the direction in which the right screw of the arrow is tightened (the direction in which the clock hand is advanced), it is determined that an image of the future object has been requested, and the right screw of the arrow is removed. When it is turned (in the direction of returning the clock hand), it is determined that an image of a past object has been requested.

以上説明したように本実施形態によれば、過去、未来、縮小、拡大の要求入力が、人間工学的に合致したものとなるため、上記実施形態の効果に加え、撮像装置を使い易いという効果を奏する。   As described above, according to the present embodiment, since the request inputs for the past, future, reduction, and enlargement are ergonomically matched, the effect that the imaging apparatus is easy to use in addition to the effect of the above embodiment. Play.

なお、上記各実施形態では、検索支援装置20aは、検索サーバと別体としたが、これに限らず、検索サーバ30a、30bの検索エンジンを搭載してもよい。また、検索支援装置20aは、単一のコンピュータによって構築されてもよいし、複数のコンピュータによって構築されてもよい。本発明では、検索支援装置20aが単一のコンピュータと、複数のコンピュータの両方の場合を含める意味、及び、上記のごとく、検索エンジンを搭載している場合及び搭載していない場合も含める意味で、検索支援システムとしている。また、上記各実施形態をまとめると、以下に示す発明が開示されている。
所定の被写体を撮像する撮像手段を有し、当該撮像手段によって撮像された被写体の画像データを通信ネットワークを介して検索支援システムに送信することで、前記被写体に関連する情報を取得する撮像装置であって、利用者から前記被写体に関連する物体の画像データの要求を受け付ける要求受付手段と、当該撮像装置単体で前記利用者からの要求に対応できるかを判断する対応判断手段と、対応できないと判断された場合には、前記利用者からの要求を示す要求情報及び前記撮像された被写体の画像データを、前記通信ネットワークを介して前記検索支援システムに送信する送信手段と、前記要求情報及び前記画像データの送信に基づいて取得した所定の物体の画像データに係る画像を所定の表示部に表示する表示手段と、を有することを特徴とする撮像装置。
In each of the above embodiments, the search support device 20a is separate from the search server. However, the search support device 20a is not limited thereto, and the search engines of the search servers 30a and 30b may be installed. Further, the search support device 20a may be constructed by a single computer or may be constructed by a plurality of computers. In the present invention, the search support apparatus 20a includes both a single computer and a plurality of computers, and includes the case where the search engine is installed and the case where the search engine is not installed as described above. And a search support system. Moreover, the invention shown below is disclosed when each said embodiment is put together.
An imaging apparatus that has imaging means for imaging a predetermined subject, and acquires information related to the subject by transmitting image data of the subject imaged by the imaging means to a search support system via a communication network. And a request receiving unit that receives a request for image data of an object related to the subject from a user, and a correspondence determining unit that determines whether or not the imaging device alone can handle the request from the user. If determined, transmission means for transmitting request information indicating a request from the user and image data of the captured subject to the search support system via the communication network, the request information, and the request information Display means for displaying an image related to the image data of a predetermined object acquired based on the transmission of the image data on a predetermined display unit. Imaging device according to claim.

10a 撮像装置
10b 撮像装置
11 送受信部
12 要求受付部
13 撮像部
14 表示部
15 対応判断部
16 撮像状況検知部
20a 検索支援装置20a(検索支援システムの一例)
30a 検索サーバ
30b 検索サーバ
21 送受信部
22 特定要求判断部
23 画像認識部
24 検索エンジン選択部
241 検索エンジン検索部
DESCRIPTION OF SYMBOLS 10a Imaging device 10b Imaging device 11 Transmission / reception part 12 Request reception part 13 Imaging part 14 Display part 15 Correspondence judgment part 16 Imaging condition detection part 20a Search support apparatus 20a (an example of a search support system)
30a Search server 30b Search server 21 Transmission / reception unit 22 Specific request determination unit 23 Image recognition unit 24 Search engine selection unit 241 Search engine search unit

特開2003−143478号公報JP 2003-143478 A

Claims (4)

撮像手段を有する装置であって、An apparatus having imaging means,
画像データの画像を表示する表示手段と、Display means for displaying an image of the image data;
前記表示手段で表示された画像に対して、縮小表示の操作を受け付ける受付手段と、Accepting means for accepting a reduced display operation on the image displayed by the display means;
前記縮小表示に対応できるかを判断する判断手段と、Determining means for determining whether the reduced display can be handled;
対応できないと判断されたとき、前記装置と異なる他の装置に対して、前記画像データが撮影された位置の衛星画像の画像データを要求する要求手段と、Requesting means for requesting image data of a satellite image at a position where the image data is captured, to another device different from the device when it is determined that it is not possible to handle,
を有し、Have
前記表示手段は、前記要求に基づいて取得した前記画像データの画像を表示することを特徴とする装置。The display means displays an image of the image data acquired based on the request.
請求項1に記載の装置であって、The apparatus of claim 1, comprising:
前記縮小表示の操作は、前記装置の有するタッチパネル上の2点に指を触れて、該2点の間隔を狭める操作であることを特徴とする装置。The reduced display operation is an operation in which a finger touches two points on a touch panel of the device to narrow an interval between the two points.
請求項1または2に記載の装置であって、The apparatus according to claim 1 or 2, comprising:
前記受付手段は、前記表示手段によって表示された前記他の画像データの画像に対して拡大表示の操作を受け付け、The accepting means accepts an operation for enlarging the image of the other image data displayed by the display means,
前記表示手段は、前記拡大表示の操作を受け付けると、前記画像データの画像を表示することを特徴とする装置。The display device displays an image of the image data upon receiving an operation for the enlarged display.
撮像手段を有する装置で実行されるプログラムあって、There is a program executed by an apparatus having an imaging means,
画像データの画像を表示する表示ステップと、A display step for displaying an image of the image data;
表示された画像に対して、縮小表示の操作を受け付ける受付ステップと、An accepting step for accepting a reduced display operation for the displayed image;
前記縮小表示に対応できるかを判断する判断ステップと、A determination step of determining whether the reduced display can be handled;
対応できないと判断されたとき、前記装置と異なる他の装置に対して、前記画像データが撮影された位置の衛星画像の画像データを要求する要求ステップと、A requesting step for requesting image data of a satellite image at a position where the image data is captured, to another device different from the device when it is determined that it cannot be handled;
を前記装置に実行させ、To the device,
前記表示ステップは、前記要求に基づいて取得した前記画像データの画像を表示する処理を含むことを特徴とするプログラム。The display step includes a process of displaying an image of the image data acquired based on the request.
JP2016080927A 2016-04-14 2016-04-14 Apparatus and program Expired - Fee Related JP6115673B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016080927A JP6115673B2 (en) 2016-04-14 2016-04-14 Apparatus and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016080927A JP6115673B2 (en) 2016-04-14 2016-04-14 Apparatus and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014238724A Division JP5920448B2 (en) 2014-11-26 2014-11-26 Imaging device, program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017057430A Division JP2017157220A (en) 2017-03-23 2017-03-23 Imaging device

Publications (3)

Publication Number Publication Date
JP2016170790A JP2016170790A (en) 2016-09-23
JP2016170790A5 JP2016170790A5 (en) 2016-12-08
JP6115673B2 true JP6115673B2 (en) 2017-04-19

Family

ID=56982509

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016080927A Expired - Fee Related JP6115673B2 (en) 2016-04-14 2016-04-14 Apparatus and program

Country Status (1)

Country Link
JP (1) JP6115673B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102026475B1 (en) * 2017-08-20 2019-09-30 네이버 주식회사 Processing visual input

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4124995B2 (en) * 2001-10-31 2008-07-23 キヤノン株式会社 Video composition apparatus and information processing method
JP4583258B2 (en) * 2004-07-12 2010-11-17 パナソニック株式会社 Camera control device
JP4950015B2 (en) * 2006-12-15 2012-06-13 カシオ計算機株式会社 Data search device, data search method, and program thereof

Also Published As

Publication number Publication date
JP2016170790A (en) 2016-09-23

Similar Documents

Publication Publication Date Title
JP6075066B2 (en) Image management system, image management method, and program
US9584694B2 (en) Predetermined-area management system, communication method, and computer program product
CN109189879B (en) Electronic book display method and device
JP6446766B2 (en) Program, display control device, recording medium, and display control system
JP2021524957A (en) Image processing methods and their devices, terminals and computer programs
JP2010140391A (en) Image processor, image processing method and image processing program
JP6555026B2 (en) Information provision system
JP6954410B2 (en) Management system
CN109618192B (en) Method, device, system and storage medium for playing video
JPWO2017014126A1 (en) Image management system, image management method and program
JP2018036760A (en) Image management system, image management method, and program
US11238622B2 (en) Method of providing augmented reality contents and electronic device therefor
JP6115113B2 (en) Predetermined area management system, predetermined area management method, and program
JP6115673B2 (en) Apparatus and program
JP5739239B2 (en) Imaging support system and imaging apparatus
JP2008217660A (en) Retrieval method and device
JP2017108356A (en) Image management system, image management method and program
JP5920448B2 (en) Imaging device, program
JP5655916B2 (en) Image search system
JP2016025625A (en) Information processor, information processing method, and program
JP5532748B2 (en) Imaging device
JP5932107B2 (en) Image processing server and imaging apparatus
JP2017157220A (en) Imaging device
EP2784736A1 (en) Method of and system for providing access to data
JP2011048509A (en) Search support system

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161021

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170210

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170306

R151 Written notification of patent or utility model registration

Ref document number: 6115673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees