JP2004145416A - 画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 - Google Patents
画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP2004145416A JP2004145416A JP2002306578A JP2002306578A JP2004145416A JP 2004145416 A JP2004145416 A JP 2004145416A JP 2002306578 A JP2002306578 A JP 2002306578A JP 2002306578 A JP2002306578 A JP 2002306578A JP 2004145416 A JP2004145416 A JP 2004145416A
- Authority
- JP
- Japan
- Prior art keywords
- image
- search result
- terminal device
- image recognition
- portable terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】携帯端末のデジタルカメラにより物体を撮影してその物体に関する情報を即座に閲覧することを可能とする。
【解決手段】携帯端末装置1は、デジタルカメラとする画像入力手段101で画像を入力し、データ通信手段103で画像を画像認識用サーバ2に送信する。サーバ2は、データ通信手段201で携帯端末装置から送信された画像を受信し、物体抽出・部類識別手段202で画像中に存在する物体の部類を識別し、情報提供手段202では識別された物体の部類に基づき情報提供を行い、この情報を携帯端末装置に送信する。携帯端末装置は、データ通信手段でサーバからの提供情報を受信し、検索結果データ表示手段・表示画面104で受信した検索結果データを表示する。画像送信に際して、付随情報入力手段103で入力した付随情報もサーバに送信することも含む。
【選択図】 図1
【解決手段】携帯端末装置1は、デジタルカメラとする画像入力手段101で画像を入力し、データ通信手段103で画像を画像認識用サーバ2に送信する。サーバ2は、データ通信手段201で携帯端末装置から送信された画像を受信し、物体抽出・部類識別手段202で画像中に存在する物体の部類を識別し、情報提供手段202では識別された物体の部類に基づき情報提供を行い、この情報を携帯端末装置に送信する。携帯端末装置は、データ通信手段でサーバからの提供情報を受信し、検索結果データ表示手段・表示画面104で受信した検索結果データを表示する。画像送信に際して、付随情報入力手段103で入力した付随情報もサーバに送信することも含む。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、物体に関する情報を取得するために、その物体の画像をデジタルカメラで取得し、該画像中に存在する物体を画像処理により抽出して識別し、その識別結果を用いてデータベースを検索する画像認識装置および方法に関するものである。対象とする物体は、部類が定義されているものであればどのようなものでもよく、例としては人間の顔、手、文字、機械部品、植物の葉や花、きのこ、魚、昆虫などの動植物がある。
【0002】
【従来の技術】
先行技術として魚の電子図鑑がある(例えば、非特許文献1を参照)。
【0003】
この電子図鑑は、図鑑としての閲覧機能のほか、魚の体形、色、模様、生息域などのキー情報を与えることにより魚の検索機能を持つ。
【0004】
【非特許文献1】
株式会社シンフォレスト発売、“おさかな図鑑 全六集”、[online]、株式会社シンフォレスト、[平成14年9月30日検索]、インターネット、<URL:http://www.synforest.co.jp/cdrom/sz−001/index.html>
【0005】
【発明が解決しようとする課題】
しかし、従来の検索方法では、検索しようとする物体のキー情報は人間が判断しなければならず、画像を入力して自動的に抽出することは不可能である。
【0006】
また、画像に含まれる物体を抽出し識別する処理は計算量が大きいが、携帯端末は計算能力が低いため、実用的な処理時間内に携帯端末で実行する技術は従来なかった。
【0007】
さらに、現在の携帯端末では十分なデータベース容量を持ことが困難であり、この点も従来の問題点であった。
【0008】
本発明の目的は、利用者が携帯端末のカメラで撮影した画像に含まれる物体を抽出し識別し、その物体に関する情報をデータベースから検索して携帯端末で閲覧することを可能とする画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、プログラムおよびこのプログラムを記録した記録媒体を提供することにある。
【0009】
【課題を解決するための手段】
近年、屋内外でデジタルカメラで撮影した画像をワイヤレスで送信する技術が一般に普及を始めており、デジタルカメラとデータ通信機能を内蔵した携帯電話はその代表例である。また「Blue Tooth」のような、携帯機器間で近距離の無線データ通信を行う技術も普及しつつあり、これに対応したデジタルカメラと携帯端末を組み合わせれば、デジタルカメラで撮影した画像を携帯端末を通じてワイヤレスで送信することが可能となる。
【0010】
そこで、本発明は、計算能力の高い計算機をサーバとして、それに画像に含まれる物体を抽出し識別する処理を行う機能と、識別結果を用いてデータベースを検索する機能と、携帯端末とデータ通信を行う機能を持たせることにより、このサーバと携帯端末を組み合わせ、計算量の大きい、画像に含まれる物体を抽出し識別する処理は計算能力の高いサーバ上で行い、携帯端末には負荷をかけないようにするもので、以下の画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、プログラムおよび記録媒体を特徴とする。
【0011】
(画像認識用サーバの発明)
(1)携帯端末装置から送信された画像を受信する画像受信手段と、該画像受信手段で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別手段と、該部類識別手段によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供手段と、該情報提供手段から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信手段とを有することを特徴とする画像認識用サーバ。
【0012】
(2)上記(1)において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得手段と、前記画像受信手段に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信手段を有し、前記部類識別手段では画像に加えて該付随情報も使用することを特徴とする画像認識用サーバ。
【0013】
(3)上記(1)または(2)において、
前記情報提供手段は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信手段によって携帯端末装置に提供することを特徴とする画像認識用サーバ。
【0014】
(4)上記(3)において、
前記部類識別手段は、複数の部類候補を挙げ、前記情報提供手段は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信手段によって携帯端末装置に送信処理することを特徴とする画像認識用サーバ。
【0015】
(5)上記(1)〜(4)のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存手段に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存手段のアドレスを送信することを特徴とする画像認識用サーバ。
【0016】
(6)上記(1)〜(5)のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識用サーバ。
【0017】
(画像認識用携帯端末装置の発明)
(7)画像を入力する画像入力手段と、該画像を画像認識用サーバに送信する画像送信手段と、画像認識用サーバの提供情報を受信するデータ受信手段と、受信した検索結果データの一部または全てを表示する検索結果データ表示手段と表示画面を有し、
検索結果データ表示手段の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識用携帯端末装置。
【0018】
(8)上記(7)において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示手段は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識用携帯端末装置。
【0019】
(画像認識方法の発明)
(9)携帯端末装置から送信された画像を受信する画像受信過程と、該画像受信過程で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別過程と、該部類識別過程によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供過程と、該情報提供過程から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信過程とを有することを特徴とする画像認識方法。
【0020】
(10)上記(9)において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得過程と、前記画像受信過程に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信過程を有し、前記部類識別過程では画像に加えて該付随情報も使用することを特徴とする画像認識方法。
【0021】
(11)上記(9)または(10)において、
前記情報提供過程は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信過程によって携帯端末装置に提供することを特徴とする画像認識方法。
【0022】
(12)上記(11)において、
前記部類識別過程は、複数の部類候補を挙げ、前記情報提供過程は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信過程によって携帯端末装置に送信処理することを特徴とする画像認識方法。
【0023】
(13)上記(9)〜(12)のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存過程に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存過程のアドレスを送信することを特徴とする画像認識方法。
【0024】
(14)上記(9)〜(13)のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識方法。
【0025】
(15)画像を入力する画像入力過程と、該画像を画像認識用サーバに送信する画像送信過程と、画像認識用サーバの提供情報を受信するデータ受信過程と、受信した検索結果データの一部または全てを表示する検索結果データ表示過程と表示画面を有し、
検索結果データ表示過程の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識方法。
【0026】
(16)上記(15)において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示過程は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識方法。
【0027】
(プログラムの発明)
上記の(9)〜(16)のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したことを特徴とする画像認識用プログラム。
【0028】
(記録媒体の発明)
(18)上記の(9)〜(16)のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したプログラムを記録したことを特徴とする記録媒体。
【0029】
【発明の実施の形態】
〔実施形態1〕
図1は、木発明の実施形態1を示すブロック図である。同図において、画像入力手段101は、本実施形態では携帯端末1に内蔵されたデジタルカメラとする。ここで携帯端末とは、携帯電話、PHS、PDA(携帯情報端末)、ノートパソコンを意味する。操作手段102は、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0030】
付属情報入力手段103は、GPS(グローバル・ポジショニング・システム)、高度計、水深計、方位磁針、温度計、湿度計、気圧計、風力計、風向計、時計、カレンダー、ジャイロなど、位置情報、気象情報、時間情報、姿勢情報などを計測する機器、またはこれらの情報を手入力するのに用いるキーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0031】
検索結果データ表示手段・表示画面104は、液晶ディスプレイのような小型の表示装置である。
【0032】
なお、携帯端末1は、複数存在し、各々の識別子とそれらの所有者の情報がサーバ2内に記録されているものとする。また、各携帯端末にはその携帯端末の識別コードが記録されているものとする。以下、図2に示す処理手順S1〜S9を参照して動作例を説明する。
【0033】
まず、利用者は携帯端末1に内蔵されるデジタルカメラ101で物体を撮影する(S1)。このとき、必要に応じて付随情報入力手段103により、緯度経度、高度、水深、方角などの位置情報や、天気、気温、湿度、気圧、風向、風速などの気象情報や、時刻、日時、季節などの時間情報や、撮影時の携帯端末の向き、姿勢などの姿勢情報などの付随情報も同時に取得される(S2)。携帯端末として携帯電話やPHSが用いられる場合、位置情報として該携帯端末が所属している基地局エリア情報も使用することができる。
【0034】
手入力によりこれら付随情報を取得する時には、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどが用いられる。手入力の際には、使用者の名前、住所、性別などの個人情報や、撮影場所、物体を取得した場所、物体の形、大きさ、色、模様など部類識別に役立つ情報も入力することができる。
【0035】
次に、操作手段102によって、画像および付随情報をサーバ2に送信するよう、データ通信手段105に指示を出す。これを受けてデータ通信手段105は画像、付随情報、携帯端末の識別コードをサーバ2に送る(S3)。通信経路としては例えばLANや公衆網などを用いることができる。
【0036】
サーバ2はデータ通信手段201によってそれらを受信する(S4)。データ通信手段201は、携帯端末の識別コードを利用者管理テーブル204に送る(S5)。また、受信した画像と付随情報を物体抽出・部類識別手段202に送る。そして、物体抽出・部類識別手段202は物体を抽出し、画像と付随情報から該物体の部類を識別する(S6)。この識別結果の部類情報を情報提供手段203に送る。このとき、該物体の部類候補を一つに絞るだけでなく、可能性の高い複数個の候補を挙げる方法もある。この場合、可能性の高さについては、例えば、識別処理時の評価値(マッチング度合いなど)を利用できる。
【0037】
なお、物体抽出・部類識別手段202の具体例として、以下の文献に示される方法がある。
【0038】
(a)人間の顔の識別
赤松ほか、「濃淡画像のマッチングによるロバストな正面顔の識別法、フーリエスペクトルのKL展開の応用」、電子情報通信学会論文誌、Vol.J76−D−11,No.7,pp.1363−1373(1993)
この文献では、濃淡画像のマッチングによる正面顔画像の識別に関して、顔の造作を基準点として切り出された照合パターンを識別に有効な低次元の特徴ベクトルとして表現する方法を提案しており、顔の姿勢や照明条件の変動に対して安定した識別能力を持つことができる。
【0039】
(b)機械部品の識別
斎藤文彦、「2次元ハフ空間を用いた六角ナット高速認識法」、画像電子学会誌、第24巻、第5号、pp.619−629(1995)
この文献では、Hough変換により位置、大きさ、傾きの異なる画像内の六角ナットを抽出する方法を提案しており、六角ナットの形状を利用することにより、Hough変換の際に必要となるメモリ空間を削減し、認識に要する処理時間を短縮することができる。
【0040】
(c)花、葉による植物の識別
齋藤剛史、「花と葉による野草の自動認識」、電子情報通信学会論文誌、Vol.J84−D−II,No.7,pp.1419−1429(2001)
この文献では、1つの野草について真上かそれに近い斜め上の角度から撮影した花画像と葉画像の2枚を1セツトとして用い、野草を自動認識する。クラスタリング法を用いて各画像から対象物(花、葉)を抽出し、花画像から10個、葉画像から11個の特徴量を求め、区分的線形識別関数により認識を行う。
【0041】
(d)魚の認識
平岡透ほか、「輪郭線及びテクスチャ情報に基づく画像認識法−魚画像認識への応用」、信学技報、PRMU96−148,pp.55−62(1997−01)
この文献では、輪郭線情報としてP型記述子のパワースペクトルを、テクスチャ情報としては濃度共起行列から作られる行列の要素を用い、これらを統合し、拡大・縮小、平行移動、ある角度の回転に関し不変な画像の識別法を提案している。特に、認識対象として点画像を取り上げている。
【0042】
次に、情報提供手段203では、識別された部類情報を用いてデータベースを検索し、識別部類の名称、特徴、絵、写真などの検索結果データを取得する。対象が動植物の場合には、検索結果データとして食用の可否、近似種、料理法、育成方法なども考えられる。
【0043】
この検索結果データはデータ通信手段201に送られる(S7)。また、処理が成功したことを利用者管理テーブル204に送る。それを受けて利用者管理テーブル204は既にデータ通信手段201から受け取っている携帯端末の識別コードの記録欄にこの処理のデータ通信回数やデータ通信量などを記録する。従量制課金方法ではこの記録をもとに料金を計算する。また、データ通信手段201は検索結果データを携帯端末1に送る。
【0044】
なお、料金算定方法としては、・各利用者のデータ通信回数やデータ通信量など、その利用状況に応じて課金する従量制課金方法、・一定の期間当たり一定の料金を課金する定額制課金方法、・従量制課金方法と定額性課金方法とを組み合わせた方法とすることができる。
【0045】
携帯端末1のデータ通信手段105は、サーバ2からの検索結果データを受信し(S8)、検索結果データ表示手段・表示画面104により表示する(S9)。検索結果データが複数個の部類候補にもとづく場合、表示画面に検索結果データのすべてが表示できないことが想定される。このとき、例えば各部類候補の名称や写真など、その一部のみを表示画面に一覧表示する方法が考えられる。
【0046】
このような方法で一覧表示された部類候補に対し、操作手段102により任意の部類を選択することで、選択した部類のより詳細な検索結果データが表示される。なお、端末装置における提供情報(検索結果データ)の表示方法としては、検索結果データが複数の部類候補に基づいて作成されている場合、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示する方法がある。この表示方法の場合、可能性の高さについては、例えば、識別処理時の評価値(マッチング度合いなど)を利用できる。
【0047】
〔実施形態2〕
図3は本発明の実施形態2を示すブロック図である。同図において、画像入力手段1010は、本実施形態では携帯端末10に内蔵されたデジタルカメラとする。ここで、携帯端末とは、携帯電話、PHS、PDA(携帯情報端末)、ノートパソコンを意味する。操作手段1020は、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0048】
付随情報入力手段1030は、GPS(グローバル・ポジショニング・システム)、高度計、水深計、方位磁針、温度計、湿度計、気圧計、風力計、風向計、時計、カレンダー、ジャイロなど、位置情報、気象情報、時間情報、姿勢情報などを計測する機器、またはこれらの情報を手入力するのに用いるキーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0049】
検索結果データ表示手段・表示画面1040は、液晶ディスプレイのような小型の表示装置である。
【0050】
なお、携帯端末は複数存在し、各々の識別子とそれらの所有者の情報がサーバ20内に記録されているものとする。また、各携帯端末にはその携帯端末の識別コードが記録されているものとする。以下、図4に示す処理手順S11〜S22を参照して動作例を説明する。
【0051】
まず、利用者は携帯端末10に内蔵されるデジタルカメラ1010で物体を撮影する(S11)。このとき、必要に応じて付随情報入力手段1030により、緯度経度、高度、水深、方角などの位置情報や、天気、気温、湿度、気圧、風向、風速などの気象情報や、時刻、日時、季節などの時間情報や、撮影時の携帯端末の向き、姿勢などの姿勢情報などの付随情報も同時に取得される(S12)。
【0052】
手入力によりこれらの情報を取得する時には、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどが用いられる。手入力の際には、使用者の名前、住所、性別などの個人情報や、撮影場所、物体を取得した場所、物体の形、大きさ、色、模様など部類識別に役立つ情報も入力することができる。
【0053】
次に、操作手段1020によって、データ通信手段1050にその画像データを送信するように指示を出す。これを受けてデータ通信手段1050は、画像、付随情報、携帯端末の識別コードをサーバ20に送る(S13)。通信経路としては例えばLANや公衆網などを用いる。
【0054】
サーバ20はデータ通信手段2010によってそれらを受信する(S14)。データ通信手段2010は、携帯端末の識別コードを利用者管理テーブル2040に送る(S15)。また、受信した画像と付随情報を物体抽出・部類識別手段2020に送る。そして、物体抽出・部類識別手段2020は受信した画像から物体を抽出し、画像と付随情報から該物体の部類を識別する(S16)。この識別結果の部類情報を情報提供手段2030に送る。このとき、該物体の部類候補を一つに絞るだけでなく、可能性の高い複数個の候補を挙げる方法もある。
【0055】
利用者管理テーブル2040は、既にデータ通信手段2010から受けとっている携帯端末の識別コードの記録欄にこの処理のデータ通信回数やデータ通信量などを記録する。従量制課金方法ではこの記録をもとに料金を計算する。また、データ通信手段2010は、データ保存装置30に検索結果データを送り、保存するように指示する(S17)。
【0056】
なお、料金算定方法としては、・各利用者のデータ通信回数やデータ通信量など、その利用状況に応じて課金する従量制課金方法、・一定の期間当たり一定の料金を課金する定額制課金方法、・従量制課金方法と定額性課金方法とを組み合わせた方法とすることができる。
【0057】
データ保存装置30は、データ通信手段3010で検索結果データを受信し(S18)、データ保存手段3020に記録する(S19)。このデータ保存手段3020はハードディスクや半導体メモリ等で構成できる。そして、データ通信手段3010はデータ保存手段3020に記録したアドレスを携帯端末10との間で送受信する(S20)。このアドレスの記述法としては、例えばデータ保存装置30がインターネットに接続され、携帯端末10からのアクセスがインターネット経由で行われる場合にはURLを用いることができる。サーバ20はこのアドレスを携帯端末10に送る。
【0058】
携帯端末10は、データ保存装置30とのデータ送受信でアドレス(この例ではURL)を受信し(S21)、このアドレスを用いて、データ保存装置30における該当データが保存されている個所に格納された検索結果データにアクセスし、これをダウンロードしてデータ表示手段1040で表示する(S22)。
【0059】
なお、本発明による画像認識方式は、コンピュータとプログラムによっても実現でき、該プログラムを記録媒体に記録することも、ネットワークを通して提供することも可能である。
【0060】
【発明の効果】
以上、詳細に説明したように、本発明によれば、携帯端末は画像を入力してサーバに送信する機能と、サーバから送られてきた検索結果の情報を表示する機能だけを持てばよく、計算量の大きい画像からの物体の抽出・認識は計算能力の高いサーバが実行するため、利用者は携帯端末のデジタルカメラにより物体を撮影してその物体に関する情報を即座に閲覧することが可能となるという顕著な効果を奏するものである。
【0061】
また、実施形態2に示したように、検索結果データを別のデータ保存装置に保停し、URLなど用いてアクセスする場合、不特定多数のユーザが検索結果データにアクセスすることが可能となる。
【図面の簡単な説明】
【図1】本発明の実施形態1を説明するブロック構成図。
【図2】本発明の実施形態1の処理フローチャート。
【図3】本発明の実施形態2を説明するブロック構成図。
【図4】本発明の実施形態2の処理フローチャート。
【符号の説明】
1…携帯端末装置
101…画像入力手段
102…操作手段
103…付随情報入力手段
104…検索結果データ表示手段・表示画面
105…データ通信手段
2…サーバ
201…データ通信手段
202…物体抽出・部類識別手段
203…処理実行手段
204…利用者管理テーブル
10…携帯端末装置
1010…画像入力手段
1020…操作手段
1030…付随情報入力手段
1040…検索結果データ表示手段・表示画面
1050…データ通信手段
20…サーバ
2010…データ通信手段
2020…物体抽出・部類識別手段
2030…処理実行手段
2040…利用者管理テーブル
30…データ保存装置
3010…データ通信手段
3020…データ保存手段
【発明の属する技術分野】
本発明は、物体に関する情報を取得するために、その物体の画像をデジタルカメラで取得し、該画像中に存在する物体を画像処理により抽出して識別し、その識別結果を用いてデータベースを検索する画像認識装置および方法に関するものである。対象とする物体は、部類が定義されているものであればどのようなものでもよく、例としては人間の顔、手、文字、機械部品、植物の葉や花、きのこ、魚、昆虫などの動植物がある。
【0002】
【従来の技術】
先行技術として魚の電子図鑑がある(例えば、非特許文献1を参照)。
【0003】
この電子図鑑は、図鑑としての閲覧機能のほか、魚の体形、色、模様、生息域などのキー情報を与えることにより魚の検索機能を持つ。
【0004】
【非特許文献1】
株式会社シンフォレスト発売、“おさかな図鑑 全六集”、[online]、株式会社シンフォレスト、[平成14年9月30日検索]、インターネット、<URL:http://www.synforest.co.jp/cdrom/sz−001/index.html>
【0005】
【発明が解決しようとする課題】
しかし、従来の検索方法では、検索しようとする物体のキー情報は人間が判断しなければならず、画像を入力して自動的に抽出することは不可能である。
【0006】
また、画像に含まれる物体を抽出し識別する処理は計算量が大きいが、携帯端末は計算能力が低いため、実用的な処理時間内に携帯端末で実行する技術は従来なかった。
【0007】
さらに、現在の携帯端末では十分なデータベース容量を持ことが困難であり、この点も従来の問題点であった。
【0008】
本発明の目的は、利用者が携帯端末のカメラで撮影した画像に含まれる物体を抽出し識別し、その物体に関する情報をデータベースから検索して携帯端末で閲覧することを可能とする画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、プログラムおよびこのプログラムを記録した記録媒体を提供することにある。
【0009】
【課題を解決するための手段】
近年、屋内外でデジタルカメラで撮影した画像をワイヤレスで送信する技術が一般に普及を始めており、デジタルカメラとデータ通信機能を内蔵した携帯電話はその代表例である。また「Blue Tooth」のような、携帯機器間で近距離の無線データ通信を行う技術も普及しつつあり、これに対応したデジタルカメラと携帯端末を組み合わせれば、デジタルカメラで撮影した画像を携帯端末を通じてワイヤレスで送信することが可能となる。
【0010】
そこで、本発明は、計算能力の高い計算機をサーバとして、それに画像に含まれる物体を抽出し識別する処理を行う機能と、識別結果を用いてデータベースを検索する機能と、携帯端末とデータ通信を行う機能を持たせることにより、このサーバと携帯端末を組み合わせ、計算量の大きい、画像に含まれる物体を抽出し識別する処理は計算能力の高いサーバ上で行い、携帯端末には負荷をかけないようにするもので、以下の画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、プログラムおよび記録媒体を特徴とする。
【0011】
(画像認識用サーバの発明)
(1)携帯端末装置から送信された画像を受信する画像受信手段と、該画像受信手段で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別手段と、該部類識別手段によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供手段と、該情報提供手段から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信手段とを有することを特徴とする画像認識用サーバ。
【0012】
(2)上記(1)において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得手段と、前記画像受信手段に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信手段を有し、前記部類識別手段では画像に加えて該付随情報も使用することを特徴とする画像認識用サーバ。
【0013】
(3)上記(1)または(2)において、
前記情報提供手段は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信手段によって携帯端末装置に提供することを特徴とする画像認識用サーバ。
【0014】
(4)上記(3)において、
前記部類識別手段は、複数の部類候補を挙げ、前記情報提供手段は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信手段によって携帯端末装置に送信処理することを特徴とする画像認識用サーバ。
【0015】
(5)上記(1)〜(4)のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存手段に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存手段のアドレスを送信することを特徴とする画像認識用サーバ。
【0016】
(6)上記(1)〜(5)のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識用サーバ。
【0017】
(画像認識用携帯端末装置の発明)
(7)画像を入力する画像入力手段と、該画像を画像認識用サーバに送信する画像送信手段と、画像認識用サーバの提供情報を受信するデータ受信手段と、受信した検索結果データの一部または全てを表示する検索結果データ表示手段と表示画面を有し、
検索結果データ表示手段の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識用携帯端末装置。
【0018】
(8)上記(7)において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示手段は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識用携帯端末装置。
【0019】
(画像認識方法の発明)
(9)携帯端末装置から送信された画像を受信する画像受信過程と、該画像受信過程で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別過程と、該部類識別過程によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供過程と、該情報提供過程から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信過程とを有することを特徴とする画像認識方法。
【0020】
(10)上記(9)において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得過程と、前記画像受信過程に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信過程を有し、前記部類識別過程では画像に加えて該付随情報も使用することを特徴とする画像認識方法。
【0021】
(11)上記(9)または(10)において、
前記情報提供過程は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信過程によって携帯端末装置に提供することを特徴とする画像認識方法。
【0022】
(12)上記(11)において、
前記部類識別過程は、複数の部類候補を挙げ、前記情報提供過程は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信過程によって携帯端末装置に送信処理することを特徴とする画像認識方法。
【0023】
(13)上記(9)〜(12)のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存過程に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存過程のアドレスを送信することを特徴とする画像認識方法。
【0024】
(14)上記(9)〜(13)のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識方法。
【0025】
(15)画像を入力する画像入力過程と、該画像を画像認識用サーバに送信する画像送信過程と、画像認識用サーバの提供情報を受信するデータ受信過程と、受信した検索結果データの一部または全てを表示する検索結果データ表示過程と表示画面を有し、
検索結果データ表示過程の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識方法。
【0026】
(16)上記(15)において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示過程は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識方法。
【0027】
(プログラムの発明)
上記の(9)〜(16)のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したことを特徴とする画像認識用プログラム。
【0028】
(記録媒体の発明)
(18)上記の(9)〜(16)のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したプログラムを記録したことを特徴とする記録媒体。
【0029】
【発明の実施の形態】
〔実施形態1〕
図1は、木発明の実施形態1を示すブロック図である。同図において、画像入力手段101は、本実施形態では携帯端末1に内蔵されたデジタルカメラとする。ここで携帯端末とは、携帯電話、PHS、PDA(携帯情報端末)、ノートパソコンを意味する。操作手段102は、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0030】
付属情報入力手段103は、GPS(グローバル・ポジショニング・システム)、高度計、水深計、方位磁針、温度計、湿度計、気圧計、風力計、風向計、時計、カレンダー、ジャイロなど、位置情報、気象情報、時間情報、姿勢情報などを計測する機器、またはこれらの情報を手入力するのに用いるキーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0031】
検索結果データ表示手段・表示画面104は、液晶ディスプレイのような小型の表示装置である。
【0032】
なお、携帯端末1は、複数存在し、各々の識別子とそれらの所有者の情報がサーバ2内に記録されているものとする。また、各携帯端末にはその携帯端末の識別コードが記録されているものとする。以下、図2に示す処理手順S1〜S9を参照して動作例を説明する。
【0033】
まず、利用者は携帯端末1に内蔵されるデジタルカメラ101で物体を撮影する(S1)。このとき、必要に応じて付随情報入力手段103により、緯度経度、高度、水深、方角などの位置情報や、天気、気温、湿度、気圧、風向、風速などの気象情報や、時刻、日時、季節などの時間情報や、撮影時の携帯端末の向き、姿勢などの姿勢情報などの付随情報も同時に取得される(S2)。携帯端末として携帯電話やPHSが用いられる場合、位置情報として該携帯端末が所属している基地局エリア情報も使用することができる。
【0034】
手入力によりこれら付随情報を取得する時には、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどが用いられる。手入力の際には、使用者の名前、住所、性別などの個人情報や、撮影場所、物体を取得した場所、物体の形、大きさ、色、模様など部類識別に役立つ情報も入力することができる。
【0035】
次に、操作手段102によって、画像および付随情報をサーバ2に送信するよう、データ通信手段105に指示を出す。これを受けてデータ通信手段105は画像、付随情報、携帯端末の識別コードをサーバ2に送る(S3)。通信経路としては例えばLANや公衆網などを用いることができる。
【0036】
サーバ2はデータ通信手段201によってそれらを受信する(S4)。データ通信手段201は、携帯端末の識別コードを利用者管理テーブル204に送る(S5)。また、受信した画像と付随情報を物体抽出・部類識別手段202に送る。そして、物体抽出・部類識別手段202は物体を抽出し、画像と付随情報から該物体の部類を識別する(S6)。この識別結果の部類情報を情報提供手段203に送る。このとき、該物体の部類候補を一つに絞るだけでなく、可能性の高い複数個の候補を挙げる方法もある。この場合、可能性の高さについては、例えば、識別処理時の評価値(マッチング度合いなど)を利用できる。
【0037】
なお、物体抽出・部類識別手段202の具体例として、以下の文献に示される方法がある。
【0038】
(a)人間の顔の識別
赤松ほか、「濃淡画像のマッチングによるロバストな正面顔の識別法、フーリエスペクトルのKL展開の応用」、電子情報通信学会論文誌、Vol.J76−D−11,No.7,pp.1363−1373(1993)
この文献では、濃淡画像のマッチングによる正面顔画像の識別に関して、顔の造作を基準点として切り出された照合パターンを識別に有効な低次元の特徴ベクトルとして表現する方法を提案しており、顔の姿勢や照明条件の変動に対して安定した識別能力を持つことができる。
【0039】
(b)機械部品の識別
斎藤文彦、「2次元ハフ空間を用いた六角ナット高速認識法」、画像電子学会誌、第24巻、第5号、pp.619−629(1995)
この文献では、Hough変換により位置、大きさ、傾きの異なる画像内の六角ナットを抽出する方法を提案しており、六角ナットの形状を利用することにより、Hough変換の際に必要となるメモリ空間を削減し、認識に要する処理時間を短縮することができる。
【0040】
(c)花、葉による植物の識別
齋藤剛史、「花と葉による野草の自動認識」、電子情報通信学会論文誌、Vol.J84−D−II,No.7,pp.1419−1429(2001)
この文献では、1つの野草について真上かそれに近い斜め上の角度から撮影した花画像と葉画像の2枚を1セツトとして用い、野草を自動認識する。クラスタリング法を用いて各画像から対象物(花、葉)を抽出し、花画像から10個、葉画像から11個の特徴量を求め、区分的線形識別関数により認識を行う。
【0041】
(d)魚の認識
平岡透ほか、「輪郭線及びテクスチャ情報に基づく画像認識法−魚画像認識への応用」、信学技報、PRMU96−148,pp.55−62(1997−01)
この文献では、輪郭線情報としてP型記述子のパワースペクトルを、テクスチャ情報としては濃度共起行列から作られる行列の要素を用い、これらを統合し、拡大・縮小、平行移動、ある角度の回転に関し不変な画像の識別法を提案している。特に、認識対象として点画像を取り上げている。
【0042】
次に、情報提供手段203では、識別された部類情報を用いてデータベースを検索し、識別部類の名称、特徴、絵、写真などの検索結果データを取得する。対象が動植物の場合には、検索結果データとして食用の可否、近似種、料理法、育成方法なども考えられる。
【0043】
この検索結果データはデータ通信手段201に送られる(S7)。また、処理が成功したことを利用者管理テーブル204に送る。それを受けて利用者管理テーブル204は既にデータ通信手段201から受け取っている携帯端末の識別コードの記録欄にこの処理のデータ通信回数やデータ通信量などを記録する。従量制課金方法ではこの記録をもとに料金を計算する。また、データ通信手段201は検索結果データを携帯端末1に送る。
【0044】
なお、料金算定方法としては、・各利用者のデータ通信回数やデータ通信量など、その利用状況に応じて課金する従量制課金方法、・一定の期間当たり一定の料金を課金する定額制課金方法、・従量制課金方法と定額性課金方法とを組み合わせた方法とすることができる。
【0045】
携帯端末1のデータ通信手段105は、サーバ2からの検索結果データを受信し(S8)、検索結果データ表示手段・表示画面104により表示する(S9)。検索結果データが複数個の部類候補にもとづく場合、表示画面に検索結果データのすべてが表示できないことが想定される。このとき、例えば各部類候補の名称や写真など、その一部のみを表示画面に一覧表示する方法が考えられる。
【0046】
このような方法で一覧表示された部類候補に対し、操作手段102により任意の部類を選択することで、選択した部類のより詳細な検索結果データが表示される。なお、端末装置における提供情報(検索結果データ)の表示方法としては、検索結果データが複数の部類候補に基づいて作成されている場合、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示する方法がある。この表示方法の場合、可能性の高さについては、例えば、識別処理時の評価値(マッチング度合いなど)を利用できる。
【0047】
〔実施形態2〕
図3は本発明の実施形態2を示すブロック図である。同図において、画像入力手段1010は、本実施形態では携帯端末10に内蔵されたデジタルカメラとする。ここで、携帯端末とは、携帯電話、PHS、PDA(携帯情報端末)、ノートパソコンを意味する。操作手段1020は、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0048】
付随情報入力手段1030は、GPS(グローバル・ポジショニング・システム)、高度計、水深計、方位磁針、温度計、湿度計、気圧計、風力計、風向計、時計、カレンダー、ジャイロなど、位置情報、気象情報、時間情報、姿勢情報などを計測する機器、またはこれらの情報を手入力するのに用いるキーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどである。
【0049】
検索結果データ表示手段・表示画面1040は、液晶ディスプレイのような小型の表示装置である。
【0050】
なお、携帯端末は複数存在し、各々の識別子とそれらの所有者の情報がサーバ20内に記録されているものとする。また、各携帯端末にはその携帯端末の識別コードが記録されているものとする。以下、図4に示す処理手順S11〜S22を参照して動作例を説明する。
【0051】
まず、利用者は携帯端末10に内蔵されるデジタルカメラ1010で物体を撮影する(S11)。このとき、必要に応じて付随情報入力手段1030により、緯度経度、高度、水深、方角などの位置情報や、天気、気温、湿度、気圧、風向、風速などの気象情報や、時刻、日時、季節などの時間情報や、撮影時の携帯端末の向き、姿勢などの姿勢情報などの付随情報も同時に取得される(S12)。
【0052】
手入力によりこれらの情報を取得する時には、キーボード、携帯電話の操作キーやプッシュボタン、電子ペンなどが用いられる。手入力の際には、使用者の名前、住所、性別などの個人情報や、撮影場所、物体を取得した場所、物体の形、大きさ、色、模様など部類識別に役立つ情報も入力することができる。
【0053】
次に、操作手段1020によって、データ通信手段1050にその画像データを送信するように指示を出す。これを受けてデータ通信手段1050は、画像、付随情報、携帯端末の識別コードをサーバ20に送る(S13)。通信経路としては例えばLANや公衆網などを用いる。
【0054】
サーバ20はデータ通信手段2010によってそれらを受信する(S14)。データ通信手段2010は、携帯端末の識別コードを利用者管理テーブル2040に送る(S15)。また、受信した画像と付随情報を物体抽出・部類識別手段2020に送る。そして、物体抽出・部類識別手段2020は受信した画像から物体を抽出し、画像と付随情報から該物体の部類を識別する(S16)。この識別結果の部類情報を情報提供手段2030に送る。このとき、該物体の部類候補を一つに絞るだけでなく、可能性の高い複数個の候補を挙げる方法もある。
【0055】
利用者管理テーブル2040は、既にデータ通信手段2010から受けとっている携帯端末の識別コードの記録欄にこの処理のデータ通信回数やデータ通信量などを記録する。従量制課金方法ではこの記録をもとに料金を計算する。また、データ通信手段2010は、データ保存装置30に検索結果データを送り、保存するように指示する(S17)。
【0056】
なお、料金算定方法としては、・各利用者のデータ通信回数やデータ通信量など、その利用状況に応じて課金する従量制課金方法、・一定の期間当たり一定の料金を課金する定額制課金方法、・従量制課金方法と定額性課金方法とを組み合わせた方法とすることができる。
【0057】
データ保存装置30は、データ通信手段3010で検索結果データを受信し(S18)、データ保存手段3020に記録する(S19)。このデータ保存手段3020はハードディスクや半導体メモリ等で構成できる。そして、データ通信手段3010はデータ保存手段3020に記録したアドレスを携帯端末10との間で送受信する(S20)。このアドレスの記述法としては、例えばデータ保存装置30がインターネットに接続され、携帯端末10からのアクセスがインターネット経由で行われる場合にはURLを用いることができる。サーバ20はこのアドレスを携帯端末10に送る。
【0058】
携帯端末10は、データ保存装置30とのデータ送受信でアドレス(この例ではURL)を受信し(S21)、このアドレスを用いて、データ保存装置30における該当データが保存されている個所に格納された検索結果データにアクセスし、これをダウンロードしてデータ表示手段1040で表示する(S22)。
【0059】
なお、本発明による画像認識方式は、コンピュータとプログラムによっても実現でき、該プログラムを記録媒体に記録することも、ネットワークを通して提供することも可能である。
【0060】
【発明の効果】
以上、詳細に説明したように、本発明によれば、携帯端末は画像を入力してサーバに送信する機能と、サーバから送られてきた検索結果の情報を表示する機能だけを持てばよく、計算量の大きい画像からの物体の抽出・認識は計算能力の高いサーバが実行するため、利用者は携帯端末のデジタルカメラにより物体を撮影してその物体に関する情報を即座に閲覧することが可能となるという顕著な効果を奏するものである。
【0061】
また、実施形態2に示したように、検索結果データを別のデータ保存装置に保停し、URLなど用いてアクセスする場合、不特定多数のユーザが検索結果データにアクセスすることが可能となる。
【図面の簡単な説明】
【図1】本発明の実施形態1を説明するブロック構成図。
【図2】本発明の実施形態1の処理フローチャート。
【図3】本発明の実施形態2を説明するブロック構成図。
【図4】本発明の実施形態2の処理フローチャート。
【符号の説明】
1…携帯端末装置
101…画像入力手段
102…操作手段
103…付随情報入力手段
104…検索結果データ表示手段・表示画面
105…データ通信手段
2…サーバ
201…データ通信手段
202…物体抽出・部類識別手段
203…処理実行手段
204…利用者管理テーブル
10…携帯端末装置
1010…画像入力手段
1020…操作手段
1030…付随情報入力手段
1040…検索結果データ表示手段・表示画面
1050…データ通信手段
20…サーバ
2010…データ通信手段
2020…物体抽出・部類識別手段
2030…処理実行手段
2040…利用者管理テーブル
30…データ保存装置
3010…データ通信手段
3020…データ保存手段
Claims (18)
- 携帯端末装置から送信された画像を受信する画像受信手段と、該画像受信手段で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別手段と、該部類識別手段によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供手段と、該情報提供手段から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信手段とを有することを特徴とする画像認識用サーバ。
- 請求項1において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得手段と、前記画像受信手段に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信手段を有し、前記部類識別手段では画像に加えて該付随情報も使用することを特徴とする画像認識用サーバ。 - 請求項1または2において、
前記情報提供手段は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信手段によって携帯端末装置に提供することを特徴とする画像認識用サーバ。 - 請求項3において、
前記部類識別手段は、複数の部類候補を挙げ、前記情報提供手段は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信手段によって携帯端末装置に送信処理することを特徴とする画像認識用サーバ。 - 請求項1〜4のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存手段に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存手段のアドレスを送信することを特徴とする画像認識用サーバ。 - 請求項1〜5のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識用サーバ。 - 画像を入力する画像入力手段と、該画像を画像認識用サーバに送信する画像送信手段と、画像認識用サーバの提供情報を受信するデータ受信手段と、受信した検索結果データの一部または全てを表示する検索結果データ表示手段と表示画面を有し、
検索結果データ表示手段の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識用携帯端末装置。 - 請求項7において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示手段は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識用携帯端末装置。 - 携帯端末装置から送信された画像を受信する画像受信過程と、該画像受信過程で受信した画像中に存在する単数もしくは複数の物体の部類を識別する部類識別過程と、該部類識別過程によって識別された単数もしくは複数の物体の部類に基づき情報提供を行う情報提供過程と、該情報提供過程から提供された情報を前記携帯端末装置に送信する対携帯端末装置データ送信過程とを有することを特徴とする画像認識方法。
- 請求項9において、
前記携帯端末装置は、前記画像に加えて付随情報を自動または手入力により取得する付随情報取得過程と、前記画像受信過程に加えて前記携帯端末装置から送信された付随情報を受信する付随情報受信過程を有し、前記部類識別過程では画像に加えて該付随情報も使用することを特徴とする画像認識方法。 - 請求項9または10において、
前記情報提供過程は、識別された部類に関する名称や特徴や写真や該部類に関する情報をデータベースで検索し、該検索結果と識別された部類に基づいて作成した検索結果データを前記対携帯端末装置データ送信過程によって携帯端末装置に提供することを特徴とする画像認識方法。 - 請求項11において、
前記部類識別過程は、複数の部類候補を挙げ、前記情報提供過程は前記各部類候補に関する名称や特徴や写真や各部類に関する情報をデータベースで検索し、該検索結果と各部類候補に基づいて作成した検索結果データを前記携帯端末装置データ送信過程によって携帯端末装置に送信処理することを特徴とする画像認識方法。 - 請求項9〜12のいずれか1項において、
画像認識サーバおよび携帯端末装置がアクセス可能なネットワーク内の他の装置のデータ保存過程に前記検索結果データを格納し、
携帯端末装置に対しては該検索結果データを送信するのではなく、該検索結果データを格納した前記データ保存過程のアドレスを送信することを特徴とする画像認識方法。 - 請求項9〜13のいずれか1項において、
携帯端末装置からその識別コードもしくは利用者の識別コードを受信し、該識別コードを用いて利用者の料金算定を行うことを特徴とする画像認識方法。 - 画像を入力する画像入力過程と、該画像を画像認識用サーバに送信する画像送信過程と、画像認識用サーバの提供情報を受信するデータ受信過程と、受信した検索結果データの一部または全てを表示する検索結果データ表示過程と表示画面を有し、
検索結果データ表示過程の行う処理として、検索結果データの全てを表示画面に表示しきれない場合には、携帯端末装置を操作して検索結果データのうちの表示させたい部分を選択することにより、選択された部分を切り替えて表示画面に表示することを特徴とする画像認識方法。 - 請求項15において、
検索結果データが複数の部類候補に基づいて作成されている場合、検索結果データ表示過程は、可能性の高い部類候補順に、複数の部類候補に関する検索結果データの一部または全てを表示画面に一覧表示することを特徴とする画像認識方法。 - 請求項9〜16のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したことを特徴とする画像認識用プログラム。
- 請求項9〜16のいずれか1つの画像認識方法を、コンピュータで実行可能に構成したプログラムを記録したことを特徴とする記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002306578A JP2004145416A (ja) | 2002-10-22 | 2002-10-22 | 画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002306578A JP2004145416A (ja) | 2002-10-22 | 2002-10-22 | 画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004145416A true JP2004145416A (ja) | 2004-05-20 |
Family
ID=32453287
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002306578A Pending JP2004145416A (ja) | 2002-10-22 | 2002-10-22 | 画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004145416A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1798666A1 (en) | 2005-12-15 | 2007-06-20 | Sony Corporation | image processing apparatus, method and programproduct |
JP5200015B2 (ja) * | 2007-06-14 | 2013-05-15 | パナソニック株式会社 | 画像認識装置及び画像認識方法 |
CN105203456A (zh) * | 2015-10-28 | 2015-12-30 | 小米科技有限责任公司 | 植物品种识别方法及装置 |
JP2020102047A (ja) * | 2018-12-21 | 2020-07-02 | セイコーエプソン株式会社 | 情報システムおよび特定方法 |
-
2002
- 2002-10-22 JP JP2002306578A patent/JP2004145416A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1798666A1 (en) | 2005-12-15 | 2007-06-20 | Sony Corporation | image processing apparatus, method and programproduct |
US7907751B2 (en) | 2005-12-15 | 2011-03-15 | Sony Corporation | Image processing apparatus, method, and program |
JP5200015B2 (ja) * | 2007-06-14 | 2013-05-15 | パナソニック株式会社 | 画像認識装置及び画像認識方法 |
CN105203456A (zh) * | 2015-10-28 | 2015-12-30 | 小米科技有限责任公司 | 植物品种识别方法及装置 |
JP2020102047A (ja) * | 2018-12-21 | 2020-07-02 | セイコーエプソン株式会社 | 情報システムおよび特定方法 |
JP7238390B2 (ja) | 2018-12-21 | 2023-03-14 | セイコーエプソン株式会社 | 情報システムおよび特定方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6958673B2 (ja) | 携帯情報機器、情報取得システム、及びプログラム | |
US20210192247A1 (en) | Systems and methods for electronically identifying plant species | |
US11335087B2 (en) | Method and system for object identification | |
US8571259B2 (en) | System and method for automatic identification of wildlife | |
CN108024505A (zh) | 图像判定方法 | |
US8725399B2 (en) | Map display system and map display method | |
WO2016199662A1 (ja) | 画像情報処理システム | |
JPH1091634A (ja) | 写真画像検索システム | |
JP5223034B2 (ja) | 情報提供装置、情報提供方法、情報提供処理プログラム、及び情報提供処理プログラムを記録した記録媒体 | |
US20050076004A1 (en) | Computer, database generating method for electronic picture book service, photographed subject information providing method, recording medium, and computer data signal | |
CN104520848A (zh) | 按照出席者搜索事件 | |
KR101481323B1 (ko) | 이동 단말로부터 전달되는 식물 영상을 이용한 식물 정보 제공 시스템 | |
Kim et al. | m CLOVER: mobile content-based leaf image retrieval system | |
JP2004145416A (ja) | 画像認識用サーバ、画像認識用携帯端末装置、画像認識方法、画像認識用プログラム、画像認識用プログラムを記録した記録媒体 | |
JP2005108027A (ja) | 被写体情報提供方法及び被写体情報提供プログラム | |
CN107343142A (zh) | 一种照片的拍摄方法及拍摄装置 | |
US9064020B2 (en) | Information providing device, information providing processing program, recording medium having information providing processing program recorded thereon, and information providing method | |
JP3984155B2 (ja) | 被写体推定方法および装置並びにプログラム | |
CN110134815A (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
US20180196811A1 (en) | Systems and apparatuses for searching for property listing information based on images | |
JPWO2016125307A1 (ja) | 情報配信装置及び情報配信プログラム | |
JP5687995B2 (ja) | 被写体検索装置、被写体検索方法、被写体検索情報提供プログラム及び被写体検索プログラム | |
JP5708868B1 (ja) | プログラム、情報処理装置及び方法 | |
JP6063697B2 (ja) | 画像表示のための装置、方法及びプログラム | |
JP2010224745A (ja) | コンテンツ検索システムおよびコンテンツ検索プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071011 |
|
A131 | Notification of reasons for refusal |
Effective date: 20071023 Free format text: JAPANESE INTERMEDIATE CODE: A131 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080304 |