JP2023043986A - 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム - Google Patents

名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム Download PDF

Info

Publication number
JP2023043986A
JP2023043986A JP2021151775A JP2021151775A JP2023043986A JP 2023043986 A JP2023043986 A JP 2023043986A JP 2021151775 A JP2021151775 A JP 2021151775A JP 2021151775 A JP2021151775 A JP 2021151775A JP 2023043986 A JP2023043986 A JP 2023043986A
Authority
JP
Japan
Prior art keywords
business card
information
unit
item
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021151775A
Other languages
English (en)
Inventor
勇児 糟谷
Yuji Kasuya
貴恵 池端
Kie Ikehata
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sansan Inc
Original Assignee
Sansan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sansan Inc filed Critical Sansan Inc
Priority to JP2021151775A priority Critical patent/JP2023043986A/ja
Publication of JP2023043986A publication Critical patent/JP2023043986A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

【課題】従来、名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができなかった。【解決手段】2以上の各名刺を、順次、撮影した動画を受け付ける動画受付部221と、動画から2以上の静止画を、順次、取得する静止画取得部231と、静止画取得部231が取得した2以上の各静止画から名刺領域を検出する領域検出部233と、領域検出部233が検出した2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得部234と、項目取得部234が取得した1以上の項目情報を有する2以上の名刺情報を用いた処理である名刺処理を行う名刺処理部236とを具備する名刺処理装置2により、名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができる。【選択図】図3

Description

特許法第30条第2項適用申請有り 令和3年5月25日、令和3年5月26日個別営業を通じて発表、令和3年6月22日 https://jp.corp-sansan.com/news/2021/0622.html https://prtimes.jp/main/html/rd/p/000000181.000049627.html https://apps.apple.com/jp/app/sansan-seminar-manager/id1560965001 https://cloud.watch.impress.co.jp/docs/news/1333140.html https://markezine.jp/article/detail/36632 https://bizzine.jp/article/detail/6244 を通じて発表、令和3年6月23日 https://jp.techcrunch.com/2021/06/23/sansan-4/?3 https://www.watch.impress.co.jp/docs/news/1333392.html https://www.itmedia.co.jp/business/articles/2106/23/news133.html https://ascii.jp/elem/000/004/059/4059984/ を通じて発表、令和3年6月24日 https://sogyotecho.jp/news/20210624sansan/ を通じて発表、令和3年6月29日 https://www.kentsu.co.jp/webnews/html_top/210623590017.html を通じて発表、令和3年7月2日 https://www.nikkei.com/article/DGKKZO73455470R00C21A7H53A00/ を通じて発表、株式会社日本経済新聞社発行の「日経MJ 2021年7月2日号朝刊第7面」に発表、令和3年7月27日 株式会社住宅新報発行の「住宅新報 2021年7月27日付朝刊第8面」に発表、令和3年7月28日 株式会社日刊建設通信新聞社発行の「建通新聞 2021年7月28日付朝刊第3面」に発表。
本発明は、名刺を撮影した動画を受け付け、当該動画から名刺を構成する情報を取得し、処理する名刺処理装置等に関するものである。
従来、名刺を撮影した1つの静止画を文字認識し、名刺を構成する情報を取得し、利用する技術があった(例えば、特許文献1参照)。
特許第5702478号公報
しかしながら、従来技術においては、1または2以上の名刺が、順次、撮影された動画から取得した情報に基づいて取得された1または2以上の各名刺情報を用いた処理ができなかった。
また、名刺を読み取った後に何らかの処理をするようなシステムにおいて、人間のシャッター操作や人間の判断が必要になったり、人間の操作のミスによる手戻りが発生したりすること等が原因で、高速に予定している処理を行うことができない、という課題もあった。
本第一の発明の名刺処理装置は、1または2以上の各名刺を、順次、撮影した動画を受け付ける動画受付部と、動画から1または2以上の静止画を、順次、取得する静止画取得部と、静止画取得部が取得した1または2以上の各静止画から名刺領域を検出する領域検出部と、領域検出部が検出した1または2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得部と、項目取得部が取得した1以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う名刺処理部とを具備する名刺処理装置である。
かかる構成により、1または2以上の名刺が撮影された動画から取得した情報に基づいて取得した1以上の各名刺情報を用いた処理ができる。
また、本第二の発明の名刺処理装置は、第一の発明に対して、ユーザごとの1以上の項目情報を有する1以上の突合情報が格納されている突合情報格納部を参照し、項目取得部が取得した1以上の項目情報に対応する突合情報が存在するか否かを判断する突合部をさらに具備し、名刺処理部は、突合部が存在すると判断した場合のみ、名刺情報を用いた名刺処理を行う、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報を用いて、突合情報と突合し、突合結果を用いた処理ができる。
また、本第三の発明の名刺処理装置は、第一または第二の発明に対して、動画を構成する静止画が名刺検出条件を満たすか否かを判断する判断部をさらに具備し、領域検出部は、判断部が名刺検出条件を満たすと判断した場合に、名刺検出条件を満たす静止画から名刺領域を検出する、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報に基づいて、高速に名刺情報を取得できる。
また、本第四の発明の名刺処理装置は、第三の発明に対して、名刺検出条件は、静止画の中に特定の図柄や特定の色を有さないことを含む、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報に基づいて、高速かつ適切に名刺情報を取得できる。
また、本第五の発明の名刺処理装置は、第一から第四いずれか1つの発明に対して、静止画取得部と、領域検出部と、項目取得部の各々が行う処理のうち、2以上の処理を並列に行う、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報に基づいて、高速に名刺情報を取得できる。
また、本第六の発明の名刺処理装置は、第一から第五いずれか1つの発明に対して、項目取得部は、領域検出部が検出した一の名刺領域から2以上の各項目情報を取得する処理を並行して行う、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報に基づいて、高速に名刺情報を取得できる。
また、本第七の発明の名刺処理装置は、第一から第六いずれか1つの発明に対して、静止画取得部は、動画が有するN(Nは2以上の自然数)の静止画からNより少ない静止画を取得する、名刺処理装置である。
かかる構成により、名刺が撮影された動画から取得した情報に基づいて、高速に名刺情報を取得できる。
また、本第八の発明の名刺処理装置は、第一から第七いずれか1つの発明に対して、項目取得部は、領域検出部が検出した名刺領域からコードを検知するコード検知手段と、コードに対応する名刺情報に含まれる1以上の項目情報を、1以上の名刺情報が格納されている第一名刺格納部から取得する項目取得手段とを具備し、名刺処理部は、項目取得部が取得した1以上の項目情報を有する名刺情報を用いた名刺処理を行う、名刺処理装置である。
かかる構成により、名刺に印刷されたコードを用いて、当該名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができる。
また、本第九の発明の名刺処理装置は、第八の発明に対して、1以上の名刺情報が格納されている第一名刺格納部と、1以上の名刺情報が格納されている第二名刺格納部を含む2以上の名刺データベースにアクセス可能であり、項目取得手段は、コードを用いて第一名刺格納部を検索し、コードに対応する名刺情報に含まれる1以上の項目情報を取得する、またはコードを用いて第二名刺格納部を検索し、コードに対応する名刺情報に含まれる1以上の項目情報を取得する、名刺処理装置である。
かかる構成により、名刺に印刷されたコードを用いて、当該名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができる。
また、本第十の発明の名刺撮影装置は、第一の発明に対して、ユーザごとの1以上の項目情報を有する1以上の突合情報が格納されている突合情報格納部を参照し、項目取得部が取得した1以上の項目情報に対応する突合情報が存在するか否かを判断する突合処理を行う突合部をさらに具備し、項目取得部は、領域検出部が検出した前記名刺領域からコードを検知するコード検知手段と、コードに対応する名刺情報に含まれる1以上の項目情報を、1以上の名刺情報が格納されている第一名刺格納部から取得する項目取得手段とを具備し、項目取得部は、領域検出部が検出した名刺領域に表出している1以上の項目情報を取得する処理を行い、突合部は、コードに基づいて取得された1以上の項目情報を用いて突合処理を行い、かつ名刺領域に表出している前記1以上の項目情報を用いて突合処理を行い、かつコードに基づいて前記1以上の項目情報を取得し、当該1以上の項目情報を用いて突合処理を行うこと、および名刺領域に表出している1以上の項目情報を取得し、当該1以上の項目情報を用いて突合処理を行うことを、並列して行い、名刺処理部は、突合部が、最初に、存在すると判断した場合に、名刺情報を用いた名刺処理を行う、名刺撮影装置である。
かかる構成により、高速かつ精度高く名刺処理ができる。
また、本第十一の発明の名刺処理装置は、第一から第十いずれか1つの発明に対して、項目取得部は、名刺画像と名刺画像に含まれる項目情報の領域を特定する領域情報とを有する2以上の教師データを用いて、機械学習の学習処理により構成された学習器と、領域検出部が検出した名刺領域の画像情報とを用いて、機械学習の予測処理により、項目情報の領域情報を取得する予測手段と、予測手段が取得した領域情報が特定する領域から、項目情報を取得する項目取得手段とを具備する、名刺処理装置である。
かかる構成により、名刺が撮影された動画から、精度高く名刺情報を取得できる。
また、本第十二の発明の名刺処理装置は、第一から第十一いずれか1つの発明に対して、名刺処理部は、受け付けを完了する処理を行う、名刺処理装置である。
かかる構成により、名刺を用いて、受け付けを完了する処理が行える。
また、本第十三の発明の名刺撮影装置は、2以上の各名刺を、順次、撮影し、動画を取得するカメラと、カメラが取得した動画を、第一から第十二いずれか1つの発明の名刺処理装置に渡す画像送付部とを具備する名刺撮影装置である。
かかる構成により、名刺を撮影し、当該撮影して得た動画を名刺処理装置に渡すことができる。
また、本第十四の発明の名刺撮影装置は、第十三の発明に対して、カメラに正体する位置に設置された台座であり、予め決められた図柄または文字または色が表出した台座をさらに具備する名刺撮影装置である。
かかる構成により、名刺を撮影し、当該撮影して得た動画を名刺処理装置に渡すことができる。
本発明による名刺処理装置によれば、名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができる。
実施の形態1における名刺処理システムAの概念図 同名刺処理システムAのブロック図 同名刺処理装置2のブロック図 同名刺処理装置2の学習処理の例について説明するフローチャート 同名刺処理装置2が行う名刺処理の動作例について説明するフローチャート 同判断処理の例について説明するフローチャート 同コード処理の例について説明するフローチャート 同認識処理の例について説明するフローチャート 同突合処理の例について説明するフローチャート 同名刺処理の例について説明するフローチャート 同名刺撮影装置1の外観の例を示す図 同突合情報管理表を示す図 同第一名刺情報管理表を示す図 同学習器管理表を示す図 同名刺等の例を示す図 同コンピュータシステムの概観図 同コンピュータシステムのブロック図
以下、名刺処理装置等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
(実施の形態1)
本実施の形態において、1または2以上の各名刺を、順次、撮影した動画を受け付け、当該動画を構成する1以上の各静止画から名刺領域を検出し、1以上の各名刺ごとに、名刺領域から名刺情報を構成する1以上の項目情報を取得し、当該1以上の項目情報を有する1以上の名刺情報を用いた名刺処理を行う名刺処理装置を具備する名刺処理システムについて説明する。
また、本実施の形態において、管理されている突合情報の集合に対して、取得した1以上の項目情報を有する名刺情報を突合し、突合結果に応じた処理(例えば、受付完了の処理)を行う名刺処理装置を具備する名刺処理システムについて説明する。
また、本実施の形態において、動画から1以上の項目情報を有する1以上の名刺情報を取得する際の種々の高速化のための処理について説明する。
また、本実施の形態において、名刺領域からコード(例えば、QRコード(登録商標))を検知した場合に、当該コードを用いて、名刺データベースを検索し、当該名刺データベースから1以上の項目情報を取得する処理について説明する。
また、本実施の形態において、2以上の名刺データベースが存在する状況において、名刺領域からコードを検知した場合に、2以上の名刺データベースを用いて、1以上の項目情報を取得する処理について説明する。
また、本実施の形態において、機械学習のアルゴリズムを用いて、名刺領域の画像の中の項目情報が存在する領域を決定する項目領域検出処理について説明する。
さらに、本実施の形態において、1または2以上の各名刺を、順次、撮影し、動画を取得するカメラ付きの名刺撮影装置について説明する。
図1は、本実施の形態における名刺処理システムAの概念図である。名刺処理システムAは、名刺撮影装置1、名刺処理装置2、ユーザ管理サーバ3、第一サーバ4、および第二サーバ5を備える。
名刺撮影装置1は、1または2以上の各名刺を、順次、撮影し、動画を取得する装置である。
名刺処理装置2は、名刺撮影装置1が取得した動画から1または2以上の名刺情報を取得し、当該名刺情報を用いた名刺処理を行う装置である。なお、名刺撮影装置1と名刺処理装置2とは、一体の装置でも良いし、分離された装置で良い。
ユーザ管理サーバ3は、名刺処理装置2が取得した名刺情報を突合する対象である突合情報を管理するサーバである。なお、名刺処理装置2は、突合情報格納部を有しても良い。かかる場合、ユーザ管理サーバ3は不要である。
第一サーバ4は、名刺処理装置2が名刺情報を取得する際に使用するサーバであり、1以上の名刺情報が格納されている第一名刺格納部を具備するサーバである。
第二サーバ5は、名刺処理装置2が名刺情報を取得する際に使用するサーバであり、1以上の名刺情報が格納されている第二名刺格納部を具備するサーバである。
なお、名刺処理システムAにおいて、第一サーバ4および第二サーバ5は、存在しなくても良い。また、名刺処理システムAにおいて、ユーザ管理サーバ3は、存在することは好適であるが、必須ではない。
名刺処理装置2は、例えば、ユーザ管理サーバ3、第一サーバ4、および第二サーバ5と、インターネット、イントラネット等の通信回線により、通信可能であることは好適である。
名刺処理装置2は、例えば、名刺撮影装置1と、インターネット、イントラネット等の通信回線により、通信可能であっても良い。
図2は、本実施の形態における名刺処理システムAのブロック図である。図3は、名刺処理装置2のブロック図である。
名刺撮影装置1は、カメラ11、固定部12、台座13、および画像送付部14を備える。
名刺処理装置2は、格納部21、受付部22、および処理部23を備える。格納部21は、学習器格納部211を備える。受付部22は、動画受付部221を備える。処理部23は、静止画取得部231、判断部232、領域検出部233、項目取得部234、突合部235、および名刺処理部236を備える。項目取得部234は、学習手段2341、予測手段2342、コード検知手段2343、および項目取得手段2344を備える。
ユーザ管理サーバ3は、突合情報格納部31を備える。第一サーバ4は、第一名刺格納部41を備える。第二サーバ5は、第二名刺格納部51を備える。
名刺撮影装置1を構成するカメラ11は、動画を撮影する。カメラ11は、2以上の各名刺を、順次、撮影し、動画を取得する。動画は、2以上の静止画を有する。静止画は、フレーム、またはフィールド等と言っても良い。カメラ11は動画が撮影できれば良く、その種類は問わない。
カメラ11は、2以上のユーザの名刺を、順次、撮影していくことは好適である。ただし、カメラ11は、一つの名刺のみを撮影しても良い。かかる場合でも、カメラ11は、撮影の指示を受け付けないことは好適である。また、カメラ11は、2以上の名刺を一度に撮影しても良いが、1枚ずつ撮影することは好適である。つまり、カメラ11により名刺が撮影できる位置まで、2以上のユーザが、順次、移動し、カメラ11が、当該2以上の各ユーザの名刺を、順次、撮影することは好適である。その間、何らの指示を受け付けずに、カメラ11は撮影を続けていることは好適である。
固定部12は、カメラ11を固定する部材である。固定部12は、カメラ11と台座13とを固定する部材であることは好適であるが、カメラ11のみを固定する部材でも良い。固定部12の形状、材質等は問わない。
台座13は、カメラ11に正体する位置に設置された台である。台座13は、予め決められた図柄または文字または色が表出した台であることは好適である。予め決められた図柄または色は、カメラ11により名刺が撮影されている際には、少なくともカメラ11の撮影対象とならないことは好適である。少なくともカメラ11の撮影対象とならないことは、少なくとも一部が静止画に含まれないことである。つまり、特定の図柄または特定の色は、名刺が静止画に映っているか否かを判断するために使用されるものである。また、図柄は、例えば、図形、絵、イラスト等であるが、1以上文字を含む文字列でも良い。
画像送付部14は、カメラ11が取得した動画を名刺処理装置2に渡す。画像送付部14が名刺処理装置2に、一度に渡すフレームの数は問わない。画像送付部14は、1つずつ、フレームを名刺処理装置2に渡しても良いし、一度に、2以上のフレームを名刺処理装置2に渡しても良い。画像送付部14は、無線通信手段により、動画を名刺処理装置2に送信することは好適である。ただし、名刺撮影装置1と名刺処理装置2とは一体化して構成されていても良い。
名刺処理装置2を構成する格納部21には、各種の情報が格納される。各種の情報は、例えば、後述する学習器、2以上の教師データ、後述する名刺検出条件である。
教師データは、名刺画像と1以上の各項目情報の領域情報とのセットである。教師データは、項目ごとに有することは好適である。つまり、教師データは、例えば、名刺画像と氏名の領域を特定する領域情報とのセットである。教師データは、例えば、名刺画像と組織識別子の領域を特定する領域情報とのセットである。教師データは、例えば、名刺画像と住所の領域を特定する領域情報とのセットである。教師データは、例えば、名刺画像と電話番号の領域を特定する領域情報とのセットである。教師データは、例えば、名刺画像とメールアドレスの領域を特定する領域情報とのセットである。教師データは、例えば、名刺画像とURLの領域を特定する領域情報とのセットである。ただし、教師データは、名刺画像と2以上の各項目情報の領域情報とのセットでも良い。教師データは、例えば、名刺画像と氏名の領域を特定する領域情報と組織識別子の領域を特定する領域情報とメールアドレスの領域を特定する領域情報のセットである。教師データは、例えば、名刺画像と氏名の領域を特定する領域情報と組織識別子の領域を特定する領域情報と電話番号の領域を特定する領域情報とメールアドレスの領域を特定する領域情報のセットである。
学習器格納部211は、1または2以上の学習器が格納される。ここでの学習器は、名刺画像を受け付け、領域情報を予測するための学習器である。学習器は、学習モデル、予測器、予測モデル等と言っても良い。
領域情報は、1以上の各項目情報が表記されている領域を特定する情報である。領域情報は、例えば、矩形を特定する座標の集合であり、例えば、左上座標と右下座標である。領域情報は、例えば、名刺の画像の中の相対的な座標の集合である。ただし、領域情報は、領域を特定する情報であれば良く、情報の構造は問わない。また、領域の形状は、矩形であることは好適であるが、楕円形等の矩形でない形状でも良い。
項目情報は、名刺を構成する項目の情報である。項目は、例えば、氏名、所属する組織の組織識別子(例えば、会社名、団体名)、住所、電話番号、FAX番号、メールアドレス、URL等である。
受付部22は、各種の指示や情報を受け付ける。各種の指示や情報は、例えば、動画、起動指示である。受付部22は、名刺撮影装置1が撮影した動画を受け付ける。
動画受付部221は、2以上の各名刺を、順次、撮影した動画を受け付ける。かかる動画は、名刺撮影装置1が撮影した動画である。ここでの名刺は、紙の名刺でも良いし、ユーザ端末(図示しない)の画面に表示された名刺画像でも良い。また、名刺は、名刺を識別するID、名刺を識別するコードでも良い。
処理部23は、各種の処理を行う。各種の処理は、例えば、静止画取得部231、判断部232、領域検出部233、項目取得部234、突合部235、名刺処理部236が行う処理である。
静止画取得部231は、受付部22が受け付けた動画から2以上の静止画を、順次、取得する。静止画取得部231は、受付部22が受け付けた動画を構成するすべての静止画を取得しても良いし、一部の静止画のみ取得しても良い。
静止画取得部231は、動画が有するN(Nは2以上の自然数)の静止画からNより少ない静止画を取得することは好適である。Nより少ない静止画を取得することは、例えば、動画から、一部の静止画を間引いて取得することである。静止画取得部231は、例えば、一定期間(例えば、1秒、2秒、5秒等)ごとに一の静止画を取得する。静止画取得部231は、例えば、X枚(Xは2以上の自然数)の連続する静止画のうち、一の静止画を取得する。連続する静止画とは、時間的に連続する静止画である。例えば、1秒間に60のフィールドが存在する動画の場合、静止画取得部231は、例えば、30枚に1枚のフィールドを取得する。
判断部232は、動画を構成する静止画が名刺検出条件を満たすか否かを判断する。判断部232は、静止画取得部231が取得した静止画が名刺検出条件を満たすか否かを判断する。
ここで、名刺検出条件は、静止画の中に名刺が存在すると判断できるための条件である。名刺検出条件は、例えば、静止画の中に特定の図柄や特定の色を有さないことである。例えば、特定の図柄や特定の文字や特定の色は、名刺が撮影されていない静止画の背景の中に含まれるが、名刺が撮影されている静止画の中には、当該特定の図柄や特定の文字や特定の色は、名刺により隠される環境で、名刺が撮影される。
また、名刺検出条件は、例えば、名刺であることを特定できるサイズの矩形が静止画中に存在することである。なお、サイズは、例えば、「55mm×91mm」である。
静止画の中に特定の図柄や特定の文字や特定の色を有するか否かを判断する処理、静止画の中に特定のサイズの矩形が存在するか否かを判断する処理は、公知の画像認識技術により可能であるので、詳細な説明は省略する。
領域検出部233は、静止画取得部231が取得した2以上の各静止画から名刺領域を検出する。
領域検出部233は、判断部232が名刺検出条件を満たすと判断した場合に、名刺検出条件を満たす静止画から名刺領域を検出することは好適である。
なお、名刺領域の検出は、静止画から名刺領域を切り出す処理でも良いし、名刺領域を特定する座標情報を取得する処理でも良い。領域検出部233は、例えば、静止画から矩形の名刺領域を検出する。
また、領域検出部233は、検出した名刺領域に対して補正処理を行うことは好適である。補正処理は、形状補正、角度補正、サイズ補正のうちの1以上の補正である。以下、3つの各々の補正処理について説明する。
(1)形状補正
領域検出部233は、検出した名刺領域を長方形にする形状補正を行うことは好適である。なお、形状補正は、台形補正でも良い。また、矩形の画像を長方形にする画像の補正処理は公知技術であるので、ここでの詳細な説明は省略する。
(2)角度補正
領域検出部233は、検出した名刺領域または補正した長方形の領域に対して、後述する項目取得部234が項目情報を取得し易くするために、領域を回転する角度補正を行うことは好適である。なお、文字列が表出した画像の向きを読み易くする角度に回転する補正処理は公知技術であるので、ここでの詳細な説明は省略する。
(3)サイズ補正
領域検出部233は、検出した名刺領域のサイズを、通常の名刺サイズ(例えば、「55mm×91mm」)に補正するように、拡大または縮小する。なお、カメラ11と名刺との距離が一定に撮影される環境においては、例えば、かかるサイズ補正は不要である。なお、かかる環境は、例えば、名刺撮影装置1の台座13に名刺が置かれた状態で名刺が撮影される環境である。
項目取得部234は、領域検出部233が検出した1または2以上の各名刺領域の情報から1または2以上の項目情報を取得する。名刺領域の情報とは、例えば、名刺領域の画像、名刺領域の中のコードである。つまり、項目取得部234は、例えば、文字認識処理により、名刺領域から1以上の項目情報を取得する。項目取得部234は、例えば、名刺領域のコードを用いて、1以上の項目情報を取得する。
項目取得部234は、領域検出部233が検出した名刺領域ごとに、2以上の各項目情報を取得する処理を並行して行うことは好適である。
学習手段2341は、格納部21に格納されている2以上の教師データを用いて、機械学習の学習処理により、学習器を構成する。
学習手段2341は、項目情報ごとに、当該項目情報に対応する2以上の教師データを格納部21から取得する。次に、学習手段2341は、当該2以上の教師データを用いて、機械学習の学習処理により、項目情報ごとの学習器を構成する。そして、学習手段2341は、項目情報ごとに、構成した学習器を、項目識別子に対応付けて、学習器格納部211に蓄積する。項目識別子は、項目情報を特定する情報である。
なお、かかる学習器を構成する処理は、名刺処理装置2とは異なる他の装置で行っても良い。かかる他の装置は、図示しない学習装置である。学習装置は、2以上の教師データを格納する格納部と、学習手段2341とを有する。
また、機械学習の学習処理および後述する予測手段2342の予測処理のアルゴリズムは、問わない。機械学習は、例えば、深層学習、ランダムフォレスト、決定木等が利用可能である。機械学習のモジュールは、例えば、TensorFlowのモジュール、fasttext、R言語のランダムフォレストのライブラリのモジュール等、問わない。
予測手段2342は、学習器と、領域検出部233が検出した名刺領域の画像情報とを用いて、機械学習の予測処理により、項目情報の領域情報を取得する。領域情報は、名刺領域の中の相対的な座標位置を用いて特定される相対的な領域の情報である。なお、上述したように、機械学習の予測処理のアルゴリズムは、問わない。
予測手段2342は、2以上の各項目情報ごとに、当該項目情報を特定する項目識別子と対になる学習器を学習器格納部211から取得する。次に、予測手段2342は、当該学習器と領域検出部233が検出した名刺領域の画像情報とを用いて、機械学習の予測処理により、項目情報の領域情報を取得することは好適である。ただし、予測手段2342は、一つの学習器を学習器格納部211から取得し、当該学習器と領域検出部233が検出した名刺領域の画像情報とを用いて、機械学習の予測処理により、2以上の各項目情報の領域情報を、一度に取得しても良い。かかる場合、学習器は、名刺領域の画像情報を用いて、2以上の各項目情報の領域情報を予測するための情報である。
予測手段2342は、例えば、学習器を学習器格納部211から取得し、当該学習器と領域検出部233が検出した名刺領域の画像情報とを、機械学習の予測処理を行うモジュールに与え、当該モジュールを実行することにより、領域情報を取得する。
コード検知手段2343は、領域検出部233が検出した名刺領域からコードを検知する。コードとは、例えば、二次元コード、バーコード、数字列等である。コードは、名刺を識別する情報である。二次元コードは、QRコード(登録商標)であることは好適であるが、DataMatrix、VeriCode等の他のマトリクス型二次元コードでも良く、スタック型二次元コード等でも良い。コード検知手段2343は、公知のコードリーダーの技術が利用可能である。
なお、コードを検知することは、コードに対応する文字列を取得することであることは好適であるが、コードの領域の画像を切り出すことでも良い。
項目取得手段2344は、1または2以上の項目情報を取得する。項目取得手段2344が項目情報を取得する場合、領域検出部233が検出した名刺領域に表出している文字列を用いる方法、および名刺領域のコードを用いる方法がある。
(1)名刺領域に表出している文字列を用いる方法
名刺領域の文字列を用いる方法として、機械学習の予測処理により取得された領域情報を用いる方法と用いない方法とがある。なお、項目取得手段2344の処理対象の名刺領域の画像は、上述の補正された名刺領域の画像でも良いことは言うまでもない。
(1-1)領域情報を用いる方法
項目取得手段2344は、予測手段2342が取得した1以上の各領域情報が特定する領域であり、名刺領域の中の領域に対して、文字認識処理を行い、領域情報ごとに、文字列である項目情報を取得する。
項目取得手段2344は、2以上の領域情報に対応する文字列を取得する場合、2以上の各領域情報に対応する文字認識処理を並行して行い、2以上の領域情報ごとの文字列を取得することは好適である。
(1-2)領域情報を用いない方法
項目取得手段2344は、名刺領域に対して文字認識処理を行い、1または2以上の文字列である1以上の項目情報を取得する。項目取得手段2344は、取得した1以上の各項目情報の種類(例えば、「氏名」「会社名」「住所」)を決定する。なお、文字列である項目情報の種類を決定する処理は公知技術であるので詳細な説明は省略する。公知技術は、例えば、文字列の分類技術である。
(1-3)名刺データベースを検索する場合
項目取得手段2344は、(1-1)または(1-2)の方法により、1または2以上の項目情報を取得した後、当該1以上の項目情報を用いて、1または2以上の名刺データベースを検索し、該当する名刺情報のうちの全部または一部を取得しても良い。かかる処理により、文字認識機能における精度が不十分でも、正確な項目情報を取得することができる。なお、名刺データベースは、例えば、第一名刺格納部41、第二名刺格納部51である。
(2)名刺領域のコードを用いる方法
項目取得手段2344は、例えば、コード検知手段2343が検知したコードに対応する名刺情報に含まれる1以上の項目情報を、第一名刺格納部41から取得する。項目取得手段2344は、例えば、コードを用いて第二名刺格納部51を検索し、コードに対応する名刺情報に含まれる1以上の項目情報を取得する。なお、項目取得手段2344は、第一名刺格納部41のみを検索しても良いし、第二名刺格納部51のみを検索しても良いし、両方の名刺データベースを検索しても良い。
項目取得手段2344は、並列処理により、第一名刺格納部41から1以上の項目情報を取得し、かつ第二名刺格納部51から1以上の項目情報を取得することは好適である。 なお、項目取得手段2344が2つの名刺格納部から項目情報を取得した場合、どちらか一方の名刺格納部からの項目情報を最終的に取得しても良いし、情報が多い方の名刺格納部からの項目情報を最終的に取得しても良いし、両方の名刺格納部から取得した項目情報であり、一致する項目情報のみを最終的に取得する等しても良い。
項目取得手段2344は、コード検知手段2343が検知したコードを用いて第一名刺格納部41を検索し、コードに対応する名刺情報に含まれる1以上の項目情報を取得しようとし、第一名刺格納部41から取得できない場合のみ、当該コードを用いて第二名刺格納部51を検索し、コードに対応する名刺情報に含まれる1以上の項目情報を取得しても良い。
なお、第一名刺格納部41は、名刺処理装置2ではない装置である第一サーバ4が具備することは好適であるが、名刺処理装置2が具備しても良い。かかる場合、第一サーバ4は不要である。また、第二名刺格納部51は、名刺処理装置2ではない装置である第二サーバ5が具備することは好適であるが、名刺処理装置2が具備しても良い。かかる場合、第二サーバ5は不要である。
突合部235は、後述する突合情報格納部31を参照し、項目取得部234が取得した1以上の項目情報に対応する突合情報が存在するか否かを判断する。1以上の項目情報に対応する突合情報とは、通常、1以上の項目情報を有する突合情報であるが、1以上の項目情報との類似度が閾値以上または閾値より大きい突合情報でも良い。突合情報は、突合対象の情報である。突合情報は、例えば、イベントに参加するための登録情報、管理対象のユーザのユーザ情報である。突合情報は、名刺処理の前に、事前に受け付けられている情報である。また、イベントとは、例えば、セミナー、展示会、講演会、研修会等であり、その種類は問わない。
名刺処理部236は、項目取得部234が取得した1または2以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う。
名刺処理部236は、例えば、突合部235が存在すると判断した場合のみ、名刺情報を用いた名刺処理を行う。
名刺処理部236は、既に名刺処理を行った名刺情報に対しては、名刺処理を行わないことは好適である。つまり、名刺処理部236は、同じ名刺領域の画像に対して、重複して名刺処理を行わないことは好適である。
また、名刺処理とは、例えば、イベントに対する受付処理、受け付けを完了する処理、ゲートをオープンする処理、名刺情報の蓄積処理、名刺情報の送信処理であるが、名刺情報に対する処理であれば良い。つまり、名刺処理の内容は問わない。なお、受け付けを完了する処理は、ゲートをオープンする処理やイベントに対する受付処理等を含むと考えても良い。
受付処理は、イベントへの受け付けのための処理であれば良く、その内容は問わない。受付処理は、例えば、イベント会場への入場が受け付けられたことを示すフラグをユーザ管理サーバ3に送信する処理である。受付処理は、例えば、イベントに参加することを示すフラグを、名刺情報に対応付けて蓄積する処理である。受付処理は、イベント会場に入場するためのゲートを開く処理でも良い。
ユーザ管理サーバ3は、ユーザを管理するためのサーバである。ユーザは、例えば、イベントへの参加を申し込んだユーザである。
突合情報格納部31には、1または2以上の突合情報が格納されている。突合情報は、例えば、ユーザのイベントに対する参加のための登録情報である。ここでの項目情報は、例えば、氏名、組織識別子、電話番号、メールアドレスである。ここでの項目情報は、名刺処理装置2が取得する項目情報をすべて含む必要はない。
突合情報格納部31は、ユーザ管理サーバ3に存在することは好適であるが、名刺処理装置2に存在しても良い。かかる場合、ユーザ管理サーバ3は不要である。
第一サーバ4は、1または2以上の名刺情報を管理するサーバである。名刺情報は、例えば、名刺画像、氏名、組織識別子、電話番号、FAX番号、メールアドレス、URL、コードまたはコードに対応する文字列を有する。
第一名刺格納部41は、1または2以上の名刺情報が格納されている。第一名刺格納部41は、第一サーバ4に存在することは好適であるが、名刺処理装置2に存在しても良い。かかる場合、第一サーバ4は不要である。
第二サーバ5は、1または2以上の名刺情報を管理するサーバである。名刺情報は、例えば、名刺画像、氏名、組織識別子、電話番号、FAX番号、メールアドレス、URL、コードまたはコードに対応する文字列を有する。ただし、第一サーバ4の名刺情報と第二サーバ5の名刺情報とは、構造または入手経路または名刺情報に対応するユーザ等が異なっていることは好適である。
第二名刺格納部51には、1以上の名刺情報が格納されている。第二名刺格納部51は、例えば、名刺情報を管理する第二サーバ5に存在するが、名刺処理装置2に存在しても良い。かかる場合、第二サーバ5は不要である。
画像送付部14は、例えば、無線または有線の通信手段で実現される。
格納部21、学習器格納部211、突合情報格納部31、第一名刺格納部41、および第二名刺格納部51は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
格納部21等に情報が記憶される過程は問わない。例えば、記録媒体を介して情報が格納部21等で記憶されるようになってもよく、通信回線等を介して送信された情報が格納部21等で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された情報が格納部21等で記憶されるようになってもよい。
受付部22、および動画受付部221は、例えば、無線または有線の通信手段で実現される。
処理部23、静止画取得部231、判断部232、領域検出部233、項目取得部234、突合部235、名刺処理部236、学習手段2341、予測手段2342、コード検知手段2343、および項目取得手段2344は、通常、プロセッサやメモリ等から実現され得る。処理部23等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。なお、プロセッサは、CPU、MPU、GPU等であり、その種類は問わない。
次に、名刺処理システムAの動作例について説明する。まず、名刺撮影装置1の動作例について説明する。名刺撮影装置1のカメラ11は、撮影し、動画を取得する。画像送付部14は、取得された動画を名刺処理装置2に送信する。
次に、名刺処理装置2の動作例について説明する。まず、名刺処理装置2が学習器を構成する学習処理について、図4のフローチャートを用いて説明する。なお、学習処理は、図示しない学習装置が行っても良い。
(ステップS401)受付部22は、学習指示を受け付けたか否かを判断する。学習指示を受け付けた場合はステップS402に行き、学習指示を受け付けなかった場合はステップS401に戻る。
(ステップS402)学習手段2341は、カウンタiに1を代入する。
(ステップS403)学習手段2341は、i番目の項目識別子が格納部21に存在するか否かを判断する。i番目の項目識別子が存在する場合はステップS404に行き、存在しない場合はステップS401に戻る。
(ステップS404)学習手段2341は、i番目の項目識別子と対になる2以上の教師データを格納部21から取得する。
(ステップS405)学習手段2341は、ステップS404で取得した2以上の教師データを用いて、機械学習の学習処理を行い、学習器を取得する。
(ステップS406)学習手段2341は、i番目の項目識別子と対にして、ステップS405で取得した学習器を学習器格納部211に蓄積する。
(ステップS407)学習手段2341は、カウンタiを1、インクリメントする。ステップS403に戻る。
なお、図4のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
次に、名刺処理装置2が行う名刺処理の動作例について、図5のフローチャートを用いて説明する。
(ステップS501)動画受付部221は、名刺撮影装置1から動画を受け付けたか否かを判断する。動画を受け付けた場合はステップS502に行き、動画を受け付けなかった場合はステップS501に戻る。なお、ここで、動画ではなく、1枚のフレームを受け付けても良い。また、1枚のフレームを、順次、受け付けることは、動画を受け付けることである、と考えても良い。
(ステップS502)処理部23は、カウンタiに1を代入する。
(ステップS503)静止画取得部231は、ステップS501で受け付けられた情報の中に、i番目のフレームが存在するか否かを判断する。i番目のフレームが存在する場合はステップS504に行き、存在しない場合はステップS501に戻る。
(ステップS504)静止画取得部231は、i番目のフレームが処理対象であるか否かを判断する。i番目のフレームが処理対象であればステップS505に行き、i番目のフレームが処理対象でなければステップS513に行く。なお、静止画取得部231は、例えば、前回に処理対象としたフレームからX枚後のフレームについて、処理対象であると判断する。なお、Xは、通常、2以上の自然数である。かかる処理により、静止画取得部231は、フレームを間引いて、動画から処理対象のフレームのみを取得できる。
(ステップS505)静止画取得部231は、i番目のフレームを取得する。
(ステップS506)判断部232は、ステップS505で取得されたフレームに対して、判断処理を行う。判断処理は、名刺領域を検出するか否かの判断のための処理である。判断処理の例について、図6のフローチャートを用いて説明する。
(ステップS507)領域検出部233は、ステップS506における判断処理の結果が「条件を満たす」か否かを判断する。条件を満たす場合はステップS508に行き、条件を満たさない場合はステップS513に行く。
(ステップS508)領域検出部233は、名刺領域の画像を切り出す。そして、領域検出部233は、台形補正、回転補正等の補正を行う。コード検知手段2343は、補正後の名刺領域の画像の中に、コード(例えば、QRコード)を含むか否かを判断する。コードを含む場合はステップS509に行き、コードを含まない場合はステップS510に行く。
(ステップS509)項目取得部234は、コード処理を行う。ステップS511に行く。なお、コード処理とは、コードを用いて、1以上の項目情報を取得する処理である。コード処理の例について、図7のフローチャートを用いて説明する。
(ステップS510)項目取得部234は、認識処理を行う。認識処理とは、名刺領域の画像を認識し、1以上の項目情報を取得する処理である。認識処理の例について、図8のフローチャートを用いて説明する。なお、ここでの名刺領域の画像は、補正後の画像であることは好適である。
(ステップS511)突合部235は、ステップS509またはステップS510で取得された1以上の項目情報を用いて、突合処理を行う。突合処理の例について、図9のフローチャートを用いて説明する。
(ステップS512)名刺処理部236は、名刺処理を行う。ステップS501に戻る。名刺処理の例について、図10のフローチャートを用いて説明する。
(ステップS513)処理部23は、カウンタiを1、インクリメントする。ステップS503に戻る。
なお、図5のフローチャートにおいて、ステップS509のコード処理とステップS510の認識処理のどちらか一方を行った。しかし、項目取得部234は、コード検知手段2343がコードを含むと判断した場合に、例えば、ステップS509のコード処理とステップS510の認識処理の両方を並行して行っても良い。そして、突合部235は、最初に取得された1以上の項目情報を用いて突合処理を行っても良い。
また、図5のフローチャートにおいて、コード検知手段2343がコードを含むと判断した場合に、例えば、項目取得部234がステップS509のコード処理により1以上の項目情報を取得し、当該1以上の項目情報を用いて突合部235が突合処理を行う第一の総合処理を行い、かつ項目取得部234がステップS510の認識処理により1以上の項目情報を取得し、当該1以上の項目情報を用いて突合部235が突合処理を行う第二の総合処理を行っても良い。かかる場合、第一の総合処理と第二の総合処理とは、並行して行われることは好適である。また、かかる場合、名刺処理部236は、最初に、突合部235が存在すると判断した場合に、名刺処理を行うことは好適である。
次に、ステップS506の判断処理の例について、図6のフローチャートを用いて説明する。
(ステップS601)判断部232は、ステップS505で取得されたフレームが特定の図柄または特定の文字または特定の色を有するか否かを判断する。特定の図柄または特定の色を有する場合はステップS602に行き、特定の図柄または特定の文字または特定の色を有さない場合はステップS604に行く。なお、判断部232は、「フレームが特定の図柄または特定の文字または特定の色を有しない」等の条件以外の名刺検出条件を用いて、判断結果を取得しても良い。
(ステップS602)判断部232は、ステップS505で取得されたフレームが特定の図柄または特定の色以外の図柄または特定の文字または色を有するか否かを判断する。特定の図柄または特定の文字または特定の色以外の図柄または文字または色を有する場合はステップS604に行き、有しない場合はステップS603に行く。
(ステップS603)判断部232は、変数「判断結果」に「条件を満たさない」旨の情報を代入する。上位処理にリターンする。
(ステップS604)判断部232は、ステップS605において、「条件を満たす」と判断して、図示しないバッファに蓄積した直前のフレームと、同じ名刺領域を有するか否かを判断する。同じ名刺領域を有する場合はステップS605に行き、同じ名刺領域を有しない場合はステップS606に行く。なお、同じ名刺領域を有するか否かの判断は、類似度が閾値以上のフレームか否かの判断でも良い。
(ステップS605)判断部232は、変数「判断結果」に「条件を満たさない」旨の情報を代入する。ステップS607に行く。
(ステップS606)判断部232は、変数「判断結果」に「条件を満たす」旨の情報を代入する。
(ステップS607)判断部232は、ステップS505で取得されたフレームを、比較対象のフレームとして、図示しないバッファに一時蓄積する。上位処理にリターンする。
次に、ステップS509のコード処理の例について、図7のフローチャートを用いて説明する。
(ステップS701)コード検知手段2343は、名刺領域からコードを取得する。
(ステップS702)項目取得手段2344は、ステップS701で取得されたコードをキーとして、第一サーバ4の第一名刺格納部41を検索する。
(ステップS703)項目取得手段2344は、ステップS702における検索の結果、ステップS701で取得されたコードに対応する名刺情報を構成する1以上の項目情報を取得する。なお、ここで、ステップS701で取得されたコードに対応する名刺情報が第一名刺格納部41に存在せず、項目情報を取得できない場合もあり得る。
(ステップS704)項目取得手段2344は、ステップS701で取得されたコードをキーとして、第二サーバ5の第二名刺格納部51を検索する。
(ステップS705)項目取得手段2344は、ステップS704における検索の結果、ステップS701で取得されたコードに対応する名刺情報を構成する1以上の項目情報を取得する。なお、ここで、ステップS701で取得されたコードに対応する名刺情報が第二名刺格納部51に存在せず、項目情報を取得できない場合もあり得る。
(ステップS706)項目取得手段2344は、ステップS703で取得された1以上の項目情報、または/およびステップS705で取得された1以上の項目情報を用いて、名刺処理に使用する1以上の項目情報を取得する。上位処理にリターンする。
なお、ここでは、図7のフローチャートにおいて、ステップS702とステップS703の第一サーバ検索処理と、ステップS704とステップS705の第二サーバ検索処理とを並列で行うことは好適である。ただし、第一サーバ検索処理と第二サーバ検索処理とをシーケンシャルに行っても良い。
次に、ステップS510の認識処理の例について、図8のフローチャートを用いて説明する。
(ステップS801)領域検出部233は、名刺領域を取得する。なお、ここで、領域検出部233は、名刺領域の画像に対して、上述した補正処理を行うことは好適である。また、名刺領域の取得は、通常、名刺領域の画像の取得である。
(ステップS802)予測手段2342は、1番目の項目識別子(例えば、氏名)と対になる学習器を学習器格納部211から取得する。
(ステップS803)予測手段2342は、ステップS801で取得した名刺領域の画像とステップS802で取得した学習器とを用いて、機械学習の予測処理を行い、1番目の項目識別子に対応する項目情報が表れている領域の領域情報を取得する。
(ステップS804)項目取得手段2344は、ステップS801で取得した名刺領域の中の領域であり、ステップS803で取得した領域情報により特定される領域に対して、文字認識処理を行い、名刺の中に記載されている文字列(例えば、「田中一郎」)を取得する。
(ステップS805)項目取得手段2344は、1番目の項目識別子と対にして、ステップS804で取得した1番目の文字列を、図示しないバッファに一時蓄積する。ステップS814に行く。
(ステップS806)予測手段2342は、2番目の項目識別子(例えば、組織識別子)と対になる学習器を学習器格納部211から取得する。
(ステップS807)予測手段2342は、ステップS801で取得した名刺領域の画像とステップS806で取得した学習器とを用いて、機械学習の予測処理を行い、2番目の項目識別子に対応する項目情報が表れている領域の領域情報を取得する。
(ステップS808)項目取得手段2344は、ステップS801で取得した名刺領域の中の領域であり、ステップS807で取得した領域情報により特定される領域に対して、文字認識処理を行い、名刺の中に記載されている文字列(例えば、「ABCD株式会社」)を取得する。
(ステップS809)項目取得手段2344は、2番目の項目識別子と対にして、ステップS808で取得した2番目の文字列を、図示しないバッファに一時蓄積する。ステップS814に行く。
(ステップS810)予測手段2342は、n番目の項目識別子(例えば、メールアドレス)と対になる学習器を学習器格納部211から取得する。なお、nは、3以上の自然数である。
(ステップS811)予測手段2342は、ステップS801で取得した名刺領域の画像とステップS810で取得した学習器とを用いて、機械学習の予測処理を行い、n番目の項目識別子に対応する項目情報が表れている領域の領域情報を取得する。
(ステップS812)項目取得手段2344は、ステップS801で取得した名刺領域の中の領域であり、ステップS811で取得した領域情報により特定される領域に対して、文字認識処理を行い、名刺の中に記載されている文字列(例えば、「tanaka@abcd.com」)を取得する。
(ステップS813)項目取得手段2344は、n番目の項目識別子と対にして、ステップS808で取得したn番目の文字列を、図示しないバッファに一時蓄積する。ステップS814に行く。
(ステップS814)項目取得手段2344は、ステップS805、ステップS809、ステップS813等で一時蓄積された項目情報を取得する。上位処理にリターンする。
なお、図8のフローチャートにおいて、ステップS802からステップS805、ステップS806からステップS809、・・・、ステップS810からステップS813の各項目ごとの項目情報の取得処理は、並列処理することは好適である。ただし、項目ごとの項目情報の取得処理を、シーケンシャルに処理しても良い。また、項目情報の取得処理は、2以上であることは好適であるが、1つでも良い。
また、図8のフローチャートのステップS814において、項目取得手段2344は、並列処理した項目ごとの項目情報の取得処理のすべてが完了するまでウェイトし、すべてが完了した後、ステップS814の処理を行うことは好適である。
さらに、図8のフローチャートにおいて、1番目の項目情報の取得処理、2番目の項目情報の取得処理、3番目の項目情報の取得処理、・・・n番目の項目情報の取得処理といった具合に、多くの項目情報の取得処理を行うことは好ましい。
次に、ステップS511の突合処理の例について、図9のフローチャートを用いて説明する。
(ステップS901)突合部235は、カウンタiに1を代入する。
(ステップS902)突合部235は、取得された項目情報の中で、i番目の検索キーとなり得る項目情報が存在するか否かを判断する。i番目の検索キーとなり得る項目情報が存在する場合はステップS903に行き、存在しない場合はステップS911に行く。なお、検索キーとなり得る項目情報は、予め決められている、とする。検索キーとなり得る項目情報は、例えば、氏名、メールアドレス、携帯電話番号である。
(ステップS903)突合部235は、i番目の検索キーとなり得る項目情報を取得する。次に、突合部235は、当該項目情報をキーとして、突合情報格納部31を検索する。なお、突合情報格納部31は、ユーザ管理サーバ3に存在することは好適であるが、名刺処理装置2が有しても良い。
(ステップS904)突合部235は、ステップS903における検索処理の結果、i番目の検索キーとなり得る項目情報が突合情報格納部31に存在するか否かを判断する。当該項目情報が存在する場合はステップS905に行き、存在しない場合はステップS910に行く。
(ステップS905)突合部235は、ステップS903における検索処理の結果である突合情報を取得する。
(ステップS906)突合部235は、取得された各項目情報が、ステップS905で取得した突合情報に含まれるか否かを検索する。
(ステップS907)突合部235は、ステップS906における検索の結果、突合条件を満たす場合はステップS908に行き、突合条件を満たさない場合はステップS909に行く。なお、突合条件は、例えば、氏名の他、特定の項目情報(例えば、組織識別子)もステップS905で取得した突合情報に含まれることである。突合条件は、例えば、取得した項目情報のすべてがステップS905で取得した突合情報に含まれることである。
(ステップS908)突合部235は、変数「突合結果」に「成功」を代入する。上位処理にリターンする。
(ステップS909)突合部235は、変数「突合結果」に「失敗」を代入する。上位処理にリターンする。
(ステップS910)突合部235は、カウンタiを1、インクリメントする。ステップS902に戻る。
(ステップS911)突合部235は、変数「突合結果」に「失敗」を代入する。上位処理にリターンする。
なお、図9のフローチャートにおいて、突合部235は、取得された2以上の項目情報をすべて含む突合情報が存在する場合のみ、変数「突合結果」に「成功」を代入しても良い。また、突合部235は、取得された2以上の項目情報との類似度が閾値以上または閾値より大きい場合に、変数「突合結果」に「成功」を代入しても良い。
次に、ステップS512の名刺処理の例について、図10のフローチャートを用いて説明する。
(ステップS1001)名刺処理部236は、突合処理の結果が「成功」であるか否かを判断する。「成功」である場合はステップS1002に行き、「失敗」である場合はステップS1003に行く。
(ステップS1002)名刺処理部236は、検索された突合情報に対する受付処理を行う。受付処理は、例えば、検索された突合情報に対して、受付が行われた旨のフラグを付与することである。
(ステップS1003)名刺処理部236は、取得された1以上の項目情報を用いた名刺情報を蓄積するか否かを判断する。名刺情報を蓄積する場合はステップS1004に行き、名刺情報を蓄積しない場合は上位処理にリターンする。
なお、名刺処理部236は、例えば、取得された1以上の項目情報に対応する名刺情報が、名刺情報の蓄積先の名刺データベース(例えば、第一名刺格納部41、第二名刺格納部51)に格納されているか否かを判断し、格納されていない場合に、名刺情報を蓄積すると判断する。また、名刺処理部236は、常に、名刺情報を蓄積すると判断しても良い。
(ステップS1004)名刺処理部236は、取得された1以上の項目情報を用いて、名刺情報を構成する。なお、名刺処理部236は、取得された名刺領域の画像(例えば、補正後の画像)をも含む名刺情報を構成することは好適である。
(ステップS1005)名刺処理部236は、ステップS1004で構成した名刺情報を蓄積する。上位処理にリターンする。なお、名刺情報の蓄積先は、名刺処理装置2の格納部21でも良いし、第一サーバ4の第一名刺格納部41でも良いし、第二サーバ5の第二名刺格納部51でも良く、問わない。
次に、ユーザ管理サーバ3の動作例について説明する。ユーザ管理サーバ3は、名刺処理装置2から送信された検索要求に対して、突合情報または検索できなかった旨の情報を、名刺処理装置2に送信する。ユーザ管理サーバ3は、例えば、名刺処理装置2から送信された受付フラグを、当該受付フラグに対応する突合情報に対応付けて蓄積する。
次に、第一サーバ4の動作例について説明する。第一サーバ4は、名刺処理装置2から送信されたコードに対応する名刺情報を取得し、当該名刺情報を名刺処理装置2に送信する。また、第一サーバ4は、名刺処理装置2から送信されたコードに対応する名刺情報が検できなかった場合、コードに対応する名刺情報が存在しない旨の情報を名刺処理装置2に送信する。
次に、第二サーバ5の動作例について説明する。第二サーバ5は、名刺処理装置2から送信されたコードに対応する名刺情報を取得し、当該名刺情報を名刺処理装置2に送信する。また、第二サーバ5は、名刺処理装置2から送信されたコードに対応する名刺情報が検できなかった場合、コードに対応する名刺情報が存在しない旨の情報を名刺処理装置2に送信する。
以下、本実施の形態における名刺処理システムAの具体的な動作例について説明する。
今、イベント会場の受付の場所に、図11に示す名刺撮影装置1が設置されている、とする。
名刺撮影装置1の台座13には、131の図柄が表出している。また、本具体例において、台座13において、イベントに参加するユーザは、自分の名刺(例えば、1101)を、台座13の図柄131が隠れるように置くことにより、当該ユーザの受け付けのための処理が完了する。なお、名刺1101の表面であり、カメラ11による撮影面は、1102である。
また、ユーザ管理サーバ3の突合情報格納部31には、図12に示す突合情報管理表が格納されている、とする。突合情報管理表は、名刺撮影装置1が設置されている会場で行われるイベントへの申込者の申込者情報を管理する表である。つまり、ここでの突合情報管理表の突合情報は、申込者情報である。突合情報管理表は、例えば、イベントへの参加希望の各ユーザが、ユーザ管理サーバ3に対して登録した情報である申込者情報を管理する表である。なお、突合情報管理表が突合情報格納部31に蓄積される過程は問わない。
突合情報管理表は、「ID」、「氏名」、「会社名」、「部署・役職」、「電話番号」、「メールアドレス」、「受付フラグ」等の属性値を有する1以上のレコードを管理する表である。「ID」はレコードを識別する情報である。「部署・役職」は部署名および役職名の少なくとも一方、「電話番号」は、固定電話または携帯電話の電話番号、「メールアドレス」はメールアドレスである。「受付フラグ」は、名刺処理装置2による受付処理が完了したか否かを示すフラグである。なお、受付処理は、上述した名刺処理の一例である。受付フラグ「0」は受付処理が完了していないことを示し、「1」は受付処理が完了していることを示す。
また、第一サーバ4の第一名刺格納部41には、図13に示す第一名刺情報管理表が格納されている、とする。第一名刺情報管理表は、「名刺ID」、「名刺画像」、「氏名」、「会社名」、「部署・役職」、「電話番号」、および「メールアドレス」等の属性値を有する1以上の名刺情報を管理する表である。「名刺ID」は名刺を識別する情報、「名刺画像」は名刺の画像であり、ここでは、名刺の画像のファイル名である。ここでは、名刺情報管理表の各レコードが、それぞれ、名刺情報に対応しており、「名刺ID」以外の属性値が、ここでは、名刺情報であるとする。
また、第二サーバ5の第二名刺格納部51には、図13とは異なる構造の第二名刺情報管理表が格納されている、とする。第二名刺情報管理表は、例えば、名刺画像を有さない、とする。第二名刺情報管理表は、例えば、いわゆるオンライン名刺の情報を管理する表である、とする。
また、名刺処理装置2の学習器格納部211には、図14に示す学習器管理表が格納されている、とする。学習器管理表は、1以上の学習器を管理する表である。学習器管理表は、「ID」「項目識別子」「学習器識別子」を有する1以上のレコードを有する。「ID」はレコードを識別する情報である。「学習器識別子」は、学習器の識別子である。また、学習器識別子で識別される学習器も、学習器格納部211に格納されている、とする。なお、学習器格納部211の各学習器は、ここでは、名刺処理装置2の学習手段2341による処理により構築された情報である、とする。
さらに、名刺処理装置2の格納部21には、特定の図柄(ここでは、網掛けの矩形の形状)を中央に含む画像であり、名刺撮影装置1のカメラ11が台座13を撮影した時の静止画である。また、かかる図柄は、図11の131である。
以上の状況において、以下の4つの具体例について説明する。具体例1は、名刺格納部を参照せずに、文字認識処理の結果を用いて、受付処理が行われる場合である。具体例2は、コードを用いて、名刺情報管理表を参照して、受付処理が行われる場合である。具体例3は、コードを用いずに、名刺情報管理表を参照して、受付処理が行われる場合である。具体例4は、ユーザ端末に表示されたコードを用いて、名刺情報管理表を参照して、受付処理が行われる場合である。
なお、イベント会場の受け付け場所に設置された名刺撮影装置1のカメラ11の電源はONの状態であり、カメラ11は、動画の撮影を続けている、とする。そして、名刺撮影装置1の画像送付部14は、カメラ11が取得している動画を名刺処理装置2に送信し続ける、とする。
そして、名刺処理装置2の動画受付部221は、名刺撮影装置1から動画を受信し続ける。次に、静止画取得部231は、受信された動画を構成するフレームのうち、例えば、60枚に1枚のフレームを取得する。そして、台座13の上に名刺等が置かれる前までは、判断部232は、取得されたフレームが特定の図柄(ここでは、網掛けの矩形の形状)が含まれる、と判断する。次に、変数「判断結果」に「条件を満たさない」旨の情報を代入する。次に、領域検出部233は、判断結果が「条件を満たさない」旨の情報であるので、次のフレームの処理に移行する。
(具体例1)
以上の名刺処理装置2の処理の後、ユーザ「A山一郎」は、イベントに参加するために、イベント会場まで行き、その受け付け場所に設置された名刺撮影装置1の台座13に、自分の名刺(図15(a))を、名刺撮影装置1の台座13の上に置いた、とする。
次に、名刺撮影装置1のカメラ11は、ユーザ「A山一郎」の名刺が置かれた台座13を撮影した動画を取得し、画像送付部14は当該動画を名刺処理装置2に送信する。
次に、名刺処理装置2の動画受付部221は、名刺撮影装置1から動画を受信する。次に、静止画取得部231は、60枚に1枚の割合で、フレームを取得していく。
次に、判断部232は、ユーザ「A山一郎」の名刺により図柄131が隠れた台座13を撮影したフレームに対して、上述した判断処理を行い、「条件を満たす」と判断する。
次に、領域検出部233は、当該フレームから名刺領域を検出し、当該名刺領域の画像を切り出す。次に、領域検出部233は、当該切り出した画像に対して、補正を行い、長方形の名刺画像を得る。
次に、コード検知手段2343は、補正後の当該名刺画像がコードを含まない、と判断する。なお、ここでのコードは、QRコードである。
次に、項目取得部234は、補正後の当該名刺画像に対して、以下のように、認識処理を行う。
つまり、予測手段2342は、図14の学習器管理表を参照し、1番目の項目識別子「氏名」と対になる学習器識別子「学習器1」を取得し、当該「学習器1」の学習器を学習器格納部211から取得する。次に、予測手段2342は、名刺画像と学習器1とを用いて、機械学習の予測処理を行い、1番目の項目識別子「氏名」に対応する項目情報が表れている領域の領域情報(x11,y11)(x12,y12)を取得する。次に、項目取得手段2344は、領域情報(x11,y11)(x12,y12)により特定される領域に対して、文字認識処理を行い、名刺画像の中に記載されている文字列「A山一郎」を取得し、項目識別子「氏名」と対にして、図示しないバッファに一時蓄積する。
また、予測手段2342は、図14の学習器管理表を参照し、2番目の項目識別子「会社名」と対になる学習器識別子「学習器2」を取得し、当該「学習器2」の学習器を学習器格納部211から取得する。次に、予測手段2342は、名刺画像と学習器1とを用いて、機械学習の予測処理を行い、2番目の項目識別子「会社名」に対応する項目情報が表れている領域の領域情報(x21,y21)(x22,y22)を取得する。次に、項目取得手段2344は、領域情報(x21,y21)(x22,y22)により特定される領域に対して、文字認識処理を行い、名刺画像の中に記載されている文字列「AB工業株式会社」を取得し、項目識別子「会社名」と対にして、図示しないバッファに一時蓄積する。
同様に、予測手段2342は、名刺画像の中に記載されている電話番号の文字列「090・・・」を項目識別子「電話番号」と対にして、図示しないバッファに一時蓄積する。さらに、予測手段2342は、名刺画像の中に記載されているメールアドレスの文字列「ayama@ab・・・」を項目識別子「メールアドレス」と対にして、図示しないバッファに一時蓄積する。
なお、予測手段2342は、4つの各項目情報を取得する処理を並列に行う、とする。
次に、突合部235は、図示しないバッファに一時蓄積された4つの項目情報を用いて、突合処理を行う。つまり、突合部235は、図示しないバッファから4つの項目情報「<氏名>A山一郎 <会社名>AB工業株式会社 <電話番号>090・・・ <メールアドレス>ayama@ab・・・」を取得する。次に、突合部235は、4つの項目情報を用いて、図12の突合情報管理表を検索する。そして、かかる4つの項目情報を含む突合情報を検索できたので、突合部235は、突合条件を満たす、と判断する。
次に、名刺処理部236は、以下のように名刺処理を行う。つまり、名刺処理部236は、検索した突合情報に対にして、受付フラグ「1」を蓄積する。かかる処理により、図12の突合情報管理表の「ID=1」の受付フラグが「1」に書き換わる。また、名刺処理部236は、例えば、取得された名刺画像、4つの項目情報「<氏名>A山一郎 <会社名>AB工業株式会社 <電話番号>090・・・ <メールアドレス>ayama@ab・・・」の全部または一部を用いて名刺情報を構成し、当該名刺情報を、名刺管理表(例えば、図13の第一名刺管理表)に蓄積しても良い。かかる名刺情報の蓄積処理も、名刺処理である、と考えても良い。
(具体例2)
ユーザ「A山一郎」のすぐ後ろで受け付けの手続きを待っていたユーザ「B川花子」は、名刺撮影装置1の台座13に、自分の名刺(図15(b))を、名刺撮影装置1の台座13の上に置いた、とする。なお、図15(b)のQRコードには、名刺ID「NA1001」が埋め込まれている、とする。
次に、名刺撮影装置1のカメラ11は、ユーザ「B川花子」の名刺が置かれた台座13を撮影した動画を取得し、画像送付部14は当該動画を名刺処理装置2に送信する。
次に、名刺処理装置2の動画受付部221は、名刺撮影装置1から動画を受信する。次に、静止画取得部231は、60枚に1枚の割合で、フレームを取得していく。
次に、判断部232は、ユーザ「B川花子」の名刺により図柄131が隠れた台座13を撮影したフレームに対して、上述した判断処理を行い、「条件を満たす」と判断する。
次に、領域検出部233は、当該フレームから名刺領域を検出し、当該名刺領域の画像を切り出す。次に、領域検出部233は、当該切り出した画像に対して、補正を行い、長方形の名刺画像を得る。
次に、コード検知手段2343は、補正後の当該名刺画像がコードを含む、と判断する。そして、コード検知手段2343等は、以下のようにコード処理を行う。つまり、コード検知手段2343は、当該名刺画像のQRコードから名刺ID「NA1001」を取得する。
次に、項目取得手段2344は、取得された名刺ID「NA1001」をキーとして、第一サーバ4の第一名刺管理表を検索し、名刺情報を取得する。なお、名刺情報は、「<氏名>B川花子 <会社名>BCD株式会社 <電話番号>090・・・ <メールアドレス>bkawa@bc・・・」を含む。
また、項目取得手段2344は、第一名刺管理表の検索処理と並行して、取得された名刺ID「NA1001」をキーとして、第二サーバ5の第二名刺管理表を検索する。しかし、項目取得手段2344は、第二名刺管理表には、名刺ID「NA1001」に対応する名刺情報が格納されていなかった、とする。
次に、突合部235は、取得された4つの項目情報を用いて、突合処理を行う。つまり、突合部235は、4つの項目情報「<氏名>B川花子 <会社名>BCD株式会社 <電話番号>090・・・ <メールアドレス>bkawa@bc・・・」を用いて、図12の突合情報管理表を検索する。そして、かかる4つの項目情報を含む突合情報を検索できたので、突合部235は、突合条件を満たす、と判断する。
次に、名刺処理部236は、検索した突合情報に対にして、受付フラグ「1」を蓄積する。かかる処理により、図12の突合情報管理表の「ID=2」の受付フラグが「1」に書き換わる。
(具体例3)
ユーザ「B川花子」のすぐ後ろで受け付けの手続きを待っていたユーザ「E沢純一」は、名刺撮影装置1の台座13に、自分の名刺(図15(c))を、名刺撮影装置1の台座13の上に置いた、とする。
次に、名刺撮影装置1のカメラ11は、ユーザ「E沢純一」の名刺が置かれた台座13を撮影した動画を取得し、画像送付部14は当該動画を名刺処理装置2に送信する。
次に、名刺処理装置2の動画受付部221は、名刺撮影装置1から動画を受信する。次に、静止画取得部231は、60枚に1枚の割合で、フレームを取得していく。
次に、判断部232は、ユーザ「E沢純一」の名刺により図柄131が隠れた台座13を撮影したフレームに対して、上述した判断処理を行い、「条件を満たす」と判断する。
次に、領域検出部233は、当該フレームから名刺領域を検出し、当該名刺領域の画像を切り出す。次に、領域検出部233は、当該切り出した画像に対して、補正を行い、長方形の名刺画像を得る。
次に、予測手段2342は、図14の学習器管理表を参照し、1番目の項目識別子「氏名」と対になる学習器識別子「学習器1」を取得し、当該「学習器1」の学習器を学習器格納部211から取得する。次に、予測手段2342は、名刺画像と学習器1とを用いて、機械学習の予測処理を行い、1番目の項目識別子「氏名」に対応する項目情報が表れている領域の領域情報(x11,y11)(x12,y12)を取得する。次に、項目取得手段2344は、領域情報(x11,y11)(x12,y12)により特定される領域に対して、文字認識処理を行い、名刺画像の中に記載されている文字列「E沢純一」を取得する。
次に、項目取得手段2344は、取得された氏名「E沢純一」をキーとして、第二サーバ5の第二名刺管理表を検索し、名刺情報を取得する。なお、名刺情報は、例えば、「<氏名>E沢純一 <会社名>EF電気株式会社 <電話番号>090・・・ <メールアドレス>j_ezawa@ef・・・」を含む。
次に、突合部235は、取得された4つの項目情報を用いて、突合処理を行う。つまり、突合部235は、4つの項目情報、「<氏名>E沢純一 <会社名>EF電気株式会社 <電話番号>090・・・ <メールアドレス>j_ezawa@ef・・・」を用いて、図12の突合情報管理表を検索する。そして、かかる4つの項目情報を含む突合情報を検索できたので、突合部235は、突合条件を満たす、と判断する。
次に、名刺処理部236は、以下のように名刺処理を行う。つまり、名刺処理部236は、検索した突合情報に対にして、受付フラグ「1」を蓄積する。かかる処理により、図12の突合情報管理表の「ID=5」の受付フラグが「1」に書き換わる。
(具体例4)
ユーザ「E沢純一」のすぐ後ろで受け付けの手続きを待っていたユーザ「C川博美」は、名刺撮影装置1の台座13に、自分の名刺を識別するコードが表示された端末(図15(d))を、名刺撮影装置1の台座13の上に置いた、とする。なお、図15(d)のQRコードには、名刺ID「NA1002」が埋め込まれている、とする。また、図15(d)のQRコード等の、端末に表示されたコードであり、名刺情報を特定できるコードも、名刺であると解釈しても良いし、そのように解釈しなくても良い。
次に、名刺撮影装置1のカメラ11は、ユーザ「C川博美」の名刺が置かれた台座13を撮影した動画を取得し、画像送付部14は当該動画を名刺処理装置2に送信する。
次に、名刺処理装置2の動画受付部221は、名刺撮影装置1から動画を受信する。次に、静止画取得部231は、60枚に1枚の割合で、フレームを取得していく。
次に、判断部232は、ユーザ「C川博美」の名刺により図柄131が隠れた台座13を撮影したフレームに対して、上述した判断処理を行い、「条件を満たす」と判断する。
次に、コード検知手段2343は、フレームの中にコードを含む、と判断する。そして、コード検知手段2343等は、以下のようにコード処理を行う。つまり、コード検知手段2343は、当該フレームのQRコードから名刺ID「NA1002」を取得する。
次に、項目取得手段2344は、取得された名刺ID「NA1002」をキーとして、第一サーバ4の第一名刺管理表を検索し、名刺情報を取得する。なお、名刺情報は、「<氏名>C川博美 <会社名>CD商事株式会社 <電話番号>080・・・ <メールアドレス>cgawa@cd・・・」を含む。
次に、突合部235は、取得された4つの項目情報を用いて、突合処理を行う。つまり、突合部235は、4つの項目情報「<氏名>C川博美 <会社名>CD商事株式会社 <電話番号>080・・・ <メールアドレス>cgawa@cd・・・」を用いて、図12の突合情報管理表を検索する。そして、かかる4つの項目情報を含む突合情報を検索できたので、突合部235は、突合条件を満たす、と判断する。
次に、名刺処理部236は、検索した突合情報に対にして、受付フラグ「1」を蓄積する。かかる処理により、図12の突合情報管理表の「ID=3」の受付フラグが「1」に書き換わる。
以上、本実施の形態によれば、1または2以上の名刺が撮影された動画から取得した情報に基づいて取得した1以上の各名刺情報を用いた処理ができる。
また、本実施の形態によれば、名刺が撮影された動画から取得した情報を用いて、突合情報と突合し、突合結果を用いた処理ができる。例えば、イベントの受け付けの処理が容易にできる。
また、本実施の形態によれば、各種の処理の高速化によって、名刺が撮影された動画から取得した情報に基づいて、高速に名刺情報を取得できる。
また、本実施の形態によれば、名刺に印刷されたコードを用いて、当該名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができる。
また、本実施の形態によれば、機械学習の予測処理により、項目情報の領域情報を取得し、使用することにより、名刺が撮影された動画から、精度高く名刺情報を取得できる。
さらに、本実施の形態によれば、名刺を撮影し、当該撮影して得た動画を名刺処理装置2に渡せる名刺撮影装置1を提供できる。
なお、本実施の形態における処理は、ソフトウェアで実現しても良い。そして、このソフトウェアをソフトウェアダウンロード等により配布しても良い。また、このソフトウェアをCD-ROMなどの記録媒体に記録して流布しても良い。なお、このことは、本明細書における他の実施の形態においても該当する。なお、本実施の形態における名刺処理装置2を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、1または2以上の各名刺を、順次、撮影した動画を受け付ける動画受付部と、前記動画から1または2以上の静止画を、順次、取得する静止画取得部と、前記静止画取得部が取得した1または2以上の各静止画から名刺領域を検出する領域検出部と、前記領域検出部が検出した1または2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得部と、前記項目取得部が取得した1以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う名刺処理部として機能させるためのプログラムである。
また、図16は、本明細書で述べたプログラムを実行して、上述した種々の実施の形態の名刺処理装置2等を実現するコンピュータの外観を示す。上述の実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムで実現され得る。図16は、このコンピュータシステム300の概観図であり、図17は、システム300のブロック図である。
図16において、コンピュータシステム300は、CD-ROMドライブを含むコンピュータ301と、キーボード302と、マウス303と、モニタ304とを含む。
図17において、コンピュータ301は、CD-ROMドライブ3012に加えて、MPU3013と、CD-ROMドライブ3012等に接続されたバス3014と、ブートアッププログラム等のプログラムを記憶するためのROM3015と、MPU3013に接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのRAM3016と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク3017とを含む。ここでは、図示しないが、コンピュータ301は、さらに、LANへの接続を提供するネットワークカードを含んでも良い。
コンピュータシステム300に、上述した実施の形態の名刺処理装置2等の機能を実行させるプログラムは、CD-ROM3101に記憶されて、CD-ROMドライブ3012に挿入され、さらにハードディスク3017に転送されても良い。これに代えて、プログラムは、図示しないネットワークを介してコンピュータ301に送信され、ハードディスク3017に記憶されても良い。プログラムは実行の際にRAM3016にロードされる。プログラムは、CD-ROM3101またはネットワークから直接、ロードされても良い。
プログラムは、コンピュータ301に、上述した実施の形態の名刺処理装置2等の機能を実行させるオペレーティングシステム(OS)、またはサードパーティープログラム等は、必ずしも含まなくても良い。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいれば良い。コンピュータシステム300がどのように動作するかは周知であり、詳細な説明は省略する。
なお、上記プログラムにおいて、情報を送信するステップや、情報を受信するステップなどでは、ハードウェアによって行われる処理、例えば、送信ステップにおけるモデムやインターフェースカードなどで行われる処理(ハードウェアでしか行われない処理)は含まれない。
また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
また、上記各実施の形態において、一の装置に存在する2以上の通信手段は、物理的に一の媒体で実現されても良いことは言うまでもない。
また、上記各実施の形態において、各処理は、単一の装置によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
以上のように、本発明にかかる名刺処理装置2は、名刺が撮影された動画から取得した情報に基づいて取得した名刺情報を用いた処理ができるという効果を有し、名刺処理装置等として有用である。
1 名刺撮影装置
2 名刺処理装置
3 ユーザ管理サーバ
4 第一サーバ
5 第二サーバ
11 カメラ
12 固定部
13 台座
14 画像送付部
21 格納部
22 受付部
23 処理部
31 突合情報格納部
41 第一名刺格納部
51 第二名刺格納部
211 学習器格納部
221 動画受付部
231 静止画取得部
232 判断部
233 領域検出部
234 項目取得部
235 突合部
236 名刺処理部
2341 学習手段
2342 予測手段
2343 コード検知手段
2344 項目取得手段

Claims (16)

  1. 1または2以上の各名刺を、順次、撮影した動画を受け付ける動画受付部と、
    前記動画から1または2以上の静止画を、順次、取得する静止画取得部と、
    前記静止画取得部が取得した1または2以上の各静止画から名刺領域を検出する領域検出部と、
    前記領域検出部が検出した1または2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得部と、
    前記項目取得部が取得した1以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う名刺処理部とを具備する名刺処理装置。
  2. ユーザごとの1以上の項目情報を有する1以上の突合情報が格納されている突合情報格納部を参照し、前記項目取得部が取得した1以上の項目情報に対応する突合情報が存在するか否かを判断する突合部をさらに具備し、
    前記名刺処理部は、
    前記突合部が存在すると判断した場合のみ、前記名刺情報を用いた名刺処理を行う、請求項1記載の名刺処理装置。
  3. 前記動画を構成する静止画が名刺検出条件を満たすか否かを判断する判断部をさらに具備し、
    前記領域検出部は、
    前記判断部が前記名刺検出条件を満たすと判断した場合に、前記名刺検出条件を満たす前記静止画から前記名刺領域を検出する、請求項1または請求項2記載の名刺処理装置。
  4. 前記名刺検出条件は、静止画の中に特定の図柄、特定の文字、または特定の色を有さないことを含む、請求項3記載の名刺処理装置。
  5. 前記静止画取得部と、前記領域検出部と、前記項目取得部の各々が行う処理のうち、2以上の処理を並列に行う、請求項1から請求項4いずれか一項に記載の名刺処理装置。
  6. 前記項目取得部は、
    前記領域検出部が検出した一の名刺領域から2以上の各項目情報を取得する処理を並行して行う、請求項1から請求項5いずれか一項に記載の名刺処理装置。
  7. 前記静止画取得部は、
    前記動画が有するN(Nは2以上の自然数)の静止画からNより少ない静止画を取得する、請求項1から請求項6いずれか一項に記載の名刺処理装置。
  8. 前記項目取得部は、
    前記領域検出部が検出した前記名刺領域からコードを検知するコード検知手段と、
    前記コードに対応する名刺情報に含まれる1以上の項目情報を、1以上の名刺情報が格納されている第一名刺格納部から取得する項目取得手段とを具備し、
    前記名刺処理部は、
    前記項目取得部が取得した前記1以上の項目情報を有する名刺情報を用いた名刺処理を行う、請求項1から請求項7いずれか一項に記載の名刺処理装置。
  9. 1以上の名刺情報が格納されている第一名刺格納部と、1以上の名刺情報が格納されている第二名刺格納部を含む2以上の名刺データベースにアクセス可能であり、
    前記項目取得手段は、
    前記コードを用いて前記第一名刺格納部を検索し、当該コードに対応する名刺情報に含まれる1以上の項目情報を取得する、または前記コードを用いて前記第二名刺格納部を検索し、当該コードに対応する名刺情報に含まれる1以上の項目情報を取得する、請求項8記載の名刺処理装置。
  10. ユーザごとの1以上の項目情報を有する1以上の突合情報が格納されている突合情報格納部を参照し、前記項目取得部が取得した1以上の項目情報に対応する突合情報が存在するか否かを判断する突合処理を行う突合部をさらに具備し、
    前記項目取得部は、
    前記領域検出部が検出した前記名刺領域からコードを検知するコード検知手段と、
    前記コードに対応する名刺情報に含まれる1以上の項目情報を、1以上の名刺情報が格納されている第一名刺格納部から取得する項目取得手段とを具備し、
    前記項目取得部は、
    前記領域検出部が検出した名刺領域に表出している1以上の項目情報を取得する処理を行い、
    前記突合部は、
    前記コードに基づいて取得された前記1以上の項目情報を用いて前記突合処理を行い、かつ前記名刺領域に表出している前記1以上の項目情報を用いて前記突合処理を行い、
    かつ、前記コードに基づいて前記1以上の項目情報を取得し、当該1以上の項目情報を用いて前記突合処理を行うこと、および前記名刺領域に表出している前記1以上の項目情報を取得し、当該1以上の項目情報を用いて前記突合処理を行うことを、並列して行い、
    前記名刺処理部は、
    前記突合部が、最初に、存在すると判断した場合に、前記名刺情報を用いた名刺処理を行う、請求項1記載の名刺処理装置。
  11. 前記項目取得部は、
    名刺画像と当該名刺画像に含まれる項目情報の領域を特定する領域情報とを有する2以上の教師データを用いて、機械学習の学習処理により構成された学習器と、前記領域検出部が検出した前記名刺領域の画像情報とを用いて、機械学習の予測処理により、前記項目情報の領域情報を取得する予測手段と、
    前記予測手段が取得した前記領域情報が特定する領域から、前記項目情報を取得する項目取得手段とを具備する、請求項1から請求項10いずれか一項に記載の名刺処理装置。
  12. 前記名刺処理部は、
    受け付けを完了する処理を行う、請求項1から請求項11いずれか一項に記載の名刺処理装置。
  13. 2以上の各名刺を、順次、撮影し、動画を取得するカメラと、
    前記カメラが取得した前記動画を、請求項1から請求項12いずれか一項に記載の名刺処理装置に渡す画像送付部とを具備する名刺撮影装置。
  14. 前記カメラに正体する位置に設置された台座であり、予め決められた図柄または文字または色が表出した台座をさらに具備する請求項13記載の名刺撮影装置。
  15. 動画受付部と、静止画取得部と、領域検出部と、項目取得部と、名刺処理部とにより実現される名刺処理方法であって、
    前記動画受付部が、1または2以上の各名刺を、順次、撮影した動画を受け付ける動画受付ステップと、
    前記静止画取得部が、前記動画から1または2以上の静止画を、順次、取得する静止画取得ステップと、
    前記領域検出部が、前記静止画取得ステップで取得された1または2以上の各静止画から名刺領域を検出する領域検出ステップと、
    前記項目取得部が、前記領域検出ステップで検出された1または2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得ステップと、
    前記名刺処理部が、前記項目取得ステップで取得された1以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う名刺処理ステップとを具備する名刺処理方法。
  16. コンピュータを、
    1または2以上の各名刺を、順次、撮影した動画を受け付ける動画受付部と、
    前記動画から1または2以上の静止画を、順次、取得する静止画取得部と、
    前記静止画取得部が取得した1または2以上の各静止画から名刺領域を検出する領域検出部と、
    前記領域検出部が検出した1または2以上の各名刺領域の情報から1以上の項目情報を取得する項目取得部と、
    前記項目取得部が取得した1以上の項目情報を有する1または2以上の名刺情報を用いた処理である名刺処理を行う名刺処理部として機能させるためのプログラム。
JP2021151775A 2021-09-17 2021-09-17 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム Pending JP2023043986A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021151775A JP2023043986A (ja) 2021-09-17 2021-09-17 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021151775A JP2023043986A (ja) 2021-09-17 2021-09-17 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2023043986A true JP2023043986A (ja) 2023-03-30

Family

ID=85725607

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021151775A Pending JP2023043986A (ja) 2021-09-17 2021-09-17 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP2023043986A (ja)

Similar Documents

Publication Publication Date Title
JP5353148B2 (ja) 画像情報検索装置、画像情報検索方法およびそのコンピュータプログラム
US9076069B2 (en) Registering metadata apparatus
CN103119595B (zh) 通过快门按击的自动媒体共享
US8577882B2 (en) Method and system for searching multilingual documents
US20160371305A1 (en) Method, device and apparatus for generating picture search library, and picture search method, device and apparatus
KR20120102043A (ko) 비디오 세션의 자동 라벨링
WO2011028424A1 (en) Processing geo-location information associated with digital image files
JP2010073114A6 (ja) 画像情報検索装置、画像情報検索方法およびそのコンピュータプログラム
JP2007052565A (ja) 情報処理システム及び情報処理方法
CN101010694A (zh) 检索系统以及检索方法
US20160335152A1 (en) Self-Stabilizing Network Nodes in Mobile Discovery System
CN104520848B (zh) 按照出席者搜索事件
US11159590B1 (en) Content recognition while screen sharing
US10659626B2 (en) Information processing apparatus, information processing method, and storage medium
CN107430498A (zh) 扩展照片的视场
JP7390071B2 (ja) 書類処理装置、書類処理方法、およびプログラム
JP2023043986A (ja) 名刺処理装置、名刺撮影装置、名刺処理方法、およびプログラム
JP2006106857A (ja) 自動販売機システム
JP2006350550A (ja) アルバムコンテンツ自動作成方法及びシステム
JP5708868B1 (ja) プログラム、情報処理装置及び方法
US10699105B2 (en) Workflow creation by image analysis
JP2020038611A (ja) 情報処理装置、情報処理システム、方法、およびプログラム
JP4474348B2 (ja) 情報処理装置、情報処理方法、プログラム、及び記憶媒体
JP6509280B2 (ja) 機種情報を活用したイメージ検索結果を提供する方法およびシステム
US8819534B2 (en) Information processing system and information processing method

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20211011