JP6226187B2 - 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム - Google Patents

情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム Download PDF

Info

Publication number
JP6226187B2
JP6226187B2 JP2013556374A JP2013556374A JP6226187B2 JP 6226187 B2 JP6226187 B2 JP 6226187B2 JP 2013556374 A JP2013556374 A JP 2013556374A JP 2013556374 A JP2013556374 A JP 2013556374A JP 6226187 B2 JP6226187 B2 JP 6226187B2
Authority
JP
Japan
Prior art keywords
local feature
feature
local
communication terminal
medical article
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013556374A
Other languages
English (en)
Other versions
JPWO2013115093A1 (ja
Inventor
野村 俊之
俊之 野村
山田 昭雄
昭雄 山田
岩元 浩太
浩太 岩元
亮太 間瀬
亮太 間瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2013115093A1 publication Critical patent/JPWO2013115093A1/ja
Application granted granted Critical
Publication of JP6226187B2 publication Critical patent/JP6226187B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/66Trinkets, e.g. shirt buttons or jewellery items
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/034Recognition of patterns in medical or anatomical images of medical instruments

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • General Business, Economics & Management (AREA)
  • Epidemiology (AREA)
  • Biomedical Technology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Business, Economics & Management (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Medical Preparation Storing Or Oral Administration Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、局所特徴量を使用して撮像した映像内の医療機器、医療器具または医薬品などの医療用物品を同定するための技術に関する。
上記技術分野において、特許文献1には、入力画像の特異点および等しい距離のエッジ個数と、あらかじめ生成したテンプレートの特異点および等しい距離のエッジ個数との比較に基づいて、医療器具を識別する技術が記載されている。また、特許文献2には、あらかじめモデル画像から生成されたモデル辞書を使用して、クエリ画像を認識する場合に、特徴量をクラスタリングすることにより認識速度を向上させるた技術が記載されている。
特開2010−218149号公報 特開2011−221688号公報
しかしながら、上記文献に記載の技術では、リアルタイムで映像中の画像内の医療機器や医療器具、医薬品などの医療用物品を認識することができなかった。
本発明の目的は、上述の課題を解決する技術を提供することにある。
上記目的を達成するため、本発明に係るシステムは、
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
を備えたことを特徴とする。
上記目的を達成するため、本発明に係る方法は、
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理システムにおける情報処理方法であって、
撮像ステップと、
前記撮像ステップにおいて撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
を備えることを特徴とする。
上記目的を達成するため、本発明に係る装置は、
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信手段と、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信手段と、
を備えることを特徴とする。
上記目的を達成するため、本発明に係る方法は、
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信ステップと、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信ステップと、
を含むことを特徴とする。
上記目的を達成するため、本発明に係るプログラムは、
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信ステップと、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信ステップと、
をコンピュータに実行させることを特徴とする。
上記目的を達成するため、本発明に係る装置は、
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信手段と、
を備えることを特徴とする。
上記目的を達成するため、本発明に係る方法は、
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御方法であって、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
を含むことを特徴とする。
上記目的を達成するため、本発明に係るプログラムは、
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御プログラムであって、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
をコンピュータに実行させることを特徴とする。
本発明によれば、リアルタイムで映像中の画像内の医療機器や医療器具、医薬品などの医療用物品を認識することができる。
本発明の第1実施形態に係る情報処理システムの構成を示すブロック図である。 本発明の第2実施形態に係る情報処理システムの構成を示すブロック図である。 本発明の第2実施形態に係る通信端末における表示画面例を示す図である。 本発明の第2実施形態に係る情報処理システムの病室における動作手順を示すシーケンス図である。 本発明の第2実施形態に係る情報処理システムの手術室における動作手順を示すシーケンス図である。 本発明の第2実施形態に係る情報処理システムの薬局における動作手順を示すシーケンス図である。 本発明の第2実施形態に係る通信端末の機能構成を示すブロック図である。 本発明の第2実施形態に係る病院コンピュータの機能構成を示すブロック図である。 本発明の第2実施形態に係る薬局コンピュータの機能構成を示すブロック図である。 本発明の第2実施形態に係る病院の局所特徴量DBの構成を示す図である。 本発明の第2実施形態に係る医療機器DBの構成を示す図である。 本発明の第2実施形態に係る手術器具DBの構成を示す図である。 本発明の第2実施形態に係る薬局の局所特徴量DBの構成を示す図である。 本発明の第2実施形態に係る処方箋DBの構成を示す図である。 本発明の第2実施形態に係る在庫管理DBの構成を示す図である。 本発明の第2実施形態に係る局所特徴量生成部の機能構成を示すブロック図である。 本発明の第2実施形態に係る局所特徴量生成の手順を説明する図である。 本発明の第2実施形態に係る局所特徴量生成の手順を説明する図である。 本発明の第2実施形態に係る局所特徴量生成部でのサブ領域の選択順位を示す図である。 本発明の第2実施形態に係る局所特徴量生成部での特徴ベクトルの選択順位を示す図である。 本発明の第2実施形態に係る局所特徴量生成部での特徴ベクトルの階層化を示す図である。 本発明の第2実施形態に係る符号化部の構成を示す図である。 本発明の第2実施形態に係る病室における医療用物品認識部の処理を示す図である。 本発明の第2実施形態に係る手術室における医療用物品認識部の処理を示す図である。 本発明の第2実施形態に係る薬局における医薬品認識部の処理を示す図である。 本発明の第2実施形態に係る通信端末のハードウェア構成を示すブロック図である。 本発明の第2実施形態に係る通信端末における局所特徴量生成テーブルを示す図である。 本発明の第2実施形態に係る通信端末の処理手順を示すフローチャートである。 本発明の第2実施形態に係る局所特徴量生成処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る符号化処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る差分値の符号化処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る病院コンピュータのハードウェア構成を示すブロック図である。 本発明の第2実施形態に係る病院コンピュータの処理手順を示すフローチャートである。 本発明の第2実施形態に係る局所特徴量DB生成処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る医療用物品認識処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る照合処理の処理手順を示すフローチャートである。 本発明の第2実施形態に係る薬局コンピュータのハードウェア構成を示すブロック図である。 本発明の第2実施形態に係る薬局コンピュータの処理手順を示すフローチャートである。 本発明の第3実施形態に係る情報処理システムの動作手順を示すシーケンス図である。 本発明の第3実施形態に係る通信端末の機能構成を示すブロック図である。 本発明の第3実施形態に係る精度調整部の第1の構成を示すブロック図である。 本発明の第3実施形態に係る精度調整部の第2の構成を示すブロック図である。 本発明の第3実施形態に係る精度調整部の第2の構成による処理を説明する図である。 本発明の第3実施形態に係る精度調整部の第3の構成を示すブロック図である。 本発明の第3実施形態に係る精度調整部の第4の構成を示すブロック図である。 本発明の第3実施形態に係る精度パラメータの構成を示す図である。 本発明の第3実施形態に係る病院コンピュータの機能構成を示すブロック図である。 本発明の第3実施形態に係る精度調整DBの構成を示す図である。 本発明の第4実施形態に係る情報処理システムの動作手順を示すシーケンス図である。 本発明の第5実施形態に係る通信端末の機能構成を示すブロック図である。
以下に、図面を参照して、本発明の実施の形態について例示的に詳しく説明する。ただし、以下の実施の形態に記載されている構成要素は単なる例示であり、本発明の技術範囲をそれらのみに限定する趣旨のものではない。
[第1実施形態]
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。情報処理システム100は、医療用物品をリアルタイムに認識するシステムである。なお、本明細書中の医療用物品との文言は、医療機器、医療器具、医薬品を含む。
図1に示すように、情報処理システム100は、第1局所特徴量記憶部110と、撮像部120と、第2局所特徴量生成部130と、認識部140と、を含む。第1局所特徴量記憶部110は、医療用物品111と、医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量112とを、対応付けて記憶する。第2局所特徴量生成部130は、撮像部120が撮像した映像中の画像101からn個の特徴点131を抽出する。そして、第2局所特徴量生成部130は、n個の特徴点のそれぞれを含むn個の局所領域132について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量133を生成する。認識部140は、第1局所特徴量112の特徴ベクトルの次元数iおよび第2局所特徴量133の特徴ベクトルの次元数jのうち、より少ない次元数を選択する。そして、認識部140は、選択された次元数までの特徴ベクトルからなるn個の第2局所特徴量133に、選択された次元数までの特徴ベクトルからなるm個の第1局所特徴量112の所定割合以上が対応すると判定した場合に(141)、映像中の画像101に医療用物品111が存在すると認識する。
本実施形態によれば、リアルタイムで映像中の画像内の医療機器や医療器具、医薬品などの医療用物品を認識することができる。
[第2実施形態]
次に、本発明の第2実施形態に係る情報処理システムについて説明する。本実施形態においては、病院あるいは薬局において、各部署で医療用部品を認識して管理する構成を総合的に示す。
本実施形態によれば、リアルタイムで映像中の画像内の医療機器や医療器具、医薬品などの医療用物品を認識して、その管理をすることができる。
《情報処理システムの構成》
図2は、本実施形態に係る情報処理システム200の構成を示すブロック図である。
図2の情報処理システム200は、医療機器や医療器具、医薬品などの医療用物品を認識して管理するシステムである。情報処理システム200は、病院201と薬局202とを含む。そして、病院201に設置された病院コンピュータ201aと薬局202に設置された薬局コンピュータ202aとは、ネットワーク270を介して接続される。病院コンピュータ201aと薬局コンピュータ202aとは、処方箋データを相互に通信する。なお、病院201内の薬局の場合は、病院コンピュータ201aが薬局も総合的に制御してもよい。
図2の病院201では、診察室における処理210と、病室における処理220と、手術室における処理230と、を説明する。
まず、診察室における処理210では、通信端末211が診察室や机上を撮像して、その映像から局所特徴量を生成する。本例では、生成した局所特徴量を病院コンピュータ201aに送る。病院コンピュータ201aにおいては、局所特徴量から診察室や机上の医療機器や医療器具を同定する。そして、医療機器や医療器具の配置、あるいは正常か否かのステータスを判定する。判定結果は、通信端末211が携帯端末であれば通信端末211に報知されてよい。また、図示しないセンターPC(Personal Computer)を通して医師や看護士が監視する。さらに、机上のカルテを認識してもよい。
次に、病室における処理220では、通信端末221が病室を撮像して、その映像から局所特徴量を生成する。生成した局所特徴量を病院コンピュータ201aに送る。病院コンピュータ201aにおいては、局所特徴量から病室の医療機器や医療器具を同定する。そして、医療機器や医療器具の配置、あるいは正常か否かのステータスを判定する。判定結果は、通信端末221が携帯端末であれば通信端末221に報知されてよい。また、図示しないセンターPCを通して医師や看護士が監視する。なお、医療機器や医療器具としては、体温計や点滴用設備も含む。
次に、手術室における処理230では、通信端末231が手術室や手術器具トレー232、あるいは患者、医療機器類を撮像する。撮像された映像から局所特徴量を生成する。生成した局所特徴量を病院コンピュータ201aに送る。病院コンピュータ201aにおいては、局所特徴量から手術室の医療機器や医療器具を同定する。そして、医療機器や医療器具の配置、あるいは正常か否かのステータスを判定する。特に、手術器具トレー232の映像からは、手術器具トレー232中の手術器具の配置、あるいは手術器具が正常か否かのステータスを判定する。判定結果は、通信端末231が携帯端末であれば通信端末231に報知されてよい。また、図示しないセンターPCを通して医師や看護士が監視する。
図2の薬局202では、窓口における処理240と、薬トレー252に対する処理250と、薬棚における棚卸し処理260と、を説明する。
窓口における処理240では、所員が携帯する、あるいは窓口に設置された通信端末241が薬袋242や薬カゴを撮像する。撮像された映像から局所特徴量を生成する。生成した局所特徴量を薬局コンピュータ202aに送る。薬局コンピュータ202aにおいては、局所特徴量から窓口の薬袋や医薬品を同定する。そして、医薬品の種類や数が、処方箋リーダ243が読み取った処方箋に対応するか否かのステータス、あるいは医薬品自身が正常か否かを判定する。判定結果は、通信端末241が携帯端末であれば通信端末241に報知されてよい。また、オペレータPC244を通してオペレータが監視する。
薬トレー252に対する処理250では、薬トレー252を撮影する。撮像された映像から局所特徴量を生成する。生成した局所特徴量を薬局コンピュータ202aに送る。薬局コンピュータ202aにおいては、局所特徴量から薬トレー252内の医薬品を同定する。そして、医薬品の種類や数が、処方箋リーダ243が読み取った処方箋に対応するか否かのステータス、あるいは医薬品自身が正常か否かを判定する。判定結果は、通信端末241により報知される。なお、個別の薬袋の認識と、かご内の複数の医薬品の認識との場合に、異なる精度の局所特徴量を生成するように制御してもよい。
次に、棚卸し処理260においては、所員が携帯する通信端末261で所望の棚を撮像する。撮像された映像から局所特徴量を生成する。生成した局所特徴量を薬局コンピュータ202aに送る。なお、棚卸し処理260では、棚の認識のみではなく棚に陳列された医薬品の1つ1つを認識する必要があるので、窓口の処理240や薬トレーの処理250に比較して、より高精度な特徴点数や特徴ベクトルの次元数による局所特徴量生成が行なわれる(図11A〜図11F参照)。
このように、診察室の処理210と、病室の処理220と、手術室の処理230と、窓口の処理240と、薬トレーの処理250、医薬品の棚卸し処理260を、それぞれ通信端末211〜261による撮像のみによって、リアルタイムに実現できる。
《通信端末における表示画面例》
図3は、本実施形態に係る通信端末221、231、251における表示画面例を示す図である。なお、図3には、病室の通信端末221と、手術室の通信端末231と、薬トレーの通信端末251とを示すが、他の場合も類似である。
図3の上段は、病室における通信端末221の表示画面である。左図の映像画面311から局所特徴量を生成して、あらかじめ生成した各医療機器から生成した局所特徴量と照合する。そして、認識結果の各医療機器のステータスを判定して、右図のように、映像画面にステータス313が重畳された画面312が表示される。画面312はセンターPCに表示されてもよい。
図3の中段は、手術室における通信端末231が手術器具トレーを撮像した表示画面である。左図の映像画面321から局所特徴量を生成して、あらかじめ生成した各医療器具から生成した局所特徴量と照合する。そして、認識結果の各医療器具の数、配置およびステータスを判定して、右図のように、映像画面にステータス323が重畳された画面322が表示される。画面322はセンターPCに表示されてもよい。
図3の下段は、薬局における通信端末251が薬トレーを撮像した表示画面である。左図の映像画面331から局所特徴量を生成して、あらかじめ生成した各医療器具から生成した局所特徴量と照合する。そして、認識結果の各医薬品の数およびステータスを判定して処方箋と比較し、右図のように、映像画面にステータス333が重畳された画面332が表示される。画面332はオペレータPCに表示されてもよい。
《情報処理システムの動作手順》
図4乃至図6を参照して、本実施形態に係る情報処理システム200における各部署に適用した場合の動作手順を示す。
(病室における動作手順)
図4は、本実施形態に係る情報処理システム200の病室における動作手順を示すシーケンス図である。
まず、必要であれば、ステップS400において、病院コンピュータ201aから通信端末221やセンターPCにアプリケーションおよび/またはデータのダウンロードを行なう。そして、ステップS401において、本実施形態の処理を行なうための、アプリケーションの起動と初期化が行なわれる。
ステップS403において、通信端末は、病室を撮影する。ステップS405において、病室の映像から局所特徴量を生成する。続いて、ステップS407において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS409において、通信端末から病院コンピュータ201aに送信される。
病院コンピュータ201aでは、ステップS411において、医療用物品である各医療機器に対して生成され記憶された局所特徴量DB410を参照して、医療機器の認識を行なう。そして、ステップS413において、医療機器の正常ステータスを記憶した医療機器DB420を参照して、医療機器のステータスを判定する。ステップS415において、ステータス判定結果を、病院コンピュータ201aから通信端末やセンターPCに送信する。
通信端末は、ステップS417において受信した判定結果を報知し、センターPCは、ステップS419において受信した判別結果を報知する。
(手術室における動作手順)
図5は、本実施形態に係る情報処理システム200の手術室における動作手順を示すシーケンス図である。
まず、必要であれば、ステップS500において、病院コンピュータ201aから通信端末231やセンターPCにアプリケーションおよび/またはデータのダウンロードを行なう。そして、ステップS501において、本実施形態の処理を行なうための、アプリケーションの起動と初期化が行なわれる。
ステップS503において、通信端末は、手術室を撮影する。ステップS505において、手術室の映像から局所特徴量を生成する。続いて、ステップS507において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS509において、通信端末から病院コンピュータ201aに送信される。
病院コンピュータ201aでは、ステップS511において、医療用物品である各医療機器に対して生成され記憶された局所特徴量DB410を参照して、医療機器の認識を行なう。そして、ステップS513において、医療機器の正常ステータスを記憶した医療機器DB420を参照して、医療機器のステータスを判定する。ステップS515において、ステータス判定結果を、病院コンピュータ201aから通信端末やセンターPCに送信する。
通信端末は、ステップS517において受信した判定結果を報知し、センターPCは、ステップS519において受信した判別結果を報知する。
また、ステップS521において、通信端末は、手術器具トレーを撮影する。ステップS523において、手術器具トレーの映像から局所特徴量を生成する。続いて、ステップS525において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS527において、通信端末から病院コンピュータ201aに送信される。
病院コンピュータ201aでは、ステップS529において、医療用物品である各手術器具に対して生成され記憶された局所特徴量DB410を参照して、手術器具の認識を行なう。そして、ステップS531において、手術器具の正常ステータスを記憶した手術器具DB530を参照して、手術器具の間違いや結果などのステータスを判定する。ステップS533において、ステータス判定結果を、病院コンピュータ201aから通信端末やセンターPCに送信する。
通信端末は、ステップS535において受信した判定結果を報知し、センターPCは、ステップS537において受信した判別結果を報知する。
(薬局における動作手順)
図6は、本実施形態に係る情報処理システム200の薬局における動作手順を示すシーケンス図である。
まず、必要であれば、ステップS600において、薬局コンピュータ202aから通信端末251やオペレータPCにアプリケーションおよび/またはデータのダウンロードを行なう。そして、ステップS601において、本実施形態の処理を行なうための、アプリケーションの起動と初期化が行なわれる。
ステップS603において、通信端末は、薬トレーを撮影する。ステップS605において、薬トレーの映像から局所特徴量を生成する。続いて、ステップS607において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS609において、通信端末から薬局コンピュータ202aに送信される。
薬局コンピュータ202aでは、ステップS611において、医療用物品である各医薬品に対して生成され記憶された局所特徴量DB610を参照して、医薬品の認識を行なう。そして、ステップS613において、医薬品および医薬品の数を記憶した処方箋DB620を参照して、医薬品のステータスを判定する。ステップS615において、ステータス判定結果を、薬局コンピュータ202aから通信端末やオペレータPCに送信する。
通信端末は、ステップS617において受信した判定結果を報知し、オペレータPCは、ステップS619において受信した判別結果を報知する。
また、ステップS621において、通信端末は、薬棚を撮影する。ステップS623において、薬棚の映像から局所特徴量を生成する。続いて、ステップS625において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS627において、通信端末から薬局コンピュータ202aに送信される。
薬局コンピュータ202aでは、ステップS629において、医療用物品である各医薬品に対して生成され記憶された局所特徴量DB610を参照して、薬棚および医薬品の認識を行なう。そして、ステップS631において、医薬品の在庫を記憶した在庫管理DB630を参照して、薬棚内の医薬品配置および数を判定する。ステップS633において、判定結果を、薬局コンピュータ202aから通信端末やオペレータPCに送信する。
通信端末は、ステップS635において受信した判定結果を報知し、オペレータPCは、ステップS637において受信した判別結果を報知する。
《通信端末の機能構成》
図7は、本実施形態に係る通信端末211、221、231、241、251の機能構成を示すブロック図である。
図7において、撮像部701は、クエリ画像を入力する。局所特徴量生成部702は、撮像部701からの映像から局所特徴量を生成する。生成された局所特徴量を、特徴点座標と共に、局所特徴量送信部703で符号化部703aにより符号化され、通信制御部704を介して、局所特徴量により医療用物品の認識およびステータス判定を行なう病院コンピュータまたは薬局コンピュータに送信する。
医療用物品結果受信部705は、通信制御部704を介して医療用物品判定結果を受信する。そして、判定結果報知部706は、受信した医療用物品判定結果をユーザに報知する。判定結果報知部706は、撮像部701からの映像と医療用物品判定結果とを重畳した表示を含む。
《病院コンピュータの機能構成》
図8Aは、本実施形態に係る病院コンピュータ201aの機能構成を示すブロック図である。
図8Aにおいて、局所特徴量受信部812は、通信制御部811を介して通信端末から受信した局所特徴量を復号部812aで復号する。医療用物品認識部813は、受信した局所特徴量を、医療用物品に対応する局所特徴量を格納する局所特徴量DB410の局所特徴量と照合して、医療用物品を認識する。
判定物品選択部814は、認識した医療用物品が医療機器であるか手術器具であるかにより異なる判定を選択する。医療機器の場合は、医療機器ステータス判定部815で医療機器DB420を参照して、医療機器のステータスを判定する。医療機器判定結果生成部816は、判定結果のデータを生成する。
一方、手術器具の場合は、手術器具ステータス判定部817で手術器具DB530を参照して、手術器具の配置および数のステータスを判定する。手術器具判定結果生成部818は、判定結果のデータを生成する。
判定結果送信部819は、判定結果のデータを、通信制御部811を介して、通信端末やセンターPCに送信する。
《薬局コンピュータの機能構成》
図8Bは、本実施形態に係る薬局コンピュータ202aの機能構成を示すブロック図である。
図8Bにおいて、局所特徴量受信部822は、通信制御部821を介して通信端末から受信した局所特徴量を復号部822aで復号する。医薬品認識部823は、受信した局所特徴量を、医薬品(薬棚)に対応する局所特徴量を格納する局所特徴量DB610の局所特徴量と照合して、医薬品(薬棚)を認識する。
判定物品選択部814は、認識した医療用物品が医薬品であるか薬棚を含むかにより異なる判定を選択する。医薬品の場合は、処方箋ステータス判定部825で処方箋DB620を参照して、医薬品のステータスを判定する。処方箋判定結果生成部826は、判定結果のデータを生成する。
一方、薬棚を含む場合は、薬棚ステータス判定部827で在庫管理DB630を参照して、薬棚内の医薬品の配置および数のステータスを判定する。在庫管理結果生成部828は、判定結果のデータを生成する。
判定結果送信部829は、判定結果のデータを、通信制御部821を介して、通信端末やオペレータPCに送信する。
(病院の局所特徴量DB)
図9Aは、本実施形態に係る病院の局所特徴量DB410の構成を示す図である。なお、かかる構成に限定されない。
局所特徴量DB410は、医療用物品ID(医療機器ID、医療器具ID)911と名/種別912に対応付けて、第1番局所特徴量913、第2番局所特徴量914、…、第m番局所特徴量915を記憶する。各局所特徴量は、5×5のサブ領域に対応して、25次元ずつに階層化された1次元から150次元の要素からなる特徴ベクトルを記憶する(図11F参照)。
なお、mは正の整数であり、医療用物品IDに対応して異なる数でよい。また、本実施形態においては、それぞれの局所特徴量と共に照合処理に使用される特徴点座標が記憶される。
(医療機器DB)
図9Bは、本実施形態に係る医療機器DB420の構成を示す図である。なお、かかる構成に限定されない。
医療機器DB420は、医療機器ID921と名/種別922に対応付けて、メーカ/型923、スイッチ状態924、メータ針の位置(表示波形の位置)925、病室配置926、手術室配置927、を記憶する。
(手術器具DB)
図9Cは、本実施形態に係る手術器具DB530の構成を示す図である。手術器具DB530は、各手術器具の情報を記憶するDB930と、手術に対応して手術器具のトレー内の配置および数を記憶するDB940とを含む。なお、かかる構成に限定されない。
各手術器具の情報を記憶するDB930は、手術器具ID931と名/種別932とに対応付けて、メーカ/型933、サイズ934、形状935、表面状態936、を記憶する。
トレー内の配置および数を記憶するDB940は、手術種別941に対応付けて、第1手術器具IDのトレー配置と本数942、第2手術器具IDのトレー位置と本数943、第k手術器具IDのトレー配置と本数944、を記憶する。
(薬局の局所特徴量DB)
図10Aは、本実施形態に係る薬局の局所特徴量DB610の構成を示す図である。なお、かかる構成に限定されない。
局所特徴量DB610は、医療用物品ID(医薬品ID、薬棚ID)1011と名/種別1012に対応付けて、第1番局所特徴量1013、第2番局所特徴量1014、…、第m番局所特徴量1015を記憶する。各局所特徴量は、5×5のサブ領域に対応して、25次元ずつに階層化された1次元から150次元の要素からなる特徴ベクトルを記憶する(図11F参照)。
なお、mは正の整数であり、医療用物品IDに対応して異なる数でよい。また、本実施形態においては、それぞれの局所特徴量と共に照合処理に使用される特徴点座標が記憶される。
(処方箋DB)
図10Bは、本実施形態に係る処方箋DB620の構成を示す図である。なお、かかる構成に限定されない。
処方箋DB620は、患者ID1021と患者名1022と日時1023とを対応付けて、処方箋1024を記憶する。処方箋1024の各欄には、医薬品IDあるいはジェネリックIDが記憶される。
(在庫管理DB)
図10Cは、本実施形態に係る在庫管理DB630の構成を示す図である。なお、かかる構成に限定されない。
医薬品ID1031に対応付けて、ジェネリックか否か1032、ジェネリックの場合の対応先発薬1033、棚位置1034、入庫数1035、出庫数1036、在庫数1037、を記憶する。
《局所特徴量生成部》
図11Aは、本実施形態に係る局所特徴量生成部702の構成を示すブロック図である。
局所特徴量生成部702は、特徴点検出部1111、局所領域取得部1112、サブ領域分割部1113、サブ領域特徴ベクトル生成部1114、および次元選定部1115を含んで構成される。
特徴点検出部1111は、画像データから特徴的な点(特徴点)を多数検出し、各特徴点の座標位置、スケール(大きさ)、および角度を出力する。
局所領域取得部1112は、検出された各特徴点の座標値、スケール、および角度から、特徴量抽出を行う局所領域を取得する。
サブ領域分割部1113は、局所領域をサブ領域に分割する。たとえば、サブ領域分割部1113は、局所領域を16ブロック(4×4ブロック)に分割することも、局所領域を25ブロック(5×5ブロック)に分割することもできる。なお、分割数は限定されない。本実施形態においては、以下、局所領域を25ブロック(5×5ブロック)に分割する場合を代表して説明する。
サブ領域特徴ベクトル生成部1114は、局所領域のサブ領域ごとに特徴ベクトルを生成する。サブ領域の特徴ベクトルとしては、たとえば、勾配方向ヒストグラムを用いることができる。
次元選定部1115は、サブ領域の位置関係に基づいて、近接するサブ領域の特徴ベクトル間の相関が低くなるように、局所特徴量として出力する次元を選定する(たとえば、間引きする)。また、次元選定部1115は、単に次元を選定するだけではなく、選定の優先順位を決定することができる。すなわち、次元選定部1115は、たとえば、隣接するサブ領域間では同一の勾配方向の次元が選定されないように、優先順位をつけて次元を選定することができる。そして、次元選定部1115は、選定した次元から構成される特徴ベクトルを、局所特徴量として出力する。なお、次元選定部1115は、優先順位に基づいて次元を並び替えた状態で、局所特徴量を出力することができる。
《局所特徴量生成部の処理》
図11B〜図11Fは、本実施形態に係る局所特徴量生成部702の処理を示す図である。
まず、図11Bは、局所特徴量生成部702における、特徴点検出/局所領域取得/サブ領域分割/特徴ベクトル生成の一連の処理を示す図である。かかる一連の処理については、米国特許第6711293号明細書や、David G. Lowe著、「Distinctive image features from scale-invariant key points」、(米国)、International Journal of Computer Vision、60(2)、2004年、p. 91-110を参照されたい。
(特徴点検出部)
図11Bの画像1121は、図11Aの特徴点検出部1111において、映像中の画像から特徴点を検出した状態を示す図である。以下、1つの特徴点データ1121aを代表させて局所特徴量の生成を説明する。特徴点データ1121aの矢印の起点が特徴点の座標位置を示し、矢印の長さがスケール(大きさ)を示し、矢印の方向が角度を示す。ここで、スケール(大きさ)や方向は、対象映像にしたがって輝度や彩度、色相などを選択できる。また、図11Bの例では、60度間隔で6方向の場合を説明するが、これに限定されない。
(局所領域取得部)
図11Aの局所領域取得部1112は、例えば、特徴点データ1121aの起点を中心にガウス窓1122aを生成し、このガウス窓1122aをほぼ含む局所領域1122を生成する。図11Bの例では、局所領域取得部1112は正方形の局所領域1122を生成したが、局所領域は円形であっても他の形状であってもよい。この局所領域を各特徴点について取得する。局所領域が円形であれば、撮影方向に対してロバスト性が向上するという効果がある。
(サブ領域分割部)
次に、サブ領域分割部1113において、上記特徴点データ1121aの局所領域1122に含まれる各画素のスケールおよび角度をサブ領域1123に分割した状態が示されている。なお、図11Bでは4×4=16画素をサブ領域とする5×5=25のサブ領域に分割した例を示す。しかし、サブ領域は、4×4=16や他の形状、分割数であってもよい。
(サブ領域特徴ベクトル生成部)
サブ領域特徴ベクトル生成部1114は、サブ領域内の各画素のスケールを6方向の角度単位にヒストグラムを生成して量子化し、サブ領域の特徴ベクトル1124とする。すなわち、特徴点検出部1111が出力する角度に対して正規化された方向である。そして、サブ領域特徴ベクトル生成部1114は、サブ領域ごとに量子化された6方向の頻度を集計し、ヒストグラムを生成する。この場合、サブ領域特徴ベクトル生成部1114は、各特徴点に対して生成される25サブ領域ブロック×6方向=150次元のヒストグラムにより構成される特徴ベクトルを出力する。また、勾配方向を6方向に量子化するだけに限らず、4方向、8方向、10方向など任意の量子化数に量子化してよい。勾配方向をD方向に量子化する場合、量子化前の勾配方向をG(0〜2πラジアン)とすると、勾配方向の量子化値Qq(q=0,…,D−1)は、例えば式(1)や式(2)などで求めることができるが、これに限られない。
Qq=floor(G×D/2π) …(1)
Qq=round(G×D/2π)modD …(2)
ここで、floor()は小数点以下を切り捨てる関数、round()は四捨五入を行う関数、modは剰余を求める演算である。また、サブ領域特徴ベクトル生成部1114は勾配ヒストグラムを生成するときに、単純な頻度を集計するのではなく、勾配の大きさを加算して集計してもよい。また、サブ領域特徴ベクトル生成部1114は勾配ヒストグラムを集計するときに、画素が属するサブ領域だけではなく、サブ領域間の距離に応じて近接するサブ領域(隣接するブロックなど)にも重み値を加算するようにしてもよい。また、サブ領域特徴ベクトル生成部1114は量子化された勾配方向の前後の勾配方向にも重み値を加算するようにしてもよい。なお、サブ領域の特徴ベクトルは勾配方向ヒストグラムに限られず、色情報など、複数の次元(要素)を有するものであればよい。本実施形態においては、サブ領域の特徴ベクトルとして、勾配方向ヒストグラムを用いることとして説明する。
(次元選定部)
次に、図11C〜図11Fにしたがって、局所特徴量生成部702における、次元選定部1115に処理を説明する。
次元選定部1115は、サブ領域の位置関係に基づいて、近接するサブ領域の特徴ベクトル間の相関が低くなるように、局所特徴量として出力する次元(要素)を選定する(間引きする)。より具体的には、次元選定部1115は、例えば、隣接するサブ領域間では少なくとも1つの勾配方向が異なるように次元を選定する。なお、本実施形態では、次元選定部1115は近接するサブ領域として主に隣接するサブ領域を用いることとするが、近接するサブ領域は隣接するサブ領域に限られず、例えば、対象のサブ領域から所定距離内にあるサブ領域を近接するサブ領域とすることもできる。
図11Cは、局所領域を5×5ブロックのサブ領域に分割し、勾配方向を6方向1131aに量子化して生成された150次元の勾配ヒストグラムの特徴ベクトル1131から次元を選定する場合の一例を示す図である。図11Cの例では、150次元(5×5=25サブ領域ブロック×6方向)の特徴ベクトルから次元の選定が行われている。
(局所領域の次元選定)
図11Cは、局所特徴量生成部702における、特徴ベクトルの次元数の選定処理の様子を示す図である。
図11Cに示すように、次元選定部1115は、150次元の勾配ヒストグラムの特徴ベクトル1131から半分の75次元の勾配ヒストグラムの特徴ベクトル1132を選定する。この場合、隣接する左右、上下のサブ領域ブロックでは、同一の勾配方向の次元が選定されないように、次元を選定することができる。
この例では、勾配方向ヒストグラムにおける量子化された勾配方向をq(q=0,1,2,3,4,5)とした場合に、q=0,2,4の要素を選定するブロックと、q=1,3,5の要素を選定するサブ領域ブロックとが交互に並んでいる。そして、図11Cの例では、隣接するサブ領域ブロックで選定された勾配方向を合わせると、全6方向となっている。
また、次元選定部1115は、75次元の勾配ヒストグラムの特徴ベクトル1132から50次元の勾配ヒストグラムの特徴ベクトル1133を選定する。この場合、斜め45度に位置するサブ領域ブロック間で、1つの方向のみが同一になる(残り1つの方向は異なる)ように次元を選定することができる。
また、次元選定部1115は、50次元の勾配ヒストグラムの特徴ベクトル1133から25次元の勾配ヒストグラムの特徴ベクトル1134を選定する場合は、斜め45度に位置するサブ領域ブロック間で、選定される勾配方向が一致しないように次元を選定することができる。図11Cに示す例では、次元選定部1115は、1次元から25次元までは各サブ領域から1つの勾配方向を選定し、26次元から50次元までは2つの勾配方向を選定し、51次元から75次元までは3つの勾配方向を選定している。
このように、隣接するサブ領域ブロック間で勾配方向が重ならないように、また全勾配方向が均等に選定されることが望ましい。また同時に、図11Cに示す例のように、局所領域の全体から均等に次元が選定されることが望ましい。なお、図11Cに示した次元選定方法は一例であり、この選定方法に限らない。
(局所領域の優先順位)
図11Dは、局所特徴量生成部702における、サブ領域からの特徴ベクトルの選定順位の一例を示す図である。
次元選定部1115は、単に次元を選定するだけではなく、特徴点の特徴に寄与する次元から順に選定するように、選定の優先順位を決定することができる。すなわち、次元選定部1115は、例えば、隣接するサブ領域ブロック間では同一の勾配方向の次元が選定されないように、優先順位をつけて次元を選定することができる。そして、次元選定部1115は、選定した次元から構成される特徴ベクトルを、局所特徴量として出力する。なお、次元選定部1115は、優先順位に基づいて次元を並び替えた状態で、局所特徴量を出力することができる。
すなわち、次元選定部1115は、1〜25次元、26次元〜50次元、51次元〜75次元の間は、例えば図11Dのマトリクス1141に示すようなサブ領域ブロックの順番で次元を追加するように選定していってもよい。図11Dのマトリクス1141に示す優先順位を用いる場合、次元選定部1115は、中心に近いサブ領域ブロックの優先順位を高くして、勾配方向を選定していくことができる。
図11Eのマトリクス1151は、図11Dの選定順位にしたがって、150次元の特徴ベクトルの要素の番号の一例を示す図である。この例では、5×5=25ブロックをラスタスキャン順に番号p(p=0,1,…,25)で表し、量子化された勾配方向をq(q=0,1,2,3,4,5)とした場合に、特徴ベクトルの要素の番号を6×p+qとしている。
図11Fのマトリクス1161は、図11Eの選定順位による150次元の順位が、25次元単位に階層化されていることを示す図である。すなわち、図11Fのマトリクス1161は、図4Dのマトリクス1141に示した優先順位にしたがって図11Eに示した要素を選定していくことにより得られる局所特徴量の構成例を示す図である。次元選定部1115は、図11Fに示す順序で次元要素を出力することができる。具体的には、次元選定部1115は、例えば150次元の局所特徴量を出力する場合、図11Fに示す順序で全150次元の要素を出力することができる。また、次元選定部1115は、例えば25次元の局所特徴量を出力する場合、図11Fに示す1行目(76番目、45番目、83番目、…、120番目)の要素1171を図11Fに示す順(左から右)に出力することができる。また、次元選定部1115は、例えば50次元の局所特徴量を出力する場合、図11Fに示す1行目に加えて、図11Fに示す2行目の要素1172を図11Fに示す順(左から右)に出力することができる。
ところで、図11Fに示す例では、局所特徴量は階層的な構造となっている。すなわち、例えば、25次元の局所特徴量と150次元の局所特徴量とにおいて、先頭の25次元分の局所特徴量における要素1171〜1176の並びは同一となっている。このように、次元選定部1115は、階層的(プログレッシブ)に次元を選定することにより、アプリケーションや通信容量、端末スペックなどに応じて、任意の次元数の局所特徴量、すなわち任意のサイズの局所特徴量を抽出して出力することができる。また、次元選定部1115が、階層的に次元を選定し、優先順位に基づいて次元を並び替えて出力することにより、異なる次元数の局所特徴量を用いて、画像の照合を行うことができる。例えば、75次元の局所特徴量と50次元の局所特徴量を用いて画像の照合が行われる場合、先頭の50次元だけを用いることにより、局所特徴量間の距離計算を行うことができる。
なお、図11Dのマトリクス1141から図11Fに示す優先順位は一例であり、次元を選定する際の順序はこれに限られない。例えば、ブロックの順番に関しては、図11Dのマトリクス1141の例の他に、図11Dのマトリクス1142や図11Dのマトリクス1143に示すような順番でもよい。また、例えば、全てのサブ領域からまんべんなく次元が選定されるように優先順位が定められることとしてもよい。また、局所領域の中央付近が重要として、中央付近のサブ領域の選定頻度が高くなるように優先順位が定められることとしてもよい。また、次元の選定順序を示す情報は、例えば、プログラムにおいて規定されていてもよいし、プログラムの実行時に参照されるテーブル等(選定順序記憶部)に記憶されていてもよい。
また、次元選定部1115は、サブ領域ブロックを1つ飛びに選択して、次元の選定を行ってもよい。すなわち、あるサブ領域では6次元が選定され、当該サブ領域に近接する他のサブ領域では0次元が選定される。このような場合においても、近接するサブ領域間の相関が低くなるようにサブ領域ごとに次元が選定されていると言うことができる。
また、局所領域やサブ領域の形状は、正方形に限られず、任意の形状とすることができる。例えば、局所領域取得部1112が、円状の局所領域を取得することとしてもよい。この場合、サブ領域分割部1113は、円状の局所領域を例えば複数の局所領域を有する同心円に9分割や17分割のサブ領域に分割することができる。この場合においても、次元選定部1115は、各サブ領域において、次元を選定することができる。
以上、図11B〜図11Fに示したように、本実施形態の局所特徴量生成部702によれば、局所特徴量の情報量を維持しながら生成された特徴ベクトルの次元が階層的に選定される。この処理により、認識精度を維持しながらリアルタイムでの医療用物品認識と認識結果の表示が可能となる。なお、局所特徴量生成部702の構成および処理は本例に限定されない。認識精度を維持しながらリアルタイムでの医療用物品認識と認識結果の表示が可能となる他の処理が当然に適用できる。
(符号化部)
図11Gは、本実施形態に係る符号化部703aを示すブロック図である。なお、符号化部は本例に限定されず、他の符号化処理も適用可能である。
符号化部703aは、局所特徴量生成部702の特徴点検出部1111から特徴点の座標を入力して、座標値を走査する座標値走査部1181を有する。座標値走査部1181は、画像をある特定の走査方法にしたがって走査し、特徴点の2次元座標値(X座標値とY座標値)を1次元のインデックス値に変換する。このインデックス値は、走査に従った原点からの走査距離である。なお、走査方向については、制限はない。
また、特徴点のインデックス値をソートし、ソート後の順列の情報を出力するソート部1182を有する。ここでソート部1182は、例えば昇順にソートする。また降順にソートしてもよい。
また、ソートされたインデックス値における、隣接する2つのインデックス値の差分値を算出し、差分値の系列を出力する差分算出部1183を有する。
そして、差分値の系列を系列順に符号化する差分符号化部1184を有する。差分値の系列の符号化は、例えば固定ビット長の符号化でもよい。固定ビット長で符号化する場合、そのビット長はあらかじめ規定されていてもよいが、これでは考えられうる差分値の最大値を表現するのに必要なビット数を要するため、符号化サイズは小さくならない。そこで、差分符号化部1184は、固定ビット長で符号化する場合、入力された差分値の系列に基づいてビット長を決定することができる。具体的には、例えば、差分符号化部1184は、入力された差分値の系列から差分値の最大値を求め、その最大値を表現するのに必要なビット数(表現ビット数)を求め、求められた表現ビット数で差分値の系列を符号化することができる。
一方、ソートされた特徴点のインデックス値と同じ順列で、対応する特徴点の局所特徴量を符号化する局所特徴量符号化部1185を有する。ソートされたインデックス値と同じ順列で符号化することで、差分符号化部1184で符号化された座標値と、それに対応する局所特徴量とを1対1で対応付けることが可能となる。局所特徴量符号化部1185は、本実施形態においては、1つの特徴点に対する150次元の局所特徴量から次元選定された局所特徴量を、例えば1次元を1バイトで符号化し、次元数のバイトで符号化することができる。
(医療用物品認識部/医薬品認識部)
図11H、図11Jおよび図11Kは、本実施形態に係る医療用物品認識部813、医薬品認識部823の処理を示す図である。
図11Hは、図2の病室における医療用物品認識部813の処理を示す図である。図11Hに示す、あらかじめ医療機器や点滴袋などから本実施形態に従い生成された局所特徴量1191〜1193は、局所特徴量DB410に格納されている。一方、図11Hの左図の通信端末221で撮像された映像画面311からは、本実施形態に従い局所特徴量が生成される。そして、局所特徴量DB410に格納された局所特徴量1191〜1193が、映像画面311から生成された局所特徴量中にあるか否かが照合される。
図11Hに示すように、医療用物品認識部813は、局所特徴量DB410に格納されている局所特徴量と局所特徴量が合致する各特徴点を細線のように関連付ける。なお、医療用物品認識部813は、局所特徴量の所定割合以上が一致する場合を特徴点の合致とする。そして、医療用物品認識部813は、関連付けられた特徴点の集合間の位置関係が線形関係であれば、対象医療用物品であると認識する。このような認識を行なえば、サイズの大小や向きの違い(視点の違い)、あるいは反転などによっても認識が可能である。また、所定数以上の関連付けられた特徴点があれば認識精度が得られるので、一部が視界から隠れていても医療用物品の認識が可能である。
図11Hにおいては、局所特徴量DB410の3つの医療用物品の局所特徴量1191〜1193に合致する、病室内の向きの異なる3つの医療用物品が局所特徴量の精度に対応する精密さを持って認識される。
図11Jは、図2の手術室の医療用物品(手術器具)に対する医療用物品認識部813の処理を示す図である。図11Jに示す、あらかじめ医療器具のメス、カンシ、セッシなどから本実施形態に従い生成された局所特徴量1194〜1196は、局所特徴量DB410に格納されている。一方、図11Jの左図の通信端末231で撮像された映像画面321からは、本実施形態に従い局所特徴量が生成される。そして、局所特徴量DB410に格納された局所特徴量1194〜1196が、映像画面321から生成された局所特徴量中にあるか否かが照合される。
図11Jに示すように、医療用物品認識部813は、局所特徴量DB410に格納されている局所特徴量と局所特徴量が合致する各特徴点を細線のように関連付ける。なお、医療用物品認識部813は、局所特徴量の所定割合以上が一致する場合を特徴点の合致とする。そして、医療用物品認識部813は、関連付けられた特徴点の集合間の位置関係が線形関係であれば、対象医療用物品であると認識する。このような認識を行なえば、サイズの大小や向きの違い(視点の違い)、あるいは反転などによっても認識が可能である。また、所定数以上の関連付けられた特徴点があれば認識精度が得られるので、一部が視界から隠れていても医療用物品の認識が可能である。
図11Jにおいては、局所特徴量DB410の3つの医療用物品の局所特徴量1194〜1196に合致する、手術器具トレー内の向きの異なる手術器具が局所特徴量の精度に対応する精密さを持って認識される。なお、図11Jにおいては、煩雑さをさけるため、各手術器具に対して手術器具トレー内の1つしか対応させていないが、他の同じ手術器具を認識する処理は同様である。
図11Kは、図2の薬局の薬トレー内の医薬品に対する医薬品認識部823の処理を示す図である。図11Kに示す、あらかじめ各医薬品から本実施形態に従い生成された局所特徴量1197〜1199は、局所特徴量DB610に格納されている。一方、図11Kの左図の通信端末251で撮像された映像画面331からは、本実施形態に従い局所特徴量が生成される。そして、局所特徴量DB610に格納された局所特徴量1197〜1199が、映像画面331から生成された局所特徴量中にあるか否かが照合される。
図11Kに示すように、医薬品認識部823は、局所特徴量DB610に格納されている局所特徴量と局所特徴量が合致する各特徴点を細線のように関連付ける。なお、医薬品認識部823は、局所特徴量の所定割合以上が一致する場合を特徴点の合致とする。そして、医薬品認識部823は、関連付けられた特徴点の集合間の位置関係が線形関係であれば、対象の医療用物品であると認識する。このような認識を行なえば、サイズの大小や向きの違い(視点の違い)、あるいは反転などによっても認識が可能である。また、所定数以上の関連付けられた特徴点があれば認識精度が得られるので、一部が視界から隠れていても医療用物品の認識が可能である。
図11Kにおいては、局所特徴量DB610の3つの医薬品の局所特徴量1197〜1199に合致する、薬トレー内の向きの異なる医薬品が局所特徴量の精度に対応する精密さを持って認識される。なお、図11Kにおいては、煩雑さをさけるため、各医薬品に対して薬トレー内の1つしか対応させていないが、他の同じ医薬品を認識する処理は同様である。
なお、本実施形態の医療用物品認識部813、医薬品認識部823の照合処理では、特徴点座標と局所特徴量とに基づいて照合が行なわれるが、合致する医療用物品から生成された局所特徴量と映像中の画像から生成された局所特徴量との配列順序の線形関係のみによっても、認識が可能である。一方、本実施形態では、2次元画像によって説明されているが、3次元の特徴点座標を使用しても、同様の処理が可能である。
《通信端末のハードウェア構成》
図12Aは、本実施形態に係る通信端末211〜261のハードウェア構成を示すブロック図である。
図12Aで、CPU1210は演算制御用のプロセッサであり、プログラムを実行することで通信端末211〜261の各機能構成部を実現する。ROM1220は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。また、通信制御部704は通信制御部であり、本実施形態においては、ネットワークを介して病院コンピュータ201aや薬局コンピュータ202aと通信する。なお、CPU1210は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPU(Graphics Processing Unit)を含んでもよい。
RAM1240は、CPU1210が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM1240には、本実施形態の実現に必要なデータを記憶する領域が確保されている。入力映像1241は、撮像部701が撮像して入力した入力映像を示す。特徴点データ1242は、入力映像1241から検出した特徴点座標、スケール、角度を含む特徴点データを示す。局所特徴量生成テーブル1243は、局所特徴量を生成するまでのデータを保持する局所特徴量生成テーブルを示す(12B参照)。局所特徴量1244は、局所特徴量生成テーブル1243を使って生成され、通信制御部704を介して医療用物品の認識および判定を行なう送信先に送る局所特徴量を示す。医療用物品判定結果1245は、通信制御部704を介して送信先から返信された医療用物品判定結果を示す。表示画面データ1246は、ユーザに医療用物品判定結果1245を含む情報を報知するための表示画面データを示す。なお、音声出力をする場合には、音声データが含まれてもよい。入出力/送受信データ1247は、入出力インタフェース1260を介して入出力される入出力データおよび通信制御部704を介して送受信される送受信データを示す。
ストレージ1250には、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。ストレージ1250には、以下のプログラムが格納される。通信端末制御プログラム1251は、本通信端末211〜261の全体を制御する通信端末制御プログラムを示す。通信端末制御プログラム1251には、以下のモジュールが含まれている。
局所特徴量生成モジュール1252は、通信端末制御プログラム1251において、入力映像から図11B〜図11Fにしたがって局所特徴量を生成するモジュールである。符号化モジュール1258は、局所特徴量生成モジュール1252により生成された局所特徴量を送信のために符号化するモジュールである。医療用物品判定結果報知モジュール1259は、医療用物品判定結果を受信して表示または音声によりユーザに報知するためのモジュールである。
入出力インタフェース1260は、入出力機器との入出力データをインタフェースする。入出力インタフェース1260には、表示部1261、操作部1262であるタッチパネルやキーボード、スピーカ1263、マイク1264、撮像部701が接続される。入出力機器は上記例に限定されない。また、必要であれば、GPS(Global Positioning System)位置生成部1265が搭載され、GPS衛星からの信号に基づいて現在位置を取得する。
なお、図12Aには、本実施形態に必須なデータやプログラムのみが示されており、本実施形態に関連しないデータやプログラムは図示されていない。
(局所特徴量生成テーブル)
図12Bは、本実施形態に係る通信端末211〜261における局所特徴量生成テーブル1243を示す図である。
局所特徴量生成テーブル1243には、入力画像ID1201に対応付けて、複数の検出された検出特徴点1202,特徴点座標1203および特徴点に対応する局所領域情報1204が記憶される。そして、各検出特徴点1202,特徴点座標1203および局所領域情報1204に対応付けて、複数のサブ領域ID1205,サブ領域情報1206,各サブ領域に対応する特徴ベクトル1207および優先順位を含む選定次元1208が記憶される。
以上のデータから各検出特徴点1202に対して生成された局所特徴量1209が生成される。
《通信端末の処理手順》
図13は、本実施形態に係る通信端末211〜261の処理手順を示すフローチャートである。このフローチャートは、図12AのCPU1210によってRAM1240を用いて実行され、図7の各機能構成部を実現する。
まず、ステップS1311において、医療用物品の認識を行なうための映像入力があったか否かを判定する。また、ステップS1321においてはデータ受信を判定する。いずれでもなければ、ステップS1331においてその他の処理を行なう。なお、通常の送信処理については説明を省略する。
映像入力があればステップS1313に進んで、入力映像から局所特徴量生成処理を実行する(図14A参照)。次に、ステップS1315において、局所特徴量および特徴点座標を符号化する(図14Bおよび図14C参照)。ステップS1317においては、符号化されたデータを病院コンピュータ201aまたは薬局コンピュータ202aに送信する。
データ受信の場合はステップS1323に進んで、病院コンピュータ201aまたは薬局コンピュータ202aからの医療用物品判定結果の受信か否かを判定する。医療用物品判定結果の受信であればステップS1325に進んで、受信した医療用物品判定結果を報知する。
(局所特徴量生成処理)
図14Aは、本実施形態に係る局所特徴量生成処理S1313の処理手順を示すフローチャートである。
まず、ステップS1411において、入力映像から特徴点の位置座標、スケール、角度を検出する。ステップS1413において、ステップS1411で検出された特徴点の1つに対して局所領域を取得する。次に、ステップS1415において、局所領域をサブ領域に分割する。ステップS1417においては、各サブ領域の特徴ベクトルを生成して局所領域の特徴ベクトルを生成する。ステップS1411からS1417の処理は図11Bに図示されている。
次に、ステップS1419において、ステップS1417において生成された局所領域の特徴ベクトルに対して次元選定を実行する。次元選定については、図11D〜図11Fに図示されている。
ステップS1421においては、ステップS1411で検出した全特徴点について局所特徴量の生成と次元選定とが終了したかを判定する。終了していない場合はステップS1413に戻って、次の1つの特徴点について処理を繰り返す。
(符号化処理)
図14Bは、本実施形態に係る符号化処理S1315の処理手順を示すフローチャートである。
まず、ステップS1431において、特徴点の座標値を所望の順序で走査する。次に、ステップS1433において、走査した座標値をソートする。ステップS1435において、ソートした順に座標値の差分値を算出する。ステップS1437においては、差分値を符号化する(図14C参照)。そして、ステップS1439において、座標値のソート順に局所特徴量を符号化する。なお、差分値の符号化と局所特徴量の符号化とは並列に行なってもよい。
(差分値の符号化処理)
図14Cは、本実施形態に係る差分値の符号化処理S1437の処理手順を示すフローチャートである。
まず、ステップS1441において、差分値が符号化可能な値域内であるか否かを判定する。符号化可能な値域内であればステップS1447に進んで、差分値を符号化する。そして、ステップS1449へ移行する。符号化可能な値域内でない場合(値域外)はステップS1443に進んで、エスケープコードを符号化する。そしてステップS1445において、ステップS1447の符号化とは異なる符号化方法で差分値を符号化する。そして、ステップS1449へ移行する。ステップS1449では、処理された差分値が差分値の系列の最後の要素であるかを判定する。最後である場合は、処理が終了する。最後でない場合は、再度ステップS1441に戻って、差分値の系列の次の差分値に対する処理が実行される。
《病院コンピュータのハードウェア構成》
図15は、本実施形態に係る病院コンピュータ201aのハードウェア構成を示すブロック図である。
図15で、CPU1510は演算制御用のプロセッサであり、プログラムを実行することで病院コンピュータ201aの各機能構成部を実現する。ROM1520は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。また、通信制御部811は通信制御部であり、本実施形態においては、ネットワークを介して通信端末あるいは薬局コンピュータ202aと通信する。なお、CPU1510は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPUを含んでもよい。
RAM1540は、CPU1510が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM1540には、本実施形態の実現に必要なデータを記憶する領域が確保されている。受信した局所特徴量1541は、通信端末から受信した特徴点座標を含む局所特徴量を示す。読出した局所特徴量1542は、局所特徴量DB410から読み出した特徴点座標を含むと局所特徴量を示す。医療用部品認識結果1543は、受信した局所特徴量と局所特徴量DB410に格納された局所特徴量との照合から認識された、医療用物品認識結果を示す。医療用物品配置判定結果1544は、医療機器や手術器具の判定配置である医療用物品配置判定結果を示す。認識した医療用物品数1545は、特に手術器具の認識数である医療用物品数1545を示す。送受信データ1547は、通信制御部811を介して送受信される送受信データを示す。
ストレージ1550には、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。局所特徴量DB410は、図9Aに示したと同様の局所特徴量DBを示す。医療機器DB420は、図9Bに示したと同様の医療機器DBを示す。手術器具DB530は、図9Cに示したと同様の手術器具DBを示す。
ストレージ1550には、以下のプログラムが格納される。病院コンピュータ制御プログラム1551は、本病院コンピュータの全体を制御する病院コンピュータ制御プログラムを示す。局所特徴量DB作成モジュール1552は、病院コンピュータ制御プログラム1551において、医療用物品の画像から局所特徴量を生成して局所特徴量DBに格納するモジュールである。医療用物品認識モジュール1553は、病院コンピュータ制御プログラム1551において、受信した局所特徴量と局所特徴量DB410に格納された局所特徴量とを照合して医療用物品を認識するモジュールである。医療機器配置/ステータス判定モジュール1554は、病院コンピュータ制御プログラム1551において、局所特徴量から認識された医療機器に基づいて配置やステータスを判定するモジュールである。手術器具配置/ステータス判定モジュール1555は、病院コンピュータ制御プログラム1551において、局所特徴量から認識された手術器具に基づいて配置やステータスを判定するモジュールである。判定結果送信モジュール1556は、病院コンピュータ制御プログラム1551において、判定結果を通信端末あるいはセンターPCに送信するモジュールである。
なお、図15には、本実施形態に必須なデータやプログラムのみが示されており、本実施形態に関連しないデータやプログラムは図示されていない。
《病院コンピュータの処理手順》
図16は、本実施形態に係る病院コンピュータ201aの処理手順を示すフローチャートである。このフローチャートは、図15のCPU1510によりRAM1540を使用して実行され、図8Aの各機能構成部を実現する。
まず、ステップS1611において、局所特徴量DBの生成か否かを判定する。また、ステップS1621において、通信端末からの局所特徴量受信かを判定する。いずれでもなければ、ステップS1641において他の処理を行なう。
局所特徴量DBの生成であればステップS1613に進んで、局所特徴量DB生成処理を実行する(図17参照)。また、局所特徴量の受信であればステップS1623に進んで、医療用物品認識処理を行なう(図18Aおよび図18B参照)。
次に、ステップS1625において、認識した医療用物品が医療機器であるか手術器具であるかを判定する。医療機器であればステップS1627に進んで、医療機器DB420(図9B)を参照して医療機器の配置とステータスを判定する。そして、ステップS1629において、判定結果を送信する。一方、手術器具であればステップS1631に進んで、手術器具DB530(図9C)を参照して手術器具の配置/数/正否を判定する。そして、ステップS1633において、判定結果を送信する。
なお、医療機器と手術器具とで医療用物品を代表させたが、カルテなどの書類や他の物品を認識および判定してよい。また、ステップS1623の認識処理における局所特徴量の精度よりも、ステップS1627やS1631の判定処理における局所特徴量の精度を高くしてもよい。
(局所特徴量DB生成処理)
図17は、本実施形態に係る局所特徴量DB生成処理S1613の処理手順を示すフローチャートである。
まず、ステップS1701において、医療用物品の画像を取得する。ステップS1703においては、特徴点の位置座標、スケール、角度を検出する。ステップS1705において、ステップS1703で検出された特徴点の1つに対して局所領域を取得する。次に、ステップS1707において、局所領域をサブ領域に分割する。ステップS1709においては、各サブ領域の特徴ベクトルを生成して局所領域の特徴ベクトルを生成する。ステップS1705からS1709の処理は図11Bに図示されている。
次に、ステップS1711において、ステップS1709において生成された局所領域の特徴ベクトルに対して次元選定を実行する。次元選定については、図11D〜図11Fに図示されている。しかしながら、局所特徴量DB410の生成においては、次元選定における階層化を実行するが、生成された全ての特徴ベクトルを格納するのが望ましい。
ステップS1713においては、ステップS1703で検出した全特徴点について局所特徴量の生成と次元選定とが終了したかを判定する。終了していない場合はステップS1705に戻って、次の1つの特徴点について処理を繰り返す。全特徴点について終了した場合はステップS1715に進んで、医療用物品に対応付けて局所特徴量と特徴点座標とを局所特徴量DB410に登録する。
ステップS1717においては、他の医療用物品の画像があるか否かを判定する。他の医療用物品の画像があればステップS1701に戻って、他の医療用物品の画像を取得して処理を繰り返す。
(医療用物品認識処理)
図18Aは、本実施形態に係る医療用物品認識処理S1623の処理手順を示すフローチャートである。
まず、ステップS1811において、局所特徴量DB410から1つの医療用物品の局所特徴量を取得する。そして、ステップS1813において、医療用物品の局所特徴量と通信端末から受信した局所特徴量との照合を行なう(図18B参照)。
ステップS1815において、合致したか否かを判定する。合致していればステップS1821に進んで、合致した医療用物品を映像中にあるとして記憶する。
ステップS1817においては、局所特徴量DB410に登録されている全医療用物品を照合したかを判定し、残りがあればステップS1811に戻って次の医療用物品の照合を繰り返す。なお、かかる照合においては、処理速度の向上によるリルタイム処理あるいは病院コンピュータの負荷低減のため、あらかじめ分野の限定を行なってもよい。
(照合処理)
図18Bは、本実施形態に係る照合処理S1813の処理手順を示すフローチャートである。
まず、ステップS1831において、初期化として、パラメータp=1,q=0を設定する。次に、ステップS1833において、局所特徴量DB410の局所特徴量の次元数iと、受信した局所特徴量の次元数jとの、より少ない次元数を選択する。
ステップS1835〜S1845のループにおいて、p>m(m=医療用物品の特徴点数)となるまで各局所特徴量の照合を繰り返す。まず、ステップS1835において、局所特徴量DB410に格納された医療用物品の第p番局所特徴量の選択された次元数のデータを取得する。すなわち、最初の1次元から選択された次元数を取得する。次に、ステップS1837において、ステップS1835において取得した第p番局所特徴量と入力映像から生成した全特徴点の局所特徴量を順に照合して、類似か否かを判定する。ステップS1839においては、局所特徴量間の照合の結果から類似度が閾値αを超えるか否かを判断し、超える場合はステップS1841において、局所特徴量と、入力映像と医療用物品とにおける合致した特徴点の位置関係との組みを記憶する。そして、合致した特徴点数のパラメータであるqを1つカウントアップする。ステップS1843においては、医療用物品の特徴点を次の特徴点に進め(p←p+1)、医療用物品の全特徴点の照合が終わってない場合には(p≦m)、ステップS1835に戻って合致する局所特徴量の照合を繰り返す。なお、閾値αは、医療用物品によって求められる認識精度に対応して変更可能である。ここで、他の医療用物品との相関が低い医療用物品であれば認識精度を低くしても、正確な認識が可能である。
医療用物品の全特徴点との照合が終了すると、ステップS1845からS1847に進んで、ステップS1847〜S1853において、医療用物品が入力映像に存在するか否かが判定される。まず、ステップS1847において、医療用物品の特徴点数pの内で入力映像の特徴点の局所特徴量と合致した特徴点数qの割合が、閾値βを超えたか否かを判定する。超えていればステップS1849に進んで、医療用物品候補として、さらに、入力映像の特徴点と医療用物品の特徴点との位置関係が、線形変換が可能な関係を有しているかを判定する。すなわち、ステップS1841において局所特徴量が合致したとして記憶した、入力映像の特徴点と医療用物品の特徴点との位置関係が、回転や反転、視点の位置変更などの変化によっても可能な位置関係なのか、変更不可能な位置関係なのかを判定する。かかる判定方法は幾何学的に既知であるので、詳細な説明は省略する。ステップS1851において、線形変換可能か否かの判定結果により、線形変換可能であればステップS953に進んで、照合した医療用物品が入力映像に存在すると判定する。なお、閾値βは、医療用物品によって求められる認識精度に対応して変更可能である。ここで、他の医療用物品との相関が低い、あるいは一部分からでも特徴が判断可能な医療用物品であれば合致した特徴点が少なくても、正確な認識が可能である。すなわち、一部分が隠れて見えなくても、あるいは特徴的な一部分が見えてさえいれば、医療用物品の認識が可能である。
ステップS1855においては、局所特徴量DB410に未照合の医療用物品が残っているか否かを判定する。まだ医療用物品が残っていれば、ステップS957において次の医療用物品を設定して、パラメータp=1,q=0に初期化し、ステップS935に戻って照合を繰り返す。
なお、かかる照合処理の説明からも明らかなように、あらゆる医療用物品を局所特徴量DB410に記憶して、全医療用物品を照合する処理は、負荷が非常に大きくなる。したがって、例えば、入力映像からの医療用物品認識の前にユーザが医療用物品の範囲をメニューから選択して、その範囲を局所特徴量DB410から検索して照合することが考えられる。また、局所特徴量DB410にユーザが使用する範囲の局所特徴量のみを記憶することによっても、負荷を軽減できる。
《薬局コンピュータのハードウェア構成》
図19は、本実施形態に係る薬局コンピュータ202aのハードウェア構成を示すブロック図である。
図19で、CPU1910は演算制御用のプロセッサであり、プログラムを実行することで薬局コンピュータ202aの各機能構成部を実現する。ROM1920は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。また、通信制御部821は通信制御部であり、本実施形態においては、ネットワークを介して通信端末あるいは病院コンピュータ201aと通信する。なお、CPU1910は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPUを含んでもよい。
RAM1940は、CPU1910が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM1940には、本実施形態の実現に必要なデータを記憶する領域が確保されている。受信した局所特徴量1941は、通信端末から受信した特徴点座標を含む局所特徴量を示す。読出した局所特徴量1942は、局所特徴量DB610から読み出した特徴点座標を含む局所特徴量を示す。医薬品認識結果1943は、受信した局所特徴量と局所特徴量DB610に格納された局所特徴量との照合から認識された、医薬品認識結果を示す。医薬品配置判定結果1944は、医薬品の判定配置である医薬品配置判定結果を示す。認識した医薬品数1945は、医薬品数を示す。医薬品数判定結果1946は、医薬品数1945が処方箋に記載された数あるか否かを判定した判定結果を示す。送受信データ1947は、通信制御部821を介して送受信される送受信データを示す。
ストレージ1950には、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。局所特徴量DB610は、図10Aに示したと同様の局所特徴量DBを示す。処方箋DB620は、図10Bに示したと同様の処方箋DBを示す。在庫管理DB630は、図10Cに示したと同様の在庫管理DBを示す。
ストレージ1950には、以下のプログラムが格納される。薬局コンピュータ制御プログラム1951は、本薬局コンピュータの全体を制御する薬局コンピュータ制御プログラムを示す。局所特徴量DB作成モジュール1952は、薬局コンピュータ制御プログラム1951において、医薬品の画像から局所特徴量を生成して局所特徴量DB610に格納するモジュールである。医薬品認識モジュール1953は、薬局コンピュータ制御プログラム1951において、受信した局所特徴量と局所特徴量DB610に格納された局所特徴量とを照合して医薬品を認識するモジュールである。医薬品正否/数判定モジュール1954は、薬局コンピュータ制御プログラム1951において、局所特徴量から認識された医薬品に基づいて正否や数を判定するモジュールである。医薬品配置/在庫判定モジュール1955は、薬局コンピュータ制御プログラム1951において、局所特徴量から認識された医薬品に基づいて薬棚への配置判定や在庫管理をするモジュールである。判定結果送信モジュール1956は、薬局コンピュータ制御プログラム1951において、判定結果を通信端末あるいはオペレータPCに送信するモジュールである。
なお、図19には、本実施形態に必須なデータやプログラムのみが示されており、本実施形態に関連しないデータやプログラムは図示されていない。
《薬局コンピュータの処理手順》
図20は、本実施形態に係る薬局コンピュータ202aの処理手順を示すフローチャートである。このフローチャートは、図19のCPU1010によりRAM1940を使用して実行され、図8Bの各機能構成部を実現する。
まず、ステップS2011において、局所特徴量DBの生成か否かを判定する。また、ステップS2021において、通信端末からの局所特徴量受信かを判定する。いずれでもなければ、ステップS2041において他の処理を行なう。
局所特徴量DBの生成であればステップS2013に進んで、局所特徴量DB生成処理を実行する。また、局所特徴量の受信であればステップS2023に進んで、医薬品認識処理を行なう。
次に、ステップS2025において、認識した医薬品が処方箋に基づく処理であるか、棚卸しの処理であるかを判定する。処方箋であればステップS2027に進んで、処方箋DB620(図10B)を参照して医薬品の正否と数を判定する。そして、ステップS2029において、判定結果を送信する。一方、棚卸しであればステップS2031に進んで、在庫管理DB630(図10C)を参照して薬棚における医薬品の配置/数を判定する。そして、ステップS2033において、判定結果を送信する。
なお、医薬品で医療用物品を代表させたが、処方箋などの書類や他の物品を認識および判定してよい。また、ステップS2023の認識処理における局所特徴量の精度よりも、ステップS2027やS2031の判定処理における局所特徴量の精度を高くしてもよい。
(局所特徴量DB生成処理および医療用物品認識処理)
図20の局所特徴量DB生成処理(S2013)や医薬品認識処理(S2023)の詳細については、図17、図18Aおよび図18Bと、医療用物品を医薬品に変更すれば類似であるので、説明はそれらで代替する。
[第3実施形態]
次に、本発明の第3実施形態に係る情報処理システムについて説明する。本実施形態に係る情報処理システムは、上記第2実施形態と比べると、局所特徴量の精度を調整して認識処理と判定処理とを異なる精度で行なう点で異なる。その他の構成および動作は、第2実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
本実施形態によれば、処理速度を向上しながらより正確な認識処理と判定処理とを実現できる。
《情報処理システムの動作手順》
図21は、本実施形態に係る情報処理システムの動作手順を示すシーケンス図である。なお、図21においては、病院の手術室における手術器具トレー内の手術器具の認識と判定処理を代表して説明するが、薬トレーなどの他の処理においても同様の手順で実現できる。
まず、必要であれば、ステップS2100において、病院コンピュータ201aから通信端末やセンターPCにアプリケーションおよび/またはデータのダウンロードを行なう。そして、ステップS2101において、本実施形態の処理を行なうための、アプリケーションの起動と初期化が行なわれる。
ステップS2103において、通信端末は、手術器具トレーを撮影する。次に、ステップS2105において、局所特徴量生成の初期精度を設定する。ステップS2107において、手術器具トレーの映像から初期精度による局所特徴量を生成する。続いて、ステップS2109において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS2111において、通信端末から病院コンピュータ201aに送信される。
病院コンピュータ201aでは、ステップS2113において、医療用物品である各手術器具に対して生成され記憶された局所特徴量DB410を参照して、手術器具の認識を行なう。そして、ステップS2115において、手術器具DB530に記憶された手術器具トレー内の手術器具の配置および数を参照して、手術器具の配置と数が正常か否かを判定する。
次に、手術器具自身に欠陥が無いかを判定するために、精度を高くした手術器具の判定を局所特徴量の精度を調整して行なう。そのため、ステップS2117において、欠陥について詳細なチェックが必要な手術器具に対応して、その位置(映像中の領域)と調整する精度を設定する。そして、ステップS2119において、設定した手術器具の位置と精度パラメータを通信端末に送信する。
通信端末では、ステップS2121において、受信した精度に調整(精度パラメータの設定)を行なう。そして、ステップS2123において、精度を高くして指定された位置(領域)にある手術器具の局所特徴量を生成する。続いて、ステップS2125において局所特徴量を特徴点座標と共に符号化する。符号化された局所特徴量は、ステップS2127において、通信端末から病院コンピュータ201aに送信される。
病院コンピュータ201aでは、ステップS2129において、特定の手術器具に対して局所特徴量DB410と手術器具DB530とを参照して、手術器具の詳細な正否判定を行なう。そして、ステップS2131において、ステップS2115における手術器具の配置/数の判定結果と、ステップS2129における手術器具単位の欠陥チェック結果とを、通信端末およびセンターPCに送信する。
通信端末は、ステップS2133において受信した判定結果を報知し、センターPCは、ステップS2135において受信した判別結果を報知する。
《通信端末の機能構成》
図22は、本発明の第3実施形態に係る通信端末の機能構成を示すブロック図である。なお、第2実施形態の図7と同様の機能構成には、同じ参照番号を付して説明を省略する。
精度/映像領域受信部2207は、通信制御部704を介して病院コンピュータ201aから送信された、調整する精度パラメータと局所特徴量を生成する映像中の領域(位置)を受信する。精度調整部2208は、精度調整用の精度パラメータ2208aを保持し、精度パラメータ2208aに基づいて局所特徴量生成部702が生成する局所特徴量の精度を調整する。また、映像領域選別部2209は、局所特徴量を生成する映像内の対象とする手術器具の配置された領域を選別する。
《精度調整部》
以下、図23A〜図23C、図24および図25を参照して、精度調整部2208の数例の構成を説明する。
(第1の構成)
図5Aは、本実施形態に係る精度調整部2208の第1の構成2208−1を示すブロック図である。精度調整部2208の第1の構成2208−1においては、次元数決定部2311で次元数を決定可能である。
次元数決定部2311は、次元選定部1115において選定される次元数を決定することができる。例えば、次元数決定部2311は、次元数を示す情報をユーザから受け付けることにより、次元数を決定することができる。なお、次元数を示す情報は、次元数そのものを示すものである必要はなく、例えば、照合精度や照合速度などを示す情報であってもよい。具体的には、次元数決定部2311は、例えば、局所特徴量生成精度、通信精度および照合精度を高くすることを要求する入力を受け付けた場合には、次元数が多くなるように次元数を決定する。例えば、次元数決定部2311は、局所特徴量生成速度、通信速度および照合速度を速くすることを要求する入力を受け付けた場合には、次元数が少なくなるように次元数を決定する。
なお、次元数決定部2311は、画像から検出される全ての特徴点に対して同じ次元数を決定することとしてもよいし、特徴点ごとに異なる次元数を決定してもよい。例えば、次元数決定部2311は、外部情報によって特徴点の重要度が与えられた場合に、重要度の高い特徴点は次元数を多くし、重要度の低い特徴点は次元数を少なくしてもよい。このようにして、照合精度と、局所特徴量生成速度、通信速度および照合速度とを考慮に入れて、次元数を決定することができる。
本実施形態においては、他の精度に関連する条件が同じであれば、医療用物品に適切な次元数を決定したり、適切な次元数の前後で次元数を変化させたりする処理が考えられる。
(第2の構成)
図23Bは、本実施形態に係る精度調整部2208の第2の構成2208−2を示すブロック図である。精度調整部2208の第2の構成2208−2においては、特徴ベクトル拡張部2312が複数次元の値をまとめることで、次元数を変更することが可能である。
特徴ベクトル拡張部2312は、サブ領域特徴ベクトル生成部1114から出力された特徴ベクトルを用いて、より大きなスケール(拡張分割領域)における次元を生成することにより、特徴ベクトルを拡張することができる。なお、特徴ベクトル拡張部2312は、サブ領域特徴ベクトル生成部1114から出力される特徴ベクトルのみの情報を用いて特徴ベクトルを拡張することができる。したがって、特徴ベクトルを拡張するために元の画像に戻って特徴抽出を行う必要がないため、元の画像から特徴ベクトルを生成する処理時間と比較すると、特徴ベクトルの拡張にかかる処理時間はごく僅かである。例えば、特徴ベクトル拡張部2312は、隣接するサブ領域の勾配方向ヒストグラムを合成することにより、新たな勾配方向ヒストグラムを生成してもよい。
図23Cは、本実施形態に係る精度調整部2208の第2の構成2208−2による処理を説明する図である。図23Cでは、2×2=4ブロックの勾配ヒストグラムの総和を拡張した各ブロックとすることにより、精度を向上させながら次元数を変更できる。
図23Cに示すように、特徴ベクトル拡張部2312は、例えば、5×5×6次元(150次元)の勾配方向ヒストグラム2331を拡張することにより、4×4×6次元(96次元)の勾配方向ヒストグラム2341を生成することができる。すなわち、太実線で囲んだ4ブロック2331aが1ブロック2341aにまとめられる。また、太破線で示す4ブロック2331bが1ブロック2241bにまとめられる。
同様に、特徴ベクトル拡張部2312は、5×5×6次元(150次元)の勾配方向ヒストグラム2341から、隣接する3×3ブロックの勾配方向ヒストグラムの総和をとることにより、3×3×6次元(54次元)の勾配方向ヒストグラム2351を生成することも可能である。すなわち、太実線で示す4ブロック2341cが1ブロック2351cにまとめられる。また、太破線で示す4ブロック2341dが1ブロック2351dにまとめられる。
なお、次元選定部1115が、5×5×6次元(150次元)の勾配方向ヒストグラム2331を5×5×3次元(75次元)の勾配方向ヒストグラム2332に次元選定する場合には、4×4×6次元(96次元)の勾配方向ヒストグラム2341は、4×4×6次元(96次元)の勾配方向ヒストグラム2342となる。また、3×3×6次元(54次元)の勾配方向ヒストグラム2351は、3×3×3次元(27次元)の勾配方向ヒストグラム2352となる。
(第3の構成)
図24は、本実施形態に係る精度調整部2208の第3の構成2208−3を示すブロック図である。精度調整部2208の第3の構成2208−3においては、特徴点選定部2411が特徴点選定で特徴点数を変更することで、精度を維持しながら局所特徴量のデータ量を変更することが可能である。
特徴点選定部2411は、例えば、選定される特徴点の「指定数」を示す指定数情報をあらかじめ保持しておくことができる。また、指定数情報は、指定数そのものを示す情報であってもよいし、画像における局所特徴量のトータルサイズ(例えばバイト数)を示す情報であってもよい。指定数情報が、画像における局所特徴量のトータルサイズを示す情報である場合、特徴点選定部2411は、例えば、トータルサイズを、1つの特徴点における局所特徴量のサイズで割ることにより、指定数を算出することができる。また、全特徴点に対してランダムに重要度を付与し、重要度が高い順に特徴点を選定することができる。そして、指定数の特徴点を選定した時点で、選定した特徴点に関する情報を選定結果として出力することができる。また、特徴点情報に基づいて、全特徴点のスケールの中で、特定のスケール領域に含まれる特徴点のみを選定することができる。そして、選定された特徴点が指定数よりも多い場合、例えば、重要度に基づいて特徴点を指定数まで削減し、選定した特徴点に関する情報を選定結果として出力することができる。
(第4の構成)
図25は、本実施形態に係る精度調整部2208の第4の構成2208−4を示すブロック図である。精度調整部2208の第4の構成2208−4においては、次元数決定部2311と特徴点選定部2411とが協働しながら、精度を維持しながら局所特徴量のデータ量を変更する。
第4の構成2208−4における次元数決定部2311と特徴点選定部2411との関係は種々考えられる。例えば、特徴点選定部2411は、次元数決定部2311により決定された特徴点数に基づいて、特徴点を選定することができる。また、次元数決定部2311は、特徴点選定部2411が選定した指定特徴量サイズおよび決定した特徴点数に基づいて、特徴量サイズが指定特徴量サイズになるように、選定次元数を決定することができる。また、特徴点選定部2411は、特徴点検出部1111から出力される特徴点情報に基づいて特徴点の選定を行う。そして、特徴点選定部2411は、選定した各特徴点の重要度を示す重要度情報を次元数決定部2311に出力し、次元数決定部2311は、重要度情報に基づいて、次元選定部1115で選定される次元数を特徴点ごとに決定することができる。
(精度パラメータ)
図26は、本実施形態に係る精度パラメータ2208aの構成を示す図である。
精度パラメータ2208aは、特徴点パラメータ2601として、特徴点数や特徴点とするか否かを選別する特徴点選別閾値などを記憶する。また、局所領域パラメータ2602として、ガウス窓に対応する面積(サイズ)や矩形や円などを示す形状などを記憶する。また、サブ領域パラメータ2603として、局所領域の分割数や形状などを記憶する。また、特徴ベクトルパラメータ2604として、方向数(例えば8方向や6方向など)や次元数、次元の選択方法などを記憶する。
なお、図26に示した精度パラメータは一例であって、これに限定されない。
《病院コンピュータの機能構成》
図27は、本実施形態に係る病院コンピュータ2701aの機能構成を示すブロック図である。なお、第2実施形態の図8と同様の機能構成には、同じ参照番号を付して説明を省略する。
精度調整決定部2720は、医療機器ステータス判定部815や手術器具ステータス判定部817の判定を受けて、精度調整DB2740(図28参照)を参照して、精度調整して再度局所特徴量を生成する精度を決定する。精度/選別領域送信部2721は、対象とする医療機器や手術器具の領域情報と、決定された精度パラメータを、通信制御部811を介して通信端末に送信する。
(精度調整DB)
図28は、本実施形態に係る精度調整DB2740の構成を示す図である。精度調整DB2740の構成は、図28に限定されない。
医療用物品ID2801と名/種別2802とに対応付けて、図26の精度パラメータ2208aを生成するための、第1調整値2803や第2調整値2804などが記憶される。なお、パラメータの種類によってどの調整値を使用してもよい。これらパラメータは互いに関連しているので、認識および判定する対象の医療用物品に適切なパラメータを選択するのが望ましい。したがって、対象の医療用物品に応じてパラメータをあらかじめ生成して記憶しておく、あるいは学習して保持しておくこともできる。
[第4実施形態]
次に、本発明の第4実施形態に係る情報処理システムについて説明する。本実施形態に係る情報処理システムは、上記第2実施形態および第3実施形態と比べると、通信端末が通信端末用局所特徴量DBを有して、医療用物品認識処理を通信端末と病院コンピュータとで分担する点で異なる。その他の構成および動作は、第2実施形態および第3実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
本実施形態によれば、通信端末による医療用物品の認識処理で十分な場合は、局所特徴量を通信端末から病院コンピュータに送る必要がない。したがって、通信端末と病院コンピュータ間のトラフィックを削減できると共に、病院コンピュータの負荷を軽減できる。
《情報処理システムの動作手順》
図29は、本実施形態に係る情報処理システムの動作手順を示すシーケンス図である。なお、図29においては、病院における医療用物品の認識と判定処理を代表して説明するが、薬局における処理においても同様の手順で実現できる。また、図29にはセンターPCを図示していないが、前出のシーケンス図と同様に判定結果を受信して報知する。
まず、必要であれば、ステップS2900において、病院コンピュータ201aから通信端末にアプリケーションと通信端末用の局所特徴量のダウンロードを行なう。通信端末においては、ステップS2901において、受信した局所特徴量を医療用物品にそれぞれ対応付けて通信端末用局所特徴量DB2910に格納する。そして、ステップS2903において、本実施形態の処理を行なうための、アプリケーションの起動と初期化が行なわれる。
ステップS2905において、通信端末は、撮像して映像を取得する。次に、ステップS2907において、局所特徴量生成の初期精度を設定する。ステップS2909において、取得した映像から初期精度による局所特徴量を生成する。ステップS2911においては、通信端末用局所特徴量DB2910を参照して、映像中の医療用物品の認識を行なう。
ステップS2913において、ステップS2911の医療用物品認識が十分な信頼性があるか(精度調整が必要か)が判定される。すなわち、十分な信頼性が無ければ、精度を調整して局所特徴量を生成して病院コンピュータによる精度の高い医療用物品認識を行なう。したがって、ステップS2911の医療用物品認識が十分な信頼性がなければ、ステップS2915において、精度を調整する。そして、ステップS2917において、精度に高い局所特徴量を生成して、ステップS2919において病院コンピュータに送信する。
病院コンピュータは、ステップS2921において、精度の高い局所特徴量を格納する局所特徴量DB410を参照して、映像内の医療用物品を認識する。
一方、ステップS2911の医療用物品認識が十分な信頼性があればステップS2923に進んで、判定結果を病院コンピュータに送信する。
病院コンピュータは、医療用物品の認識結果に従って、ステップS2925において、医療機器DB420や手術器具DB530を参照して、医療用物品の判定を行なう。
このように、通信端末における認識で十分であれば、判定結果(医療用物品IDと位置)を通信端末から病院コンピュータに送信するのみで、配置や数などの判定が可能となる。
[第5実施形態]
次に、本発明の第5実施形態に係る情報処理システムについて説明する。本実施形態に係る情報処理システムは、上記第2実施形態乃至第4実施形態と比べると、通信端末が独立して医療用物品の認識および判定を行なう点で異なる。その他の構成および動作は、第2実施形態乃至第4実施形態と同様であるため、同じ構成および動作については同じ符号を付してその詳しい説明を省略する。
本実施形態によれば、通信端末から病院コンピュータへは判定結果を送るのみであり、通信端末と病院コンピュータ間のトラフィックを大幅に削減できると共に、病院コンピュータの負荷をさらに軽減できる。
《通信端末の機能構成》
図30は、本実施形態に係る通信端末3011〜3061の機能構成を示すブロック図である。なお、第2実施形態の図7と同様の機能構成部には同じ参照番号を付して、説明は省略する。
局所特徴量DB3001には、局所特徴量受信部3002により、通信制御部704を介して病院コンピュータや薬局コンピュータからダウンロードされた局所特徴量が格納される。なお、局所特徴量DB3001には、学習として、通信端末の局所特徴量生成部702で生成された局所特徴量が認識結果に対応付けられて蓄積されてもよい。医療用物品認識部3003は、局所特徴量生成部702で生成された局所特徴量と局所特徴量DB3001の局所特徴量とを照合して、医療用物品を認識する。
また、医療用物品DB2005には、医療用物品情報受信部3006により、通信制御部704を介して病院コンピュータや薬局コンピュータからダウンロードされた医療用物品情報が格納される。かかる、医療用物品情報は、医療機器DB420や手術器具DB530や処方箋DB620などを含んでよい。
医療用物品判定部3007は、医療用物品認識部3003が認識した認識結果から、医療用物品DB2005を参照して、医療用物品の判定を行なう。かかる判定には、医療用物品の配置や数、あるいは間違いや欠陥などの判定が含まれる。判定決結果は、判定結果報知部706から報知されると共に、医療用物品判定結果送信部3008により、通信制御部704を介して、病院コンピュータや薬局コンピュータに送信される。
さらに、精度調整パラメータ記憶部3009を設けて、医療用物品認識部3003の認識結果に応じて、局所特徴量生成部702の精度を調整することも可能である。
[他の実施形態]
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する制御プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされる制御プログラム、あるいはその制御プログラムを格納した媒体、その制御プログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
この出願は、2012年1月30日に出願された日本出願特願2012−017383を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
を備えたことを特徴とする情報処理システム。
(付記2)
前記認識手段の認識結果を報知する報知手段をさらに備えることを特徴とする付記1に記載の情報処理システム。
(付記3)
前記情報処理システムは、ユーザが携帯する通信端末と、前記通信端末と通信する情報処理装置とを有し、
前記通信端末が、前記撮像手段と前記第2局所特徴量生成手段と前記報知手段とを含んで、前記m個の第2局所特徴量を前記通信端末から前記情報処理装置へ送信し、
前記情報処理装置が、前記第1局所特徴量記憶手段と前記認識手段とを含んで、前記認識手段の認識結果を前記情報処理装置から前記通信端末へ送信することを特徴とする付記2に記載の情報処理システム。
(付記4)
前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
前記認識手段は、前記撮像手段が撮像した前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記撮像手段が撮像した前記画像における前記複数の医療用物品の配置を判定する配置判定手段を有することを特徴とする付記1乃至3のいずれか1つに記載の情報処理システム。
(付記5)
前記医療用物品は医療機器であり、前記撮像手段が撮像する画像は診察室、病室あるいは手術室であって、
前記配置判定手段は、前記診察室、病室あるいは手術室における前記医療機器の配置を認識し、
前記第2局所特徴量生成手段は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
前記認識手段は、精度をより高く調整して前記第2局所特徴量生成手段が生成した第2局所特徴量に基づいて、前記医療機器の間違い、欠陥あるいは状態をさらに認識することを特徴とする付記4に記載の情報処理システム。
(付記6)
前記医療用物品は医療器具であり、前記撮像手段が撮像する画像は医療器具を配置するトレーであって、
前記配置判定手段は、前記トレーにおける前記医療器具の配置を認識し、
前記第2局所特徴量生成手段は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
前記認識手段は、精度をより高く調整して前記第2局所特徴量生成手段が生成した第2局所特徴量に基づいて、前記医療器具の間違い、欠陥あるいは状態をさらに認識することを特徴とする付記4に記載の情報処理システム。
(付記7)
前記医療用物品は医薬品であり、前記撮像手段が撮像する画像は薬棚あるいは薬トレーであって、
前記配置判定手段は、前記薬棚あるいは薬トレーにおける前記医薬品の配置を認識し、
前記第2局所特徴量生成手段は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
前記認識手段は、精度をより高く調整して前記第2局所特徴量生成手段が生成した第2局所特徴量に基づいて、前記医薬品の間違い、欠陥あるいは状態をさらに認識することを特徴とする付記4に記載の情報処理システム。
(付記8)
前記配置判定手段が認識した前記複数の医薬品の配置に基づいて、棚卸しを行なう管理手段を備えることを特徴とする付記7に記載の情報処理システム。
(付記9)
前記第1局所特徴量および前記第2局所特徴量は、画像から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数の次元の特徴ベクトルを生成することにより生成されることを特徴とする付記1乃至8のいずれか1つに記載の情報処理システム。
(付記10)
前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数の次元の特徴ベクトルから、隣接するサブ領域間の相関がより小さな次元を選定することにより生成されることを特徴とする付記9に記載の情報処理システム。
(付記11)
前記特徴ベクトルの複数の次元は、前記特徴点の特徴に寄与する次元から順に、かつ、前記局所特徴量に対して求められる精度の向上に応じて第1次元から順に選択できるよう、所定の次元数ごとに前記局所領域をひと回りするよう配列することを特徴とする付記9または10に記載の情報処理システム。
(付記12)
前記第2局所特徴量生成手段は、前記医療用物品の相関に対応して、他の医療用物品とより高い前記相関を有する医療用物品については次元数のより多い前記第2局所特徴量を生成することを特徴とする付記11に記載の情報処理システム。
(付記13)
前記第1局所特徴量記憶手段は、前記医療用物品の相関に対応して、他の医療用物品とより高い前記相関を有する医療用物品については次元数のより多い前記第1局所特徴量を記憶することを特徴とする付記11または12に記載の情報処理システム。
(付記14)
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理システムにおける情報処理方法であって、
撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
を備えることを特徴とする情報処理方法。
(付記15)
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信手段と、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信手段と、
を備えることを特徴とする通信端末。
(付記16)
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信ステップと、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信ステップと、
を含むことを特徴とする通信端末の制御方法。
(付記17)
撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
前記m個の第2局所特徴量を、局所特徴量の照合に基づいて撮像した前記画像に含まれる医療用物品を認識する情報処理装置に送信する第1送信ステップと、
前記情報処理装置から、撮像した前記画像に含まれる医療用物品を示す情報を受信する第1受信ステップと、
をコンピュータに実行させることを特徴とする制御プログラム。
(付記18)
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信手段と、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信手段と、
を備えることを特徴とする情報処理装置。
(付記19)
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御方法であって、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
を含むことを特徴とする情報処理装置の制御方法。
(付記20)
医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御プログラムであって、
通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
をコンピュータに実行させることを特徴とする制御プログラム。

Claims (13)

  1. 医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
    撮像手段が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成手段と、
    前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
    を備え、
    前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
    前記認識手段は、前記撮像手段が撮像した前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記撮像手段が撮像した前記画像における前記複数の医療用物品の配置を判定する配置判定手段を有し、
    前記配置判定手段は、前記撮像手段が撮像する対象における前記医療用物品の配置を認識し、
    前記第2局所特徴量生成手段は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
    前記認識手段は、精度をより高く調整して前記第2局所特徴量生成手段が生成した第2局所特徴量に基づいて、前記医療用物品の間違い、欠陥あるいは状態をさらに認識することを特徴とする情報処理システム。
  2. 前記認識手段の認識結果を報知する報知手段をさらに備えることを特徴とする請求項1に記載の情報処理システム。
  3. 前記情報処理システムは、ユーザが携帯する通信端末と、前記通信端末と通信する情報処理装置とを有し、
    前記通信端末が、前記撮像手段と前記第2局所特徴量生成手段と前記報知手段とを含んで、前記m個の第2局所特徴量を前記通信端末から前記情報処理装置へ送信し、
    前記情報処理装置が、前記第1局所特徴量記憶手段と前記認識手段とを含んで、前記認識手段の認識結果を前記情報処理装置から前記通信端末へ送信することを特徴とする請求項2に記載の情報処理システム。
  4. 前記医療用物品は医療機器であり、前記撮像手段が撮像する画像は診察室、病室あるいは手術室であって、
    前記配置判定手段は、前記診察室、病室あるいは手術室における前記医療機器の配置を認識することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理システム。
  5. 前記医療用物品は医療器具であり、前記撮像手段が撮像する画像は医療器具を配置するトレーであって、
    前記配置判定手段は、前記トレーにおける前記医療器具の配置を認識することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理システム。
  6. 前記医療用物品は医薬品であり、前記撮像手段が撮像する画像は薬棚あるいは薬トレーであって、
    前記配置判定手段は、前記薬棚あるいは薬トレーにおける前記医薬品の配置を認識することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理システム。
  7. 前記配置判定手段が認識した前記複数の医薬品の配置に基づいて、棚卸しを行なう管理手段を備えることを特徴とする請求項6に記載の情報処理システム。
  8. 前記第1局所特徴量および前記第2局所特徴量は、画像から抽出した特徴点を含む局所領域を複数のサブ領域に分割し、前記複数のサブ領域内の勾配方向のヒストグラムからなる複数の次元の特徴ベクトルを生成することにより生成されることを特徴とする請求項1乃至7のいずれか1項に記載の情報処理システム。
  9. 前記第1局所特徴量および前記第2局所特徴量は、前記生成した複数の次元の特徴ベクトルから、隣接するサブ領域間の相関がより小さな次元を選定することにより生成されることを特徴とする請求項8に記載の情報処理システム。
  10. 医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理システムにおける情報処理方法であって、
    撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を生成する第2局所特徴量生成ステップと、
    前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
    を備え、
    前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
    前記認識ステップは、前記撮像した映像中の前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記撮像した映像中の前記画像における前記複数の医療用物品の配置を判定する配置判定ステップを有し、
    前記配置判定ステップは、前記撮像の対象における前記医療用物品の配置を認識し、
    前記第2局所特徴量生成ステップは、前記第2局所特徴量の精度を調整する精度調整ステップを有し、
    前記認識ステップは、精度をより高く調整して前記第2局所特徴量生成ステップで生成した第2局所特徴量に基づいて、前記医療用物品の間違い、欠陥あるいは状態をさらに認識することを特徴とする情報処理方法。
  11. 医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段と、
    通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信手段と、
    前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識手段と、
    認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信手段と、
    を備え、
    前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
    前記認識手段は、前記通信端末が撮像した前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記通信端末が撮像した前記画像における前記複数の医療用物品の配置を判定する配置判定手段を有し、
    前記配置判定手段は、前記通信端末が撮像する対象における前記医療用物品の配置を認識し、
    前記通信端末は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
    前記認識手段は、精度をより高く調整して前記通信端末が生成した第2局所特徴量に基づいて、前記医療用物品の間違い、欠陥あるいは状態をさらに認識することを特徴とする情報処理装置。
  12. 医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御方法であって、
    通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
    前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
    認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
    を含み、
    前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
    前記認識ステップは、前記撮像した映像中の前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記撮像した映像中の前記画像における前記複数の医療用物品の配置を判定する配置判定ステップを有し、
    前記配置判定ステップは、前記撮像の対象における前記医療用物品の配置を認識し、
    前記通信端末は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
    前記認識ステップは、前記通信端末で前記制度調整手段により精度をより高く調整して生成した第2局所特徴量に基づいて、前記医療用物品の間違い、欠陥あるいは状態をさらに認識することを特徴とする情報処理装置の制御方法。
  13. 医療用物品と、前記医療用物品の画像のm個の特徴点のそれぞれを含むm個の局所領域のそれぞれについて生成された、それぞれ1次元からi次元までの特徴ベクトルからなるm個の第1局所特徴量とを、対応付けて記憶する第1局所特徴量記憶手段を備えた情報処理装置の制御プログラムであって、
    通信端末が撮像した映像中の画像からn個の特徴点を抽出し、前記n個の特徴点のそれぞれを含むn個の局所領域について、それぞれ1次元からj次元までの特徴ベクトルからなるn個の第2局所特徴量を、前記通信端末から受信する第2受信ステップと、
    前記第1局所特徴量の特徴ベクトルの次元数iおよび前記第2局所特徴量の特徴ベクトルの次元数jのうち、より少ない次元数を選択し、選択された前記次元数までの特徴ベクトルからなる前記n個の第2局所特徴量に、選択された前記次元数までの特徴ベクトルからなる前記m個の第1局所特徴量の所定割合以上が対応すると判定した場合に、前記映像中の前記画像に前記医療用物品が存在すると認識する認識ステップと、
    認識した前記医療用物品を示す情報を前記通信端末に送信する第2送信ステップと、
    をコンピュータに実行させ、
    前記第1局所特徴量記憶手段は、複数の医療用物品にそれぞれ対応付けて各医療用物品の画像から生成した前記m個の第1局所特徴量を記憶し、
    前記認識ステップは、前記撮像した映像中の前記画像に含まれる複数の医療用物品を認識すると共に、前記n個の第2局所特徴量のならびに基づいて、前記撮像した映像中の前記画像における前記複数の医療用物品の配置を判定する配置判定ステップを有し、
    前記配置判定ステップは、前記撮像の対象における前記医療用物品の配置を認識し、
    前記通信端末は、前記第2局所特徴量の精度を調整する精度調整手段を有し、
    前記認識ステップは、前記通信端末で前記制度調整手段により精度をより高く調整して生成した第2局所特徴量に基づいて、前記医療用物品の間違い、欠陥あるいは状態をさらに認識することを特徴とする制御プログラム。
JP2013556374A 2012-01-30 2013-01-25 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム Active JP6226187B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012017383 2012-01-30
JP2012017383 2012-01-30
PCT/JP2013/051573 WO2013115093A1 (ja) 2012-01-30 2013-01-25 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2013115093A1 JPWO2013115093A1 (ja) 2015-05-11
JP6226187B2 true JP6226187B2 (ja) 2017-11-08

Family

ID=48905133

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013556374A Active JP6226187B2 (ja) 2012-01-30 2013-01-25 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム

Country Status (4)

Country Link
US (1) US9418314B2 (ja)
EP (1) EP2811459B1 (ja)
JP (1) JP6226187B2 (ja)
WO (1) WO2013115093A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9792528B2 (en) * 2012-01-30 2017-10-17 Nec Corporation Information processing system, information processing method, information processing apparatus and control method and control program thereof, and communication terminal and control method and control program thereof
DK3199463T3 (en) * 2016-01-29 2018-07-23 Becton Dickinson Rowa Germany Gmbh Method for filling a transport tray for transferring drug portions and filling station for such a transport tray
JP6607506B2 (ja) * 2017-02-14 2019-11-20 浩平 田仲 情報提供システム、情報提供装置、情報提供方法及び情報提供プログラム
KR102344832B1 (ko) * 2017-05-31 2021-12-28 에이조 가부시키가이샤 수술기구 검출 시스템 및 컴퓨터 프로그램
US11139048B2 (en) * 2017-07-18 2021-10-05 Analytics For Life Inc. Discovering novel features to use in machine learning techniques, such as machine learning techniques for diagnosing medical conditions
US11062792B2 (en) 2017-07-18 2021-07-13 Analytics For Life Inc. Discovering genomes to use in machine learning techniques
US11625834B2 (en) 2019-11-08 2023-04-11 Sony Group Corporation Surgical scene assessment based on computer vision
JP2022012643A (ja) * 2020-07-02 2022-01-17 オオクマ電子株式会社 医薬品の管理システム、および医薬品の管理方法
WO2023189097A1 (ja) * 2022-03-29 2023-10-05 テルモ株式会社 プログラム、情報処理装置、情報処理システム及び情報処理方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711293B1 (en) 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
JP4988408B2 (ja) * 2007-04-09 2012-08-01 株式会社デンソー 画像認識装置
US9041508B2 (en) * 2008-08-08 2015-05-26 Snap-On Incorporated Image-based inventory control system and method
JP4547639B2 (ja) * 2008-08-26 2010-09-22 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP4735783B2 (ja) * 2009-03-13 2011-07-27 日本電気株式会社 画像識別子照合装置
JP4683395B2 (ja) 2009-03-16 2011-05-18 独立行政法人国立高等専門学校機構 識別装置および識別方法
JP5164222B2 (ja) 2009-06-25 2013-03-21 Kddi株式会社 画像検索方法およびシステム
JP5521676B2 (ja) * 2010-03-19 2014-06-18 富士通株式会社 画像処理装置及び画像処理プログラム
US20110238137A1 (en) * 2010-03-25 2011-09-29 Fujifilm Corporation Medical apparatus for photodynamic therapy and method for controlling therapeutic light
JP2011221688A (ja) 2010-04-07 2011-11-04 Sony Corp 認識装置、認識方法、およびプログラム
JP5685390B2 (ja) * 2010-05-14 2015-03-18 株式会社Nttドコモ 物体認識装置、物体認識システムおよび物体認識方法
JP5105380B2 (ja) 2010-05-28 2012-12-26 独立行政法人国立高等専門学校機構 ピッキングシステムおよびピッキング方法
US20130113929A1 (en) * 2011-11-08 2013-05-09 Mary Maitland DeLAND Systems and methods for surgical procedure safety

Also Published As

Publication number Publication date
JPWO2013115093A1 (ja) 2015-05-11
EP2811459B1 (en) 2020-02-19
EP2811459A1 (en) 2014-12-10
EP2811459A4 (en) 2016-10-26
US9418314B2 (en) 2016-08-16
US20150003704A1 (en) 2015-01-01
WO2013115093A1 (ja) 2013-08-08

Similar Documents

Publication Publication Date Title
JP6226187B2 (ja) 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム
ES2624679T3 (es) Tecnología de autenticación biométrica
Celebi et al. Deterministic initialization of the k-means algorithm using hierarchical clustering
JPWO2013089042A1 (ja) 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム
Jiang et al. Image retrieval method based on image feature fusion and discrete cosine transform
Ratyal et al. Three-dimensional face recognition using variance-based registration and subject-specific descriptors
Karthik et al. A hybrid feature modeling approach for content-based medical image retrieval
Sánchez-Sánchez et al. Convolutional neural network approach for multispectral facial presentation attack detection in automated border control systems
Martins et al. Multispectral facial recognition in the wild
Dindorf et al. Machine learning techniques demonstrating individual movement patterns of the vertebral column: The fingerprint of spinal motion
JP7409499B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2013089004A1 (ja) 映像処理システム、映像処理方法、携帯端末用またはサーバ用の映像処理装置およびその制御方法と制御プログラム
Zhang et al. Initial investigation of different classifiers for plant leaf classification using multiple features
Huang et al. RWBD: learning robust weighted binary descriptor for image matching
Velvizhy et al. Automatic food recognition system for diabetic patients
WO2006061365A1 (en) Face recognition using features along iso-radius contours
Cai et al. Robust facial expression recognition using RGB-D images and multichannel features
Nurzynska et al. Evaluation of Keypoint Descriptors for Flight Simulator Cockpit Elements: WrightBroS Database
CN107766832A (zh) 一种用于现场作业施工管理的人脸识别方法
Pietkiewicz Application of fusion of two classifiers based on principal component analysis method and time series comparison to recognize maritime objects upon FLIR images
Li et al. Grassmann manifold based shape matching and retrieval under partial occlusions
US9600081B2 (en) Information processing method and electronic device for improving gesture identification
JP7468642B2 (ja) 画像処理装置、画像処理方法、及びプログラム
Sun et al. A dynamic programming approach for accurate content-based retrieval of ordinary and nano-scale medical images
WO2022249278A1 (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170914

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170927

R150 Certificate of patent or registration of utility model

Ref document number: 6226187

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150