JP6753846B2 - 光学文字認識を使用する薬物注射デバイスからの用量データの記録 - Google Patents

光学文字認識を使用する薬物注射デバイスからの用量データの記録 Download PDF

Info

Publication number
JP6753846B2
JP6753846B2 JP2017521495A JP2017521495A JP6753846B2 JP 6753846 B2 JP6753846 B2 JP 6753846B2 JP 2017521495 A JP2017521495 A JP 2017521495A JP 2017521495 A JP2017521495 A JP 2017521495A JP 6753846 B2 JP6753846 B2 JP 6753846B2
Authority
JP
Japan
Prior art keywords
drug
video
image
processing configuration
data acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017521495A
Other languages
English (en)
Other versions
JP2017533016A (ja
Inventor
シュテファン・リーデル
ティル・ゲルケン
Original Assignee
サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング filed Critical サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング
Publication of JP2017533016A publication Critical patent/JP2017533016A/ja
Application granted granted Critical
Publication of JP6753846B2 publication Critical patent/JP6753846B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/178Syringes
    • A61M5/24Ampoule syringes, i.e. syringes with needle for use in combination with replaceable ampoules or carpules, e.g. automatic
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/178Syringes
    • A61M5/31Details
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/178Syringes
    • A61M5/31Details
    • A61M5/315Pistons; Piston-rods; Guiding, blocking or restricting the movement of the rod or piston; Appliances on the rod for facilitating dosing ; Dosing mechanisms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/178Syringes
    • A61M5/31Details
    • A61M5/315Pistons; Piston-rods; Guiding, blocking or restricting the movement of the rod or piston; Appliances on the rod for facilitating dosing ; Dosing mechanisms
    • A61M5/31525Dosing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • G16H20/13ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients delivered from dispensers
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • G16H20/17ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients delivered via infusion or injection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/178Syringes
    • A61M5/31Details
    • A61M2005/3125Details specific display means, e.g. to indicate dose setting
    • A61M2005/3126Specific display means related to dosing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M2205/00General characteristics of the apparatus
    • A61M2205/33Controlling, regulating or measuring
    • A61M2205/3306Optical measuring means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M2205/00General characteristics of the apparatus
    • A61M2205/50General characteristics of the apparatus with microprocessors or computers
    • A61M2205/502User interfaces, e.g. screens or keyboards
    • A61M2205/505Touch-screens; Virtual keyboard or keypads; Virtual buttons; Soft keys; Mouse touches
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M2205/00General characteristics of the apparatus
    • A61M2205/50General characteristics of the apparatus with microprocessors or computers
    • A61M2205/52General characteristics of the apparatus with microprocessors or computers with memories providing a history of measured variating parameters of apparatus or patient
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M2205/00General characteristics of the apparatus
    • A61M2205/60General characteristics of the apparatus with identification means
    • A61M2205/6063Optical identification systems
    • A61M2205/6081Colour codes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/02Recognising information on displays, dials, clocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image

Description

本発明は、薬剤送達デバイスからのデータ収集に関する。特に、本発明は、薬剤用量を記録するための方法およびデータ収集システムに関する。
薬剤の注射による定期的な治療を必要とする様々な疾患がある。そのような注射は、医療従事者または患者自身によって適用される注射デバイスを使用することによって行うことができる。一例として、1型および2型糖尿病は、例えば1日に1回または数回のインスリン用量の注射によって患者自身が治療することができる。例えば、事前充填型の使い捨てインスリンペンを注射デバイスとして使用することができる。代替として、再使用可能なペンが使用される。再使用可能なペンは、空の薬剤カートリッジを新しいものに交換することを可能にする。いずれのペンも、各使用の前に交換される1組の一方向針を含むことがある。次いで、注射予定のインスリン用量を、例えば投薬量ノブを回し、実際の用量をインスリンペンの投薬量窓またはディスプレイから観察することによって、インスリンペンで手動で選択することができる。次いで、適切な皮膚部分に針を挿入し、インスリンペンの注射ボタンを押すことによって用量が注射される。
インスリン注射を監視して、例えばインスリンペンの誤った取扱いを防止する、または既に適用された用量を追跡することを可能にするために、注射デバイスの状態および/または使用に関係する情報、例えば、注射されるインスリンのタイプ、注射の用量、およびタイミングのうちの1つまたはそれ以上を高い信頼性で正確に測定することが望ましい。
データ収集技法は、インスリン注射の監視以外の目的でも使用することができる。例えば、他の薬剤の注射、他の医学的活動、例えば患者による錠剤薬剤の摂取もしくは輸液の監視、または医療以外の目的、例えば安全上の理由による家庭もしくは産業環境での機器および/またはその操作の監視のためにデータが収集される。
一態様によれば、データ収集デバイスを使用して薬剤用量を記録する方法であって、データ収集デバイスのビデオカメラによって、薬剤送達デバイスの薬剤用量インジケータを示すビデオを捕捉する工程と、前記ビデオでの画像のスケールを調節する工程と、前記ビデオでの薬剤送達デバイスの構成要素に表示される1つまたはそれ以上の文字の歪みに関して前記画像を調節する工程と、画像での前記1つまたはそれ以上の文字のうちの少なくとも1つの位置を決定する工程と、光学文字認識を使用して少なくとも1文字を識別する工程と、前記光学文字認識の結果に基づいて、薬剤用量インジケータによって示される薬剤用量を決定する工程とを含む方法が提供される。
ビデオ記録からの薬剤送達情報の取得は、患者への薬剤の投与の高信頼性の記録および/または監視を提供することがある。なぜなら、これは、患者からの特定の入力に依拠せず、したがって、注射の詳細を再収集するためのユーザの誤りおよび/またはユーザの不備を回避することができるからである。
データ収集デバイスはポータブル電子デバイスでよい。特に、データ収集装置はウェアラブル電子デバイスでよい。データ収集デバイスが一般に利用可能なデバイスである場合、特化されたまたは専用のデータ収集デバイスを必要とせずに薬剤送達が確実に記録されて監視される。また、ユーザは、データ収集に関して自分が慣れたデバイスを利用することができるので、新たなデバイスに慣れて使用法を学習する必要なく、投薬量の記録を開始することができる。
データ収集デバイスがユーザの頭部に装着されるウェアラブルデバイスである場合、捕捉されるビデオは、ユーザの視点にほぼ対応することがあり、捕捉されるビデオに薬剤用量インジケータが示される尤度(likelihood)を高める。
この方法は、薬剤の複数回の送達が前記ビデオに記録されているかどうかを決定する工程を含むことがある。薬剤の複数回の送達が前記ビデオに記録されているという決定に応答して、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づく少なくとも第2の薬剤用量が決定され、前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量が決定される。代替として、または追加として、この方法は、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定することがあり、それにより、プライムショットに関連すると決定された薬剤用量を無視することができる。
この方法は、前記画像から色情報を取得する工程と、前記色情報に基づいて投薬予定の薬剤のタイプを識別する工程とを含むことがある。色情報を取得する工程は、薬剤送達デバイスに提供される基準色情報に基づいて色バランス測定量を得る工程を含むことがある。
薬剤送達デバイスは、投薬予定の薬剤の前記量を選択するための可動構成要素を含む注射器ペンでもよい。
また、この態様は、プロセッサによって実行されたとき、上記の方法の1つまたはそれ以上が行われるようにするコンピュータ可読命令を含むコンピュータプログラムを提供する。そのようなコンピュータプログラムは、ウェアラブル電子デバイスまたは他のポータブル電子デバイス用の「アプリ」の形態で提供することができる。
この態様は、さらに、薬剤用量を記録するためのデータ収集装置であって、ビデオカメラと、処理構成とを含み、処理構成が、前記ビデオカメラを使用して、薬剤送達デバイスの薬剤投薬量インジケータの少なくとも1つの画像を含むビデオを捕捉し、前記画像のスケールを調節し、薬剤送達デバイスの構成要素に表示される1つまたはそれ以上の文字の歪みに関して前記画像を調節し、画像での前記1つまたはそれ以上の文字のうちの少なくとも1つの位置を決定し、光学文字認識を使用して少なくとも1文字を識別し、前記光学文字認識の結果に基づいて前記薬剤用量インジケータによって示される投薬量を決定するように構成されるデータ収集装置を提供する。
また、この態様は、そのようなデータ収集装置および薬剤送達デバイスを含む薬剤送達システムを提供する。
データ収集装置は、前記ビデオカメラを含むウェアラブル電子デバイスを含むことがある。そのようなウェアラブル電子デバイスは、ユーザの頭部に装着されるように構成されることがあり、それにより、捕捉されるビデオは、ユーザの視点に対応する。例えば、ウェアラブル電子デバイスは、眼鏡またはサングラスと同様にユーザが装着することができる形態で提供される。
この装置は、ビデオカメラと処理構成が、上で論じたウェアラブルデバイスなど同じデバイスに含まれるように構成される。しかし、いくつかの実施形態では、ビデオカメラは、ワイヤレスローカルエリアネットワーク、パーソナルエリアネットワーク、セルラ通信ネットワーク、またはインターネットなどのネットワークを介して、捕捉されたビデオをコンピュータに送信するように構成されたデバイスに提供することができ、ここで、コンピュータは、前記処理構成を含む。
処理構成は、薬剤の複数回の送達が前記ビデオに記録されているかどうかを決定するように構成される。処理構成は、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づいて、少なくとも第2の薬剤用量を決定する工程と、前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量を決定する工程とによって、薬剤の複数回の送達が前記ビデオに記録されているという決定に応答するように構成される。代替として、または追加として、処理構成は、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定することによってそのような決定に応答するように構成され、それにより、前記1回またはそれ以上のプライムショットに関連すると決定された薬剤用量を無視することができる。
処理構成は、薬剤送達デバイスの少なくとも1つの構成要素の色を識別し、前記色に基づいて前記薬剤のタイプを決定するように構成される。いくつかの実施形態では、処理構成は、薬剤送達デバイスに提供される基準色情報を示す画像に基づいて色バランス測定量を取得するように構成される。
次に、添付図面を参照して、本発明の例示的実施形態を説明する。
薬剤送達デバイスの分解図である。 図1aの薬剤送達デバイスの一部の斜視図である。 本発明の一実施形態によるデータ収集デバイスのブロック図である。 本発明の一実施形態によるデータ収集方法の流れ図である。 それぞれ、表示される数表示(digit)の例と共に、図1aの薬物送達デバイスの投薬量窓の一部分を示す図である。 それぞれ、表示される数表示(digit)の例と共に、図1aの薬物送達デバイスの投薬量窓の一部分を示す図である。 投薬量窓に表示される数表示に対応する2値化された数表示の例を示す図である。 投薬量窓に表示される数表示のさらなる例を図式的に示す図である。 投薬量窓に表示される数表示のさらなる例を図式的に示す図である。 投薬量窓に表示される数表示のさらなる例を示す図であり、ここで、主数表示行が2桁を含む図である。 本発明の別の実施形態によるデータ収集方法の流れ図である。
以下、インスリン注射デバイスに関して本発明の実施形態を説明する。しかし、本発明はそのような用途に限定されず、本明細書で上述したように、他の薬剤を吐出する注射デバイスまたは他のタイプの薬剤送達デバイスと共に等しく十分に展開される。
図1aは、注射デバイス1の分解図であり、注射デバイス1は、この特定の例では、SanofiのSolostar(登録商標)インスリン注射ペンを表す。
図1aの注射デバイス1は、ハウジング10を含み、インスリン容器14を含む事前充填型の使い捨て注射ペンであり、インスリン容器14に針15を取り付けることができる。針は、内側ニードルキャップ16および外側ニードルキャップ17によって保護され、外側ニードルキャップ17は、キャップ18によってカバーすることができる。注射デバイス1から吐出予定のインスリン用量は、投薬量ノブ12を回すことによって選択することができ、次いで、選択された用量は、例えばいわゆる国際単位(IU)の倍数で投薬量窓13を通して表示され、ここで、1IUは、約45.5マイクログラム(1/22mg)の純粋な結晶性インスリンの生物学的等量である。投薬量窓13に表示される選択された用量の一例は、図1aに示されるように、例えば30IUでよい。選択された用量を別の形で同様に表示することもできることに留意すべきである。
投薬量窓13は、ハウジング10のアパーチャの形態でよく、投薬量ノブ12が回転されるときに動くように構成された数字スリーブ70の限られた部分をユーザが閲覧することを可能にする。投薬量窓13に表示された数字の画像の撮影を容易にするために、数字スリーブ70は艶消し面を有することがある。
ハウジング10にはラベル19が設けられている。ラベル19は、薬剤を識別する情報を含めて、注射デバイスに含まれる薬剤に関する情報を含む。薬剤を識別する情報は、テキストの形でよい。薬剤を識別する情報は、色の形でもよい。例えば、ラベル19は、背景を有してもよく、または注射デバイスに提供された薬剤の特定のタイプに対応する色を有するボーダー線など陰付き要素を含むことができる。代替として、または追加として、ラベルは、そのような情報を記憶するRFIDタグまたは同様のデバイスを含むことができる。
注射ボタン11または投薬量ノブ12など注射デバイスの1つまたはそれ以上の部品を、薬剤に対応する色を有する材料から形成することもできる。場合により、注射デバイス1のインスリン容器(図示せず)の一部は、薬剤タイプを示すカラーコード化された部分を含んでいてよく、投薬量窓13を通して閲覧可能でよい。追加として、または代替として、薬剤を識別する情報は、バーコードまたはQRコード(登録商標)などに符号化される。薬剤を識別する情報は、白黒パターン、カラーパターン、または陰影の形でもよい。
投薬量ノブ12を回すと、機械的なクリック音が、ユーザに音響フィードバックを提供する。数字付きスリーブ70は、インスリン容器14にあるピストンと機械的に相互作用する。針15が患者の皮膚部分に刺され、次いで注射ボタン11が押されるとき、投薬量窓13に表示されたインスリン用量が注射デバイス1から吐出される。注射ボタン11が押された後、特定の時間にわたって注射デバイス1の針15が皮膚部分に留まるとき、用量の高いパーセンテージが患者の体内に実際に注射される。インスリン用量の吐出も機械的なクリック音を引き起こし、しかしこの音は、投薬量ノブ12を使用するときに発生される音とは異なる。
注射デバイス1は、インスリン容器14が空になるか、注射デバイス1の有効期限(例えば最初の使用から28日)に達するまで、数回の注射プロセスにわたって使用される。
さらに、最初に注射デバイス1を使用する前に、針15を上向きにして注射デバイス1を保持しながら、例えば2IUのインスリンを選択して注射ボタン11を押すことによって、インスリン容器14および針15から空気を除去するためにいわゆる「プライムショット」を行うことが必要なことがある。提示を簡単にするために、以下では、吐出される用量が注射される用量に実質的に対応すると例示的に仮定し、したがって、例えば、次に注射予定の用量に関する提案を行うとき、この用量は、注射デバイスによって吐出しなければならない用量に等しい。それにも関わらず、当然、特に「プライムショット」に関して、吐出される用量と注射される用量との差(例えば損失)が考慮に入れられる。
図1bは、注射デバイス1の端部の拡大図である。図1に示される特定の例では、位置特定リブ71が、閲覧窓13と投薬量ノブ12との間に位置されている。
図2は、本発明の一実施形態によるデータ収集デバイス20のブロック図であり、このデータ収集デバイス20は、図1の注射デバイス1から、インスリンのタイプ、投薬量、注射のタイミングなどのデータを収集するために使用される。
データ収集デバイス20は、内蔵ビデオカメラ21と処理構成22とを含む電子デバイスであり、処理構成22は、マイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)など、1つまたはそれ以上のプロセッサを含む。この特定の例では、データ収集デバイス20は、ユーザの視点からの画像を記録するためにユーザによって装着されるビデオカメラデバイス、または眼鏡に取り付けられる、もしくは他の形でユーザの頭部または身体に装着される計算デバイスなど、ウェアラブル電子デバイスである。
また、データ収集デバイス20は、読み出し専用メモリ23およびランダムアクセスメモリ24を含むメモリユニット23、24を含み、これらのメモリユニット23、24は、処理構成22によって実行するためのソフトウェアを記憶することができる。また、データ収集デバイス20は、携帯電話ネットワーク、パーソナルエリアネットワーク、ローカルワイヤレスネットワークまたはWLAN、およびインターネットのうちの1つまたはそれ以上との双方向通信を可能にするために、アンテナ25および送受信機26などの通信機器25、26を含む。さらに、データ収集デバイス20は、キーパッド27および/またはマイクロホン28などの入力構成27、28と、スピーカ29および/またはディスプレイ30などの出力構成29、30とを含む。いくつかの実施形態では、入力構成は、タッチ要素または「タッチパッド」の形態で、またはディスプレイ31の一部または全体を利用するタッチスクリーンの一部として、キーパッド27を含むことがある。入力構成は、代替として、または追加として、データ収集デバイス20の動きを検出するための1つまたはそれ以上の加速度計などの運動センサ構成31を含むことがある。また、データ収集デバイス20は、ビデオカメラ21、処理構成22、メモリユニット23、24、通信機器25、26、入力構成27、28、31、および出力構成29、30との間の通信を可能にする通信バス32も含む。
データ収集デバイス20のメモリユニット23、24に記憶されているソフトウェアは、コンピュータ可読命令を含み、これらのコンピュータ可読命令は、処理構成22によって実行されるとき、データ収集デバイス20にビデオを記録させ、ビデオを処理させて、注射デバイス1内の薬剤のタイプ、注射デバイス1によって送達される用量、および場合により薬剤の送達時間に関するデータを得られるようにする。ソフトウェアは、インターネットを介してライブラリまたはストアからダウンロードされるソフトウェアアプリケーションまたは「アプリ」の形態で提供することができる。
次に、図3〜9を参照して、本発明の一実施形態による例示的な方法を述べる。
図3の工程s3.0から始めて、ビデオカメラ21は、投薬量窓13を含む注射デバイス1の少なくとも一部の画像の記録(工程s3.1)を開始するように制御される。いくつかの実施形態では、アプリは、処理構成22が、カメラ21の視野の「ライブビュー」に基づいてカメラ21に対する注射デバイス1の位置決めに関する命令を提供することによって、ビデオが記録されている間にユーザにガイダンスの提供するように構成される。例えば、アプリは、投薬量窓13への良好な合焦を得ることができる距離にカメラ21を位置決めするようにユーザをガイドするように構成される。特定の実施形態では、カメラと注射デバイス1との距離が約30cmであるときに、そのような合焦が実現される。
さらに、薬剤情報がラベル19など注射デバイス1の別の部分にのみ含まれている場合、アプリによって、処理構成22は、ディスプレイ29にメッセージを提供することおよび/またはスピーカ30を介して告知を提供することによって、注射デバイス1のその部分を含むようにデータ収集デバイス20、33のユーザに命令することがある。
次いで、この実施形態では、処理構成22は、前処理(工程s3.2)を行って、以下の工程を実行することによってビデオデータ品質を査定し、必要であれば改善する:
・欠陥および不良画素の補正
・光補正
・歪曲
・ジッタ
例えば、露出制御アルゴリズムは、ビデオカメラ21に関する露出パラメータを制御することによって、および/または、例えばデータ収集デバイス20がフラッシュユニット(図示せず)を含む実施形態において提供される場合には追加の照明を制御することによって、明るすぎるまたは暗すぎる画像を補正するようにビデオカメラ21の動作を調節することができる。前処理は、場合によって採用される機能であることに留意されたい。アプリは、画像の前処理なしで所要の規格に合うように動作するように設計することもできる。
注射デバイス1とビデオカメラ21との距離は固定されず、カメラ21に対する投薬量窓13および(提供される場合には)ラベル19の向きも変化し得る。これに鑑みて、処理構成22は、投薬量窓13に表示される文字のサイズが所定の範囲内になるように、ビデオ記録での画像のスケールを調節する(工程s3.3)。
さらに、処理構成22は、カメラに対する注射デバイス1の向きに基づく投薬量窓13に表示される文字の歪み、および/または投薬量窓13に表示される文字の任意の傾きを補正することによって、ビデオ記録での画像を調節することができる(工程s3.4)。例えば、投薬量窓13での数字は、ユーザによる認識および位置決めを容易にするために傾けられるが、その傾きがなくされる場合、データ収集デバイス20によって復号するのがより容易になることがある。
スケールおよび歪みの調節は、所定の形状および/またはサイズの注射デバイス1の特徴の分析に基づくことがある。例えば、処理構成22は、投薬量窓13、ラベル19、注射デバイス1でのロゴ(図示せず)、および/または画像内の注射デバイス1の他の特徴を識別し、それらの特徴の予想される形状および/またはサイズに関する情報に基づいて、ビデオカメラ21によって撮影された画像のスケールおよび位置合わせを調節し、画像に含まれるテキストおよび数字の歪みを補正する。
いくつかの実施形態では、アプリは、投薬量窓13と、薬剤情報を含むラベル19など注射デバイス1の特定の部分とがビデオ画像に含まれているかどうかを決定するように処理構成22を制御することもある(工程s3.5)。この決定は、画像での注射デバイス1のスケールと、画像での注射デバイス1の1つまたはそれ以上の部分の位置とに基づくことがある。アプリは、場合により、注射デバイス1の関連する部分がビデオカメラ21の視野内にあるように、ビデオカメラ21に対する注射デバイス1の位置決めを調節するようにユーザにガイダンスを提供することがある。
次いで、処理構成22は、アプリに含まれる光学文字認識(OCR)ソフトウェアを使用して、ビデオ記録からの投薬量窓の少なくとも1つの画像から文字を認識することを試み(工程s3.6)、投薬量窓13に表示された数字または他の投薬量標示を決定する(工程s3.7)。
図4および5は、投薬量窓13の一部分を示し、表示される数字の例を示す。図4では、数表示34(この場合は6IUを示す数字6)が投薬量窓13の中央に表示されるように用量が注射デバイス1にダイヤル設定されている。図5では、7IUの投薬量が注射デバイス1にダイヤル設定され、数字6および8をそれぞれ表す数表示35、36が共に用量窓13に表示され、これらの数字の間のスペースが用量窓13の中央領域を占める。この特定の実施形態では、処理構成22は、図4および5に示した状況の両方が正確に復号されるようにするアルゴリズムを実行するように構成される。
OCRプロセスは、以下の工程を含む:
・2値化
・セグメント化
・パターンマッチング
・位置計算
センサデバイス2の高信頼性要件により、いくつかの実施形態では、並列に動作される2つのOCRアルゴリズムが存在し得る。2つのOCRアルゴリズムは同じ入力(画像)を有し、同じ出力を提供することを意図される。どちらも同様の工程を行うが、各工程で使用される個々の方法は異なることがある。これら2つのOCRアルゴリズムは、2値化、セグメント化、パターンマッチング、および位置計算工程の1つ、またはこれらの工程の複数で異なることがある。同じ結果を提供するために異なる方法を使用する2つのOCR部分を有することにより、2つの独立した方法でデータが処理されるので、アルゴリズム全体の信頼性が向上する。
OCRプロセスでは、ビデオカメラ21によって取得され、上述したように調節されたカラーまたはグレースケール画像が、2値化プロセスによって、図6に示されるような純粋に白黒の画像37に変換される。投薬量窓での明るい背景に暗色の数字が提示される例では、白黒画像は、図6の例に示されるように、黒い画素で数表示38、39の存在を示し、白い画素で数表示の不在を示す。いくつかの実施形態では、黒い画素と白い画素を分けるために固定閾値が使用される。2値化されたピクチャにおいて、閾値以上の値を有する画素は白になり、閾値未満の画素は黒になる。高い閾値はアーチファクト(白い領域内の黒い部分)をもたらし、低い閾値は、いくつかの場合には数字の一部が欠落するリスクを有する。いくつかの実施形態では、アルゴリズムは一般にアーチファクトに対してロバストである(すなわち、いくらかのアーチファクトがあっても正確なOCRプロセスを実施することができる)ので、閾値は、数字の一部が欠落しないように選択される。256のグレー値を用いて画像が分析された試験では、127の閾値が良好な結果を示した。
例えば前処理で光補正が行われた場合、固定閾値の使用が可能である。光補正と固定閾値との組合せは、窓平均2値化と同様である。窓平均2値化は、画素値と、それが位置される領域の画素の平均値とを比較する。歪曲および傾き補正工程の前に光補正工程を実施することは、OCRプロセスに関する使用のためにより多くの情報が入手可能であることを意味し、これは、ピクチャの縁部および隅部でより良い結果をもたらすことが示されている。
代替として、図6に示される2値化画像37と同様の2値画像を生成するために、捕捉されたグレースケール画像に大津の閾値法が適用される。いくつかの代替実施形態では、2値化が省略され、アルゴリズムのOCR部分は、捕捉されたカラーまたはグレースケール画像に対して行われる。
次いで、セグメント化が行われる。アルゴリズムのこの部分の目的は、画像でのそれぞれの見えているまたは一部見えている数字の正確な位置を決定することである。これを実現するために、アルゴリズムは、数表示の縁部を見出すことによって、見えている数字の境界を定義する。これは、一般に2工程で達成され、これらの工程は任意の順序で実施される。再び図4および5を参照すると、処理構成22は、2値化画像37を構成する画素列が分析される「垂直投影」を行うことがある。各画素列が個別に分析され、各列の黒い画素の数の合計が計算される。いくつかの実施形態では、黒い画素を1つも有さない画素列のみが数字の縁部を定義する。代替として、汚れ、引掻き傷、および他の外乱を見込んで、黒い画素の数に関する低い閾値が設定される。隣接する列に関する差分値が計算され、最大の差を有する境界が数字の縁部を表す。さらに、数字の水平縁部を決定する助けとなるように、重なり合う列グループ(例えば隣接する3列)の画素内容が計算される。
次いで、処理構成は、2値化画像37を構成する画素行が解析される「水平投影」を行う。これは、垂直投影に関して上述したのと同様に進行する。
水平投影の予想される結果が垂直投影の結果に追加され、それにより、見えている数字の縁部が識別されるようにする。処理構成22は、数字全体の(画素行での)予想される高さを予めプログラムされ、それにより、一部見えている数字の存在を認識することが可能である。
別の実施形態では、「水平投影」および「垂直投影」は、各行および列における白い画素の予想される数が既知であると仮定して白い画素の合計が計算される分析に基づくことがある。
正確な位置を知ることは、OCRプロセスでの次の工程に関して、見えている数字を表す画像の部分のみを使用することを可能にする。これにより、数字以外の他の物、例えば汚れ、引掻き傷、および他の外乱の影響を低減することができる。さらに、後続の工程(例えばパターンマッチング工程)で処理される画素の総数も減少される。これは、資源要件を低減させる助けとなる。これは、性能を向上させる助けにもなる。さらに、正確な位置を知ることは、画像の中心に対する垂直位置の決定も支援する。
OCRプロセスでの次の工程は、復号および識別されるように見えている数字の1つを選択することである。これは、数字の1つを「主数表示行」として指定することによって行われる。主数表示行は、見えている数字のどれが最大高さを有するかに基づいて選択される。これは、スリーブ70に印刷されている数字の全てがほぼ同じ高さを有し、最大高さを有する数字が完全に見え、したがって高い確実性で復号することが容易であると仮定することができるからである。図7に示される例では、数字「6」は、上下に一部見えている数字よりも大きい高さを有し、したがって主数表示行として選択される。図8に示される例では、数字「6」と「8」の両方が完全に見えており、同じ高さを有する。この場合、最上部の数字が主数表示行として選択される。主数表示行は、注射デバイス1にダイヤル設定された用量を決定するために後で使用される数字である。
インスリンの自己投与用の標準的な注射デバイス1は、1〜80IUの任意の単位数の薬剤を注射することができる。したがって、主数表示行として識別された数字を適切に復号するために、その数字が1桁からなるか2桁からなるかを決定しなければならない。したがって、処理構成22は、一連の工程を行って、各数字が1桁からなるか2桁からなるかを決定し、2桁の場合には、数表示を互いに分離する。処理構成22は、この目的のために、前に計算された列画素情報を使用することがある。図9に示される例では、9IUの薬剤が注射デバイス1にダイヤル設定されている。水平投影および垂直投影の予想される結果が示される。数字「10」は、数字「8」よりも大きい高さであり、したがって主数表示行として選択される。
この後、処理構成22は、選択された主数表示行が予め定義された「最大数表示幅」値よりも広いかどうかを決定する。処理構成22は、捕捉された画像内の数字の予想されるサイズに関係する情報を予めプログラムされ、それにより、1桁に関する最大予想幅を定義することができる。信頼性を高めるために、最大幅は、最も広い数字よりも大きい少数の画素列分だけ広い幅として設定される。主数表示行の幅が最大数表示幅以下である場合、その行は1桁のみを含むと仮定される。主数表示行が1桁であるには広すぎる場合、(画像全体ではなく)主数表示行に対して第2の垂直投影が行われる。さらに、分離が生じるはずの点を予測するために、個々の桁それぞれの予想される幅が使用される。
図9に示される例示的な視野900は、数字が十分に離隔されている図式表現である。他の構成では、利用可能なスペースが限られているため、および数字がユーザに可読である必要があるため、投薬量窓内で数字がかなり近接し合って表示される。したがって、2値化後、数字を構成する2つの桁を明確に分離することができないことがあり、すなわち、2つの桁の間に黒い画素を有さない列が存在しないことがある。これは、図6に示される例示的な2値化画像の場合であり、上側の数表示38の「7」と「4」は、黒い画素を含まない画素列を間に有さない。この場合、やはり、個々の桁それぞれの予想される幅が、分離が生じるはずの点を予測するために使用される。予測された列が黒い画素を含む場合、最良の分離点を決定するために、この列と隣接する列との偏差が計算される。この状況では、選択された分離する列での黒い画素が左の桁に属するか右の桁に属するかは明らかでないので、それらの画素は無視される。これは、桁を正しく識別するためのOCRプロセスの信頼性に最小限の影響しか与えないことが示されている。
次いで、主数表示行での数表示を識別するために、パターンマッチングプロセスが行われる。各数字に関するテンプレートがアプリによって予めプログラムされており、次いで、識別された数表示が、これらのテンプレートと比較される。単純な手法では、パターンマッチングを画素毎に行うことができる。しかし、これは高い計算力を必要とすることがあり、画像とテンプレートとの位置のばらつきが生じやすいことがある。テンプレートが使用される場合、アプリは、例えば、1つまたはそれ以上の数表示のサイズを変え、定義された画素領域に合わせて数字をトリミングし、イタリック体で印刷された数字を変形して直立させることによって、画像の数字に対する他のタイプの操作を処理構成22に行わせるように構成される。これらの操作は、記憶されているテンプレートとのパターンマッチング比較の前に行われる。代替として、これらの操作は、2値化プロセス前の前処理で行われる。追加の陰影、歪曲、および露出補正を行うこともできる。
いくつかの他の実施形態では、特徴認識プロセスが行われる。特徴は、水平、垂直、または対角線、曲線、円、または閉ループなどでよい。そのような特徴は、選択された数字の画像で認識され、テンプレートと比較される。
さらなる実施形態では、パターンマッチングアルゴリズムは、ベクトル比較プロセスに基づくことがある。例えば、テンプレートは、黒い画素の各ライン(連続線)の位置および長さを記述するベクトルの形でよい。一例では、位置および長さは、それぞれの線での絶対位置に関係する。別の例では、位置および長さは、テンプレートの中心を通って延びる垂直線に関係する。各桁の捕捉された2値画像は、同様にベクトルに変換され、記憶されているテンプレートそれぞれと順に比較されて最良の一致を見出す。捕捉された画像のベクトルを特定の数表示テンプレートと比較するとき、偏差があると、画像とそのテンプレートとの一致の尤度に関してペナルティ(penalty)が適用される。ペナルティの大きさは、テンプレートと比較した、画像での欠落したまたは余剰の黒い画素の数に依存することがある。数表示画像が各テンプレートと比較され、全てのペナルティが適用された後、どの数表示が存在するか判断される。良好な光学条件では、適正なテンプレートは非常に低いペナルティを有し、他の全てのテンプレートは高いペナルティを有する。主数表示行が2桁からなる場合、このプロセスが両方の桁に対して行われ、次いで、処理構成22は、それらの結果を組み合わせて、その数字に関する最終結果を生成することができる。
特定の数表示に対して特別な手段が存在することがある。例えば、「1」の幅は、全ての他の数表示から実質的に逸脱しており、誤検出がよくある。これに対処するために、数表示の2値画像は、「1」の予想される幅よりも広い場合、記憶されている「1」のベクトルテンプレートと比較されるときに追加の検出ペナルティを受ける。
いくつかの例外的な場合には、主数表示行のパターンマッチングの結果の信頼度が特定の閾値(例えば99%)を下回る場合、プロセッサは、他の見えているまたは一部見えている数字の1つまたはそれ以上に対して第2のパターンマッチングプロセスを行うことがある。数字の順序が分かっているので、この第2のパターンマッチングは、第1のパターンマッチングが正しい結果を返したことのチェックとなり得る。
結果の信頼度がまだ十分に高くない場合には、ビデオカメラ21によって記録されたビデオからの第2の画像に関して工程s3.1〜s3.6が繰り返される。代替として、エラーメッセージが表示され、場合により、出力構成29、30を介して、投薬量窓13のビデオ画像の捕捉を続けるように、または入力構成27、28を介して投薬量情報を手入力するようにユーザに命令が発出される。
主数表示行の数表示の識別に成功した場合、投薬量窓13に表示される用量を決定するために重み関数が適用される(工程s3.7)。重み関数を公式化するために、投薬量窓13の中心に対する主数表示行の垂直位置が決定される。これは、画像内の投薬量窓13の中心線を表す画素行に対する、主数表示行を構成する中央画素行のオフセットを計算することによって行われる。
例えば、いくつかの実施形態では、光センサは、感光性素子の長方形の64×48アレイを含む。得られる2値画像は、これらの同じ寸法を有する画素アレイである。第24および/または第25の画素行が、画像の中心行として指定される。主数表示行を構成する中央画素行の位置が決定される。次いで、画素行における、主数表示行を構成する中央画素行と画像の中心行とのオフセットが計算される。このオフセットは、オフセットの方向に応じて正のことも負のこともある。オフセットは、連続する数字間の(画素行での)距離で除算することによって小数に変換され、その後、それに従って、決定された数字に適用される。したがって、オフセットは、センサに対する数字の回転位置を決定することを可能にする。主数表示行の中心画素行が画像の中心画素行と同じである場合、オフセットはゼロであり、位置は主数表示行の数字と等しい。しかし、ほとんどの状況で、いくらかのオフセットがある可能性が高い。
数字は注射デバイスメカニズムの離散的な機械的運動に関係する用量を表すので、数字スリーブ70に印刷された連続する数字間の距離は一定である。したがって、捕捉された画像での連続する数字間の(画素行での)距離も一定にすべきである。数字の予想される高さと、数字間のスペースとは、アプリに予めプログラムされる。一例として、各数字の予想される高さは22画素でよく、数字間のスペースの予想される高さは6画素でよい。したがって、連続する数字の中心画素行間の距離は28画素になる。
この例を続けると、画素行が画像の上から下へ順次に番号付けされている場合、重み関数の適用は数学的に以下のように定義される:
位置=主数表示行の数字+[2×オフセット/(数字の予想される高さ+スペースの予想される高さ)]
ここで、オフセット=投薬量窓の中心に対応する画像行の数字−主数表示行の中心行の数字である。
したがって、主数表示行が画像の上半分にある場合、オフセットは正であり、主数表示行が画像の下半分にある場合、オフセットは負である。例えば、主数表示行に示される数字が「6」で、オフセットがゼロである場合、計算される位置は以下のようになる:
位置=6+[2×0/(28)]=6
したがって、予想通り、「6」という結果が返される。
別の例では、75IUが注射デバイス1にダイヤル設定される場合、上の数字「74」が主数表示行として選択され、上式に従って11画素行の正のオフセットがある場合、この場合も数字/スペース高さの合計が28画素であると仮定すると、計算される位置は以下のようである:
位置=74+[2×11/(28)]=74.79
次いで、この結果は、最も近い整数に切り上げられ、予想通り、「75」という位置決定を与える。
上述した重み関数および位置決定は一例を表すにすぎず、同じ結果に至るために多くの他の計算法を使用することができることを当業者は理解されよう。また、計算時間を短縮するために、上述した数学的計算が修正されて改良されることもあることを当業者は理解されよう。したがって、重み関数の厳密な形式は、本発明の定義には重要でない。
いくつかの注射デバイスでは、スペースの制約と、数字が特定のサイズである必要性とにより、偶数のみが投薬量窓13に提示される。いくつかの他の注射デバイスでは、奇数のみが表示される。しかし、薬剤の任意の単位数を注射デバイス1にダイヤル設定することができる。他の注射デバイスでは、偶数と奇数の両方が提示され、半単位用量(half−unit dose)を注射デバイスにダイヤル設定することが可能であり得る。注射デバイスは、80IUの最大ダイヤル用量に制限される。代替として、2つおき、3つおき、または4つおきの数字のみが表示され、数字の間の用量は目盛によって示される。これに鑑みて、アプリは、注射デバイス1で使用されているナンバリングシーケンス(numbering sequence)を識別するように処理構成22を制御するための命令を含むことがある。例えば、ユーザは、キーパッド27もしくはタッチスクリーン33を介して注射デバイス1に関する情報を入力するように促され、または、画像から、例えばラベル19のテキストもしくはバーコードから得られた情報が使用される。アプリは、ルックアップテーブル、または様々な注射デバイス1に使用されるナンバリングシーケンスを示す他の情報を含むことがある。次いで、処理構成22は、OCRデータと、注射デバイス1に適したナンバリングシーケンスとの両方に基づいて、選択された用量を決定することがある。代替として、または追加として、数字の高さおよび数字間のスペースのサイズも修正されるとき、重み関数の修正された形式を使用することができる。
この方法は、場合により、サニティチェック(sanity check)およびヒステリシス計算の実施などの後処理を含むことがある。代替として、OCRプロセスの結果は、後処理なしで完了される。
次いで、ダイヤル設定された投薬量が変わったかどうかを決定するために、工程s3.6〜s3.7で上述したようなOCRプロセスが、ビデオからの少なくとも1つの後続の画像に対して反復される(工程s3.8)。この工程は、工程s3.7で識別された投薬量が注射デバイス1によって送達予定の投薬量を表すかどうか、またはユーザがノブ12を使用してダイヤル投薬量を調節し続けているかどうかを決定するように意図される。いくつかの実施形態では、処理構成22は、ビデオにおける最後に決定された投薬量を、ユーザに送達される実際の投薬量であると識別するように構成される。他の例示的な実施形態では、処理構成22は、工程s3.6〜s3.7での所定数の連続するビデオフレーム、または実質的に連続するビデオフレームのシーケンスでの同じダイヤル投薬量の検出に基づいて、注射デバイス1によって送達される実際の投薬量を識別することがある。
薬剤のタイプに関する情報は、ラベル19を含む画像の一部からOCRを使用すること、ラベル19を含む画像の一部からバーコードを抽出して解釈すること、または画像から薬剤タイプを示す注射デバイス1の一部の色を識別することの1つまたはそれ以上によって取得される(工程s3.9)。
色検出が使用される実施形態では、注射デバイス1の数字付きスリーブ70は、画像内の1つまたはそれ以上の色を正しく識別することができるように基準色情報を提供するように構成される。例えば、印刷された数字の背景は、画像に示される注射デバイス1の構成要素の色を較正するためのホワイトバランスレベルを提供するために使用される。
注射デバイス1によって薬剤が送達された時間に関する情報は、ビデオ記録に関連するタイムスタンプデータから得られる(工程s3.10)。
次いで、ビデオから得られた情報は、データ収集デバイス20のランダムアクセスメモリ24に記憶され(工程s3.11)、および/または通信機器25、26を使用して、携帯電話ネットワーク、パーソナルエリアネットワーク、WLANまたはインターネットなどのネットワークを介して別のデバイスに送信される(工程3.12)。このようにして、患者への薬剤の投与が記録および/または監視される。プロセスは、工程s3.13で終了する。
データ収集デバイスを使用して注射デバイス1から収集するために使用される方法の別の実施形態が図10に示されている。
工程s10.0から始まって、工程s10.1〜s10.10は、それぞれ工程s3.1〜s3.10に対応する。
図10に示される方法は、薬剤の複数の投薬量を送達するために注射デバイス1が起動されるかどうかを決定するためにビデオ記録を分析する追加の工程を含む。上述したように、注射デバイス1は、80IUなど、1回の注射で送達される薬剤の量に対する上限を有することがある。実際には、所要の用量の薬剤をユーザが受け取るために、複数回の実際の注射が必要とされる。注射デバイス1の最大投薬量を上回る用量、例えば上記の例では80IUを超える用量をユーザが必要とする場合、2回の注射が迅速に連続して投与される。
代替として、または追加として、ビデオは、ユーザに送達される投薬量を決定する際に無視されるべき注射器ペンからの空気をなくすために、1回またはそれ以上の「プライムショット」をユーザが実施している画像を含むことがある。
工程s10.11で、処理構成22は、工程s10.6およびs10.7に関係して述べたOCRプロセスをビデオからの1つまたはそれ以上の後続の画像に対して繰り返すことによって、ビデオカメラ21によって捕捉されたビデオが、さらなる投薬量が注射器ペン1にダイヤル設定されている画像を含むかどうかを決定する。例えば、注射を投与するために上述したSoloSTAR(登録商標)ペンが使用されるとき、薬剤が送達されるにつれて、投薬量窓13に表示される数字はゼロへと減少する。したがって、工程s10.7でダイヤル投薬量が識別された後、変化する数字を投薬量窓13に示すビデオでの画像のシーケンス、または投薬量窓13でのゼロでない文字のその後の検出は、薬剤のさらなる送達がユーザによって行われているという標示とみなされる。
薬剤のさらなる送達が示される場合、処理構成22は、薬剤の前の送達が「プライムショット」に対応していたか、それとも薬剤の実際の注射に対応していたかを決定する(工程s10.12)。決定された投薬量に基づいて、「プライムショット」が検出される。例えば、工程s10.8またはs10.9での2IU以下のダイヤル投薬量の検出は、ユーザによって受け取られる注射ではなく、「プライムショット」に対応すると考えられる。代替として、または追加として、工程s10.10で得られるタイムスタンプと、工程s10.11での、注射デバイス1にダイヤル設定された新規の投薬量の検出の基になっている画像に関連するタイムスタンプ、または工程s10.11でのさらなる投薬量の検出間の時間は、「プライムショット」が行われたかどうかを示すために使用される。ユーザへの注射の投与は、特定のインスリン注射時に数秒間、例えば10秒間、針がユーザの体内に留まることを必要とすることがある。さらに、第2の注射が行われる場合、ユーザは、第1の注射後に針15を交換すると予想され、工程s10.6〜s10.7と工程s10.11でのOCRプロセスによるダイヤル投薬量の検出間の時間インターバルを増加する。その時間インターバルが所定の限度、例えば10秒を超える場合、第2の注射が示される。時間インターバルが所定の限度未満である場合、処理構成22は、注射デバイス1の前の活動が「プライムショット」であったと決定することがある。
ビデオカメラ21によってビデオが捕捉されている間にOCRプロセスが行われる実施形態では、データ収集デバイス20は、ディスプレイ29および/またはスピーカ30を介して、第2の注射が行われているかどうか、および/または「プライムショット」が行われたかどうかを示すようにユーザに要求を出力することがある。ユーザは、入力構成27、28、31を介して要求に応答することができる。
工程s10.11で注射が1回のみ送達されたと決定された場合、ユーザによって受け取られた全体の投薬量が、工程S10.7で検出された投薬量に対応するものと決定される。
第2の注射が送達され(工程s10.11)、いずれの注射も「プライムショット」でなかったと決定された場合、工程s10.7およびs10.11で決定された投薬量が足し合わされて、ユーザによって受け取られた合計投薬量を決定する(工程s10.13)。しかし、工程s10.7およびs10.11で検出された1つまたはそれ以上の投薬量が「プライムショット」に関係していたと決定された場合(工程s10.12)、そのように決定されたそれぞれの投薬量は、全体の決定された投薬量に含まれず(工程s10.14)、さらなる注射に関するチェックが行われる(工程s10.11)。
代替実施形態では、工程s10.12〜工程s10.14が省かれ、さらなる投薬量が検出された場合(工程s10.11)、検出された投薬量に関係するデータは、後の分析のために記憶および/または送信される。
薬剤のタイプおよびタイムスタンプ情報に関する情報は、図3の工程s3.11〜s3.12に関連して上述したのと同様に記憶および/または送信される(工程s10.15、s10.16)。次いで、プロセスは終了する(工程s10.17)。
上で論じた実施形態によって示されるように、注射、他の医学的処置、または他の機器の操作に関する情報を得るためのアプリまたは同様のソフトウェア製品の提供は、一般に入手可能でありユーザによく知られているウェアラブル電子デバイスなどのデバイスを使用して、そのような情報のより正確なおよび/または高信頼性の記録を可能にすることがある。上述した実施形態は、特化されたデータ収集デバイスの製造および配布を必要としないので、処置または操作の記録および/または監視を提供するコストおよび複雑さを低減することができる可能性がある。
上述した実施形態では、ビデオは、1つのデータ収集デバイス20によって捕捉され、処理され、分析される。しかし、他の実施形態では、データ収集デバイス20は、そのカメラ21を使用してビデオを捕捉し、次いで、ワイヤレスローカルエリアネットワーク、パーソナルエリアネットワーク、セルラ通信ネットワーク、またはインターネットなどのネットワークを介して、捕捉されたビデオをコンピュータに送信するように構成され、ここで、コンピュータは、ビデオを処理して分析して、投薬量窓13に表示される投薬量を決定するように構成された処理構成を含む。
上記の実施形態は、インスリン注射器ペンからのデータの収集に関して述べてきたが、本発明の実施形態は、他の薬剤の注射または他の医学的プロセスの監視など他の目的のために使用することもできることに留意されたい。実施形態は、医療以外の目的で、例えば安全上の理由により他のタイプの機器の動作を監視する際に使用することもできる。

Claims (14)

  1. ビデオカメラと処理構成とを含むウェアラブル電子データ収集デバイスによって実行される薬剤用量を記録する方法であって:
    デオカメラによって、薬剤送達デバイスの薬剤用量インジケータを示すビデオを捕捉する工程と:
    薬物送達デバイスとビデオカメラとの間の距離に応じて、前記ビデオでの画像のスケールを処理構成によって調節する工程と;
    前記ビデオでの薬剤送達デバイスの構成要素に表示される1つまたはそれ以上の文字の歪みに関して前記画像を、処理構成によって調節する工程と;
    画像での前記1つまたはそれ以上の文字のうちの少なくとも1つの位置を、処理構成によって決定する工程と;
    光学文字認識を使用して少なくとも1文字を、処理構成によって識別する工程と;
    前記光学文字認識の結果に基づいて、薬剤用量インジケータによって示される薬剤用量を、処理構成によって決定する工程と
    を含む前記方法。
  2. 薬剤の複数回の送達が前記ビデオに記録されているかどうかを決定する工程を含む請求項1に記載の方法。
  3. 薬剤の複数回の送達が前記ビデオに記録されているという決定に応答して、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づいて、少なくとも第2の薬剤用量を決定する工程と、
    前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量を決定する工程と
    を含む請求項2に記載の方法。
  4. 薬剤の複数回の送達が前記ビデオに記録されているという決定に応答して、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定する工程を
    含む請求項2または3に記載の方法。
  5. 前記画像から色情報を取得する工程と、
    前記色情報に基づいて投薬予定の薬剤のタイプを識別する工程と
    を含む請求項1〜4のいずれか1項に記載の方法。
  6. 前記薬剤送達デバイスは、投薬予定の前記薬剤の量を選択するための可動構成要素を含む注射器ペンである請求項〜5のいずれか1項に記載の方法。
  7. プロセッサによって実行されたとき、プロセッサに請求項1〜6のいずれか1項に記載の方法を行わせるようにするコンピュータ可読命令を含む、電子データ収集デバイス上で実行されるコンピュータプログラム。
  8. 請求項7に記載のコンピュータプログラムを含む、ウェアラブル電子デバイス用のアプリケーション。
  9. 薬剤用量を記録するためのデータ収集装置であって:
    ビデオカメラと処理構成とを含むウェアラブル電子デバイスを含み
    処理構成は:
    前記ビデオカメラを使用して、薬剤送達デバイスの薬剤用量インジケータの少なくとも1つの画像を含むビデオを捕捉し;
    薬物送達デバイスとビデオカメラとの間の距離に応じて、前記画像のスケールを調節し;
    薬剤送達デバイスの構成要素に表示される1つまたはそれ以上の文字の歪みに関して前記画像を調節し;
    画像での前記1つまたはそれ以上の文字のうちの少なくとも1つの位置を決定し;
    光学文字認識を使用して少なくとも1文字を識別し;
    前記光学文字認識の結果に基づいて前記薬剤用量インジケータによって示される投薬量を決定する
    ように構成される、前記データ収集装置。
  10. 前記ウェアラブル電子デバイスは、ユーザの頭部に装着されるように構成される請求項9に記載のデータ収集装置。
  11. 前記処理構成は、薬剤の複数回の送達が前記ビデオに記録されているかどうかを決定するように構成される請求項9または10に記載のデータ収集装置。
  12. 処理構成は、前記ビデオでの前記薬剤用量インジケータの少なくとも第2の画像に対する光学文字認識を使用して識別された少なくとも1つの文字に基づいて、少なくとも第2の薬剤用量を決定し、前記決定された薬剤用量および前記決定された第2の薬剤用量に基づいて、ユーザによって受け取られる全体の薬剤用量を決定することによって、薬剤の複数回の送達が前記ビデオに記録されているという決定に応答するように構成される請求項11に記載のデータ収集装置。
  13. 前記処理構成は、前記薬剤の複数回の送達が1回またはそれ以上のプライムショットを含むかどうかを決定することによって、薬剤の複数回の送達が前記ビデオに記録されているという決定に応答するように構成される請求項11または12に記載のデータ収集装置。
  14. 薬剤送達デバイスと、
    請求項9〜13のいずれか1項に記載のデータ収集装置と
    を含む薬剤送達システム。
JP2017521495A 2014-10-21 2015-10-15 光学文字認識を使用する薬物注射デバイスからの用量データの記録 Active JP6753846B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14189706 2014-10-21
EP14189706.6 2014-10-21
PCT/EP2015/073860 WO2016062605A1 (en) 2014-10-21 2015-10-15 Recording dose data from drug injection devices using optical character recognition (ocr)

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020138322A Division JP7069259B2 (ja) 2014-10-21 2020-08-19 光学文字認識を使用する薬物注射デバイスからの用量データの記録

Publications (2)

Publication Number Publication Date
JP2017533016A JP2017533016A (ja) 2017-11-09
JP6753846B2 true JP6753846B2 (ja) 2020-09-09

Family

ID=51752007

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017521495A Active JP6753846B2 (ja) 2014-10-21 2015-10-15 光学文字認識を使用する薬物注射デバイスからの用量データの記録
JP2020138322A Active JP7069259B2 (ja) 2014-10-21 2020-08-19 光学文字認識を使用する薬物注射デバイスからの用量データの記録

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020138322A Active JP7069259B2 (ja) 2014-10-21 2020-08-19 光学文字認識を使用する薬物注射デバイスからの用量データの記録

Country Status (6)

Country Link
US (2) US10146910B2 (ja)
EP (1) EP3209355B1 (ja)
JP (2) JP6753846B2 (ja)
CN (1) CN107073226B (ja)
DK (1) DK3209355T3 (ja)
WO (1) WO2016062605A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2954290C (en) * 2014-07-22 2023-10-03 ConnectMeSmart GmbH System and method for detecting activation of a medical delivery device
WO2017087888A1 (en) 2015-11-18 2017-05-26 President And Fellows Of Harvard College Systems and methods for monitoring, managing, and treating asthma and anaphylaxis
US10688255B2 (en) * 2016-04-29 2020-06-23 Verily Life Sciences Llc Air shot detection
US10953155B2 (en) 2016-04-29 2021-03-23 Verily Life Sciences Llc Pressure sensor in plunger head to wake up electronics
US10518039B2 (en) 2016-04-29 2019-12-31 Verily Life Sciences Llc Apparatus and methods for tracking administering of medication by medication injection devices
WO2017202977A1 (en) * 2016-05-24 2017-11-30 Sanofi-Aventis Deutschland Gmbh A supplementary device for attachment to a drug delivery device, a number sleeve for a drug delivery device, and a drug delivery device
CN106203413A (zh) * 2016-06-29 2016-12-07 上海信麟信息技术有限公司 医疗系统数据整合系统及方法
CN110072573B (zh) * 2016-12-13 2022-07-12 赛诺菲-安万特德国有限公司 从药剂递送装置进行数据采集
US11833333B2 (en) * 2017-07-12 2023-12-05 Insuline Medical Ltd Drug tracking device
WO2019121615A1 (en) 2017-12-21 2019-06-27 Sanofi Rfid dose tracking mechanism for injection devices
CN111712280B (zh) 2017-12-21 2022-09-13 赛诺菲 使用无源rf调制的与注射装置使用相关的数据的传输
CN112955968A (zh) 2018-09-24 2021-06-11 诺和诺德股份有限公司 用于提高分配数据集的数据质量的系统
US10452918B1 (en) * 2019-01-31 2019-10-22 Nenad Milanovic Automatically creating time entries based on a video showing a user's surroundings
US20210280315A1 (en) * 2020-03-05 2021-09-09 Visualogyx, Inc. Data-based general health certification for a product life cycle
JP2023045647A (ja) * 2021-09-22 2023-04-03 キオクシア株式会社 半導体記憶装置
CN115082666B (zh) * 2022-08-23 2022-11-11 山东聊城中泰表业有限公司 一种基于图像理解的手表走时精度验证方法

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11155808A (ja) 1997-11-27 1999-06-15 Olympus Optical Co Ltd 内視鏡撮像装置
JP2000228745A (ja) 1999-02-05 2000-08-15 Matsushita Electric Ind Co Ltd 映像信号処理装置および映像信号処理方法、画像処理装置および画像処理方法、ならびに撮像装置
US20040069044A1 (en) * 1999-04-29 2004-04-15 Gilad Lavi Device for measuring a volume of drug
US20030076408A1 (en) 2001-10-18 2003-04-24 Nokia Corporation Method and handheld device for obtaining an image of an object by combining a plurality of images
AU2003233504A1 (en) * 2002-05-24 2003-12-12 Eli Lilly And Company Medication injecting apparatus with fluid container piston-engaging drive member having internal hollow for accommodating drive member shifting mechanism
DE602004004589T2 (de) * 2003-05-30 2007-11-08 Eli Lilly And Co., Indianapolis Mehrkammer medikamentenverabreichungsvorrichtung
DK1732628T3 (da) * 2004-03-30 2011-10-24 Lilly Co Eli Medicindoseringsapparat med gearsæt med åbning til et drivelement
US8320708B2 (en) * 2004-04-02 2012-11-27 K-Nfb Reading Technology, Inc. Tilt adjustment for optical character recognition in portable reading machine
EP2060289A1 (en) * 2007-11-13 2009-05-20 F.Hoffmann-La Roche Ag Administration device comprising indication unit and method for setting a dose
US8161810B2 (en) * 2008-01-29 2012-04-24 Carefusion 303, Inc. Syringe imaging systems
EP2349412B1 (en) 2008-10-01 2019-07-24 Novo Nordisk A/S Medical assembly with monitoring device
TW201808357A (zh) * 2010-03-22 2018-03-16 賽諾菲阿凡提斯德意志有限公司 用於判定與醫療裝置有關的資訊之裝置、方法、系統及電腦程式
CN102201051A (zh) * 2010-03-25 2011-09-28 汉王科技股份有限公司 文字摘录装置、方法和系统
CN101997981B (zh) 2010-11-01 2013-08-14 惠州Tcl移动通信有限公司 一种基于手机摄像头的宽容度实现方法及手机
US8774558B2 (en) * 2010-11-29 2014-07-08 Microsoft Corporation Rectification of characters and text as transform invariant low-rank textures
EP2646082A1 (en) * 2010-11-29 2013-10-09 Sanofi-Aventis Deutschland GmbH Medicated module for use with auto-injector delivery device
EP2649188A1 (en) * 2010-12-06 2013-10-16 Novozymes North America, Inc. Methods of hydrolyzing oligomers in hemicellulosic liquor
JP5485469B2 (ja) * 2011-03-08 2014-05-07 三菱電機株式会社 粒子線治療装置、および粒子線治療装置の照射線量設定方法
EP2689359B1 (en) * 2011-03-24 2020-11-25 Sanofi-Aventis Deutschland GmbH Device and method for detecting an actuation action performable with a medical device
US9098611B2 (en) * 2012-11-26 2015-08-04 Intouch Technologies, Inc. Enhanced video interaction for a user interface of a telepresence network
EP2760508A1 (en) * 2011-09-27 2014-08-06 Novo Nordisk A/S Medical system configured to collect and transfer data
JP6340321B2 (ja) * 2012-02-13 2018-06-06 サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング ペン型注射デバイス、およびペン型注射デバイスのための電子クリップ式モジュール
JP6166281B2 (ja) * 2012-02-13 2017-07-19 サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング ペン型注射デバイスおよびそのための電子クリップオン・モジュール
JP6203198B2 (ja) * 2012-02-13 2017-09-27 サノフィ−アベンティス・ドイチュラント・ゲゼルシャフト・ミット・ベシュレンクテル・ハフツング 注射デバイスへの取付けのための補助デバイス
US10105094B2 (en) * 2012-02-13 2018-10-23 Sanofi-Aventis Deutschland Gmbh Supplementary device for a manually operable injection device
US8681268B2 (en) * 2012-05-24 2014-03-25 Abisee, Inc. Vision assistive devices and user interfaces
KR20130140301A (ko) * 2012-06-14 2013-12-24 삼성전자주식회사 주사량 측정 장치
JP5864766B2 (ja) * 2012-09-11 2016-02-17 テルモ株式会社 信号処理装置、医療装置及び信号処理方法
EP2708253A1 (en) * 2012-09-14 2014-03-19 Sanofi-Aventis Deutschland GmbH Drug injection device with optical dose encoder usind 2D pixel maps
US9179260B2 (en) * 2012-12-03 2015-11-03 Mylan Inc. Medicament information system and method
KR102022444B1 (ko) 2013-02-21 2019-09-18 삼성전자주식회사 복수의 카메라를 구비한 휴대 단말에서 유효한 영상들을 합성하기 위한 방법 및 이를 위한 휴대 단말
WO2016049066A1 (en) * 2014-09-23 2016-03-31 Oscillari Llc Vibration sensor based drug delivery monitor
AU2014287059A1 (en) * 2013-07-12 2016-02-04 Oscillari Llc Acoustic based drug delivery monitor
CN106687992B (zh) * 2014-07-10 2021-01-12 赛诺菲-安万特德国有限公司 用于执行光学字符识别的装置和方法
EP3058974A1 (en) * 2015-02-19 2016-08-24 Sanofi-Aventis Deutschland GmbH Injection device with supplementary device
US20170182258A1 (en) * 2015-12-29 2017-06-29 InsuLog Ltd. Adjunct device and system for an injector for monitoring injected amounts

Also Published As

Publication number Publication date
EP3209355B1 (en) 2020-04-08
JP2017533016A (ja) 2017-11-09
JP2020199277A (ja) 2020-12-17
US10796791B2 (en) 2020-10-06
CN107073226B (zh) 2020-07-24
US10146910B2 (en) 2018-12-04
CN107073226A (zh) 2017-08-18
EP3209355A1 (en) 2017-08-30
WO2016062605A1 (en) 2016-04-28
US20170316157A1 (en) 2017-11-02
DK3209355T3 (da) 2020-07-06
US20190057764A1 (en) 2019-02-21
JP7069259B2 (ja) 2022-05-17

Similar Documents

Publication Publication Date Title
JP7069259B2 (ja) 光学文字認識を使用する薬物注射デバイスからの用量データの記録
JP6756713B2 (ja) 薬剤投薬量の決定
JP6685318B2 (ja) 薬剤投与量データ収集
JP6806937B2 (ja) 光学式文字認識(ocr)を用いて使用者が設定した用量値を記録および表示するために注射デバイスに取り付けるための補助デバイス
JP7042934B2 (ja) 光学文字認識を使用した薬物注射デバイスからの用量データの記録

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200721

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200820

R150 Certificate of patent or registration of utility model

Ref document number: 6753846

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250