JP6059724B2 - 画像データの表示の動作をサポートする装置及び方法 - Google Patents

画像データの表示の動作をサポートする装置及び方法 Download PDF

Info

Publication number
JP6059724B2
JP6059724B2 JP2014529101A JP2014529101A JP6059724B2 JP 6059724 B2 JP6059724 B2 JP 6059724B2 JP 2014529101 A JP2014529101 A JP 2014529101A JP 2014529101 A JP2014529101 A JP 2014529101A JP 6059724 B2 JP6059724 B2 JP 6059724B2
Authority
JP
Japan
Prior art keywords
image
guarantee
pattern
guaranteed
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014529101A
Other languages
English (en)
Other versions
JP2014529252A5 (ja
JP2014529252A (ja
Inventor
ウリ テッゼル
ウリ テッゼル
ハラルト グライナー
ハラルト グライナー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2014529252A publication Critical patent/JP2014529252A/ja
Publication of JP2014529252A5 publication Critical patent/JP2014529252A5/ja
Application granted granted Critical
Publication of JP6059724B2 publication Critical patent/JP6059724B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7425Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0004Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
    • A61B5/0013Medical image data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/231Analysis of motion using block-matching using full search
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02Preprocessing
    • G06F2218/04Denoising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/285Analysis of motion using a sequence of stereo image pairs

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Multimedia (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Computer Hardware Design (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Bioethics (AREA)
  • General Engineering & Computer Science (AREA)
  • Physiology (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Alarm Systems (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、時間に対して変化しうる画像データの表示の動作をサポートする装置及び方法に関する。
画像データが生成された場合、前記生成された画像データは、記憶部に記憶されうる。(以前に)生成された画像データを表示する場合、前記画像データのダブルバッファリングが実行されることができ、一方のバッファリングは、前記画像データを生成した後に使用された以前の記憶部において行われ、他方のバッファリングは、前記画像データを表示するために行われる。変化する画像データ、すなわち、可視コンテンツが時間に対して変化する画像データが生成される場合、かつ前記変化する画像データが表示される場合、前記変化する画像データを表示する表示装置が、いくつかの理由で前記表示される変化する画像の現在の画像コンテンツを取り出さないことが起こりうる。このような場合に、前記画像データの表示の動作は、不正確に実行される。結果として、前記表示装置により表示される前記画像データを見るオペレータ又はユーザは、特に、前記表示される画像がほぼ静止している(すなわち、前記画像のいくつかの部分のみが変化する及び/又は変化が大きな間隔で生じる)場合に、何かが間違っていることを認識しえない。他の場合に、前記オペレータ又はユーザは、前記表示された画像を一目見ることができ、これが何も変化していないことを認識するのに十分に長くなく、したがって、前記画像データの表示の誤った動作を認識しない。
画像表示の不正確な又は誤った動作は、前記表示されるデータの最新性が重要であるような場合、例えば、前記表示される画像が、前記オペレータ又はユーザに、前記表示される画像内で視覚化された状況がクリティカルであるかどうか、特定の処理が前記表示される画像内で視覚化された変化した状況に関して要求されるかどうかの情報を与える場合に、特にクリティカルになりうる。例えば、前記画像の少なくとも一部、前記画像の複数の部分又は前記画像全体は、例えば、警告のようなクリティカルな情報、測定された情報、クリティカルな場所、関心のある情報又は患者に対するクリティカルなバイタルサインを示しうる。前記画像の少なくとも一部、前記画像の複数の部分又は前記画像全体が、時間に対して変化する場合、前記変化を考慮に入れ、視覚化することによる前記画像の正確な表示が、必須であり、おそらくきわめて重要である。
クリティカルでありえ、保証に関連しうるこのような変化する画像データを表示する既知の解決法は、依然として、前記画像データの信頼できる表示、特に、変化する場合の前記画像データの信頼できる表示を提供しない。したがって、画像データの表示の正確な動作を可能にする解決法に対する必要性が、依然として存在する。
本発明の目的は、現在の画像データが表示される、すなわち、前記表示が正確に行われることが保証される、画像データの表示の信頼できる動作に対する解決法を提供することである。
この目的は、独立請求項のフィーチャにより達成される。
本発明は、追加の情報が表示されるべき画像に加えられ、前記追加の情報が、前記追加の情報を有する画像が表示される場合に不可視又は不可視に近くてもよく、前記追加の情報が、前記表示される画像の最新性を監視するのに使用され、特に、表示されるコンテンツが、時間に対して変化しうるというアイデアに基づく。前記監視は、独立したプロセス又は部分であってもよく、クリティカルでありうる変化する画像データの完全性を確認するのに使用される。前記追加の情報、特に、前記追加の情報のコンテンツは、前記画像、特に、前記画像により視覚化されるコンテンツとは独立でありうる。前記画像に組み込まれた前記追加の情報は、時間に対して変更されうる。前記画像の表示の監視は、前記表示される画像内に存在すると予測される追加の情報に関して前記追加の情報を確認することにより行われうる。前記追加の情報が、時間に対して変化された又は更新された場合、予測される追加の情報は、前記画像の表示の正確な動作を承認するために最新の変化した又は更新された追加の情報に対応しなくてはならない。更に、本発明は、他の画像ソースにより取り出された又は得られた変化した画像部分を、前記表示されるべき画像内に一体化することを可能にすることができ、前記他の画像ソースは、前記追加の情報と組み合わせた前記画像の元の画像ソースではなく、追加の情報を欠いた、すなわち有さない画像データを提供しうる。
本発明は、画像データの表示が行われるいくつかの分野、例えば、測定された値を有する患者のデータ及び/又は獲得された画像データが前記患者の監視条件に対して表示され、前記データが、画像として表示され、時間に対して変化しうる、医療技術の分野において使用されうる。本発明は、特定の使用分野に限定されない。
本発明の一態様において、画像データの表示の動作をサポートするように構成された装置が提供され、前記画像データは、時間に対して変化することができ、前記装置は、ソース画像のソース画像部分を対応する保証パターン(secure pattern)と組み合わせることにより生成される少なくとも1つの保証画像部分を生成することにより前記ソース画像に基づいて保証画像(secured image)を生成し、及び/又は前記保証画像部分の前記対応する保証パターンを検出することにより、及び前記検出された保証パターンを更新すること、前記検出された保証パターンの最新性(すなわち正確性)を確認することの少なくとも1つを実行することにより前記保証画像の表示を監視するように構成される。ソース画像部分と組み合わせられた保証パターンは、上述の追加の情報に対応する。前記監視は、表示される保証画像に関して実行される。このように、保証パターンの検出、更新及び確認は、表示される保証画像において保証パターンを検出、更新及び確認することにより行われる。本発明の使用により、画像データを表示する動作の連続的、効果的かつ速い監視が保証され、これは、画像データの表示の間違った及び/又は誤った動作の速い認識を可能にし、誤動作を解決するのに使用されうる。更に、前記装置の動作の監視において、前記画像の視覚化されたコンテンツを考慮する明確な必要性なしで、上述の追加の情報を表す保証パターンだけが確認されるので、本発明の実施は、前記画像データのソースとは独立に行われることができ、複数のソースを持ちうる画像データの表示の監視を可能にする。このように、画像データを表示する動作の柔軟な監視が、可能にされる。
本発明の一実施例によると、前記装置は、前記ソース画像を複数のソース画像部分に分割することにより、及び前記対応する保証パターンを前記分割されたソース画像部分の少なくとも1つに加えることにより前記保証画像を生成するように構成される。このように、前記装置は、異なるサイズの画像部分及び異なる配置の保証パターンの使用を可能にする画像データの表示の監視の柔軟な実施を可能にする。前記保証パターンは、各ソース画像部分、いくつかのソース画像部分、1つのソース画像部分に加えられうる。このように、いくつかの画像部分のいくつかのソースが、保証パターンの結合を使用しえないのに対し、他のソースが使用するので、複数のソースを持つ画像部分を有する表示されるべき画像の柔軟な構築又は構成が、サポートされる。
本発明の一実施例によると、前記ソース画像の前記ソース画像部分は、タイルである。このように、前記保証画像部分は、タイルである。
本発明の他の実施例によると、保証画像の少なくとも2つの画像部分は、重複しうる。これは、特に、各々が前記保証画像の特定の一部又は部分だけを更新しうるいくつかのソースから生じる画像部分を持つ保証画像に対して真でありうる。
本発明の一実施例によると、前記対応する保証パターンは、デジタルウォーターマーク、隠された情報の少なくとも1つを表す。このように、本発明の柔軟かつ可変の実施がサポートされる。
本発明の一実施例によると、前記対応する保証パターンは、前記保証画像部分の最新性の識別を可能にする情報、前記保証画像部分の同期を可能にする情報、前記保証画像部分のソースの決定を可能にする情報、前記保証画像部分の位置情報、前記保証画像部分の前記保証パターンの検出を可能にする情報、表示される場合の前記保証画像部分のコンテンツを示す情報の少なくとも1つを有する。このために、本発明は、上述の保証パターンのコンテンツのみに限定されず、保証パターンは、本発明を実施する環境に依存して当業者に明らかである他の有用な情報をも有しうることに注意しなくてはならない。
一実施例によると、前記保証画像部分の最新性の識別を可能にする情報は、時間情報、シーケンスカウンタの少なくとも1つを有し、前記保証画像部分の同期を可能にする情報は、同期信号、開始シーケンス、チェックサム信号、終了シーケンスの少なくとも1つを有し、前記保証画像部分のソースの決定を可能にする情報は、ソース識別子を有し、前記保証画像部分の位置情報は、前記画像部分のユニークなインデックス、前記画像内の前記画像部分の位置の少なくとも1つを有し、及び/又は前記表示される場合の前記保証画像部分のコンテンツを示す情報は、前記保証画像部分の表示されるデータのハッシュ、前記保証画像部分の表示されるデータのチェックサム、前記保証画像部分の表示される画素値のハッシュ、前記保証画像部分の表示される画素値のチェックサムの少なくとも1つを有する。また、これに対して、本発明は、上述のコンテンツのみに限定されず、保証パターンは、本発明を実施する環境に依存して当業者に明らかである他の有用な情報をも含みうることに注意しなくてはならない。
本発明の一実施例によると、前記装置は、(前記保証画像部分を生成する前記ソース画像部分において)前記対応する保証パターンを符号化することにより前記保証画像を生成するように構成される。他の実施例によると、前記対応する保証パターンの符号化は、前記対応する保証パターンを(前記保証画像部分を生成する)前記ソース画像部分の最小有効ビットの少なくとも1つに符号化する及び/又は前記対応する保証パターンを(前記保証画像部分を生成する)前記ソース画像部分の最大有効ビットの少なくとも1つに符号化することを有する。前記保証パターンが、最小有効ビットの少なくとも1つに符号化される場合、前記保証パターンの可視性は、前記保証画像を表示する場合に減少又は回避されうる。前記保証パターンが、最大有効ビットの少なくとも1つに符号化される場合、前記保証パターンは、前記保証画像を表示する場合に可視にされうる。このように、実施の目的及び環境の要件に依存する本発明の柔軟な実施が、サポートされる。
一実施例によると、前記装置は、(前記ソース画像部分における)前記対応する保証パターンの冗長な符号化を実行することにより前記保証画像を生成するように構成される。
本発明の他の実施例によると、前記装置は、保証パターンが存在する可能性を示す情報に対して前記保証画像の少なくとも1つの特定の行、少なくとも1つの特定の列及び/又は少なくとも1つの特定のタイルをスキャンすることにより前記対応する保証パターンを検出するように構成される。また、このようにして、本発明の可変かつ柔軟な実施が、可能にされる。更に、前記保証パターンの検出は、(記憶)リソースを浪費することなしに速く実行されることができる。前記スキャンは、表示される保証画像に関して実行されうる。
一実施例によると、前記装置は、前記保証画像部分の前記対応する保証パターンを記憶するように構成される。このように、前記監視に必要な全ての保証パターンが考慮に入れられることができることが保証されうるので、画像を表示する動作の信頼できる監視が、サポートされる。
他の実施例によると、前記装置は、前記保証画像部分の更新された保証パターンを記憶するように構成される。このように、前記監視に必要な全ての保証パターンが考慮に入れられることができ、それぞれ最新性又は正確性の検査が正確に及び信頼できるように行われるので、画像を表示する動作の連続的な信頼できる監視が、サポートされる。
本発明の一実施例によると、前記装置は、前記検出された保証パターンを予測される現在の保証パターンと比較することにより前記検出された保証パターンの最新性を確認するように構成される。前記予測される現在の保証パターンは、最新の追加された又は更新された保証パターンに対応する。前記装置が、更新された保証パターンを記憶するように構成される場合、前記予測される現在の保証パターンは、対応する記憶された更新された保証パターンでありうる。
本発明の他の実施例によると、前記確認された保証パターンが、前記予測される現在の保証パターンではない場合、前記装置は、前記保証画像が現在の保証画像ではないことを示すこと、前記保証画像の表示を終了すること、前記保証画像の表示を再開することの少なくとも1つを実行するように構成される。ここで、また、本発明の実施の条件及び環境を考慮して当業者に明らかである他の適切なアクションが、可能である。
本発明の一実施例によると、保証パターンが前記保証画像において検出されない場合、前記装置は、前記保証画像が保証要件を満たさないことを示すこと、前記保証画像の表示を終了することの少なくとも1つを実行するように構成される。このようにして、本発明は、信頼できないソースの画像を認識又は検出するように実施されうる。通常、信頼できないソースの画像は、保証パターンのような追加の情報を有さない。このように、本発明は、少なくとも表示される画像に関して設定された保証要件を考慮に入れることにより画像を表示する動作の監視を可能にする。
一実施例によると、前記装置は、特定の時点に、及び/又は現在表示されている保証画像を提供するリクエストを示す情報を、前記保証画像を表示する表示装置に送信し、現在表示されている保証画像を受信した後に、前記確認を実行するように構成される。
本発明の一実施例によると、前記装置は、表示するために記憶された前記保証画像に関して、表示するために送信された前記保証画像に関して及び/又は前記保証画像を表示する表示装置から検出された前記保証画像に関して前記監視を実行するように構成される。表示されるべき画像に対するアクセスのいくつかの方法を実施することにより、前記監視の信頼性は、増大される。
本発明の他の態様において、画像データの表示の動作をサポートする方法が、提供され、前記画像データは、時間に対して変化することができ、前記方法は、ソース画像のソース画像部分を対応する保証パターンと組み合わせることにより生成される少なくとも1つの保証画像部分を生成することにより前記ソース画像に基づいて保証画像を生成するステップ、及び/又は前記保証画像部分の前記対応する保証パターンを検出することにより、及び前記検出された保証パターンを更新すること、前記検出された保証パターンの最新性を確認することの少なくとも1つを実行することにより前記保証画像の表示を監視するステップを有する。一般に、前記方法は、上で概説されたように及びより詳細には以下に記載されるように前記装置の動作を実行するように構成される。このように、また、提供された方法により、前記装置に関して記載された効果の全てが、達成されることができ、逆も同様である。
このように、本発明は、結合及び適時な更新に対して監視されることができる保証画像又は保証画像ストリームを生成する概念を含む。本発明は、クリティカルな又は保証関連データをクリティカル又は保証画像にレンダリングする信頼できるプロセスとして、画像データの表示の動作、特に、前記表示の監視をサポートすることを提案する。更に、本発明は、未知の及び/又は信頼できないソースからの他の画像データと組み合わせられることができる画像データの表示の監視をも可能にする。
本発明の一実施例による画像データの表示の監視を実行又はサポートするように構成された装置の構成又はシステムを示す。 本発明の一実施例による画像データの表示の監視を実行又はサポートするように構成された装置を示す。 本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。 本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。 本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。 本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。 本発明の一実施例による保証画像の生成を示す。 本発明の一実施例による保証画像を生成するように実行されるステップ又は動作を示す。 本発明の一実施例によって生成された保証画像を示す。 本発明の一実施例による保証画像の表示の監視の概観を示す。 本発明の一実施例によるオブザーバの構成を示す。
前記のことから得られるように、ディスプレイ、例えば患者モニタの目的は、覆い隠すことなしにかつ適時に、クリティカルなデータを歪みなしで示すことである。すなわち、時間に対して変化しうる画像の特定部分、例えば警告又はクリティカルなバイタルサインを示す領域が、完全に可視であり、定期的に更新されることは、クリティカルである。安全性に関連する情報を有し、時間に対して変化することができ、及び/又は表示が最新でなければならない(すなわち、前記画像の少なくとも一部の変化が生じた場合に、これらの変化が直ちに視覚化、表示されなければならない)画像データの表示の効果的な、速いかつ安全な動作を保証するために、保証画像は、(不可視)情報、すなわち表示されない及び/又は対応する画像を表示する場合に可視ではない又はほぼ不可視である情報をソース画像に加えることにより生成される。この情報は、保証パターンと見なされうる。更に、前記ソース画像の代わりに、前記保証画像が表示され、前記表示される保証画像の最新性は、前記保証パターンのような追加された(不可視)情報の使用により確認される。前記保証パターンのような前記追加された(不可視)情報は、時々更新される。このように、前記保証画像の表示の動作が、正確に実行される場合、前記表示される保証画像は、現在の保証パターンのような現在の追加された(不可視)情報、すなわち現在の追加された(不可視)情報又は最新の修正された現在の保証パターンを有さなくてはならない。
図1は、本発明の一実施例による画像データの表示の監視を実行又はサポートするように構成された装置11、12の構成又はシステムを示す。本発明によると、2つの装置11及び12が提供され、第1の装置11は、画像生成装置であり、第2の装置12は、監視装置12である。本発明によると、画像生成装置11は、ソース画像を検出する(例えば、ソース画像を生成、取得、認識する)ように構成されうる。更に、画像生成装置11は、前記ソース画像を(不可視)情報と組み合わせることにより前記ソース画像に基づいて保証画像13を生成するように構成される。特に、本発明によると、このために、前記ソース画像の少なくとも一部に対して、対応する保証パターンが加えられる。前記保証画像の生成は、生成装置11内のソフトウェア及び/又はハードウェア装置、エンティティ、コンポーネント又はシステムでありうる保証画像生成器111により実行されうる。本実施例によると、(前記(不可視)情報又は保証パターンと組み合わせられた前記ソース画像の画像データを有する)生成された保証画像13は、表示目的で画像生成装置11により提供される(例えば送信される)。生成された保証画像13は、例えば、表示されるべき画像が表示装置により取り出されるフレームバッファのような記憶部に記憶される、又は例えば監視装置12に対するビデオストリームのようなデータストリームの形で、前記表示装置に(直接的に又は間接的に)提供されることができる。監視装置12は、表示される保証画像13にアクセスするように構成される。特に、監視装置12は、保証画像13の表示の動作を監視するために前記(不可視)情報又は保証パターンを更新するように構成される。更に、監視装置12は、保証画像13の表示の動作を監視するために前記(不可視)情報又は保証パターンを使用することにより表示される保証画像13の最新性を確認するように構成される。監視目的で、監視装置12は、監視装置12内に含まれるソフトウェア及び/又はハードウェア装置、エンティティ、コンポーネント又はシステムでありうる(表示動作)オブザーバ121を有しうる。装置11、12は、ソフトウェア及び/又はハードウェア装置、エンティティ、コンポーネント又はシステムでありうる。
図2は、本発明の一実施例による画像データの表示の監視を実行又はサポートするように構成された装置2の構成を示す。本発明によると、1つの装置2が、上で概説された画像生成装置11及び上で概説された監視装置12の動作を実行するように構成される。すなわち、1つの装置2のみが、表示される画像の監視を実行又はサポートする、したがって、画像データを表示する動作の正確性の監視を実行するように構成される。このために、装置2は、上で概説されたように構成されることができる保証画像生成器111、及び上で概説されたように構成されることができる(表示動作)オブザーバ121を有しうる。装置2は、ソフトウェア及び/又はハードウェア装置、エンティティ、コンポーネント又はシステムでありうる。
図3は、本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。本発明の構成は、図1に示されるように2つの別の装置11、12に又は図2に示されるように1つの装置2に含まれることができる保証画像生成器111及びオブザーバ121を有する。
通常、画像ソースは、画像情報をレンダリングし、次いで、これを、例えば前記画像情報を表示するために、フレームバッファのような記憶部に書き込む。この通常の場合は、コンポーネント又はエンティティ33及び34により示され、コンポーネント33は、従来の画像ソースであり、コンポーネント34は、フレームバッファのような記憶部であり、例えば、画像ソース33は、画像ソース33によりレンダリング又は生成された画像情報又はデータをフレームバッファ34に書き込む。
本発明によると、保証画像生成器111は、保証画像ソースであり、安全性に関連する情報を有し、時間に対して変化しうる及び/又は表示が最新でなければならない(すなわち、前記画像の少なくとも一部の変化が生じた場合に、これらの変化が直ちに視覚化、表示されなければならない)クリティカルデータをクリティカルソース画像32にレンダリングする信頼できるプロセスを実行するように構成される。しかしながら、ソース画像32をフレームバッファ34内に書き込む前に、本実施例によると、保証画像生成器111は、ソース画像32と組み合わせられる又は重畳される少なくとも1つの保証パターン31を生成又はレンダリングし、これにより保証画像13を生じる又は生成することにより前記信頼できるプロセスを実行する。この保証画像13は、この場合、フレームバッファ34に書き込まれる。
本実施例によると、フレームバッファ34は、保証画像生成器111により生成された保証画像13の他に、他の画像ソース33により生成された他の画像をも記憶することができる。このような場合に、このような他の画像は、保証画像13を覆わない又は他の形で妨害しないように記憶部又はフレームバッファ34に記憶又は配置されうる。
本実施例によると、また、本発明の他の実施例によると、ユーザが表示される保証画像13を見る場合に前記ユーザを妨害しないために、前記保証パターンは、知覚不可能又は不可視に保たれることができる。このために、ステガノグラフィ又はウォーターマーキングのような既知の技術が、前記保証パターンに関して使用されうる。
記憶部又はフレームバッファ34が、表示する前の最後の記憶部又はフレームバッファである場合、すなわち、表示装置により表示される前記画像が、記憶部又はフレームバッファ34から取られる場合、本実施例によると、前記(表示動作)オブザーバ121は、前記表示装置による保証画像13の表示の監視を実行するために記憶部又はフレームバッファ34から保証画像13を取り出すように構成される。この場合は、図3において矢印36により視覚化される。
しかしながら、少なくとも1つの他の記憶部又はフレームバッファ35が、保証画像13を記憶するのに使用される場合、すなわち、前記表示装置により表示される前記画像が、最終記憶部又はフレームバッファとして他の記憶部又はフレームバッファ35から取られる場合、本実施例によると、オブザーバ121は、前記表示装置による保証画像13の表示の監視を実行するための最終記憶部又はフレームバッファとして他の記憶部又はフレームバッファ35から保証画像13を取るように構成される。この場合は、図3において矢印37により視覚化される。
一般に、前記表示装置が、保証画像13を表示するために記憶部又はフレームバッファ34、35から保証画像13を取るように構成される場合、オブザーバ121は、最終フレームバッファ34、35の外に保証画像13を読み出すことができ、前記保証パターンのような追加された(不可視)情報を抽出し、この後に、前記(不可視)情報又は保証パターン31を更新し、及び/又は保証画像13のいずれの画像部分が正確に表示されるか、すなわち、現在の保証画像13又は前記現在の保証画像部分がそれぞれ前記表示装置により表示されるかどうかを決定することができる。
図4は、本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。本実施例によると、2つの装置41、42が与えられ、各々が、本発明によって構成された独自の保証画像生成器111_1、111_2及び独自の記憶部又はフレームバッファ411、421を有し、対応する記憶部又はフレームバッファ411、421は、対応する画像生成器111_1、112_2により生成された対応する保証画像13_1、13_2を記憶するように構成される。生成された保証画像13_1、13_2は、この後に、最終記憶部又はフレームバッファ35に記憶され、ここから、保証画像13_1、13_2が、前記表示装置により表示するために取られ、画像13_1及び13_2が、監視目的でオブザーバ121により使用される。装置41、42の各々は、ソフトウェア及び/又はハードウェア装置、エンティティ、コンポーネント又はシステムでありうる。加えて、本実施例は、より良い理解のためだけに2つの装置41、42を示し、本発明が、同様に2より多い装置41、42(すなわち複数の装置)の使用をも可能にすることに注意すべきである。このように、本発明は、それぞれ複数のソース又は装置41、42から生じる保証画像の表示の動作を監視することを可能にする。
図5は、本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。本実施例によると、オブザーバ121は、保証画像13を表示するために表示装置51に保証画像13を提供する画像送信器52から監視目的で保証画像13を取るように構成される。画像送信器52は、例えば、(例えば表示装置52に対するビデオケーブル上の)ビデオストリーム又は当業者が表示目的で画像データのプロバイダ又は送信器として認識する及びすることができる他の適切な画像送信器52でありうる。画像送信器52は、表示装置51の外及び/又は中にありうる。本実施例によると、ビデオストリームのような画像送信器52は、画像送信器52がフレームバッファのような最終記憶部35から直接又は間接的に受信した保証画像13を送信する。このように、表示されるべき保証画像13は、タップされ、オブザーバ121による保証画像13の表示の動作を監視するのに使用される。オブザーバ121は、監視目的でオブザーバ121によりアクセスされることができるフレームバッファに情報を入れるフレームグラバハードウェア及び/又はソフトウェアを使用することにより又はオンザフライで保証画像13の情報を検出、更新及び/又は分析することができる。画像送信器52からの保証画像13の録画を可能にする保証画像テーパ(taper)は、別の装置、エンティティ、コンポーネント又はシステムでありえ、又は前記ソース装置に結合されうる。前記保証画像テーパは、オブザーバ121の一部であってもよく、又はオブザーバ121が他の装置53内に配置される場合、前記保証画像テーパは、オブザーバ121を有する装置53の一部でもあってもよい。ハードウェアにおいて構築されるオブザーバ121は、特に、このようなハードウェアが何としても表示目的で表示装置51に保証画像13を提供するビデオストリーム52を生成するのに使用される場合、例えば、FPGA(フィールド・プログラマブル・ゲート・アレイ)のASIC(特定用途向け集積回路)において実装されることができる。このようにして、本発明の本実施例は、例えば、グラフィカルサブシステムが未知である又は分析されるには複雑すぎるので、最終記憶部又はフレームバッファ34、35がオブザーバ121により確実に認識又は識別されることができない場合でも保証画像13を表示する動作の監視を可能にする。加えて、本発明の本実施例は、表示装置51により実際に表示されるべき保証画像13の信頼できる獲得を可能にする。
ここで、オブザーバ121は、最終記憶部又はフレームバッファ34、35の使用及びビデオストリームのような画像送信器52の使用の両方の方法で保証画像13を取り出すように構成されてもよい。この場合、オブザーバ121は、例えば、表示されるように取り出される保証画像13の信頼性のようないくつかの取り出し条件を考慮することにより、表示されるべき保証画像13を取り出す適切な方法を決定することができる。当業者は、本発明の実施環境に依存して適切な取り出し条件を認識することができる。
図6は、本発明の一実施例による画像データの表示の監視を実行又はサポートする構成を示す。本実施例によると、表示装置61は、ビデオストリームのような画像送信器52により送信されたデータを獲得する記憶部611を有する。このように、記憶部611は、保証画像13を獲得又は受信する。保証画像13は、それぞれ表示装置61又は記憶部611に記憶される。この場合、表示装置61は、(記憶された)保証画像13を変換し、表示装置61は、保証画像13の表示フォーマット(例えば、サイズ、アスペクト比、フレームレート又は画像強調方法)を適合させ、このようにして、保証表示画像612を生成する。この保証表示画像612は、この場合、前記表示装置により実際に表示される画像である。この場合、表示装置61が、表示するために受信された保証画像13を修正する、すなわち、保証画像13に基づいて対応する保証表示画像612を生成する場合に、表示装置61は、信頼できない表示装置61であるとみなす。本実施例によると、保証画像13を表示する動作の正確な監視を実行するために、カメラのような画像記録装置62は、例えば、表示装置61により実際に表示される保証表示画像612を監視する。画像記録装置62により記録又は監視されている記録画像は、保証表示画像612を表す。画像記録装置62は、(図に関して記載されたようにソフトウェアのフレームグラバを介して又はハードウェアでのいずれかで)前記記録画像に基づく監視を実行することができるオブザーバ121に前記記録画像を(直接的に又は間接的に)送信する。
ここで、オブザーバ121は、上で概説された最終記憶部又はフレームバッファ34、35の使用による方法、ビデオストリームのような画像送信器52の使用による方法、画像記録装置62の使用による方法の少なくとも1つにおいて保証画像13を取り出すように構成されうることに注意しなくてはならない。また、このために、オブザーバ121は、例えば、表示される取り出された保証画像13の信頼性又は前記表示装置の信頼のようないくつかの取り出し条件を考慮することにより、表示されるべき保証画像13を取り出す適切な方法を決定することができる。当業者は、本発明の実施環境に依存して適切な取り出し条件を認識することができる。
以下、本発明の一実施例によって実行される保証画像13の生成は、図7及び8を参照することにより、より詳細に説明される。前記生成は、保証画像生成器111により又は対応する動作を実行するように構成された他の装置により実行されうる。以下、明確性のため、前記生成は、上で導入された保証画像生成器111に関して説明される。
第一に、ステップS81において、ソース画像32は、複数のソース画像部分321(すなわち少なくとも1つのソース画像部分321)に分割される。図7の実施例によると、ソース画像32全体は、タイル321に構成又は分割され、タイル231は、特定の又は所定のサイズを持ちうる。例えば、サイズ1024×768画素のソース画像32は、64×16画素のタイル321に構成又は分割されうる。
S82において、ソース画像32が、(不可視)情報31(すなわち保証パターン31のような表示されない情報)が追加されるべきであるソース画像部分又はタイル321を有する場合、ステップS83において、対応する(不可視)情報又は保証パターン31は、それぞれ、ソース画像部分又はタイル321に対して生成される。(不可視)情報又は保証パターン31は、結果として生じる保証画像部分131の最新性の識別を可能にする情報(例えば時間情報、シーケンスカウンタ)、結果として生じる保証画像部分131の同期を可能にする情報(例えば同期信号、開始シーケンス、チェックサム信号及び/又は終了シーケンス)、異なる画像又は画像部分ソースを区別することができるように結果として生じる保証画像部分131のソースを決定することを可能にする情報(例えばソース識別子)、結果として生じる保証画像部分131の位置情報(例えば前記画像のユニークインデックス及び/又は前記画像内の前記画像部分の位置)、結果として生じる保証画像部分131の(不可視)情報又は保証パターン31を検出することを可能にする情報であって、(不可視)情報又は保証パターン31の検出の性能を増大させうる情報、表示される場合の結果として生じる保証画像部分131のコンテンツを示す情報(例えば保証画像部分131の表示されるデータのハッシュ、保証画像部分131の表示されるデータのチェックサム、保証画像部分131の表示される画素値のハッシュ、保証画像部分131の表示される画素値のチェックサム)の少なくとも1つを有しうる。
ステップS84において、対応する(不可視)情報又は保証パターン31が、ソース画像部分又はタイル321と組み合わせられる。このように、ステップS84において、保証画像13の対応する保証画像部分131は、前記組み合わせにより生成される。例えば、前記組み合わせは、対応する(不可視)情報又は保証パターン31をソース画像部分又はタイル321に加えることにより実行される。このために、(不可視)情報又は保証パターン31は、例えば、少なくとも結果として生じる保証画像部分131の知覚可能性又は可視性を達成するようにソース画像部分又はタイル321の少なくとも1つの最小有効ビットに符号化されうる。(不可視)情報又は保証パターン31は、ソース画像部分又はタイル321の少なくとも1つの最大有効ビットにも符号化されうる。更に、組み合わせに対して、ステップS84において、追加の冗長符号化が、完全性確認のロバスト性を向上させるのに使用されうる。例えば、RGB(赤、青及び緑)チャネルに対する最小有効ビットの特定の組み合わせのみが、使用されうる。冗長符号化(例えば交互コード)は、ユーザにとってより知覚可能である潜在的に規則的なパターンを他の形でランダム化するのに使用されてもよい。
ステップS84において、対応する(不可視)情報又は保証パターン31は、ソース画像部分又はタイル321と組み合わせられ、フレームバッファ34、35、411、421に書き込まれる。
このように、結果として生じる又は生成された保証画像13は、ソース画像32に対応し、同じ画像部分321を有し、前記ソース画像に含まれる画像部分321の少なくとも1つが、対応する(不可視)情報又は保証パターン31と組み合わせられ、前記結果として生じる又は生成された保証画像の対応する保証画像部分131を形成する。
他のプロセッサ又は装置33は、他の画像を同じフレームバッファ34、35、411、421に書き込み、これにより、保証画像13を上書き又は他の形で修正することができる。図9は、本発明の一実施例によって生成された保証画像13を示し、保証画像13は、保証画像部分131及び他のプロセッサ又は装置33により生成された他の画像部分9を有する。他の画像部分9は、保証画像13を生成した後に生成された部分であってもよく、保証画像13の以前の画像部分情報を更新する現在の画像部分情報を表してもよい。このように、保証画像13は、対応する(不可視)情報又は保証パターン31と組み合わせられた少なくとも1つの保証画像部分131と、対応する(不可視)情報又は保証パターン31を持つ又は持たない少なくとも1つの他の画像部分9とを有しうる。保証画像部分131又は少なくとも1つの保証画像部分131は、他の画像部分9又は少なくとも1つの他の画像部分9により重ねられる、覆い隠される及び/又は他の形で修正されうる。
オブザーバ121は、保証画像13の画像部分131、9のコンテンツを分析し、保証パターン31又は破損したパターンを含まない画像部分131、9を無視する。有効な保証パターン31は、正確な同期/開始シーケンス及び終了シーケンス及び有効なチェックサムを有することができる。これらは、(冗長コーディングが使用される場合に)有効なコードのみを含みうる。オブザーバ121は、有効な保証パターン31からソースID(識別)、シーケンスカウンタ(又は時間情報)及び位置情報を抽出することができる。ソースIDを使用して、オブザーバ121は、異なる(潜在的に独立した)保証画像ソースにより生成された画像部分131、9を区別することができる。オブザーバ121は、画像部分131、9の位置に関する情報を確認し、これにより、部分131、9がユーザによる誤った解釈という結果になりうる表示装置51、61の画面上の他の場所に移動されたかどうかを検出することができる。
保証画像を表示する動作の監視は、2つの部分に分割され、保証画像13の少なくとも1つの(不可視)情報又は保証パターン31を更新し、保証画像13の前記少なくとも1つの(不可視)情報又は保証パターン31の最新性又は正確性を確認し、前記更新及び確認は、互いに独立して実行されうる。図10は、本発明の一実施例による保証画像の表示の監視の概観を示し、監視プロセス10は、3つのサブプロセス、すなわち、保証画像13の少なくとも1つの(不可視)情報又は保証パターン31が検出される検出プロセス10_1と、保証画像13の少なくとも1つの(不可視)情報又は保証パターン31が更新される更新プロセス10_2と、保証画像13の少なくとも1つの(不可視)情報又は保証パターン31が、それぞれ最新性又は正確性に関して確認される、保証画像13の少なくとも1つの(不可視)情報又は保証パターン31の確認とを有する。第一に、検出サブプロセス10_1が実行され、この後に、監視の現在の状況に依存して、更新プロセス10_2及び/又は確認プロセス10_3が実行される。
監視プロセス10及びそのサブプロセスは、オブザーバ121により実行される。このために、オブザーバ121は、ハードウェア及び/又はソフトウェアでありうる、対応して構成されたコンポーネント、装置、エンティティ又はシステムを有しうる。図11は、本発明の一実施例によるオブザーバ121の構成を示す。図11の実施例によると、オブザーバ121は、検出器(コンポーネント、装置、エンティティ又はシステム)11_1、更新器(コンポーネント、装置、エンティティ又はシステム)11_2及び確認器(コンポーネント、装置、エンティティ又はシステム)11_3を有し、検出器11_1は、検出10_1を実行するように構成され、更新器11_2は、更新10_2を実行するように構成され、確認器11_3は、確認10_3を実行するように構成される。
一般に、更新サブプロセス10_2又は更新器11_2は、特定の時点に(例えば周期的に)及び/又は前記表示装置により表示される保証画像13、612を受け取った後に保証画像13の少なくとも1つの(不可視)情報又は保証パターン31を更新又は変更し、監視サブプロセス10_3は、保証画像13、612の検出された(不可視)情報又は保証パターン31の最新性又は正確性を確認する。
(不可視)情報又は保証パターン31が時間に対して変化し、確認サブプロセス10_3又は確認器11_3が、(不可視)情報又は保証パターン31が正しい、すなわち最新の更新された(不可視)情報又は保証パターン31に対応することを検出する場合、保証画像13、612を表示する動作は、正確に実行される。
(不可視)情報又は保証パターン31が、検出器11_1の検出サブプロセス10_1により表示される保証画像13、612において検出されることができない場合、ソース装置11、2、41、42及び/又は保証画像生成器111、111_1、111_2は、非アクティブでありえ、すなわち、現在の保証画像13又は保証画像13の保証部分131が生成されていない状態でありうる。
検出された(不可視)情報又は保証パターン31が、現在の、すなわち最新の更新された(不可視)情報又は保証パターン31に対応しない場合、表示装置51、61は、これを表示する場合に、保証画像13の変更された画像情報によって、保証画像13、612を変更することができない。表示装置51、61の表示プロセスは、例えば、凍結されてもよく、又は保証画像13のスクリーンショットが示される。これは、オペレータ又はユーザが、表示装置51、61を見る場合に直ちにこの状況に気が付かず、表示された画像に関して間違った決定をする又は間違ったアクションを実行するので、クリティカルな状況を表す。
監視プロセス10及びオブザーバ121は、異なる場所に画像を表示するように所定の装置又はシステム51、61に加えられうる。監視プロセス10及びオブザーバ121は、ディスプレイパネル51、61に向かうビデオ信号52自体を監視しうる。このような監視プロセス10及び/又はオブザーバ121は、例えば、ビデオ接続におけるシンプルボックスとしてハードウェアにおいて実施されてもよく、又は前記ディスプレイパネル自体の中に配置されることができる。更に、監視プロセス10及びオブザーバ121は、前記システムの"最終"記憶部又はフレームバッファ34、35を使用しうる、すなわち表示されるべき保証画像13が取られる又は保証画像13を表示装置51、61に送信する対応するビデオ信号52が生成されるメモリを使用しうる。このように、メモリは、完全な保証画像13を記憶することができるコンポーネント、装置、エンティティ又はシステム)の後ろにメモリが存在しない場合に、"最終"記憶部又はフレームバッファ34、35を表すと見なされる。この場合、"最終"記憶部又はフレームバッファ34において(不可視)情報又は保証パターン31を検索することが可能である。更に、監視プロセス10及び/又はオブザーバ121は、表示装置51、61において表示されるべき保証画像13、612のスクリーンショットを作成するように構成され、監視プロセス10及び/又はオブザーバ121と並列に動作される他の装置、エンティティ、コンポーネント又はシステム62から表示される保証画像13、612のスクリーンショットを受け取るように構成されうる。このために、本発明は、監視プロセス10を実行し、オブザーバ121を実施する上で概説された可能性の任意の組み合わせを可能にすることに注意しなくてはならない。
検出サブプロセス10_1において及び/又は検出器11_1により、(不可視)情報又は保証パターン31が、検出される又は見つけられる。(不可視)情報又は保証パターン31の位置が未知であるので、表示される完全な保証画像13、612は、検索される必要がある。通常、表示される保証画像13、612が記憶されるメモリ(例えば"最終"記憶部又はフレームバッファ34、35)からデータをリードバックすることは、かなり時間がかかりうる。したがって、本実施例によると、表示される保証画像13、612の少なくとも1つの特定の行、少なくとも1つの特定の列及び/又は少なくとも1つの特定のタイル又は部分のみが、(不可視)情報又は保証パターン31に対して見つけられる又はスキャンされる。このように、例えば、保証画像13、612の保証部分131が、(画素の)16行の高さのタイルである場合、保証画像生成器111は、16行の高さを持つタイルである画像部分321、131に関して少なくとも1つの(不可視)情報又は保証パターン31を生成しているので、(画素の)16番目の行ごとのみに見つけられる又はスキャンされる。特定の行、列又は時間のスキャンは、これが"変調された雑音"、すなわち(不可視)情報又は保証パターン31を有する保証画像部分131のフラグメントであることを検出することができる。この場合、上及び/又は下の行も、おそらく、(不可視)情報又は保証パターン31のフラグメントを含む。したがって、行の範囲は、リードバックされる。これらのフラグメントが、結合して(不可視)情報又は保証パターン31を持つ完全な保証画像部分131を生じる場合、保証画像部分131に含まれる対応する(不可視)情報又は保証パターン31は、抽出又は検出されることができる。このようにして、リードバックされる必要のあるメモリ又は記憶の量は、最適化され、監視されるべき応用により書き込まれる画像データの量と同様である。
更に、一実施例によると、同じ(不可視)情報又は保証パターン31は、複数の保証画像部分131に記憶されてもよく、すなわち、出力が部分的に覆い隠される場合でさえ依然として監視されることができる。この理由で、検出される(不可視)情報又は保証パターン31は、リストに記憶されうる。加えて、また、どれだけ頻繁に同じ(不可視)情報又は保証パターン31が見つけられているかを示す数が、カウント属性として記憶されうる。このように、検出される(不可視)情報又は保証パターン31は、(不可視)情報又は保証パターンリスト内で保証されうる。
本発明の一実施例によると、検出サブプロセス10_1及び/又は検出器11_1は、表示される保証画像13、612が記憶される記憶部にアクセスできるソフトウェアドライバにおいて又はとして実施されうる。
更に、前記表示される画像の完全な情報が(例えばプライバシを保つために又はライセンス状況により)リードバックされるべきではなく、有用な"現実の"画像情報がさらされないので、上記のリストを使用して"外部"アプリケーションにさらされることが、好適ではないかもしれないことが、起こりうるかもしれない。
更新サブプロセス10_2及び/又は更新器11_2による更新を実行する場合に、例えば、前記更新は、保証画像13を表示中に実行されうる。このために、検出された(不可視)情報又は保証パターン31は、(不可視)情報又は保証パターン31に含まれるデータを変更することにより更新又は変更される。このように、例えば、時間情報、シーケンスカウンタのような保証画像部分131の最新性の識別を可能にする情報が、変更されうる。更新された(不可視)情報又は保証パターン31は、(不可視)情報又は保証パターンリストに記憶されることができ、前記リスト内の以前の(不可視)情報又は保証パターン31は、更新された(不可視)情報又は保証パターン31により置き換えられる又は更新される。更に、表示されるべき保証画像13は、対応する更新された少なくとも1つの(不可視)情報又は保証パターン31により少なくとも1つの(不可視)情報又は保証パターン31を置き換える又は更新することにより更新される。この場合、保証画像13の表示の正確な動作に対して、表示される保証画像13、612が更新された少なくとも1つの(不可視)情報又は保証パターン31を有することが予測される。
前記更新は、例えば、特定の時点において(例えば周期的に)実行されうる。このように、保証画像13の表示の正確な動作の連続的な保証が、保証されうる。前記更新が、周期的に実行される場合、周期は、保証画像13の発生の予測される周期に関して適合又は調整されうる。
確認サブプロセス10_2が実行される及び/又は確認器11_2が、保証画像13の表示中に動作される。ここで、表示された保証画像13、612において検出された少なくとも1つの(不可視)情報又は保証パターン31が、最新の更新された(不可視)情報又は保証パターン31であるかどうかが確認される。上で概説された(不可視)情報又は保証パターンリストが使用される場合、確認する間に、古い及び新しい(不可視)情報又は保証パターンリストが使用されてもよく、前記古い(不可視)情報又は保証パターンリストは、予測される(例えば最後に更新された)(不可視)情報又は保証パターン31を有し、前記新しい(不可視)情報又は保証パターンリストは、前記確認に対して検出された(不可視)情報又は保証パターン31を有する。予測される(不可視)情報又は保証パターン31は、例えば、前記(不可視)情報又は保証パターンに含まれるデータを比較することにより、前記確認に対して検出された(不可視)情報又は保証パターン31と比較される。例えば、時間情報、シーケンスカウンタのような前記保証画像部分の最新性の識別を可能にする情報が、比較されうる。確認に対して検出された(不可視)情報又は保証パターン31が、予測される対応する(不可視)情報又は保証パターン31に対応しない場合、前記確認は、保証画像13の表示の動作が正確に実行されないという結果を返す。前記確認は、表示される保証画像13、612において予測される(不可視)情報又は保証パターン31が検出されない(例えば新しいリストに含まれていない)場合にも負の結果(すなわち、保証画像13の表示の動作が正確に実行されないという指標)を返す。このように、凍結された表示される保証画像13、612が、検出されることができる。
本発明によると、確認の負の出力に関するいくつかのリアクションが実行されうる。
一実施例によると、保証画像13の表示が、再開されうる。このリアクションは、番犬のように機能しうる。このために、表示装置51、61に対する確認サブプロセス10_3、確認器11_3及び/又はオブザーバ121からの通信は、前記表示が正確に実行されず、前記表示の再開が要求されることを示すインジケータを送信するように実施されうる。この後に、前記インジケータを受信した後に、表示装置51、61は、保証画像13の表示を再開することができる。
一実施例によると、表示される画像13、612を見るオペレータ又はユーザが、何かが間違っていることに気付くように表示される画像13、612内に情報を埋め込むことも可能である。この場合、もしかすると前記オペレータ又はユーザが表示の問題を解決しようと試みる短い猶予期間の後に、前記システムをリセットしようと試みることが、依然として可能である。
他の実施例によると、表示される画像13、61内に情報を埋め込む代わりに、前記表示される画像をブランクにする、すなわち全く何も表示しない又は前記表示される画像を他の形で修正する(例えば前記表示される画像の全て又は一部を周期的に反転させる)ことも可能である。このようなブランク表示は、常に前記オペレータ又はユーザにより気付かれる。
一実施例によると、オブザーバ121と表示装置51、61との間の通信は、可能にされうる。このような場合に、確認サブプロセス10_3、確認器11_3及び/又はオブザーバ121は、(不可視)情報又は保証パターン31に埋め込まれるべきである情報を要求することができる。これは、誰かがソフトウェアのビデオを記録したスクリーンキャストを検出することを可能にする。更に、また、更新サブプロセス10_2、更新器11_2と確認サブプロセス10_3、確認器11_3との間の通信も、可能にされうる。これは、例えば、妨害されるべきではない対応するチャネルの使用により、実施されうる。この通信は、確認サブプロセス10_3及び/又は確認器11_3に特別な状況及び前記特別な状況において何をすべきかを伝えるのに使用されることができる。
他の実施例によると、上述の通信の両方が、前記確認の負の結果を示す情報を示すのに使用される時間を測定するのに使用されうる。この範囲内で、前記測定された時間に対する閾値が、使用されることができ、前記閾値の超過は、前記確認の負の結果に関する他の(より限定的な)可能なリアクションの実行(例えば、前記表示の再開又は終了)を引き起こしうる。
(不可視)情報又は保証パターン31の実施に関して、例えば、当業者に既知であるウォーターマークが、使用されてもよい。前記ウォーターマークは、(既知である)異なる正の特性、特に、画像操作に対するロバスト性を持つ。ほぼ最悪の画像操作は、カメラのような記録装置62が表示される画像13、612を監視している場合に起こる。この場合、前記ウォーターマークは、重いスケーリング、回転及び雑音を切り抜けるほどロバストであるべきである。ウォーターマークが使用される場合、これらが可視であることが予測されることができる。この場合、バーコードが、(可視の)情報又は保証パターン31として使用されうる。
ウォーターマークが使用され、これらが保証画像13を表示するときに不可視であることが望ましい場合、これらの不可視性は、ソース画像32の画像部分321の最小有効ビットに埋め込む又はコード化することにより達成されうる。生成された保証画像部分131内のウォーターマークは、変形に対して脆弱になりうるが、しかしながら、これらは、ほぼ不可視である。
表示の典型的な環境に対して、しかしながら、表示されるべき保証画像13が、表示中に修正(回転、スケーリング等)されないが、対応する表示窓の正確な位置が、未知でありえ及び/又は保証画像13を表示する前記対応する表示窓が、他の表示窓により少なくとも部分的に覆われうることが、予測されることができる。
表示装置51、61は、各々が独自の画像13、612を表示する複数の表示窓を一度に表示してもよい。この場合、表示される画像13、612の全て又は少なくとも1つ(複数)が、それぞれ、オブザーバ121又は監視プロセス10により監視されうる。
更に、一実施例によると、ウォーターマークが使用される場合、これらは、表示装置51、61からオブザーバ121及び/又は監視プロセス10への通信チャネルとして使用されてもよく、これは、表示される画像13、613内のいずれの情報が可視であると予測されるかをオブザーバ121及び/又は監視プロセス10に示してもよい。
更に、一実施例によると、試験(及び認定)されたソフトウェア及び/又はハードウェアを使用するシステムは、シグネチャを含みうる。前記シグネチャが、ブート処理の後に確認されることができない場合、前記システムは、認証されていない。しかしながら、前記ソフトウェア及び/又はハードウェアが法的理由(例えばライセンス条項)により実行することを可能にすることが必要とされうる。それにもかかわらず、前記ソフトウェア及び/又はハードウェアがそれぞれ試験又は認証されていないので法的責任を負いたくないかもしれない。前記ソフトウェアのブート中に、前記ハードウェアは、例えば、表示される画像13、612を操作することにより、前記ユーザが通知される状態にリセットされることができる。前記ハードウェア手段は、潜在的に制限されうるので、赤いバーが、表示される画像13、612の真ん中に生成されることができ、又は画像13、612が示されなくてもよい。このような危険にさらされているシステムにおいて動作される認証されたソフトウェア及び/又はハードウェアは、"現実の"情報を表示し、ウォーターマークを使用してこれを前記ハードウェア(オブザーバ121)に信号通知することによりこのフィーチャを無力化する(すなわち当該赤いバーを除去する)ことができる。しかしながら、これは、問題、何が危険にさらされたシステム上の認証されたソフトウェア及び/又はハードウェアであるか?を引き起こす。これは、前記ウォーターマークが可視である必要がある場合には重要ではなく、この要件に対して、これらは、最大有効ビットにおいてコード化される。適切な定義を使用して、ユーザが認識する既知のステータス表示(例えば、特定のCRCを形成するように画素を用いてレンダリングされたテキストを持つ赤いバー)を形成することができる。本実施例によると、ハードウェア又はオブザーバ121は、他の形でこのモードを離れることを防ぐためにブート中にのみ変更されることができるレジスタ、画像又はビデオをスキャンするスキャナ又は検出器、前記画像又はビデオデータを操作する(例えばオフにする)ように構成されたマニピュレータ、及び前記画像又はビデオデータが変更なしで表示される(又はされない)場合に、前記表示される情報及び前記レジスタのコンテンツに基づいて決定する論理回路を有する又は使用することができる。
要約すると、時間に対して変化しうる画像データの表示の正確かつ信頼できる動作をサポートするために、本発明は、信頼できるプロセスを提案し、これの使用により、保証画像が、少なくとも1つの保証画像部分を生成することによりソース画像に基づいて生成され、前記保証画像部分が、前記ソース画像のソース画像部分を対応する保証パターンと組み合わせることにより及び/又は前記保証画像部分の対応する保証パターンを検出することにより前記保証画像の表示を監視することにより及び前記検出された保証パターンを更新すること、前記検出された保証パターンの最新性又は正確性を確認することの少なくとも1つを実行することにより生成される。
上記の実施例が、様々な形で組み合わせられることができることは、明らかである。上記のことを用いて、画像データの表示の正確かつ信頼できる動作をサポートすることは、信頼できる、適時の、連続的な、効果的な、速い、リソース節約、時間に対して変化しうる画像が常に正確に表示されることを保証する。更に、画像データの表示の信頼できる動作は、前記表示される画像が、変化する部分だけでなく、いくつかの(信頼できる及び/又は信頼できない、既知の及び/又は未知の)ソースから生じる部分をも有する。

Claims (15)

  1. 時間に対して変化しうる、データストリームの形式の画像データの表示をサポートする装置において、前記装置が、
    少なくとも1つの保証画像部分を生成することによりソース画像に基づいて保証画像を生成する保証画像生成器であって、前記保証画像部分が、前記ソース画像のソース画像部分を、前記保証画像生成器により生成される対応する保証パターンと組み合わせることにより生成され、前記対応する保証パターンが、前記保証画像部分の最新性の識別を可能にする情報を有する、前記保証画像生成器を有する画像生成装置、及び
    前記保証画像部分の前記対応する保証パターンを検出することにより、及び前記最新性の識別を可能にする情報を変更することにより保証パターンリスト内の保証パターンを更新すること、前記検出された保証パターンが前記保証パターンリスト内の最新の更新された保証パターンに対応するかどうかを確認することにより前記検出された保証パターンの最新性を確認することの少なくとも1つを実行することにより前記保証画像の表示を監視する監視装置、
    を有する、装置。
  2. 前記装置が、前記ソース画像を複数のソース画像部分に分割することにより、及び前記分割されたソース画像部分の少なくとも1つに前記対応する保証パターンを加えることにより前記保証画像を生成する、請求項1に記載の装置。
  3. 前記対応する保証パターンが、更に、
    記保証画像部分の同期を可能にする情報、
    前記保証画像部分のソースを決定することを可能にする情報、
    前記保証画像部分の位置情報、
    前記保証画像部分の前記保証パターンを検出することを可能にする情報、
    表示される場合に前記保証画像部分のコンテンツを示す情報、
    の少なくとも1つを有する、請求項1ないし2のいずれか一項に記載の装置。
  4. 前記保証画像部分の最新性の識別を可能にする情報が、時間情報、シーケンスカウンタの少なくとも1つを有し、
    前記保証画像部分の同期を可能にする情報が、同期信号、開始シーケンス、チェックサム信号、終了シーケンスの少なくとも1つを有し、
    前記保証画像部分のソースを決定することを可能にする情報が、ソース識別子を有し、
    前記保証画像部分の位置情報が、前記画像部分のユニークインデックス、前記画像内の前記画像部分の位置を有し、及び/又は
    前記表示される場合に前記保証画像部分のコンテンツを示す情報が、前記保証画像部分の表示されるデータのハッシュ、前記保証画像部分の表示されるデータのチェックサム、前記保証画像部分の表示される画素値のハッシュ、前記保証画像部分の表示される画素値のチェックサムを有する、
    請求項3に記載の装置。
  5. 前記装置が、前記対応する保証パターンを符号化することにより前記保証画像を生成し、前記対応する保証パターンの符号化が、前記ソース画像部分の最小有効ビットの少なくとも1つにおいて前記対応する保証パターンを符号化すること及び/又は前記ソース画像部分の最大有効ビットの少なくとも1つにおいて前記対応する保証パターンを符号化することを有することができる、請求項1ないし4のいずれか一項に記載の装置。
  6. 前記装置が、前記対応する保証パターンの冗長な符号化を実行することにより前記保証画像を生成する、請求項1ないし5のいずれか一項に記載の装置。
  7. 前記装置が、保証パターンが存在する可能性を示す情報に対して前記保証画像の少なくとも1つの特定の行、少なくとも1つの特定の列及び/又は少なくとも1つの特定のタイルをスキャンすることにより前記対応する保証パターンを検出する、請求項1ないし6のいずれか一項に記載の装置。
  8. 前記装置が、前記保証画像部分の前記対応する保証パターンを記憶する、請求項1ないし7のいずれか一項に記載の装置。
  9. 前記装置が、前記保証画像部分の前記更新された保証パターンを記憶する、請求項1ないし8のいずれか一項に記載の装置。
  10. 前記装置が、前記検出された保証パターンを予測される現在の保証パターンと比較することにより前記検出された保証パターンの最新性を確認する、請求項1ないし9のいずれか一項に記載の装置。
  11. 前記確認された保証パターンが、予測される現在の保証パターンではない場合に、前記装置は、前記保証画像が現在の保証画像ではないことを示すこと、前記保証画像の表示をやめること、前記保証画像の表示を再開することの少なくとも1つを実行する、請求項10に記載の装置。
  12. 保証パターンが、前記保証画像において検出されない場合に、前記装置が、前記保証画像が保証要件を満たさないことを示すこと、前記保証画像の表示をやめることの少なくとも1つを実行する、請求項1ないし11のいずれか一項に記載の装置。
  13. 前記装置が、
    特定の時点に、及び/又は
    現在表示されている前記保証画像を提供するリクエストを示す情報を、前記保証画像を表示する表示装置に送信し、現在表示されている前記保証画像を受信した後に、
    前記確認を実行する、請求項1ないし11のいずれか一項に記載の装置。
  14. 前記装置が、表示するために記憶される前記保証画像に関して、表示するために送信される前記保証画像に関して、及び/又は前記保証画像を表示する表示装置から検出される前記保証画像に関して、前記監視を実行する、請求項1ないし13のいずれか一項に記載の装置。
  15. 時間に対して変化しうる、データストリームの形式の画像データの表示の動作をサポートする方法において、前記方法が、
    保証画像生成器を有する画像生成装置を用いて、少なくとも1つの保証画像部分を生成することによりソース画像に基づいて保証画像を生成するステップであって、前記保証画像部分が、前記ソース画像のソース画像部分を、前記保証画像生成器により生成された対応する保証パターンと組み合わせることにより生成され、前記対応する保証パターンが、前記保証画像部分の最新性の識別を可能にする情報を有する、ステップ、及び
    監視装置を用いて、前記保証画像部分の前記対応する保証パターンを検出することにより、及び前記最新性の識別を可能にする情報を変更することにより保証パターンリスト内の保証パターンを更新すること、前記検出された保証パターンが前記保証パターンリスト内の最新の更新された保証パターンに対応するかどうかを確認することにより前記検出された保証パターンの最新性を確認することの少なくとも1つを実行することにより前記保証画像の表示を監視するステップ、
    を有する方法。
JP2014529101A 2011-09-07 2012-08-29 画像データの表示の動作をサポートする装置及び方法 Active JP6059724B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161531683P 2011-09-07 2011-09-07
US61/531,683 2011-09-07
PCT/IB2012/054434 WO2013035015A1 (en) 2011-09-07 2012-08-29 Device and method to support the operating of the display of image data

Publications (3)

Publication Number Publication Date
JP2014529252A JP2014529252A (ja) 2014-10-30
JP2014529252A5 JP2014529252A5 (ja) 2015-10-29
JP6059724B2 true JP6059724B2 (ja) 2017-01-11

Family

ID=47137984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014529101A Active JP6059724B2 (ja) 2011-09-07 2012-08-29 画像データの表示の動作をサポートする装置及び方法

Country Status (7)

Country Link
US (2) US20140184647A1 (ja)
EP (1) EP2745531B1 (ja)
JP (1) JP6059724B2 (ja)
CN (1) CN103782607B (ja)
BR (1) BR112014004871A2 (ja)
RU (1) RU2627097C2 (ja)
WO (1) WO2013035015A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201700108150A1 (it) * 2017-09-27 2019-03-27 St Microelectronics Srl Procedimento e sistema di sicurezza funzionale, prodotto informatico corrispondente
IT201700108177A1 (it) * 2017-09-27 2019-03-27 St Microelectronics Srl Procedimento e sistema di sicurezza funzionale, prodotto informatico corrispondente
CN114584848B (zh) * 2022-02-25 2023-01-24 北京博维仕科技股份有限公司 基于环境数据的视频网络传输安全漏洞检测方法和系统
EP4266624A1 (en) 2022-04-22 2023-10-25 Koninklijke Philips N.V. Devices and methods for detection of currentness of data

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6614914B1 (en) * 1995-05-08 2003-09-02 Digimarc Corporation Watermark embedder and reader
GB2324669A (en) * 1997-04-23 1998-10-28 Ibm Controlling video or image presentation according to encoded content classification information within the video or image data
RU2195084C2 (ru) * 1997-10-08 2002-12-20 Макровижн Корпорейшн Способ и устройство для "водяного знака" однократного копирования для видеозаписи
DE29816380U1 (de) 1998-09-11 1999-02-25 Chang Cheng Chun Einschubschacht für eine Festplatte
JP3587152B2 (ja) * 2000-09-25 2004-11-10 日本電気株式会社 画像伝送システム及び方法並びに記録媒体
WO2003062960A2 (en) * 2002-01-22 2003-07-31 Digimarc Corporation Digital watermarking and fingerprinting including symchronization, layering, version control, and compressed embedding
US7181617B2 (en) 2002-06-10 2007-02-20 Kelley Wise Remote virtual medical diagnostic imaging viewer
US8953908B2 (en) * 2004-06-22 2015-02-10 Digimarc Corporation Metadata management and generation using perceptual features
JP2006279850A (ja) * 2005-03-30 2006-10-12 Sanyo Electric Co Ltd 画像処理装置
CN100461864C (zh) * 2005-06-25 2009-02-11 华为技术有限公司 基于数字水印的多媒体视频通信客观质量评价方法
US20070063998A1 (en) 2005-09-21 2007-03-22 General Electric Company Self-learning adaptive PACS workstation system and method
US20090150292A1 (en) 2007-12-10 2009-06-11 Dean Trinh System and method for secure storing, displaying, organizing electronic, and transferring medical records
DE102008014311A1 (de) * 2008-03-14 2009-09-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Einbetter zum Einbetten eines Wasserzeichens in eine Informationsdarstellung, Detektor zum Detektieren eines Wasserzeichens in einer Informationsdarstellung, Verfahren, Computerprogramm und Informationssignal
DE102008034160A1 (de) * 2008-07-22 2010-03-18 Siemens Aktiengesellschaft Vorrichtung zur Überwachung eines räumlichen Bereichs, insbesondere in der Umgebung oder innerhalb eines Fahrzeugs
JP5193124B2 (ja) * 2009-04-23 2013-05-08 株式会社日立情報制御ソリューションズ 電子透かし埋め込み方法及び装置
DE102009060845A1 (de) * 2009-12-29 2011-06-30 Funkwerk plettac electronic GmbH, 90766 Verfahren zur sicheren Übertragung von Videosignalen von mehreren Videoquellen über ein Netzwerk an mehrere Monitore
CN101950405B (zh) * 2010-08-10 2012-05-30 浙江大学 一种基于视频内容的水印添加方法

Also Published As

Publication number Publication date
WO2013035015A1 (en) 2013-03-14
US10383581B2 (en) 2019-08-20
CN103782607A (zh) 2014-05-07
RU2627097C2 (ru) 2017-08-03
EP2745531B1 (en) 2021-10-06
BR112014004871A2 (pt) 2017-04-04
EP2745531A1 (en) 2014-06-25
US20140184647A1 (en) 2014-07-03
US20170325753A1 (en) 2017-11-16
CN103782607B (zh) 2018-02-16
JP2014529252A (ja) 2014-10-30
RU2014113383A (ru) 2015-10-20

Similar Documents

Publication Publication Date Title
US10383581B2 (en) Controlling a vital sign display device to determine whether a most recently received frame of a vital sign image stream is being displayed
US6192139B1 (en) High redundancy system and method for watermarking digital image and video data
US7913292B2 (en) Identification and visualization of trusted user interface objects
EP2605124A1 (en) Visual display module with control of display data by checksum
Gugelmann et al. Screen watermarking for data theft investigation and attribution
JP2001186326A (ja) 画像の改ざん検証データ埋め込み方法、画像の改ざん検証方法、画像の改ざん検証装置および記録媒体
US20160092409A1 (en) Method for obfuscating the display of text
JP2008090438A (ja) 動画コンテンツの改ざん検出装置及びシステム
CN103440617A (zh) 提高医学图像安全的图像处理方法
JP2022522315A (ja) クライアントデバイスにおけるサードパーティコンテンツの表示の確認
US8024791B2 (en) Providing hints while entering protected information
KR20150065003A (ko) 차량 운행 기록 조작 방지 장치
US20070165261A1 (en) Tampering detection apparatus and tampering detection method for printed document
CN111160504A (zh) 动态二维码的生成方法、装置、设备及存储介质
JP2013126189A (ja) 画像処理装置、改竄防止方法及び改竄検知方法
CN109561236B (zh) 图像加密、识别方法装置、设备及介质
Cao et al. Approaches to obtaining fingerprints of steganography tools which embed message in fixed positions
KR101869264B1 (ko) 피싱 사이트 탐지 장치 및 방법
JP2007088693A (ja) 画像処理システム,改ざん検証装置,改ざん検証方法およびコンピュータプログラム
JP4220661B2 (ja) 電子文書改竄検出方法及びその装置
JP4863219B2 (ja) 電子透かし検出装置、電子透かし検出方法、電子透かし検出プログラム、および、電子透かし処理システム
JP3891328B2 (ja) データ処理装置およびデータ処理方法
US20040034667A1 (en) Incorporating data into files
JP4889529B2 (ja) 画像処理方法、画像処理装置、コンピュータプログラム及び記録媒体
EP4175310A1 (en) Checking locality of devices

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150824

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160419

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20160715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161209

R150 Certificate of patent or registration of utility model

Ref document number: 6059724

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250