JP2021108113A - 追加のデータを注入する方法 - Google Patents

追加のデータを注入する方法 Download PDF

Info

Publication number
JP2021108113A
JP2021108113A JP2020201620A JP2020201620A JP2021108113A JP 2021108113 A JP2021108113 A JP 2021108113A JP 2020201620 A JP2020201620 A JP 2020201620A JP 2020201620 A JP2020201620 A JP 2020201620A JP 2021108113 A JP2021108113 A JP 2021108113A
Authority
JP
Japan
Prior art keywords
image sensor
data
additional data
frames
length
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020201620A
Other languages
English (en)
Other versions
JP7190473B2 (ja
Inventor
カール−アクセル アルム,
Alm Carl-Axel
カール−アクセル アルム,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Axis AB
Original Assignee
Axis AB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Axis AB filed Critical Axis AB
Publication of JP2021108113A publication Critical patent/JP2021108113A/ja
Application granted granted Critical
Publication of JP7190473B2 publication Critical patent/JP7190473B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
    • H04N7/083Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division with signal insertion during the vertical and the horizontal blanking interval, e.g. MAC data signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/08Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division

Abstract

【課題】画像センサーデバイス中の1つまたは複数の画像センサーフレーム中に追加のデータを注入する方法、画像プロセッサ及びシステムを提供する。【解決手段】方法は、数列の形態で追加のデータを与えることと、数列を表すように、1つまたは複数の画像センサーフレーム中の後続のブランキング間隔の長さを制御することと、画像センサーデバイスから1つまたは複数の画像センサーフレームを送信することと、1つまたは複数の画像センサーフレームを画像プロセッサに送信することと、を含む。システムは、画像センサデバイス、画像プロセッサ及びコントローラを備える。【選択図】図1

Description

本発明は、画像センサーデータに追加のデータを追加する分野に関する。
画像センサーデバイスはイメージングの分野における基本構成要素である。画像センサーデバイスは、ハードウェア構成要素、すなわち画像センサーと、画像センサーからの読出し(readout)を、画像センサーデータを表す信号に変換する処理構成要素とを備える。画像センサーデータからの読出しは画像センサーフレームと呼ばれ、1つの画像センサーフレームが画像センサーの1つの読出しサイクルを表す。電子画像センサーのよく知られている例はCCDセンサーおよびCMOSセンサーを含む。
一般的な標準センサーと、しばしば特定の技術分野に適応された特別に設計されたセンサーとを含む、画像センサーハードウェアの広いバリエーションが存在する。たとえば、画像センサーデバイスが、画像特性に関するデータを追加するために使用し得る、余分のセンサー行または列をもつセンサーハードウェアが存在する。そのような規格外のセンサーの問題は、それらのセンサーが特別にコストがかかり得ること、および処理のための画像センサーフレームを受信する画像プロセッサの適応が、受信されたデータを正しく解釈するために修正される必要があることである。
イメージングは、一般に、多くの分野、たとえば監督/監視、診察、および建設において広く使用されているツールである。多くのアプリケーションにおいて、画像センサーデータを信用することが可能であることが重要である。たとえば、ビデオのライブと思われるビューが事実上ライブであり、遅延していないこと、または、画像が、仮定される画像センサーによって記録され、交換されていない、もしくは別の画像センサーから来ていること。この目的で、画像の検証は有用である。画像センサーデータを改ざんする方法がますます一般的になっているとき、この状況について考えることはますます重要になる。その上、画像品質が高まるにつれて、画像センサーデータの処理時間も、より高い遅延危険とともに増加し得る。明らかに、画像センサーデータの検証を助けるための方法およびデバイスが必要である。
本発明の目的は、画像センサーデータの検証において使用するための方法を提供することである。検証の目的は、ライブビューを検証すること、または画像もしくはビデオの信ぴょう性(authenticity)を検証することであり得る。
第1の態様によれば、これらおよび他の目的は、画像センサーデバイス中の1つまたは複数の画像センサーフレーム中に追加のデータを注入する方法によって、完全にまたは少なくとも部分的に達成され、本方法は、
・数列(numeric sequence)の形態で追加のデータを与えることと、
・数列を表すように、画像センサーデバイス中の1つまたは複数の画像センサーフレーム中の後続のブランキング間隔(blanking interval)の長さを制御することと、
・画像センサーデバイスから1つまたは複数の画像センサーフレームを送信することと
を含む。
本発明は、したがって、すでに画像センサーデバイスからの1つまたは複数の画像センサーフレームの送信の前を意味する、初期段階において、対応する1つまたは複数の画像センサーフレーム中に追加のデータを注入することによって追加のデータを画像センサーデータと関連付けるための方法である。注入は、アクティブな画像センサーデータを含む1つまたは複数の画像センサーフレーム中の後続のブランキング間隔の長さを制御することによって実現される。アクティブな画像センサーデータとは、画像センサーから読み取られるピクセル値に対応し、シーンから受け取られる光の量に対応するデータを意味する。各画像センサーフレームは、たとえば、マージンピクセル値、同期データ、フレームヘッダ、フレームフッタなどをも含み得る。画像センサーは、画像センサーデータを読み取り、送信するための必要な回路を備える画像センサーデバイス中に位置する。
長さの制御は、メッセージ、すなわち、後続のブランキング間隔の長さ変動のシーケンスの意味を定義する所定の通信プロトコルに従って実行される。通信プロトコルの厳密な形態は本発明のために本質的でなく、機能するプロトコルをどのように設計するべきかは当業者によく知られている。
したがって、本発明は、注入を可能にするために標準化された技法を利用する。特別に設計されたセンサーハードウェアは必要とされない。その上、アクティブな画像センサーデータは、追加のデータの注入を可能にする目的で修正も拡張もされない。したがって、アクティブな画像センサーデータは、標準様式で、すなわち、アクティブな画像センサーデータをどのように解釈するべきかに関する特殊な設計または適応なしに(画像プロセッサなど)処理または記憶デバイスによって解釈され得る。数列を受信することが可能であることを必要とされる処理または記憶デバイスの適応は、アクティブな画像センサーデータの受信に影響を及ぼさないプロセスである。代わりに、数列は、1つまたは複数の画像センサーフレームを受信するときに後続のブランキング間隔の長さを決定することによって、受信され得る。長さは、各後続のブランキング間隔のクロックサイクルの数をカウントすることによって決定され得、クロックサイクルの数はブランキング間隔の長さに対応する。後続のブランキング間隔の長さを決定する他の方法が可能であり得る。
通信プロトコル(すなわち、後続のブランキング間隔の長さにおいてどのように数列が成形され、表されるか)がわかっていれば、処理または記憶デバイスは、数列を受信し、理解することができる。通信プロトコルは画像センサーデバイスと処理または記憶デバイスの両方によって知られ得る。
ブランキング間隔は、画像センサーの技術分野内でよく知られている用語である。ブランキング間隔は、アクティブな画像センサーデータの送信の期間の後、および次の行のまたは次の画像センサーフレームの画像センサー読出しを開始する前に生じる遅延期間である。本発明は、後続の水平ブランキング間隔または後続の垂直ブランキング間隔の長さを制御することを含み得る。後続のブランキング間隔とは、互いの後に画像センサーデバイスから送信されるブランキング間隔の単一のグループまたは複数のグループを意味する。後続のブランキング間隔は、1つまたは複数の画像センサーフレーム中に隣接して位置する必要がない。しかしながら、後続のブランキング間隔は、数列と同じ順序で長さ制御され得、すなわち、第1の後続の間隔は、数列中の第1の値に対応する長さを有し、第2の後続の間隔は、数列中の第2の値に対応する長さを有するなどである。
後続のブランキング間隔は単一の画像センサーフレーム内に位置し得る。そのような実施形態では、長さの制御は後続の水平ブランキング間隔で行われることが好ましい。代替的に、後続のブランキング間隔は複数の(すなわち2つ以上の)画像センサーフレーム中に位置し得る。そのような実施形態では、後続のブランキング間隔は、異なる画像センサーフレームの間で変動し得、すなわち、第1の画像センサーフレーム中の後続のブランキング間隔の第1のグループは同じ第1の長さを有し、第2の画像センサーフレーム中の後続のブランキング間隔の第2のグループは同じ第2の長さを有するなどである。言い換えれば、各画像センサーフレームについて、ブランキング間隔長さは数列に応じて変動し得る。画像センサーフレームのシーケンスを受信することによって、ブランキング間隔長さの変動、したがって数列も受信され得る。これは、長さの制御が後続の垂直ブランキング間隔で行われるとき、好ましい実施形態である。
詳細に開示するように、ブランキング間隔の長さを制御するステップは様々な方法で行われ得る。たとえば、長さは、水平同期または垂直同期のための信号のタイミングを制御することによって制御され得る。
一実施形態によれば、1つまたは複数の画像センサーフレームは、画像プロセッサであり得る処理または記憶デバイスによって受信され得る。追加のデータは、数列を識別するために後続のブランキング間隔の長さを決定することによって導出される。長さは、たとえば、たとえば行の最後の画像センサーデータと、次の行の第1の画像センサーデータとの間の遅延期間、いくつのクロックサイクルがあるかをカウントすることによって決定される。画像センサーフレームを送信するためのいくつかのプロトコルでは、ブランキング間隔は、たとえば、事前定義された様式でデータストリーム中に表されることによって認識可能である。
画像プロセッサ、または他の処理もしくは記憶デバイスは画像センサーデバイスと同じデバイス中に位置し得る。したがって、1つまたは複数の画像センサーデータを送信することとは、たとえば、共通のデバイスの異なる機能を処理する異なるハードウェアおよび/またはソフトウェア回路間で、同じデバイス内で送信することを意味し得る。共通のデバイスは、画像センサー回路(すなわち画像センサーボード)をもつ画像センサーと画像処理チップの両方を備えるカメラのオプティクス(optics)ユニットであり得、画像フレームが画像センサーボードから画像処理チップに送信される。
受信された1つまたは複数の画像センサーフレームのアクティブな画像センサーデータ中に追加のデータを含めることまたは埋め込むことが有益であることがわかっている。追加のデータは、1つまたは複数の画像センサーフレームのすべてまたは選択物のアクティブな画像センサーデータ中に含められ得る。
アクティブな画像センサーデータ中に追加のデータを含めることによって、追加のデータは、前方へ送信されているときに、それの関連するアクティブな画像センサーデータとのより強い関連を有し、そのアクティブな画像センサーデータに続く。これらの目的のために、本方法は、
・追加のデータを表す数列を識別するために、後続のブランキング間隔の長さ(すなわちクロックサイクルの数)を決定する間に、送信された1つまたは複数の画像センサーフレームを受信することと、
・追加のデータを含めるために、受信された1つまたは複数の画像センサーフレーム中のアクティブな画像センサーデータを修正することと
をさらに含み得る。
開示されるように、処理または記憶デバイスは、追加のデータがどのように挿入されるか、すなわち、追加のデータが読み取られ得るように、1つまたは複数の画像センサーフレームのどのブランキング間隔が長さ制御されるかを定義する、通信プロトコルの知識を持ち得る。処理または記憶デバイスが長さの制御を実行する一実施形態では、処理または記憶デバイスはこのプロトコルの知識を有し、画像センサーデバイスはこのプロトコルの知識を有しないことで十分である。代替的に、別のデバイス(たとえば、画像センサーデバイス)が長さを制御し得る。そのような実施形態では、通信プロトコルは処理または記憶デバイスと共有される。
アクティブな画像センサーデータを修正する前に、数列は、追加のデータのタイプと関連する形式に変換され得る。たとえば、追加のデータがタイムスタンプを形成する場合、数列は、[時:分:秒]など、時間形式に変換される。追加のデータがテキストを形成する場合、数列はテキスト形式に変換される。この目的で、本方法の実施形態は、アクティブな画像センサーデータを修正する前に、数列を追加のデータのタイプと関連する形式に変換するステップを含み得る。
追加のデータは、どんな表現においても、アクティブな画像センサーデータ中にオーバーレイとしてまたは埋込み信号として含められ得る。たとえば、テキストまたはタイムスタンプの形態の追加のデータが文字/数のオーバーレイとして含められ得る。オーバーレイは、好ましくは、表示されたときにユーザに見える。埋込み信号は、しかしながら、好ましくは、表示されたアクティブな画像センサーデータ中におおよそ隠され得る。埋込み信号は、所定の様式で、アクティブな画像センサーデータの一部の中のピクセル値を変動させることによって達成され得る。埋込み信号は、処理または記憶デバイスから直接または間接的にアクティブな画像センサーデータを受信する評価デバイスによって解釈され得る。
代替的に、追加のデータは、アクティブな画像センサーデータの(たとえば、JPEG画像ファイルのヘッダ中の)メタデータとして含められ、たとえば、ディスプレイデバイスなどの評価デバイスに送信され得る。
追加のデータに関して、これらは、1つまたは複数の画像センサーフレームが収集される時点についての現在の状態を示し得る。たとえば、時間、日付、画像センサーデバイスの位置、または(固有の画像センサーフィンガープリント、または画像センサーのソフトウェア/ハードウェアバージョンを含む)画像センサー特性。現在の状態は、時間および位置のように、頻繁に変化し、静的であるか、またはソフトウェアバージョン(まれに変化する)、画像センサー通し番号(静的)、および画像センサー特性(静的またはまれに変化する)のように、まれに変化し得る。
追加のデータは、処理または記憶デバイス、たとえば画像プロセッサ中に与えられ得る。そのような実施形態では、後続のブランキング間隔の長さは処理または記憶デバイスによって制御される。この実施形態における利点は、画像センサーデバイスの修正が必要とされないこと、および上記で説明した通信プロトコルが処理または記憶デバイスの外側で共有される必要がないことである。これらの利点の各々は、低複雑で容易に実装されるソリューションに寄与する。
画像プロセッサが処理または記憶デバイスとして働き得る特定の実施形態では、後続のブランキング間隔は、たとえば、制御信号、水平同期信号、または垂直同期信号を介して制御され得る。これらの信号は、知られており、画像プロセッサによって画像センサーデバイス制御の様々な標準実装形態において実装される。
代替実施形態では、追加のデータは画像センサーデバイス中に与えられ、後続のブランキング間隔の長さは画像センサーデバイスによって制御される。
追加のデータがどのデバイス中に与えられるかにかかわらず、追加のデータは、グローバルもしくはローカルシステムクロック、または(GPSデバイスなど)GNSSデバイスによって供給されるか、またはそれからフェッチされ得る。
数列に関して、これは2進数列として与えられ得る。この実施形態の利点は、後続のブランキング間隔の長さが、互いに対して、1クロックサイクルである、1長さ単位を超えて変動させられないことである。これにより、ブランキング間隔の長さへの影響を最小にすることが可能になり、完全な画像センサーフレームの送信が取るクロックサイクルの総量の影響が最小になる。画像センサーフレームの送信は同数のクロックサイクルを取ることが好ましいことがある。したがって、本方法によってブランキング間隔の長さ変動のサイズを低減することが有益である。
画像センサーフレームの各送信当たりの必要とされる一定数のクロックサイクルを与える目的で、本方法は、補償のために、後続のブランキング間隔以外の、1つまたは複数のブランキング間隔の長さを修正することをさらに含み得る。言い換えれば、(追加の情報を注入する目的で修正されない)いくつかのブランキング間隔は補償目的で修正される。補償ブランキング間隔は、好ましくは、(追加の情報を注入する目的で修正される)後続のブランキング間隔の間に位置し、好ましくは、後続のブランキング間隔の変動を徐々に補償するように適応される。
本発明の第2の態様によれば、数列を表すように1つまたは複数の画像センサーフレーム中の後続のブランキング間隔の長さを制御することによって、1つまたは複数の画像センサーフレーム中に数列の形態で与えられた追加のデータを注入するように適応された画像プロセッサが提供される。第2の態様の画像プロセッサは、一般に、付随する利点をもつ第1の態様の方法と同様に実施され得る。たとえば、画像プロセッサは、さらに、追加のデータを表す数列を識別するために後続のブランキング間隔の長さを決定する間、画像センサーデバイスから1つまたは複数の画像センサーフレームを受信し、追加のデータを含めるために、受信されたアクティブな画像センサーデータを修正し、追加のデータを含めるために、受信された1つまたは複数の画像センサーフレーム中のアクティブな画像センサーデータを修正するように適応され得る。
本発明の第3の態様によれば、画像センサーデバイスと画像プロセッサとを備えるシステムが提供され、画像プロセッサは第2の態様に従って構成される。画像センサーデバイスおよび画像プロセッサは、単一のデバイス(たとえばカメラデバイス)の一部であるか、または別個の、通信可能に結合されたデバイスの一部であり得る。
本システムは、たとえばディスプレイデバイスの形態の評価デバイスをさらに備え得る。画像プロセッサは、1つまたは複数の画像センサーフレームの(修正された)アクティブな画像センサーデータを評価デバイスに送信するように適応され得、含められた追加のデータは、1つまたは複数の画像センサーフレームが収集された時間またはその時間における位置の形態である。評価デバイスは、追加のデータの時間または位置が所定のしきい値を超えて現在の時間または現在の位置と異なるかどうかを決定するように適応され、そうである場合、受信されたアクティブな画像フレームデータが古い、すなわち所定の寿命(たとえば1秒)よりも古いことをユーザに示すためにアラームアクションをトリガするように適応され得る。これは、画像センサーデバイス(たとえばカメラデバイス)によってキャプチャされた画像またはビデオに基づいてセーフティクリティカルな決定を行うときに、セキュリティを高めるために好適である特定のシステム構成である。そのようなシステムの非限定的な例は、バスドア制御、車両カメラ(特にリアカメラ)、および診察を含む。
アラームアクションをトリガするステップは、ディスプレイ上の受信された修正されたアクティブな画像センサーデータの表示を控えるまたはキャンセルするアクションと、ディスプレイ上に、光る様式で、受信された修正されたアクティブな画像センサーデータを表示するアクションと、ディスプレイ上に指示を表示するアクションと、照明器をアクティブ化するアクションと、スピーカーによって音を再生するアクションとのうちの1つまたは複数をトリガすることを含む。ディスプレイ、照明器、および/またはスピーカーは評価デバイスの一部であり得る。
以下で与えられる詳細な説明から、本発明の利用可能性のさらなる範囲が明らかになろう。しかしながら、詳細な説明および具体的な例は、本発明の範囲内の様々な変更および改変がこの詳細な説明から当業者に明らかになるので、本発明の好ましい実施形態を示しながら、単に例として与えられることを理解されたい。
したがって、本発明は、説明されたデバイスおよび説明された方法は変動し得るので、そのようなデバイスまたは方法のステップの特定の構成部分に限定されないことを理解されたい。また、本明細書で使用する用語は、特定の実施形態のみについて説明する目的であり、限定的なものではないことを理解されたい。本明細書および添付の請求項において使用する際、冠詞「a」、「an」、「the」、および「前記」は、コンテキストが別段に明示しない限り、要素のうちの1つまたは複数があることを意味するものであることに留意しなければならない。したがって、たとえば、「物体(an object)」または「物体(the object)」への言及はいくつかの物体などを含み得る。さらに、「備える」という単語は他の要素またはステップを除外しない。
次に、例として、付随する概略図を参照しながら、本発明についてより詳細に説明する。
画像センサーデバイスと画像プロセッサとをもつシステムの概観の図である。 画像センサーフレームを示す図である。 画像センサーフレームがどのように送信され得るかを示す図である。 画像センサーフレームがどのように送信され得るかを示す図である。 画像センサーフレームがどのように送信され得るかを示す図である。 異なる実施形態による、含められた追加のデータをもつアクティブな画像センサーデータを示す図である。 バス中に実装される一実施形態によるシステムを示す図である。 本発明の一実施形態による方法を示す図である。
図に示されているように、領域のサイズは、説明の目的で誇張され得、したがって、一般的な構造を示すために与えられる。
次に、図1および図8を参照しながら、本発明の一般的な概念の概観を開示する。
図1は、画像センサーデバイス10と、画像プロセッサ12と、随意のコントローラ14と、随意の外部データプロバイダ16とを含む、画像キャプチャシステム1の一部を示す。図8は、画像センサーデバイス、たとえば、画像センサーデバイス10中の1つまたは複数の画像センサーフレーム中に追加のデータを注入する方法8を示す。
本発明は、初期段階において、画像センサーフレームの1つのまたはグループに追加のデータを追加することが有益であり得、追加のデータが、1つまたは複数の画像センサーフレームのブランキング間隔を修正することによって注入され得るという認識に基づく。次に、これがどのように行われ得るかを開示する。
最初に、追加のデータが与えられる(801)。追加のデータは数列の形態である。このステップ(801)の前には、元の形態、たとえば時間形式または日付形式で追加のデータを与えるステップと、追加のデータをそれの元の形式から数列に変換するステップとが行われ得る。これらの先行するステップはシステム1の好適な一部によって実行され得る。追加のデータは、画像センサー10、画像プロセッサ12、またはコントローラ14の中に与えられる(801)。より詳細には、追加のデータは、1つまたは複数の画像センサーフレーム中への追加のデータの注入を制御すべき、画像キャプチャシステム1の一部中に与えられる(801)。制御は、画像センサー10、画像プロセッサ12によって、または、ここではコントローラ14によって表される外部デバイスによって実行され得る。
追加のデータの供給801と並行して、画像センサーデバイス10の通常動作に従って、アクティブな画像センサーデータが画像センサーデバイス10中の画像センサーによってキャプチャされる。画像センサーは従来の構造および機能のものである。したがって、画像センサーは、視界からの受信された光を、アクティブな画像センサーデータを形成する電気信号に変換する。画像センサーは一般に矩形形状を有し、それの行および列の数が画像センサーのサイズを定義する。画像センサーの主要部は、アクティブな画像センサーデータを生成するように構成され得、画像センサーは、視界中のシーンを示すこと以外の目的のために使用される1つまたは複数のマージンエリアをも含み得る。
図2は、水平(H)軸および垂直(V)軸の座標系において提示された画像センサーフレーム20の例を示す。画像センサーフレーム20はいくつかの水平行および垂直列から形成される。画像センサーフレーム20は、アクティブな画像センサーデータをもつ主エリア22と、マージンエリア24とを備える。主エリア22は、後で対応する画像フレームの視覚部を形成するピクセル値を備え、(たとえば)H1920×V1080のサイズを有し得る。マージンエリア24は、カラー補償、光分析、イメージスタビライゼーションなどのために使用され得るピクセル値を備える。画像センサーフレーム20はまた、水平ブランキング間隔のエリアおよび垂直ブランキング間隔のエリア(それぞれ、HBLANKおよびVBLANK)を備えるブランキングエリア26を備える。この一般的な例の画像センサーフレーム20は画像センサーフレーム20の従来の構造に従う。画像センサーフレームの他の従来の形態が可能であることに留意されたい。たとえば、マージンエリア24は、異なるサイズを有し得、および/または上記で与えられた例以外の情報を備え得る。
図1に戻ると、画像センサーの読出しの生成物である画像センサーフレーム20は、100によって示されているように、画像センサーデバイス10から画像プロセッサ12に送信される。本発明の一般的な概念は、画像センサーフレーム20を送信する前に、画像センサーを読み取るときに画像センサーフレーム20中に追加のデータを含めることである。これは、画像センサーフレーム20中に追加のデータの表現を注入することによって行われ、それについては後でより詳細に開示する。そのような初期段階において追加のデータを(主エリア22の)アクティブな画像センサーデータと関連付けることによって、画像センサーデータの、特にアクティブな画像センサーデータの検証および信ぴょう性検査を支援するための強力なツールが与えられる。異なるタイプの追加のデータが目的に応じて注入され得、それについて本明細書で例示する。
画像センサーフレーム20を形成することのより詳細にわたって、図3〜図5をさらに参照しながらこの部分について説明する。画像センサーフレーム20を形成することは、画像センサーデバイス10の画像センサーを読み取ることによって実行される。
図3は、画像センサーからの完全な読出しのための、すなわち、完全な画像センサーフレーム20を読み取るためのサイクルを示す。画像センサーデバイスの従来の構造によれば、ピクセル値は、(水平方向の)行ごとに読み取られ、たとえば、画像センサー特性、光データなどに関するデータと一緒に画像プロセッサ12に送信される。送信は信号制御される。第1の信号VSYNCは、垂直読出しを制御し、読出しサイクルをトリガする。第2の信号HSYNCは、垂直読出しサイクル内での行の読出しを制御する。各HSYNC信号は次の行の読出しをトリガする。したがって、図3に示されているように、複数のHSYNCサイクルが1つのVSYNCサイクル中に存在する。HSYNCサイクルの第1の部分31中に、(光特性または色特性など)フレームレベルデータが読み取られ、送信され得る。HSYNCサイクルの第2の部分32中に、アクティブなセンサーピクセル値の形態の画像センサーデータが読み取られ、送信される。HSYNCサイクルの最後の部分33は、垂直ブランクまたはVBLANKとしても知られる垂直ブランキング間隔を形成する。垂直ブランキング間隔は、フレームの最後のライン(すなわち画像センサーデバイス10からのデータ出力の最終値)と次の画像センサーフレームの第1のラインの開始との間の遅延時間期間を形成する。
図4は、単一のHSYNCサイクル中に、たとえば、第2の周期32のHSYNCサイクルのうちの1つの間に送信されるものを示す。HSYNCサイクルはクロック(CLK)サイクルの数の間続く。CLKサイクルの長さは、従来の構成による、画像センサーデバイス10のピクセルクロックによって定義される。CLKサイクルの第1の周期41中に、同期および/またはダミーデータが読み取られ、送信される。CLKサイクルの第2の周期42中に、画像センサーの単一の行のアクティブなピクセル値が読み取られ、送信される。読出しは、各行についていくつの画像センサーピクセルが読み取られるべきであるか、および各画像センサーフレームについていくつの行が読み取られるべきであるかを示す、画像センサーデバイス10中のレジスタによって制御される。レジスタは従来の様式で実装され、使用され得る。
各HSYNCサイクルのCLKサイクルの最後の周期43は、上記で説明した垂直ブランキング間隔と同様の機能を有する、水平ブランクまたはHBLANKとしても知られる、水平ブランキング間隔を形成する。水平ブランキング間隔は、1つの行の最後の画像センサーピクセルの読出しと、次の行の第1の画像センサーピクセルとの間に形成される。最後の画像センサーピクセルおよび第1の画像センサーピクセルはアクティブまたは非アクティブであり得る。次の行の開始は、次のHSYNCサイクルの開始を示す信号によって示され得る。
図5は、画像センサーデバイス10の複数の画像センサーフレームの読出しおよび画像プロセッサ12への送信をより高いレベルで示す。画像センサーフレーム1、2、3、および4が示されている。フレームの間には、垂直ブランキング間隔51、52、53が存在する。
すでに、画像センサーフレームの読出しの構造を開示したので、次に、画像センサーフレーム中の追加のデータの注入の詳細を開示する。図8に示されているように、本方法の次のステップは、追加のデータを表す、数列を表すように1つまたは複数の画像センサーフレームの後続のブランキング間隔の長さを制御すること(802)である。言及されるブランキング間隔は垂直ブランキング間隔33または水平ブランキング間隔43であり、本発明の異なる実施形態を形成し得る。
後続の水平ブランキング間隔の長さが制御される実施形態のより詳細にわたって、これは、数列が1つのVSYNCサイクル中に、すなわち単一のフレームの送信中に送信され得る実施形態である。制御は、画像センサーデバイス10自体によって、(従来のHSYNC制御信号、または図1中の103によって示されている他の制御信号を介して)画像プロセッサ12によって、または外部コントローラ14によって実行され得る。後続の水平ブランキング間隔の長さを制御することとは、事前決定された後続のHSYNCサイクル中のCLKサイクルの各最後の周期43が、特定の長さ、すなわち、CLKサイクルの特定の数を有するように制御されることを意味する。後続のHSYNCサイクルとは、互いの後に来るが、必ずしも隣接して来るとは限らないサイクルを意味する。たとえば、水平ブランキング間隔は、単一のVSYNCサイクル内で、HSYNCサイクル数5、10、15、20などについて、すなわち第5の行ごとに制御され得る。後続のブランキング間隔の間の中間行の数は同じである必要がない。たとえば、水平ブランキング間隔は、単一のVSYNCサイクル内で、HSYNCサイクル数47、48、105、328、350などについて制御され得る。どの水平ブランキング間隔が制御されるべきであるかは、それの構成および目的について上記で説明した通信プロトコルによって定義される、すなわち事前決定される。制御される後続のブランキング間隔のシーケンスは、単一の画像センサーフレームの場合と同じ原理に従って、複数の画像センサーフレームにわたって延び得ることを理解されたい。
水平ブランキング間隔は、数列を表すように制御される。たとえば、2進数列[111110011101000100001010]の形態の数列を用いると、後続の水平ブランキング間隔は、数列に従ってCLKサイクルの数を追加することによって数列を表すように長さ制御され得る。言い換えれば、5つの第1の後続の水平ブロッキング間隔については、1つの余分のCLKサイクルを追加し、次の2つについては、余分のCLKサイクルを追加しないなどである。したがって、数列は、この例示的な実施形態では、単一の画像センサーフレーム内で、後続の水平ブロッキング間隔の長さを修正することによって画像センサーフレーム中に注入される。
後続のブランキング間隔の長さ制御は、基数値に対するブランキング間隔長さの変動として実行され得る。たとえば、10クロックサイクルの基数値を用いると、第1および第2の後続のブランキング間隔を、それぞれ+1クロックサイクル、すなわち10+1=11クロックサイクルを有するように制御し、第3および第4の後続のブランキング間隔をそれぞれ+0クロックサイクル、すなわち10+0=10クロックサイクルを有するように制御することによって、[1100]の数列が注入され得る。基数値は、一実施形態では0であり得る。基数値は、他の実施形態では、場合によっては、他の長さ変動機構により、ブランキング間隔の間で変動し得る。当業者は、発明的概念を実装するときに、そのような状況をどのように処理するかについての知識を持っている。
後続の水平ブロッキング間隔の制御を実装する1つの方法は、HSYNC信号が、いつ画像センサーデバイス10に送られるか、したがって次の行の読出しの開始を示すかを制御することである。HSYNCサイクルを遅延させることによって、水平ブロッキング間隔43を構成する遅延期間は延長される。したがって、HSYNC信号のタイミング、すなわち、次の行の読出しを開始するインジケータのタイミングは、水平ブロッキング間隔の長さを制御するように制御される。
後続の垂直ブランキング間隔33が長さ制御される他の実施形態に移ると、これは、数列が、好ましくは、複数の画像センサーフレーム中に注入される実施形態である。各フレームについて、それの中の垂直ブランキング間隔33は、送信される画像センサーフレームの一部分にわたる後続のブランキング間隔が数列に対応するような、特定の長さを有するように制御される。図5では、垂直ブランキング間隔51、52、53が、この実施形態によれば、異なる長さを有することが認められ得る。
垂直ブランキング間隔は、水平ブロッキング間隔の場合と同じ様式で、すなわち、次の画像センサーフレームの読出しの開始をトリガするVSYNC信号のタイミングを制御することによって、制御され得る。
水平ブロッキング間隔および垂直ブランキング間隔の制御は、同時に、すなわち単一の実施形態内で利用され得る。いくつかの急速に変化する追加のデータ(たとえばタイムスタンプ)は、より速く送信することが有益であり得、水平ブロッキング間隔の長さ制御が好適であるが、他のよりゆっくり変化するまたは静的な追加のデータは、垂直ブランキング間隔の長さ制御によって注入するのに十分であり得る。たとえば、上記の数(2進)列が例示するタイムスタンプは、水平ブロッキング間隔を長さ制御することによって注入され得るが、たとえば18122020(2020年12月18日)の数列によって表される日付スタンプは、垂直ブランキング間隔を長さ制御することによって注入され得る。
一実施形態では、本方法は、追加のデータを送信する目的で長さ制御される後続のブランキング間隔以外の、本明細書で補償ブランキング間隔と呼ばれる、長さ制御ブランキング間隔をさらに含む。補償ブランキング間隔は、異なる画像センサーフレーム間の合計クロックサイクルの差を補償する、言い換えれば、異なるフレームを送信するのにどのくらいのクロックサイクルを要するかを補償するために長さ制御される。画像センサーフレーム当たりのクロックサイクルの総数を一定に保つこと、または、少なくとも、画像センサーフレーム当たりのクロックサイクルの総数の最小変動に向けて努力することは有益である。この目的で、補償ブランキング間隔の長さ制御は導入される。補償ブランキング間隔は、後続のブランキング間隔のシーケンスの後に位置し、そのシーケンスの全修正を補償するために長さ制御され得る。一実施形態では、補償ブランキング間隔は、画像センサーフレーム中のすべての後続のブランキング間隔の後に位置し、その画像センサーフレーム中のすべての後続のブランキング間隔が引き起こすクロックサイクルの累積された変化を補償するために長さ制御される。代替実施形態では、複数の補償ブランキング間隔が実装される。好ましくは、それらは、後続のブランキング間隔の間に位置し、後続のブランキング間隔の変動を徐々に補償するように適応される。言い換えれば、各後続のブランキング間隔には、その後続のブランキング間隔の長さの変化を補償するために長さ制御される補償ブランキング間隔が続く。この実施形態を用いれば、異なる画像センサーフレーム間の実質的に一定のレベルで画像センサーフレームのフレームセグメント当たりのクロックサイクルの数を維持する、漸進的補償が達成される。
前へ進むと、方法8の次のステップは、画像センサーフレーム20の送信を受信すること(803)である。送信(図1中の100)は、従来の伝送プロトコル、たとえばMIPIプロトコルに従って実行され得る。追加のデータを受信するために、画像プロセッサ12は、上記で説明した通信プロトコルによって知られている、後続のブランキング間隔の長さを決定する。決定は、処理のための画像センサーフレーム20の画像センサーデータを受信し、記憶する間に、後続のブランキング間隔の各々中のクロック信号の数をカウントすることによって実行される。後続のブランキング間隔の長さを決定する他の従来の方法が適用され得る。
決定された長さ、すなわち、数列は専用プロセッサメモリに記憶され得る。したがって、数列は画像処理デバイス12によって送信され、アクティブに受信されている。
次に、画像処理デバイス12は、数列を追加のデータの形式、たとえばテキストまたは数値表現に変換し得る(804)。形式は、たとえば、通信プロトコル中で事前定義されることによって、あらかじめ知られ得る。
次に、画像処理デバイス12は、従来の画像処理デバイスの通常動作に従って、アクティブな画像センサーデータ、場合によっては他の受信データを処理する。処理は、追加のデータを含めるためにアクティブな画像センサーデータを修正すること(805)をさらに備え得る。追加のデータは、それの元のまたは変換された形式で数列によって表され得る。追加のデータは、したがって、アクティブな画像センサーデータの一体部分になる。追加のデータは、図6を参照しながら以下で例示する、様々な知られている方法で含められ得る。
第1の例では、追加のデータは、アクティブな画像センサーデータによって形成された画像62へのオーバーレイ63として含められる。オーバーレイ63は、この例では、対応するアクティブな画像センサーデータが収集されたときの日付スタンプとタイムスタンプとを示すテキストフィールドである。画像62は、アクティブな画像センサーデータの検証のためにまたは他の目的のために、オーバーレイ63中に与えられた情報を読み取り、使用することができるユーザのために表示され得る。
第2の例では、追加のデータは2進コードインジケータ65として含められる。追加のデータは2進形式に変換され、アクティブな画像センサーデータ中のピクセル値68は、2進の追加のデータを表すように修正される。ピクセル値68は、たとえば、黒ピクセル(各々が2進0を表す)および白ピクセル(各々が2進1を表す)として2進形式で追加のデータを表すように修正され得る。修正されたピクセル値68は2進コードインジケータ65を形成する。2進コードインジケータ65は、たとえば、単一の行の25個のピクセルの面積を占有し得る。図6中の2進コードインジケータ65のサイズは説明の目的で誇張されていることに留意されたい。追加のデータは、したがって、アクティブな画像センサーデータによって形成された画像64中に、埋め込まれる形で挿入され、極めて離散的で、さらには人間の眼によって知覚できなくされ得る。
追加のデータをどのように含めるかの第3の例が、画像66の強度シフトされたピクセル69によって示されている。画像66のインジケータエリア67では、追加のデータのコードまたは視覚表現を形成するためにピクセルの強度値(たとえば、グレースケール強度のまたはRGB値の強度シフト)がシフトされる。
他の実施形態では、追加のデータは、アクティブな画像センサーデータのメタデータとして(たとえば、JPEG画像ファイルのヘッダ中に)含められ得る。
オーバーレイをどのように形成するか、ピクセル値をどのように修正するか、インジケータエリアをどのように形成するか、およびメタデータまたは同様のデータとして、追加のデータをどのように追加するかは、それ自体知られており、当業者によって実装され得る。追加のデータを含めることのさらなる詳細については、したがって与えない。
図8に戻ると、次のステップは、図1中の102によって示されているように、修正されたアクティブな画像センサーデータを別のデバイスに送信すること(807)である。修正されたアクティブな画像センサーデータは、符号化されたまたは符号化されていない形式であり得る。修正された画像センサーデータには、画像処理から得られた画像データなど、他のデータが付随し得る。したがって、画像プロセッサ12は、さらなる伝送の前に、修正されたアクティブな画像センサーデータを符号化するための符号化機能を有し得る。代替的に、修正されたアクティブな画像センサーデータは、画像プロセッサ12から、符号化するためのエンコーダ(図示せず)に送信され得る。
最終的に、符号化された修正されたアクティブな画像センサーデータは、場合によっては他のデータと一緒に、この実施形態ではディスプレイデバイスの形態の評価デバイスに送信される(807)。評価デバイスは、修正されたアクティブな画像センサーデータを復号するためのデコーダと他のプロセッサとを備え、修正されたアクティブな画像センサーデータをユーザのために表示し得る。アプリケーションに応じて、評価デバイスは異なって構成され得る。
代替的に、符号化された修正されたアクティブな画像センサーデータは、後で検査のビューの可能性を与えるためにメモリに記憶され得る。検査は評価デバイスによって実行され得る。
修正されたアクティブな画像センサーデータが画像プロセッサ12の後にどのように処理されるかにかかわらず、追加のデータは、図示の実施形態では、修正されたアクティブな画像センサーデータ中に含められ、したがって、アクティブな画像センサーデータおよび追加のデータは、アクティブに分離されない場合、互いの後に続く。アクティブな画像センサーデータの任意の可能な変換、縫合、修正、または他の処理が、その中の追加のデータの情報を失うことなしに実行され得る。
修正されたアクティブな画像センサーデータがディスプレイデバイスの形態の評価デバイスに送信される(807)実施形態に戻ると、次のステップは、ディスプレイデバイスが、入力として追加のデータを用いて分析を実行し、分析の結果に基づいて適切なアクションを取ることであり得る。たとえば、分析は、たとえば伝送遅延により、データが古すぎないこと、またはデータが予想される画像センサーから来ることを検証するためのアクティブな画像センサーデータの検証であり得る。最初に与えられる(801)追加のデータの種類は、実行されるべき分析のために適応させられる。分析は、たとえば、仮定されるライブビューが事実上ライブであり、ビューが、重大な決定を行うために使用され得ない程度まで遅延されないことを検証するために、アクティブな画像センサーデータが古すぎないことを検証するために適応させられる場合、追加のデータは、当該のアクティブな画像センサーデータを備えた画像センサーフレームを収集する時間に与えられた(801)タイムスタンプの形態であり得る。ディスプレイデバイスにおいて、タイムスタンプは、それを(タイムスタンプと同じ時間プロバイダ、たとえば、ローカルまたはグローバルクロックから発する)現在の時間と比較することによって分析され得、タイムスタンプが所定のしきい値を超えて異なる場合、ユーザにその状態を警告または通知するためのアクションを取る(808)。代替的に、追加のデータは、画像センサーフレームを収集する時間に与えられる位置の形態であり得る。そのような実施形態では、ディスプレイデバイスは、その中の位置を、外部データプロバイダから受信または要求され得る現在の位置と比較することによって、追加のデータを分析し得る。比較された位置の間の距離が所定のしきい値を超える場合、ユーザにその状態を警告または通知するためのアクションが取られ得る。
別の実施形態では、追加のデータは画像センサーの通し番号を示し得る。ディスプレイデバイスは、通し番号を、受信された修正されたアクティブな画像センサーデータの信ぴょう性を検証するために、画像データを収集したと予想される画像センサーの通し番号と比較することによって、追加のデータを分析し得る。この実施形態は、アクティブな画像センサーデータを検証するために、静的な(変化しない)情報を表す追加のデータを用いて同様の実施形態に変換され得る。追加のデータが、予想されるものからずれている場合、ユーザにそのずれを警告するためにアラームアクションがトリガされ得る。
上記で開示した例のすべてにおいて、追加のデータは、106によって示されているように、画像センサーデバイス10に、画像プロセッサ12に、および/またはコントローラ14に、外部データプロバイダ16によって与えられ得る。ある実施形態では、追加のデータはまた、受信された修正されたアクティブな画像センサーデータを評価するために、上記で説明したディスプレイデバイスなどのデバイスに通信される。したがって、追加のデータは、アプリケーションに応じて異なるデバイス中に与えられる。外部データプロバイダ16は、特定の実装によって必要とされる追加のデータを与えるように適応される。追加のデータをタイムスタンプの形態で与えるために、外部データプロバイダ16はクロックデバイスであり得る。追加のデータを位置の形態で与えるために、外部データプロバイダ16はGNSSデバイスであり得る。静的な情報を与えるために、外部データプロバイダ16は、追加のデータを与えるためのデータベースと処理機能とを備え得る。追加のデータは、外部データプロバイダ16によって開始すると、または画像センサーデバイス10、画像プロセッサ12、またはコントローラ14から外部データプロバイダ16において要求を受信すると、与えられ得る。外部データプロバイダ16の代替は、画像センサーデバイス10、画像プロセッサ12、またはコントローラ14の中に備えられるデータプロバイダ(図示せず)である。
次に、バスドライバーのための、特にバス78のバスドア71を閉める状況のためのカメラベースサポートシステム7を示す図7を参照しながら、特定の実施形態について開示する。このシナリオは、セキュリティ上の理由で、各画像が所定の許容できる最大遅延周期内に表示されるという意味で、ライブビューが事実上ライブであることを検証することが重要である、様々なシナリオのうちの1つを表す。バスのためのドアカメラおよび車中の後方カメラを含む、車両ドライバーのためのカメラベースサポートシステムはより一般的になりつつある。ドライバーが、他の人々を傷つける危険を冒すことがないアクションに関する決定を行うことが可能であるために、カメラからの表示された画像を信用することができることが、セキュリティのために不可欠である。図7に示された実施形態では、ドライバーのシート73に位置するバスドライバーは、バスドア71の周りのエリアに人々および障害物がなく、誰かを傷つけるかまたは他の損傷を引き起こすことなしにバスドア71が閉められ得るときを決定するために、サポートシステム7を使用する。
本実施形態によれば、画像センサーデバイス70を含むカメラデバイスは、バスドア71に位置し、バスドアエリアの画像を収集するように適応される。カメラデバイスは、画像プロセッサとエンコーダとを備える画像処理デバイス72に接続される。クロックデバイス74から、704によって示されているように、画像処理デバイス72に時間信号が与えられ得る。クロックデバイス74はローカルまたはグローバルであり得る。システム7のデバイス内の接続は、従来のデータ通信構造によれば、有線または無線であり得る。
発明的概念によれば、タイムスタンプの形態の追加のデータがクロックデバイス74からの時間信号によって収集される。タイムスタンプは、画像センサーフレームを収集する時間に対応するために収集される。(タイムスタンプを備える)追加のデータは、1つまたは複数の画像センサーフレーム中に注入され、画像センサーデバイス70から画像処理デバイス72に送信される(701によって示されている)。追加のデータは、受信され、アクティブな画像センサーデータを修正することによってアクティブな画像センサーデータ中に含められる。修正されたアクティブな画像センサーデータは、702によって示されているように、符号化の後に、画像処理デバイス72からディスプレイデバイス76に送信される。ディスプレイデバイス76はデコーダを備える。復号の後に、追加のデータは、随意に、ドライバーによって閲覧されるためにディスプレイ75上に表示されることと平行して、分析される。ディスプレイデバイス76は、追加のデータがどのように、修正されたアクティブな画像センサーデータ中に含められるかに気付き、含められたデータを解釈する機能を有する。この知識は、場合によっては、修正されたアクティブな画像センサーデータが(702によって示されているように)ディスプレイデバイス76に送信されるときに画像処理デバイス72によってディスプレイデバイス76に与えられ得るか、またはさらには、修正されたアクティブな画像センサーデータの一部である情報として、画像処理デバイス72によってディスプレイデバイス76に与えられ得る。
この実施形態では、追加のデータのタイムスタンプは、クロックデバイス74から(随意に要求に応じて)受信される現在のタイムスタンプと比較される。追加のデータの時間と、所定のしきい値を超える現在の時間との間の差に基づいて、ディスプレイデバイス76は、受信された修正されたアクティブな画像センサーデータが古いことをドライバーに示すためのアラームアクションをトリガする。古いとは、この実施形態では1秒または約1秒の10分の1のオーダーであり得る、所定の寿命を超えることを意味する。アラームアクションは、
・修正されたアクティブな画像センサーデータの画像を表示することを控えるアクションと、
・修正されたアクティブな画像センサーデータの画像の表示をキャンセルするアクションと、
・光る様式で、または特定の色のオーバーレイ、たとえば半透明の赤いオーバーレイを用いて、受信された修正された画像センサーデータを表示するアクションと、
・修正されたアクティブな画像センサーデータの画像が現在ライブでないことを示す指示をディスプレイ75上に表示するアクションと、
・ディスプレイデバイス76に接続されたスピーカー77によって音を再生するアクションと、
・ディスプレイデバイス73に接続された照明器79をアクティブ化するアクションと
の、非限定的な例のうちの1つまたはそれらの組合せを備え得る。
したがって、バス78のドライバーには、セキュリティを高め、クリティカルな決定を行うためのより信頼できるシステムを与える、サポートシステム7が与えられる。システム7は、他の実施形態では、画像センサーデバイスを備える後方カメラ77など、2つ以上の画像センサーデバイスを含み得る。そのようなシステムでは、ディスプレイデバイス73は、たとえばディスプレイ75上の複数のビューとして、ドライバーに表示するための異なる画像センサーデバイスソースからの画像センサーデータを受信し、検証し得る。
図示の実施形態はディスプレイデバイス76を示すが、これは、本発明を限定するものとして解釈されるべきでない。他の実施形態は、ディスプレイがない評価デバイスを含み、評価デバイスは、関連する画像センサーデータが有効であるか否かを決定するために、追加のデータを分析するように適応される。したがって、そのような評価を実行するためにディスプレイは必要でない。追加のデータがメタデータとして処理または記憶デバイスから送られる一実施形態では、評価デバイスは、評価を実行するためにメタデータのみを受信する必要がある。したがって、アクティブな画像センサーデータは、除外されるか、または表示のための(ディスプレイデバイスなど)別のデバイスに送られ得る。評価デバイスは、したがって、ディスプレイデバイスとは別個のデバイスであり得る。
システム7の一般的な構造、または本発明の他の実施形態は、同じセキュリティ課題をもつシナリオのための他のシステムに変換され得る。本明細書での説明、および一般的な知識に基づいて、当業者は、そのような変換を達成することが可能である。
本発明が有益であり得るアプリケーションの非限定的な例は、
・遠隔医療(telemedical)アプリケーションと、
・リモート治療/手術/検査と、
・搬送アプリケーション、たとえば、橋梁のリモート制御またはエアタワー機能のリモート制御と、
・リモート技術支援および技術サービス、たとえば技術機器の保守のためのリモート支援と、
・たとえば追加の情報中の位置座標を研究することによって仮定される物体の画像が撮られることを検証することによる画像文書化の検証と、
・胃カメラ検査(gastroscopy)または結腸内視鏡検査(colonoscopy)などの健康診断と
を含む。
上記では、限られた数の例を参照しながら、主に発明的概念について説明した。しかしながら、当業者によって容易に諒解されるように、上記で開示した例以外の例が、添付の特許請求の範囲によって定義されているように、発明的概念の範囲内で等しく可能である。
1 システム
7 サポートシステム、システム
10 画像センサーデバイス
12 画像プロセッサ、画像処理デバイス
14 随意のコントローラ、外部コントローラ
16 随意の外部データプロバイダ
20 画像センサーフレーム
22 主エリア
24 マージンエリア
26 ブランキングエリア
33 垂直ブランキング間隔
41 CLKサイクルの第1の周期
42 CLKサイクルの第2の周期
43 各HSYNCサイクルのCLKサイクルの最後の周期、水平ブランキング間隔
51 垂直ブランキング間隔
52 垂直ブランキング間隔
53 垂直ブランキング間隔
62 画像
63 オーバーレイ
64 画像
65 2進コードインジケータ
66 画像
67 インジケータエリア
68 ピクセル値
70 画像センサーデバイス
71 バスドア
72 画像処理デバイス、画像プロセッサ
73 ドライバーのシート、ディスプレイデバイス
74 クロックデバイス
75 ディスプレイ
76 ディスプレイデバイス
77 スピーカー、後方カメラ
78 バス
79 照明器 HBLANK 水平ブランキング間隔
HSYNC 第2の信号
VBLANK 垂直ブランキング間隔
VSYNC 第1の信号

Claims (15)

  1. 画像センサーデバイス中の1つまたは複数の画像センサーフレーム中に追加のデータを注入する方法であって、前記方法は、
    数列の形態で追加のデータを与えること(801)と、
    前記数列を表すように、画像センサーデバイス中の1つまたは複数の画像センサーフレーム中の後続のブランキング間隔の長さを制御すること(802)と、
    前記画像センサーデバイスから前記1つまたは複数の画像センサーフレームを送信することと
    を含む、方法。
  2. 前記追加のデータを表す前記数列を識別するために前記後続のブランキング間隔の前記長さを決定する間、前記送信された1つまたは複数の画像センサーフレームを受信すること(803)と、
    前記追加のデータを含めるために、前記受信された1つまたは複数の画像センサーフレーム中のアクティブな画像センサーデータを修正すること(805)と
    をさらに含む、請求項1に記載の方法。
  3. 前記送信された1つまたは複数の画像センサーフレームを受信する前記ステップ(803)およびアクティブな画像センサーデータを修正する前記ステップ(805)が画像プロセッサによって実行される、請求項2に記載の方法。
  4. アクティブな画像センサーデータを修正する(805)前に、前記数列を追加のデータのタイプに関連する形式に変換すること(804)をさらに含む、請求項2または3に記載の方法。
  5. 前記受信された1つまたは複数の画像センサーフレーム中のアクティブな画像センサーデータを修正する前記ステップ(805)が、前記追加のデータをオーバーレイ信号としてまたは埋込み信号として含めることを含む、請求項2から4のいずれか一項に記載の方法。
  6. 前記追加のデータは、前記1つまたは複数の画像センサーフレームが収集される時点についての現在の条件を示す、請求項1から5のいずれか一項に記載の方法。
  7. 前記追加のデータが、時間、日付、または位置を示す、請求項6に記載の方法。
  8. 前記追加のデータが画像プロセッサ中に与えられ、後続のブランキング間隔の長さが前記画像プロセッサによって制御される、請求項1から7のいずれか一項に記載の方法。
  9. 前記数列が2進数列である、請求項1から8のいずれか一項に記載の方法。
  10. 画像センサーフレームの送信が同じ量のクロックサイクルを取るように、補償のための、前記後続のブランキング間隔以外の、1つまたは複数のブランキング間隔の長さを制御することをさらに含む、請求項1から9のいずれか一項に記載の方法。
  11. 前記数列を表すように、前記1つまたは複数の画像センサーフレーム中の後続のブランキング間隔の長さを制御することによって1つまたは複数の画像センサーフレーム中に数列の形態で与えられる、追加のデータを注入するように適応された画像プロセッサ(12、72)。
  12. 前記追加のデータを表す前記数列を識別するために、前記後続のブランキング間隔の前記長さを決定する間、画像センサーデバイス(10、70)から前記1つまたは複数の画像センサーフレームを受信し、
    前記追加のデータを含めるために前記受信された1つまたは複数の画像センサーフレーム中のアクティブな画像センサーデータを修正する
    ようにさらに適応された、請求項11に記載の画像プロセッサ(12、72)。
  13. 請求項11または12に記載の画像センサーデバイス(10、70)と画像プロセッサ(12、72)とを備えるシステム(1、7)。
  14. 評価デバイスをさらに備え、
    前記画像プロセッサ(72)が、前記修正されたアクティブな画像センサーデータを前記評価デバイスに送信するようにさらに適応され、前記含められた追加のデータは、前記1つまたは複数の画像センサーフレームが収集されたときについての時間または位置の形態にあり、
    前記評価デバイスは、前記追加のデータの前記時間または前記位置が所定のしきい値を超えて現在の時間または現在の位置と異なるかどうかを決定するように適応され、そうである場合、前記受信された修正されたアクティブな画像センサーデータが古いことをユーザに示すためにアラームアクションをトリガする、請求項13に記載のシステム。
  15. アラームアクションをトリガする前記ステップが、ディスプレイ(75)上の前記受信された修正されたアクティブな画像センサーデータの表示を控えることまたはキャンセルするアクションと、ディスプレイ(75)上に光る様式で前記受信された修正されたアクティブな画像センサーデータを表示するアクションと、ディスプレイ(75)上に指示を表示するアクションと、照明器(79)をアクティブ化するアクションと、スピーカー(77)によって音を再生するアクションとのうちの1つまたは複数をトリガすることを含む、請求項14に記載のシステム。
JP2020201620A 2019-12-18 2020-12-04 追加のデータを注入する方法 Active JP7190473B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP19217338 2019-12-18
EP19217338.3A EP3840368B1 (en) 2019-12-18 2019-12-18 Method of injecting additional data

Publications (2)

Publication Number Publication Date
JP2021108113A true JP2021108113A (ja) 2021-07-29
JP7190473B2 JP7190473B2 (ja) 2022-12-15

Family

ID=68944526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020201620A Active JP7190473B2 (ja) 2019-12-18 2020-12-04 追加のデータを注入する方法

Country Status (4)

Country Link
US (1) US11323647B2 (ja)
EP (1) EP3840368B1 (ja)
JP (1) JP7190473B2 (ja)
CN (1) CN113079337B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201813348D0 (en) * 2018-08-15 2018-09-26 So Sure Ltd Assessing condition of real-world objects

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583632A (ja) * 1991-09-24 1993-04-02 Nec Corp 監視映像記録装置
JPH0863136A (ja) * 1994-08-19 1996-03-08 Sony Corp 画像データ転送制御装置
JPH08294033A (ja) * 1995-04-20 1996-11-05 Sharp Corp デジタルカメラ装置
JPH0918790A (ja) * 1995-06-29 1997-01-17 Sharp Corp カメラ装置
JP2012138875A (ja) * 2010-12-28 2012-07-19 Fujitsu Ten Ltd 画像処理装置、画像表示システム、及び、画像処理方法
US20130121676A1 (en) * 2011-11-10 2013-05-16 Research In Motion Limited Camera autofocus apparatus and associated method
WO2019026362A1 (ja) * 2017-08-02 2019-02-07 ソニーセミコンダクタソリューションズ株式会社 送信装置、および通信システム
JP6479245B1 (ja) * 2018-07-31 2019-03-06 株式会社メルカリ プログラム、情報処理方法、情報処理装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1066036A (ja) * 1996-08-15 1998-03-06 Oki Electric Ind Co Ltd Tv方式変換装置
US6064440A (en) * 1998-01-08 2000-05-16 Navis Digital Media Systems Apparatus for inserting data into the vertical blanking interval of a video signal
US6466275B1 (en) * 1999-04-16 2002-10-15 Sportvision, Inc. Enhancing a video of an event at a remote location using data acquired at the event
US20050125845A1 (en) * 2003-12-08 2005-06-09 Hardt Charles R. Set-top software mechanism for insertion of a unique non-intrusive digital signature into video program content
EP2100454B1 (en) 2006-11-20 2019-10-30 Axis AB Wireless network camera systems
CN102292996B (zh) * 2009-01-20 2014-09-17 皇家飞利浦电子股份有限公司 3d图像数据的传输
KR20140039920A (ko) * 2012-09-25 2014-04-02 삼성전자주식회사 영상 데이터 처리 방법과 장치 및 이를 포함하는 단말기
US9432708B1 (en) * 2015-05-20 2016-08-30 Disney Enterprises, Inc. System and method for automatically determining latency of components in a video system and synchronizing components
WO2018225534A1 (ja) * 2017-06-09 2018-12-13 ソニーセミコンダクタソリューションズ株式会社 受信装置、送信装置、制御方法、プログラム、および送受信システム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0583632A (ja) * 1991-09-24 1993-04-02 Nec Corp 監視映像記録装置
JPH0863136A (ja) * 1994-08-19 1996-03-08 Sony Corp 画像データ転送制御装置
JPH08294033A (ja) * 1995-04-20 1996-11-05 Sharp Corp デジタルカメラ装置
JPH0918790A (ja) * 1995-06-29 1997-01-17 Sharp Corp カメラ装置
JP2012138875A (ja) * 2010-12-28 2012-07-19 Fujitsu Ten Ltd 画像処理装置、画像表示システム、及び、画像処理方法
US20130121676A1 (en) * 2011-11-10 2013-05-16 Research In Motion Limited Camera autofocus apparatus and associated method
WO2019026362A1 (ja) * 2017-08-02 2019-02-07 ソニーセミコンダクタソリューションズ株式会社 送信装置、および通信システム
JP6479245B1 (ja) * 2018-07-31 2019-03-06 株式会社メルカリ プログラム、情報処理方法、情報処理装置

Also Published As

Publication number Publication date
EP3840368A1 (en) 2021-06-23
CN113079337A (zh) 2021-07-06
EP3840368B1 (en) 2022-01-26
JP7190473B2 (ja) 2022-12-15
US11323647B2 (en) 2022-05-03
CN113079337B (zh) 2023-01-13
US20210195133A1 (en) 2021-06-24

Similar Documents

Publication Publication Date Title
TWI433057B (zh) 改良的警報前視訊緩衝器
CN109640007B (zh) 人工智能图像传感设备
JP6545192B2 (ja) 変調光源からの照光から復号されたタイムスタンプを使用する、捕捉された画像の検証
US20110007171A1 (en) Communication system, transmission device and reception device
US20120161954A1 (en) Method and system for detecting a driving state of a driver in a vehicle
JP2007220004A (ja) テレビおよび認証装置
JP7190473B2 (ja) 追加のデータを注入する方法
CN110730345B (zh) 图像显示方法、图像识别方法、装置、介质、设备及系统
CN112055152B (zh) 摄像装置
CN116057570A (zh) 机器学习装置以及图像处理装置
CN105100544B (zh) 一种视频信息显示方法和系统
US10771765B2 (en) Information processing apparatus, information processing system, information processing method, and storage medium for embedding time stamped information in an image
CN114217691B (zh) 一种显示器驱动方法、装置、电子设备及智能显示系统
JP2007312191A (ja) ビデオ品質評価装置、ビデオ品質監視装置、およびビデオ品質監視システム
US20200059632A1 (en) Image processing apparatus and method
CN104754367A (zh) 一种多媒体信息处理方法及设备
KR20220061032A (ko) 비디오 프로세싱을 위한 방법 및 이미지 프로세싱 디바이스
JP2014006639A (ja) コンテンツ評価データ生成システム、コンテンツ評価データ生成方法、およびプログラム
US20050001916A1 (en) Imaging device
KR100500152B1 (ko) 고해상도 영상 신호 전송 방법 및 상기 방법을 수행하는 고해상도 카메라 시스템
US20240048855A1 (en) Systems and methods for video surveillance
KR20130058469A (ko) 차량용 영상 사고 처리 기록 시스템의 영상 데이터 전송 장치 및 방법
JP2016225904A (ja) 画像信号処理装置
JP2006109230A (ja) 監視システム及び監視システムにおける認証方法
WO2020116213A1 (ja) 受信装置および送信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220125

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220815

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221205

R150 Certificate of patent or registration of utility model

Ref document number: 7190473

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150