JP6275396B2 - 仮想カメラを対話形式で制御するシステムおよび方法 - Google Patents

仮想カメラを対話形式で制御するシステムおよび方法 Download PDF

Info

Publication number
JP6275396B2
JP6275396B2 JP2013096881A JP2013096881A JP6275396B2 JP 6275396 B2 JP6275396 B2 JP 6275396B2 JP 2013096881 A JP2013096881 A JP 2013096881A JP 2013096881 A JP2013096881 A JP 2013096881A JP 6275396 B2 JP6275396 B2 JP 6275396B2
Authority
JP
Japan
Prior art keywords
image
magnitude
gesture
virtual camera
view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013096881A
Other languages
English (en)
Other versions
JP2013236374A (ja
Inventor
ゾウ ウェイフェン
ゾウ ウェイフェン
ウェイリッチ ノーマン
ウェイリッチ ノーマン
ヘ ジア
ヘ ジア
Original Assignee
ハーマン インターナショナル インダストリーズ インコーポレイテッド
ハーマン インターナショナル インダストリーズ インコーポレイテッド
ハーマン インターナショナル (チャイナ) ホールディングス カンパニー, リミテッド
ハーマン インターナショナル (チャイナ) ホールディングス カンパニー, リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ハーマン インターナショナル インダストリーズ インコーポレイテッド, ハーマン インターナショナル インダストリーズ インコーポレイテッド, ハーマン インターナショナル (チャイナ) ホールディングス カンパニー, リミテッド, ハーマン インターナショナル (チャイナ) ホールディングス カンパニー, リミテッド filed Critical ハーマン インターナショナル インダストリーズ インコーポレイテッド
Publication of JP2013236374A publication Critical patent/JP2013236374A/ja
Application granted granted Critical
Publication of JP6275396B2 publication Critical patent/JP6275396B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

(発明の分野)
本発明は、概して、多視野カメラシステムに関し、より具体的には、ユーザに表示される、多視野カメラシステムの仮想カメラによって生成される画像を対話形式で制御するシステムおよび方法に関する。
(背景)
(従来技術)
近年、自動車におけるカメラの使用が増加している。初期に、安全性のために、車両の運転手の後方視認性を改善するために、後方確認用モニタが自動車に追加された。続いて、ユーザに、ユーザの車両の周囲領域のすべてのより良い視野を提供するために、自動車上の様々な位置に、複数のカメラまたはモニタが定置された。
鳥瞰または頭上カメラシステムでは、典型的に、4つのカメラが使用され、自動車の前後および左右に搭載される。これらの4つのカメラから撮影される画像は、自動車を包囲する全体視野を示す鳥瞰または頭上視野を形成するように画像を組み合わせる、画像処理ユニットに送信される。一般的に、複数の画像の処理は、ある程度重なり合っていてもよい画像を撮影することと、それらを組み合わせ、自動車内のモニタまたはディスプレイ上に表示するために平面上に投影することとを必要とする。これらの画像は、平面上に投影されるため、自動車から遠く離れた物体の形状は不鮮明である、または歪んでいる場合があり、したがって、自動車の周囲のすべてが自動車の運転手に適切に表示されない場合がある。
鳥瞰または頭上視野のために、カメラシステムの視点が自動車の上方に固定されている場合、自動車の運転手に入手可能となる画像は、車両の周辺に広がる比較的小さい領域にしか及ばない場合がある。したがって、このタイプのカメラシステムは、自動車の周囲のすべてを運転手に適切に示すことができない場合がある。この問題の1つの解決策は、運転手のニーズにより役立つ異なる視野を運転手にもたらすように、運転手がカメラシステムの視点を調節または変更できるようにすることである。
別の解決策は、複数のカメラからの複数の画像を表示し、運転手がこれらの画像を選択できるようにすることであり、これは、駐車する際、曲がる際、または高速道路に合流する際等の自動車を操作する際、運転手に、運転手のニーズにより見合う視野を与える。しかしながら、この解決策は、複数のカメラ源から入手可能な画像のみに限定され、したがって、運転手の視野選択肢は、複数の入力源のそれぞれから入手可能な画像に限定される。
したがって、運転手が、運転手の周囲の所望の視野を取得するために、表示される画像に関連する複数のカメラ関連パラメータを選択および/または調節することができるように、自動車の運転手が対話形式で制御し、調節することができる仮想カメラを用いて、複数の画像を処理し、組み合わせる、多視野カメラシステムの必要性が存在する。
上記を考慮し、少なくとも1つの画像源ユニットと、1つ以上の画像源ユニットのそれぞれと信号通信している画像処理ユニットと、画像処理ユニットと信号通信しており、画像処理ユニットによって生成される画像に関連するパラメータを画像処理ユニットに送信するように構成される、パラメータ設定ユニットと、画像処理ユニットと信号通信しており、画像処理ユニットによって生成される画像を多視野カメラシステムのユーザに表示するように構成される、ディスプレイであって、表示される画像は、画像関連パラメータに従って構成される、ディスプレイとを備える、多視野カメラシステムが提供される。画像処理ユニットに送信される画像関連パラメータには、仮想カメラのその3つの軸に沿った平行移動、これらの3つの軸を中心とした回転、およびまた、仮想カメラのレンズの焦点距離の変更も含む。
パラメータ設定ユニットは、画像処理ユニットに送信されるパラメータを調節する、ユーザからの入力を受け付けるように構成される、シングルタッチまたはマルチタッチタッチスクリーンディスプレイ等のユーザインターフェースをさらに含んでもよい。また、自動車のユーザが多視野カメラシステムの仮想カメラを対話形式で制御する方法も開示される。上述される特徴、およびこれから以下に説明される特徴は、本明細書に示されるそれぞれの組み合わせだけでなく、本発明の範囲から逸脱することなく、他の組み合わせで、または単独で使用されてもよいことが理解される。
本発明の他のデバイス、装置、システム、方法、特徴、および利点は、以下の図ならびに発明を実施するための形態を検討すると、当業者に明らかである、または明らかになる。すべてのそのような追加のシステム、方法、特徴、および利点は、本説明に含まれ、本発明の範囲内であり、添付の特許請求の範囲によって保護されることが意図される。
例えば、本願発明は以下の項目を提供する。
(項目1)
自動車用の多視野カメラシステムであって、
1つ以上の画像源ユニットと、
上記1つ以上の画像源ユニットのそれぞれから複数の画像を受信するように構成される、上記1つ以上の画像源ユニットのそれぞれと信号通信している画像処理ユニットと、
上記多視野カメラシステムのユーザによって入力される画像関連パラメータを上記画像処理ユニットに送信するように構成される、上記画像処理ユニットと信号通信しているパラメータ設定ユニットであって、上記画像関連パラメータは、上記画像処理ユニットによって、上記ユーザに表示される画像を生成するために利用される、パラメータ設定ユニットと、
上記画像処理ユニットによって生成される上記表示画像を上記ユーザに表示するように構成される、上記画像処理ユニットと信号通信しているディスプレイと、
を備える、多視野カメラシステム。
(項目2)
上記1つ以上の画像源ユニットは、一方が上記自動車の前方に位置し、他方が上記自動車の後方に位置する、2つのビデオカメラを含む、上記項目に記載の多視野カメラシステム。
(項目3)
上記1つ以上の画像源ユニットは、一方が上記自動車の運転席側に位置し、他方が上記自動車の助手席側に位置する、2つの追加のビデオカメラをさらに含む、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目4)
上記画像処理ユニットは、上記ビデオカメラによって収集される画像から3次元(「3D」)画像を生成するように構成される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目5)
上記画像関連パラメータは、上記ユーザによって上記画像処理ユニットと信号通信しているグラフィカルユーザインターフェースを通して上記パラメータ設定ユニットに入力される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目6)
上記グラフィカルユーザインターフェースは、上記ユーザによるシングルタッチおよびマルチタッチジェスチャ入力を読み取るように構成される、タッチスクリーンである、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目7)
上記画像関連パラメータは、上記多視野カメラシステムの仮想カメラを上記自動車に対して位置付けるために使用され、上記仮想カメラの位置は、3つの軸からなる3次元世界座標系によって定義される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目8)
上記仮想カメラを位置付けるために使用される上記画像関連パラメータは、上記ユーザによる、タッチスクリーンを使用した上記パラメータ設定ユニットへのシングルタッチおよびマルチタッチジェスチャ入力から生成される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目9)
上記仮想カメラは、上記ユーザによるダブルタッチジェスチャ入力によって、その3つの軸のそれぞれに沿って平行移動される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目10)
上記仮想カメラは、上記ユーザによるシングルタッチジェスチャ入力によって、その3つの軸のそれぞれを中心に回転される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目11)
上記仮想カメラの焦点距離は、上記ユーザによるダブルタッチズームインおよびズームアウトジェスチャ入力よって変更される、上記項目のいずれか一項に記載の多視野カメラシステム。
(項目12)
自動車における多視野カメラシステムを対話形式で制御する方法であって、
上記自動車の複数の画像源ユニットから1つ以上の画像を収集することと、
上記自動車のユーザが、グラフィカルユーザインターフェースを通して、上記多視野カメラシステムに画像関連パラメータを入力することと、
上記画像関連パラメータに応えて、上記ユーザに表示される画像を生成することと、
上記ユーザに表示される上記画像を、上記自動車内のディスプレイ上に表示することと、
を含む、方法。
(項目13)
上記画像源ユニットは、ビデオカメラであり、収集する上記ステップは、上記ビデオカメラから1つ以上の画像を収集することを含む、上記項目に記載の方法。
(項目14)
上記グラフィカルユーザインターフェースは、タッチスクリーンを含む、上記項目のいずれか一項に記載の方法。
(項目15)
画像関連パラメータを入力する上記ステップは、上記ユーザによって上記タッチスクリーン上で行われるジェスチャを解釈することを含む、上記項目のいずれか一項に記載の方法。
(項目16)
上記タッチスクリーン上で行われる上記ジェスチャは、シングルタッチおよびマルチタッチジェスチャを含む、上記項目のいずれか一項に記載の方法。
(項目17)
表示される画像を生成する上記ステップは、
上記画像関連パラメータに応えて、上記多視野カメラシステムの仮想カメラを上記自動車に対して位置付けることと、
上記仮想カメラの上記位置に基づき、上記画像源ユニットから収集される上記画像のすべてまたは部分を選択することと、
上記選択された画像から、上記ユーザに表示される3次元(「3D」)画像を生成することと、
を含む、上記項目のいずれか一項に記載の方法。
(項目18)
上記仮想カメラは、3つの軸からなる3次元世界座標系によって、上記自動車に対して定義される、上記項目のいずれか一項に記載の方法。
(項目19)
上記仮想カメラを位置付ける上記ステップは、上記ユーザによるダブルタッチジェスチャ入力に応えて、上記仮想カメラを、その3つの軸のそれぞれに沿って平行移動させることを含む、上記項目のいずれか一項に記載の方法。
(項目20)
上記仮想カメラを位置付ける上記ステップは、上記ユーザによるシングルタッチジェスチャ入力によって、上記仮想カメラを、その3つの軸のそれぞれを中心に回転させることを含む、上記項目のいずれか一項に記載の方法。
(摘要)
1つ以上の画像源ユニットと、画像処理ユニットと、画像処理ユニットと信号通信しているパラメータ設定ユニットと、画像処理ユニットと信号通信しているディスプレイとを備える、多視野仮想カメラシステム。ディスプレイは、画像処理ユニットによって生成される画像を、仮想カメラシステムのユーザに表示するように構成され、表示される画像は、多視野カメラシステムのユーザによってパラメータ設定ユニットを通して入力される画像関連パラメータに従って構成される。パラメータ設定ユニットは、画像処理ユニットに送信され、画像処理ユニットによって利用される、パラメータを調節するユーザからの入力を受け付けるように構成される、シングルタッチまたはマルチタッチタッチスクリーンディスプレイ等のユーザインターフェースを含んでもよい。また、自動車のユーザが仮想カメラシステムを対話形式で制御する方法も開示される。
以下の説明は、以下の図を参照することによってより理解され得る。図中の構成要素は、必ずしも一定の尺度ではなく、代わりに、本発明の原理を例証することが重視される。図中、同様の参照番号は、異なる図にわたって対応する部分を指定する。
本発明の一実現形態例による、多視野カメラシステムの実施例のブロック図である。 グラフィカルユーザインターフェースと共に、図1のディスプレイユニットおよびパラメータ設定ユニットに連結される、図1の多視野カメラシステムの画像処理ユニットの実現形態の一実施例の簡略化ブロック図である。 自動車内のディスプレイユニット上に表示される周囲視野画像を定義する画像関連パラメータを図示する、多視野カメラシステムの仮想カメラに適用される座標系例の概略図である。 自動車内のディスプレイユニット上に表示される方向視野画像を定義する画像関連パラメータを図示する、多視野カメラシステムの仮想カメラに適用される座標系例の概略図である。 自動車内のディスプレイユニット上に表示される方向視野画像を定義する画像関連パラメータを図示する、図1の多視野カメラシステムの仮想カメラに適用される座標系例の概略図である。 図5の仮想カメラに適用される座標系例の概略図、およびシングルタッチ水平ジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 図6Aの座標系例の概略図、およびシングルタッチ垂直ジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 図6Aの座標系例の概略図、およびダブルタッチスピンジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 図6Aの座標系例の概略図、およびシングルタッチ水平ジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 図6Aの座標系例の概略図、およびダブルタッチ垂直ジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 図6Aの座標系例の概略図、およびダブルタッチピンチジェスチャのための運転手のジェスチャを示すディスプレイの概略図である。 本発明による多視野カメラシステムを含む、自動車の概略図である。 本発明による多視野カメラシステムを含む、自動車の別の概略図である。 仮想カメラシステムのユーザに表示されてもよい概略スケッチを示す、本発明による多視野カメラシステムのディスプレイの概略図である。 画像関連パラメータを入力した後に修正された、ユーザに表示されるスケッチを伴う、図8Aのディスプレイの概略図である。 自動車における多視野カメラシステム内の仮想カメラを対話形式で制御する方法の実施例の動作を図示する、フロー図である。
以下の様々な実施例の説明は、例証のためだけに与えられ、限定の意味でとられないことが理解される。実施例の図面中に示される機能ブロック、モジュール、またはユニットへの分割は、これらの機能ブロック、モジュール、またはユニットが、必ず物理的に別個のユニットとして実現されることを示すとは解釈されない。示される、もしくは記載される機能ブロック、モジュール、またはユニットは、別個のユニット、回路、チップ、機能、モジュール、または回路要素として実現されてもよい。また、1つ以上の機能ブロックもしくはユニットは、共通回路、チップ、回路要素、またはユニット内に実現されてもよい。
図1に図示される多視野カメラシステム100の実現形態例は、それぞれが画像処理ユニット112と信号通信している、n個の画像源ユニット102、104、・・・110を含む。画像源ユニット102、104、・・・110は、1つが自動車の前方、もう1つが自動車の後方、ならびに自動車の左側および後方側に1つずつ位置付けられた、4つの車両に搭載されたカメラを含んでもよい。本実現形態では、画像源ユニットは、すべてビデオカメラであるが、しかしながら、また、画像源ユニットは、自動車の付近の物理的物体までの距離を測定するセンサデバイス、運転手のためのナビゲーションデータを生成するグラフィックおよびテキスト生成デバイス、ならびに運転手に有用であり得るデータを収集する他の同様のデバイスも含んでもよく、したがって、必ずしもすべての画像源ユニットがビデオカメラまたは同一タイプのものである必要はない。
画像源ユニット102、104、・・・110は、次いで画像処理ユニット112に送信される、自動車を直接包囲する領域の複数のビデオ画像をキャプチャするように構成される。画像処理ユニット112は、3Dまたは2D画像のためのデータを含んでもよい、ビデオ画像データを受信し、ディスプレイユニット120を使用して自動車の運転手に表示される画像を生成するように、このデータを処理する。パラメータ設定ユニット114は、自動車の直接周囲領域の適切な視野、つまり、運転手が運転手の運転ニーズを満足するために所望する視野を生成するために使用される画像関連パラメータを、画像処理ユニット112に提供する。そのような画像関連パラメータは、パラメータ設定ユニット114内で調節されてもよく、仮想カメラの位置、提示される視野のタイプ(例えば、周囲または方向)、視野の方向、視界、視野位置を定義する軸を中心とした回転度、および仮想カメラのカメラレンズの焦点距離を含んでもよいが、これらに限定されない。
図2は、図1の画像処理ユニット112と信号通信しているパラメータ設定ユニット114の実現形態の一実施例の簡略化ブロック図200である。パラメータ設定ユニット114は、自動車の運転手220によって使用されるように構成される、グラフィカルユーザインターフェース210を含んでもよい。グラフィカルユーザインターフェース210は、運転手220が画像関連パラメータを選択し、調節するために操作可能なタッチスクリーンまたはタッチパッドであってもよい。図2では、グラフィカルユーザインターフェース210は、ディスプレイユニット120とは別個のブロックであるように示されているが、しかしながら、別の実現形態では、グラフィカルユーザインターフェース210およびディスプレイユニット120は、例えば、ディスプレイユニット120の上に定置された自動車の輪郭を描くオーバーレイを備え、したがって、運転手220が、例えば、タッチスクリーンを使用して、図1の多視野仮想カメラシステムの視野位置を調節することを可能にする、グラフィカルユーザインターフェース210を伴う、単一の要素であってもよい。他の実現形態では、グラフィカルユーザインターフェース210は、運転手220、またはさらには自動車の同乗者によって操作されてもよい、別個の入力デバイスであってもよい。また、これらの入力デバイスは、タッチスクリーンまたはタッチパッドに加えて、ジョイスティック、サムスティック、キーボード、およびテンキーも含んでもよい。
一般的に、図1の多視野カメラシステムは、運転手が運転手の自動車内で表示することを所望するどのような画像も生成するように構成される、自動車の運転手が利用可能な「仮想」カメラ、つまり、グラフィカルユーザインターフェースの手段によって、ユーザによって多視野カメラシステムに入力される画像関連パラメータによって、自動車に対して再位置付けされ得るカメラを備える。1つのそのような画像は、自動車の周囲の鳥瞰または広角視野をレンダリングする、360°視界画像(本明細書では、「周囲視野画像」と称される)であってもよい。図3は、自動車の運転手のための調節可能な周囲視野画像を生成するように構成される、多視野カメラシステムの画像関連パラメータを定義するために使用されてもよい、座標系を図示する、概略図である。図3では、ブロック302は、自動車を表し、自動車およびその直接周囲は、3つの軸、x軸304、y軸306、およびz軸308からなる3次元世界座標系300によって定義されてもよい。座標が(0、0、0)の原点O310を、車両内、例えば、その重心に任意に固定することができ、多視野カメラシステムは、初期に、または初期設定で原点O310に設定されてもよい。x軸304は、前進している際、自動車の運転方向を指す。
自動車の運転手が、仮想カメラの視野位置を調節することを望む際、運転手は、図2のグラフィカルユーザインターフェース210を通して、適切な調節された画像関連パラメータをパラメータ設定ユニット114に入力することによって調節してもよい。一実現形態では、グラフィカルユーザインターフェース122は、ディスプレイユニット120の上に重ね合わせられるタッチスクリーンを備えてもよく、オーバーレイは、3次元世界座標系300を示す。
タッチスクリーンは、シングルタッチ入力デバイスまたはマルチタッチ入力デバイスのいずれかであってもよく、画像関連パラメータを調節する方法は、画像処理ユニット112が、入力デバイスにわたるジェスチャを検出することと、ジェスチャの方向および距離を判定することと、ジェスチャの方向および距離によって判定される所定のパラメータ調節(単数または複数)を実施することとを含んでもよい。シングルタッチ入力デバイスでは、ジェスチャは、タッチスクリーン上へのタッチダウン、続くタッチスクリーンの表面に沿った動きを含んでもよい。1本の指がタッチスクリーン上を動き、動きの距離が所定の閾値T0を超える際、運転手の入力がジェスチャとして解釈される。
それぞれの特定のジェスチャは、特定のパラメータ調節と関連していてもよい。例えば、1本の指による垂直ジェスチャは、仮想カメラのy軸306を中心とした回転を制御するために使用されてもよく、1本の指による水平ジェスチャは、仮想カメラのz軸308を中心とした回転を制御するために使用されてもよく、1本の指によるスピンジェスチャは、仮想カメラのx軸304を中心とした回転を制御するために使用されてもよい。
マルチタッチ入力デバイスでも、1本の指による入力によって定義されるものと同一のジェスチャが、マルチタッチ入力デバイスに入力されてもよい。さらに、2本以上の指を使用して入力デバイスに入力するために、マルチタッチジェスチャが定義されてもよい。一般的に、マルチタッチジェスチャは、2本以上の指によるタッチスクリーン上へのタッチダウン、続くこれらの指によるタッチスクリーンに沿った動きを含んでもよい。指がタッチスクリーン上を動き、動きの距離が所定の閾値T0を超える際、入力がジェスチャとして解釈される。
一実現形態では、意図されるマルチタッチジェスチャのタイプは、2つの要素、1)入力デバイス上にタッチダウンする際の指の間の距離、および2)その後の入力デバイス上を動く指(単数または複数)の水平移動の大きさ対垂直移動の大きさの比率によって判定されてもよい。タッチスクリーン上にタッチダウンする際の指の間の距離が所定の閾値T1を超えない場合、入力は、複数の指によるジェスチャとして解釈されてもよい。水平移動の大きさ対垂直移動の大きさの比率が所定の閾値T2未満である場合、入力は、複数の指による垂直ジェスチャとして解釈されてもよく、一方、水平移動の大きさ対垂直移動の大きさの比率が所定の閾値T3より大きい場合、入力は、複数の指による水平ジェスチャとして解釈されてもよい。水平移動の大きさ対垂直移動の大きさの比率が、閾値T2より大きく、かつ閾値T3未満である場合、入力は、複数の指によるピンチジェスチャとして解釈されてもよい。
それぞれの特定の複数の指によるジェスチャは、特定のパラメータ調節と関連していてもよい。例えば、2本の指による垂直ジェスチャは、仮想カメラのz軸308に沿った平行移動を制御するために使用されてもよく、2本の指による水平ジェスチャは、仮想カメラのy軸306に沿った平行移動を制御するために使用されてもよく、2本の指による斜めジェスチャは、仮想カメラのx軸304に沿った平行移動を制御するために使用されてもよい。
タッチスクリーン上にタッチダウンする際の指の間の距離が閾値T1を超え、かつ指の間の距離が次いで増加する場合、入力は、複数の指によるズームインジェスチャとして解釈されてもよい。一方、タッチスクリーン上にタッチする指の間の距離が減少する場合、複数の指によるズームアウトジェスチャとして解釈されてもよい。換言すれば、2つの指を所定の距離だけ離してタッチスクリーン上に定置することによって、ユーザは、次いで2つの指を近づけるか、またはそれらをさらに離すことによって、仮想カメラをそれぞれズームインまたはズームアウトさせてもよい。
図3に戻り、多視野カメラシステムは、初期に、原点O310に設定されてもよい。運転手が、この原点を、例えば、z軸308に沿って移動させることを望む場合、運転手は、視野位置のO310からO´312への再位置付けをもたらす、上述される2本の指による垂直ジェスチャを使用してもよい。x軸304に沿った移動では、運転手は、上述される2本の指によるピンチジェスチャを使用してもよい。運転手が2本の指による水平ジェスチャを入力する場合、これは、視野位置のy軸306に沿った平行移動をもたらす。車両のより運転席側に焦点を当てた周囲視野画像を生成するように、仮想カメラシステムをO310からO´´314に移動させるためには、仮想カメラをy軸306に沿って移動させるための水平ジェスチャ、および仮想カメラをz軸308に沿ってO´´314に移動させるための垂直ジェスチャの両方が必要であり得る。
他の状況では、運転手は、例えば、運転手の自動車を反転させる、または駐車する際等に、運転手の周囲により焦点を当てた視野を望む場合がある。これらの状況では、多視野カメラシステムの「仮想」カメラは、最初に、自動車に対する任意の位置、例えば、自動車の運転席側に移動されてもよく、いったん適切に位置付けられると、運転手は、所望の視野を取得するために必要な「仮想」カメラの調節を行ってもよい。これらの調節は、「仮想」カメラの視点を変更すること、「仮想」カメラの視界を増加または減少させること、3つの軸のうちのいずれかを中心にカメラを回転させること、ならびに「仮想」カメラのレンズの焦点距離を変更することを含んでもよい。
図4は、自動車の運転手のための調節可能な方向視野画像を生成するように構成される、多視野カメラシステムの入力パラメータを定義するために使用されてもよい、座標系400を図示する、概略図である。ディスプレイユニット上に周囲視野画像を表示する、図3に示される座標系とは対照的に、図4は、方向視野画像、つまり、周囲視野の360°未満の視界画像である、自動車に対する方向を指す単一のカメラまたは複数のカメラによって生成され得る画像の表示に関し、カメラのそれぞれは、カメラのレンズの焦点距離もまた同様に調節し得る自動車の運転手によって、軸、すなわち、x軸404(ロール)、y軸406(ピッチ)、およびz軸408(ヨー)を中心に回転調節されてもよい。換言すれば、ディスプレイユニットおよびグラフィカルユーザインターフェースは、「仮想」カメラとして共に動作する。
図4では、ブロック402は、自動車を表し、自動車およびその直接周囲は、3つの軸、x軸404、y軸406、およびz軸408からなる3次元世界座標系400によって定義されてもよい。座標が(0、0、0)の原点O410を、車両内、例えば、その重心に任意に固定することができ、多視野仮想カメラシステムは、初期に、または初期設定で原点O410に設定されてもよい。この点において、本座標系は、図3の座標系と同様であるが、しかしながら、本座標系では、原点は、原点410に対する仮想カメラ414の位置を判定するために使用される。
図3と同様に、仮想カメラ414のz軸408、x軸404、およびy軸406のそれぞれに沿った平行移動を制御するために、2本の指による垂直、水平、ならびに斜めジェスチャが使用されてもよい。図4では、仮想カメラ414は、2本の指による水平および垂直ジェスチャの結果であってもよい、図3のO´´314に対応する位置に示されている。また、仮想カメラ414のレンズ414aは、自動車の運転手にとって運転手の左側の運転席側の窓の外の視野であり得る、y´軸506に沿った方向を指すように示されている。
図5を参照すると、自動車内のディスプレイユニット上に表示される画像を定義するために利用することができる、画像関連パラメータを定義するために使用されてもよい、仮想カメラ414に適用される座標系例の概略図が示されている。仮想カメラ414の回転位置付けは、3つの軸、x´軸504、y´軸506、およびz´軸508からなる3次元世界座標系500によって定義されてもよい。仮想カメラ414の位置を調節する場合と同様に、自動車の運転手が、仮想カメラ414を回転調節することを望む際、運転手は、図2のグラフィカルユーザインターフェース210を通して、関連画像関連パラメータをパラメータ設定ユニット114に入力することによって調節してもよく、グラフィカルユーザインターフェース122は、ディスプレイユニット120の上に重ね合わせられるタッチスクリーンを備えてもよく、オーバーレイは、3次元世界座標系500を示す。
前述されるように、仮想カメラのy軸306、z軸308、およびx軸304のそれぞれを中心とした回転を制御するために、1本の指による垂直、水平、ならびにスピンジェスチャが使用されてもよい。図5では、仮想カメラ414のレンズ414aは、方向v´510、つまり、運転手の左側を指すように示されている。この仮想カメラ414の回転位置付けは、1本の指による水平ジェスチャによって達成され得る、z´軸508を中心とした反時計回りに90°の回転を必要とし得る。運転手が、例えば、道路の縁石または路肩を見るために、仮想カメラ414を下方に回転させることを望む場合、これは、x´軸504を中心に仮想カメラ414を回転させ得るスピンジェスチャを用いて達成されてもよい。
いったんカメラが所望の位置に回転されると、運転手は、仮想カメラ414の焦点距離を調節することを判断してもよく、これは、前述されるように、タッチダウンする際の指の間の距離が閾値T1を超え、距離が増加する際にズームインされ、距離が減少する際にズームアウトされる、マルチタッチジェスチャによって達成されてもよい。一般的に、カメラシステムのより長い焦点距離は、遠く離れた物体のより大きい拡大、および視野のより狭い角度と関連付けられ、逆に、より短い焦点距離は、視野のより広い角度と関連付けられる。図5では、仮想カメラ414の視野の角度は、弧518、ならびにベクトル514および516によって画定される領域によって、概略的に示される。運転手が仮想カメラ414の焦点距離を長くした場合、視野の角度は狭くなるが、任意の遠く離れた物体は、よりしっかりと焦点が合って見えるであろう。
図6Aを参照すると、シングルタッチ水平ジェスチャのための運転手のジェスチャを示すディスプレイの概略図と共に、多視野カメラシステム600に適用される座標系例の概略図が示されている。ブロック602は、自動車を表し、自動車およびその直接周囲は、3つの軸、x軸604、y軸606、およびz軸608からなる3次元世界座標系によって定義されてもよい。タッチスクリーン620は、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースデバイスを表し、手622は、タッチスクリーン620上で水平ジェスチャ624を生成する、シングルタッチ構成の運転手の手を表す。本実現形態では、水平ジェスチャ624は、例えば、水平ジェスチャ624が右から左の際に反時計回りであり、左から右である際に時計回りであってもよい、多視野カメラシステムのz軸608(すなわち、ヨー)を中心とした回転640をもたらす。
図6Bでは、タッチスクリーン620は、この場合も同様に、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースを表し、手622は、タッチスクリーン620上で垂直ジェスチャ626を生成する、シングルタッチ構成の運転手の手を表す。この場合では、垂直ジェスチャ626は、例えば、垂直ジェスチャ624が上向きである際に反時計回りであり、下向きである際に時計回りであってもよい、多視野カメラシステムのy軸606(すなわち、ピッチ)を中心とした回転642をもたらす。
図6Cでは、タッチスクリーン620は、この場合も同様に、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースを表し、手622は、タッチスクリーン620上でスピンジェスチャ628を生成する、シングルタッチ構成の運転手の手を表す。この場合では、スピンジェスチャ628は、例えば、スピンジェスチャ624が上向きである際に反時計回りであり、下向きである際に時計回りであってもよい、多視野カメラシステムのx軸604(すなわち、ロール)を中心とした回転644をもたらす。
図6Dを参照すると、ダブルタッチ水平ジェスチャのための運転手のジェスチャを示すディスプレイの概略図と共に、多視野カメラシステム600に適用される座標系例の概略図が示されている。ブロック602は、自動車を表し、自動車およびその直接周囲は、3つの軸、x軸604、y軸606、およびz軸608からなる3次元世界座標系によって定義されてもよい。タッチスクリーン620は、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースを表し、手632は、タッチスクリーン620上で水平ジェスチャ624を生み出す、ダブルタッチ構成の運転手の手を表す。本実現形態では、水平ジェスチャ632は、例えば、水平ジェスチャ632が左から右である際に運転手の右側であり、右から左である際に運転手の左側であってもよい、多視野カメラのy軸606に沿った平行移動646をもたらす。
図6Eでは、タッチスクリーン620は、この場合も同様に、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースを表し、手630は、タッチスクリーン620上で垂直ジェスチャ634を生成する、ダブルタッチ構成の運転手の手を表す。この場合では、垂直ジェスチャ634は、例えば、垂直ジェスチャ634が上向きである際に上向きであり、垂直ジェスチャ634が下向きである際に下向きであってもよい、多視野カメラシステムのz軸608に沿った平行移動648をもたらす。
図6Fでは、タッチスクリーン620は、この場合も同様に、自動車内のディスプレイユニットに取り付けられてもよい、グラフィカルユーザインターフェースを表し、手630は、タッチスクリーン620上でピンチジェスチャ636を生成する、ダブルタッチ構成の運転手の手を表す。この場合では、ピンチジェスチャ636は、例えば、ピンチジェスチャ636が上向きである際に前方であり、ピンチジェスチャ636が下向きである際に後方であってもよい、多視野カメラシステムのx軸604に沿った平行移動650をもたらす。
自動車における多視野カメラシステムの動作モードの別の実施例では、運転手が、シングルタッチジェスチャまたはマルチタッチジェスチャのいずれかを用いて、グラフィカルユーザインターフェース210を通して、画像関連パラメータに対する特定の調節をパラメータ設定ユニット114に入力する際、多視野カメラシステムは、運転手からの直接入力なく所望の視野を生成するように、他の画像関連パラメータのうちの1つ以上を自動的に調節するように構成されてもよい。換言すれば、画像関連パラメータのサブセットは、自動車の運転手によって直接変更されてもよく、一方、画像関連パラメータの別のサブセットは、運転手によって行われる画像関連パラメータに対する変更に応えて、パラメータ設定ユニット114によって自動的に調節されてもよい。より少ない画像関連パラメータが調節されることで、運転手にとって、仮想カメラシステムを調節することがより容易であり、パラメータ設定ユニット114が、適切な対応する調節を自動的に行うように構成されるため、生成される結果としてもたらされる画像は、それほど歪まない。
実施例として、多視野カメラシステムが、周囲視野モードで動作されており、運転手が、仮想カメラをx軸604またはz軸608のいずれかに沿って平行移動させる際、仮想カメラは、z軸608(すなわち、ヨー)およびy軸606(すなわち、ピッチ)を中心に自動的に回転され、x軸604(すなわち、ロール)を中心とした回転は、表示される車の周辺の視野領域が同一のままであるように、変更されないままである。同様に、y軸606に沿った平行移動は、仮想カメラの「ズームイン」または「ズームアウト」に対応してもよく、それによって、パラメータ設定ユニット114は、自動車の周辺の同一の視野領域は保たれるが、カメラ焦点距離が変化されるように、仮想カメラを、x軸604またはz軸608を中心に自動的に回転させてもよい。
図7Aは、本発明による多視野カメラシステムを含む、自動車700の概略図を示す。ブロック700は、4つの画像源ユニット、本実現形態では、前方ビデオカメラ702、後方ビデオカメラ704、右側ビデオカメラ706、および左側ビデオカメラ708を備える、自動車を表す。これらのビデオカメラのそれぞれは、それぞれ領域712、714、716、および718によって表される、それら自体の視界を有する。ブロック720は、自動車700に対する仮想カメラを表す。
図7Aでは、自動車700の進行方向から反時計回りに90°に焦点が当てられた、つまり、自動車700の左側に向けられた仮想カメラ720が示されている。自動車に設置された多視野カメラシステムの仮想カメラが、初期に自動車700の中心に基づく原点に位置付けられていると仮定すると、仮想カメラ720を再位置付けするには、ユーザは、仮想カメラ720を、図6Aのz軸608を中心に反時計回りに90°回転させる必要があり得、これは、右から左への水平ジェスチャ624を用いて行われてもよい。
図7Aの構成では、ユーザは、自動車の左側の180°の視界を伴う、動作の180°方向視野モードを選択しており、この視野は、運転手の自動車で縦列駐車操作を実施する際、運転手に有用であり得る。したがって、この方向視野モードでは、図1の画像処理ユニット112は、左側ビデオカメラ708からの視界718、ならびに前方ビデオカメラ702からの視界712および後方ビデオカメラ704からの視界714の部分によって表される3つの画像を選択し、ユーザに表示される、ユーザによって入力される画像関連パラメータに従う、これらの3つの画像を含む平行線模様領域730によって表される画像を生成する。
ディスプレイを見た後、ユーザは、ユーザの車両周囲の特定のセクションをより良く見るため、例えば、以前のディスプレイ内に現れた何かのより近接した視野を取得するために、仮想カメラ720を再位置付けすることを選択してもよい。図7Bには、図7Aに示される仮想カメラ720の位置からz軸608を中心に反時計回りにさらに45°回転され、また、y軸606に沿って左に平行移動された、仮想カメラ720が示されており、これらは、それぞれ、右から左への水平ジェスチャ624および左から右への水平ジェスチャ632を用いて行われてもよい。
本構成では、ユーザは、自動車の左側の90°の視界を伴う、動作の90°方向視野モードを選択しており、この視野は、ユーザの自動車で縦列駐車操作を実施する際、運転手にとって有用であり得る。したがって、この方向視野モードでは、図1の画像処理ユニット112は、左側ビデオカメラ708からの視界718および後方ビデオカメラ704からの視界714によって表される、2つの画像の部分を選択し、ユーザに表示される、ユーザによって入力される画像関連パラメータに従う、これらの2つの画像からなる単一の画像を生成する。
ユーザが見るための平らな、または湾曲した表面上に投影される、ユーザに表示される画像は、3次元(「3−D」)であっても2次元(「2−D」)であってもよい。さらに、多視野カメラシステム100の画像処理ユニット112は、ユーザによって入力される調節以外の特定の画像関連パラメータを調節するように構成されてもよい。実施例として、図7Bでは、画像処理ユニット112は、仮想カメラ720がy軸606に沿って沿って平行移動される際、自動車の周辺の同一の視野領域を維持し、歪みを最小限に抑え、表示される画像の適切な遠近感を維持するために、仮想カメラ720のピッチを自動的に変更してもよい、例えば、仮想カメラ720を下向きに回転させてもよい。
図8Aを参照すると、多視野カメラシステムのディスプレイ902が示されており、タッチスクリーンであってもよいディスプレイ902の画面上の表示画像は、縁石916に対して平行に縦列駐車操作することを試みるユーザに提示されてもよい、視野の概略スケッチである。車道912上の縁石916の隣に駐車された駐車車両908が示されている。物体904は、道路標識、交通標識、バリケード、または工事標識、消火栓、郵便ポスト、歩行者等のユーザが関心のあり得る、または懸念し得る、任意の物体を表す。
この表示を見ると、ユーザは、ズームインし、物体904のより良い視野を取得することを選択してもよい。一般的に、ズームインおよびズームアウト調節は、y軸606に沿ったダブルタッチ水平ジェスチャ632、z軸608に沿ったダブルタッチ垂直ジェスチャ630、またはz軸608に沿ったダブルタッチピンチジェスチャ636によって達成されてもよく、タッチスクリーン上にタッチダウンする際の指の間の距離は、閾値T1を超える。次いで指の間の距離が増加する場合、入力は、2本の指によるズームインジェスチャとして解釈されてもよく、そうでなければ、タッチスクリーンの上にタッチする指の間の距離が減少する場合、これは、2本の指によるズームアウトジェスチャとして解釈されてもよい。
図8Bは、ユーザが、タッチスクリーン上にタッチダウンする際の指の間の距離が閾値T1を超えており、指の間の距離が増加した、図6Dのy軸606に沿った2本の指による水平ジェスチャを使用した後の、図8Aの表示画像を示す。結果として、画像処理ユニット112は、物体904が、表示される画像上により近接して現れるように、仮想カメラ720のレンズの焦点距離を調節した、すなわち、その長さを増加させた。
図9を参照すると、本発明の実現形態の一実施例による、自動車における多視野カメラシステムを対話形式で制御するためのステップのフロー図900が示されている。判断ステップ902で、自動車の運転手は、多視野カメラシステムを対話形式で制御する、周囲視野モードまたは方向視野モードのいずれかを選択するよう求められる。多視野カメラシステムの動作モードは、例えば、タッチスクリーン上をタップし、周囲視野モードと方向視野モードとを切り替えることによって選択されてもよい。追加のモードが存在してもよく、その場合、タッチスクリーンをタップすることによってモードが連続的に選択されてもよい。さらに、多視野カメラシステムは、方向視野モードである間、例えば、シングルおよびダブルタッピングのそれぞれに応えて視野角度を増加または減少させることによって、ユーザが視野角度を選択することができるように構成されてもよい。
運転手が動作の周囲視野モードを選択する場合、判断ステップ904で、運転手は、仮想カメラを再位置付けするという選択肢を与えられる。運転手がそうしないことを選択する場合、プロセス900は、運転手に鳥瞰視野画像が表示される、ステップ906に進む。任意の他のタイプの視野を選択することができるが、実現形態の本実施例では、表示される初期設定画像は、自動車の直上位置からの360°鳥瞰視野であってもよい。判断ステップ908で、運転手は、画像のさらなる調節が必要か否かを尋ねられる。答えが「はい」である場合、プロセス900は繰り返され、そうでなければ、プロセス700は終了する。
動作の典型的な方法では、いったん多視野カメラシステムが起動されると、多視野カメラシステムは、自動車内のディスプレイ上に画像を生成することを開始してもよいことが当業者によって理解される。初期に、表示される画像は、自動車の前方および後方、ならびに左側および右側に搭載された4つのビデオカメラから生成される周囲視野であってもよく、それによって、運転手に、360°の視界の周囲画像がリアルタイムに表示される、すなわち、多視野カメラシステムは、画像源ユニットから画像を絶え間なく収集し、所望の画像を生成する。したがって、運転手は、いつでも多視野カメラシステムの動作モードを変更すること、または仮想カメラの位置を調節することを選択してもよく、この選択は、いくつかの方法によって、多視野カメラシステムに入力されてもよい。したがって、プロセス900が連続して繰り返されている間、多視野カメラシステムは、画像源ユニットから画像を絶え間なく収集し、入力画像関連パラメータによって調節される際、所望の画像を生成する。
判断ステップ902に戻り、運転手が仮想カメラを再位置付けすることを選択する場合、仮想カメラは、ステップ910で再位置付けされる。これは、例えば、2本の指によるピンチ、水平、および垂直ジェスチャのそれぞれによって、仮想カメラを、そのx軸、y軸、ならびにz軸に沿って平行移動させることによって行われてもよい。いったん所望の平行移動パラメータが多視野カメラシステムのパラメータ設定ユニットに入力されると、ステップ906で、画像処理ユニットによって平行移動パラメータを使用して生成される画像が表示される。
判断ステップ902に戻り、運転手が方向視野モードを選択する場合、次いでプロセス700は、運転手が、仮想カメラを再位置付けすること、つまり、仮想カメラを、その3つの軸のうちの1つ以上に沿って平行移動させることによって、仮想カメラの位置を調節することを望むか否かを尋ねられる、判断ステップ912に進む。運転手が仮想カメラを再位置付けすることを望む場合、これは、ステップ914で実施され、仮想カメラは、例えば、2本の指による垂直、水平、およびピンチジェスチャをパラメータ設定ユニットに入力することによって再位置付けされてもよい。
次に、判断ステップ916で、運転手は、仮想カメラを、その3つの軸のうちの1つ以上を中心に回転させることを望むか否かを尋ねられる。運転手が仮想カメラを回転させることを望む場合、これは、ステップ918で実施され、仮想カメラは、例えば、1本の指による垂直、水平、またはスピンジェスチャをパラメータ設定ユニットに入力することによって回転されてもよい。最後に、判断ステップ920で、運転手は、仮想カメラのレンズの焦点距離を変更すること、すなわち、視野をズームインまたはズームアウトすることを望むか否かを尋ねられ、これは、ステップ922で行われる。
ステップ914、918、および922で行われる動作は、任意の順序で実施されてもよく、また、各動作は、運転手が所望の表示される画像を達成するまで繰り返されてもよい。各動作の後、ステップ916、924、および934のそれぞれで、運転手に新しい画像が表示され、表示の後、判断ステップ918、926、および936で、運転手は、表示される画像を受け入れるか、または判断ステップ914、922、および932のそれぞれでの動作を繰り返すかの選択肢を有する。
判断ステップ936の「はい」判断によって示されるように、いったん運転手が画像に満足すると、プロセス900は、判断ステップ908に進み、表示される画像に対するさらなる調整が必要ない場合、プロセス900は終了し、そうでなければ、プロセス900は、判断ステップ902に戻り、プロセス900を繰り返す。
上記に言及されるジェスチャは、多視野カメラシステムの仮想カメラを対話形式で制御するシステムおよび方法の実現形態の実施例を例証するためのものであり、例えば、多視野カメラシステムの他の実現形態では、仮想カメラの軸に沿った平行移動は、1本の指による垂直、水平、およびスピンジェスチャを使用することによって実施されてもよく、同様に、異なる実現形態では、仮想カメラのその軸を中心とした回転もまた、2本の指による垂直、水平、およびピンチジェスチャを使用することによって実施されてもよいことに留意されたい。さらに、また、様々な垂直、水平、スピン、およびピンチジェスチャのそれぞれは、上記に説明される以外の軸に作用してもよい。
図9に関して記載される方法は、メモリ内のデータを移動すること、およびタイミング信号を生成すること等、信号処理中に一般的に実施される追加のステップまたはモジュールを含んでもよい。また、図9の図に描写されるステップは、より多くのステップもしくは機能を用いて、または並列で実施されてもよい。
図9に関連して記載される1つ以上のプロセス、サブプロセス、またはプロセスステップもしくはモジュールは、ハードウェアおよび/またはソフトウェアによって実施されてもよいことが当業者によって理解され、認識される。プロセスがソフトウェアによって実施される場合、ソフトウェアは、図1〜図9に概略的に描写される、もしくは識別される機能構成要素またはモジュールのうちの1つ以上等の好適な電子処理構成要素あるいはシステム内のソフトウェアメモリ(図示せず)内に存在してもよい。ソフトウェアメモリ内のソフトウェアは、論理機能(つまり、デジタル回路等のデジタル形態またはソースコードのいずれかで実現されてもよい「論理」)を実現するための実行可能な命令の順序付けされたリストを含んでもよく、コンピュータベースのシステム、プロセッサ含有システム、または命令実行システム、装置、もしくはデバイスから命令を選択的にフェッチし、命令を実行し得る他のシステム等の命令実行システム、装置、またはデバイスが使用するため、あるいはそれらに関連して使用するために、任意のコンピュータ可読媒体に選択的に具現化されてもよい。本開示の文脈では、「コンピュータ可読媒体」は、命令実行システム、装置、もしくはデバイスが使用するため、またはそれらに関連して使用するためのプログラムを含有、記憶、あるいは通信し得る、任意の有形手段である。コンピュータ可読媒体は、選択的に、例えば、電子、磁気、光学、電磁気、赤外線、もしくは半導体システム、装置、あるいは電子、磁気、光学、電磁気、赤外線、もしくは半導体システム、装置、またはデバイスであってもよいが、これらに限定されない。コンピュータ可読媒体のより具体的な例ではあるが、非包括的なリストには、以下の、可搬型コンピュータディスケット(磁気)、ランダムアクセスメモリ(「RAM」)(電子)、読み取り専用メモリ(「ROM」)(電子)、消去可能プログラマブル読み取り専用メモリ(「EPROM」またはフラッシュメモリ)(電子)、および可搬型コンパクトディスク読み取り専用メモリ(「CDROM」)(光学)が挙げられる。コンピュータ可読媒体は、さらには、上にプログラムが印刷され、それからキャプチャされ、次いでコンパイルされる、解釈される、ないしは別の方法で好適に処理され、必要に応じて、次いでコンピュータメモリに記憶される、紙または別の好適な媒体でさえあってもよいことに留意する。
実現形態の前述の説明は、例証および説明のために提示されてきた。これは、包括的ではなく、また、主張される発明を開示される厳密な形態に限定しない。修正および変形は、上記の説明を考慮すると可能である、または本発明の実施例を実践することによって獲得され得る。特許請求の範囲およびそれらの均等物は、本発明の範囲を定義する。

Claims (15)

  1. 自動車用の多視野カメラシステムであって、
    前記多視野カメラシステムは、
    1つ以上の画像源ユニットと、
    前記1つ以上の画像源ユニットのそれぞれから複数の画像を受信するように構成される、前記1つ以上の画像源ユニットのそれぞれと信号通信している画像処理ユニットと、
    前記多視野カメラシステムのユーザによって入力される画像関連パラメータを前記画像処理ユニットに送信するように構成される、前記画像処理ユニットと信号通信しているパラメータ設定ユニットであって、前記画像関連パラメータは、前記画像処理ユニットによって、前記ユーザに対する表示のための画像を生成するために利用される、パラメータ設定ユニットと、
    前記画像処理ユニットによって生成される前記表示画像を前記ユーザに表示するように構成される、前記画像処理ユニットと信号通信しているディスプレイと
    を備え
    前記画像関連パラメータは、前記多視野カメラシステムの仮想カメラを前記自動車に対して位置付けるために使用され、前記仮想カメラの位置は、前記自動車の重心に原点を有する3つの軸を備える3次元世界座標系によって定義され、
    前記仮想カメラは、前記ユーザによって入力されるシングルタッチおよびマルチタッチジェスチャのうちの1つによってその3つの軸のそれぞれに沿って平行移動させられるか、または、前記ユーザによって入力されるシングルタッチジェスチャによってその3つの軸のそれぞれを中心に回転させられる、多視野カメラシステム。
  2. 前記1つ以上の画像源ユニットは、一方が前記自動車の前方に位置し、他方が前記自動車の後方に位置する、2つのビデオカメラを含む、請求項1に記載の多視野カメラシステム。
  3. 前記1つ以上の画像源ユニットは、一方が前記自動車の運転席側に位置し、他方が前記自動車の助手席側に位置する、2つの追加のビデオカメラをさらに含む、請求項2に記載の多視野カメラシステム。
  4. 前記仮想カメラの焦点距離は、前記ユーザによって入力されるダブルタッチズームインおよびズームアウトジェスチャよって変更される、請求項に記載の多視野カメラシステム。
  5. 前記マルチタッチジェスチャのタイプは、少なくとも、タッチスクリーン上を動く少なくとも1本の指の水平移動の第1の大きさ対垂直移動の第2の大きさの比率によって判定される、請求項1に記載の多視野カメラシステム。
  6. 前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が第1の所定の閾値と比較され、前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が前記第1の所定の閾値未満である場合に、前記マルチタッチジェスチャが複数の指による垂直ジェスチャであると判定される、請求項5に記載の多視野カメラシステム。
  7. 前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が第2の所定の閾値と比較され、前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が前記第2の所定の閾値よりも大きい場合に、前記マルチタッチジェスチャが複数の指による水平ジェスチャであると判定される、請求項6に記載の多視野カメラシステム。
  8. 自動車における多視野カメラシステムを対話形式で制御する方法であって、
    前記方法は、
    前記自動車の複数の画像源ユニットから1つ以上の画像を収集することと、
    前記自動車のユーザにより、グラフィカルユーザインターフェースを通して、前記多視野カメラシステムに画像関連パラメータを入力することと、
    前記画像関連パラメータに応えて、前記ユーザに対する表示のための画像を生成することと、
    前記ユーザに対する表示のための前記画像を、前記自動車内のディスプレイ上に表示することと
    を含み、
    前記表示のための前記画像を生成することは、前記画像関連パラメータに応えて前記多視野カメラシステムの仮想カメラを前記自動車に対して位置付けることを含み、
    前記仮想カメラは、前記自動車の重心に原点を有する3つの軸を備える3次元世界座標系によって前記自動車に対して定義され、
    前記仮想カメラを位置付けるステップは、前記ユーザによって入力されるシングルタッチジェスチャおよびマルチタッチジェスチャのうちの1つに応じてその3つの軸のそれぞれに沿って前記仮想カメラを平行移動させること、または、前記ユーザによって入力されるシングルタッチジェスチャによってその3つの軸のそれぞれを中心に前記仮想カメラを回転させることを含む、方法。
  9. 前記画像源ユニットは、ビデオカメラであり、前記収集するステップは、前記ビデオカメラから1つ以上の画像を収集することを含む、請求項に記載の方法。
  10. 前記グラフィカルユーザインターフェースは、タッチスクリーンを含む、請求項に記載の方法。
  11. 前記画像関連パラメータを入力するステップは、前記ユーザによって前記タッチスクリーン上で行われるジェスチャを解釈することを含む、請求項10に記載の方法。
  12. 前記表示のための画像を生成するステップは、
    前記画像関連パラメータに応えて、前記多視野カメラシステムの仮想カメラを前記自動車に対して位置付けることと、
    前記仮想カメラの前記位置に基づき、前記画像源ユニットから収集される前記画像のすべてまたは部分を選択することと、
    前記選択された画像から、前記ユーザに対する表示のための3次元(「3D」)画像を生成することと
    を含む、請求項に記載の方法。
  13. 前記マルチタッチジェスチャのタイプは、少なくとも、タッチスクリーン上を動く少なくとも1本の指の水平移動の第1の大きさ対垂直移動の第2の大きさの比率によって判定される、請求項8に記載の方法。
  14. 前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が第1の所定の閾値と比較され、前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が前記第1の所定の閾値未満である場合に、前記マルチタッチジェスチャが複数の指による垂直ジェスチャであると判定される、請求項13に記載の方法。
  15. 前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が第2の所定の閾値と比較され、前記水平移動の前記第1の大きさ対前記垂直移動の前記第2の大きさの前記比率が前記第2の所定の閾値よりも大きい場合に、前記マルチタッチジェスチャが複数の指による水平ジェスチャであると判定される、請求項14に記載の方法。
JP2013096881A 2012-05-03 2013-05-02 仮想カメラを対話形式で制御するシステムおよび方法 Expired - Fee Related JP6275396B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/462,826 2012-05-03
US13/462,826 US20130293683A1 (en) 2012-05-03 2012-05-03 System and method of interactively controlling a virtual camera

Publications (2)

Publication Number Publication Date
JP2013236374A JP2013236374A (ja) 2013-11-21
JP6275396B2 true JP6275396B2 (ja) 2018-02-07

Family

ID=48576714

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013096881A Expired - Fee Related JP6275396B2 (ja) 2012-05-03 2013-05-02 仮想カメラを対話形式で制御するシステムおよび方法

Country Status (3)

Country Link
US (1) US20130293683A1 (ja)
EP (1) EP2661073A3 (ja)
JP (1) JP6275396B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7399803B2 (ja) 2020-07-01 2023-12-18 株式会社東芝 アルカリ金属の安定化方法及び安定化装置

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130143381A (ko) * 2012-06-21 2013-12-31 삼성전자주식회사 디지털 촬영 장치 및 그의 제어 방법
KR102089469B1 (ko) * 2013-09-05 2020-03-16 현대모비스 주식회사 Avn 시스템의 원격 제어 장치 및 방법
US10152136B2 (en) 2013-10-16 2018-12-11 Leap Motion, Inc. Velocity field interaction for free space gesture interface and control
US9740296B2 (en) 2013-12-16 2017-08-22 Leap Motion, Inc. User-defined virtual interaction space and manipulation of virtual cameras in the interaction space
US9696795B2 (en) 2015-02-13 2017-07-04 Leap Motion, Inc. Systems and methods of creating a realistic grab experience in virtual reality/augmented reality environments
US10429923B1 (en) 2015-02-13 2019-10-01 Ultrahaptics IP Two Limited Interaction engine for creating a realistic experience in virtual reality/augmented reality environments
DE102015202863A1 (de) * 2015-02-17 2016-08-18 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zum verzerrungsfreien Anzeigen einer Fahrzeugumgebung eines Fahrzeuges
US9679413B2 (en) 2015-08-13 2017-06-13 Google Inc. Systems and methods to transition between viewpoints in a three-dimensional environment
WO2017061230A1 (ja) * 2015-10-08 2017-04-13 日産自動車株式会社 表示支援装置及び表示支援方法
US11010615B2 (en) * 2016-11-14 2021-05-18 Lyft, Inc. Rendering a situational-awareness view in an autonomous-vehicle environment
JP6941472B2 (ja) * 2017-04-26 2021-09-29 株式会社デンソーテン 映像再生装置、映像再生システム、及び映像再生方法
KR102351542B1 (ko) 2017-06-23 2022-01-17 삼성전자주식회사 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
KR101979277B1 (ko) * 2017-07-25 2019-05-16 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량
JP7147255B2 (ja) 2018-05-11 2022-10-05 トヨタ自動車株式会社 画像表示装置
JP7102938B2 (ja) * 2018-05-24 2022-07-20 トヨタ自動車株式会社 車両用周辺表示装置
US11875012B2 (en) 2018-05-25 2024-01-16 Ultrahaptics IP Two Limited Throwable interface for augmented reality and virtual reality environments
JP7073991B2 (ja) 2018-09-05 2022-05-24 トヨタ自動車株式会社 車両用周辺表示装置
JP7323326B2 (ja) * 2019-04-22 2023-08-08 フォルシアクラリオン・エレクトロニクス株式会社 駐車支援装置、及び駐車支援装置の制御方法
US11237641B2 (en) * 2020-03-27 2022-02-01 Lenovo (Singapore) Pte. Ltd. Palm based object position adjustment
JP2023011263A (ja) * 2021-07-12 2023-01-24 トヨタ自動車株式会社 仮想現実シミュレータ及び仮想現実シミュレーションプログラム
JP2023082953A (ja) * 2021-12-03 2023-06-15 本田技研工業株式会社 制御装置、制御方法、及び制御プログラム
US12118673B2 (en) * 2022-07-13 2024-10-15 Orqa Holding LTD Method and system for displaying a virtual scene

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6553130B1 (en) * 1993-08-11 2003-04-22 Jerome H. Lemelson Motor vehicle warning and control system and method
EP2259220A3 (en) * 1998-07-31 2012-09-26 Panasonic Corporation Method and apparatus for displaying image
US7075513B2 (en) * 2001-09-04 2006-07-11 Nokia Corporation Zooming and panning content on a display screen
JP2004005272A (ja) * 2002-05-31 2004-01-08 Cad Center:Kk 仮想空間移動制御装置及び制御方法並びに制御プログラム
US7362313B2 (en) * 2003-01-17 2008-04-22 3M Innovative Properties Company Touch simulation system and method
EP1771811A4 (en) * 2004-07-26 2010-06-09 Silicon Optix Inc PANORAMIC VISION SYSTEM AND METHOD
JP4956915B2 (ja) * 2005-05-20 2012-06-20 日産自動車株式会社 映像表示装置及び映像表示方法
JP4707109B2 (ja) * 2006-03-02 2011-06-22 アルパイン株式会社 複数カメラ撮影画像処理方法及び装置
JP4888831B2 (ja) * 2006-12-11 2012-02-29 株式会社デンソー 車両周辺監視装置
DE102007044535B4 (de) * 2007-09-18 2022-07-14 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Fahrerinformation in einem Kraftfahrzeug
AU2009236690B2 (en) * 2008-04-14 2014-10-23 Google Inc. Swoop navigation
JPWO2010007960A1 (ja) * 2008-07-14 2012-01-05 クラリオン株式会社 車載用カメラの視点変換映像システム及び視点変換映像取得方法
US7870496B1 (en) * 2009-01-29 2011-01-11 Jahanzeb Ahmed Sherwani System using touchscreen user interface of a mobile device to remotely control a host computer
JP5168186B2 (ja) * 2009-02-24 2013-03-21 日産自動車株式会社 画像処理装置
US8340654B2 (en) * 2009-05-26 2012-12-25 Lextech Labs Llc Apparatus and method for video display and control for portable device
JP5872764B2 (ja) * 2010-12-06 2016-03-01 富士通テン株式会社 画像表示システム
US8581961B2 (en) * 2011-03-31 2013-11-12 Vangogh Imaging, Inc. Stereoscopic panoramic video capture system using surface identification and distance registration technique
US9204094B2 (en) * 2011-06-28 2015-12-01 Lifesize Communications, Inc. Adjusting volume of a videoconference using touch-based gestures
US8769438B2 (en) * 2011-12-21 2014-07-01 Ancestry.Com Operations Inc. Methods and system for displaying pedigree charts on a touch device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7399803B2 (ja) 2020-07-01 2023-12-18 株式会社東芝 アルカリ金属の安定化方法及び安定化装置

Also Published As

Publication number Publication date
JP2013236374A (ja) 2013-11-21
EP2661073A2 (en) 2013-11-06
EP2661073A3 (en) 2013-12-25
US20130293683A1 (en) 2013-11-07

Similar Documents

Publication Publication Date Title
JP6275396B2 (ja) 仮想カメラを対話形式で制御するシステムおよび方法
US11503251B2 (en) Vehicular vision system with split display
JP5860835B2 (ja) タッチパネルを用いて車両画像表示の制御を行う方法およびその車両画像システム
JP5813944B2 (ja) 画像表示システム、画像処理装置及び画像表示方法
JP5858650B2 (ja) 画像生成装置、画像表示システム、及び、画像生成方法
US20140136054A1 (en) Vehicular image system and display control method for vehicular image
JP6244822B2 (ja) 車載用表示システム
JP6730613B2 (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP2009239674A (ja) 車両周辺表示装置
JPWO2013046593A1 (ja) 俯瞰画像生成装置、俯瞰画像生成方法、および俯瞰画像生成プログラム
WO2018159019A1 (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP2016141246A (ja) ミラー制御装置及びミラー制御システム
JP4849333B2 (ja) 車両用視覚補助装置
KR20180020274A (ko) 패널 변환
JP2007237785A (ja) 車載用情報提示システム
JP6258000B2 (ja) 画像表示システム、画像表示方法及びプログラム
JP2016042704A (ja) 画像表示システム、画像処理装置及び画像表示方法
JP5273068B2 (ja) 車両周辺監視装置
KR20110134025A (ko) 목표 주차 공간 설정을 위한 hmi를 개선한 주차 보조 시스템 및 방법
US11068054B2 (en) Vehicle and control method thereof
KR20170011817A (ko) 영상 처리 장치 및 그 동작 방법
JP2019202584A (ja) 画像処理装置および画像処理方法
JP2018103866A (ja) 車両用視認装置
JP6760129B2 (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP2020053916A (ja) 表示制御装置、車両、表示制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160502

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180110

R150 Certificate of patent or registration of utility model

Ref document number: 6275396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees