JP6906055B2 - アイトラッキングを備えたリアビジョンシステム - Google Patents

アイトラッキングを備えたリアビジョンシステム Download PDF

Info

Publication number
JP6906055B2
JP6906055B2 JP2019535238A JP2019535238A JP6906055B2 JP 6906055 B2 JP6906055 B2 JP 6906055B2 JP 2019535238 A JP2019535238 A JP 2019535238A JP 2019535238 A JP2019535238 A JP 2019535238A JP 6906055 B2 JP6906055 B2 JP 6906055B2
Authority
JP
Japan
Prior art keywords
image
vehicle
vision system
rear vision
view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019535238A
Other languages
English (en)
Other versions
JP2020515449A (ja
Inventor
デニス ディー ジュニア フェスターリング
デニス ディー ジュニア フェスターリング
ブロック アール ライセンガ
ブロック アール ライセンガ
Original Assignee
ジェンテックス コーポレイション
ジェンテックス コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ジェンテックス コーポレイション, ジェンテックス コーポレイション filed Critical ジェンテックス コーポレイション
Publication of JP2020515449A publication Critical patent/JP2020515449A/ja
Application granted granted Critical
Publication of JP6906055B2 publication Critical patent/JP6906055B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/02Rear-view mirror arrangements
    • B60R1/04Rear-view mirror arrangements mounted inside vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0229Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes
    • B60R11/0235Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for displays, e.g. cathodic tubes of flat type, e.g. LCD
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1223Mirror assemblies combined with other articles, e.g. clocks with sensors or transducers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/12Mirror assemblies combined with other articles, e.g. clocks
    • B60R2001/1253Mirror assemblies combined with other articles, e.g. clocks with cameras, video cameras or video screens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/101Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using cameras with adjustable capturing direction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/103Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using camera systems provided with artificial illumination device, e.g. IR light source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本開示は概して、全画面表示ミラーシステムに関し、より具体的には、検出された運転手の目の位置に基づいて表示する画像部分を選択するための制御スキームに関する。
本開示の一態様によれば、車両用リアビジョンシステムは、車両に取り付けられ、車両の後方の第1領域の視野を捕捉するカメラと、その上に表示基体を含むバックミラーと、車両の内部に向かって配向され対象の画像データを捕捉するように構成される画像センサと、を備える。当該システムは、更にコントローラを備え、当該コントローラは、前記カメラと通信し、前記視野に対応する前記第1領域の第1ビデオ画像を受信し、前記画像センサと通信し、前記画像データ内の前記対象の位置を判定する。当該コントローラは、前記表示基体と更に通信し、前記表示基体上に前記第1領域のサブエリアを呈示する。前記サブエリアは、前記対象の前記判定された位置に基づいて、前記基体によって前記視野から前記対象へと反射される画像をシミュレートするように選択される。
別の態様によれば、車両用リアビジョンシステムは、車両に取り付けられ、車両の後方の第1領域の視野を捕捉するカメラと、車両の内部に取り付けられる表示基体と、車両の内部に向かって配向され対象の画像データを捕捉するように構成される画像センサと、を備える。当該システムは、更にプロセッサを備え、当該プロセッサは、前記カメラと通信し、前記視野の第1ビデオ画像を受信し、前記画像センサと通信し、前記画像データ内の前記対象を見つけ、前記基体からの理論上の視距離に沿って、予め定められた二次元座標系に対する前記対象の位置を判定する。当該コントローラは、前記表示基体と更に通信し、前記表示基体上に前記第1領域のサブエリアを呈示する。前記サブエリアは、理論上の視距離とバックミラーから前記車両の後部に対する理論上の画像面までの予め定められた推定画像距離との間のスケールに基づいて、前記対象の前記位置を前記第1領域に割り当てられた二次元座標系と相関させるように選択される。
更に別の態様によれば、車両は、当該車両に取り付けられ、当該車両の後方の第1領域の視野を捕捉するカメラと、当該車両の内部に位置決めされたバックミラーと、を備える。当該バックミラーは、前記車両の内部に位置決めされた表示基体と、前記車両の内部に向かって配向され対象の画像データを捕捉するように位置決めされた画像センサと、を含む。当該車両は、更にコントローラを備え、当該コントローラは、前記カメラと通信し、前記視野の第1ビデオ画像を受信し、前記画像センサと通信し、前記画像データ内の前記対象を見つけ、前記基体からの理論上の視距離に沿って、予め定められた二次元座標系に対する前記対象の位置を判定する。当該コントローラは、前記表示基体と更に通信し、前記表示基体上に前記第1領域のサブエリアを呈示する。前記サブエリアは、理論上の視距離とバックミラーから前記車両の後部に対する理論上の画像面までの予め定められた推定画像距離との間のスケールに基づいて、前記対象の前記位置を前記第1領域に割り当てられた二次元座標系と相関させるように選択される。
本発明装置の、これら及び他の特徴、利点、及び目的は、以下の明細書、特許請求の範囲、及び添付図面を参照して、当業者によって更に理解及び認識されることになる。
図1は、アイトラッキング装置を備える表示ミラーシステムアセンブリの例示的な図である。
図2は、車両の運転手の目の様々な位置に対応する様々なミラーフィールドの概略図である。
図3は、後部車両カメラの視野に投影された画像面とミラーフィールドを相関させた概略図である。
図4は、カメラ視野の部分と検出された車両の運転手の目の位置との間の相関関係の概略図である。 図5は、カメラ視野の部分と検出された車両の運転手の目の位置との間の相関関係の概略図である。
図6は、アイトラッキング装置を備えるミラーアセンブリの例示的な図である。
図7は、図6のミラーアセンブリの概略図である。
図8は、本開示にしたがってミラーアセンブリ内に配置されたアイトラッキング装置を内蔵したリアビジョンシステムのブロック図である。
本明細書における記述の目的のために、用語「上部の」、「下部の」、「右の」、「左の」、「後方の」、「前方の」、「垂直の」、「水平の」、及びそれらについての派生語は、図1において方向付けられた装置に関するものとする。しかしながら、それとは逆に明確に特定されたもの以外は、本装置は様々な代わりの配向及び工程順序をとり得る、と理解されるべきである。添付図面に図示され、かつ以下の明細書に記述された特定のデバイス及びプロセスは、添付された特許請求の範囲において定義された発明概念の単なる例示的な実施形態であることも理解されるべきである。したがって、本明細書に開示された実施形態に関する特定の寸法及び他の物理的特性は、特許請求の範囲が明示的に別段に述べない限り、限定するものと見なされるべきではない。
ここで図1を参照すると、参照符号10は、車両12(図2)のリアビジョンシステムを示す。システム10は、車両12の後方(例えば、後方18)の視野16(図4)を捕捉するカメラ14と、その上に表示基体22を含むバックミラー20と、を含む。システム10は、車両12の内部26に向かって配向され、対象の画像データを捕捉するように構成された画像センサ24(図6)を、更に含む。当該対象とは、例えば車両12の運転手の目34または頭部36を含み得る(目34及び頭部36の両方とも、目34a、34b、など、及び頭部36a、36b、など、として、その様々な特定位置について概して示されている)。制御ユニット28は、視野16の第1画像30(画像30a、30b、など、として、その様々な特定領域について概して示されている)を受信するためにカメラ14と通信する。当該制御ユニット28は、画像データ内の前記対象(例えば、運転手の目34または頭部36)の位置を判定するために画像センサ24と更に結合され、また、視野16の領域よりも狭いサブエリアについてのビデオ画像30の一部32(部分32a、32b、など、として、様々な特定部分について概して示されている)をその上に呈示するために表示基体22と通信する。サブエリアは、対象の判定された位置に基づいて、表示基体22によって視野16から対象へと反射される画像をシミュレートするように選択される。
本明細書に記載されるように、制御ユニット28は、本明細書に開示されるスキームに従って、表示装置22上の呈示のためにカメラ14から画像30を受信し、対象(例えば、運転手の頭部36または目34など)の位置を検出し、及び、表示装置22上に対象の位置に対応する画像30の一部32を呈示することができる、車両12内の、または車両12と関連付けられた、複数の接続された構成要素または構造を含む任意の適切な構成要素または構造であり得る。例示として、制御ユニット28は、車両12に搭載されたコンピュータシステム内の特定の機能であってもよく、またはそれを含んでもよい。更に、制御ユニット28は、センサ24及びカメラ14とそれぞれ接続され、更に少なくとも相互に通信する、専用コンピュータチップ(例えば、特定用途向け集積回路(ASIC))を含み得る。
図2を参照すると、車両12の運転手の頭部36が「標準」バックミラー40に対して様々な位置36a及び36bで表示された概略図が示されている。本明細書で論じるように、このような標準バックミラー40は、運転手が車両12の後部ガラス42外の方向18の車両12の後部の反射画像を見るために使用する反射バックミラーとして、考えられ得る。図示したように、運転手の視野は車両12の後部に向かって限定的であり、運転手のそれぞれの目34から標準ミラー40の反射面の対応する端縁への入射ライン及び対応する反射ラインによって決定されるミラーフィールド44に対応し、当該反射ラインは、一般的な光学原理によれば、反射面に垂直な面について入射ラインと同じ角度である。このように、特定のミラーフィールド44と、標準ミラー40を通して見える車両12の後部に対する領域の付随する部分とは、標準ミラー40自体の特定の角度を変更することによって、あるいは、運転手がその頭部36を動かしてそれによって目34から標準ミラー40への入射ラインの角度を変化させることによって、調節され得る。
このタイプの配置では、運転手は、運転手の頭部36が快適で中立的な着席位置にあるときに標準ミラー40を使用して利用可能にしたい視野に対応するように当該標準ミラー40を位置付けることが、一般的である。運転中、運転手は、このニュートラルなミラーフィールド44の外側の対象などを見たい場合があり、従って、図1の位置36aから位置36bへのようにその頭部36を動かし得て、ミラーフィールド44aからミラーフィールド44bへのように調節されたミラーフィールド44によって直感的に異なる視野を得る。それは、水平方向と鉛直方向との両方に移動されるものとして図示されている。このようにして、標準ミラー40を使用して車両12の後部について見ることができる部分は、前述のニュートラルな位置にあるときに運転手が有するベースラインの視界を変更することなく、変更され得る。
前述のシステム10では、標準バックミラー40が前述の「表示」ミラー20に置き換わるかまたはさもなければそれに伴っていて、制御ユニット28は、前述の通り、運転手の位置及び車両12の後部に対する視野の一般的推定に基づく理論上の反射で見られるべきであろうものと一致する予め定められたスケールに画像を維持しながら、表示装置22上に呈示される画像の調節を複製して、図示の標準ミラー40に対して運転手が頭部36を動かすときに運転手が期待する調節に対応させるように、構成され得る。図3に示すように、システム10を含む車両12は、車両12の後部に位置するカメラ14を含むことができる。図示の例では、カメラ14は、その中に含まれる後部ガラス42の下方の車両12のリフトゲート上に位置する。代替的な配置では、カメラ14は、車両12の内部に配置されてもよく、例えば、車両12のヘッドライナーに沿って、カメラ14が後部ガラス42に隣接し、かつそれから外向きに配向されるように、配置されてもよい。さらなる配置が可能であり、図3の描写に概略的に類似し得る。図示したように、カメラ14は、その視野16が標準反射面である場合の表示装置22に対応する一般的サイズのミラーフィールド44の視野よりも大きいというように、構成され得る。図示したように、視野16は、例えば、少なくとも120度などの角度を含む、90度以上の角度であってもよい。したがって、図1に示すように、制御ユニット28は、カメラ14によって撮影された画像30をクロップ(crop)し得て、その結果、表示装置22上に示される画像30の一部32が概して反射画像がどのように見えるかを模倣する。これは、投影された画像のサイズと画像30の一部32の視野角との両方を含む。
図3に示すように、理論上の画像面46が、図示された視野16を有するカメラ14によって撮影される全体的な画像30を表すために示されている。更に示されるように、車両12の運転手は、表示装置22上の画像部分32を見るとき、標準ミラー40での先行経験に基づいて、運転手の頭部36が動くときに画像部分32が変更されることを期待し得る。このようにして、システム10は、運転手の頭部36、または具体的には、ミラー20に対する運転手の目34、の位置を追跡することによって、運転手の期待に応えることができ、表示装置22上に示される部分32について画像30をパンする(pan)ことができる。この融通は、図3に概略的に図示されており、画像面46の一部32a及び32bは、例えば画像30に適用され得る類似した座標系と相関する二次元座標系に対する目34a及び34bの判定された位置のマッピングによって、あるいは、目34a及び34bの位置間の距離に基づく画像の動きのための予め定められたスケール因子を用いて為され得る、図2に図示される標準ミラー40の同じ光学原理に基づく、頭部36の位置36a、36bを検出することにより為される目の位置の一般的推定によって、表示装置22に対する目34a及び34bの位置によって判定される頭部36a、36bの例示的位置に対応する。
図4及び図5に示すように、表示装置22上に示される当該一部32に対する画像30の動きは、ミラー20の位置決めとは独立していてもよい。代わりに、当該一部32は、例えば、製造時に予め定められメモリ70(図8)内に保存され得るベースライン画像に基づき得る。このように、例えば、システム10の起動時における、目34の位置34a、34bまたは頭部36の位置36a、36bは、例えば、視野16内のすぐ後方18の視界に対応する画像30のベースライン部分32aについて確立され、及びそれと相関され得る。図1に示す例では、例えば、運転手が必要または要望に応じてベースライン画像を調節することができるように、入力54が提供され得る。さらなる例では、このようなベースライン画像は、ミラー20のニュートラル(すなわち、車両12の長手方向軸と整列する)位置での平均的な運転手の特定の推定視野16に対応し得る。こうした実施形態では、システム10がミラー20自体の動きを追跡することができ、制御ユニット28にそのような動き(またはその絶対的位置)を通信することができる。当該制御ユニット28は、反射ミラーの動きを模倣するように定められた様式で、そのような動きに基づいて画像30の表示部分32を調節することができる。こうした追跡は、センサ24(ミラー20内に含まれる時)を使用してまたはその動きを容易にするミラー20の取付構造中に埋め込まれる磁気センサまたは機械センサを使用して見つけることのできるマーカーを車両12の内部26に配置することによって、行うことができる。マーカーが車両12の内部26に位置する実施形態において、制御ユニット28は、画像センサ24に対する当該マーカーの追跡と組み合わせて頭部36または目34の追跡を使用して、所望の画像部分32を直接判定(決定)することができる。
システム10は、頭部36または目34の位置を継続して追跡し、その動きに従って、表示部分32について画像30をパンして、前述のように、光学原理に基づいて予期される動きに対応させることができる。図示されるように、こうした動きは、水平方向と鉛直方向の両方であり得て、概して目34の動きと反対であり得る。この動きは、事前に較正可能であり得て、及び/または、運転手によって調節可能であり得る。一定の使用モードでは、図5に示す鉛直方向の追跡は、少なくとも部分的に表示装置22上に表示される画像30の一部32の短いアスペクト比のために(表示装置22が典型的にその高さよりも幅広であるため)、静止表示に対する利点を提供し得る。例えば、本明細書に開示される追跡機能により、運転手が車両12内でその座席を上昇させることなどによって、その頭部36を動かしたり傾けたりすることが可能である。このような実施例では、画像30の一部32は、運転手が例えば車両12のすぐ後方の領域(後部バンパーに隣接する領域など)を見ることができるように下方にパンする。このような位置は、車両の種類に依存してトランク領域または後部デッキによってブロックされるので、標準的な反射バックミラー40を使用すると見えないことに留意すべきである。こうした観点を更に達成するために、例えば、車両12の後部バンパー内またはライセンスプレートに隣接するように、第2カメラを含めることができる。こうしたカメラは、歪みを除去するためにカメラ14が車両12のヘッドライナーに隣接している時、特に有用であり得る。こうした複数カメラの配置では、制御ユニット28は、画像ステッチ機能、アルゴリズム、などを採用し得て、それぞれのカメラ画像間の滑らかな移行を提供し、前述の方法でパンするための単一の画像30を効果的に呈示することができる。いずれの例でも、運転手の頭部36または目34が元の位置に戻るとき、制御ユニット28は、画像30の一部32をニュートラルな視覚位置に対応する部分に戻すようにパンする。
図1に示す実施形態では、センサ24はミラー20に含まれ得る。こうした配置では、目34の位置は、ミラー20の配向に応じて変化し得る。さまざまな実施形態で、ミラー20は、例えば表示装置22が作動していないときに、当該ミラー20が標準ミラー40として使用され得るように、表示装置22上に重なる反射性の部分的に透明な面を有してもよい。この態様では、ユーザは、表示装置22の起動前に所望のベースライン表示を提供するためにミラー20を調節し得て、これにより、センサ24によって検出された目34の位置同様、予め定められたベースライン画像が、表示装置22上に呈示された画像30の予め選択された部分32またはその以前に調節された変形と緊密に対応し得る。さらなる例では、表示装置22の起動は、表示装置22の上向きの傾斜に対応し得て、実際の反射画像の競合を減少させることができる。制御ユニット28は、表示装置22上に呈示される画像30の一部32の選択におけるこうした調節を補い得る。
ある変形において、センサ24は、ミラー20などに隣接する頭上のコンソール内など、車両12内の他の場所に位置してもよい。こうした実施形態では、検出された目34の位置に基づいて選択される画像30の一部32が、ミラー位置から独立していてもよい。したがって、システム10はまた、画像30の一部32を表示装置22の検出位置に相関させるために、ミラー20の位置、特にその表示装置22の位置、を判定するように構成され得る。一例では、この追跡は、前述の通り、様々な機械または磁気センサを使用して行うことができる。このようにして、前述の通り、運転手は、表示装置22上に提示される画像30のベースライン部分32を変更するために、ミラー20を物理的に動かすことができ、それによって入力54の必要性を排除することができる。さらなる変形も可能であり、ミラー20はその中にセンサ24を含んでもよく、また表示装置22の位置の監視を組み込むことで類似の調節及び応答性を提供することもできる。
追跡機能は、センサ24によって見える領域の赤外線照射を利用し得る。一実施例では、制御ユニット28は、様々な基準に基づき、運転手の頭部36として合理的に識別され得る(すなわち、一般的なサイズ及び位置基準に基づいて)「ブロブ(blob)」を識別できる。前述のように、目34の位置は、ブロブ検出に基づいて判定される0頭部36の位置に基づいて推定され得る。ここでも、眼34の位置は、識別された頭部36に対する平均的な目34の位置に基づき得て、検出されたブロブのサイズに対してスケールが設定され得る。代替的に、運転手の目34の虹彩が、頭部36の識別について前述されたブロブ検出に類似した特定の反射パターン及び/または位置原理に基づいて識別され得る。こうした照明は、近赤外(NIR)領域で高光透過率が可能な状況において最適化され得る。実施形態によって、本開示は、例えば、例えばその少なくとも一部に沿って光学スペクトルで810nm〜850nmの波長範囲のなどのNIR領域で高光透過率を有し得る表示装置22を備えるパネルを提供することができる。更に、いくつかの実施形態では、ミラー20は、車両の運転手の少なくとも一つの虹彩を照らすように構成された複数の光源58を含んでもよい。
図6に示すように、追跡機能を提供するために、センサ24は、表示装置22の後(内)面に近接して配置され得る。画像センサ24は、例えば、デジタル電荷結合素子(CCD)または相補型金属酸化物半導体(CMOS)アクティブ画素センサに相当し得るが、これらの例示的装置に限定することは意図されていない。図示の例において、センサ24は、NIR領域の光の放出を出力するように構成された1または複数の赤外線エミッタに対応することができる少なくとも一つの光源58と通信してもよい。この構成では、制御ユニット28またはセンサ24は、少なくとも一つの光源58に対応する1または複数の赤外線エミッタを選択的に作動させるように構成され得て、頭部36または目34の瞬間的場所が判定され得る及び/または監視され得るように、照明を提供し得る。代替的に、センサ24は、照明を必要としないという点で「受動的」センサであってもよい。一実施例では、センサ24は、運転手の頭部36を追跡するために使用できる熱センサとすることができる。こうした実施形態では、前述の光源58は、システム10に含まれない場合がある。
存在する場合、赤外線エミッタまたは光源58は、複数の赤外線エミッタバンク60に対応することができる。赤外線エミッタバンク60、62の各々は、複数の発光ダイオードを含んでもよく、それらはマトリクス状にグループ化されていてもよいし、あるいは、他の態様で表示装置22の背面の後方にグループ化されて配置されてもよい。一実施形態では、複数の光源58は、第1エミッタバンク60及び第2エミッタバンク62に対応することができる。第1エミッタバンク60は、表示装置22の前(外)面の第1側部分からNIR領域の放射を出力するように構成され得る。第2エミッタバンク62は、表示装置22の前面の第2側部分からNIR領域の放射を出力するように構成され得る。この構成では、システム10は、センサ24が当該センサ24から受信した画像データ内から運転手の目34を識別できるように、運転手の目34を照射するように構成され得る。
一実施形態では、第1エミッタバンク60及び/または第2エミッタバンク62のそれぞれは、より多くのまたはより少ないLEDまたはLEDのバンクに対応してもよい。少なくとも部分的にエミッタバンク60、62上に重なるNIR領域で高レベルの透過率を有する表示装置22の変形を含む一部の実施形態では、システム10はより少ないまたはより低い強度のLEDを利用し得る。NIR領域内でより低レベルの透過率を有する表示装置22の変形を含む一部の実施形態では、システム10は、より数の多いまたはより強い強度のLEDを利用し得る。
センサ24は、回路56上、例えば制御ユニット28と通信するプリント回路基板上、に配置され得る。制御ユニット28は更に、通信バス66または任意の他の適切な通信インターフェースを介して、車両12に組み込まれ得る様々な装置と通信してもよい。制御ユニット28は、センサ24から受信した画像データを処理するように構成され得る、1または複数のプロセッサまたは回路に対応することができる。この構成では、画像データは、センサ24から制御ユニット28に通信され得る。制御ユニット28は、画像データ内の運転手の目34を識別またはさもなければ特定するように構成された1または複数のアルゴリズムで画像データを処理してもよい。制御ユニット28及びそれと通信可能な様々な装置の更に詳細な説明は、図8を参照して論じられる。
制御ユニット28は更に、表示装置22と通信してもよい。制御ユニット28は、前述のように、カメラ14から受信した画像データを表示するように動作可能であり得て、これによれば、運転手はカメラ14から受信した画像データ30の一部32を見ることができる。前述の通り、表示装置22は、ミラーアセンブリ20の少なくとも一部を介してビデオ画像30の一部32を表示するように構成された部分的または全面的な表示ミラーに対応し得る。表示装置22は、例えばLCD、LED、OLED、プラズマ、DLPまたは他のディスプレイ技術などの様々な技術を利用して構成され得る。本開示と共に利用され得るディスプレイアセンブリの例は、「REARVIEW DISPLAY MIRROR」と題する米国特許第6,572,233号、「VEHICULAR REARVIEW MIRROR ASSEMBLY INCLUDING INTEGRATED BACKLIGHTING FOR A LIQUID CRYSTAL DISPLAY (LCD)」と題する米国特許第8,237,909号、「MULTI−DISPLAY MIRROR SYSTEM AND METHOD FOR EXPANDED VIEW AROUND A VEHICLE,」と題する米国特許第8,411,245号、「VEHICLE REARVIEW MIRROR ASSEMBLY INCLUDING A HIGH INTENSITY DISPLAY,」と題する米国特許第8,339,526号を含み、それらの全体が当該参照により本明細書に組み込まれる。
図8を参照すると、車両12の全体的制御システムの追加的構成要素を有するシステム10のブロック図が示されている。制御ユニット28は、ミラー20と通信し、センサ24(図6)及びカメラ14を含んだ状態で示され、また車両12の通信バス66を介して車両制御モジュール64と通信してもよい。通信バス66は、様々な車両の状態を識別する制御ユニット28に信号を送達するよう構成され得る。例えば、通信バス66は、車両の運転選択と、点火状態と、ドアの開状態または半開き状態などを、制御ユニット28に通信するよう構成され得る。こうした情報及び制御信号は、制御ユニット28によって利用され得て、システム10及び/またはミラーアセンブリ20の様々な状態及び/または制御スキームを起動または調節することができる。
制御ユニット28は、通信バス66から信号を受信し、システム10を制御するよう構成される1または複数の回路を有するプロセッサ68を備え得る。プロセッサ68は、システム10の動作を制御する命令を格納するよう構成されるメモリ70と通信し得る。例えば、制御ユニット28は、当該制御ユニット28によって利用され画像データ内で車両12の運転手の目34を識別する1または複数の特徴またはプロファイルを格納するよう構成され得る。
制御ユニット28は更に、カメラ14と通信し得る。制御ユニット28は、前述のように、カメラ14から画像データを受信し得る。このように、目34の識別に基づいて、制御ユニット28は、表示装置22上に呈示するべきビデオ画像30の対応する部分32を選択し、必要に応じて部分32に対して画像30を滑らかにパンするように構成され得る。制御ユニット28は更に、ゲージクラスタ74、音響/ビデオ(A/V)システム76、インフォテインメントシステム78、メディアセンタ、車両コンピューティングシステム、及び/または、車両の様々な他の装置もしくはシステム、のうちの1または複数と通信してもよい。様々な実施形態において、制御ユニット28はまた、クロップされていない画像30を含む装置74〜78上のカメラ14からのビデオ画像30を表示してもよい。
さらなる実施形態において、制御ユニット28は、1または複数のプロセッサまたは回路に対応し得て、センサ24から受信した画像データを更に処理するように構成され得る。この構成では、制御ユニット28は、車両の運転手の同一性を判定するよう構成される1または複数のアルゴリズムで画像データを処理し得る。車両の運転手あるいは1人または複数の乗客の同一性が識別されると、制御ユニット28は更に、当該参照によりその開示全体が本明細書に組み込まれる、同時係属中の同一出願人による米国特許出願第15/372,875号に更に記載されたような、車両の様々なシステムまたは機能を制御するよう動作可能になり得る。
制御ユニット28は更に、環境光センサ82と通信可能であり得る。環境光センサ82は、例えば、車両近傍の環境光の輝度レベルまたは強度レベルなどの光の状態を通信するよう動作可能であり得る。環境光のレベルに応答して、制御ユニット28は、表示装置22からの光強度出力を調節するよう構成され得る。この構成では、制御ユニット28のオペレータが、表示装置22の輝度を調節し得る。
制御ユニット28は更に、システム10の態様を制御するように構成される1または複数の入力を受信するように構成されるインターフェース84と通信し得る。一部の実施形態では、インターフェース84は、車両の1または複数の装置と組み合わされてもよい。例えば、インターフェース84は、ゲージクラスタ74、A/Vシステム76、インフォテインメントシステム78、ディスプレイコンソール、及び/または、一般的に自動車車両で利用可能な様々な入力/出力装置(例えば、ステアリングスイッチ、ステアリングホイールなど)、の一部を形成してもよい。このように、本開示は、車両12のシステム10を使用するための様々な制御スキームを提供する。一実施例では、図1に図示した入力54は、これらの装置のうちの一つにグラフィカルに呈示されることができる。
いずれの説明されたプロセスまたは説明されたプロセス内のステップも、その他の開示されたプロセスまたはステップと組み合わされ、本開示装置の範囲内で構造を形成し得ることが理解されるであろう。本明細書に開示された例示的な構造及びプロセスは、説明のためのものであり、制限として解釈してはならない。
変形及び修正が、本開示装置の概念から逸脱することなく、前述の構造及び方法においてなされ得ることも理解されるべきであり、更に、このような概念は、特許請求の範囲がそれらの言葉で別段に明確に述べられていない限り、以下の特許請求の範囲に含まれるものとされることが理解されるべきである。
以上の記載は、例示的な実施形態についての記載のみとみなされる。当業者、及び本装置の製作者または使用者は、当該装置に変形を施すであろう。従って、図面に示され前述された実施形態は、単に例示の目的のためであり、均等論を含む、特許法の原理に従い解釈されるものとして、特許請求の範囲によって定義される本発明装置の範囲を制限する意図はないことが理解される。

Claims (12)

  1. 車両(12)用のリアビジョンシステム(10)であって、
    前記車両(12)に取り付けられ、前記車両の(12)後方の第1領域の視野(16)を捕捉するカメラ(14)と、
    その上に表示基体(22)を含むバックミラー(20)と、
    前記車両(12)の内部(26)に向かって配向され、対象の画像(30)データを捕捉するように構成される画像(30)センサ(24)と、
    コントローラ(28)であって、
    前記カメラ(14)と通信し、前記視野(16)に対応する前記第1領域の第1ビデオ画像(30)を受信し、
    前記画像(30)センサ(24)と通信し、前記画像(30)データ内の前記対象の位置を判定し、
    前記表示基体(22)と通信し、当該表示基体(22)上に前記第1ビデオ画像(30)のサブエリア(32)を呈示し、当該サブエリア(32)は、前記対象の前記判定された位置に基づいて、前記基体(22)によって前記視野(16)から前記対象へと反射される画像(30)をシミュレートするように選択される、コントローラと、
    を備え
    前記第1ビデオ画像(30)の前記サブエリア(32)は、ベースライン位置からの前記対象の動きに基づいて前記第1ビデオ画像(30)を前記サブエリア(32)に対してパンすることにより、前記対象の前記判定された位置に基づく前記視野(16)の推定サブエリア(32)に対応するように選択され、
    前記第1ビデオ画像(30)は、前記バックミラー(20)から前記対象までの推定距離と前記バックミラー(20)から前記車両(12)の後部に対する理論上の画像(30)面までの推定距離との間のスケールと相関するように、予め定められたスケールに基づいてパンされる
    ことを特徴とするシステム。
  2. 前記対象は、前記車両(12)の運転手の一対の目(34)である
    ことを特徴とする請求項に記載のリアビジョンシステム(10)。
  3. 前記バックミラー(20)から前記対象までの前記推定距離は、固定されている
    ことを特徴とする請求項に記載のリアビジョンシステム(10)。
  4. 前記部分に対する前記第1画像(30)のベースライン位置が、ユーザによって調節され得る
    ことを特徴とする請求項1または2に記載のリアビジョンシステム(10)。
  5. 前記画像(30)センサ(24)は、前記バックミラー(20)内に含まれる
    ことを特徴とする請求項1乃至のいずれかに記載のリアビジョンシステム(10)。
  6. 前記車両(12)の内部(26)に向かって配向され、前記物体の一部を照射するように構成される光源(58)
    を更に備えたことを特徴とする請求項1乃至のいずれかに記載のリアビジョンシステム(10)。
  7. 前記光源(58)は、近赤外(NIR)領域で光を放射するように構成されている
    ことを特徴とする請求項に記載のリアビジョンシステム(10)。
  8. 前記サブエリア(32)は、前記対象への前記基体(22)による前記視野(16)の理論上の反射画像(30)のスケールに概して一致するように、スケール設定される
    ことを特徴とする請求項1乃至のいずれかに記載のリアビジョンシステム(10)。
  9. 前記コントローラ(28)は、前記画像(30)センサ(24)と更に通信し、前記画像(30)データ内の前記対象を見つけ、前記基体(22)からの理論上の視距離に沿って、予め定められた二次元座標系(10)に対する前記対象の位置を判定する
    ことを特徴とする請求項1乃至のいずれかに記載のリアビジョンシステム(10)。
  10. 前記サブエリア(32)は、理論上の視距離と前記表示基体(22)から前記車両(12)の後部に対する理論上の画像(30)面までの予め定められた推定画像(30)距離との間のスケールに基づいて、前記対象の前記位置を前記第1領域に割り当てられた二次元座標系(10)と相関させることにより、前記対象の前記判定された位置に基づいて、前記基体(22)によって前記視野(16)から前記対象へと反射される画像(30)をシミュレートするように選択される
    ことを特徴とする請求項に記載のリアビジョンシステム(10)。
  11. 前記理論上の視距離は、固定されている
    ことを特徴とする請求項10に記載のリアビジョンシステム(10)。
  12. 請求項1乃至11のいずれかに記載のリアビジョンシステム(10)
    を備えたことを特徴とする車両(12)。
JP2019535238A 2016-12-27 2017-12-26 アイトラッキングを備えたリアビジョンシステム Active JP6906055B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201662439181P 2016-12-27 2016-12-27
US62/439,181 2016-12-27
PCT/US2017/068427 WO2018125870A1 (en) 2016-12-27 2017-12-26 Rear vision system with eye-tracking

Publications (2)

Publication Number Publication Date
JP2020515449A JP2020515449A (ja) 2020-05-28
JP6906055B2 true JP6906055B2 (ja) 2021-07-21

Family

ID=62625458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019535238A Active JP6906055B2 (ja) 2016-12-27 2017-12-26 アイトラッキングを備えたリアビジョンシステム

Country Status (6)

Country Link
US (1) US10525890B2 (ja)
EP (1) EP3562708B1 (ja)
JP (1) JP6906055B2 (ja)
KR (1) KR102464874B1 (ja)
CN (1) CN109937158B (ja)
WO (1) WO2018125870A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD845851S1 (en) * 2016-03-31 2019-04-16 Gentex Corporation Rearview device
US10699143B2 (en) * 2017-03-10 2020-06-30 Gentex Corporation System and method for vehicle occupant identification and monitoring
US11203295B2 (en) * 2017-04-14 2021-12-21 Panasonic Automotive Svstems Company of America, Division of Panasonic Corporation of North America Rearview head up display
US20180304814A1 (en) * 2017-04-24 2018-10-25 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Rear view mirror-like perspective change system and method
KR102570780B1 (ko) * 2018-05-08 2023-08-29 소니 세미컨덕터 솔루션즈 가부시키가이샤 화상 처리 장치, 이동 장치 및 방법, 그리고 프로그램
TWI637289B (zh) * 2018-05-18 2018-10-01 緯創資通股份有限公司 基於眼球追蹤的顯示控制系統
CN113168515A (zh) * 2018-12-10 2021-07-23 金泰克斯公司 用于减小视场搜索空间的扫描设备
KR20220055541A (ko) 2020-10-26 2022-05-04 현대자동차주식회사 차량 및 그 제어방법
JP2022129154A (ja) * 2021-02-24 2022-09-05 株式会社Subaru 車両の乗員監視装置
WO2023152729A1 (en) * 2022-02-14 2023-08-17 Gentex Corporation Imaging system for a vehicle

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5289321A (en) 1993-02-12 1994-02-22 Secor James O Consolidated rear view camera and display system for motor vehicle
FR2773521B1 (fr) * 1998-01-15 2000-03-31 Carlus Magnus Limited Procede et dispositif pour surveiller en continu l'etat de vigilance du conducteur d'un vehicule automobile, afin de detecter et prevenir une tendance eventuelle a l'endormissement de celui-ci
JP3286306B2 (ja) * 1998-07-31 2002-05-27 松下電器産業株式会社 画像生成装置、画像生成方法
US7581859B2 (en) * 2005-09-14 2009-09-01 Donnelly Corp. Display device for exterior rearview mirror
US20040027694A1 (en) 2002-08-06 2004-02-12 Mediaview Technologies Corporation Adjustable segmented dual function mirror with video display
US7561966B2 (en) * 2003-12-17 2009-07-14 Denso Corporation Vehicle information display system
JP4323377B2 (ja) 2004-05-24 2009-09-02 オリンパス株式会社 画像表示装置
JP5235876B2 (ja) * 2006-06-28 2013-07-10 ジョンソン コントロールズ テクノロジー カンパニー 車両ビジョンシステム
CN101164805B (zh) * 2007-06-06 2010-12-01 北京理工大学 汽车正视显示装置
JP5115136B2 (ja) 2007-10-16 2013-01-09 株式会社デンソー 車両後方監視装置
US20100020170A1 (en) 2008-07-24 2010-01-28 Higgins-Luthman Michael J Vehicle Imaging System
US8411245B2 (en) * 2009-02-06 2013-04-02 Gentex Corporation Multi-display mirror system and method for expanded view around a vehicle
JP2012195634A (ja) * 2011-03-15 2012-10-11 Panasonic Corp 車両後方視認装置
JP5645769B2 (ja) * 2011-08-01 2014-12-24 株式会社日立製作所 画像処理装置
US9242602B2 (en) 2012-08-27 2016-01-26 Fotonation Limited Rearview imaging systems for vehicle
KR101417383B1 (ko) * 2012-10-31 2014-07-08 현대자동차주식회사 룸미러 영상 제어 장치 및 방법
KR101655818B1 (ko) * 2014-12-11 2016-09-08 현대자동차주식회사 웨어러블 글래스, 그 제어 방법 및 차량 제어 시스템
JP2016149651A (ja) * 2015-02-12 2016-08-18 株式会社デンソー 表示制御装置及び表示システム
US20160297362A1 (en) * 2015-04-09 2016-10-13 Ford Global Technologies, Llc Vehicle exterior side-camera systems and methods
US10589676B2 (en) * 2016-06-02 2020-03-17 Magna Electronics Inc. Vehicle display system with user input display

Also Published As

Publication number Publication date
CN109937158B (zh) 2022-03-22
KR20190102184A (ko) 2019-09-03
CN109937158A (zh) 2019-06-25
WO2018125870A1 (en) 2018-07-05
EP3562708A4 (en) 2019-11-06
EP3562708A1 (en) 2019-11-06
US10525890B2 (en) 2020-01-07
US20180178729A1 (en) 2018-06-28
EP3562708B1 (en) 2021-02-17
JP2020515449A (ja) 2020-05-28
KR102464874B1 (ko) 2022-11-09

Similar Documents

Publication Publication Date Title
JP6906055B2 (ja) アイトラッキングを備えたリアビジョンシステム
US10315573B2 (en) Method for displaying information to vehicle driver
US20210291751A1 (en) Vehicular driver monitoring system with camera having micro lens array
US11780370B2 (en) Vehicular driver monitoring system with DMS camera at interior rearview mirror assembly
US11997392B2 (en) Vehicular camera module
US10166924B2 (en) Vehicle vision system with display by a mirror
US10576909B2 (en) Vehicular vision system with windshield mounted camera
US11972597B2 (en) Vehicular driver monitoring system with camera view optimization
US10264249B2 (en) Calibration system and method for vehicular surround vision system
US11930264B2 (en) Vehicular driver monitoring system with camera view optimization
US11582425B2 (en) Driver monitoring system using camera with adjustable mirror
JP5983693B2 (ja) 表示機能付きミラー装置および表示切替方法
WO2019244045A1 (en) Rearview mirror assembly having automatic adjustment responsive to eye-tracking
JP2008094221A (ja) 目状態検出装置および目状態検出装置の取り付け方法
JP2016055782A5 (ja)
US20210245676A1 (en) Device and method for operating an object detection system for the passenger compartment of a motor vehicle, and a motor vehicle
US20230078512A1 (en) Overhead console accessory system with shared controls, cameras, and lighting
US20230286441A1 (en) Vehicular overhead console integrated with interior mirror and electronic content
JP2016199266A (ja) 表示機能付きミラー装置および表示切替方法
US20210300263A1 (en) Vehicular display system with adjustable mounting of rear camera
US20240100946A1 (en) Occupant imaging device
US20240217437A1 (en) Vehicular driver monitoring system with driver monitoring camera and near ir light emitter at interior rearview mirror assembly
JP2018002152A (ja) 表示機能付きミラー装置および表示切替方法
US20240242513A1 (en) Vehicular monitoring system
WO2023220222A1 (en) Vehicular driver monitoring system with driver monitoring camera and near ir light emitter at interior rearview mirror assembly

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210527

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210628

R150 Certificate of patent or registration of utility model

Ref document number: 6906055

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250