JP6568603B2 - 車両用画像表示システム及びその画像表示システムを搭載した車両 - Google Patents
車両用画像表示システム及びその画像表示システムを搭載した車両 Download PDFInfo
- Publication number
- JP6568603B2 JP6568603B2 JP2017563670A JP2017563670A JP6568603B2 JP 6568603 B2 JP6568603 B2 JP 6568603B2 JP 2017563670 A JP2017563670 A JP 2017563670A JP 2017563670 A JP2017563670 A JP 2017563670A JP 6568603 B2 JP6568603 B2 JP 6568603B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- image
- image display
- driver
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 claims description 138
- 238000001514 detection method Methods 0.000 claims description 63
- 210000001508 eye Anatomy 0.000 claims description 35
- 230000001681 protective effect Effects 0.000 claims description 12
- 230000001364 causal effect Effects 0.000 claims description 3
- 239000011521 glass Substances 0.000 description 15
- 238000012545 processing Methods 0.000 description 13
- 238000000034 method Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 8
- 238000003331 infrared imaging Methods 0.000 description 8
- 238000009434 installation Methods 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 238000010521 absorption reaction Methods 0.000 description 3
- 238000003702 image correction Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 230000003373 anti-fouling effect Effects 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000001931 thermography Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 239000005357 flat glass Substances 0.000 description 1
- 230000010006 flight Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 230000033001 locomotion Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/30—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing vision in the non-visible spectrum, e.g. night or infrared vision
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/25—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the sides of the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
- G06F3/1431—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using a single graphics controller
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/20—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
- B60R2300/202—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used displaying a blind spot scene on the vehicle part responsible for the blind spot
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/802—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
- B60R2300/8026—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views in addition to a rear-view mirror system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30268—Vehicle interior
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/10—Automotive applications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/22—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
- G09G3/30—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
- G09G3/32—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
- G09G3/3208—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED] organic, e.g. using organic light-emitting diodes [OLED]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
- H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
- H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
Description
車両の外装部の所定の位置に設けられ、それぞれ所定の範囲の画像を撮像する複数の撮像装置と、
前記車両の内装部の所定の位置に設けられ、前記複数の撮像装置の少なくともいずれか1つによって撮像された画像をその画面上に表示する複数の画像表示装置と、
前記車両の外装部又は前記車両の内装部の所定の位置に設けられ、予め設定されている所定の事象を検出するための検出装置と、
前記検出装置が前記所定の事象を検出したときに、前記所定の事象に対応する前記複数の撮像装置のうちの1つ又は複数の撮像装置を用いてその1又は複数の撮像装置に対応した所定の範囲の画像を撮像し、その1つ又は複数の撮像装置に対応した前記複数の画像表示装置の少なくともいずれか1つに撮像した画像を表示させる画像制御装置と、を備え、
前記検出装置は、前記車両の内装部に設けられ、運転者の目の位置又は視線の方向を検出する視線検出装置であり、
前記複数の撮像装置は、少なくとも運転者から死角になる原因物であるピラーの近傍にあるドアミラーに設けられており、前記ドアミラーが折り畳まれた状態では前記撮像装置の撮像レンズに防塵、防汚のための保護キャップが被せられており、折り畳みを解除した状態で前記撮像レンズの前記保護キャップが開放されるように構成されており、かつ前記原因物であるピラーによって運転者から死角になる範囲よりも広い範囲の画像を撮像し、
前記複数の画像表示装置の少なくとも一部は、前記ピラーの部分に設けられ、可撓性を有する有機発光ダイオードを用いており、
前記画像制御装置は、前記視線検出装置によって検出された目の位置と前記原因物によって特定される所定の方向が、前記複数の画像表示装置のうち検出された目の位置から見える方向に位置する画像表示装置の画面の中心近傍に位置するように画像をシフトさせ、前記画像表示装置の画面が湾曲している場合に、さらにその湾曲と逆向きに画像を湾曲させることを特徴とする。
前記検出装置は、前記車両の内装部に設けられ、運転者の目の位置又は視線の方向を検 出する視線検出装置であり、
前記画像制御装置は、前記複数の画像表示装置のうち少なくとも検出された目の位置か ら見える方向に位置する撮像装置を用いて画像を撮像し、検出された運転者の目の位置又 は視線の方向に基づいて、前記原因物によって運転者から死角になる範囲を検出し、検出 された運転者から死角になる範囲の画像が前記複数の画像表示装置のうち検出された視線 の方向に位置する画像表示装置の画面上に表示されるように、画像データを補正するように構成してもよい。
前記複数の撮像装置は、前記車両の後方あるいは側方の画像を撮像する撮像装置を含み、
前記画像制御装置は、前記車両の前方を走行している他の車両の速度が前記車両の速度よりも遅い場合又は前記車両の後方あるいは側方を走行している他の車両の速度が前記車両の速度よりも速い場合に、前記車両の後方又は側方の画像を撮像する撮像装置によって撮像された画像を、前記複数の画像表示装置のうち運転者よりも前方に位置する画像表示装置に表示するように構成してもよい。
前記第2速度検出装置は、前記車両の前方又は後方あるいは側方を走行している他の車両と前記車両との相対速度を検出するように構成してもよい。
前記複数の撮像装置の少なくとも一部は、前記車両の外装部のピラーの近傍に設けられており、
前記複数の画像表示装置の少なくとも一部は、可撓性を有する有機発光ダイオードを用いた画像表示装置であって、前記車両の窓と窓の間のピラーの部分に、それらの窓とほぼ連続となるように設けられていることを特徴とする。
また、前記複数の撮像装置は、それぞれ運転者よりも前方の死角となる範囲の画像を撮 像する前方撮像素子と車両の後方の画像を撮影するための後方撮像素子を有し、後方撮像 素子によって撮像された画像を前記車両のフロントガラスの下部に設けられた画像表示装 置の左右に表示するように構成してもよい。
本発明の第1実施形態に係る車両用画像表示システム及びその画像表示システムを搭載した車両について説明する。従来の車両用画像表示システムでは、撮像装置により撮像される範囲及び画像表示装置の画面上に表示される画像の範囲が固定されており、運転者の体格に合わせて座席の位置を調節した場合などでは、必ずしも運転者から死角になる範囲と画像表示装置の画面上に表示される画像の範囲とが一致していなかった。それに対して、本発明の第1実施形態は、運転者の目の位置に応じて変化する視界又は死角となる範囲に合わせて、画像表示装置に表示される画像を補正するように構成したものである。検出装置として視線検出装置を用い、検出される事象として運転者の目の位置又は視線の方向を検出する。
第2実施形態は、車両10の速度に応じて、画像を撮像する撮像装置を適宜切り替えたり、あるいは撮像装置による撮像を停止したりするものである。図3に示すように、検出装置として、上記視線検出装置18の他、車両10の速度計などの速度検出装置20やGPS(Global Positioning System)22を用い、検出される事象として車両の速度や現在位置を検出する。
第3実施形態は、車両10が走行している状態で、撮像装置によって撮像された画像から前方又は後方あるいは側方を走行している他の車両を検出し、他の車両との車間距離や車両10と他の車両との相対速度などの情報を基に、車両10の周囲の車外情報、特に車両10に対して他の車両が接触する危険性が迫っている場合にそれを運転者に伝達するものである。検出装置として、車両10の速度計などの速度検出装置(第1速度検出装置)20やGPS22の他、車両10の前方を走行する他の車両との車間距離や他の車両の速度を検出するための撮像装置11a、11b及び11hと、車両10の側方又は後方を走行する他の車両との相対速度を検出するために撮像装置11c〜11g、11p及び11qなど及び画像制御装置(第2速度検出装置)19を用い、検出される事象として車両10の速度、他の車両との車間距離、他の車両との相対速度及び現在走行している道路が高速道路か一般道路かなどを検出する。なお、ここでいう車両の速度には、速度を時間で微分した加速度を含めることも可能である。また、車両10と他の車両との相対速度の検出方法としては、ミリ波、赤外線レーザー光、超音波などを照射して、他の車両からの反射波を検出するように構成してもよい。
第4実施形態は、車両10を車庫入れする際やドアを開閉する際に、ドアによる死角を少なくするものである。一般的に、運転者や同乗者から見て、各ドアの窓より下の部分も死角となる。図4及び図5に示すように、各ドア21a〜21dのドアノブなどには撮像装置11j、11k、11m及び11nが取り付けられていると共に、ドアトリムの上部には画像表示装置14f及び14gなどが取り付けられている。また、検出装置として、セレクターレバー又はシフトレバーを用い、検出される事象としてセレクターレバー又はシフトレバーが後進位置又はニュートラルあるいはパーキングなどに入っていること、又はサイドブレーキが掛けられていることなどを検出する。
第5実施形態は、本発明の車両用画像表示システムをいわゆるミラーレス車両へ応用したものである。検出装置及び検出される事象としては、先の実施形態で説明したもの全てを含むことができる。
第6実施形態は、本発明の車両用画像表示システムをいわゆるワンボックスカーのようなAピラー部に三角窓を有する車両へ応用したものである。検出装置及び検出される事象としては、先の実施形態で説明したもの全てを含むことができる。
視線検出装置18及び画像制御装置19の応用例として、制御装置として機能する画像制御装置19は、視線検出装置18により検出した目の位置や視線の方向あるいは目を閉じているか否かなどに基づいて運転者が居眠りをしているか否かを判断し、警報装置などを介して警報音を出力するようにしてもよい。
10 車両
10a ボンネット又はフロントグリルあるいはバンパー
10b バックドア又はトランク
11a〜11h 撮像装置
11j、11k、11m、11n、11p、11q、11x、11y 撮像装置
12a、12b ドアミラー
13a〜13f ピラー
14a〜14h 画像表示装置
15 ダッシュボード
16 フロントガラス
17 ルームミラー
18 視線検出装置
19 画像制御装置
20 速度検出装置
21a〜21d ドア
22 GPS
23a、23b 三角窓
24a、24b ドアガラス
Claims (3)
- 車両の外装部の所定の位置に設けられ、それぞれ所定の範囲の画像を撮像する複数の撮像装置と、
前記車両の内装部の所定の位置に設けられ、前記複数の撮像装置の少なくともいずれか1つによって撮像された画像をその画面上に表示する複数の画像表示装置と、
前記車両の外装部又は前記車両の内装部の所定の位置に設けられ、予め設定されている所定の事象を検出するための検出装置と、
前記検出装置が前記所定の事象を検出したときに、前記所定の事象に対応する前記複数の撮像装置のうちの1つ又は複数の撮像装置を用いてその1又は複数の撮像装置に対応した所定の範囲の画像を撮像し、その1つ又は複数の撮像装置に対応した前記複数の画像表示装置の少なくともいずれか1つに撮像した画像を表示させる画像制御装置と、を備え、
前記検出装置は、前記車両の内装部に設けられ、運転者の目の位置又は視線の方向を検出する視線検出装置であり、
前記複数の撮像装置は、少なくとも運転者から死角になる原因物であるピラーの近傍にあるドアミラーに設けられており、前記ドアミラーが折り畳まれた状態では前記撮像装置の撮像レンズに防塵、防汚のための保護キャップが被せられており、折り畳みを解除した状態で前記撮像レンズの前記保護キャップが開放されるように構成されており、かつ前記原因物であるピラーによって運転者から死角になる範囲よりも広い範囲の画像を撮像し、
前記複数の画像表示装置の少なくとも一部は、前記ピラーの部分に設けられ、可撓性を有する有機発光ダイオードを用いており、
前記画像制御装置は、前記視線検出装置によって検出された目の位置と前記原因物によって特定される所定の方向が、前記複数の画像表示装置のうち検出された目の位置から見える方向に位置する画像表示装置の画面の中心近傍に位置するように画像をシフトさせ、前記画像表示装置の画面が湾曲している場合に、さらにその湾曲と逆向きに画像を湾曲させることを特徴とする車両用画像表示システム。 - 請求項1に記載の車両用画像表示システムを備えた車両。
- 前記複数の画像表示装置の少なくとも一部は、発光していない状態で透光性を有する有機発光ダイオードを用いた画像表示装置であって、前記車両のフロントガラスに設けられており、
前記複数の撮像装置は、それぞれ運転者よりも前方の死角となる範囲の画像を撮像する前方撮像素子と、車両の後方の画像を撮影するための後方撮像素子とを有し、前記後方撮像素子によって撮像された画像を車両のフロントガラスの下部に設けられた画像表示装置の左右に表示することを特徴とする請求項2に記載の車両。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016014140 | 2016-01-28 | ||
JP2016014140 | 2016-01-28 | ||
PCT/JP2016/071850 WO2017130439A1 (ja) | 2016-01-28 | 2016-07-26 | 車両用画像表示システム及びその画像表示システムを搭載した車両 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017130439A1 JPWO2017130439A1 (ja) | 2018-11-08 |
JP6568603B2 true JP6568603B2 (ja) | 2019-08-28 |
Family
ID=59397709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017563670A Active JP6568603B2 (ja) | 2016-01-28 | 2016-07-26 | 車両用画像表示システム及びその画像表示システムを搭載した車両 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20190031102A1 (ja) |
JP (1) | JP6568603B2 (ja) |
CN (1) | CN108602465B (ja) |
TW (1) | TWI690436B (ja) |
WO (1) | WO2017130439A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210197847A1 (en) * | 2019-12-31 | 2021-07-01 | Gm Cruise Holdings Llc | Augmented reality notification system |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10486599B2 (en) * | 2015-07-17 | 2019-11-26 | Magna Mirrors Of America, Inc. | Rearview vision system for vehicle |
CN107776488A (zh) * | 2016-08-24 | 2018-03-09 | 京东方科技集团股份有限公司 | 汽车用辅助显示系统、显示方法以及汽车 |
JP6852584B2 (ja) * | 2017-06-15 | 2021-03-31 | トヨタ自動車株式会社 | 車両後方視認装置 |
US20190012552A1 (en) * | 2017-07-06 | 2019-01-10 | Yves Lambert | Hidden driver monitoring |
US20190246036A1 (en) * | 2018-02-02 | 2019-08-08 | Futurewei Technologies, Inc. | Gesture- and gaze-based visual data acquisition system |
EP3793191A4 (en) * | 2018-05-08 | 2021-04-14 | Sony Semiconductor Solutions Corporation | IMAGE PROCESSING DEVICE, MOTION MACHINE, METHOD AND PROGRAM |
DE112018007768T5 (de) * | 2018-06-27 | 2021-03-11 | Honda Motor Co., Ltd. | Peripherieinformationserfassungsvorrichtung und fahrzeug |
US10882400B2 (en) * | 2018-09-20 | 2021-01-05 | Arizona Board Of Regents On Behalf Of Arizona State University | Systems and methods for improved vehicular safety |
JP7163732B2 (ja) * | 2018-11-13 | 2022-11-01 | トヨタ自動車株式会社 | 運転支援装置、運転支援システム、運転支援方法およびプログラム |
WO2020111192A1 (ja) * | 2018-11-28 | 2020-06-04 | 株式会社堀場製作所 | 車両試験システム及び車両試験方法 |
CN109305105A (zh) * | 2018-11-29 | 2019-02-05 | 北京车联天下信息技术有限公司 | 一种a柱盲区监测装置、车辆及方法 |
CN110099268B (zh) * | 2019-05-28 | 2021-03-02 | 吉林大学 | 色彩自然匹配与显示区自然融合的盲区透视化显示方法 |
DE102019124218A1 (de) * | 2019-09-10 | 2021-03-11 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren zum Anzeigen von Fahrzeuginformationen, Windschildsystem sowie Kraftfahrzeug |
US11124114B2 (en) * | 2019-09-30 | 2021-09-21 | Ford Global Technologies, Llc | Blind spot detection and alert |
WO2021079975A1 (ja) * | 2019-10-23 | 2021-04-29 | ソニー株式会社 | 表示システム、表示装置、表示方法、及び、移動装置 |
CN111042700A (zh) * | 2019-12-04 | 2020-04-21 | 惠州市德赛西威汽车电子股份有限公司 | 一种基于流媒体后视镜温度检测的车窗自动升降系统及方法 |
JP7357284B2 (ja) * | 2020-02-12 | 2023-10-06 | パナソニックIpマネジメント株式会社 | 描画システム、表示システム、移動体、描画方法及びプログラム |
EP4112387A4 (en) * | 2020-02-28 | 2023-08-16 | Sony Group Corporation | IMAGE PROCESSING DEVICE, DISPLAY SYSTEM, IMAGE PROCESSING METHOD AND RECORDING MEDIA |
CN111391755B (zh) * | 2020-03-10 | 2021-10-12 | 京东方科技集团股份有限公司 | 盲区图像的显示方法、装置及系统 |
KR20220000536A (ko) * | 2020-06-26 | 2022-01-04 | 현대자동차주식회사 | 차량 주행 제어 장치 및 방법 |
CN112977469A (zh) * | 2021-03-12 | 2021-06-18 | 乐视致新信息技术(武汉)有限公司 | 基于车载全息投影的导航装置及其控制方法 |
TWI773375B (zh) * | 2021-06-11 | 2022-08-01 | 英業達股份有限公司 | 偵測系統 |
US11550532B1 (en) | 2021-08-16 | 2023-01-10 | Honda Motor Co., Ltd | Modular display assembly for vehicles |
JP2024004819A (ja) | 2022-06-29 | 2024-01-17 | フォルシアクラリオン・エレクトロニクス株式会社 | 表示制御装置 |
Family Cites Families (61)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1059068A (ja) * | 1996-08-23 | 1998-03-03 | Yoshihisa Furuta | 車両の死角確認装置 |
US6690268B2 (en) * | 2000-03-02 | 2004-02-10 | Donnelly Corporation | Video mirror systems incorporating an accessory module |
JP2000339580A (ja) * | 1999-05-26 | 2000-12-08 | Nissan Motor Co Ltd | 道路地図の記憶方法 |
DE60122040T8 (de) * | 2000-03-02 | 2007-08-23 | AutoNetworks Technologies, Ltd., Nagoya | Überwachungseinrichtung für schwer einsehbare Zonen um Kraftfahrzeuge |
JP2002325250A (ja) * | 2001-02-16 | 2002-11-08 | Ki Sun Kim | 車両の映像及び音声記録装置 |
JP4567941B2 (ja) * | 2001-12-28 | 2010-10-27 | 株式会社半導体エネルギー研究所 | 半導体装置の作製方法及び表示装置の作製方法 |
US6953735B2 (en) * | 2001-12-28 | 2005-10-11 | Semiconductor Energy Laboratory Co., Ltd. | Method for fabricating a semiconductor device by transferring a layer to a support with curvature |
US6809704B2 (en) * | 2002-02-08 | 2004-10-26 | Charles J. Kulas | Reduction of blind spots by using display screens |
JP2005167638A (ja) * | 2003-12-02 | 2005-06-23 | Sharp Corp | 移動体周囲監視装置、移動体および画像変換方法 |
JP2005184225A (ja) * | 2003-12-17 | 2005-07-07 | Denso Corp | 車両用表示装置 |
JP4280648B2 (ja) * | 2004-01-16 | 2009-06-17 | 株式会社ホンダロック | 車両の視界補助装置 |
JP2005204132A (ja) * | 2004-01-16 | 2005-07-28 | Honda Motor Co Ltd | 運転支援装置 |
JP4699054B2 (ja) * | 2005-03-10 | 2011-06-08 | クラリオン株式会社 | 車両周囲監視装置 |
US8179435B2 (en) * | 2005-09-28 | 2012-05-15 | Nissan Motor Co., Ltd. | Vehicle surroundings image providing system and method |
JP4810953B2 (ja) * | 2005-10-07 | 2011-11-09 | 日産自動車株式会社 | 車両用死角映像表示装置 |
JP2007204032A (ja) * | 2006-01-06 | 2007-08-16 | Toyota Motor Corp | 車載警報装置 |
JP2007314023A (ja) * | 2006-05-25 | 2007-12-06 | Fujifilm Corp | 運転支援システム |
JP4775121B2 (ja) * | 2006-06-05 | 2011-09-21 | 株式会社デンソー | 車両用運転支援システム |
JP4791262B2 (ja) * | 2006-06-14 | 2011-10-12 | 本田技研工業株式会社 | 運転支援装置 |
CN101479130B (zh) * | 2006-06-28 | 2012-05-30 | 约翰逊控制技术公司 | 车辆视觉系统 |
JP4325705B2 (ja) * | 2007-06-15 | 2009-09-02 | 株式会社デンソー | 表示システム及びプログラム |
JP5347257B2 (ja) * | 2007-09-26 | 2013-11-20 | 日産自動車株式会社 | 車両用周辺監視装置および映像表示方法 |
JP5421788B2 (ja) * | 2008-02-20 | 2014-02-19 | クラリオン株式会社 | 車両周辺画像表示システム |
JP5045812B2 (ja) * | 2008-06-24 | 2012-10-10 | トヨタ自動車株式会社 | 死角表示装置及び運転支援装置 |
US20110187844A1 (en) * | 2008-09-12 | 2011-08-04 | Kabushiki Kaisha Toshiba | Image irradiation system and image irradiation method |
US20130314536A1 (en) * | 2009-03-02 | 2013-11-28 | Flir Systems, Inc. | Systems and methods for monitoring vehicle occupants |
US9517679B2 (en) * | 2009-03-02 | 2016-12-13 | Flir Systems, Inc. | Systems and methods for monitoring vehicle occupants |
US9998697B2 (en) * | 2009-03-02 | 2018-06-12 | Flir Systems, Inc. | Systems and methods for monitoring vehicle occupants |
US8629784B2 (en) * | 2009-04-02 | 2014-01-14 | GM Global Technology Operations LLC | Peripheral salient feature enhancement on full-windshield head-up display |
US8317329B2 (en) * | 2009-04-02 | 2012-11-27 | GM Global Technology Operations LLC | Infotainment display on full-windshield head-up display |
US8482486B2 (en) * | 2009-04-02 | 2013-07-09 | GM Global Technology Operations LLC | Rear view mirror on full-windshield head-up display |
US8358224B2 (en) * | 2009-04-02 | 2013-01-22 | GM Global Technology Operations LLC | Point of interest location marking on full windshield head-up display |
US20100253595A1 (en) * | 2009-04-02 | 2010-10-07 | Gm Global Technology Operations, Inc. | Virtual controls and displays by laser projection |
US8547298B2 (en) * | 2009-04-02 | 2013-10-01 | GM Global Technology Operations LLC | Continuation of exterior view on interior pillars and surfaces |
US8977489B2 (en) * | 2009-05-18 | 2015-03-10 | GM Global Technology Operations LLC | Turn by turn graphical navigation on full windshield head-up display |
JP5108837B2 (ja) * | 2009-07-13 | 2012-12-26 | クラリオン株式会社 | 車両用死角映像表示システムと車両用死角映像表示方法 |
US20110025584A1 (en) * | 2009-07-29 | 2011-02-03 | Gm Global Technology Operations, Inc. | Light-emitting diode heads-up display for a vehicle |
WO2011070641A1 (ja) * | 2009-12-07 | 2011-06-16 | クラリオン株式会社 | 車両周辺監視システム |
CN102714710B (zh) * | 2009-12-07 | 2015-03-04 | 歌乐牌株式会社 | 车辆周边图像显示系统 |
JP2011125474A (ja) * | 2009-12-17 | 2011-06-30 | Isuzu Motors Ltd | 体調判定装置 |
US9160981B2 (en) * | 2010-03-26 | 2015-10-13 | Honda Motor Co., Ltd. | System for assisting driving of vehicle |
US20130096820A1 (en) * | 2011-10-14 | 2013-04-18 | Continental Automotive Systems, Inc. | Virtual display system for a vehicle |
JP5727356B2 (ja) * | 2011-11-30 | 2015-06-03 | 日立オートモティブシステムズ株式会社 | 物体検知装置 |
DE112013000566T5 (de) * | 2012-01-12 | 2014-11-06 | Hitachi Construction Machinery Co., Ltd. | Umgebungsüberwachungsvorrichtung für selbstangetriebene Industriemaschine |
JP2014059723A (ja) * | 2012-09-18 | 2014-04-03 | Nissan Motor Co Ltd | 車両用後方視界支援装置及び車両用後方視界支援方法 |
JP5527382B2 (ja) * | 2012-10-12 | 2014-06-18 | トヨタ自動車株式会社 | 走行支援システム及び制御装置 |
JP2014181927A (ja) * | 2013-03-18 | 2014-09-29 | Aisin Aw Co Ltd | 情報提供装置、及び情報提供プログラム |
US10029621B2 (en) * | 2013-05-16 | 2018-07-24 | Ford Global Technologies, Llc | Rear view camera system using rear view mirror location |
JP2015027852A (ja) * | 2013-07-30 | 2015-02-12 | トヨタ自動車株式会社 | 運転支援装置 |
JP2015054598A (ja) * | 2013-09-11 | 2015-03-23 | 本田技研工業株式会社 | 車両用表示装置 |
JP6395393B2 (ja) * | 2014-02-13 | 2018-09-26 | 株式会社小糸製作所 | 車両の運転支援装置 |
JP6252252B2 (ja) * | 2014-02-28 | 2017-12-27 | 株式会社デンソー | 自動運転装置 |
JP6065296B2 (ja) * | 2014-05-20 | 2017-01-25 | パナソニックIpマネジメント株式会社 | 画像表示システム、および画像表示システムに用いられるディスプレイ |
US11402628B2 (en) * | 2014-07-01 | 2022-08-02 | Nissan Motor Co., Ltd. | Vehicular display apparatus and vehicular display method |
EP3153356B1 (en) * | 2014-07-01 | 2018-09-19 | Nissan Motor Co., Ltd | Display device for vehicle and display method for vehicle |
JP6384188B2 (ja) * | 2014-08-12 | 2018-09-05 | ソニー株式会社 | 車両用表示装置と表示制御方法および後方モニタリングシステム |
US20160200254A1 (en) * | 2015-01-12 | 2016-07-14 | BSR Technologies Group | Method and System for Preventing Blind Spots |
JP6417995B2 (ja) * | 2015-02-09 | 2018-11-07 | 株式会社デンソー | 車速マネジメント装置及び車速マネジメント方法 |
KR101687543B1 (ko) * | 2015-04-27 | 2016-12-19 | 엘지전자 주식회사 | 디스플레이 장치 및 그 제어방법 |
EP3292024A4 (en) * | 2015-05-06 | 2018-06-20 | Magna Mirrors of America, Inc. | Vehicle vision system with blind zone display and alert system |
US20170203691A1 (en) * | 2016-01-20 | 2017-07-20 | Yu-Chen Chou | Vehicle of no blind spot |
-
2016
- 2016-07-26 US US16/073,781 patent/US20190031102A1/en not_active Abandoned
- 2016-07-26 CN CN201680080537.0A patent/CN108602465B/zh active Active
- 2016-07-26 WO PCT/JP2016/071850 patent/WO2017130439A1/ja active Application Filing
- 2016-07-26 JP JP2017563670A patent/JP6568603B2/ja active Active
- 2016-07-29 TW TW105123975A patent/TWI690436B/zh active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210197847A1 (en) * | 2019-12-31 | 2021-07-01 | Gm Cruise Holdings Llc | Augmented reality notification system |
US11760370B2 (en) * | 2019-12-31 | 2023-09-19 | Gm Cruise Holdings Llc | Augmented reality notification system |
Also Published As
Publication number | Publication date |
---|---|
CN108602465A (zh) | 2018-09-28 |
JPWO2017130439A1 (ja) | 2018-11-08 |
US20190031102A1 (en) | 2019-01-31 |
WO2017130439A1 (ja) | 2017-08-03 |
TWI690436B (zh) | 2020-04-11 |
CN108602465B (zh) | 2021-08-17 |
TW201726452A (zh) | 2017-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6568603B2 (ja) | 車両用画像表示システム及びその画像表示システムを搭載した車両 | |
US10649461B2 (en) | Around view monitoring apparatus for vehicle, driving control apparatus, and vehicle | |
US10915100B2 (en) | Control system for vehicle | |
CA2990430C (en) | Augmented reality system for vehicle blind spot prevention | |
CN104163133B (zh) | 使用后视镜位置的后视摄像机系统 | |
US20190315275A1 (en) | Display device and operating method thereof | |
JP5694243B2 (ja) | 自動車用撮像システムを備える障害物検出装置 | |
KR101855940B1 (ko) | 차량용 증강현실 제공 장치 및 그 제어방법 | |
CN107209850B (zh) | 用于确定驾驶员辅助系统的驾驶员特定盲点的方法,驾驶员辅助系统以及机动车辆 | |
US20180236939A1 (en) | Method, System, and Device for a Forward Vehicular Vision System | |
US20200020235A1 (en) | Method, System, and Device for Forward Vehicular Vision | |
CN108725320A (zh) | 图像显示装置 | |
US11498485B2 (en) | Techniques for vehicle collision avoidance | |
US20220063509A1 (en) | Moving body | |
JP2018181168A (ja) | 情報提示装置 | |
KR20150139540A (ko) | 방향 오리엔테이션 네비게이션 시스템을 구비하는 시각적 포지셔닝 | |
JP7345114B2 (ja) | 車両用表示制御装置、表示制御方法、およびプログラム | |
JP2021154888A (ja) | 車両用表示装置 | |
WO2017195693A1 (ja) | 画像表示装置 | |
JP2008222196A (ja) | 自動車の視野確保装置 | |
US20220063656A1 (en) | Moving body | |
US20230054104A1 (en) | Image processing apparatus, display system, image processing method, and recording medium | |
JP2018177134A (ja) | 画像表示装置 | |
JP2005523836A (ja) | 自動車用電子後方見知手段 | |
TW201829225A (zh) | 車輛智能後照設備及其監控方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180606 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180606 |
|
AA64 | Notification of invalidation of claim of internal priority (with term) |
Free format text: JAPANESE INTERMEDIATE CODE: A241764 Effective date: 20180620 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180730 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20181004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181016 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190111 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190610 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20190617 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190709 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190802 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6568603 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |