JP2017005497A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2017005497A
JP2017005497A JP2015117401A JP2015117401A JP2017005497A JP 2017005497 A JP2017005497 A JP 2017005497A JP 2015117401 A JP2015117401 A JP 2015117401A JP 2015117401 A JP2015117401 A JP 2015117401A JP 2017005497 A JP2017005497 A JP 2017005497A
Authority
JP
Japan
Prior art keywords
image
pattern
display
unit
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015117401A
Other languages
English (en)
Other versions
JP6261542B2 (ja
Inventor
幸栄 清
Yukie Sei
幸栄 清
松山 哲
Satoru Matsuyama
哲 松山
親一 森山
Shinichi Moriyama
親一 森山
五朗 浅井
Goro Asai
五朗 浅井
真佐人 奥田
Masato Okuda
真佐人 奥田
洋平 里見
Yohei Satomi
洋平 里見
由香 志土地
Yuka Shidochi
由香 志土地
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Toyota Motor Corp
Original Assignee
Denso Ten Ltd
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd, Toyota Motor Corp filed Critical Denso Ten Ltd
Priority to JP2015117401A priority Critical patent/JP6261542B2/ja
Priority to EP16172535.3A priority patent/EP3104599A1/en
Priority to US15/170,361 priority patent/US10037595B2/en
Priority to CN201610405518.2A priority patent/CN106254763B/zh
Publication of JP2017005497A publication Critical patent/JP2017005497A/ja
Application granted granted Critical
Publication of JP6261542B2 publication Critical patent/JP6261542B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/14Transformations for image registration, e.g. adjusting or mapping for alignment of images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/602Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective with an adjustable viewpoint

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】意図しない合成画像が表示されることを防止すること。【解決手段】実施形態に係る画像処理装置は、表示制御部と、パターン指定部と、パターン照合部とを備える。表示制御部は、複数の車載カメラから入力される入力画像に基づき、車両周囲を仮想視点から見た合成画像を生成して表示部に表示させる。パターン指定部は、車載カメラに対し、複数の画像パターンの中から入力画像として出力すべき画像パターンを指定する。パターン照合部は、車載カメラからそれぞれ送信される画像パターン応答の全てが画像パターンと一致するか否かを判定する。表示制御部は、合成画像への表示切替条件が成立した場合に、所定の準備画像を表示部に表示させ、パターン照合部によって画像パターン応答の全てが画像パターンと一致すると判定された場合に、準備画像に代えて合成画像を表示部に表示させる。【選択図】図3

Description

本発明は、画像処理装置および画像処理方法に関する。
従来、車両に搭載された複数の車載カメラから得られるカメラ画像を合成することにより、車両の直上や後部などの任意の仮想視点からみた車両の周囲の様子を示す合成画像を生成してディスプレイに表示する装置が提案されている。
特許文献1には、各車載カメラに対して画像領域の指定を行い、各車載カメラが、指定された画像領域をカメラ画像から切り取って出力する技術が開示されている。
特開2002−027446号公報
しかしながら、上述した従来技術には、指定通りの画像データが全て揃うまでの間、指定した画像領域とは異なる領域の画像データを含む意図しない合成画像がディスプレイに表示されるおそれがあった。
実施形態の一態様は、上記に鑑みてなされたものであって、意図しない合成画像が表示されることを防止することができる画像処理装置および画像処理方法を提供することを目的とする。
本実施形態の一態様に係る画像処理装置は、表示制御部と、パターン指定部と、パターン照合部とを備える。表示制御部は、複数の車載カメラから入力される入力画像に基づき、車両周囲を仮想視点から見た合成画像を生成して表示部に表示させる。パターン指定部は、車載カメラに対し、複数の画像パターンの中から入力画像として出力すべき画像パターンを指定する。パターン照合部は、車載カメラからそれぞれ送信される画像パターン応答の全てが画像パターンと一致するか否かを判定する。表示制御部は、合成画像への表示切替条件が成立した場合に、所定の準備画像を表示部に表示させ、パターン照合部によって画像パターン応答の全てが画像パターンと一致すると判定された場合に、準備画像に代えて合成画像を表示部に表示させる。
実施形態の一態様によれば、意図しない合成画像が表示されることを防止することができる。
図1は、本実施形態に係る画像処理システムの構成例を示す図である。 図2は、車載カメラの配置例を示す図である。 図3は、表示部に表示させる画面の切替タイミングを示すシーケンス図である。 図4は、バック画面の一例を示す図である。 図5は、準備画面の一例を示す図である。 図6は、仮想視点画面の一例を示す図である。 図7は、本実施形態に係る画像処理システムの具体的な構成例を示す図である。 図8は、本実施形態に係る画像処理装置が実行する処理の処理手順を示すフローチャートである。 図9は、代替仮想視点画面の一例を示す図である。 図10は、レイアウト画像の一例を示す図である。
以下に添付図面を参照して、本発明に係る画像処理装置および画像処理方法の実施形態を詳細に説明する。なお、この実施形態によりこの発明が限定されるものではない。
図1は、本実施形態に係る画像処理システムの構成例を示す図である。また、図2は、車載カメラの配置例を示す図である。
図1に示すように、本実施形態に係る画像処理システム1は、撮像装置2と、画像処理装置3と、表示部4とを備える。
撮像装置2は、前方カメラ2aと、後方カメラ2bと、右方カメラ2cと、左方カメラ2dとを備える。これらの車載カメラ2a〜2dは、図2に示すように、車両100の前方、後方、右方および左方にそれぞれ配置される。
車載カメラ2a〜2dは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備え、かかる撮像素子を用いて車両100の周囲を撮像する。具体的には、車載カメラ2a〜2dは、車両100の前方、後方、右方および左方をそれぞれ撮像する。
車載カメラ2a〜2dは、魚眼レンズなどの広角レンズを備える。これにより、各車載カメラ2a〜2dは180度以上の画角を有する。したがって、これらの車載カメラ2a〜2dを利用することにより、車両100の全周囲を撮影することができる。
各車載カメラ2a〜2dによって撮像された画像は、出力線5を介して画像処理装置3へ出力される。出力線5は、例えばNTSC(National Television System Committee)ケーブルである。
ここで、各車載カメラ2a〜2dの画素数は、例えば100万画素であり、出力線5により出力可能な最大画素数(例えば30万画素)よりも大きい。このため、画像処理システム1では、後述する画像処理装置3が、各車載カメラ2a〜2dに対し、画像処理装置3へ出力すべき画像領域を指定し、各車載カメラ2a〜2dが、撮像した画像から画像処理装置3によって指定された画像領域を切り出して画像処理装置3へ出力するようにしている。
上記画像領域の指定は、通信線6を介して行われる。通信線6は、例えばCAN(Controller Area Network)バス等の車載LAN(Local Area Network)である。なお、画像処理装置3は、かかる通信線6を介して表示部4や図示しない各種のECU(Electronic Control Unit)等とも接続されており、これら表示部4やECUとの間で種々の情報の送受信を行うことが可能である。
なお、以下では、車載カメラ2a〜2dによって撮像される画像(切り出し前の画像)を「カメラ画像」と記載し、車載カメラ2a〜2dから画像処理装置3へ出力される画像(切り出し後の画像)を「入力画像」と記載する。
画像処理装置3は、車載カメラ2a〜2dから入力される入力画像に対して座標変換処理を行うことにより、車両100の周囲を仮想視点から見た仮想視点画像を生成する。
かかる座標変換処理において、画像処理装置3は、例えば、撮像画像を所定の投影面に投影(マッピング)し、所定の投影面に投影された入力画像のうち仮想視点から見て所定の視野角に含まれる領域の画像を仮想視点画像とする。
例えば、画像処理装置3は、入力画像に含まれるデータの位置と、所定の投影面の位置との対応関係を示すテーブルを記憶しており、かかるテーブルを用いて、入力画像に含まれるデータを、所定の投影面の対応する位置に投影することができる。
かかる所定の投影面は、例えば、略半球状(例えば、お椀形状)をしており、その中心領域(例えば、お椀の底部分)は車両100の位置であり、車両100の位置の外側(例えば、お椀の底部分以外の部分)は、車両100の周囲の領域に相当する。なお、所定の投影面は、例えば、曲面でなく平面であってもよい。
そして、画像処理装置3は、生成した仮想視点画像に対し、車両100を上記仮想視点から見た車両画像をクロマキー合成した合成画像を生成して表示部4に表示させる。
表示部4は、LCD(Liquid Crystal Display)を備え、画像処理装置3から取得した合成画像を含む仮想視点画面を表示することができる。なお、表示部4としては、例えばタッチパネル式ディスプレイを用いることができる。
ところで、画像処理装置3は、表示部4に表示させる画面を例えばバック画面等から上述した仮想視点画面へ切り替える場合に、仮想視点画像の生成に適した入力画像を取得するために、車載カメラ2a〜2dに対して入力画像として出力すべき画像領域の切り替えを要求することがある。
しかしながら、画像処理装置3が車載カメラ2a〜2dに対して画像領域の切り替えを要求してから、車載カメラ2a〜2dが切り替え後の入力画像を出力するまでにはタイムラグが存在する場合がある。このため、バック画面等から仮想視点画面へすぐに切り替えることとすると、要求した入力画像とは異なる入力画像(すなわち、切り替え前の入力画像)を含む意図しない合成画像が表示部4に表示されるおそれがある。さらに、入力画像の切り替えタイミングは車載カメラ2a〜2dごとに異なるため、入力画像が個々に切り替わることによって合成画像が頻繁に変化して画面がちらつくおそれもある。
このような状況を防ぐために、車載カメラ2a〜2dに対して画像領域の指定の切り替えを行ってから予め決められた時間が経過した後に、仮想視点画面への切り替えを行うことも考えられるが、想定外のタイムラグが生じた場合に対処することができない。また、一律に予め決められた時間待機するのは効率的ではない。
そこで、本実施形態に係る画像処理装置3は、バック画面等から仮想視点画面へ切り替える場合に、仮想視点画面に先立って所定の準備画面を表示部4に表示させ、新たに指定した入力画像に対応する出力応答を全ての車載カメラ2a〜2dから通信線6を介して受信した場合に、上記準備画面に代えて仮想視点画面を表示部4に表示させることとした。
かかる点について図3〜図6を参照して説明する。図3は、表示部4に表示させる画面の切替タイミングを示すシーケンス図である。また、図4は、バック画面の一例を示す図であり、図5は、準備画面の一例を示す図であり、図6は、仮想視点画面の一例を示す図である。なお、図3では、一例として、バック画面から仮想視点画面へ表示を切り替える場合のシーケン図を示している。
図3に示すように、前方カメラ2a、後方カメラ2b、右方カメラ2cおよび左方カメラ2dは、カメラ画像から所定の領域を切り出した入力画像を画像処理装置3へそれぞれ出力する。画像処理装置3は、車載カメラ2a〜2dから取得した入力画像のうち、後方カメラ2bからの入力画像を用いたバック画面を生成して表示部4に表示させる。図4に示すように、バック画面101は、後方カメラ2bからの入力画像であるバック画像111を含み、他の車載カメラ2a,2c,2dからの入力画像を含まない画面のことである。
画像処理装置3は、表示部4に表示させる画面(バック画面101や後述する仮想視点画面103)と、入力画像としてカメラ画像から切り出すべき画像領域(以下、「画像パターン」と記載する)との対応関係を示すテーブルを記憶している。また、車載カメラ2a〜2dは、入力画像としてカメラ画像から切り出す画像領域と、上記画像パターンとの対応関係を示すテーブルを記憶している。
画像処理装置3は、表示部4に現在表示されている画面に対応する画像パターンを通信線6経由で定期的に車載カメラ2a〜2dへ送信する。また、車載カメラ2a〜2dは、画像処理装置3から画像パターンを受信すると、現在出力中の入力画像に対応する画像パターン応答を画像処理装置3へ送信する。
例えば、バック画面101の表示中において、画像処理装置3は、バック画面101に対応する画像パターンP1を車載カメラ2a〜2dへ送信する。また、画像パターンP1を受信した車載カメラ2a〜2dは、画像パターンP1に対応する画像領域、すなわち、バック画面101に対応する画像領域から入力画像を切り出している場合には、画像パターン応答P1を画像処理装置3へ送信する。
つづいて、例えばユーザが仮想視点画面への切り替え操作を行うことにより、バック画面101から仮想視点画面への表示切替条件が成立すると、画像処理装置3は、まず、表示部4に対して準備画面を表示させる。
準備画面102は、図5に示すように、準備画像112を含む画面である。準備画像112は、黒色の単色画像であり、図示しない記憶部に予め記憶される。
このように、単色画像は比較的目立ちにくいため、準備画像112として単色画像を用いることで、例えば文字や模様等を含んだ画像を準備画像112として用いる場合と比較して運転中のユーザの注意を引きにくくすることができる。特に、本実施形態のように、黒色の単色画像を用いることにより、運転中のユーザの注意をより引きにくくすることができる。なお、準備画像112は、黒色以外の単色画像であってもよい。また、準備画像112は、必ずしも単色画像であることを要しない。
また、画像処理装置3は、バック画面101から仮想視点画面への表示切替条件が成立すると、仮想視点画面103に対応する画像パターンP2を車載カメラ2a〜2dへ送信する。
ここで、仮想視点画面103は、図6に示すように、例えばバック画像111と合成画像113とを含む画面である。合成画像113は、車載カメラ2a〜2dからの入力画像に基づいて生成される仮想視点画像115に対して車両画像116をクロマキー合成した画像である。なお、仮想視点画面103は、必ずしもバック画像111を含んでいることを要しない。
車載カメラ2a〜2dは、画像処理装置3から画像パターンP2を受信すると、カメラ画像から切り出す画像領域を画像パターンP1に対応する領域から画像パターンP2に対応する領域へ切り替え、画像パターンP2に対応する領域から切り出した入力画像を画像処理装置3へそれぞれ出力する。
また、車載カメラ2a〜2dは、出力した入力画像に対応する画像パターン応答P2を画像処理装置3に対してそれぞれ送信する。そして、画像処理装置3は、車載カメラ2a〜2dから受信した画像パターン応答P2の全てが画像パターンP2と一致した場合に、準備画面102に代えて仮想視点画面103を表示部4に表示させる。
上述したように、表示切替条件が成立した時点で仮想視点画面103への切り替えを行うと、意図しない合成画像を含む仮想視点画面103が表示部4に表示されるおそれがある。これに対し、本実施形態に係る画像処理装置3では、表示切替条件が成立した後、仮想視点画面103に先立って準備画面102を表示部4に表示させておくこととした。このため、意図しない合成画像113を含んだ仮想視点画面103が表示部4に表示されることを防止することができる。
次に、本実施形態に係る車載カメラ2a〜2dおよび画像処理装置3の具体的な構成および動作について説明する。まず、車載カメラ2a〜2dおよび画像処理装置3の具体的な構成について図7を参照して説明する。図7は、本実施形態に係る画像処理システム1の具体的な構成例を示す図である。なお、図7では、画像処理システム1の特徴を説明するために必要な構成要素のみを示しており、一般的な構成要素についての記載を省略している。
図7に示すように、車載カメラ2a〜2dは、I/F(インタフェース)部21a〜21dと、制御部22a〜22dとを備える。I/F部21a〜21dは、例えばCAN通信用のインタフェースであり、通信線6を介して画像処理装置3との間で画像データを除く各種のデータを送受信する。
例えば、I/F部21a〜21dは、通信線6を介して画像処理装置3から画像パターンを受信して制御部22a〜22dへ渡す。また、I/F部21a〜21dは、制御部22a〜22dから受け取った画像パターン応答を通信線6を介して画像処理装置3へ送信する。
制御部22a〜22dは、画像パターンに対応する画像領域をカメラ画像から切り取って入力画像として出力線5経由で画像処理装置3へ出力する。また、制御部22a〜22dは、カメラ画像から切り取った画像領域に対応する画像パターン応答をI/F部21a〜21dおよび通信線6経由で画像処理装置3へ送信する。
なお、車載カメラ2a〜2d間において、入力画像および画像パターン応答の出力・送信タイミングは同期されていない。すなわち、入力画像および画像パターン応答は、車載カメラ2a〜2dからそれぞれ異なるタイミングで出力・送信される。
画像処理装置3は、画像取得部31と、表示制御部32と、I/F部33と、画面切替判定部34と、パターン指定部35と、パターン照合部36とを備える。
画像取得部31は、出力線5を介して車載カメラ2a〜2dから入力画像を取得する。また、画像取得部31は、取得した入力画像を表示制御部32へ出力する。
表示制御部32は、入力画像を用いた各種の画像を生成して表示部4に表示させる。例えば、表示制御部32は、後方カメラ2bからの入力画像であるバック画像111を用いたバック画面101(図4参照)を表示部4へ表示させる。また、表示制御部32は、車載カメラ2a〜2dの各入力画像に対して上述した座標変換処理や合成処理を行うことによって合成画像113(図6参照)を生成して合成画像113を含む仮想視点画面103を表示部4へ表示させる。
表示制御部32は、後述する画面切替判定部34からの情報に従って、表示部4に表示すべき画面を決定する。例えば、表示制御部32は、表示部4に表示すべき画面がバック画面101であることを示す情報が画面切替判定部34から出力されている場合には、バック画面101を表示部4へ表示させる。
一方、表示部4に表示すべき画面が仮想視点画面103であることを示す情報が画面切替判定部34から出力された場合、表示制御部32は、仮想視点画面103ではなく、準備画像112(図5参照)を表示部4へ表示させる。また、表示制御部32は、車載カメラ2a〜2dから送信される画像パターン応答の全てが画像パターンと一致する旨の通知を後述するパターン照合部36から受けた場合に、仮想視点画面103を表示部4へ表示させる。
その他、表示制御部32は、表示部4に現在表示させている画面の種別を示す情報を後述するパターン指定部35へ出力する処理を行う。例えば、バック画面101を表示部4に表示させている場合には、表示部4に現在表示させている画面がバック画面101であることを示す情報をパターン指定部35へ出力する。
I/F部33は、例えばCAN通信用のインタフェースであり、通信線6を介して車載カメラ2a〜2dおよび各種のECUとの間で各種のデータを送受信する。
例えば、I/F部33は、車両100の現在のシフトレバーのポジションを示すシフト情報をシフトECU7から通信線6を介して受信し、車両100の現在の車速を示す車速情報を車速ECU8から通信線6を介して受信する。そして、I/F部33は、受信したシフト情報および車速情報を画面切替判定部34へ渡す。なお、シフトECU7および車速ECU8は、I/F部71,81を備えており、かかるI/F部71,81および通信線6を介して画像処理装置3と各種の情報を送受信する。
また、I/F部33は、車載カメラ2a〜2dから通信線6を介して画像パターン応答を受信し、受信した画像パターン応答をパターン照合部36へ渡す。
画面切替判定部34は、表示切替条件の成否を判定する。表示部4に表示される画面は、例えば、画面切替スイッチ9へのユーザの入力操作の他、車両100のシフトレバーのポジションや車速などに応じて選択される。なお、画面切替スイッチ9への入力操作は、例えば、表示部4上へのタッチ操作であってもよい。
例えば、画面切替判定部34は、仮想視点画面103へ切り替える入力操作が画面切替スイッチ9に対してなされた場合に、仮想視点画面103への表示切替条件が成立したと判定する。また、画面切替判定部34は、シフトECU7から取得されるシフト情報が、例えば「D」(ドライブ)から「R」(リア)に変化した場合、あるいは、車速ECU8から取得される車速情報が、例えば10km/hに変化した場合にも、仮想視点画面103への表示切替条件が成立したと判定する。
画面切替判定部34は、表示切替条件が成立したと判定した場合、切り替え後の表示画面の種別を示す情報を表示制御部32およびパターン指定部35へ出力する。
パターン指定部35は、車載カメラ2a〜2dに対して画像パターンの指定を行う。例えば、パターン指定部35は、現在の表示画面がバック画面101である旨の情報が表示制御部32から出力されている場合、画像パターンP1(図3参照)をI/F部33および通信線6を介して車載カメラ2a〜2dへ送信する。
また、パターン指定部35は、切り替え後の表示画面の種別を示す情報を画面切替判定部34から取得した場合に、画像パターンの切り替えの要否を判定する処理を行う。
例えば、パターン指定部35は、現在の表示画面がバック画面101である旨の情報が表示制御部32から出力されている場合において、切り替え後の表示画面が仮想視点画面103である旨の情報を画面切替判定部34から取得した場合、画像パターンの切り替え(P1→P2)が必要であると判定する。
パターン指定部35は、画像パターンの切り替えが必要であると判定すると、切り替え後の画像パターンをI/F部33および通信線6を介して車載カメラ2a〜2dへ送信する。また、パターン指定部35は、切り替え後の画像パターンをパターン照合部36にも出力する。
一方、パターン指定部35は、画像パターンの切り替えが不要であると判定すると、その旨をパターン照合部36へ出力する。
上述したように、画像処理装置3は、表示部4に表示させる画面と画像パターンとの対応関係を示すテーブルを記憶しており、パターン指定部35は、かかるテーブルを用いて上記判定を行う。
パターン照合部36は、車載カメラ2a〜2dからI/F部33経由で取得される画像パターン応答と、パターン指定部35から出力される画像パターンとを照合し、車載カメラ2a〜2dから送信される全ての画像パターン応答が画像パターンと一致するか否かを判定する。
パターン照合部36は、車載カメラ2a〜2dから送信される全ての画像パターン応答の全てが画像パターンと一致すると判定した場合、表示制御部32に対して仮想視点画面103の表示部4への表示を指示する。
一方、パターン照合部36は、上記判定処理を所定回数繰り返しても、何れかの車載カメラ2a〜2dからの画像パターン応答が画像パターンと一致しない場合には、画像パターン応答が画像パターンと一致しない車載カメラ2a〜2dを特定する情報とともに、代替仮想視点画面の表示部4への表示を指示する。
パターン照合部36は、画像パターンの切り替えが不要である旨の情報をパターン指定部35から取得した場合には、上記判定処理を行うことなく、表示制御部32に対して仮想視点画面103の表示部4への表示を指示する。
次に、本実施形態に係る画像処理装置3の具体的動作について図8を参照して説明する。図8は、本実施形態に係る画像処理装置3が実行する処理の処理手順を示すフローチャートである。なお、図8には、表示部4の表示画面が仮想視点画面103または代替仮想視点画面に切り替わるまでの処理手順を示している。
図8に示すように、画像処理装置3は、表示切替条件が成立するか否かを判定し(ステップS101)、表示切替条件が成立したと判定すると(ステップS101,Yes)、表示部4に準備画面102を表示させる(ステップS102)。なお、表示切替条件が成立しない場合(ステップS101,No)、画像処理装置3は、表示切替条件が成立するまでステップS101の判定処理を繰り返す。
つづいて、画像処理装置3は、画像パターンの切り替えの要否を判定し(ステップS103)、画像パターンの切り替えが必要と判定すると(ステップS103,Yes)、切り替え後の画像パターンを車載カメラ2a〜2dへ送信する(ステップS104)。
つづいて、画像処理装置3は、車載カメラ2a〜2dから送信される全ての画像パターン応答がステップS104で送信された画像パターンと一致するか否かを判定する(ステップS105)。そして、全ての画像パターン応答が画像パターンと一致すると判定すると(ステップS105,Yes)、準備画面102に代えて仮想視点画面103を表示部4に表示させて(ステップS106)、処理を終える。
一方、ステップS103において、画像パターンの切り替えが不要と判定した場合(ステップS103,No)、画像処理装置3は、仮想視点画面103を表示部4に表示させて(ステップS106)、処理を終える。
このように、画像処理装置3は、仮想視点画面103への表示切替条件が成立した場合において(ステップS101,Yes)、画像パターンの切り替えが不要と判定した場合、すなわち、表示切替条件成立後の画像パターンが、表示切替条件が成立する直前の画像パターンと同一である場合には、ステップS105の判定処理を行うことなく、仮想視点画面103を表示部4に表示させることとした。これにより、準備画面102の表示時間、すなわち、仮想視点画面103が表示されるまでの待ち時間を短縮することができる。
また、ステップS105において、何れかの車載カメラ2a〜2dからの画像パターン応答が画像パターンと一致しない場合(ステップS105,No)、画像処理装置3は、ステップS105の判定処理をN回(Nは、0より大きい整数)繰り返したか否かを判定する(ステップS107)。この判定処理において、ステップS105の判定処理をN回繰り返していない場合には(ステップS107,No)、処理をステップS105へ戻す。また、ステップS105の判定処理をN回繰り返したと判定した場合には(ステップS107,Yes)、画像処理装置3は、準備画面102に代えて代替仮想視点画面を表示部4に表示させて(ステップS108)、処理を終える。
ここで、代替仮想視点画面について図9を参照して説明する。図9は、代替仮想視点画面の一例を示す図である。
図9に示すように、代替仮想視点画面103Xは、仮想視点画面103(図6参照)における合成画像113に代えて代替合成画像113Xを含む画面である。表示制御部32は、パターン照合部36から代替仮想視点画面の表示部4への表示を指示された場合に、画像パターン応答が画像パターンと一致しない車載カメラ2a〜2d(ここでは、左方カメラ2d)から入力される入力画像に代えて所定の代替画像117を用いた代替合成画像113Xを生成して表示部4に表示させる。
画像処理装置3は、各車載カメラ2a〜2dに対応する代替画像117を記憶部(図示せず)に記憶しており、表示制御部32は、画像パターン応答が画像パターンと一致しない車載カメラ2a〜2dに対応する代替画像117を記憶部から取り出して代替合成画像113Xを生成する。
このように、本実施形態に係る表示制御部32は、何れかの車載カメラ2a〜2dから取得される画像パターン応答が画像パターンと一致しない場合には、画像パターン応答が画像パターンと一致しない車載カメラ2a〜2dから入力される入力画像に代えて、所定の代替画像117を用いた代替合成画像113Xを生成して表示部4に表示させる。これにより、何れかの車載カメラ2a〜2dから指定と異なる入力画像が入力されている場合であっても、意図しない合成画像が表示されることを防止しつつ、ユーザに対して合成画像を提示することができる。
代替画像117としては、黒色の単色画像を用いることができる。このように、単色画像を用いることで、仮想視点画像115Xのうち車載カメラ2a〜2dからの入力画像を用いて生成された部分と、代替画像117を用いて生成された部分との区別が容易となる。特に、本実施形態のように、代替画像117として黒色の単色画像を用いることにより、両者を明確に区別することができる。なお、代替画像117は、黒色以外の単色画像であってもよい。また、代替画像117は、必ずしも単色画像であることを要しない。
ところで、代替合成画像113Xには、代替画像117と入力画像との合成部分が含まれる。例えば、図9に示す代替合成画像113Xには、前方カメラ2aからの入力画像と代替画像117との合成部分と、後方カメラ2bからの入力画像と代替画像117との合成部分とが含まれる。
表示制御部32は、代替画像117と入力画像との合成部分を代替画像117に置き換えるようにしてもよい。これにより、仮想視点画像115Xのうち、車載カメラ2a〜2dからの入力画像のみを用いて生成される仮想視点画像部分と、代替画像117を用いて生成された部分との境界線を明確化することができる。
なお、表示制御部32は、車載カメラ2a〜2dから入力される全入力画像を用いて仮想視点画像115Xを生成したうえで、仮想視点画像115Xの一部を代替画像117と置き換えることによって代替合成画像113Xを生成するようにしてもよい。
上述してきたように、本実施形態に係る画像処理装置3は、表示制御部32と、パターン指定部35と、パターン照合部36とを備える。表示制御部32は、複数の車載カメラ2a〜2dから入力される入力画像に基づき、車両周囲を仮想視点から見た合成画像113を生成して表示部4に表示させる。パターン指定部35は、車載カメラ2a〜2dに対し、複数の画像パターンの中から入力画像として出力すべき画像パターンを指定する。パターン照合部36は、車載カメラ2a〜2dからそれぞれ送信される画像パターン応答の全てが画像パターンと一致するか否かを判定する。表示制御部32は、合成画像113への表示切替条件が成立した場合に、合成画像113に先立ち所定の準備画像112を表示部4に表示させ、パターン照合部36によって画像パターン応答の全てが画像パターンと一致すると判定された場合に、準備画像112に代えて合成画像113を表示部4に表示させる。
したがって、本実施形態に係る画像処理装置3によれば、意図しない合成画像が表示されることを防止することができる。
ところで、上述した実施形態では、準備画像112として、単色画像を用いる場合の例について説明したが、単色画像に代えて、仮想視点画像115のレイアウト画像を準備画像として用いることとしてもよい。かかる点について図10を参照して説明する。図10は、レイアウト画像の一例を示す図である。
図10に示すように、レイアウト画像104は、バック画像111の表示領域を示す枠画像118と、合成画像113の表示領域を示す枠画像119と、車両画像116とを含み、バック画像111および仮想視点画像115を含まない画像である。
このように、表示制御部32は、表示部4の表示領域における合成画像113の表示位置を示すレイアウト画像104を準備画像として表示部4に表示させてもよい。これにより、次に切り替わる画面をユーザにいち早く認識させることができる。
以上、本願に係る画像処理装置および画像処理方法の実施例のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
1 画像処理システム
2 撮像装置
2a〜2d 車載カメラ
3 画像処理装置
4 表示部
32 表示制御部
35 パターン指定部
36 パターン照合部
101 バック画面
102 準備画面
103 仮想視点画面
111 バック画像
112 準備画像
113 合成画像
115 仮想視点画像

Claims (7)

  1. 複数の車載カメラから入力される入力画像に基づき、車両周囲を仮想視点から見た合成画像を生成して表示部に表示させる表示制御部と、
    前記車載カメラに対し、複数の画像パターンの中から前記入力画像として出力すべき画像パターンを指定するパターン指定部と、
    前記車載カメラからそれぞれ送信される画像パターン応答の全てが前記画像パターンと一致するか否かを判定するパターン照合部と
    を備え、
    前記表示制御部は、
    前記合成画像への表示切替条件が成立した場合に、所定の準備画像を前記表示部に表示させ、前記パターン照合部によって前記画像パターン応答の全てが前記画像パターンと一致すると判定された場合に、前記準備画像に代えて前記合成画像を前記表示部に表示させること
    を特徴とする画像処理装置。
  2. 前記パターン照合部は、
    前記表示切替条件の成立後に前記パターン指定部から前記車載カメラへ送信される前記画像パターンが、前記表示切替条件の成立前における前記画像パターンと同一である場合には、前記判定を行うことなく、前記表示制御部に対して前記合成画像の表示を指示すること
    を特徴とする請求項1に記載の画像処理装置。
  3. 前記表示制御部は、
    何れかの前記画像パターン応答が前記画像パターンと一致しない場合には、前記画像パターン応答が前記画像パターンと一致しない前記車載カメラから入力される前記入力画像に代えて所定の代替画像を用いた代替合成画像を生成して前記表示部に表示させること
    を特徴とする請求項1または2に記載の画像処理装置。
  4. 前記表示制御部は、
    前記準備画像として単色画像を前記表示部に表示させること
    を特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。
  5. 前記表示制御部は、
    前記準備画像として黒色の単色画像を前記表示部に表示させること
    を特徴とする請求項4に記載の画像処理装置。
  6. 前記表示制御部は、
    前記合成画像の表示位置を示すレイアウト画像を前記準備画像として前記表示部に表示させること
    を特徴とする請求項1〜3のいずれか一つに記載の画像処理装置。
  7. 複数の車載カメラから入力される入力画像に基づき、車両周囲を仮想視点から見た合成画像を生成して表示部に表示させる表示制御工程と、
    前記車載カメラに対し、複数の画像パターンの中から前記入力画像として出力すべき画像パターンを指定するパターン指定工程と、
    前記車載カメラからそれぞれ送信される画像パターン応答の全てが前記画像パターンと一致するか否かを判定するパターン照合工程と
    を含み、
    前記表示制御工程は、
    前記合成画像への表示切替条件が成立した場合に、所定の準備画像を前記表示部に表示させ、前記パターン照合工程によって前記画像パターン応答の全てが前記画像パターンと一致すると判定された場合に、前記準備画像に代えて前記合成画像を前記表示部に表示させること
    を特徴とする画像処理方法。
JP2015117401A 2015-06-10 2015-06-10 画像処理装置および画像処理方法 Active JP6261542B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015117401A JP6261542B2 (ja) 2015-06-10 2015-06-10 画像処理装置および画像処理方法
EP16172535.3A EP3104599A1 (en) 2015-06-10 2016-06-01 Image processing device and image processing method
US15/170,361 US10037595B2 (en) 2015-06-10 2016-06-01 Image processing device and image processing method
CN201610405518.2A CN106254763B (zh) 2015-06-10 2016-06-08 图像处理装置和图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015117401A JP6261542B2 (ja) 2015-06-10 2015-06-10 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2017005497A true JP2017005497A (ja) 2017-01-05
JP6261542B2 JP6261542B2 (ja) 2018-01-17

Family

ID=56098096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015117401A Active JP6261542B2 (ja) 2015-06-10 2015-06-10 画像処理装置および画像処理方法

Country Status (4)

Country Link
US (1) US10037595B2 (ja)
EP (1) EP3104599A1 (ja)
JP (1) JP6261542B2 (ja)
CN (1) CN106254763B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020017077A (ja) * 2018-07-25 2020-01-30 株式会社デンソーテン 事故通報装置及び事故通報方法
JP7569010B2 (ja) 2021-02-10 2024-10-17 トヨタ自動車株式会社 車両用画像処理システム、車両及び画像送信方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6626817B2 (ja) * 2016-11-30 2019-12-25 京セラ株式会社 カメラモニタシステム、画像処理装置、車両及び画像処理方法
JP7069692B2 (ja) * 2017-12-20 2022-05-18 トヨタ自動車株式会社 画像表示装置
JP7336776B2 (ja) * 2021-03-24 2023-09-01 パナソニックIpマネジメント株式会社 車両監視装置、および車両監視システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012214083A (ja) * 2011-03-31 2012-11-08 Fujitsu Ten Ltd 画像生成装置、画像表示システム及び画像生成方法
JP2015074258A (ja) * 2013-10-04 2015-04-20 本田技研工業株式会社 車両周辺表示装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3599639B2 (ja) * 2000-05-26 2004-12-08 松下電器産業株式会社 画像処理装置
JP3269056B2 (ja) 2000-07-04 2002-03-25 松下電器産業株式会社 監視システム
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
EP2280547A4 (en) * 2008-05-19 2013-02-13 Panasonic Corp VEHICLE SURROUNDING MONITORING DEVICE AND VEHICLE ENTOURING MONITORING METHOD
JP2011135253A (ja) * 2009-12-24 2011-07-07 Fujitsu Ten Ltd 画像処理装置、画像処理システム、および、画像処理方法
KR101491324B1 (ko) * 2013-10-08 2015-02-06 현대자동차주식회사 차량용 영상 획득 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012214083A (ja) * 2011-03-31 2012-11-08 Fujitsu Ten Ltd 画像生成装置、画像表示システム及び画像生成方法
JP2015074258A (ja) * 2013-10-04 2015-04-20 本田技研工業株式会社 車両周辺表示装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020017077A (ja) * 2018-07-25 2020-01-30 株式会社デンソーテン 事故通報装置及び事故通報方法
JP7168367B2 (ja) 2018-07-25 2022-11-09 株式会社デンソーテン 事故通報装置
JP7569010B2 (ja) 2021-02-10 2024-10-17 トヨタ自動車株式会社 車両用画像処理システム、車両及び画像送信方法

Also Published As

Publication number Publication date
JP6261542B2 (ja) 2018-01-17
CN106254763A (zh) 2016-12-21
US10037595B2 (en) 2018-07-31
US20160364842A1 (en) 2016-12-15
EP3104599A1 (en) 2016-12-14
CN106254763B (zh) 2019-04-23

Similar Documents

Publication Publication Date Title
JP6261542B2 (ja) 画像処理装置および画像処理方法
WO2015159407A1 (ja) 車載表示装置
JP6084097B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2008033901A (ja) 車両用画像表示システム
JP2008017311A (ja) 車両用映像表示装置及び車両周囲映像の表示方法
JP2013129386A (ja) 車両用後方監視装置
JP2008301091A (ja) 車両用周辺監視装置
JP5924370B2 (ja) 映像表示装置、映像切替装置、及び映像表示方法
JP2016092782A (ja) 車両用視界支援装置
JP2009141490A (ja) 合成画像生成装置および合成画像生成方法
JP2012065228A (ja) 画像処理装置、画像表示システム及び画像表示方法
JP2009049479A (ja) 車両周辺画像表示装置および表示モード情報表示方法
JP2016184926A (ja) 画像処理装置
JP6370833B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
JP2004312063A (ja) 撮像装置、画像表示システム及び画像表示方法
JP6327144B2 (ja) 画像処理システム及び画像処理装置
JP6906576B2 (ja) 画像処理装置、画像処理方法および車載装置
JP6148896B2 (ja) 画像生成装置及び画像生成方法
JP2005244574A (ja) 画像表示装置、画像表示プログラム、記録媒体、画像表示方法および車載端末装置
JP2004356962A (ja) 車両用映像表示装置
JP6182883B2 (ja) 映像信号処理装置、映像表示装置及び映像信号処理方法
JP2005184397A (ja) 表示方法、表示システム、表示装置および撮影装置
TWI555655B (zh) 攝影機、遠端控制系統及遠端控制方法
JP5484020B2 (ja) マルチプロジェクションシステムの制御装置、制御方法、プログラム
JP2018100066A (ja) 運転支援装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171212

R150 Certificate of patent or registration of utility model

Ref document number: 6261542

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250