JP6413830B2 - 車載カメラ - Google Patents

車載カメラ Download PDF

Info

Publication number
JP6413830B2
JP6413830B2 JP2015033937A JP2015033937A JP6413830B2 JP 6413830 B2 JP6413830 B2 JP 6413830B2 JP 2015033937 A JP2015033937 A JP 2015033937A JP 2015033937 A JP2015033937 A JP 2015033937A JP 6413830 B2 JP6413830 B2 JP 6413830B2
Authority
JP
Japan
Prior art keywords
vehicle
camera
angle
white balance
optical axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015033937A
Other languages
English (en)
Other versions
JP2016158065A (ja
Inventor
恭佑 河野
恭佑 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu General Ltd
Original Assignee
Fujitsu General Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu General Ltd filed Critical Fujitsu General Ltd
Priority to JP2015033937A priority Critical patent/JP6413830B2/ja
Publication of JP2016158065A publication Critical patent/JP2016158065A/ja
Application granted granted Critical
Publication of JP6413830B2 publication Critical patent/JP6413830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、車載カメラに関し、特にホワイトバランス調整を改良した車載カメラに関する。
従来、自動車の左右の後方の安全確認にはサイドミラーが使用されている。近年においては、サイドミラーの代わりに撮像装置をサイドミラー代替カメラとして使用する動向がある。ミラーの代替として撮像装置を使用した場合、従来のサイドミラーで映っていた範囲を撮像装置で撮像する必要がある。従来サイドミラーは運転手の身長や確認する範囲に合わせて、上下左右の角度の調整が可能である。このため、従来のサイドミラーの調整範囲も含めたより広範囲を撮像装置で撮像する必要がある。この場合、撮像範囲には自動車左右後方の路面や縁石などの障害物及び自車の車体の一部が入るように撮像装置の設置位置が決められる。
一般的に撮像装置には、撮影された画像のホワイトバランスを自動調整するオートホワイトバランス処理が行われる。特に車載用の撮像装置などにおいては、画面全体の緑(G)信号レベルを基準として赤(R)信号あるいは青(B)信号を同じレベルにする様に赤(R)と青(B)のゲインを調整するオートホワイトバランス処理が行われる(例えば特許文献1)。
特開平8−18995号公報[0004]〜[0007]、[図5]
サイドミラー代替カメラやバックカメラといった車載用の撮像装置は自車の車体の少なくとも一部を撮像範囲に入れて使用される。このとき、自車の車体の一部を含んだ撮像画像全体に対しオートホワイトバランス処理が実行される。オートホワイトバランス処理とは自動で撮像画像全体のRGBの各色成分毎の総和値を均一に補正する処理のため、自車の車体の一部が撮像範囲に入っていると、自車の車体の色に影響され、自車の車体の一部以外の撮像画像が最適なホワイトバランスにならないという問題があった。
上記問題点をより詳述すると撮像範囲に入る自車の車体の一部の色が赤(R)であるときには、撮像装置のオートホワイトバランス処理は赤(R)のゲインを下げる処理を行う。結果、自車の車体の一部以外の撮像領域の画像は赤(R)の色再現が悪くなり、青(B)や緑(G)が強調された画像となってしまう。
本発明は、上記課題を鑑みてなされたものであり、撮像範囲に自車の車体の一部が入る場合においても、適切にオートホワイトバランス処理を行うことのできる車載カメラを提供することを目的とする。
上記目的を達成するため、本発明の一形態に係る車載カメラは、レンズと撮像素子とを少なくとも備え、車両に搭載され前記車両周辺及び前記車両の車体の一部を撮像し、前記レンズの光軸の方向を水平及び垂直の二軸方向に各々制御可能な車載カメラにおいて、予め定められた複数の前記車体の色情報と前記光軸の前記二軸方向の少なくとも一方の軸方向の角度との組み合わせ毎に前記撮像画像のホワイトバランスの調整データが記憶されたデータ記憶部と、入力された前記車体の前記色情報と前記角度との組み合わせに対応する前記調整データを前記データ記憶部から読み出し、読み出した前記調整データをもとに前記撮像画像のホワイトバランスの調整を行う画像処理部とを備える。
この車載カメラでは、画像処理部が、画像処理部が、入力された車体の色情報とレンズの光軸の角度との組み合わせに対応する調整データをデータ記憶部から読み出し、この調整データをもとに撮像画像のオートホワイトバランス処理を行うので、光軸の角度によって撮像範囲に占める割合が変わる自車の車体の一部の色によるオートホワイトバランス処理への悪影響を抑制することができ、撮像画像のホワイトバランスを最適にすることができる。
上記の車載カメラは、前記車体の色情報と前記光軸の角度との組み合わせ情報を外部より受信し、前記画像処理部に出力する制御部をさらに備えるものであってよい。
本発明によれば、撮像範囲に自車の車体の一部が入る場合においても、最適な撮像画像のオートホワイトバランス処理を行うことができる。
本発明に係る実施の形態である車載カメラシステムの全体の構成を示す図である。 2つの車載カメラ100L、100Rのうち一方の車載カメラのメカ構成を示す斜視図である。 車載カメラシステム1および2つの車載カメラ100L、100Rの構成をブロック化して示す図である。 車載カメラ100のレンズの光軸の仰角の違いによる撮像画像の変化を示す図である。 車載カメラ100のレンズの光軸の方位角の違いによる撮像画像の変化を示す図である。 データ記憶部15に記憶された調整データのテーブル構造を示す図である。
以下、図面を参照しながら、本発明に係る実施の形態を説明する。
まず、本発明に係る実施の形態である車載カメラを用いた車載カメラシステムの構成を説明する。
図1は、本発明に係る実施の形態である車載カメラシステムの全体の構成を示す図である。
同図に示すように、この車載カメラシステム1は、左右の車載カメラ100L、100R、コントローラ200および左右のモニター300L、300Rを備える。
車載カメラ100L、100Rは、車両Dの車両の左右の両側部の運転者より前の位置に取り付けられ、車両Dの左右の後方の画像を撮像するものである。すなわち、この車載カメラシステム1は車両Dの左右のサイドミラーに代わる手段として利用される。
コントローラ200は、マイクロコンピュータなどにより構成される。コントローラ200は、車両Dに搭載されている車両Dの各部の制御を行う電子制御ユニットの機能の一部として実現されてもよい。コントローラ200は、車載カメラ100L、100Rおよびモニター300L、300Rを制御し、左右の車載カメラ100L、100Rにより撮像された各画像を、左右の対応するモニター300L、300Rにリアルタイムで映し出す。
この図のように車載カメラ100L、100Rおよびモニター300L、300Rが設置された場合、コントローラ200は、左側の車載カメラ100Lの画像を左側のモニター300Lに、右側の車載カメラ100Rの画像を右側のモニター300Rに映し出す。
モニター300L、300Rは、車載カメラ100L、100Rにより撮像された画像を表示する。
[車載カメラについて]
次に、車載カメラシステム1における車載カメラ100L、100Rの構成を説明する。
図2は、2つの車載カメラ100L、100Rのうち一方の車載カメラのメカ構成を示す斜視図である。
なお、2つの車載カメラ100L、100Rは同じメカ構成を有するため、本明細書では、2つの車載カメラ100L、100Rのうち一方を特定して説明する必要がない場合には「車載カメラ100」と表記する。
同図に示すように、車載カメラ100は、レンズ11aの光軸Cの方向を水平及び垂直の二軸(x軸およびy軸)方向に制御可能なように構成される。すなわち、車載カメラ100は、主にカメラ本体10と、カメラ本体10のレンズ11aの光軸Cの仰角を調整させるようにカメラ本体10を回動させるチルトモータ20と、カメラ本体10およびチルトモータ20を支持するカメラベース30と、カメラ本体10のレンズ11の光軸Cの方位角を調整させるようにカメラベース30を回動させるパンモータ40とで構成される。パンモータ40は車両Dの車体との連結のための部材50に固定される。
図3は、車載カメラシステム1および2つの車載カメラ100L、100Rの機能的な構成をブロック化して示す図である。
なお、車載カメラ100の機能的な構成についても2つの車載カメラ100L、100Rとも共通である。
同図に示すように、車載カメラ100は、レンズ11a及び11bと、レンズ11a及び11bによって結像された被写体像を光電変換するCCD(Charge Coupled Device)イメージセンサ、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像素子12と、撮像素子12により変換された信号のA/D変換及び欠陥画素補正などを行ってRAWデータを生成する前置信号処理部13とを備える。
また、車載カメラ100は、前置信号処理部13より出力されたRAWデータに対してオートホワイトバランス処理をはじめとする各種の信号処理を行う画像処理部14と、車両Dに用いられる可能性のある複数の車体の色とレンズ11aの光軸Cの仰角および方位角との組み合わせ毎の撮像画像のホワイトバランスの調整データが予め記憶されたデータ記憶部15と、画像処理部14にて処理された画像データを出力形式に合わせたビデオフォーマットに変換するエンコーダ16とを備える。
さらに、車載カメラ100は、2つのモータ制御入力端子21、41と、チルトモータ20を車載カメラシステム1のコントローラ200からモータ制御入力端子21を通じて印加されたチルトモータ制御情報をもとに駆動するチルトモータ駆動回路22と、パンモータ40を車載カメラシステム1のコントローラ200からモータ制御入力端子41を通じて印加されたパンモータ制御情報をもとに駆動するパンモータ駆動回路42とを備える。
さらに、車載カメラ100はカメラコントローラ17を有する。カメラコントローラ17は、車載カメラシステム1のコントローラ200は複数の色車体Dの色の候補を表示し、ユーザは車体Dの色と同じ色をその中から選択する。こうして選択された車体の色情報、レンズ11aの光軸Cの仰角情報および方位角情報などを外部通信端子19を通じて受信し、画像処理部14に通知する処理などを行う。
[車載カメラシステム1のコントローラ200]
コントローラ200には、調整対象の車載カメラ100を左右の車載カメラ100L、100Rの間で切り替える左右切替スイッチ61と、左右切替スイッチ61によって選択された車載カメラ100の仰角および方位角のドライバからの調整操作を受け付ける十字キー62が接続される。
十字キー62は、仰角の1ステップ分の角度のプラス方向への調整の指示を受け付ける仰角プラスキーと、仰角の1ステップ分の角度のマイナス方向への調整の指示を受け付ける仰角マイナスキーと、方位角の1ステップ分の角度のプラス方向への調整の指示を受け付ける方位角プラスキーと、方位角の1ステップ分の角度のマイナス方向への調整の指示を受け付ける方位角マイナスキーとを有する。
コントローラ200は、左右の車載カメラ100L、100Rのうち、ユーザによる左右切替スイッチ61の操作によって選択された車載カメラ100を角度調整対象として設定する。コントローラ200は、角度調整対象として設定された車載カメラ100についてユーザによる十字キー62の操作によって受け付けた指示に従って、チルトモータ20の制御またはパンモータ40の制御のための制御情報を生成する。
例えば、基準の仰角としてn度が初期設定され、基準の方位角としてm度が初期設定されているものとする。仰角の1ステップの制御量をΔa、方位角の1ステップの制御量をΔbとする。十字キー62の「仰角+」キーが一回操作(例えば押圧操作)されると、コントローラ200は、仰角が1ステップ分増す方向(上方向)に光軸Cを調整させるためのチルトモータ制御情報を角度調整対象として設定された車載カメラ100のチルトモータ駆動回路22に供給する。チルトモータ駆動回路22は、このチルトモータ制御情報を受けると、車載カメラ100のレンズ11aの光軸Cの仰角を1ステップ分の制御量だけ仰角が増す方向に調整させるための駆動信号をチルトモータ20に印加する。これにより、車載カメラ100のレンズ11aの光軸Cの仰角はn+Δaに調整される。
また、十字キー62の「方位角−」キーが一回操作(例えば押圧操作)された場合には、コントローラ200は、方位角が1ステップ分減る方向(左方向)に調整させるためのパンモータ制御情報を角度調整対象として設定された車載カメラ100のパンモータ駆動回路42に供給する。パンモータ駆動回路42は、このパンモータ制御情報を受けると、車載カメラ100のレンズ11aの光軸Cの方位角を1ステップ分の制御量だけ方位角が減る方向(左方向)に調整させるための駆動信号をパンモータ40に印加する。これにより、車載カメラ100のレンズ11aの光軸Cの方位角はm−Δbに調整される。
コントローラ200は、レンズ11aの光軸Cの仰角および方位角の状態を算出している。ここで、仰角および方位角の状態は下記の計算式によって与えられる。
仰角の状態 =n+Δa(C1−C2)
方位角の状態 =m+Δb(C3−C4)
ここで、C1は「仰角+」キーの操作回数、C2は「仰角−」キーの操作回数、C3は「方位角+」キーの操作回数、C4は「方位角−」キーの操作回数である。
コントローラ200は、十字キー62のキーの上下左右のいずれかの部分が押下されたことを認識すると、その操作されたキーが「仰角+」キーまたは「仰角−」キーのいずれかである場合には、仰角の値を更新し、この結果を保持するように構成される。
また、コントローラ200は、操作されたキーが「方位角+」キーまたは「方位角−」キーのいずれかである場合には、方位角の値を更新し、この結果を保持するように構成される。
[オートホワイトバランス処理のための調整データについて]
オートホワイトバランスの調整データは車体の色と車載カメラ100の撮像範囲に占める車体の割合に依存する。例えば、車体の色が赤(R)であるときには、オートホワイトバランス調整によって赤(R)のゲインが下げられるため、赤(R)の色再現性が悪くなるとともに青(B)や緑(G)が強調された画像となり、本来の色が再現されない。
また、図4および図5に示すように、レンズ11aの光軸Cの仰角および方位角の少なくとも一方が変化すると、車載カメラ100の撮像範囲に占める車体の割合が変化するため、単に車体の色別に作成された調整データでは常に良好なホワイトバランス調整結果が得られるとは限らない。
図4は、レンズ11aの光軸Cの仰角を変えて撮像された2つの撮像画像70、71を示す図である。図4(a)の撮像画像70は図4(b)の撮像画像71の撮像時よりもレンズ11aの光軸Cが水平に近い状態にある。上の撮像画像70では下の撮像画像71に比べ車両Dの窓74の部分がより広く入り込んでいるため、車体73の色によるホワイトバランス処理への影響が図4(b)の撮像画像71に対するそれよりも少ない。したがって、レンズ11aの光軸Cの仰角の違いによって最適な調整データが違ってくる。
図5は、レンズ11aの光軸Cの方位角を変えて撮像された2つの撮像画像80、81を示す図である。図5(a)の撮像画像80は図5(b)の撮像画像81の撮像時よりもレンズ11aの光軸Cの向きが水平方向において車体83に近い状態にある。したがって、撮像画像80に占める車体83の割合は撮像画像81より撮像画像80の方が大きく、車体83の色によるホワイトバランス処理への影響が下の撮像画像81に対するそれよりも大きい。したがって、レンズ11aの光軸Cの方位角の違いによって最適な調整データが違ってくる。
このような課題を解決するために、本実施形態の車載カメラ100には、車両Dの車体の色と、車載カメラ100のレンズ11aの光軸Cの仰角および方位角との組み合わせに対し、最適な調整データが記憶されたデータ記憶部15が設けられている。
図6は、データ記憶部15に記憶された調整データのテーブル構造を示す図である。
この例では、テーブルは車体の色情報毎に作成される。車体の色情報毎のテーブルは複数の仰角情報毎のレコード群で構成される。仰角情報毎のレコード群は、複数の方位角情報と個々の方位角情報に各々対応付けられた複数の調整データとで構成される。調整データは具体的にはRGB毎のゲインの値で構成される。
[オートホワイトバランス処理の動作について]
次に、データ記憶部15に記憶された調整データに基づくオートホワイトバランス処理の一連の動作を説明する。
まず、ユーザは、車載カメラシステム1のコントローラ200のユーザインタフェースを使って車両Dの車体の色を入力する。ユーザインタフェースとしてはグラフィカルユーザインタフェースが採用される。グラフィカルユーザインタフェースには、車載カメラ100のデータ記憶部15に記憶された調整データに対応付けられたすべての色情報が選択可能な状態で表示されるのでユーザは自車の車体の色に対応する色情報を選択することで、色情報の入力を行う。
車載カメラシステム1のコントローラ200は、ユーザにより入力された車両Dの車体の色情報を受け付けると、車載カメラ100のカメラコントローラ17に、その選択された車体の色情報とともに、レンズ11aの光軸Cの状態として保持されている仰角情報および方位角情報を出力する。
車載カメラ100のカメラコントローラ17は、車載カメラシステム1のコントローラ200からの車両Dの車体の色情報、仰角情報および方位角情報が入力されると、これらの情報を画像処理部14に出力する。
画像処理部14は、カメラコントローラ17から車両Dの車体の色情報と、仰角情報および方位角情報を受け取ると、これらの組み合わせ情報に対応付けられた調整データをデータ記憶部15から読み出し、この調整データをもとにホワイトバランスの調整つまりRGB毎のゲインの調整を行う。
例えば車体の色が赤(R)の場合、調整データによって緑(G)のゲインに対し赤(R)のゲインが高く設定され、かつ仰角および方位角による撮影画像に占める車体の割合に対応して緑(G)のゲインに対する赤(R)のゲインの最適な比率が与えられる。これにより、画像処理部14は、前置信号処理部13より出力されたRAWデータに対して、車体の色に影響されない最適な撮像画像のホワイトバランスの調整を行うことができ、適切に撮像画像のオートホワイトバランス処理を行うことが可能となる。
<変形例>
以上の実施形態では、車体の色情報、仰角情報および方位角情報の組み合わせ対して最適な調整データをもとにオートホワイトバランス処理を行う場合について説明したが、本発明は、車体の色情報と仰角情報との組み合わせ対して最適な調整データをもとにオートホワイトバランス処理を行うように構成されてもよい。あるいは、車体の色情報と方位角情報との組み合わせ対して最適な調整データをもとにオートホワイトバランス処理を行うように構成されてもよい。
なお、上記の車両Dの車体の色に応じたホワイトバランス調整は、画面全体の緑(G)信号レベルを基準として赤(R)信号あるいは青(B)信号を同じレベルにする様に赤(R)と青(B)のゲインを調整するオートホワイトバランスの初期調整にも同様に応用され得る。
上記の実施形態では、車両Dのサイドミラーに代わる車載カメラ100について説明したが、本発明は、自車の車体の一部に取り付けられ、自車の車体の一部を撮像範囲とするバックカメラなどの車載型のカメラ全般に応用され得る。
以上、本発明の好ましい実施形態について説明したが、本発明は上述した実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、変更が可能である。
D…車両
14…画像処理部
15…データ記憶部
17…カメラコントローラ
100、100L、100R…車載カメラ

Claims (2)

  1. レンズと撮像素子とを少なくとも備え、車両に搭載され前記車両周辺及び前記車両の車体の一部を撮像し、前記レンズの光軸の方向を水平及び垂直の二軸方向に各々制御可能な車載カメラにおいて、
    予め定められた複数の前記車体の色情報と前記光軸の前記二軸方向の少なくとも一方の軸方向の角度との組み合わせ毎に撮像画像のホワイトバランスの調整データが記憶されたデータ記憶部と、
    入力された前記車体の前記色情報と前記角度との組み合わせに対応する前記調整データを前記データ記憶部から読み出し、読み出した前記調整データをもとに撮像画像のホワイトバランスの調整を行う画像処理部と
    を備える車載カメラ。
  2. 請求項1に記載の車載カメラであって、
    前記車体の前記色情報と前記光軸の角度との組み合わせ情報を外部より受信し、前記画像処理部に出力する制御部
    をさらに備える車載カメラ。
JP2015033937A 2015-02-24 2015-02-24 車載カメラ Active JP6413830B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015033937A JP6413830B2 (ja) 2015-02-24 2015-02-24 車載カメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015033937A JP6413830B2 (ja) 2015-02-24 2015-02-24 車載カメラ

Publications (2)

Publication Number Publication Date
JP2016158065A JP2016158065A (ja) 2016-09-01
JP6413830B2 true JP6413830B2 (ja) 2018-10-31

Family

ID=56826750

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015033937A Active JP6413830B2 (ja) 2015-02-24 2015-02-24 車載カメラ

Country Status (1)

Country Link
JP (1) JP6413830B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111652948B (zh) * 2020-04-30 2024-04-16 吉利汽车研究院(宁波)有限公司 车辆模型颜色参数的确定方法、装置、电子设备及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000134608A (ja) * 1998-10-22 2000-05-12 Fujitsu Ten Ltd 車両の後方監視装置
JP4045862B2 (ja) * 2002-06-03 2008-02-13 日産自動車株式会社 車載カメラの光軸ずれ検出装置
JP5073207B2 (ja) * 2006-01-16 2012-11-14 株式会社日立アドバンストデジタル 車載カメラ装置
JP5316805B2 (ja) * 2009-03-16 2013-10-16 株式会社リコー 車載カメラ装置の画像調整装置及び車載カメラ装置
JP2011160346A (ja) * 2010-02-03 2011-08-18 Denso Corp 車両周辺撮影装置

Also Published As

Publication number Publication date
JP2016158065A (ja) 2016-09-01

Similar Documents

Publication Publication Date Title
US8384767B2 (en) Stereoscopic image pickup apparatus and method of adjusting optical axis
US20190028651A1 (en) Imaging device, imaging system, and imaging method
JP6319340B2 (ja) 動画撮像装置
US9237272B2 (en) Imaging apparatus and method for displaying captured image with different colors associated with distances
US20090009604A1 (en) Image processing system and method
JPWO2020090511A1 (ja) 撮影装置、画像処理方法、及び、プログラム
JP5195841B2 (ja) 車載カメラ装置および車両
JP6810589B2 (ja) 車載用投影装置
US6757020B1 (en) Detecting/setting the on/off state of a display in a video camera with manual and automatic function
CN100559838C (zh) 图像摄取设备及图像摄取方法
JP4862321B2 (ja) 車載カメラ装置
JP6413830B2 (ja) 車載カメラ
US20120092524A1 (en) Capturing device, capturing system, and capturing method
US11134198B2 (en) Imaging apparatus
US20180069998A1 (en) Imaging apparatus, imaging system, and vehicle
US20070269133A1 (en) Image-data noise reduction apparatus and method of controlling same
JP6536032B2 (ja) 車載カメラ
JP4838681B2 (ja) 像面歪曲収差補正撮像装置及び像面歪曲収差補正方法
JP4684078B2 (ja) 画像処理装置およびその制御方法
JP2007134999A (ja) 撮像装置
JP2008107480A (ja) 合焦制御装置および撮像装置
US20240046431A1 (en) Image processing apparatus, image processing method, and storage medium
KR20180067046A (ko) 영상시스템 및 그 작동방법
US20230199329A1 (en) Image capturing system, moving device, image capturing method, and storage medium
JP2024106871A (ja) 画像処理システム、移動体、画像処理方法、およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180403

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180917

R151 Written notification of patent or utility model registration

Ref document number: 6413830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151