JP6277904B2 - 制御情報検出装置および制御情報検出方法 - Google Patents
制御情報検出装置および制御情報検出方法 Download PDFInfo
- Publication number
- JP6277904B2 JP6277904B2 JP2014154628A JP2014154628A JP6277904B2 JP 6277904 B2 JP6277904 B2 JP 6277904B2 JP 2014154628 A JP2014154628 A JP 2014154628A JP 2014154628 A JP2014154628 A JP 2014154628A JP 6277904 B2 JP6277904 B2 JP 6277904B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- control information
- camera
- image
- vehicle camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 85
- 238000000034 method Methods 0.000 claims description 40
- 238000003384 imaging method Methods 0.000 claims description 25
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 description 13
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 230000001360 synchronised effect Effects 0.000 description 5
- 240000004050 Pentaglottis sempervirens Species 0.000 description 2
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 2
- 239000010426 asphalt Substances 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000001681 protective effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
Description
また、複数の車載カメラを搭載し、複数の車載カメラで重複して撮影した画像を解析してやれば、1つの車載カメラで撮影した画像を解析する場合よりも多くの情報を得ることが可能となる。例えば、車両の進行方向に対して左右に車載カメラを搭載して、前方を撮影した画像を解析すれば、左右の車載カメラの視差に基づいて、画像に写った対象物までの距離の情報を得ることができる(特許文献1)。
A.第1実施例 :
A−1.第1実施例の装置構成 :
図1には、制御情報検出装置10を搭載した車両1の大まかな内部構成が示されている。車両1は、図1に示す通り、制御情報検出装置10と、左前方車載カメラ11と、右前方車載カメラ12と、車両制御部17とを備えている。本実施例の制御情報検出装置10は、左前方車載カメラ11および右前方車載カメラ12が撮影した画像から車両1の走行を制御するための制御情報を検出するための装置である。
フィールド画像20の態様は、図2(a)に示される場合に限られず、図2(b)に示されるような、3n+1列目フィールド画像24と、3n+2列目フィールド画像25と、3n+3列目フィールド画像26(n=0,1,2,3……)といった三つ以上に分割したフィールド画像20を読み出すこととしてもよい。
尚、左撮影画像記憶部31、右撮影画像記憶部32、制御情報取得部38および制御情報出力部39は、制御情報検出装置10の内部が物理的に区分されることを表すのではなく、制御情報検出装置10が果たす機能を分類した概念である。従って、これらの「部」は、CPUで実行されるコンピュータプログラムとして実現することもできるし、LSIやメモリーを含む電子回路として実現することもできるし、これらを組み合わせることによって実現することもできる。
このようにフィールド画像20を記憶した左撮影画像記憶部31および右撮影画像記憶部32は、記憶した複数のフィールド画像20のうち直近のフィールド画像20を読み出し可能な状態で保持する。こうすれば、制御情報取得部38が左撮影画像記憶部31および右撮影画像記憶部32から直近のフィールド画像20を取得できる。このように、左撮影画像記憶部31および右撮影画像記憶部32は、左前方車載カメラ11および右前方車載カメラ12からの出力周期と、制御情報取得部38の処理周期との間に生ずるタイムラグを吸収するためのバッファーメモリーである。
尚、左撮影画像記憶部31、右撮影画像記憶部32が本発明の「撮影画像記憶部」に対応する。
尚、この解析については、一部の走査線が間引かれた状態のフィールド画像20をそのまま解析してもよいし、取得した奇数フィールド画像21または偶数フィールド画像22の画像情報によって奇数列または偶数列いずれかが間引かれた走査線を補間してから解析してもよい。また、解析の対象とするフィールド画像20が奇数フィールド画像21であるか偶数フィールド画像22であるかを同期信号によって判定することにより、奇数列と偶数列とを取り違えることによって生じる誤差を防止するとよい。
車両制御部17は、制御情報検出装置10が備える制御情報出力部39から出力される制御情報に従って車両1を制御する。ここでいう車両1の制御とは、例えば、車両1を加減速したり、操舵角を変更したりといった運転支援の他、運転者に対して注意や警告を発したりといったことが挙げられ、車両に関する種々の制御が広く含まれる。
ここで、左前方車載カメラ11および右前方車載カメラ12からフィールド画像20を取得し、車両1を制御するための情報を車両制御部17に出力するまでに、制御情報検出装置10の内部で行われる処理について説明する。
図3には、本実施例の制御情報検出装置10が実行する制御情報検出処理のフローチャートが示されている。この制御情報検出処理は、左前方車載カメラ11および右前方車載カメラ12の撮影周期に同期させて実行される処理である。
この制御情報検出処理を開始すると、先ず始めに、左前方車載カメラ11および右前方車載カメラ12からそれぞれ出力されたフィールド画像20を記憶する(S101)。撮影は連続的に行われるため、記憶されたフィールド画像20が溜まっていくこととなるが、左前方車載カメラ11および右前方車載カメラ12毎に新しく記憶されたフィールド画像20を解析可能な状態としておく。尚、古いフィールド画像20については随時消去してもよいし、保存しておいてもよい。
続いて、取得した制御情報を車両制御部17に出力して(S103)、制御情報検出処理は終了する。車両制御部17は、このようにして取得した制御情報を用いて車両1の制御を行うことができる。
図4には、下方に向かって流れる時間軸をとって、左前方カメラおよび右前方カメラが奇数フィールド画像および偶数フィールド画像を撮影するタイミングと、制御情報検出装置が制御情報を検出するタイミングとが示されている。図示する通り、左前方カメラおよび右前方カメラのそれぞれは奇数フィールド画像または偶数フィールド画像を交互に同じ周期で撮影を繰り返し、制御情報検出装置はカメラの撮影周期と同期して制御情報の検出を繰り返す。そして、この従来の制御情報検出装置は、一度の制御情報検出のために、左前方カメラから奇数フィールド画像および偶数フィールド画像の両方を読み出し、右前方カメラからも奇数フィールド画像および偶数フィールド画像の両方を読み出している。
このように、制御情報検出装置10は、左前方車載カメラ11および右前方車載カメラ12のそれぞれにおいて最も新しく撮影されたフィールド画像20を、奇数フィールド画像21であるか偶数フィールド画像22であるかを問わずに読み出す。
図6(a)に示される従来の場合では、最も先に撮影された右前方カメラの奇数フィールド画像の撮影時刻と、最も後に撮影された左前方カメラの偶数フィールド画像の撮影時刻は大きく異なる(図6(a)右端矢印)。この撮影時刻のずれによって、左前方カメラの偶数フィールド画像は、右前方カメラの奇数フィールド画像を撮影してから、車両が走行した分、異なる位置から撮影されたものとなってしまう。このため従来は、車両の走行速度が十分に小さな場合を撮影の対象とするか、あるいは、この撮影時刻のずれの問題を解消するために、2つの車載カメラの撮影周期を同期させることとしていた。
このように本実施例の制御情報検出装置10では、フィールド画像20の単位を解析対象とし、撮影時刻のずれが小さくなるため、左前方車載カメラ11と右前方車載カメラ12との撮影位置の差を小さくすることができる。これによって、本実施例の制御情報検出装置10は、車両1の走行速度が大きくなっても、左前方車載カメラ11および右前方車載カメラ12の撮影周期を同期させることなく、左前方車載カメラ11および右前方車載カメラ12による撮影画像を解析して情報を取得することが可能となる。
本実施例では、観測対象が特に車線境界240である場合について説明する。本実施例の制御情報検出装置210でも第1実施例と同様に、奇数フィールド画像221または偶数フィールド画像222を読出して、フィールド画像220の単位で処理する。
図7には、制御情報検出装置210を搭載した車両201の大まかな内部構成が示されている。第1実施例では車両1の前方に左前方車載カメラ11および右前方車載カメラ12の2つの車載カメラが設けられていたが、本実施例では、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216の4つの車載カメラを設けられている。また、これらに対応して前方撮影画像記憶部233、左方撮影画像記憶部234、右方撮影画像記憶部235、後方撮影画像記憶部236が設けられている。その他の構成は、第1実施例と同様に車両制御部217、制御情報処理部233、制御情報出力部239を備える。
尚、左方車載カメラ214および右方車載カメラ215が本発明の「側方車載カメラ」に対応する。また、前方撮影画像記憶部233、左方撮影画像記憶部234、右方撮影画像記憶部235および後方撮影画像記憶部236が本発明の「撮影画像記憶部」に対応する。
本実施例の制御情報検出装置210は、この車線境界240をより確実に検出するための装置である。以下では、こうしたことを実現するために制御情報検出装置210の内部で行われる処理について詳しく説明する。
図8には、本実施例の制御情報検出装置210が実行する制御情報検出処理のフローチャートが示されている。この制御情報検出処理も、第1実施例と同様に、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216の4つの車載カメラの撮影周期に同期させて実行される処理である。
先ず始めに、4つの車載カメラそれぞれから出力されたフィールド画像220を読み出す(S201)。読み出すフィールド画像220は第1実施例と同様に、奇数フィールド画像221であるか偶数フィールド画像222であるかを問わず、いずれかを読み出せばよい。
次に、読み出した4つのフィールド画像220からそれぞれ車線境界推定箇所241を検出する(S202)。車線境界推定箇所241とは、フィールド画像220から車線境界240と判断できるエッジを検出した場合に、車線境界240と推定されるとして検出したものである。
図9では、前方撮影画像253で車線境界推定箇所241aを検出し、左方撮影画像254で車線境界推定箇所241bを検出し、後方撮影画像256で車線境界推定箇所241cを検出している。これら車線境界推定箇所241a,241b,241cが撮影された時刻は互いに異なるため、車両201が走行した分だけ、これらの位置関係がずれて撮影されている。ここで、左方撮影画像254で検出した車線境界推定箇所241bを前方撮影画像253の領域まで延長して車線境界推定箇所241b´(図9の斜線部)とすると、この車線境界推定箇所241b´と、前方撮影画像253から検出した車線境界推定箇所241aとの位置関係を照合することができる。
この点、本実施例の制御情報検出装置210では、第1実施例と同様に、フィールド画像220の単位で処理することによって、撮影周期のずれの影響を少なくすることができるため、図10に示すような車線境界推定箇所241a,241b,241cの位置ずれ量を小さくすることができる。これによって、車両の影やアスファルト舗装の境目等の車線境界240と紛らわしい事物と混同して検出してしまうことを回避し、車線境界240をより確実に検出することができる。
そして、左方撮影画像254からの検出による車線境界推定箇所241b´と前方撮影画像253から検出した車線境界推定箇所241aとが互いに一致しないと判断した場合(S205:no)、この制御情報検出処理を終了する。
一方、車線境界推定箇所241b´と車線境界推定箇所241aとが互いに一致すると判断した場合(S205:yes)、検出した車線境界240の位置を出力し(S206)、この制御情報検出処理を終了する。
以上のように第2実施例では、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216の撮影周期のずれの影響を少なくすることができたが、本変形例では、さらにその撮影周期のずれの影響を少なくする処理について説明する。
本変形例の制御情報検出装置310は、第2実施例の制御情報検出装置210に対して更に、撮影順序取得部361と、所要時間算出部362と、最短撮影順序決定部363とが追加されている。以下、これらによって実行される最短撮影順序決定処理について、各部の機能に言及しつつ説明する。
最短撮影順序決定処理を開始すると先ず始めに、撮影順序取得部361によって、4つの車載カメラの撮影順序と、車載カメラ間の時間間隔とを取得する(S251)。ここで、4つの車載カメラの撮影順序とは、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216が、どのような順序で画像を撮影するかを表している。すなわち、これら4つの車載カメラ(前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216)は同じ撮影周期で撮影するが、撮影を開始するタイミングはずれている。従って、前方車載カメラ213、左方車載カメラ214、右方車載カメラ215および後方車載カメラ216は、撮影開始のタイミングによって決まる一定の順序で画像を撮影することになる。
尚、撮影順序は循環する(順序の先頭が前方車載カメラ213の場合は、最後も前方車載カメラ213となる)ので、例えば、撮影順序が前方車載カメラ213、左方車載カメラ214、右方車載カメラ215、後方車載カメラ216、前方車載カメラ213である場合と、撮影順序が左方車載カメラ214、右方車載カメラ215、後方車載カメラ216、前方車載カメラ213、左方車載カメラ214とは同じ撮影順序として扱う。
そして、全ての車載カメラについて所要時間を算出したか否かを判断し(S254)、未だの場合は(S254:no)、1つの車載カメラを選択する処理に戻って繰り返す。このように、所要時間を算出する処理は、全ての車載カメラのそれぞれについて実行される。従って、本変形例のように4つの車載カメラを用いている場合は、4通りの所要時間が算出されることとなる。
こうして、最短撮影順序を決定すると(S255)、この最短撮影順序決定処理は終了する。そして、第2実施例と同様に制御情報検出処理が実行されるが、その際、制御情報取得部238による4つのフィールド画像220の読出し(S201)については(図8参照)、上記で決定された最短撮影順序に従うこととなる。つまり、制御情報取得部238は、車載カメラ毎に読み出された直近のフィールド画像220が取得された順番が、最短撮影順序となるタイミングで、車載カメラ毎のフィールド画像220を読み出すこととなる。
11…左前方車載カメラ、 12…右前方車載カメラ、 17…車両制御部、 20…フィールド画像、 21…奇数フィールド画像、
22…偶数フィールド画像、 31…左撮影画像記憶部、
32…右撮影画像記憶部、 38…制御情報取得部、 39…制御情報出力部。
Claims (3)
- 所定の撮影周期で撮影した撮影画像をインターレース方式で複数のフィールド画像(20)に分けた後に出力する車載カメラ(11,12)を、複数備える車両(1)に搭載されて、該複数の車載カメラから取得した前記撮影画像を解析することにより、該車両の走行を制御するための制御情報を検出する制御情報検出装置であって、
前記複数の車載カメラの各々について、該車載カメラが前記撮影画像を撮影する度に前記フィールド画像の単位で出力する該撮影画像を取得して、前記フィールド画像の単位で読み出し可能な状態で前記複数の車載カメラ毎に記憶する撮影画像記憶部(31,32)と、
前記複数の車載カメラが前記撮影画像を撮影する撮影順序と、前記車載カメラが撮影してから次の前記車載カメラが撮影するまでの時間間隔とを取得する撮影順序取得部(361)と、
前記複数の車載カメラの各々について、該車載カメラが撮影してから他の全ての前記車載カメラが撮影するまでに要する所要時間を、前記撮影順序取得部に記憶されている前記車載カメラ間での前記時間間隔に基づいて算出する所要時間算出部(362)と、
前記所要時間算出部によって算出された前記所要時間が最短となる最短撮影順序を決定する最短撮影順序決定部(363)と、
前記車載カメラ毎に直近に取得された前記フィールド画像を前記撮影画像記憶部から読み出して、複数の前記フィールド画像を解析することによって、前記制御情報を取得する制御情報取得部(38)と
を備え、
前記制御情報取得部は、前記車載カメラ毎の前記直近のフィールド画像が取得された順番が前記最短撮影順序となるタイミングで、該車載カメラ毎の該フィールド画像を読み出す取得部である
制御情報検出装置。 - 請求項1に記載の制御情報検出装置であって、
前記撮影画像記憶部は、前記車両から前方を撮影する前方車載カメラ(213)による前方撮影画像(253)と、該車両から側方を撮影する側方車載カメラ(214,215)による側方撮影画像(254,255)とを含む前記複数の撮影画像を、前記フィールド画像の単位で読み出し可能な状態で記憶する記憶部であり、
前記制御情報取得部は、前記前方撮影画像および前記側方撮影画像を含む前記複数のフィールド画像を解析して、前記車両が走行する車線の位置を取得する取得部である
制御情報検出装置。 - 所定の撮影周期で撮影した撮影画像をインターレース方式で複数のフィールド画像に分けた後に出力する車載カメラを、複数備える車両に適用されて、該複数の車載カメラから取得した前記撮影画像を解析することにより、該車両の走行を制御するための制御情報を検出する制御情報検出方法であって、
前記複数の車載カメラの各々について、該車載カメラが前記撮影画像を撮影する度に前記フィールド画像の単位で出力する該撮影画像を取得して、前記フィールド画像の単位で読み出し可能な状態で前記複数の車載カメラ毎に記憶する撮影画像記憶工程(S101)と、
前記複数の車載カメラが前記撮影画像を撮影する撮影順序と、前記車載カメラが撮影してから次の前記車載カメラが撮影するまでの時間間隔とを取得する撮影順序取得工程(S251)と、
前記複数の車載カメラの各々について、該車載カメラが撮影してから他の全ての前記車載カメラが撮影するまでに要する所要時間を、前記車載カメラ間での前記時間間隔に基づいて算出する所要時間算出工程(S253)と、
前記複数の車載カメラの各々について算出された前記所要時間が最短となる最短撮影順序を決定する最短撮影順序決定工程(S255)と、
前記車載カメラ毎の前記直近のフィールド画像が取得された順番が前記最短撮影順序となるタイミングで、前記車載カメラ毎に直近に取得された前記フィールド画像を読み出して、複数の前記フィールド画像を解析することによって、前記制御情報を取得する制御情報取得工程(S102)と
を備える制御情報検出方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014154628A JP6277904B2 (ja) | 2014-07-30 | 2014-07-30 | 制御情報検出装置および制御情報検出方法 |
PCT/JP2015/003739 WO2016017136A1 (ja) | 2014-07-30 | 2015-07-27 | 制御情報検出装置および制御情報検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014154628A JP6277904B2 (ja) | 2014-07-30 | 2014-07-30 | 制御情報検出装置および制御情報検出方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016031701A JP2016031701A (ja) | 2016-03-07 |
JP2016031701A5 JP2016031701A5 (ja) | 2016-06-02 |
JP6277904B2 true JP6277904B2 (ja) | 2018-02-14 |
Family
ID=55217054
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014154628A Active JP6277904B2 (ja) | 2014-07-30 | 2014-07-30 | 制御情報検出装置および制御情報検出方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6277904B2 (ja) |
WO (1) | WO2016017136A1 (ja) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3300337B2 (ja) * | 2000-04-28 | 2002-07-08 | 松下電器産業株式会社 | 画像処理装置および監視システム |
JP2008250904A (ja) * | 2007-03-30 | 2008-10-16 | Toyota Motor Corp | 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法 |
JP2012185304A (ja) * | 2011-03-04 | 2012-09-27 | Nikon Corp | 画像表示装置および顕微鏡システム |
-
2014
- 2014-07-30 JP JP2014154628A patent/JP6277904B2/ja active Active
-
2015
- 2015-07-27 WO PCT/JP2015/003739 patent/WO2016017136A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP2016031701A (ja) | 2016-03-07 |
WO2016017136A1 (ja) | 2016-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4622001B2 (ja) | 道路区画線検出装置および道路区画線検出方法 | |
EP2927054B1 (en) | On-vehicle control device | |
KR102011230B1 (ko) | 화상 처리 장치 및 화상 처리 방법 | |
JP6350374B2 (ja) | 路面検出装置 | |
US20150367781A1 (en) | Lane boundary estimation device and lane boundary estimation method | |
JP2008045974A (ja) | 物体検出装置 | |
JP6642906B2 (ja) | 駐車位置検出システム及びそれを用いた自動駐車システム | |
JP6586849B2 (ja) | 情報表示装置及び情報表示方法 | |
WO2014084251A1 (ja) | 車載画像処理装置 | |
JP2009053818A (ja) | 画像処理装置及びその方法 | |
KR102569437B1 (ko) | 3차원 영상정보 기반 객체 추적 장치 및 방법 | |
JP6139465B2 (ja) | 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム | |
JP2011118509A (ja) | 道路認識装置 | |
JP2006309313A (ja) | 道路認識装置 | |
JP2008257378A (ja) | 物体検出装置 | |
US11468691B2 (en) | Traveling lane recognition apparatus and traveling lane recognition method | |
JP6086424B2 (ja) | 車載画像処理装置 | |
KR20200028679A (ko) | 차선을 검출하는 방법 및 장치 | |
JP2014106739A (ja) | 車載画像処理装置 | |
JP6152261B2 (ja) | 車載用駐車枠認識装置 | |
JP6683245B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム | |
JP2014107696A (ja) | 車載画像処理装置 | |
JP6148848B2 (ja) | 車載画像処理装置 | |
JP5832850B2 (ja) | 車線監視システム及び車線監視方法 | |
JP6277904B2 (ja) | 制御情報検出装置および制御情報検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160411 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170223 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20171219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180101 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6277904 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |