JP6071422B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP6071422B2 JP6071422B2 JP2012237591A JP2012237591A JP6071422B2 JP 6071422 B2 JP6071422 B2 JP 6071422B2 JP 2012237591 A JP2012237591 A JP 2012237591A JP 2012237591 A JP2012237591 A JP 2012237591A JP 6071422 B2 JP6071422 B2 JP 6071422B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- parallax
- pixels
- reduced
- reduced image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 58
- 238000004364 calculation method Methods 0.000 claims description 37
- 238000012937 correction Methods 0.000 description 17
- 238000000034 method Methods 0.000 description 14
- 238000003384 imaging method Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/28—Indexing scheme for image data processing or generation, in general involving image processing hardware
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Measurement Of Optical Distance (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
Description
本発明の第2の態様による画像処理装置は、2つのカメラで撮像した2つの原画像に基づいて、ブロックマッチングにより視差を算出する視差演算手段と、前記視差演算手段により算出された視差に基づいて視差画像を生成する視差画像生成手段と、前記2つの原画像の少なくとも1つを前記視差画像に合わせて縮小した第1縮小画像を生成する第1縮小画像生成手段と、前記視差画像と前記第1縮小画像とに基づいて物体の画像認識を行う画像認識手段と、前記2つの原画像を夫々縮小して2つの第2縮小画像を生成する第2縮小画像生成手段とを備え、前記2つの第2縮小画像は、前記2つの原画像に代えて、前記視差演算手段における視差の算出に用いられ、前記第2縮小画像生成手段は、前記2つのカメラの撮像素子が色フィルタを備えている場合、前記色フィルタのパターンに基づいて色を復元するとともに、前記色フィルタのパターンに応じて前記2つの原画像を縮小し、更に、前記第2縮小画像生成手段は、前記色フィルタのパターンが縦方向にi画素、かつ、横方向にj画素の画素数で繰り返される場合、1以上の所定数hを用いることにより、前記第2縮小画像の縦方向の画素数が前記2つの原画像の縦方向の画素数を(i×h)で除算した画素数となり、かつ、前記第2縮小画像の横方向の画素数が前記2つの原画像の横方向の画素数を(j×h)で除算した画素数となるように、前記第2縮小画像を生成する。
本発明の第3の態様による画像処理装置は、2つのカメラで撮像した2つの原画像に基づいて、ブロックマッチングにより視差を算出する視差演算手段と、前記視差演算手段により算出された視差に基づいて視差画像を生成する視差画像生成手段と、前記2つの原画像の少なくとも1つを前記視差画像の解像度に対応した解像度に縮小して第1縮小画像を生成する第1縮小画像生成手段と、前記視差画像と前記第1縮小画像とに基づいて物体の画像認識を行う画像認識手段と、を備える。
本実施形態の画像処理装置は、ステレオカメラが同タイミングかつ異なる位置から物体を撮像して得られる一対の画像上において、物体の位置ずれ(視差)をブロックマッチングにより算出し、算出した視差に基づいて、物体の3次元位置を周知の変換式により算出する、すなわち、物体の画像認識を行う装置である。この装置は、不審者の侵入などを監視する監視システムや、障害物と衝突する危険性を予測して車両の安全走行を支援する車載システムなど、物体の認識を必要とする様々なシステムに適用可能である。
画像認識システムは、2つのカメラ101,102で構成されるステレオカメラ10と、ステレオカメラ10を制御するカメラ制御部12と、一時記憶領域であるRAM(Random Access Memory)14と、プログラムや各種初期値を格納するROM(Read Only Memory)16と、画像認識システム全体の制御を行うCPU(Central Processing Unit)18と、画像認識システムで認識した物体の認識情報を画像認識システムの外部へ出力する外部IF(Interface)20と、画像処理LSI(Large Scale Integration)22と、を備え、各構成要素は通信バス24を介してデータの授受を行う。
以下、本明細書では、説明の便宜上、y方向を高さ方向として、ステレオカメラ10が、カメラ101及びカメラ102を横並びに平行で同じ高さの位置に配置する「平行等位ステレオ」のカメラを前提とするが、このような配置に限定されないことはいうまでもない。
図3は、画像処理LSI22において行われる処理の内容を示す。
補正部26a,26bは、入力した2つの原画像データに対して、2つの原画像を左右に並べた場合に撮像された物体が同じ高さとなるように変換し、視差演算部28で行われる後述のブロックマッチング処理を容易にする。変換するための補正データは、予めキャリブレーションを行うことにより作成される補正データテーブル(ROM16に記憶されている)を参照することで得られる。かかるキャリブレーションでは、レンズ101b,102bの歪み、カメラ101,102の取り付け位置・角度の誤差などの各種誤差を予め計測して補正データを算出する。
ブロックマッチング処理は、図4(a)に示すように、原画像の一方(以下、「基準画像」という)を、所定形状の第1ブロック(図中の太実線)により複数の画素を含むように区切り、図4(b)に示すように、原画像の他方(以下、「比較画像」という)を、第1ブロックと同じサイズ・形状・位置の第2ブロック(図中の太実線)で区切り、この第2ブロックを1画素ずつ横方向にずらして、各位置で第1ブロック内及び第2ブロック内における2つの輝度パターンについての相関値を算出し、相関値が最も低くなる、即ち、相関が最も高い位置を探索する。本実施形態において、相関値の算出方法は差分絶対値和(SAD:Sum of Absolute Difference)を用いるが、これに限定されず、公知のあらゆる方法を用い得る。探索の結果、相関が最も高くなる位置を特定した場合には、第1ブロック内の特定の画素(例えば、左下の画素)と、特定された位置における第2ブロック内の特定の画素(例えば、左下の画素)との間の距離を視差δとして算出する。これを1つのステップとして、同様のステップを基準画素の全画素について実行する。算出された視差δは、算出されたときの第1ブロックあるいは第2ブロックの位置と関連付けられて、例えば、RAM14などに一時記憶されてもよい。
視差画像生成部30は、視差演算部28で算出された1つの視差δを、これが算出されたときにおける、基準画像の第1ブロック内、又は比較画像の第2ブロック内のいずれか一方の複数画素全体に対応付けて、この対応付けを、算出された全ての視差δについて行うことにより視差画像を生成する。このため、視差画像は、基準画像と比較画像とのいずれか一方に基づいて生成される。対応付けは、例えば、第1ブロック内又は第2ブロック内の複数画素全体に視差δに応じた1つの色相情報を与えることで行われてもよい。したがって、視差画像は、複数の画素ごとに1つの視差情報で対応付けられ、1つの画素ごとに1つの輝度情報を対応付ける原画像に対して見かけ上解像度が低下することになる。
図5は、第2実施形態における画像処理LSI22の処理内容を示す。
101 カメラ
102 カメラ
101a 撮像素子
102a 撮像素子
22 画像処理LSI
24 通信バス
28 視差演算部
30 視差画像生成部
32 第1縮小画像生成部
34 画像認識部
36a 第2縮小画像生成部
36b 第2縮小画像生成部
Claims (7)
- 2つのカメラで撮像した2つの原画像に基づいて、ブロックマッチングにより視差を算出する視差演算手段と、
前記視差演算手段により算出された視差に基づいて視差画像を生成する視差画像生成手段と、
前記2つの原画像の少なくとも1つを前記ブロックマッチングで用いられた正方形又は長方形のブロックの形状に応じて縮小した第1縮小画像を生成する第1縮小画像生成手段と、
前記視差画像と前記第1縮小画像とに基づいて物体の画像認識を行う画像認識手段と、
を備え、
前記第1縮小画像生成手段は、前記ブロックに含まれる画素数が縦方向にm画素、かつ、横方向にn画素である場合、1以上の自然数である所定数kを用いることにより、前記第1縮小画像の縦方向の画素数が前記2つの原画像の縦方向の画素数を(m×k)で除算した画素数となり、かつ、前記第1縮小画像の横方向の画素数が前記2つの原画像の横方向の画素数を(n×k)で除算した画素数となるように、前記第1縮小画像を生成する画像処理装置。 - 前記所定数kは1であることを特徴とする請求項1に記載の画像処理装置。
- 前記2つの原画像を夫々縮小して2つの第2縮小画像を生成する第2縮小画像生成手段を更に含んで構成され、
前記2つの第2縮小画像は、前記2つの原画像に代えて、前記視差演算手段における視差の算出に用いられることを特徴とする請求項1または請求項2に記載の画像処理装置。 - 前記第2縮小画像生成手段は、前記2つのカメラの撮像素子が色フィルタを備えている場合、前記色フィルタのパターンに基づいて色を復元するとともに、前記色フィルタのパターンに応じて前記2つの原画像を縮小することを特徴とする請求項3に記載の画像処理装置。
- 前記第2縮小画像生成手段は、前記色フィルタのパターンが縦方向にi画素、かつ、横方向にj画素の画素数で繰り返される場合、1以上の所定数hを用いることにより、前記第2縮小画像の縦方向の画素数が前記2つの原画像の縦方向の画素数を(i×h)で除算した画素数となり、かつ、前記第2縮小画像の横方向の画素数が前記2つの原画像の横方向の画素数を(j×h)で除算した画素数となるように、前記第2縮小画像を生成することを特徴とする請求項4に記載の画像処理装置。
- 2つのカメラで撮像した2つの原画像に基づいて、ブロックマッチングにより視差を算出する視差演算手段と、
前記視差演算手段により算出された視差に基づいて視差画像を生成する視差画像生成手段と、
前記2つの原画像の少なくとも1つを前記視差画像に合わせて縮小した第1縮小画像を生成する第1縮小画像生成手段と、
前記視差画像と前記第1縮小画像とに基づいて物体の画像認識を行う画像認識手段と、
前記2つの原画像を夫々縮小して2つの第2縮小画像を生成する第2縮小画像生成手段とを備え、
前記2つの第2縮小画像は、前記2つの原画像に代えて、前記視差演算手段における視差の算出に用いられ、
前記第2縮小画像生成手段は、前記2つのカメラの撮像素子が色フィルタを備えている場合、前記色フィルタのパターンに基づいて色を復元するとともに、前記色フィルタのパターンに応じて前記2つの原画像を縮小し、
更に、前記第2縮小画像生成手段は、前記色フィルタのパターンが縦方向にi画素、かつ、横方向にj画素の画素数で繰り返される場合、1以上の所定数hを用いることにより、前記第2縮小画像の縦方向の画素数が前記2つの原画像の縦方向の画素数を(i×h)で除算した画素数となり、かつ、前記第2縮小画像の横方向の画素数が前記2つの原画像の横方向の画素数を(j×h)で除算した画素数となるように、前記第2縮小画像を生成する画像処理装置。 - 2つのカメラで撮像した2つの原画像に基づいて、ブロックマッチングにより視差を算出する視差演算手段と、
前記視差演算手段により算出された視差に基づいて視差画像を生成する視差画像生成手段と、
前記2つの原画像の少なくとも1つを前記視差画像の解像度に対応した解像度に縮小して第1縮小画像を生成する第1縮小画像生成手段と、
前記視差画像と前記第1縮小画像とに基づいて物体の画像認識を行う画像認識手段と、
を備えた画像処理装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012237591A JP6071422B2 (ja) | 2012-10-29 | 2012-10-29 | 画像処理装置 |
PCT/JP2013/077195 WO2014069169A1 (ja) | 2012-10-29 | 2013-10-07 | 画像処理装置 |
EP13852310.5A EP2914001B1 (en) | 2012-10-29 | 2013-10-07 | Image processing device |
US14/439,076 US9652853B2 (en) | 2012-10-29 | 2013-10-07 | Image processing device |
CN201380056889.9A CN104769942B (zh) | 2012-10-29 | 2013-10-07 | 图像处理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012237591A JP6071422B2 (ja) | 2012-10-29 | 2012-10-29 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014090233A JP2014090233A (ja) | 2014-05-15 |
JP6071422B2 true JP6071422B2 (ja) | 2017-02-01 |
Family
ID=50627085
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012237591A Active JP6071422B2 (ja) | 2012-10-29 | 2012-10-29 | 画像処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9652853B2 (ja) |
EP (1) | EP2914001B1 (ja) |
JP (1) | JP6071422B2 (ja) |
WO (1) | WO2014069169A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101882931B1 (ko) * | 2014-07-10 | 2018-07-30 | 삼성전자주식회사 | 다시점 영상 디스플레이 장치 및 그의 디스패리티 측정 방법 |
DE102015112289A1 (de) * | 2015-07-28 | 2017-02-02 | Valeo Schalter Und Sensoren Gmbh | Verfahren zum Identifizieren eines Objekts in einem Umgebungsbereich eines Kraftfahrzeugs, Fahrerassistenzsystem sowie Kraftfahrzeug |
JP6780983B2 (ja) * | 2016-08-18 | 2020-11-04 | マクセル株式会社 | 画像処理システム |
JP6853928B2 (ja) * | 2016-11-10 | 2021-04-07 | 株式会社金子製作所 | 三次元動画像表示処理装置、並びにプログラム |
JP2018207259A (ja) * | 2017-06-01 | 2018-12-27 | マクセル株式会社 | ステレオ撮像装置 |
KR20190013224A (ko) * | 2017-08-01 | 2019-02-11 | 엘지전자 주식회사 | 이동 단말기 |
JP7227969B2 (ja) * | 2018-05-30 | 2023-02-22 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 三次元再構成方法および三次元再構成装置 |
JP2022053086A (ja) * | 2020-09-24 | 2022-04-05 | トヨタ自動車株式会社 | 自己位置推定システム及び自己位置推定方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69417824D1 (de) * | 1993-08-26 | 1999-05-20 | Matsushita Electric Ind Co Ltd | Stereoskopischer Abtastapparat |
US6384859B1 (en) * | 1995-03-29 | 2002-05-07 | Sanyo Electric Co., Ltd. | Methods for creating an image for a three-dimensional display, for calculating depth information and for image processing using the depth information |
JP2003150936A (ja) | 2001-11-08 | 2003-05-23 | Fuji Heavy Ind Ltd | 画像処理装置および画像処理方法 |
JP4275378B2 (ja) * | 2002-09-27 | 2009-06-10 | 富士重工業株式会社 | ステレオ画像処理装置およびステレオ画像処理方法 |
JP4831514B2 (ja) * | 2007-11-13 | 2011-12-07 | 独立行政法人情報通信研究機構 | 設定パラメータ最適化装置およびそのプログラム |
JP5172314B2 (ja) | 2007-12-14 | 2013-03-27 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
CN101680756B (zh) | 2008-02-12 | 2012-09-05 | 松下电器产业株式会社 | 复眼摄像装置、测距装置、视差算出方法以及测距方法 |
CN102149501B (zh) * | 2009-06-19 | 2013-03-20 | 松下电器产业株式会社 | 消耗电极式电弧焊接方法及消耗电极式电弧焊接装置 |
JP5468426B2 (ja) * | 2010-03-12 | 2014-04-09 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
JP2012150614A (ja) * | 2011-01-18 | 2012-08-09 | Nagoya Univ | 自由視点画像生成装置 |
US9087375B2 (en) * | 2011-03-28 | 2015-07-21 | Sony Corporation | Image processing device, image processing method, and program |
JP5622648B2 (ja) * | 2011-04-14 | 2014-11-12 | 日立オートモティブシステムズ株式会社 | 画像処理装置 |
JP5762211B2 (ja) * | 2011-08-11 | 2015-08-12 | キヤノン株式会社 | 画像処理装置および画像処理方法、プログラム |
-
2012
- 2012-10-29 JP JP2012237591A patent/JP6071422B2/ja active Active
-
2013
- 2013-10-07 US US14/439,076 patent/US9652853B2/en active Active
- 2013-10-07 WO PCT/JP2013/077195 patent/WO2014069169A1/ja active Application Filing
- 2013-10-07 EP EP13852310.5A patent/EP2914001B1/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP2914001A9 (en) | 2016-03-02 |
EP2914001A4 (en) | 2016-07-06 |
EP2914001B1 (en) | 2019-08-14 |
US20150310621A1 (en) | 2015-10-29 |
CN104769942A (zh) | 2015-07-08 |
WO2014069169A1 (ja) | 2014-05-08 |
EP2914001A1 (en) | 2015-09-02 |
US9652853B2 (en) | 2017-05-16 |
JP2014090233A (ja) | 2014-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6071422B2 (ja) | 画像処理装置 | |
JP7038345B2 (ja) | カメラパラメタセット算出方法、カメラパラメタセット算出プログラム及びカメラパラメタセット算出装置 | |
KR101820259B1 (ko) | 시차값 도출 장치, 이동 장치, 로봇, 시차값 생성 방법 및 컴퓨터 프로그램 | |
US9924142B2 (en) | Camera array systems including at least one bayer type camera and associated methods | |
JP6970577B2 (ja) | 周辺監視装置および周辺監視方法 | |
CN108496056B (zh) | 摄像装置 | |
JP6975003B2 (ja) | 周辺監視装置およびその校正方法 | |
JP2008039491A (ja) | ステレオ画像処理装置 | |
JP2003254748A (ja) | ステレオ画像特性検査システム | |
JP6544257B2 (ja) | 情報処理システム、情報処理方法及び情報処理プログラム | |
JP2015194487A (ja) | 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム | |
CN109951641B (zh) | 图像拍摄方法和装置、电子设备、计算机可读存储介质 | |
JP6589313B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム | |
EP3564747B1 (en) | Imaging device and imaging method | |
CN109313808B (zh) | 图像处理系统 | |
JP2014238558A (ja) | 撮像装置及び視差検出方法 | |
JP6190656B2 (ja) | 画像処理システム | |
JP2007295028A (ja) | ステレオ画像撮像装置 | |
CN104769942B (zh) | 图像处理装置 | |
JP6515547B2 (ja) | 視差値導出装置、機器制御システム、移動体、ロボット、視差値生産方法、及びプログラム | |
CN117214966B (zh) | 毫米波安检成像设备的图像映射方法、装置、设备、介质 | |
US20230373396A1 (en) | Monitoring system monitoring periphery of mobile object, method of controlling monitoring system, and storage medium | |
JP2018116620A (ja) | 画像処理装置、画像処理システムおよび画像処理方法 | |
JP6442911B2 (ja) | 視差値導出装置、移動体、ロボット、視差値導出方法、及びプログラム | |
JP2023157660A (ja) | 画像処理装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20140528 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160705 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20160713 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20160715 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20160715 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160822 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20161213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161227 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6071422 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |