JP2015014686A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2015014686A JP2015014686A JP2013140821A JP2013140821A JP2015014686A JP 2015014686 A JP2015014686 A JP 2015014686A JP 2013140821 A JP2013140821 A JP 2013140821A JP 2013140821 A JP2013140821 A JP 2013140821A JP 2015014686 A JP2015014686 A JP 2015014686A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- image signals
- imaging
- optical system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 109
- 230000003287 optical effect Effects 0.000 claims abstract description 58
- 210000001747 pupil Anatomy 0.000 claims abstract description 21
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 20
- 239000002131 composite material Substances 0.000 claims abstract description 20
- 238000011156 evaluation Methods 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 22
- 238000003786 synthesis reaction Methods 0.000 claims description 17
- 238000000034 method Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 15
- 239000000284 extract Substances 0.000 claims description 8
- 239000000203 mixture Substances 0.000 claims description 8
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 230000008859 change Effects 0.000 abstract description 2
- 230000005540 biological transmission Effects 0.000 abstract 1
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14625—Optical elements or arrangements associated with the device
- H01L27/14627—Microlenses
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Power Engineering (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
Description
特許文献1の撮像装置は、2つの撮像部による撮像タイミングを異ならせることにより、視差ズレを低減しようとするものである。
本発明の一態様は、被写体からの光を集光する撮像光学系と、該撮像光学系により集光された光を撮像する撮像素子と、該撮像素子の複数画素を各々が覆うように配置されたマイクロレンズを複数配列してなるマイクロレンズアレイと、前記撮像光学系の瞳位置に配置され、透過する光を複数の異なる焦点位置に集光させるように空間的に焦点距離を変化させる焦点距離変更部とを備える撮像装置を提供する。
この場合に、本態様によれば、同じ撮像タイミングで取得された画像信号から複数枚の画像を生成するので、被写体が移動する場合においても安定した合成画像を生成することが可能となる。
また、上記態様においては、前記光学系が、前記被写体からの光が入射される位置に光軸を異ならせて並列に配置されかつ焦点距離の異なる2以上の微小光学系を備えていてもよい。
このようにすることで、広い範囲にわたって局所領域を探索することなく、効率よく局所領域を探索してマッチング処理を迅速に行うことができる。
本実施形態に係る撮像装置1は、図1(a),(b)に示されるように、被写体からの光を集光する撮像光学系2と、該撮像光学系2により集光された光を撮像する撮像部3と、撮像光学系2の瞳位置に配置され、透過する光を複数の異なる焦点位置に集光させるように空間的に焦点距離を変化させる焦点距離変更部4とを備えている。
本実施形態に係る撮像装置1によれば、被写体から発せられた光の内、撮像光学系2から比較的遠い位置Aにおいて発生した光は撮像光学系2によって集光されると、その瞳位置に配置されている焦点距離変更部4のレンズ4aを通過し、残りの撮影光学系2を経てマイクロレンズ6aによって集光され撮像素子5の撮像面に結像される。また、被写体から発せられた光の内、撮像光学系2から比較的近い位置Bにおいて発生した光も、撮像光学系2によって集光されると、その瞳位置に配置されているレンズ4bを通過し、残りの撮影光学系2を経てマイクロレンズ6aによって集光され、撮像素子5の撮像面に結像される。
本実施形態に係る撮像装置10は、図4に示されるように、第1の実施形態に係る撮像装置1に加えて、撮像部3において取得された画像信号をデジタル信号に変換するA/D変換器11と、該A/D変換器11によりデジタル信号に変換された画像信号を記憶するバッファ12と、該バッファ12から転送された画像信号を処理して2枚の画像信号を生成する信号処理部13と、該信号処理部13において生成された2枚の画像信号を位置合わせする位置合わせ部14と、該位置合わせ部14において位置合わせされた2枚の画像を合成する画像合成部15と、これらを制御する制御部16とを備えている。
調整部20は、2枚の画像信号の局所領域毎にフーリエ変換を行って、局所領域の周波数成分を算出するようになっている。そして、調整部20は、図6に示されるように、算出された周波数成分の差分を下式(1)のように算出する比較部35を備えている。
ここで、F(u,v)は局所領域の周波数空間上の座標(u,v)における周波数成分の差分を表している。また、G1(u,v),G2(u,v)は、それぞれ1枚目および2枚目の画像信号に対する局所領域の周波数成分を示している。
F(u,v)≦K の場合、G1(u,v)=G1(u,v),G2(u,v)=G2(u,v)
(2)
ここで、Kは所定の閾値である。
バッファ21は、調整部20により周波数成分が調整された2枚の画像信号を一時的に記憶するようになっている。
平坦部等のテクスチャ情報の少ない箇所では対応点の信頼性が低くなるため、画像信号からエッジ量を抽出し、エッジ量が所定の値よりも大きい座標の対応点のみを用いることが好ましい。
e1(x,y)>D、かつ、e2(x’,y’)>Dを満たす座標の対応点のみを抽出する。ここで、Dは所定の閾値を示す。
変形部23においては、図7に示されるように、一方の画像信号G1における注目画素の周囲の4点の座標をそれぞれ(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)とし、画像信号G2における上記4点の対応点の座標をそれぞれ(x1’,y1’)、(x2’,y2’)、(x3’,y3’)、(x4’,y4’)とする。
そして、変形部23は、上記数1に示された座標変換行列を一方の画像信号G1に適用して座標変換を行い、画像信号G2に対して位置合わせが行われた画像信号G1’を算出するようになっている。
具体的には、合成マスク算出部25は、評価値算出部24において算出された評価値であるコントラスト値C1’(x,y),C2(x,y)の比E1(x,y)を数3の式(5)に示されるように算出するとともに、その比E1(x,y)を用いて各マスク値M(x,y)を数4の式(6)に示されるように作成するようになっている。
また、J1,J2は所定の定数(0<J1<J2)である。J2−J1の値が小さくなると、M(x,y)の値は0.1の2値に近づいていく。図9はマスク値M(x,y)を図示したものである。
g(x,y)=M(x,y)g1’(x,y)+(1−M(x,y))g2(x,y)
(7)
例えば、図10の撮像光学系30を採用することにより、図12に示されるように、微小光学系30a〜30dに対応する撮像素子5上の領域に、同一の被写体について、視差を有しかつ焦点位置の異なる4つの像D1〜D4を同時に形成することができる。
また、本実施形態においては、評価値算出部24がコントラスト値C1’(x,y),C2(x,y)を評価値として算出することとしたが、鮮鋭度Sを算出してもよい。
鮮鋭度Sは数5の式(8)によって算出することができる。
E(x,y)=C1’(x,y)−C2(x,y) (9)
また、2枚の画像信号を取得して合成する場合について説明したが、3枚以上の画像信号を合成してもよい。この場合には、いずれかに2枚の画像信号を合成した後、合成後の画像信号と他の合成前の画像信号とを用いて合成を行うことを繰り返せばよい。
2,30,32 撮像光学系
4 焦点距離変更部
5 撮像素子
5a,5b 画素
6 マイクロレンズアレイ
6a マイクロレンズ
13 信号処理部(画像生成部)
14 位置合わせ部
15 画像合成部
19 局所領域抽出部(局所領域設定部)
20 調整部(周波数調整部)
22 マッチング部
23 変形部(画像変形部)
24 評価値算出部
25 合成マスク算出部(合成マスク生成部)
26 重み付け加算部(加算部)
30a〜30d 微小光学系
31 撮像レンズ
31a,31b 瞳分割光学系
35 比較部、差分演算部、判定部
37 フィルタ処理部
Claims (11)
- 被写体からの光を集光する撮像光学系と、
該撮像光学系により集光された光を撮像する撮像素子と、
該撮像素子の複数画素を各々が覆うように配置されたマイクロレンズを複数配列してなるマイクロレンズアレイと、
前記撮像光学系の瞳位置に配置され、透過する光を複数の異なる焦点位置に集光させるように空間的に焦点距離を変化させる焦点距離変更部とを備える撮像装置。 - 前記撮像素子において、前記マイクロレンズ毎に、共通する焦点距離の光が入射された画素からの信号を抽出して複数枚の画像信号を生成する画像生成部と、
該画像生成部により生成された複数枚の画像信号の位置合わせを行う位置合わせ部と、
該位置合わせ部により相互に位置合わせされた複数枚の画像信号を合成して合成画像を生成する画像合成部とを備える請求項1に記載の撮像装置。 - 被写体からの光を撮像する撮像素子と、
該撮像素子の異なる領域に、視差を有しかつ焦点位置の異なる像を結像させる光を入射させる撮像光学系と、
前記撮像素子の異なる領域において取得された複数枚の画像信号の位置合わせを行う位置合わせ部と、
該位置合わせ部により相互に位置合わせされた複数枚の画像信号を合成して合成画像を生成する画像合成部とを備える撮像装置。 - 前記撮像光学系が、前記被写体からの光を集光する撮像レンズと、該撮像レンズと前記撮像素子との間に配置され、前記撮像レンズにより集光された光が分割されて入射される、焦点距離の異なる2以上の瞳分割光学系とを備える請求項3に記載の撮像装置。
- 前記撮像光学系が、前記被写体からの光が入射される位置に光軸を異ならせて並列に配置されかつ焦点距離の異なる2以上の微小光学系を備える請求項3に記載の撮像装置。
- 前記位置合わせ部が、
複数枚の前記画像信号の各々に対して注目画素を中心とする複数画素からなる局所領域を設定する局所領域設定部と、
該局所領域設定部により各前記画像信号について設定された局所領域の周波数成分を共通する周波数成分に調整する周波数調整部と、
該周波数調整部により周波数成分が調整された各前記画像信号の局所領域間のマッチング処理を行うマッチング部と、
該マッチング部によるマッチング処理の結果に基づいて、前記複数枚の画像信号を変形する画像変形部とを備える請求項2から請求項5のいずれかに記載の撮像装置。 - 前記画像合成部が、
複数枚の前記画像信号について合焦判定に必要な評価値を画素毎に算出する評価値算出部と、
該評価値算出部により算出された前記評価値を用いて、前記画像信号を合成するための合成マスクを生成する合成マスク生成部と、
該合成マスク生成部により生成された合成マスクを用いて、複数枚の画像信号を画素毎に重み付け加算する加算部とを備える請求項2から請求項6のいずれかに記載の撮像装置。 - 前記周波数調整部が、
複数枚の前記画像信号の対応する局所領域の周波数成分を比較する比較部と、
該比較部による比較結果に基づいて作成されたフィルタを、複数枚の前記画像信号の対応する局所領域に作用させるフィルタ処理部とを備える請求項6に記載の撮像装置。 - 前記位置合わせ部が、前記光学系の光軸からの距離に応じて、複数枚の前記画像信号に対応する局所領域の探索範囲を設定する探索範囲設定部を備え、
前記マッチング部が、前記探索範囲設定部により設定された探索範囲に基づいて前記局所領域を探索し、探索された局所領域を用いてマッチング処理を行う請求項6に記載の撮像装置。 - 前記比較部が、複数枚の前記画像信号に対応する前記局所領域の周波数成分の差分を算出する差分演算部と、該差分演算部により算出された差分が所定の閾値より大きいか否かを判定する判定部とを備え、
前記フィルタ作成部が、前記判定部により前記差分が閾値以下であると判定された周波数成分のみを抽出するフィルタを作成する請求項8に記載の撮像装置。 - 前記周波数調整部が、
複数枚の前記画像信号の対応する局所領域の周波数成分のヒストグラムを算出するヒストグラム算出部と、
該ヒストグラム算出部により算出されたヒストグラムに基づいてフィルタを作成するフィルタ作成部と、
該フィルタ作成部により作成されたフィルタを、複数枚の前記画像信号の対応する局所領域に作用させるフィルタ処理部とを備える請求項6に記載の撮像装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013140821A JP5953270B2 (ja) | 2013-07-04 | 2013-07-04 | 撮像装置 |
US14/281,633 US9571728B2 (en) | 2013-07-04 | 2014-05-19 | Image acquisition apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013140821A JP5953270B2 (ja) | 2013-07-04 | 2013-07-04 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015014686A true JP2015014686A (ja) | 2015-01-22 |
JP5953270B2 JP5953270B2 (ja) | 2016-07-20 |
Family
ID=52132562
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013140821A Expired - Fee Related JP5953270B2 (ja) | 2013-07-04 | 2013-07-04 | 撮像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9571728B2 (ja) |
JP (1) | JP5953270B2 (ja) |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0442207A (ja) * | 1990-06-08 | 1992-02-12 | Kyocera Corp | オートフォーカス装置 |
JPH06141237A (ja) * | 1992-10-22 | 1994-05-20 | Canon Inc | 複眼撮像装置 |
JP2000152281A (ja) * | 1998-11-09 | 2000-05-30 | Sony Corp | 撮像装置 |
JP2005020718A (ja) * | 2003-06-02 | 2005-01-20 | Pentax Corp | 多焦点撮像デバイス及びモバイル機器 |
JP2007158825A (ja) * | 2005-12-06 | 2007-06-21 | Ricoh Co Ltd | 画像入力装置 |
JP2007306406A (ja) * | 2006-05-12 | 2007-11-22 | Matsushita Electric Ind Co Ltd | 画像処理装置 |
JP2011147079A (ja) * | 2010-01-18 | 2011-07-28 | Ricoh Co Ltd | 撮像装置 |
JP2011215811A (ja) * | 2010-03-31 | 2011-10-27 | Fujitsu Ltd | 画像マッチング装置、および、画像マッチング方法 |
WO2012043211A1 (ja) * | 2010-10-01 | 2012-04-05 | 富士フイルム株式会社 | 撮像装置 |
JP2012195797A (ja) * | 2011-03-17 | 2012-10-11 | Mitsubishi Electric Corp | パンフォーカス画像生成装置 |
JP2013073306A (ja) * | 2011-09-27 | 2013-04-22 | Fuji Heavy Ind Ltd | 画像処理装置 |
WO2013080821A1 (ja) * | 2011-11-30 | 2013-06-06 | 富士フイルム株式会社 | 撮像装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070279618A1 (en) * | 2004-10-15 | 2007-12-06 | Matsushita Electric Industrial Co., Ltd. | Imaging Apparatus And Image Improving Method |
US8358354B2 (en) * | 2009-01-26 | 2013-01-22 | The Board Of Trustees Of The Leland Stanford Junior University | Correction of optical abberations |
US7956924B2 (en) * | 2007-10-18 | 2011-06-07 | Adobe Systems Incorporated | Fast computational camera based on two arrays of lenses |
JP4483951B2 (ja) * | 2008-01-28 | 2010-06-16 | ソニー株式会社 | 撮像装置 |
KR101441586B1 (ko) * | 2008-10-06 | 2014-09-23 | 삼성전자 주식회사 | 촬상 장치 및 촬상 방법 |
US8289440B2 (en) * | 2008-12-08 | 2012-10-16 | Lytro, Inc. | Light field data acquisition devices, and methods of using and manufacturing same |
US20110242342A1 (en) * | 2010-04-05 | 2011-10-06 | Qualcomm Incorporated | Combining data from multiple image sensors |
JP5414637B2 (ja) | 2010-08-24 | 2014-02-12 | 富士フイルム株式会社 | 撮像装置および内視鏡システム |
WO2012132486A1 (ja) * | 2011-03-31 | 2012-10-04 | 富士フイルム株式会社 | 撮像装置、撮像方法、プログラム、及びプログラム記憶媒体 |
WO2012147245A1 (ja) * | 2011-04-27 | 2012-11-01 | パナソニック株式会社 | 撮像装置、撮像装置を備える撮像システム、及び撮像方法 |
JP6112824B2 (ja) * | 2012-02-28 | 2017-04-12 | キヤノン株式会社 | 画像処理方法および装置、プログラム。 |
-
2013
- 2013-07-04 JP JP2013140821A patent/JP5953270B2/ja not_active Expired - Fee Related
-
2014
- 2014-05-19 US US14/281,633 patent/US9571728B2/en active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0442207A (ja) * | 1990-06-08 | 1992-02-12 | Kyocera Corp | オートフォーカス装置 |
JPH06141237A (ja) * | 1992-10-22 | 1994-05-20 | Canon Inc | 複眼撮像装置 |
JP2000152281A (ja) * | 1998-11-09 | 2000-05-30 | Sony Corp | 撮像装置 |
JP2005020718A (ja) * | 2003-06-02 | 2005-01-20 | Pentax Corp | 多焦点撮像デバイス及びモバイル機器 |
JP2007158825A (ja) * | 2005-12-06 | 2007-06-21 | Ricoh Co Ltd | 画像入力装置 |
JP2007306406A (ja) * | 2006-05-12 | 2007-11-22 | Matsushita Electric Ind Co Ltd | 画像処理装置 |
JP2011147079A (ja) * | 2010-01-18 | 2011-07-28 | Ricoh Co Ltd | 撮像装置 |
JP2011215811A (ja) * | 2010-03-31 | 2011-10-27 | Fujitsu Ltd | 画像マッチング装置、および、画像マッチング方法 |
WO2012043211A1 (ja) * | 2010-10-01 | 2012-04-05 | 富士フイルム株式会社 | 撮像装置 |
JP2012195797A (ja) * | 2011-03-17 | 2012-10-11 | Mitsubishi Electric Corp | パンフォーカス画像生成装置 |
JP2013073306A (ja) * | 2011-09-27 | 2013-04-22 | Fuji Heavy Ind Ltd | 画像処理装置 |
WO2013080821A1 (ja) * | 2011-11-30 | 2013-06-06 | 富士フイルム株式会社 | 撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US20150009351A1 (en) | 2015-01-08 |
US9571728B2 (en) | 2017-02-14 |
JP5953270B2 (ja) | 2016-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5173665B2 (ja) | 画像撮影装置およびその距離演算方法と合焦画像取得方法 | |
JP5066851B2 (ja) | 撮像装置 | |
RU2523083C2 (ru) | Устройство съемки изображений, устройство обработки изображений и способ обработки изображений для формирования вспомогательной информации для снятого изображения | |
CN109255810B (zh) | 图像处理装置及图像处理方法 | |
KR20130083853A (ko) | 화상처리장치, 촬상장치, 제어 방법 및 기록 매체 | |
JP6380972B2 (ja) | 画像処理装置および撮像装置 | |
JP6376474B2 (ja) | 多眼撮像システム、取得画像の合成処理方法、及びプログラム | |
JP7378219B2 (ja) | 撮像装置、画像処理装置、制御方法、及びプログラム | |
JP2014219549A (ja) | 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置 | |
JP2018007078A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
TWI687661B (zh) | 用於確定場景相關電磁場的複振幅的方法及裝置 | |
CN110312957B (zh) | 焦点检测设备、焦点检测方法和计算机可读存储介质 | |
JP2011149931A (ja) | 距離画像取得装置 | |
JP5348258B2 (ja) | 撮像装置 | |
US9948865B2 (en) | Image processing apparatus, imaging device, and image processing method | |
JP6728020B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP5953270B2 (ja) | 撮像装置 | |
KR101737260B1 (ko) | 영상간 피사계 심도 차이에서 깊이를 추출하는 카메라 시스템 및 그 동작 방법 | |
JP7373297B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2016099322A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP6652294B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP6585890B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP6882016B2 (ja) | 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム | |
JP2018022984A (ja) | 画像処理装置及びその制御方法、プログラム並びに撮像装置 | |
JP2009258231A (ja) | 相関演算方法、相関演算装置、焦点検出装置および撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150514 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20150514 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150717 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20150721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150728 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150924 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20151104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160121 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20160129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160315 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160421 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160524 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160613 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5953270 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |