JPWO2016208539A1 - 双眼立体視画像の提供方法、配信装置及びカメラユニット - Google Patents
双眼立体視画像の提供方法、配信装置及びカメラユニット Download PDFInfo
- Publication number
- JPWO2016208539A1 JPWO2016208539A1 JP2017524895A JP2017524895A JPWO2016208539A1 JP WO2016208539 A1 JPWO2016208539 A1 JP WO2016208539A1 JP 2017524895 A JP2017524895 A JP 2017524895A JP 2017524895 A JP2017524895 A JP 2017524895A JP WO2016208539 A1 JPWO2016208539 A1 JP WO2016208539A1
- Authority
- JP
- Japan
- Prior art keywords
- screen
- omnidirectional
- eye
- screens
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 17
- 230000000007 visual effect Effects 0.000 claims abstract 2
- 238000001514 detection method Methods 0.000 claims description 12
- 238000010586 diagram Methods 0.000 description 6
- 238000009434 installation Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000005562 fading Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/56—Accessories
- G03B17/561—Support related camera accessories
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
- H04N13/279—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2213/00—Details of stereoscopic systems
- H04N2213/001—Constructional or mechanical details
Abstract
Description
提供する画像が全方位画像のときは、高さ方向については、複数のカメラAi及びホルダ11をβ度の領域外に位置させれば良い。
2 サーバ
3 観察装置
4 インターネット
11 カメラホルダ
31l、31r ディスプレイ
32 受信手段
33 方向検出手段
34 画面選択手段
35 画面切り出し手段
36 表示手段
Ai(i=1〜n) 全天球カメラ
Bi(i=1〜n)撮影画面
C 一組の画像
Dl、Dr 表示画面
h 表示画面の高さ
w 表示画面の幅
α 横方向の視野角
β 高さ方向の視野角
技術分野
[0001]
この発明は、カメラの設置場所における全天球(全方位かつ全高さ)ないし全方位(全周)の双眼立体視画像を提供する方法、当該画像を配信する装置及びカメラユニットに関するものである。
背景技術
[0002]
本願出願人は、特許文献1において、カメラ設置場所の全方位の双眼立体視画像を提供する方法を開示している。この方法は、複数個の全方位カメラを人間の両眼の間隔に相当する間隔で配置し、これらのカメラが取得した全方位画面からそれぞれのカメラが分担する左目用と右目用の表示画面を切り出して繋ぎ合わせることによって、左目用と右目用の全方位画面を生成する。そして、それぞれの全方位画面から観察者が見ようとする方向の左目用と右目用の矩形画面を切り出して、観察者のディスプレイに表示するというものである。
[0003]
また、カメラ設置場所の全天球画像を撮影するカメラは、例えば特許文献2に開示されている。この種のカメラは、通常、複数の魚眼レンズで撮影した画像を、レンズの向きなどに関わりなく、上辺が真上で下辺が真下の全方位(360度)かつ全高さ(180度)の、高さ:幅が1:2の、矩形画像に変換して出力している。
先行技術文献
特許文献
[0004]
特許文献1:特許第4183466号公報
特許文献2:特開2013−66163号公報
発明の概要
発明が解決しようとする課題
[0005]
特許文献1で提案した方法は、複数のカメラで撮影した画像を繋ぎ合わせて左目用と右目用の全方位画面を作成している。撮影中心や撮影方向の異なる2つのカメラの画面を繋ぎ合わせると、その繋ぎ目の所で撮影対象物の画像に微小なずれが生ずる。そのため、画面を繋ぎ合わせる際に、このずれを補正するための補正処理を行わねばならない。
[0006]
しかし、カメラから撮影対象物までの距離によって繋ぎ目におけるずれの量が異なるので、補正が困難である。更に、この補正には複雑な処理が必要で、処理に時間がかかるため、動画を提供しようとすると処理量が膨大になり、ライブ動画を提供することができない。
[0007]
この発明は、撮影方向が異なる複数のカメラで撮影した全天球ないし全方位の画面を繋ぎ合わせるという処理を行うことなく、全天球ないし全方位の双眼立体視画像を配信する手段を提供することを課題としている。この発明により、カメラやカメラを保持するホルダが写っていない全天球ないし全方位の双眼立体視ライブ動画を配信することが可能になる。
課題を解決するための手段
[0008]
一辺の長さを人間の両眼の間隔に等しいか又は立体視が不自然とならない範囲で広くした正多角形の各頂点位置に、全方位ないし全天球カメラAi(i=1〜n)を配置する。各カメラAiが撮影した同一タイミングの撮影画面Biを一組の画面Cにして観察装置3に提供する。
[0009]
全天球画像を提供するときは、複数のカメラAi(i=1〜n)及びこれらを保持するホルダ11は、前記正多角形の中心Oから各カメラの撮影中心Pを通る方向を中心とする横方向に(2×360/n)+α度の領域外で、かつ、高さ方向に180+β度の領域外に位置させる。ここで、αは、観察装置3のディスプレイ31(31l、31r)の観察者に対する横方向の視野角、βは、同高さ方向の視野角、nは、正多角形の角数である。これにより、観察装置3は、カメラAiやホルダ11が写っていない全天球双眼立体視画像をディスプレイ31に表示することができる。
提供する画像が全方位画像のときは、高さ方向については、複数のカメラ
Ai及びホルダ11をβ度の領域外に位置させれば良い。
[0010]
一組の画面Cの提供を受けた観察装置は、観察者の観察方向を検出し、一組の画面Cから検出した方向を挟む2個の撮影画面Bi、Bi±1を左目用及び右目用の画面として選択し、選択した画面から前記検出した方向を中心としかつ観察装置が備えるディスプレイ31l、31rの横方向の視野角αに相当する幅w及び高さ方向の視野角に相当する高さhを備えた表示画面Dl、Drを切り出してディスプレイ31l、31rに表示する。
[0011]
通常、一組の画面の提供は、画像配信用のサーバ2によってインターネット4を介して行われる。インターネット4を介して一組の画面Cを受信する観察装置3は、当該画像の受信手段32と、左目用と右目用の画像を表示するための2個のディスプレイ31l、31rと、ゴーグルが向く方向(全天球画像を受信するときは横方向及び高さ方向、全方位画像を受信するときは少なくとも横方向)を検出する方向検出手段33と、方向検出手段33が検出した方向に応じて一組の画面Cから左目用と右目用の画面を選択する画面選択手段34と、選択した画面Bi、Bi±1から左目用と右目用の表示画面Dl、Drを切り出す画面切り出し手段35と、切り出した画面をディスプレイに表示する表示手段36とを備えている。
発明の効果
[0012]
この発明により、それぞれの方向の画像の撮影を受け持つ複数のカメラが撮影した画面を繋ぎ合わせることなく、観察装置の方向に応じた全天球ないし全方位の画像であって当該画像にカメラやカメラを保持するホルダが写っていない画像を遠隔地で観察できる。
[0013]
そして、画面の繋ぎ処理を必要としないので、画像データの複雑な処理が不要となり、データ処理に時間がかからないため多数の画像を次々と配信しなければならないライブ動画の提供が可能になるという効果がある。
図面の簡単な説明
[0014]
[図1]ハードウェアの全体構成図
[図2]カメラユニットの斜視図
[図3]サーバーにおける画像の変換を示す図
Claims (9)
- 全方位ないし全方位かつ全高さにおける双眼立体視画像を提供する双眼立体視画像の提供方法であって、
隣接するカメラ相互のレンズ間間隔を略両眼の間隔とした正多角形の頂点位置に全方位ないし全天球カメラを配置し、
各カメラが撮影した同一タイミングの全方位ないし全天球画面を一組の画面として観察装置に提供し、
観察装置は、観察する方向を検出したときに、
提供された前記一組の画面から当該方向を挟む2個のカメラの撮影画面を左目用及び右目用の撮影画面として選択し、当該選択した撮影画面から前記方向を中心としかつ観察装置が備えるディスプレイの視野角に相当する幅及び高さを備えた表示画面を切り出して当該ディスプレイに表示する、双眼立体視画像の提供方法。 - 前記一組の画面を複数の観察装置にインターネットを介して提供する、請求項1記載の双眼立体視画像の提供方法。
- 双眼立体視画像が動画像である、請求項1又は2記載の双眼立体視画像の提供方法。
- 左目用と右目用の画像を表示するための2個のディスプレイと、方向検出手段と、複数のカメラが撮影した全方位ないし全天球画面を一組として受信する受信手段と、方向検出手段が検出した方向に応じて前記一組の画面から左目用と右目用の画面を選択する画面選択手段と、選択した画面から前記方向を幅中心とする左目用と右目用の表示画面を切り出す画面切り出し手段と、切り出した画面をそれぞれのディスプレイに表示する表示手段とを備えている、双眼立体視画像の観察装置。
- 前記受信手段がn個の全方位ないし全天球画面を一組として受信しているとき、前記画面選択手段は、前記方向検出手段の検出方向が現に選択している左目用と右目用の画面の中心の方向から360/2n度を超えたときに、選択する左目用と右目用の画面を変更する、請求項4記載の双眼立体視画像の観察装置。
- 前記画面選択手段は、前記方向検出手段の検出方向が現に選択している左目用と右目用の画面の中心の方向から右方向に360/2n度を超えたときに、現に選択している右目用の画面を左目用の画面として選択し、左方向に360/2n度を超えたときに、現に選択している左目用の画面を右目用の画面として選択する、請求項5記載の双眼立体視画像の観察装置。
- 切り出し手段が、前記選択された撮影画面から方向検出手段が検出した高さ方向に応じた扇形の画面を切り出し、表示手段が、当該扇形の画面を高さ0における形状の画面に変換して表示する、請求項4、5又は6記載の双眼立体視画像の観察装置。
- 観察者に対する横方向の視野角がα、高さ方向の視野角がβのディスプレイを備えた請求項4記載の観察装置に提供する画像を撮影するカメラユニットであって、角数がnの正多角形の頂点位置に配置されたn個の全方位カメラを保持するホルダを備え、当該ホルダ及び各カメラは、前記正n角形の中心から各カメラの撮影中心Pを通る放射方向を中心とする横方向に(2×360/n)+α度の領域外及び高さ方向にβ度の領域外に配置されている、全方位双眼立体視画像を提供するためのカメラユニット。
- 観察者に対する横方向の視野角がα、高さ方向の視野角がβのディスプレイを備えた請求項4記載の観察装置に提供する画像を撮影するカメラユニットであって、角数がnの正多角形の頂点位置に配置されたn個の全天球カメラを保持するホルダを備え、当該ホルダ及び各カメラは、前記正n角形の中心から各カメラの撮影中心Pを通る放射方向を中心とする横方向に(2×360/n)+α度の領域外及び高さ方向に180+β度の領域外に配置されている、全天球双眼立体視画像を提供するためのカメラユニット。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015124978 | 2015-06-22 | ||
JP2015124978 | 2015-06-22 | ||
PCT/JP2016/068272 WO2016208539A1 (ja) | 2015-06-22 | 2016-06-20 | 双眼立体視画像の提供方法、観察装置及びカメラユニット |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016208539A1 true JPWO2016208539A1 (ja) | 2018-05-24 |
JP6845506B2 JP6845506B2 (ja) | 2021-03-24 |
Family
ID=57585719
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017524895A Active JP6845506B2 (ja) | 2015-06-22 | 2016-06-20 | 双眼立体視画像の提供方法、配信装置及びカメラユニット |
Country Status (5)
Country | Link |
---|---|
US (1) | US20180184067A1 (ja) |
EP (1) | EP3313071A4 (ja) |
JP (1) | JP6845506B2 (ja) |
CN (1) | CN107646193B (ja) |
WO (1) | WO2016208539A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111670577A (zh) * | 2018-02-09 | 2020-09-15 | 索尼公司 | 图像处理装置、图像处理方法和图像处理程序 |
WO2020104989A1 (en) * | 2018-11-22 | 2020-05-28 | Slovenská Technická Univerzita V Bratislave | Arrangement of multiple cameras in a multi-directional stereo camera system |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08191419A (ja) * | 1995-01-10 | 1996-07-23 | Yamaha Corp | 頭部装着型表示システム |
US20040027451A1 (en) * | 2002-04-12 | 2004-02-12 | Image Masters, Inc. | Immersive imaging system |
US20070024701A1 (en) * | 2005-04-07 | 2007-02-01 | Prechtl Eric F | Stereoscopic wide field of view imaging system |
JP2013033321A (ja) * | 2011-08-01 | 2013-02-14 | Dainippon Printing Co Ltd | 動画提示装置 |
JP2014095808A (ja) * | 2012-11-09 | 2014-05-22 | Nintendo Co Ltd | 画像生成方法、画像表示方法、画像生成プログラム、画像生成システム、および画像表示装置 |
JP2014131154A (ja) * | 2012-12-28 | 2014-07-10 | Pioneer Electronic Corp | 映像処理装置、映像受信装置、映像送信装置及び映像処理方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5020398B1 (ja) * | 2011-06-29 | 2012-09-05 | パナソニック株式会社 | 画像変換装置、カメラ、画像変換方法およびプログラム |
-
2016
- 2016-06-20 CN CN201680033762.9A patent/CN107646193B/zh active Active
- 2016-06-20 US US15/735,988 patent/US20180184067A1/en not_active Abandoned
- 2016-06-20 JP JP2017524895A patent/JP6845506B2/ja active Active
- 2016-06-20 EP EP16814309.7A patent/EP3313071A4/en not_active Withdrawn
- 2016-06-20 WO PCT/JP2016/068272 patent/WO2016208539A1/ja active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08191419A (ja) * | 1995-01-10 | 1996-07-23 | Yamaha Corp | 頭部装着型表示システム |
US20040027451A1 (en) * | 2002-04-12 | 2004-02-12 | Image Masters, Inc. | Immersive imaging system |
US20070024701A1 (en) * | 2005-04-07 | 2007-02-01 | Prechtl Eric F | Stereoscopic wide field of view imaging system |
JP2013033321A (ja) * | 2011-08-01 | 2013-02-14 | Dainippon Printing Co Ltd | 動画提示装置 |
JP2014095808A (ja) * | 2012-11-09 | 2014-05-22 | Nintendo Co Ltd | 画像生成方法、画像表示方法、画像生成プログラム、画像生成システム、および画像表示装置 |
JP2014131154A (ja) * | 2012-12-28 | 2014-07-10 | Pioneer Electronic Corp | 映像処理装置、映像受信装置、映像送信装置及び映像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6845506B2 (ja) | 2021-03-24 |
WO2016208539A1 (ja) | 2016-12-29 |
EP3313071A4 (en) | 2019-01-23 |
CN107646193A (zh) | 2018-01-30 |
CN107646193B (zh) | 2020-01-21 |
EP3313071A1 (en) | 2018-04-25 |
US20180184067A1 (en) | 2018-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107111928B (zh) | 远程控制作业机用显示系统 | |
US20170269367A1 (en) | Microlens array-based near-eye display (ned) | |
US11184597B2 (en) | Information processing device, image generation method, and head-mounted display | |
EP2569951B1 (en) | System and method for multi-viewpoint video capture | |
US10416757B2 (en) | Telepresence system | |
IL139995A (en) | System and method for spherical stereoscopic photographing | |
CN104823105A (zh) | 用于照相机的可变三维适配器组件 | |
JP2018110295A5 (ja) | ||
CN101285935A (zh) | 用于图像显示器的防晕装置 | |
CN107333051B (zh) | 一种室内全景视频生成方法及装置 | |
ES2824049T3 (es) | Sistema y método para la monitorización remota de al menos un área de observación | |
EP3729166A1 (en) | Head-mountable apparatus and methods | |
WO2016208539A1 (ja) | 双眼立体視画像の提供方法、観察装置及びカメラユニット | |
US11833698B2 (en) | Vision system for a robot | |
US20130021448A1 (en) | Stereoscopic three-dimensional camera rigs | |
US20120154543A1 (en) | Document camera, method for controlling document camera, program, and display processing system | |
CN205318020U (zh) | 一种头戴显示设备 | |
JP2011141381A (ja) | 立体画像表示装置及び立体画像表示方法 | |
JP5223096B2 (ja) | 3d映像撮影制御システム、3d映像撮影制御方法、およびプログラム | |
KR20150103528A (ko) | 실감형 자유시점 영상 제공을 위한 반구형 스마트 카메라 형성 장치 및 방법 | |
JP4183466B2 (ja) | 全方位双眼立体視画像の生成方法 | |
KR101803816B1 (ko) | 360도 입체영상 촬영 장치 | |
JP7395296B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN202995248U (zh) | 一种用于环幕立体摄像的设备及系统 | |
JP2011182003A (ja) | パノラマカメラ及び360度パノラマ立体映像システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A529 | Written submission of copy of amendment under article 34 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A5211 Effective date: 20171219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20171219 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190618 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201211 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210210 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6845506 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |