JP2020046817A - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents
画像処理装置、画像処理方法及び画像処理プログラム Download PDFInfo
- Publication number
- JP2020046817A JP2020046817A JP2018173581A JP2018173581A JP2020046817A JP 2020046817 A JP2020046817 A JP 2020046817A JP 2018173581 A JP2018173581 A JP 2018173581A JP 2018173581 A JP2018173581 A JP 2018173581A JP 2020046817 A JP2020046817 A JP 2020046817A
- Authority
- JP
- Japan
- Prior art keywords
- line
- image processing
- input
- buffer
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 252
- 238000003672 processing method Methods 0.000 title claims description 4
- 239000000872 buffer Substances 0.000 claims abstract description 215
- 238000012937 correction Methods 0.000 claims description 54
- 238000000034 method Methods 0.000 claims description 43
- 230000008569 process Effects 0.000 claims description 23
- 238000009499 grossing Methods 0.000 abstract description 13
- 238000007906 compression Methods 0.000 description 43
- 238000004364 calculation method Methods 0.000 description 41
- 230000006835 compression Effects 0.000 description 36
- 238000010586 diagram Methods 0.000 description 22
- 238000003384 imaging method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 13
- 230000003287 optical effect Effects 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000012360 testing method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 238000012805 post-processing Methods 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000008571 general function Effects 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
-
- H—ELECTRICITY
- H01—ELECTRIC ELEMENTS
- H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
- H01L27/00—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
- H01L27/14—Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
- H01L27/144—Devices controlled by radiation
- H01L27/146—Imager structures
- H01L27/14601—Structural or functional details thereof
- H01L27/14603—Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/28—Indexing scheme for image data processing or generation, in general involving image processing hardware
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Power Engineering (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Condensed Matter Physics & Semiconductors (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Image Processing (AREA)
- Image Input (AREA)
Abstract
Description
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る画像処理装置を示すブロック図である。また、図2は本実施の形態の画像処理装置を用いて構成した歪補正装置を示すブロック図である。
(a)像高の算出:入力画素の位置を、左上を原点とする(v, h)の座標系から、光学中心を原点とする(x, y)の座標系に変換する。なお、両座標系とも、水平方向は右側を正とし、垂直方向は下側を正とする。また、光学中心から入力画素までの距離(像高)rを算出する。以下に示す(1)〜(3)式を用いて行う。
[SENSOR_CROP_OFS_V] = −(入力画像垂直サイズ/2 − 0.5) …(4)式
[SENSOR_CROP_OFS_ H] = −(入力画像水平サイズ/2 − 0.5) …(5)式
(b)画素位置計算の像高スケールの算出:光学中心から距離rにある点が、画素位置変換によって光学中心方向に移動する距離r_scaleを算出する。以下に示す(6)式を用いて行う。
r_scale = P0 + P1*r + P2 * r2 + P3*r3 + P4*r4 + P5*r5 + P6*r6 + P7*r7 + P8*r8 + P9*r9 + P10*r10 …(6)式
(6)式において、Px(x = 0〜10 )は、それぞれの次数に応じた多項式係数とする。
(c)出力画素位置の算出:像高スケールを用いて入力画素位置を出力画素位置に変換し、(v, h)の座標系に戻す。以下に示す(7)(8)式を用いて行う。
vout = r_scale * y − [SENSOR_CROP_OFS_V] …(7)式
hout = r_scale*x − [SENSOR_CROP_OFS_ H] …(8)式
(7)式において、voutは垂直方向の出力画素位置(非負数)、(8)式において、houtは水平方向の出力画素位置(非負数)とする。
(d)参照グリッドノードの算出:参照グリッドノードとして、入力画素の左上に位置するグリッドノードを決定する。以下に示す(9)(10)式を用いて行う。
ref_v = vin * GRID_PATCH_VSIZE_INV …(9)式
ref_h = hin * GRID_PATCH_HSIZE_INV …(10)式
(9)式において、vin は、垂直方向の入力画素位置(非負数)、GRID_PATCH_VSIZE_INVは、垂直グリッドノード間距離の逆数とする。GRID_PATCH_VSIZE_INVは、以下の(11)式を用いて算出する。
(e)重みの算出:入力画素位置から参照グリッドノードを含む周囲4点のグリッドノードに対する、垂直方向及び水平方向の距離の比に基づく重みを算出する。以下に示す(13)(14)式を用いて算出する。
weight_v = ref_v − [ref_v] …(13)式
weight_h = ref_h − [ref_h] …(14)式
(13)(14)式において、[]はガウス記号を表す。参照グリッドノードに関する垂直方向の重みは1−weight_vとなる。また、参照グリッドノードに関する水平方向の重みは、1−weight_hとなる。
(f)出力画素位置の算出:参照グリッドノードを含む周囲4点のグリッドノードのテーブルと、入力画素位置に対する各グリッドノードの重みを用い、バイリニア補間によって、出力画素位置を算出する。
(f−1)垂直方向の出力画素位置の算出
以下に示す(15)〜(17)式を用いて算出する。
v0out = table_v(ref_v, ref_h) * (1−weight_h) + table_v(ref_v, ref_h+1) * weight_h …(15)式
v1out = table_v(ref_v+1, ref_h) * (1−weight_h) + table_v(ref_v+1, ref_h+1) * weight_h …(16)式
vout = v0out * (1−weight_v) + v1out * weight_v …(17)式
(15)(16)式において、table_v(v, h)は、垂直画素位置グリッドテーブルとする。また、(17)式において、voutは、は垂直方向の出力画素位置(非負数)である。
(f−2)水平方向の出力画素位置の算出
以下に示す(18)〜(20)式を用いて算出する。
h0out = table_ h (ref_v, ref_h) * (1−weight_h) + table_ h (ref_v, ref_h+1) * weight_h …(18)式
h1out = table_h(ref_v+1, ref_h) * (1−weight_h) + table_h(ref_v+1, ref_h+1) * weight_h …(19)式
hout = h0out * (1−weight_h) + h1out * weight_v …(20)式
(18)(19)式において、table_h(v, h)は、水平画素位置グリッドテーブルとする。また、(20)式において、houtは、は水平方向の出力画素位置(非負数)である。
調整後画素位置 = [書き込み画素位置 − WRITE_AREA_DELTA] …(21)式
調整後画素位置 = [書き込み画素位置 + WRITE_AREA_DELTA] …(22)式
(21)(22)式において、WRITE_AREA_DELTAは整数化調整値であり、予め設定された値である。また、[]はガウス記号を表す。
(サイクル数の平滑化)
本実施の形態は、このようにリアルタイムに一定レートでラインバッファに画素(画素データ)の書き込みを行い、ライン単位に処理を行う各種装置に適用するものであり、図2の歪補正装置以外にも適用できるものである。
(評価)
撮像部22の光学系として所定のレンズを採用した場合において、1水平同期期間内において歪補正のために必要なサイクル数について評価を行った。画像サイズ及びレンズを変化させた43の試験パターンについて評価を行った。図11は横軸に歪処理に要するサイクル数をとり縦軸に画面のラインをとって、各ライン毎のサイクル数の変化を示す説明図である。図11の破線は図6と同様に2ライン分のラインバッファを用いて1水平同期期間内にピークサイクル数の処理を行う場合の特性を示している。また、図11の実線は破線と同一の画像処理について、3ライン分のラインバッファを用いて上記平滑化処理によって1水平同期期間にピークサイクル数よりも少ない処理を行う場合において、破綻無く歪補正が行われるときの特性を示している。図11に示すように、ピークサイクル数の処理が必要なラインについては、平滑化により、破綻無く歪補正を行うことができる1水平同期期間のサイクル数は低減されている。
(第2の実施の形態)
図13及び図14は本発明の第2の実施の形態を説明するための説明図である。本実施の形態のハードウェア構成は図1と同様である。本実施の形態は、画像処理として圧縮処理を行う画像処理装置に適用したものである。
(変形例)
上記各実施の形態の画像処理装置は、リアルタイムに入力される画像に対して、ライン単位で処理を行うものである。このような装置としては、歪補正装置や圧縮装置だけでなく、種々の装置が考えられる。
Claims (9)
- 複数のラインバッファにより構成され、入力画像を構成する複数の画素がライン単位で入力され、入力された画素を記憶する入力ラインバッファと、
前記入力ラインバッファの各ラインバッファに対する書き込み及び読み出しを管理するバッファ管理情報を記憶するメモリと、
前記入力ラインバッファの各ラインバッファに記憶された画素を参照してライン単位で画像処理を行う画像処理部と、
前記画像処理部の処理の状態に応じて前記バッファ管理情報を更新する制御部と
を具備する画像処理装置。 - 前記入力ラインバッファは、前記画像処理部におけるライン単位の画像処理に最低限必要なラインバッファ数に1つ以上のラインバッファを付加して構成される
請求項1に記載の画像処理装置。 - 前記制御部は、前記入力画像の水平同期信号に同期して前記入力された画素を記憶させるラインバッファを切換えると共に、前記ライン単位の画像処理の処理の終了を検出することで前記画像処理において参照するラインバッファを切換えるように前記バッファ管理情報を更新する
請求項1に記載の画像処理装置。 - 前記制御部は、前記水平同期信号に同期して前記入力ラインバッファに前記ライン単位の画素を記憶させると共に、前記画像処理部を制御して、前記入力ラインバッファに処理すべきライン単位の画素が既に記憶されている場合には、前記ライン単位の画像処理の処理の終了の検出によって前記処理すべきライン単位の画素を参照した画像処理を開始させ、前記入力ラインバッファに処理すべきライン単位の画素が記憶されていない場合には、前記水平同期信号に同期して前記処理すべきライン単位の画素を参照した画像処理を開始させる
請求項3に記載の画像処理装置。 - 前記画像処理部が行う画像処理は、歪補正処理である
請求項1に記載の画像処理装置。 - 前記画像処理部が行う画像処理は、前記ライン単位で必要なサイクル数が異なり、
前記画像処理部は、前記ライン単位で必要なサイクル数の最大値よりも1ライン単位の期間に実行可能なサイクル数が小さい
請求項1に記載の画像処理装置。 - 前記画像処理部による画像処理後の画素を前記入力画像の水平同期信号に同期して出力する出力バッファ
を更に具備する請求項1に記載の画像処理装置。 - 複数のラインバッファにより構成される入力ラインバッファに入力画像を構成する複数の画素をライン単位で書き込み、
前記入力ラインバッファを構成する複数のラインバッファのうちの1つのラインバッファに記憶された画素を読み出して画像処理部に与えることでライン単位で画像処理を実行させ、
前記入力ラインバッファの各ラインバッファに対する書き込み及び読み出しを管理するバッファ管理情報をメモリに記憶させると共に、前記入力ラインバッファへの画素の書き込み及び前記画像処理部のライン単位の画像処理の処理終了に基づいて前記バッファ管理情報を更新する
手順を具備する画像処理方法。 - コンピュータに、
複数のラインバッファにより構成される入力ラインバッファに入力画像を構成する複数の画素をライン単位で書き込み、
前記入力ラインバッファを構成する複数のラインバッファのうちの1つのラインバッファに記憶された画素を読み出して画像処理部に与えることでライン単位で画像処理を実行させ、
前記入力ラインバッファの各ラインバッファに対する書き込み及び読み出しを管理するバッファ管理情報をメモリに記憶させると共に、前記入力ラインバッファへの画素の書き込み及び前記画像処理部のライン単位の画像処理の処理終了に基づいて前記バッファ管理情報を更新する
手順を実行させるための画像処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173581A JP7170478B2 (ja) | 2018-09-18 | 2018-09-18 | 画像処理装置、画像処理方法及び画像処理プログラム |
CN201910109701.1A CN110910301B (zh) | 2018-09-18 | 2019-02-11 | 图像处理装置及方法、和保存有图像处理程序的记录介质 |
EP19159085.0A EP3627438A1 (en) | 2018-09-18 | 2019-02-25 | Image processing apparatus, image processing method, and image processing program |
US16/286,261 US11076092B2 (en) | 2018-09-18 | 2019-02-26 | Image processing apparatus, image processing method, and image processing program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173581A JP7170478B2 (ja) | 2018-09-18 | 2018-09-18 | 画像処理装置、画像処理方法及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020046817A true JP2020046817A (ja) | 2020-03-26 |
JP7170478B2 JP7170478B2 (ja) | 2022-11-14 |
Family
ID=65657225
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018173581A Active JP7170478B2 (ja) | 2018-09-18 | 2018-09-18 | 画像処理装置、画像処理方法及び画像処理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11076092B2 (ja) |
EP (1) | EP3627438A1 (ja) |
JP (1) | JP7170478B2 (ja) |
CN (1) | CN110910301B (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11616908B2 (en) | 2020-09-11 | 2023-03-28 | Kabushiki Kaisha Toshiba | Image processing apparatus and image processing method |
US11948225B2 (en) | 2020-09-18 | 2024-04-02 | Kabushiki Kaisha Toshiba | Image processing apparatus |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7210337B2 (ja) | 2019-03-14 | 2023-01-23 | 株式会社東芝 | 画像処理装置、及び、歪み補正係数算出方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018124968A (ja) * | 2017-01-27 | 2018-08-09 | 株式会社東芝 | 画像処理装置、及び、画像処理方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11113008A (ja) * | 1997-10-08 | 1999-04-23 | Olympus Optical Co Ltd | 電子的撮像装置 |
JP4045822B2 (ja) | 2002-03-19 | 2008-02-13 | 富士ゼロックス株式会社 | 画像形成装置 |
JP3897247B2 (ja) * | 2002-05-16 | 2007-03-22 | 富士フイルム株式会社 | 光学歪みの補正方法及び補正装置 |
JP2005229200A (ja) | 2004-02-10 | 2005-08-25 | Fujitsu Ltd | ディストーション補正回路 |
JP2007079708A (ja) | 2005-09-12 | 2007-03-29 | Konica Minolta Holdings Inc | 画像処理装置及び画像処理方法 |
JP4702233B2 (ja) * | 2006-09-11 | 2011-06-15 | ソニー株式会社 | 画像データ処理装置および画像データ処理方法 |
JP2008259070A (ja) | 2007-04-06 | 2008-10-23 | Canon Inc | 画像形成装置及びその制御方法、プログラム、記憶媒体 |
JP4528843B2 (ja) * | 2008-03-28 | 2010-08-25 | シャープ株式会社 | ラインバッファ回路、画像処理装置、および画像形成装置 |
JP5121671B2 (ja) * | 2008-10-30 | 2013-01-16 | 株式会社東芝 | 画像処理プロセッサ |
JP4692621B2 (ja) * | 2008-12-12 | 2011-06-01 | ソニー株式会社 | 情報処理装置、バッファ制御方法およびコンピュータプログラム |
JP5446429B2 (ja) * | 2009-04-27 | 2014-03-19 | ヤマハ株式会社 | 画像処理装置 |
JP2012032456A (ja) * | 2010-07-28 | 2012-02-16 | Yamaha Corp | 画像処理装置 |
JP5602532B2 (ja) | 2010-07-30 | 2014-10-08 | オリンパス株式会社 | 画像処理装置および画像処理方法 |
JP2012175303A (ja) * | 2011-02-18 | 2012-09-10 | Jvc Kenwood Corp | 撮像装置、撮像方法、及びプログラム |
WO2013136458A1 (ja) | 2012-03-14 | 2013-09-19 | 富士機械製造株式会社 | 画像補正処理装置 |
JP6743427B2 (ja) * | 2016-03-08 | 2020-08-19 | 株式会社リコー | 情報処理装置、撮像システムおよびデータ転送方法 |
JP6336000B2 (ja) | 2016-10-24 | 2018-06-06 | 株式会社三共 | 遊技機 |
CN108364249A (zh) | 2017-01-27 | 2018-08-03 | 株式会社东芝 | 图像处理装置以及图像处理方法 |
JP6845173B2 (ja) | 2018-03-15 | 2021-03-17 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
-
2018
- 2018-09-18 JP JP2018173581A patent/JP7170478B2/ja active Active
-
2019
- 2019-02-11 CN CN201910109701.1A patent/CN110910301B/zh active Active
- 2019-02-25 EP EP19159085.0A patent/EP3627438A1/en not_active Withdrawn
- 2019-02-26 US US16/286,261 patent/US11076092B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018124968A (ja) * | 2017-01-27 | 2018-08-09 | 株式会社東芝 | 画像処理装置、及び、画像処理方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11616908B2 (en) | 2020-09-11 | 2023-03-28 | Kabushiki Kaisha Toshiba | Image processing apparatus and image processing method |
US11948225B2 (en) | 2020-09-18 | 2024-04-02 | Kabushiki Kaisha Toshiba | Image processing apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP7170478B2 (ja) | 2022-11-14 |
EP3627438A1 (en) | 2020-03-25 |
CN110910301A (zh) | 2020-03-24 |
US11076092B2 (en) | 2021-07-27 |
CN110910301B (zh) | 2023-10-24 |
US20200092467A1 (en) | 2020-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020046817A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6845173B2 (ja) | 画像処理装置及び画像処理方法 | |
US10659746B2 (en) | Image processing device and image processing method | |
JP5602532B2 (ja) | 画像処理装置および画像処理方法 | |
US20070211960A1 (en) | Image processing apparatus for correcting distortion of image, imaging apparatus, and method of correcting distortion of image | |
US20150334319A1 (en) | Image processing apparatus, imaging apparatus, and method for processing image | |
JP2018124968A (ja) | 画像処理装置、及び、画像処理方法 | |
JP2007184720A (ja) | 画像撮影装置 | |
US11024015B2 (en) | Image processing apparatus and distortion correction coefficient calculation method | |
US9129405B2 (en) | Image processing apparatus and method | |
US8509568B2 (en) | Image processing apparatus and image processing method | |
JP6403401B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
WO2023070862A1 (zh) | 校正广角镜头图像畸变的方法、装置及照相设备 | |
JP5676233B2 (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
JP6295619B2 (ja) | 画像処理装置及び方法、並びに電子機器 | |
JP2015201677A (ja) | 画像処理装置および画像処理方法 | |
US10244179B2 (en) | Image processing apparatus, image capturing apparatus, control method, and recording medium | |
KR102655332B1 (ko) | 영상 왜곡 보정 장치 및 방법 | |
JP6273881B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2010154035A (ja) | ディストーション補正装置 | |
JP2017017609A (ja) | 画像処理装置 | |
JP5867903B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6440465B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6091082B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
US20150235349A1 (en) | Image processing apparatus, image processing method, and computer-readable recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20191008 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200917 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211026 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220517 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221004 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7170478 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |