JP2019054449A - 画像処理方法、画像処理装置、及び画像処理プログラム - Google Patents

画像処理方法、画像処理装置、及び画像処理プログラム Download PDF

Info

Publication number
JP2019054449A
JP2019054449A JP2017178102A JP2017178102A JP2019054449A JP 2019054449 A JP2019054449 A JP 2019054449A JP 2017178102 A JP2017178102 A JP 2017178102A JP 2017178102 A JP2017178102 A JP 2017178102A JP 2019054449 A JP2019054449 A JP 2019054449A
Authority
JP
Japan
Prior art keywords
hue
image
image processing
pixel
target pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017178102A
Other languages
English (en)
Other versions
JP7207847B2 (ja
Inventor
青木 宏道
Hiromichi Aoki
宏道 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu Photonics KK
Original Assignee
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu Photonics KK filed Critical Hamamatsu Photonics KK
Priority to JP2017178102A priority Critical patent/JP7207847B2/ja
Publication of JP2019054449A publication Critical patent/JP2019054449A/ja
Application granted granted Critical
Publication of JP7207847B2 publication Critical patent/JP7207847B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Spectrometry And Color Measurement (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

【課題】色彩に基づいて対象物を精度良く且つ効率良く判別することができる画像処理方法、画像処理装置、及び画像処理プログラムを提供する。【解決手段】画像処理方法は、対象物が撮像された画像を処理する方法であって、画像の少なくとも一部に含まれる複数の画素のRGB値を、彩度、色相、及び明度に変換する第1の変換ステップS12と、複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定ステップS13と、複数の画素のうち対象画素を除く背景画素の彩度及び色相のうち少なくとも1つに対して調整を行うことにより、対象画素を背景画素よりも目立たせる調整ステップS14と、複数の画素の調整後の彩度、色相、及び明度を、再びRGB値に変換する第2の変換ステップS15と、を含む。【選択図】図5

Description

本発明は、画像処理方法、画像処理装置、及び画像処理プログラムに関する。
特許文献1には、人間の視感的な印象に近い色彩値を求める為の色彩測定装置が記載されている。この色彩測定装置では、物体を計測して得られる測色値から色彩値を取得し、この色彩値に対して、物体の光沢度を測定して得られる測定値に基づいて補正を行っている。
特開2003−315154号公報
例えば農産、水産、畜産、土木、建築、食品加工、及び環境計測といった分野において、人による作業が中心となる現場では、対象物を色彩の違いによって判別する作業が、現場作業者の目視判断によって行われている。例えば農産の分野にて果実を収穫する際に、現場作業者が、果実の色彩に関するカラーチャートを予め用意し、そのカラーチャートの色彩と果実の色彩とを目視で比較することにより、収穫対象となる果実を判別する作業を行っている。
しかしながら、このような目視判断によって対象物が判別されると、例えば現場作業者の熟練度の違いにより現場作業者の目視判断の基準にばらつきが生じやすいので、判別の精度を一定の水準に保つことが難しくなる。また、例えば現場作業者の年齢及び性別の違いによって、その現場作業者の色彩識別能力が大きく異なることがあるので、このような色彩識別能力の違いによって目視判断の基準にばらつきが生じることもある。また、同一の現場作業者が作業を行う場合でも、その現場作業者の健康状態及び疲労状態等の影響によって、目視判断の基準が大きく左右されてしまうことがある。これらの影響による判別の精度のばらつきは、その対象物の品質等のばらつきに影響するので望ましくない。また、対象物の色彩を測定する測定装置は存在しているが、従来の測定装置では、局所的な色彩しか測定できないので、多数の対象物の判別の作業に手間及び時間が掛かる。従って、従来の測定装置を用いて対象物を効率良く判別することは難しい。
本発明は、このような問題点に鑑みてなされたものであり、色彩に基づいて対象物を精度良く且つ効率良く判別することができる画像処理方法、画像処理装置、及び画像処理プログラムを提供することを目的とする。
本発明の一実施形態による画像処理方法は、対象物が撮像された画像を処理する方法であって、画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換ステップと、複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定ステップと、複数の画素のうち対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、対象画素を背景画素よりも目立たせる調整ステップと、複数の画素の調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換ステップと、を含む。
本発明の一実施形態による画像処理装置は、対象物が撮像された画像を処理する装置であって、画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換部と、複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定部と、複数の画素のうち対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、対象画素を背景画素よりも目立たせる調整部と、複数の画素の調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換部と、を備える。
本発明の一実施形態による画像処理プログラムは、対象物が撮像された画像を処理するプログラムであって、画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換ステップと、複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定ステップと、複数の画素のうち対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、対象画素を背景画素よりも目立たせる調整ステップと、複数の画素の調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換ステップと、をコンピュータに実行させる。
上記の画像処理方法、画像処理装置、及び画像処理プログラムによれば、特定ステップ(特定部)において、画像の少なくとも一部に含まれる複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する。そして、調整部ステップ(調整部)では、複数の画素のうち対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整(例えば無彩度化)が行われることにより、対象画素を背景画素よりも目立たせる。これにより、調整後の画像において、同じ色相を有する部分を背景像に対して目立たせることができる。その結果、調整後の画像を通して同じ色相を有する対象物を客観的に判別することができるので、現場作業者間のばらつき或いは現場作業者の体調等の影響を受けることなく、対象物を色彩に基づいて精度良く判別することができる。また、画像を通して対象物を一目で判別することができるので、現場作業者の判別作業にかかる負担を軽減することができると共に、判別に要する時間を抑えることができる。その結果、対象物を効率良く判別することができる。
また、調整ステップ(調整部)では、背景画素の彩度を低下させてもよい。また、調整ステップ(調整部)では、背景画素の彩度を0にしてもよい。例えば、このような調整が行われることにより、対象画素を背景画素よりも目立たせることができるので、上記の効果を好適に奏することができる。
また、調整ステップ(調整部)では、背景画素の色相を対象画素の色相の対立色にしてもよい。例えば、このような調整が行われることにより、対象画素を背景画素よりも目立たせることができるので、上記の効果を好適に奏することができる。
また、調整ステップ(調整部)では、背景画素の明度を低下させてもよい。例えば、このような調整が行われることにより、対象画素を背景画素よりも目立たせることができるので、上記の効果を好適に奏することができる。
本発明によれば、色彩に基づいて対象物を精度良く且つ効率良く判別することができる。
図1は、第1実施形態の画像処理装置を搭載するスマートデバイスの機能ブロック図である。 図2は、対象物の一例としてイチゴが撮像された画像である。 図3の(a)は、RGB色空間を示す図である。図3の(b)は、HSV色空間を示す図である。 図4は、図2に示される画像に対して調整部による調整が行われた後の画像である。 図5は、第1実施形態の画像処理方法を示すフローチャートである。 図6の(a)は、対象物としてサクランボが撮像された画像である。図6の(b)は、図6の(a)に示される画像に対して、画像処理装置による画像処理が行われた後の画像である。 図7の(a)は、対象物としてパプリカが撮像された画像の一例である。図7の(b)は、図7の(a)に示される画像に対して、画像処理装置による画像処理が行われた後の画像である。 図8は、図3の(b)に示されるHSV色空間を中心軸方向から見た図である。 図9の(a)は、対象物としてパプリカが撮像された画像の他の例である。図9の(b)は、図9の(a)に示される画像に対して、画像処理装置による処理が行われた後の画像である。図9の(c)は、図9の(a)に示される画像に対して、画像処理装置による別の画像処理が行われた後の画像である。 図10の(a)は、対象物としてハザード表示部が撮像された画像である。図10の(b)は、図10の(a)に示される画像に対して、画像処理装置による画像処理が行われた後の画像である。 図11は、第1実施形態の画像処理装置を搭載するロボットの概略構成図である。 図12は、第1実施形態の画像処理装置を搭載するロボットの機能ブロック図である。 図13は、第2実施形態の画像処理方法を示すフローチャートである。
以下、添付図面を参照しながら、本発明の位置検出センサの実施の形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
(第1実施形態)
本実施形態の画像処理装置は、対象物が撮像された画像を処理する装置であって、例えば、スマートフォン、タブレット端末、又はスマートグラスといったスマートデバイス(情報処理装置)に搭載されるものである。図1は、本実施形態の画像処理装置20を搭載するスマートデバイス1の機能ブロック図である。図1に示されるスマートデバイス1は、プログラムを実行するプロセッサと、ROM及びRAM等の主記憶部と、ハードディスク及びフラッシュメモリ等の補助記憶部と、入力端子、出力端子、及び無線通信モジュール等の入出力インタフェースとを備えるコンピュータである。後述するスマートデバイス1の各機能的構成要素は、プロセッサ又は主記憶部の上に所定のソフトウェアを読み込ませ、プロセッサの制御の下で、入出力インタフェースを動作させ、主記憶部又は補助記憶部におけるデータの読み出しおよび書き込みを行うことで実現される。処理に必要なデータ及びデータベースは、主記憶部又は補助記憶部内に格納される。
図1に示されるように、スマートデバイス1は、機能的構成要素として、撮像部10と、画像処理装置20と、表示部30とを備えている。撮像部10は、対象物(例えば果実)を含む周辺の画像を撮像し、該周辺の画像を出力する。図2は、対象物の一例としてイチゴが撮像された画像である。図2に示される画像は、便宜上、グレースケールで表されているが、実際には、フルカラーで表される。画像は、静止画であってもよく、複数のフレームから成る動画像であってもよい。再び図1を参照する。画像処理装置20は、受付部21と、変換部22(第1の変換部)と、特定部23と、調整部24と、変換部25(第2の変換部)とを備えている。
受付部21は、撮像部10と電気的に接続されている。受付部21は、撮像部10から出力された画像を受け付ける。受付部21が受け付ける画像は、RGB色空間で表現された画像である。変換部22には、受付部21が受け付けた画像が入力する。変換部22は、画像のRGB色空間を、HSV色空間に変換する。具体的には、変換部22は、画像の少なくとも一部(一例では全て)に含まれる複数の画素のRGB値(第1のRGB値)を、色相(Hue)、彩度(Saturation)、及び明度(Value)に変換する。
ここで、画像の色空間について説明する。図3の(a)は、RGB色空間を示す図であり、図3の(b)は、HSV色空間を示す図である。図3の(a)に示されるRGB色空間は、3次元直交座標系の色空間である。RGB色空間の3つの座標軸は、R(赤色)成分の色値、G(緑色)成分の色値、及びB(青色)成分の色値をそれぞれ表している。RGB値は、これらの色値の組み合わせで表現される。その一方で、図3の(b)に示されるHSV色空間は、円柱状の色空間である。HSV色空間において、色相Hは角度で表され、彩度Sは円柱の中心軸から径方向に延びる軸で表され、明度Bは中心軸に沿った縦軸で表される。このように各画素のRGB値を色相H、彩度S、及び明度Bの3要素で表すことによって、これらの3要素をそれぞれ独立して調整することが可能になる。
再び図1を参照する。特定部23は、各画素の色相Hに基づいて、複数の画素のうち、所定の色相帯域に含まれる色相Hを有する対象画素P1(図2参照)を特定する。これにより、対象画素P1と、複数の画素のうち対象画素P1を除く背景画素P2(図2参照)とを互いに区別することができる。色相帯域は、図3の(b)に示されるHSV色空間において、角度範囲で規定される。この角度範囲の上限値及び下限値は、例えばマウス、キーボード、及びタッチパネルといった入力インタフェースによって設定される。角度範囲の上限値及び下限値は、例えば予め設定されている。或いは、角度範囲の上限値及び下限値は、スマートデバイス1を使用する度に入力インタフェースを介してユーザ(例えば現場作業者)により設定されてもよい。対象物の判別作業を行う日の天気及び時間帯の影響により各画素の色相Hの値が変化することがあるが、このようにスマートデバイス1の使用時に色相帯域を設定することによって、対象物を精度良く判別することが可能になる。或いは、角度範囲の上限値及び下限値は、画像の中の任意の位置にある画素が有する色相Hを基準として、設定されてもよい。例えば、ユーザがタッチパネル等の入力インタフェースを用いて画像の任意の位置(例えば収穫対象となる果実の位置)を指定し、その指定された位置にある画素が有する色相Hを基準として、角度範囲の上限値を+0.5度とし、下限値を−0.5度としてもよい。なお、この場合も、角度範囲の上限値及び下限値は、予め設定されていてもよく、或いは、スマートデバイス1を使用する度にユーザにより設定されてもよい。特定部23は、このようにして設定される色相帯域に含まれる色相Hを有する対象画素P1を特定する。
調整部24は、複数の画素のうち対象画素P1を除く背景画素P2の色相H及び彩度Sの少なくとも1つに対して調整を行うことにより、対象画素P1を背景画素P2よりも目立たせる(強調する)。図4は、図2に示される画像に対して調整部24による調整が行われた後の画像である。図4では、対象画素P1からなる領域がハッチングで表されており、背景画素P2からなる領域は、グレースケールで表されている。なお、図4において、便宜上、対象画素P1からなる領域がハッチングで表されているが、実際には本来の色彩で表される。
調整部24は、複数の画素のうち対象画素P1を除く背景画素P2の色相H及び彩度Sの少なくとも1つに対して調整を行う。例えば、調整部24は、背景画素P2の彩度Sを低下させる。或いは、調整部24は、背景画素P2の彩度Sを、対象画素P1の彩度Sよりも低い値にしてもよい。或いは、調整部24は、背景画素P2の彩度Sを0(無彩度化)にしてもよい。
また、調整部24は、背景画素P2の色相Hを対象画素P1の色相Hの対立色にしてもよい。或いは、調整部24は、背景画素P2の調整後における色相Hを、背景画素P2の調整前における色相Hの対立色にしてもよい。なお、対立色とは、図3の(b)に示されるHSV色空間において、或る色相Hが位置する角度を基準(0度)として、120度〜240度の角度範囲、好ましくは140度〜220度の角度範囲、より好ましくは165度〜195度の角度範囲に含まれる色相Hである。また、調整部24は、背景画素P2の色相H及び彩度Sの両方に対して、上記と同様の調整を行ってもよい。すなわち、調整部24は、背景画素P2の色相Hを対象画素P1の色相Hの対立色にする調整を行うと共に、背景画素P2の彩度Sを低下させる(例えば0にする)調整を行ってもよい。
更に、調整部24は、背景画素P2の明度Bに対して調整を行う。具体的には、調整部24は、背景画素P2の明度Bを低下させる。或いは、調整部24は、背景画素P2の明度Bを、対象画素P1の明度Bよりも低い値にしてもよい。なお、調整部24は、対象画素P1の色相H、彩度S、及び明度Bに対しては調整を行わずに保持する。或いは、調整部24は、対象画素P1の色相H、彩度S、及び明度Bに対して人間が目視でより認識し易くなるように調整を行ってもよい。例えば、調整部24は、対象画素P1の色相Hを、人間が目視で認識し易い赤色の色相Hとする調整を行ってもよい。
再び、図1を参照する。変換部25は、画像のHSV色空間を、再びRGB色空間に変換する。すなわち、変換部25は、各画素の色相H、彩度S、及び明度Bを、再びRGB値(第2のRGB値)に変換する。そして、変換部25は、そのRGB値に基づいて画像を調整し、該画像を表示部30に出力する。また、変換部25は、画像を例えばROMに出力し、該画像をROMに記憶させてもよい。なお、このように画像のHSV色空間をRGB色空間に再度変換するのは、一般に、画像を表示する表示部30が、RGB色空間におけるデータ(RGBデータ)の表示用に造られているからである。表示部30は、変換部25と電気的に接続されている。表示部30には、例えばディスプレイが用いられる。表示部30は、変換部25により出力される画像を表示する。
次に、スマートデバイス1の動作(情報処理方法)を説明する。併せて、本実施形態の画像処理方法について説明する。この画像処理方法は、例えばROMに記憶されたプログラムをプロセッサが読み出し実行することによって好適に実施される。
図5は、本実施形態の画像処理方法を示すフローチャートである。図5に示されるように、まず、撮像部10が、対象物を含む周辺の画像(図2参照)を撮像し、該周辺の画像を出力すると、受付部21が、その画像(図2参照)を受け付ける(S11、受付ステップ)。次に、変換部22が、受付部21から出力された画像の少なくとも一部に含まれる複数の画素のRGB値を、色相H、彩度S、及び明度Bに変換する(S12、第1の変換ステップ)。次に、特定部23が、複数の画素の色相Hに基づいて、複数の画素のうち、所定の色相帯域に含まれる色相Hを有する対象画素P1を特定する(S13、特定ステップ)。
次に、調整部24が、複数の画素のうち対象画素P1を除く背景画素P2の色相H及び彩度Sの少なくとも1つに対して調整を行う(S14、調整ステップ)。具体的には、調整部24は、背景画素P2の彩度Sを低下させる。一例では、調整部24は、背景画素P2の彩度Sを0(無彩度化)にする。更に、調整部24は、背景画素P2の明度Bに対して調整を行う。例えば、調整部24は、背景画素P2の明度Bを低下させる。なお、調整部24は、対象画素P1の色相H、彩度S、及び明度Bに対しては調整を行わずに保持する。或いは、調整部24は、対象画素P1の色相H、彩度S、及び明度Bに対して人間が目視でより認識し易くなるように調整を行ってもよい。次に、変換部22が、各画素の色相H、彩度S、及び明度Bを、再びRGB値に変換する(S15、第2の変換ステップ)。そして、変換部25は、そのRGB値に基づいて、画像の複数の画素を調整し、該画像を表示部30に出力する。次に、表示部30は、変換部25により出力される画像(図4参照)を表示する。(S16、表示ステップ)。
以上に説明した、本実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによって得られる効果を説明する。本実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによれば、特定ステップS13(特定部23)において、画像の少なくとも一部に含まれる複数の画素のうち、所定の色相帯域に含まれる色相Hを有する対象画素P1を特定する。そして、調整ステップS14(調整部24)では、複数の画素のうち対象画素P1を除く背景画素P2の彩度S及び色相Hの少なくとも1つに対して調整(例えば無彩度化)を行うことにより、対象画素P1を背景画素P2よりも目立たせる。これにより、図4に示されるように、調整後の画像において、同じ色相Hを有する部分を背景像に対して目立たせることができる。その結果、調整後の画像を通して同じ色相Hを有する対象物を客観的に判別することができるので、現場作業者間のばらつき或いは現場作業者の体調等の影響を受けることなく、対象物を色彩に基づいて精度良く判別することができる。
一例として、果実の判別作業の現場にスマートデバイス1を導入することにより、撮像された画像において、収穫対象となる果実(対象物)が写された部分(対象画素P1からなる領域)を背景像(背景画素P2からなる領域)に対して目立たせることができる。これにより、その画像を通して収穫対象となる果実を客観的に判別することができる。例えば、現場作業者は、その熟練度の違いによらず、収穫対象の果実を一定の基準で判別することができる。これにより、現場作業者の熟練度を向上させる為のトレーニングを行う必要が無くなるので、労務経費を抑えることができると共に、労働力を増加させることができる。また、一般に、若い女性の色彩識別能力は優れており、中年男性の色彩識別能力は、若い女性の色彩識別能力よりも劣るといわれているが、そのような色彩識別能力の違いによらず、収穫対象の果実を一定の基準で判別することができる。また、同一の現場作業者が判別作業を行う場合でも、その現場作業者は、その健康状態及び疲労状態等の影響によらず、収穫対象の果実を一定の基準で判別することができる。このように、本実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによれば、現場作業者間のばらつき或いは現場作業者の体調等の影響を受けることなく、対象物を色彩に基づいて精度良く判別することができる。
また、画像を通して対象物を一目で判別することができるので、現場作業者の判別作業にかかる負担を軽減することができると共に、判別に要する時間を抑えることができる。これにより、対象物を効率良く判別することができる。なお、ウエアラブルコンピュータ(例えばスマートグラス等のヘッドマウントディスプレイ)を用いれば、ハンズフリーで対象物を判別することができるので、対象物を更に効率良く判別することができる。
また、調整ステップS14(調整部24)では、背景画素P2の彩度Sを低下させてもよい。また、調整部24では、背景画素P2の彩度Sを0にしてもよい。例えば、このような調整が行われることにより、対象画素P1を背景画素P2よりも目立たせることができるので、上記の効果を好適に奏することができる。
また、調整ステップS14(調整部24)では、背景画素P2の色相Hを対象画素P1の色相Hの対立色にしてもよい。例えば、このような調整が行われることにより、対象画素P1を背景画素P2よりも目立たせることができるので、上記の効果を好適に奏することができる。
また、調整ステップS14(調整部24)では、背景画素P2の明度Bを低下させてもよい。例えば、このような調整が行われることにより、対象画素P1を背景画素P2よりも目立たせることができるので、上記の効果を好適に奏することができる。
(実施例)
図6の(a)は、対象物としてサクランボが撮像された画像である。図6の(a)に示される画像は、便宜上、グレースケールで表されているが、実際には、フルカラーで表される。図6の(a)において、対象画素P3、及び複数の画素のうち対象画素P3を除く背景画素P4が示されている。図6の(a)に示される画像に対して、上記実施形態の画像処理装置20により、以下の画像処理が行われる。すなわち、受付部21が、図6の(a)に示される画像を受け付けると、変換部22は、その画像の全体に含まれる複数の画素のRGB値を、色相H、彩度S、及び明度Bに変換する。次に、特定部23が、所定の色相帯域に含まれる色相Hを有する対象画素P3を特定する。所定の色相帯域とは、図3の(b)に示されるHSV色空間において、収穫対象となるサクランボの赤色の色相Hが含まれる角度範囲である。
次に、調整部24が、背景画素P4の色相H及び彩度Sの両方に対して調整を行う。具体的には、調整部24は、背景画素P4の彩度Sを0(無彩度化)にすると共に、背景画素P4の明度Bを低下させる。なお、調整部24は、対象画素P3の色相H、彩度S、及び明度Bに対しては、調整を行わない。次に、変換部25が、各画素の色相H、彩度S、及び明度Bを再びRGB値に変換する。図6の(b)は、図6の(a)に示される画像に対して上記の画像処理が行われた後の画像である。図6の(b)では、対象画素P3からなる領域がハッチングで表されており、背景画素P4からなる領域がグレースケールで表されている。なお、図6の(b)において、便宜上、対象画素P3からなる領域がハッチングで表されているが、実際には本来の色彩(赤色)で表される。上記の画像処理が行われることにより、図6の(b)に示されるように、収穫対象となるサクランボ(ハッチング部分)のみを、背景像に対して目立ち易くすることができる。例えばスマートフォンのカメラを用いて、画面上に図6の(b)に示される画像を表示することで、収穫対象となるサクランボを一目で判別することができる。
図7の(a)は、対象物としてパプリカが撮像された画像の一例である。図7の(a)に示される画像は、便宜上、グレースケールで表されているが、実際には、フルカラーで表される。図7の(a)において、対象画素P5、及び複数の画素のうち対象画素P5を除く背景画素P6が示されている。図7の(a)に示される画像に対して、上記実施形態の画像処理装置20により、以下の画像処理が行われる。すなわち、受付部21が、図7の(a)に示される画像を受け付けると、変換部22は、その画像の全体に含まれる複数の画素のRGB値を、色相H、彩度S、及び明度Bに変換する。次に、調整部24が、各画素の色相Hの値に対して、人間の目視によって認識しやすい値にシフトする調整を行う。これは、各画素の色相Hの値(角度)によっては、人間の目視では、各画素の色相差を認識し難い場合があるからである。具体的には、図3の(b)に示されるHSV色空間において、各画素の色相Hの角度を、時計回り方向又は反時計回りにシフトする。
図8は、図3の(b)に示されるHSV色空間を中心軸方向から見た図である。図8は、グレースケールで表されているが、実際には、様々な色の色相Hが表される。図8では、色相帯域A1は、人間が色相差を認識し難い色相帯域(赤色の色相Hを含む色相帯域)であり、色相帯域B1は、人間が色相差を認識し易い角度範囲(橙色の色相Hを含む色相帯域)である。図8において、各画素の色相Hの角度を、時計回り方向にシフトすることで、すなわち、色相帯域A1を色相帯域B1にシフトすることで、各画素の色相差を人間が目視で認識し易くすることができる。なお、各画素の色相Hの角度をシフトする前の画像、及び各画素の色相Hの角度をシフトした後の画像を、表示部30に表示することで確認できるようにしておくとよい。また、各画素の色相Hの角度のシフト量は、例えばマウス、キーボード、及びタッチパネルといった入力インタフェースによって設定される。このシフト量は、予め設定されていてもよく、或いは、スマートデバイス1を使用する度にユーザにより設定されてもよい。
次に、特定部23が、シフトされた色相H(すなわち橙色の色相範囲に含まれる色相H)に基づいて、所定の色相帯域に含まれる色相Hを有する対象画素P5を特定する。所定の色相帯域とは、図8において、収穫対象となるパプリカの橙色の色相Hが含まれる角度範囲である。次に、調整部24が、背景画素P6の色相H及び彩度Sの両方に対して調整を行う。具体的には、調整部24は、背景画素P6の彩度Sを0(無彩度化)にすると共に、背景画素P6の明度Bを低下させる。なお、調整部24は、対象画素P5の色相H、彩度S、及び明度Bに対しては、調整を行わない。次に、変換部25が、各画素の色相H、彩度S、及び明度Bを再びRGB値に変換する。図7の(b)は、図7の(a)に示される画像に対して上記の画像処理が行われた後の画像である。図7の(b)では、対象画素P5からなる領域がハッチングで表されており、背景画素P6からなる領域がグレースケールで表されている。なお、図7の(b)において、便宜上、対象画素P5からなる領域がハッチングで表されているが、実際には橙色で表される。上記の画像処理が行われることにより、図7の(b)に示されるように、収穫対象となるパプリカ(ハッチング部分)のみを、背景像に対して目立ち易くすることができる。例えばスマートフォンのカメラを用いて、画面上に図7の(b)の画像を表示することで、収穫対象となるパプリカを一目で判別することができる。
図9の(a)は、対象物としてパプリカが撮像された画像の他の例である。図9の(a)に示される画像は、便宜上、グレースケールで表されているが、実際には、フルカラーで表される。図9の(a)において、対象画素P7、及び複数の画素のうち対象画素P7を除く背景画素P8が示されている。図9の(a)に示される画像に対して、上記実施形態の画像処理装置20により、以下の画像処理が行われる。すなわち、受付部21が、図9の(a)に示される画像を受け付けると、変換部22は、その画像の全体に含まれる複数の画素のRGB値を、色相H、彩度S、及び明度Bに変換する。次に、特定部23が、所定の色相帯域に含まれる色相Hを有する対象画素P7を特定する。所定の色相帯域とは、図3の(b)に示されるHSV色空間において、収穫対象となるパプリカの赤色の色相Hが含まれる角度範囲である。ここで、角度範囲の上限値及び下限値は、画像の中の任意の位置にある画素が有する色相Hを基準として、設定される。具体的には、ユーザがタッチパネル等の入力インタフェースを用いて画像の位置PA(収穫対象となるパプリカの位置)を指定し、その指定された位置PAにある画素が有する色相Hを基準として設定される。なお、角度範囲の上限値及び下限値は、予め設定されていてもよく、或いは、スマートデバイス1を使用する度にユーザにより設定されてもよい。特定部23は、このようにして設定される色相帯域に含まれる色相Hを有する対象画素P7を特定する。
次に、調整部24が、背景画素P8の色相H及び彩度Sの両方に対して調整を行う。具体的には、調整部24は、背景画素P8の彩度Sを0(無彩度化)にすると共に、背景画素P8の明度Bを低下させる。なお、調整部24は、対象画素P7の色相H、彩度S、及び明度Bに対しては、調整を行わない。次に、変換部25が、各画素の色相H、彩度S、及び明度Bを再びRGB値に変換する。図9の(b)は、図9の(a)に示される画像に対して、上記の画像処理が行われた後の画像である。図9の(b)では、対象画素P7からなる領域がハッチングで表されており、背景画素P8からなる領域がグレースケールで表されている。なお、図9の(b)において、便宜上、対象画素P7からなる領域がハッチングで表されているが、実際には本来の色彩(赤色)で表される。上記の画像処理が行われることにより、図9の(b)に示されるように、収穫対象となるパプリカ(ハッチング部分)のみを、背景像に対して目立ち易くすることができる。例えばスマートフォンのカメラを用いて、画面上に図9の(b)の画像を表示することで、収穫対象となるパプリカを一目で判別することができる。
図9の(c)に示される画像は、図9の(a)に示される画像に対して、画像処理装置20による別の画像処理が行われた後の画像である。図9の(a)及び図9の(c)において、対象画素P9、及び複数の画素のうち対象画素P9を除く背景画素P10が示されている。図9の(c)では、対象画素P9からなる領域がハッチングで表されており、背景画素P10からなる領域はグレースケールで表されている。なお、図9の(c)において、便宜上、対象画素P9からなる領域がハッチングで表されているが、実際には本来の色彩(橙色)で表される。
図9の(c)に示される画像に対して行われた画像処理と、図9の(b)に示される画像に対して行われた画像処理との相違点は、図9の(c)に示される画像に対して行われた画像処理において、色相帯域の上限値及び下限値が、ユーザがタッチパネル等の入力インタフェースを用いて位置PBを指定し、その指定された位置PBにある画素が有する色相Hを基準として設定された点である。従って、図9の(c)に示される画像では、画像の中の位置PBにある画素が有する色相Hを基準として、対象画素P9からなる領域のみが、背景画素P10からなる領域に対して目立って見える。このように、ユーザは、取得された画像において、任意の位置にある画素が有する色相Hを指定し、その色相Hを基準とした色相帯域に含まれる色相を有する対象画素P9からなる領域のみを、背景画素P10からなる領域に対して目立たせることができる。
図10の(a)は、対象物としてハザード表示部hを示す画像である。図10の(a)に示される画像は、便宜上、グレースケールで表されているが、実際には、フルカラーで表される。また、図10の(a)において、対象画素P11、及び複数の画素のうち対象画素P11を除く背景画素P12が示されている。図10の(a)に示されるハザード表示部hは、周囲の歩行者等に対して視覚的に注意喚起をする為に設けられている。ハザード表示部hは、例えば黒色部分と黄色部分とが交互に繰り返されることにより視覚的に目立つように構成されている。しかし、ハザード表示部hが設けられる場所の景色等によっては、ハザード表示部hが目立ち難い場合がある。また、例えば、加齢等に伴って色覚特性が低下した高齢者、視野狭窄の症状を有する視覚障害者、及び視覚弱者といった視覚能力の劣る歩行者にとって、ハザード表示部hが目立ち難い場合がある。
そこで、ハザード表示部hを目立たせる為に、図10の(a)に示される画像に対して、上記実施形態の画像処理装置20により、以下の画像処理が行われる。すなわち、すなわち、受付部21が、図10の(a)に示される画像を受け付けると、変換部22は、その画像の全体に含まれる複数の画素のRGB値を、色相H、彩度S、及び明度Bに変換する。次に、特定部23が、複数の画素のうち、所定の色相帯域に含まれる色相Hを有する対象画素P11を特定する。所定の色相帯域とは、図3の(b)に示されるHSV色空間において、ハザード表示部hの黄色の色相Hが含まれる角度範囲である。
次に、調整部24は、対象画素P11及び背景画素P12に対して、それぞれ調整を行う。まず、調整部24は、対象画素P11の色相H及び彩度Sの両方に対して以下の調整を行う。すなわち、調整部24は、対象画素P11の黄色の色相Hが赤色の色相Hに近づくように、色相Hの角度の調整を行う。例えば、調整部24は、対象画素P11の色相Hを橙色の色相Hにする。これにより、視覚弱者等にとって、ハザード表示部hが目立って見え易くなる。また、調整部24は、対象画素P11の彩度Sを増大する。これにより、ハザード表示部hを更に目立ち易くすることができる。続いて、調整部24は、背景画素P12の色相H及び彩度Sの両方に対して以下の調整を行う。すなわち、調整部24は、背景画素P12の彩度Sを0(無彩度化)にすると共に、背景画素P12の明度Bを低下させる。次に、変換部25が、各画素の色相H、彩度S、及び明度BをRGB値に変換する。
図10の(b)は、図10の(a)に示される画像に対して、上記の画像処理が行われた後の画像である。図10の(b)では、対象画素P11からなる領域がハッチングで表されており、背景画素P12は、グレースケールで表されている。なお、図10の(b)において、便宜上、対象画素P11からなる領域がハッチングで表されているが、実際には橙色で表される。上記の処理が行われることにより、図10の(b)に示されるように、ハザード表示部h(ハッチング部分)のみを、背景像に対して目立ち易くすることができる。これにより、例えばスマートフォンのカメラを用いて、画面上に図10の(b)の画像を表示することで、ハザード表示部hを一目で判別することができる。なお、表示部30は、画像の対象画素P11からなる領域を点滅して表示させてもよい。これにより、画像の対象画素P11からなる領域を、背景画素P12からなる領域に対してより目立たせることができる。
(第2実施形態)
本実施形態では、第1実施形態の画像処理装置20が、対象物を収穫するロボット(情報処理装置)に搭載される。図11は、第1実施形態の画像処理装置20を搭載するロボット2の概略構成図である。ロボット2は、プログラムを実行するプロセッサと、ROM及びRAM等の主記憶部と、ハードディスク及びフラッシュメモリ等の補助記憶部と、入力端子、出力端子、及び無線通信モジュール等の入出力インタフェースとを備えるコンピュータである。図11に示されるように、ロボット2は、腕部3と、把持部4と本体部5とを備えている。腕部3は、例えば多関節構造を有しており、本体部5に取り付けられている。把持部4は、腕部3の先端に取り付けられており、対象物6を把持するように動作する。
図12は、第1実施形態の画像処理装置20を搭載するロボット2の機能ブロック図である。図12に示されるように、ロボット2は、機能的構成要素として、撮像部10と、画像処理装置20と、判別部40とを備えている。撮像部10は、腕部3(図11参照)の先端部に取り付けられる。撮像部10は、対象物6を含む周辺の画像(図2参照)を撮像し、該周辺の画像を出力する。なお、画像は、静止画であってもよく、複数のフレームから成る動画像であってもよい。画像処理装置20は、例えば本体部5(図11参照)内に設けられる。画像処理装置20の構成は、第1実施形態にて説明した通りである。判別部40は、画像処理装置20と電気的に接続されている。判別部40は、画像処理装置20の変換部25により出力される画像(図4参照)に基づいて、対象物6を判別する。すなわち、調整後の画像において、背景画素P2からなる領域と、対象画素P1からなる領域とを互いに区別し、対象画素P1からなる領域の位置情報を取得する。ロボット2のプロセッサは、その位置情報に基づいて対象物6を収穫するように指示する制御信号を、腕部3及び把持部4に出力する。腕部3及び把持部4は、その制御信号に従って、対象物6を把持するように動作して対象物6を所定位置にセットする。
次に、ロボット2の動作(情報処理方法)を説明する。併せて、本実施形態の画像処理方法について説明する。この画像処理方法は、例えばROMに記憶されたプログラムをプロセッサが読み出し実行することによって好適に実施される。図13は、本実施形態の画像処理方法を示すフローチャートである。図13に示されるように、受付ステップS11、第1の変換ステップS12、特定ステップS13、調整ステップS14、及び第2の変換ステップS15は、第1実施形態の画像処理方法(図5参照)と同じである。本実施形態の画像処理方法では、第2の変換ステップS15の後、判別部40が、変換部25により出力された調整後の画像に基づいて、対象物6を判別する(S17、判別ステップ)。
以上に説明した、本実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによれば、第1実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによって得られる効果と同様の効果を奏することができる。また、本実施形態の画像処理方法、画像処理装置20、及び画像処理プログラムによれば、ロボット2を対象物6の判別作業の現場に導入することで、対象物6の判別作業を並行して進めることができるので、対象物6を効率良く判別することができる。
本発明の画像処理方法、画像処理装置、及び画像処理プログラムは、上述した実施形態及び実施例に限られるものではなく、他に様々な変形が可能である。例えば、上述した実施形態及び実施例では、収穫対象の果実としてイチゴ及びサクランボを挙げて説明したが、収穫対象の果実は、梨、カキ、りんご、柑橘、及び洋ナシといった果実でもよい。また、上述した各実施例では、本発明の画像処理方法、画像処理装置、及び画像処理プログラムを主に農業分野に適用したが、農業分野に限られない。例えば、環境分野、ヘルスケア分野、又はケミカル分野といった分野に、本発明の画像処理方法、画像処理装置20、及び画像処理プログラムを適用してもよい。
1…スマートデバイス、2…ロボット、3…腕部、4…把持部、5…本体部、6…対象物、10…撮像部、20…画像処理装置、21…受付部、22…変換部、23…特定部、24…調整部、25…変換部、30…表示部、40…判別部、P1,P3,P5,P7,P9,P11…対象画素、P2,P4,P6,P8,P10,P12…背景画素。

Claims (7)

  1. 対象物が撮像された画像を処理する方法であって、
    前記画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換ステップと、
    前記複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定ステップと、
    前記複数の画素のうち前記対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、前記対象画素を前記背景画素よりも目立たせる調整ステップと、
    前記複数の画素の前記調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換ステップと、
    を含む、画像処理方法。
  2. 前記調整ステップでは、前記背景画素の彩度を低下させる、請求項1に記載の画像処理方法。
  3. 前記調整ステップでは、前記背景画素の彩度を0にする、請求項2に記載の画像処理方法。
  4. 前記調整ステップでは、前記背景画素の色相を前記対象画素の色相の対立色にする、請求項1〜3のいずれか1項に記載の画像処理方法。
  5. 前記調整ステップでは、前記背景画素の明度を低下させる、請求項1〜4のいずれか1項に記載の画像処理方法。
  6. 対象物が撮像された画像を処理する装置であって、
    前記画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換部と、
    前記複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定部と、
    前記複数の画素のうち前記対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、前記対象画素を前記背景画素よりも目立たせる調整部と、
    前記複数の画素の前記調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換部と、
    を備える、画像処理装置。
  7. 対象物が撮像された画像を処理するプログラムであって、
    前記画像の少なくとも一部に含まれる複数の画素の第1のRGB値を、彩度、色相、及び明度に変換する第1の変換ステップと、
    前記複数の画素のうち、所定の色相帯域に含まれる色相を有する対象画素を特定する特定ステップと、
    前記複数の画素のうち前記対象画素を除く背景画素の彩度及び色相の少なくとも1つに対して調整を行うことにより、前記対象画素を前記背景画素よりも目立たせる調整ステップと、
    前記複数の画素の前記調整後における彩度、色相、及び明度を、第2のRGB値に変換する第2の変換ステップと、
    をコンピュータに実行させる、画像処理プログラム。
JP2017178102A 2017-09-15 2017-09-15 画像処理方法、画像処理装置、及び画像処理プログラム Active JP7207847B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017178102A JP7207847B2 (ja) 2017-09-15 2017-09-15 画像処理方法、画像処理装置、及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017178102A JP7207847B2 (ja) 2017-09-15 2017-09-15 画像処理方法、画像処理装置、及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2019054449A true JP2019054449A (ja) 2019-04-04
JP7207847B2 JP7207847B2 (ja) 2023-01-18

Family

ID=66014740

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017178102A Active JP7207847B2 (ja) 2017-09-15 2017-09-15 画像処理方法、画像処理装置、及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP7207847B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020176976A (ja) * 2019-04-22 2020-10-29 マクタアメニティ株式会社 追熟度判定装置
JP2020204487A (ja) * 2019-06-14 2020-12-24 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
US20210129342A1 (en) * 2019-11-06 2021-05-06 Fanuc Corporation Controller, control method using controller, and control system
JP2021089179A (ja) * 2019-12-03 2021-06-10 マクタアメニティ株式会社 追熟度判定装置
JP2021179667A (ja) * 2020-05-11 2021-11-18 株式会社豊田自動織機 認識装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10200883A (ja) * 1997-01-14 1998-07-31 Toshiba Corp 被写体の監視表示装置
JP2001292333A (ja) * 2000-02-03 2001-10-19 Minolta Co Ltd カラー画像処理装置
JP2006108723A (ja) * 2004-09-09 2006-04-20 Omron Corp 画像変換装置
JP2010002952A (ja) * 2008-06-18 2010-01-07 Konica Minolta Business Technologies Inc 画像処理装置及び画像処理プログラム
JP2010206640A (ja) * 2009-03-04 2010-09-16 Nikon Corp 撮像装置
JP2016018391A (ja) * 2014-07-08 2016-02-01 富士ゼロックス株式会社 画像処理装置およびプログラム
JP2017134585A (ja) * 2016-01-27 2017-08-03 秋田県 収穫適期判定支援装置及び収穫適期判定支援プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5380973B2 (ja) 2008-09-25 2014-01-08 株式会社ニコン 画像処理装置及び画像処理プログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10200883A (ja) * 1997-01-14 1998-07-31 Toshiba Corp 被写体の監視表示装置
JP2001292333A (ja) * 2000-02-03 2001-10-19 Minolta Co Ltd カラー画像処理装置
JP2006108723A (ja) * 2004-09-09 2006-04-20 Omron Corp 画像変換装置
JP2010002952A (ja) * 2008-06-18 2010-01-07 Konica Minolta Business Technologies Inc 画像処理装置及び画像処理プログラム
JP2010206640A (ja) * 2009-03-04 2010-09-16 Nikon Corp 撮像装置
JP2016018391A (ja) * 2014-07-08 2016-02-01 富士ゼロックス株式会社 画像処理装置およびプログラム
JP2017134585A (ja) * 2016-01-27 2017-08-03 秋田県 収穫適期判定支援装置及び収穫適期判定支援プログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020176976A (ja) * 2019-04-22 2020-10-29 マクタアメニティ株式会社 追熟度判定装置
JP2020204487A (ja) * 2019-06-14 2020-12-24 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
JP7181157B2 (ja) 2019-06-14 2022-11-30 ヤマハ発動機株式会社 検査装置及びそれを備えた塗布装置
US20210129342A1 (en) * 2019-11-06 2021-05-06 Fanuc Corporation Controller, control method using controller, and control system
JP2021074799A (ja) * 2019-11-06 2021-05-20 ファナック株式会社 制御装置、その制御方法、及び制御システム
US11717970B2 (en) * 2019-11-06 2023-08-08 Fanuc Corporation Controller, control method using controller, and control system
JP7424800B2 (ja) 2019-11-06 2024-01-30 ファナック株式会社 制御装置、その制御方法、及び制御システム
JP2021089179A (ja) * 2019-12-03 2021-06-10 マクタアメニティ株式会社 追熟度判定装置
JP2021179667A (ja) * 2020-05-11 2021-11-18 株式会社豊田自動織機 認識装置

Also Published As

Publication number Publication date
JP7207847B2 (ja) 2023-01-18

Similar Documents

Publication Publication Date Title
JP2019054449A (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
US10546194B2 (en) Information processing apparatus, information processing method, and program
US10554880B2 (en) Image processing system, imaging apparatus, image processing method, and computer-readable storage medium
US20180267323A1 (en) Information processing apparatus, information processing method, and program
JP5257375B2 (ja) 画像処理装置および画像処理方法
EP3637763A1 (en) Colour detection method and terminal
WO2020124316A1 (en) Image processing method and apparatus
CN101946519B (zh) 图像处理装置、成像装置、校正系数计算方法
JP2017134585A (ja) 収穫適期判定支援装置及び収穫適期判定支援プログラム
US20130243312A1 (en) Color distance measurement apparatus, color distance measurement method, and program
CN104063846A (zh) 用于基于检测到的信息来处理图像的方法和装置
US11275947B2 (en) Image processing system, image processing method, and image processing program
CN102088539B (zh) 一种预拍照画质评价方法和系统
US20170154547A1 (en) System and method for assisting a colorblind user
CN114500969B (zh) 图像处理方法、装置、存储介质以及终端
US10182184B2 (en) Image processing apparatus and image processing method
CN108875625A (zh) 一种识别方法和电子设备
JP2017085461A (ja) 色変換装置、色変換システム及びプログラム
US20150178036A1 (en) Video output device, information processor, and method
JP2020009162A (ja) 画像処理装置、画像処理方法およびプログラム
JP7064201B1 (ja) 色判定システム、色判定方法および、色判定プログラム
JP2005316958A (ja) 赤目検出装置および方法並びにプログラム
JP2016092430A (ja) 撮影システム、情報処理装置、撮影方法、プログラム、記憶媒体
CN109124565B (zh) 用眼状态检测方法
JP2021149691A (ja) 画像処理システム及び制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200520

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210323

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210929

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220119

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220119

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220131

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220201

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220218

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220222

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220621

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221104

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20221122

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20221129

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20230104

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20230104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230105

R150 Certificate of patent or registration of utility model

Ref document number: 7207847

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150