JP2016025494A - 画像受信装置、画像伝送システムおよび画像受信方法 - Google Patents

画像受信装置、画像伝送システムおよび画像受信方法 Download PDF

Info

Publication number
JP2016025494A
JP2016025494A JP2014148574A JP2014148574A JP2016025494A JP 2016025494 A JP2016025494 A JP 2016025494A JP 2014148574 A JP2014148574 A JP 2014148574A JP 2014148574 A JP2014148574 A JP 2014148574A JP 2016025494 A JP2016025494 A JP 2016025494A
Authority
JP
Japan
Prior art keywords
image
parameter
unit
data
image recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014148574A
Other languages
English (en)
Other versions
JP6392572B2 (ja
Inventor
憲一 岩田
Kenichi Iwata
憲一 岩田
哲也 柴山
Tetsuya Shibayama
哲也 柴山
勝重 松原
Katsushige Matsubara
勝重 松原
連 今岡
Ren Imaoka
連 今岡
誠二 望月
Seiji Mochizuki
誠二 望月
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2014148574A priority Critical patent/JP6392572B2/ja
Priority to US14/752,883 priority patent/US9554137B2/en
Priority to EP15176616.9A priority patent/EP2977930B1/en
Priority to KR1020150100946A priority patent/KR102362596B1/ko
Priority to CN201510433954.6A priority patent/CN105306883B/zh
Publication of JP2016025494A publication Critical patent/JP2016025494A/ja
Priority to US15/401,956 priority patent/US20170118468A1/en
Application granted granted Critical
Publication of JP6392572B2 publication Critical patent/JP6392572B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H04N19/45Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder performing compensation of the inverse transform mismatch, e.g. Inverse Discrete Cosine Transform [IDCT] mismatch
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】受信する画像符号化ストリームを、デコードして得られる復号画像に対して画像認識を行う画像受信装置において、画像符号化ストリームの伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更し、画像認識率を向上する。【解決手段】画像受信装置は、データ受信部と、パラメータ変更部と、デコード部と、画像認識部とを備える。データ受信部は、画像符号化データとパラメータを含む画像符号化ストリームを受信する。パラメータ変更部は、データ受信部で受信されたパラメータ、即ち送信側で行われた符号化に対応して指定されたパラメータを、後段で実行する画像認識処理に適する値に変更する。デコード部は変更されたパラメータを適用して、受信された画像符号化データを復号して画像復号データを生成し、画像認識部はその画像復号データに対して画像認識処理を行う。【選択図】図1

Description

本発明は、画像受信装置、画像伝送システムおよび画像受信方法に関し、特に画像認識処理を伴う画像受信装置、画像伝送システムおよび画像受信方法に、好適に利用できるものである。
カメラで撮影されるなどされた原画像の画像情報を、表示するために伝送するシステムでは、原画像を一旦符号化・圧縮して伝送した後に、復号して得られた復号画像を表示する。画像情報は一般に膨大であるので、ネットワークなどである伝送路における伝送帯域幅を抑えるためである。このような画像伝送システムにおいて、表示に代えて或いは表示に加えて、画像認識を行う事が求められる場合がある。例えば、監視カメラにおいて不審者を発見し、また、車載カメラにおいて、車間距離を求め、道路標識を認識し、或いは、歩行者や他の車両、その他障害物との衝突を回避するために、画像認識を行うことが求められる。
特許文献1には、車両の運転支援のために、圧縮伸長後の映像を用いて画像認識を行う車載カメラシステムが開示されている。車両の走行状態と運転支援アプリケーション(車線逸脱警報、衝突防止、後方動画像表示など)に応じて、動画像フォーマットの画像サイズ、色フォーマット、フレームレート、ビット深度などの符号化制御情報を動画像送信装置のエンコーダ制御部に送信し、送信側が符号化制御情報に基づいて符号化パラメータを変更し、動画像ストリームを生成する。
特許文献2には、画像符号化の前段に特徴量抽出部を備え、特徴量算出部で画像の平坦度(アクティビティ)を算出し、画像符号化処理に含まれるデブロッキングフィルタに関するパラメータを決定することによって画質を改善する、画像符号化装置が開示されている。
特開2013−239995号公報 特開2008−22404号公報
特許文献1及び2について本発明者が検討した結果、以下のような新たな課題があることがわかった。
一般的な画像符号化方式は、人間の見た目にノイズが少ないと感じるよう画像を生成する符号化方法や、発生するビット量が最小になるように符号化モードを決定する符号化方法となっており、その復号画像を対象として画像認識をしようとした場合に、必ずしも画像認識処理に適するとは限らない。そのため、一般的な画像符号化方式によって圧縮伸長された復号画像では、認識率を十分に向上することができないことが分かった。
特許文献2に記載される画像符号化方式は、画像を表示するために好適ではあるが、画像を認識するために好適な画像符号化方式を提供していない課題があるといえる。画像認識するための特徴量として、例えば、EOH(Edge of Orientation Histogram)特徴量やHOG(Histograms of Oriented Gradients)特徴量など、エッジ情報に着目した特徴量が提案されている。一方、画像を表示するために好適なデブロッキングフィルタ処理はエッジ情報を失わせる処理になっており、画像認識のための特徴量を減殺する処理になっている。
また、特許文献1は、画像認識率を高めるとされるが、上述のように、動画像フォーマットの画像サイズ、色フォーマット、フレームレート、ビット深度などを、車両の走行状態と運転支援アプリケーションの種類や目的に応じて、画像認識に必要な最小限に抑えるが、符号化パラメータまで踏み込んで最適化するものではない。さらに、符号化制御情報および動画像ストリームのネットワークにおける伝送遅延があり、動画像受信装置による符号化制御情報の送信から、動画像ストリームの復号までの遅延時間が大きいという問題がある。
このような課題を解決するための手段を以下に説明するが、その他の課題と新規な特徴は、本明細書の記述及び添付図面から明らかになるであろう。
一実施の形態によれば、下記の通りである。
すなわち、データ受信部と、パラメータ変更部と、デコード部と、画像認識部とを備える画像受信装置を、以下のように構成する。データ受信部は、画像符号化データとパラメータを含む画像符号化ストリームを受信する。パラメータ変更部は、データ受信部で受信されたパラメータを変更することができ、デコード部は、パラメータ変更部によって変更されたパラメータを適用して、受信された画像符号化データを復号して画像復号データを生成する。画像認識部は、復号された画像復号データに対して画像認識処理を行う。
前記一実施の形態によって得られる効果を簡単に説明すれば下記のとおりである。
すなわち、伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更し、画像認識率を向上することができる。画像送信装置において符号化器が画像符号化ストリームに含めて送信するパラメータを、画像受信装置側で適宜、画像認識処理に適するパラメータに変更することができるからである。
図1は、実施形態1に係る画像受信装置の構成例を示すブロック図である。 図2は、パラメータを含む画像符号化ストリームの例を示す説明図である。 図3は、パラメータ変更部とデコーダ部の一構成例を示すブロック図である。 図4は、パラメータ変更部とデコーダ部の別の構成例を示すブロック図である。 図5は、パラメータの変更とデコード処理のフローを示すフローチャートである。 図6は、パラメータ変更とデコード処理の動作の一例(ピクチャ単位のフィードバック)を模式的に示すタイミングチャートである。 図7は、パラメータ変更とデコード処理の動作の別の例(スライス単位のフィードバック)を模式的に示すタイミングチャートである。 図8は、実施形態2に係る画像受信装置の構成例を示すブロック図である。 図9は、実施形態3に係る画像受信装置の構成例を示すブロック図である。
1.実施の形態の概要
先ず、本願において開示される代表的な実施の形態について概要を説明する。代表的な実施の形態についての概要説明で括弧を付して参照する図面中の参照符号はそれが付された構成要素の概念に含まれるものを例示するに過ぎない。
〔1〕<符号化器から受信した復号パラメータを変更して復号する画像受信装置>
本願において開示される代表的な実施の形態に係る画像受信装置(1)は、データ受信部(11)と、パラメータ変更部(12)と、デコード部(13)と、画像認識部(14)とを備え、以下のように構成される。
前記データ受信部は、画像符号化データとパラメータを含む画像符号化ストリーム(33)を受信する。前記パラメータ変更部は、前記データ受信部で受信されたパラメータを変更可能であり、前記デコード部は、前記データ受信部で受信された前記画像符号化データと,前記パラメータ変更部によって変更されたパラメータを含む画像符号化ストリーム(34)を復号して画像復号データ(35)を生成する。前記画像認識部は、前記画像復号データに対して画像認識処理を行う。
これにより、伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更し、画像認識率を向上することができる。画像送信装置において符号化器が画像符号化ストリームに含めて送信するパラメータを、画像受信装置側で適宜、画像認識処理に適するパラメータに変更することができるからである。
〔2〕<画像認識処理の確からしさを示す指標に基づくパラメータの変更>
項1において、前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標(31)を算出し、前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部で受信されたパラメータを変更する。
これにより、画像認識処理に、より適するように、パラメータを変更することができる。
〔3〕<画像受信装置の置かれている環境情報に基づくパラメータの変更>
項1または項2において、前記パラメータ変更部は、前記画像受信装置が置かれている環境情報(30)に基づいて、前記データ受信部で受信されたパラメータを変更する。
これにより、画像受信装置が置かれている環境に、画像認識処理がより適するように、パラメータを変更することができる。
〔4〕<走行状況に基づくパラメータの変更>
項3において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信される。
前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更する。
これにより、車載カメラシステムに搭載される画像受信装置おいて、車両の走行状況によって求められる画像認識の対象物に、より適するように、パラメータを変更することができる。
〔5〕<デブロッキングフィルタのパラメータの変更>
項1から項4のうちのいずれか1項において、前記デコード部はデブロッキングフィルタ(135)を含む。前記パラメータ変更部は、前記データ受信部で受信されたパラメータとして、前記画像符号化データに対して前記デブロッキングフィルタをかけるか否かを示すパラメータと前記デブロッキングフィルタのフィルタ係数のうちの少なくとも一方を変更する。
これにより、画像認識処理の認識率が十分に高くないときに、デブロッキングフィルタの強度を低下させて画像の高周波成分を抑圧させないか抑圧の程度を少なく抑え、認識率を向上することができる。
〔6〕<量子化パラメータの変更>
項1から項4のうちのいずれか1項において、前記デコード部は逆量子化部(133)を含む。前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる、量子化処理に対応する量子化パラメータを含み、前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる量子化パラメータを変更して、前記逆量子化部に供給する。
これにより、画像認識処理の認識率が十分に高くないときに、量子化パラメータを大きくして予測誤差成分を増幅強調し、認識率を向上することができる。
〔7〕<直交変換係数の変更>
項1から項4のうちのいずれか1項において、前記デコード部は直交逆変換部を含む。前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる直交変換処理に対応する直交変換係数を含み、前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる前記直交変換係数を変更して、前記直交逆変換部に供給する。
これにより、画像認識処理の認識率が十分に高くないときに、直交変換係数を変更して、認識率を向上することができる。例えば、直交変換係数の高域成分を削除することにより、画像認識処理部に入力される復号画像の周波数成分を、画像認識に必要とされる周波数成分に適合させることができる。
〔8〕<パラメータ送信部(画像認識処理の確からしさを示す指標)>
項1において、前記画像受信装置は、パラメータ送信部(17)をさらに備える。
前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標(31)を算出し、前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部で受信されたパラメータ(33)を変更する。
前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置(4)に対して、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標(31)を送出する。
これにより、画像認識処理により適するように、パラメータを変更することができ、さらに、画像符号化ストリームを生成する画像符号化装置においても、前記パラメータに対応する符号化パラメータを変更させることができる。
〔9〕<パラメータ送信部(画像受信装置の置かれている環境情報)>
項8において、前記パラメータ変更部は、前記画像受信装置が置かれている環境情報(30)に基づいて、前記データ受信部で受信されたパラメータ(33)を変更する。
前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置(4)に対して、前記前記画像受信装置が置かれている環境情報(30)を示す指標を送出する。
これにより、画像認識処理の環境情報に、より適するように、パラメータを変更することができ、さらに、画像符号化ストリームを生成する画像符号化装置においても、前記画像受信装置が置かれている環境情報に基づいて、符号化パラメータを変更させることができる。
〔10〕<パラメータ送信部(走行状況)>
項9において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信され、前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更する。前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置に対して、前記車両の走行状況を表す指標を送出する。
これにより、車載カメラシステムに搭載される画像受信装置おいて、車両の走行状況によって求められる画像認識の対象物に、より適するように、パラメータを変更することができ、さらに、画像符号化ストリームを生成する画像符号化装置においても、前記車両の走行状況に基づいて、符号化パラメータを変更させることができる。
〔11〕<表示用デコーダ>
請求項1から請求項10のうちのいずれか1項において、前記画像受信装置は、前記デコード部とは別のデコード部(15)と、表示部(16)とをさらに備える。
前記データ受信部は、受信した前記画像符号化ストリームを前記別のデコード部に供給する。前記別のデコード部は、前記画像符号化ストリームに含まれるパラメータを適用して、前記画像符号化ストリームに含まれる画像符号化データを復号して、前記画像復号データとは別の画像復号データを生成して、前記表示部に供給する。
これにより、画像認識に適するように変更されたパラメータを適用して復号された画像復号データは画像認識部に供給され、変更前の表示に適したパラメータを適用して復号された画像復号データは表示部に供給されるので、それぞれに適切なパラメータが適用される。
さらに、画像認識に適するように変更されたパラメータを適用して復号された画像復号データと、パラメータ変更前の表示に適したパラメータを適用して復号された画像復号データとを前記画像認識部に供給し、前記画像認識部は、当該2つの画像復号データの差分を利用して画像認識処理を実行することができる。これにより、画像認識の精度をより向上することができる。
〔12〕<画像伝送システム>
本願において開示される代表的な実施の形態は、項1から項11のうちのいずれか1項に記載される画像受信装置(1)と画像送信装置(4)を備える、画像伝送システムである。前記画像送信装置は、原画像が入力され、前記パラメータに対応するエンコードパラメータを用いて前記原画像に対する符号化処理を行って前記画像符号化データを生成する画像符号化装置を含み、前記画像受信装置に前記画像符号化ストリームを、前記画像受信装置に供給する。
これにより、伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更し、画像認識率を向上することができる、画像伝送システムを提供することができる。画像送信装置とそれに搭載される画像符号化装置には、パラメータ変更部に対応するような構成要素を備える必要はなく、通常の画像符号化装置、画像送信装置を、そのまま組み合わせることができる。
〔13〕<車載カメラ>
項12において、前記画像伝送システムは、周囲の画像を前記原画像として撮像するカメラと車載ネットワークを備える車両に搭載され、前記画像送信装置と前記画像受信装置とが互いに前記車載ネットワークで通信可能に接続される。
これにより、車載カメラによって撮像された画像に対する画像認識を行う車載の画像伝送システムにおいて、伝送遅延を低く抑えることができる。撮像から画像の認識までの時間が短くて済むので、自動車運転時の危険予知や回避などの、安全性を向上させることができる。
〔14〕<符号化器から受信した復号パラメータを変更して復号する画像受信方法>
本願において開示される代表的な実施の形態に係る画像受信方法(1)は、データ受信部(11)と、パラメータ変更部(12)と、デコード部(13)と、画像認識部(14)とを備え、以下のように構成される。
前記データ受信部には、画像符号化データとパラメータを含む画像符号化ストリーム(33)が入力される。前記パラメータ変更部は、前記データ受信部で入力されたパラメータを変更可能である(S1〜S4)。前記デコード部は、前記データ受信部で受信された前記画像符号化データと,前記パラメータ変更部によって変更されたパラメータを含む画像符号化ストリーム(34)を復号して画像復号データ(35)を生成する(S5)。前記画像認識部は、前記画像復号データに対して画像認識処理を行う。
これにより、伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更し、画像認識率を向上することができる、画像受信方法が提供される。送信側において符号化器が画像符号化ストリームに含めて送信するパラメータを、受信側で適宜、画像認識処理に適するパラメータに変更することができるからである。
〔15〕<画像認識処理の確からしさを示す指標に基づくパラメータの変更>
項14において、前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標(31)を算出し、前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部に入力されたパラメータを変更する(S3、S4)。
これにより、画像認識処理に、より適するように、パラメータを変更することができる。
〔16〕<画像受信装置の置かれている環境情報に基づくパラメータの変更>
項14または項15において、前記パラメータ変更部は、前記画像受信方法を使用する画像受信装置(1)が置かれている環境情報(30)に基づいて、前記データ受信部で受信されたパラメータを変更する(S1)。
これにより、画像受信装置が置かれている環境に、画像認識処理がより適するように、パラメータを変更することができる。
〔17〕<走行状況に基づくパラメータの変更>
項16において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信される。前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更する(S1)。
これにより、車載カメラシステムに搭載される画像受信装置おいて、車両の走行状況によって求められる画像認識の対象物に、より適するように、パラメータを変更することができる。
〔18〕<デブロッキングフィルタのパラメータの変更>
項14から項17のうちのいずれか1項において、前記デコード部はデブロッキングフィルタ(135)を含む。前記パラメータ変更部は、前記データ受信部で受信されたパラメータとして、前記画像符号化データに対して前記デブロッキングフィルタをかけるか否かを示すパラメータと前記デブロッキングフィルタのフィルタ係数のうちの少なくとも一方を変更する(S3、S4)。
これにより、画像認識処理の認識率が十分に高くないときに、デブロッキングフィルタの強度を低下させて画像の高周波成分を抑圧させないか抑圧の程度を少なく抑え、認識率を向上することができる。
〔19〕<量子化パラメータの変更>
項14から項17のうちのいずれか1項において、
前記デコード部は逆量子化部(133)を含む。前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる、量子化処理に対応する量子化パラメータを含み、前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる量子化パラメータを変更して、前記逆量子化部に供給する。
これにより、画像認識処理の認識率が十分に高くないときに、量子化パラメータを大きくして予測誤差成分を増幅強調し、認識率を向上することができる。
〔20〕<直交変換係数の変更>
項14から項17のうちのいずれか1項において、前記デコード部は直交逆変換部を含む。前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる直交変換処理に対応する直交変換係数を含み、前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる直交変換係数を変更して、前記直交逆変換部に供給する。
これにより、画像認識処理の認識率が十分に高くないときに、直交変換係数を変更して、認識率を向上することができる。例えば、直交変換係数の高域成分を削除することにより、画像認識処理部に入力される復号画像の周波数成分を、画像認識に必要とされる周波数成分に適合させることができる。
2.実施の形態の詳細
実施の形態について更に詳述する。
〔実施形態1〕
図1は、実施形態1に係る画像受信装置1の構成例を示すブロック図である。
画像受信装置1は、データ受信部11、パラメータ変更部12、デコーダ13、及び、画像認識部14を備える。データ受信部11は、ネットワーク2を介して送出されてくるパケットデータの受信と、パケットデータからの画像符号化ストリーム33の抽出を行う。画像符号化ストリーム33は、符号化された画像データであり、エレメンタリストリームと呼ばれるものである。エレメンタリストリームには、例えばMPEG-2(MPEG: Moving Picture Experts Group)やH.264、HEVC(High Efficiency Video Coding)などの符号化標準に準拠するものがあり、少なくともシーケンスレベル、ピクチャレベルの2階層の構成をもち、各階層はヘッダ部とデータ部から構成される。ヘッダ部には符号化の際の各種パラメータが含まれており、通常のデコーダは、そのパラメータを復号パラメータとして使ってデータ部の復号処理を行う。パラメータ変更部12は、画像符号化ストリーム33中のパラメータを変更し、変更されたパラメータを含む画像符号化ストリーム34をデコーダ13に供給する。デコーダ13は、画像符号化ストリーム34に含まれる変更されたパラメータを復号パラメータとして使って、画像符号化ストリーム34のデータ部を復号し、復号画像35を生成する。画像認識部14は、復号画像35に存在するオブジェクトなどの検出や認識、追跡処理を行う。
パラメータ変更部12による具体的なパラメータ変更方法は後述するが、ネットワーク2を介して受信した画像符号化ストリーム33に含まれるヘッダ内のパラメータを、エンコーダ部によって生成され付与された値から別の値に変更する。エンコーダ部によって生成され付与されたパラメータは、復号された画像を人が見ることを前提として、その画質の劣化を抑える方向に最適化されているが、画像認識部14における認識処理のために適切な値となっているとは限らない。そこで、パラメータ変更部12は、ネットワーク2を介して受信した画像符号化ストリーム33に含まれるヘッダ内のパラメータを、画像認識部14における認識処理のために適切な値に変更する。これにより、画像認識部14における画像認識率を向上することができる。また、エンコーダ側で生成するパラメータの値を変更させる場合と比較して、ネットワーク2による伝送遅延の影響を受けることなく、迅速にパラメータを適切に変更することができる。画像受信装置1の側のみで適宜、画像認識処理に適するパラメータの値に変更することができるからである。
このとき、画像認識部14は、画像認識処理の過程で、画像認識処理の確からしさを示す指標31を算出してパラメータ変更部12に供給し、パラメータ変更部12はその画像認識処理の確からしさを示す指標31に基づいて、パラメータの値を変更することが好適である。これにより、画像認識部14による画像認識処理に、より適するように、パラメータの値を変更することができるからである。
画像認識処理の確からしさを示す指標31は、例えば、画像認識部14における画像検出、認識、追跡処理の結果の確からしさを示す指標や認識領域を示す情報、画像認識領域情報などである。認識、検出の結果の確からしさは、各処理おける類似度を示す閾値や、識別器通過段数などから知ることができる。認識、検出の結果の確からしさを知る方法は、認識・検出アルゴリズム、アプリケーションによって様々な方法が考えられるが、以下のような例がある。
顔、標識などの物体検出においては、局所特徴量と統計的学習手法を組み合わせる手法が主流となっている。例えば、顔検出では、Haar-like特徴量を多数組み合わせて顔の検出器を構築する。検出器には、弱識別器を縦続接続し、AdaBoostを用いることで、多数の局所特徴量の中から、識別に最適な特徴量を選択する。ここで、検出の確からしさを示すこととして、縦続接続された弱識別器を何段通過したかが指標になりうる。
標識認識などの特定物体認識処理では、事前学習も可能であり、あらかじめ参照画像から求めた特徴量と、入力画像からの対応点探索を行うことで、標識認識が可能になる。類似度を示す値を閾値処理するので、閾値とのユークリッド距離が類似度を示す指標になる。
物体追跡においては、例えば、KLT(Kaneda Lucas Tomasi)法は局所領域における各点の動きは同一であると仮定し、微小時間における領域は並行移動のみという状態を仮定して特徴点の移動先を求める。移動前後のおけるSIFT(Scale Invariant Feature Transform)などの特徴量の類似度(ユークリッド距離)を用いて特徴点判定を行うので、特徴量のユークリッド距離が指標となりうる。
パラメータ変更部12は、画像認識処理の確からしさを示す指標31に代えて、またはこれに加えてデコーダ13から出力される統計情報32に基づいて、パラメータの値を変更することができる。統計情報32は、デコーダ13における各種パラメータ値、その分布などの統計情報である。
パラメータ変更部12がパラメータの値を変更するときに参照する情報は、画像認識処理の確からしさを示す指標31や統計情報32に限らず、受信ユニット内で得られるデータであればよい。
また、パラメータ変更部12は、画像認識処理の確からしさを示す指標31及び統計情報32に代えて、またはこれらに加えて画像受信装置1が置かれている環境情報30に基づいて、パラメータの値を変更することができる。ここで、環境情報30としては、種々の情報を採用することができる。例えば、画像受信装置1が実行する、画像認識部14による画像認識処理を含むアプリケーション情報である。これにより、画像受信装置1が置かれている環境に、画像認識処理がより適するように、パラメータの値を変更することができる。
さらに具体的な例を挙げれば、車載カメラを搭載した運転支援システムにおける画像受信装置に適用することができる。即ち、画像受信装置1が自動車などの車両に搭載され、その車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、生成された画像符号化ストリームが、CAN(Controller Area Network)などの車載ネットワークを介して伝送され、画像受信装置1のデータ受信部11で受信される。画像受信装置1のパラメータ変更部12は、その車両の走行状況に基づいて、データ受信部11で受信されたパラメータの値を、画像認識部14による画像認識処理に適する値に変更する。このとき、環境情報30は、例えば、高速走行中の中央分離帯や路側帯、車線を示す白線、或いは、先行車両の画像認識、中・低速走行中の歩行者や標識、障害物などの画像認識、後退走行時の車止めや停車位置を示す線、或いは障害物の画像認識などのアプリケーション情報とすることができる。この他、自動車の走行状態を表す情報、日中か夜間か或いは晴天か雨天かなどの環境情報であってもよい。
これにより、車載カメラシステムに搭載される画像受信装置おいて、車両の走行状況によって求められる画像認識の対象物に、より適するように、パラメータの値を変更することができる。
パラメータ変更部12によって変更されるパラメータについて説明する。
図2は、パラメータを含む画像符号化ストリームの例を示す説明図である。同図にはパラメータの一例として、H.264のオーディオビジュアルサービス全般のための高度ビデオ符号化方式(Advanced video coding for generic audiovisual services)における画像データの構造が示される。SPSはSequence parameter set、PPSはPicture parameter set、SHはSlice header、SDはSlice dataである。画像符号化ストリームは、同図にシーケンスとピクチャとスライスの3階層が例示されるように、複数の階層からなっており、各階層のヘッダ部であるSPS、PPS、SHと、最下位階層のスライスレベルのデータ部であるSDにより構成される。各階層のヘッダ部であるSPS、PPS、SHに各階層の符号化パラメータが定義されている。PPSには例えばdeblocking_filter_control_present_flagが、SHには例えばdisable_deblocking_filter_idc、slice_alpha_c0_offset_div2、slice_beta_offset_div2などが、それぞれ含まれる。これらはデブロッキングフィルタの処理を行うか否か、また処理を行うときのフィルタ係数を規定するためのパラメータであって、適切に変更することによって、画像認識部14に入力する画像信号の周波数成分を制御することが可能である。
パラメータ変更部12によって変更されるパラメータは、上述のデブロッキングフィルタに関するパラメータに限られず、予測モード、量子化パラメータ、直交変換係数などでもよい。量子化パラメータを大きい値に変更すると、例えば予測誤差成分が増幅強調され、また、直交変換係数の変更により、画像信号の周波数成分を制御することにより、画像認識部14の処理精度を変えることが可能になる。
パラメータ変更部12とデコーダ13、より詳細な構成例について説明する。
図3は、パラメータ変更部12とデコーダ13の一つの構成例を示すブロック図である。
パラメータ変更部12はパラメータ変更制御部120と可変長復号部121とストリーム変更処理部122とを含んで構成され、デコーダ13に接続される。データ受信部11から供給される画像符号化ストリーム33は、可変長復号部121に入力される。可変長復号部123は入力された画像符号化ストリーム33をデコードし、SPSやPPSのパラメータ123を抽出する。パラメータ変更制御部120は、フィードバックされる上述の各情報30、31、32を用いて、可変長復号部123で抽出されたパラメータを変更するか判断を行う。ストリーム変更処理部122は、画像符号化ストリーム33のうち、変更すべきと判断されたパラメータ123を変更し、変更されたパラメータをヘッダ部に含む画像符号化ストリーム34を生成する。ここで、パラメータ変更部12の出力する画像符号化ストリーム34におけるパラメータの変更は、符号化標準規格の範囲内とし、規格を逸脱するものではない。よって通常のデコーダ13でエラーとならない。即ち、デコーダ13の設計資源の流用が可能となり、コストを低減することができる。
可変長復号部121は、画像符号化ストリーム33中のヘッダ部分のみ復号可能であってもよく、データ部の可変長復号機能を有していても良い。
図4は、パラメータ変更部12とデコーダ13の別の構成例を示すブロック図である。この例ではパラメータ変更部12はデコーダ13と渾然一体として構成され、パラメータ変更機能を内部に備えるデコーダ13として示されている。パラメータ変更部12やデコーダ13などの機能ブロックへの分け方や呼び方は、便宜的なものであって、適宜変更することができる。図4に例示されるデコーダ13は、パラメータ処理制御部130と、可変長復号部131とパラメータ処理部132と逆量子化逆変換部133と加算器134とデブロッキングフィルタ135と、ピクチャバッファ136と、画面内予測部137と画面間予測部138と、予測モード選択部139とを含んで構成される。データ受信部11から供給される画像符号化ストリーム33は、可変長復号部131に入力される。可変長復号部131は、画像符号化ストリーム33の復号処理を行い、ヘッダパラメータや直交変換係数や符号化モードなどのパラメータ1301を出力する。パラメータ処理制御部130は、フィードバックされる上述の各情報30、31、32を用いて、パラメータ1301に含まれるパラメータを変更するか否かの判断を行い、パラメータ処理部132は、必要に応じてパラメータ1301に含まれるパラメータの変更を行い、変更後のパラメータ1302をデコーダ13内の各処理部(133〜139)へ出力する。逆量子化逆変換部133は、逆量子化および逆変換を行い、予測誤差分の画素データを出力する。この画素データは、加算器134にて、セレクタ139で選択された画面内予測画像(137からの出力)または画面間予測画像(138からの出力)と足しあわされ、デブロッキングフィルタ135で処理された結果、ピクチャバッファ136に格納される。ピクチャバッファ136内の画像データは、復号画像35として出力されるのと同時に、画面間予測138の参照画像として用いられる。
本構成例では、デコーダ13内の各処理部(133〜139)へ入力する各種パラメータだけではなく、必要に応じてさらにデータを変更処理することが可能になる。例えば、直交変換係数の高域成分を削除することにより、復号画像35の周波数成分を制御することが可能になる。
パラメータの変更処理手順について説明する。
図5は、パラメータの変更とデコード処理のフローを示すフローチャートである。シーケンス(Seq)、ピクチャ(Pic)、スライスの各階層ごとに、パラメータを変更するフローが示される。まず、環境情報30により画像符号化ストリーム33に含まれる、どのパラメータを変更するかを決定する(S1)。続いてシーケンスレベルのパラメータSPSの変更処理を行う(S2)。以降は、ピクチャ毎に、情報31、32の情報を用いて、PPS/SPSに存在するパラメータの変更を変更する(S3)。
またスライスが利用できる符号化標準規格では、スライス毎に、情報31、32の情報を用いて、スライスヘッダ(SH)内のパラメータを変更する(S4)。パラメータ変更後、変更されたパラメータを使ってスライスデータ(SD)処理(デコード処理)を行い(S5)、ピクチャ終了(S6)、およびシーケンス終了(S7)までデコード処理を継続する。
パラメータ変更とデコード処理の動作例について説明する。図6と図7は、それぞれパラメータ変更とデコード処理の動作の一例を模式的に示すタイミングチャートであり、図6にはピクチャレベルでのフィードバックを行う例が、図7にはスライスレベルでのフィードバックを行う例が、それぞれ示される。横軸は時間であり、パラメータ変更部12とデコーダ13の動作が「デコード」として示され、画像認識部14の動作が「画像認識」として示される。
図6は、パラメータ変更とデコード処理の動作の一例(ピクチャ単位のフィードバック)を模式的に示すタイミングチャートである。「変更」はパラメータ変更部12によるパラメータの変更処理であり、上段の「デコード」における「ピクチャ0処理」、「ピクチャ1処理」及び「ピクチャ2処理」はデコーダ13による復号処理である。下段の「画像認識」は画像認識部14における画像認識処理で、図示される「ピクチャ0処理」、「ピクチャ1処理」はその画像認識の対象であるピクチャが番号で示される画像認識処理である。
ピクチャ0のパラメータを対象とするパラメータ変更処理(「変更」と図示される)の後、ピクチャ0のデコード処理(「ピクチャ0処理」と図示)が開始される。デコード処理は、例えばマクロブロックなどの処理単位ごとに実行され、処理が完了したマクロブロックからピクチャ処理結果35の画像認識部14への出力が開始される。ピクチャ処理結果35が出力された後、画像認識部14は、ピクチャ0を対象とする画像認識処理(「ピクチャ0処理」と図示)を開始する。ピクチャ0のデコード処理が完了した後、ピクチャ0のデコード処理によって得られる統計情報32を使って、次のピクチャ1のパラメータを対象とするパラメータ変更処理(「変更」と図示)とその後のデコード処理(「ピクチャ1処理」と図示)が開始される。ピクチャ1についてのピクチャ処理結果35が出力された後、画像認識部14は、ピクチャ1を対象とする画像認識処理(「ピクチャ1処理」と図示)を開始する。ピクチャ1のデコード処理が完了した後、次のピクチャ2のパラメータを対象とするパラメータ変更処理(「変更」と図示)とそれに続くデコード処理が開始される。ピクチャ2のパラメータを対象とするパラメータ変更処理には、ピクチャ1のデコード処理(「ピクチャ1処理」と図示)によって得られる統計情報32に加えて、ピクチャ0を対象とする画像認識処理(「ピクチャ0処理」と図示)によって得られる、画像認識処理の確からしさを示す指標31が、フィードバックされる。
図7は、パラメータ変更とデコード処理の動作の別の例(スライス単位のフィードバック)を模式的に示すタイミングチャートである。1ピクチャが2個のスライスで構成される例である。「変更」はパラメータ変更部12によるパラメータの変更処理であるが、スライスレベルのパラメータの変更が含まれる。上段の「デコード」に示されるように、ピクチャ0のスライス0についてのパラメータ変更処理とデコード処理とスライス1についてのパラメータ変更処理とデコード処理が順次実行され、その後ピクチャ1、ピクチャ2、…のそれぞれのスライス0とスライス1についてのパラメータ変更処理とデコード処理が順次実行される。
下段の「画像認識」に示されるように、画像認識部14は、ピクチャ0のスライス0についてのスライス処理結果35が供給された時にピクチャ0のスライス0を対象とする画像認識処理を開始し、ピクチャ0のスライス1についてのスライス処理結果35が供給された時に同じピクチャ0のスライス1を対象とする画像認識処理を開始する。その後、ピクチャ1、ピクチャ2、…のそれぞれのスライス0とスライス1についての画像認識処理が順次実行される。スライス0のデコード処理によって得られる統計情報32は、同じピクチャ内のスライス0から次のスライス1のためのパラメータ変更処理に、また、スライス1のデコード処理によって得られる統計情報32は、次のピクチャのスライス0のためのパラメータ変更処理に、それぞれフィードバックされる。画像認識処理によって得られる画像認識処理の確からしさを示す指標31については、ピクチャ0のスライス0から得られる情報31がピクチャ1のスライス0のためのパラメータ変更処理にフィードバックされ、ピクチャ0のスライス1から得られる情報31がピクチャ1のスライス1のためのパラメータ変更処理にフィードバックされる。ピクチャ0のスライス1から得られる情報31は、さらに次のピクチャ2のためのパラメータ変更処理にもフィードバックされ得る。
図7に示されるように、スライスレベルのデコードが可能な場合には、上記(1)(2)に加えて、画像認識部14で認識した結果の確からしさの指標31を次のスライス処理に適用することが可能である。
図6及び図7では、デコーダ13によるデコード処理と画像認識部14における画像認識処理に同程度の時間がかかる場合のタイミングが示される。本発明においては、通信路の遅延に関わらず、検出や認識処理改善のフィードバックを、迅速かつ一定期間内に行うことが可能である。
本発明によって得られる効果について説明する。
本発明を先端運転システム(ADAS:Advanced Driver Assistance System)に適用する場合には、本実施形態に係る画像受信装置1は、ナビゲーションなどを制御するエンドポイントとなる。カメラ映像は送信ユニットにおいて符号化され、符号化されたカメラ映像(画像符号化ストリーム)は、Ethernet(登録商標)、CANなどの通信路を介して画像受信装置1に伝送される。本発明においては、通信路の遅延に関わらず、認識率改善のフィードバックを迅速かつ一定期間内に行える。
また、通信路ネットワークが存在せず、蓄積された符号化データからのオブジェクト認識を行うアプリケーションにおいて、本発明による画像認識を行う。符号化パラメータを変えられないシステムにおいても、画像認識率を向上させる効果がある。
パラメータを変更することにより、送信装置が想定する正しい復号画像とは一致しないが、認識精度を高めることが可能となる。復号画像を参照画像として用いない限り、誤差が伝搬することが無く、送信側の符号化に影響を及ぼすことはない。
〔実施形態2〕
図8は、実施形態2に係る画像受信装置の構成例を示すブロック図である。
画像受信装置1は、図1に示される実施形態1に係る画像受信装置1と同様に、データ受信部11、パラメータ変更部12、デコーダ13、及び、画像認識部14を備え、さらに、デコーダ15と表示部16とを備える。データ受信部11、パラメータ変更部12、デコーダ13、及び、画像認識部14の構成と動作については、実施形態1で説明したのと同様であるので、ここでは説明を省略する。追加されたデコーダ15には、画像符号化ストリーム33がパラメータ変更処理を受けることなく入力される。そのため、デコーダ15は、通常通りの視認性を重視した復号パラメータのままの復号が行われる。その復号画像出力36は表示部16に供給され、表示される。
これにより、画像認識に適するように変更されたパラメータを適用して復号された画像復号データは画像認識部に供給され、変更前の表示に適したパラメータを適用して復号された画像復号データは表示部に供給されるので、それぞれに適切なパラメータが適用される。
本実施形態2における画像認識部14は、デコーダ13の復号画像出力35に加えて、デコーダ15の復号画像出力36を入力できるように拡張することができる。画像認識部14は、パラメータが変更された復号画像出力35と変更されていない復号画像出力36の両方を画像認識処理に利用することにより、さらに認識精度を高めることができる。例えば、デブロッキングフィルタを強制的にオフにした復号画像出力35とエンコーダの指定通りデブロッキングフィルタ処理を行った復号画像出力36に対して、画素ごとに差分を計算すれば、デブロッキングフィルタがかかる画素周辺におけるエッジの情報が抽出できる。
デコーダ13と15の実装は、図8に示すように2系統を独立に配置してもよいし、1つのデコーダを時分割動作させてもよい。また、デコーダ13の処理能力が、画像認識部14の必要な認識処理性能よりも大きい場合には、デコーダ13を時分割動作させることにより、複数の復号画像出力35を画像認識に使用することができる。
本実施形態2では、実施形態1に示した方法により画像認識率を向上させつつ、画像表示(人による認識)も同時に行うことが可能になる。また、複数のデコード画像を画像認識部へ入力することで、認識精度改善に寄与することが可能になる。
さらに、本発明では、パラメータを変更することで、画像認識・トラッキングのための新たな入力画像(データ)を作り出すと捉えることもできる。すなわち、送信装置が想定する正しい復号画像とは一致せず、かつ復号画像を参照画像として利用して誤差が伝搬しても良く、見た目は悪くとも、画面内の動き情報は残存し、認識に用いることができる。
実施形態1では、パラメータを変更した復号画像を参照画像として用いない限り、誤差が伝搬することが無く、送信側の符号化に影響を及ぼすことはないとしていたが、本実施形態においては、パラメータ変更の範囲を画面間予測、および参照画像を含む(画面内予測のみ、デブロッキングフィルタ不要に限定しない)としてもよい。
〔実施形態3〕
図9は、実施形態3に係る画像受信装置の構成例を示すブロック図である。
画像受信装置1は、図1に示される実施形態1に係る画像受信装置1と同様に、データ受信部11、パラメータ変更部12、デコーダ13、及び、画像認識部14を備え、さらに、パラメータ送信部17を備える。データ受信部11、パラメータ変更部12、デコーダ13、及び、画像認識部14の構成と動作については、実施形態1で説明したのと同様であるので、ここでは説明を省略する。追加されたパラメータ送信部17には、例えば、画像認識部14で認識した結果の確からしさの指標31とデコード処理によって得られる統計情報32が入力され、画像送信装置内のエンコーダ4へ送出される。送信側にフィードバックすることにより、画像認識部の認識処理の結果の確からしさを示す指標の計測を補助する。また、画像送信装置内のエンコーダ4では、符号化の際のパラメータを、画像受信装置1における画像認識処理に適する値に変更することができる。
短い時間のフィードバック制御には、実施形態1において図6と図7を引用して説明した動作を採用することができる。より長い時間のフィードバック制御には、図9のパラメータ送信部17を利用した構成とする。符号化部(エンコーダ4)の符号化モードの選択へフィードバック制御が可能になるならば、認識処理の結果の確からしさを示す指標31の計測を補助する機能となるため、より正確なフィードバックが可能となる。即ち、画像認識により適切なパラメータによる画像符号化ストリームが送られるので、画像受信装置1における画像認識の精度をより、向上することができる。
また、実施形態1に示した画像受信装置1内のフィードバックと、本実施形態3で追加した画像受信装置1の外、即ちエンコーダ4へのフィードバックとの切り替えは、以下のように制御することができる。
例えば、フィードバック先の切り替え方法として、画像符号化ストリーム33に含まれる時間情報で、遅延時間を判断して、画像受信装置1内のフィードバックと画像送信装置(エンコーダ4)へのフィードバックとの間の切り替えを行う。また、エンコーダ4側が反応するまでは画像受信装置1内部のフィードバックを用い、その後、画像送信装置(エンコーダ4)へのフィードバックに切り替えてもよい。これにより、切替えタイムラグを軽減することができる。
以上本発明者によってなされた発明を実施形態に基づいて具体的に説明したが、本発明はそれに限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは言うまでもない。
例えば、画像受信装置を構成する各機能ブロックは、開示されるブロック分割に限定されるものではなく、一部もしくは全体の機能が他のブロックに含まれるなど、ブロック分割の態様を変更することは任意である。また、各機能ブロックの実装方法は、例えば半導体集積回路などのハードウェアによって実装され、プロセッサ上で動作するソフトウェアとして実装され、或いはそれらを組合せて実装されてもよい。
1 画像受信装置
2 ネットワーク
4 画像送信装置(エンコーダ)
11 データ受信部
12 パラメータ変更部
13、15 デコード部(デコーダ)
14 画像認識部
16 表示部
17 パラメータ送信部
30 環境情報
31 画像認識処理の確からしさを示す指標(認識率)
32 統計情報
33 画像符号化ストリーム
34 変更されたパラメータを含む画像符号化ストリーム
1301 画像符号化ストリームに含まれるパラメータ
1302 変更されたパラメータ
35、36 画像復号データ(復号画像出力)
120 パラメータ変更制御部
121 可変長復号部
122 ストリーム変更処理部
123 パラメータ
130 パラメータ処理制御部
131 可変長復号部
132 パラメータ処理部
133 逆量子化逆変換部
134 加算部
135 デブロッキングフィルタ
136 ピクチャバッファ
137 画面内予測部
138 画面間予測部
139 予測モード選択部

Claims (20)

  1. データ受信部と、パラメータ変更部と、デコード部と、画像認識部とを備え、
    前記データ受信部は、画像符号化データとパラメータを含む画像符号化ストリームを受信し、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータを変更可能であり、
    前記デコード部は、前記データ受信部で受信された前記画像符号化データと、前記パラメータ変更部によって変更されたパラメータ含む画像符号化ストリームを復号して画像復号データを生成し、
    前記画像認識部は、前記画像復号データに対して画像認識処理を行う、
    画像受信装置。
  2. 請求項1において、
    前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標を算出し、
    前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部で受信されたパラメータを変更する、
    画像受信装置。
  3. 請求項1において、
    前記パラメータ変更部は、前記画像受信装置が置かれている環境情報に基づいて、前記データ受信部で受信されたパラメータを変更する、
    画像受信装置。
  4. 請求項3において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信され、
    前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更する、
    画像受信装置。
  5. 請求項1において、
    前記デコード部はデブロッキングフィルタを含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータとして、前記画像符号化データに対して前記デブロッキングフィルタをかけるか否かを示すパラメータと前記デブロッキングフィルタのフィルタ係数のうちの少なくとも一方を変更する、
    画像受信装置。
  6. 請求項1において、
    前記デコード部は逆量子化部を含み、
    前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる、量子化処理に対応する量子化パラメータを含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる量子化パラメータを変更して、前記逆量子化部に供給する、
    画像受信装置。
  7. 請求項1において、
    前記デコード部は直交逆変換部を含み、
    前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる直交変換処理に対応する直交変換係数を含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる前記直交変換係数を変更して、前記直交逆変換部に供給する、
    画像受信装置。
  8. 請求項1において、前記画像受信装置は、パラメータ送信部をさらに備え、
    前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標を算出し、
    前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部で受信されたパラメータを変更し、
    前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置に対して、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標を送出する、
    画像受信装置。
  9. 請求項8において、
    前記パラメータ変更部は、前記画像受信装置が置かれている環境情報に基づいて、前記データ受信部で受信されたパラメータを変更し、
    前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置に対して、前記前記画像受信装置が置かれている環境情報を示す指標を送出する、
    画像受信装置。
  10. 請求項9において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信され、
    前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更し、
    前記パラメータ送信部は、前記画像符号化ストリームを生成して送出した画像送信装置に対して、前記車両の走行状況を表す指標を送出する、
    画像受信装置。
  11. 請求項1において、前記デコード部とは別のデコード部と、表示部とをさらに備え、
    前記データ受信部は、受信した前記画像符号化ストリームを前記別のデコード部に供給し、
    前記別のデコード部は、前記画像符号化ストリームに含まれるパラメータを適用して、前記画像符号化ストリームに含まれる画像符号化データを復号して、前記画像復号データとは別の画像復号データを生成して、前記表示部に供給する、
    画像受信装置。
  12. 請求項1に記載される画像受信装置と、原画像が入力され、前記パラメータに対応するエンコードパラメータを用いて前記原画像に対する符号化処理を行って前記画像符号化データを生成する画像符号化装置を含み、
    前記画像受信装置に前記画像符号化ストリームを、前記画像受信装置に供給する、画像送信装置を備える、
    画像伝送システム。
  13. 請求項12において、周囲の画像を前記原画像として撮像するカメラと車載ネットワークを備える車両に搭載され、前記画像送信装置と前記画像受信装置とが互いに前記車載ネットワークで通信可能に接続される、
    画像伝送システム。
  14. データ受信部と、パラメータ変更部と、デコード部と、画像認識部とを備え、
    前記データ受信部には、画像符号化データとパラメータを含む画像符号化ストリームが入力され、
    前記パラメータ変更部は、前記データ受信部で入力されたパラメータを変更可能であり、
    前記デコード部は、前記データ受信部で受信された前記画像符号化データと、前記パラメータ変更部によって変更されたパラメータを含む画像符号化ストリームを復号して画像復号データを生成し、
    前記画像認識部は、前記画像復号データに対して画像認識処理を行う、
    画像受信方法。
  15. 請求項14において、
    前記画像認識部は、前記画像認識処理の過程で、画像認識処理の確からしさを示す指標を算出し、
    前記パラメータ変更部は、前記画像認識処理の過程で算出された画像認識処理の確からしさを示す前記指標に基づいて、前記データ受信部に入力されたパラメータを変更する、
    画像受信方法。
  16. 請求項14において、
    前記パラメータ変更部は、前記画像受信方法を使用する画像受信装置が置かれている環境情報に基づいて、前記データ受信部で受信されたパラメータを変更する、
    画像受信方法。
  17. 請求項16において、前記画像受信装置は車両に搭載され、前記車両に搭載されるカメラによって撮像された画像が画像符号化装置によって画像符号化処理を施され、前記画像符号化処理によって生成された画像符号化ストリームが前記データ受信部で受信され、
    前記パラメータ変更部は、前記車両の走行状況に基づいて、前記データ受信部で受信されたパラメータを変更する、
    画像受信方法。
  18. 請求項14において、
    前記デコード部はデブロッキングフィルタを含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータとして、前記画像符号化データに対して前記デブロッキングフィルタをかけるか否かを示すパラメータと前記デブロッキングフィルタのフィルタ係数のうちの少なくとも一方を変更する、
    画像受信方法。
  19. 請求項14において、
    前記デコード部は逆量子化部を含み、
    前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる量子化処理に対応する量子化パラメータを含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる量子化パラメータを変更して、前記逆量子化部に供給する、
    画像受信方法。
  20. 請求項14において、
    前記デコード部は直交逆変換部を含み、
    前記パラメータは、前記画像符号化データを生成するために実行された符号化処理に含まれる、直交変換処理に対応する直交変換係数を含み、
    前記パラメータ変更部は、前記データ受信部で受信されたパラメータに含まれる直交変換係数を変更して、前記直交逆変換部に供給する、
    画像受信方法。
JP2014148574A 2014-07-22 2014-07-22 画像受信装置、画像伝送システムおよび画像受信方法 Active JP6392572B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2014148574A JP6392572B2 (ja) 2014-07-22 2014-07-22 画像受信装置、画像伝送システムおよび画像受信方法
US14/752,883 US9554137B2 (en) 2014-07-22 2015-06-27 Image receiving device, image transmission system, and image receiving method
EP15176616.9A EP2977930B1 (en) 2014-07-22 2015-07-14 Image receiving device, image transmission system and image receiving method
KR1020150100946A KR102362596B1 (ko) 2014-07-22 2015-07-16 화상 수신 장치, 화상 전송 시스템 및 화상 수신 방법
CN201510433954.6A CN105306883B (zh) 2014-07-22 2015-07-22 图像接收装置、图像传送系统和图像接收方法
US15/401,956 US20170118468A1 (en) 2014-07-22 2017-01-09 Image receiving device, image transmission system, and image receiving method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014148574A JP6392572B2 (ja) 2014-07-22 2014-07-22 画像受信装置、画像伝送システムおよび画像受信方法

Publications (2)

Publication Number Publication Date
JP2016025494A true JP2016025494A (ja) 2016-02-08
JP6392572B2 JP6392572B2 (ja) 2018-09-19

Family

ID=53793989

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014148574A Active JP6392572B2 (ja) 2014-07-22 2014-07-22 画像受信装置、画像伝送システムおよび画像受信方法

Country Status (5)

Country Link
US (2) US9554137B2 (ja)
EP (1) EP2977930B1 (ja)
JP (1) JP6392572B2 (ja)
KR (1) KR102362596B1 (ja)
CN (1) CN105306883B (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017001531A1 (de) 2016-02-15 2017-08-17 Suzuki Motor Corporation Fahrzeug mit Fahrsattel
WO2021152849A1 (ja) * 2020-01-31 2021-08-05 富士通株式会社 データ処理装置及びデータ処理プログラム
WO2022079791A1 (ja) * 2020-10-13 2022-04-21 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2022130497A1 (ja) * 2020-12-15 2022-06-23 富士通株式会社 解析装置、解析方法及び解析プログラム
WO2022137463A1 (ja) * 2020-12-24 2022-06-30 富士通株式会社 符号化システム、符号化方法及び符号化プログラム
WO2023047516A1 (ja) * 2021-09-24 2023-03-30 富士通株式会社 画像処理システム、符号化装置、符号化方法及び符号化プログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6392572B2 (ja) * 2014-07-22 2018-09-19 ルネサスエレクトロニクス株式会社 画像受信装置、画像伝送システムおよび画像受信方法
JP2017143340A (ja) * 2016-02-08 2017-08-17 株式会社デンソー 情報処理装置及びプログラム
KR102432486B1 (ko) * 2017-11-22 2022-08-12 삼성전자주식회사 비디오 복호화 장치 및 이를 포함하는 컴퓨팅 시스템 및 비디오 복호화 방법
EP4228268A4 (en) * 2020-11-09 2024-04-24 Samsung Electronics Co Ltd METHOD AND DEVICE FOR CARRYING OUT ARTIFICIAL INTELLIGENCE CODING AND ARTIFICIAL INTELLIGENCE DECODING
CN112714316B (zh) * 2020-12-21 2023-01-31 太原智林信息技术股份有限公司 基于视频码流的规则标志检测和分类识别方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05153574A (ja) * 1991-11-30 1993-06-18 Sony Corp 動画像データ復号化装置
JPH07129759A (ja) * 1993-10-29 1995-05-19 Canon Inc 画像処理方法及び装置
JP2005217733A (ja) * 2004-01-29 2005-08-11 Matsushita Electric Ind Co Ltd 画像復号装置、画像信号受信表示装置及び画像信号受信表示方法
JP2006513633A (ja) * 2003-01-10 2006-04-20 トムソン ライセンシング エラー隠蔽中に生成されるアーチファクトをスムージングするデコーダ装置及び方法
JP2006245718A (ja) * 2005-03-01 2006-09-14 Yomiuri Telecasting Corp データ放送監視システム
JP2009284331A (ja) * 2008-05-23 2009-12-03 Canon Inc 復号装置及び復号方法、プログラム
JP2011234033A (ja) * 2010-04-26 2011-11-17 Panasonic Corp 監視カメラおよび監視システム
JP2012191450A (ja) * 2011-03-10 2012-10-04 Canon Inc 画像符号化装置
JP2013239995A (ja) * 2012-05-17 2013-11-28 Clarion Co Ltd 車載カメラシステム及びこれに用いる映像受信装置と映像送信装置
JP2014082651A (ja) * 2012-10-17 2014-05-08 Hitachi Consumer Electronics Co Ltd 画像伝送システム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8189934B2 (en) * 2006-03-27 2012-05-29 Panasonic Corporation Image coding apparatus and image decoding apparatus
JP4747975B2 (ja) 2006-07-14 2011-08-17 ソニー株式会社 画像処理装置および方法、プログラム、並びに、記録媒体
JP4825644B2 (ja) * 2006-11-14 2011-11-30 ルネサスエレクトロニクス株式会社 画像復号装置、画像符号化装置、およびシステムlsi
JP5181294B2 (ja) * 2008-03-31 2013-04-10 富士フイルム株式会社 撮像システム、撮像方法、およびプログラム
BRPI0822735A2 (pt) * 2008-06-25 2017-08-22 Tomtom Int Bv Aparelho de navegação e método de detecção de que uma instalação de estacionamento está sendo procurada
US9473813B2 (en) * 2009-12-31 2016-10-18 Infosys Limited System and method for providing immersive surround environment for enhanced content experience
JP5308391B2 (ja) * 2010-03-31 2013-10-09 富士フイルム株式会社 画像符号化装置および方法並びにプログラム
CN202058178U (zh) * 2010-06-01 2011-11-30 福建新大陆电脑股份有限公司 一种字符图像校正装置
KR101989613B1 (ko) * 2011-02-10 2019-06-14 벨로스 미디어 인터내셔널 리미티드 화상 처리 장치 및 화상 처리 방법
EP2749027B1 (en) * 2011-08-25 2020-04-29 Sun Patent Trust Methods and apparatuses for encoding and decoding video using updated buffer description
US9167261B2 (en) * 2011-11-07 2015-10-20 Sharp Laboratories Of America, Inc. Video decoder with constrained dynamic range
CN103729459A (zh) * 2014-01-10 2014-04-16 北京邮电大学 一种构建情感分类模型的方法
JP6392572B2 (ja) * 2014-07-22 2018-09-19 ルネサスエレクトロニクス株式会社 画像受信装置、画像伝送システムおよび画像受信方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05153574A (ja) * 1991-11-30 1993-06-18 Sony Corp 動画像データ復号化装置
JPH07129759A (ja) * 1993-10-29 1995-05-19 Canon Inc 画像処理方法及び装置
JP2006513633A (ja) * 2003-01-10 2006-04-20 トムソン ライセンシング エラー隠蔽中に生成されるアーチファクトをスムージングするデコーダ装置及び方法
JP2005217733A (ja) * 2004-01-29 2005-08-11 Matsushita Electric Ind Co Ltd 画像復号装置、画像信号受信表示装置及び画像信号受信表示方法
JP2006245718A (ja) * 2005-03-01 2006-09-14 Yomiuri Telecasting Corp データ放送監視システム
JP2009284331A (ja) * 2008-05-23 2009-12-03 Canon Inc 復号装置及び復号方法、プログラム
JP2011234033A (ja) * 2010-04-26 2011-11-17 Panasonic Corp 監視カメラおよび監視システム
JP2012191450A (ja) * 2011-03-10 2012-10-04 Canon Inc 画像符号化装置
JP2013239995A (ja) * 2012-05-17 2013-11-28 Clarion Co Ltd 車載カメラシステム及びこれに用いる映像受信装置と映像送信装置
JP2014082651A (ja) * 2012-10-17 2014-05-08 Hitachi Consumer Electronics Co Ltd 画像伝送システム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017001531A1 (de) 2016-02-15 2017-08-17 Suzuki Motor Corporation Fahrzeug mit Fahrsattel
WO2021152849A1 (ja) * 2020-01-31 2021-08-05 富士通株式会社 データ処理装置及びデータ処理プログラム
JP7409400B2 (ja) 2020-01-31 2024-01-09 富士通株式会社 データ処理装置及びデータ処理プログラム
WO2022079791A1 (ja) * 2020-10-13 2022-04-21 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP7491388B2 (ja) 2020-10-13 2024-05-28 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2022130497A1 (ja) * 2020-12-15 2022-06-23 富士通株式会社 解析装置、解析方法及び解析プログラム
WO2022137463A1 (ja) * 2020-12-24 2022-06-30 富士通株式会社 符号化システム、符号化方法及び符号化プログラム
WO2023047516A1 (ja) * 2021-09-24 2023-03-30 富士通株式会社 画像処理システム、符号化装置、符号化方法及び符号化プログラム

Also Published As

Publication number Publication date
CN105306883B (zh) 2020-03-03
KR102362596B1 (ko) 2022-02-15
CN105306883A (zh) 2016-02-03
EP2977930B1 (en) 2020-10-28
US9554137B2 (en) 2017-01-24
KR20160011580A (ko) 2016-02-01
US20160029021A1 (en) 2016-01-28
US20170118468A1 (en) 2017-04-27
JP6392572B2 (ja) 2018-09-19
EP2977930A1 (en) 2016-01-27

Similar Documents

Publication Publication Date Title
JP6392572B2 (ja) 画像受信装置、画像伝送システムおよび画像受信方法
JP6357385B2 (ja) 画像通信装置、画像送信装置および画像受信装置
US10977809B2 (en) Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings
CN107851318B (zh) 用于对象跟踪的系统和方法
CN112639817A (zh) 用于自主驾驶的数据管线和深度学习系统
US9123133B1 (en) Method and apparatus for moving object detection based on cerebellar model articulation controller network
US20210110191A1 (en) Systems and Methods for Edge Assisted Real-Time Object Detection for Mobile Augmented Reality
KR20200068572A (ko) 필수 데이터의 손실 없는 필터를 이용하여 데이터를 압축하는 장치, 시스템, 및 방법
WO2017029858A1 (ja) 車両検出装置、車両検出システム、車両検出方法、及び車両検出プログラム
WO2017212992A1 (ja) 物体距離検出装置
JP2017139631A (ja) 撮像装置
US11954880B2 (en) Video processing
JP2018535572A (ja) カメラプレビュー
JP2015185135A (ja) 停車認識装置、停車認識方法及びプログラム
CN108259819B (zh) 动态影像特征加强方法与系统
JP2024515761A (ja) データ駆動型の動的に再構成された視差マップ
US20230334672A1 (en) Information processing device, information processing system, and information processing method
WO2021084818A1 (ja) 物体検出装置、物体検出方法、及び物体検出プログラム
KR102112250B1 (ko) 오브젝트 검출 방법 및 장치
JP2018151999A (ja) 物体距離検出装置
US10965866B2 (en) Image generation system, image display system, image generation method, and moving vehicle
CN113657277A (zh) 一种车辆被遮挡状态判断系统及方法
KR20220040530A (ko) 딥 러닝 기반 저조도 영상 분할 시스템 및 방법
Park et al. Night-time vehicle detection using low exposure video enhancement and lamp detection
WO2023199696A1 (ja) 映像圧縮方法、映像圧縮装置、及びコンピュータプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170330

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180823

R150 Certificate of patent or registration of utility model

Ref document number: 6392572

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150