JP2015513151A5 - - Google Patents

Download PDF

Info

Publication number
JP2015513151A5
JP2015513151A5 JP2014560321A JP2014560321A JP2015513151A5 JP 2015513151 A5 JP2015513151 A5 JP 2015513151A5 JP 2014560321 A JP2014560321 A JP 2014560321A JP 2014560321 A JP2014560321 A JP 2014560321A JP 2015513151 A5 JP2015513151 A5 JP 2015513151A5
Authority
JP
Japan
Prior art keywords
patch
upsampled
parent
patches
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014560321A
Other languages
English (en)
Other versions
JP6192670B2 (ja
JP2015513151A (ja
Filing date
Publication date
Application filed filed Critical
Priority claimed from PCT/EP2013/054272 external-priority patent/WO2013131851A2/en
Publication of JP2015513151A publication Critical patent/JP2015513151A/ja
Publication of JP2015513151A5 publication Critical patent/JP2015513151A5/ja
Application granted granted Critical
Publication of JP6192670B2 publication Critical patent/JP6192670B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

明細書、特許請求の範囲、及び図面に開示した各特徴は、独立に設けることもできるし、適切に組み合わせて設けることもできる。必要に応じて、ハードウェア、ソフトウェア、またはこれらの組み合わせで本発明の特徴を実現することができる。接続は場合に応じて無線接続でも有線接続でもよく、必ずしも直接的または専用の接続でなくてもよい。
実施形態に関して次の付記を記す。
(付記1) 入力画像の階層的超解像を実行する方法であって、
前記入力画像を複数のパッチに分割するステップと、
前記入力画像の、少なくとも2つの下位分解レベルへの空間的分解を実行するステップであって、少なくとも2つの下位分解レベル画像が得られるステップと、
アップサンプルされた空のフレームを生成するステップであって、前記入力画像の各パッチについて、アップサンプルされたフレーム中の対応するアップサンプルされたパッチが生成されるステップと、
前記入力画像の各現在パッチについて、
前記下位分解レベル画像において、前記現在パッチと同じサイズの一以上の類似パッチを検索するステップと、
前記検索ステップにおいて見つかった類似パッチのそれぞれについて、次の高位分割レベル中のペアレントパッチを決定するステップであって、ペアレントパッチは現在パッチより大きいステップと、
前記決定されたペアレントパッチを加重するステップであって、パッチの加重に用いる加重値は前記パッチのスパース性から決定され、前記スパース性は前記パッチの非ゼロDCT係数の数に対応する、決定され加重されたペアレントパッチが得られるステップと、
前記決定され加重されたペアレントパッチを集積するステップであって、アップサンプルされた高解像度パッチが得られるステップと、
前記アップサンプルされたフレームにおいて、前記現在パッチに対応するアップサンプルされたパッチを、前記アップサンプルされた高解像度パッチで置換するステップとを実行する、
方法。
(付記2) 前記下位分解レベル画像において一以上の類似パッチを検索するステップにおいて、各現在パッチの平均と各類似パッチの平均とを計算し、それぞれのパッチの各画素値から減算し、前記パッチを置換するステップにおいて、各現在パッチの平均を、その現在パッチに対応するアップサンプルされたパッチの各画素値に加算する、
付記1に記載の方法。
(付記3) 前記下位分解レベル画像において、一以上の類似パッチを検索し、そのパッチ中の画素の輝度値に応じて類似性を決定する、
付記1または2に記載の方法。
(付記4) 前記下位分解レベル画像において、一以上の類似パッチを検索し、そのパッチ中の画素の輝度値により類似性を決定する、
付記1または2に記載の方法。
(付記5) 前記入力画像のパッチは部分的にオーバーラップし、対応するアップサンプルされたパッチは部分的にオーバーラップしている、
付記1ないし4いずれか一項に記載の方法。
(付記6) 前記加重するステップと集積するステップは、加重された組み合わせを計算するステップを有し、前記加重された組み合わせの加重値は制約下の最小二乗問題を解くことにより決定される、
付記1ないし5いずれか一項に記載の方法。
(付記7) ピラミッド型超解像アルゴリズムは近傍エンベディングアルゴリズムである、
付記1ないし6いずれか一項に記載の方法。
(付記8) 後方投影を実行する追加的ステップをさらに有する、
付記1ないし7いずれか一項に記載の方法。
(付記9) 前記次の上位分解レベルのペアレントパッチはその相対座標により決定される、
付記1ないし8いずれか一項に記載の方法。
(付記10) ブロックベース予測を用いることにより超解像を実行するときに画素をアベレージングする、ローカルリニアエンベディングを用い、前記画素はオーバーラップしているソースブロックからのものである方法は、
前記ソースブロックのスパース性係数を決定するステップと、
加重係数により前記ソースブロックからの画素を結合する、各ソースブロックのスパース性係数がその画素の加重係数として用いられるステップとを有する、
方法。
(付記11) 複数のパッチに分割された入力画像の階層的超解像を実行する装置であって、
前記入力画像の、少なくとも2つの下位分解レベルへの空間的分解を実行する、少なくとも2つの下位分解レベル画像が得られる空間的分解ユニットと、
アップサンプルされた空のフレームを生成する、入力画像の各パッチについて、アップサンプルされたフレーム中の対応するアップサンプルされたパッチが生成されるアップサンプリングユニットと、
前記入力画像の各現在パッチについて、
検索ユニットにおいて、前記下位分解レベル画像において、前記現在パッチと同じサイズの一以上の類似パッチを検索するステップと、
前記検索ステップにおいて見つかった類似パッチのそれぞれについて、ペアレントパッチ決定ユニットにおいて、次の高位分割レベル中のペアレントパッチを決定するステップであって、ペアレントパッチは現在パッチより大きいステップと、
加重ユニットにおいて、前記決定されたペアレントパッチを加重するステップであって、パッチの加重に用いる加重値は前記パッチのスパース性から決定され、前記スパース性は前記パッチの非ゼロDCT係数の数に対応する、決定され加重されたペアレントパッチが得られるステップと、
集積ユニットにおいて、前記決定され加重されたペアレントパッチを集積するステップであって、アップサンプルされた高解像度パッチが得られるステップと、
挿入ユニットにおいて、前記アップサンプルされたフレームにおいて、前記現在パッチに対応するアップサンプルされたパッチを、前記アップサンプルされた高解像度パッチで置換するステップとを実行する、処理ユニットとを有する、
装置。
(付記12) 前記下位分解レベル画像において一以上の類似パッチを検索する検索ユニットにおいて、各現在パッチの平均と各類似パッチの平均とを計算し、それぞれのパッチの各画素値から減算し、前記挿入ユニットにおいて、各現在パッチの平均を、その現在パッチに対応するアップサンプルされたパッチの各画素値に加算する、
付記11に記載の装置。
(付記13) 前記入力画像のパッチは部分的にオーバーラップし、対応するアップサンプルされたパッチは部分的にオーバーラップしている、
付記11に記載の装置。
(付記14) ブロックベース予測を用いることにより超解像を実行するときに画素をアベレージングする、ローカルリニアエンベディングを用い、前記画素はオーバーラップしているソースブロックからのものである装置であって、
前記ソースブロックのスパース性係数を決定する第1の処理ユニットと、
加重係数により前記ソースブロックからの画素を結合する、各ソースブロックのスパース性係数がその画素の加重係数として用いられる、第2の処理ユニットとを有する、
装置。
(付記15) プロセッサ上で実行されると、付記1ないし10いずれか一項に記載の方法を前記プロセッサに実行させるプログラムデータを有するコンピュータ読み取り可能記憶媒体。

Claims (15)

  1. 入力画像の階層的超解像を実行する方法であって、
    前記入力画像を複数のパッチに分割するステップと、
    前記入力画像の、少なくとも2つの下位分解レベルへの空間的分解を実行するステップであって、少なくとも2つの下位分解レベル画像が得られるステップと、
    アップサンプルされた空のフレームを生成するステップであって、前記入力画像の各パッチについて、アップサンプルされたフレーム中の対応するアップサンプルされたパッチが生成されるステップと、
    前記入力画像の各現在パッチについて、
    前記下位分解レベル画像において、前記現在パッチと同じサイズの一以上の類似パッチを検索するステップと、
    前記検索ステップにおいて見つかった類似パッチのそれぞれについて、次の高位分割レベル中のペアレントパッチを決定するステップであって、ペアレントパッチは現在パッチより大きいステップと、
    前記決定されたペアレントパッチを加重するステップであって、パッチの加重に用いる加重値は前記パッチのスパース性から決定され、前記スパース性は前記パッチの非ゼロDCT係数の数に対応する、決定され加重されたペアレントパッチが得られるステップと、
    前記決定され加重されたペアレントパッチを集積するステップであって、アップサンプルされた高解像度パッチが得られるステップと、
    前記アップサンプルされたフレームにおいて、前記現在パッチに対応するアップサンプルされたパッチを、前記アップサンプルされた高解像度パッチで置換するステップとを実行する、
    方法。
  2. 前記下位分解レベル画像において一以上の類似パッチを検索するステップにおいて、各現在パッチの平均と各類似パッチの平均とを計算し、それぞれのパッチの各画素値から減算し、前記パッチを置換するステップにおいて、各現在パッチの平均を、その現在パッチに対応するアップサンプルされたパッチの各画素値に加算する、
    請求項1に記載の方法。
  3. 前記下位分解レベル画像において、一以上の類似パッチを検索し、そのパッチ中の画素の輝度値に応じて類似性を決定する、
    請求項1または2に記載の方法。
  4. 前記下位分解レベル画像において、一以上の類似パッチを検索し、そのパッチ中の画素の輝度値により類似性を決定する、
    請求項1または2に記載の方法。
  5. 前記入力画像のパッチは部分的にオーバーラップし、対応するアップサンプルされたパッチは部分的にオーバーラップしている、
    請求項1ないし4いずれか一項に記載の方法。
  6. 前記加重するステップと集積するステップは、加重された組み合わせを計算するステップを有し、前記加重された組み合わせの加重値は制約下の最小二乗問題を解くことにより決定される、
    請求項1ないし5いずれか一項に記載の方法。
  7. ラミッド型超解像アルゴリズムは近傍エンベディングアルゴリズムである、
    請求項1ないし6いずれか一項に記載の方法。
  8. 後方投影を実行する追加的ステップをさらに有する、
    請求項1ないし7いずれか一項に記載の方法。
  9. 前記次の上位分解レベルのペアレントパッチはその相対座標により決定される、
    請求項1ないし8いずれか一項に記載の方法。
  10. ブロックベース予測を用いることにより超解像を実行するときに画素をアベレージングする、ローカルリニアエンベディングを用い、前記画素はオーバーラップしているソースブロックからのものである方法は、
    前記ソースブロックのスパース性係数を決定するステップと、
    加重係数により前記ソースブロックからの画素を結合する、各ソースブロックのスパース性係数がその画素の加重係数として用いられるステップとを有する、
    方法。
  11. 複数のパッチに分割された入力画像の階層的超解像を実行する装置であって、
    前記入力画像の、少なくとも2つの下位分解レベルへの空間的分解を実行する、少なくとも2つの下位分解レベル画像が得られる空間的分解ユニットと、
    アップサンプルされた空のフレームを生成する、入力画像の各パッチについて、アップサンプルされたフレーム中の対応するアップサンプルされたパッチが生成されるアップサンプリングユニットと、
    前記入力画像の各現在パッチについて、
    検索ユニットにおいて、前記下位分解レベル画像において、前記現在パッチと同じサイズの一以上の類似パッチを検索するステップと、
    前記検索ステップにおいて見つかった類似パッチのそれぞれについて、ペアレントパッチ決定ユニットにおいて、次の高位分割レベル中のペアレントパッチを決定するステップであって、ペアレントパッチは現在パッチより大きいステップと、
    加重ユニットにおいて、前記決定されたペアレントパッチを加重するステップであって、パッチの加重に用いる加重値は前記パッチのスパース性から決定され、前記スパース性は前記パッチの非ゼロDCT係数の数に対応する、決定され加重されたペアレントパッチが得られるステップと、
    集積ユニットにおいて、前記決定され加重されたペアレントパッチを集積するステップであって、アップサンプルされた高解像度パッチが得られるステップと、
    挿入ユニットにおいて、前記アップサンプルされたフレームにおいて、前記現在パッチに対応するアップサンプルされたパッチを、前記アップサンプルされた高解像度パッチで置換するステップとを実行する、処理ユニットとを有する、
    装置。
  12. 前記下位分解レベル画像において一以上の類似パッチを検索する検索ユニットにおいて、各現在パッチの平均と各類似パッチの平均とを計算し、それぞれのパッチの各画素値から減算し、前記挿入ユニットにおいて、各現在パッチの平均を、その現在パッチに対応するアップサンプルされたパッチの各画素値に加算する、
    請求項11に記載の装置。
  13. 前記入力画像のパッチは部分的にオーバーラップし、対応するアップサンプルされたパッチは部分的にオーバーラップしている、
    請求項11に記載の装置。
  14. ブロックベース予測を用いることにより超解像を実行するときに画素をアベレージングする、ローカルリニアエンベディングを用い、前記画素はオーバーラップしているソースブロックからのものである装置であって、
    前記ソースブロックのスパース性係数を決定する第1の処理ユニットと、
    加重係数により前記ソースブロックからの画素を結合する、各ソースブロックのスパース性係数がその画素の加重係数として用いられる、第2の処理ユニットとを有する、
    装置。
  15. プロセッサ上で実行されると、請求項1ないし10いずれか一項に記載の方法を前記プロセッサに実行させるプログラムデータを有するコンピュータ読み取り可能記憶媒体。

JP2014560321A 2012-03-05 2013-03-04 入力画像の階層的超解像を実行する方法及び装置 Active JP6192670B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP12305264.9 2012-03-05
EP12305264 2012-03-05
PCT/EP2013/054272 WO2013131851A2 (en) 2012-03-05 2013-03-04 Method and apparatus for performing hierarchical super-resolution of an input image

Publications (3)

Publication Number Publication Date
JP2015513151A JP2015513151A (ja) 2015-04-30
JP2015513151A5 true JP2015513151A5 (ja) 2016-04-21
JP6192670B2 JP6192670B2 (ja) 2017-09-06

Family

ID=47757635

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014560321A Active JP6192670B2 (ja) 2012-03-05 2013-03-04 入力画像の階層的超解像を実行する方法及び装置

Country Status (6)

Country Link
US (1) US9652830B2 (ja)
EP (1) EP2823460B1 (ja)
JP (1) JP6192670B2 (ja)
KR (1) KR102061923B1 (ja)
CN (1) CN104160421B (ja)
WO (1) WO2013131851A2 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9984440B2 (en) * 2013-06-18 2018-05-29 Adobe Systems Incorporated Iterative patch-based image upscaling
US9317903B1 (en) * 2013-08-27 2016-04-19 Pixelworks, Inc. Self-similarity based single frame super-resolution
CN103700062B (zh) * 2013-12-18 2017-06-06 华为技术有限公司 图像处理方法和装置
JP2017505951A (ja) 2014-01-30 2017-02-23 トムソン ライセンシングThomson Licensing 画像の品質を高める方法及びデバイス
CN103824272B (zh) * 2014-03-03 2016-08-17 武汉大学 基于k近邻重识别的人脸超分辨率重建方法
CN103854269B (zh) * 2014-03-28 2016-08-17 国家测绘地理信息局卫星测绘应用中心 基于多角度、多分辨率的影像超分辨率重建方法及装置
EP2985992A1 (en) * 2014-08-13 2016-02-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for providing an image
US9538126B2 (en) 2014-12-03 2017-01-03 King Abdulaziz City For Science And Technology Super-resolution of dynamic scenes using sampling rate diversity
JP2018506106A (ja) 2014-12-22 2018-03-01 トムソン ライセンシングThomson Licensing 再帰的階層処理を使用して外挿画像を生成するための装置および方法
CN104602025B (zh) 2015-01-09 2018-11-20 华为技术有限公司 处理图像的方法和装置
US10410398B2 (en) * 2015-02-20 2019-09-10 Qualcomm Incorporated Systems and methods for reducing memory bandwidth using low quality tiles
US11221990B2 (en) * 2015-04-03 2022-01-11 The Mitre Corporation Ultra-high compression of images based on deep learning
US10007970B2 (en) 2015-05-15 2018-06-26 Samsung Electronics Co., Ltd. Image up-sampling with relative edge growth rate priors
US9911178B2 (en) 2015-05-22 2018-03-06 Samsung Electronics Co., Ltd. System and method for content-adaptive super-resolution via cross-scale self-learning
CN108780570B (zh) 2016-01-16 2022-12-06 特利丹菲力尔有限责任公司 使用迭代协同滤波的图像超分辨率的系统和方法
KR102580519B1 (ko) 2016-09-07 2023-09-21 삼성전자주식회사 영상처리장치 및 기록매체
KR102271285B1 (ko) * 2016-11-09 2021-07-01 삼성전자주식회사 영상처리장치 및 영상처리방법
CN106780331B (zh) * 2016-11-11 2020-04-17 浙江师范大学 一种新的基于邻域嵌入的超分辨率方法
CN108550109A (zh) * 2018-01-31 2018-09-18 中南林业科技大学 一种基于nsct的积分平差遥感影像超分辨率重建方法
US11004178B2 (en) 2018-03-01 2021-05-11 Nvidia Corporation Enhancing high-resolution images with data from low-resolution images
RU2697928C1 (ru) 2018-12-28 2019-08-21 Самсунг Электроникс Ко., Лтд. Способ сверхразрешения изображения, имитирующего повышение детализации на основе оптической системы, выполняемый на мобильном устройстве, обладающем ограниченными ресурсами, и мобильное устройство, его реализующее
CN110443755B (zh) * 2019-08-07 2023-05-30 杭州智团信息技术有限公司 一种基于高低频信号量的图像超分辨率的方法
CN110852950B (zh) * 2019-11-08 2023-04-07 中国科学院微小卫星创新研究院 基于稀疏表示和图像融合的高光谱图像超分辨率重建方法
US11288771B2 (en) * 2020-04-29 2022-03-29 Adobe Inc. Texture hallucination for large-scale image super-resolution
CN111652804B (zh) * 2020-05-28 2023-04-07 西安电子科技大学 基于膨胀卷积金字塔与瓶颈网络的超分辨率重建方法
CN113933111B (zh) * 2021-09-30 2022-08-19 南京大学 一种实现图像尺寸放大的上采样装置及其方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101540045B (zh) 2009-03-25 2011-07-27 湖南大学 基于同步正交匹配追踪的多源图像融合方法
WO2010122502A1 (en) * 2009-04-20 2010-10-28 Yeda Research And Development Co. Ltd. Super-resolution from a single signal
CN101980284B (zh) * 2010-10-26 2012-05-23 北京理工大学 基于两尺度稀疏表示的彩色图像降噪方法

Similar Documents

Publication Publication Date Title
JP2015513151A5 (ja)
US11308731B2 (en) Identifying video content via color-based fingerprint matching
US11886500B2 (en) Identifying video content via fingerprint matching
US20230289383A1 (en) Video fingerprinting
JP6192670B2 (ja) 入力画像の階層的超解像を実行する方法及び装置
AU2017232186B2 (en) Fast and robust image alignment for burst mode
US9146990B2 (en) Search and identification of video content
JP6324155B2 (ja) 画像処理装置、画像処理方法、及びプログラム
CN109791695B (zh) 基于图像块的运动向量确定所述块的方差
JP2011128990A5 (ja) 画像処理装置、画像処理方法およびプログラム
JP2009147807A (ja) 画像処理装置
JP2015035198A5 (ja)
WO2015167901A1 (en) Video fingerprinting
JP2015106290A5 (ja)
JP2008079152A5 (ja)
GB2557417A (en) Image alignment for burst mode images
WO2011086594A1 (ja) 画像処理装置、及びその方法
JP6056354B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
Wu et al. Fast and improved seam carving with strip partition and neighboring probability constraints
JP2012247897A (ja) 画像処理装置および画像処理方法
WO2016014105A1 (en) Systems and methods for selecting ink colors
US20140029669A1 (en) Method and device for encoding video
JP5988879B2 (ja) 特徴点検出装置およびプログラム
JP6468703B2 (ja) 動き検出装置、動き検出方法及びプログラム
KR20160063792A (ko) 영상 복원 방법 및 상기 방법을 수행하는 영상 복원 장치