JP7093886B2 - 画像処理方法及び装置、電子機器並びに記憶媒体 - Google Patents
画像処理方法及び装置、電子機器並びに記憶媒体 Download PDFInfo
- Publication number
- JP7093886B2 JP7093886B2 JP2021503598A JP2021503598A JP7093886B2 JP 7093886 B2 JP7093886 B2 JP 7093886B2 JP 2021503598 A JP2021503598 A JP 2021503598A JP 2021503598 A JP2021503598 A JP 2021503598A JP 7093886 B2 JP7093886 B2 JP 7093886B2
- Authority
- JP
- Japan
- Prior art keywords
- feature data
- image frame
- image
- alignment
- alignment feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 54
- 230000004927 fusion Effects 0.000 claims description 199
- 238000012545 processing Methods 0.000 claims description 142
- 238000000034 method Methods 0.000 claims description 91
- 230000008569 process Effects 0.000 claims description 35
- 230000006870 function Effects 0.000 claims description 33
- 238000013528 artificial neural network Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 9
- 230000001174 ascending effect Effects 0.000 claims description 6
- 230000000694 effects Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 13
- 230000007246 mechanism Effects 0.000 description 10
- 230000008439 repair process Effects 0.000 description 10
- 238000013135 deep learning Methods 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 238000010801 machine learning Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000005070 sampling Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000007499 fusion processing Methods 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 210000001525 retina Anatomy 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 230000008450 motivation Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/251—Fusion techniques of input or preprocessed data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/48—Matching video sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
本出願は、2019年4月30日に提出された、出願番号が201910361208.9である中国特許出願に基づいて提出され、当該中国特許出願の優先権を主張するものであり、該中国特許出願の全内容を参照として本出願に援用する。
処理対象画像フレームと前記処理対象画像フレームに隣接する1つ又は複数の画像フレームとを含む画像フレームシーケンスを取得し、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得ることと、
前記複数のアライメント特徴データに基づいて、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定し、前記複数の類似度特徴に基づいて、前記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定することと、
前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得て、前記フュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであることと、を含む。
第1画像特徴セット及び1つ又は複数の第2画像特徴セットに基づいて、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得て、ここで、前記第1画像特徴セットが、前記処理対象画像フレームの少なくとも1つの異なるスケールの特徴データを含み、前記第2画像特徴セットが、前記画像フレームシーケンスにおける1つの画像フレームの少なくとも1つの異なるスケールの特徴データを含むことを含む。
前記第1画像特徴セット内のスケールが最も小さい第1特徴データ、及び前記第2画像特徴セット内のスケールが前記第1特徴データのスケールと同じである第2特徴データを取得し、前記第1特徴データと前記第2特徴データに対して画像アライメントを行い、第1アライメント特徴データを得ることと、
前記第1画像特徴セット内のスケールが二番目に小さい第3特徴データ、及び前記第2画像特徴セット内のスケールが前記第3特徴データのスケールと同じである第4特徴データを取得し、前記第1アライメント特徴データに対してアップサンプリング畳み込みを行い、スケールが前記第3特徴データのスケールと同じである第1アライメント特徴データを得ることと、
前記アップサンプリング畳み込み後の第1アライメント特徴データに基づいて、前記第3特徴データと前記第4特徴データに対して画像アライメントを行い、第2アライメント特徴データを得ることと、
スケールが前記処理対象画像フレームのスケールと同じであるアライメント特徴データを得るまで、前記スケールの昇順で上記のステップを繰り返して実行することと、
全ての前記第2画像特徴セットに基づいて上記のステップを実行して、前記複数のアライメント特徴データを得ることとを含む。
変形可能な畳み込みネットワークによって、各前記アライメント特徴データを調整し、調整後の前記複数のアライメント特徴データを得ることを更に含む。
各前記アライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとのドット積を計算するによって、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定することを含む。
所定の活性化関数、及び前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴に基づいて、前記各アライメント特徴データの重み情報を決定することを含む。
フュージョン畳み込みネットワークを利用して、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得ることを含む。
要素レベル乗算によって、前記各アライメント特徴データと前記各アライメント特徴データの重み情報を乗算し、前記複数のアライメント特徴データの複数の変調特徴データを得ることと、
前記フュージョン畳み込みネットワークを利用して、前記複数の変調特徴データをフュージョンし、前記画像フレームシーケンスのフュージョン情報を得ることとを含む。
前記画像フレームシーケンスのフュージョン情報に基づいて、空間的特徴データを生成することと、
前記空間的特徴データにおける各要素点の空間的アテンション情報に基づいて、前記空間的特徴データを変調し、変調後のフュージョン情報を得、前記変調後のフュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであることとを更に含む。
前記空間的特徴データにおける各要素点の空間的アテンション情報に基づいて、要素レベル乗算と加算によって、前記空間的特徴データにおける前記各要素点を対応的に変調し、前記変調後のフュージョン情報を得ることを含む。
前記ニューラルネットワークは、複数のサンプル画像フレームペアを含むデータセットを利用して訓練されたものであり、前記サンプル画像フレームペアに、複数の第1サンプル画像フレーム及び前記複数の第1サンプル画像フレームにそれぞれ対応する第2サンプル画像フレームが含まれ、前記第1サンプル画像フレームの解像度は、前記第2サンプル画像フレームの解像度より低い。
前記画像フレームシーケンスにおける画像フレームに対してボケ除去処理を行うことを更に含む。
ビデオ収集装置により収集された第1ビデオストリームにおける画像フレームシーケンスの解像度が所定の閾値以下である場合、上記第1態様に記載の方法のステップにより、前記画像フレームシーケンスにおける各画像フレームを順に処理し、処理後の画像フレームシーケンスを得ることと、前記処理後の画像フレームシーケンスからなる第2ビデオストリームを出力及び/又は表示することとを含む。
前記アライメントモジュールは、処理対象画像フレームと前記処理対象画像フレームに隣接する1つ又は複数の画像フレームとを含む画像フレームシーケンスを取得し、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得るように構成され、
前記フュージョンモジュールは、前記複数のアライメント特徴データに基づいて、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定し、前記複数の類似度特徴に基づいて、前記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定するように構成され、
前記フュージョンモジュールは更に、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得て、前記フュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであるように構成される。
前記処理モジュールは、ビデオ収集装置により収集された第1ビデオストリームにおける画像フレームシーケンスの解像度が所定の閾値以下である場合、請求項1-14のうちいずれか一項に記載の方法により、前記画像フレームシーケンスにおける各画像フレームを順に処理し、処理後の画像フレームシーケンスを得るように構成され、
前記出力モジュールは、前記処理後の画像フレームシーケンスからなる第2ビデオストリームを出力及び/又は表示するように構成される。
で表し、
である。
が画像フレームt+iの特徴データを表し、
が画像フレームtの特徴データを表し、一般的には上記処理対象画像フレームと見なす。ここで、
及び
はそれぞれ、階層L及び階層(L+1)のオフセット(offset)である。
及び
はそれぞれ階層L及び階層(L+1)のアライメント特徴データである。(・)↑sとは、要素sの向上を指す。DConvは、上記変形可能な畳み込みDを表す。gは、複数の畳み込み層を有する一般化された関数を表す。双線形補間により、×2のアップサンプリング畳み込みを実現させることができる。該模式図において三階層のピラミッドを用いる。つまり、L=3である。
及び
は、2つの埋め込み(embedding)と理解されてもよく、簡単な畳み込みフィルタにより実現することができる。Sigmid函数は、出力結果の範囲を[0,1]に限定するためのものである。つなり、重み値は、0~1以内の数値であってもよい。それは、安定したグラジエントバックプロバゲーションに基づいて実現する。上記重み値を利用して行われるアライメント特徴データ変調は、2つの所定の閾値により判定されてもよい。その所定の閾値の範囲は、(0,1)であってもよい。例えば、重み値が所定の閾値未満であるアライメント特徴データは、無視されてもよい。重み値が上記所定の閾値を超えるアライメント特徴データが保留される。つまり、重み値に基づいて、上記アライメント特徴データの重要度を選別して表示すると、合理的なマルチフレームフュージョン及び再構築に寄与する。
を乗算する。例えば、特徴t+1に対して、対応する重み情報t+1を利用して変調する。図面に示したフュージョン畳み込みネットワークを利用して、上記変調されたアライメント特徴データ
を集める。続いて、フュージョン特徴データに基づいて、空間的特徴データを演算する。該空間的特徴データは、空間的アテンションマスク(masks)であってもよい。続いて、各画素の空間的アテンション情報に基づいて、要素レベル乗算と加算によって、空間的特徴データを変調し、上記変調後のフュージョン情報を最終的に得ることができる。
上記アライメントモジュール310は、処理対象画像フレーム及び上記処理対象画像フレームに隣接する1つ又は複数の画像フレームを含む画像フレームシーケンスを取得し、上記処理対象画像フレームと上記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得るように構成され、
上記フュージョンモジュール320は、上記複数のアライメント特徴データに基づいて、上複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定し、上記複数の類似度特徴に基づいて、上記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定するように構成され、
上記フュージョンモジュール320は更に、上記各アライメント特徴データの重み情報に基づいて、上記複数のアライメント特徴データに対してフュージョンを行い、上記画像フレームシーケンスのフュージョン情報を得て、上記フュージョン情報が、上記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであるように構成される。
上記処理モジュール410は、ビデオ収集装置により収集された第1ビデオストリームにおける画像フレームシーケンスの解像度が所定の閾値以下である場合、図1及び/又は図2に示した実施例の方法における任意のステップにより、上記画像フレームシーケンスにおける各画像フレームを順に処理し、処理後の画像フレームシーケンスを得るように構成され、
上記出力モジュール420は、上記処理後の画像フレームシーケンスからなる第2ビデオストリームを出力及び/又は表示するように構成される。
Claims (18)
- 画像処理方法であって、前記方法は、
処理対象画像フレームと前記処理対象画像フレームに隣接する1つ又は複数の画像フレームとを含む画像フレームシーケンスを取得し、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得ることと、
前記複数のアライメント特徴データに基づいて、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定し、前記複数の類似度特徴に基づいて、前記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定することと、
前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得て、前記フュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであることと、を含み、
前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得ることは、
フュージョン畳み込みネットワークを利用して、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得ることを含むことを特徴とする、
画像処理方法。 - 前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得ることは、
第1画像特徴セット及び1つ又は複数の第2画像特徴セットに基づいて、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得て、ここで、前記第1画像特徴セットが、前記処理対象画像フレームの少なくとも1つの異なるスケールの特徴データを含み、前記第2画像特徴セットが、前記画像フレームシーケンスにおける1つの画像フレームの少なくとも1つの異なるスケールの特徴データを含むことを含むことを特徴とする
請求項1に記載の画像処理方法。 - 第1画像特徴セット及び1つ又は複数の第2画像特徴セットに基づいて、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得ることは、
前記第1画像特徴セット内のスケールが最も小さい第1特徴データ、及び前記第2画像特徴セット内のスケールが前記第1特徴データのスケールと同じである第2特徴データを取得し、前記第1特徴データと前記第2特徴データに対して画像アライメントを行い、第1アライメント特徴データを得ることと、
前記第1画像特徴セット内のスケールが二番目に小さい第3特徴データ、及び前記第2画像特徴セット内のスケールが前記第3特徴データのスケールと同じである第4特徴データを取得し、前記第1アライメント特徴データに対してアップサンプリング畳み込みを行い、スケールが前記第3特徴データのスケールと同じである第1アライメント特徴データを得ることと、
前記アップサンプリング畳み込み後の第1アライメント特徴データに基づいて、前記第3特徴データと前記第4特徴データに対して画像アライメントを行い、第2アライメント特徴データを得ることと、
スケールが前記処理対象画像フレームのスケールと同じであるアライメント特徴データを得るまで、前記スケールの昇順で上記のステップを繰り返して実行することと、
全ての前記第2画像特徴セットに基づいて上記のステップを実行して、前記複数のアライメント特徴データを得ることと、を含むことを特徴とする
請求項2に記載の画像処理方法。 - 複数のアライメント特徴データを得る前に、前記方法は、
変形可能な畳み込みネットワークによって、各前記アライメント特徴データを調整し、調整後の前記複数のアライメント特徴データを得ることを更に含むことを特徴とする
請求項3に記載の画像処理方法。 - 前記複数のアライメント特徴データに基づいて、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定することは、
各前記アライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとのドット積を計算するによって、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定することを含むことを特徴とする
請求項1から4のうちいずれか一項に記載の画像処理方法。 - 前記複数の類似度特徴に基づいて、前記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定することは、
所定の活性化関数、及び前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴に基づいて、前記各アライメント特徴データの重み情報を決定することを含むことを特徴とする
請求項5に記載の画像処理方法。 - フュージョン畳み込みネットワークを利用して、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得ることは、
要素レベル乗算によって、前記各アライメント特徴データと前記各アライメント特徴データの重み情報を乗算し、前記複数のアライメント特徴データの複数の変調特徴データを得ることと、
前記フュージョン畳み込みネットワークを利用して、前記複数の変調特徴データをフュージョンし、前記画像フレームシーケンスのフュージョン情報を得ることとを含むことを特徴とする
請求項1に記載の画像処理方法。 - フュージョン畳み込みネットワークを利用して、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得た後に、前記方法は、
前記画像フレームシーケンスのフュージョン情報に基づいて、空間的特徴データを生成することと、
前記空間的特徴データにおける各要素点の空間的アテンション情報に基づいて、前記空間的特徴データを変調し、変調後のフュージョン情報を得、前記変調後のフュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであることとを更に含むことを特徴とする
請求項7に記載の画像処理方法。 - 前記空間的特徴データにおける各要素点の空間的アテンション情報に基づいて、前記空間的特徴データを変調し、変調後のフュージョン情報を得ることは、
前記空間的特徴データにおける各要素点の空間的アテンション情報に基づいて、要素レベル乗算と加算によって、前記空間的特徴データにおける前記各要素点を対応的に変調し、前記変調後のフュージョン情報を得ることを含むことを特徴とする
請求項8に記載の画像処理方法。 - 前記画像処理方法は、ニューラルネットワークに基づいて実現され、
前記ニューラルネットワークは、複数のサンプル画像フレームペアを含むデータセットを利用して訓練されたものであり、前記サンプル画像フレームペアに、複数の第1サンプル画像フレーム及び前記複数の第1サンプル画像フレームにそれぞれ対応する第2サンプル画像フレームが含まれ、前記第1サンプル画像フレームの解像度は、前記第2サンプル画像フレームの解像度より低いことを特徴とする
請求項1から9のうちいずれか一項に記載の画像処理方法。 - 画像フレームシーケンスを取得する前に、前記方法は、
取得されたビデオシーケンスにおける各ビデオフレームに対してサブサンプリングを行い、前記画像フレームシーケンスを得ることを更に含むことを特徴とする
請求項1から10のうちいずれか一項に記載の画像処理方法。 - 前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行う前に、前記方法は、
前記画像フレームシーケンスにおける画像フレームに対してボケ除去処理を行うことを更に含むことを特徴とする
請求項1から11のうちいずれか一項に記載の画像処理方法。 - 前記方法は、
前記画像フレームシーケンスのフュージョン情報に基づいて、前記処理対象画像フレームに対応する処理後の画像フレームを取得することを更に含むことを特徴とする
請求項1から12のうちいずれか一項に記載の画像処理方法。 - 画像処理方法であって、前記方法は、
ビデオ収集装置により収集された第1ビデオストリームにおける画像フレームシーケンスの解像度が所定の閾値以下である場合、請求項1-13のうちいずれか一項に記載の方法により、前記画像フレームシーケンスにおける各画像フレームを順に処理し、処理後の画像フレームシーケンスを得ることと、
前記処理後の画像フレームシーケンスからなる第2ビデオストリームを出力及び/又は表示することとを含む、画像処理方法。 - 画像処理装置であって、アライメントモジュールとフュージョンモジュールとを備え、
前記アライメントモジュールは、処理対象画像フレームと前記処理対象画像フレームに隣接する1つ又は複数の画像フレームとを含む画像フレームシーケンスを取得し、前記処理対象画像フレームと前記画像フレームシーケンスにおける画像フレームに対して画像アライメントを行い、複数のアライメント特徴データを得るように構成され、
前記フュージョンモジュールは、前記複数のアライメント特徴データに基づいて、前記複数のアライメント特徴データと前記処理対象画像フレームに対応するアライメント特徴データとの複数の類似度特徴を決定し、前記複数の類似度特徴に基づいて、前記複数のアライメント特徴データのうちの各アライメント特徴データの重み情報を決定するように構成され、
前記フュージョンモジュールは更に、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得て、前記フュージョン情報が、前記処理対象画像フレームに対応する処理後の画像フレームを取得するためのものであるように構成され、
前記フュージョンモジュールは更に、フュージョン畳み込みネットワークを利用して、前記各アライメント特徴データの重み情報に基づいて、前記複数のアライメント特徴データに対してフュージョンを行い、前記画像フレームシーケンスのフュージョン情報を得るように構成される、
画像処理装置。 - 画像処理装置であって、処理モジュールと、出力モジュールとを備え、
前記処理モジュールは、ビデオ収集装置により収集された第1ビデオストリームにおける画像フレームシーケンスの解像度が所定の閾値以下である場合、請求項1-13のうちいずれか一項に記載の方法により、前記画像フレームシーケンスにおける各画像フレームを順に処理し、処理後の画像フレームシーケンスを得るように構成され、
前記出力モジュールは、前記処理後の画像フレームシーケンスからなる第2ビデオストリームを出力及び/又は表示するように構成される、画像処理装置。 - 電子機器であって、前記電子機器は、プロセッサと、メモリとを備え、前記メモリは、コンピュータプログラムを記憶するためのものであり、前記コンピュータプログラムは、前記プロセッサにより実行されるように構成され、前記プロセッサは、請求項1-13のうちいずれか一項に記載の方法を実行するためのものであるか、又は、前記プロセッサは、請求項14に記載の方法を実行するためのものである、電子機器。
- コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体は、コンピュータプログラムを記憶するためのものであり、前記コンピュータプログラムは、コンピュータに請求項1-13のうちいずれか一項に記載の方法を実行させるか、又は、前記コンピュータプログラムは、コンピュータに請求項14に記載の方法を実行させる、コンピュータ可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910361208.9A CN110070511B (zh) | 2019-04-30 | 2019-04-30 | 图像处理方法和装置、电子设备及存储介质 |
CN201910361208.9 | 2019-04-30 | ||
PCT/CN2019/101458 WO2020220517A1 (zh) | 2019-04-30 | 2019-08-19 | 图像处理方法和装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021531588A JP2021531588A (ja) | 2021-11-18 |
JP7093886B2 true JP7093886B2 (ja) | 2022-06-30 |
Family
ID=67369789
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021503598A Active JP7093886B2 (ja) | 2019-04-30 | 2019-08-19 | 画像処理方法及び装置、電子機器並びに記憶媒体 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20210241470A1 (ja) |
JP (1) | JP7093886B2 (ja) |
CN (1) | CN110070511B (ja) |
SG (1) | SG11202104181PA (ja) |
TW (1) | TWI728465B (ja) |
WO (1) | WO2020220517A1 (ja) |
Families Citing this family (64)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070511B (zh) * | 2019-04-30 | 2022-01-28 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备及存储介质 |
CN110392264B (zh) * | 2019-08-26 | 2022-10-28 | 中国科学技术大学 | 一种基于神经网络的对齐外插帧方法 |
CN110545376B (zh) * | 2019-08-29 | 2021-06-25 | 上海商汤智能科技有限公司 | 通信方法及装置、电子设备和存储介质 |
CN110765863B (zh) * | 2019-09-17 | 2022-05-17 | 清华大学 | 一种基于时空约束的目标聚类方法及系统 |
CN110689061B (zh) * | 2019-09-19 | 2023-04-28 | 小米汽车科技有限公司 | 一种基于对齐特征金字塔网络的图像处理方法、装置及系统 |
CN110675355B (zh) * | 2019-09-27 | 2022-06-17 | 深圳市商汤科技有限公司 | 图像重建方法及装置、电子设备和存储介质 |
CN112584158B (zh) * | 2019-09-30 | 2021-10-15 | 复旦大学 | 视频质量增强方法和系统 |
CN110781223A (zh) * | 2019-10-16 | 2020-02-11 | 深圳市商汤科技有限公司 | 数据处理方法及装置、处理器、电子设备及存储介质 |
CN110827200B (zh) * | 2019-11-04 | 2023-04-07 | Oppo广东移动通信有限公司 | 一种图像超分重建方法、图像超分重建装置及移动终端 |
CN110852951B (zh) * | 2019-11-08 | 2023-04-07 | Oppo广东移动通信有限公司 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
CN110929622B (zh) | 2019-11-15 | 2024-01-05 | 腾讯科技(深圳)有限公司 | 视频分类方法、模型训练方法、装置、设备及存储介质 |
CN111062867A (zh) * | 2019-11-21 | 2020-04-24 | 浙江大华技术股份有限公司 | 一种视频超分辨率重建方法 |
CN110969632B (zh) * | 2019-11-28 | 2020-09-08 | 北京推想科技有限公司 | 一种深度学习模型的训练方法、图像处理方法及装置 |
CN112927144A (zh) * | 2019-12-05 | 2021-06-08 | 北京迈格威科技有限公司 | 图像增强方法、图像增强装置、介质和电子设备 |
CN110992731B (zh) * | 2019-12-12 | 2021-11-05 | 苏州智加科技有限公司 | 基于激光雷达的3d车辆检测方法、装置及存储介质 |
CN113116358B (zh) * | 2019-12-30 | 2022-07-29 | 华为技术有限公司 | 心电图的显示方法、装置、终端设备和存储介质 |
CN111145192B (zh) * | 2019-12-30 | 2023-07-28 | 维沃移动通信有限公司 | 图像处理方法及电子设备 |
CN111163265A (zh) * | 2019-12-31 | 2020-05-15 | 成都旷视金智科技有限公司 | 图像处理方法、装置、移动终端及计算机存储介质 |
CN111104930B (zh) * | 2019-12-31 | 2023-07-11 | 腾讯科技(深圳)有限公司 | 视频处理方法、装置、电子设备及存储介质 |
CN111260560B (zh) * | 2020-02-18 | 2020-12-22 | 中山大学 | 一种融合注意力机制的多帧视频超分辨率方法 |
CN111275653B (zh) * | 2020-02-28 | 2023-09-26 | 北京小米松果电子有限公司 | 图像去噪方法及装置 |
CN111353967B (zh) * | 2020-03-06 | 2021-08-24 | 浙江杜比医疗科技有限公司 | 一种图像获取方法、装置和电子设备及可读存储介质 |
CN111047516B (zh) * | 2020-03-12 | 2020-07-03 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
CN111402118B (zh) * | 2020-03-17 | 2023-03-24 | 腾讯科技(深圳)有限公司 | 图像替换方法、装置、计算机设备和存储介质 |
CN111462004B (zh) * | 2020-03-30 | 2023-03-21 | 推想医疗科技股份有限公司 | 图像增强方法和装置、计算机设备、存储介质 |
WO2021248356A1 (en) * | 2020-06-10 | 2021-12-16 | Huawei Technologies Co., Ltd. | Method and system for generating images |
CN111738924A (zh) * | 2020-06-22 | 2020-10-02 | 北京字节跳动网络技术有限公司 | 图像处理方法及装置 |
CN111915587B (zh) * | 2020-07-30 | 2024-02-02 | 北京大米科技有限公司 | 视频处理方法、装置、存储介质和电子设备 |
CN112036260B (zh) * | 2020-08-10 | 2023-03-24 | 武汉星未来教育科技有限公司 | 一种自然环境下多尺度子块聚合的表情识别方法及系统 |
CN111932480A (zh) * | 2020-08-25 | 2020-11-13 | Oppo(重庆)智能科技有限公司 | 去模糊视频恢复方法、装置、终端设备以及存储介质 |
CN112101252B (zh) * | 2020-09-18 | 2021-08-31 | 广州云从洪荒智能科技有限公司 | 一种基于深度学习的图像处理方法、系统、设备及介质 |
CN112215140A (zh) * | 2020-10-12 | 2021-01-12 | 苏州天必佑科技有限公司 | 一种基于时空对抗的3维信号处理方法 |
CN112435313A (zh) * | 2020-11-10 | 2021-03-02 | 北京百度网讯科技有限公司 | 播放帧动画的方法、装置、电子设备及可读存储介质 |
CN112801875B (zh) * | 2021-02-05 | 2022-04-22 | 深圳技术大学 | 超分辨率重建方法、装置、计算机设备和存储介质 |
CN112801877B (zh) * | 2021-02-08 | 2022-08-16 | 南京邮电大学 | 一种视频帧的超分辨率重构方法 |
CN112785632B (zh) * | 2021-02-13 | 2024-05-24 | 常州市第二人民医院 | 基于epid的图像引导放疗中dr和drr影像跨模态自动配准方法 |
CN113592709B (zh) * | 2021-02-19 | 2023-07-25 | 腾讯科技(深圳)有限公司 | 图像超分处理方法、装置、设备及存储介质 |
CN113034401B (zh) * | 2021-04-08 | 2022-09-06 | 中国科学技术大学 | 视频去噪方法及装置、存储介质及电子设备 |
CN112990171B (zh) * | 2021-05-20 | 2021-08-06 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
CN113191316A (zh) * | 2021-05-21 | 2021-07-30 | 上海商汤临港智能科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN113316001B (zh) * | 2021-05-25 | 2023-04-11 | 上海哔哩哔哩科技有限公司 | 视频对齐方法及装置 |
CN113469908B (zh) * | 2021-06-29 | 2022-11-18 | 展讯通信(上海)有限公司 | 图像降噪方法、装置、终端、存储介质 |
CN113628134B (zh) * | 2021-07-28 | 2024-06-14 | 商汤集团有限公司 | 图像降噪方法及装置、电子设备及存储介质 |
CN113344794B (zh) * | 2021-08-04 | 2021-10-29 | 腾讯科技(深圳)有限公司 | 一种图像处理方法、装置、计算机设备及存储介质 |
CN113610725A (zh) * | 2021-08-05 | 2021-11-05 | 深圳市慧鲤科技有限公司 | 图片处理方法、装置、电子设备及存储介质 |
CN113658047A (zh) * | 2021-08-18 | 2021-11-16 | 北京石油化工学院 | 一种结晶图像超分辨率重建方法 |
CN113781336B (zh) * | 2021-08-31 | 2024-02-02 | Oppo广东移动通信有限公司 | 图像处理的方法、装置、电子设备与存储介质 |
CN113706385A (zh) * | 2021-09-02 | 2021-11-26 | 北京字节跳动网络技术有限公司 | 一种视频超分辨率方法、装置、电子设备及存储介质 |
CN113781444B (zh) * | 2021-09-13 | 2024-01-16 | 北京理工大学重庆创新中心 | 基于多层感知机校正的快速拼接航拍图像的方法和系统 |
CN113689356B (zh) * | 2021-09-14 | 2023-11-24 | 三星电子(中国)研发中心 | 一种图像修复的方法和装置 |
CN113781312B (zh) * | 2021-11-11 | 2022-03-25 | 深圳思谋信息科技有限公司 | 视频增强方法、装置、计算机设备和存储介质 |
CN113822824B (zh) * | 2021-11-22 | 2022-02-25 | 腾讯科技(深圳)有限公司 | 视频去模糊方法、装置、设备及存储介质 |
KR20230090716A (ko) * | 2021-12-15 | 2023-06-22 | 삼성전자주식회사 | 연사 영상 기반의 영상 복원 방법 및 장치 |
CN116362976A (zh) * | 2021-12-22 | 2023-06-30 | 北京字跳网络技术有限公司 | 一种模糊视频修复方法及装置 |
CN114071167B (zh) * | 2022-01-13 | 2022-04-26 | 浙江大华技术股份有限公司 | 视频增强方法、装置、解码方法、解码器及电子设备 |
TWI817896B (zh) * | 2022-02-16 | 2023-10-01 | 鴻海精密工業股份有限公司 | 機器學習方法以及裝置 |
CN114254715B (zh) * | 2022-03-02 | 2022-06-03 | 自然资源部第一海洋研究所 | 一种gf-1 wfv卫星影像超分辨率方法、系统及应用 |
CN114782296B (zh) * | 2022-04-08 | 2023-06-09 | 荣耀终端有限公司 | 图像融合方法、装置及存储介质 |
CN114742706B (zh) * | 2022-04-12 | 2023-11-28 | 内蒙古至远创新科技有限公司 | 一种用于智慧环保的水污染遥感图像超分辨率重建方法 |
CN114757832B (zh) * | 2022-06-14 | 2022-09-30 | 之江实验室 | 基于交叉卷积注意力对抗学习的人脸超分辨方法和装置 |
CN114819109B (zh) * | 2022-06-22 | 2022-09-16 | 腾讯科技(深圳)有限公司 | 双目图像的超分辨率处理方法、装置、设备及介质 |
CN115861595B (zh) * | 2022-11-18 | 2024-05-24 | 华中科技大学 | 一种基于深度学习的多尺度域自适应异源图像匹配方法 |
CN115953346B (zh) * | 2023-03-17 | 2023-06-16 | 广州市易鸿智能装备有限公司 | 一种基于特征金字塔的图像融合方法、装置及存储介质 |
CN116563145B (zh) * | 2023-04-26 | 2024-04-05 | 北京交通大学 | 基于颜色特征融合的水下图像增强方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017537403A (ja) | 2014-11-27 | 2017-12-14 | ノキア テクノロジーズ オサケユイチア | 超解像画像を生成するための方法、装置およびコンピュータ・プログラム・プロダクト |
CN108259997A (zh) | 2018-04-02 | 2018-07-06 | 腾讯科技(深圳)有限公司 | 图像相关处理方法及装置、智能终端、服务器、存储介质 |
CN109190581A (zh) | 2018-09-17 | 2019-01-11 | 金陵科技学院 | 图像序列目标检测识别方法 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI435162B (zh) * | 2012-10-22 | 2014-04-21 | Nat Univ Chung Cheng | Low complexity of the panoramic image and video bonding method |
US9047666B2 (en) * | 2013-03-12 | 2015-06-02 | Futurewei Technologies, Inc. | Image registration and focus stacking on mobile platforms |
US9626760B2 (en) * | 2014-10-30 | 2017-04-18 | PathPartner Technology Consulting Pvt. Ltd. | System and method to align and merge differently exposed digital images to create a HDR (High Dynamic Range) image |
GB2536430B (en) * | 2015-03-13 | 2019-07-17 | Imagination Tech Ltd | Image noise reduction |
CN104820996B (zh) * | 2015-05-11 | 2018-04-03 | 河海大学常州校区 | 一种基于视频的自适应分块的目标跟踪方法 |
CN106056622B (zh) * | 2016-08-17 | 2018-11-06 | 大连理工大学 | 一种基于Kinect相机的多视点深度视频复原方法 |
CN106355559B (zh) * | 2016-08-29 | 2019-05-03 | 厦门美图之家科技有限公司 | 一种图像序列的去噪方法及装置 |
US10565713B2 (en) * | 2016-11-15 | 2020-02-18 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
US10055898B1 (en) * | 2017-02-22 | 2018-08-21 | Adobe Systems Incorporated | Multi-video registration for video synthesis |
CN107066583B (zh) * | 2017-04-14 | 2018-05-25 | 华侨大学 | 一种基于紧凑双线性融合的图文跨模态情感分类方法 |
CN108063920A (zh) * | 2017-12-26 | 2018-05-22 | 深圳开立生物医疗科技股份有限公司 | 一种图像冻结方法、装置、设备及计算机可读存储介质 |
CN108428212A (zh) * | 2018-01-30 | 2018-08-21 | 中山大学 | 一种基于双拉普拉斯金字塔卷积神经网络的图像放大方法 |
CN109246332A (zh) * | 2018-08-31 | 2019-01-18 | 北京达佳互联信息技术有限公司 | 视频流降噪方法和装置、电子设备及存储介质 |
CN109657609B (zh) * | 2018-12-19 | 2022-11-08 | 新大陆数字技术股份有限公司 | 人脸识别方法及系统 |
CN109670453B (zh) * | 2018-12-20 | 2023-04-07 | 杭州东信北邮信息技术有限公司 | 一种提取短视频主题的方法 |
CN110070511B (zh) * | 2019-04-30 | 2022-01-28 | 北京市商汤科技开发有限公司 | 图像处理方法和装置、电子设备及存储介质 |
-
2019
- 2019-04-30 CN CN201910361208.9A patent/CN110070511B/zh active Active
- 2019-08-19 JP JP2021503598A patent/JP7093886B2/ja active Active
- 2019-08-19 SG SG11202104181PA patent/SG11202104181PA/en unknown
- 2019-08-19 WO PCT/CN2019/101458 patent/WO2020220517A1/zh active Application Filing
- 2019-09-12 TW TW108133085A patent/TWI728465B/zh active
-
2021
- 2021-04-21 US US17/236,023 patent/US20210241470A1/en not_active Abandoned
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017537403A (ja) | 2014-11-27 | 2017-12-14 | ノキア テクノロジーズ オサケユイチア | 超解像画像を生成するための方法、装置およびコンピュータ・プログラム・プロダクト |
CN108259997A (zh) | 2018-04-02 | 2018-07-06 | 腾讯科技(深圳)有限公司 | 图像相关处理方法及装置、智能终端、服务器、存储介质 |
CN109190581A (zh) | 2018-09-17 | 2019-01-11 | 金陵科技学院 | 图像序列目标检测识别方法 |
Non-Patent Citations (1)
Title |
---|
木村忠良,R&D最前線 動画を高精細化する複数フレーム超解像技術,東芝レビュー,株式会社東芝,2011年09月01日,第66巻,第9号,第62-63頁,[online],[2022年 3月14日検索],インターネット <https://www.global.toshiba/content/dam/toshiba/migration/corp/techReviewAssets/tech/review/2011/09/66_09pdf/r01.pdf> |
Also Published As
Publication number | Publication date |
---|---|
SG11202104181PA (en) | 2021-05-28 |
US20210241470A1 (en) | 2021-08-05 |
CN110070511A (zh) | 2019-07-30 |
CN110070511B (zh) | 2022-01-28 |
TWI728465B (zh) | 2021-05-21 |
JP2021531588A (ja) | 2021-11-18 |
WO2020220517A1 (zh) | 2020-11-05 |
TW202042174A (zh) | 2020-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7093886B2 (ja) | 画像処理方法及び装置、電子機器並びに記憶媒体 | |
Huang et al. | Video super-resolution via bidirectional recurrent convolutional networks | |
JP7155271B2 (ja) | 画像処理システム及び画像処理方法 | |
Dai et al. | Softcuts: a soft edge smoothness prior for color image super-resolution | |
Ren et al. | Deblurring dynamic scenes via spatially varying recurrent neural networks | |
Li et al. | Learning a deep dual attention network for video super-resolution | |
Song et al. | Multi-stage feature fusion network for video super-resolution | |
DE102020125197A1 (de) | Feinkörnige objektsegmentierung in video mit tiefen merkmalen und graphischen mehrebenenmodellen | |
Zhang et al. | Attention-based interpolation network for video deblurring | |
CN110570356A (zh) | 图像处理方法和装置、电子设备及存储介质 | |
US11641446B2 (en) | Method for video frame interpolation, and electronic device | |
EP4207051A1 (en) | Image super-resolution method and electronic device | |
Dutta | Depth-aware blending of smoothed images for bokeh effect generation | |
CN114339409A (zh) | 视频处理方法、装置、计算机设备及存储介质 | |
CN112419152A (zh) | 一种图像超分辨率方法、装置、终端设备和存储介质 | |
Niu et al. | A super resolution frontal face generation model based on 3DDFA and CBAM | |
Zhou et al. | Image super-resolution based on dense convolutional auto-encoder blocks | |
Esmaeilzehi et al. | UPDResNN: A deep light-weight image upsampling and deblurring residual neural network | |
Hua et al. | Dynamic scene deblurring with continuous cross-layer attention transmission | |
Tang et al. | Structure-embedded ghosting artifact suppression network for high dynamic range image reconstruction | |
Chen et al. | High-order relational generative adversarial network for video super-resolution | |
Liu et al. | Gradient prior dilated convolution network for remote sensing image super-resolution | |
CN116266336A (zh) | 视频超分辨率重建方法、装置、计算设备及存储介质 | |
Zhuang et al. | Dimensional transformation mixer for ultra-high-definition industrial camera dehazing | |
Wu et al. | VDIP-TGV: Blind image deconvolution via variational deep image prior empowered by total generalized variation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210121 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220329 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220601 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220614 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220620 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7093886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |