JP2007181674A - ブロック整合及び動き補償補間を利用した映像形成方法 - Google Patents
ブロック整合及び動き補償補間を利用した映像形成方法 Download PDFInfo
- Publication number
- JP2007181674A JP2007181674A JP2006345009A JP2006345009A JP2007181674A JP 2007181674 A JP2007181674 A JP 2007181674A JP 2006345009 A JP2006345009 A JP 2006345009A JP 2006345009 A JP2006345009 A JP 2006345009A JP 2007181674 A JP2007181674 A JP 2007181674A
- Authority
- JP
- Japan
- Prior art keywords
- block
- frame
- blocks
- motion vector
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 239000013598 vector Substances 0.000 claims abstract description 68
- 238000001914 filtration Methods 0.000 claims description 22
- 238000009499 grossing Methods 0.000 claims description 2
- FGUUSXIOTUKUDN-IBGZPJMESA-N C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 Chemical compound C1(=CC=CC=C1)N1C2=C(NC([C@H](C1)NC=1OC(=NN=1)C1=CC=CC=C1)=O)C=CC=C2 FGUUSXIOTUKUDN-IBGZPJMESA-N 0.000 claims 2
- 230000000903 blocking effect Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000002457 bidirectional effect Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 230000015556 catabolic process Effects 0.000 description 3
- 238000006731 degradation reaction Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Radiology & Medical Imaging (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Pathology (AREA)
- Signal Processing (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Television Systems (AREA)
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
【課題】ブロック不一致現象の発生を防止でき、少量データの計算で速やかに動画像を形成できるブロック整合技法と動き補償補間を利用した映像形成方法を提供する。
【解決手段】隣接第1、第2フレームの相関度を求めて補間フレームの形成如何を決定し、補間フレーム内の全てのブロックを基準ブロックとして選択して、対応する第1ブロックを第1フレームから選択して基準ブロックと第1ブロック間の第1動きベクトルを決定し、第1ブロックに整合する第2ブロックを第2フレームから決定し、基準ブロックと第2ブロックとの間の第2動きベクトルを決定し、第1及び第2動きベクトルに基づいて補間フレーム内の各ブロックの動きベクトルを決定し、補間フレーム内の各ブロックの動きベクトルを適用し、第1フレーム及び第2フレームから補間フレームの画素値を決定して補間フレームを形成し、補間フレームの損傷度がしきい値以下の時、補間フレームを採択する。
【選択図】図2
【解決手段】隣接第1、第2フレームの相関度を求めて補間フレームの形成如何を決定し、補間フレーム内の全てのブロックを基準ブロックとして選択して、対応する第1ブロックを第1フレームから選択して基準ブロックと第1ブロック間の第1動きベクトルを決定し、第1ブロックに整合する第2ブロックを第2フレームから決定し、基準ブロックと第2ブロックとの間の第2動きベクトルを決定し、第1及び第2動きベクトルに基づいて補間フレーム内の各ブロックの動きベクトルを決定し、補間フレーム内の各ブロックの動きベクトルを適用し、第1フレーム及び第2フレームから補間フレームの画素値を決定して補間フレームを形成し、補間フレームの損傷度がしきい値以下の時、補間フレームを採択する。
【選択図】図2
Description
本発明は映像形成方法に関し、特にブロック整合技法(block matching algorithm, BMA)と動き補償補間(motion compensated interpolation, MCI)を利用した映像形成方法に関する。
超音波診断法は比較的高い安定性と実用性を有しており、医療映像分野で多くの脚光を浴びており、特に産婦人科の診断において必須の手段として利用されている。また、超音波動画像を利用した診断及び応用が発展しており、今後インターネットと移動通信網を通じた超音波動画像の利用も活発に進めると予想される。このために、信頼性のある超音波動画像を獲得することが重要である。
動画像を具現するために短い時間の間に順次得られた停止画面、即ちフレームを連続的にディスプレイする。一般にフレーム間には対象体またはカメラの動きなどによって明るさの変化が発生する。このような明るさなどの変化を利用して隣接するフレーム間で対象体の動きを推定する。動画像及び静止映像の符号化のために広く使用されている動き推定(motion estimation)は各画素単位で動き情報を見出す方法として予測誤差を減らすことができる長所があるが、計算過程が複雑な短所がある。特にリアルタイム処理が要求される低ビット率転送システムに応用され難い。
動き推定のための計算量を減らすため、ブロック整合技法が利用される。BMAは動き推定のためにフレームを一定の大きさのブロックで分割し、一つのブロック内の全ての画素を一つの動きベクトルで表現する。図1a及び図1bに示したようにブロック整合技法を利用して現在のフレーム(Fc)で選択されたブロック(Bc)と最も類似のブロックを以前のフレームFpの探索領域(search window, SW)内で検索して共通の動き情報である動きベクトル(motion vector, MV)を推定する。図1a及び図1bでブロックの大きさがM×N、水平方向または垂直方向に最大p画素だけ動く時、上下左右でp画素だけの動きを考慮すれば、探索領域(SW)の大きさは(2p+M)×(2p+N)になる。現在、ブロック(Bc)と探索領域(SW)内の任意ブロック間の整合基準では式1のように定義されるSAD(Sum of Absolute Difference)を使用する。
式1を利用して求めたSAD値のうち、最小SADを有する画素の座標移動を計算し、現在のフレーム(Fc)で選択されたブロック(Bc)と最も整合度が高い以前のフレームFp内のブロック(Bb)間の動きベクトルを決定する。
従来ブロック整合技法を利用して動きベクトルが誤って決定されると空の領域(hole region)と重畳領域(overlapped region)などのようなブロック不一致現象(blocking artifacts)が発生して再構成されたブロック全体が本来の映像信号と全く変わる深刻な主観的(subjective)画質低下現象が発生する。一方、より正確に動き情報を得るために探索領域内の全ての候補ブロック間の整合(matching)を比較する全域探索法(full search method)が多く使用されている。しかし、全域探索法を利用する場合、ブロックの大きさや探索領域の大きさが大きくなるにつれて計算量も急激に増加してリアルタイムで動画像を形成し難い短所がある。
前述した問題を解決するために本発明は、ブロック整合技法によるブロック不一致現象の発生を防止することができ、相対的に少ない量のデータを計算してより速やかに動画像を形成することができる、ブロック整合技法と動き補償補間を利用した映像形成方法を提供する。
本発明の一様態による映像形成方法は、a)それぞれ多数のブロックに分類される画素を備える、隣接する第1及び第2フレームの入力を受ける段階と、b)前記第1及び第2フレームの相関度を求めて前記第1及び第2フレーム間に、多数のブロックに分類される画素を備える補間フレームの形成如何を決定する段階と、c)前記補間フレーム内の全てのブロックを順に基準ブロックとして選択しながら、前記選択された基準ブロックに対応する第1ブロックを前記第1フレームから選択して前記基準ブロックと前記第1ブロック間の第1動きベクトルを決定し、前記第1ブロックに整合する第2ブロックを前記第2フレームから決定し、前記基準ブロックと前記第2ブロック間の第2動きベクトルを決定する段階と、d)前記第1及び第2動きベクトルに基づいて前記補間フレーム内の各ブロックの動きベクトルを決定する段階と、e)前記補間フレーム内の各ブロックの動きベクトルを適用し、前記第1フレーム及び前記第2フレームから前記補間フレームの画素値を決定して前記補間フレームを形成する段階と、f)前記補間フレームの損傷度を検査して前記損傷度がしきい値以下である場合、前記補間フレームを採択して映像を形成する段階を備える。
本発明はブロック整合技法(BMA)を使用する動き推定の過程に示したホール(hole)とオーバーラップ(overlap)領域問題を解決するために補間されるフレームを基準とする双方向動き推定技法を利用して動きベクトルを決定することによって、より簡単に動き補償補間をして補間フレームを形成することができる。また、2段階探索技法として全域探索と類似する効率を示しながら遂行速度を大きく改善することができる。また、ブロック間の動きベクトル差が出る値のしきい値(threshold)をおき、全てのブロック境界がフィルタリングされてイメージが全般的にブラーリング(blurring)されることを制限した。
さらに、隣接した原本フレームの相関度を考慮して補間フレームの形成如何を決定することによって効率性を向上させた。また、フレーム間の相関度が低い場合、補間基準(interpolation criteria)によって補間フレームの形成如何を決定し、領域処理(region processing)技法を通じてイメージ品質を向上させることができる。
本発明は全域探索法のように正確な予測効率を有しながら計算されるデータ量を減らすことができるブロック整合技法及び動き補償補間を利用した映像形成方法に関する。この映像は動画像、超音波映像、超音波動画像を含む。
映像信号のフレーム補間(frame interpolation)は連続する映像のフレームレート(frame rate)を変更させるために使用される。フレームレートはフレーム反復法(frame repetition)や線状補間法(linear interpolation)などの簡単な方式でも調節することができるが、画質の低下を防ぐために運動体(moving object)の移動情報を利用してフレームレートを調節する。本発明では運動体の移動情報を適切に活用するために双方向推定を通じて動きを補償補間する。
動き補償補間(MCI)に用いられる隣接したフレームの相関度が顕著に低くなったり、場面切替(scene change)のような構成の映像であれば自然で軟らかい映像を具現するために補間フレームを形成する必要がない。補間されたフレーム自体が突然の突出領域(abrupt area)を構成して画質低下をもたらすことができるためである。
本発明では隣接する2フレームの相関度を求め、相関度がしきい値以上である場合にのみ補間フレームを形成する。このため、動きベクトルを生成する前、隣接する2つのフレームの相関度を求め、相関度がしきい値以下である場合、場面切替と判断して動きベクトルを生成せず補間フレーム形成を終了することができる。このように本発明では隣接した原本フレームの相関度がしきい値より低い場合、補間フレームを形成しない。もちろん補間フレームを形成しない場合、突然の動き変化現象(motion jerkiness)は避けられないが、画質低下は防止することができる。一方、補間されたフレームであっても突出領域が発生することがあるので、領域処理技法(region processing)を通じてこのような問題を解決する。
隣接する2つのフレームの相関度を求め、場面切替ではないと判断された場合、動きベクトルを決定してそれに基づいて補間フレームを形成する。特に、本発明ではブロック整合技法によって動きベクトルが誤って決定される場合、発生するブロック不一致現象を防止するために双方向推定をして動きベクトルを決定する。
図3a及び図3bに示したように双方向動き推定のためにフレームF1とF2で同一の大きさの探索領域を設定する。探索領域は補間されるフレームF12内の基準ブロック(Br)の位置を中心に設定できる。続いて、フレームF1内で選択ブロック(Bs)を定め、基準ブロック(Br)と選択ブロック(Bs)の中心座標値に基づいて第1動きベクトル(MV1)を決定する。フレームF2で選択ブロック(Bs)に整合する整合ブロック(Bm)を決定し、基準ブロック(Br)と整合ブロック(Bm)の中心座標値に基づいて第2動きベクトル(MV2)を決定する。
一方、より効率的に動きを推定するために第2フレームF2内で図4に示したように螺旋状に整合ブロックを探索しながら、第1動きベクトル(MV1)の大きさによって探索間隔を変化させる。例として第1動きベクトル(MV1)が(0,0)であるブロックの周囲は1画素ずつ動いて整合ブロックを探索し、第1動きベクトル(MV1)が(0,0)でない領域は2画素ずつ動いて整合ブロックを探索する。2画素間隔で探索して整合ブロックを見出したら見つけられた整合ブロックを中心に1画素ずつ螺旋状に動いて再度探索する。このような技法は全域探索技法と似た性能効率を示しながら探索速度を相当部分減らすことができる。
前述した過程によって決定された動きベクトルをベクトルメディアンフィルタリング(vector median filtering)技法を利用して平滑化させる(smoothing)。一般的なメディアンフィルタリング技法は、動きベクトルを水平方向コンポーネント、垂直方向コンポーネント別に区分してスカラ(scalar)フィルタリングする。このように分類されたコンポーネントをフィルタリングして得た動きベクトルは周辺動きベクトルの元素と異なって示される。本発明の実施例ではこのような問題を解決するために、動きベクトル全体コンポーネントに対してフィルタリングを行う。このようなベクトルメディアンフィルタリングは以下の式2のように定義される。
一方、本発明では画質低下を防止するために形成された補間フレームの採択如何を次のような過程によって決定する。動きベクトルから得られた補間フレームでブロック間のSADを求めた後、基準SAD値を基準に全体フレームに渡りブロックを分類する。ブロック間のSAD値が非常に小さいということは現在ブロックで動きがほぼないということと解釈することができる。従って、SADがしきい値以上であればブロックは誤って推定された動きベクトルから得られたブロックであるか、フレーム間の相関関係がほぼない場合、である。一つのフレーム内でSADがしきい値以上に分類されるブロックの個数が一定数値以上であれば時間的に隣接した2つのフレームは全体的にあるいは一定部分が相関関係がない映像と判断することができる。このような場合、多数映像構成による利得より主観的画質低下による損失の幅がより大きいと言える。従って、このような場合は形成された補間フレームを採択しないことによってより自然な映像を獲得することができる。
図5〜図7は動き推定ベクトルに基づいて形成した補間フレーム内のブロックをSAD値によって分類し損傷度を検査して示した例示図である。補間フレームの精度を向上させるためには、ブロック分類の基準になるしきい値の大きさが重要である。一方、図5〜図7に示したようにレベル1とレベル2に分類されるブロックの損傷度情報と各ブロックのSAD情報を利用してフレーム全体ブロック対比損傷程度を把握し、補間フレームの選択如何を決定することができる。図6に示したように損傷したブロックが集中した損傷領域(Broken region)があり得る。特定ブロックを基準に上下左右のブロックを検査し、検査された全てのブロックが損傷したものであると判断される場合、その領域を損傷領域に指定することができる。損傷領域はイメージの画質を低下させるので、損傷領域の大きさ及び数によって補間フレーム選択如何を決定することもできる。また、損傷領域を以後より強力にディブロキングフィルタリング(deblocking filtering)を加えて復旧することができる。図7は損傷したブロック(broken block)を程度によってレベル1とレベル2に分類されたことを示している。即ち、相対的に損傷度が大きいと判断されたブロックは隣接するブロックと相関関係がほぼないと判断する。これにより、相対的に損傷が甚だしく示されたブロックは単純線状補間(linear interpolation)に形成することもできる。
一方、一つの補間フレームを生成しなければならない場合、前述した過程によって双方向補間(bilinear interpolation)技法のみを利用して補間フレームを構成すればよい。しかし、多数の補間フレームを生成しなければならない場合、次の式3のように定義される重み係数情報を利用した補間(weighted interpolation)技法を使用して多数のフレームを生成する。
次に、前述した過程によって補間フレームの採択如何を決定した後に、ブロック間の不一致を緩和させるためのブロック境界減少フィルタリング(deblocking filtering)を実施する。
動きベクトルを平滑化させることによってブロック不一致現象(blocking artifacts)をある程度緩和させることはできるが、ブロック単位で構成された補間フレームはブロック間の動きベクトルの差のため、ブロックの境界が明確になるブロック境界現象が発生する。特に動き推定時に探索領域内にブロックの相関関係が少ないほどブロック境界現象は目立つように示される。ブロック境界現象を減少させるため、ブロック境界画素間フィルタリングを通じて境界と境界間を自然に構成する。しかし、全てのブロック境界を検査してフィルタリングを行う場合、処理時間が増加して全体的に映像のブラーリング(blurring)が発生し得る。
本発明の実施例では映像のブラーリングが示されることを防止するために補間フレーム内の各ブロックの動きベクトル情報と、SAD情報のうち、少なくともいずれか一つを利用してフィルタリングを行うブロックを決定し、決定されたブロックのみをフィルタリングする。
図8ではマクロブロック(MB)間の水平、垂直方向の境界でそれぞれ2画素を選択しフィルタリングした場合を示している。補間フレーム内に隣接するブロックの動きベクトルを比較して2ベクトルの差が定められた基準値以上である場合、ブロックの全ての境界をフィルタリングし、そうでなければ次のブロックに超えていく。即ち、隣接するブロックの動きベクトルのノーム(norm)ベクトルを計算して一定のしきい値を超えるとフィルタリング処理を行うことができる。これを次の式4のように表現することができる。
式4でVA、VBは水平方向に隣接したブロックの動きベクトルであり、VA、VCは垂直に隣接したブロックの動きベクトルである。そしてT1はしきい値である。
一方、前述した過程によって算出された補償フレーム内の各ブロックのSADを利用してフィルタリングを行うブロックを決定する。または、補間フレーム内に隣接するブロックの動きベクトル差が定められた基準値以上であり、SAD値が基準値以上である場合にフィルタリングを行うブロックとして決定する。
フィルタリングが適用される隣接した2ブロックが水平方向で隣接していればそれぞれの画素に水平方向にフィルタリングマスクを被せて、隣接した2ブロックが垂直方向に隣接していれば垂直方向にマスクを被せる。フィルタリングして得た画素値とフィルタリング前の画素値を交替することによってフィルタリングの結果を適用する。
上述した実施例は本発明の原理を利用した多様な実施例の一部を示したことに過ぎない。本技術分野で通常の知識を有する者は本発明の本質から逸脱することなく、様々な変形が可能であることが明確に分かる。
F1、F2 フレーム、
F12 補間フレーム、
Bs 選択ブロック、
Br 基準ブロック、
Bm 整合ブロック、
F12 補間フレーム、
Bs 選択ブロック、
Br 基準ブロック、
Bm 整合ブロック、
Claims (13)
- a)それぞれ多数のブロックに分類される画素を備える、隣接する第1及び第2フレームの入力を受ける段階と、
b)前記第1及び第2フレームの相関度を求めて前記第1及び第2フレーム間に、多数のブロックに分類される画素を備える補間フレームの形成如何を決定する段階と、
c)前記補間フレーム内の全てのブロックを順に基準ブロックとして選択しながら、前記選択された基準ブロックに対応する第1ブロックを前記第1フレームから選択して前記基準ブロックと前記第1ブロック間の第1動きベクトルを決定し、前記第1ブロックに整合する第2ブロックを前記第2フレームから決定し、前記基準ブロックと前記第2ブロック間の第2動きベクトルを決定する段階と、
d)前記第1及び第2動きベクトルに基づいて前記補間フレーム内の各ブロックの動きベクトルを決定する段階と、
e)前記補間フレーム内の各ブロックの動きベクトルを適用し、前記第1フレーム及び前記第2フレームから前記補間フレームの画素値を決定して前記補間フレームを形成する段階と、
f)前記補間フレームの損傷度を検査して前記損傷度がしきい値以下である場合、前記補間フレームを採択して映像を形成する段階を備えることを特徴とする映像形成方法。 - 前記b)の段階は、
b1)前記相関度としきい値を比較する段階と、
b2)前記相関度がしきい値以下である場合、前記段階a)に戻る段階と、
b3)前記相関度がしきい値以上である場合、前記補間フレームを形成することに決定する段階を備えることを特徴とする請求項1に記載の映像形成方法。 - 前記段階c)は、
c1)前記補間フレーム内の基準ブロックの位置を中心に前記第1フレーム及び前記第2フレームで同一の大きさの探索領域をそれぞれ設定する段階と、
c2)前記第1フレームから前記第1ブロックを選択する段階と、
c3)前記基準ブロック中心の座標と前記第1ブロック中心の座標から前記第1動きベクトルを決定する段階と、
c4)前記第2フレーム内で前記第1ブロックに整合する前記第2ブロックを決定する段階と、
c5)前記基準ブロックの中心座標と前記第2ブロック中心の座標から前記第2動きベクトルを決定する段階を備えることを特徴とする請求項1に記載の映像形成方法。 - 前記段階c4)において、
前記第1動きベクトルの大きさによって画素間隔を変化させながら整合を検索して前記第2ブロックを決定することを特徴とする請求項3に記載の映像形成方法。 - 前記段階c4)は、
c41)前記第1動きベクトルの大きさがしきい値と同じである場合、前記探索領域の中心から螺旋状に第1画素間隔だけ移動しながら前記第1ブロックに整合するブロックを探索する段階と、
c42)前記第1動きベクトルの大きさがしきい値より大きい場合、前記探索領域の中心から螺旋状に前記第1画素間隔より大きい第2画素間隔だけ移動しながら前記第1ブロックに整合するブロックを探索する段階と、
c43)前記c42)段階で前記整合ブロックが探索された場合、前記探索された整合ブロックを中心に前記第2画素間隔より小さな第3画素間隔だけ移動しながら前記第1ブロックに整合するブロックを探索して前記第2ブロックを決定する段階を備えることを特徴とする請求項3に記載の映像形成方法。 - 前記段階c)後、
前記第1及び第2動きベクトルをベクトルメディアンフィルタリング(vector median filtering)を用いて平滑化させる段階をさらに備えることを特徴とする請求項1に記載の映像形成方法。 - 前記段階e)において、
重み係数情報を用いた補間技法で多数の補間フレームを形成することを特徴とする請求項1に記載の映像形成方法。 - 前記段階f)は、
f1)前記補間フレームでブロック間のSAD(Sum of Absolute Difference)を算出する段階と、
f2)前記SADがしきい値以上であるブロックの数が基準個数以下である場合、前記形成された補間フレームを採択する段階を備えることを特徴とする請求項1に記載の映像形成方法。 - 前記段階f)後、
g)前記SADに基づいて、前記採択された前記補間フレーム内の各ブロックの損傷如何を把握する段階と、
h)前記損傷したブロックを復旧する段階をさらに備えることを特徴とする請求項8に記載の映像形成方法。 - 前記段階h)後、
g1)境界をフィルタリングするブロックを決定する段階と、
g2)決定されたブロックの境界をフィルタリングする段階をさらに備えることを特徴とする請求項9に記載の映像形成方法。 - 前記段階g1)は、
g11)前記段階h)後、前記補間フレーム内に隣接するブロックの動きベクトルの差を算出する段階と、
g12)前記算出された動きベクトルの差に基づいて境界をフィルタリングするブロックを決定する段階を備えることを特徴とする請求項10に記載の映像形成方法。 - 前記段階g1)において、
前記補間フレーム内のブロックのSADに基づいて境界をフィルタリングするブロックを決定することを特徴とする請求項10に記載の映像形成方法。 - 前記段階g2)において、
前記算出された動きベクトルの差と前記SADに基づいて境界をフィルタリングするブロックを決定することを特徴とする請求項11に記載の映像形成方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20050126746A KR100870115B1 (ko) | 2005-12-21 | 2005-12-21 | 블록정합 및 움직임 보상 보간을 이용한 영상 형성 방법 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007181674A true JP2007181674A (ja) | 2007-07-19 |
Family
ID=38137767
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006345009A Pending JP2007181674A (ja) | 2005-12-21 | 2006-12-21 | ブロック整合及び動き補償補間を利用した映像形成方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20070140347A1 (ja) |
EP (1) | EP1814329A3 (ja) |
JP (1) | JP2007181674A (ja) |
KR (1) | KR100870115B1 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009188996A (ja) * | 2008-01-10 | 2009-08-20 | Panasonic Corp | 動画像コーデック装置及びその方法 |
JP2012105750A (ja) * | 2010-11-16 | 2012-06-07 | Hitachi Aloka Medical Ltd | 超音波画像処理装置 |
JP2013074384A (ja) * | 2011-09-27 | 2013-04-22 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
US8494055B2 (en) | 2008-09-03 | 2013-07-23 | Samsung Electronics Co., Ltd. | Apparatus and method for frame interpolation based on accurate motion estimation |
US9485453B2 (en) | 2013-09-10 | 2016-11-01 | Kabushiki Kaisha Toshiba | Moving image player device |
US9519993B2 (en) | 2011-11-24 | 2016-12-13 | Toshiba Medical Systems Corporation | Medical image processing apparatus |
KR20180010942A (ko) * | 2016-07-22 | 2018-01-31 | 주식회사바텍 | 움직임 보상에 기반한 ct 데이터 재구성 방법 및 장치 |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100855976B1 (ko) * | 2007-02-02 | 2008-09-02 | 삼성전자주식회사 | 배경과 이동 객체를 분리하여 움직임을 추정하는 프레임보간 장치 및 프레임 보간 방법 |
JP4513819B2 (ja) * | 2007-03-19 | 2010-07-28 | 株式会社日立製作所 | 映像変換装置、映像表示装置、映像変換方法 |
WO2009032255A2 (en) * | 2007-09-04 | 2009-03-12 | The Regents Of The University Of California | Hierarchical motion vector processing method, software and devices |
US20100303301A1 (en) * | 2009-06-01 | 2010-12-02 | Gregory Micheal Lamoureux | Inter-Frame Motion Detection |
JP2010288098A (ja) * | 2009-06-12 | 2010-12-24 | Sony Corp | 画像フレーム補間装置、画像フレーム補間方法及び画像フレーム補間プログラム |
JP2011223493A (ja) * | 2010-04-14 | 2011-11-04 | Canon Inc | 画像処理装置および画像処理方法 |
KR101677696B1 (ko) * | 2010-12-14 | 2016-11-18 | 한국전자통신연구원 | 움직임 탐색시 효율적인 움직임 벡터 추출 방법 및 그 장치 |
US9560372B2 (en) * | 2010-12-27 | 2017-01-31 | Stmicroelectronics, Inc. | Directional motion vector filtering |
TWI493978B (zh) * | 2011-08-23 | 2015-07-21 | Mstar Semiconductor Inc | 影像處理裝置、影像處理方法及影像播放系統 |
JP2013165487A (ja) * | 2012-01-11 | 2013-08-22 | Panasonic Corp | 画像処理装置、撮像装置、およびプログラム |
US9280806B2 (en) * | 2013-01-10 | 2016-03-08 | Broadcom Corporation | Edge smoothing block filtering and blending |
KR101449853B1 (ko) * | 2013-05-23 | 2014-10-13 | 경희대학교 산학협력단 | 스테레오 영상의 블록 매칭 장치 |
WO2015050795A1 (en) * | 2013-10-04 | 2015-04-09 | Reald Inc. | Image mastering systems and methods |
KR101581689B1 (ko) * | 2014-04-22 | 2015-12-31 | 서강대학교산학협력단 | 움직임 보정을 이용한 광음향 영상 획득 장치 및 방법 |
KR101708905B1 (ko) * | 2016-11-14 | 2017-03-08 | 한국전자통신연구원 | 움직임 탐색시 효율적인 움직임 벡터 추출 방법 및 그 장치 |
KR101867885B1 (ko) * | 2017-08-11 | 2018-07-23 | 한국전자통신연구원 | 움직임 탐색시 효율적인 움직임 벡터 추출 방법 및 그 장치 |
CN112055254B (zh) * | 2019-06-06 | 2023-01-06 | Oppo广东移动通信有限公司 | 视频播放的方法、装置、终端及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002534014A (ja) * | 1998-12-23 | 2002-10-08 | インテル・コーポレーション | ビデオ用途における増加されたビデオ再生フレームレート |
US20040252230A1 (en) * | 2003-06-13 | 2004-12-16 | Microsoft Corporation | Increasing motion smoothness using frame interpolation with motion analysis |
JP2005184233A (ja) * | 2003-12-17 | 2005-07-07 | Sony Corp | データ処理装置およびその方法と符号化装置 |
JP2005210697A (ja) * | 2003-12-23 | 2005-08-04 | Genesis Microchip Inc | 動き補償フレームレート変換 |
US20050265451A1 (en) * | 2004-05-04 | 2005-12-01 | Fang Shi | Method and apparatus for motion compensated frame rate up conversion for block-based low bit rate video |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100708091B1 (ko) * | 2000-06-13 | 2007-04-16 | 삼성전자주식회사 | 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법 |
KR100393063B1 (ko) * | 2001-02-15 | 2003-07-31 | 삼성전자주식회사 | 프레임 레이트 변환 기능을 갖는 비디오 디코더 및 그 방법 |
US20060233253A1 (en) * | 2005-03-10 | 2006-10-19 | Qualcomm Incorporated | Interpolated frame deblocking operation for frame rate up conversion applications |
US8520739B2 (en) * | 2005-05-09 | 2013-08-27 | Intel Corporation | Method and apparatus for adaptively reducing artifacts in block-coded video |
-
2005
- 2005-12-21 KR KR20050126746A patent/KR100870115B1/ko active IP Right Grant
-
2006
- 2006-12-20 US US11/613,569 patent/US20070140347A1/en not_active Abandoned
- 2006-12-20 EP EP20060026410 patent/EP1814329A3/en not_active Withdrawn
- 2006-12-21 JP JP2006345009A patent/JP2007181674A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002534014A (ja) * | 1998-12-23 | 2002-10-08 | インテル・コーポレーション | ビデオ用途における増加されたビデオ再生フレームレート |
US20040252230A1 (en) * | 2003-06-13 | 2004-12-16 | Microsoft Corporation | Increasing motion smoothness using frame interpolation with motion analysis |
JP2005184233A (ja) * | 2003-12-17 | 2005-07-07 | Sony Corp | データ処理装置およびその方法と符号化装置 |
JP2005210697A (ja) * | 2003-12-23 | 2005-08-04 | Genesis Microchip Inc | 動き補償フレームレート変換 |
US20050265451A1 (en) * | 2004-05-04 | 2005-12-01 | Fang Shi | Method and apparatus for motion compensated frame rate up conversion for block-based low bit rate video |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009188996A (ja) * | 2008-01-10 | 2009-08-20 | Panasonic Corp | 動画像コーデック装置及びその方法 |
US8494055B2 (en) | 2008-09-03 | 2013-07-23 | Samsung Electronics Co., Ltd. | Apparatus and method for frame interpolation based on accurate motion estimation |
JP2012105750A (ja) * | 2010-11-16 | 2012-06-07 | Hitachi Aloka Medical Ltd | 超音波画像処理装置 |
US9672595B2 (en) | 2010-11-16 | 2017-06-06 | Hitachi, Ltd. | Ultrasonic image processing apparatus |
JP2013074384A (ja) * | 2011-09-27 | 2013-04-22 | Jvc Kenwood Corp | 画像処理装置及び画像処理方法 |
US9519993B2 (en) | 2011-11-24 | 2016-12-13 | Toshiba Medical Systems Corporation | Medical image processing apparatus |
US9485453B2 (en) | 2013-09-10 | 2016-11-01 | Kabushiki Kaisha Toshiba | Moving image player device |
KR20180010942A (ko) * | 2016-07-22 | 2018-01-31 | 주식회사바텍 | 움직임 보상에 기반한 ct 데이터 재구성 방법 및 장치 |
KR101964844B1 (ko) | 2016-07-22 | 2019-04-03 | 주식회사 바텍 | 움직임 보상에 기반한 ct 데이터 재구성 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
EP1814329A2 (en) | 2007-08-01 |
US20070140347A1 (en) | 2007-06-21 |
KR100870115B1 (ko) | 2008-12-10 |
KR20070066047A (ko) | 2007-06-27 |
EP1814329A3 (en) | 2010-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2007181674A (ja) | ブロック整合及び動き補償補間を利用した映像形成方法 | |
CN105517671B (zh) | 一种基于光流法的视频插帧方法及系统 | |
JP5594968B2 (ja) | ビデオ画像間の運動を確定するための方法と装置 | |
US8018998B2 (en) | Low complexity motion compensated frame interpolation method | |
CN105100807B (zh) | 一种基于运动矢量后处理的帧率提升方法 | |
CN104219533B (zh) | 一种双向运动估计方法和视频帧率上转换方法及系统 | |
JP2003274416A (ja) | 適応型動き推定装置及び推定方法 | |
US8774276B2 (en) | Image processing method for determining motion vectors of interpolated picture and related apparatus | |
JP5107409B2 (ja) | 動き領域の非線形スムージングを用いた動き検出方法およびフィルタリング方法 | |
JPH10285602A (ja) | 映像データをエンコードするための動的なスプライト | |
CN106210448B (zh) | 一种视频图像抖动消除处理方法 | |
US20180189979A1 (en) | Method for reducing matching error in disparity image by information in zoom image | |
WO2011094871A1 (en) | Method and apparatus of frame interpolation | |
Yu et al. | Joint learning of blind video denoising and optical flow estimation | |
CN114339030A (zh) | 一种基于自适应可分离卷积的网络直播视频稳像方法 | |
WO2015085922A1 (zh) | 一种帧率上采样的方法和装置 | |
KR101544158B1 (ko) | 다중 프레임을 이용한 양방향 움직임 탐색 방법 및 이러한 양방향 움직임 탐색 기능이 탑재된 영상 장치 | |
US9106926B1 (en) | Using double confirmation of motion vectors to determine occluded regions in images | |
KR102057395B1 (ko) | 기계학습 기반 비디오 보외법을 이용한 영상 생성 방법 | |
JP5197374B2 (ja) | 動き推定 | |
CN103618904B (zh) | 基于像素的运动估计方法及装置 | |
JP2006215657A (ja) | 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体 | |
KR100961456B1 (ko) | 프레임 차이 기반의 적응형 확장 블록을 이용한 움직임추정 방법 | |
KR100706720B1 (ko) | 방향성 보간을 이용한 공간적 에러은닉 방법 | |
Lu et al. | An artifact information based motion vector processing method for motion compensated frame interpolation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090603 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110927 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20120403 |