JPH02141087A - 動画像圧縮伝送・蓄積方式 - Google Patents

動画像圧縮伝送・蓄積方式

Info

Publication number
JPH02141087A
JPH02141087A JP63292464A JP29246488A JPH02141087A JP H02141087 A JPH02141087 A JP H02141087A JP 63292464 A JP63292464 A JP 63292464A JP 29246488 A JP29246488 A JP 29246488A JP H02141087 A JPH02141087 A JP H02141087A
Authority
JP
Japan
Prior art keywords
image
neuron layer
neuron
picture
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP63292464A
Other languages
English (en)
Inventor
Sei Matsuda
聖 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Electric Power Co Holdings Inc
Original Assignee
Tokyo Electric Power Co Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Electric Power Co Inc filed Critical Tokyo Electric Power Co Inc
Priority to JP63292464A priority Critical patent/JPH02141087A/ja
Publication of JPH02141087A publication Critical patent/JPH02141087A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 (産業上の利用分野) 本発明は動画像圧縮伝送・蓄積方式、待にニューラルネ
ットワーク(模擬神経回路網)を用いた新規な動画像圧
縮伝送・蓄積方式に関する。
(従来の技術) 情報通信分野において視覚情報の占める割合いは今後さ
らに増大することが予想される。特に、動画像情報のも
つ理解し易さは魅力的であり、TV電話、テレコンフッ
ランス、TV、ざらに情報提供サービスにおける画像イ
ンターフェースなど広範囲の利用が進むものと考えられ
る。
しかし、動画像は情報量が膨大でおり、その伝送および
蓄積などに大量の物理資源を必要とするので、物理資源
の効率的利用技術として種々の画像圧縮技術が研究され
、その中の一部は実用化されている。
ところで、従来の画像圧縮技術には単一の画像(フレー
ム)内に閉じた静止画圧縮と、複数フレームにまたがる
フレーム間圧縮とがおる。前者にはフレーム内予測、サ
ブサンプリング、直交変換符号化、ベクトル量子化など
が、また後者にはフレーム間予測、動き補償、背景予測
、フレーム落とし、直交変換符号化、ベクトル量子化な
どがおる。
一般に、圧縮率と復元画質とは対立する要件であるので
、−概には言えないが、たとえばベクトル量子化は絵が
モザイク的であり、直交変換符号化は絵に滑らかさがお
るが輪郭がぼけるなど、いずれの画像圧縮技術にもまだ
欠点がある。
(発明が解決しようとする課題) これら従来の画像圧縮技術はいずれもフレーム間の相違
を各画素毎の一つづつの比較を基本とした数値演算的な
手法である。画像はそもそも人間の視覚に認識されるも
のであり、視覚情報の特徴を考慮したより柔軟で効率の
よい新しい画像圧縮技術の開発が望まれている。
本発明は上記事情に対処してなされたもので、その目的
は、動画像伝送において、視覚情報の特徴を巧みに生か
すとともに動画像圧縮における圧縮効率および復元画質
の向上並びに圧縮・復元処理時間の短縮などが可能な動
画像圧縮伝送・蓄積方式を提供することにある。
(課題を解決するための手段) 上記目的を達成するために、本発明の動画像圧縮伝送・
蓄積方式は第1の原画@(以下現原画像という)とこの
現原画像以前の第2の原画像(以下前原画像という)の
二つの現・前原画像を入力する入力ニューロン層と、前
記二つの現・前原画像の差異情報を抽出する中間ニュー
ロン層と、前記前原画像の復元画像を記録する記録ニュ
ーロン層と、前記中間ニューロン層からの差異情報と前
記記録ニューロン層に記録された前原画像の復元画像か
ら前記現原画像を復元する出力ニューロン層とからなる
階層構造のニューラルネットワークを備え、前記階層構
造のニューラルネットワークがもつ学習機能を用いて動
画像を前記中間ニューロン層上の差異情報に圧縮して伝
送あるいは蓄積した後、現原画像を復元できるように構
成したことを特徴とするものでおる。
(作 用) 本発明の動画像圧縮伝送・蓄積方式によると、階層構造
のニューラルネットワークを用いて圧縮・復元処理して
おり、動画像の効果的な圧縮が可能となり、通信回線や
記憶装置などの物理資源の効率的使用による伝送および
記憶コストの軽減、圧縮・復元処理の高速化によるより
滑らかで時間遅れなどのない自然な動きをもつ画像の再
現、ざらにはより自然な鮮明な高画質の再現が図れる。
(実施例) 本発明の実施例を図面を参照して説明する。
第1図は本発明の一実施例のブロック構成図である。
本実施例は動画像圧縮伝送の例であり、図に示すように
、画像入力装置2または画像記@装@3からの画像情報
は、圧縮用ニューラルネットワーク4で圧縮された後、
伝送線5を介して圧縮伝送される。圧縮伝送された画像
情報は復元用ニューラルネットワーク6で復元された後
画像表示装置7に表示される。1は被写体である。
次に、本発明の圧縮および復元用ニューラルネットワー
クの構成を第3図について説明する。
まず、本発明のニューラルネットワークを構成するニュ
ーロン(ユニット)は、原画像及び復元画像の各画素の
一つ一つに対応させている。例えば、白黒の二値画像で
は白の画素に対応するニューロンの値は“O″とし、黒
の画素に対応するニューロンの値は“′1″とする。こ
こでは白黒画像について説明しているが、濃淡白黒画像
あるいはカラー画像もニューロンで同じように表現でき
ることは勿論でおる。このように画像を構成する各画素
を一つのニューロンに対応させ、さらに差異情報も幾つ
かのニューロンで表現される。
このように、送信側および受信側の各ニューロン層のボ
ックス口内の各点がニューロンを表しているので、各ニ
ューロン層は多数のニューロンから構成されている。
送信側は入力ニューロン層10.11と中間ニューロン
層12とで圧縮用ニューラルネットワーク4を構成し、
中間ニューロン層1/′I内の各ニューロンは入力ニュ
ーロン層10.11のすべてのニューロンからの結線に
よってつながっている。
また、受信側は中間ニューロン層1/1と記録ニューロ
ン層15と出ツノニューロン層16とで復元用ニューラ
ルネットワーク6を構成し、出力ニューロン@16内の
各ニューロンは中間ニューロン層14内および記録ニュ
ーロン層15内のすべてのニューロンからの結線によっ
てつながっている。
そして、送信側の中間ニューロン層12と受信側の中間
ニューロン層14は伝送線13を介して接続されている
。また、送信側の入力ニューロン層10と受信側の出力
ニューロン@16は教師信号を伝送する導線17を介し
て接続されている。このように、本発明のニューラルネ
ットワークは階層構造を構成している。
しかし、教師信号を伝送する導線17は学習過程でのみ
利用される。例えば、学習過程において、送信側では、
時間t=iの原画像(現原画@)とその直前のt=i−
1の原画像(前原画像)の二つの現・前原画像の画像情
報をそれぞれ入力ニューロン層10.11に写像する。
中間ニューロン層12ではこの二つの画像情報の差異情
報を抽出する。このニューロンの値(差異情報)が実際
に伝送される。受信側では、この差異情報が伝送される
中間ニューロン層14とその直前の前原画像の復元情報
を記録する記録ニューロン層15の双方から、現原画像
の課元画像を出力ニューロン層16に出力する。この復
元された画像と現原画像との差を最小にするために、こ
の現原画像情報を教師信号を伝送する導線17を介して
受信側の出力ニューロン層16に直接与え、例えばパッ
クプロパゲーションなどの階層構造ニューラルネジ1〜
ワークに対する一般の学習アルゴリズムを適用し、各ニ
ューロン層間のニューロンの結合の重みを修正する。こ
れを多数の訓練例に対して繰り返すことにより、出力ニ
ューロン層16に現原画像情報が正確に復元されるよう
にする。
この学習は物理的に離れた二つの局で行う必要はない。
そして、−旦、学習が完了すれば、教師信号はもはや必
要ではなく、伝送は差異情報だGブとなるので、実際の
伝送情報量を減少させることができる。
次に、本発明による動画像圧縮伝送の詳細な処理手順を
第4図および第5図を参照して説明する。
まず、学習フェーズの学習手順を第4図の学習手順を示
すフローを参照して説明する。
図において、送信側では、学習フェーズの開始指令が出
されると、第1ステツプ100では各結合の重みとして
適当な実数値を設定する。第2ステツプ101では「次
の画像は最初の画像か?またはn枚の画像を連続して圧
縮伝送したか?」を判別し、これが” Y e s ”
でおると、第3ステツプ102ではその画像をそのまま
受信側に送信する。
第4ステツプ103では同画像を前原画像入力ニューロ
ン層に取込んだ後第2ステツプ101に戻る。
第2ステツプ101で14 N o $1と判別される
と、第5ステツプ104において画像を現原画像人カニ
ューロン層に取り込む。第6ステツプ105では前、堺
両原画像入力ニューロン層から中間ニューロン層へ結線
を通って情報が伝わり、中間ニューロン層の各ニューロ
ンiの値はf、 (ΣjLjVJ )となる。
ここで、Vj  は両画像入力ニューロン層のニューロ
ンjの値、Tijは両画像入力ニュー1コン層のニュー
ロンjの値から中間ニューロン層のニューロンiへの結
合の重み、f、は f−(x ) = 1 /(1+exp(−x/xo)
)なるシグモイド(S字型)関数(XOは適当な定数)
でおる。次の第7ステツプ106では中間ニューロン層
の値を量子化して受信側に送信する。第8ステツプ10
7では現原画像入カニューロン層のニューロン値を前原
画像入力ニューロン層にコピーする。
一方、受信側の第1ステツプ111では送信側の開始指
令と同時に受信待ち状態となり、第2ステツプ112で
はこの受信した画像が原画像か否か?を判別し、これが
ii N o vtと判別されると、第3ステツプ11
3では受信差異情報を中間ニューロン層に取り込む。第
4ステツプ114ではこの中間ニューロン層と前復元画
像が記録されている記録ニューロン層から出力ニュラル
ネットワーク層へ結線を通って情報が伝わり、出力ニュ
ーロン層の各ニューロンiの値はfi (ΣjTijV
j)となる。ここで、Vj  は中間ニューロン層およ
び記録ニューロン層のニューロンjの値、Tijは中間
ニューロン層及び記録ニューロン層のニューロンjから
出力ニューロン層のニューロンiへの結合の重みである
。f、は前記と同様のシグモイド関数である。第5ステ
ツプ115ではこの出力ニューロン層を画像として表示
出力する。また、第2ステツプ112で” Y e s
 ”と判別されると、第6ステツプ116では受信画像
をそのまま表示出力する。このように表示出力した後、
第7ステツプ117ではこの出力ニューロン層のニュー
ロン値を前復元画像が記録されている記録ニューロン層
のニューロンへコピーする。
そこで、この学習段階では、次の第9ステツプ108に
おいて現原画像人カニューロン層と出力ニューロン層の
各ニューロンを比較し、ニューラルネットワークの学習
アルゴリズムを用いて各ニューロンの結合の重みを更新
する。次の第10ステツプ109では全画像の伝送は完
了したか?を判断して″“y e s ”でおれば学習
は終了する。14 N oIfであれば第2ステツプ1
01に戻り、前記学門が終了するまで繰り返される。
このようにして、各ニューロンの重みが適切な値に更新
された後、動画像伝送の実稼動が行なわれる。
次に、第5図の動画像伝送の実稼動時の伝送手順につい
て説明する。
図において、送信側では、動画像の伝送開始指令か出さ
れると、まず第1ステツプ200では各結合の重みとし
て学習済みのニュラルネツi−ワークの重みを設定する
。第2ステツプ201では「次の画像は最初の画像か?
またはn枚の画像を連続して圧縮伝送したか′?」を判
別し、これか” Y e S ”でおると、第3ステツ
プ202ではその画像をそのまま受信側に送信する。第
4ステツプ203で【、l、同画像を前原画像入力ニュ
ーロン層に取込んだ後第2ステツプ201に戻る。第2
ステツプ201で′“No”と判別されると、第5ステ
ツプ204において画像を現原画像人カニューロン層に
取り込む。
第6ステツプ205では前、現両原画像人カニューロン
層から中間ニューロン層へ結線を通って情報が伝わり、
ステップ105と同様に中間ニューロン層の各ニューロ
ンiの値はfi (ΣjTij Vj )となる。
次の第7ステツプ206では中間ニューロン層の値を量
子化して受信側に送信する。第8ステツプ207では現
原画像人カニューロン層のニューロン値を前原画像入力
ニューロン層にコピーする。
一方、受信側の第1ステツプ211では送信側の開始指
令と同時に受信待ち状態となり、第2ステツプ212で
はこの受信した画像が原画像か否か?を判別し、これが
“’No”と判別されると、第3ステツプ213では受
信差異情報を中間ニューロン層に取り込む。第4ステツ
プ214ではこの中間ニューロン層と前復元画像ニュー
ロン層から出力ニュラルネットワーク層へ結線を通って
情報が伝わり、ステップ114と同様に出力ニューロン
層の各ニューロンiの値はf、 (ΣjT;jVj)と
なる。第5ステツプ215ではこの出力ニューロン層を
画像として表示出力する。また、第2ステツプ212で
“’ Y e s ”と判別されると、第6ステツプ2
16では受信画像をそのまま表示、出力する。このよう
に表示出力した後、第7ステツプ217ではこの出力ニ
ューロン層のニューロン値を前復元画像ニュロン層のニ
ューロンへコピーする。
このようにして、圧縮率の高い動画像を伝送することが
できる。
第2図は本発明の他の実施例のブロック構成図である。
本実施例は動画像圧縮蓄積の例であり、図に示すように
、画像入力装置2または画像記・臣装賃3からの画像情
報は、圧縮用ニューラルネットワーク4で圧縮された後
、画像記憶装置8に圧縮記憶される。この画像記憶装置
8に圧縮記憶された画像情報は必要により復元用ニュー
ラルネットワーク6で復元された後画像表示装置7に表
示される。
本実施例が第1図の実施例と相違する点は、画像情報が
圧縮用ニューラルネットワーク4で圧縮された後、画像
記憶装置8に圧縮記憶される点のみでおり、その他の構
成は同一である。したがって、動画像圧縮蓄積伝送も蓄
積手順のみ相異し、その他の手順は前記実施例と同一で
おるので、その詳細な説明は省略する。
上述したように、本発明によるニューラルネットワーク
を用いた動画像圧縮伝送・蓄積方式は、現・前原画像の
差異情報の抽出(圧縮)手段とこの差異情報からの復元
手段をニューラルネットワークの学習能力を利用して自
動的に獲得させようというものであり、非常に効率よく
画像情報を処理することができる。
なあ、ステップ101及び201において、n枚の画像
を連続して圧縮伝送した際、源画像をそのまま伝送して
いるのは、差異情報だけの伝送・蓄積を練り返すと、誤
差の累積により復元画像の質が低下することが予想され
るので、n枚に1枚の割合いで、差異情報ではなく原画
像そのものの情報を伝送・蓄積することにより、復元画
像の質の低下を防止することを意図している。
[発明の効果] 以上説明したように、本発明の動画像圧縮伝送・蓄積方
式によれば、次のような効果が得られる。
(旬、圧縮率の高い動画像の伝送・蓄積が実現できるの
で、通信回線や記@装置などの物理資源の効率的使用が
可能となり、伝送および記憶コストの軽減が図れる。
(2)、ニューラルネットワークの処理は並列化が容易
でり、並列処理による圧縮・復元処理の高速化によりリ
アルタイムの圧縮伝送おるいは圧縮蓄積が可能となり、
復元遅れなどによる不自然さが解消される。
(3)、従来と同じ伍の通信回線や記憶哀詩などの物理
資源を用いれば、より多くの画像数おるいは解像度の高
い画像を伝送・蓄積でき、より自然な動画像を再現でき
る。
【図面の簡単な説明】
第1図は本発明の一実施例のブロック構成図、第2図は
本発明の他の実施例のブロック構成図、第3図は第1図
の圧縮および復元用ニューラルネットワークの構成図、
第4図は本発明の学習フェーズの学習手順を示すフロー
図、第5図は本発明の実稼動時の伝送手順を示すフロー
図でおる。 1・・・被写体 2・・・画像入力装置 3.8・・・画像入力装置 4・・・圧縮用ニューラルネットワーク5.13・・・
伝送線 6・・・復元用ニューラルネットワーク7・・・画像表
示装置 10.11・・・入力ニューロン層 12.14・・・中間ニューロン層 15・・・記録ニューロン層 16・・・出力ニューロン層 ]7・・・導線

Claims (1)

    【特許請求の範囲】
  1. (1)第1の原画像とこの原画像以前の第2の原画像の
    二つの原画像を入力する入力ニューロン層と、前記二つ
    の原画像の差異情報を抽出する中間ニューロン層と、前
    記第2の原画像の復元画像を記録する記録ニューロン層
    と、前記中間ニューロン層からの差異情報と前記記録ニ
    ューロン層に記録された第2の原画像の復元画像から前
    記第1の原画像を復元する出力ニューロン層とからなる
    階層構造のニューラルネットワークを備え、前記階層構
    造のニューラルネットワークがもつ学習機能を用いて動
    画像を前記中間ニューロン層上の差異情報に圧縮して伝
    送あるいは蓄積した後、第1の原画造を復元するように
    構成したことを特徴とする動画像圧縮伝送・蓄積方式。
JP63292464A 1988-11-21 1988-11-21 動画像圧縮伝送・蓄積方式 Pending JPH02141087A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63292464A JPH02141087A (ja) 1988-11-21 1988-11-21 動画像圧縮伝送・蓄積方式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63292464A JPH02141087A (ja) 1988-11-21 1988-11-21 動画像圧縮伝送・蓄積方式

Publications (1)

Publication Number Publication Date
JPH02141087A true JPH02141087A (ja) 1990-05-30

Family

ID=17782148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63292464A Pending JPH02141087A (ja) 1988-11-21 1988-11-21 動画像圧縮伝送・蓄積方式

Country Status (1)

Country Link
JP (1) JPH02141087A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018163011A1 (ja) * 2017-03-09 2018-09-13 株式会社半導体エネルギー研究所 半導体装置および放送システム
JP2020171025A (ja) * 2017-05-02 2020-10-15 株式会社半導体エネルギー研究所 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018163011A1 (ja) * 2017-03-09 2018-09-13 株式会社半導体エネルギー研究所 半導体装置および放送システム
JP2020171025A (ja) * 2017-05-02 2020-10-15 株式会社半導体エネルギー研究所 撮像装置

Similar Documents

Publication Publication Date Title
CN111311490B (zh) 基于多帧融合光流的视频超分辨率重建方法
EP0577258B1 (en) Image compressing and restoration using orthogonal function pattern
CN1192618C (zh) 用于电视会议的方法和系统
Dubois Motion-compensated filtering of time-varying images
KR20200140713A (ko) 이미지 디테일 향상을 위한 신경 네트워크 모델 학습 방법 및 장치
US5485212A (en) Software video compression for teleconferencing
WO2023050720A1 (zh) 图像处理方法、图像处理装置、模型训练方法
CN114841859A (zh) 基于轻量神经网络和Transformer的单图像超分辨率重建方法
CN114022356A (zh) 基于小波域的河道流量水位遥感图像超分辨率方法与系统
JPH02141087A (ja) 動画像圧縮伝送・蓄積方式
CN111860363A (zh) 一种视频图像的处理方法及装置、电子设备、存储介质
JP2587534B2 (ja) 画像符号化装置
EP4164221A1 (en) Processing image data
Wang et al. A hybrid fractal video compression method
JP3703034B2 (ja) 画像信号処理方法及び画像信号伝送装置
JP3759538B2 (ja) 画像信号処理方法及び画像信号伝送装置
CN111510729A (zh) 一种基于视频编解码技术的rgbd数据压缩传输方法
WO2024012227A1 (zh) 应用于电子设备的图像显示方法、编码方法及相关装置
CN114998138B (zh) 一种基于注意力机制的高动态范围图像去伪影方法
US20240070806A1 (en) System and method for transmission and receiving of image frames
JPH0447470A (ja) ニューラルネットを用いた画像処理方式及び同方式を用いた画像処理装置
US20240193819A1 (en) Learning-based point cloud compression via tearing transform
CN117726517A (zh) 基于Transformer的课堂图像超分辨率方法
CN116828208A (zh) 一种视频的压缩与增强方法、装置、电子设备及存储介质
WO2022271602A1 (en) Learning-based point cloud compression via unfolding of 3d point clouds