JP2008516566A - ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ - Google Patents

ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ Download PDF

Info

Publication number
JP2008516566A
JP2008516566A JP2007536992A JP2007536992A JP2008516566A JP 2008516566 A JP2008516566 A JP 2008516566A JP 2007536992 A JP2007536992 A JP 2007536992A JP 2007536992 A JP2007536992 A JP 2007536992A JP 2008516566 A JP2008516566 A JP 2008516566A
Authority
JP
Japan
Prior art keywords
video
network
application
mobile
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007536992A
Other languages
English (en)
Other versions
JP2008516566A5 (ja
Inventor
ディー ラルストン ジョン
ディー コラロフ クラシミル
イー サンダース スティーヴン
Original Assignee
ドロップレット テクノロジー インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドロップレット テクノロジー インコーポレイテッド filed Critical ドロップレット テクノロジー インコーポレイテッド
Publication of JP2008516566A publication Critical patent/JP2008516566A/ja
Publication of JP2008516566A5 publication Critical patent/JP2008516566A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/16Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
    • G06F15/163Interprocessor communication
    • G06F15/173Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19654Details concerning communication with a camera
    • G08B13/19658Telephone systems used to communicate with a camera, e.g. PSTN, GSM, POTS
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19665Details related to the storage of video surveillance data
    • G08B13/19667Details realated to data compression, encryption or encoding, e.g. resolution modes for reducing data volume to lower transmission bandwidth or memory requirements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19678User interface
    • G08B13/19684Portable terminal, e.g. mobile phone, used for viewing video remotely
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/66Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission for reducing bandwidth of signals; for improving efficiency of transmission

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Mathematical Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

移動装置及びモニタリングアプリケーションの静止画像及びビデオ画像データを圧縮し及び圧縮解除する装置及び方法を提供する。対応する移動装置及びカメラアーキテクチャ、無線及び有線ネットワーク上の静止画像及びビデオ画像を送信し、記憶し、編集し及びトランスコードするとともに静止画像及びビデオ画像が表示可能な装置で見られるサービスプラットホームアーキテクチャも提供する。

Description

関連出願
この出願は、2004年10月13日に出願された発明の名称が「ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ」である米国特許出願第60/618,938号及び2005年2月16日に出願された発明の名称が「モバイルイメージングアプリケーション、装置アーキテクチャ並びに装置プラットーホームアーキテクチャ及びサービス」である米国特許出願第60/654,058号の優先権を主張し、その各々を参照することによって全体をここに組み込む。
この出願は、2004年9月22日に出願した米国仮出願第60/612,652号の優先権を主張する2005年9月21日に出願した発明の名称が「マルチテクニックエントロピー符号化システム及び方法」である米国特許出願第11/232,726号の一部継続出願、2004年9月22日に出願した米国仮出願第60/612651号の優先権を主張する2005年9月21日に出願した発明の名称が「置換遅延」である米国特許出願第11/232,725号の一部継続出願、2004年9月21日に出願した米国仮出願第60/612,311号の優先権を主張する2005年9月20日に出願した発明の名称が「可変サブバンド処理を伴う圧縮率制御装置及び方法」である米国特許出願第11/232,165号の一部継続出願、2004年9月22日に出願した米国仮出願第60/612,311号、2003年9月30日に出願した米国仮出願第60/507,148号及び2003年9月30日に出願した米国仮出願第60/507,147号の優先権を主張する2004年9月29日に出願されるとともに2005年5月19日に米国特許公開第2005/0105609号として公開された発明の名称が「時間的に順番どおりでない圧縮及びマルチソース圧縮率制御の装置及び方法」である米国特許出願第10/955,240号の一部継続出願、2002年6月21日に出願された米国仮出願第60/390,380号及び2002年4月19日に出願された米国仮出願第60/374,061号の優先権を主張する204年11月30日に発行された米国特許第6,825,780号の継続出願である2004年9月16日に出願されるとともに2005年5月19日に米国特許公開第2005/0104752号として公開された発明の名称が「マルチコーデック−イメジャシステム及び方法」である米国特許出願第10/944,437号の一部継続出願、2002年5月28日に出願された米国仮出願第60/385,253号及び第60/385,250号の優先権を主張する2003年5月28日に出願されるとともに2003年12月11日に米国特許公開第2003/0229773号として公開された発明の名称が「並列プロセッサ用のパイル処理システム及び装置」である米国特許出願第10/447,455号の一部継続出願、2002年6月21日に出願された米国仮出願第60/390,345号及び第60/390,492号の優先権を主張する2003年5月28日に出願されるとともに2003年12月25日に米国特許公開第2003/0235340号として公開された発明の名称が「色度時間レート減少及び高品質休止システム及び方法」である米国特許出願第10/447,514号の一部継続出願、2002年4月19日に出願した米国仮出願第60/374,069号の優先権を主張する2003年4月17日に出願されるとともに2003年11月6日米国特許公開第2003/0206597号として公開された発明の名称が「画像及びビデオトランスコーディング装置、方法及びコンピュータプログラム」である米国特許出願第10/418,649号の一部継続出願、並びに、2002年6月21日に出願された米国仮出願第60/390,383号、2002年5月18日に出願された米国仮出願第60/385,254号、2002年4月19日に出願された米国仮出願第60/373,974号及び2002年4月19日に出願された米国仮出願60/373,966号の優先権を主張する2003年4月17日に出願されるとともに2003年10月23日に米国特許公開第2003/0198395号として公開された発明の名称が「ウェーブレット変換装置、方法及びコンピュータプログラム」である米国特許出願第10/418,363号の一部継続出願であり、その各々を参照することによって全体をここに組み込む。
この出願は、2005年1月25日に発行された発明の名称が「2進モノトニック(DM)コーデックの装置及び方法」である米国特許第6,847,317号及び2004年11月30日に発行された発明の名称が「マルチコーデック−イメージャ装置及び方法」である米国特許第6,825,780号も参照によって全体をここに取り込む。
本発明は、データ圧縮に関し、特に、移動装置の静止画像及びビデオ画像の記録、対応する移動装置アーキテクチャ、並びに、無線及び有線ネットワーク上の静止画像及びビデオ画像を送信し、記憶し、編集し及びトランスコーディングし、静止画像及びビデオ画像を観察し、かつ、ネットワークと装置との間でコーデックを分配し及び更新するサービスプラットホームアーキテクチャに関する。
直接デジタル化された静止画像及びビデオ画像は、大量のビットを必要とする。したがって、記憶、送信及び他の仕様のために静止画像及びビデオ画像を圧縮するのが一般的である。複数の基本的な圧縮方法及びこれら圧縮方法の非常に多くの変形が知られている。一般的な方法は、3段階のプロセス:変換、量子化及びエントロピー符号化によって特徴付けることができる。多数の画像及びビデオコンプレッサは、この基本的なアーキテクチャを様々な方法で共有する。
ビデオコンプレッサの変換段の目的は、画像又はシーケンスの局所的な類似及びパターンを利用することによってソース画像のエネルギー又は情報をできるだけコンパクトな形態にすることである。コンプレッサは、「典型的な」入力において良好に作用するように設計され、「ランダムな」又は「異常な」入力の圧縮のし損ないを無視することができる。MPEG−2やMPEG4のような多数の画像圧縮及びビデオ圧縮方法は、変換段階として離散余弦変換(DCT)を用いる。MPEG−4静止テクスチャ圧縮のような一部の新しい画像圧縮及びビデオ圧縮方法は、変換段階として種々のウェーブレット変換を用いる。
量子化は、典型的には変換段階後の情報を排除する。再構成された圧縮解除画像は、元の画像の正確な再生ではない。
エントロピー符号化は損失の多いステップである。このステップは、量子化後に残る情報を取り出し、通常はデコーダで正確に再生できるようにその情報を符号化する。したがって、変換段階及び量子化段階で除去する情報についての設計決定は、後のエントロピー符号化段階によって悪影響が及ぼされない。
DCTに基づくビデオ圧縮/圧縮解除(コーデック)技術の制約は、本来ビデオ放送及びストリーミングアプリケーションに対して開発されているため、非常に複雑なエンコーダがコンピュータワークステーション上で実行することができるスタジオ環境でのビデオコンテンツの符号化に依存する。そのような演算が複雑なエンコーダによって、演算が簡単であるとともに比較的廉価なデコーダ(プレーヤ)を顧客の再生装置にインストールすることができる。しかしながら、そのような非対称な符号化/復号技術は、制約された演算リソースによってビデオメッセージがリアルタイムで取得され及び符号化される多数の新たなビデオモニタリング装置及びアプリケーションに対して理想的でない。
本発明は、従来の圧縮技術の欠点に対する解決を示し、移動ハンドセット並びに静止画像及びビデオモニタリングカメラ上で全ソフトウェア(又はハイブリッド)アプリケーションとして実現することができる非常に優れた演算効率の画像圧縮(コーデック)を適用し、これによって、ハンドセットアーキテクチャの複雑さ及びモバイルイメージングサービスプラットホームアーキテクチャの複雑さを減少する。本発明の全ソフトウェア又はハイブリッドビデオコーデックの解決の態様は、ベースバンドプロセッサ及びビデオアクセラレータのコスト及びマルチメディアハンドセット及びカメラの要求を大幅に減少し又は除去する。OTAダウンロードを通じて製造後にコーデックをインストールする機能と組み合わせることによって、全ソフトウェアアプリケーション又はハイブリッドアプリケーションの本発明の解決は、ハンドセット又はカメラの開発並びにビデオモニタリングサービスアーキテクチャ及びデプロイの複雑さ、リスク及びコストを大幅に減少する。さらに、本発明の態様によれば、ソフトウェアビデオトランスコーダによって、デプロイされたMMS制御(MMSC)の自動的なネットワーク越し(OTN)アップグレード及び移動ハンドセット及びカメラ装置に対するコーデックのデプロイ又はアップグレードを可能にする。本発明のウェーブレットトランスコーダは、ウェーブレットビデオフォーマットと標準ベースの独自仕様のビデオフォーマットとの間で完全な相互運用性を有するキャリアを提供する。本発明の全ソフトウェア又はハイブリッドビデオプラットホームによって、従来技術では利用できない処理速度及びビデオ再生精度を利用する新たなMMSサービスの迅速なデプロイを可能にする。本発明のウェーブレットコーデックは、静止画像とビデオ画像の両方を有効に処理する能力においても独自のものであり、したがって、個別のMPEGコーデック及びJPEGコーデックを、モニタリングアプリケーションの静止画像及びビデオ画像並びに他のサービスを同時にサポートすることができる単一の低コストかつ低電力の解決に置き換えることができる。
ウェーブレットに基づく画像処理
ウェーブレット変換は、1次元以上のデータのセットに対するウェーブレットフィルタ対の繰返しアプリケーションを具える。静止画像圧縮に対して、2次元ウェーブレット変換(水平及び垂直)を利用することができる。ビデオコーデックは3次元ウェーブレット変換(水平、垂直及び時間)を用いることができる。向上した対称な3次元ウェーブレットに基づくビデオ圧縮/圧縮解除(コーデック)装置は、移動装置における演算の複雑さ及び消費電力をDCTに基づくコーデックに要求される場合よりも下に減少するとともに単一のコーデックにおいて静止画像及びビデオ画像を処理する際の同時のサポートを可能にすることが望ましい。単一のコーデックにおける静止画像及びビデオ画像のそのような同時のサポートは、個別のMPEG(ビデオ)及びJPEG(静止画像)に対する必要を除去し、圧縮パフォーマンス、したがって、格納効率をモーションJPEGコーデックに比べて大幅に向上する。
セキュリティの関心が強くなるに従って、小売業、銀行、学校、企業、官庁、空港、運輸業、軍事施設及び他の多数の組織においてビデオモニタリングシステムの要求が高まりつつある。
図1を参照すると、多数のデプロイされたビデオモニタリングシステムのアーキテクチャは、典型的には一つ以上のハードディスクレコーダ(HDR)ユニット120に遠く離れて接続した一つ以上のアナログ有線TV(CCTV)カメラ110から構成される。HDRに含まれる機能は、以下の通りである。
・ CCTVカメラからのアナログビデオ信号入力のデジタル化
・ ハードディスクへの記憶の要求を減少するためのデジタル化ビデオ信号の圧縮
・ 圧縮ビデオ信号の記憶
・ 一つ以上のローカルビデオモニタ130を観察する記憶された圧縮ビデオ信号の圧縮解除
・ 遠隔圧縮解除並びに遠隔ビデオ圧縮解除ユニット並びに遠隔ビデオ圧縮解除ユニット及び観察モニタ150での観察のために専用又は共有ネットワーク接続140上での圧縮ビデオ信号の送信
画像を、例えば中央のビデオモニタリング設備でHDR120から局所的に観察することができ、又は遠隔での観察のために専用又は共有ネットワーク接続140上で送信することができ、これによって、任意の数の許可された観察者が、リアルタイムの又は記録されたビデオ画像を同時に観察することができる。
図2を参照すると、新しく、更に柔軟性があり、低コストであり、かつ、高速であるデジタルネットワーク送信、記憶及び処理技術を利用するために、一部の新型のビデオモニタリングシステムはデジタルIPカメラ210を利用する。そのようなカメラ210は、カメラ210でビデオ信号を直接デジタル化し及び圧縮することができ、圧縮ビデオを、カメラ210からインターネットプロトコル(IP)ネットワーク220を経て遠隔記憶、観察及び他の分析用のPC又はサーバに基づく装置に直接送信することができる。そのような装置は、ネットワーク化されたPC及び/又はサーバ280に接続したビデオモニタリング装置230、ビデオ記憶装置240、ビデオ分析装置250、ビデオ処理装置260及び/又はビデオ分配装置270を有することができる。
図3を参照すると、アナログCCTVカメラ310を用いてレガシービデオモニタリングシステムのアップグレードをサポートするために、図2を参照して説明した装置と同様に330,340,350,360,370及び380のような相互接続のためにアナログCCTVカメラ310に対してスタンドアローンデジタルコーデック312及びIPネットワークインタフェース314を設けることもできる。
更に図4を参照すると、一部の新型のビデオモニタリングシステムは、ビデオ表示機能を設けた固定又は移動無線装置410を用いたネットワーク412上のデジタル圧縮ビデオのアクセス及び観察を可能にする。ビデオ表示機能に加えて、図2及び3を参照して既に説明した414,420,430,440,450,460,470及び480のような構成要素を有するビデオモニタリングネットワークに接続した無線装置のビデオをリアルタイムで取得できるようにするのが望ましい。
デジタルビデオモニタリングカメラ
図5を参照すると、デジタルビデオモニタリングカメラ510を、伝送バンド幅及び記憶512の要求を最小にするためにアナログビデオ及びオーディオをデジタル化し及び圧縮するビデオ監視システムとする。そのようなカメラ510は、かさばった同軸ケーブルを要することなくローカルエリアネットワーク(LAN)518のようにIPプロトコルネットワーク516にカメラ510がビデオを流すことができる統合されたIPネットワークインタフェース514を有してもよい。そのようなデジタルビデオモニタリングカメラ510の主要なサブシステムは、次の通りである。
・ レンズサブシステム520
・ デジタル処理に対する入力のためにプリアンプ、信号処理を行うとともにアナログイメージャアレイに接続され又は統合されたアナログ−デジタル(A/D)信号変換回路を実現するアナログ処理及びA/D変換524
・ 動き補償及び他の同様なリアルタイム画像取得処理、色空間変換、圧縮/圧縮解除並びに画像スケーリングやトランスレーティングのような後処理を行うデジタル処理526
・ 実行中のコード及びデータ/パラメータを格納する処理用メモリ528
・ ローカル外部表示モニタ及びPCのような他の表示/処理装置のような統合された記憶装置及びディスプレイに対してインターフェース接続を行うインターフェース接続論理及びコントローラ530
・ IPネットワーク516上のデータ通信に対してデータパケット化を行うとともに音声/ビデオデータパケットをIPネットワーク516を通じて送受信するネットワークインタフェース514
図5に示さない他の主要なサブシステムは、以下の通りである。
・ オーディオ信号をデジタル化するためにマイクロホン/スピーカにインターフェース接続するとともにオーディオコーディクを用いるオーディオインタフェース
・ 種々の機能ブロックを実行するために入力電力をACアダプタ又はバッテリ電力に変換する電力変換
上記サブシステムを、ハードウェア、ソフトウェア又はこれらの組合せで実現することができる。音声/ビデオデータを、内蔵メモリ若しくは取外し可能なメモリを用いて格納し、及び/又は非リアルタイムファイル変換又はリアルタイムストリーミングを通じてIPネットワーク上で送信される。
MPEG4のようなDCT変換に基づくコーデックを用いる図6を参照すると、市販のデジタルビデオモニタリングカメラは、典型的にはTV、パーソナルコンピュータ、デジタルビデオカムコーダ等の他のマルチメディア装置(図1参照)で取得され及び表示される場合に比べて著しく小さいサイズで低フレーム速度のビデオ画像を取得し及び送信する際に制約が課される。図1に示すように、最小の現在のフォーマットSubQCIF110(SubQ共通中間フォーマット)は、128画素(画像素子)幅×96画素高であり、QQVGA120(QQベクトルグラフィックスアレイ)は、160×120画素であり、QCIF130は、176×144画素であり、QVGA140は、320×240画素であり、CIF150は、352×288画素であり、VGA160は、640×480画素であり、最大の現代のフォーマットであるD1/HDTV(高精細テレビジョン)は、720×480画素である。ビデオモニタリングアプリケーションは、典型的にはVGA660(640×480画素)若しくはD1 670(720×480画素)フォーマット又はそれより大きいフォーマットのビデオ画像を30フレーム/秒(fsp)以上の表示速度で取得/表示することを必要とし、それに対して、市販のデジタルビデオモニタリングカメラは、典型的にはCIF650(352×288画素)フォーマット若しくはQCIF630フォーマット又はそれより小さいビデオ画像の15fsp以下の表示速度での取得に制限される。このようなビデオ取得機能の減少は、DCT変換を用いたビデオ圧縮/圧縮解除に関連した演算ステップの数、タイプ及びシーケンスを完了するために要求される過度のプロセッサの電力消費及びバッファメモリに起因する。
市販のビデオコーディク及びマイクロプロセッサ技術を用いることによって、VGA660(又はそれより大きい)ビデオを30fps以上のフレーム速度で取得することを意図するデジタルビデオモニタリングカメラに対して非常に複雑であり、電力が不足し、かつ、高価なアーキテクチャとなる。そのようなカメラアーキテクチャは、大容量(典型的には、1メガバイト以上の記憶容量)のバッファメモリブロックとともに減少した命令セット(RISC)プロセッサ、デジタル信号プロセッサ(DSP)、アプリケーション特有の集積回路(ASIC)及び再構成可能な処理装置(RPD)の組合せ上で実行するソフトウェアプログラム及びハードウェアアクセラレータの組合せを利用するコーデックを有する。これらコーデック機能を、RISCプロセッサ、DSP、ASIC及びRPDのような個別の集積回路(IC)を用いて実現することができ、コーデック機能は、システムインパッケージ(SIP)又はシステムオンチップ(SoP)とともに統合されるRISCプロセッサ、DSP,ASIC及びRPDを組み合わせる。
デジタルビデオモニタリングカメラ製造者は、現在のところモーションJPEG,MPEG−1又はMPEG4コーデックを用いたカメラ(すなわち、15fspのQCIF630又はCIF650)において、低解像及び低品質のビデオ符号化を行っている。これらのコーデックは、上記のように制限された画像フォーマット及びフレーム速度に対して10〜60mWの範囲の電力消費で複数の製造者からチップセットとして利用できる。ビデオモニタリングシステムに対して、以下の仕様を有する本発明の態様による向上したビデオコーディク及びイメージングアプリケーションは、非常に望ましい。
・ 静止画像とビデオの両方に対するサポート
・ ビデオモニタリング及びIPネットワーク分配に対して許容できるデジタル画像品質:30fspでの十分なVGA660(640×480)又はD1 670(720×480)
・ センサに対して50mWが保持される場合に(30fspのVGAに対して)100mWより下の全電力消費
・ 業界標準のマルチメディアプロセッサ上で実行できる全ソフトウェアの実現
本発明の態様によるそのような向上したビデオコーディク及びイメージングアプリケーションの全ソフトウェア実現も、既にデプロイされたデジタルモニタリングカメラにダウンロードし、インストールし、バグ修正し、及びアップグレードする機能に対しても望ましい。
そのような向上したビデオコーデック及びイメージングアプリケーションは、アナログCCVTカメラ110又は310を用いたレガシービデオモニタリングシステムのアップグレードをサポートするために外部装置としても望ましい。
さらに、高品質のビデオモニタリング信号の取得、これらの信号の固定又は移動無線接続上のビデオモニタリングネットワークのPC又はサーバに基づく装置への送信、及び無線装置410上での遠隔観察のための他のビデオモニタリング装置からのビデオ信号の受信を可能にするために、そのような向上したビデオコーデック及びイメージングアプリケーションを固定又は移動無線装置410に設けるのが望ましい。そのような無線装置を、特別な目的のビデオモニタリング装置又は市販のビデオ可能な移動ハンドセット(すなわち、カムコーダホン)とすることができる。
ビデオ可能の無線装置を用いたビデオモニタリング
図7を参照すると、デジタルカムコーダ機能を移動ハンドセットに追加することは、ハードウェア、ソフトウェア又はこれらの組合せとして以下の機能を伴うことがある。
・ 対応するプリアンプ及びアナログ−デジタル(A/D)信号変換回路を有するイメージャアレイ710(典型的にはCMOS又はCCD画素のアレイ)
・ 予処理、符号化/復号(コーデック)、後処理のような画像処理機能712
・ 無線又は有線ネットワーク上でのリアルタイムでない送信又はリアルタイムのストリーミングに対して処理された画像のバッファリング714
・ タッチスクリーン716及び/又はカラーディスプレイ718のような一つ以上の画像表示スクリーン
・ ビルトインメモリ720又は取外し可能なメモリ722のローカル画像記憶
MPEG−4のようなDCT変換に基づくコーデックを用いると、市販されている画像処理が可能な移動ハンドセットは、典型的にはTV、パーソナルコンピュータ、デジタルビデオカムコーダ等の他のマルチメディア装置で取得され及び表示される場合に比べて小さいサイズかつ小さいフレーム速度のビデオ画像の取得に制限される。他のマルチメディア装置は、典型的にはVGAフォーマット(640×480画素)以上のビデオ画像を30フレーム/秒(fps)以上の表示速度でビデオ画像を取得/表示し、それに対して、市販されている画像処理が可能な移動ハンドセットは、QCIFフォーマット(176×144画素)以下のビデオ画像を15fps以下の表示速度での取得に制限される。このように減少されたビデオ取得機能は、過度のプロセッサ電力消費と、DCT変換を用いたビデオ圧縮/圧縮解除に関連した演算ステップの数、タイプ及びシーケンスを達成するのに要求されるバッファメモリとにある。市販されている移動ハンドセットにおいてこのようにビデオ取得機能を減少した場合でさえも、圧縮及び圧縮解除を行うためにハンドセットハードウェアに特別に設計した集積回路チップを組み込む必要がある。
市販されているビデオコーデック及びマイクロプロセッサ技術を用いることによって、非常に複雑であり、電力が不足し、かつ、30fps以上のフレーム速度でVGA(又はそれより大きい)ビデオを取得することを試みる移動イメージングハンドセットに対する長い設計及び製造準備時間を伴う高価なアーキテクチャとなる。そのようなハンドセットアーキテクチャは、(典型的には1メガバイト以上の記憶容量の)大容量のバッファメモリブロック314を伴う減少した命令セット(RISC)プロセッサ724、デジタル信号プロセッサ(DSP)726、アプリケーション特有の集積回路(ASIC)728及び再構成可能な処理装置(RPD)730の組合せ上で実行するソフトウェアプログラム及びハードウェアアクセラレータの組合せを利用するコーデックを必要とする。これらコーデック機能を、そのようなRISCプロセッサ724,PDS726,ASIC728及びRPD730を個別の集積回路(IC)として実現することができ、又は互いに統合されたRISCプロセッサ724,PDS726,ASIC728及びRPD730のうちの少なくとも一つ以上をシステムインパッケージ(SIP)又はシステムオンチップ(SoC)で結合することができる。
上記ハードウェアと共にRISCプロセッサ724又はDPS726を実行するコーデック機能をソフトウェアルーチンとすることができ、これによって、誤り又は更新機能を訂正するためにコーデック機能を変更することができる。所定の複雑な繰返しコーデック機能をソフトウェアとして実現する不都合は、結果として生じる全体に亘るプロセッサリソース及び電力消費の要求が典型的には移動通信装置で利用できるものを超えることである。ASIC728を実行するコーデック機能は、典型的には、複雑な繰返し演算ステップを行う固定されたハードウェアで実現され、これによって、特別に調整されたハードウェアアクセラレーションがコーデックの全体に亘る電力消費を十分に減少するという利点を有する。所定のコーデック機能を固定されたハードウェアで実現する不都合は、長くて更に複雑な設計サイクル、固定されたシリコンで実現する際に誤りを見つけた場合における高価な製品のリコールのおそれ、及び新たに開発した特徴をイメージングアプリケーションに追加する場合に固定されたシリコンの機能を更新できないことを伴う。RPD730で実行するコーデック機能は、ハードウェアアクセラレーション及び典型的には移動イメージングハンドセット製品の機能を追加し又は修正することができる機能の両方を要求するルーチンである。所定のコーデック機能をRPD730上で実現する際の不都合は、多数のシリコンゲートと、ハードウェア再構成可能性をサポートするのに要求される電力消費が固定ASIC728の実現に比べて高くなることである。
本発明のある態様によって構成されたイメージングアプリケーションは、移動イメージングハンドセットがVGA660(又はそれより大きい)ビデオを全ソフトウェアキテクチャによる30fpsのフレーム速度で取得できるように複雑な繰返しコーデック機能を減少し又は除去する。この配置は、上記アーキテクチャを簡単にし、大容量の市販の展開に適合したハンドセットコストを可能にする。
新たなマルチメディアハンドセットは、画像及びビデオメッセージング機能だけでなく多様な追加のマルチメディア機能(音声、音楽、グラフィックス)及び無線アクセスモード(2.5G及び3Gセルラーアクセス、無線LAN、ブルートゥース、GPS等)をサポートすることが要求されることもある。そのような製品の開発、展開及びサポートに伴う複雑さ及びリスクによって、新たに収入が生じるサービス及びアプリケーションを有効に展開するとともにコストがかかる製品のリコールを回避するために、多数の機能及びアプリケーションの無線(OTA)分配及び管理が非常に望ましい。本発明の態様によって設けられた全ソフトウェアイメージングアプリケーションによって、移動オペレータによるイメージングアプリケーションのOTA分配及び管理を可能にする。
モバイルビデオモニタリングシステムアーキテクチャ
図8を参照すると、ビデオモニタリングのようなイメージングサービスをサポートすることができる典型的な移動無線ネットワークの主要構成要素は、以下のものを有する。
・ 移動ハンドセット810
・ 移動基地局(BST)812
・ 基地局コントローラ/無線ネットワークコントローラ(BCS/RNC)814
・ 移動通信交換機(MSC)816
・ ゲートウェイサービスノード(GSN)818
・ 移動マルチメディアサービスコントローラ(MMSC)820
MMSCに含まれる典型的な機能は、以下の通りである(図8参照)。
・ ビデオゲートウェイ822
・ 通信接続サーバ824
・ MMSアプリケーションサーバ826
・ 記憶サーバ828
MMSC820のビデオゲートウェイ822は、イメージングサービスプラットホームによってサポートされる種々のビデオフォーマット間でトランスコードを行う役割を果たす。移動電話ネットワークで用いられる種々の音声コーデックをサポートするためにも無線オペレータによってトランスコーディングが用いられ、対応する音声トランスコーダがRNC814に統合される。図8に示すアーキテクチャを有するモバイルイメージングサービスプラットホームを用いることは、新たなハンドセット810のデプロイを伴い、新たなハードウェアがマニュアルによってMMSC820ビデオゲートウェイ822に追加される。
本発明の態様によって構成された全ソフトウェアモバイルイメージングアプリケーションサービスプラットホームは、新たなビデオモニタリングサービス及びアプリケーションのデプロイをサポートするために、デプロイされたハンドセットの自動的なOTAアップグレード及びデプロイされたMMSC820の自動的なOTNアップグレードをサポートする。
適合性ジョイントソース−チャネルコーディング
ビデオモニタリング装置、アプリケーション及びサービスのデプロイが拡張すると、内在するネットワークアーキテクチャが非常に混在し、LAN,WAN,CATV及びIP技術に基づく有線ネットワーク、固定無線ネットワーク、移動無線ネットワーク及び衛星ネットワークを含むがこれらに限定されない種々の専用又は公衆ネットワーキングインフラストラクチャ上でのビデオ送信のサポートが要求される。
モバイルネットワーク上でのビデオ送信は、典型的にはテキスト、オーディオ、静止画像等の他のデータ/メディアタイプの送信に比べて高いデータ速度が要求されるために実際に取り組まれている。さらに、モバイルネットワークの雑音及び誤り特性の変動に従う制限された変動するチャネルバンド幅は、ビデオ転送に更なる制約及び困難を与える。本発明の態様によれば、ビデオビットストリームを種々のチャネル状態に適合するために種々のジョイントソース−チャネルコーディング儀中とを適用することができる(図2参照)。さらに、本発明のジョイントソース−チャネルコーディング手法は、変動するチャネルバンド幅及び誤り特性に適合するよう格調可能である。さらに、それは、マルチキャストシナリオに対する拡張可能性をサポートし、この場合、ビデオストリームの受信帯の種々の装置は、復号演算能力及び表示機能に種々の制約を課すことができる。
図9に示すように、本発明の態様によれば、ソースビデオシーケンス910は、誤り訂正コード(ECC)チャネルコーディング930が続くソースエンコーダ920によって第1のソース符号化(すなわち、圧縮)が行われる。従来のモバイルネットワークにおいて、ソース符号化は、典型的には、H.263,MPEG−4、モーションJPEG等のDCTに基づく圧縮技術を用いる。そのような符号化技術を、ソースエンコーダで実行される圧縮の程度のリアルタイムの調整を行う本発明のような調整を行うことができない。本発明のこの態様は、ビデオが取得され、符号化され及び通信ネットワークを通じてリアルタイムまたはほぼリアルタイムで送信するときに(ビデオが取得され、符号化され及び後の送信のために格納される場合に比べて)非常に有利である。チャネル符号化方法の例は、ロードソロモン符号、FEC符号及びターボ符号である。その後、ジョイントソース及びチャネル符号化ビデオビットストリームは、最適な再構成ビデオ品質を達成する間にチャネルバンド幅要求に整合するためにレートコントローラ940を通過する。レートコントローラ940は、チャネル960上での送信のためにビデオビットストリーム950を送り出す前に圧縮ビデオビットストリーム上で個別のレート−歪み演算を行う。移動装置の演算能力の制限のために、典型的なレートコントローラは、利用できるチャネル幅のみを考察し、送信チャネルの誤り特性を全く考慮しない。本発明の態様によれば、ソースエンコーダは、1〜5%及び1〜10%の小さい圧縮比の変動を達成するよう圧縮を調整する機能を有する。これは、一つ以上のビデオ画像のデータを共に表すデータの個別のサブバンドに変動した圧縮率が適用されるときに特に有効である。
復号中、図9(b)に示すように、ジョイントソース−チャネル符号化ビットストリーム950は、チャネル960で受信されるとともに、ステップ970でECCチャネル復号され、ステップ980でソース復号され、再構成されたビデオをステップ990で表示する。
本発明は、更に高い演算効率を有するアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングを提供し、その結果、瞬時の予測できるチャネルバンド幅及び誤り状態をソースコーダ920、チャネルコーダ930及びレートコントローラ940の全てで利用して、再構成されたビデオ信号の瞬時の平均品質(歪みに対するビデオ速度)の制御を最大にする。
本発明によって提供される向上した適合性ジョイントソース−チャネルコーディング技術によって、無線キャリア及びMMSサービスプロバイダは、更に広い範囲のサービスの品質(QoS)のパフォーマンス並びに顧客及び企業顧客に対する価格レベルを提供することができ、したがって、無線ネットワークインフラストラクチャを用いて発生した収入を最大にする。
マルチキャストシナリオは、多数のユーザによって復号することができる単一の適合性ビデオビットストリームを必要とする。これは、現在の大規模のハイブリッドネットワークにおいて特に重要であり、この場合、ネットワークのバンド幅の制約によって、各ユーザに対して調整される複数の同時のビデオ信号の送信ができなくなる。単一の適合性ビデオビットストリームの同時送信によって帯域幅の要求が大幅に減少するが、複数のユーザに対して復号可能なビデオビットストリームを発生する必要があり、これらのユーザは、ブロードバンド無線又は有線接続を有するハイエンドユーザと、制限されたバンド幅及び誤りが生じやすい接続を有する無線電話ユーザとを含む。移動装置の演算能力のために、適合性レートコントローラの精度は、典型的には非常に粗く、例えば、ベース層及び一つのエンハンスメント層を有する2層ビットストリームのみ生成する。
高い演算効率を有するアルゴリズムに基づく本発明の向上した適合性ジョイントソースチャネルコーディングによる他の利点は、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関する非常に高いレベルのネットワークハイブリッドをサポートすることができる
移動Java(登録商標)アプリケーション
Java(登録商標)技術によって、一つの言語及び一つの技術の下でサーバからデスクトップ及び移動装置までの広い範囲の装置をもたらす。この範囲の装置のアプリケーションが互いに相違する間、Java(登録商標)技術は、考慮する違いを埋めるように機能し、これによって、この分野の開発者は、装置及びアプリケーションの範囲の技術を利用することができる。
1999年6月にサンマイクロシステムによってJava(登録商標)コミュニティーに最初に導入されたもの(Java(登録商標)2,Micro Edition)は、Java(登録商標)開発者の様々な必要に良好に適合する広いイニシアティブの一部であった。Java(登録商標)2プラットホームによって、サンマイクロシステムは、Java(登録商標)技術のアーキテクチャを再定義し、三つのエディションに分類した。標準的なエディション(J2SE)は、デスクトップ開発及び低価格のビジネスアプリケーションに対して実用的な解決を提供した。エンタープライズエディション(J2EE)は、エンタープライズ環境のアプリケーションにおいて特殊化する開発者に対するものであった。マイクロエディション(J2ME)は、PDA,セルホン、ページャ、テレビジョンセットトップボックス、リモートテレメトリユニット及び他の市販の電子的な内臓装置のような制限されたハードウェアリソースを有する装置を走査する開発者に対して導入された。
J2MEは、128キロビットのRAMと典型的なデスクトップ及びサーバマシンで用いられる場合に比べて著しく低い電力のプロセッサとを有するマシンに対するものである。J2MEは、実際にはプロファイルのセットからなる。各プロファイルは、特定のタイプの装置−セルホン、PDA等に対して規定され、特定のタイプの装置に要求される分類ライブラリ及び装置をサポートするのに要求されるJava(登録商標)仮想マシンの仕様からなる。あらゆるJ2MEプロファイルで特定される仮想マシンは、必ずしもJava(登録商標)2スタンダードエディション(J2SE)及びJava(登録商標)2エンタープライズエディション(J2EE)と同一でない。
上記装置の全てに対して最適又はほぼ最適な単一のJ2ME技術を規定するのは容易でない。プロセッサ電力、メモリ、記憶の持続性及びユーザインタフェースの差は、非常に厳格である。この問題を指摘するために、サンマイクロは、J2MEに適した装置の規定をセクションに分割し及び細分した。第1のスライスによって、サンマイクロは、処理電力、メモリ及び記憶機能に基づくが使用意図を無視して二つの広いカテゴリーに分類した。その後、サンマイクロは、少なくとも最小のJava(登録商標)機能をもたらしながら各カテゴリーの装置の制約内で作業するJava(登録商標)言語の必要最小限のものを装備したバージョンを規定した。
次に、サンマイクロは、同様な役割を有する装置の分類をこれら二つのカテゴリーの各々で識別し、したがって、例えば、全てのセルホンは、製造者に関係なく一つの分類内にある。Java(登録商標)コミュニティプロセス(JCP)のパートナーの助けによって、サンマイクロは、各垂直スライスに特有の他の機能を再規定した。
第1部門は、二つのJ2ME形態:接続装置形態(CDC)及び接続正弦装置形態(CLDC)を形成した。形態は、Java(登録商標)仮想マシン(JVM)であり、装置の選択群に対して実行時間環境を提供する分類ライブラリ及びAPIの最小セットである。形態は、Java(登録商標)言語の最小共通特徴サブセットを特定し、その一つは、開発された装置のファミリーによって貸されるリソース制約内で適合する。ユーザインタフェース、機能及び使用間で大きな多様性があるので、形態内でさえも、典型的な形態は、ユーザインタフェースツールキットや持続する記憶のAPIのような重要な種類を定義しない。属する機能の規定は、プロファイルとも称される。
J2MEプロファイルは、ページャやセルホンのような装置の特定の分類を指定することを意図する産業主導型群によって特定されるJava(登録商標)APIのセットである。各プロファイルは、その形態によって設けられるJava(登録商標)言語の最小共通特徴サブセットのトップに組み込まれ、その形態を補助するよう意図される。移動ハンドセット装置に重要な二つのプロファイルは、CDCを補助する基礎プロファイルと、CLDCを補助する移動情報装置プロファイル(MIDP)とである。更なるプロファイルが進行中であり、使用及び基準の実現をすぐに明らかにする必要がある。
無線産業用のJava(登録商標)技術(JTWI)仕様JSR185は、移動電話を可能にするJava(登録商標)の次の発生に対する業界標準プラットホームを規定する。JTWIは、移動装置製造者、無線キャリア及びソフトウェアベンダーを指導する専門家グループによるJava(登録商標)コミュニティプロセス(JCP)を通じて規定される。JTWIは、JTWIに適合した装置:CLDC1.0(JSR30),MIDP2.0(JSR118)及びWMA1.1(JSR120)並びに適用できる場合のCLDC1.1(JRS139)及びMMAPI(JSR135)に含める必要がある技術を特定する。移動マルチメディア装置に対する技術及びインタフェースを規定する他の二つのJTWIしようは、JSR−135(「移動メディアAPI」)及びJSR−234(「向上したマルチメディア補助」)である。
JTWI仕様は、APIフラグメンテーションを最小にするとともに移動電話に対して既に開発されたアプリケーションのベースを十分広げながら大容量装置の機能のバーを上げる。JTWIの利点は、以下のものを含む。
・ 相互運用性:この目的は、アプリケーション開発者に予測可能な環境を提供するとともに装置製造者に提供可能な機能のセットを提供することである。JTWI基準を採用することによって、製造者は、広範囲の互換性のあるアプリケーションから大きな利益を得るとともに、ソフトウェア開発者は、アプリケーションをサポートする広範囲の装置から大きな利益を得る。
・ セキュリティ仕様の説明:JSR185仕様は、MIDP2.0仕様で規定された「GSM/UMTS適合装置に対して推奨されたセキュリティポリシー」に対して信頼性のないアプリケーションの複数の説明を導入する。それは、MIDP2.0で規定したベースMIDlletスイートセキュリティフレームワークを与える。
・ ロードマップ:JTWI仕様の主要な特徴はロードマップであり、それは、ソフトウェア開発者がJTWI適合装置で予測することができる共通機能の概要である。2003年1月において、一連のロードマップが6〜9ヶ月間隔で出現すると予測され、これは、移動電話の展開に一致する他の機能を説明する。ロードマップによって、全ての関係者は更に信頼性のある将来を計画することができ、キャリアは、アプリケーションデプロイ手法を更に良好に計画することができ、装置製造者は、製造計画を更に良好に決定することができ、コンテンツ開発者は、アプリケーション開発の努力の跡を更に明確に見ることができる。特に、キャリアは、内在する無線/ネットワーク機能をウイルス、ワーム及び現在公衆のインターネットにはびこる(plaque)他の「攻撃」のようなセキュリティ破壊を除去/防止するためにJava(登録商標)VMに依存する。
本発明の態様によれば、既に説明したイメージングアプリケーションを、全てのJava(登録商標)可能なハンドセット間の「一度書けばどこででも走る」ポータビリティ、ウイルス、ワーム及び他の移動ネットワークセキュリティ「攻撃」に対するJAVA(登録商標)VMセキュリティ及びハンドセット/ネットワークロバストネス、並びに簡単化したOTAコーデックダウンロード手順を許容するためにJava(登録商標)に基づく。他の態様によれば、Java(登録商標)に基づくイメージングアプリケーションは、JTWI仕様JST−135(「移動メディアAPI」)及びJSR−234(「向上したマルチメディア補助」)に従う。
デプロイされたビデオモニタリングアプリケーション及び異種ネットワークは、現在のビデオ圧縮技術の制限が課される。それに対して、そのようなビデオアプリケーションモニタリング及びサービスは、ビデオをVGAやD1のような業務用の品質の放送−30フレーム/秒の全サイズ画像フォーマットとして取り扱う市場で開始されている。それに対して、元々放送アプリケーション及びストリーミングアプリケーションに対して開発された現存するビデオ技術を用いる大容量のデータの処理は、移動ハンドセット410におけるリアルタイムのビデオ取得(符号化)に対して利用できる演算リソース及びバッテリ電力を超える。放送アプリケーション及びストリーミングアプリケーションは、スタジオ環境のビデオコンテンツの符号化に依存し、この場合、非常に複雑なエンコーダをコンピュータワークステーション上で実行することができる。ビデオメッセージをハンドセットそれ自体でリアルタイムに取得する必要があるので、ビデオメッセージは、非常に小さいサイズ及び非常に低いフレーム速度に制限される。
その結果、今日のモバイルビデオイメージングサービスは未発達である。画像は、機能をビデオホンに置き換えると加入者がデジタルカムコーダから予測される場合に比べて小さく(≦CIF)及び途切れがち(≦15fsp)である。今日移動加入者に提供される未発達なビデオ画像品質は、産業のライフスタイルの広告において形成される鮮明な高精彩ビデオにはるかに及ばない。移動加入者は、カムコーダホン及び関連のモバイルビデオメッセージングサービスを採用するとともに特別な支払いを行う前に(カムコーダのような)十分なVGA160,30fpsパフォーマンスを要求する。不安定な2.5G及び3Gビジネスモデルによって、無線オペレータは、上記問題に対する実現可能な解決をしきりに求めている。
非常に高価で時間を浪費する開発プログラムの後でさえも、競合するビデオコーデックプロバイダは、VGA130及び30fpsのパフォーマンスに対して複雑なハイブリッドソフトウェアコーデック及びハードウェアアクセラレータの解決しか提供できないままであり、全体的なコスト及び電力消費は、市販の要求及び技術能力をはるかに超えている。したがって、ハンドセットは、小さい途切れがちな画像又は高価な小電力のアーキテクチャに制限される。サービス展開は非常に高価なものとなり、サービスの品質は非常に低いため、大量市場は不可能である。
MMSCインフラストラクチャ420のアップグレーデングも、新たなハードウェアが要求される場合にはコストが高くなる。全ソフトウェアASPプラットホームは、ハンドセットの自動的なOTAアップグレード及びMMSC420のビデオゲートウェイ422のOTNアップグレードを可能にするために好適である。
向上したウェーブレットに基づく画像処理
本発明の一態様によれば、DCTに基づくコーデック1020ように演算の複雑さが著しく少ないビデオ圧縮/圧縮解除(コーデック)装置1010を設計するために3次元ウェーブレット変換を用いることができる(図5参照)。色復元及び復調1030、メモリ1050、動き予測1060、時間変換1070、並びに量子化、レート制御及びエントロピー符号化1080のような処理に用いられる処理リソースを、本発明の態様による3次元ウェーブレットコーデックを用いることによって著しく減少することができる。ウェーブレット変換段のアプリケーションによって、演算の複雑さが非常に少ない量子化段及びエントロピー符号化段の設計を可能にする。モバイルイメージングアプリケーション、装置及びサービスに対して開発された本発明の態様による3次元ウェーブレットコーデック1010の他の利点は、以下の通りである。
・ 対称な複雑さの少ないビデオ符号化及び復号
・ ソフトウェア及びハードウェアコーデックの実現に対する低いプロセッサ電力の要求
・ 現存する市販の移動ハンドセットとの互換性を有するプロセッサ要求を有する30fps(又はそれ以上の)フレーム速度のVGA(又はそれ以上の)ビデオの本来のコード及びJava(登録商標)アプリケーションとしての全ソフトウェア符号化及び復号
・ SoC統合に対する低いゲートカウントASICコア
・ 低いバッファメモリ要求
・ 静止画像(〜JPEG)及びビデオ(〜MPEG)の単一コーデックでのサポート
・ 短い画像群(GOP)による簡単なビデオ編集(カット、挿入、テキストオーバーレイ)
・ 短いGOPによる簡単な音声コーデックの同期
・ 短いGOPによる、強められたビデオストリーミングに対する短いレイテンシー
・ 適合性レート制御、マルチキャスティング及びジョイントソース−チャネルコーディングに対する高精度の拡張性
・ HDTVビデオフォーマットを現すための複雑さの少ないパフォーマンススケーリング
本発明の態様によれば、上記利点を、以下のような技術の特有の組合せによって達成する。
リフティング構造において短い2進整数のフィルタ係数を用いるウェーブレット変換、例えば、ハール、2−6及び5−3ウェーブレット並びにその変更を用いることができる。これらは、加算、減算及び小さい固定シフトのみを使用し、乗算又は浮動小数点操作を必要としない。
リフティング形態演算:上記フィルタを、インプレース演算を行うことができるリフティング形態を用いて好適に演算することができる。リフティング形態の完全な説明を、Sweldens, Wim, The Lifting Scheme: A costom-design construction of biorthogonal wavelets. Appl. Comput. Harmon. Anal. 3(2): 186-200, 1996で見つけることができ、参照することによってここに組み込む。このアプリケーションでリフティング形態を実現すると、レジスタの使用及び一時的なRAM配置を最小にし、キャッシュを非常に有効に用いるための局所的な基準を保持する。
カスタマイズされたピラミッド構造を有するピラミッド形態のウェーブレット変換:ウェーブレット変換シーケンスの各レベルを、以前のウェーブレットレベルに起因するデータの半分で好適に演算することができ、したがって、全体の演算は、レベル数にほとんど依存しない。上記リフティング形態の利点を利用するとともにレジスタの使用及びキャッシュメモリのバンド幅を節約するためにピラミッドをカスタマイズすることができる。
ブロック構造:大抵のウェーブレット圧縮の実現に対して、画像を好適に矩形ブロックに分割することができ、各ブロックは、互いに個別に処理される。これによって、メモリ基準を局所的に保持することができ、全体の変換ピラミッドを、プロセッサキャッシュに存在したままであるデータを用いて処理することができ、大抵のプロセッサ内での多くのデータ移動を省略することができる。ブロック構造は、信号フロー中の多くの中間記憶量の要求を回避するのでハードウェアの実現において特に重要である。
ブロック境界フィルタ:2003年4月17日に出願されるとともに2003/0198395として公開された発明の名称が「ウェーブレット変換装置、方法及びコンピュータプログラム」である出願人の米国特許出願第10/418,363号明細書に記載されたように、変更されたフィルタ演算を、先鋭なアーティファクトを回避するために各ブロックの境界で好適に用いられ、参照によって全体がここに組み込まれる。
色度の一時的な除去:所定の実施の形態において、各フィールドに対する色度差信号の処理を回避することができ、代わりにGOPに対する色度の単一フィールドを用いる。これは、2003年5月28日に出願されるとともに2003/0235340として公開された発明の名称が「色度の一時的な速度減少並びに高品質休止装置及び方法」である出願人の米国特許出願第10/447,514号明細書に記載されており、この明細書は、参照によって全体がここに組み込まれる。
3次元ウェーブレットを用いる一時的な圧縮:所定の実施の形態において、MPEGのような従来の圧縮方法の非常に演算量の多い動き探索操作及び動き保証操作を用いない。代わりに、フィールド間の時間ウェーブレット変換を演算することができる。これは、演算量が著しく少ない。ここでは、リフティング形態を有する短い整数不利田の使用も公的である。
2進量子化:所定の実施の形態において、圧縮処理の量子化ステップを、係数位置の範囲全体に亘る一様な2進シフト動作を用いて完了する。これは、従来の量子化によって要求されるサンプルごとの乗算又は除算を回避する。
ピリング:所定の実施の形態において、エントロピーコーダによって処理されるデータ量は、最初に零の実行(run-of-zero)変換を行うことによって減少する。好適には、203年5月28日に出願されるとともに2003/0229773として公開された発明の名称が「パイル処理システム及び並列プロセッサ用の方法」である出願人の米国特許出願第10/447,455号に記載されたような並列処理アーキテクチャ上の零の実行を計数する方法を使用し、この明細書は、参照することによってここに組み込まれる。大抵の現在の処理プラットホームは、このようにして利用することができる並列機能を有する。
サイクル−有効エントロピー符号化:所定の実施の形態において、圧縮プロセスのエントロピー符号化ステップを、従来のルックアップテーブルを入力シンボルの直接の演算に組み合わせる技術を用いて行う。ソース静止画像又はビデオのシンボル分布を特徴付けることによって、そのような簡単なエントロピーコーダがGolomb-Riceコーダ, exp-Golombコーダ又は2進モノトニックコーダとして用いられる。エントロピーコーダの選択の詳細はしばしば、プロセッサプラットホーム機能に応じて変化する。Golomb-Riceコーダ及びexp-Golumbコーダの詳細は、Golomb, S.W.(1996), “Run-length encodings”, IEEE Transactions on Information Tehory, IT--12(3):399-401; R.F. Rice, “Some Practical Universal Noiseless Coding techniques,” Jet Propulsion Laboratory, Pasadena, California, JPL Publication 79-22, Mar. 1979及び(用語”exp-Golomb”が導入された)J. Teuhola, “A Compression Method for Clustered Bit-Vectors”, Information Processing Letters, Vol. 7, pp. 308-311, October 1978に記載されている。2進モノトニックコーダは、2005年1月25日に発行された発明の名称が「2進モノトニック(DM)コーデックのシステム及び方法」である出願人の米国特許第6,847,317号記載されている。上記文献の各々は、参照によって全体がここに組み込まれる。
レート制御
圧縮量、生成した出力ビットレートを調整する方法の一つは、演算の量子化段階で処分される情報量を変更することである。量子化は、予め選択された番号である「量子化パラメータ」によって各係数を乗算するとともに除算の余りを処分することによって通常通りに行われる。したがって、係数値の範囲は、同一の値すなわち除算の商によって表される。
圧縮画像又はGOPが圧縮解除されると、逆量子化処理工程によって、商に(既知の)量子化パラメータが乗算される。これによって、更なる計算のために係数を元の大きさの範囲に復元する。
しかしながら、除算(すなわち実質的には乗算)は、消費される電力及び時間に関して多数の実現の際にハードウェアコストが高くなる。量子化動作は、各係数に適用され、通常、入力画素と同数の係数が存在する。
他の方法において、除算(すなわち乗算)の代わりに、量子化を2の乗数の除数に制限する。これは、2進数のビットシフト動作によって実現できるという利点を有する。シフトは、多数の実現において非常に廉価な動作となる。一例は、集積回路(FPGA又はASIC)である。乗算回路は非常に大きいが、シフト回路は著しく小さい。また、多数のコンピュータにおいて、乗算は、シフト動作と比べた場合、完了するのに長時間を要し又は実行の際に並列処理が少なくなる。
シフト動作による量子化が演算の際に非常に有効であるが、一部の目的に対して不都合を有する。シフト動作による量子化は、圧縮レート(出力ビットレート)の粗い調整しか行うことができない。本発明の態様によれば、あり得る最小量+1又は−1による量子化シフトパラメータの変更によって結果として生じるビットレートの変化が2方向になることが観察される。これは、圧縮の一部のアプリケーションにおいて許容される。他のアプリケーションにおいて、更に精密なレート制御が要求される。
シフト量子化の効率を維持しながら既に説明した従来の粗い制御の問題を克服するために、量子化を一般化する。既に説明したような各係数に対する単一のシフトパラメータを用いる代わりに、個別の零の実行圧縮記憶領域又はパイルに適用される個別のシフトパラメータを提供する。そのような領域又はパイルの各々に対するパラメータは、圧縮出力ファイルに記録される。パイルは、圧縮された零(又は他の共通値)のシーケンスをデータに示すデータ記憶構造である。サブバンドは、個別のパイル又は記憶領域を具えることができる。パイル又は記憶領域が複数の個別のサブバンドを具えることもできる。
この解決は、全ての係数に対して一様に適用された量子化パラメータによる最も近い二つのレート間の有効ビットレートの範囲を許容する。例えば、一つのサブバンド(サブバンドx)以外の全てのサブバンドが同一の量子化パラメータQを用いるとともに一つのサブバンド(サブバンドx)がQ+1を用いる場合を考える。量子化ステップから結果的に生じる全体に亘るビットレートは、量子化の際に全てのサブバンドに対してQを用いる場合に比べて減少するが、全てのサブバンドに対してQ+1を用いた場合のような量にはならない。これは、Q又はQ+1の一様なアプリケーションによって達成されるビットレートの中間のビットレートを提供し、更に密な圧縮の制御を行う。
演算効率は、純粋なシフト量子化とほぼ同一になる。その理由は、典型的には各係数に適用される動作がシフトであるからである。あらゆる数のサブバンドを用いることができる。4〜100個のサブバンドが典型的である。32個が最も典型的である。レート制御の他の情報は、2005年9月20日に出願された発明の名称が「可変サブバンド処理を伴う圧縮レート制御装置及び方法」(代理人整理番号74189−200301/US)である出願人の米国出願第 号明細書において提供され、参照によって全体をここに組み込む。
向上した適合性ジョイントソース−チャネルコーディング
図11を参照すると、既に説明した向上したウェーブレットに基づくコーディクの精密な拡張性によって、向上した適合性レート制御、マルチキャスティング及びジョイントソース−チャネルコーディングが可能になる。向上したウェーブレットアルゴリズムの演算の複雑さの減少及び高い演算効率によって、生構成されたビデオ信号1190の品質(ビデオレート対歪み)に影響を及ぼす瞬時の平均圧縮レートの制御を最大にするために、瞬時の予測されるチャネルバンド幅及び誤り状態の情報をソースコーダ1120、チャネルコーダ1130及びレートコントローラ1140の三つ全てで利用できる(図11参照)。例えば、(図8に示す)移動装置810とセルラ送信タワー812との間の利用できる送信バンド幅は、特定の時間にタワー812にアクセスするユーザの数に基づいて変化することができる。同様に、移動電話810とタワー812との間の送信の品質(すなわち、誤り率)は、電話810とタワー812との間の距離及び障害物に基づいて変化することができる。現在利用できるバンド幅及び誤り率の情報を、電話810によって受信するとともに、それに応じて圧縮率を調整するのに用いることができる。例えば、バンド幅が小さくなり及び/又は誤り率が上昇するとき、全体の圧縮信号をリアルタイムで送信できるように圧縮率(したがって、関連の再生された画像品質)を減少することができる。それに対して、バンド幅が広がり及び/又は誤り率が減少すると、更に高い品質の画像を送信できるように圧縮率を減少する。このフィードバックに基づいて、圧縮率を、ソースエンコーダ1120、チャネルエンコーダ1130若しくはレートコントローラ1140のいずれかでのリアルタイム処理変更、又はこれらの構成要素の組合せに対する変更を行うことによって調整することができる。
割合変化増分の例を、1〜5%,1〜10%,1〜15%,1〜25%及び1〜40%とする。
向上した適合性ジョイントソース−チャネルコーディング技術によって、無線キャリア及びMMSサービスプロバイダは、顧客及び企業顧客に対して更に広い範囲のサービスの品質(QoS)パフォーマンス及び価格水準を提供することができる。更に高い演算効率のアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングを用いることによって、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関して著しく高いレベルのネットワークハイブリッドをサポートすることができる。
向上したビデオモニタリングカメラアーキテクチャ
図12は、同様な参照番号を付した図5と同様な構成要素を有する本発明の態様による向上したビデオモニタリングカメラアーキテクチャ1210を示す。図示したように、イメージングアプリケーションを、RISCプロセッサ126又はDSP上でネイティブコード又はJava(登録商標)アプリケーションとして実行する全ソフトウェアアプリケーションとして実現することができる。Java(登録商標)コード動作のアクセラレーションを、RISCプロセッサ1226それ自体の内部又は個別のJava(登録商標)アクセラレータICを用いて実現することができる。そのようなJava(登録商標)アクセラレータを、スタンドアローンICとして実現することができ、又はこのICをSIP又はSoCの他の機能と統合することができる。
図12に示す向上したデジタルビデオモニタリングカメラアーキテクチャは、ビデオコーディク及びイメージングアプリケーションに対する演算及びバッファメモリ1228の要求を大幅に減少し、静止画像とビデオの両方の処理をサポートし、対応するビデオ処理及び分析アプリケーションの複雑さを減少することができ、そのようなアプリケーションをネットワークカメラで利用できる制限された演算リソースを用いてビデオコーデックに統合することができ、かつ、更に広い異なる範囲のネットワークアーキテクチャ1232及びインフラストラクチャ設備上の接続性のサポートの際の適合ジョイントソース−チャネルコーディングを可能にする。
向上した無線ビデオモニタリング装置プラットホームアーキテクチャ
図13は、向上したモバイルイメージングハンドセットプラットホームアーキテクチャを示す。図示したように、イメージングアプリケーションを、ネイティブコードとして又はRISCプロセッサ1324のJava(登録商標)アプリケーションとして実行する全ソフトウェアプリケーションとして実現することができる。Java(登録商標)コード動作のアクセラレーションを、RISCプロセッサ1324それ自体の中で又は個別のJava(登録商標)アクセラレータIC1332を用いて実現することができる。そのようなJava(登録商標)アクセラレータ1332を、スタンドアローンICとして実現することができ、又はこのICをSIP又はSoCの他の機能と統合することができる。
図13に示す向上したデジタルビデオモニタリングカメラアーキテクチャは、ビデオコーディク及びイメージングアプリケーションに対する演算及びバッファメモリ1314の要求を大幅に減少し、静止画像とビデオの両方の処理をサポートし、対応するビデオ処理及び分析アプリケーションの複雑さを減少することができ、そのようなアプリケーションをネットワークカメラで利用できる制限された演算リソースを用いてビデオコーデックに統合することができ、かつ、更に広い異なる範囲のネットワークアーキテクチャ1232及びインフラストラクチャ設備上の接続性のサポートの際の適合ジョイントソース−チャネルコーディングを可能にする。
向上したビデオモニタリングシステムアーキテクチャ
図14は、統合されたウェーブレットに基づくコーデック、イメージングアプリケーション及びジョイントソース−チャネルコーディングを有するデジタルネットワークカメラ1410を用いる向上したビデオモニタリングシステムを示す。このアーキテクチャによって、ビデオモニタリングネットワークオペレータは、新しく、更に柔軟性があり、コストが低く、かつ、高速であるデジタルネットワーク送信、記憶及び処理技術を利用することができる。
図15は、外部ウェーブレットに基づくコーデック、イメージングアプリケーション、ジョイントソース−チャネルコーディングを有するアナログカメラ1510を用いる向上したビデオモニタリングシステムを示す。このアーキテクチャによって、モニタリングネットワークオペレータは、アナログCCTVカメラを用いるレガシービデオモニタリングシステムをアップグレードすることができる。
図16は、統合されたウェーブレットに基づくコーデック、イメージングアプリケーション及びジョイントソース−チャネルコーディングを有するビデオ可能あな無線装置1610を用いる向上したビデオモニタリングシステムアーキテクチャを示す。このアーキテクチャによって、ビデオネットワークオペレータは、ビデオモニタリングネットワークに接続された無線装置上のビデオのリアルタイムの取得、記憶、表示、送信、受信、処理及び分析が可能である。
三つ全ての上記アーキテクチャによって、高品質のデジタルビデオ及び画像の配送を、低コスト、少ない複雑性及び減少したサービスデプロイコストのカメラによって可能にするとともに、更に異なる範囲のネットワークアーキテクチャ及びインフラストラクチャ装置上での動作を可能にする。
向上したモバイルイメージングサービスプラットホームアーキテクチャ
図17を参照すると、向上したモバイルイメージングサービスプラットホームアーキテクチャの主要構成要素は、以下のものを有する。
・ 移動ハンドセット1710
・ 移動基地局(BST)1712
・ 基地局コントローラ/無線ネットワークコントローラ(BRC/RNC)1714
・ 移動通信交換機(MSC)1716
・ ゲートウェイサービスノード(GSN)1718
・ 移動マルチメディアサービスコントローラ(MMSC)1720
・ イメージングサービスダウンロードサーバ1721
MMSC(図17参照)に含まれる典型的な機能は、以下のもの有することができる。
・ ビデオゲートウェイ1722
・ 通信接続サーバ1724
・ MMSアプリケーションサーバ1726
・ 記憶サーバ1728
向上したイメージングサービスプラットホームの配置に含まれるステップは、以下の通りである。
ステップ1
配置されたビデオゲートウェイ1722を更新するためにビデオゲートウェイトランスコーダアプリケーション1730を利用できるネットワークに信号送信する。換言すれば、新たなトランスコーダソフトウェア1730が利用できるとき、ダウンロードサーバ1721は、このように利用できるネットアーク上のビデオゲートウェイ1722に信号送信する。
ステップ2
自動的なOTN1732の配置を通じて又はマニュアル手順を通じてビデオゲートウェイトランスコーダソフトウェアアプリケーション1730をインストールし及び設定する。
ステップ3
モバイルビデオイメージングアプリケーション1734(例えば、更新されたビデオコーデック)がダウンロード及びインストールに利用できる加入者ハンドセットに信号送信する。
ステップ4
加入者によって許容されるとともにトランザクション設定が成功のうちに完了した場合、モバイルビデオイメージングアプリケーション1734をOTA1736手順を通じて移動ハンドセット810にダウンロードし及びインストールする。
ステップ5
ハンドセットアップグレードが完了したネットワークに信号送信する。サービス及び関連のアプリケーションを有効にする。モバイルビデオイメージングアプリケーションに対する新たな課金を反映するために加入者の月ごとの請求書の控えを更新する。
全ソフトウェアウェーブレットに基づくビデオコーデック及びイメージングアプリケーション、ジョイントソース−チャネルコーディング、ネットワークカメラアーキテクチャ並びに無線ハンドセットアーキテクチャを、上記無線ビデオモニタリングサービスプラットホームアーキテクチャで組み合わせて、低コストかつ低い複雑性のネットワークカメラを用いて高デジタルビデオ画像品質を提供し、OTA/OTNデプロイを通じたサービスデプロイの複雑さ、リスク及びコストを減少し、かつ、非常に異なる範囲のネットワークアーキテクチャ及びインフラストラクチャ装置上の動作を可能にする。
向上したビデオモニタリング/メッセージングアプリケーション及びサービス
既に説明した向上したウェーブレットに基づくビデオコーデック及びイメージングアプリケーション、ジョイントソース−チャネルコーディング、ネットワークカメラアーキテクチャ、無線ハンドセットアーキテクチャ、ビデオモニタリングネットワークアーキテクチャ並びに無線ビデオモニタリングサービスプラットホームアーキテクチャは、以下に説明するような向上したビデオモニタリング及びビデオメッセージングアプリケーションのデプロイを可能にする。
1.以下のモジュールを有するがそれに限定されないマルチメディアメッセージング
・ 向上したウェーブレット圧縮イメージ及びビデオを1メッセージで音声及びテキストに統合するMMSコンポーザ
・ モバイルメディアアルバム:ウェーブレット圧縮画像、ビデオ及び統合MMSメッセージの収納
・ モバイルメディアボックス:MMSイン及びアウトボックス
・ モバイルメディアプレーヤ:ウェーブレット圧縮画像、ビデオ及び統合MMSメッセージのプレビュー
・ 加入管理:購入のコピー/転送及び更なる記憶
・ アドレスブック:コンタクト管理
・ ピクチャエディタ:ツール及びフィルタを用いたウェーブレット圧縮画像、ビデオ及び統合MMSメッセージのオンザフライ編集
・ マルチメディア着信音コンポーザ:音声をウェーブレット圧縮画像及びビデオに結合する多声着信音の形成
2.コンテンツ配送プラットホーム(図22参照):以下の特徴を有するがそれに限定されないウェーブレット圧縮画像、ビデオ及び統合MMSメッセージの管理及び配送
・ 中央のコンテンツ記憶
・ ダイナミックフロントエンドレンダリング
・ マルチメディアポータルのサポート
・ ウェブ、WAP及びPDAに基づくブラウザのサポート
・ プレミアムSMSサポート
・ SMS,MMS,WAPプッシュ、OMAダウンロード及びJ2MEダウンロードを用いたマルチ配送チャネルのサポート
・ 装置マッピングに対するコンテンツ
・ 装置管理サービス
・ コンテンツトランスコーディング
・ デジタル著作権管理(DRM)保護
・ アプリケーションサービスプロバイダ(ASP)ビジネスモデルを通じたプラットホーム配送
パフォーマンス
ここで説明した向上したウェーブレットに基づくビデオコーデック及びイメージングアプリケーション、ジョイントソース−チャネルコーディング、ネットワークカメラアーキテクチャ、無線ハンドセットアーキテクチャ、ビデオモニタリングネットワークアーキテクチャ、無線ビデオモニタリングサービスプラットホームアーキテクチャ並びにビデオメッセージング/モニタリングアプリケーション及びサービスは、低コストかつ複雑でないネットワークカメラ及び無線装置を用いた高品質のデジタルビデオ及び画像の配送、サービスデプロイコストの減少、並びに非常に異なる範囲のネットワークアーキテクチャ及びインフラストラクチャ装置上での動作の目的を達成する。
エンハンスメント
図19を参照すると、モバイルイメージングハンドセットのアーキテクチャに対するエンハンスメントとして、一部の実施の形態において、全ソフトウェアウェーブレットに基づくイメージングアプリケーションに対する複数の実現オプションを考察することができる。イメージングアプリケーションを、OTAダウンロードを通じてカメラ又はハンドセットのベースバンドマルチメディア処理部、取外し可能な記憶装置、画像モジュール又は他のロケーションにインストールすることができる。所望の場合には、イメージングアプリケーションを、製造中又は売り渡し時点でカメラ又はハンドセットのベースバンドマルチメディア処理部、取外し可能な記憶装置、画像モジュール又は他のロケーションにインストールすることもできる。移動装置アーキテクチャの進化に従って他の実現オプションも可能である。
ネットワークカメラ又はモバイルイメージングハンドセットのパフォーマンスを更に向上することができ、移動装置の演算ハードウェア(ASIC,DSP,RPD)及び集積技術(SoC,SIP)の継続中の進歩に合わせるために、ハードウェアに基づく処理リソースを通じて一部の演算素子をアクセラレートすることによってコスト及び消費電力を更に減少することができる。複数の全ハードウェアオプションを、ハンドセットのベースバンドマルチメディア処理部、取外し可能な記憶装置又は画像モジュールを含むこれらハードウェアに基づく処理リソースをハンドセットに統合する際に考察することができる(図20参照)。
図21に示すように、イメージングアプリケーションに対するハイブリッドアーキテクチャは、一部の集中的に演算を行う機能、繰返し機能及び固定された機能をハードウェアで実現することによって、かつ、製造後の変更が所望され又は必要とされるこれらの機能をソフトウェアで実現することによってエンハンスメントを提供することができる。
利点
ここで説明した向上したウェーブレットに基づくビデオコーデック及びイメージングアプリケーション、ジョイントソース−チャネルコーディング、ネットワークカメラアーキテクチャ、無線ハンドセットアーキテクチャ、ビデオモニタリングネットワークアーキテクチャ、無線ビデオモニタリングサービスプラットホームアーキテクチャ並びにビデオメッセージング/モニタリングアプリケーション及びサービスは、個別に又は組み合わせて低コストかつ複雑でないネットワークカメラ及び無線装置を用いた高品質のデジタルビデオ及び画像を配送し、OTA/OTNデプロイを通じたサービスデプロイの複雑さ、リスク及びコストを減少し、かつ、非常に異なる範囲のネットワークアーキテクチャ及びインフラストラクチャ装置上での動作を可能にする。
本発明の態様による所定のビデオコーディクを用いるとき、所定の圧縮ビデオを表すデータを、通信ネットワーク上でMMSCに送信することができ、データを、圧縮ビデオ用のデコーダに帰属させることができる。本発明の態様によるこのようなやり方において、MMSCに入力されるビデオデータをトランスコード処理する必要があるビデオゲートウェイを完全に又はある程度排除することができる。これは、ある程度容易である。その理由は、各圧縮ビデオセグメントがそれ自体の帰属するデコーダを有することができるので、MMSCは、受信無線装置によって特定されたビデオフォーマットに対してビデオフォーマットをトランスコード処理する必要がないからである。代わりに、受信無線装置、例えば、1710は、デコーダに帰属する圧縮ビデオを受信するとともに、受信装置1710のプラットホームで簡単にビデオを再生することができる。これによって、MMSCの構造及びその動作の効率を大幅に増大するとともにコストを大幅に削減する。
本発明の他の態様によれば、処理されるビデオ上で他のビデオ処理機能を達成するようウェーブレット処理を設計することができる。例えば、色空間変換機能、白黒バランス機能、画像の安定機能、デジタルズーム機能、輝度制御機能、サイズ調整機能及び他の機能を達成するようウェーブレット処理を設計することができる。
本発明の態様の他の利点は、達成される音声同期の大幅な向上にある。本発明の実施の形態によって、音声がビデオの一つおきのフレームに対して同期がとられる。比較すると、MPEG4は、15フレームごとに音声の同期がとられる。この結果、特に、移動ネットワーク上で通常生じるような不完全なビデオの送信が行われるときにビデオに対する音声の非同期が顕著になる。さらに、ビデオがMMSCで実現されるときにビデオの一つおきのフレームの各々に対して同期をとることによって、自動的又は遠隔で可能なビデオ編集のようなプログラム中で行うことができるMMSCにおける有効かつ予測されるビデオの編集が行われる。さらに、本発明の態様によれば、現在の符号化技術によって、発生し及び圧縮されたビデオにメタデータを非常に大量に又は非常に簡単にはめ込むことができる。そのようなメタデータは、特に、時間、(移動ハンドセットの位置から認識されるような)ビデオの取得位置及び撮影を行うユーザを有することができる。さらに、本発明の所定の実施の形態においてビデオの一つごとのフレームに基準フレームが存在するので、MPEG4圧縮ビデオにおいてビデオの15フレームごとに基準フレームが存在する場合に比べると、本発明の実施の形態は、非常に有効なビデオのサーチ及びビデオの編集を行うとともに、非常に向上したオーディオの同期を行う。
結論
向上したウェーブレットに基づくビデオコーデック及びイメージングアプリケーション、ジョイントソース−チャネルコーディング、ネットワークカメラアーキテクチャ、無線ハンドセットアーキテクチャ、ビデオモニタリングネットワークアーキテクチャ、無線ビデオモニタリング/メッセージングサービスプラットホームアーキテクチャ、並びにビデオメッセージング/モニタリングアプリケーション及びサービスが、本発明の種々の態様によって設けられる。これらの向上は、小売業、銀行、学校、企業、官庁、空港、運輸業、軍事施設及び他の多数の組織に対する高品質のスチル及びビデオモニタリングアプリケーション及びサービスの提供に関連した技術的な複雑さ及びコストの大幅な低減に組み合わされる。
向上した適合性ジョイントソース−チャネルコーディング技術は、顧客及び企業顧客に対して幅広い範囲のサービスの品質(QoS)パフォーマンス及び価格水準を提供する無線キャリア及びMMSサービスプロバイダの能力であり、これによって、無線ネットワークインフラストラクチャを用いて発生した収入を最大にする。高い演算効率を有するアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングによって、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関して非常に高いレベルのネットワークハイブリッドをサポートすることができる。
これまで本発明の好適な実施の形態を説明したが、種々の変形、変更及び均等物を用いることができる。従って、上記記載は、添付した特許請求の範囲によって規定される本発明の範囲を制限するものと考えるべきでない。
アナログCCTVカメラを用いるビデオモニタリングシステムのアーキテクチャを示す。 デジタルビデオカメラ及びIPネットワークを用いるビデオモニタリングシステムのアーキテクチャを示す。 外部デジタルビデオコーデック及びIPネットワークインタフェースを有するアナログカメラを用いるビデオモニタリングシステムのアーキテクチャを示す。 統合されたビデオ表示能力を有する無線装置を用いるデジタルビデオモニタリングシステムのアーキテクチャを示す。 統合されたIPネットワークインタフェースを有するデジタルモニタリングカメラのアーキテクチャを示す。 共通のビデオ表示フォーマット間の物理的な表示サイズ及び解像度の差を示す。 モバイルイメージングハンドセットアーキテクチャを示す。 モバイルイメージングサービスプラットホームアーキテクチャを示す。 ジョイントソース−チャネルコーディングのシステムを線形的に示す。 DCTエンコーダと本発明の向上したウェーブレットエンコーダとの間の処理リソースの差の比較を示す。 ジョイントソース−チャネルコーディングの向上したシステムを線形的に示す。 統合されたIPネットワークインタフェースを有するデジタルモニタリングカメラの向上したモバイルイメージングハンドセットを示す。 向上したモバイルイメージングハンドセットプラットホームアーキテクチャを示す。 統合されたウェーブレットに基づくコーディク、イメージングアプリケーション及び結合ソース−チャネルコーディングを有するデジタルネットワークカメラを用いる向上したビデオモニタリングシステムアーキテクチャを示す。 統合されたウェーブレットに基づくコーディク、イメージングアプリケーション及び結合ソース−チャネルコーディングを有するアナログネットワークカメラを用いる向上したビデオモニタリングシステムアーキテクチャを示す。 統合されたウェーブレットに基づくコーディク、イメージングアプリケーション及び結合ソース−チャネルコーディングを有するビデオ可能な無線装置を用いる向上したビデオモニタリングシステムアーキテクチャを示す。 統合されたウェーブレットに基づくコーディク、イメージングアプリケーション及び結合ソース−チャネルコーディングを有するビデオ可能な無線装置を用いる向上したモバイルイメージングサービスプラットホームアーキテクチャを示す。 デプロイされたマルチメディアメッセージングサービスコントローラビデオゲートウェイのネットワーク越えアーキテクチャを示す。 ネットワークカメラ又は無線ハンドセットのソフトウェアイメージングアプリケーションの実現オプションを示す。 ネットワークカメラ又は無線ハンドセットのハードウェアアクセラレーションイメージングアプリケーションを示す。 ネットワークカメラ又は無線ハンドセットのハイブリッドハードウェアアクセラレーション及びソフトウェアイメージングアプリケーションを示す。 ウェーブレット圧縮画像、ビデオ及び統合されたマルチメディアメッセージングサービスメッセージの管理及び配送を行うとともにマルチメディアメッセージングアルバムアプリケーションを設けた向上したコンテンツ配送プラットホームを示す。

Claims (20)

  1. イメージングサービスプラットホームをデプロイする方法であって、
    ネットワークに接続されたダウンロードサーバにトランスコーダアプリケーションを設けるステップと、
    前記トランスコーダアプリケーションがデプロイに利用できるネットワークに、信号送信を行うステップと、
    前記トランスコーダアプリケーションを、前記ネットワークを通じて前記ダウンロードサーバから前記ネットワーク上のビデオゲートウェイにデプロイするステップとを具える方法。
  2. 請求項1記載の方法において、前記ビデオゲートウェイにデプロイされた前記トランスコーダアプリケーションを自動的にインストールするステップを更に具えることを特徴とする方法。
  3. 請求項2記載の方法において、インストールされた前記ビデオゲートウェイの前記トランスコーダアプリケーションを自動的に設定するステップを更に具えることを特徴とする方法。
  4. 請求項1記載の方法において、前記ビデオゲートウェイにデプロイされた前記トランスコーダアプリケーションを手動でインストールするステップを更に具えることを特徴とする方法。
  5. 請求項4記載の方法において、インストールされた前記ビデオゲートウェイの前記トランスコーダアプリケーションを自動的に設定するステップを更に具えることを特徴とする方法。
  6. 請求項4記載の方法において、前記ネットワークに信号送信を行うステップが、デプロイに利用できる前記トランザクションが更新されたバージョンである表示を具えることを特徴とする方法。
  7. イメージングサービスプラットホームをデプロイする方法であって、
    ネットワークに接続されたダウンロードサーバにモバイルビデオイメージングアプリケーションを設けるステップと、
    前記モバイルビデオイメージングアプリケーションがデプロイに利用できるネットワークに接続されたビデオ可能な装置に、信号送信を行うステップと、
    前記モバイルビデオイメージングアプリケーションを、前記ネットワークを通じて前記ダウンロードサーバから前記ビデオ可能な装置にデプロイするステップとを具える方法。
  8. 請求項7記載の方法において、前記ビデオ可能な装置を電話ハンドセットとすることを特徴とする方法。
  9. 請求項8記載の方法において、前記ハンドセットが前記ネットワークと無線通信を行うことを特徴とする方法。
  10. 請求項7記載の方法において、前記ビデオ可能な装置をデジタルモニタリングカメラとすることを特徴とする方法。
  11. 請求項10記載の方法において、前記カメラが前記ネットワークと無線通信を行うことを特徴とする方法。
  12. 請求項7記載の方法において、前記ビデオ可能な装置に信号送信を行うステップが、前記モバイルビデオイメージングアプリケーションがデプロイに利用できることを前記装置のユーザに信号送信することを具えることを特徴とする方法。
  13. 請求項7記載の方法において、前記ビデオ可能な装置に信号送信を行うステップが、装置のみに信号送信を行うが前記装置のユーザに信号送信を行わないことを具えることを特徴とする方法。
  14. 請求項7記載の方法において、前記ビデオ可能な装置にデプロイされた前記モバイルビデオイメージングアプリケーションをインストールするステップを更に具えることを特徴とする方法。
  15. 請求項14記載の方法において、インストールされた前記ビデオ可能な装置の前記モバイルビデオイメージングアプリケーションを設定するステップを更に具えることを特徴とする方法。
  16. 請求項7記載の方法において、前記ビデオ可能な装置からデプロイ完了したネットワークまで信号を送信するステップを更に具えることを特徴とする方法。
  17. イメージングサービスプラットホームをデプロイする方法であって、
    ネットワークに接続された第1ダウンロードサーバエリアにトランスコーダアプリケーションを設けるステップと、
    前記トランスコーダアプリケーションをデプロイに利用できるネットワークに、信号送信を行うステップと、
    前記トランスコーダアプリケーションを、前記ネットワークを通じて前記第1ダウンロードサーバから前記ネットワーク上のビデオゲートウェイにデプロイするステップと、
    ネットワークに接続された第2ダウンロードサーバエリアにモバイルビデオイメージングアプリケーションを設けるステップと、
    前記モバイルビデオイメージングアプリケーションがデプロイに利用できるネットワークに接続したビデオ可能な装置に、信号送信を行うステップと、
    前記モバイルビデオイメージングアプリケーションを、前記ネットワークを通じて前記第2ダウンロードサーバから前記ビデオ可能な装置にデプロイする方法。
  18. 請求項17記載の方法において、前記第1及び第2ダウンロードサーバを同一サーバに配置したことを特徴とする方法。
  19. 請求項17記載の方法において、前記第1及び第2ダウンロードサーバを異なるサーバに配置したことを特徴とする方法。
  20. 請求項17記載の方法において、前記カメラが前記ネットワークと無線通信を行うことを特徴とする方法。
JP2007536992A 2004-10-13 2005-10-13 ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ Pending JP2008516566A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US61893804P 2004-10-13 2004-10-13
US65405805P 2005-02-16 2005-02-16
PCT/US2005/037235 WO2006044789A2 (en) 2004-10-13 2005-10-13 Video monitoring application, device architectures, and system architecture

Publications (2)

Publication Number Publication Date
JP2008516566A true JP2008516566A (ja) 2008-05-15
JP2008516566A5 JP2008516566A5 (ja) 2011-10-20

Family

ID=36203620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007536992A Pending JP2008516566A (ja) 2004-10-13 2005-10-13 ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ

Country Status (6)

Country Link
EP (1) EP1800404A4 (ja)
JP (1) JP2008516566A (ja)
KR (1) KR20070085317A (ja)
AU (1) AU2005295466A1 (ja)
CA (1) CA2583745A1 (ja)
WO (1) WO2006044789A2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9596293B2 (en) 2010-09-08 2017-03-14 Panasonic Intellectual Property Management Co., Ltd. Content transmission device and network node

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007149444A2 (en) * 2006-06-16 2007-12-27 Droplet Technology, Inc. System, method and apparatus of video processing and applications
CN102377989A (zh) * 2011-10-12 2012-03-14 广东志成冠军集团有限公司 一种基于区端网络的无线监控摄像装置
US11622091B2 (en) * 2019-10-31 2023-04-04 Genetec Inc. Facilitating video monitoring of at least one location

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004038941A (ja) * 2002-04-26 2004-02-05 Matsushita Electric Ind Co Ltd ユニバーサル・マルチメディア・フレームワークの端末装置、サーバ、及びゲートウエイのコンテンツ適合方法
JP2004078277A (ja) * 2002-08-09 2004-03-11 Access:Kk 通信網から独立したアドレス情報提供装置を用いる情報提供方法、情報提供システム、情報提供者側端末装置、アドレス情報提供装置、情報閲覧者側端末装置、管理装置、これらのプログラム並びにプログラム記録媒体
JP2004118291A (ja) * 2002-09-24 2004-04-15 Hitachi Kokusai Electric Inc ソフトウェア管理システム及び障害管理装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6356543B2 (en) * 1997-11-25 2002-03-12 Telefonaktiebolaget Lm Ericsson (Publ) Controlling mobile phone system user views from the world-wide web
US6754894B1 (en) * 1999-12-03 2004-06-22 Command Audio Corporation Wireless software and configuration parameter modification for mobile electronic devices
JP2001285420A (ja) * 2000-03-24 2001-10-12 Telefon Ab L M Ericsson 移動無線通信装置、通信システム及び印刷装置
US20020112237A1 (en) * 2000-04-10 2002-08-15 Kelts Brett R. System and method for providing an interactive display interface for information objects
US20010030667A1 (en) * 2000-04-10 2001-10-18 Kelts Brett R. Interactive display interface for information objects
JP2002056340A (ja) * 2000-08-09 2002-02-20 Konami Co Ltd ゲームアイテム提供システム、方法、及び記録媒体
CA2505936A1 (en) * 2002-11-11 2004-05-27 Supracomm, Inc. Multicast videoconferencing
US7430602B2 (en) * 2002-12-20 2008-09-30 Qualcomm Incorporated Dynamically provisioned mobile station and method therefor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004038941A (ja) * 2002-04-26 2004-02-05 Matsushita Electric Ind Co Ltd ユニバーサル・マルチメディア・フレームワークの端末装置、サーバ、及びゲートウエイのコンテンツ適合方法
JP2004078277A (ja) * 2002-08-09 2004-03-11 Access:Kk 通信網から独立したアドレス情報提供装置を用いる情報提供方法、情報提供システム、情報提供者側端末装置、アドレス情報提供装置、情報閲覧者側端末装置、管理装置、これらのプログラム並びにプログラム記録媒体
JP2004118291A (ja) * 2002-09-24 2004-04-15 Hitachi Kokusai Electric Inc ソフトウェア管理システム及び障害管理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9596293B2 (en) 2010-09-08 2017-03-14 Panasonic Intellectual Property Management Co., Ltd. Content transmission device and network node

Also Published As

Publication number Publication date
AU2005295466A1 (en) 2006-04-27
EP1800404A4 (en) 2009-01-07
WO2006044789A2 (en) 2006-04-27
WO2006044789A3 (en) 2008-05-08
KR20070085317A (ko) 2007-08-27
CA2583745A1 (en) 2006-04-27
EP1800404A2 (en) 2007-06-27

Similar Documents

Publication Publication Date Title
US8896717B2 (en) Methods for deploying video monitoring applications and services across heterogeneous networks
US20060072837A1 (en) Mobile imaging application, device architecture, and service platform architecture
US8849964B2 (en) Mobile imaging application, device architecture, service platform architecture and services
JP2008516565A (ja) モバイルイメージングアプリケーション、装置、アーキテクチャ及びサービスプラットホームアーキテクチャ
US8665943B2 (en) Encoding device, encoding method, encoding program, decoding device, decoding method, and decoding program
US8254707B2 (en) Encoding device, encoding method, encoding program, decoding device, decoding method, and decoding program in interlace scanning
JP6339012B2 (ja) 層状の信号品質階層の再構成データの送信
JP2002135783A (ja) ストリーミングサービスのための可変ビット率処理方法
US20140368672A1 (en) Methods for Deploying Video Monitoring Applications and Services Across Heterogeneous Networks
CN101390392A (zh) 视频监控应用、设备结构、及系统结构
JP2008516566A (ja) ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ
KR20070112461A (ko) 모바일 이미징 애플리케이션, 장치 구조, 서비스 플랫폼구조 및 서비스들
EP2210366B1 (en) Methods and systems for transferring multimedia content using an existing digital sound transfer protocol
JP2000059776A (ja) 映像情報配信システム、映像情報配信方法および記憶媒体
CN102892000A (zh) 一种视频文件压缩及播放的方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080902

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20081211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110301

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110601

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110608

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20110901

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120206