JP2010239575A - Content playback apparatus - Google Patents
Content playback apparatus Download PDFInfo
- Publication number
- JP2010239575A JP2010239575A JP2009087999A JP2009087999A JP2010239575A JP 2010239575 A JP2010239575 A JP 2010239575A JP 2009087999 A JP2009087999 A JP 2009087999A JP 2009087999 A JP2009087999 A JP 2009087999A JP 2010239575 A JP2010239575 A JP 2010239575A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- video
- decoded
- video frame
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、コンテンツ再生装置に係り、特に、再生される音声の音切れ抑制に関する。 The present invention relates to a content reproduction apparatus, and more particularly to suppression of sound interruption of reproduced audio.
符号化されたコンテンツの再生にあたり、復号などの処理を専用のDSP(Digital Signal Processor)によることなく、汎用のCPU(Central Processing Unit)によって行うことが知られている。ここで、コンテンツは、少なくとも映像と、音声とを含む。汎用のCPUは、この復号以外の処理も行うため、高負荷にあっては復号を充分な速度で行なうことができず、再生が途切れる恐れがある。特に、音声信号の復号が遅れて音切れが発生すると、コンテンツの視聴者は違和感を覚え易く、音切れの抑制が望まれる。 It is known that when reproducing the encoded content, processing such as decoding is performed by a general-purpose CPU (Central Processing Unit) without using a dedicated DSP (Digital Signal Processor). Here, the content includes at least video and audio. Since a general-purpose CPU also performs processes other than this decoding, the decoding cannot be performed at a sufficient speed under a heavy load, and reproduction may be interrupted. In particular, when sound interruption occurs due to delay in decoding of an audio signal, content viewers are likely to feel uncomfortable, and suppression of sound interruption is desired.
そこで、再生が必要な速度で行われているか否かを監視し、再生の速度が遅いと判断された場合、例えば、映像の再生を中止し、又は、複数の画質の映像が得られる場合、低画質の映像の再生に変更する処理が知られている(例えば、特許文献1参照。)。 Therefore, it is monitored whether or not the playback is performed at a necessary speed, and when it is determined that the playback speed is slow, for example, when the playback of the video is stopped or a video having a plurality of image quality is obtained, Processing for changing to low-quality video playback is known (for example, see Patent Document 1).
しかしながら、上述した特許文献1に開示されている方法では、映像の再生を中止する場合、視聴者が違和感を覚える問題点があり、また、複数の画質の映像が得られない場合、低画質の映像の再生に変更できない問題点があった。
However, in the method disclosed in
本発明は上記問題点を解決するためになされたもので、音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減するコンテンツ再生装置を提供することを目的とする。 The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a content playback apparatus that reduces video signal playback display processing when it is determined that audio signal decoding is delayed. .
上記目的を達成するために、本発明のコンテンツ再生装置は、少なくとも符号化された映像フレームと符号化された音声信号とを含むコンテンツを再生するコンテンツ再生装置であって、前記符号化された映像フレームを復号する映像復号手段と、前記映像復号手段によって復号された映像フレームを表示手段に表示させるアプリケーション手段と、前記符号化された音声信号を復号する音声復号手段と、前記音声復号手段によって復号された音声信号を記憶する復号音声記憶手段と、前記復号音声記憶手段に記憶された復号された音声信号をスピーカから出力させる音声出力制御手段とを有し、前記復号音声記憶手段に記憶された復号された音声信号の量が所定の閾値より少ない場合、前記映像復号手段は、前記符号化された映像フレームを間引いて復号し、及び/又は、前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームを間引いて前記表示手段に表示させることを特徴とする。 In order to achieve the above object, a content playback apparatus of the present invention is a content playback apparatus for playing back content including at least an encoded video frame and an encoded audio signal, wherein the encoded video is Video decoding means for decoding the frame, application means for displaying the video frame decoded by the video decoding means on the display means, audio decoding means for decoding the encoded audio signal, and decoding by the audio decoding means Decoded speech storage means for storing the decoded speech signal, and speech output control means for outputting the decoded speech signal stored in the decoded speech storage means from a speaker, and stored in the decoded speech storage means When the amount of the decoded audio signal is less than a predetermined threshold, the video decoding means Thinned and decode and / or the application unit may be displayed on the display means by thinning out video frames decoded by said video decoding means.
本発明によれば、音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減することができる。 According to the present invention, when it is determined that the decoding of the audio signal is delayed, it is possible to reduce the reproduction / display processing of the video signal.
以下に、本発明の実施形態に係るコンテンツ再生装置が適用された移動通信装置の実施の形態を、図面を参照して説明する。図1は、本発明の実施形態に係る移動通信装置のハードウェア構成を示すブロック図である。 Hereinafter, an embodiment of a mobile communication device to which a content reproduction device according to an embodiment of the present invention is applied will be described with reference to the drawings. FIG. 1 is a block diagram showing a hardware configuration of a mobile communication device according to an embodiment of the present invention.
この移動通信装置は、ベースバンドグループに属する移動通信網通信部11と、移動通信網の基地局(図示せず)との間で電波の送受信を行うアンテナ11aと、通話用のスピーカ11bと、通話用のマイクロフォン11cと、ベースバンドCPU12と、アプリケーショングループに属する近距離通信部21と、近距離通信網のアクセスポイント(図示せず)との間で電波の送受信を行うアンテナ21aと、表示用RAM(Random Access Memory)22と、表示部23と、入力部24と、D/A(Digital/Analog)変換部25と、コンテンツ再生用のスピーカ26と、アプリケーションCPU27と、2つのグループの各部によってアクセスされる1次記憶部31と、2次記憶部32とからなる。
The mobile communication device includes a mobile communication
なお、このブロック図では、各部は、全てが共通のバスによって接続されているように図示したが、これは、理解を容易にするためで、これに限らない。ベースバンドグループに属する各部を接続するバス、アプリケーショングループに属する各部を接続するバス、これらのバスを接続するバスとを有する構成であっても良い。 In this block diagram, all the units are illustrated as being connected by a common bus, but this is for the sake of easy understanding and is not limited thereto. A configuration including a bus that connects each unit belonging to the baseband group, a bus that connects each unit belonging to the application group, and a bus that connects these buses may be used.
また、1次記憶部31と、2次記憶部32とは、2つのグループの各部によってアクセスされるとしたが、これは、理解を容易にするためで、これに限らない。これに代えて、又は、加えて、各グループ専用の1次記憶部と、2次記憶部とを有する構成であっても良い。
In addition, although the
上記のように構成された、本発明の実施形態に係る情報処理装置のハードウェアの各部の動作を、図1を参照して説明する。 The operation of each part of the hardware of the information processing apparatus according to the embodiment of the present invention configured as described above will be described with reference to FIG.
移動通信網通信部11は、移動通信網の基地局(図示せず)から送信され、アンテナ11aが受信した高周波信号を増幅、周波数変換及び復調し、それによって得られたデジタル音声信号をアナログ音声信号に変換し、それを増幅してスピーカ11bに送る。また、得られた制御信号をベースバンド制御部に送る。ここで、ベースバンド制御部は、ベースバンドCPU12を利用するソフトウェアであり、ベースバンドグループに属する各部の制御を行う。
The mobile communication
また、移動通信網通信部11は、マイクロフォン11cから出力されるアナログ音声信号を増幅し、それを変換したデジタル音声信号と、ベースバンド制御部から出力される制御信号とを変調、周波数変換及び増幅し、高周波信号を得てアンテナ11aより送信する。
The mobile communication
ベースバンドCPU12は、ベースバンド制御部を含む、ベースバンドグループに属する各部に係るソフトウェアによって利用され、1次記憶部31と、2次記憶部32とを参照して動作する。
The
近距離通信部21は、無線LAN(Local Area Network)通信を行う。即ち、インターネット網のアクセスポイント(図示せず)から送信され、アンテナ21aが受信した高周波信号を増幅、周波数変換及び復調し、それによって得られた制御信号をアプリケーション制御部に送る。アプリケーション制御部は、アプリケーションCPU27を利用するソフトウェアであり、アプリケーショングループに属する各部の制御を行う。また、近距離通信部21は、得られたデジタルコンテンツ信号をアプリケーショングループ内のコンテンツバッファに記憶させる。
The short-
なお、コンテンツバッファを含む、全てのバッファは、1次記憶部31及び/又は2次記憶部32内に設定された記憶領域である。その記憶領域の管理方法は、ファイルシステムであるか、サイクリック方式、即ち、記憶領域に情報が順次記憶され、全ての領域に情報が記憶された場合、最も古く記憶された情報が記憶されていた領域に新たに情報を記憶させる方式であるか、変数に割り当てられ、何ら構造を持たない方式であるかなどを問わない。
All the buffers including the content buffer are storage areas set in the
近距離通信部21は、更に、アプリケーション制御部から出力される制御信号を変調、周波数変換及び増幅し、高周波信号を得てアンテナ21aより送信する。
The short-
表示用RAM22は、アプリケーション制御部の指示に従ったアプリケーションCPU27を利用するソフトウェアによって書き込まれた、表示部23に表示される画像イメージを記憶する。この画像イメージは、任意の静止画像であって、コンテンツの映像、カーソルを含む文字・数字などを含む。
The
表示部23は、例えば、バックライト付きのLCD(Liquid Crystal Display)であり、アプリケーション制御部の制御に従って、表示用RAM22に記憶された画像イメージを表示し、又は、表示を停止する。
The
入力部24は、通信相手の電話番号などを指定し、また、トグル式の入力方式によってひらがな文字、アルファベット文字及び記号文字を入力するための数字キーと、カーソル移動キーやスクロールキーを含む複数の機能キーとを含むキーからなる。そして、入力部24のキーが押下されると、そのキーの識別子をアプリケーション制御部に通知する。
The
D/A変換部25は、アプリケーション制御部の指示に従ったアプリケーションCPU27を利用するソフトウェアによって送信されたPCM(Pulse Code Modulation)信号であるデジタル音声信号をアナログ音声信号に変換し、変換されたアナログ音声信号をスピーカ26から発生させる。
The D /
アプリケーションCPU27は、アプリケーション制御部を含む、アプリケーショングループに属する各部に係るソフトウェアによって利用され、1次記憶部31と、2次記憶部32とを参照して動作する。
The
図2は、本発明の実施形態に係る移動通信装置のソフトウェア構成を示すブロック図であって、記憶構成を併せて示す。この移動通信装置は、ベースバンドグループに属するベースバンド制御部41と、アプリケーショングループに属するアプリケーション制御部51と、近距離通信部21によって受信されたコンテンツが記憶されるコンテンツバッファ52と、アプリケーション部53と、コンテンツ復号部54と、画像編集ライブラリ55とからなる。
FIG. 2 is a block diagram showing a software configuration of the mobile communication apparatus according to the embodiment of the present invention, and also shows a storage configuration. This mobile communication device includes a
ベースバンドグループ全体の制御を行うベースバンド制御部41と、アプリケーショングループ全体の制御を行うアプリケーション制御部51とは、接続されている。この接続によって、異なるグループに属する部分同士であっても情報の送受が可能であり、本実施の形態において、情報の送受に関し、ベースバンド制御部41及びアプリケーション制御部51を経由することを省略して説明している。
A
図3は、コンテンツ復号部54の詳細な構成を示すブロック図であり、アプリケーション部53によってコンテンツバッファ52に記憶されたコンテンツが再生されるまでのコンテンツの流れを併せて示す。ここで、矢印は、コンテンツの流れを示す。
FIG. 3 is a block diagram showing a detailed configuration of the
コンテンツ復号部54は、コンテンツバッファ52と接続される分離部54aと、映像復号部54bと、アプリケーション部53と接続され、映像復号部54bによって復号された映像信号が記憶される復号映像バッファ54cと、音声復号部54dと、音声復号部54dによって復号された音声信号が記憶される復号音声バッファ54eと、D/A変換部25と接続される音声出力制御部54fとからなる。
The
上記のように構成された、本発明の実施形態に係る情報処理装置のソフトウェアの各部の動作を、図2及び図3を参照して説明する。 The operation of each part of the software of the information processing apparatus according to the embodiment of the present invention configured as described above will be described with reference to FIGS.
アプリケーション部53は、例えば、ブラウザであって、近距離通信部21に指示してコンテンツを受信させる。そして、その受信によってコンテンツバッファ52に記憶された、又は、記憶されつつあるコンテンツを、表示部23に表示させ、また、スピーカ26から発生させる。ここで、上記コンテンツの中で、H.263方式、MP3方式などによって符号化された映像及び音声コンテンツは、コンテンツ復号部54に復号させ、復号された音声信号はコンテンツ復号部54に指示してスピーカ26から発生させる。一方、アプリケーション部53は、復号された映像信号と、コンテンツ復号部54の復号を要さない画像とから表示される画像を作成して表示部23に表示させる。
The
コンテンツ復号部54の各部の動作を説明する。コンテンツ復号部54の各部は、アプリケーション部53の指示に従って動作する。分離部54aは、コンテンツバッファ52に記憶され、アプリケーション部53によって指定されたH.263方式、MP3方式などによって符号化された映像及び音声コンテンツを読み出す。そして、そのコンテンツを映像信号と、音声信号とに分離し、映像信号を映像復号部54bに、音声信号を音声復号部54dに送る。
The operation of each unit of the
映像復号部54bは、受信された符号化された映像信号を復号する。ここで、符号化された映像信号は、所定の時間間隔で切り出された静止画像(以後、映像フレームと称する。)が符号化された信号である。そこで、映像フレーム毎に復号する。そして、アプリケーション部53から復号された映像フレームの要求があると、映像フレームと、その映像フレームが符号化されていた際に付されていたタイムスタンプと共に復号映像バッファ54cに記憶させ、アプリケーション部53に提供する。
The
なお、映像復号部54bは、復号された映像フレームの全てをアプリケーション部53に提供するとは限らない。音声出力制御部54fの指示に従って、その一部を提供しない、即ち、間引くことがある。この間引かれる映像フレームの復号は、行われる必要はない。例えば、映像フレームの1つがフレーム内符号化され、その映像フレームに続く所定個数の映像フレームが直前の映像フレームを参照するフレーム間符号化されている場合、フレーム内符号化された直前のフレーム間符号化された映像フレームが間引かれるなら、そのフレームを復号する必要はない。しかしながら、間引かれる映像フレームを参照するフレーム間符号化された映像フレームを提供する場合、間引かれる映像フレームの復号を行なう。
Note that the
音声復号部54dは、受信された符号化された音声信号を復号する。ここで、符号化された音声信号は、所定の時間幅で切り出された音声信号が符号化された信号である。そこで、その切り出された音声信号毎に復号し、得られたPCM信号であるデジタル音声信号を復号音声バッファ54eに記憶させる。符号化された音声信号の一部には、タイムスタンプが付されている。そこで、そのタイムスタンプは、復号された音声信号と共に、復号音声バッファ54eに記憶させる。
The
音声出力制御部54fは、復号音声バッファ54eに記憶されたタイムスタンプを参照しつつ、そこに記憶された復号された音声信号をD/A変換部25に送ることによって、スピーカ26から発生させる。音声出力制御部54fは、発生された音声信号を復号音声バッファ54eから削除する。
The audio output control unit 54f refers to the time stamp stored in the decoded
また、音声出力制御部54fは、復号音声バッファ54eに記憶された復号された音声信号の量を監視する。この量が所定の量より少ない場合、音声復号部54dの処理が遅れている、即ち、アプリケーションCPU27の負荷が過度に高いと判断し、映像復号部54bに、符号化された映像フレームの全てをアプリケーション部53に提供することなく、その一部を提供しない指示をする。
The audio output control unit 54f monitors the amount of the decoded audio signal stored in the decoded
画像編集ライブラリ55は、静止画像の編集を行うソフトウェアパッケージである。即ち、与えられた静止画像の合成や、色調の変更や、大きさの変更を行う。ここで、大きさの変更は、縮小、拡大、一部分の切り出しを含む。縮小や、拡大は、表示部23の画面解像度に従って、静止画像を表す画素数の変更を伴うことがある。また、静止画像には、画像とされて表示される文字を含む。
The
以下、本発明の実施形態に係わる移動通信装置による音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減する動作を説明する。 Hereinafter, an operation for reducing the reproduction display processing of the video signal when it is determined that the decoding of the audio signal by the mobile communication device according to the embodiment of the present invention is delayed will be described.
(アプリケーション部53によるコンテンツの再生出力動作)
図4は、アプリケーション部53によるコンテンツの再生出力動作のフローチャートを示す。アプリケーション部53は、入力部24の所定のキー操作によってコンテンツの再生出力動作を開始し(ステップS101)、そのキー操作によって指定されたコンテンツを近距離通信部21に指示して受信開始させる(ステップS102)。
(Content reproduction output operation by the application unit 53)
FIG. 4 shows a flowchart of the content reproduction output operation by the
このコンテンツは、H.263方式によって符号化された映像及びMP3方式によって符号化された音声コンテンツを含み、アプリケーション部53は、そのH.263方式及びMP3方式によって符号化されたコンテンツを復号させると共に、復号された音声信号をスピーカ26から発生させることを、コンテンツ復号部54の各部に指示する(ステップS103)。
This content is The
そして、表示部23に表示されていない映像フレームの有無を判断する(ステップS104)。この判断は、H.263方式によって符号化されたコンテンツの冒頭に含まれるコンテンツを再生するために必要な時間と、映像フレームに付加されたタイムスタンプによって判断可能である。また、アプリケーション部53は、映像復号部54bに提供されていない映像フレームの有無を照会することによって判断しても良い。
Then, the presence / absence of a video frame not displayed on the
表示されていない映像フレームがある場合、アプリケーション部53は、次に表示すべき映像フレームを映像復号部54bに要求し、復号映像バッファ54cからその映像フレームを取得する(ステップS105)。そして、その映像フレームと、近距離通信部21によって受信されたコンテンツの中で、コンテンツ復号部54に復号を要求しない情報、例えば、静止画像や、文字とを組み合わせて、表示部23のアプリケーション部53に割り当てられたウィンドウに表示される画像を、画像編集ライブラリ55を用いて作成する(ステップS106)。この表示される画像は、例えば、Webページ中に指定されたページ内の配置に従った画像である。
If there is a video frame that is not displayed, the
作成された表示される画像を、ステップS105で取得された映像フレームに付加されたタイムスタンプが示す時刻に、表示用RAM22に記憶させることによって表示部23に表示させ(ステップS107)、ステップS104の判断動作に移る。なお、このように、タイムスタンプを参照して表示用RAM22に記憶させることによって、ステップS107の動作によって表示される映像と、コンテンツ復号部54によって出力される音声との同期が取られる。
The created image to be displayed is displayed on the
なお、ステップS104〜ステップS107のループの動作の間に、アプリケーション部53に割り当てられたウィンドウの大きさの変更、スクロール要求などが入力部24の所定のキー操作によって行われた場合、アプリケーション部53は、ステップS106で、併せてその要求に従った画像を、画像編集ライブラリ55を用いて作成する。また、ステップS105で、映像フレームを取得することができない場合、表示されていない映像フレームがないと判断する(図示せず)。
If a change in the size of the window allocated to the
一方、ステップS104で、表示されていない映像フレームがない場合、アプリケーション部53は、コンテンツの再生出力動作を終了する(ステップS108)。ここで、近距離通信部21及びコンテンツ復号部54の各部の動作を停止させる。なお、表示用RAM22に記憶された画像に変更を加えないので、表示部23の表示は、消去されることはない。
On the other hand, if there is no undisplayed video frame in step S104, the
(音声出力制御部54fによる映像信号の再生表示処理を削減させる動作)
図5は、音声出力制御部54fによる映像信号の再生表示処理を削減させる動作のフローチャートを示す。音声出力制御部54fは、アプリケーション部53の指示に従って動作を開始し(ステップS201)、復号音声バッファ54eから復号された音声信号を読み出してD/A変換部25へ送って、スピーカ26から発生させ、読み出された音声信号を復号音声バッファ54eから削除する(ステップS202)。ここで、読み出す音声信号の量は、1回又は複数回に渡って復号された音声信号であるが、例えば、音声出力制御部54fが備える記憶領域の大きさに依存した量である。
(Operation for reducing video signal reproduction / display processing by the audio output control unit 54f)
FIG. 5 is a flowchart of an operation for reducing the video signal reproduction / display processing by the audio output control unit 54f. The audio output control unit 54f starts operation according to the instruction of the application unit 53 (step S201), reads out the decoded audio signal from the decoded
そして、音声出力制御部54fは、復号音声バッファ54eに記憶された音声信号のデータ量を第1の閾値Aと比較する(ステップS203)。第1の閾値A以上である場合、復号音声バッファ54eに記憶された音声信号のデータ量を、第1の閾値Aを超える第2の閾値Bと比較する(ステップS204)。第2の閾値B以上である場合、アプリケーションCPU27の負荷を調べる(ステップS205)。この負荷は、アプリケーション制御部51のOS機能に問い合わせることによって調べることができる。
Then, the audio output control unit 54f compares the data amount of the audio signal stored in the decoded
アプリケーションCPU27の負荷が所定の閾値以下の場合、音声出力制御部54fは、映像復号部54bに対し、全ての映像フレームをアプリケーション部53に提供する旨を指示して(ステップS206)、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。
When the load of the
ステップS204で閾値B未満の場合、及び、ステップS205で所定の閾値を超える場合、音声出力制御部54fは、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。なお、ステップS203で第1の閾値A以上である場合、直前の映像復号部54bに対する指示が一部の映像フレームをアプリケーション部53に提供する旨でなければ、音声出力制御部54fは、直ちにステップS207へ移って、映像信号の再生表示処理を削減させる動作を終了することと同じ動作となる。
If it is less than the threshold value B in step S204, and if the predetermined threshold value is exceeded in step S205, the audio output control unit 54f ends the operation for reducing the video signal reproduction display processing (step S207). Note that if it is equal to or greater than the first threshold A in step S203, the audio output control unit 54f immediately performs step unless the instruction to the
ステップS203で、第1の閾値A未満である場合、音声出力制御部54fは、一部の映像フレームをアプリケーション部53に提供する旨を指示して(ステップS208)、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。
If it is less than the first threshold A in step S203, the audio output control unit 54f instructs the
なお、ステップS208の動作にあたり、直前の映像復号部54bに対する指示が全部の映像フレームをアプリケーション部53に提供する旨でなければ、音声出力制御部54fは、直ちにステップS207へ移って、映像信号の再生表示処理を削減させる動作を終了することと同じ動作となる。ここで、音声出力制御部54fが動作を開始した際、直前の映像復号部54bに対する指示は、全部の映像フレームをアプリケーション部53に提供する旨であるとみなす。
In the operation of step S208, if the instruction to the
復号音声バッファ54eに記憶された音声信号のデータ量を2つの閾値、即ち、第1の閾値Aと、第2の閾値Bと比較することは、周知の手法である。即ち、1つの閾値と比較すると、そのデータ量がその閾値以上と、その閾値未満との間を頻繁に上下する場合、ステップS206の全ての映像フレームを提供させる指示と、ステップS208の一部の映像フレームを提供させる指示とが無用に頻繁に行われる可能性がある。2つの閾値と比較すれば、この頻繁な指示がされることがない。
It is a well-known technique to compare the data amount of the audio signal stored in the decoded
(映像復号部54bによる復号された映像フレームの全部又は一部を提供する動作)
映像復号部54bは、全部の映像フレームをアプリケーション部53に提供する旨の指示を音声出力制御部54fから受けた場合、及び、映像復号部54bが動作を開始した際、アプリケーション部53からの映像フレームの要求に応じて、復号された映像フレームで、次に表示部23に表示されるべき1つの映像フレームを復号映像バッファ54cに記憶させて、アプリケーション部53に提供する。ここで、映像フレームには、その映像フレームが表示部23に表示されるべき時刻を示すタイムスタンプを付す。
(Operation for providing all or part of the decoded video frame by the
The
映像復号部54bは、一部の映像フレームをアプリケーション部53に提供する旨の指示を音声出力制御部54fから受けた場合、アプリケーション部53からの映像フレーム要求に応じて、復号された映像フレームの中の所定の割合の映像フレーム、例えば、タイムスタンプ順で、2つに1つの映像フレームを選択し、選択された映像フレームで、次に表示部23に表示されるべき1つの映像フレームを復号映像バッファ54cに記憶させて、アプリケーション部53に提供する。
When receiving an instruction from the audio output control unit 54f to provide some video frames to the
なお、映像復号部54bは、タイムスタンプを参照することにより、既に表示部23に表示する時刻が過ぎたと判断される映像フレームを検出し、その検出されたフレームを提供することはない。このため、映像復号部54bからの指示によらず、一部の映像フレームを破棄することがある。
The
以上説明したように、映像復号部54bは、音声出力制御部54fからの指示に従って、直ちにアプリケーション部53に提供する映像フレームの数を変化させ、最少の遅れ時間によってアプリケーションCPU27の負荷を変化させることができる。このために、復号映像バッファ54cには、1つの映像フレームを記憶させることが有効であって、復号映像バッファ54cに記憶された映像フレームをアプリケーション部53に提供することなく削除するなどの記憶管理をする必要がない。
As described above, the
このバッファには、映像復号部54bと、アプリケーション部53との2つの処理部がアクセスするのであるから、上記記憶管理は、排他制御を含む、複雑な処理となる。一方、本実施形態によれば、復号映像バッファ54cに記憶されるまで、復号された映像フレームは、映像復号部54b内に記憶されるので、映像復号部54bによって容易に管理される。
Since the two processing units of the
以上説明した、映像信号の再生表示を削減する動作によって、アプリケーション部53に提供される映像フレームが如何に削減されるかを、図6を参照して説明する。ここで、横軸は時刻であり、映像フレームを表示されるタイムスタンプに至ったか否かを判断するために参照される時計が示す時刻である。
How the video frames provided to the
図6(a)は、復号が充分な速度で行われ、全ての映像フレームの再生表示処理が行われている場合の、アプリケーション部53からの映像フレームの要求と、その要求に応じて映像復号部54bによって提供される映像フレームとを示す。アプリケーション部53から要求1が送信されると、その要求に応じて、映像復号部54bは、映像フレーム1を適切な時刻に、即ち、そのフレームが表示される時刻T1より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。
FIG. 6A shows a request for a video frame from the
以後、アプリケーション部53から要求iが送信されると、その要求に応じて、映像復号部54bは、映像フレームiを適切な時刻に提供することによって、アプリケーション部53は、その映像フレームを表示させる状況を、自然数iが1から6まで示した(1≦i≦6)。
Thereafter, when the request i is transmitted from the
図6(b)は、映像フレーム1が適切な時刻に提供された後、音声出力制御部54fから映像復号部54bに、映像フレームの半分を提供する指示があった場合の状況を示す。アプリケーション部53から続いて要求2が送信されると、その要求に応じて、映像復号部54bは、映像フレーム2を提供することなく、映像フレーム3を適切な時刻に、即ち、そのフレームが表示される時刻T3より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。
FIG. 6B shows a situation in which after the
なお、映像フレーム3が提供される時刻は、重要な意味を持たない。例えば、そのフレームが時刻T2より充分前に提供されたとしても、その映像フレームと共に提供されるタイムスタンプによって、その映像フレームは、時刻T3に表示される。
Note that the time at which the
続いて、アプリケーション部53から要求3が送信されると(この送信は、既に提供された映像フレーム3を表示させた時刻T3より後になる。)、その要求に応じて、映像復号部54bは、映像フレーム4を提供することなく、映像フレーム5を適切な時刻に提供する。このように、映像フレーム2及び映像フレーム4は、提供されることがない。
Subsequently, when the
図6(c)は、映像フレーム1が適切な時刻に提供された後、アプリケーション部53が充分な速度で処理されず、映像復号部54bに映像フレームを要求する処理が遅れた場合の状況を示す。アプリケーション部53から続いて要求2が送信されるが、その要求は、映像フレーム2が表示される時刻T2後に送信された。そこで、映像復号部54bは、映像フレーム2を提供することなく、映像フレーム3を適切な時刻に、即ち、そのフレームが表示される時刻T3より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。
FIG. 6C shows a situation where the
続いて、アプリケーション部53から要求3が送信されるが、その要求は、タイムスタンプによれば、既に表示された映像フレーム3の次に表示される映像フレーム4が表示される時刻T4後に送信された。そこで、映像復号部54bは、映像フレーム4を提供することなく、映像フレーム5を適切な時刻に、即ち、そのフレームが表示される時刻T5より充分前に提供する。次に、アプリケーション部53から要求4が送信されるが、その要求は、映像フレーム6が表示される時刻T6より充分前に送信された。そこで、映像復号部54bは、映像フレーム6を適切な時刻に提供した。
Subsequently, the
この状況によれば、アプリケーション部53に提供されない映像フレームに規則性、例えば、連続して表示される2つの中の1つが提供されないなどはないが、アプリケーションCPU27が高負荷の場合、アプリケーション部53が再生表示する映像フレームを減らすことによって、その高負荷を緩和することができる。
According to this situation, video frames that are not provided to the
(実施形態の変形例)
以上の説明で、音声出力制御部54fは、映像復号部54bに対して、全部の映像フレームか、一部の映像フレームかをアプリケーション部53に提供するように指示をするとしたが、これに限るものではない。提供する映像フレームの全映像フレームに対する割合を3段階以上の段階を伴って、更には、浮動小数点数によって指示しても良い。当然に、復号音声バッファ54eに記憶されたデータ量が少なければ少ない程、少しの映像フレームを提供するように指示する。
(Modification of the embodiment)
In the above description, the audio output control unit 54f instructs the
以上の説明で、復号音声バッファ54eに記憶されたデータ量を監視するのは、音声出力制御部54fであるとした。音声出力制御部54fは、概ね所定の時間間隔で復号音声バッファ54eに記憶された音声信号を読み出すので、記憶された信号の量の監視には適している。しかし、この限りではなく、そのバッファへアクセスする音声復号部54dが監視しても良い。また、音声出力制御部54fによる指示を受けるとした映像復号部54bが監視しても良い。
In the above description, it is assumed that the audio output control unit 54f monitors the amount of data stored in the decoded
更には、アプリケーション部53が監視し、監視結果に基づいて、映像復号部54bに映像フレームを要求する時間間隔を変更しても良い。この場合、アプリケーション部53の動作に、装置依存の部分が生じる恐れがある。しかし、映像フレームを間引いてもアプリケーション部53による表示によって視聴者が違和感を覚える可能性が小さい場合、大きく間引くなど、アプリケーション部53が行うアプリケーションに依存した適切な処理が可能となる。
Furthermore, the
以上の説明で、コンテンツ復号部54が復号するコンテンツは、1つの映像と、1つの音声を含むとしたが、これに限るものではない。それぞれ、複数であっても良い。映像復号部54bや、音声復号部54dは、アプリケーションCPU27を利用するソフトウェアであり、複数のタスクを生成することによって、何ら支障なく復号させることができる。
In the above description, the content decrypted by the
ここで、複数の映像を含む場合、映像フレームをアプリケーション部53に提供するに当たり、全ての映像の映像フレームについて、上記説明した、再生表示処理を削減する動作がされることが適切である。また、この動作が適用される映像を限定し、又は、適用される順を指定し、ある映像に適用することによって復号音声バッファ54eに記憶されたデータ量が増えた、又は、減らない場合、その他の映像には適用しないとしても良い。また、複数の音声を含む場合、音声出力制御部54fによって、その中の1つが選択される。又は、D/A変換部25によって複数の音声が加えられる。
Here, when a plurality of videos are included, in providing video frames to the
以上の説明で、近距離通信部21は、無線LAN通信を行うとしたが、これに限るものではない。例えば、ケーブルを介してインターネットに接続されたハブと接続されることによって、インターネットに接続された装置と通信しても良い。更に、ブルートゥース(登録商標。Bluetooth)方式の通信を行っても良い。
In the above description, the short-
以上の説明で、アプリケーション部53によって再生されるコンテンツは、近距離通信部21によって受信されたコンテンツであるとした。近距離通信部21は、アプリケーショングループに属しているため、近距離通信部21による通信が不安定であり、再送が頻繁に発生する場合、通信状況をアプリケーション制御部51に通知するための割り込みが頻発する場合など、アプリケーションCPU27の負荷の変動が大きい際、この発明の効果は大きい。
In the above description, it is assumed that the content reproduced by the
しかしながら、この再生されるコンテンツは、近距離通信部21によって受信されたコンテンツに限るものではない。移動通信網通信部11によって受信されたコンテンツである場合、2次記憶部32に記憶されたコンテンツである場合、外部記憶媒体接続部(図示せず)に接続された取り外し可能の外部記憶媒体に記憶されたコンテンツである場合など、いずれにも適用される。また、外部記憶媒体接続部がアプリケーショングループに属する場合、適用による効果は大きい。
However, the content to be reproduced is not limited to the content received by the short-
以上の説明で、アプリケーション部53によって再生されるコンテンツは、H.263方式及びMP3方式によって符号化されているとしたが、これは一例である。その他の方式、例えば、H.264方式によって符号化されていても、本発明は、何ら変わることなく適用可能である。
In the above description, the content reproduced by the
以上の説明で、移動通信装置は、2つのCPUを備えるとしたが、これに限るものではない。CPUの個数には、何ら制限はなく、コンテンツ再生を行うCPUの高負荷に起因する音切れを抑制する効果が得られる。 In the above description, the mobile communication device includes two CPUs, but is not limited thereto. There is no limitation on the number of CPUs, and an effect of suppressing sound interruption caused by the high load of the CPU performing content reproduction can be obtained.
以上の説明は、本発明を移動通信装置に適用した形態を例にとって行ったが、これに限るものではない。本発明は、固定型であるか携帯型であるかを問わず、あらゆるコンテンツを再生する装置に当然に適用可能である。本発明は以上の構成に限定されるものではなく、種々の変形が可能である。 Although the above description has been made taking an example in which the present invention is applied to a mobile communication device, the present invention is not limited to this. The present invention is naturally applicable to an apparatus for reproducing any content regardless of whether it is a fixed type or a portable type. The present invention is not limited to the above configuration, and various modifications are possible.
11 移動通信網通信部
12 ベースバンドCPU
21 近距離通信部
22 表示用RAM
23 表示部
24 入力部
25 D/A変換部
26 スピーカ
27 アプリケーションCPU
41 ベースバンド制御部
51 アプリケーション制御部
52 コンテンツバッファ
53 アプリケーション部
54 コンテンツ復号部
54a 分離部
54b 映像復号部
54c 復号映像バッファ
54d 音声復号部
54e 復号音声バッファ
54f 音声出力制御部
55 画像編集ライブラリ
11 Mobile Communication
21 Short-
23
41
Claims (5)
前記符号化された映像フレームを復号する映像復号手段と、
前記映像復号手段によって復号された映像フレームを表示手段に表示させるアプリケーション手段と、
前記符号化された音声信号を復号する音声復号手段と、
前記音声復号手段によって復号された音声信号を記憶する復号音声記憶手段と、
前記復号音声記憶手段に記憶された復号された音声信号をスピーカから出力させる音声出力制御手段とを有し、
前記復号音声記憶手段に記憶された復号された音声信号の量が所定の閾値より少ない場合、前記映像復号手段は、前記符号化された映像フレームを間引いて復号し、及び/又は、前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームを間引いて前記表示手段に表示させる
ことを特徴とするコンテンツ再生装置。 A content playback device for playing back content including at least an encoded video frame and an encoded audio signal,
Video decoding means for decoding the encoded video frame;
Application means for displaying on the display means the video frame decoded by the video decoding means;
Audio decoding means for decoding the encoded audio signal;
Decoded speech storage means for storing the speech signal decoded by the speech decoding means;
Voice output control means for outputting the decoded voice signal stored in the decoded voice storage means from a speaker;
When the amount of the decoded audio signal stored in the decoded audio storage unit is less than a predetermined threshold, the video decoding unit decodes the encoded video frame by thinning out and / or the application unit Is a content reproducing apparatus characterized in that the video frame decoded by the video decoding means is thinned out and displayed on the display means.
ことを特徴とする請求項1に記載のコンテンツ再生装置。 When the amount of the decoded audio signal stored in the decoded audio storage unit is less than a predetermined threshold, the audio output control unit sends a part of the decoded video frame to the application unit. The content reproduction apparatus according to claim 1, wherein the content reproduction apparatus is provided.
ことを特徴とする請求項1に記載のコンテンツ再生装置。 2. The content reproduction apparatus according to claim 1, wherein the application unit changes the size of the video frame decoded by the video decoding unit and causes the display unit to display the video frame.
ことを特徴とする請求項1に記載のコンテンツ再生装置。 2. The content reproduction apparatus according to claim 1, wherein the application unit synthesizes the video frame decoded by the video decoding unit and a still image included in the content and displays the synthesized image on the display unit.
ことを特徴とする請求項1に記載のコンテンツ再生装置。 2. The content reproduction apparatus according to claim 1, wherein the application unit synthesizes the video frame decoded by the video decoding unit and characters included in the content and causes the display unit to display them.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009087999A JP2010239575A (en) | 2009-03-31 | 2009-03-31 | Content playback apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009087999A JP2010239575A (en) | 2009-03-31 | 2009-03-31 | Content playback apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010239575A true JP2010239575A (en) | 2010-10-21 |
Family
ID=43093485
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009087999A Pending JP2010239575A (en) | 2009-03-31 | 2009-03-31 | Content playback apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010239575A (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1011092A (en) * | 1996-06-20 | 1998-01-16 | Hitachi Ltd | Coded voice signal decoding device |
JPH10164508A (en) * | 1996-12-02 | 1998-06-19 | Nec Corp | Audio/video synchronous reproducing device |
JPH11331792A (en) * | 1998-05-08 | 1999-11-30 | Sony Corp | Client device and server-client system |
-
2009
- 2009-03-31 JP JP2009087999A patent/JP2010239575A/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1011092A (en) * | 1996-06-20 | 1998-01-16 | Hitachi Ltd | Coded voice signal decoding device |
JPH10164508A (en) * | 1996-12-02 | 1998-06-19 | Nec Corp | Audio/video synchronous reproducing device |
JPH11331792A (en) * | 1998-05-08 | 1999-11-30 | Sony Corp | Client device and server-client system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3343935B1 (en) | Image processing device, image reproduction device, and image reproduction system | |
JP2005086826A (en) | Mms message splitting apparatus and its method in mobile terminal equipment | |
JP4894476B2 (en) | Voice transmitter and mobile communication terminal | |
JP5082152B2 (en) | Video playback device, video conversion playback system, and program | |
JP2005045357A (en) | Remote display protocol, video display system, and terminal | |
JP2010102587A (en) | Information processor | |
JP2010081489A (en) | Moving picture file transmission server and operation control method thereof | |
WO2013191037A1 (en) | Data output device, control method, and control program | |
JP2011192229A (en) | Server device and information processing method | |
JP2010239575A (en) | Content playback apparatus | |
EP1940037A2 (en) | Audio device and audio system receiving radio signal to reproduce sound | |
JP2009135769A (en) | Image processing device | |
JP2014045425A (en) | Electronic device and control method of the same | |
US20240121449A1 (en) | Information processing apparatus, control method for information processing apparatus, storage medium, information processing system, and control method for information processing system | |
JP5672873B2 (en) | Portable terminal device, frame receiving method, and frame receiving program | |
JP2004320218A (en) | Mobile terminal device and content delivery server | |
EP1940134A2 (en) | Internet telephone set with additional function to reproduce sound differing from sound based on general internet telephone, as well as internet telephone system including such internet telephone set | |
JP2016163134A (en) | Moving image playback device and program | |
WO2007099580A1 (en) | Multimedia data reproducing apparatus and method | |
KR100693552B1 (en) | Portable terminal and method for connecting and playing multi-files | |
JP2010021677A (en) | Terminal device and program | |
JP2014187491A (en) | Electronic apparatus | |
JPH11261982A (en) | Video telephone terminal, power source control method and recording medium | |
JP2011135154A (en) | Image processor and method of controlling the same | |
JP2008193317A (en) | Information processor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110411 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20110411 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120501 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120508 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120709 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121204 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130402 |