JP2010239575A - Content playback apparatus - Google Patents

Content playback apparatus Download PDF

Info

Publication number
JP2010239575A
JP2010239575A JP2009087999A JP2009087999A JP2010239575A JP 2010239575 A JP2010239575 A JP 2010239575A JP 2009087999 A JP2009087999 A JP 2009087999A JP 2009087999 A JP2009087999 A JP 2009087999A JP 2010239575 A JP2010239575 A JP 2010239575A
Authority
JP
Japan
Prior art keywords
unit
video
decoded
video frame
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009087999A
Other languages
Japanese (ja)
Inventor
Makoto Matsuoka
誠 松岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2009087999A priority Critical patent/JP2010239575A/en
Publication of JP2010239575A publication Critical patent/JP2010239575A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To reduce video signal playback display processing, when it is determined that decoding of audio signals is delayed. <P>SOLUTION: An audio output controller 54f reads out audio signals decoded by an audio decoder 54d and stored in a decoded audio buffer 54e; sends the audio signals to a D/A converter 25 to output them from a loudspeaker; and monitors the quantity of audio signals stored in the decoded audio buffer 54e. When the quantity is less than a predetermined threshold, a video decoder 54b is instructed to store video images into a decoded video buffer 54c, by thinning a video frame decoded by the video decoder 54b. Thus, the processing for an application unit 53 for processing the video frames stored in the decoded video buffer 54c and for writing them into a display RAM 22 is reduced. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、コンテンツ再生装置に係り、特に、再生される音声の音切れ抑制に関する。   The present invention relates to a content reproduction apparatus, and more particularly to suppression of sound interruption of reproduced audio.

符号化されたコンテンツの再生にあたり、復号などの処理を専用のDSP(Digital Signal Processor)によることなく、汎用のCPU(Central Processing Unit)によって行うことが知られている。ここで、コンテンツは、少なくとも映像と、音声とを含む。汎用のCPUは、この復号以外の処理も行うため、高負荷にあっては復号を充分な速度で行なうことができず、再生が途切れる恐れがある。特に、音声信号の復号が遅れて音切れが発生すると、コンテンツの視聴者は違和感を覚え易く、音切れの抑制が望まれる。   It is known that when reproducing the encoded content, processing such as decoding is performed by a general-purpose CPU (Central Processing Unit) without using a dedicated DSP (Digital Signal Processor). Here, the content includes at least video and audio. Since a general-purpose CPU also performs processes other than this decoding, the decoding cannot be performed at a sufficient speed under a heavy load, and reproduction may be interrupted. In particular, when sound interruption occurs due to delay in decoding of an audio signal, content viewers are likely to feel uncomfortable, and suppression of sound interruption is desired.

そこで、再生が必要な速度で行われているか否かを監視し、再生の速度が遅いと判断された場合、例えば、映像の再生を中止し、又は、複数の画質の映像が得られる場合、低画質の映像の再生に変更する処理が知られている(例えば、特許文献1参照。)。   Therefore, it is monitored whether or not the playback is performed at a necessary speed, and when it is determined that the playback speed is slow, for example, when the playback of the video is stopped or a video having a plurality of image quality is obtained, Processing for changing to low-quality video playback is known (for example, see Patent Document 1).

特開2001−346139号公報(第2、7頁、図4)JP 2001-346139 A (2nd and 7th pages, FIG. 4)

しかしながら、上述した特許文献1に開示されている方法では、映像の再生を中止する場合、視聴者が違和感を覚える問題点があり、また、複数の画質の映像が得られない場合、低画質の映像の再生に変更できない問題点があった。   However, in the method disclosed in Patent Document 1 described above, there is a problem that the viewer feels uncomfortable when the reproduction of the video is stopped. There was a problem that could not be changed to video playback.

本発明は上記問題点を解決するためになされたもので、音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減するコンテンツ再生装置を提供することを目的とする。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide a content playback apparatus that reduces video signal playback display processing when it is determined that audio signal decoding is delayed. .

上記目的を達成するために、本発明のコンテンツ再生装置は、少なくとも符号化された映像フレームと符号化された音声信号とを含むコンテンツを再生するコンテンツ再生装置であって、前記符号化された映像フレームを復号する映像復号手段と、前記映像復号手段によって復号された映像フレームを表示手段に表示させるアプリケーション手段と、前記符号化された音声信号を復号する音声復号手段と、前記音声復号手段によって復号された音声信号を記憶する復号音声記憶手段と、前記復号音声記憶手段に記憶された復号された音声信号をスピーカから出力させる音声出力制御手段とを有し、前記復号音声記憶手段に記憶された復号された音声信号の量が所定の閾値より少ない場合、前記映像復号手段は、前記符号化された映像フレームを間引いて復号し、及び/又は、前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームを間引いて前記表示手段に表示させることを特徴とする。   In order to achieve the above object, a content playback apparatus of the present invention is a content playback apparatus for playing back content including at least an encoded video frame and an encoded audio signal, wherein the encoded video is Video decoding means for decoding the frame, application means for displaying the video frame decoded by the video decoding means on the display means, audio decoding means for decoding the encoded audio signal, and decoding by the audio decoding means Decoded speech storage means for storing the decoded speech signal, and speech output control means for outputting the decoded speech signal stored in the decoded speech storage means from a speaker, and stored in the decoded speech storage means When the amount of the decoded audio signal is less than a predetermined threshold, the video decoding means Thinned and decode and / or the application unit may be displayed on the display means by thinning out video frames decoded by said video decoding means.

本発明によれば、音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減することができる。   According to the present invention, when it is determined that the decoding of the audio signal is delayed, it is possible to reduce the reproduction / display processing of the video signal.

本発明の実施形態に係る移動通信装置のハードウェア構成を示すブロック図。The block diagram which shows the hardware constitutions of the mobile communication apparatus which concerns on embodiment of this invention. 本発明の実施形態に係る移動通信装置のソフトウェア構成を示すブロック図。The block diagram which shows the software structure of the mobile communication apparatus which concerns on embodiment of this invention. 本発明の実施形態に係るコンテンツ復号部の詳細な構成を示すブロック図。The block diagram which shows the detailed structure of the content decoding part which concerns on embodiment of this invention. 本発明の実施形態に係るアプリケーション部によるコンテンツ再生出力動作のフローチャート。The flowchart of the content reproduction output operation | movement by the application part which concerns on embodiment of this invention. 本発明の実施形態に係る音声出力制御部による映像信号の処理を削減させる動作のフローチャート。The flowchart of the operation | movement which reduces the process of the video signal by the audio | voice output control part which concerns on embodiment of this invention. 本発明の実施形態に係る映像信号の処理の削減の状況を示す図。The figure which shows the condition of the reduction | restoration of the process of the video signal which concerns on embodiment of this invention.

以下に、本発明の実施形態に係るコンテンツ再生装置が適用された移動通信装置の実施の形態を、図面を参照して説明する。図1は、本発明の実施形態に係る移動通信装置のハードウェア構成を示すブロック図である。   Hereinafter, an embodiment of a mobile communication device to which a content reproduction device according to an embodiment of the present invention is applied will be described with reference to the drawings. FIG. 1 is a block diagram showing a hardware configuration of a mobile communication device according to an embodiment of the present invention.

この移動通信装置は、ベースバンドグループに属する移動通信網通信部11と、移動通信網の基地局(図示せず)との間で電波の送受信を行うアンテナ11aと、通話用のスピーカ11bと、通話用のマイクロフォン11cと、ベースバンドCPU12と、アプリケーショングループに属する近距離通信部21と、近距離通信網のアクセスポイント(図示せず)との間で電波の送受信を行うアンテナ21aと、表示用RAM(Random Access Memory)22と、表示部23と、入力部24と、D/A(Digital/Analog)変換部25と、コンテンツ再生用のスピーカ26と、アプリケーションCPU27と、2つのグループの各部によってアクセスされる1次記憶部31と、2次記憶部32とからなる。   The mobile communication device includes a mobile communication network communication unit 11 belonging to a baseband group, an antenna 11a that transmits and receives radio waves between a base station (not shown) of the mobile communication network, a speaker 11b for calling, Microphone 11c for call, baseband CPU 12, near field communication unit 21 belonging to application group, antenna 21a for transmitting / receiving radio waves to / from an access point (not shown) of the near field communication network, and display A RAM (Random Access Memory) 22, a display unit 23, an input unit 24, a D / A (Digital / Analog) conversion unit 25, a content reproduction speaker 26, an application CPU 27, and each unit of the two groups. It consists of a primary storage unit 31 and a secondary storage unit 32 to be accessed.

なお、このブロック図では、各部は、全てが共通のバスによって接続されているように図示したが、これは、理解を容易にするためで、これに限らない。ベースバンドグループに属する各部を接続するバス、アプリケーショングループに属する各部を接続するバス、これらのバスを接続するバスとを有する構成であっても良い。   In this block diagram, all the units are illustrated as being connected by a common bus, but this is for the sake of easy understanding and is not limited thereto. A configuration including a bus that connects each unit belonging to the baseband group, a bus that connects each unit belonging to the application group, and a bus that connects these buses may be used.

また、1次記憶部31と、2次記憶部32とは、2つのグループの各部によってアクセスされるとしたが、これは、理解を容易にするためで、これに限らない。これに代えて、又は、加えて、各グループ専用の1次記憶部と、2次記憶部とを有する構成であっても良い。   In addition, although the primary storage unit 31 and the secondary storage unit 32 are accessed by the respective units of the two groups, this is for ease of understanding and is not limited thereto. Instead of or in addition, a configuration having a primary storage unit dedicated to each group and a secondary storage unit may be used.

上記のように構成された、本発明の実施形態に係る情報処理装置のハードウェアの各部の動作を、図1を参照して説明する。   The operation of each part of the hardware of the information processing apparatus according to the embodiment of the present invention configured as described above will be described with reference to FIG.

移動通信網通信部11は、移動通信網の基地局(図示せず)から送信され、アンテナ11aが受信した高周波信号を増幅、周波数変換及び復調し、それによって得られたデジタル音声信号をアナログ音声信号に変換し、それを増幅してスピーカ11bに送る。また、得られた制御信号をベースバンド制御部に送る。ここで、ベースバンド制御部は、ベースバンドCPU12を利用するソフトウェアであり、ベースバンドグループに属する各部の制御を行う。   The mobile communication network communication unit 11 amplifies, converts and demodulates a high frequency signal transmitted from a base station (not shown) of the mobile communication network and received by the antenna 11a, and converts the digital audio signal obtained thereby into an analog audio signal. It converts into a signal, amplifies it, and sends it to the speaker 11b. The obtained control signal is sent to the baseband control unit. Here, the baseband control unit is software using the baseband CPU 12 and controls each unit belonging to the baseband group.

また、移動通信網通信部11は、マイクロフォン11cから出力されるアナログ音声信号を増幅し、それを変換したデジタル音声信号と、ベースバンド制御部から出力される制御信号とを変調、周波数変換及び増幅し、高周波信号を得てアンテナ11aより送信する。   The mobile communication network communication unit 11 amplifies the analog audio signal output from the microphone 11c, modulates the digital audio signal converted from the analog audio signal, and the control signal output from the baseband control unit, converts the frequency, and amplifies the signal. Then, a high frequency signal is obtained and transmitted from the antenna 11a.

ベースバンドCPU12は、ベースバンド制御部を含む、ベースバンドグループに属する各部に係るソフトウェアによって利用され、1次記憶部31と、2次記憶部32とを参照して動作する。   The baseband CPU 12 is used by software related to each unit belonging to the baseband group including the baseband control unit, and operates with reference to the primary storage unit 31 and the secondary storage unit 32.

近距離通信部21は、無線LAN(Local Area Network)通信を行う。即ち、インターネット網のアクセスポイント(図示せず)から送信され、アンテナ21aが受信した高周波信号を増幅、周波数変換及び復調し、それによって得られた制御信号をアプリケーション制御部に送る。アプリケーション制御部は、アプリケーションCPU27を利用するソフトウェアであり、アプリケーショングループに属する各部の制御を行う。また、近距離通信部21は、得られたデジタルコンテンツ信号をアプリケーショングループ内のコンテンツバッファに記憶させる。   The short-range communication unit 21 performs wireless LAN (Local Area Network) communication. That is, a high-frequency signal transmitted from an access point (not shown) of the Internet network and received by the antenna 21a is amplified, frequency-converted and demodulated, and a control signal obtained thereby is sent to the application control unit. The application control unit is software that uses the application CPU 27 and controls each unit belonging to the application group. The short-range communication unit 21 stores the obtained digital content signal in a content buffer in the application group.

なお、コンテンツバッファを含む、全てのバッファは、1次記憶部31及び/又は2次記憶部32内に設定された記憶領域である。その記憶領域の管理方法は、ファイルシステムであるか、サイクリック方式、即ち、記憶領域に情報が順次記憶され、全ての領域に情報が記憶された場合、最も古く記憶された情報が記憶されていた領域に新たに情報を記憶させる方式であるか、変数に割り当てられ、何ら構造を持たない方式であるかなどを問わない。   All the buffers including the content buffer are storage areas set in the primary storage unit 31 and / or the secondary storage unit 32. The storage area management method is a file system or cyclic method, that is, when information is sequentially stored in the storage area and information is stored in all areas, the oldest stored information is stored. It does not matter whether the information is stored in a new area or is assigned to a variable and has no structure.

近距離通信部21は、更に、アプリケーション制御部から出力される制御信号を変調、周波数変換及び増幅し、高周波信号を得てアンテナ21aより送信する。   The short-range communication unit 21 further modulates, frequency converts, and amplifies the control signal output from the application control unit, obtains a high-frequency signal, and transmits it from the antenna 21a.

表示用RAM22は、アプリケーション制御部の指示に従ったアプリケーションCPU27を利用するソフトウェアによって書き込まれた、表示部23に表示される画像イメージを記憶する。この画像イメージは、任意の静止画像であって、コンテンツの映像、カーソルを含む文字・数字などを含む。   The display RAM 22 stores an image image displayed on the display unit 23 written by software using the application CPU 27 in accordance with an instruction from the application control unit. This image image is an arbitrary still image, and includes an image of content, letters / numbers including a cursor, and the like.

表示部23は、例えば、バックライト付きのLCD(Liquid Crystal Display)であり、アプリケーション制御部の制御に従って、表示用RAM22に記憶された画像イメージを表示し、又は、表示を停止する。   The display unit 23 is, for example, an LCD (Liquid Crystal Display) with a backlight, and displays an image image stored in the display RAM 22 or stops display according to control of the application control unit.

入力部24は、通信相手の電話番号などを指定し、また、トグル式の入力方式によってひらがな文字、アルファベット文字及び記号文字を入力するための数字キーと、カーソル移動キーやスクロールキーを含む複数の機能キーとを含むキーからなる。そして、入力部24のキーが押下されると、そのキーの識別子をアプリケーション制御部に通知する。   The input unit 24 designates a telephone number of a communication partner, and a plurality of keys including a numeric key for inputting hiragana characters, alphabetic characters and symbol characters by a toggle type input method, a cursor movement key, and a scroll key. It consists of keys including function keys. When the key of the input unit 24 is pressed, the identifier of the key is notified to the application control unit.

D/A変換部25は、アプリケーション制御部の指示に従ったアプリケーションCPU27を利用するソフトウェアによって送信されたPCM(Pulse Code Modulation)信号であるデジタル音声信号をアナログ音声信号に変換し、変換されたアナログ音声信号をスピーカ26から発生させる。   The D / A conversion unit 25 converts a digital audio signal, which is a PCM (Pulse Code Modulation) signal transmitted by software using the application CPU 27 in accordance with an instruction from the application control unit, into an analog audio signal, and converts the converted analog audio signal. An audio signal is generated from the speaker 26.

アプリケーションCPU27は、アプリケーション制御部を含む、アプリケーショングループに属する各部に係るソフトウェアによって利用され、1次記憶部31と、2次記憶部32とを参照して動作する。   The application CPU 27 is used by software related to each unit belonging to the application group including the application control unit, and operates with reference to the primary storage unit 31 and the secondary storage unit 32.

図2は、本発明の実施形態に係る移動通信装置のソフトウェア構成を示すブロック図であって、記憶構成を併せて示す。この移動通信装置は、ベースバンドグループに属するベースバンド制御部41と、アプリケーショングループに属するアプリケーション制御部51と、近距離通信部21によって受信されたコンテンツが記憶されるコンテンツバッファ52と、アプリケーション部53と、コンテンツ復号部54と、画像編集ライブラリ55とからなる。   FIG. 2 is a block diagram showing a software configuration of the mobile communication apparatus according to the embodiment of the present invention, and also shows a storage configuration. This mobile communication device includes a baseband control unit 41 belonging to a baseband group, an application control unit 51 belonging to an application group, a content buffer 52 in which content received by the short-range communication unit 21 is stored, and an application unit 53 And a content decrypting unit 54 and an image editing library 55.

ベースバンドグループ全体の制御を行うベースバンド制御部41と、アプリケーショングループ全体の制御を行うアプリケーション制御部51とは、接続されている。この接続によって、異なるグループに属する部分同士であっても情報の送受が可能であり、本実施の形態において、情報の送受に関し、ベースバンド制御部41及びアプリケーション制御部51を経由することを省略して説明している。   A baseband control unit 41 that controls the entire baseband group and an application control unit 51 that controls the entire application group are connected. With this connection, information can be transmitted / received even between parts belonging to different groups, and in this embodiment, the information transmission / reception is not performed via the baseband control unit 41 and the application control unit 51. Explained.

図3は、コンテンツ復号部54の詳細な構成を示すブロック図であり、アプリケーション部53によってコンテンツバッファ52に記憶されたコンテンツが再生されるまでのコンテンツの流れを併せて示す。ここで、矢印は、コンテンツの流れを示す。   FIG. 3 is a block diagram showing a detailed configuration of the content decrypting unit 54, and also shows a flow of content until the content stored in the content buffer 52 is reproduced by the application unit 53. Here, the arrows indicate the flow of content.

コンテンツ復号部54は、コンテンツバッファ52と接続される分離部54aと、映像復号部54bと、アプリケーション部53と接続され、映像復号部54bによって復号された映像信号が記憶される復号映像バッファ54cと、音声復号部54dと、音声復号部54dによって復号された音声信号が記憶される復号音声バッファ54eと、D/A変換部25と接続される音声出力制御部54fとからなる。   The content decoding unit 54 is connected to the content buffer 52, a separation unit 54a, a video decoding unit 54b, an application unit 53, and a decoded video buffer 54c that stores a video signal decoded by the video decoding unit 54b. The audio decoding unit 54d, the decoded audio buffer 54e in which the audio signal decoded by the audio decoding unit 54d is stored, and the audio output control unit 54f connected to the D / A conversion unit 25.

上記のように構成された、本発明の実施形態に係る情報処理装置のソフトウェアの各部の動作を、図2及び図3を参照して説明する。   The operation of each part of the software of the information processing apparatus according to the embodiment of the present invention configured as described above will be described with reference to FIGS.

アプリケーション部53は、例えば、ブラウザであって、近距離通信部21に指示してコンテンツを受信させる。そして、その受信によってコンテンツバッファ52に記憶された、又は、記憶されつつあるコンテンツを、表示部23に表示させ、また、スピーカ26から発生させる。ここで、上記コンテンツの中で、H.263方式、MP3方式などによって符号化された映像及び音声コンテンツは、コンテンツ復号部54に復号させ、復号された音声信号はコンテンツ復号部54に指示してスピーカ26から発生させる。一方、アプリケーション部53は、復号された映像信号と、コンテンツ復号部54の復号を要さない画像とから表示される画像を作成して表示部23に表示させる。   The application unit 53 is a browser, for example, and instructs the short-range communication unit 21 to receive content. Then, the content stored or being stored in the content buffer 52 by the reception is displayed on the display unit 23 and generated from the speaker 26. Here, H. The video and audio content encoded by the H.263 system, the MP3 system, or the like is decoded by the content decoding unit 54, and the decoded audio signal is instructed to the content decoding unit 54 to be generated from the speaker 26. On the other hand, the application unit 53 creates an image to be displayed from the decoded video signal and an image that does not need to be decoded by the content decoding unit 54 and causes the display unit 23 to display the image.

コンテンツ復号部54の各部の動作を説明する。コンテンツ復号部54の各部は、アプリケーション部53の指示に従って動作する。分離部54aは、コンテンツバッファ52に記憶され、アプリケーション部53によって指定されたH.263方式、MP3方式などによって符号化された映像及び音声コンテンツを読み出す。そして、そのコンテンツを映像信号と、音声信号とに分離し、映像信号を映像復号部54bに、音声信号を音声復号部54dに送る。   The operation of each unit of the content decrypting unit 54 will be described. Each unit of the content decryption unit 54 operates according to an instruction from the application unit 53. The separation unit 54 a is stored in the content buffer 52 and designated by the application unit 53. Video and audio content encoded by the H.263 system, the MP3 system, or the like is read. Then, the content is separated into a video signal and an audio signal, and the video signal is sent to the video decoding unit 54b and the audio signal is sent to the audio decoding unit 54d.

映像復号部54bは、受信された符号化された映像信号を復号する。ここで、符号化された映像信号は、所定の時間間隔で切り出された静止画像(以後、映像フレームと称する。)が符号化された信号である。そこで、映像フレーム毎に復号する。そして、アプリケーション部53から復号された映像フレームの要求があると、映像フレームと、その映像フレームが符号化されていた際に付されていたタイムスタンプと共に復号映像バッファ54cに記憶させ、アプリケーション部53に提供する。   The video decoding unit 54b decodes the received encoded video signal. Here, the encoded video signal is a signal in which a still image (hereinafter referred to as a video frame) cut out at a predetermined time interval is encoded. Therefore, decoding is performed for each video frame. Then, when there is a request for a decoded video frame from the application unit 53, the decoded video buffer 54c is stored together with the video frame and a time stamp attached when the video frame was encoded. To provide.

なお、映像復号部54bは、復号された映像フレームの全てをアプリケーション部53に提供するとは限らない。音声出力制御部54fの指示に従って、その一部を提供しない、即ち、間引くことがある。この間引かれる映像フレームの復号は、行われる必要はない。例えば、映像フレームの1つがフレーム内符号化され、その映像フレームに続く所定個数の映像フレームが直前の映像フレームを参照するフレーム間符号化されている場合、フレーム内符号化された直前のフレーム間符号化された映像フレームが間引かれるなら、そのフレームを復号する必要はない。しかしながら、間引かれる映像フレームを参照するフレーム間符号化された映像フレームを提供する場合、間引かれる映像フレームの復号を行なう。   Note that the video decoding unit 54 b does not necessarily provide all of the decoded video frames to the application unit 53. In accordance with an instruction from the audio output control unit 54f, a part thereof may not be provided, that is, thinned out. Decoding of the thinned video frame does not need to be performed. For example, when one of the video frames is intra-frame encoded and a predetermined number of video frames following the video frame are inter-frame encoded with reference to the immediately preceding video frame, If an encoded video frame is skipped, it is not necessary to decode that frame. However, when providing an interframe-encoded video frame that refers to a thinned video frame, the thinned video frame is decoded.

音声復号部54dは、受信された符号化された音声信号を復号する。ここで、符号化された音声信号は、所定の時間幅で切り出された音声信号が符号化された信号である。そこで、その切り出された音声信号毎に復号し、得られたPCM信号であるデジタル音声信号を復号音声バッファ54eに記憶させる。符号化された音声信号の一部には、タイムスタンプが付されている。そこで、そのタイムスタンプは、復号された音声信号と共に、復号音声バッファ54eに記憶させる。   The audio decoding unit 54d decodes the received encoded audio signal. Here, the encoded audio signal is a signal obtained by encoding an audio signal cut out with a predetermined time width. Therefore, each extracted audio signal is decoded, and the obtained digital audio signal, which is a PCM signal, is stored in the decoded audio buffer 54e. A time stamp is attached to a part of the encoded audio signal. Therefore, the time stamp is stored in the decoded audio buffer 54e together with the decoded audio signal.

音声出力制御部54fは、復号音声バッファ54eに記憶されたタイムスタンプを参照しつつ、そこに記憶された復号された音声信号をD/A変換部25に送ることによって、スピーカ26から発生させる。音声出力制御部54fは、発生された音声信号を復号音声バッファ54eから削除する。   The audio output control unit 54f refers to the time stamp stored in the decoded audio buffer 54e, and sends the decoded audio signal stored therein to the D / A conversion unit 25 to generate it from the speaker 26. The audio output control unit 54f deletes the generated audio signal from the decoded audio buffer 54e.

また、音声出力制御部54fは、復号音声バッファ54eに記憶された復号された音声信号の量を監視する。この量が所定の量より少ない場合、音声復号部54dの処理が遅れている、即ち、アプリケーションCPU27の負荷が過度に高いと判断し、映像復号部54bに、符号化された映像フレームの全てをアプリケーション部53に提供することなく、その一部を提供しない指示をする。   The audio output control unit 54f monitors the amount of the decoded audio signal stored in the decoded audio buffer 54e. When this amount is smaller than the predetermined amount, it is determined that the processing of the audio decoding unit 54d is delayed, that is, the load on the application CPU 27 is excessively high, and the video decoding unit 54b receives all of the encoded video frames. The application unit 53 is instructed not to be provided without being provided.

画像編集ライブラリ55は、静止画像の編集を行うソフトウェアパッケージである。即ち、与えられた静止画像の合成や、色調の変更や、大きさの変更を行う。ここで、大きさの変更は、縮小、拡大、一部分の切り出しを含む。縮小や、拡大は、表示部23の画面解像度に従って、静止画像を表す画素数の変更を伴うことがある。また、静止画像には、画像とされて表示される文字を含む。   The image editing library 55 is a software package for editing a still image. That is, synthesis of a given still image, change in color tone, and change in size are performed. Here, the change in size includes reduction, enlargement, and partial cutout. Reduction or enlargement may involve changing the number of pixels representing a still image in accordance with the screen resolution of the display unit 23. Still images include characters that are displayed as images.

以下、本発明の実施形態に係わる移動通信装置による音声信号の復号が遅れていると判断された場合、映像信号の再生表示処理を削減する動作を説明する。   Hereinafter, an operation for reducing the reproduction display processing of the video signal when it is determined that the decoding of the audio signal by the mobile communication device according to the embodiment of the present invention is delayed will be described.

(アプリケーション部53によるコンテンツの再生出力動作)
図4は、アプリケーション部53によるコンテンツの再生出力動作のフローチャートを示す。アプリケーション部53は、入力部24の所定のキー操作によってコンテンツの再生出力動作を開始し(ステップS101)、そのキー操作によって指定されたコンテンツを近距離通信部21に指示して受信開始させる(ステップS102)。
(Content reproduction output operation by the application unit 53)
FIG. 4 shows a flowchart of the content reproduction output operation by the application unit 53. The application unit 53 starts a content reproduction output operation by a predetermined key operation of the input unit 24 (step S101), and instructs the short-range communication unit 21 to start receiving the content specified by the key operation (step S101). S102).

このコンテンツは、H.263方式によって符号化された映像及びMP3方式によって符号化された音声コンテンツを含み、アプリケーション部53は、そのH.263方式及びMP3方式によって符号化されたコンテンツを復号させると共に、復号された音声信号をスピーカ26から発生させることを、コンテンツ復号部54の各部に指示する(ステップS103)。   This content is The application unit 53 includes the video encoded by the H.263 system and the audio content encoded by the MP3 system. Instruct each unit of the content decoding unit 54 to decode the content encoded by the H.263 method and the MP3 method and to generate a decoded audio signal from the speaker 26 (step S103).

そして、表示部23に表示されていない映像フレームの有無を判断する(ステップS104)。この判断は、H.263方式によって符号化されたコンテンツの冒頭に含まれるコンテンツを再生するために必要な時間と、映像フレームに付加されたタイムスタンプによって判断可能である。また、アプリケーション部53は、映像復号部54bに提供されていない映像フレームの有無を照会することによって判断しても良い。   Then, the presence / absence of a video frame not displayed on the display unit 23 is determined (step S104). This determination is made by H.H. This can be determined by the time required to reproduce the content included in the beginning of the content encoded by the H.263 method and the time stamp added to the video frame. Further, the application unit 53 may make a determination by inquiring whether there is a video frame that is not provided to the video decoding unit 54b.

表示されていない映像フレームがある場合、アプリケーション部53は、次に表示すべき映像フレームを映像復号部54bに要求し、復号映像バッファ54cからその映像フレームを取得する(ステップS105)。そして、その映像フレームと、近距離通信部21によって受信されたコンテンツの中で、コンテンツ復号部54に復号を要求しない情報、例えば、静止画像や、文字とを組み合わせて、表示部23のアプリケーション部53に割り当てられたウィンドウに表示される画像を、画像編集ライブラリ55を用いて作成する(ステップS106)。この表示される画像は、例えば、Webページ中に指定されたページ内の配置に従った画像である。   If there is a video frame that is not displayed, the application unit 53 requests the video frame to be displayed next from the video decoding unit 54b, and acquires the video frame from the decoded video buffer 54c (step S105). Then, in the content received by the short-range communication unit 21, the application unit of the display unit 23 combines information that does not require the content decoding unit 54 to decode, for example, a still image or a character. An image displayed in the window assigned to 53 is created using the image editing library 55 (step S106). This displayed image is, for example, an image according to the arrangement in the page specified in the Web page.

作成された表示される画像を、ステップS105で取得された映像フレームに付加されたタイムスタンプが示す時刻に、表示用RAM22に記憶させることによって表示部23に表示させ(ステップS107)、ステップS104の判断動作に移る。なお、このように、タイムスタンプを参照して表示用RAM22に記憶させることによって、ステップS107の動作によって表示される映像と、コンテンツ復号部54によって出力される音声との同期が取られる。   The created image to be displayed is displayed on the display unit 23 by being stored in the display RAM 22 at the time indicated by the time stamp added to the video frame acquired in step S105 (step S107). Move to judgment operation. In this way, by referring to the time stamp and storing it in the display RAM 22, the video displayed by the operation of step S107 and the audio output by the content decoding unit 54 are synchronized.

なお、ステップS104〜ステップS107のループの動作の間に、アプリケーション部53に割り当てられたウィンドウの大きさの変更、スクロール要求などが入力部24の所定のキー操作によって行われた場合、アプリケーション部53は、ステップS106で、併せてその要求に従った画像を、画像編集ライブラリ55を用いて作成する。また、ステップS105で、映像フレームを取得することができない場合、表示されていない映像フレームがないと判断する(図示せず)。   If a change in the size of the window allocated to the application unit 53, a scroll request, or the like is performed by a predetermined key operation of the input unit 24 during the loop operation of step S104 to step S107, the application unit 53 In step S106, an image according to the request is created using the image editing library 55. In step S105, if a video frame cannot be acquired, it is determined that there is no video frame not displayed (not shown).

一方、ステップS104で、表示されていない映像フレームがない場合、アプリケーション部53は、コンテンツの再生出力動作を終了する(ステップS108)。ここで、近距離通信部21及びコンテンツ復号部54の各部の動作を停止させる。なお、表示用RAM22に記憶された画像に変更を加えないので、表示部23の表示は、消去されることはない。   On the other hand, if there is no undisplayed video frame in step S104, the application unit 53 ends the content reproduction output operation (step S108). Here, the operation of each unit of the short-range communication unit 21 and the content decryption unit 54 is stopped. Since the image stored in the display RAM 22 is not changed, the display on the display unit 23 is not erased.

(音声出力制御部54fによる映像信号の再生表示処理を削減させる動作)
図5は、音声出力制御部54fによる映像信号の再生表示処理を削減させる動作のフローチャートを示す。音声出力制御部54fは、アプリケーション部53の指示に従って動作を開始し(ステップS201)、復号音声バッファ54eから復号された音声信号を読み出してD/A変換部25へ送って、スピーカ26から発生させ、読み出された音声信号を復号音声バッファ54eから削除する(ステップS202)。ここで、読み出す音声信号の量は、1回又は複数回に渡って復号された音声信号であるが、例えば、音声出力制御部54fが備える記憶領域の大きさに依存した量である。
(Operation for reducing video signal reproduction / display processing by the audio output control unit 54f)
FIG. 5 is a flowchart of an operation for reducing the video signal reproduction / display processing by the audio output control unit 54f. The audio output control unit 54f starts operation according to the instruction of the application unit 53 (step S201), reads out the decoded audio signal from the decoded audio buffer 54e, sends it to the D / A conversion unit 25, and generates it from the speaker 26 The read audio signal is deleted from the decoded audio buffer 54e (step S202). Here, the amount of the audio signal to be read out is an audio signal decoded once or a plurality of times. For example, the amount depends on the size of the storage area provided in the audio output control unit 54f.

そして、音声出力制御部54fは、復号音声バッファ54eに記憶された音声信号のデータ量を第1の閾値Aと比較する(ステップS203)。第1の閾値A以上である場合、復号音声バッファ54eに記憶された音声信号のデータ量を、第1の閾値Aを超える第2の閾値Bと比較する(ステップS204)。第2の閾値B以上である場合、アプリケーションCPU27の負荷を調べる(ステップS205)。この負荷は、アプリケーション制御部51のOS機能に問い合わせることによって調べることができる。   Then, the audio output control unit 54f compares the data amount of the audio signal stored in the decoded audio buffer 54e with the first threshold A (step S203). If it is equal to or greater than the first threshold A, the data amount of the audio signal stored in the decoded audio buffer 54e is compared with a second threshold B exceeding the first threshold A (step S204). If it is greater than or equal to the second threshold B, the load on the application CPU 27 is examined (step S205). This load can be checked by inquiring the OS function of the application control unit 51.

アプリケーションCPU27の負荷が所定の閾値以下の場合、音声出力制御部54fは、映像復号部54bに対し、全ての映像フレームをアプリケーション部53に提供する旨を指示して(ステップS206)、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。   When the load of the application CPU 27 is equal to or less than the predetermined threshold, the audio output control unit 54f instructs the video decoding unit 54b to provide all video frames to the application unit 53 (step S206), and the video signal The operation for reducing the reproduction display process is terminated (step S207).

ステップS204で閾値B未満の場合、及び、ステップS205で所定の閾値を超える場合、音声出力制御部54fは、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。なお、ステップS203で第1の閾値A以上である場合、直前の映像復号部54bに対する指示が一部の映像フレームをアプリケーション部53に提供する旨でなければ、音声出力制御部54fは、直ちにステップS207へ移って、映像信号の再生表示処理を削減させる動作を終了することと同じ動作となる。   If it is less than the threshold value B in step S204, and if the predetermined threshold value is exceeded in step S205, the audio output control unit 54f ends the operation for reducing the video signal reproduction display processing (step S207). Note that if it is equal to or greater than the first threshold A in step S203, the audio output control unit 54f immediately performs step unless the instruction to the video decoding unit 54b immediately provides a part of video frames to the application unit 53. Moving to S207, the operation is the same as ending the operation of reducing the video signal reproduction / display processing.

ステップS203で、第1の閾値A未満である場合、音声出力制御部54fは、一部の映像フレームをアプリケーション部53に提供する旨を指示して(ステップS208)、映像信号の再生表示処理を削減させる動作を終了する(ステップS207)。   If it is less than the first threshold A in step S203, the audio output control unit 54f instructs the application unit 53 to provide a part of the video frames (step S208), and performs video signal reproduction display processing. The reduction operation is terminated (step S207).

なお、ステップS208の動作にあたり、直前の映像復号部54bに対する指示が全部の映像フレームをアプリケーション部53に提供する旨でなければ、音声出力制御部54fは、直ちにステップS207へ移って、映像信号の再生表示処理を削減させる動作を終了することと同じ動作となる。ここで、音声出力制御部54fが動作を開始した際、直前の映像復号部54bに対する指示は、全部の映像フレームをアプリケーション部53に提供する旨であるとみなす。   In the operation of step S208, if the instruction to the video decoding unit 54b immediately before does not provide all the video frames to the application unit 53, the audio output control unit 54f immediately moves to step S207, and the video signal This is the same operation as ending the operation for reducing the reproduction display processing. Here, when the audio output control unit 54f starts operation, the instruction to the immediately preceding video decoding unit 54b is considered to provide all the video frames to the application unit 53.

復号音声バッファ54eに記憶された音声信号のデータ量を2つの閾値、即ち、第1の閾値Aと、第2の閾値Bと比較することは、周知の手法である。即ち、1つの閾値と比較すると、そのデータ量がその閾値以上と、その閾値未満との間を頻繁に上下する場合、ステップS206の全ての映像フレームを提供させる指示と、ステップS208の一部の映像フレームを提供させる指示とが無用に頻繁に行われる可能性がある。2つの閾値と比較すれば、この頻繁な指示がされることがない。   It is a well-known technique to compare the data amount of the audio signal stored in the decoded audio buffer 54e with two threshold values, that is, the first threshold value A and the second threshold value B. That is, when compared with one threshold value, when the data amount frequently fluctuates between the threshold value and less than the threshold value, an instruction to provide all video frames in step S206 and a part of step S208 are provided. There is a possibility that an instruction to provide a video frame is frequently performed unnecessarily. If compared with two threshold values, this frequent instruction is not given.

(映像復号部54bによる復号された映像フレームの全部又は一部を提供する動作)
映像復号部54bは、全部の映像フレームをアプリケーション部53に提供する旨の指示を音声出力制御部54fから受けた場合、及び、映像復号部54bが動作を開始した際、アプリケーション部53からの映像フレームの要求に応じて、復号された映像フレームで、次に表示部23に表示されるべき1つの映像フレームを復号映像バッファ54cに記憶させて、アプリケーション部53に提供する。ここで、映像フレームには、その映像フレームが表示部23に表示されるべき時刻を示すタイムスタンプを付す。
(Operation for providing all or part of the decoded video frame by the video decoding unit 54b)
The video decoding unit 54b receives a video from the application unit 53 when receiving an instruction from the audio output control unit 54f to provide all video frames to the application unit 53, and when the video decoding unit 54b starts operating. In response to the frame request, one decoded video frame to be displayed next on the display unit 23 is stored in the decoded video buffer 54c and provided to the application unit 53. Here, a time stamp indicating the time when the video frame should be displayed on the display unit 23 is attached to the video frame.

映像復号部54bは、一部の映像フレームをアプリケーション部53に提供する旨の指示を音声出力制御部54fから受けた場合、アプリケーション部53からの映像フレーム要求に応じて、復号された映像フレームの中の所定の割合の映像フレーム、例えば、タイムスタンプ順で、2つに1つの映像フレームを選択し、選択された映像フレームで、次に表示部23に表示されるべき1つの映像フレームを復号映像バッファ54cに記憶させて、アプリケーション部53に提供する。   When receiving an instruction from the audio output control unit 54f to provide some video frames to the application unit 53, the video decoding unit 54b responds to the video frame request from the application unit 53 with the decoded video frame. A predetermined percentage of the video frames, for example, one video frame is selected in order of time stamp, and one video frame to be displayed next on the display unit 23 is decoded with the selected video frame. The data is stored in the video buffer 54 c and provided to the application unit 53.

なお、映像復号部54bは、タイムスタンプを参照することにより、既に表示部23に表示する時刻が過ぎたと判断される映像フレームを検出し、その検出されたフレームを提供することはない。このため、映像復号部54bからの指示によらず、一部の映像フレームを破棄することがある。   The video decoding unit 54b refers to the time stamp to detect a video frame that has already been determined that the time to be displayed on the display unit 23 has passed, and does not provide the detected frame. For this reason, some video frames may be discarded regardless of an instruction from the video decoding unit 54b.

以上説明したように、映像復号部54bは、音声出力制御部54fからの指示に従って、直ちにアプリケーション部53に提供する映像フレームの数を変化させ、最少の遅れ時間によってアプリケーションCPU27の負荷を変化させることができる。このために、復号映像バッファ54cには、1つの映像フレームを記憶させることが有効であって、復号映像バッファ54cに記憶された映像フレームをアプリケーション部53に提供することなく削除するなどの記憶管理をする必要がない。   As described above, the video decoding unit 54b immediately changes the number of video frames provided to the application unit 53 in accordance with an instruction from the audio output control unit 54f, and changes the load of the application CPU 27 with the minimum delay time. Can do. For this reason, it is effective to store one video frame in the decoded video buffer 54 c, and storage management such as deleting the video frame stored in the decoded video buffer 54 c without providing it to the application unit 53. There is no need to do.

このバッファには、映像復号部54bと、アプリケーション部53との2つの処理部がアクセスするのであるから、上記記憶管理は、排他制御を含む、複雑な処理となる。一方、本実施形態によれば、復号映像バッファ54cに記憶されるまで、復号された映像フレームは、映像復号部54b内に記憶されるので、映像復号部54bによって容易に管理される。   Since the two processing units of the video decoding unit 54b and the application unit 53 access this buffer, the storage management is a complicated process including exclusive control. On the other hand, according to the present embodiment, since the decoded video frame is stored in the video decoding unit 54b until it is stored in the decoded video buffer 54c, it is easily managed by the video decoding unit 54b.

以上説明した、映像信号の再生表示を削減する動作によって、アプリケーション部53に提供される映像フレームが如何に削減されるかを、図6を参照して説明する。ここで、横軸は時刻であり、映像フレームを表示されるタイムスタンプに至ったか否かを判断するために参照される時計が示す時刻である。   How the video frames provided to the application unit 53 are reduced by the above-described operation for reducing the reproduction display of the video signal will be described with reference to FIG. Here, the horizontal axis is time, which is the time indicated by a clock that is referred to in order to determine whether or not a time stamp for displaying a video frame has been reached.

図6(a)は、復号が充分な速度で行われ、全ての映像フレームの再生表示処理が行われている場合の、アプリケーション部53からの映像フレームの要求と、その要求に応じて映像復号部54bによって提供される映像フレームとを示す。アプリケーション部53から要求1が送信されると、その要求に応じて、映像復号部54bは、映像フレーム1を適切な時刻に、即ち、そのフレームが表示される時刻T1より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。   FIG. 6A shows a request for a video frame from the application unit 53 when the decoding is performed at a sufficient speed and the playback / display processing of all the video frames is performed, and video decoding is performed in response to the request. The video frame provided by the unit 54b is shown. When the request 1 is transmitted from the application unit 53, in response to the request, the video decoding unit 54b provides the video frame 1 at an appropriate time, that is, sufficiently before the time T1 at which the frame is displayed. Thus, the application unit 53 displays the video frame.

以後、アプリケーション部53から要求iが送信されると、その要求に応じて、映像復号部54bは、映像フレームiを適切な時刻に提供することによって、アプリケーション部53は、その映像フレームを表示させる状況を、自然数iが1から6まで示した(1≦i≦6)。   Thereafter, when the request i is transmitted from the application unit 53, the video decoding unit 54b provides the video frame i at an appropriate time in response to the request, so that the application unit 53 displays the video frame. The situation is indicated by a natural number i from 1 to 6 (1 ≦ i ≦ 6).

図6(b)は、映像フレーム1が適切な時刻に提供された後、音声出力制御部54fから映像復号部54bに、映像フレームの半分を提供する指示があった場合の状況を示す。アプリケーション部53から続いて要求2が送信されると、その要求に応じて、映像復号部54bは、映像フレーム2を提供することなく、映像フレーム3を適切な時刻に、即ち、そのフレームが表示される時刻T3より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。   FIG. 6B shows a situation in which after the video frame 1 is provided at an appropriate time, the audio output control unit 54f instructs the video decoding unit 54b to provide half of the video frame. When the request 2 is subsequently transmitted from the application unit 53, in response to the request, the video decoding unit 54b displays the video frame 3 at an appropriate time without providing the video frame 2, that is, the frame is displayed. By providing it sufficiently before the time T3, the application unit 53 displays the video frame.

なお、映像フレーム3が提供される時刻は、重要な意味を持たない。例えば、そのフレームが時刻T2より充分前に提供されたとしても、その映像フレームと共に提供されるタイムスタンプによって、その映像フレームは、時刻T3に表示される。   Note that the time at which the video frame 3 is provided has no significant meaning. For example, even if the frame is provided well before time T2, the video frame is displayed at time T3 by the time stamp provided with the video frame.

続いて、アプリケーション部53から要求3が送信されると(この送信は、既に提供された映像フレーム3を表示させた時刻T3より後になる。)、その要求に応じて、映像復号部54bは、映像フレーム4を提供することなく、映像フレーム5を適切な時刻に提供する。このように、映像フレーム2及び映像フレーム4は、提供されることがない。   Subsequently, when the request 3 is transmitted from the application unit 53 (this transmission is after time T3 when the already provided video frame 3 is displayed), in response to the request, the video decoding unit 54b The video frame 5 is provided at an appropriate time without providing the video frame 4. Thus, the video frame 2 and the video frame 4 are not provided.

図6(c)は、映像フレーム1が適切な時刻に提供された後、アプリケーション部53が充分な速度で処理されず、映像復号部54bに映像フレームを要求する処理が遅れた場合の状況を示す。アプリケーション部53から続いて要求2が送信されるが、その要求は、映像フレーム2が表示される時刻T2後に送信された。そこで、映像復号部54bは、映像フレーム2を提供することなく、映像フレーム3を適切な時刻に、即ち、そのフレームが表示される時刻T3より充分前に提供することによって、アプリケーション部53は、その映像フレームを表示させる。   FIG. 6C shows a situation where the application unit 53 is not processed at a sufficient speed after the video frame 1 is provided at an appropriate time, and the processing for requesting the video frame to the video decoding unit 54b is delayed. Show. The request 2 is subsequently transmitted from the application unit 53. The request is transmitted after time T2 when the video frame 2 is displayed. Therefore, the video decoding unit 54b provides the video frame 3 at an appropriate time without providing the video frame 2, that is, sufficiently before the time T3 when the frame is displayed. The video frame is displayed.

続いて、アプリケーション部53から要求3が送信されるが、その要求は、タイムスタンプによれば、既に表示された映像フレーム3の次に表示される映像フレーム4が表示される時刻T4後に送信された。そこで、映像復号部54bは、映像フレーム4を提供することなく、映像フレーム5を適切な時刻に、即ち、そのフレームが表示される時刻T5より充分前に提供する。次に、アプリケーション部53から要求4が送信されるが、その要求は、映像フレーム6が表示される時刻T6より充分前に送信された。そこで、映像復号部54bは、映像フレーム6を適切な時刻に提供した。   Subsequently, the request 3 is transmitted from the application unit 53. The request is transmitted after time T4 when the video frame 4 to be displayed next to the video frame 3 already displayed is displayed according to the time stamp. It was. Therefore, the video decoding unit 54b provides the video frame 5 at an appropriate time without providing the video frame 4, that is, sufficiently before the time T5 when the frame is displayed. Next, a request 4 is transmitted from the application unit 53. The request is transmitted sufficiently before the time T6 when the video frame 6 is displayed. Therefore, the video decoding unit 54b provided the video frame 6 at an appropriate time.

この状況によれば、アプリケーション部53に提供されない映像フレームに規則性、例えば、連続して表示される2つの中の1つが提供されないなどはないが、アプリケーションCPU27が高負荷の場合、アプリケーション部53が再生表示する映像フレームを減らすことによって、その高負荷を緩和することができる。   According to this situation, video frames that are not provided to the application unit 53 are not provided with regularity, for example, one of the two displayed in succession is not provided, but when the application CPU 27 is heavily loaded, the application unit 53 By reducing the number of video frames to be reproduced and displayed, the high load can be reduced.

(実施形態の変形例)
以上の説明で、音声出力制御部54fは、映像復号部54bに対して、全部の映像フレームか、一部の映像フレームかをアプリケーション部53に提供するように指示をするとしたが、これに限るものではない。提供する映像フレームの全映像フレームに対する割合を3段階以上の段階を伴って、更には、浮動小数点数によって指示しても良い。当然に、復号音声バッファ54eに記憶されたデータ量が少なければ少ない程、少しの映像フレームを提供するように指示する。
(Modification of the embodiment)
In the above description, the audio output control unit 54f instructs the video decoding unit 54b to provide the application unit 53 with all video frames or some video frames. It is not a thing. The ratio of the video frames to be provided to the total video frames may be indicated by three or more stages and further by a floating point number. Naturally, the smaller the amount of data stored in the decoded audio buffer 54e, the less the video frame is instructed to be provided.

以上の説明で、復号音声バッファ54eに記憶されたデータ量を監視するのは、音声出力制御部54fであるとした。音声出力制御部54fは、概ね所定の時間間隔で復号音声バッファ54eに記憶された音声信号を読み出すので、記憶された信号の量の監視には適している。しかし、この限りではなく、そのバッファへアクセスする音声復号部54dが監視しても良い。また、音声出力制御部54fによる指示を受けるとした映像復号部54bが監視しても良い。   In the above description, it is assumed that the audio output control unit 54f monitors the amount of data stored in the decoded audio buffer 54e. Since the audio output control unit 54f reads out the audio signal stored in the decoded audio buffer 54e at approximately predetermined time intervals, it is suitable for monitoring the amount of the stored signal. However, the present invention is not limited to this, and the audio decoding unit 54d accessing the buffer may monitor. Alternatively, the video decoding unit 54b that has received an instruction from the audio output control unit 54f may monitor.

更には、アプリケーション部53が監視し、監視結果に基づいて、映像復号部54bに映像フレームを要求する時間間隔を変更しても良い。この場合、アプリケーション部53の動作に、装置依存の部分が生じる恐れがある。しかし、映像フレームを間引いてもアプリケーション部53による表示によって視聴者が違和感を覚える可能性が小さい場合、大きく間引くなど、アプリケーション部53が行うアプリケーションに依存した適切な処理が可能となる。   Furthermore, the application unit 53 may monitor, and the time interval for requesting the video frame from the video decoding unit 54b may be changed based on the monitoring result. In this case, there is a possibility that a device-dependent part occurs in the operation of the application unit 53. However, if the possibility that the viewer feels uncomfortable due to the display by the application unit 53 is small even if the video frame is thinned out, appropriate processing depending on the application performed by the application unit 53, such as a large thinning out, is possible.

以上の説明で、コンテンツ復号部54が復号するコンテンツは、1つの映像と、1つの音声を含むとしたが、これに限るものではない。それぞれ、複数であっても良い。映像復号部54bや、音声復号部54dは、アプリケーションCPU27を利用するソフトウェアであり、複数のタスクを生成することによって、何ら支障なく復号させることができる。   In the above description, the content decrypted by the content decrypting unit 54 includes one video and one audio. However, the present invention is not limited to this. Each may be plural. The video decoding unit 54b and the audio decoding unit 54d are software that uses the application CPU 27, and can be decoded without any problem by generating a plurality of tasks.

ここで、複数の映像を含む場合、映像フレームをアプリケーション部53に提供するに当たり、全ての映像の映像フレームについて、上記説明した、再生表示処理を削減する動作がされることが適切である。また、この動作が適用される映像を限定し、又は、適用される順を指定し、ある映像に適用することによって復号音声バッファ54eに記憶されたデータ量が増えた、又は、減らない場合、その他の映像には適用しないとしても良い。また、複数の音声を含む場合、音声出力制御部54fによって、その中の1つが選択される。又は、D/A変換部25によって複数の音声が加えられる。   Here, when a plurality of videos are included, in providing video frames to the application unit 53, it is appropriate that the above-described operation for reducing the playback display processing is performed on the video frames of all videos. In addition, when the video to which this operation is applied is limited or the order in which the video is applied is specified and applied to a video, the amount of data stored in the decoded audio buffer 54e has increased or does not decrease, It may not be applied to other images. When a plurality of sounds are included, the sound output control unit 54f selects one of them. Alternatively, a plurality of sounds are added by the D / A conversion unit 25.

以上の説明で、近距離通信部21は、無線LAN通信を行うとしたが、これに限るものではない。例えば、ケーブルを介してインターネットに接続されたハブと接続されることによって、インターネットに接続された装置と通信しても良い。更に、ブルートゥース(登録商標。Bluetooth)方式の通信を行っても良い。   In the above description, the short-range communication unit 21 performs wireless LAN communication, but is not limited thereto. For example, it may communicate with a device connected to the Internet by being connected to a hub connected to the Internet via a cable. Further, Bluetooth (registered trademark: Bluetooth) communication may be performed.

以上の説明で、アプリケーション部53によって再生されるコンテンツは、近距離通信部21によって受信されたコンテンツであるとした。近距離通信部21は、アプリケーショングループに属しているため、近距離通信部21による通信が不安定であり、再送が頻繁に発生する場合、通信状況をアプリケーション制御部51に通知するための割り込みが頻発する場合など、アプリケーションCPU27の負荷の変動が大きい際、この発明の効果は大きい。   In the above description, it is assumed that the content reproduced by the application unit 53 is content received by the short-range communication unit 21. Since the short-range communication unit 21 belongs to the application group, when the communication by the short-range communication unit 21 is unstable and frequent retransmissions occur, an interrupt for notifying the application control unit 51 of the communication status is generated. The effect of the present invention is great when the load of the application CPU 27 is large, such as when it occurs frequently.

しかしながら、この再生されるコンテンツは、近距離通信部21によって受信されたコンテンツに限るものではない。移動通信網通信部11によって受信されたコンテンツである場合、2次記憶部32に記憶されたコンテンツである場合、外部記憶媒体接続部(図示せず)に接続された取り外し可能の外部記憶媒体に記憶されたコンテンツである場合など、いずれにも適用される。また、外部記憶媒体接続部がアプリケーショングループに属する場合、適用による効果は大きい。   However, the content to be reproduced is not limited to the content received by the short-range communication unit 21. In the case of content received by the mobile communication network communication unit 11, in the case of content stored in the secondary storage unit 32, the removable external storage medium connected to the external storage medium connection unit (not shown) This applies to any case where the content is stored. Further, when the external storage medium connection unit belongs to the application group, the effect of application is great.

以上の説明で、アプリケーション部53によって再生されるコンテンツは、H.263方式及びMP3方式によって符号化されているとしたが、これは一例である。その他の方式、例えば、H.264方式によって符号化されていても、本発明は、何ら変わることなく適用可能である。   In the above description, the content reproduced by the application unit 53 is H.264. It is assumed that the encoding is performed by the H.263 method and the MP3 method, but this is an example. Other methods such as H.264. Even if it is encoded by the H.264 system, the present invention can be applied without any change.

以上の説明で、移動通信装置は、2つのCPUを備えるとしたが、これに限るものではない。CPUの個数には、何ら制限はなく、コンテンツ再生を行うCPUの高負荷に起因する音切れを抑制する効果が得られる。   In the above description, the mobile communication device includes two CPUs, but is not limited thereto. There is no limitation on the number of CPUs, and an effect of suppressing sound interruption caused by the high load of the CPU performing content reproduction can be obtained.

以上の説明は、本発明を移動通信装置に適用した形態を例にとって行ったが、これに限るものではない。本発明は、固定型であるか携帯型であるかを問わず、あらゆるコンテンツを再生する装置に当然に適用可能である。本発明は以上の構成に限定されるものではなく、種々の変形が可能である。   Although the above description has been made taking an example in which the present invention is applied to a mobile communication device, the present invention is not limited to this. The present invention is naturally applicable to an apparatus for reproducing any content regardless of whether it is a fixed type or a portable type. The present invention is not limited to the above configuration, and various modifications are possible.

11 移動通信網通信部
12 ベースバンドCPU
21 近距離通信部
22 表示用RAM
23 表示部
24 入力部
25 D/A変換部
26 スピーカ
27 アプリケーションCPU
41 ベースバンド制御部
51 アプリケーション制御部
52 コンテンツバッファ
53 アプリケーション部
54 コンテンツ復号部
54a 分離部
54b 映像復号部
54c 復号映像バッファ
54d 音声復号部
54e 復号音声バッファ
54f 音声出力制御部
55 画像編集ライブラリ
11 Mobile Communication Network Communication Unit 12 Baseband CPU
21 Short-range communication unit 22 Display RAM
23 Display Unit 24 Input Unit 25 D / A Conversion Unit 26 Speaker 27 Application CPU
41 Baseband control unit 51 Application control unit 52 Content buffer 53 Application unit 54 Content decoding unit 54a Separation unit 54b Video decoding unit 54c Decoded video buffer 54d Audio decoding unit 54e Decoded audio buffer 54f Audio output control unit 55 Image editing library

Claims (5)

少なくとも符号化された映像フレームと符号化された音声信号とを含むコンテンツを再生するコンテンツ再生装置であって、
前記符号化された映像フレームを復号する映像復号手段と、
前記映像復号手段によって復号された映像フレームを表示手段に表示させるアプリケーション手段と、
前記符号化された音声信号を復号する音声復号手段と、
前記音声復号手段によって復号された音声信号を記憶する復号音声記憶手段と、
前記復号音声記憶手段に記憶された復号された音声信号をスピーカから出力させる音声出力制御手段とを有し、
前記復号音声記憶手段に記憶された復号された音声信号の量が所定の閾値より少ない場合、前記映像復号手段は、前記符号化された映像フレームを間引いて復号し、及び/又は、前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームを間引いて前記表示手段に表示させる
ことを特徴とするコンテンツ再生装置。
A content playback device for playing back content including at least an encoded video frame and an encoded audio signal,
Video decoding means for decoding the encoded video frame;
Application means for displaying on the display means the video frame decoded by the video decoding means;
Audio decoding means for decoding the encoded audio signal;
Decoded speech storage means for storing the speech signal decoded by the speech decoding means;
Voice output control means for outputting the decoded voice signal stored in the decoded voice storage means from a speaker;
When the amount of the decoded audio signal stored in the decoded audio storage unit is less than a predetermined threshold, the video decoding unit decodes the encoded video frame by thinning out and / or the application unit Is a content reproducing apparatus characterized in that the video frame decoded by the video decoding means is thinned out and displayed on the display means.
前記音声出力制御手段は、前記復号音声記憶手段に記憶された復号された音声信号の量が所定の閾値より少ない場合、前記映像復号手段に一部の前記復号された映像フレームを前記アプリケーション手段に提供させる
ことを特徴とする請求項1に記載のコンテンツ再生装置。
When the amount of the decoded audio signal stored in the decoded audio storage unit is less than a predetermined threshold, the audio output control unit sends a part of the decoded video frame to the application unit. The content reproduction apparatus according to claim 1, wherein the content reproduction apparatus is provided.
前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームの大きさを変更して前記表示手段に表示させる
ことを特徴とする請求項1に記載のコンテンツ再生装置。
2. The content reproduction apparatus according to claim 1, wherein the application unit changes the size of the video frame decoded by the video decoding unit and causes the display unit to display the video frame.
前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームと、前記コンテンツに含まれる静止画像とを合成して前記表示手段に表示させる
ことを特徴とする請求項1に記載のコンテンツ再生装置。
2. The content reproduction apparatus according to claim 1, wherein the application unit synthesizes the video frame decoded by the video decoding unit and a still image included in the content and displays the synthesized image on the display unit.
前記アプリケーション手段は、前記映像復号手段によって復号された映像フレームと、前記コンテンツに含まれる文字とを合成して前記表示手段に表示させる
ことを特徴とする請求項1に記載のコンテンツ再生装置。
2. The content reproduction apparatus according to claim 1, wherein the application unit synthesizes the video frame decoded by the video decoding unit and characters included in the content and causes the display unit to display them.
JP2009087999A 2009-03-31 2009-03-31 Content playback apparatus Pending JP2010239575A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009087999A JP2010239575A (en) 2009-03-31 2009-03-31 Content playback apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009087999A JP2010239575A (en) 2009-03-31 2009-03-31 Content playback apparatus

Publications (1)

Publication Number Publication Date
JP2010239575A true JP2010239575A (en) 2010-10-21

Family

ID=43093485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009087999A Pending JP2010239575A (en) 2009-03-31 2009-03-31 Content playback apparatus

Country Status (1)

Country Link
JP (1) JP2010239575A (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1011092A (en) * 1996-06-20 1998-01-16 Hitachi Ltd Coded voice signal decoding device
JPH10164508A (en) * 1996-12-02 1998-06-19 Nec Corp Audio/video synchronous reproducing device
JPH11331792A (en) * 1998-05-08 1999-11-30 Sony Corp Client device and server-client system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1011092A (en) * 1996-06-20 1998-01-16 Hitachi Ltd Coded voice signal decoding device
JPH10164508A (en) * 1996-12-02 1998-06-19 Nec Corp Audio/video synchronous reproducing device
JPH11331792A (en) * 1998-05-08 1999-11-30 Sony Corp Client device and server-client system

Similar Documents

Publication Publication Date Title
EP3343935B1 (en) Image processing device, image reproduction device, and image reproduction system
JP2005086826A (en) Mms message splitting apparatus and its method in mobile terminal equipment
JP4894476B2 (en) Voice transmitter and mobile communication terminal
JP5082152B2 (en) Video playback device, video conversion playback system, and program
JP2005045357A (en) Remote display protocol, video display system, and terminal
JP2010102587A (en) Information processor
JP2010081489A (en) Moving picture file transmission server and operation control method thereof
WO2013191037A1 (en) Data output device, control method, and control program
JP2011192229A (en) Server device and information processing method
JP2010239575A (en) Content playback apparatus
EP1940037A2 (en) Audio device and audio system receiving radio signal to reproduce sound
JP2009135769A (en) Image processing device
JP2014045425A (en) Electronic device and control method of the same
US20240121449A1 (en) Information processing apparatus, control method for information processing apparatus, storage medium, information processing system, and control method for information processing system
JP5672873B2 (en) Portable terminal device, frame receiving method, and frame receiving program
JP2004320218A (en) Mobile terminal device and content delivery server
EP1940134A2 (en) Internet telephone set with additional function to reproduce sound differing from sound based on general internet telephone, as well as internet telephone system including such internet telephone set
JP2016163134A (en) Moving image playback device and program
WO2007099580A1 (en) Multimedia data reproducing apparatus and method
KR100693552B1 (en) Portable terminal and method for connecting and playing multi-files
JP2010021677A (en) Terminal device and program
JP2014187491A (en) Electronic apparatus
JPH11261982A (en) Video telephone terminal, power source control method and recording medium
JP2011135154A (en) Image processor and method of controlling the same
JP2008193317A (en) Information processor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110411

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110411

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120508

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121204

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130402