JP2010028574A - Information processing apparatus, method of controlling the same, and computer program - Google Patents

Information processing apparatus, method of controlling the same, and computer program Download PDF

Info

Publication number
JP2010028574A
JP2010028574A JP2008189044A JP2008189044A JP2010028574A JP 2010028574 A JP2010028574 A JP 2010028574A JP 2008189044 A JP2008189044 A JP 2008189044A JP 2008189044 A JP2008189044 A JP 2008189044A JP 2010028574 A JP2010028574 A JP 2010028574A
Authority
JP
Japan
Prior art keywords
processing
packet
mode
unit
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008189044A
Other languages
Japanese (ja)
Other versions
JP2010028574A5 (en
JP5161683B2 (en
Inventor
Masayuki Odakawa
真之 小田川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008189044A priority Critical patent/JP5161683B2/en
Priority to US12/484,861 priority patent/US8467444B2/en
Publication of JP2010028574A publication Critical patent/JP2010028574A/en
Publication of JP2010028574A5 publication Critical patent/JP2010028574A5/ja
Application granted granted Critical
Publication of JP5161683B2 publication Critical patent/JP5161683B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

<P>PROBLEM TO BE SOLVED: To prevent disturbance of image or voice caused by underflow of a packet and overflow of a buffer due to overflow in an information processing apparatus for performing high quality picture processing for a packet. <P>SOLUTION: The device includes: a generating means for dividing data including a video and audio, and for generating a packet with a timestamp; one or more processing means for performing a prescribed processing for high quality of data by any one of a plurality of modes of different processing velocities; and a coupling means for reconstituting data by coupling packets which are subjected to the prescribed processing. When a value which is obtained by subtracting a time shown by a timestamp included in an arriving packet from an arrival time of the packet at the coupling means is outside a prescribed range, at least any of the processing means switches a mode and processes a packet which has subsequently arrived at the processing means. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、情報処理装置、その制御方法、及びコンピュータプログラムに関する。   The present invention relates to an information processing apparatus, a control method thereof, and a computer program.

映像処理システムは、映像データを出力する際に映像と音声等とのデータを同期する必要がある。映像と音声との同期を可能とするために、国際標準の符号化方式であるMPEG1やMPEG2では、出力タイミング情報であるタイムスタンプをパケットデータのヘッダ内に付加する。   The video processing system needs to synchronize data such as video and audio when outputting video data. In order to enable synchronization between video and audio, MPEG1 and MPEG2 which are international standard encoding schemes add a time stamp which is output timing information in the header of packet data.

図10は映像処理システムの概略ブロック図の一例である。映像処理システムは、パケット送信装置1020とパケット受信装置1040とを備える。パケット送信装置1020の映像パケット生成回路1021が映像入力装置1010から映像データを受信すると、映像データをパケット化して送信する。このとき、システムタイムクロック生成回路1022が示す時刻を基にタイムスタンプを生成しパケットのヘッダに付加する。   FIG. 10 is an example of a schematic block diagram of the video processing system. The video processing system includes a packet transmission device 1020 and a packet reception device 1040. When the video packet generation circuit 1021 of the packet transmission device 1020 receives video data from the video input device 1010, the video data is packetized and transmitted. At this time, a time stamp is generated based on the time indicated by the system time clock generation circuit 1022 and added to the header of the packet.

パケット送信装置1020が送信したパケットは伝送路1030経由してパケット受信装置1040に受信される。パケット受信装置1040は、システムタイムクロック再生回路1042が示す時刻とパケットのヘッダのタイムスタンプが示す時刻とが一致した場合に映像データを復元して映像出力装置1050に送信する。システムタイムクロック生成回路1022はシステムタイムクロック再生回路1042と同期をとるため周期的にシステムタイムクロックをパケットとして送信する。パケット送信装置1020がパケットを送信してからパケット受信装置1040がパケットを受信するまでの時間はシステムによって一定である。そのため、タイムスタンプはシステムタイムクロック生成回路1022を基に生成することができる。   The packet transmitted by the packet transmission device 1020 is received by the packet reception device 1040 via the transmission path 1030. The packet receiving device 1040 restores the video data and transmits it to the video output device 1050 when the time indicated by the system time clock recovery circuit 1042 matches the time indicated by the time stamp in the packet header. The system time clock generation circuit 1022 periodically transmits the system time clock as a packet in order to synchronize with the system time clock recovery circuit 1042. The time from when the packet transmitting apparatus 1020 transmits a packet until the packet receiving apparatus 1040 receives the packet is constant depending on the system. Therefore, the time stamp can be generated based on the system time clock generation circuit 1022.

上記の映像処理システムにおいて、パケット送信装置1020とパケット受信装置1040との間に映像データの高画質化処理を行うためのパケット処理装置を配置する場合がある。この場合には、パケット処理装置の状態により処理時間が変動するため、タイムスタンプに示される時刻にパケット受信装置1040が映像データを出力できずに映像が乱れてしまうことがある。この現象をアンダーフローと呼ぶ。一方、あまりにもタイムスタンプを遅い時刻に設定すると、パケット受信装置1040が保持すべきパケットの容量が増加してしまい、バッファがあふれる恐れがある。この現象をオーバーフローと呼ぶ。   In the video processing system described above, a packet processing device for performing image quality enhancement processing of video data may be disposed between the packet transmission device 1020 and the packet reception device 1040. In this case, since the processing time varies depending on the state of the packet processing device, the packet reception device 1040 cannot output the video data at the time indicated by the time stamp, and the video may be disturbed. This phenomenon is called underflow. On the other hand, if the time stamp is set too late, the capacity of the packet to be held by the packet receiving device 1040 increases and the buffer may overflow. This phenomenon is called overflow.

特許文献1は、受信装置がパケットを受信した時刻に基づいて、送信装置がパケットの送信間隔などを調整するIP電話端末装置を提案する。しかし、映像データの場合には、一定間隔でフレームを表示する必要があるため、単純に送信間隔を調整するだけではアンダーフローやオーバーフローを防ぐことができない。
特開2005−217863号公報
Patent Document 1 proposes an IP telephone terminal device in which the transmission device adjusts the packet transmission interval and the like based on the time when the reception device receives the packet. However, in the case of video data, it is necessary to display frames at regular intervals, so underflow and overflow cannot be prevented simply by adjusting the transmission interval.
JP 2005-217863 A

本発明は、パケットに対して処理を行う情報処理装置において、パケットのアンダーフローによる映像又は音声の乱れやオーバーフローによるバッファのあふれを防止することを目的とする。   An object of the present invention is to prevent video or audio disturbance due to packet underflow or buffer overflow due to overflow in an information processing apparatus that processes packets.

上記課題に鑑みて、本発明に係る情報処理装置は、
映像及び音声を含むデータを分割し、タイムスタンプを付してパケットを生成する生成手段と、
前記パケットに対して、処理速度の異なる複数のモードのいずれか一つで前記データの高品質化のための所定の処理を施す1以上の処理手段と、
前記所定の処理が施されたパケットを結合して前記データを再構成する結合手段と
を備え、
前記パケットはそれぞれ、該生成手段が設定した処理経路に基づいて、前記1以上の処理手段の少なくともいずれかを経由して前記生成手段から前記結合手段に到着し、
前記結合手段に前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第1の閾値よりも大きい第1の場合に、前記処理を施した処理手段の少なくともいずれかは前記モードを現行のモードよりも処理速度の速いモードに切り替えて、それ以降に該処理手段に到着したパケットに対して処理を施し、
前記結合手段に前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第2の閾値よりも小さい第2の場合に、前記処理を施した処理手段の少なくともいずれかは前記モードを現行のモードよりも処理速度の遅いモードに切り替えて、それ以降に該処理手段に到着したパケットに対して処理を施す
ことを特徴とする。
In view of the above problems, an information processing apparatus according to the present invention provides:
Generating means for dividing data including video and audio and generating a packet with a time stamp;
One or more processing means for performing predetermined processing for improving the quality of the data in any one of a plurality of modes having different processing speeds on the packet;
Combining means for combining the packets subjected to the predetermined processing to reconstruct the data;
Each of the packets arrives at the combining unit from the generating unit via at least one of the one or more processing units based on the processing path set by the generating unit,
In a first case where a value obtained by subtracting the time indicated by the time stamp included in the arriving packet from the time when the packet arrived at the combining means is larger than a first threshold, the processing means that has performed the processing At least one of the modes is switched to a mode having a higher processing speed than the current mode, and processing is subsequently performed on packets that arrive at the processing means.
In a second case where the value obtained by subtracting the time indicated by the time stamp included in the arriving packet from the time when the packet arrived at the combining means is smaller than a second threshold, the processing means that has performed the processing At least one of the above is characterized in that the mode is switched to a mode having a slower processing speed than the current mode, and processing is performed on packets that have arrived at the processing means thereafter.

本発明によれば、アンダーフローによる映像又は音声の乱れや、オーバーフローによるバッファのあふれを防止することが可能となる。これにより、バッファサイズ等のハードウェア資源を効率よく使用可能となる。   According to the present invention, it is possible to prevent video or audio disturbance due to underflow and buffer overflow due to overflow. This makes it possible to efficiently use hardware resources such as the buffer size.

添付の図面を参照しつつ、本発明の実施形態について詳細に説明する。   Embodiments of the present invention will be described in detail with reference to the accompanying drawings.

<第1の実施形態>
図1を用いて本発明に係る情報処理装置100について説明する。図1は本実施形態における情報処理装置100の機能ブロック図の一例を説明する図である。情報処理装置100は、生成部110、処理部120〜122、及び結合部130を備える。本実施形態では三つの処理部120〜122を備える場合を扱うが、処理部は1以上であればいくつでもかまわない。また、生成部110、処理部120〜122、及び結合部130がそれぞれ単独の装置として構成されていてもかまわない。
<First Embodiment>
An information processing apparatus 100 according to the present invention will be described with reference to FIG. FIG. 1 is a diagram illustrating an example of a functional block diagram of the information processing apparatus 100 according to the present embodiment. The information processing apparatus 100 includes a generation unit 110, processing units 120 to 122, and a combining unit 130. Although the present embodiment deals with a case where the three processing units 120 to 122 are provided, any number of processing units may be used as long as the number is one or more. In addition, the generation unit 110, the processing units 120 to 122, and the combining unit 130 may each be configured as a single device.

生成部110は映像取得部111、タイル分割部112、処理決定部113、及びパケット化部114を備え、映像及び音声を含むデータをパケットに分割して処理部120に送信する。以下、データが映像データである場合について主に説明するが、音声データである場合でも同様に本発明を適用できる。映像取得部111は、映像データを取得する。映像データはネットワーク経由で取得してもよいし、記録メディアから取得してもよい。また、情報処理装置100の不図示の他の構成要素が生成した映像データを取得してもよい。映像取得部111は取得した映像データをタイル分割部112と処理決定部113とに出力する。   The generation unit 110 includes a video acquisition unit 111, a tile division unit 112, a processing determination unit 113, and a packetization unit 114, and divides data including video and audio into packets and transmits the packets to the processing unit 120. Hereinafter, the case where the data is video data will be mainly described, but the present invention can be similarly applied to the case where the data is audio data. The video acquisition unit 111 acquires video data. Video data may be acquired via a network or may be acquired from a recording medium. Moreover, you may acquire the video data which the other structural element not shown of the information processing apparatus 100 produced | generated. The video acquisition unit 111 outputs the acquired video data to the tile division unit 112 and the process determination unit 113.

タイル分割部112は、入力された映像データの各フレームを映像タイルに分割して、パケット化部114に出力する。本実施形態では各フレームを8ピクセル×128ピクセルの映像タイルに分割する例を扱うが、このサイズに限られるものではない。処理決定部113は、入力された映像データに基づいて、パケット処理を行う処理部の経路と各処理部による映像データの処理モードとを決定する。本実施形態において、パケットは処理部120、処理部121、処理部122の処理経路で処理されるとする。処理モードについては後述する。   The tile dividing unit 112 divides each frame of the input video data into video tiles and outputs the video tiles to the packetizing unit 114. In this embodiment, an example in which each frame is divided into video tiles of 8 pixels × 128 pixels is handled, but the present invention is not limited to this size. The processing determining unit 113 determines the path of the processing unit that performs packet processing and the processing mode of the video data by each processing unit based on the input video data. In the present embodiment, it is assumed that the packet is processed through the processing path of the processing unit 120, the processing unit 121, and the processing unit 122. The processing mode will be described later.

パケット化部114は、タイル分割部112と処理決定部113とからの入力をもとに、パケットを処理部120に送信する。送信するパケットは、処理部120〜122に対するコマンドを送信するためのコマンドパケットである場合と、映像タイルを送信するための映像タイルパケットである場合とがある。パケットの詳細については後述する。パケットには、結合部130に含まれる映像表示部134が、当該映像タイルを含むフレームを表示すべき時刻をタイムスタンプとして含める。なお、本実施形態における「時刻」には、実時刻だけでなく、情報処理装置100の有するクロックサイクルなどの計時機能を備えるものも含む。   The packetizing unit 114 transmits the packet to the processing unit 120 based on the inputs from the tile dividing unit 112 and the processing determining unit 113. The packet to be transmitted may be a command packet for transmitting a command to the processing units 120 to 122 or a video tile packet for transmitting a video tile. Details of the packet will be described later. The packet includes the time when the video display unit 134 included in the combining unit 130 should display the frame including the video tile as a time stamp. The “time” in the present embodiment includes not only the actual time but also those having a time measuring function such as a clock cycle of the information processing apparatus 100.

処理部120は受信したパケットに対して所定の処理を施す。ここで施される処理には、例えば映像データを高画質化して高品質化するための高解像度変換、誤り訂正、シャープネス変換、及びプログレッシブ変換などがある。音声データの場合には、誤り訂正、SBR(Spectal Band Replication)などがある。本発明はこれらの高品質化のための処理に限られず、処理速度の異なる複数のモードを有する処理であればどのような処理であっても適用できる。本実施形態では、高画質化処理を代表例として以下説明する。処理部120はパケットを高画質化処理するための複数のモードを有する。映像データを、より高画質にするモードほど長い処理時間を要するものとする。本実施形態においては、処理部が「高画質」と「高速」との2種類のモードを有する場合を扱うが、モード数は2種類に限定されるわけではない。ここで、「高画質」モードの方が「高速」モードよりも長い処理時間を要するとする。また、処理部120はパケットを高画質化処理を施すことなく、そのまま転送することもできる。当然のことながら、パケットをそのまま転送した場合には、高画質化処理を施すよりも、処理部120がパケットを受信してから送信するまでの時間は短くなる。処理部121、122についても処理部120と同様のため、説明を省略する。以下の説明においても、明示的に言及しない限り、処理部120についての説明は処理部121、122についても当てはまる。高画質化処理を終了した処理部は、処理決定部113が決定した経路に従い、次の処理部又は結合部130にパケットを送信する。   The processing unit 120 performs predetermined processing on the received packet. The processing performed here includes, for example, high-resolution conversion, error correction, sharpness conversion, and progressive conversion for improving the image quality of the video data. In the case of audio data, there are error correction, SBR (Spectal Band Replication), and the like. The present invention is not limited to the processing for improving the quality, and any processing can be applied as long as the processing has a plurality of modes with different processing speeds. In the present embodiment, the image quality enhancement processing will be described below as a representative example. The processing unit 120 has a plurality of modes for processing a packet with high image quality. It is assumed that a longer processing time is required for a mode in which video data has a higher image quality. In this embodiment, a case where the processing unit has two types of modes of “high quality” and “high speed” is handled, but the number of modes is not limited to two. Here, it is assumed that the “high image quality” mode requires a longer processing time than the “high speed” mode. The processing unit 120 can also transfer the packet as it is without performing the image quality enhancement process. As a matter of course, when the packet is transferred as it is, the time from when the processing unit 120 receives the packet to when the packet is transmitted is shorter than when the image quality enhancement process is performed. Since the processing units 121 and 122 are the same as the processing unit 120, description thereof is omitted. In the following description, the description of the processing unit 120 also applies to the processing units 121 and 122 unless explicitly mentioned. The processing unit that has finished the image quality enhancement process transmits the packet to the next processing unit or combining unit 130 according to the route determined by the processing determination unit 113.

結合部130は、ヘッダ解析部131、タイル結合部132、時間差検出部133、及び映像表示部134を備え、受信したパケットを結合してフレームを再構成し表示する。ヘッダ解析部131は、処理部122から受信したパケットのヘッダの解析を行う。ヘッダを解析した結果、受信したパケットがコマンドパケットである場合には、何も処理をしないでパケットを廃棄する。映像タイルパケットである場合には、パケットをヘッダと映像タイルとに分離し、映像タイルをタイル結合部132に出力し、ヘッダを時間差検出部133に出力する。タイル結合部は、受信した映像タイルを結合してフレームの復元を行い、映像表示部134に出力する。映像表示部134は出力されたフレームを指定されたタイムスタンプに従って表示する。時間差検出部133は、パケットで指定されたタイムスタンプの示す時刻と、実際に結合部130が受信した時刻との差を検出する。この差が事前に規定された範囲内にない場合には、処理決定部113に範囲内にないことを通知する。この通知に合わせて、検出した時間差も送信してもよい。   The combination unit 130 includes a header analysis unit 131, a tile combination unit 132, a time difference detection unit 133, and a video display unit 134. The combination unit 130 combines received packets to reconstruct and display a frame. The header analysis unit 131 analyzes the header of the packet received from the processing unit 122. If the received packet is a command packet as a result of analyzing the header, the packet is discarded without any processing. When the packet is a video tile packet, the packet is separated into a header and a video tile, the video tile is output to the tile combining unit 132, and the header is output to the time difference detection unit 133. The tile combining unit combines the received video tiles to restore the frame, and outputs the frame to the video display unit 134. The video display unit 134 displays the output frame according to a designated time stamp. The time difference detection unit 133 detects a difference between the time indicated by the time stamp specified in the packet and the time actually received by the combining unit 130. If this difference is not within the range defined in advance, the processing determining unit 113 is notified that it is not within the range. The detected time difference may also be transmitted along with this notification.

図2は情報処理装置100のハードウェア構成を示すブロック図の一例である。なお、図2は、本発明の実施形態に対応する情報処理装置100の構成を実現するための最小限の構成を示しており、情報処理装置100に係わるその他の機構については説明の簡単のために省略している。   FIG. 2 is an example of a block diagram illustrating a hardware configuration of the information processing apparatus 100. FIG. 2 shows a minimum configuration for realizing the configuration of the information processing apparatus 100 corresponding to the embodiment of the present invention, and other mechanisms related to the information processing apparatus 100 are described for simplicity. Is omitted.

マイクロプロセッサであるCPU201は、ROM203、ハードディスク(HD)212、外部メモリドライブ211にセットされた記憶メディアに記憶されたプログラムやデータなどに基づき、情報処理装置100を制御する。   A CPU 201 that is a microprocessor controls the information processing apparatus 100 based on programs, data, and the like stored in a storage medium set in the ROM 203, hard disk (HD) 212, and external memory drive 211.

RAM202は、CPU201のワークエリアとして機能し、ROM203やHD212等に格納されたプログラムを保持する。   The RAM 202 functions as a work area for the CPU 201 and holds programs stored in the ROM 203, the HD 212, and the like.

ROM203、外部メモリドライブ211にセットされた記憶メディア或いは、HD212には、後述するフローチャートに示されるような、CPU201により実行されるプログラムなどが記憶されている。また、処理対象の映像データを記憶していてもよい。   The storage medium set in the ROM 203 and the external memory drive 211 or the HD 212 stores a program executed by the CPU 201 as shown in a flowchart to be described later. Moreover, the video data to be processed may be stored.

205はキーボードコントローラ(KBC)で、キーボード(KB)209や図示しないマウスなどのポインティングデバイスからの入力を制御する。206はディスプレイコントローラ(DPC)で、ディスプレイ210の表示を制御する。ディスプレイ210は図1に示す映像表示部134として機能する。207はディスクコントローラ(DKC)で、HD212および外部メモリドライブ211のアクセスを制御し、それらの記憶メディアに対して各種プログラム、並びに、フォントデータ、ユーザファイルおよび編集ファイルなどの各種データを読み書きする。208はネットワークコントローラ(NC)で、ネットワーク220との間の通信を行う。処理対象の映像データはネットワーク220経由で取得してもよい。   A keyboard controller (KBC) 205 controls input from a keyboard (KB) 209 or a pointing device such as a mouse (not shown). A display controller (DPC) 206 controls display on the display 210. The display 210 functions as the video display unit 134 shown in FIG. A disk controller (DKC) 207 controls access to the HD 212 and the external memory drive 211, and reads and writes various programs and various data such as font data, user files, and edit files to and from these storage media. A network controller (NC) 208 performs communication with the network 220. The video data to be processed may be acquired via the network 220.

なお、CPU201は、例えばRAM202上に割り当てられた表示情報領域あるいは専用のビデオメモリ(VRAM)へのアウトラインフォントの展開(ラスタライズ)処理を実行し、ディスプレイ210上での表示を可能にする。また、CPU201は、ディスプレイ210上のマウスカーソルなどにより指示されるコマンドに基づいて、登録された種々のウィンドウを開き、種々のデータ処理を実行する。   The CPU 201 executes, for example, a display information area allocated on the RAM 202 or an outline font development (rasterization) process to a dedicated video memory (VRAM), and enables display on the display 210. Further, the CPU 201 opens various registered windows based on commands instructed by a mouse cursor or the like on the display 210 and executes various data processing.

続いて、図3乃至図5を用いて、本実施形態におけるパケットのフォーマットについて説明する。前述の通り、本発明に係る情報処理装置100は、パケットを用いて映像タイルとコマンドとを伝達する。パケット300は、図4に示すコマンドパケット400である場合と図5に示す映像タイルパケット500である場合との2通りがあり、どちらのパケットも図3に示す共通のヘッダ301を含む。   Subsequently, a packet format in the present embodiment will be described with reference to FIGS. 3 to 5. As described above, the information processing apparatus 100 according to the present invention transmits video tiles and commands using packets. There are two types of packets 300, the command packet 400 shown in FIG. 4 and the video tile packet 500 shown in FIG. 5. Both packets include the common header 301 shown in FIG.

まず、図3を用いてヘッダ301の形式について説明する。図3はパケット300が備えるヘッダ301の構成の一例を説明する図である。パケット300はヘッダ301とペイロード302とを備える。   First, the format of the header 301 will be described with reference to FIG. FIG. 3 is a diagram for explaining an example of the configuration of the header 301 included in the packet 300. The packet 300 includes a header 301 and a payload 302.

パケット経路310は、処理部120〜122がパケット300を処理する経路を表す。まず、パケット化部114は、パケット300を1番目に処理させたい処理部のポートとインデックスとの組を、パケット経路310のポート0とインデックス0とにそれぞれ指定する。ここで、ポート311は処理部の入力ポート番号であり、これにより処理部が一意に識別される。また、インデックス312は処理部が用いるべき静的パラメータの番号である。本実施形態では処理部120がこれに当たる。次に、パケット化部114は、2番目にパケット300を処理させたい処理部のポートとインデックスとの組を、パケット経路310のポート1とインデックス1とにそれぞれ指定する。本実施形態では処理部121がこれに当たる。以下のポートとインデックスとの組についても同様のため、説明を省略する。上記のように、パケット化部114は、処理をさせたい処理部の順序に、左詰めでポートとインデックスとの組を指定する。パケットを受信した処理部は、パケット300を処理した後に、パケット経路310を8ビット左にシフトする。これにより、次にパケット300を処理すべき処理部のポートとインデックスとの組がパケット経路310の先頭に移る。この先頭の組に基づいて、処理部は、次にパケット300を処理すべき処理部に対してパケット300を送信する。後続の処理部の組が指定されていない場合には、結合部130に対してパケット300を送信する。パケット経路310には、ポート311とインデックス312との組が15組格納されている。   A packet path 310 represents a path through which the processing units 120 to 122 process the packet 300. First, the packetizing unit 114 designates a pair of a port and an index of a processing unit that wants to process the packet 300 first as a port 0 and an index 0 of the packet path 310. Here, the port 311 is an input port number of the processing unit, which uniquely identifies the processing unit. The index 312 is a static parameter number to be used by the processing unit. In the present embodiment, the processing unit 120 corresponds to this. Next, the packetizing unit 114 designates a pair of a port and an index of a processing unit that wants to process the packet 300 secondly as a port 1 and an index 1 of the packet path 310, respectively. In the present embodiment, the processing unit 121 corresponds to this. Since the same is true for the following port and index pairs, the description thereof will be omitted. As described above, the packetizing unit 114 specifies a pair of a port and an index in a left-justified manner in the order of processing units to be processed. After processing the packet 300, the processing unit that has received the packet shifts the packet path 310 to the left by 8 bits. As a result, the set of the port and index of the processing unit that should process the packet 300 next moves to the head of the packet path 310. Based on the first set, the processing unit transmits the packet 300 to the processing unit that should process the packet 300 next. When the subsequent processing unit set is not designated, the packet 300 is transmitted to the combining unit 130. The packet path 310 stores 15 sets of the port 311 and the index 312.

タイムスタンプ313は、映像表示部134がパケット300に含まれる画像タイルデータを含むフレームの表示を開始する時刻を表す。このフィールドは、パケット300が映像タイルパケットの場合に意味をもち、コマンドパケットの場合には意味を持たない。AVパケット終端314は、1フレーム中に含まれる映像タイルパケット500がこのパケットで終了することを示す。パケット番号315は、フレーム中におけるパケット番号を表す。タイル結合部132は、このパケット番号315に基づいて映像タイルからフレームを復元する。フレームの先頭の映像タイルではパケット番号315は0であり、以降の映像タイルでは1ずつ加算される。タイプ316は、パケット300がコマンドパケット400であるか、映像タイルパケット500であるかを表す。ペイロード長317は、ペイロードのバイト数を表す。   The time stamp 313 represents the time when the video display unit 134 starts to display a frame including the image tile data included in the packet 300. This field has a meaning when the packet 300 is a video tile packet, and has no meaning when it is a command packet. The AV packet end 314 indicates that the video tile packet 500 included in one frame ends with this packet. The packet number 315 represents a packet number in the frame. The tile combination unit 132 restores the frame from the video tile based on the packet number 315. The packet number 315 is 0 in the first video tile of the frame, and is incremented by 1 in the subsequent video tiles. Type 316 indicates whether the packet 300 is a command packet 400 or a video tile packet 500. The payload length 317 represents the number of bytes of the payload.

図4はコマンドパケット400の構成の一例を説明する図である。処理部120〜122は、コマンドパケット400を受信した場合に、ペイロード302の記述に従い、レジスタへのアクセスを行う。コマンドパケット400は、映像タイルパケット500の処理を行う処理部120〜122へのレジスタアクセスを行う。レジスタの設定を変更することにより、処理モードが設定される。以下にペイロード302に含まれる情報について説明する。ユニットID401は、対象となる処理部120〜122のIDを示す。コマンドパケット400を受信した処理部120〜122は、このユニットID401と自身が持つIDとを比較することで、自身に対するコマンドであるか否かを判別する。レジスタ番号402は、変更の対象となるレジスタの番号を示す。格納アドレス403は、対象となる処理部のレジスタリードを行った場合のリードデータの格納先を示す。コマンド404は、対象となる処理部120〜122への命令を示す。コマンド404は、ライトとリードとの2種類がある。データフィールド405は、コマンド404が使用するデータを示す。   FIG. 4 is a diagram for explaining an example of the configuration of the command packet 400. When receiving the command packet 400, the processing units 120 to 122 access the register according to the description of the payload 302. The command packet 400 performs register access to the processing units 120 to 122 that process the video tile packet 500. The processing mode is set by changing the register setting. Hereinafter, information included in the payload 302 will be described. The unit ID 401 indicates the ID of the target processing units 120 to 122. The processing units 120 to 122 that have received the command packet 400 compare the unit ID 401 with the ID of the processing unit 120 to 122 to determine whether the command is a command for itself. The register number 402 indicates the number of the register to be changed. A storage address 403 indicates a storage location of read data when register reading of the target processing unit is performed. A command 404 indicates an instruction to the target processing units 120 to 122. There are two types of commands 404, write and read. A data field 405 indicates data used by the command 404.

図5は映像タイルパケット500の構成の一例を説明する図である。結合部130は、映像タイルパケット500を受信した場合に、ペイロード302に含まれる映像タイルの処理を行う。ペイロード302は8Kバイトのデータ量であり、8ピクセル×128ピクセルの映像タイルに相当する1024個のピクセルのデータが格納される。1ピクセルのデータ量は8バイトであり、それぞれ16ビットで表現されたRGBデータ、8ビットのαデータ、及び8ビットのZデータで構成される。   FIG. 5 is a diagram for explaining an example of the configuration of the video tile packet 500. When receiving the video tile packet 500, the combining unit 130 processes the video tile included in the payload 302. The payload 302 has a data amount of 8 Kbytes and stores data of 1024 pixels corresponding to an image tile of 8 pixels × 128 pixels. The data amount of one pixel is 8 bytes, and is composed of RGB data expressed in 16 bits, 8-bit α data, and 8-bit Z data.

続いて、図6を用いて本実施形態における情報処理装置100の動作について説明する。図6は情報処理装置100の動作の一例を説明するフローチャートである。このフローチャートはROM203に記憶されたコンピュータプログラムをCPU201が実行することによって処理される。   Next, the operation of the information processing apparatus 100 according to this embodiment will be described with reference to FIG. FIG. 6 is a flowchart for explaining an example of the operation of the information processing apparatus 100. This flowchart is processed by the CPU 201 executing the computer program stored in the ROM 203.

ステップS601で、映像取得部111は映像データを取得して、タイル分割部112と処理決定部113とに出力する。   In step S <b> 601, the video acquisition unit 111 acquires video data and outputs the video data to the tile division unit 112 and the process determination unit 113.

ステップS602で、処理決定部113はパケットを高画質化処理する処理部120〜122の経路と各処理部における処理モードとを決定し、その内容をパケット化部114に出力する。本実施形態では、処理部120、処理部121、処理部122の順序でパケットの高画質化処理を行う。また、処理モードは初期状態として、すべての処理部において「高速」モードに設定する。   In step S <b> 602, the process determining unit 113 determines the route of the processing units 120 to 122 that process the image quality enhancement of the packet and the processing mode in each processing unit, and outputs the contents to the packetizing unit 114. In the present embodiment, packet quality enhancement processing is performed in the order of the processing unit 120, the processing unit 121, and the processing unit 122. Further, the processing mode is set to the “high speed” mode in all processing units as an initial state.

ステップS603で、パケット化部114は入力された情報に基づいてパケット300を作成して処理部に送信する。パケット化部114は、各処理部の処理決定部113が規定した設定となるようなコマンドパケット400を生成して、各処理部に送信する。コマンドパケット400については図4を用いて説明したので説明は繰り返さない。なお、各処理部の初期モードは、上記のようにコマンドパケット400によって設定するのではなく、処理部の起動に伴って、デフォルト値として設定してもよい。   In step S603, the packetizing unit 114 creates a packet 300 based on the input information and transmits the packet 300 to the processing unit. The packetizing unit 114 generates a command packet 400 that has a setting specified by the processing determining unit 113 of each processing unit, and transmits the command packet 400 to each processing unit. Since command packet 400 has been described with reference to FIG. 4, description thereof will not be repeated. Note that the initial mode of each processing unit may not be set by the command packet 400 as described above, but may be set as a default value when the processing unit is activated.

ステップS604で、パケット化部114は、処理対象のフレームを映像表示部134が表示する時刻であるタイムスタンプを決定する。   In step S604, the packetizing unit 114 determines a time stamp that is a time at which the video display unit 134 displays the processing target frame.

ステップS605で、パケット化部114は、タイル分割部112が分割した映像タイルに前述のタイルスタンプを付した映像タイルパケット500を処理部120に送信する。映像タイルパケット500の詳細は図5を用いて説明したので説明は繰り返さない。   In step S <b> 605, the packetizing unit 114 transmits the video tile packet 500 in which the above-described tile stamp is added to the video tile divided by the tile dividing unit 112 to the processing unit 120. Since the details of the video tile packet 500 have been described with reference to FIG.

ステップS606で、各処理部は設定されたモードで受信したパケットを高画質化処理を行い、次の処理部又は結合部130にパケットを送信する。処理決定部113が決定した経路上のすべての処理部においてステップS606が処理される。   In step S606, each processing unit performs image quality enhancement processing on the received packet in the set mode, and transmits the packet to the next processing unit or combining unit 130. Step S606 is processed in all the processing units on the route determined by the processing determination unit 113.

ステップS607で、ヘッダ解析部131は受信したパケットが映像タイルパケット500である場合に、ヘッダ301を時間差検出部133に出力し、ペイロード302をタイル結合部132に出力する。時間差検出部133は、結合部130がパケットを受信した時刻からヘッダ301に含まれるタイムスタンプを減じた値を算出する。   In step S <b> 607, when the received packet is the video tile packet 500, the header analysis unit 131 outputs the header 301 to the time difference detection unit 133 and outputs the payload 302 to the tile combination unit 132. The time difference detection unit 133 calculates a value obtained by subtracting the time stamp included in the header 301 from the time when the combining unit 130 receives the packet.

ステップS608で、時間差検出部133は、算出した値が規定の範囲内であるか否かを判定する。範囲内である場合(ステップS608において「YES])には、ステップS611に移行する。範囲内でない場合(ステップS608において「NO])には、ステップS609に移行する。ここで、規定の範囲内にあるとは、算出した値が、第1の閾値である上限値以下であり、第2の閾値である下限値以上であることをいう。上限値と下限値とは、タイル結合部132がフレームの復元に要する時間や、映像タイルを保持するバッファのサイズに基づいて事前に規定する。また、上限値と下限値とは情報処理装置100の状態に応じて結合部130が動的に変更してもよい。算出した差が上限値よりも大きい場合(第1の場合)には、パケットが規定した時刻よりも早く結合部130に到着したことになる。一方、算出した差が下限値よりも小さい場合(第2の場合)には、パケットが規定した時刻よりも遅く結合部130に到着したことになる。   In step S608, the time difference detection unit 133 determines whether the calculated value is within a specified range. If it is within the range (“YES” in step S608), the process proceeds to step S611, and if it is not within the range (“NO” in step S608), the process proceeds to step S609. In this case, the calculated value is equal to or less than the upper limit value, which is the first threshold value, and is equal to or greater than the lower limit value, which is the second threshold value. It is defined in advance based on the time required for frame restoration and the size of the buffer that holds the video tiles, and the upper limit value and the lower limit value are dynamically changed by the combining unit 130 according to the state of the information processing apparatus 100. If the calculated difference is larger than the upper limit value (first case), it means that the packet arrived at the combining unit 130 earlier than the specified time, whereas the calculated difference is the lower limit value. In the case remote small (the second case), so that the packet arrived late binding portion 130 than the time as defined.

ステップS609で、時間差検出部133は、処理決定部113に対して、算出した差が規定の範囲内でないことを通知する。この通知にあわせて、算出した差を送信してもよい。処理決定部113は、受信した内容に基づいて、各処理部の処理内容と経路とを変更する。   In step S609, the time difference detection unit 133 notifies the processing determination unit 113 that the calculated difference is not within the specified range. In accordance with this notification, the calculated difference may be transmitted. The processing determination unit 113 changes the processing content and the route of each processing unit based on the received content.

図7乃至9を用いて各処理部の処理内容と経路の変更について説明する。図7は処理モードの推移の一例を説明する図である。本実施形態における各処理部の初期の処理モードはすべて「高速」モードであるため、画質レベルは3である。ここで、前述の第1の場合には、パケットが規定した時刻よりも早く結合部130に到着しているため、処理部で要する処理時間を長くする必要がある。そこで、処理部122の処理モードを現行の「高速」から「高画質」に変更する。このように変更することで、映像タイルをいっそう高画質化できるとともに、処理速度を低速にすることができる。一方、前述の第2の場合には、パケットが規定した時刻よりも遅く結合部130に到着しているため、処理部で要する処理時間を短くする必要がある。そこで、処理部120では処理を行わないようにする。この状態を図7において「OFF」で表す。このように変更することで、映像タイルの画質は低下するものの、処理速度を高速にすることができる。画質レベルは一段階ずつ変更してもよいし、算出した差に基づいて、異なる幅で変更してもよい。例えば、算出した差が上限値をある一定値を超えて上回った場合には、画質レベルを2段階上げるように各処理部の設定を変更する。   The processing contents and route change of each processing unit will be described with reference to FIGS. FIG. 7 is a diagram for explaining an example of processing mode transition. Since the initial processing mode of each processing unit in this embodiment is the “high speed” mode, the image quality level is 3. Here, in the first case described above, since the packet arrives at the combining unit 130 earlier than the time defined by the packet, it is necessary to lengthen the processing time required by the processing unit. Therefore, the processing mode of the processing unit 122 is changed from the current “high speed” to “high image quality”. By changing in this way, the image tile can be further improved in image quality and the processing speed can be lowered. On the other hand, in the second case described above, since the packet arrives at the combining unit 130 later than the time defined by the packet, it is necessary to shorten the processing time required by the processing unit. Therefore, the processing unit 120 does not perform processing. This state is represented by “OFF” in FIG. By changing in this way, although the image quality of the video tile is lowered, the processing speed can be increased. The image quality level may be changed step by step, or may be changed with different widths based on the calculated difference. For example, when the calculated difference exceeds the upper limit value beyond a certain value, the setting of each processing unit is changed to increase the image quality level by two levels.

なお、処理部120を「OFF」に変更する代わりに、処理経路を変更してもよい。このことについて図8を用いて説明する。図8は処理モードの推移の別の例を説明する図である。画質レベル3では、処理部120、処理部121、処理部122の経路で高画質化処理を行っている。この画質レベルから処理速度を高速にするために、経路を処理部121、処理部122に変更する。つまり、処理部120を経由しない経路に変更することで、処理速度を高速にする。   Instead of changing the processing unit 120 to “OFF”, the processing path may be changed. This will be described with reference to FIG. FIG. 8 is a diagram for explaining another example of the transition of the processing mode. At image quality level 3, image quality enhancement processing is performed through the route of the processing unit 120, processing unit 121, and processing unit 122. In order to increase the processing speed from this image quality level, the path is changed to the processing unit 121 and the processing unit 122. That is, the processing speed is increased by changing to a route that does not pass through the processing unit 120.

また、処理モードの推移はこの例に限られるものではない。図9は処理モードの推移のさらに別の例を説明する図である。この例では、処理部122、処理部121、処理部120の順序で、高画質化処理を優先的に行うように設定する。以下では画質レベルを低下させる場合を説明するが、上昇させる場合も同様である。画質レベル0から画質レベル2にかけて、処理部121、処理部122のモードを「高画質」に保ったまま、処理部120の処理モードを低下させる。続いて、処理部120の処理モードをこれ以上低下できなくなった場合に、画質レベル3から画質レベル4にかけて、処理部122のモードを「高画質」に保ったまま、処理部121の処理モードを低下させる。最後に、処理部121の処理モードをこれ以上低下できなくなった場合に、画質レベル5から画質レベル6にかけて、処理部121の処理モードを低下させる。このように、高画質化処理を優先したい処理部を指定することができる。   Further, the transition of the processing mode is not limited to this example. FIG. 9 is a diagram for explaining still another example of processing mode transition. In this example, the processing unit 122, the processing unit 121, and the processing unit 120 are set in such an order that the image quality enhancement processing is preferentially performed. Hereinafter, a case where the image quality level is lowered will be described, but the same applies to a case where the image quality level is raised. From the image quality level 0 to the image quality level 2, the processing mode of the processing unit 120 is lowered while maintaining the mode of the processing unit 121 and the processing unit 122 at “high image quality”. Subsequently, when the processing mode of the processing unit 120 can no longer be lowered, the processing mode of the processing unit 121 is changed from the image quality level 3 to the image quality level 4 while keeping the mode of the processing unit 122 at “high image quality”. Reduce. Finally, when the processing mode of the processing unit 121 can no longer be lowered, the processing mode of the processing unit 121 is lowered from the image quality level 5 to the image quality level 6. In this way, it is possible to specify a processing unit for which priority is given to image quality enhancement processing.

処理モードの推移は図7乃至9の例に限られるものではなく、各処理部の各モードにさらに詳細に優先度を規定してもよい。   The transition of the processing mode is not limited to the examples of FIGS. 7 to 9, and the priority may be defined in more detail for each mode of each processing unit.

図6に戻り、フローチャートの説明を続ける。ステップS610で、パケット化部114は前述の処理決定部113による変更内容に基づいて、コマンドパケット400を生成して、各処理部に送信する。コマンドパケット400を受信した処理部は、コマンドの内容に応じて処理モードを変更する。または、パケット化部114は、前述の処理決定部113による変更内容に基づいて、経路を変更するために、以降の映像タイルパケット500に付するヘッダ301のパケット経路310を変更する。   Returning to FIG. 6, the description of the flowchart will be continued. In step S610, the packetizing unit 114 generates a command packet 400 based on the contents changed by the processing determining unit 113 and transmits the command packet 400 to each processing unit. The processing unit that has received the command packet 400 changes the processing mode according to the content of the command. Alternatively, the packetizing unit 114 changes the packet route 310 of the header 301 attached to the subsequent video tile packet 500 in order to change the route based on the change contents by the processing determining unit 113 described above.

ステップS611で、タイル結合部132は、受信した映像タイルが1フレーム分溜まった場合に、フレームを復元して、タイムスタンプ313で指定された時刻に映像表示部134に表示する。   In step S611, when the received video tiles are accumulated for one frame, the tile combination unit 132 restores the frames and displays them on the video display unit 134 at the time designated by the time stamp 313.

ステップS612で、パケット化部114は、1フレーム分の映像タイルパケット500を受信部に送信したか否かを判定する。送信していない場合(ステップS612において「NO」)には、ステップS605に戻り、新たに映像タイルパケット500を生成して送信する。送信した場合(ステップS612において「YES」)には、ステップS613に移行する。   In step S612, the packetizer 114 determines whether or not the video tile packet 500 for one frame has been transmitted to the receiver. If not transmitted (“NO” in step S612), the process returns to step S605, and a new video tile packet 500 is generated and transmitted. If transmitted (“YES” in step S612), the process proceeds to step S613.

ステップS613で、パケット化部114は、映像データのすべてのフレームを送信したか否かを判定する。未送信のフレームがある場合(ステップS613において「NO」)には、ステップS604に戻り、次のフレームに用いるタイムスタンプ313を決定する。すべてのフレームを送信済みの場合(ステップS613において「YES」)には、映像表示部134がすべてのフレームを表示し終わるのを待って、処理を終了する。   In step S613, the packetizing unit 114 determines whether all frames of the video data have been transmitted. If there is an untransmitted frame (“NO” in step S613), the process returns to step S604, and the time stamp 313 used for the next frame is determined. If all the frames have been transmitted (“YES” in step S613), the process ends after the video display unit 134 finishes displaying all the frames.

以上のように、本実施形態では、映像タイルパケット500が結合部130に到着する時刻を調整することができる。そのため、アンダーフローによる映像又は音声の乱れや、オーバーフローによるバッファのあふれを防止することが可能となる。   As described above, in the present embodiment, the time at which the video tile packet 500 arrives at the combining unit 130 can be adjusted. Therefore, it is possible to prevent video or audio disturbance due to underflow and buffer overflow due to overflow.

<その他の実施形態>
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェイス機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
<Other embodiments>
Note that the present invention can be applied to a system including a plurality of devices (for example, a host computer, an interface device, a reader, and a printer), and a device (for example, a copying machine and a facsimile device) including a single device. You may apply to.

また、本発明の目的は、前述した機能を実現するコンピュータプログラムのコードを記録した記憶媒体を、システムに供給し、そのシステムがコンピュータプログラムのコードを読み出し実行することによっても達成される。この場合、記憶媒体から読み出されたコンピュータプログラムのコード自体が前述した実施形態の機能を実現し、そのコンピュータプログラムのコードを記憶した記憶媒体は本発明を構成する。また、そのプログラムのコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した機能が実現される場合も含まれる。   The object of the present invention can also be achieved by supplying, to a system, a storage medium that records the code of a computer program that realizes the functions described above, and the system reads and executes the code of the computer program. In this case, the computer program code itself read from the storage medium realizes the functions of the above-described embodiments, and the storage medium storing the computer program code constitutes the present invention. In addition, the operating system (OS) running on the computer performs part or all of the actual processing based on the code instruction of the program, and the above-described functions are realized by the processing. .

さらに、以下の形態で実現しても構わない。すなわち、記憶媒体から読み出されたコンピュータプログラムコードを、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込む。そして、そのコンピュータプログラムのコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行って、前述した機能が実現される場合も含まれる。   Furthermore, you may implement | achieve with the following forms. That is, the computer program code read from the storage medium is written in a memory provided in a function expansion card inserted into the computer or a function expansion unit connected to the computer. Then, based on the instruction of the code of the computer program, the above-described functions may be realized by performing a part or all of the actual processing by the CPU or the like provided in the function expansion card or function expansion unit.

本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャートに対応するコンピュータプログラムのコードが格納されることになる。   When the present invention is applied to the above-described storage medium, the computer program code corresponding to the flowchart described above is stored in the storage medium.

本発明の実施形態における情報処理装置100の機能ブロック図の一例を説明する図である。It is a figure explaining an example of the functional block diagram of the information processing apparatus 100 in embodiment of this invention. 本発明の実施形態における情報処理装置100のハードウェア構成を示すブロック図の一例である。It is an example of the block diagram which shows the hardware constitutions of the information processing apparatus 100 in embodiment of this invention. 本発明の実施形態におけるパケット300が備えるヘッダ301の構成の一例を説明する図である。It is a figure explaining an example of composition of header 301 with which packet 300 in an embodiment of the present invention is provided. 本発明の実施形態におけるコマンドパケット400の構成の一例を説明する図である。It is a figure explaining an example of composition of command packet 400 in an embodiment of the present invention. 本発明の実施形態における映像タイルパケット500の構成の一例を説明する図である。It is a figure explaining an example of a structure of the video tile packet 500 in embodiment of this invention. 本発明の実施形態における情報処理装置100の動作の一例を説明するフローチャートである。It is a flowchart explaining an example of operation | movement of the information processing apparatus 100 in embodiment of this invention. 本発明の実施形態における処理モードの推移の一例を説明する図である。It is a figure explaining an example of transition of the processing mode in the embodiment of the present invention. 本発明の実施形態における処理モードの推移の別の例を説明する図である。It is a figure explaining another example of transition of the processing mode in the embodiment of the present invention. 本発明の実施形態における処理モードの推移のさらに別の例を説明する図である。It is a figure explaining another example of transition of a processing mode in an embodiment of the present invention. 映像処理システムの概略ブロック図の一例である。1 is an example of a schematic block diagram of a video processing system.

符号の説明Explanation of symbols

100 情報処理装置
110 生成部
111 映像取得部
112 タイル分割部
113 処理決定部
114 パケット化部
120 処理部
121 処理部
122 処理部
130 結合部
131 ヘッダ解析部
132 タイル結合部
133 時間差検出部
134 映像表示部
DESCRIPTION OF SYMBOLS 100 Information processing apparatus 110 Generation part 111 Image | video acquisition part 112 Tile division part 113 Processing determination part 114 Packetization part 120 Processing part 121 Processing part 122 Processing part 130 Combining part 131 Header analysis part 132 Tile combining part 133 Time difference detection part 134 Part

Claims (8)

映像及び音声を含むデータを分割し、タイムスタンプを付してパケットを生成する生成手段と、
前記パケットに対して、処理速度の異なる複数のモードのいずれか一つで前記データの高品質化のための所定の処理を施す1以上の処理手段と、
前記所定の処理が施されたパケットを結合して前記データを再構成する結合手段と
を備え、
前記パケットはそれぞれ、該生成手段が設定した処理経路に基づいて、前記1以上の処理手段の少なくともいずれかを経由して前記生成手段から前記結合手段に到着し、
前記結合手段に前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第1の閾値よりも大きい第1の場合に、前記処理を施した処理手段の少なくともいずれかは前記モードを現行のモードよりも処理速度の速いモードに切り替えて、それ以降に該処理手段に到着したパケットに対して処理を施し、
前記結合手段に前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第2の閾値よりも小さい第2の場合に、前記処理を施した処理手段の少なくともいずれかは前記モードを現行のモードよりも処理速度の遅いモードに切り替えて、それ以降に該処理手段に到着したパケットに対して処理を施す
ことを特徴とする情報処理装置。
Generating means for dividing data including video and audio and generating a packet with a time stamp;
One or more processing means for performing predetermined processing for improving the quality of the data in any one of a plurality of modes having different processing speeds on the packet;
Combining means for combining the packets subjected to the predetermined processing to reconstruct the data;
Each of the packets arrives at the combining unit from the generating unit via at least one of the one or more processing units based on the processing path set by the generating unit,
In a first case where a value obtained by subtracting the time indicated by the time stamp included in the arriving packet from the time when the packet arrived at the combining means is larger than a first threshold, the processing means that has performed the processing At least one of them switches the mode to a mode having a higher processing speed than the current mode, and subsequently processes packets that arrive at the processing means,
In a second case where the value obtained by subtracting the time indicated by the time stamp included in the arriving packet from the time when the packet arrived at the combining means is smaller than a second threshold, the processing means that has performed the processing At least one of the information processing apparatuses is characterized in that the mode is switched to a mode having a slower processing speed than the current mode, and processing is performed on a packet that has arrived at the processing means thereafter.
前記処理手段にはそれぞれ前記処理に関する優先度が規定され、
前記第1の場合に、現行のモードよりも処理速度の速いモードに切り替えることができる前記処理手段のうち、前記優先度が最も低い処理手段が該切り替えを行い、
前記第2の場合に、現行のモードよりも処理速度の遅いモードに切り替えることができる前記処理手段のうち、前記優先度が最も高い処理手段が該切り替えを行う
ことを特徴とする請求項1に記載の情報処理装置。
Priorities for the processing are defined for the processing means, respectively.
Among the processing means capable of switching to a mode having a higher processing speed than the current mode in the first case, the processing means having the lowest priority performs the switching,
The processing unit having the highest priority among the processing units capable of switching to a mode having a slower processing speed than the current mode in the second case performs the switching. The information processing apparatus described.
前記処理手段は、処理速度が最も早いモードにおいて、前記所定の処理を行わないでパケットを転送することを特徴とする請求項1又は2に記載の情報処理装置。   The information processing apparatus according to claim 1, wherein the processing unit transfers the packet without performing the predetermined processing in a mode in which the processing speed is the fastest. 前記生成手段は、前記第1の場合に、前記結合手段に到着したパケットに対して前記処理を施した処理手段の少なくともいずれかを除いた処理経路に変更することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。   2. The method according to claim 1, wherein, in the first case, the generation unit changes to a processing path excluding at least one of the processing units that have performed the processing on the packet that has arrived at the combining unit. 4. The information processing apparatus according to any one of 3. 前記処理モードの切り替えは、前記生成手段が生成した、前記処理手段にモードを切り替えさせるためのコマンドを含むパケットに基づいて行うことを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。   The switching of the processing mode is performed based on a packet generated by the generation unit and including a command for causing the processing unit to switch the mode. Information processing device. 前記所定の処理は、前記データを高画質化するための高解像度変換、誤り訂正、シャープネス変換、及びプログレッシブ変換のいずれかを含むことを特徴とする請求項1乃至5のいずれか1項に記載の情報処理装置。   6. The predetermined process includes any one of high resolution conversion, error correction, sharpness conversion, and progressive conversion for improving the image quality of the data. Information processing device. 生成手段が、映像及び音声を含むデータを分割し、タイムスタンプを付してパケットを生成する生成工程と、
1以上の処理手段が、前記パケットに対して、処理速度の異なる複数のモードのいずれか一つで前記データの高品質化のための所定の処理を施す処理工程と、
結合手段が、前記所定の処理が施されたパケットを結合して前記データを再構成する結合工程と
を備え、
前記結合工程において、前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第1の閾値よりも大きい第1の場合に、前記処理工程において前記モードを現行のモードよりも処理速度の速いモードに切り替えて、それ以降に到着したパケットに対して処理を施し、
前記結合工程において、前記パケットが到着した時刻から、該到着したパケットが含む前記タイムスタンプの示す時刻を減じた値が第2の閾値よりも小さい第2の場合に、前記処理工程において前記モードを現行のモードよりも処理速度の遅いモードに切り替えて、それ以降に到着したパケットに対して処理を施す
ことを特徴とする情報処理装置の制御方法。
A generating step of generating data by dividing the data including video and audio and attaching a time stamp;
A processing step in which one or more processing means performs predetermined processing for improving the quality of the data in any one of a plurality of modes having different processing speeds on the packet;
A combining unit, which combines the packets subjected to the predetermined processing to reconstruct the data;
In the combining step, when the value obtained by subtracting the time indicated by the time stamp included in the arrived packet from the time when the packet arrived is larger than a first threshold, the mode is set in the processing step. Switch to a mode that has a faster processing speed than the current mode, process the packets that arrive after that,
In the combining step, in the second case where the value obtained by subtracting the time indicated by the time stamp included in the arrived packet from the arrival time of the packet is smaller than a second threshold, the mode is set in the processing step. A control method for an information processing apparatus, wherein the mode is switched to a mode having a slower processing speed than the current mode, and processing is performed on packets that arrive thereafter.
コンピュータを請求項1乃至6のいずれか1項の情報処理装置として機能させるコンピュータプログラム。   A computer program that causes a computer to function as the information processing apparatus according to claim 1.
JP2008189044A 2008-06-16 2008-07-22 Information processing apparatus, control method therefor, and computer program Expired - Fee Related JP5161683B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008189044A JP5161683B2 (en) 2008-07-22 2008-07-22 Information processing apparatus, control method therefor, and computer program
US12/484,861 US8467444B2 (en) 2008-06-16 2009-06-15 Information processing system, information processing apparatus, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008189044A JP5161683B2 (en) 2008-07-22 2008-07-22 Information processing apparatus, control method therefor, and computer program

Publications (3)

Publication Number Publication Date
JP2010028574A true JP2010028574A (en) 2010-02-04
JP2010028574A5 JP2010028574A5 (en) 2011-09-01
JP5161683B2 JP5161683B2 (en) 2013-03-13

Family

ID=41733959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008189044A Expired - Fee Related JP5161683B2 (en) 2008-06-16 2008-07-22 Information processing apparatus, control method therefor, and computer program

Country Status (1)

Country Link
JP (1) JP5161683B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017092869A (en) * 2015-11-16 2017-05-25 株式会社Pfu Video processing apparatus, video processing system and video processing method

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006020317A (en) * 2004-06-30 2006-01-19 Zarlink Semiconductor Inc Joint pipelining packet classification, and address search method and device for switching environments
JP2007535875A (en) * 2004-04-30 2007-12-06 ワールドゲイト・サービス・インコーポレイテッド Adaptive video phone system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007535875A (en) * 2004-04-30 2007-12-06 ワールドゲイト・サービス・インコーポレイテッド Adaptive video phone system
JP2006020317A (en) * 2004-06-30 2006-01-19 Zarlink Semiconductor Inc Joint pipelining packet classification, and address search method and device for switching environments

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
CSNG200500172004; 但馬康宏(外2名): '「パケットの直接的な読み書きによるインターネットプロトコル学習システム」' 電子情報通信学会技術研究報告 Vol.103, No.697(ET2003-98〜136), 20040227, 第17〜22頁, 社団法人電子情報通信学会 *
JPN6012059254; 但馬康宏(外2名): '「パケットの直接的な読み書きによるインターネットプロトコル学習システム」' 電子情報通信学会技術研究報告 Vol.103, No.697(ET2003-98〜136), 20040227, 第17〜22頁, 社団法人電子情報通信学会 *
JPN6012059257; 「Interface増刊 ディジタル放送の基礎技術入門」 , 20020101, 第77〜78頁, CQ出版株式会社 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017092869A (en) * 2015-11-16 2017-05-25 株式会社Pfu Video processing apparatus, video processing system and video processing method
US10263743B2 (en) 2015-11-16 2019-04-16 Pfu Limited Video-processing apparatus, video-processing system, and video-processing method

Also Published As

Publication number Publication date
JP5161683B2 (en) 2013-03-13

Similar Documents

Publication Publication Date Title
US7516255B1 (en) Method and apparatus for providing a low-latency connection between a data processor and a remote graphical user interface over a network
US7844848B1 (en) Method and apparatus for managing remote display updates
JP4746998B2 (en) Transmission rate adjusting device and transmission rate adjusting method
BRPI0406421B1 (en) method for remote graphics systems
KR20080016817A (en) Flow control for media streaming
JP2005086677A (en) Communication equipment
US20090310670A1 (en) Information processing system, information processing apparatus, information processing method, and program
JPWO2011077550A1 (en) Screen relay device
JP2002271389A (en) Packet processor and packet processing method
JP5161683B2 (en) Information processing apparatus, control method therefor, and computer program
JP4675944B2 (en) Image processing apparatus, image processing method, and image processing program
JP3637835B2 (en) Network transmission equipment
EP1821490A1 (en) Method for transmitting graphical data to a thin client
JP2001186100A (en) Data multiplexer
JP5695537B2 (en) Server, server control method, server control program
JP5161682B2 (en) Video processing apparatus, control method therefor, computer program, and video processing system
JP2008199657A (en) Image compression system, and image compression method
US20040168204A1 (en) Method of processing packet data between video server and clients
US8606039B2 (en) Information processing apparatus, control method for the same, and computer program
JP6593053B2 (en) Content playback apparatus, content playback method, and content playback program
JP6484403B2 (en) Communication device, communication program, and communication method
JP4891204B2 (en) Video processing apparatus, video processing method, video processing program, and storage medium
JP4636267B2 (en) Encoding device and encoding bit rate switching method
JP2005292375A (en) Audio-reproducing device and clock-frequency control method
WO2022021058A1 (en) Image receiving device and method, image processing device and method, and image transmission system

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110720

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121214

R151 Written notification of patent or utility model registration

Ref document number: 5161683

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151221

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees