JP4539018B2 - 送信制御装置および方法、記録媒体、並びにプログラム - Google Patents
送信制御装置および方法、記録媒体、並びにプログラム Download PDFInfo
- Publication number
- JP4539018B2 JP4539018B2 JP2003057428A JP2003057428A JP4539018B2 JP 4539018 B2 JP4539018 B2 JP 4539018B2 JP 2003057428 A JP2003057428 A JP 2003057428A JP 2003057428 A JP2003057428 A JP 2003057428A JP 4539018 B2 JP4539018 B2 JP 4539018B2
- Authority
- JP
- Japan
- Prior art keywords
- transmission rate
- image
- data
- transmission
- quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
- H04N21/23805—Controlling the feeding rate to the network, e.g. by controlling the video pump
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/637—Control signals issued by the client directed to the server or network components
- H04N21/6377—Control signals issued by the client directed to the server or network components directed to server
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Communication Control (AREA)
Description
【発明の属する技術分野】
本発明は、送信制御装置および方法、記録媒体、並びにプログラムに関し、特に、ネットワーク上のデータの送信において、スロースタートを回避し、即座にデータを送信することができるようにする送信制御装置および方法、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
インターネットなどのネットワークを介して、送信端末装置から音声や画像のデータ(以下、マルチメディアデータとも称する)を受信端末装置に送信する場合、送信端末装置が、ネットワークのトラフィック状況に応じて、受信端末装置に送信するマルチメディアデータの伝送レートを調整しなければ、データを受信する受信端末装置において、パケットの損失や伝播遅延などを発生させ、送信されたマルチメディアデータの品質が悪化するという問題がある。
【0003】
その問題に対処するために、送信端末装置は、送出するデータを調整する制御を行う。ネットワーク上のデータの送信には、一般的には、TCP(Transmission Control Protocol)やUDP(User Datagram Protocol)のプロトコルが用いられる。TCPは、データの配送が保証されるという性質をもつトランスポートプロトコルであり、データの送信についての信頼性が高い。また、TCPは、ネットワークの状況に応じて自律的に伝送レートを調整するしくみを有している。TCPによる通信では、送信開始時に、送信端末装置は、1パケットを受信端末装置に送信する。そして、送信端末装置は、その1パケットに対する受信確認通知(ACK)を受信端末装置から受信すると、送信するパケット数を2パケットに増やし、受信端末装置に送信する。同様にして、送信端末装置は、受信確認通知を受信するたびに、送信するパケット数を1つずつ増やしてデータを送信する。
【0004】
しかし、このような方法では、送信端末装置が受信端末装置にデータを送信するときの伝送レートは、緩やかに上昇することになり、伝送レートの値が収束し、安定したレート(以下、安定伝送レートと称する)になるまで時間がかかるという、いわゆるスロースタート問題が発生する。
【0005】
一方、UDPは、音声や画像のデータの送信に使用されることが多いが、TCPのようなネットワークの状況に応じて自律的に伝送レートを調整するしくみを有していない。そこで、UDPにおいても、TCPのように伝送レートを調整して、データを送信する方法がいくつか提案されている。
【0006】
非特許文献1で提案されているTFRC(TCP-Friendly Rate Control)という手法では、TCPと同じように、送信側は、受信側から返信される情報(以下、フィードバック情報と称する)に基づいてネットワークの負荷状態(トラフィック状況)を推測し、自律的にデータの送出量(伝送レート)を調整する。このTFRCの手法も、TCPと同じ方法を用いているので、TCPがもつスロースタート問題を有している。
【0007】
また、非特許文献2で提案されている手法も、受信応答を待って緩やかに伝送レートを上げていく方法を採用しており、TCPと同様のスロースタート問題を有している。
【0008】
マルチメディアデータのストリーミングデータを送信する場合においては、スロースタート問題は、伝送レートが安定伝送レートに達するまで時間がかかるという問題の他に、低い伝送レートで送信したデータは、受信側にとって、意味のないデータになる可能性があるという問題を有している。例えば、画像のストリーミングデータを送信する場合、低い伝送レートで送信された画像は、画質が著しく悪化しているために、受信側において全ての画像データを受信した場合でも、ユーザが許容できる画質に達していないということがあり得る。その場合、結局、受信側は、ユーザが許容できる画質に達するまで、すなわち、伝送レートがユーザが許容できる画質の画像データを送信できる程度に十分に大きくなるまで、待たなければいけない。近年、ブロードバンドの普及により、コンテンツの大容量化が進み、それとともにユーザが求める画質も高くなってきている。ユーザが求める画質が高くなるほど、スロースタート問題によってユーザが待たなければいけない時間は長くなることになる。
【0009】
そこで、上述したようなスロースタート問題を解決する手法として、データ転送開始時にパケットペア(Packet Pair)と呼ばれるプローブパケット(Probe Packet)を用いて、送信側と受信側のバンド幅(伝送レート)を推測する方法が提案されている(例えば、特許文献1参照)。
【0010】
【特許文献1】
特開2002−94567号公報(第14ページ、図5、図8)
【非特許文献1】
R.Rejaje, M.handley, and D.Estrin,"RAP: An end-to-end rate-based congestion control mechanism for realtime streams in the Internet", in Proc. of IEEE/INFOCOM'99, March 1999
【非特許文献2】
J.Widmer,“Equation-based congestion control", Diploma Thesis, University of Mannheim, February 2000,<URL:http;//www.icir.org/tfrc>
【0011】
【発明が解決しようとする課題】
しかしながら、特許文献1に示される方法では、スロースタート問題を回避することはできるが、それ以外の新たな問題が発生する。すなわち、送信側は、プローブパケットを受信側に送信してから、そのプローブパケットに対する受信確認通知(ACK)を受信するまでの間(通常RTT(Round Trip Time)時間)、本来送信するべきデータ、例えば、画像のデータなどの送信を開始することができないという問題が発生する。
【0012】
また、プローブパケットは、受信側が求めるデータの内容と関係がないものであり、余分なデータが送信されることによりネットワーク上のバンド幅が狭くなる、という問題も発生する。
【0013】
本発明は、このような状況に鑑みてなされたものであり、ネットワーク上のデータの送信において、スロースタートを回避し、データを即座に送信することができるようにするものである。
【0014】
【課題を解決するための手段】
本発明の送信制御装置は、コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、画像の性質に対応して、画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定手段と、品質決定手段において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定手段と、データの送信の開始の時点において、伝送レート決定手段において決定された伝送レートでデータが送信されるように、データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定手段により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御手段とを備えることを特徴とする。
【0015】
人間の視覚特性を考慮したコンテンツの雑音感度である性質は、画像の動きの激しさに関する性質とすることができる。
【0016】
画像の動きの激しさに関する性質は、所定の時間間隔でフレーム単位の画像を抽出し、時系列に沿ってフレーム画像間の対応する画素の差分を取ることにより求められるようにすることができる。
【0017】
画像の性質に対応付けられた許容最低画質のデータを記憶する記憶手段をさらに設け、品質決定手段には、記憶手段に記憶されたデータに基づいて、許容最低画質を決定させるようにすることができる。
【0018】
画像のデータは、所定の符号化方式で符号化された画像のデータであり、伝送レート決定手段には、画像の画像サイズおよび符号化方式に対応する品質と伝送レートとの関係を用いて、伝送レートを決定させるようにすることができる。
【0019】
外部から画像の性質に関する情報を入力する情報入力手段をさらに設け、品質決定手段には、情報入力手段から入力される情報に対応して、許容最低画質を決定させるようにすることができる。
【0021】
伝送レート制御手段には、データの通信のタイムアウトが発生した場合、伝送レート決定手段において決定された伝送レートで、データの送信が再開されるように、データの伝送レートを制御させるようにすることができる。
【0022】
本発明の送信制御方法は、コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、画像の性質に対応して、画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、データの送信の開始の時点において、伝送レート決定ステップの処理において決定された伝送レートでデータが送信されるように、データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップとを含むことを特徴とする。
【0023】
本発明の記録媒体のプログラムは、所定の画像のデータの送信を制御するコンピュータに、コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、画像の性質に対応して、画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、データの送信の開始の時点において、伝送レート決定ステップの処理において決定された伝送レートでデータが送信されるように、データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップとを含む処理を実行させる。
【0024】
本発明のプログラムは、所定の画像のデータの送信を制御するコンピュータに、コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、画像の性質に対応して、画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、データの送信の開始の時点において、伝送レート決定ステップの処理において決定された伝送レートでデータが送信されるように、データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップとを含む処理を実行させることを特徴とする。
【0025】
本発明の送信制御装置および方法、記録媒体、並びにプログラムにおいては、コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、画像の性質に対応して、画像を視聴したユーザが許容できる最低の品質である許容最低画質が決定され、決定された許容最低画質に対応して、伝送レートが決定され、データの送信の開始の時点において、決定された伝送レートでデータが送信され、データの送信開始後は、送信されたデータを受信した受信装置からのデータに対するフィードバック情報に応じて、決定された伝送レート以下には下げないように、データの伝送レートが制御される。
【0026】
送信制御装置は、独立した装置であっても良いし、1つの装置の送信制御処理を行うブロックであっても良い。
【0027】
【発明の実施の形態】
図1は、本発明を適用した通信システムの構成例を示す図である。
【0028】
図1において、送信装置11は、インターネットを含むネットワーク12を介して、受信装置13に接続されている。送信装置11は、それ自身の内部に有する画像取得部21(図2)が撮像した画像を、例えばMPEG(Moving Picture Experts Group)-4やJPEG(Joint Photographic Experts Group)-2000などの符号化方式により符号化し、その符号化された画像データを含むパケットを生成する。さらに、送信装置11は、その生成したパケットを、ネットワーク12を介して、受信装置13に送信する。また、送信装置11は、受信装置13より、自身が送信したパケットに対する受信確認通知(ACK)などのフィードバック情報を受信する。
【0029】
受信装置13は、送信装置11から送信されたパケットを受信する。そして、受信装置13は、そのパケットから、画像データを取得して、例えば、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などの表示装置(図示せず)に表示させる。また、受信装置13は、送信装置11から受信したパケットに対する、受信確認通知(ACK)などのフィードバック情報を生成し、そのフィードバック情報を送信装置11に送信する。
【0030】
なお、ここでは説明を簡単にするため、送信装置11と受信装置13とを分けて説明するが、送信装置11は、受信装置13の機能を備えることができ、受信装置13も、送信装置11の機能を備えることができる。
【0031】
図2は、第1実施の形態である送信装置11の構成例を示している。
【0032】
操作部27は、ユーザの操作の入力を受け付け、受け付けられた操作に対応する操作情報を、各種のブロックに通知する。すなわち、ユーザは、操作部27を操作することにより、受信装置13(図1)に画像データを送信する場合の、例えばMPEG-4やJPEG-2000などの画像データの圧縮方式(符号化方式)を指定する。そして、操作部27は、その圧縮方式(符号化方式)の指定情報を、画像符号化部22と初期レート決定部24に供給する。さらに、操作部27は、ユーザが操作部27を操作して設定したアプリケーションの性質を、初期レート決定部24に供給する。アプリケーションの性質については、後述する。
【0033】
画像取得部21は、例えば、カメラ一体型ビデオテープレコーダやデジタルビデオカメラなどで構成される。画像取得部21は、被写体を撮像し、撮像した被写体の画像データを、例えば、輝度信号(Y)、輝度信号と赤色成分の差(U)、輝度信号と青色成分の差(V)のYUV形式などで、画像符号化部22および初期レート決定部24にそれぞれ供給する。
【0034】
ユーザは、上述したように、操作部27を操作することにより、符号化方式を指定することができ、その指定された符号化方式を示す情報が、操作部27から画像符号化部22に供給される。画像符号化部22は、画像取得部21から供給された画像データを、操作部27から供給されることにより指定された、MPEG-4やJPEG-2000などの符号化方式に従って符号化し、その符号化されたデータ(以下の説明において、符号化されたデータを符号化データと称する)を、送信部23に供給する。
【0035】
送信部23は、画像符号化部22から供給された符号化データを、複数に分割し、パケット化してデータパケットを生成する。また、送信部23は、生成したデータパケットに、TCP/IP(Transmission Control Protocol/Internet Protocol)、またはUDP/IP(User Datagram Protocol/Internet Protocol)のパケットヘッダを付加する。そして、送信部23は、後述するレート制御部25から供給されるタイミング指令に基づいて、パケットヘッダが付加されたデータパケット(以下、パケットヘッダが付加されたデータパケットを単にパケットという)をネットワークI/F部26を介して受信装置13に送信する。
【0036】
初期レート決定部24には、画像取得部21と、送信装置11の外部から、画像取得部21が撮像している画像に関する、画像の性質が供給される。また、初期レート決定部24には、ユーザが操作部27を操作して選択された符号化方式を示す情報が、操作部27から供給される。初期レート決定部24は、その画像の性質や符号化方式などに基づいて、受信装置13で受信した画像を視聴したユーザが許容できる最低の品質を決定する。また、初期レート決定部24は、その品質を満足する伝送レートを決定し、その伝送レートを初期伝送レートとして、レート制御部25に供給する。初期レート決定部24の詳細な構成および画像の性質を示す具体的な項目については、図3を参照して後述する。なお、以下において、画像を視聴したユーザが許容できる最低の品質のことを許容最低画質と称する。
【0037】
レート制御部25は、送信部23がパケットを送信するときの伝送レートの制御を行う。すなわち、レート制御部25は、送信部23が最初のパケットを送信するときには、そのパケットの伝送レートが、初期レート決定部24から供給された初期伝送レートとなるようにタイミング指令を送信部23に供給する。また、レート制御部25は、2回目以降のパケットの送信においては、ネットワークI/F部26を介して供給された受信装置13からのフィードバック情報に基づいて伝送レートを決定し、パケットの伝送レートが、その決定した伝送レートとなるようにタイミング指令を送信部23に供給する。
【0038】
ここで、送信装置11から初期伝送レートで受信装置13に送信された画像データを表示装置が表示した場合、表示された画像の品質(画質)は、ストリーミングデータとして最低限の品質(画質)の表示となる。なぜなら、初期伝送レートは、上述したように、受信側で受信した画像を視聴したユーザが許容できる最低の品質となるように決定されているからである。従って、初期伝送レート以下の伝送レートで送信された画像は、ユーザが許容できる程度以下に画質が劣化するため、レート制御部25は、送信部23がパケットを送信するときの伝送レートを、初期伝送レート以下に下げることはできない。すなわち、初期伝送レートは、送信部23が送信を開始するときの伝送レートであるとともに、通信時における伝送レートの下限値であるともいえる。従って、レート制御部25は、ネットワークI/F部26を介して供給された受信装置13からのフィードバック情報に応じて伝送レートを適応的に決定するが、初期レート決定部24から供給された初期伝送レート以下には、伝送レートを下げないように伝送レートを制御する。
【0039】
また、レート制御部25において、送信部23が送信したパケットに対応するフィードバック情報が、ネットワークI/F部26から受信されなかった場合、即ち、送信装置11と受信装置13との間に、通信のタイムアウトが発生した場合、レート制御部25は、フィードバック情報を基に次のパケットを送信するときの伝送レートを決定することができない。そのような場合には、レート制御部25は、送信部23が次のパケットを送信するときの伝送レートを、初期レート決定部24から供給された初期伝送レートに戻し、その初期伝送レートで送信部23がパケットを送信するように伝送レートを制御する。
【0040】
ネットワークI/F(Interface)部26は、送信部23から供給されたパケットをネットワーク12を介して受信装置13に出力する。また、ネットワークI/F部26は、ネットワーク12を介して受信装置13から供給されたフィードバック情報をレート制御部25に出力する。
【0041】
図3は、図2の初期レート決定部24の内部の構成例を示している。
【0042】
初期レート決定部24は、画像取得部21(図2)が撮像している画像の性質に基づいて、受信装置13(図1)で受信した画像を視聴したユーザが許容できる最低の品質(許容最低画質)を決定し、その品質を満足する伝送レートを決定して、その伝送レートを初期伝送レートとして、レート制御部25(図2)に供給する。
【0043】
ここで、画像の性質として、例えば、アプリケーションの性質、コンテンツの性質、および撮像装置の性質などを用いることができる。
【0044】
アプリケーションの性質は、コンテンツの内容による分類である。例えば、テレビ会議、ニュース番組、野球中継、サッカー中継などが挙げられる。ニュース番組は、画像中心部に人間がいて、背景が動くことがある。テレビ会議は、画像中心部に人間がいて、背景はほとんど動かないが、人間の表情を伝えることに対する要求が高く、要求される画質は、ニュース番組より高くなる。野球中継とサッカー中継では、画質に対する要求は、1つのフィールドを両チームが入り乱れて戦うサッカー中継の方が、動きが重視され、野球中継より低くなる。ユーザは操作部27を操作してアプリケーションの性質(テレビ会議、ニュース番組、野球中継、サッカー中継などのいずれか)を設定し、その設定された情報が操作部27から許容画質決定部42に供給される。
【0045】
コンテンツの性質は、人間の視覚特性を考慮したコンテンツの雑音感度である。動きの激しい画像や、細かい部分を含む画像では、例えば、圧縮率をあげて画質の劣化が発生しても、人間が感じる画質の劣化は、圧縮率を上げた分の画質の劣化より小さくなる。コンテンツの性質では、このような人間の視覚特性が考慮される。コンテンツの性質としては、例えば、画像の動きの激しさなどを採用することができる。画像の動きは、例えば、画像取得部21から初期レート決定部24に供給される画像データを用いて、所定の時間間隔でフレーム単位の画像を抽出し、時系列に沿ってフレーム画像間の対応する画素の差分を取ることにより、動きのある画素を抽出して求めることができる。
【0046】
撮像装置の性質とは、撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示すものである。例えば、デジタルビデオカメラが激しく動いて撮像される画像では、圧縮率をあげて画質の劣化が発生しても、人間が感じる画質の劣化は、圧縮率を上げた分の画質の劣化より小さくなる。撮像装置の性質としては、例えば、画像取得部21が、デジタルビデオカメラである場合、デジタルビデオカメラが、固定されて被写体を撮像したか、あるいは、移動しながら被写体を撮影したか、などの情報を採用することができる。この情報は、例えば、デジタルビデオカメラの移動速度という値で表すことができ、送信装置11の外部で取得して外部I/F(Interface)部41に供給することができる。デジタルビデオカメラが固定カメラの場合には、カメラの移動速度がゼロである旨の情報が外部I/F部41に供給される。撮像装置の性質は、コンテンツの性質と似ているが、撮像装置の移動速度などの値は、客観的数値として入手し易いという特徴がある。
【0047】
外部I/F部41は、送信装置11の外部から供給された、上述したような撮像装置の性質(移動速度)を、許容画質決定部42に出力する。
【0048】
許容画質決定部42は、画像取得部21から供給された画像データに基づいて、上述した画像の動き(コンテンツの性質)を算出する。そして、許容画質決定部42は、操作部27から供給されるアプリケーションの性質、画像取得部21から供給された画像データに基づいて算出した画像の動き(コンテンツの性質)、および外部I/F部41から供給された移動速度(撮像装置の性質)から、データベース43を参照して、許容最低画質を決定し、決定した許容最低画質を伝送レート決定部44に出力する。なお、この実施の形態においては、アプリケーションの性質は、テレビ会議、ニュース番組、野球中継、およびサッカー中継の4種類、コンテンツの性質は、画像の動き、撮像装置の性質は、画像取得部21の移動速度を利用するものとする。
【0049】
データベース43には、図4に示されるような、アプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータなどが予め記憶されている。このデータベース43に記憶されるアプリケーションの性質と許容最低画質とを対応付けたテーブルや、コンテンツの性質と許容最低画質との関係を示すデータは、不特定多数のユーザによる実験を行い、その実験データによる統計的処理から一般的にユーザが許容することができる画質として求めるようにすることができる。例えば、野球中継の画像に対して、さまざまに画質を変えてユーザに視聴させ、ユーザは、許容できる画質を判断する。その判断結果を蓄積したデータを用いて、一般的にユーザが許容する画質として設定することができる。なお、ここでの画質とは、例えば、画像のS/N(Signal to Noise Ratio)比とすることができる。
【0050】
図4Aは、アプリケーションの性質と許容最低画質とを対応付けたテーブルの例を示している。アプリケーションの性質がテレビ会議である場合、許容最低画質はD1であると設定されている。アプリケーションの性質がニュース番組である場合、許容最低画質はD2であると設定されている。以下、同様にアプリケーションの性質が野球中継である場合、許容最低画質がD3と、アプリケーションの性質がサッカー中継である場合、許容最低画質がD4とそれぞれ設定されている。なお、この実施の形態においては、アプリケーションの性質としては、テレビ会議、ニュース番組、野球中継、およびサッカー中継の4種類とするが、この4種類に限らず、例えば、コンサート中継など、必要に応じて、様々な分類を追加することができる。
【0051】
図4Bは、コンテンツの性質としての画像の動きと許容最低画質との関係を示すデータの例を示している。画像の動きmと許容最低画質Dの関係は、図4Bに示されるように、関数fx()を用い、式D=fx(m)で表される関係があるとしてデータベース43に与えられている。例えば、許容画質決定部42が、画像取得部21から供給される画像データを基に、画像の動きとしてm1を算出した場合、許容画質決定部42は、図4Bに示されるD=fx(m)の関係を用いて、画像の動きm1に対応する許容最低画質Dm1を求める。
【0052】
なお、撮像装置の性質としての移動速度と許容最低画質とを対応付けたデータの例を示していないが、移動速度と画像の動きは、主体的に動いている物体が、画像取得部21側(移動速度)か、または被写体側(画像の動き)かの違いであり、移動速度と許容最低画質の関係も図4Bに示すように表現することができるので、この実施の形態においては、移動速度mと許容最低画質Dの関係も図4Bに示されるD=fx(m)の関係であるとして、移動速度に関する説明を省略する。
【0053】
また、画像の動きと許容最低画質の関係は、図4Bに示されるD=fx(m)のような関数fx()で表す以外に、画像の動きを所定の範囲で分割し、それぞれの画像の動きの範囲に許容最低画質を対応付け、図4Aにおける場合と同様にテーブルを用いて表すようにしてもよい。
【0054】
以上のように、許容画質決定部42は、データベース43を参照して、アプリケーションの性質に基づく許容最低画質Di(i=1乃至4のいずれか)と、コンテンツの性質に基づく許容最低画質Dm1を決定する。さらに、許容画質決定部42は、それらの許容最低画質Di(i=1乃至4のいずれか)とDm1に基づいて、最終的な許容最低画質Dを決定し、伝送レート決定部44に供給する。ここで、最終的な許容最低画質Dの求め方としては、例えば、アプリケーションの性質からの許容最低画質Di(i=1乃至4のいずれか)と画像の動き(移動速度)からの許容最低画質Dm1の両者のうちの、画像の品質(画質)のいずれか高い方を最終的な許容最低画質Dとして採用することができる。
【0055】
なお、データベース43に記憶されるアプリケーションの性質と許容最低画質とを対応付けたテーブルや、コンテンツの性質と許容最低画質との関係を示すデータは、多くの実験や経験により変化することが考えられる。従って、これらのデータは、定期的に更新されるようにするのが望ましい。例えば、データベース43を着脱可能な記憶媒体に記憶させるようにして、データが更新された場合、更新されたデータベース43が記憶された記憶媒体そのものを交換するようにすることができる。また、データベース43をネットワーク12に接続するようにして、更新されたデータが保存されているサーバなどからネットワーク12を介してデータを受信し、データベース43を更新するようにすることもできる。
【0056】
図3に戻り、初期レート決定部24の伝送レート決定部44には、ユーザが操作部27を操作することにより設定された、画像データを圧縮する場合の圧縮方式(符号化方式)の情報が操作部27から供給される。また、伝送レート決定部44には、許容画質決定部42と同様に、画像取得部21が撮像した画像データが供給される。そして、伝送レート決定部44は、画像取得部21から供給された画像データから、その画像サイズ(例えば、SD(Standard Definition)サイズやSIF(Source Input Format)サイズなど)を取得する。また、伝送レート決定部44は、取得した画像サイズと、操作部27から供給された符号化方式に基づいて、許容画質決定部42から供給された品質(許容最低画質)に対応する伝送レートを決定し、その伝送レートを初期伝送レートとして、レート制御部25(図2)に供給する。ここで、SDサイズは、撮像画像の画素数が720×480画素のサイズであり、SIFサイズは、撮像画像の画素数が360×240画素のサイズである。
【0057】
ここで、画像サイズおよび画像の圧縮率とバンド幅(伝送レート)との関係について考える。SDサイズの画像とSIFサイズの画像を送信するときに必要なバンド幅(伝送レート)は、その他の条件を同じとすれば、当然ながら、画素数の多いSDサイズの画像の方が大きくなる。一方、画像データが送信装置11から受信装置13に送信される場合、上述したように画像符号化部22において、画像データは圧縮(符号化)されてネットワーク12を伝送される。そこで、画像符号化部22が圧縮(符号化)するときの圧縮率を高くすることにより、ネットワーク12上の伝送に必要なバンド幅(伝送レート)を低くすることができる。しかしながら、画像符号化部22が圧縮(符号化)するときの圧縮率を高くすると、画質は劣化することとなる。つまり、画質と伝送レートの関係は、画像サイズや符号化方式(圧縮率)ごとに固有の関係を有し、図5に示されるような関係がある。
【0058】
図5Aは、符号化方式がMPEG-4の場合の、SDサイズとSIFサイズの画質Dと伝送レートBの関係を示しており、図5Bは、符号化方式がJPEG-2000の場合の、SDサイズとSIFサイズの画質Dと伝送レートBの関係を示している。
【0059】
図5Aにおいては、画像取得部21から供給される画像データに基づいて伝送レート決定部44が取得した画像サイズがSDサイズの場合、即ち、画像取得部21がSDサイズの画像を出力する場合、画質と伝送レートの関係は、B=fa(D)の関数で与えられる。また、画像取得部21から供給される画像データに基づいて伝送レート決定部44が取得した画像サイズがSIFサイズの場合、即ち、画像取得部21がSIFサイズの画像を出力する場合、画質と伝送レートの関係は、B=fb(D)の関数で与えられる。従って、例えば、許容画質決定部42から伝送レート決定部44に供給された画質(許容最低画質)がD1Aの場合、画像サイズがSDサイズであれば、伝送レートは、B1=fa(D1A)と、画像サイズがSIFサイズであれば、伝送レートは、B0=fb(D1A)と、それぞれ決定することができる。
【0060】
一方、図5Bにおいては、画像取得部21から供給される画像データに基づいて伝送レート決定部44が取得した画像サイズがSDサイズの場合、即ち、画像取得部21がSDサイズの画像を出力する場合、画質と伝送レートの関係は、B=fc(D)の関数で与えられる。また、画像取得部21から供給される画像データに基づいて伝送レート決定部44が取得した画像サイズがSIFサイズの場合、即ち、画像取得部21がSIFサイズの画像を出力する場合、画質と伝送レートの関係は、B=fd(D)の関数で与えられる。従って、例えば、許容画質決定部42から伝送レート決定部44に供給された画質(許容最低画質)がD1Bの場合、画像サイズがSDサイズであれば、伝送レートは、B3=fc(D1B)と、画像サイズがSIFサイズであれば、伝送レートは、B2=fd(D1B)と、それぞれ決定することができる。
【0061】
伝送レート決定部44は、上述の図5で示される画質と伝送レートの関係のデータを内部に有している。伝送レート決定部44は、画像取得部21が撮像した画像のサイズおよび符号化方式に対応する、図5の画質と伝送レートの関係を用いて、許容画質決定部42から供給された許容最低画質に対応する伝送レートを決定し、その決定した伝送レートを初期伝送レートとして、レート制御部25に供給する。
【0062】
なお、この実施の形態においては、画像取得部21が撮像する画像サイズは、SDサイズとSIFサイズの2種類とするが、画像取得部21が撮像する画像サイズは、SDサイズやSIFサイズに限らず、例えば、HD(High Definition)サイズ(1920×1080画素)などのその他のサイズでもよい。
【0063】
また、ユーザが操作部27を操作することにより決定する、画像データの符号化方式(圧縮方式)は、MPEG-4やJPEG-2000に限らず、例えば、MPEG-2などのその他の符号化方式であってもよい。
【0064】
その他の画像サイズや符号化方式が採用される場合には、画像サイズと符号化方式に対応する、図5で示されるような画質と伝送レートの関係が、伝送レート決定部44に新たに設定される。いずれの画像サイズ、符号化方式(圧縮方式)、および圧縮率の場合においても、画質が良くなるに従って、必要な伝送レートも高くなる(バンド幅が広くなる)。
【0065】
いま、図5に示されるような、画像サイズや符号化方式における許容最低画質と伝送レートの関係は、伝送レート決定部44の内部に設定されているものとしたが、図4に示した許容最低画質とアプリケーションの性質との関係や、許容最低画質と画像の動きとの関係と同様に、データベース43に格納して、データベース43から適宜取得するようにしてもよい。
【0066】
次に、図6のフローチャートを参照して、送信装置11の伝送レート決定処理について説明する。この処理は、例えば、ユーザが操作部27を操作することにより、または受信装置13からの要求に応じて、送信装置11が画像データの送信を開始したときに開始される。
【0067】
初めに、ステップS1において、初期レート決定部24は、初期値としての初期伝送レートを0として、レート制御部25に供給し、ステップS2に進む。
【0068】
ステップS2において、初期レート決定部24の許容画質決定部42は、許容画質決定処理を行い、ステップS3に進む。許容画質決定処理の詳細については、図7を参照して後述するが、この処理により、許容画質決定部42は、アプリケーションの性質および画像の動きに基づいて許容最低画質を決定し、その決定した許容最低画質を伝送レート決定部44に供給する。
【0069】
ステップS3において、伝送レート決定部44は、ステップS2で許容画質決定部42から供給された許容最低画質に基づいて、初期伝送レート決定処理を行い、ステップS4に進む。ここで、初期伝送レート決定処理により決定された初期伝送レートをBとする。なお、初期伝送レート決定処理の詳細については、図8を参照して後述する。
【0070】
ステップS4において、伝送レート決定部44は、ステップS3で伝送レート決定部44が決定した初期伝送レートBをレート制御部25に供給して、ステップS5に進む。
【0071】
ステップS5において、レート制御部25は、TFRC手法によりレート制御を行う。すなわち、レート制御部25は、ステップS4で伝送レート決定部44から供給された初期伝送レートBになるようにタイミング指令を送信部23に供給する。そして、ステップS6に進む。
【0072】
ステップS6において、レート制御部25は、画像取得部21が撮像した画像データの送信が終了したか、すなわち、送信部23からネットワークI/F部26を介して受信装置13に送信するパケットがなくなったかどうかを判定する。画像データの送信が終了していないと判定された場合、ステップS7に進み、レート制御部25は、タイムアウトが発生したか否か、すなわち、送信部23が送信したパケットに対応するフィードバック情報がネットワークI/F部26から供給されているかどうかを判定する。
【0073】
ステップS7において、タイムアウトが発生していないと判定された場合、レート制御部25は、処理をステップS5に戻し、ステップS5乃至S7の処理を繰り返す。これにより、レート制御部25は、ネットワークI/F部26から供給されるフィードバック情報に基づいて伝送レートを適応的に決定し、その決定された伝送レートになるようにタイミング指令を送信部23に供給して、伝送レートを制御する。
【0074】
一方、ステップS7において、タイムアウトが発生したと判定された場合、すなわち、送信部23が送信したパケットに対応するフィードバック情報がネットワークI/F部26からレート制御部25に供給されなかった場合、レート制御部25は、処理をステップS4に戻し、それ以降の処理を繰り返す。すなわち、レート制御部25は、伝送レートを初期伝送レートBに戻し、レート制御を行う。
【0075】
その後、ステップS6において、画像データの送信が終了したと判定された場合、伝送レート決定処理は終了する。
【0076】
次に、図7のフローチャートを参照して、図6のステップS2における許容画質決定部42の許容画質決定処理について説明する。
【0077】
初めに、ステップS21において、許容画質決定部42は、操作部27から供給されるアプリケーションの性質を取得して、ステップS22に進む。
【0078】
ステップS22において、許容画質決定部42は、ステップS21で取得したアプリケーションの性質が、テレビ会議であるか否かを判定する。アプリケーションの性質がテレビ会議であると判定された場合、許容画質決定部42は、ステップS23に進み、データベース43に記憶されている図4Aで示されるテーブルを参照し、許容最低画質としてD1を採用(決定)して、ステップS30に進む。
【0079】
一方、ステップS22において、アプリケーションの性質がテレビ会議ではないと判定された場合、ステップS24に進み、許容画質決定部42は、ステップS21で取得したアプリケーションの性質が、ニュース番組であるか否かを判定する。アプリケーションの性質がニュース番組であると判定された場合、許容画質決定部42は、ステップS25に進み、データベース43に記憶されている図4Aで示されるテーブルを参照し、許容最低画質としてD2を採用して、ステップS30に進む。
【0080】
ステップS24において、アプリケーションの性質がニュース番組ではないと判定された場合、ステップS26に進み、許容画質決定部42は、ステップS21で取得したアプリケーションの性質が、野球中継であるか否かを判定する。アプリケーションの性質が野球中継であると判定された場合、許容画質決定部42は、ステップS27に進み、データベース43に記憶されている図4Aで示されるテーブルを参照し、許容最低画質としてD3を採用して、ステップS30に進む。
【0081】
ステップS26において、アプリケーションの性質が野球中継ではないと判定された場合、ステップS28に進み、許容画質決定部42は、ステップS21で取得したアプリケーションの性質が、サッカー中継であるか否かを判定する。アプリケーションの性質がサッカー中継であると判定された場合、許容画質決定部42は、ステップS29に進み、データベース43に記憶されている図4Aで示されるテーブルを参照し、許容最低画質としてD4を採用して、ステップS30に進む。
【0082】
一方、ステップS28において、アプリケーションの性質がサッカー中継ではないと判定された場合も同様に、ステップS30に進み、許容画質決定部42は、画像取得部21から供給された画像データから画像の動きm1を算出し、その算出された画像の動きm1から、データベース43に記憶されている図4Bに示した画像の動きmと許容最低画質Dとの関係を参照して、その画像の動きm1に対応する許容最低画質としてDm1を採用して、ステップS31に進む。
【0083】
ステップS31において、許容画質決定部42は、アプリケーションの性質から算出した許容最低画質Di(i=1乃至4のいずれか)と、画像の動きm1から算出した許容最低画質Dm1の両方から、最終的な許容最低画質Dを決定し、その決定した許容最低画質Dを、伝送レート決定部44に供給してリターンする。例えば、D1<Dm1であり、操作部27から許容画質決定部42に供給されたアプリケーションの性質がテレビ会議であれば、ステップS23で採用した許容最低画質D1とステップS30で採用した許容最低画質Dm1のうちの、高い値の許容最低画質Dm1が、最終的な許容最低画質Dとして決定される。
【0084】
次に、図8のフローチャートを参照して、図6のステップS3における伝送レート決定部44の初期伝送レート決定処理について説明する。
【0085】
初めに、ステップS51において、伝送レート決定部44は、操作部27から供給される、ユーザが指定した画像データの符号化方式を取得して、ステップS52に進む。
【0086】
ステップS52において、伝送レート決定部44は、ステップS51で取得した符号化方式が、MPEG-4方式であるか、すなわち、送信装置11が受信装置13に送信する画像は、MPEG-4方式で符号化された画像であるか否かを判定する。送信装置11が受信装置13に送信する画像は、MPEG-4方式で符号化された画像ではないと判定された場合、ステップS53に進み、伝送レート決定部44は、送信装置11が受信装置13に送信する画像が、JPEG-2000方式で符号化された画像であるか否かを判定する。
【0087】
ステップS53において、送信装置11が受信装置13に送信する画像は、JPEG-2000方式で符号化された画像ではないと判定された場合、伝送レート決定部44は、デフォルトとして初期伝送レートBDを決定し、その初期伝送レートBDをレート制御部25に供給して処理を終了する。MPEG-4方式およびJPEG-2000方式のいずれにも該当しない場合としては、例えば、ユーザが符号化方式を指定しなかった場合などが考えられるため、そのような場合には、伝送レート決定部44に予め用意されている画質と伝送レートの関係式(図5)のなかで、許容画質決定部42から供給された許容最低画質Dに対する伝送レートが一番低い伝送レートを、初期伝送レートBDとして決定するようにすることができる。
【0088】
一方、ステップS53において、送信装置11が受信装置13に送信する画像は、JPEG-2000方式で符号化された画像であると判定された場合、ステップS55に進み、伝送レート決定部44は、画像取得部21が撮像している画像サイズがSDサイズであるか否かを判定する。
【0089】
ステップS55において、画像取得部21が撮像している画像サイズがSDサイズであると判定された場合、ステップS56に進み、伝送レート決定部44は、図5Bに示すB=fc(D)の関数を選択して、ステップS61に進む。
【0090】
また、ステップS55において、画像取得部21が撮像している画像サイズがSDサイズではない、すなわち、画像取得部21が撮像している画像サイズがSIFサイズであると判定された場合、ステップS57に進み、伝送レート決定部44は、図5Bに示すB=fd(D)の関数を選択して、ステップS61に進む。
【0091】
一方、ステップS52において、送信装置11が受信装置13に送信する画像は、MPEG-4方式で符号化された画像であると判定された場合、ステップS58に進み、伝送レート決定部44は、画像取得部21が撮像している画像サイズがSDサイズであるか否かを判定する。
【0092】
ステップS58において、画像取得部21が撮像している画像サイズがSDサイズであると判定された場合、ステップS59に進み、伝送レート決定部44は、図5Aに示すB=fa(D)の関数を選択して、ステップS61に進む。
【0093】
一方、ステップS58において、画像取得部21が撮像している画像サイズがSDサイズではない、すなわち、画像取得部21が撮像している画像サイズがSIFサイズであると判定された場合、ステップS60に進み、伝送レート決定部44は、図5Aに示すB=fb(D)の関数を選択して、ステップS61に進む。
【0094】
ステップS61において、伝送レート決定部44は、ステップS56,S57,S59,またはS60で選択された関数に基づいて、許容画質決定部42から供給された許容最低画質Dに対応する伝送レートBを算出し、リターンする。
【0095】
図9は、図1の送信装置11が画像データの送信を行った場合と、送信開始時は、1パケットを送信し、受信確認通知(ACK)を受信するたびに、パケット数を1つずつ増やしていく従来の手法を用いて画像データの送信を行った場合の、通信開始からの経過時間と伝送レートとの関係を示す図である。
【0096】
線L1は、図1の送信装置11の通信開始からの経過時間と伝送レートとの関係を示している。送信装置11は、初期伝送レートB1で通信(画像データの送信)を開始し、RTT時間経過後に受信確認通知を受信したとき、伝送レートを所定量上げて次の送信を行う。送信装置11が、送信したパケットに対応するフィードバック情報に応じてレート制御を繰り返すことによって、通信開始からT1時間経過後に、伝送レートは、安定伝送レートBstableに達する。なお、初期伝送レートB1で通信(画像データの送信)を開始した際、送信装置11が、ネットワーク12のトラフィックの状況により、送信したパケットに対応するフィードバック情報を受信できなかった場合、つまり、最初の送信において通信のタイムアウトが発生した場合、送信装置11は、例えば、初期伝送レートB1の半分の伝送レート((B1)/2)を初期伝送レートとして、送信をやり直すようにすることができる。
【0097】
一方、線L0は、従来の手法で通信を行った場合の通信開始からの経過時間と伝送レートのと関係を示している。通信開始時の伝送レートは、ゼロであり、RTT時間経過後の受信確認通知が受信されたとき、伝送レートを所定量上げて次の通信が行われる。以下、本発明の送信装置11と同様に、送信したパケットに対応するフィードバック情報に応じてレート制御を繰り返すことにより、通信開始からT1より長いT0時間経過後に、伝送レートは、安定伝送レートBstableに達する。
【0098】
以上から、送信装置11では、従来の手法に比べて安定伝送レートBstableに達するまでの時間を(T0−T1)時間だけ短縮することができる。なお、図9に示した例では、フィードバック情報を受信した後の、伝送レートの上昇分は、毎回、同一量であるとして説明したが、送信装置11が受信装置13からのフィードバック情報を受信したとき、送信装置11は、そのフィードバック情報に基づいて次に受信装置13に送信する伝送レートをレート制御部25により決定するので、実際には伝送レートの上昇分もその都度変化する(従来の手法も同様)。
【0099】
また、図9に示した例では、1回のデータ送信にかかる、画像データを送信してから受信確認通知(フィードバック情報)を受信するまでのRTT時間(階段状の線L1およびL0のうち、伝送レートが変化していない時間)を、それぞれ同一の時間として説明したが、実際には、それぞれのRTT時間は、例えば、ネットワーク12のトラフィック状況などに応じて変化する。そして、RTT時間が大きくなるほど、本発明の手法と従来の手法の安定伝送レートBstableに到達するまでの時間の差((T0−T1)時間)は、大きくなる。つまり、本発明のスロースタートを回避するという効果が大きくなると言える。RTT時間が大きくなる場合としては、例えば、衛星を介した通信を行う場合がある。
【0100】
また、当然ながら、図9のB1で示される、初期レート決定部24が決定する初期伝送レートが大きいほど、送信装置11は、従来の手法に対してスロースタートを回避するという効果が大きくなると言える。
【0101】
以上のように、本発明によれば、ストリーミングデータの送信において、許容最低画質を満たす伝送レートを初期伝送レートとして決定し、その初期伝送レートでデータの送信を開始するようにしたので、スロースタートを回避したデータの送信をすることができる。
【0102】
また、本発明によれば、データを送信する相手側の装置に対して、ネットワーク上のバンド幅を測定するためのパケットを送信し、その送信結果(フィードバック情報)を待つ必要がないので、データを即座に送信することができる。
【0103】
図10は、第2実施の形態である送信装置11の内部の構成例を示している。なお、図2における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。すなわち、図10の送信装置11は、初期レート決定部24に代えて、初期レート決定部61が設けられている他は、図2における場合と、基本的に同様に構成されている。
【0104】
初期レート決定部61には、図2の初期レート決定部24と同様に、画像取得部21や送信装置11の外部などから画像取得部21が撮像している画像の性質が供給される。また、初期レート決定部61には、図2の初期レート決定部24と同様に、操作部27からユーザが操作部27を操作して指定した符号化方式を示す情報が供給される。初期レート決定部61は、図2の初期レート決定部24と同様に、その画像の性質や符号化方式などに基づいて、許容最低画質を決定し、その許容最低画質を満足する伝送レートを決定して、その伝送レートを初期伝送レートとして、レート制御部25に供給する。
【0105】
図11は、図10の初期レート決定部61の内部の構成例を示している。なお、図3における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。すなわち、図11の外部I/F部41、許容画質決定部42、および伝送レート決定部44が、図3における場合と、同様に構成されている。
【0106】
逆に言うと、初期レート決定部61は、図3の第1実施の形態におけるデータベース43を設けずに構成されている。第1実施の形態において、データベース43から許容画質決定部42に供給されていた、図4で示される、アプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータは、外部I/F部41を介して送信装置11の外部から許容画質決定部42に供給される。
【0107】
すなわち、外部I/F部71には、送信装置11の外部から、図3のデータベース43で得られるものと同様の、アプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータが供給される。外部I/F部71は、そのアプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータを許容画質決定部42に供給する。
【0108】
例えば、外部I/F部41は、図9のネットワークI/F部26と同様のネットワークI/Fであり、インターネットなどのネットワークを介して、例えば、サーバ(図示せず)に接続されているものとする。サーバには、図3のデータベース43と同様の、アプリケーションの性質と許容最低画質とを対応付けたテーブル、および画像の動きと許容最低画質との関係を示すデータが随時更新されて保存されている。外部I/F部41は、そのような送信装置11の外部に保存された、アプリケーションの性質と許容最低画質とを対応付けたテーブル、および画像の動きと許容最低画質との関係を示すデータを許容画質決定部42に供給することができる。
【0109】
許容画質決定部42は、図3に示される第1実施の形態と同様に、許容最低画質を決定し、伝送レート決定部44に供給する。すなわち、許容画質決定部42は、操作部27から供給されるアプリケーションの性質に対応する許容最低画質Di(i=1乃至4のいずれか)を、外部I/F部41から供給されるアプリケーションの性質と許容最低画質とを対応付けたテーブルに基づいて決定する。また、画像取得部21から供給される画像データを基に、画像の動きがm1と算出された場合、許容画質決定部42は、外部I/F部41から供給される図4Bに示すD=fx(m)の関係を用いて、画像の動きm1に基づく許容最低画質をDm1と決定する。さらに、許容画質決定部42は、最終的な許容最低画質Dを決定し、伝送レート決定部44に供給する。
【0110】
伝送レート決定部44は、図3に示される第1実施の形態と同様に、許容画質決定部42から供給される許容最低画質を満足する伝送レートを決定し、その伝送レートを初期伝送レートとして、レート制御部25(図9)に供給する。
【0111】
上述した第2実施の形態においては、外部I/F部71を介して送信装置11の外部からアプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータが供給され、それらに基づいて、許容画質決定部42が許容最低画質を決定するようにしたが、ユーザ(画像データの送信者または受信者)が明示的に許容最低画質を設定し、その許容最低画質そのものを外部I/F部71を介して許容画質決定部42に供給するようにしてもよい。あるいは、ユーザが操作部27を操作して、明示的に許容最低画質を設定し、その許容最低画質を操作部27から許容画質決定部42に供給するようにしてもよい。ユーザが明示的に許容最低画質を設定した場合、許容画質決定部42は、供給された許容最低画質をそのまま伝送レート決定部44に出力する。
【0112】
なお、第2実施の形態においては、アプリケーションの性質と許容最低画質とを対応付けたテーブルや、画像の動きと許容最低画質との関係を示すデータが、多くの実験や経験に基づいて更新された場合、その更新されたデータを直ちに外部I/F部71を介して許容画質決定部42に供給することができるので、第1実施の形態のように、送信装置11の内部にデータベース43を備えるよりも望ましい。
【0113】
以上のように構成される第2実施の形態においても、第1実施の形態と同様に、図9に示したような効果を得ることができる。すなわち、ストリーミングデータの送信において、許容最低画質を満たす伝送レートを初期伝送レートとして決定し、その初期伝送レートでデータの送信を開始するようにしたので、スロースタートを回避したデータの送信をすることができる。また、データを送信する相手側の装置に対して、ネットワーク上のバンド幅を測定するためのパケットを送信し、その送信結果(フィードバック情報)を待つ必要がないので、データを即座に送信することができる。
【0114】
以上の実施の形態においては、送信装置11が送信するデータとして、画像データの例を用いて説明したが、本発明は、動画像、静止画像、音声、プレゼンテーションデータ、ゲームなどの様々なストリーミングデータを送信する場合に適用することができる。また、送信装置11が送信するデータは、ストリーミングデータ以外のデータでもよい。
【0115】
上述した例では、アプリケーションの性質や撮像装置の性質は、ユーザが操作部27を操作することにより指定したものが供給されたり、外部I/F部41を介して、送信装置11の外部から供給されるようにしたが、送信装置11自身が、画像取得部21が撮像する画像から判断するようにしてもよい。
【0116】
一方、画像のサイズについては、上述した例では、伝送レート決定部44が画像取得部21から供給される画像データに基づいて判断するようにしたが、ユーザに操作部27を操作させることにより指定させ、操作部27が、その指定された画像のサイズを初期レート決定部61に供給するようにしてもよい。
【0117】
また、画像の符号化方式については、上述した例では、ユーザが操作部27を操作して指定するようにしたが、予め1つの符号化方式をデフォルトとして設定しておいて、ユーザにより符号化方式の変更が指定されたときに、その指定された符号化方式に設定するようにしてもよい。
【0118】
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。この場合、例えば、送信装置11は、図12に示されるようなパーソナルコンピュータにより構成されるようにすることができる。
【0119】
図12において、CPU(Central Processing Unit)301は、ROM(Read Only Memory)302に記憶されているプログラム、または記憶部308からRAM(Random Access Memory)303にロードされたプログラムに従って各種の処理を実行する。RAM303にはまた、CPU301が各種の処理を実行する上において必要なデータなども適宜記憶される。
【0120】
CPU301、ROM302、およびRAM303は、バス304を介して相互に接続されている。このバス304にはまた、入出力インタフェース305も接続されている。
【0121】
入出力インタフェース305には、キーボード、マウスなどよりなる入力部306、CRT(Cathode Ray Tube)、LCD(Liquid Crystal display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部307、ハードディスクなどより構成される記憶部308、モデム、ターミナルアダプタなどより構成される通信部309、CCD(Charge Coupled Device)やCMOS(Complementary Mental Oxide Semiconductor)等の撮像素子などより構成される撮像部331が接続されている。通信部309は、インターネットを含むネットワークを介しての通信処理を行う。撮像部311は、被写体を撮像し、撮像した被写体の画像データを入出力インタフェース305を介してCPU301等に供給する。CPU301は、初期レート決定部24の許容画質決定部42および伝送レート決定部44、画像符号化部22、送信部23、およびレート制御部25などが行う処理を実行する。通信部309は、ネットワークI/F部26、初期レート決定部24の外部I/F部41などが行う処理を実行する。
【0122】
入出力インタフェース305にはまた、必要に応じてドライブ310が接続され、磁気ディスク321、光ディスク322、光磁気ディスク323、或いは半導体メモリ324などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部308にインストールされる。
【0123】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0124】
【発明の効果】
以上のごとく本発明の送信制御装置および方法、記録媒体、並びにプログラムによれば、ネットワーク上のデータの送信において、スロースタートを回避し、データを即座に送信することができる。
【図面の簡単な説明】
【図1】本発明を適用した通信システムの構成例を示すブロック図である。
【図2】第1実施の形態である図1の送信装置の構成例を示すブロック図である。
【図3】図2の初期レート決定部の構成例を示すブロック図である。
【図4】図3のデータベースに記憶されているデータの例である。
【図5】図3の伝送レート決定部が利用する伝送レートと画質の関係を示す図である。
【図6】図1の送信装置の伝送レート決定処理を説明するフローチャートである。
【図7】図6のステップS2の許容画質決定処理を説明するフローチャートである。
【図8】図6のステップS3の初期伝送レート決定処理を説明するフローチャートである。
【図9】図1の送信装置と従来の手法を用いた場合の通信開始からの経過時間と伝送レートの関係を示す図である。
【図10】第2実施の形態である図1の送信装置の構成例を示すブロック図である。
【図11】図10の初期レート決定部の構成例を示すブロック図である。
【図12】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【符号の説明】
11 送信装置, 21 画像取得部, 22 画像符号化部, 23 送信部, 24 初期レート決定部, 25 レート制御部, 26 ネットワークI/F部, 27 操作部, 41 外部I/F部, 42 許容画質決定部, 43データベース部, 44 伝送レート部, 44 伝送レート部, 61 初期レート決定部
Claims (10)
- 所定の画像のデータの送信を制御する送信制御装置において、
コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、前記画像の性質に対応して、前記画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定手段と、
前記品質決定手段において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定手段と、
前記データの送信の開始の時点において、前記伝送レート決定手段において決定された伝送レートで前記データが送信されるように、前記データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定手段により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御手段と
を備えることを特徴とする送信制御装置。 - 前記人間の視覚特性を考慮したコンテンツの雑音感度である性質は、画像の動きの激しさに関する性質である
ことを特徴とする請求項1に記載の送信制御装置。 - 前記画像の動きの激しさに関する性質は、所定の時間間隔でフレーム単位の画像を抽出し、時系列に沿ってフレーム画像間の対応する画素の差分を取ることにより求められる
ことを特徴とする請求項2に記載の送信制御装置。 - 前記画像の性質に対応付けられた前記許容最低画質のデータを記憶する記憶手段をさらに備え、
前記品質決定手段は、前記記憶手段に記憶されたデータに基づいて、前記許容最低画質を決定する
ことを特徴とする請求項1に記載の送信制御装置。 - 前記画像のデータは、所定の符号化方式で符号化された画像のデータであり、
前記伝送レート決定手段は、前記画像の画像サイズおよび符号化方式に対応する品質と伝送レートとの関係を用いて、前記伝送レートを決定する
ことを特徴とする請求項1に記載の送信制御装置。 - 外部から前記画像の性質に関する情報を入力する情報入力手段をさらに備え、
前記品質決定手段は、前記情報入力手段から入力される前記情報に対応して、前記許容最低画質を決定する
ことを特徴とする請求項1に記載の送信制御装置。 - 前記伝送レート制御手段は、前記データの通信のタイムアウトが発生した場合、前記伝送レート決定手段において決定された伝送レートで、前記データの送信が再開されるように、前記データの伝送レートを制御する
ことを特徴とする請求項1に記載の送信制御装置。 - 所定の画像のデータの送信を制御する送信制御方法において、
コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、前記画像の性質に対応して、前記画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、
前記品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、
前記データの送信の開始の時点において、前記伝送レート決定ステップの処理において決定された伝送レートで前記データが送信されるように、前記データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップと
を含むことを特徴とする送信制御方法。 - 所定の画像のデータの送信を制御するコンピュータに、
コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、前記画像の性質に対応して、前記画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、
前記品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、
前記データの送信の開始の時点において、前記伝送レート決定ステップの処理において決定された伝送レートで前記データが送信されるように、前記データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップと
を含む処理を実行させるプログラムであって、コンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 所定の画像のデータの送信を制御するコンピュータに、
コンテンツの内容による分類である性質か、人間の視覚特性を考慮したコンテンツの雑音感度である性質か、または画像を撮像する撮像装置がコンテンツの雑音感度にどのくらい影響を与えているかを示す性質であって、前記画像の性質に対応して、前記画像を視聴したユーザが許容できる最低の品質である許容最低画質を決定する品質決定ステップと、
前記品質決定ステップの処理において決定された許容最低画質に対応して、伝送レートを決定する伝送レート決定ステップと、
前記データの送信の開始の時点において、前記伝送レート決定ステップの処理において決定された伝送レートで前記データが送信されるように、前記データの伝送レートを制御するとともに、前記データの送信開始後は、送信された前記データを受信した受信装置からの前記データに対するフィードバック情報に応じて、前記伝送レート決定ステップの処理により決定された前記伝送レート以下には下げないように、前記伝送レートの制御を繰り返す伝送レート制御ステップと
を含む処理を実行させることを特徴とするプログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003057428A JP4539018B2 (ja) | 2003-03-04 | 2003-03-04 | 送信制御装置および方法、記録媒体、並びにプログラム |
US10/544,729 US20060215555A1 (en) | 2003-03-04 | 2004-03-03 | Transmission control device and method, recording medium, and program |
KR1020057013204A KR20050115226A (ko) | 2003-03-04 | 2004-03-03 | 송신 제어 장치 및 방법, 기록 매체, 및 프로그램 |
EP04716783A EP1601200A1 (en) | 2003-03-04 | 2004-03-03 | Transmission control device and method, recording medium, and program |
PCT/JP2004/002651 WO2004080077A1 (ja) | 2003-03-04 | 2004-03-03 | 送信制御装置および方法、記録媒体、並びにプログラム |
CNA2004800035541A CN1748425A (zh) | 2003-03-04 | 2004-03-03 | 传送控制装置、传送控制方法、记录介质和程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003057428A JP4539018B2 (ja) | 2003-03-04 | 2003-03-04 | 送信制御装置および方法、記録媒体、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004266756A JP2004266756A (ja) | 2004-09-24 |
JP4539018B2 true JP4539018B2 (ja) | 2010-09-08 |
Family
ID=32958736
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003057428A Expired - Fee Related JP4539018B2 (ja) | 2003-03-04 | 2003-03-04 | 送信制御装置および方法、記録媒体、並びにプログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20060215555A1 (ja) |
EP (1) | EP1601200A1 (ja) |
JP (1) | JP4539018B2 (ja) |
KR (1) | KR20050115226A (ja) |
CN (1) | CN1748425A (ja) |
WO (1) | WO2004080077A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8828471B2 (en) | 2004-07-02 | 2014-09-09 | Meiji Co., Ltd. | Method for manufacturing solid milk |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4278439B2 (ja) * | 2003-06-02 | 2009-06-17 | パイオニア株式会社 | 情報通信装置、そのシステム、その方法、そのプログラム、および、そのプログラムを記録した記録媒体 |
JP4183586B2 (ja) * | 2003-09-12 | 2008-11-19 | 三洋電機株式会社 | 映像表示装置 |
JP4257307B2 (ja) | 2005-03-14 | 2009-04-22 | 富士通株式会社 | 通信制御システムおよび通信制御方法 |
KR20080106759A (ko) * | 2007-06-04 | 2008-12-09 | 삼성전자주식회사 | 영상신호처리장치, 디스플레이장치 및 영상신호처리방법 |
US20100217888A1 (en) * | 2008-07-17 | 2010-08-26 | Panasonic Corporation | Transmission device, reception device, rate control device, transmission method, and reception method |
US7975063B2 (en) * | 2009-05-10 | 2011-07-05 | Vantrix Corporation | Informative data streaming server |
TWI497986B (zh) * | 2011-06-10 | 2015-08-21 | Chicony Electronics Co Ltd | 具畫面品質調整功能之影像傳輸方法以及系統 |
WO2014157889A1 (en) | 2013-03-25 | 2014-10-02 | Samsung Electronics Co., Ltd. | Method and apparatus for improving quality of experience in sharing screen among devices, and recording medium thereof |
CN104954286B (zh) * | 2015-05-29 | 2019-03-15 | 小米科技有限责任公司 | 带宽分配的方法及装置 |
JP6736962B2 (ja) * | 2016-05-11 | 2020-08-05 | 富士通株式会社 | 画像送信制御プログラム、画像送信制御方法および画像送信制御装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07264580A (ja) * | 1994-03-17 | 1995-10-13 | Toshiba Corp | 映像信号伝送方法並びに映像信号送信装置及び映像信号受信装置 |
JP2000041240A (ja) * | 1998-07-22 | 2000-02-08 | Nec Corp | 可変ビットレート符号化装置および方法 |
JP2000165864A (ja) * | 1998-09-09 | 2000-06-16 | Nippon Telegr & Teleph Corp <Ntt> | 画質調整方法及びその方法を使用した映像通信装置及びその方法を記録した記録媒体 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20000068362A (ko) * | 1997-07-01 | 2000-11-25 | 이데이 노부유끼 | 화상 부호화 제어장치와 방법, 부호화 시스템, 전송 시스템 및방송 시스템 |
US7143432B1 (en) * | 1999-10-01 | 2006-11-28 | Vidiator Enterprises Inc. | System for transforming streaming video data |
US6490320B1 (en) * | 2000-02-02 | 2002-12-03 | Mitsubishi Electric Research Laboratories Inc. | Adaptable bitstream video delivery system |
JP4408537B2 (ja) * | 2000-07-21 | 2010-02-03 | シャープ株式会社 | 情報圧縮記録装置 |
KR100357689B1 (ko) * | 2000-11-13 | 2002-10-19 | 삼성전자 주식회사 | 일관된 화질을 가지는 실시간 가변 비트율 엠펙 비디오전송 시스템 |
JP3900413B2 (ja) * | 2002-02-14 | 2007-04-04 | Kddi株式会社 | 映像情報伝送方式およびプログラム |
-
2003
- 2003-03-04 JP JP2003057428A patent/JP4539018B2/ja not_active Expired - Fee Related
-
2004
- 2004-03-03 CN CNA2004800035541A patent/CN1748425A/zh active Pending
- 2004-03-03 WO PCT/JP2004/002651 patent/WO2004080077A1/ja not_active Application Discontinuation
- 2004-03-03 US US10/544,729 patent/US20060215555A1/en not_active Abandoned
- 2004-03-03 EP EP04716783A patent/EP1601200A1/en not_active Withdrawn
- 2004-03-03 KR KR1020057013204A patent/KR20050115226A/ko not_active Application Discontinuation
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07264580A (ja) * | 1994-03-17 | 1995-10-13 | Toshiba Corp | 映像信号伝送方法並びに映像信号送信装置及び映像信号受信装置 |
JP2000041240A (ja) * | 1998-07-22 | 2000-02-08 | Nec Corp | 可変ビットレート符号化装置および方法 |
JP2000165864A (ja) * | 1998-09-09 | 2000-06-16 | Nippon Telegr & Teleph Corp <Ntt> | 画質調整方法及びその方法を使用した映像通信装置及びその方法を記録した記録媒体 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8828471B2 (en) | 2004-07-02 | 2014-09-09 | Meiji Co., Ltd. | Method for manufacturing solid milk |
Also Published As
Publication number | Publication date |
---|---|
WO2004080077A1 (ja) | 2004-09-16 |
EP1601200A1 (en) | 2005-11-30 |
KR20050115226A (ko) | 2005-12-07 |
US20060215555A1 (en) | 2006-09-28 |
CN1748425A (zh) | 2006-03-15 |
JP2004266756A (ja) | 2004-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11503307B2 (en) | System and method for automatic encoder adjustment based on transport data | |
US8510458B2 (en) | Method and device for sharing bandwidth of a communication network | |
US9191664B2 (en) | Adaptive bitrate management for streaming media over packet networks | |
US8176199B2 (en) | Content delivery system, communicating apparatus, communicating method, and program | |
CA2742447C (en) | Stable video rate adaptation for congestion control | |
US20060023729A1 (en) | Apparatus and method for adaptively controlling buffering amount according to content attribute in receiving audio-video data | |
JP4539018B2 (ja) | 送信制御装置および方法、記録媒体、並びにプログラム | |
Ye et al. | Manipulating ultra-high definition video traffic | |
US9258347B2 (en) | Encoding of a video frame for transmission to a plurality of clients | |
Van Beek et al. | Adaptive streaming of high-quality video over wireless LANs | |
US20100318675A1 (en) | Method of sending data and associated device | |
AU2019201095A1 (en) | System and method for automatic encoder adjustment based on transport data | |
KR20150034057A (ko) | 네트워크 시스템 및 방법 | |
KR20130122117A (ko) | 실시간 동영상 전송 방법 및 장치 | |
Hidayat et al. | Impact of Ad Hoc Network Parameters and Conditions on Video Conferencing Quality | |
JP5675164B2 (ja) | 送信装置、送信方法、並びにプログラム | |
Futemma et al. | TFRC-based rate control scheme for real-time JPEG 2000 video transmission | |
Chattopadhyay et al. | Adaptive rate control for H. 264 based video conferencing over a low bandwidth wired and wireless channel | |
Kassler et al. | Classification and evaluation of filters for wavelet coded videostreams | |
Johanson | Designing an environment for distributed real-time collaboration | |
Wan et al. | Research and Implementation of Low-Latency Streaming Media Transmission System | |
Methven | Wireless Video Streaming: An Overview | |
Li et al. | Latency Reducing in Real-Time Internet Video Transport: A Survey |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080708 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080904 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090226 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090424 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100601 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100614 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130702 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |