本発明は、多様な変更を加えることができ、様々な実施例を有することができ、特定実施例を図面に例示して詳細に説明する。
しかし、これは本発明を特定の実施形態に対して限定するものではなく、本発明の思想及び技術範囲に含まれる全ての変更、均等物乃至代替物を含むと理解しなければならない。
第1、第2などの用語は、多様な構成要素の説明に使われることができるが、前記構成要素は、前記用語により限定されてはならない。前記用語は、一つの構成要素を他の構成要素から区別する目的としてのみ使われる。例えば、本発明の権利範囲を外れない限り、第1の構成要素は第2の構成要素と命名することができ、同様に、第2の構成要素も第1の構成要素と命名することができる。及び/またはという用語は、複数の関連記載項目の組み合わせまたは複数の関連記載項目のうちいずれか一つの項目を含む。
一構成要素が他の構成要素に“連結されている”または“接続されている”と言及された場合、該当他の構成要素に直接的に連結されており、または接続されていることもあるが、中間に他の構成要素が存在することもあると理解しなければならない。それに対し、一構成要素が他の構成要素に“直接連結されている”または“直接接続されている”と言及された場合、中間に他の構成要素が存在しないと理解しなければならない。
本出願で使用した用語は、単に特定の実施例を説明するために使われたものであり、本発明を限定するものではない。単数の表現は、文脈上明白に異なる意味ではない限り、複数の表現を含む。本出願において、“含む”または“有する”などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品またはそれらを組み合わせたものが存在することを指定し、一つまたはそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品またはそれらを組み合わせたものの存在または付加可能性をあらかじめ排除しないと理解しなければならない。
技術的または科学的な用語を含めてここで使われる全ての用語は、他の意味で定義されない限り、本発明が属する技術分野において、通常の知識を有する者により一般的に理解される意味である。一般的に使われる辞書に定義されている用語は、関連技術の文脈上意味と一致すると解釈されなければならず、本出願で明白に定義しない限り、理想的または過度に形式的な意味で解釈されない。
以下、添付図面を参照し、本発明の好ましい実施例を詳細に説明する。本発明を説明するにあたって、全体的な理解を容易にするために、図面上の同じ構成要素に対しては同じ参照符号を使用し、同じ構成要素に対して重複した説明は省略する。
遠隔制御システム
図1は、本発明の一実施例に係る遠隔制御サポートのための送信機及び受信機を含むシステムを概略的に示すブロック図である。図1に示すように、本発明の一実施例に係る遠隔制御サポートのためのシステムは、ソースデバイス110、送信機120(RDS−Tx)及び受信機130(RDS−Rx)を含むことができる。
図1を参照すると、ソースデバイス110は、遠隔制御されるデバイスである。ソースデバイス110は、個人携帯情報端末(PDA:Personal Digital Assistant)、パソコン(PC:Personal Computer)、ラップトップ、スマートフォン、無線センサ、モバイル端末、消費者電子機器(CE)を含むことができる。
ソースデバイス110は、ソースモニタ112と接続されてディスプレイ画面を表示することができる。ソースモニタ112との接続は、HDMI(High−Definition Multimedia Interface)またはDVI(Digital Visual Interface)等、デジタルインターフェースを介して行われることができる。
また、第1のユーザインターフェース114と接続されてソースデバイス110のユーザの入力を受けて制御されることができる。
前記ソースモニタ112とソースデバイス110、及び第1のユーザインターフェース114とソースデバイス110の関係は、一般的なコンピュータ本体とモニタ、及び本体とキーボード/マウスの関係と同じであると見なされる。
送信機120がデジタルインターフェースを介してソースデバイス110と接続される時、ソースデバイス110が送信機120との接続を認識してソースデバイス110のディスプレイ画面データが送信機120側にリアルタイムで提供されることができる。このとき、送信機120がソースデバイス110に認識されるように、ソースデバイス110には、送信機120と関連付けられたドライバが設置されているべきである。
ソースデバイス110は、離隔して配置された受信機130のユーザからの制御命令を送信機120を介して入力を受けて前記ユーザが受信機130に入力した制御命令によって制御されることができる。
本発明の一実施例によると、ソースデバイス110は、サーバ装置であって、多数の周辺機器を管理する機能を遂行することができ、ここで、周辺機器は、各種センシング情報を収集するモノのインターネット(IoT)ベースのデバイスまたはセンサ(図示せず)を含むことができる。即ち、ソースデバイス110は、IoTセンサを介して収集されるデータに基づいてシステムをコントロールする装置であって、これを介して収集されたセンシング情報は、遠隔制御送信機120及び受信機130を介して遠隔地のユーザによりモニタリングされる。また、ソースデバイス110は、前記受信機130と接続された第3のユーザインターフェース134を介して遠隔制御されることができる。ソースデバイス110が第3のユーザインターフェース134を介して遠隔地のユーザに制御されることによって、ソースデバイス110と接続されたIoTセンサも遠隔地で制御されることができる。
送信機120は、ソースデバイス110とデジタルインターフェース(HDMI/DVIを含む)を介して有線で接続されたハードウェアデバイスである。送信機120は、エンコーディング機能、ネットワーク機能及びコンピュータ命令解釈機能を含むことができる。送信機120は、デジタルインターフェースを介して有線で接続されたソースデバイス110からソースデバイス110のディスプレイ画面情報(ビデオストリーム)を受信する。また、送信機120は、受信されたディスプレイ画面情報をリアルタイムでエンコーディングしてネットワークを介して受信機130に提供する。このとき、エンコーディングされたデータは、リアルタイム通信プロトコル(RTPまたはRTSP)を介して受信機130に提供されて受信機130のユーザが該当データを見て直ちに遠隔地で制御命令を下すことができるようにする。
送信機120は、第1のバイパスモニタ122を介して自分がエンコーディングした画面を第1のバイパスモニタ122に提供して送信機120のユーザが送信機120を介して送信されるディスプレイ情報を確認することができるようにする。また、送信機120のエンコーディング、ネットワーク及び/またはシステム設定画面を第1のバイパスモニタ122に提供して送信機120のユーザが送信機120と接続された第2のユーザインターフェース124を介して送信機120の前記設定情報を変更するようにすることができる。
また、送信機120は、受信機130からソースデバイス110に対する制御命令をネットワークを介して受信することができる。これもリアルタイム通信プロトコルを介して行われることが好ましい。送信機120は、受信された制御命令をパーシングしてソースデバイス110に提供することができ、ソースデバイス110は、これを受信して遠隔制御されることができる。
受信機130は、ネットワークを介して送信機120からソースデバイス110のディスプレイ映像と関連付けられたエンコーディングデータをリアルタイムで受信し、デコーディングを介して第2のバイパスモニタ132にデコーディングされた映像を表示する。このとき、受信機130と第2のバイパスモニタ132もデジタルインターフェース(HDMI/DVI)を介して接続されることができる。受信機130のユーザは、リアルタイムデコーディングされたソースデバイス110のディスプレイ映像を第2のバイパスモニタ132を見ながら確認することができ、確認された映像を介してソースデバイス110を遠隔制御することができる。また、受信機130の設定と関連付けられたパラメータ調整のための画面を第2のバイパスモニタ132に表示し、受信機130のユーザは、第3のユーザインターフェース134を介して受信機130と関連付けられたパラメータを変更することができる。
また、受信機130は、第3のユーザインターフェース134と接続されて受信機130のユーザからの入力を受信することができる。このとき、第3のユーザインターフェース134を介したユーザ入力は、受信機130に対するパラメータ変更のための入力である。それによって、受信機130装置設定が変更されることができる。または、前記入力は、ソースデバイス110に対する制御命令である。
送信機120と受信機130は、離隔された距離にネットワークに接続された別途のハードウェア装備であって、互いに対で存在し、ソースデバイス110のディスプレイ画面及び遠隔制御命令を送受信する。このような送信機120の機能と受信機130の機能は、互いに対応されるため、一つのデバイスは、送信機120及び受信機130の機能を二つとも含んで各々モード変更を介して送信機の機能をすることもでき、受信機の機能をすることもできるように構成されることができる。
RDS送信機(Tx)
図2は、本発明の一実施例に係る遠隔制御サポートのための送信機を示すブロック図である。図2に示すように、本発明の一実施例に係る送信機は、第1の受信部210、第1の変換部220、第2の変換部230、232、エンコーダ240、第1のミキサ242、第1の送信部250、第2の受信部260及び命令提供部270を含むことができる。各構成要素は、各構成要素の機能と関連付けられた命令語を実行する一つのハードウェアプロセッサで具現され、または各機能によってまたは組み合わせた機能によって複数個のハードウェアプロセッサで具現されることができる。
図2を参照すると、第1の受信部210は、ソースデバイス205からディスプレイ画面データを受信する。第1の受信部210は、デジタルインターフェースで接続された状態でソースデバイス205のディスプレイ画面データをリアルタイムで受信することができる。
第1の受信部210は、HDMI/DVIのようなデジタルインターフェースを介して受信されたディスプレイ画面データ(ビデオストリーム)をMIPI CSI(Mobile Industry Processor Interface for Camera Serial Interface)に変換する。MIPI CSIは、カメラのような映像撮影装置とホストプロセッサとのインターフェースである。これはCSI−1、CSI−2、CSI−3及びCSI−4のような標準プロトコルに従う。
第1の変換部220は、第1の受信部210からMIPI CSIディスプレイ映像データを受信してYUVデータフォーマットに変換する。本発明の実施例によると、変換されたYUVデータは、YUV420データフォーマットを含むことができる。前記YUV420データフォーマットは、既存システムとの互換性のためのレガシフォーマット(legacy YUV 420)及び低費用実行のためのノンレガシYUV420(non−legacy YUV 420)フォーマットを含むことができる。第1の変換部220は、二つに分割されたチャネルを介して第2の変換部230、232に前記YUVフォーマットのディスプレイ画面データを提供する。このとき、第2の変換部230を介したチャネルではエンコーディングを介して受信機215への送信が行われ、第2の変換部232を介したチャネルではミキシングを介してバイパスモニタ225への画面データ提供が行われる。
第2の変換部230、232は、前記YUVデータをRGBデータに変換する。YUVフォーマットは、高い圧縮率を有することができるため、これを赤色(R)、緑色(G)、及び青色(B)を有する低い圧縮率のRGBフォーマットのデータに変換することが好ましい。第2の変換部230の変換方法は、4:2:0、4:2:2、及び4:4:4変換方式のうち少なくとも一つが使われることができる。ただし、必ずこれに限定されるものではない。
エンコーダ240は、第2の変換部230で変換されたRGBフォーマットのソースデバイス205のディスプレイ画面データ(ビデオストリーム)をエンコーディングする。エンコーディング方式ではHEVC(High Efficiency Video Coding)、H.264/AVC、SVC(Scalable Video Coding)、MVC(Multiview Video Coding)、DivX、WMV(Window Media Video)等、多様な方式が使われることができる。これはユーザ設定で選択可能であり、ユーザインターフェースを介して変更されることができる。また、エンコーダ240は、ユーザ設定を介して、解像度、フレームレート(frame rate)及び/またはビットレート(bit rate)を変更してデータをエンコーディングすることができる。エンコーダ240は、一つのフレーム単位でデータをエンコーディングすることができ、または一つのフレームを分割した分割フレーム単位(例えば、1/4フレーム)でエンコーディングして第1の送信部250に提供できる。
第1の送信部250は、エンコーダ240を介してエンコーディングされたソースデバイス205のディスプレイ画面データを受信機215に送信する。第1の送信部250は、エンコーダ240から一つの完成されたフレームを受信してパケット化した後、受信機215に送信できる。または、第1の送信部250は、分割フレーム単位のエンコーディングされたデータを受信してパケット化した後、受信機215に送信することもできる。第1の送信部250は、RTPまたはRTSPのようなリアルタイム通信プロトコルを介してエンコーディングされたデータを受信機215に送信する。
第1のミキサ242は、第2の変換部232を介して変換されたRGBフォーマットのディスプレイ画面データをHDMI/DVIのようなデジタルインターフェースを介して出力可能な形態にミキシングする。ミキシングされたデータは、前記デジタルインターフェースを介して接続されたバイパスモニタ225に提供される。
このようなミキシング過程を介したビデオストリーム出力によってバイパスモニタ225は、送信機で処理されて受信機215側に送信される画面を送信機のユーザに表示でき、前記送信機のユーザは、現在遠隔制御されるソースデバイス205の画面を確認することができ、また、遠隔制御により変更されるソースデバイス205の画面を確認することができる。例えば、遠隔地の受信機215のユーザがソースデバイス205の特定フォルダをクリックしてフォルダを開いた場合、このようなソースデバイス205の画面内の変化がバイパスモニタ225に表示されて送信機のユーザが感知できるようにする。
第2の受信部260は、受信機215から制御命令を受信する。前記制御命令は、ソースデバイス205に対する遠隔地での制御命令であって、ソースデバイス205の画面を見ながら受信機215のユーザが受信機215と接続されたユーザインターフェース(図示せず)を利用して提供する命令語である。これはカーソル移動、カーソルクリック、文字/数字/符号入力、命令語入力などを含むことができる。
命令提供部270は、第2の受信部260で受信した制御命令をパーシングしてソースデバイス205に提供する。ソースデバイス205は、これを受信して受信機215ユーザの命令を遂行する。
図3は、本発明の一実施例に係る遠隔制御サポートのための送信機のエンコーダを具体的に示す詳細ブロック図である。図3に示すように、本発明の一実施例に係るエンコーダ300は、コーデック選択部310、解像度調節部320、フレームレート調節部330及びビットレート調節部340を含むことができる。
図3を参照すると、コーデック選択部310は、複数個のコーデック(コーデック1、コーデック2、...コーデックN)のうち一つのコーデック方式を選択する。コーデック選択部310は、ユーザ設定によって複数のコーデックのうち一つを選択可能である。コーデック選択部310は、デフォルト(default)として設定されたコーデック1にエンコーディングを実行する中に、ユーザ設定によりコーデック変更がある場合、変更設定されたコーデック2を介してエンコーディングを実行することができるように制御する。
解像度調節部320は、エンコーディングと関連付けられてフレームの解像度を調節する。即ち、エンコーディングされたデータの表現の繊細さの程度を調節することができる。これは水平画素及び垂直画素の数で定義されることができる。これもデフォルト値として設定される数値が存在でき、ユーザインターフェースを介してユーザが任意に値を変更することができる。または、複数個のモード(1920×1080、1024×768、1280×720)を設定しておき、このうち一つを可変選択するようにすることができる。
フレームレート調節部330は、エンコーディングと関連付けられてフレームレートを調節し、ビットレート調節部340は、ビットレートを調節する。フレームレートとビットレートもデフォルト値として一定値が設定され、ユーザインターフェースを介してユーザが任意に該当値を変更することができる。フレームレートは、秒当たりに処理させるフレーム数に定義され、ビットレートは、秒当たりに処理させる情報の量に定義されることができる。ユーザは、このようなフレームレート及び/またはビットレートを任意に調節することによって、ソースデバイスのディスプレイ画面データの画質を効果的に調節できる。即ち、送信機のユーザは、ソースデバイスの特性によって高画質のデータを取り扱う場合、送信機のエンコーディング関連パラメータを高画質でエンコーディングが実行されるようにして遠隔地のユーザも高画質のディスプレイ画面を視聴することができるようにし、それに対し、比較的低画質のデータを取り扱っても構わない場合、エンコーディング関連パラメータを低画質でエンコーディングが実行されるようにして効率を上げることができる。
適応的エンコーディング
図4aは、本発明の一実施例に係る遠隔制御サポートのための送信機の動き量対比適応的エンコーディング方式を示す流れ図である。
図4aを参照すると、送信機は、第1の受信部を介してソースデバイスからディスプレイ画面データ、即ち、ビデオストリームを受信する(S410)。また、該当ビデオストリームの動き量を計算する(S420)。動き量の計算は、ビデオストリームを時分割して生成された複数個のサブフレーム信号の変化量を介して計算されることができる。または、サブフレームを比較するものではなく、直接連続するフレーム間の変化量を比較して動き量を算出することもできる。
また、計算された動き量とあらかじめ設定された動き量に対する基準値を比較する(S430)。比較結果、基準値より高い場合、動きが多いビデオストリーム処理に適した第1のモードのエンコーディング方式を選択してエンコーディングを実行する(S440)。基準値は、ユーザ設定を介して決定されることができる。もし、基準値より動き量が低い場合、動きが少ないビデオストリーム処理に適した第2のモードのエンコーディング方式を選択してエンコーディングを実行することができる(S450)。
このとき、第1のモードのエンコーディング方式は、第2のモードのエンコーディング方式とコーデック、解像度、フレームレート及びビットレートのうち少なくとも一つが異なることもある。例えば、動き量が多いストリームに適用される第1のモードは、基本ストリーミングモードが使われることができ、動き量が少ない映像に適用される第2のモードは、残差値ベースのエンコーディングモードが使われることができる。また、前記第2のモードの場合、停止している画面上のピクセルが多いため、該当画面に含まれている境界線が曖昧に見える確率が存在する。したがって、該当フレームをインターポレーション(interpolation)して複数個のサブフレームに生成してエンコーディングできる。
図4bは、本発明の他の実施例に係る遠隔制御サポートのための送信機のネットワーク負荷分析を介した適応的エンコーディング方式を示す流れ図である。
図4bを参照すると、送信機は、ネットワーク状態情報をリアルタイムで取得する(S460)。前記ネットワーク状態情報は、CSI(Channel State Information)を介して取得できる。また、取得された状態情報に基づいて現在ネットワーク負荷を分析する(S470)。分析結果によって現在ネットワーク負荷が基準値以上かどうかを判断し(S480)、基準値より高くない場合、第3のモードでエンコーディングし(S490)、基準値より高い場合、第4のモードでエンコーディングされるように制御できる(S495)。ここで、基準値は、図4aの基準値とは異なる。多重エンコーディングを介して現在ネットワーク負荷に合う形態にエンコーディングが実行されることができる。このとき、ネットワーク負荷が基準値より高い場合、ビットレート及びフレームレートを低くして低画質でエンコーディングし、ネットワーク負荷が基準値より低い場合は、高画質でエンコーディングすることが好ましい。ビットレート及びフレームレートだけでなく、他のエンコーディング関連ファクタを互いに異なるように設定して第3または第4のモードを構成することができる。また、分析されたネットワーク状態情報は、ウェブUI(Web UI)を介して画面に表示できる。ここには、チャート、グラフィックなどの表現方法が使われることができる。
ネットワーク設定
図5は、本発明の一実施例に係る遠隔制御サポートのための送信機のネットワーク設定画面を示す。
図5を参照すると、送信機は、固有のネットワーク情報を有する。前記ネットワーク情報は、IPアドレス、ネットマスク(netmask)、ゲートウェイアドレス、MACアドレスのうち少なくとも一つを含むことができる。送信機は、固有のネットワークアドレスを有するため、有線または無線IPネットワークまたは通信ネットワークを介して受信機と接続されることができる。このとき、ユーザは、図5に示す送信機のネットワーク設定ディスプレイ画面を介して現在設定されたネットワーク情報を確認することができ、ユーザは、ユーザインターフェースを利用して、即ち、IPアドレスはブロック510を介して、ネットマスクはブロック520を介して、ゲートウェイアドレスはブロック530を介して、MACアドレスはブロック540を介して変更できる。
エンコーディングパラメータ設定
図6は、本発明の一実施例に係る遠隔制御サポートのための送信機のエンコーディング設定画面を示す。
図6を参照すると、ビデオストリームに対する画質及びコーデック方式を調節することができる。ブロック610を介して解像度を設定することができ、ブロック620を介してコーデックの種類を設定することができる。また、ブロック630を介してフレームレートを設定し、ブロック640を介してビットレートを設定することができる。ビットレートは、基本設定として高速(High)、中間(Mid)、低速(Low)のレートを設定しておき、このうち一つを選択する方式に設定できる。
また、図面には示していないが、ビデオストリームの動き量によるモードスイッチング方式を使用するかどうかを設定することもでき、このとき、使われる多数モードのエンコーディングパラメータ情報もユーザが任意に変更できる。
ファームウェアアップグレード
図7は、本発明の一実施例に係る遠隔制御サポートのための送信機のファームウェアのアップグレード設定画面を示す。
図7を参照すると、送信機は、ファームウェアに基づいて運営され、ファームウェア検索及び選択を介して特定ファームウェアに基づいて動作できる。また、最新バージョンのファームウェアをネットワークに基づいて検索してアップグレードを実行することができる。これは改善されたバージョンにアップグレードするためのものであって、ファームウェアを管理する製造社のサーバ側で提供するファームウェアをバージョン別に検索及び選択できる。このとき、検索すれば使用可能なファームウェアのリストが表示される。既存にダウンロードしたファームウェアは、ストーレッジに格納されて今後に再び選択及び活用可能に保管されることができる。
本発明の実施例によると、サーバが配布する最新ファームウェアがリアルタイムで設置可能に提供されるため、送信機のユーザは、提供される最新ファームウェアを選択してアップロードしてファームウェアをリアルタイムでアップグレードできる。
本発明の他の実施例によると、送信機及び/または受信機が最新ファームウェアでアップグレードされると、対に接続されている受信機及び/または送信機も該当ファームウェアを自動でアップグレードするように設定できる。
モードスイッチング
図8は、本発明の一実施例に係る遠隔制御サポートのための送信機のモード設定画面を示す。
図8を参照すると、一つのデバイスは、送信機の機能とそれに対応される受信機の機能を二つとも含んでブロック810のデバイスモード変更を介して送信機の機能をすることもでき、受信機の機能をすることもできるように構成される。モードが変更されると、送信機の構成要素と関連付けられたチャネルと受信機の構成要素と関連付けられたチャネルとの間の接点でスイッチングが発生して機能が反対になることができる。即ち、送信機から受信機への、受信機から送信機への機能変更が発生することができる。例えば、第1のソースデバイスのディスプレイ画面データを受信してエンコーディングした後、第2のデバイスに送信した第1のデバイスの機能が送信機から受信機に変更される場合、第1のデバイスは、第2のデバイスと接続された第2のソースデバイスのディスプレイ画面データを第2のデバイスから受信してデコーディングした後、接続されたバイパスモニタに表示する。また、表示される画面に基づいてユーザから入力される制御命令を第2のデバイスに送信できる。
このように、送信機と受信機のモード変更が発生すると、再起動(reboot)をすることが好ましい。
無線ネットワークを介した遠隔制御
図9は、無線ネットワークを介して送信機から映像情報を受信する受信機の動作を説明するための概念図である。
図9を参照すると、送信機920は、ソースデバイス910のディスプレイ画面データを受信して近距離無線通信ネットワーク930を介して受信機940に送信できる。
本発明の一実施例によると、受信機940にソースデバイス910のディスプレイ画面データを送信するために使われる近距離無線通信ネットワーク930は、ワイパイ(Wi−Fi)、ブルートゥース(bluetooth)、ジグビー(zigbee)、NFC(Near Field Communication)、RFID(Radio Frequency IDentification)などを含むことができる。送信機920は、前記近距離無線通信ネットワーク930を介して周辺の受信機940にリアルタイムでソースデバイス910のディスプレイ画面データを送信することができる。本発明の他の実施例によると、近距離無線通信の外にLTE(Long Term Evolution)、LTE−A及び3Gのような広いカバレッジの無線通信方式が使われることができる。
このとき、受信機940は、送信機920の周辺に位置したモバイル端末であり、前記モバイル端末は、送信機920とのペアリングを介した遠隔制御のためのアプリケーションを設置した端末であって、前記アプリケーションの実行を介して受信機の機能を遂行することができる。
図10は、複数個の送信機から近距離ネットワークを介して送信される映像情報を一つの画面に組み合わせて表示する受信機の動作を説明するための概念図である。
図10を参照すると、複数個の送信機1010−1、1010−2、1010−3、1010−4は、近距離ネットワーク1020を介して一つの受信機1030に各々接続されたソースデバイス(図示せず)のディスプレイ画面データを送信することができる。受信機1030は、自分が接続する送信機1010−1、1010−2、1010−3、1010−4を選択することができる。このとき、接続可能な送信機の数には特別な制限がない。
受信機1030と近距離ネットワーク1020を介して接続された複数個の送信機1010−1、1010−2、1010−3、1010−4は、各々自分が接続されたソースデバイスのディスプレイ画面データを受信機1030に提供し、受信機1030は、自分が設定した画面配置によって前記送信機1010−1、1010−2、1010−3、1010−4の画面を一つのページで組み合わせて表示できる。このとき、受信機1030の画面内に多数のセルが配置されることができ、各セルの大きさ及びセルの横及び縦の大きさもユーザ設定を介して調節可能である。このとき、各セルの区分を受信機1030が認識して受信機1030のユーザが特定セル内での遠隔制御命令が入力される時、該当送信機に入力された制御命令を送信することができる。それによって、セルの区分内で行われる制御を対応される送信機のソースデバイスに送信できる。
また、受信機1030のユーザは、多数の送信機と関連付けられた画面が表示される中に、一つを選択し、選択された送信機の画面のみが全体画面に表示されるように制御できる。また、受信機1030のユーザは、ユーザインターフェース(本実施例ではタッチスクリーン)を介して選択された送信機を制御することができる。
デュアルモニタ画面処理
図11は、デュアルモニタを使用するソースデバイスの画面を処理する送信機を説明するための図面である。
図11を参照すると、ソースデバイス1120は、モニタ1 1110及びモニタ2 1112とデュアルで接続されて二つのモニタ1110、1112から二つのディスプレイ画面データ(ビデオストリーム)を受信することができる。このとき、各モニタは、一つのグラフィックプロセッサと接続されてディスプレイ画面データを処理することができ、ソースデバイス1120は、二つのグラフィックプロセッサを介して二つのディスプレイ画面データを同時に並列処理できる。このように処理される二つのディスプレイ画面データは、送信機1130に提供されることができる。送信機1130は、ソースデバイス1120内の二つのグラフィックプロセッサで処理されたディスプレイ画面データを受信して一つの画面に組み合わせ、または二つのうち一つの画面を選択処理して受信機に提供できる。送信機1130は、デュアルモニタ1110、1112の二つのディスプレイ画面データをあらかじめ設定された比率(例えば、1:1または2:1等)で組み合わせて一つの画面に生成した後、これをエンコーディングして受信機に送信できる。または、ユーザの設定によって二つのうち一つのモニタ画面(例えば、モニタ1 1110)を選択して該当画面のみをエンコーディングして受信機に送信することもできる。どのモニタの画面をエンコーディングして送信するかは、ユーザ設定を介して選択できる。
RDS受信機(Rx)
図12は、本発明の一実施例に係る遠隔制御サポートのための受信機を示すブロック図である。図12に示すように、本発明の一実施例に係る受信機は、第3の受信部1210、デコーダ1220、第3の変換部1230、第2のミキサ1240、制御命令入力部1250及び第2の送信部1260を含むことができる。各構成要素は、各構成要素の機能と関連付けられた命令語を実行する一つのハードウェアプロセッサで具現され、または各機能によってまたは組み合わせた機能によって複数個のハードウェアプロセッサで具現されることができる。
図12を参照すると、第3の受信部1210は、送信機1205からエンコーディングされたビデオストリーム(ソースデバイスのディスプレイ画面データ)を受信する。第3の受信部1210は、通信プロセッサで具現されることができる。
デコーダ1220は、第3の受信部1210で受信したエンコーディングされたビデオストリームをデコーディングする。デコーディングは、エンコーディングされた方式と対応される方式で行われることができる。デコーダ1220は、エンコーディングされたビデオストリームをYUVフォーマットのデータでデコーディングできる。このとき、前記YUVデータは、YUV420データである。
第3の変換部1230は、デコーダ1220でデコーディングされたYUVデータをRGBデータに変換する。これは送信機の第2の変換部の動作と類似方式で行われることができる(図2参照)。
第2のミキサ1240は、第3の変換部1230で変換されたRGBデータをHDMI/DVIのようなデジタルインターフェースを介して送信可能にミキシングする。ミキシングされたデータは、バイパスモニタ1225に提供されて受信機の受信者が前記バイパスモニタ1225を介して遠隔地のソースデバイスの画面を見ることができるようにする。
このとき、受信機のユーザは、ユーザインターフェース1215を介して制御命令を入力することができる。ユーザインターフェース1215は、タッチスクリーン、キーボード及び/またはマウスなどであり、制御命令は、タッチスクリーンのタッチ、キーボードの入力及び/またはマウスのホイール移動またはクリック入力などを介して行われる。
制御命令入力部1250は、前記のようにユーザインターフェース1215を介してユーザが入力する入力に基づいて制御命令を生成して第2の送信部1260に提供する。
第2の送信部1260は、前記入力された制御命令1250を受信して送信機1205に有線または無線ネットワークを介して送信する。
送信機リスト管理
図13は、本発明の一実施例に係る遠隔制御サポートのための受信機の送信機リスト管理画面を示す。
図13を参照すると、受信機は、接続可能な送信機の情報を示す送信機リスト1310を生成することができる。受信機は、送信機のネットワークアドレス(例えば、IPアドレスなど)を介して送信機を識別して接続可能な送信機のリストを生成することができる。このとき、接続可能な送信機は、受信機が過去または現在に接続を認識した送信機である。即ち、以前に接続された送信機及び/または現在有線または無線ネットワークに接続された送信機がリストに含まれることができる。
受信機は、リフレッシュリストブロック1320(Refresh List)をクリックして該当リストをリフレッシュすることができる。
このとき、現在接続された送信機のアドレスは、ブロック1330に表示されることができる。または、前記リストに含まれている送信機のうち一つを選択すると、ブロック1330にIPアドレスが入力され、このとき、サーバIPアドレスの右側に備えられた接続要求ブロックをクリックすると、該当アドレスの送信機と接続されることができる。
本発明の一実施例によると、受信機は、送信機リストに含まれている送信機を複数個選択して複数個の送信機からビデオストリームを受信することができる。
本発明の他の実施例によると、受信機も送信機と同様に、ネットワークアドレスを含み、ファームウェアアップグレードが行われることができる。また、システム設定を介して送信機モードへの転換も可能である。
双方向制御システム
図14は、本発明の一実施例に係る双方向制御システムを示すブロック図である。
図14を参照すると、ソースデバイス1 1404は、送受信機1 1402と有線及び/または無線で接続されて送受信機1 1402に画面データを送信し、送受信機1 1402は、ソースデバイス1 1404の画面データを送受信機2 1406にネットワークを介して送信する。それに対し、ソースデバイス2 1408は、送受信機2 1406と有線及び/または無線で接続されて送受信機2 1406に画面データを送信し、送受信機2 1406は、ソースデバイス2 1408の画面データを送受信機1 1402にネットワークを介して送信する。
このとき、各送受信機1402、1406は、遠隔制御サポートのための送信機機能と受信機機能を二つとも備えている機器であって、各送受信機1402、1406に接続されたバイパスモニタ1410、1420は、二つの送受信機1402、1406を介して提供される被制御端末、即ち、ソースデバイス1 1404及びソースデバイス2 1408の画面を各モニタ1410、1420にディスプレイできる。
即ち、画面の左側一部の面にはソースデバイス1の画面1412、1422がディスプレイされ、画面の右側一部の面にはソースデバイス2の画面1414、1424がディスプレイされ、それぞれの送受信機1402、1406が各々接続されたソースデバイス1404、1408の同期画面データを互いに送受信できる。即ち、同じ画面を見ながら双方向に制御が可能にすることができる。
このとき、相手のソースデバイスに対する制御命令を提供することができる。即ち、送受信機1 1402は、ソースデバイス1 1404の画面データを送信し、必要によって、ソースデバイス2 1408に対する制御命令を提供することができる。それに対し、送受信機2 1406は、ソースデバイス2 1408の画面データを送信し、ソースデバイス1 1404に対する制御命令を提供することができる。
双方向コンファレンスシステム
図15は、本発明の一実施例に係る双方向コンファレンスシステムを示すブロック図である。
図15を参照すると、基本的に、このとき、各送受信機1502、1506は、遠隔制御サポートのための送信機機能と受信機機能を二つとも備えている。また、ソースデバイス1 1504は、送受信機1 1502と有線及び/または無線で接続されており、ソースデバイス2 1508は、送受信機2 1506と有線及び/または無線で接続されている。ここではソースデバイスが二つ接続されていると叙述しているが、10個以上の多数の機器が接続されて多数参加者がビデオコンファレンスを実行する状況でも本発明の双方向コンファレンスシステムが活用されることができる。
このとき、送受信機1 1502に接続されたモニタ及び/またはソースデバイス1 1504のモニタ1510は、ソースデバイス2 1508の画面を表示することができる。即ち、ソースデバイス2 1508とソースデバイス1 1504は、同じ画面を見ることができる。本実施例が3名以上の参加者で構成された場合、ソースデバイス3の画面を3個の送受信機が同一にディスプレイしながらコンファレンスを進行することができる。即ち、各コンファレンス参加者のソースデバイスの画面のリアルタイムエンコーディングデータを互いに送受信し、各送受信機の選択によって特定ソースデバイスの画面を同時にディスプレイして特定ソースデバイスで処理されるコンテンツ(文書、ビデオ、オーディオファイル等)を同時にリアルタイムで見ながらコンファレンスが行われるようにすることができる。このとき、ビデオとオーディオは、送受信機1502、1506に別途にプロセシングされて各々接続されたマイク/スピーカ1503、1507を介して出力されることが好ましい。
特に、ソースデバイス2 1508の画面を送受信機1502、1506を介して同時に送受信して接続されたモニタ1510、1520を媒介にして参加者が見ている場合、送受信機1 1502に接続されたユーザインターフェース(図示せず)またはソースデバイス1 1504に接続されたユーザインターフェース(図示せず)を介してソースデバイス2に対する制御命令を送信することができ、コンファレンスのためのオーディオデータを送受信機2 1506に送信することができる。このとき、送受信機2 1506は、ソースデバイス2 1508の同期画面ビデオデータを送信し、接続されたマイク1507を介して入力されるオーディオデータを送受信機1 1502に送信できる。
また、同時にリアルタイムに送信されるビデオデータ、オーディオデータ及び/または制御命令は、送受信機1502、1506で受信されて独立的に処理されることができるように分類される。
送受信機2 1506に画面データを送信し、送受信機2 1506は、ソースデバイス2 1508の画面データを送受信機1 1502にネットワークを介して送信する。
このとき、各送受信機1502、1506は、遠隔制御サポートのための送信機機能と受信機機能を二つとも備えている機器であって、各送受信機1502、1506に接続されたバイパスモニタ1510、1520は、二つの送受信機1502、1506を介して提供される被制御端末、即ち、ソースデバイス1 1504及びソースデバイス2 1508の画面を各モニタ1510、1520にディスプレイできる。
ローカルストーレッジの活用
本発明の他の実施例によると、ソースデバイスがカメラのような撮影装置である場合、映像のシームレスな送信が重要であるため、受信機は、ネットワーク接続が切れた時に備えた構成を含むように構成されることができる。即ち、送信機のエンコーダは、ネットワーク接続が一時的に切れた場合に備えてローカルストーレッジ(図示せず)でエンコーディングされたデータを提供することができる。ストーレッジは、レコーダ(図示せず)を介してエンコーディングされたデータを一時的に格納していることがある。このとき、ストーレッジは、SSD(Solid State Drive)ストーレッジを含むことができる。
本発明の実施例によると、送信機は、ソースデバイスから受信される動映像ストリームをローカルストーレッジに格納すると同時に、受信機に中継できる。このとき、受信機から周期的に受信関連報告を受信して映像受信に異常があるかどうかを確認することができる。また、映像受信不能状態になった時、ネットワーク不能地点を検出して検出地点から動映像ストリームを復旧することができるように格納する。それによって、復旧遅延時間による映像送信が切れることをなくすことができる。
送信機は、ソースデバイスから動映像を受信し、受信された動映像を一定時間(例えば、障害復旧時間のために最小15秒内外)キュー(queue)にバッファリング(buffering)することができる。その後、送信機は、バッファリングと共に受信機に動映像ストリームを中継することができる。
受信機は、送信機から受信される動映像ストリームを受信して記録できる。受信機は、特定周期によって現在映像受信可能可否及び/または映像録画可否などに対する情報を含む状態報告メッセージを生成して送信機に送信できる。受信機が受信不能状態(例えば、ネットワーク障害または機能障害など)になった時、送信機は、一定時間状態報告がないことを介してこれを検知することができる。このとき、送信機は、無応答時点を基準にして第1のストーレッジ(例えば、バッファリングのためのキューまたはSSDストーレッジ)から映像送信中断部分を探して第2のストーレッジ(例えば、HDD(Hard Disk Drive)ストーレッジ)に録画を続けて実行することができる。
本発明の実施例によると、送信機と受信機は、共同データベースに相互連係して動映像ストリームを記録することができる。このとき、送信機は、共同データベースに既に記録された動映像ストリームに基づいて受信機からの録画が中断された時点を探してキューのバッファリングされた動映像ストリームの該当地点から共同データベースに記録できる。それによって、共同データベースにはシームレス(seamless)な録画映像が別途の作業なしに記録されるようにすることができる。
本発明の一実施例によると、受信機の録画障害発生時にもシームレスな録画が可能であり、原本動映像変換がない録画記録の場合、低仕様(例えば、デスクトップ)機器のみで具現が可能である。
送信機は、キューにバッファリングされた動映像ストリームの特定部分(または、特定フレーム)から第2のストーレッジに格納することができる。送信機は、動映像ストリームを受信して第1のストーレッジにバッファリングしながら、バッファリングされた動映像ストリームを受信機に送信し、または第2のストーレッジに提供できる。受信機に提供するモードを第1のモード(または、中継モードとも呼ばれる)に定義し、第2のストーレッジに提供するモードを第2のモード(または、記録モードとも呼ばれる)に定義することができる。送信機は、基本的に第1のモードで動作するように設定されることができる。第1のモードによると、受信機の正常映像受信または映像録画を仮定し、ソースデバイスから受信される動映像ストリームを受信機に中継する。
送信機は、受信機からの状態報告メッセージに基づいて受信機の正常録画動作可否を判断することができる。即ち、現在正常受信/録画が行われているかどうかに対する情報を取得することができる。例えば、正常受信が行われていない受信障害状況が検出された場合、送信機は、第1のモードから第2のモードに動作モードをスイッチングすることができる。受信障害状況の検出と関連付けられ、送信機は、受信機から受信される状態報告時間をあらかじめ設定された臨界時間と比較して臨界時間以上状態報告が受信されない場合、録画障害状況が発生されたと判断できる。このとき、臨界時間は、最大バッファリング時間に設定されることができる。または、送信機は、臨界条件によって録画障害状況発生を判断することができる。臨界条件は、状態報告の平均受信時間値より状態報告の遅延時間(例えば、最も最近状態報告時点から状態報告が受信されていない現在時点までの時間)が大きい場合及び/または状態報告遅延時間が設定された最大バッファリング時間の半分の時間より大きい場合という条件を含むことができる。前記臨界条件が満たされると、受信機との接続が解除または受信機の録画不能と判断し、送信機が直接動映像ストリームを記録する第2のモードにスイッチングする。第2のモードによると、送信機は、動映像ストリームが直接第2のストーレッジに格納されるようにする。送信機は、第1のストーレッジでバッファリングされたストリームを受信して第2のストーレッジに提供し、またはバッファを制御する制御部に指示して第1のストーレッジから直接第2のストーレッジに動映像ストリームを格納するようにすることができる。このとき、報告の無応答時点から受信機が動映像ストリームを受信しなかったと仮定し、無応答時点を探して該当時点からキューに格納された動映像を第2のストーレッジに格納することができる。
また、送信機は、受信機から報告が再開される場合、状態報告を再び受信した時点に第2のモードから第1のモードにスイッチングして再び受信機が動映像ストリームを受信及び録画するようにし、自分は中継機役割をするようにすることができる。
本発明の一実施例によると、送信機は、受信機から受信される状態報告メッセージの受信時間情報を一定容量記録できる。また、これに基づいて報告の平均周期を計算することができる。また、状態報告メッセージ及び報告メッセージ平均周期情報に基づいて下記のスイッチング条件(または、臨界条件)を介して障害発生可否を判断することができる。
−スイッチング条件
Rt=受信機から受信される状態報告受信時間
Bm=設定された最大バッファリング時間
Vt=Rtの平均周期
Tn=測定されたRtの遅延時間
Vt<Tn&&(ii)Tn>(Bm/2)を満たす場合、スイッチング実行
前記スイッチング条件によると、送信機は、状態報告受信時間を基準にして遅延時間(Tn)を測定し、測定された遅延時間が平均周期(Vt)より大きく、及び/または測定された遅延時間(Tn)が最大バッファリング時間(Bm)の半分より大きい場合、録画障害状態が発生したと判断できる。このとき、遅延時間は、無応答時点を基準にして起算されることができる。また、スイッチング条件は、必ず最大バッファリング時間(Bm)の半分を基準にするものではなく、最大バッファリング時間(Bm)自体や最大バッファリング時間(Bm)から一定時間を引いた時間を基準にすることができる。これはユーザインターフェースを介してユーザが任意に設定できる。このとき、送信機は、障害発生を検知してモード変更を指示する制御信号を生成することができる。また、同時に、無応答時点(例えば、最近状態報告信号受信時間)を検出して該当時点からのバッファリングされた動映像ストリームを格納することを指示する制御信号を、バッファを管理する制御部に提供できる。
また、送信機は、第2のモードにスイッチングされた状態、即ち、障害発生が進行している状況で再び状態報告が再開される時点を状態報告受信の起点として把握できる。このとき、送信機は、第2のモードから第1のモードにモードを変更することを指示する制御信号を生成することができる。
前記スイッチング条件は、必ず録画不能状態のみを含むものではなく、バッファリングを実行する第1のストーレッジと大容量の第2のストーレッジとの間に衝撃検知センサまたは映像分析モジュールを備え、あらかじめ設定された基準値以上の衝撃が検出され、または一定値以上の映像内の異常を検出する場合、動作モードを中継モードから録画モードに変更し、または中継と録画モードが同時に行われる形態に変更することを考慮することができる。
システムモニタリングサーバ(コントロールサーバ)との連動
図1で説明した通り、本発明の一実施例において、送信機と接続されたソースデバイスは、IoTベースのセンサまたはカメラなどからセンシング情報を受けて全体工程またはシステムを管理するコントロールサーバである。このとき、コントロールサーバは、センシング情報及びカメラから取得される映像情報に基づいてシステムの異常有無をリアルタイムでモニタリングして異常発生時にイベント信号を発生させることによって管理者に該当事実を知らせることができる。コントロールサーバは、取得されるセンシング情報及び映像情報を時間の順序によって大容量ストーレッジに格納することができる。格納される時、各情報は、時間情報及び特定時刻化空間にオブジェクト化されて格納されることができ、今後特定時点の特定センサ及び/またはカメラのセンシング情報及び/または映像を読み取って見ることができるように管理される。コントロールサーバと接続された送信機は、コントロールサーバを介して管理される前記のようなぼう大なセンシング及び映像情報を送信機及び受信機を介して遠隔地のユーザに表示でき、ユーザは、表示された画面内容を見て制御命令を提供することができる。即ち、イベント発生を遠隔地で認知することができ、遠隔地で認知された異常発生に対応して異常発生時点の特定センサ及び/または特定カメラのセンシング情報及び/または映像情報を確認することができる。
本発明の一実施例によると、前記センシング情報及び/または映像情報をモニタリングする中にイベントが発生した場合、コントロールサーバは、異常が発生した時点を検知することができる。また、検知された時点情報を送信機に提供できる。送信機は、異常発生時点から前後一定時間区間のコントロールサーバから受信されるビデオストリーム(コントロールサーバのディスプレイ画面データ)を装置の内部または外部のストーレッジに格納することができる。このような動作は、自動で行われることができる。
受信機のユーザは、異常発生時点に受信機に提供されたコントロールサーバのディスプレイ画面データを確認することができなかったとしても、受信機は、ユーザの入力を介して異常発生時点映像を提供することを送信機に要求して前記格納されたビデオストリームの提供を受けることができる。
以上、図面及び実施例を参照して説明したが、本発明の保護範囲が前記図面または実施例により限定されることを意味するものではなく、該当技術分野の熟練された当業者は、特許請求の範囲に記載された本発明の思想及び領域から外れない範囲内で本発明を多様に修正及び変更可能であることを理解することができる。