JP2015106779A - プログラム、通信端末装置及び遠隔会議方法 - Google Patents

プログラム、通信端末装置及び遠隔会議方法 Download PDF

Info

Publication number
JP2015106779A
JP2015106779A JP2013247159A JP2013247159A JP2015106779A JP 2015106779 A JP2015106779 A JP 2015106779A JP 2013247159 A JP2013247159 A JP 2013247159A JP 2013247159 A JP2013247159 A JP 2013247159A JP 2015106779 A JP2015106779 A JP 2015106779A
Authority
JP
Japan
Prior art keywords
unit
captured image
communication terminal
terminal device
notification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013247159A
Other languages
English (en)
Inventor
友大 稲垣
Tomohiro Inagaki
友大 稲垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2013247159A priority Critical patent/JP2015106779A/ja
Priority to US14/555,761 priority patent/US9420012B2/en
Publication of JP2015106779A publication Critical patent/JP2015106779A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1083In-session procedures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/152Multipoint control units therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1822Conducting the conference, e.g. admission, detection, selection or grouping of participants, correlating users to one or more conference sessions, prioritising transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/56Arrangements for connecting several subscribers to a common circuit, i.e. affording conference facilities
    • H04M3/567Multimedia conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】円滑な遠隔会議を実現することができる、プログラム、通信端末装置及び遠隔会議方法を提供する。【解決手段】通信端末装置の撮影部で撮影された撮影画像に対応した映像データがネットワークに接続された通信端末装置の通信部から遠隔会議の相手方となる相手方装置に送信される。映像データの送信に応じて、相手方装置において撮影画像が表示されているか否かを示す画像表示設定が取得される。撮影画像が第一状態であると判断され、且つ、撮影画像が表示されていることを示す画像表示設定が取得された場合、報知情報が通信端末装置の報知部から出力される。撮影画像が第二状態であると判断され、又は、撮影画像が表示されていないことを示す画像表示設定が取得された場合、報知情報は報知部から出力されない。【選択図】図9

Description

本発明は、ネットワークを介した遠隔会議に用いられる通信端末装置を制御するコンピュータが実行可能なプログラムと、通信端末装置と、遠隔会議方法に関する。
遠隔会議に関する技術が提案されている。例えば、特許文献1には、遠隔地の相手と画像をやり取りしながら対話を行う画像通信端末装置のユーザインタフェースが提案されている。このユーザインタフェースでは、カメラ部の被写体である端末利用者の位置や姿勢等が検出され位置情報が出力される。位置情報をもとに端末利用者がカメラ部の撮影範囲から逸脱したかが判断され、逸脱した場合には端末利用者に対して撮影範囲から逸脱したことが知らされる。
特開平8−251561号公報
遠隔会議は、通信端末装置と少なくとも1台以上の相手方装置で取得された映像及び音の各データをそれぞれに送信して行われる。例えば、通信端末装置から送信された映像データに対応した撮影画像が相手方装置で表示され、通信端末装置から送信された音データに対応した音が相手方装置で出力される。また、相手方装置から送信された映像データに対応した撮影画像が通信端末装置で表示され、相手方装置から送信された音データに対応した音が通信端末装置で出力される。
但し、遠隔会議の形態によっては、第一側の撮影画像は、第二側で表示されるものの、第二側の撮影画像は、第一側で表示されない場合もある。例えば、遠隔会議が、講義又は発表形式の会議であり、通信端末装置が発表者側で、相手方装置が視聴者側であるとする。この場合、通信端末装置からの撮影データに対応した撮影画像は、相手方装置で表示されるが、相手方装置からの撮影データに対応した撮影画像は、通信端末装置では表示される可能性が低いと想定される。即ち、講義又は発表形式の遠隔会議では、視聴者の関心は発表者に向けられることが多いため、発表者側の撮影画像には、発表者が好ましい状態で含まれていることが望ましいと考えられる。
発明者は、仮に、好ましい状態の撮影画像に対応した映像データが相手方装置に送信されていない場合、通信端末装置でそのことを報知し、好ましい状態となるように誘導する技術について検討を行った。その際、発明者は、不要な報知が行われなくなる点について考慮した。上述した例の場合、視聴者の関心が発表者に対してではなく発表内容に向けられ、発表者自身に対する視聴者の関心が発表内容よりも低くなることもある。このような場合、発表者側の通信端末装置で前述した報知が行われると、発表者の集中力が報知に逸れてしまい、スムーズな発表が困難となることも想定される。
本発明は、円滑な遠隔会議を実現することができる、プログラム、通信端末装置及び遠隔会議方法を提供することを目的とする。
本発明の一側面は、ネットワークを介した遠隔会議に用いられる通信端末装置を制御するコンピュータが実行可能なプログラムであって、前記コンピュータを、前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信制御手段と、前記撮影画像の状態を判断する判断手段と、前記送信制御手段による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する第一取得手段と、前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断手段で前記撮影画像が第二状態であると判断され、又は、前記第一取得手段により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力制御手段と、して機能させるプログラムである。
これによれば、第一状態である撮影画像が相手方装置において表示されている場合、報知情報を報知部から出力することができる。通信端末装置のユーザに、相手方装置で表示されている撮影画像が第一状態であることを報知することができる。撮影画像が第二状態である場合、又は、撮影画像が第一状態であっても相手方装置で表示されていない場合、報知情報の出力を未実行とすることができる。通信端末装置のユーザの意識が遠隔会議の議題から報知情報に向かうことを防止することができる。通信端末装置のユーザは、遠隔会議での議論に集中することができる。
このプログラムにおいて、前記判断手段は、前記撮影画像の輝度が第一閾値より低い場合、又は、前記撮影画像の輝度が前記第一閾値より高い第二閾値より高い場合、前記撮影画像は前記第一状態であると判断し、前記撮影画像の輝度が前記第一閾値より高く前記第二閾値より低い場合、前記撮影画像は前記第二状態であると判断する、機能を含む、ようにしてもよい。これによれば、撮影画像の輝度に応じて撮影画像の状態を判断することができる。例えば、撮影部が所定の被覆物で覆われている場合、撮影画像の輝度が低くなる場合がある。また、例えば、撮影部をユーザの方向とは異なる方向に向けている場合、向いている方向によっては(例えば天井の光源の方向)、撮影画像の輝度が高くなる場合がある。このような場合、通信端末装置のユーザが意図的に前述した状態になるようにしていると推測し、報知情報の出力を未実行とすることができる。撮影画像の輝度が第一閾値より高く第二閾値より低い範囲である場合に報知情報を出力することができる。
前記コンピュータを、前記撮影画像に人物が含まれているか否かを解析する解析手段として機能させ、前記判断手段は、前記解析手段により前記撮影画像に人物が含まれていないと解析された場合、前記撮影画像は前記第一状態であると判断し、前記解析手段により前記撮影画像に人物が含まれていると解析された場合、前記撮影画像は前記第二状態であると判断する、機能を含む、ようにしてもよい。これによれば、撮影画像に人物が含まれているか否かに応じて撮影画像の状態を判断することができる。例えば、通信端末装置のユーザが撮影部の撮影範囲内に収まっていない場合、撮影画像が第一状態であると判断し、報知情報を出力することができる。通信端末装置のユーザが撮影部の撮影範囲内に収まっている場合、報知情報の出力を未実行とすることができる。
前記コンピュータを、前記通信端末装置の加速度計測部で計測される加速度を取得する第二取得手段として機能させ、前記判断手段は、前記第二取得手段により取得された加速度の単位時間あたりの変化量が第三閾値より大きい場合、前記撮影画像は前記第一状態であると判断し、前記第二取得手段により取得された加速度の前記変化量が前記第三閾値より小さい場合、前記撮影画像は前記第二状態であると判断する、機能を含む、ようにしてもよい。これによれば、通信端末装置における加速度に応じて撮影画像の状態を判断することができる。例えば、通信端末装置がスマートフォン又はタブレット端末のようなモバイル型の通信装置である場合、手に持った状態で利用されることがある。このような場合、撮影部が揺れ、一定の範囲が継続して撮影されなくなることがある。このような状況において、一定の範囲が撮影されているか否かを加速度に応じて判断し、撮影画像が第一状態であるか第二状態であるかを判断することができる。
前記コンピュータを、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された場合、前記相手方装置における前記撮影画像の表示サイズを示す第一サイズを取得する第三取得手段として機能させ、前記出力制御手段は、前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが第四閾値より大きい場合、前記報知情報を前記報知部から出力し、前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが前記第四閾値より小さい場合、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、第一状態である撮影画像が相手方装置において表示されている場合であっても、相手方装置で表示されている撮影画像の表示サイズ(第一サイズ)に応じて、報知情報の出力又は非出力を切り換えることができる。相手方装置において表示されている撮影画像の表示サイズが大きい場合、相手方装置のユーザは、撮影画像に対して関心を有していると推測される。このような場合、相手方装置において表示されている撮影画像が第一状態であることを通信端末装置のユーザに報知することができる。相手方装置において表示されている撮影画像の表示サイズが小さい場合、相手方装置のユーザは、撮影画像に対して関心がない又は関心が低いと推測される。このような場合、報知情報の出力を未実行とすることができる。
前記コンピュータを、前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが前記第四閾値より小さい場合、前記通信端末装置の計時部で時間の経過の計測を開始する計時手段として機能させ、前記出力制御手段は、前記計時部で計測される時間が予め定めた基準時間である又は前記基準時間を超えている場合、前記報知情報を前記報知部から出力する機能を含む、ようにしてもよい。これによれば、相手方装置において表示されている撮影画像の表示サイズが小さい場合であっても、所定の時間継続して、相手方装置において撮影画像が表示されているのであれば、相手方装置のユーザは、撮影画像に全く関心がないということではないと推測される。このような場合、報知情報を出力することで、通信端末装置のユーザに相手方装置で表示されている撮影画像が第一状態であることを報知することができる。
前記出力制御手段は、前記撮像画像を前記報知部に含まれる表示部に表示する機能を含み、前記コンピュータを、前記表示部に前記撮像画像が表示されている場合、表示中の前記撮像画像の表示サイズを示す第二サイズを取得する第四取得手段として機能させ、前記出力制御手段は、前記第一の場合で、且つ、前記表示部に前記撮像画像が表示されていない又は前記第四取得手段により取得された前記第二サイズが第五閾値より小さい場合、前記報知情報を前記報知部から出力し、前記第一の場合で、且つ、前記第四取得手段により取得された前記第二サイズが前記第五閾値より大きい場合、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、通信端末装置で表示されている撮影画像の表示サイズ(第二サイズ)に応じて、報知情報の出力又は非出力を切り換えることができる。撮影画像が通信端末装置で表示されているが、表示中の撮影画像の表示サイズが小さい場合、通信端末装置のユーザ自身で、撮影画像が第一状態であることを認識することが困難である場合もある。このような場合、相手方装置において表示されている撮影画像が第一状態であることを通信端末装置のユーザに報知することができる。表示中の撮影画像の表示サイズが大きい場合、報知情報を出力しなくとも、通信端末装置のユーザ自身で、撮影画像が第一状態であることを認識することができる場合もある。このような場合、報知情報の出力を未実行とすることができる。
前記出力制御手段は、前記第一の場合で、且つ、前記送信制御手段による前記映像データの送信が中断されていない場合、前記報知情報を前記報知部から出力し、前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記送信制御手段による前記映像データの送信が中断されている場合、前記撮影画像が表示されていることを示す前記画像表示設定に関わらず、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、撮影画像に対応する映像データの送信が中断されているか否かに応じて、報知情報の出力又は非出力を切り換えることができる。映像データが送信されている状態で、相手方装置において表示されている撮影画像が第一状態であることを通信端末装置のユーザに報知することができる。映像データの送信が中断されている場合における報知情報の出力を未実行とすることができる。
前記コンピュータを、前記遠隔会議において予め設定される、前記遠隔会議で実行可能な機能の度合いを示す権限に関し前記通信端末装置に対して設定された権限情報を取得する第五取得手段として機能させ、前記出力制御手段は、前記第一の場合で、且つ、前記第五取得手段により取得された前記権限情報が第六閾値より高い場合、前記報知情報を前記報知部から出力し、前記第一の場合で、且つ、前記第五取得手段により取得された前記権限情報が前記第六閾値より低い場合、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、通信端末装置に設定された権限に応じて、報知情報の出力又は非出力を切り換えることができる。通信端末装置に設定された権限が上位の権限である場合、相手方装置のユーザは、撮影画像に注目すると推測される。このような場合、撮影画像が第一状態であることを通信端末装置のユーザに報知することができる。通信端末装置に設定された権限が下位の権限である場合、相手方装置のユーザは、撮影画像に対して関心がない又は関心が低いと推測される。このような場合、報知情報の出力を未実行とすることができる。
前記コンピュータを、前記通信端末装置の集音部で集音された音に対応したデータのボリュームを検出する検出手段として機能させ、前記出力制御手段は、前記第一の場合で、且つ、前記検出手段により検出された前記ボリュームが第七閾値より高い場合、前記報知情報を前記報知部から出力し、前記第一の場合で、且つ、前記検出手段により検出された前記ボリュームが前記第七閾値より低い場合、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、通信端末装置での音に対応したデータのボリュームに応じて、報知情報の出力又は非出力を切り換えることができる。ボリュームが高い場合、開催中の遠隔会議において通信端末装置のユーザは、発言していると考えられる。相手方装置のユーザは、発言者である通信端末装置のユーザに注目し、撮影画像を注視すると推測される。このような場合、撮影画像が第一状態であることを通信端末装置のユーザに報知することができる。相手方装置のユーザは、発言者とは関係のない撮影画像に対しては関心がない又は関心が低いと推測される。このような場合、報知情報の出力を未実行とすることができる。
前記出力制御手段は、前記報知部からの前記報知情報の出力を所定のタイミングで停止する機能を含み、前記コンピュータを、前記報知部から出力された前記報知情報の報知回数をカウントするカウント手段として機能させ、前記出力制御手段は、前記第一の場合で、且つ、前記カウント手段によりカウントされた前記報知回数が第八閾値より小さい場合、前記報知情報を前記報知部から出力し、前記第一の場合で、且つ、前記カウント手段によりカウントされた前記報知回数が前記第八閾値より大きい場合、前記報知情報を前記報知部から出力しない、機能を含む、ようにしてもよい。これによれば、報知情報が継続して出力されることを防止することができる。報知情報の出力が所定回数以上繰り返されることを防止することができる。
本発明の他の側面は、ネットワークを介した遠隔会議に用いられる通信端末装置であって、前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信制御手段と、前記撮影画像の状態を判断する判断手段と、前記送信制御手段による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する第一取得手段と、前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断手段で前記撮影画像が第二状態であると判断され、又は、前記第一取得手段により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力制御手段と、を備える通信端末装置である。
これによれば、対応する上記の通信端末装置を制御するコンピュータが実行可能なプログラムと同様の作用が実現される。この通信端末装置は、上記の各プログラムと同様、他の機能が実現される通信端末装置として特定することもできる。この場合、通信端末装置は、上記の各プログラムのうち、対応するプログラムと同様の作用を奏する。
本発明の更に他の側面は、ネットワークを介した遠隔会議に用いられる通信端末装置で実行される遠隔会議方法であって、前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信工程と、前記撮影画像の状態を判断する判断工程と、前記送信工程による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する取得工程と、前記判断工程で前記撮影画像が第一状態であると判断され、且つ、前記取得工程により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断工程で前記撮影画像が第二状態であると判断され、又は、前記取得工程により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力工程と、を含む遠隔会議方法である。
これによれば、対応する上記のプログラムと同様の作用が実現される。この遠隔会議方法は、上記の各プログラムと同様、他の手順が実現される遠隔会議方法として特定することもできる。この場合、遠隔会議方法は、上記の各プログラムのうち、対応するプログラムと同様の作用を奏する。
本発明によれば、円滑な遠隔会議を実現することができる、プログラム、通信端末装置及び遠隔会議方法を得ることができる。
遠隔会議システムの一例を示す図である。 通信端末装置に表示される遠隔会議画面であって、通信端末装置での撮影画像が表示されている態様の一例を示す図である。 通信端末装置に表示される遠隔会議画面であって、通信端末装置での撮影画像が表示されていない態様の一例を示す図である。 メイン処理のフローチャートである。 音送受信処理のフローチャートである。 映像送受信処理のフローチャートである。 報知処理の第一部分を示すフローチャートである。 報知処理の第二部分を示すフローチャートである。 報知処理の第三部分を示すフローチャートである。 通信端末装置での撮影画像が表示されている態様の遠隔会議画面において報知画像が表示された状態の一例を示す図である。 画像解析処理のフローチャートである。
本発明を実施するための実施形態について、図面を用いて説明する。本発明は、以下に記載の構成に限定されるものではなく、同一の技術的思想において種々の構成を採用することができる。例えば、以下に示す構成の一部は、省略し又は他の構成等に置換してもよい。他の構成を含むようにしてもよい。
<遠隔会議システム>
遠隔会議システム10の概略について、図1及び図2を参照して説明する。遠隔会議システム10は、図1に示すように、サーバ装置20と通信端末装置30と4台の相手方装置71,72,73,74を含む。以下では、通信端末装置30と4台の相手方装置71,72,73,74によって行われる遠隔会議を例に説明する。遠隔会議システム10による遠隔会議は、通信端末装置30と1〜3台の相手方装置、又は、通信端末装置30と5台以上の相手方装置で行われるようにしてもよい。
サーバ装置20と通信端末装置30と相手方装置71,72,73,74は、ネットワーク90に接続されている。ネットワーク90は、例えば、インターネットのようなネットワークである。通信端末装置30及び相手方装置71,72,73,74による遠隔会議は、公知の遠隔会議システムと同様、サーバ装置20を経由して行われる。サーバ装置20は、公知の遠隔会議システムにおけるサーバ装置と同様のサーバ装置である。従って、サーバ装置20のハードウェア構成及びサーバ装置20で実行される処理等に関する詳細な説明は省略する。遠隔会議システム10による遠隔会議は、通信端末装置30と相手方装置71,72,73,74が、ネットワーク90を介して直接通信して行うようにしてもよい。このようなP2P型の遠隔会議では、サーバ装置20は省略される。
通信端末装置30は、ネットワーク90を介した通信機能を有する通信装置である。通信端末装置30は、例えば、スマートフォン、タブレット端末又はパーソナルコンピュータのような通信装置である。以下では、通信端末装置30がスマートフォン又はタブレット端末のようなモバイル型の通信装置である場合を例に説明する。通信端末装置30の構成については後述する。相手方装置71,72,73,74は、パーソナルコンピュータのような公知の通信装置である。相手方装置71,72,73,74の一部又は全部は、通信端末装置30と同様の通信装置であってもよい。遠隔会議に際し、相手方装置71,72,73,74でも、後述する通信端末装置30で実行される各処理(図4〜図9及び図11参照)が実行される。「相手方装置」との名称は、通信端末装置30を主として説明する実施形態において、この通信端末装置30と区別するための形式的なものである。相手方装置71,72,73,74に関する説明は適宜省略する。
遠隔会議システム10では、通信端末装置30で撮影された撮影画像に対応した映像データと通信端末装置30で集音された音に対応した音データが通信端末装置30からサーバ装置20に送信される。また、相手方装置71で撮影された撮影画像に対応した映像データと相手方装置71で集音された音に対応した音データが相手方装置71からサーバ装置20に送信される。相手方装置72,73,74においても、相手方装置71と同様、各々で撮影された撮影画像に対応した映像データと各々で集音された音に対応した音データがサーバ装置20にそれぞれ送信される。通信端末装置30及び相手方装置71,72,73,74からの映像データと音データを取得したサーバ装置20は、取得された映像データと音データを、送信元装置以外の通信端末装置30及び相手方装置71,72,73,74にそれぞれ送信する。例えば、サーバ装置20は、通信端末装置30からの映像データ及び音データを、通信端末装置30以外の相手方装置71,72,73,74にそれぞれ送信する。即ち、遠隔会議システム10では、通信端末装置30からの映像データ及び音データが、サーバ装置20を経由して相手方装置71,72,73,74のそれぞれにストリーミング方式で送信され、相手方装置71,72,73,74からの映像データ及び音データのそれぞれが、サーバ装置20を経由して通信端末装置30にストリーミング方式で送信される。
通信端末装置30及び相手方装置71,72,73,74からは、映像データ及び音データと共に、送信元装置の識別情報が送信される。サーバ装置20は、送信元装置以外の通信装置に送信する映像データ及び音データと共に、この送信元装置の識別情報を送信する。識別情報は、例えば、映像データ及び音データの各ヘッダ部に含ませるようにしてもよい。識別情報は、各通信装置を識別する情報である。例えば、通信端末装置30の識別情報は、通信端末装置30を識別する情報であり、相手方装置71,72,73,74の各識別情報は、相手方装置71,72,73,74をそれぞれ識別する情報である。
通信端末装置30は、相手方装置71,72,73,74からの映像データと音データと識別情報を受信し、これらを取得する。通信端末装置30では、相手方装置71,72,73,74からの各映像データが再生され、各映像データに対応した撮影画像381,382,383,384が予め定められた位置に配置された遠隔会議画面が表示される(図2参照)。通信端末装置30では、自装置で取得された映像データが再生され、この映像データに対応した撮影画像380が撮影画像381,382,383,384と共に予め定められた位置に配置された状態で表示される(図2参照)。なお、サーバ装置20は、送信元装置からの映像データについても送信元装置に送信することとし、この映像データの送信元装置では、自装置での撮影画像の表示を、サーバ装置20から送信され自装置で受信及び取得された映像データに基づき行うようにしてもよい。この場合、例えば、通信端末装置30における撮影画像380の表示は、サーバ装置20から送信された自装置での映像データを再生して行われる。実施形態は、自装置での映像データはサーバ装置20を経由することなく自装置内で再生されることとする。
但し、通信端末装置30では、撮影画像380,381,382,383,384のうちの一部を非表示とすることもできる。通信端末装置30は、撮影画像380,381,382,383,384を表示させるか否かの設定を、後述する操作部40を介して受け付けることができる。通信端末装置30では入力された設定に応じた表示がされる。例えば、撮影画像380が非表示に設定され、撮影画像381,382,383,384が表示に設定されたとする。この場合、撮影画像380は非表示とされ、撮影画像381,382,383,384が予め定められた位置に配置された遠隔会議画面が表示される(図3参照)。通信端末装置30では、撮影画像380,381,382,383,384のうち表示中の撮影画像の表示サイズをそれぞれ変更することができる。通信端末装置30では、相手方装置71,72,73,74からの各音データが再生され、各音データに対応した音が出力される。
撮影画像381は、相手方装置71からの映像データに対応した撮影画像である。撮影画像382は、相手方装置72からの映像データに対応した撮影画像である。撮影画像383は、相手方装置73からの映像データに対応した撮影画像である。撮影画像384は、相手方装置74からの映像データに対応した撮影画像である。
相手方装置71,72,73,74でも、通信端末装置30及び相手方装置71,72,73,74のうち、自装置以外の通信装置からの各映像データが再生され、各映像データに対応した撮影画像が適宜配置された遠隔会議画面が表示される。このとき、相手方装置71,72,73,74では、自装置で取得された映像データを再生し、自装置での撮影画像を表示させることもできる。但し、相手方装置71,72,73,74においても、通信端末装置30と同様、撮影画像380,381,382,383,384のうちの何れかを非表示とすることができる。例えば、撮影画像380を非表示とすることができる。また、相手方装置71,72,73,74においても、通信端末装置30と同様、表示中の撮影画像の表示サイズをそれぞれ変更することができる。例えば、撮影画像380の表示サイズを所定のサイズに拡大又は縮小することが可能で、撮影画像380は設定された表示サイズにて表示される。
相手方装置71,72,73,74でも、通信端末装置30からの音データと、相手方装置71,72,73,74のうち、自装置以外の通信装置からの各音データが再生され、各音データに対応した音が出力される。
<通信端末装置>
通信端末装置30は、図1に示すように、CPU32と、記憶部34と、RAM36と、表示部38と、操作部40と、カメラ46と、オーディオ部48と、加速度計測部52と、計時部54と、通信部56を備える。これら各部32〜56は、バス58に接続される。
CPU32は、演算処理を実行する。記憶部34は、コンピュータが読み取り可能な記憶媒体、例えば、フラッシュメモリによって構成される。但し、記憶部34は、ハードディスク及び/又はROM等で構成されてもよい。記憶部34には、各種のプログラムが記憶される。例えば、OS(Operating System)及び各種のアプリケーションが記憶部34に記憶される。記憶部34に記憶されるアプリケーションには、後述する各処理(図4〜図9及び図11参照)を実行するプログラムが含まれる。後述する各処理を実行するプログラムは、記憶部34に事前にインストールされていてもよいが、遠隔会議への参加に際し、通信端末装置30がサーバ装置20にアクセスした場合に、サーバ装置20からネットワーク90を介して伝送信号として通信端末装置30に送信され、そのタイミングで、記憶部34にインストールされるようにしてもよい。この場合、プログラムは、RAM36に記憶されても差し支えない。
事前のインストールは、例えば、半導体メモリ等のコンピュータが読み取り可能な記憶媒体に記憶されたプログラムが、通信端末装置30の読取部(不図示)によって読み取られることで行われる。通信端末装置30が、例えば、パーソナルコンピュータのように光学ドライブ(不図示)を備えている場合、事前のインストールは、光学メディアに記憶されたプログラムが、光学ドライブによって読み取られることで行われるようにしてもよい。この他、事前のインストールは、ネットワーク90を介して通信端末装置30に接続されるサーバ装置(サーバ装置20又は不図示のサーバ装置)のハードディスク等のコンピュータが読み取り可能な記憶媒体に記憶されたプログラムが、通信端末装置30の通信部56を介して伝送信号として受信されることで行われるようにしてもよい。何れの形態とするかは、諸事情を考慮して適宜決定される。なお、コンピュータが読み取り可能な記憶媒体は、一時的に伝送される信号を含まなくてもよい。コンピュータが読み取り可能な記憶媒体は、非一時的な記憶媒体であってもよい。非一時的な記憶媒体は、一時的な信号を含まない。非一時的な記憶媒体は、情報を記憶する期間に関わらず、情報を記憶可能な記憶媒体であればよい。
RAM36は、CPU32が各種のプログラムを実行する際に利用される記憶領域となる。RAM36には、処理の実行途中に、処理で利用される所定のデータ及び情報が所定の記憶領域に記憶される。
通信端末装置30では、CPU32が記憶部34に記憶されたOS及び図4〜図9及び図11に示す各処理のプログラムを実行する等して、通信端末装置30を制御する。これによって、通信端末装置30では、各種の処理が実行され、各種の機能手段が実現される。
表示部38は、各種の情報を表示する。表示部38は、例えば、LCD(Liquid Crystal Display)又は有機EL(Electro Luminescence)等の公知の表示デバイスである。例えば、表示部38には、遠隔会議画面が表示される(図2及び図3参照)。操作部40は、通信端末装置30に対する各種の指令等の入力を受け付ける。操作部40は、例えば、ハードキー42と、タッチパッド44を含む。タッチパッド44は、例えば、静電容量式の位置入力装置で、ユーザの指の接触位置に応じた座標位置を示す信号を出力する。タッチパッド44は、抵抗膜方式や超音波方式等、他の形態の位置入力装置によって構成されてもよい。表示部38とタッチパッド44により、タッチパネル(図1で「表示部38」と「タッチパッド44」を囲む破線参照)が実現される。
通信端末装置30のユーザは、タッチパッド44に対して、スワイプ、フリック、タップ、ドラッグ、ピンチイン及びピンチアウト等の操作を行う。通信端末装置30のユーザは、タッチパッド44に触れた指を所定の方向に移動させる等して、前述したような各操作を行う。このような各操作は、公知のスマートフォン又はタブレット端末でも採用されている技術であって、通信端末装置30でも採用される。操作部40は、更に、キーボード及びマウスを含む構成であってもよい。なお、通信端末装置30がパーソナルコンピュータである場合、操作部40は、キーボード及びマウスを含む。
カメラ46は、通信端末装置30の正面の外界像を撮影する。例えば、通信端末装置30の正面に通信端末装置30のユーザが位置する場合、カメラ46は、ユーザを含む外界像を撮影する。オーディオ部48は、マイク49及びスピーカ50を含む。マイク49は、外界音を集音する。例えば、マイク49は、通信端末装置30のユーザが発した音声を集音する。スピーカ50は、音を出力する。オーディオ部48は、マイク49で集音された音を所定のサンプリング周波数(例えば11.025kHz,44.1kHz)でA/D変換された波形データを生成する。また、オーディオ部48は、音データに対応した音をスピーカ50から出力する。通信端末装置30では、遠隔会議の開始に伴い、カメラ46での撮影とマイク49での集音が開始され、カメラ46で撮影された撮影画像に対応した映像データと、マイク49で集音された音(所定のサンプリング周波数でA/D変換された波形データ)に対応した音データが生成される。加速度計測部52は、通信端末装置30における加速度を計測する。加速度計測部52は、例えば、ピエゾ抵抗型、静電容量型、熱検知型等の、公知の3軸加速度センサで構成される。計時部54は、カレンダ機能及び時計機能等を有し、時間の経過を計測する。計時部54は、OSが有する時計機能により構成されてもよい。
通信部56は、通信端末装置30をネットワーク90に接続し、ネットワーク90を介したデータ通信を行う。例えば、遠隔会議の開始に伴い生成される映像データ及び音データのそれぞれは、通信端末装置30の識別情報と共に通信部56からサーバ装置20を経由して相手方装置71,72,73,74にそれぞれ送信される。通信部56では、サーバ装置20を経由して送信された、相手方装置71,72,73,74のそれぞれからの映像データ及び音データと、送信元装置の識別情報が受信される。通信部56によるネットワーク90への接続は、無線接続又は有線接続の何れであってもよい。例えば、通信端末装置30がモバイル型の通信装置である場合、通信部56によるネットワーク90への接続は、無線接続とされる。通信部56は、例えば、Wi−Fi規格、4G規格、3G規格等、公知の通信方式に従った無線通信を行うための通信モジュールである。
通信端末装置30は、後述する各処理のプログラムが記憶部34に記憶されている点が、公知のモバイル型の通信装置と相違する。但し、通信端末装置30は、ハードウェア的には、公知のモバイル型の通信装置と同一の通信装置である。通信端末装置30は、上述した各部の他、ジャイロセンサを含む。ジャイロセンサによれば、例えば、通信端末装置30における角加速度及び傾きを計測することができる。
<メイン処理>
サーバ装置20を介した相手方装置71,72、73,74との遠隔会議において、通信端末装置30で実行されるメイン処理について、図4を参照して説明する。遠隔会議システム10では、例えば、遠隔会議の開催予定日時以前に、遠隔会議に参加予定の通信端末装置30及び相手方装置71,72,73,74のそれぞれに対応した各電子メールアドレスを宛先として、サーバ装置20から電子メールが送信される。この電子メールは、通信端末装置30及び相手方装置71,72,73,74による遠隔会議のためのURL(Uniform Resource Locator)を含む。このURLは、遠隔会議の会議室毎に固有である。換言すれば、URLには、遠隔会議の会議IDが含まれている。
また、このURLは、通信端末装置30及び相手方装置71,72,73,74のそれぞれに対して設定された遠隔会議の権限情報を含む。遠隔会議に設定される権限としては、例えば、主催者権限、発表者権限及び視聴者権限が挙げられる。主催者権限は、最も高い権限であり、遠隔会議システム10で利用可能な機能の全てを実行することができる。発表者権限は、主催者権限の次に高い権限であり、遠隔会議システム10で利用可能な機能のうちの一部の機能の実行が制限される。視聴者権限は、例示した3つの権限のうち最も低い権限であり、発表者権限より更に多くの機能の実行が制限される。実施形態では、主催者権限、発表者権限及び視聴者権限を例に説明する。
例えば、相手方装置71を操作するユーザが遠隔会議の利用を申請し、その際、通信端末装置30に発表者権限を設定し、相手方装置71に主催者権限を設定し、相手方装置72に発表者権限を設定し、相手方装置73,74に視聴者権限を設定する申し出を行っていたとする。この場合、通信端末装置30に送信されるURLは、URLの所定の部分に発表者権限を示す権限情報を含む。相手方装置71に送信されるURLは、URLの所定の部分に主催者権限を示す権限情報を含む。相手方装置72に送信されるURLは、URLの所定の部分に発表者権限を示す権限情報を含む。相手方装置73,74にそれぞれ送信されるURLは、URLの所定の部分に視聴者権限を示す権限情報を含む。なお、会議ID及び権限情報は、例えば、URLのクエリパラメータとして含まれていてもよい。
主催者権限は、遠隔会議の途中に、予め設定された権限を変更する機能を含む。上述した例に基づけば、主催者権限の相手方装置71では、発表者権限に設定された通信端末装置30の権限を、主催者権限又は視聴者権限に再設定することができる。
通信端末装置30のユーザは、遠隔会議の開催予定日時に、通信端末装置30を操作する。通信端末装置30において、CPU32は、上述した会議IDと権限情報を含むURLに基づき通信部56からサーバ装置20にアクセスし、会議接続の処理を実行する(S11)。S11での処理により、通信端末装置30とサーバ装置20の間で遠隔会議のセッションが確立され、通信端末装置30は、サーバ装置20に対して会議接続される。相手方装置71,72,73,74でも同様の操作が行われ、相手方装置71,72,73,74のそれぞれとサーバ装置20の間で遠隔会議のセッションが確立され、相手方装置71,72,73,74は、サーバ装置20に対して会議接続される。
サーバ装置20は、URLに含まれる会議IDと、通信端末装置30及び相手方装置71,72,73,74の各識別情報を対応付けて記憶する。その際、サーバ装置20は、遠隔会議開催中、通信端末装置30及び相手方装置71,72,73,74のそれぞれがサーバ装置20へのアクセスに用いたURLに従い、各通信装置に設定された権限を特定し、特定された各権限を各通信装置の識別情報に対応付けて記憶する。通信端末装置30及び相手方装置71,72,73,74による遠隔会議は、このようにして開始される。
S11を実行した後、CPU32は、音送受信処理を開始する(S13)。S13を実行した後、CPU32は、映像送受信処理を開始する(S15)。なお、S13で映像送受信処理が開始され、S15で音送受信処理が開始されてもよい。音送受信処理及び映像送受信処理については後述する。
音送受信処理及び映像送受信処理を開始させた後、CPU32は、権限情報を更新する(S17)。S17でCPU32は、権限情報を要求する権限情報要求の送信指令を通信部56に出力する。これに伴い、権限情報要求が、通信部56からサーバ装置20に送信される。権限情報要求には、通信端末装置30の識別情報が含められる。権限情報要求を受信し取得したサーバ装置20は、権限情報要求に含められた識別情報に従い、識別情報により特定される通信端末装置30の権限を示す権限情報を要求元の通信端末装置30に送信する。通信端末装置30では、サーバ装置20からの権限情報が通信部56で受信される。CPU32は、通信部56を介して権限情報を取得する。例えば、通信端末装置30に対して発表者権限が設定されていた場合、CPU32は、権限情報「発表者権限」を取得する。CPU32は、取得された権限情報をRAM36に記憶する。前回実行されたS17において権限情報がRAM36に記憶されていた場合、CPU32は、記憶された権限情報を新たに取得された権限情報とする。
続けて、CPU32は、画像表示情報の送信を制御する(S19)。S19でCPU32は、画像表示情報の送信指令を通信部56に出力する。これに伴い、画像表示情報が通信部56からサーバ装置20に送信される。画像表示情報は、自装置以外の通信装置からの映像データに対応した撮影画像の表示に関する情報である。自装置以外の通信装置は、例えば、通信端末装置30を基準とすると、相手方装置71,72,73,74である。S19で通信部56からサーバ装置20に送信される画像表示情報は、例えば、遠隔会議画面(図2及び図3参照)において、撮影画像381,382,383,384のそれぞれが表示中又は非表示の何れであるかを示す情報と、撮影画像381,382,383,384のうち、表示中である撮影画像の表示サイズを含む。更に、画像表示情報は、送信元装置の識別情報として通信端末装置30の識別情報を含む。
撮影画像381,382,383,384のそれぞれが表示中又は非表示の何れであるかを示す情報は、撮影画像381,382,383,384の表示サイズによって兼用されるようにしてもよい。例えば、表示サイズが「横×縦:X×Yピクセル」(X,Y>0)は、表示中であることを示す。表示サイズが「横×縦:0×0ピクセル」は、非表示であることを示す。表示中又は非表示の何れであるかを示す情報をどのような態様とするかは、諸条件を考慮して適宜決定される。S19で送信対象となる画像表示情報は、S15で開始される映像送受信処理のS65(図6参照)でRAM36に記憶される。
次に、CPU32は、報知処理を実行する(S21)。報知処理については後述する。報知処理を実行した後、CPU32は、会議終了指令を取得したか否かを判断する(S23)。会議終了指令は、通信端末装置30のユーザが操作部40を操作して入力される。CPU32は、このユーザ操作に伴い会議終了指令を取得する。会議終了指令が取得されていない場合(S23:No)、CPU32は、処理をS17に戻し、S17以降の処理を実行する。会議終了指令が取得された場合(S23:Yes)、CPU32は、サーバ装置20との間で会議接続を切断する処理を実行し、メイン処理を終了する。
<音送受信処理>
図4に示すメイン処理のS13で開始される音送受信処理について、図5を参照して説明する。音送受信処理を開始させたCPU32は、マイク49で集音された音を取得する(S31)。なお、S31でCPU32が取得する音は、上述した通り、マイク49で集音された音を所定のサンプリング周波数(例えば11.025kHz,44.1kHz)でA/D変換された波形データを含む概念である。続けて、CPU32は、取得された音のボリューム(dB)を検出し、検出された音のボリュームが予め定められた第七閾値以上であるか否かを判断する。ボリュームの検出は、例えば、S31で取得された音の波形のレベルを検出することで決定される。なお、S31で取得された音は複数のサンプリング点を含むため、例えば、所定時間内に含まれる複数のサンプリング点の平均レベルが音のボリュームとして検出される。複数のサンプリング点の最大レベルを音のボリュームとして検出してもよい。第七閾値は、通信端末装置30のユーザが遠隔会議において発言したと判断できる場合の音声のボリュームを考慮して予め決定される。第七閾値は、音送受信処理のプログラムに関連付けて記憶部34に記憶されている。第七閾値は、例えば背景のノイズレベル等に応じて、適宜変更されてもよい。
取得された音のボリュームが第七閾値以上である場合(S33:Yes)、CPU32は、取得された音に対応した音データを生成する(S35)。例えば、CPU32は、S31で取得された音を、所定の形式(例えば、G.711又はOPUS等公知の圧縮フォーマット)に従ってエンコードする。そして、S35でCPU32は、生成された音データの送信を制御する。CPU32は、音データの送信指令を通信部56に出力する。これに伴い、生成された音データが通信部56からサーバ装置20を経由して相手方装置71,72,73,74にそれぞれ送信される。音データには、通信端末装置30の識別情報が含められる。サーバ装置20は、通信端末装置30からの音データを、この音データに含められた識別情報とは異なる識別情報の相手方装置71,72,73,74にそれぞれ送信する。その後、CPU32は、処理をS37に移行する。取得された音のボリュームが第七閾値未満である場合(S33:No)、CPU32は、処理をS37に移行する。
S37でCPU32は、発話状態を更新する。発話状態は、RAM36に記憶される。例えば、S37がS35を実行した後に実行されている場合、CPU32は、発話状態を「発話中」とする。S37がS33が否定(S33:No)された後に実行されている場合、CPU32は、発話状態を「視聴中」とする。前回実行されたS37において既に発話状態がRAM36に記憶されていた場合、CPU32は、記憶された発話状態を今回のS33の結果に基づいた「発話中」又は「視聴中」とする。
次に、CPU32は、相手方装置71,72,73,74の何れかからの音データを取得したか否かを判断する(S39)。相手方装置71,72,73,74からの各音データは、上述した通り、サーバ装置20を経由して相手方装置71,72,73,74のそれぞれから送信され、通信部56で受信される。CPU32は、通信部56を介して相手方装置71,72,73,74の何れかからの音データを取得する。
音データが取得されている場合(S39:Yes)、CPU32は、取得された音データを再生し、再生された音の出力を制御する(S41)。CPU32は、取得された音データを所定の形式に従ってデコードし、デコードによって得られた音の出力指令をオーディオ部48に出力する。オーディオ部48では、出力指令に従い、音データに対応した音がスピーカ50から出力される。通信部56で音データが受信されておらず、音データが取得されていない場合(S39:No)又はS41を実行した後、CPU32は、処理をS31に戻し、S31以降の処理を実行する。音送受信処理は、サーバ装置20との会議接続が切断されるまで継続して実行される。
<映像送受信処理>
図4に示すメイン処理のS15で開始される映像送受信処理について、図6を参照して説明する。映像送受信処理を開始させたCPU32は、カメラ46で撮影された撮影画像を取得する(S51)。CPU32は、遠隔会議画面における撮影画像380の表示が設定されている場合(図2参照)、S51での取得に応じて撮影画像380を生成し、これの表示を制御する。例えば、CPU32は、撮影画像380の出力指令を表示部38に出力する。表示部38では、出力指令に従い、撮影画像380が所定の位置に表示される。遠隔会議画面における撮影画像380の表示が設定されていない場合(図3参照)、前述したような表示の制御は行われない。
次に、CPU32は、映像ミュート指令に基づいた映像ミュート設定がされているか否かを判断する(S53)。映像ミュート指令は、カメラ46で撮影された撮影画像に対応した映像データの送信を停止させる指令である。映像ミュート指令は、通信端末装置30のユーザが操作部40を操作して入力される。通信端末装置30のユーザは、遠隔会議の開始時及び映像データの送信途中にこの指令の入力操作を行うことができる。CPU32は、このユーザ操作に伴い映像ミュート指令を取得する。CPU32は、映像データの送信中に、映像ミュート指令を取得した場合、その後の映像データの送信を中断する。通信端末装置30からの映像データの送信が行われない場合、相手方装置71,72,73,74には、新たな映像データは送信されず、表示中であった撮影画像380は、一時停止した表示状態となる。
映像ミュート設定がされていない場合(S53:No)、CPU32は、取得された撮影画像を所定の形式(例えば、H.264等の公知の圧縮フォーマット)に従ってエンコードし、この撮影画像に対応した映像データを生成する(S55)。そして、S55でCPU32は、生成された映像データの送信を制御する。CPU32は、映像データの送信指令を通信部56に出力する。これに伴い、生成された映像データが通信部56からサーバ装置20を経由して相手方装置71,72,73,74にそれぞれ送信される。映像データには、通信端末装置30の識別情報が含められる。サーバ装置20は、通信端末装置30からの映像データを、この映像データに含められた識別情報とは異なる識別情報の相手方装置71,72,73,74にそれぞれ送信する。その後、CPU32は、「1」に設定した送信フラグをRAM36に記憶し(S57)、処理をS61に移行する。
映像ミュート設定がされている場合(S53:Yes)、CPU32は、「0」に設定した送信フラグをRAM36に記憶する(S59)。その後、CPU32は、処理をS61に移行する。通信端末装置30のユーザは、映像データの送信を再開させる場合、操作部40を操作し、映像ミュート解除指令を入力する。CPU32は、このユーザ操作に伴い映像ミュート解除指令を取得し、映像データの送信を再開させ、S55及びS57を実行する。
S61でCPU32は、相手方装置71,72,73,74の何れかからの映像データを取得したか否かを判断する。相手方装置71,72,73,74からの各映像データは、上述した通り、サーバ装置20を経由して相手方装置71,72,73,74のそれぞれから送信され、通信部56で受信される。CPU32は、通信部56を介して相手方装置71,72,73,74の何れかからの映像データを取得する。
映像データが取得されている場合(S61:Yes)、CPU32は、取得された映像データを再生し、再生された撮影画像の表示を制御する(S63)。例えば、CPU32は、取得された映像データを所定の形式に従ってデコードし、デコードによって得られた撮影画像の出力指令を表示部38に出力する。表示部38では、出力指令に従い、撮影画像が所定の位置に表示される。例えば、映像データが相手方装置71からのデータであった場合、撮影画像381が所定の位置に表示される(図2及び図3参照)。
続けて、CPU32は、S63での表示に従い画像表示情報を更新する(S65)。例えば、撮影画像381,382,383,384の一部又は全部に対して、表示の有無又は表示サイズの各設定が、所定のタイミングで変更されていたとする。この場合、CPU32は、新たな設定に従ったS63での表示に従い画像表示情報を更新する。画像表示情報は、RAM36に記憶される。通信部56で映像データが受信されておらず、映像データが取得されていない場合(S61:No)又はS65を実行した後、CPU32は、処理をS51に戻し、S51以降の処理を実行する。映像送受信処理は、サーバ装置20との会議接続が切断されるまで継続して実行される。
<報知処理>
図4に示すメイン処理のS21で実行される報知処理について、図7〜図9を参照して説明する。報知処理を開始させたCPU32は、会議状態情報を取得する(S71)。会議状態情報は、会議IDによって識別される遠隔会議の状態を示す情報である。会議状態情報に含まれる情報としては、次のような情報が例示される。第一の情報としては、相手方装置71,72,73,74のうち、サーバ装置20と会議接続されている通信装置の数が挙げられる。第二の情報としては、通信端末装置30及び相手方装置71,72,73,74のうち、主催者権限が設定された通信装置と会議接続がされているか否かを示す情報が挙げられる。第一の情報及び第二の情報は、サーバ装置20で管理されている。また、第三の情報としては、会議接続の際に、サーバ装置20から通知された会議予約時間が挙げられる。上記では説明を省略したが、CPU32は、会議接続の処理の実行時(図4のS11参照)に通信部56で受信された会議予約時間を通信部56を介して取得し、RAM36に記憶する。実施形態では、会議状態情報として、前述した3個の情報を例に説明する。
S71での会議状態情報の取得に際し、CPU32は、会議状態情報を要求する状態情報要求の送信指令を通信部56に出力する。これに伴い、状態情報要求が、通信部56からサーバ装置20に送信される。状態情報要求を受信し取得したサーバ装置20は、その時点で会議IDによって識別される遠隔会議において会議接続された全ての通信装置の数と、主催者権限が設定された通信装置との会議接続の有無を示す情報を、要求元の通信端末装置30に送信する。サーバ装置20からの会議状態情報は通信部56で受信され、CPU32は、通信部56を介してサーバ装置20からの会議状態情報を取得する。また、CPU32は、RAM36に記憶された会議状態情報としての会議予約時間を取得する。
次に、CPU32は、取得された会議状態情報に従い、現在、会議中であるか否かを判断する(S73)。例えば、CPU32は、現在時刻が会議予約時間内であり、主催者権限の通信装置が会議接続され、且つ、会議接続された通信装置の数が複数である場合、会議中であると判断する(S73:Yes)。この場合、CPU32は、処理をS75に移行する。CPU32は、前述した各条件のうちの何れか1つでも満足されない場合、会議中ではないと判断する(S73:No)。この場合、CPU32は、報知処理を終了し、処理を図4のS23に戻す。
S75でCPU32は、カメラ46での撮影状態を検出する。続けて、CPU32は、検出された撮影状態に従い撮影中であるか否かを判断する(S77)。S75及びS77について、CPU32は、図4のS15で開始される映像送受信処理(図6参照)のS55において送信対象の映像データが生成されているか否かを検出し、映像データが生成されていない場合、撮影中ではないと判断する(S77:No)。この場合、CPU32は、処理を図9のS103に移行する。映像データが順次生成されている場合、CPU32は、撮影中であると判断し(S77:Yes)、順次生成される映像データを対象として、画像解析処理を実行する(S79)。画像解析処理については後述する。
画像解析処理を実行した後、CPU32は、解析結果が「異常画像」であったか否かを判断する(S81)。解析結果が「正常画像」であって「異常画像」ではない場合(S81:No)、CPU32は、報知処理を終了し、処理を図4のS23に戻す。解析結果が異常画像であった場合(S81:Yes)、CPU32は、送信フラグを取得する(S83)。送信フラグは、図6のS57又はS59で設定され、RAM36に記憶されている。続けて、取得された送信フラグが「1」であるか否かを判断する(S85)。送信フラグが「1」ではなく「0」であった場合(S85:No)、CPU32は、処理を図9のS103に移行する。送信フラグが「1」であった場合(S85:Yes)、CPU32は、処理を図8のS87に移行する。
図8のS87でCPU32は、画像表示設定を取得する。S87でCPU32が取得する画像表示設定は、自装置以外の相手方装置71,72,73,74のそれぞれにおける撮影画像380の表示に関する設定情報である。画像表示設定は、相手方装置71,72,73,74のそれぞれで、図6のS55で送信された映像データに対応した撮影画像380が表示されているか表示されていないかを示す情報を含む。更に、画像表示設定は、撮影画像380が表示中である場合、表示中の撮影画像380の表示サイズを示す情報を含む。画像表示設定において、表示中又は非表示を示す情報と表示中である撮影画像380の表示サイズを示す情報は、相手方装置71,72,73,74の各識別情報に対応付けられる。表示中又は非表示を示す情報は、図4のS19に関連して説明した画像表示情報の場合と同様、相手方装置71,72,73,74の各識別情報に対応付けられた撮影画像380の表示サイズと兼用されるようにしてもよい。
S87でCPU32は、画像表示設定を要求する表示設定要求の送信指令を通信部56に出力する。これに伴い、表示設定要求が、通信部56からサーバ装置20に送信される。表示設定要求には、通信端末装置30の識別情報が含められる。表示設定要求を受信し取得したサーバ装置20は、表示設定要求に含められた識別情報とは異なる識別情報の相手方装置71,72,73,74での撮影画像380の表示又は非表示を特定する。そして、サーバ装置20は、表示中である撮影画像380の表示サイズを特定する。
相手方装置71,72,73,74では、上述した通り、通信端末装置30及び相手方装置71,72,73,74のうち、自装置以外の通信装置からの映像データに対応した撮影画像380を含む撮影画像の表示に関し、表示中又は非表示の何れかを示す情報と、表示中である撮影画像の表示サイズを含む画像表示情報がサーバ装置20に送信される。サーバ装置20は、図4のS19で通信端末装置30から送信された画像表示情報と、相手方装置71,72,73,74からの各画像表示情報を受信し取得する。サーバ装置20では、取得された各画像表示情報に含められた送信元装置の各通信装置の識別情報に対応付けて、画像表示情報に含まれる各情報が記憶される。上述した相手方装置71,72,73,74での撮影画像380の表示中又は非表示と、表示中である撮影画像380の表示サイズは、このようにして記憶された各情報に従い特定される。
サーバ装置20は、特定された各情報を含む画像表示設定を要求元の通信端末装置30に送信する。サーバ装置20からの画像表示設定は通信部56で受信され、CPU32は、通信部56を介して画像表示設定を取得する。CPU32は、取得された画像表示設定をRAM36に記憶する。続けて、CPU32は、取得された画像表示設定に従い、相手方装置71,72,73,74の何れかの通信装置で撮影画像380が表示中であるか否かを判断する(S89)。相手方装置71,72,73,74の全てで撮影画像380が非表示である場合(S89:No)、CPU32は、報知処理を終了し、処理を図4のS23に戻す。
相手方装置71,72,73,74の何れかで撮影画像380が表示中である場合(S89:Yes)、CPU32は、表示されている撮影画像380の表示サイズが第四閾値より大きいか否かを判断する(S91)。第四閾値は、例えば、相手方装置71,72,73,74のユーザが撮影画像380を視認した場合、撮影画像380に含まれる通信端末装置30のユーザを明確に認識できるか否かを考慮して決定される。第四閾値は、報知処理のプログラムに関連付けて記憶部34に記憶されている。なお、第四閾値は、例えば主催者権限を有するユーザによって、適宜設定されてもよい。相手方装置71,72,73,74のうちの複数の通信装置で撮影画像380が表示されている場合、CPU32は、最大となる表示サイズを第四閾値との比較対象とする。この他、撮影画像380の表示サイズの平均値を求め、これを第四閾値との比較対象とするようにしてもよい。更に、相手方装置71,72,73,74のうち、設定された権限が最も高い通信装置での表示サイズを第四閾値との比較対象とするようにしてもよい。比較対象とされる表示サイズは、諸条件を考慮して適宜決定される。
撮影画像380の表示サイズが第四閾値以下である場合(S91:No)、CPU32は、処理をS97に移行する。撮影画像380の表示サイズが第四閾値より大きい場合(S91:Yes)、CPU32は、自装置における撮影画像380の表示サイズを取得する(S93)。続けて、CPU32は、自装置における撮影画像380の表示サイズが第五閾値より小さいか否かを判断する(S95)。第五閾値は、例えば、通信端末装置30のユーザが表示中の撮影画像380を視認した場合、撮影画像380に含まれる自分自身を明確に認識できるか否かを考慮して決定される。第五閾値は、報知処理のプログラムに関連付けて記憶部34に記憶されている。第五閾値は、S91の第四閾値と異なるサイズであってもよいが、同一サイズであってもよい。撮影画像380の表示サイズが第五閾値以上である場合(S95:No)、CPU32は、報知処理を終了し、処理を図4のS23に戻す。撮影画像380の表示サイズが第五閾値より小さい場合(S95:Yes)、CPU32は、処理を図9のS103に移行する。撮影画像380が非表示である場合(図3参照)、S93でCPU32は、撮影画像380の表示サイズとして、「横×縦:0×0ピクセル」(面積:0)を取得し、S95で表示サイズは第五閾値より小さいと判断する(S95:Yes参照)。
S97でCPU32は、計時部54で時間の経過が計測中であるか否かを判断する。計測中ではない場合(S97:No)、CPU32は、計測を開始する(S99)。既にS99が実行され時間の経過が計測中である場合(S97:Yes)、又は、S99を実行した後、CPU32は、計時部54で計測中の経過時間が基準時間を超えているか否かを判断する(S101)。基準時間は、報知処理のプログラムに関連付けて記憶部34に記憶されている。経過時間が基準時間を超えている場合(S101:Yes)、CPU32は、処理を図9のS111に移行する。経過時間が基準時間以下である場合(S101:No)、CPU32は、処理を図9のS107に移行する。
図9のS103でCPU32は、通信端末装置30に設定された権限情報を取得する。S103でCPU32は、RAM36にアクセスし、図4のS17でRAM36に記憶された権限情報を取得する。例えば、通信端末装置30に設定された権限が発表者権限である場合、CPU32は、権限情報「発表者権限」を取得する。続けて、CPU32は、取得された権限情報が第六閾値より高い権限であるか否かを判断する(S105)。第六閾値は、例えば、視聴者権限に設定される。但し、第六閾値として設定される権限は、発表者権限であってもよい。第六閾値として設定される権限は、諸条件を考慮して適宜設定される。第六閾値は、報知処理のプログラムに関連付けて記憶部34に記憶されている。取得された権限情報が第六閾値より高い場合(S105:Yes)、CPU32は、処理をS111に移行する。取得された権限情報が第六閾値以下である場合(S105:No)、CPU32は、処理をS107に移行する。
S107でCPU32は、通信端末装置30のユーザの発話状態を検出する。続けて、CPU32は、検出された発話状態に従い通信端末装置30のユーザが発話中であるか否かを判断する(S109)。CPU32は、図4のS13で開始される音送受信処理(図5参照)のS33の判断結果に基づき、S37でRAM36に記憶された発話状態に従い、S107で発話状態を検出し、S109で発話中であるか否かを判断する。即ち、CPU32は、S33が肯定され(図5のS33:Yes)、RAM36に「発話中」と記憶されている場合、S109を肯定する(S109:Yes)。CPU32は、S33が否定され(図5のS33:No)、RAM36に「視聴中」と記憶されている場合、S109を否定する(S109:No)。S109が肯定された場合(S109:Yes)、CPU32は、処理をS111に移行する。
S111でCPU32は、報知回数が第八閾値より小さいか否かを判断する。報知回数は、後述するS115で報知画像385が表示された表示回数である。従って、報知回数は、S115の実行回数に一致する。第八閾値は、報知画像385の表示を何回繰り返すかを考慮して適宜設定される。第八閾値は、報知処理のプログラムに関連付けて記憶部34に記憶されている。報知回数が第八閾値より小さい場合(S111:Yes)、CPU32は、前回実行されたS115で表示された報知画像385が未だ表示中であるか否かを判断する(S113)。報知画像385は、表示後一定時間が経過したタイミングで非表示とされる。この他、報知画像385は、通信端末装置30のユーザが表示された報知画像385上をタップする等、操作部40を介して入力される消去指令をCPU32が取得したタイミングで非表示とされる。
報知画像385が表示中ではない場合(S113:No)、CPU32は、報知画像385の表示を制御する(S115)。CPU32は、記憶部34から報知画像385に対応した画像データを読み出し、この画像データを処理し報知画像385を得る。続けて、CPU32は、報知画像385の出力指令を表示部38に出力する。表示部38では、出力指令に従い、報知画像385が表示される(図10参照)。報知画像385の表示位置は、例えば、図10に示すように、撮影画像380が表示されている場合、撮影画像380と隣り合う位置とされる。報知画像385の表示位置は、表示中の撮影画像380と重なる位置又は表示中の全ての撮影画像と重ならない位置とするようにしてもよい。報知画像385の表示位置は、撮影画像380が表示されていない場合、遠隔会議画面の所定の位置(例えば中央)又は表示中の全ての撮影画像と重ならない位置とするようにしてもよい。報知画像385の表示位置は、諸条件を考慮して適宜設定される。報知画像385は、図10とは異なる態様であってもよい。例えば、報知画像385は、所定の形状をしたアイコンであってもよい。報知画像385を点滅させるようにしてもよい。
S115を実行した後、CPU32は、カウンタによりカウントされる報知画像385の報知回数を1増加させる(S117)。なお、カウンタによりカウントされる報知回数は、例えば、メイン処理(図4)を開始後、S17が実行される前にリセットされる。続けて、CPU32は、計時部54での計測を停止させ、計測された時間をリセットする(S119)。
S109又はS111が否定された場合(S109又はS111:No)、S113が肯定された場合(S113:Yes)、又は、S119が実行された後、CPU32は、報知処理を終了し、処理を図4のS23に戻す。
<画像解析処理>
図7〜図9に示す報知処理のS79(図7参照)で実行される画像解析処理について、図11を参照して説明する。画像解析処理を開始させたCPU32は、加速度計測部52で計測されている加速度を取得する(S121)。取得される加速度の値は、加速度計測部52から出力される電圧値でもよいし、電圧値を加速度に変換した値であってもよい。CPU32は、順次取得される加速度の値をRAM36に記憶する。CPU32は、取得された加速度の単位時間あたりの変化量を特定する。変化量は、例えば、RAM36に記憶されている加速度の値と、新たに取得された加速度の値との差に基づいて特定される。続けて、CPU32は、特定された加速度の変化量が第三閾値より大きいか否かを判断する(S123)。通信端末装置30が所定の場所に固定された状態でセットされている場合、加速度計測部52によって計測される加速度の単位時間あたりの変化量は、「0」となる。第三閾値は、通信端末装置30、詳細にはカメラ46が揺れ、継続して一定の範囲が撮影されていないと判断される場合の加速度の変化量の上限値を認定することで適宜設定される。第三閾値は、画像解析処理のプログラムに関連付けて記憶部34に記憶されている。通信端末装置30が備えるジャイロセンサによって計測された各値を取得し、継続して一定の範囲が撮影されているか否かを、ジャイロセンサによる計測値を用いて判断するようにしてもよい。この場合、処理をS125又はS135の何れへと移行させるかは、例えば、上述したS123と、ジャイロセンサによる計測値を用いた判断とに基づき判断される。
加速度の変化量が第三閾値より大きい場合(S123:Yes)、CPU32は、処理をS135に移行する。加速度の変化量が第三閾値以下である場合(S123:No)、CPU32は、図6のS55で生成された映像データを対象として、この映像データに対応した撮影画像380の輝度を取得する(S125)。撮影画像380の輝度は、例えば、撮影画像380を形成する画素の全てについてその明るさを特定し、その平均値を算出して求められる。なお、平均値は、撮影画像380を形成する全ての画素ではなく、特定の領域に含まれる画素だけを用いて算出されてもよい。また、平均値の代わりに又は追加して、最頻値や中央値が用いられてもよい。続けて、CPU32は、取得された輝度が第一閾値より高いか否かを判断する(S127)。例えば、カメラ46での撮影を妨げるため、カメラ46を所定の被覆物で覆っておく場合がある。このような場合、撮影画像380の輝度は低下すると推定される。第一閾値は、カメラ46によって通信端末装置30のユーザが撮影されていると判断される場合の輝度の範囲を考慮すると共に、適切な画質の撮影画像380であると判断される場合の輝度の下限値を考慮して適宜設定される。第一閾値は、画像解析処理のプログラムに関連付けて記憶部34に記憶されている。
輝度が第一閾値以下である場合(S127:No)、CPU32は、処理をS135に移行する。輝度が第一閾値より高い場合(S127:Yes)、CPU32は、この輝度が第二閾値より低いか否かを判断する(S129)。例えば、カメラ46での撮影を妨げるため、カメラ46を通信端末装置30のユーザの方向とは異なる方向に向けておく場合がある。例えば、カメラ46が天井の光源の方向に向けられると、撮影画像380の輝度が増加する可能性がある。第二閾値は、カメラ46によって通信端末装置30のユーザが撮影されていると判断される場合の輝度の範囲を考慮すると共に、適切な画質の撮影画像380であると判断される場合の輝度の上限値を考慮して適宜設定される。第二閾値は、第一閾値より高い値とされる。第二閾値は、画像解析処理のプログラムに関連付けて記憶部34に記憶されている。
輝度が第二閾値以上である場合(S129:No)、CPU32は、処理をS135に移行する。輝度が第二閾値より低い場合(S129:Yes)、CPU32は、撮影画像380から人物が検出されるか否かを判断する(S131)。人物の検出は、例えば、公知の顔検出技術を用いて行われる。顔検出技術としては、例えば、所定サイズの探索窓に対してHaar-Like特徴量を用いたカスケード構造のパターンマッチングを行うViola-Jones法等が利用可能である。なお、図10に示す撮影画像380のように通信端末装置30のユーザの顔の全体が含まれていない場合、人物は検出されたこととはならない。人物が検出された場合(S131:Yes)、CPU32は、RAM36に、解析結果として「正常画像」を記憶する(S133)。解析結果としての「正常画像」は、撮影画像380に人物が含まれており、撮影画像380から人物が検出されたことを示す情報である。人物が検出されない場合(S131:No)、CPU32は、処理をS135に移行する。
S135でCPU32は、RAM36に、解析結果として「異常画像」を記憶する。解析結果としての「異常画像」は、撮影画像380に人物が含まれておらず、人物が検出されなかったことを示す情報である。S133又はS135を実行した後、CPU32は、画像解析処理を終了し、処理を図7のS81に戻す。
<実施形態の効果>
上述した実施形態によれば、次のような効果を得ることができる。
(1)通信端末装置30では、図7〜図9に示す報知処理のS81(図7参照)で画像異常と判断され(S81:Yes参照)、S89(図8参照)で相手方装置71,72,73,74の何れかで撮影画像380が表示中であると判断される場合(S89:Yes参照)、報知画像385を表示させる処理(図9のS115参照)を実行させることができる。一方、S81で正常画像と判断され(S81:No参照)、又は、S89で相手方装置71,72,73,74の全てで撮影画像380が非表示であると判断される場合(S89:No参照)、S115が実行されず、その結果、報知画像385の表示を行わなくさせることができる。
そのため、相手方装置71,72,73,74の一部又は全部で表示されている撮影画像380が異常な状態である場合、そのことを通信端末装置30のユーザに報知することができる。報知画像385を視認した通信端末装置30のユーザは、異常な状態を回避する行動を取ることができる。一方、相手方装置71,72,73,74の一部又は全部で表示されている撮影画像380が正常な状態である場合、又は、相手方装置71,72,73,74の全てで撮影画像380が表示されていない場合、報知画像385は表示されない。そのため、通信端末装置30のユーザの意識が遠隔会議の議題から報知画像385に向かうことを防止することができる。通信端末装置30のユーザは、遠隔会議での議論に集中することができる。
(2)撮影画像380の正常又は異常の判断を、加速度計測部52で計測される加速度の単位時間あたりの変化量と、撮影画像380の輝度と、人物検出の結果に基づき行うこととした(図11のS123、S127〜S131参照)。そのため、撮影画像380の正常又は異常を適切に判断することができる。
(3)報知処理において、S81及びS89が共に肯定される場合(S81及びS89:Yes参照)であっても、S91、S95及びS101(図8参照)と、S105、S109及びS111(図9参照)の各条件に基づいた判断結果に従い、S115の実行又は非実行を切り換えることができる。そのため、報知画像385の表示又は非表示を適切に行うことができる。
S91は、相手方装置71,72,73,74の一部又は全部において表示されている撮影画像380の表示サイズの大小と相手方装置71,72,73,74の各ユーザの撮影画像380への関心は比例するとの推測に基づくものである。S95は、表示中の撮影画像380の表示サイズが大きい場合(S95:No参照)、報知画像385を表示しなくとも、通信端末装置30のユーザ自身で撮影画像380の状態を認識することができるとの推測に基づくものである。S101は、相手方装置71,72,73,74の一部又は全部において表示されている撮影画像380の表示時間と相手方装置71,72,73,74の各ユーザの撮影画像380への関心は比例するとの推測に基づくものである。
S105は、通信端末装置30のユーザの発言の有無に関わらず、相手方装置71,72,73,74の各ユーザは上位の権限が設定された通信端末装置30での撮影画像380に注目するとの推測に基づくものである。S109は、相手方装置71,72,73,74の各ユーザは発言者である通信端末装置30のユーザに注目し、撮影画像380を注視するとの推測に基づくものである。S111は、通信端末装置30のユーザは意識して報知画像385を無視する場合もあるとの推測に基づくものである。
<変形例>
上述した実施形態は、次のようにすることもできる。以下に示す変形例のうちの幾つかの構成は、適宜組み合わせて採用することもできる。以下の構成を採用した場合においても、上述した効果と同様の効果を得ることができる。
(1)上記では、図5に示す音送受信処理のS33において、取得された音のボリュームが第七閾値と同一である場合、判断を肯定(S87:Yes)することとした。S33は、音のボリュームが第七閾値より大きいか否かに基づき判断し、音のボリュームと第七閾値が等しい場合、判断を否定(S33:No)するようにしてもよい。
(2)上記では、図7〜図9に示す報知処理のS91(図8参照)において、相手方装置71,72,73,74の何れかで表示されている撮影画像380の表示サイズが第四閾値と同一である場合、判断を否定(S91:No)することとした。S91は、撮影画像380の表示サイズが第四閾値以上であるか否かに基づき判断し、撮影画像380の表示サイズと第四閾値が等しい場合、判断を肯定(S91:Yes)するようにしてもよい。
図8のS95において、通信端末装置30で表示されている撮影画像380の表示サイズが第五閾値と同一である場合、判断を否定(S95:No)することとした。S95は、撮影画像380の表示サイズが第五閾値以下であるか否かに基づき判断し、撮影画像380の表示サイズと第五閾値が等しい場合、判断を肯定(S95:Yes)するようにしてもよい。
図8のS101において、経過時間が基準時間と同一である場合、判断を否定(S101:No)することとした。S101は、経過時間が基準時間以上であるか否かに基づき判断し、経過時間と基準時間が等しい場合、判断を肯定(S101:Yes)するようにしてもよい。
図9のS105において、通信端末装置30の権限情報が第六閾値と同一である場合、判断を否定(S105:No)することとした。S105は、通信端末装置30の権限情報が第六閾値以上であるか否かに基づき判断し、通信端末装置30の権限情報と第六閾値が等しい場合、判断を肯定(S105:Yes)するようにしてもよい。
図9のS111において、カウンタでカウントされた報知回数が第八閾値と同一である場合、判断を否定(S111:No)することとした。S111は、通信端末装置30の報知回数が第八閾値以下であるか否かに基づき判断し、報知回数と第八閾値が等しい場合、判断を肯定(S111:Yes)するようにしてもよい。
(3)上記では、報知処理のS115(図9参照)において、報知画像385を表示することとした。各種の判断の下、処理がS115に至る場合の通信端末装置30のユーザへの報知は、報知画像385の表示とは異なる手法にて行うようにしてもよい。例えば、報知画像385と同様の役割を担う報知情報として、オーディオ部48のスピーカ50から報知音を鳴動させるようにしてもよい。この場合、S115でCPU32は、オーディオ部48に対して報知音の出力指令を出力する。S113は、報知音が鳴動中であるか否かに基づき判断される。この他、通信端末装置30が電子メール機能を備え、更に、電子メールが受信された場合等に点滅又は点灯される発光体を備えているとする。S115では、報知部として機能する前述の発光体の点滅又は点灯を介した報知情報の出力が行われるようにしてもよい。この場合、S115でCPU32は、発光体に対して点滅指令又は点灯指令を出力する。S113は、発光体が点滅中又は点灯中であるか否かに基づき判断される。
(4)上記では、図11に示す画像解析処理のS123において、加速度の変化量が第三閾値と同一である場合、判断を否定(S123:No)することとした。S123は、加速度の変化量が第三閾値以上であるか否かに基づき判断し、加速度の変化量と第三閾値が等しい場合、判断を肯定(S123:Yes)するようにしてもよい。
図11のS127において、S125で取得された撮影画像380の輝度が第一閾値と同一である場合、判断を否定(S127:No)することとした。S127は、輝度が第一閾値以上であるか否かに基づき判断し、輝度と第一閾値が等しい場合、判断を肯定(S127:Yes)するようにしてもよい。
図11のS129において、S125で取得された撮影画像380の輝度が第二閾値と同一である場合、判断を否定(S129:No)することとした。S129は、輝度が第二閾値以下であるか否かに基づき判断し、輝度と第二閾値が等しい場合、判断を肯定(S129:Yes)するようにしてもよい。
(5)上記では、第一閾値(図11のS127参照)、第二閾値(図11のS129参照)、第三閾値(図11のS123参照)、第四閾値(図8のS91参照)、第五閾値(図8のS95参照)、第六閾値(図9のS105参照)、第七閾値(図5のS33参照)及び第八閾値(図9のS111参照)を固定値とした。第一閾値〜第八閾値の全部又は一部は、適宜設定することが可能で、適宜変更することができるようにしてもよい。例えば、前述した設定又は変更は、遠隔会議の開始時といった所定のタイミングで行われるようにしてもよい。
10 遠隔会議システム
20 サーバ装置
30 通信端末装置
32 CPU
34 記憶部
36 RAM
38 表示部
40 操作部
42 ハードキー
44 タッチパッド
46 カメラ
48 オーディオ部
49 マイク
50 スピーカ
52 加速度計測部
54 計時部
56 通信部
58 バス
71,72,73,74 相手方装置
90 ネットワーク
380,381,382,383,384 撮影画像
385 報知画像

Claims (13)

  1. ネットワークを介した遠隔会議に用いられる通信端末装置を制御するコンピュータが実行可能なプログラムであって、
    前記コンピュータを、
    前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信制御手段と、
    前記撮影画像の状態を判断する判断手段と、
    前記送信制御手段による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する第一取得手段と、
    前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断手段で前記撮影画像が第二状態であると判断され、又は、前記第一取得手段により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力制御手段と、して機能させるプログラム。
  2. 前記判断手段は、
    前記撮影画像の輝度が第一閾値より低い場合、又は、前記撮影画像の輝度が前記第一閾値より高い第二閾値より高い場合、前記撮影画像は前記第一状態であると判断し、
    前記撮影画像の輝度が前記第一閾値より高く前記第二閾値より低い場合、前記撮影画像は前記第二状態であると判断する、機能を含む、請求項1に記載のプログラム。
  3. 前記コンピュータを、前記撮影画像に人物が含まれているか否かを解析する解析手段として機能させ、
    前記判断手段は、
    前記解析手段により前記撮影画像に人物が含まれていないと解析された場合、前記撮影画像は前記第一状態であると判断し、
    前記解析手段により前記撮影画像に人物が含まれていると解析された場合、前記撮影画像は前記第二状態であると判断する、機能を含む、請求項1又は請求項2に記載のプログラム。
  4. 前記コンピュータを、前記通信端末装置の加速度計測部で計測される加速度を取得する第二取得手段として機能させ、
    前記判断手段は、
    前記第二取得手段により取得された加速度の単位時間あたりの変化量が第三閾値より大きい場合、前記撮影画像は前記第一状態であると判断し、
    前記第二取得手段により取得された加速度の前記変化量が前記第三閾値より小さい場合、前記撮影画像は前記第二状態であると判断する、機能を含む、請求項1から請求項3の何れか1項に記載のプログラム。
  5. 前記コンピュータを、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された場合、前記相手方装置における前記撮影画像の表示サイズを示す第一サイズを取得する第三取得手段として機能させ、
    前記出力制御手段は、
    前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが第四閾値より大きい場合、前記報知情報を前記報知部から出力し、
    前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが前記第四閾値より小さい場合、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項4の何れか1項に記載のプログラム。
  6. 前記コンピュータを、前記第一の場合で、且つ、前記第三取得手段により取得された前記第一サイズが前記第四閾値より小さい場合、前記通信端末装置の計時部で時間の経過の計測を開始する計時手段として機能させ、
    前記出力制御手段は、前記計時部で計測される時間が予め定めた基準時間である又は前記基準時間を超えている場合、前記報知情報を前記報知部から出力する機能を含む、請求項5に記載のプログラム。
  7. 前記出力制御手段は、前記撮像画像を前記報知部に含まれる表示部に表示する機能を含み、
    前記コンピュータを、前記表示部に前記撮像画像が表示されている場合、表示中の前記撮像画像の表示サイズを示す第二サイズを取得する第四取得手段として機能させ、
    前記出力制御手段は、
    前記第一の場合で、且つ、前記表示部に前記撮像画像が表示されていない又は前記第四取得手段により取得された前記第二サイズが第五閾値より小さい場合、前記報知情報を前記報知部から出力し、
    前記第一の場合で、且つ、前記第四取得手段により取得された前記第二サイズが前記第五閾値より大きい場合、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項6の何れか1項に記載のプログラム。
  8. 前記出力制御手段は、
    前記第一の場合で、且つ、前記送信制御手段による前記映像データの送信が中断されていない場合、前記報知情報を前記報知部から出力し、
    前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記送信制御手段による前記映像データの送信が中断されている場合、前記撮影画像が表示されていることを示す前記画像表示設定に関わらず、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項7の何れか1項に記載のプログラム。
  9. 前記コンピュータを、前記遠隔会議において予め設定される、前記遠隔会議で実行可能な機能の度合いを示す権限に関し前記通信端末装置に対して設定された権限情報を取得する第五取得手段として機能させ、
    前記出力制御手段は、
    前記第一の場合で、且つ、前記第五取得手段により取得された前記権限情報が第六閾値より高い場合、前記報知情報を前記報知部から出力し、
    前記第一の場合で、且つ、前記第五取得手段により取得された前記権限情報が前記第六閾値より低い場合、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項8の何れか1項に記載のプログラム。
  10. 前記コンピュータを、
    前記通信端末装置の集音部で集音された音に対応したデータのボリュームを検出する検出手段として機能させ、
    前記出力制御手段は、
    前記第一の場合で、且つ、前記検出手段により検出された前記ボリュームが第七閾値より高い場合、前記報知情報を前記報知部から出力し、
    前記第一の場合で、且つ、前記検出手段により検出された前記ボリュームが前記第七閾値より低い場合、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項9の何れか1項に記載のプログラム。
  11. 前記出力制御手段は、前記報知部からの前記報知情報の出力を所定のタイミングで停止する機能を含み、
    前記コンピュータを、前記報知部から出力された前記報知情報の報知回数をカウントするカウント手段として機能させ、
    前記出力制御手段は、
    前記第一の場合で、且つ、前記カウント手段によりカウントされた前記報知回数が第八閾値より小さい場合、前記報知情報を前記報知部から出力し、
    前記第一の場合で、且つ、前記カウント手段によりカウントされた前記報知回数が前記第八閾値より大きい場合、前記報知情報を前記報知部から出力しない、機能を含む、請求項1から請求項10の何れか1項に記載のプログラム。
  12. ネットワークを介した遠隔会議に用いられる通信端末装置であって、
    前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信制御手段と、
    前記撮影画像の状態を判断する判断手段と、
    前記送信制御手段による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する第一取得手段と、
    前記判断手段で前記撮影画像が第一状態であると判断され、且つ、前記第一取得手段により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断手段で前記撮影画像が第二状態であると判断され、又は、前記第一取得手段により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力制御手段と、を備える通信端末装置。
  13. ネットワークを介した遠隔会議に用いられる通信端末装置で実行される遠隔会議方法であって、
    前記通信端末装置の撮影部で撮影された撮影画像に対応した映像データを、前記ネットワークに接続された前記通信端末装置の通信部から前記遠隔会議の相手方となる相手方装置に送信する送信工程と、
    前記撮影画像の状態を判断する判断工程と、
    前記送信工程による前記映像データの送信に応じて、前記相手方装置において前記撮影画像が表示されているか否かを示す画像表示設定を取得する取得工程と、
    前記判断工程で前記撮影画像が第一状態であると判断され、且つ、前記取得工程により前記撮影画像が表示されていることを示す前記画像表示設定が取得された第一の場合、所定の報知情報を前記通信端末装置の報知部から出力し、前記判断工程で前記撮影画像が第二状態であると判断され、又は、前記取得工程により前記撮影画像が表示されていないことを示す前記画像表示設定が取得された第二の場合、前記報知情報を前記報知部から出力しない出力工程と、を含む遠隔会議方法。
JP2013247159A 2013-11-29 2013-11-29 プログラム、通信端末装置及び遠隔会議方法 Pending JP2015106779A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013247159A JP2015106779A (ja) 2013-11-29 2013-11-29 プログラム、通信端末装置及び遠隔会議方法
US14/555,761 US9420012B2 (en) 2013-11-29 2014-11-28 Computer readable recording medium, communication terminal device and teleconferencing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013247159A JP2015106779A (ja) 2013-11-29 2013-11-29 プログラム、通信端末装置及び遠隔会議方法

Publications (1)

Publication Number Publication Date
JP2015106779A true JP2015106779A (ja) 2015-06-08

Family

ID=53266394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013247159A Pending JP2015106779A (ja) 2013-11-29 2013-11-29 プログラム、通信端末装置及び遠隔会議方法

Country Status (2)

Country Link
US (1) US9420012B2 (ja)
JP (1) JP2015106779A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108428027B (zh) * 2017-02-14 2022-04-19 钉钉控股(开曼)有限公司 事件处理方法及装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2081041C (en) * 1992-01-03 1996-08-06 Robert Louis Beecher Camera field of view indicator
JP2947113B2 (ja) 1995-03-09 1999-09-13 日本電気株式会社 画像通信端末用ユーザインタフェース装置
US7148917B2 (en) * 2001-02-01 2006-12-12 Motorola Inc. Method and apparatus for indicating a location of a person with respect to a video capturing volume of a camera
US7379968B2 (en) * 2004-06-03 2008-05-27 International Business Machines Corporation Multiple moderation for networked conferences
JP2009081530A (ja) 2007-09-25 2009-04-16 Fujifilm Corp 撮像装置、及び撮影方法
US8405706B2 (en) * 2008-12-17 2013-03-26 Microsoft Corporation Visual feedback for natural head positioning
US9325935B2 (en) * 2011-06-20 2016-04-26 Cisco Technology, Inc. Preview window for video communications
US9270822B2 (en) * 2012-08-14 2016-02-23 Avaya Inc. Protecting privacy of a customer and an agent using face recognition in a video contact center environment
US20140359476A1 (en) * 2013-05-30 2014-12-04 Kabam, Inc. System and method for forwarding external notifications of events in a virtual space from a presentation control device to a user device
US9319567B2 (en) * 2013-08-16 2016-04-19 Cisco Technology, Inc. Video feedback of presenter image for optimizing participant image alignment in a videoconference
US9071692B2 (en) * 2013-09-25 2015-06-30 Dell Products L.P. Systems and methods for managing teleconference participant mute state

Also Published As

Publication number Publication date
US9420012B2 (en) 2016-08-16
US20150156454A1 (en) 2015-06-04

Similar Documents

Publication Publication Date Title
JP7379907B2 (ja) 情報処理装置、情報処理プログラム、情報処理システム、情報処理方法
JP6143975B1 (ja) 画像の取り込みを支援するためにハプティックフィードバックを提供するためのシステムおよび方法
US10242168B2 (en) Methods and apparatuses for controlling smart device
WO2018113405A1 (zh) 基于视频流的直播交互方法及其相应的装置
JP6445173B2 (ja) デバイスの制御方法及び装置
US9247204B1 (en) Automatic mute control for video conferencing
US9348412B2 (en) Method and apparatus for operating notification function in user device
US20170060599A1 (en) Method and apparatus for awakening electronic device
WO2017028448A1 (zh) 显示设备的控制方法、装置及智能垫体
WO2017050169A1 (zh) 网络通话方法、装置、终端和服务器
WO2016008244A1 (zh) 健康数据显示方法及装置
WO2018000711A1 (zh) 输出图像的方法及装置
JP6456286B2 (ja) ビデオ会議中の参加者の映像ミュートを可能にするための方法および装置
JP2019083050A (ja) コンピュータユーザの行動データ収集プロセスのための品質分析の方法
EP3024211A1 (en) Method and device for announcing voice call
US20150009282A1 (en) Obscuring a Camera Lens to Terminate Video Output
KR20180113503A (ko) 정보 처리 장치, 정보 처리 방법 및 프로그램
CN109032554B (zh) 一种音频处理方法和电子设备
US9300914B2 (en) Computer readable recording medium and terminal apparatus
JP2015126457A (ja) サーバ装置のプログラム、サーバ装置及び遠隔会議方法
JP2015126456A (ja) 通信端末装置のプログラム、通信端末装置、サーバ装置のプログラム、サーバ装置及び遠隔会議システム
CN111158576A (zh) 基于直播场景的社交关系建立方法、装置及存储介质
US20210020200A1 (en) Method and apparatus for obtaining audio-visual information, device, and storage medium
JP2015106779A (ja) プログラム、通信端末装置及び遠隔会議方法
JP2013197766A (ja) 遠隔会議システム、会議支援装置、および会議支援方法