JP2013242357A - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP2013242357A
JP2013242357A JP2012114101A JP2012114101A JP2013242357A JP 2013242357 A JP2013242357 A JP 2013242357A JP 2012114101 A JP2012114101 A JP 2012114101A JP 2012114101 A JP2012114101 A JP 2012114101A JP 2013242357 A JP2013242357 A JP 2013242357A
Authority
JP
Japan
Prior art keywords
output
information processing
screen
audio
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012114101A
Other languages
English (en)
Inventor
Go Shigemasa
剛 重政
Kiyoshi Kasatani
潔 笠谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012114101A priority Critical patent/JP2013242357A/ja
Priority to US13/893,602 priority patent/US9215380B2/en
Publication of JP2013242357A publication Critical patent/JP2013242357A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/152Multipoint control units therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】外部接続された映像装置やオーディオ装置の出力環境を自動的に制御する、情報処理装置、情報処理方法、およびプログラムを提供すること。
【解決手段】 本発明の情報処理装置101は、外部出力装置115,117の出力環境を設定するための出力制御情報を格納する記憶部113aと、前記外部出力装置の出力環境を示す情報を取得する検知部107,109と、前記検知部が取得した出力環境を、前記記憶部113aの出力制御情報を参照して決定する制御部113と、前記制御部が決定した出力環境に従って前記外部出力装置115,117を動作させる制御手段とを備えており、外部出力装置の種類に柔軟に対応する出力を行っている。
【選択図】図1

Description

本発明は、外付けの出力制御装置の出力環境を制御する技術に関し、より詳細には、外部接続された映像装置やオーディオ装置の出力環境を自動的に制御する、情報処理装置、情報処理方法、およびプログラムに関する。
これまでモニタ装置に映像を再生出力する場合には、ユーザが、例えばプロジェクタやモニタ装置といった画像出力デバイスに適合するように、解像度を設定し、モニタ装置に出力していた。また、モニタ装置によっては、ユーザが設定することなく、画像出力デバイスに対応した解像度を自動設定し、画像を出力するモニタ装置も知られている。
しかしながら、従来のように、ユーザが画像出力の解像度を指定するのでは、映像や音声を出力する出力デバイスの能力を十分に発揮させているといえない場合も考えられる。また、自動的に解像度を決定するシステムであっても、出力デバイスの解像度によっては映像が小さくなりすぎて見づらくなってしまうことがあった。さらに、テレビ会議、音声多重放送、地上波デジタル放送などにおいて単一のモニタ画面上に複数のソースからの画像を、モニタ画面を分割して表示させる場合がある。このような場合、モニタ画面の分割に対応して解像度を調整しない場合には、モニタ画面上に表示される画像が、良好に表示されない場合も発生することが想定される。
また、例えば、HDMIといったAVデータ再生プロトコルに対応する音声出力つきモニタ装置を使用する場合、スピーカおよびマイクの相対位置が変わることでハウリングなどが発生してしまうなどの問題も考えられる。従来から、上述した問題点を改善する検討がなされてきており、例えば、特開2008−61220号公報(特許文献1)には、数百人が参加する電話会議システムにおいて、互いに通信して会議を構成する複数のノードを含み、各ノードは、ディスプレイレイアウトを有するビデオディスプレイを有しており、複数のノードの少なくとも1つは、各ノードに固有であり得る特定のフォーマットで、会議の各ノードのディスプレイレイアウトを、少なくとも部分的に個々に制御する点を記載している。
特許文献1に記載された技術は、電話会議システムでビデオディスプレイ上に表示される映像のディスプレイレイアウトを各ノードに固有のフォーマットで制御するものである。しかしながら、特許文献1に記載された技術は、モニタ装置の能力を自動的に最適化しながら複数のディスプレイ領域にそれぞれ他のノードからの動画像または映像を適切に表示させることを課題とするものではない。また、特許文献1は、モニタ画面上の複数の領域それぞれにおいて独立したノードから送付される映像をユーザの視覚や聴覚に負担を掛けないように出力することを解決するものではない。
本発明は、上記従来技術の問題点に鑑みてなされたものであり、出力デバイスの能力を十分に発揮し、なおかつ、ユーザの視覚や聴覚に負担を掛けないように出力することを可能とする、情報処理装置、情報処理方法、およびプログラムを提供することを目的とする。
本発明では、映像装置については、映像装置の解像度の大小によって、各サイトを表示する映像の位置や大きさを指定する画面レイアウトを変化させることにより、解像度が小さくなっても見づらくなったり、解像度が大きい場合に過剰に映像が大きくなったりすることによる画像上の不都合の発生を自動的に防止するとともに、画像解像度や画面のレイアウト変化に応答して映像再生のためのネットワーク帯域幅の最小値を制御する。
また、本発明では、オーディオ装置の入出力レベルを記憶しておき、検出されたオーディオ装置の出力環境に対応するオーディオ出力レベルを自動設定できるので、ビジュアル信号およびオーディオ信号を含んで生成されたオーディオ・ビジュアル信号(以下、AV信号として参照する。)の再生出力を、外部入出力装置の能力を十分に発揮し、なおかつ、ユーザの視覚や聴覚に負担を掛けないように出力することができ、外部マイクやスピーカとの間のハウリングなどの干渉環境の発生を回避することができる。
すなわち、本発明によれば、
外部出力装置の出力環境を設定するための出力制御情報を格納する記憶手段と、
前記外部出力装置の出力環境を示す情報を取得する検知手段と、
前記検知手段が取得した出力環境を、前記記憶手段の出力制御情報を参照して決定する制御手段と、
前記制御手段が決定した出力環境に従って前記外部出力装置を動作させる制御手段と
を備える、情報処理装置が提供できる。
前記外部出力装置は、映像装置であり、前記出力制御情報は、前記映像装置の解像度を制御するための画面レイアウト情報を含むことができる。前記出力制御情報は、前記映像装置の解像度に対応したグラフィカル・ユーザ・インタフェースのためのオブジェクト情報を含むことができる。
また、前記外部出力装置は、オーディオ装置であり、前記出力制御情報は、検出された前記オーディオ装置を動作させるためのオーディオ制御情報を含むことができ、前記情報処理装置は、単一の画面を複数の画面に分割して単一の画面上に統合して表示することができる。
さらに本発明は、上記情報処理装置が実行する情報処理方法およびプログラムを提供することができる。
本発明によれば、出力デバイスに柔軟な対応を可能としながら、その能力を十分に発揮させ、さらにユーザの視覚や聴覚に負担を掛けないように出力することを可能とする、情報処理装置、情報処理方法、およびプログラムを提供することができる。
本実施形態の情報処理システム100の1実施形態であるテレビ会議システムの機能ブロック図 本実施形態の画面制御方法の概略的なフローチャート 画面解像度を制御するために、出力制御情報としてシステム制御部113が管理する解像度変換可否テーブル300の実施形態を示す 本実施形態に従い、解像度変換を行う場合に、主画像および従画像といった具合に外付けモニタ装置の表示画面を適切に割り振って表示させるために使用する出力制御情報の実装形態である表示変換テーブル400の実施形態 本実施形態において出力制御情報を構成し、画面のレイアウト、UI部品、グラフィックス・フォーマットの関係を、会議が4つの遠隔サイト間で行われるものとして具体的に例示したレイアウト定義手段であるレイアウト定義テーブル500の実施形態を示す 本実施形態のオーディオ・データの変換処理を示すフローチャート。 図6の処理で参照するオーディオ制御情報の実施形態であるオーディオテーブルを示す図。 本実施形態に従って外付けの第2モニタ装置115の画面上に表示される会議画像の実施形態800を示す図。 本実施形態で、図5にレイアウト3を使用する場合の1実施形態の画面900の実施形態を示す図。 本実施形態の情報処理装置101の具体的な実装形態であるテレビ会議端末1000を示す図。 本実施形態のテレビ会議システム1100の概略図
以下、本発明について実施形態をもって説明するが、本発明は、後述する実施形態に限定されるものではない。図1は、本実施形態の情報処理システム100の1実施形態であるテレビ会議システムの機能ブロック図を示す。情報処理システム100は、テレビ会議への参加者サイトに設置される情報処理装置101と、情報処理装置101から送付された各種データを処理して、他の参加者のサイトに設置された、他の情報処理装置119に転送するためのサーバ118とを含んでいる。
情報処理装置101をさらに詳細に説明すると、情報処理装置101は、各種の外部入出力装置の動作を制御しており、RGBインタフェース102と、HDMIインタフェース103と、USBコントローラ104とを入出力制御部として含んでいる。説明する実施形態では、RGBインタフェース102は、情報処理装置101がデフォルトで実装し、図1中、第1モニタ装置114として示されるLCDディスプレイを駆動させるために使用される。また、HDMIインタフェース103は、テレビ会議の内容を特定のサイトに居る全出席者に共有させるために外部接続される大型モニタとして実装される第2モニタ装置115を駆動するために用意されている。なお、他の実施形態では、RGBインタフェース102,HDMIインタフェース103ではなく、XGA、SXGAなどのフォーマットのためにインタフェースを追加的にまたは代替的に実装することもできる。
USBコントローラ104は、マイク116、スピーカ117などに対してデータ送受信を行っている。マイク116は、特定のサイトにおける参加者の音声を収集し、サーバ118を介して他のサイトの情報処理装置119に転送することを可能としている。また、スピーカ117は、この逆に他のサイトにおいて収集された音声データをサーバ118から受領して情報処理装置101が設置されているサイトにおいて音声データを共有させている。なお、マイク116、スピーカ117は、情報処理装置101に一体として実装された内蔵スピーカや内装マイクとは別に、外付けデバイスとして実装さるものとして説明する。
ネットワークコントローラ105は、情報処理装置101と、サーバ118および他のサイトの情報処理装置119との間のデータ通信を行っており、イーサネット(登録商標)やIEEE802.11の通信プロトコルを使用し、例えばTCP/IPやUDP/IPといったネットワーク・プロトコルに従った通信を可能とする。
さらに、情報処理装置101は、外部モニタ検知・制御部107と、リソース監視部108と、外部オーディオ接続検知部109とを備えている。外部モニタ検知・制御部107は、例えば第2モニタ装置115といった外付けモニタが接続されているか否かを例えばプラグインアンドプレイプロトコルに基づいて検出し、本実施形態に関連して画像出力の制御を可能とする。また、リソース監視部108は、システム制御部113などの制御を可能とするCPUの使用量を監視するとともに、メモリの使用量を監視して、情報処理装置101がリソースの容量不足に起因するシステム・ダウンやアプリケーションの動作不良などを生じないように制御している。
外部オーディオ接続検知部109は、スピーカ117などに関し、外部接続されたスピーカが存在するか否かを検出し、本実施形態に従い、オーディオ出力の制御を可能としている。また、情報処理装置101は、画面解像度制御部110と、オーディオ制御部111と、画面制御部112と、システム制御部113とを含んでいる。
画面解像度制御部110は、外部モニタ検知・制御部107の検出結果を受領して、外部モニタの解像度情報を判断し、システム制御部113に送付する。システム制御部113は、受領した外部モニタの解像度情報を使用して本実施形態に従って外部モニタに出力するべき画像情報を生成して、その結果を画面制御部112に送付する。画面制御部112は、受領した画像情報を画面解像度制御部110に送付する。外部モニタ検知・制御部107は、画面解像度制御部110からの指令に対応してOS106を介してRGBインタフェース102またはHDMIインタフェース103を駆動させて、対応する第1モニタ装置114または第2モニタ装置115を駆動させる。本実施形態における画面制御方式は、外部接続されるモニタ装置の画面解像度にかかわらず、サイト毎に異なる画面サイズで映像再生した場合にでも端部切れや過度の縮小表示を与えること無く、特定のサイトにおいて好適な表示を提供することを可能とする。
なお、本実施形態における用語、「モニタ装置」とは、LDCディスプレイ、有機ELディスプレイ、プラズマディスプレイといった画面上に直接グラフィックスを表示させる装置の他、画面上に形成するべきグラフィックスを投影して表示させるビデオプロジェクタや液晶プロジェクタといったデジタル画像データをRGB色空間で表示させることができる映像装置を意味する。
また、外部オーディオ接続検知部109は、外部スピーカやマイクが接続されたことを検知すると、その性能・製品名などを取得し、オーディオ制御部111にデバイス名を渡すオーディオ制御部111は、受領した性能・製品名などをシステム制御部113に渡す。システム制御部113は、取得したデバイス名を使用して外部接続されたスピーカなどのオーディオ装置の入出力レベルを決定し、決定した入出力レベルをオーディオ制御部111に通知する。
なお、オーディオ制御部111は、決定された入出力レベルを受け取って出力レベルを制御し、OS106およびUSBコントローラ104を介してマイク116やスピーカ117などのオーディオ機器の入出力レベルを制御している。
情報処理装置101は、画面解像度の制御およびオーディオ環境の制御を行うために、例えばNVRAM、EEPROM、EPROM、フラッシュメモリなどの不揮発性メモリといった出力制御情報記憶部113aに出力制御情報を格納している。システム制御部113は、外部接続された出力装置が認識されると、出力制御情報を参照して、画面解像度制御部110やオーディオ制御部111を制御して目的とするグラフィックス環境およびオーディオ環境での出力を可能とさせている。
なお、システム制御部113は、これまで知られたPENTIUM(登録商標)、XEON(登録商標)、ATHRON(登録商標)、POWER PC(登録商標)系列のプロセッサを使用でき、プロセッサの構成は、シングルコアまたはマルチコアを問わない。また、OS106としては、UNIX(登録商標)、LINIX(登録商標)、WINDOWS(登録商標)シリーズ、MAC OS(登録商標)など適切なOSを選択して搭載することができる。
本実施形態のオーディオ制御方式によれば、情報共有のために外部接続されたオーディオ機器がサイト毎に異なっていても、適切なレベルのオーディオ再生が可能となる。
図2は、本実施形態の画面制御方法の概略的なフローチャートを示す。図2の処理は、ステップS200から開始し、ステップS201で、外部モニタ検知・制御部107が外部モニタ装置の接続を検知する。なお、検知しない場合、情報処理装置101が搭載するデフォルト・デバイスの設定を使用して以後の処理を実行する。
ステップS202では、外部モニタ検知・制御部107が検出した外部モニタ装置の解像度および製品名を受領した画面解像度制御部110は、当該情報をシステム制御部113に当該情報を通知する。その後、画面解像度制御部110は、システム制御部113から適用する画面解像度および画面構成情報を取得し、ステップS203で受領した画面解像度および画面構成情報(以下UI部品として参照する。)を使用して画面縮尺を変更し、それに対応してUI部品の配置を設定する。
さらに、ステップS203では、外部モニタ検知・制御部107は、画面解像度制御部110から画面縮尺およびUI部品の配置情報を取得する。ステップS204で、取得した各情報を使用して例えば第2モニタ装置115といった外部接続されたモニタ装置に取得した縮尺およびUI部品配置の画面レイアウトで遠隔的に話された複数のサイトで開催されている会議画像を変更する。それに対応して、ステップS205では、ネットワーク帯域幅を最適化するように修正し、適切な動画像を表示させ、ステップS206で処理を終了させる。
図2の処理によって、複数のサイト間で開催されている会議の画像を表示するべきサイトの数および外部接続されるモニタ装置の性能に関わらず、適切な動画像表示を提供することが可能となる。
図3は、画面解像度を制御するために、出力制御情報としてシステム制御部113が管理する解像度変換可否テーブル300の実施形態を示す。解像度変換可否テーブル300には、検出可能なモニタ装置のグラフィックス解像度対応づけて変換を許可するか否かを示す変換可能フラグが対応付づけられた構成とされている。例えば外付けモニタ装置が、VGA(640×400)の解像度しかサポートしていない場合、それ以外に変換できないので、変換可能フラグとして「×」が設定されている。また、FHD(フルHD)フォーマットの場合は、図3に示した実施形態では変換不可として示しているが、情報処理装置101側で例えば高機能のグラフィック・プロセッサを別途搭載することが可能な場合には、変換可能フラグとして「○」を設定することができる。
一方、図3でSXGA、XGA、UWVGA、SVGAなどのフォーマットについては、説明する実施形態の情報処理装置101は、デフォルト設定で下位互換可能である。例えば、UWVGA(1024×480)フォーマットを、SVGA(800×600)フォーマットの画像に変換して表示させることが可能であることを示している。さらに一般的には、グラフィック機能がサポートすることができる範囲で、下位互換性のあるグラフィックス・フォーマットについては本実施形態により変換可能である。
図3の解像度変換可否テーブル300に従って解像度変換を行うに際して本実施形態のように単一の画面を複数の従画面に分割して、複数の画像を表示させる場合には、そのままのUI部品を使用して画像を生成しただけでは、端部切れや画像はみ出しなどが発生し、良好な画像を再生することができない。また、グラフィックス・フォーマットの変換に対応して、画像をストリーミング再生するためのバッファリング速度、すなわちネットワーク帯域幅を変化させることが必要になる。
図4は、本実施形態に従い、解像度変換を行う場合に、主画像および従画像といった具合に外付けモニタ装置の表示画面を適切に割り振って表示させるために使用する出力制御情報の実装形態である表示変換テーブル400の実施形態である。表示変換テーブル400には、解像度、UI部品、レイアウト、およびそれに対応する帯域幅がそれぞれカラムを形成し、レコードとして各解像度のために使用する設定条件が登録されている。
例えば、変換後の解像度がSVGA(800×600)の場合には、UI部品として使用する各種属性値を登録するUIセット、その場合に外部接続されたモニタ装置の表示領域を、主画面および従画面に対してどのように割り当てるかを設定するレイアウト設定である画面レイアウト識別値、および最低保障するべきネットワーク帯域幅が512kbpsであることが規定されている。
なお、本実施形態においてUI部品としては、例えば、文字フォント、利用されるGUIのボタン、スクロールバー、リストボックス、テキストフィールド、グラフィックウィンドウ、スライダ、コンボボックスなどグラフィカル・ユーザ・インタフェースを構成するオブジェクト属性を意味する。また、本実施形態で用語「レイアウト」とは、テレビ会議のため多地点接続が行われる際に、単一のサイトのモニタ装置上に表示させるべき画面数をどのような配置で表示させるかについての割当て情報を意味する。
さらに、本実施形態で、用語「帯域」とは、ネットワーク帯域のことを意味する。ネットワーク帯域は、テレビ会議を行う上で、映像、音声などについてネットワークを介して送信する場合のデータ・レート(kbps)のことを意味する。
表示させる画面数は、会議に参加しているサイト全部の画像を均等のサイズで表示させることもできるし、注目度の高いサイトを大面積の主画面とし、その他のサイトの画像を面先の小さな従画像として表示させることもできる。さらに他の実施形態では、ユーザ指令またはユーザ操作に対応して注目度の高いサイトの画像を全画面に表示させる態様を採用することもできる。
さらに図4を使用して説明すると、VGA(800×600)のグラフィックス・フォーマットの場合UI部品は、レコード402として対応づけられており、UI1、レイアウト1、および帯域として512kbpsを使用するべきことが規定されている。また、WSVGA(1024×600)のグラフィックス・フォーマットの場合、レコード403に示すように、UI部品としてUI2が使用され、画面のレイアウトとしてレイアウト2が使用され、帯域としては832kbpsが使用されるべきであることが指定されている。
一方、XGA(1024×768)のグラフィクス・フォーマットに変換する場合には、レコード404に示されるように、UI部品としてはUI3で参照されるセットを使用し、レイアウト2を使用することが指定されている。これは、XGAとWSVGAとの間のグラフィックス・フォーマットが、縦方向にUIオブジェクトのセットを修正するだけでも十分に対応することができるためである。この点で、SXGA(1280×1024)のグラフィックス・フォーマットの場合には、レコード405に示されるように、これとは異なるUI部品のセットであるUI4が使用され、また新たにレイアウト3の画面レイアウトが指定され、帯域も1024kbpsが設定されている。
本実施形態では、画面解像度変換に対応して画像を表示するべき領域のサイズが変化することになるが、これらの変化を明確に認識させないように、特に上下にメニューバーや、タスクバーなどを配置することで、表示の不連続性を認識させないようにUI部品を構成する。
図5は、本実施形態において出力制御情報を構成し、画面のレイアウト、UI部品、グラフィックス・フォーマットの関係を、会議が4つの遠隔サイト間で行われるものとして具体的に例示したレイアウト定義手段であるレイアウト定義テーブル500の実施形態を示す。図5のレイアウト定義テーブル500は、システム制御部113が管理しており、適切な不揮発性メモリ113aなどに格納したファームウェアなどとして情報処理装置101に実装することができる。
例えばカラム501に規定されるレイアウト1は、カラム502の画面分割属性で規定されるように、1つの主画面と3つのサブ画面に分割されるべきことが指定されている。またその際の画面アロケーション属性がカラム503において、各画面の基準座標と、XYドットオフセットと言ったフォーマットとして、セット1〜セット4まで定義されている。画面アロケーションの方法は、説明する以外にも相対オフセットで定義するのではなく、画面上の絶対値で割り当てることもでき、特定の用途おおよび実装方式に依存して適宜設定することができる。なお、レイアウト1において、従画面について基準座標の値を除き同一の画面属性を割り当てることも可能であり、この場合、セット2=セット3=セット4として同一の値を使用してもよい。
そして、レイアウト1で、画面解像度がSVGAであると指定されている場合には、UI部品としてUI
1が使用されるべきことが、カラム504に指定されている。これらが、レイアウト1で、グラフィックス・フォーマットがSVGAである場合にレコード505として対応づけて登録されている。
一方、レイアウト2について言うと、画面構成は、レイアウト1とは異なり、4つのサイト全部をモニタ装置上に均等に割り当てる実施形態である。このとき、変換されるべきグラフィックス・フォーマットは、説明する実施形態ではWSVGAでUI 2、XGAでUI 3とすべきことが指定されている。レイアウト2でUI 2またはUI 3が使用できる理由は、図4で説明した通り、WSVGAおよびXGAでは、UI部品の設定を変更するだけで違和感のない画像を形成できるためである。また、このときカラム503の画面アロケーション属性は、セット5、従画面についてセット6〜7を割り当てており、説明する実施形態では、単一のサイトの画像の基準座標が異なるだけで、XYドットオフセットに関しては同一の値が登録されている。
また、図5に示した実施形態では、レイアウト3は、注目度の高いサイトの画像だけを全画面に表示させる場合の実施形態を例示したものである。この場合、主画面だけが割り当てられており、その画面アロケーションはセット9として変換対象のモニタ装置に適合するように設定される。その際のUI部品としては、UI 4を使用するべきことがレコード507に指定されている。当該UI 4は、結局のところ、外部モニタ装置のデフォルト解像度に対応することになる。レイアウト3は、レイアウト1の従画面をユーザが選択することによりレイアウト1から遷移することもできるし、有意義なオーディオ・データを現在転送しているサイトに自動フォーカスすることで、レイアウト1やレイアウト2から遷移させることができる。
なお、本実施形態では、この他、各サイトに関してそれぞれ異なる画面サイズで表示するレイアウトも用意することができる。つまり、どのようなレイアウトで、各サイトを表示させるかに関しては、モニタ装置の画面を実際に見るサイトの参加者またはユーザが適宜設定することができる。また、同一のサイトで表示するべき他のサイトの数についても適宜設定し、その表示形態も適宜設定することができる。
以下、さらに本実施形態におけるオーディオ・データの変換処理について説明する。本実施形態のオーディオ・データの変換は、外付けされたスピーカの出力レベルに適合するように出力レベルをチューニングすることが主な処理である。オーディオ・データの変換処理に関し、図6を使用して説明すると、処理はステップS600から開始し、ステップS601で、外部オーディオ装置が接続されていることを検出する。なお、外部オーディオ装置が接続されていない場合には、情報処理装置101のデフォルト設定のスピーカやマイクのための設定を自動選択する。昨今の携行性の高い情報処理装置では、外部オーディオ装置としてマイクスピーカのように一体となるものが増えている。さらに、外部モニターにもスピーカが付属されているものも増えている。そこで、外部オーディオ装置の設定を適切に行わなければ、マイクとスピーカの干渉が生じたり、適切な音量で入力や出力が行えず、不具合が生じることが多々ある。
ステップS602では、システム制御部113は、オーディオ制御部111から検出されたUSB.orgの設定するクラス識別値(クラスID)および製品名などの識別値を受領する。クラスIDが、01hである場合には、オーディオ・デバイスがUSBに接続されていることが指定されるので、後述するルックアップテーブルを参照して検知された外部オーディオ装置の出力レベルに適合するように、ノイズキャンセラ、エコーキャンセラ、AGC、マイクブーストなどのパラメータを設定して、オーディオ制御部111に渡す。クラスIDは、01h以外の場合には、例えばストレージ装置などが接続されているので、図6の処理を停止させる。
その後、ステップS603でソフトウェア・アンプのパラメータを変更して音量パラメータなどのダイナミックレンジを調整し、オーディオ装置のパラメータを設定し、設定値をオーディオ制御部111に渡す。オーディオ制御部111は、OS106およびUSBコントローラ104を介して外部接続されたマイクやスピーカに対して制御信号を送付し、外付けオーディオ装置に対応する適切なオーディオ再生を可能とさせている。その後図6の処理は、ステップS604で終了し、処理を後続する制御プロセスに渡す。
図7は、図6の処理で参照するオーディオ制御情報の実施形態であるオーディオテーブル700の一例を示す。図7のオーディオテーブル700には、製品名「XX」、「ZZ」などに対応して各種のパラメータがレコード702〜705として登録されている。システム制御部113は、図7に示すオーディオテーブル700を使用して外部オーディオ接続検知部109の検出した値から出力するべきオーディオ。パラメータを決定する。なお、各パラメータを定義すると、入力レベルは、マイクからの入力される感度のアテニュエーション・ファクタを示し、出力レベルは、スピーカから出力される音声の大きさのアテニュエーション・ファクタを示す。
また、ノイズキャンセラとは、スピーカから出力される際のノイズを除去する機能をオン・オフする機能を意味し、エコーキャンセラとは、マイクおよびスピーカのハードウェア的な干渉から生ずるエコーを除去する機能を意味する。さらに、AGCは、スピーカの出力を安定させるために用いるフィードバック機能のオン・オフ制御を設定する機能を提供し、マイクブーストは、マイクから入力される音量のアンプ機能を設定する。
以上の設定を行った後、システム制御部113は、オーディオ制御部111に対してオーディオ・データを送付する。そして、オーディオ制御部111は、オーディオ・データを設定に従って変調し、OS106およびUSBコントローラ104を介して、説明する実施形態では外付けスピーカ117からオーディオ・データに対応するアナログ信号を生成させている。
図8は、本実施形態に従って外付けされた第2モニタ装置115の画面上に表示される会議画像の実施形態800を示す。会議画像801が図5のレイアウト1に対応し、会議画像802がレイアウト2に対応する。会議画像801のレイアウト1が表示されるのは、外付けモニタ装置の画面解像度が、例えば、VGA、XGAなど比較的低い場合に、注目度の高いサイトの画像を鮮明に表示させるために利用することが好ましい態様の場合を挙げることができる。また、会議画像802のレイアウト2は、外付けモニタ装置に解像度が十分に高く、均等割付画面でも十分に鮮明な画像を表示できる場合のデフォルト設定として使用することができる。
しかしながら、図8に示すように、システムが注目度の高いと判断したサイトまたはユーザがフォーカスをあてたサイトがある場合に、レイアウト2の会議画像802からレイアウト1の会議画像801に画面遷移し、注目度の高い画面801aとして大画面表示させることができる。この場合、残りのその他のサイトの画像801b〜801dが従画面として表示させることができる。なお、会議画像801の主画面・従画面の設定は、上述したようにシステム制御部113またはユーザ選択によって任意に変更可能とすることができる。
また、画面の上側および下側には、画面解像度の変更に伴い非表示のままに残される領域801e,f及び802eが形成されており、本実施形態では、分割された画像を可能な限り一体的に認識させるように、図5の画面アロケーション属性を設定する。
図9は、本実施形態で、図5にレイアウト3を使用する場合の1実施形態の画面900の実施形態を示す。図9に示した実施形態は、外付けモニタ装置の全画面を使用して各種設定を行う場合に、メニュー画面表示のためにレイアウト3を使用する実施形態である。画面901が低解像度(WSVGA)の場合の実施形態を示し、画面911が、それよりも高解像度(XGA)の場合の実施形態を示すものであり、画面全体に関し、それぞれ略同一のサイズとして示している。図9に示す実施形態では、図4で説明したUI部品を変更するだけで対応できる解像度変更であり、その分だけ画面901および画面911の端部のマージンの調整により、画像に対する違和感を解消させている。画面901では、下側マージン902を設定し、そのマージンを効果的に利用して各種の表示などを行うようにしてUI部品を構成する。
また、画面910についても略同様の構成を採用するが、縦方向の解像度変更に対応して、下側マージン912の幅が修正され、また、レイアウト枠914の幅をわずかに画面901のレイアウト枠904よりも太く(広く)することで、違和感のない画像を生成させている。なお、図9の実施形態では下側マージン902,912を有効利用する目的で、サンプル画像903,913を表示させるグラフィックス・ボックスが提供されている。なお、UI部品としては図9に示すオブジェクトの他、特定の用途に応じて適宜選択し、設定することができる。
図10は、本実施形態の情報処理装置101の具体的な実装形態であるテレビ会議端末1000を示す。テレビ会議端末1000は、イーサネット(登録商標)またはWi−Fiといった適切なネットワーク基盤を介して遠隔設置されたサーバ118(不図示)に対してAVデータを送付し、遠隔地にいる他の参加者との間でコミュニケーションを確立することを可能としている。
より詳細にテレビ会議端末1000の構成を説明すると、テレビ会議端末1000は、図1に示した各種機能部を収容するプラットホーム部1002に対して各種の情報を参加者に提示する機能を備える情報表示手段としてのLCDパネル部1010とを備えており、プラットホーム部1002と、LCDパネル部1010は、プラットホーム部1002にわずかに厚くなるように形成されたインタフェース部1011の端縁部にヒンジ保持されている。LCDパネル部1010は、プラットホーム部1002側にヒンジを中心として枢軸回転し、LCDパネル部1010がプラットホーム部1002に接するまで矢線Bに沿って移動された場合に、インタフェース部1011とLCDパネル部1010とが段差を無くするようにプラットホーム部1002に一体化する構成とされている。
LCDパネル部1010には、デジタルカメラ1009と、LCDパネル1001と、マイク1003とが備えられている、デジタルカメラ1009は、矢線A方向に回動して、参加者の希望する画像を取得することを可能としている。また、LCDパネル1001は、デジタルカメラ1009の画像確認を行うとともに、参加者の動画データを取得し、マイク1003が記録した音声データと画像とを同期させて、例えば、MP3,MPEG4,HD264などの適切な圧縮フォーマットのAVデータを生成し、ネットワークを介してサーバ118に転送している。
なお、他の実施形態では、テレビ会議端末1000は、動画データと音声データとをエンコードすること無く、RAWデータとしてサーバ118に転送し、サーバ118側で動画データと音声データとを同期させてAVデータを生成し、他の参加者のサイトに転送することで、コミュニケーションを可能とさせる構成を採用することができる。また、LCDパネル部1010には、内蔵のスピーカ1004も備えられていて、単独でも他の参加者が転送したAVデータからデコードされた音声を再生出力することが可能となっている。
当該説明する実施形態では、テレビ会議端末1000におけるエンコード処理などの負担を軽減でき、テレビ会議端末1000といった情報処理装置101の処理負荷をサーバ側に負担させるので、情報処理装置101のコストや重量、可搬性を向上させることが可能となる。
インタフェース部1011には、テレビ会議端末1000といった組込み機器について汎用的に必要とされる入力インタフェース機能が集約されている。インタフェース機能としては、例えば、電源をオン・オフするための電源キー、メニューを表示させるためのメニューキー、カーソル移動キー、決定(Enter機能に相当する)キー、通信切断キーなどが本体制御キー1005として集約して配置されている。また、インタフェース部1011には、カメラ切替えキー、LCD輝度調整キー、ボリューム調整キー、音量ミュートキーなどが機能制御キー1007として集約して配置されている。
さらに、インタフェース部1011には、USBホストコネクタ1006、オーディオ入出力端子1008、HDMIコネクタ1012、RGBインタフェースなどが設けられていて、各種入出力を行うとともにそれらの制御を可能としている。図10に示すように、テレビ会議端末1000は、最小限の入出力機能を備えているが、ネットワーク設定やその他の各種設定を行うには、入力インタフェース機能が十分と言うことはできないので、ユーザは、利用性を改善するために、USBホストコネクタにUSBキーボードやマウスなどを接続したり、外付けのモニタ装置やモニタ装置一体型のオーディオ装置などその入出力性能を改善することができる。なお、図10に示したテレビ会議端末1000には、図示しないイーサネット(登録商標)を接続するためのモジュラージャックが配置されていてもよい。
外付けモニタ装置を接続するために、テレビ会議端末1000には、RGB、DVI、HDMIといった外付けディスプレイを接続するためのインタフェースが提供されており、本実施形態では、参加者のサイトで他のサイトの画像を多人数で共有するための外付け機器を接続してさらに利用性が拡張されている。
外付けモニタ装置を各サイトで用意する場合、全部が同一の製品・型番のものを提供できる可能性を前提とするのは現実的ではない。このため、本実施形態の情報処理装置101が、自らに接続されている外部モニタ装置や外部接続スピーカをプラグインアンドプレイ方式で検出した後、情報処理装置101のシステム制御部113が自動的にグラフィックス環境およびオーディオ環境を設定し、違和感のない、また効率的な会議進行を可能とする制御を行う。
本実施形態では、外部入力機器の接続を前提とし、外部接続機器が接続された条件下でも、組込み機器として機能する情報処理装置101が自動的に出力環境を制御して、円滑な会議設定を可能とすることができる。
図11は、本実施形態のテレビ会議システム1100の概略図である。図11に示したテレビ会議システム1100は、ネットワーク1101を介して複数のテレビ会議端末1103が接続されており、それぞれにRGB、DVI、HDMIなどの規格に準拠した外付けモニタ1104が接続されてその機能が拡張されている。テレビ会議端末1103が取得したデータは、イーサネット(登録商標)やIEEE802.11などの通信プロトコルに従うWi−Fiなどの無線通信を使用してまずサーバ1102に伝送され、適宜AVデータにエンコードされた後、各参加者のテレビ会議端末1103にストリーミング配信などを使用して転送される。
AVデータを受領したテレビ会議端末1103は、それ以前の設定時に本実施形態に従いグラフィックス環境およびオーディオ環境を調整しているので、直ちにAVデータをデコードし、そのLCDパネル1001または外付けのモニタ装置1004にデコード後の画像を表示させ、マイクから音声データを再生出力することで、遠隔した参加者相互のコミュニケーションを可能としている。
図11に示したテレビ会議システムでは、外部入力機器が接続され、テレビ会議端末が設置されたサイトにおける出力環境を考慮することなく、テレビ会議端末1003が出力環境を自動制御するので、テレビ会議システム1100のスムースな導入が可能となり、サーバ1102に対する過度の負荷を生じさせることなく、効率的な運用開始が可能となる。
これまで本発明を実施形態に基づいて説明してきたが、本発明は、テレビ会議端末にのみ適用されるものではなく、スマートホンやタブレット型PCなど、本来的にその携行性が優先される情報処理装置の制限された入力環境を改善するために使用することができ、上述した実施形態に限定されるものではなく、追加、変更、別実施例など当業者により想到される各種の実装形態について、本発明の効果を奏する限り、本発明の範囲に含まれるものである。
100 情報処理システム
101 情報処理装置
102 RGBインタフェース
103 HDMIインタフェース
104 USBコントローラ
105 ネットワークコントローラ
107 外部モニタ検知・制御部
108 リソース監視部
109 外部オーディオ接続検知部
110 画面解像度制御部
111 オーディオ制御部
112 画面制御部
113 システム制御部
113a 出力制御情報記憶部
114 第1モニタ装置
115 第2モニタ装置
116 マイク
117 スピーカ
118 サーバ
119 情報処理装置
300 解像度変換可否テーブル
400 表示変換テーブル
500 レイアウト定義テーブル
700 オーディオテーブル
特開2008−61220号公報

Claims (9)

  1. 外部出力装置の出力環境を設定するための出力制御情報を格納する記憶手段と、
    前記外部出力装置の出力環境を示す情報を取得する検知手段と、
    前記検知手段が取得した出力環境を、前記記憶手段の出力制御情報を参照して決定する制御手段と、
    前記制御手段が決定した出力環境に従って前記外部出力装置を動作させる制御手段と
    を備える、情報処理装置。
  2. 前記外部出力装置は、映像装置であり、前記出力制御情報は、前記映像装置の解像度を制御するための画面レイアウト情報を含む、請求項1に記載の情報処理装置。
  3. 前記出力制御情報は、映像装置の解像度に対応したグラフィカル・ユーザ・インタフェースのためのオブジェクト情報を含む、請求項1または2に記載の情報処理装置。
  4. 前記外部出力装置は、オーディオ装置であり、前記出力制御情報は、検出された前記オーディオ装置を動作させるためのオーディオ制御情報を含む、請求項1〜3いずれか1項に記載の情報処理装置。
  5. 前記情報処理装置は、単一の画面を複数の画面に分割して単一の画面上に統合して表示する、請求項1〜4のいずれか1項に記載の情報処理装置。
  6. 情報処理装置のデフォルト設定以外の出力環境で外部出力装置を動作させるための方法であって、情報処理装置が、
    外部出力装置の出力環境を示す情報を取得するステップと、
    検知手段が取得した出力環境を、前記外部出力装置の出力環境を設定するための出力制御情報を格納する記憶手段を参照して決定するステップと、
    決定した出力環境に従って前記外部出力装置を動作させるステップと
    を実行する情報処理方法。
  7. 前記外部出力装置は、映像装置およびオーディオ装置であり、前記出力制御情報は、前記映像装置の解像度を制御するための画面レイアウト情報および検出された前記オーディオ装置を動作させるためのオーディオ制御情報を含む、請求項6に記載の情報処置方法。
  8. さらに単一の画面を複数の画面に分割して単一の画面上に統合して表示するステップを含む、請求項6または7に記載の情報処理方法。
  9. 情報処理装置を請求項1〜5のいずれか1項に記載の機能手段として機能させるための装置実行可能なプログラム。
JP2012114101A 2012-05-18 2012-05-18 情報処理装置、情報処理方法、およびプログラム Pending JP2013242357A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012114101A JP2013242357A (ja) 2012-05-18 2012-05-18 情報処理装置、情報処理方法、およびプログラム
US13/893,602 US9215380B2 (en) 2012-05-18 2013-05-14 Information processor, information processing method, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012114101A JP2013242357A (ja) 2012-05-18 2012-05-18 情報処理装置、情報処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2013242357A true JP2013242357A (ja) 2013-12-05

Family

ID=49581044

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012114101A Pending JP2013242357A (ja) 2012-05-18 2012-05-18 情報処理装置、情報処理方法、およびプログラム

Country Status (2)

Country Link
US (1) US9215380B2 (ja)
JP (1) JP2013242357A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015119216A1 (ja) * 2014-02-10 2015-08-13 株式会社リコー 情報端末、システム、制御方法及び記憶媒体
US9426417B2 (en) 2013-03-26 2016-08-23 Ricoh Company, Ltd. Image processing device, display terminal, image display system, image processing method, control method of display terminal, control method of image display system, and program thereof
US9430215B2 (en) 2013-03-26 2016-08-30 Ricoh Company, Ltd. Terminal, terminal system, and non-transitory computer-readable medium for updating a terminal using multiple management devices
US9870754B2 (en) 2013-03-13 2018-01-16 Ricoh Company, Ltd. Computer program product, information processing method, and information processing apparatus

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8548417B2 (en) * 2009-08-10 2013-10-01 Freeport Technologies, Inc. Secure control for desktop secure video teleconferencing
JP2014195229A (ja) * 2013-03-29 2014-10-09 Brother Ind Ltd サーバ装置プログラム、サーバ装置及び通信装置プログラム
JP2015090570A (ja) * 2013-11-06 2015-05-11 ソニー株式会社 情報処理装置および制御方法
CN113170362B (zh) * 2018-11-30 2024-04-09 华为技术有限公司 一种下行信号接收方法、终端及源基站

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001265313A (ja) * 2000-03-14 2001-09-28 Canon Inc 信号処理装置、信号処理方法及びコンピュータ読み取り可能な記憶媒体
JP2002051318A (ja) * 2000-08-01 2002-02-15 Matsushita Electric Ind Co Ltd 画像生成装置及び画像生成方法
JP2002325239A (ja) * 2001-04-25 2002-11-08 Ricoh Co Ltd データ会議システム及びデータ会議端末並びにデータ会議プログラムを記録した記録媒体
JP2009049831A (ja) * 2007-08-22 2009-03-05 Funai Electric Co Ltd 表示出力装置
JP2009151172A (ja) * 2007-12-21 2009-07-09 Toshiba Corp 情報処理装置
JP2009260412A (ja) * 2008-04-11 2009-11-05 Yamaha Corp 通信システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1042204A (ja) * 1996-07-25 1998-02-13 Hitachi Ltd 映像信号処理装置
RU2396730C2 (ru) 2006-06-16 2010-08-10 Эрикссон Аб Управление компоновкой конференции и протокол управления
US20070294263A1 (en) 2006-06-16 2007-12-20 Ericsson, Inc. Associating independent multimedia sources into a conference call
US20070291108A1 (en) 2006-06-16 2007-12-20 Ericsson, Inc. Conference layout control and control protocol
US20100138780A1 (en) * 2008-05-20 2010-06-03 Adam Marano Methods and systems for using external display devices with a mobile computing device
WO2010025343A1 (en) * 2008-08-28 2010-03-04 Jonas Lawrence A System for integrating multiple im networks and social networking websites
WO2010058591A1 (ja) * 2008-11-20 2010-05-27 パナソニック株式会社 画像表示装置、テレビ会議装置、及び画像表示方法
US8938753B2 (en) * 2010-05-12 2015-01-20 Litl Llc Configurable computer system
JP5776313B2 (ja) * 2011-04-28 2015-09-09 株式会社リコー 会議装置
JP5259772B2 (ja) * 2011-05-27 2013-08-07 株式会社東芝 電子機器、操作支援方法及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001265313A (ja) * 2000-03-14 2001-09-28 Canon Inc 信号処理装置、信号処理方法及びコンピュータ読み取り可能な記憶媒体
JP2002051318A (ja) * 2000-08-01 2002-02-15 Matsushita Electric Ind Co Ltd 画像生成装置及び画像生成方法
JP2002325239A (ja) * 2001-04-25 2002-11-08 Ricoh Co Ltd データ会議システム及びデータ会議端末並びにデータ会議プログラムを記録した記録媒体
JP2009049831A (ja) * 2007-08-22 2009-03-05 Funai Electric Co Ltd 表示出力装置
JP2009151172A (ja) * 2007-12-21 2009-07-09 Toshiba Corp 情報処理装置
JP2009260412A (ja) * 2008-04-11 2009-11-05 Yamaha Corp 通信システム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9870754B2 (en) 2013-03-13 2018-01-16 Ricoh Company, Ltd. Computer program product, information processing method, and information processing apparatus
US9426417B2 (en) 2013-03-26 2016-08-23 Ricoh Company, Ltd. Image processing device, display terminal, image display system, image processing method, control method of display terminal, control method of image display system, and program thereof
US9430215B2 (en) 2013-03-26 2016-08-30 Ricoh Company, Ltd. Terminal, terminal system, and non-transitory computer-readable medium for updating a terminal using multiple management devices
WO2015119216A1 (ja) * 2014-02-10 2015-08-13 株式会社リコー 情報端末、システム、制御方法及び記憶媒体
JPWO2015119216A1 (ja) * 2014-02-10 2017-03-30 株式会社リコー 情報端末、システム、制御方法及び記憶媒体
US10068546B2 (en) 2014-02-10 2018-09-04 Ricoh Company, Ltd. Information terminal, system, control method and recording medium

Also Published As

Publication number Publication date
US9215380B2 (en) 2015-12-15
US20130308055A1 (en) 2013-11-21

Similar Documents

Publication Publication Date Title
JP2013242357A (ja) 情報処理装置、情報処理方法、およびプログラム
JP6398489B2 (ja) 情報処理プログラム、情報処理方法、及び情報処理装置
CN109753259B (zh) 一种投屏系统及控制方法
WO2022228572A1 (zh) 显示设备及用户界面的控制方法
JP2013130823A (ja) 電子機器
KR101925027B1 (ko) 영상표시장치 및 이를 이용한 사용자 인터페이스 제공 방법
KR20140001726A (ko) 화면 동기화 가능한 원격 제어 장치
US8786631B1 (en) System and method for transferring transparency information in a video environment
US7652722B2 (en) Apparatus and method for displaying multiple channels and changing channels in a portable terminal having a television video signal receiving function
WO2022078065A1 (zh) 显示设备资源播放方法及显示设备
WO2016065514A1 (zh) 图像显示方法、用户终端和视频接收设备
US11362854B2 (en) Information processing apparatus, information processing method, program, and information processing system
US20140362166A1 (en) Incoming call display method, electronic device, and incoming call display system
CN115547265A (zh) 显示设备及显示方法
JP6680323B2 (ja) 情報処理装置、情報処理方法、及びプログラム
CN113689810A (zh) 图像显示设备及其方法
US20140181657A1 (en) Portable device and audio controlling method for portable device
KR20170031941A (ko) 디스플레이 장치 및 그의 휘도 제어 방법
JP4940676B2 (ja) 画像音声伝送システムおよび画像音声伝送方法
JP2016019204A (ja) 会議システム、情報処理装置、配置調整方法及びプログラム
JP6492460B2 (ja) 伝送端末、伝送方法、及びプログラム
KR101493772B1 (ko) 멀티미디어 데이터 중계장치
CN112702549B (zh) 一种声音输出方法和显示设备
US20240169954A1 (en) Display apparatus, non-transitory recording medium, and display method
CN117075837A (zh) 一种显示设备及eARC外设的音量调节方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150415

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170502

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180605