JP2017004113A - 操作支援装置、操作支援システム及び操作支援方法 - Google Patents

操作支援装置、操作支援システム及び操作支援方法 Download PDF

Info

Publication number
JP2017004113A
JP2017004113A JP2015114992A JP2015114992A JP2017004113A JP 2017004113 A JP2017004113 A JP 2017004113A JP 2015114992 A JP2015114992 A JP 2015114992A JP 2015114992 A JP2015114992 A JP 2015114992A JP 2017004113 A JP2017004113 A JP 2017004113A
Authority
JP
Japan
Prior art keywords
mode
user
unit
hierarchy
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015114992A
Other languages
English (en)
Other versions
JP6539118B2 (ja
Inventor
霜山 順一
Junichi Shimoyama
順一 霜山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2015114992A priority Critical patent/JP6539118B2/ja
Publication of JP2017004113A publication Critical patent/JP2017004113A/ja
Application granted granted Critical
Publication of JP6539118B2 publication Critical patent/JP6539118B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ユーザに効果的に操作の支援を行うことができるという効果を有する。【解決手段】 操作支援装置は、ユーザ操作に従って状態変位して第1の階層のモードを選択する操作機構と、ユーザ入力に基づくユーザ要求情報を取得する取得部と、上記第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定すると共に、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが上記操作機構によって選択された場合には、上記ユーザ指定モードを設定する制御部と、を具備する。【選択図】図1

Description

本発明は、階層化されたメニューを用いて操作を行う機器に好適な操作支援装置、操作支援システム及び操作支援方法に関する。
近年、デジタルカメラなどの撮影機能付き携帯機器が普及している。この種の撮影機器においては表示部を有して、撮影画像を表示する機能を有するものもある。また、表示部にメニュー画面を表示して、撮影機器の操作を容易にしたものもある。更に操作性を向上させるために、表示部にタッチパネルを配置して、タッチパネルに対するタッチ操作によって撮影機器の操作が可能なものもある。
このような表示部を有する機器においては、機器の機械的な操作を表示して、操作を誘導するものもある。例えば、特許文献1においては、表示部に表示された機器の外観図の一部をタッチパネルを介して操作することにより、操作された機器の外観図の一部を構成する部分の動作に関する設定を行うための表示画面に切り換える技術が提案されている。この提案によれば、ユーザは操作を覚えておく必要がなく、案内に従って操作を行えば良い。
しかし、特許文献1の提案は、単に、操作対象機器の外観図の一部を構成する部分の動作に関する設定を行う、という1つの機能に関してその操作を支援するものであって、極めて多くの機能の中から、ユーザが漫然と知っている機能を選択するための操作を効果的に案内することができるものではない。
特開平11−15400号公報
従来、操作を簡単化するためにメニューを階層的に構成する方法がある。ユーザは上位の階層から下位の階層に向けてメニューを順次選択していくことで、目的の操作を行うことができ、操作を簡単にすることができる。しかしながら、選択するモード等が膨大な場合には、単純な階層構造のメニューだけでは、操作が煩雑であったり、目的とする操作にたどり着くことがかえって困難な場合がある。
そこで、選択のためのスイッチ等の機構を用いて、選択できるメニューを分かりやすくしたものもある。例えば、デジタルカメラにおいては、機能選択を階層化し最上位階層の機能選択のためのモードダイヤルを備えたものがある。モードダイヤルを回して最上位階層の機能を選択する操作をユーザが行うことで、ユーザにとって、目的とする機能が属する最上位階層の機能を選択したことを理解しやすくなり、結果的に選択操作が分かりやすいものとなる。
しかし、近年、高機能化、多機能化により、最上位のモード選択の後、更に選択する機能の数が増え、モードの選択や、各種機能の選択や、撮影に必要な各種設定の指定等が極めて複雑化している。このため、ユーザが希望する選択や設定の操作を行うためには、その装置の操作を十分に習熟する必要があった。
本発明は、ユーザに効果的に操作の支援を行うことができる操作支援装置、操作支援システム及び操作支援方法を提供することを目的とする。
本発明に係る操作支援装置は、ユーザ操作に従って状態変位して第1の階層のモードを選択する操作機構と、ユーザ入力に基づくユーザ要求情報を取得する取得部と、上記第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定すると共に、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが上記操作機構によって選択された場合には、上記ユーザ指定モードを設定する制御部と、を具備する。
本発明に係る操作支援システムは、ユーザ操作に従って状態変位して第1の階層のモードを選択する操作機構を有する制御対象機器と、ユーザ入力に基づくユーザ要求情報を取得する取得部と、上記第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定する判定部と、を有する制御機器と、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが上記操作機構によって選択された場合には、上記ユーザ指定モードを設定する制御部と、を具備する。
本発明に係る操作支援方法は、ユーザ入力に基づくユーザ要求情報を取得する取得ステップと、第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定する判定ステップと、ユーザ操作に従って状態変位して上記第1の階層のモードを選択する操作機構によって、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが選択された場合には、上記ユーザ指定モードを設定する制御ステップと、を具備する。
本発明によれば、ユーザに効果的に操作の支援を行うことができるという効果を有する。
本発明の第1実施の形態に係る操作支援装置が組み込まれた撮影機器を示すブロック図。 図1の撮影機器1の外観を示す説明図。 図2A中のモードダイヤル22を説明するための説明図。 カメラ制御を説明するためのフローチャート。 撮影する様子を示す説明図。 画面表示の一例を示す説明図。 画面表示の一例を示す説明図。 画面表示の一例を示す説明図。 画面表示の一例を示す説明図。 画面表示の一例を示す説明図。 本発明の第2の実施の形態を示すブロック図。 図11は第2の実施の形態における制御を示すフローチャートである。 第2の実施の形態における画面表示の一例を示す説明図。 第2の実施の形態における画面表示の一例を示す説明図。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1実施の形態に係る操作支援装置が組み込まれた撮影機器を示すブロック図である。本実施の形態において、制御対象機器である撮影機器は、所定の機能をそれぞれ実現する複数のモードが階層化された項目によって選択可能な機器であり、本実施の形態における操作支援装置は、所定の階層のモードを選択するためには、ユーザによる明示的な選択操作を必要とさせると共に、当該階層より下位の階層のモードについてはユーザ入力に基づいて自動的に設定することにより、ユーザが漫然と知っている機能を選択するための操作を効果的に案内するものである。本実施の形態は、ユーザによる明示的な選択操作を、状態変位を伴う操作機構のみによって行うことができるようになっている例であるが、この明示的な選択操作が状態変位を伴わない所定の操作部によってできるようになっていてもよい。
なお、制御対象機器におけるモードは、制御対象機器の各機能を実現するためのものであり、例えば、制御対象機器を制御する1つ以上のコマンドや各種パラメータ(設定値)を制御対象機器の各部に設定することで実現される。
図1において、撮影機器1には撮像部2が設けられている。撮像部2は、CCDやCMOSセンサ等の図示しない撮像素子と、被写体の光学像を撮像素子の撮像面に導くレンズ部3とを備える。レンズ部3は、ズームやフォーカシングのための図示しないレンズ等を備えており、これらのレンズは、本体部10の制御部11によって駆動制御されるようになっている。
制御部11は、例えば、図示しないメモリに記憶されたプログラムに従って各部を制御してカメラ制御を行う図示しないCPU等のプロセッサによって構成することができる。制御部11の撮影制御部11aは、撮像部2に撮像素子の駆動信号を出力してシャッタスピード、露光時間等を制御すると共に、撮像部2からの撮影画像を読み出す。制御部11の画像処理部11bは、読み出した撮影画像に対して、所定の信号処理、例えば、色調整処理、マトリックス変換処理、ノイズ除去処理、その他各種の信号処理を行う。
制御部11の表示制御部11eは、表示に関する各種処理を実行する。表示制御部11eは、信号処理後の撮影画像を表示部16に与えることができる。表示部16は、LCD等の表示画面を有しており、表示制御部11eから与えられた画像を表示する。また、表示制御部11eは、各種メニュー表示等を表示部16の表示画面16b(図4参照)に表示させることもできるようになっている。なお、表示部16の表示画面16bは本体部10が収納された筐体10aの背面に沿って設けられており(図4参照)、撮影者は、撮影時に表示部16の表示画面16b上に表示されたスルー画を確認することができ、スルー画を確認しながら撮影操作を行うこともできる。
制御部11には、操作判定部11fが設けられている。操作判定部11fは、図示しないシャッタボタン、ファンクションボタン、撮影モード設定等の各種スイッチ等を含む操作部18に対するユーザ操作を受け付けるようになっている。制御部11は操作判定部11fの判定結果に基づいて各部を制御する。
制御部11は、各種信号処理後の撮像画像を圧縮処理し、圧縮後の画像を記録部4に与えて記録させることができる。
また、制御部11には、通信制御部11gが設けられている。通信制御部11gは、通信部19を制御して、外部機器との間で通信を行い、データの送信及び受信が可能である。通信部19は、Wifi(登録商標)等の所定の伝送路を介して外部機器との間で通信が可能である。
本実施の形態においては、操作部18としては、状態変位を伴う操作機構を有する変位操作部18aと、それ以外の非変位操作部18bとを備える。本実施の形態においては、変位操作部18aは、ユーザによる明示的な選択操作がなければモードが設定されない階層(以下、操作要求階層という)に含まれる複数のモードから1つのモードを設定するために用いられる。即ち、撮影機器1は、階層化されたモードのうち操作要求階層の各モードについては、変位操作部18aによる選択操作を行わなければ選択し設定することができないようになっている。
また、表示部16の表示画面上には、非変位操作部18bの1つであるタッチパネル16aが設けられている。タッチパネル16aは、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。この操作信号は、制御部11に供給される。これにより、制御部11は、ユーザがタッチした表示画面上の位置やユーザが表示画面上を指でスライドさせるスライド操作を検出することができ、ユーザ操作に対応した処理を実行することができるようになっている。
図2Aは図1の撮影機器1の外観を示す説明図である。図2Aに示す撮影機器1は本体部10の回路が収納された筐体10aとレンズ部3が収納される鏡筒3aとを有する。筐体10aの上面には、変位操作部18aを構成するシャッタボタン21とモードダイヤル22とが設けられている。本実施の形態においては、モードダイヤル22が操作要求階層の各モードの選択及び設定のために用いられる操作機構である。
図2Bは図2A中のモードダイヤル22を説明するための説明図である。モードダイヤル22は、円柱形状を有しており、円形状の表面の中心を回転中心として筐体10aの上面上において回動自在に配置される。モードダイヤル22の表面には、操作要求階層の各モードに対応したArt、P、A、S、M、Movieの文字が表示されている。これらの文字の1つがマーク23に対応する位置に位置するように、モードダイヤル22を回転させることで、当該文字に対応付けられたモードが選択され設定される。なお、Artはアートフィルタを実現するアートフィルタモードに対応し、Pはプログラムモードに対応し、Aは絞り優先モードに対応し、Sはシャッタスピード優先モードに対応し、Mはマニュアルモードに対応し、Movieは動画モードに対応する。図2Bではアートフィルタモードが選択されている状態であることを示している。
もちろん、ダイヤル操作に限定するものではなく、状態変位を伴う操作機構を有する変位操作部18aとしてはスライドスイッチやトグルスイッチなどのプッシュスイッチなどでもよい。状態変位を伴う操作を、部材変位操作を伴う操作と表現しても良く、本発明によれば、ユーザ入力に基づくユーザ要求情報を取得する取得ステップと現在の機器設定状態を取得するステップとユーザ要求と上記機器設定状態の差異から、上記機器の部材変位操作を伴う操作ガイドを特定する特定ステップと、上記特定結果を表示する表示ステップと、を具備したことを特徴とする操作支援方法によって、分かりやすいヒューマンインターフェースたる部材変位操作を伴う操作と、デジタル的な設定の親和性を高めることが可能となる。
本実施の形態においては、撮影機器1の所定の機能を実現する所定のモードを指定するために、例えばマイク等の入力部15が設けられている。なお、入力部15としては、マイクに限らず、タッチパネル16aやキーボード等のモードを指定可能な種々の入力部を採用することができる。マイク等の入力部15は、ユーザによるモード等の指定に対応した情報(以下、ユーザ要求情報という)を制御部11に出力することができるようになっている。
制御部11には要望取得部11dが設けられている。要望取得部11dは、入力部15からのユーザ要求情報に基づいてデータベース17を参照することで、ユーザが指定しようとしているモード(以下、ユーザ指定モードという)を判定する。なお、入力部15がマイクによって構成されている場合には、要望取得部11dは、ユーザの音声に対する音声認識処理によってユーザ要求情報を取得する。データベース17は、撮影機器1のモードに関する種々の情報を記憶している。要望取得部11dは、データベース17に、ユーザによるユーザ要求情報に完全に一致するモードが検索できた場合には、このモードをユーザ指定モードと判定し、当該モードを設定するための情報をデータベース17から読み出す。なお、要望取得部11dは、データベース17から、ユーザによるユーザ要求情報に完全に一致するモードを検索できなかった場合には、検索可能なモードの一覧情報又は検索のための質問情報をデータベース17から読み出すようにしてもよい。要望取得部11dは、表示制御部11eを制御して、読み出した一覧情報や質問情報に基づく表示を表示部16に表示させるようになっている。
要望取得部11dは、ユーザによるユーザ要求情報に基づくユーザ指定モードを判定すると、当該モードを設定するための情報をモード・パラメータ設定部11cに与える。モード・パラメータ設定部11cは、データベース17を参照することで、ユーザ指定モードを設定するために必要な各モードを判定し、ユーザ指定モードが属する操作要求階層のモードを判定する。モード・パラメータ設定部11cは、表示制御部11eを制御して、判定した操作要求階層のモードを指定するように、表示部16の表示画面上にメッセージ(操作ガイド表示)を表示させる。
ところで、ユーザが音声入力等によって指定したユーザ指定モードを含む階層よりも上位の階層において現在選択されているモードに、ユーザ指定モードが属さないことがある。例えば、モードダイヤル22によって絞り優先モードが設定されている場合において、ユーザが音声入力によってアートフィルタモード中の所定のフィルタモードを指定するものとする。即ち、ユーザが指定したフィルタモードは、モードダイヤル22のArtで示すアートフィルタモード中のモードであり、モードダイヤル22のAで示す絞り優先モードには属さない。この場合でも、制御部11においてモードの検索を行い、選択要求階層のモードをソフトウェア処理によって自動的に変更することも可能ではある。例えば、モードダイヤル22の設定に拘わらず、ユーザが指定したモードに移行することも考えられる。しかしながら、そうすると、モードダイヤル22によって示されているモードと、ユーザ指定モードとの対応の整合性がとれなくなり、ユーザは、いずれのモードで動作しているかを誤認識し易くなり、混乱を来して結果的に誤操作を招来する虞がある。
そこで、本実施の形態においては、ユーザが入力部15によって指定したモードよりも上位の操作要求階層のモードについては、ユーザによる明示的な操作のみによって変更可能とする。これにより、機能選択の整合性を担保する。操作要求階層のモード変更が行われた後、ユーザが指定したユーザ指定モードへの移行が行われる。
即ち、モード・パラメータ設定部11cは、操作要求階層のモードを指定するためのモードダイヤル22の操作によってユーザ指定モードが属する操作要求階層のモードが指定されていることが操作判定部11f等によって示された場合には、ユーザ指定モードが実現されるように各部を設定する。モード・パラメータ設定部11cは、ユーザ指定モードを実現するための設定情報を記録部4に記録させるようになっている。
次に、このように構成された実施の形態の動作について図3乃至図9を参照して説明する。図3はカメラ制御を説明するためのフローチャートであり、図4は撮影する様子を示す説明図であり、図5乃至図9は画面表示の一例を示す説明図である。
図3のステップS1において、制御部11は、撮影モードが指示されたか否かを判定する。撮影モードが指示されていない場合には、制御部11は、再生モードが指定されているか否かを判定する(ステップS31)。再生モードが指示されると、制御部11は、ステップS32において、指定された画像を再生する。制御部11は、ステップS33において再生画像の変更が指示されたか否かを判定しており、変更が指示された場合には指定された画像に変更して再生を行う(ステップS34)。また、制御部11は、再生モードが指示されていない場合には、通信モードに移行し、ステップS35において、画像通信が指定されているか否かを判定する。画像通信が指定されている場合には、ステップS36において画像通信を行い、画像通信が指定されていない場合には、必要に応じて各種データのダウンロードを行う(ステップS37)。
一方、撮影モードが指示されると、制御部11は、ステップS2においてレンズ交換が行われたか否かを判定する。レンズ交換が行われている場合には、制御部11は、撮像部2との間でレンズ通信を行って、撮像部2のレンズ部3及び撮像素子に関する情報を取得すると共に、ユーザ操作に応じて、レンズ部3及び撮像素子の設定を行う(ステップS3)。
次に、制御部11は、ステップS4において、撮像部2からの画像信号に基づいて、表示部16に撮像画像(スルー画)をライブヴュー表示させる。
図4は、撮影者30が右手31によって本体部10の筐体10aを把持して、撮影のために構えている様子を示している。本体部10の筐体10aの前面には鏡筒3aが設けられ、背面には表示部16が設けられ、背面下端にはマイク等の入力部15が設けられている。また、筐体10aの上面にはモードダイヤル22が配設されている。この構えた態勢において背面からみると、図5に示すように、表示部16の表示画面16b上に、ライブヴュー画像35が表示されている。ライブヴュー画像35中には、被写体である人物の画像36及びヘルプボタン表示37が表示されている。
次に、制御部11は、ステップS5において、ヘルプ操作が発生したか否かを判定する。ヘルプ操作は、本実施の形態における操作支援を行うことをユーザが指定するための操作であり、操作判定部11fは、例えば、表示部16の表示画面16b上に表示されたヘルプボタン表示37に対するタッチ操作によって、ヘルプ操作が行われたものと判定する。なお、操作判定部11fは、筐体10aに設けた図示しないスイッチの操作やモードダイヤル22の押下操作等によってヘルプ操作が行われたものと判定してもよい。
いま、ユーザが画像に対してフィルタを行うフィルタモードを希望するものとする。ユーザは、希望するフィルタモードの設定操作が分からない場合には、ヘルプ操作を行う。ユーザによるヘルプ操作が行われると、制御部11の要望取得部11dは、ユーザからのモード設定等の要求の待機状態となり、要求が発生するとステップS6においてユーザの要求を判定可能であるか否かを判定する。例えば、ユーザは、希望するフィルタモードを音声にて指示する。入力部15は、この音声を取得して要望取得部11dに与える。要望取得部11dは、音声認識によって、ユーザ要求情報を取得し、取得したユーザ要求情報に基づいてデータベース17を検索することで、ユーザ指定モードを判定する。
なお、ユーザの音声等による入力は、直接モード名を指定するものでなくてもよく、所定のモードの特徴を表す語句等であってもよい。この場合でも、データベース17がこれらの特徴の情報を有することによって、要望取得部11dは、モードを特定することができる。
また、要望取得部11dは、データベース17にユーザによるユーザ要求情報に一致するモードが存在しない場合に、当該ユーザ要求情報に基づいて検索可能なモードの一覧又は質問を表示するための情報をデータベース17から取得して、これらの情報に基づく表示を表示部16に表示させる(ステップS7)。例えば、要望取得部11dは、図6に示すように、モードの一覧として、撮影機器のカタログに出ている売れ筋のモードのみを表示してもよい。また、例えば、要望取得部11dは、図6に示すように、ユーザの要求からモードを質問形式で取得するための質問を表示画面16b上に表示させてもよい。
要望取得部11dは、ユーザによるユーザ要求情報に対応したモード(ユーザ指定モード)を特定することができた場合には、処理をステップS8に移行して、データベース17から当該モードを設定するための情報を取得してモード・パラメータ設定部11cに与える。モード・パラメータ設定部11cは、次のステップS9において、操作要求階層について、ユーザ指定モードと現状のモードとの差異を判定する。
即ち、モード・パラメータ設定部11cは、データベース17を参照することで、ユーザ指定モードを選択するための各モードを判定し、ユーザ指定モードが属する操作要求階層のモードを判定する。モード・パラメータ設定部11cは、表示制御部11eを制御して、判定した操作要求階層のモードを指定するように、表示部16の表示画面16b上に操作ガイド表示を表示させる(ステップS11)。
図7はこの場合の画面表示の例を示しており、表示画面16b上には、モードダイヤル22に対応したダイヤル表示22aとマーク23に対応したマーク表示23aとが表示されている。なお、ダイヤル表示22aの状態はモードダイヤル22の設定すべき状態を示している。即ち、図7の例ではモードダイヤル22をArtにて示すアートフィルタモードに設定すべであることを示している。なお、表示画面16bには、モードダイヤル22を手動で設定する必要があることを示す手動操作の表示38も表示されている。なお、図7では操作ガイド表示によってモードダイヤル22の設定すべき状態を表示するようにしたが、現在設定されているモードと設定すべきモードとの両方の状態を表示するようにしてもよい。
モード・パラメータ設定部11cは、操作判定部11fの出力によって、ユーザがモードダイヤル22を対応するモードに変更したか否かを判定する(ステップS12)。ユーザが、モードダイヤル22を回転させて、ユーザが入力部15によって指定したモードが属する操作要求階層のモードに設定すると、モード・パラメータ設定部11cは処理をステップS13に移行して、ユーザ指定モードに従った設定変更を行う。
なお、図3の例では、ユーザ指定モードが現在の操作要求階層のモードに属する場合には、モードダイヤル22の変位操作は不要であることから、操作ガイド表示を表示することなくステップS13に移行するようになっているが、モード・パラメータ設定部11cは、ユーザに操作要求階層のモードを認識させるために、現在の操作要求階層のモードにユーザ指定モードが属することを示す表示、例えば、「モード指定OK」等の表示を表示させるようにしてもよい。また、モード・パラメータ設定部11cは、モードダイヤル22の変位操作が不要である場合でも、一旦モードダイヤル22を回転させて元の位置に戻す操作や、OKボタンにタッチする等の所定の操作の後に、ステップS13に移行するようにしてもよく、これらの操作をユーザに促す操作ガイド表示を表示させてもよい。
図8はユーザ指定モードへのモード変更後の画面表示を示している。表示画面16b上には、図5の画像35に対してフィルタ処理が施されて得られた画像41が表示されている。この画像41は、被写体である人物の画像36の背景部分に所定の画像処理を施したものである。また、表示画面16b上には、アートフィルタモード中のArt1で示すフィルタモードによる画像処理が行われていることを示す表示39も表示されている。
このように、ユーザが設定したいモードや或いは設定したい撮影方法等の漠然とした機能等を指定することで、指定したモードや機能を実現するモード(ユーザ指定モード)が自動的に設定される。例えば、ユーザが「水彩」と発話すれば、水彩アートモードが自動的に設定される。この場合において、操作要求階層のモード設定については、ユーザに明示的に操作させて、ユーザ指定モードが属するモードを設定させるようになっており、ユーザによるモード及び操作方法の理解を深めて、誤操作を生じ難くすることができる。
次のステップS14では、設定するモードについてパラメータ設定等の調整操作が必要か否かが判定される。モード・パラメータ設定部11cは、調整操作が不要であると判定した場合には、処理をステップS20に移行して、設定したモード及び設定を記録部4に記録した後、ステップS17に移行して撮影の待機状態となる。
また、モード・パラメータ設定部11cは、調整操作が必要と判定すると、ステップS15に移行して操作補助表示を表示する。次に、モード・パラメータ設定部11cは、ユーザによる調整操作を受け付けて(ステップS16)、調整操作に応じてモード・設定変更を行い(ステップS19)、変更結果を記録部4に記録する(ステップS20)。
図9は操作補助表示の一例を示している。図9の例は、ユーザが例えば「明るくしたい」と発話した場合の例を示しており、表示画面16b上には、操作補助表示45が表示されている。操作補助表示45は、明るさを明るくするためのボタン表示46と明るさを暗くするためのボタン表示47とを含む。ユーザがボタン表示46上をタッチすることで、画像の明るさを明るくすることができる。
ステップS17では、撮影操作が行われたか否かが判定される。例えばレリーズボタン操作等によって静止画撮影が指示されると、制御部11は、ステップS18において撮影を行う。即ち、制御部11は、撮像部2からの撮像画像に信号処理を施して圧縮した後、記録部4に与えて記録を行う。
なお、撮影機器1の1つの機能のみを実現する場合だけでなく、画像の明るさの設定と画像の鮮やかさの設定等の2つ以上の設定を同時に実現したい場合がある。このような場合を考慮して、ステップS6において、例えば、「更に」というユーザ入力があった場合には、前回までの設定を保持した状態で、新たな設定を行うようにしてもよい。
このように本実施の形態においては、ユーザの入力に応じて、モードを自動的に設定することができる。例えば、ユーザが「比較明合成」による撮影を希望する場合において、比較明合成のための設定方法を知らない場合でも、ユーザは「比較明合成」と発話すればよい。これにより、自動的に比較明合成を実現するモードへの移行及び設定が行われる。この場合において、本実施の形態においては、比較明合成が属する操作要求階層のモードをユーザに通知すると共に、当該操作要求階層のモードを指定する操作機構をユーザに明示的に操作させることによって、比較明合成モードへの移行を行う。これにより、操作機構によって指示されるモードと実際のモードとの整合性をとることができ、ユーザがモードに対して正しく認識することを容易にして、誤操作を低減させることができる。
(第2の実施の形態)
図10は本発明の第2の実施の形態を示すブロック図である。第1の実施の形態においては、制御対象機器である撮影機器内に操作支援装置を設けた例を示した。本実施の形態は、制御対象機器を外部から操作可能な制御機器によって操作支援を行う例である。例えば、制御対象機器が図1の撮影機器であるものとして説明する。なお、本実施の形態においては、制御対象機器としては、制御機器との間の通信によって制御機器により制御されることが可能な機器であればどのような機器であってもよく、図1の撮影機器に限らない。例えば、図1の撮影機器内の要望取得部11d、データベース17等を省略した撮影機器を採用してもよい。
図10の制御機器50は、例えば制御対象機器以外の他の撮影機器や、スマートフォンやタブレットPC、パーソナルコンピュータ等の情報端末によって構成することができる。制御機器50は、制御部51を有している。制御部51は、例えば、図示しないメモリに記憶されたプログラムに従って各部の制御を行う図示しないCPU等のプロセッサによって構成することができる。機器通信部52は、制御部51に制御されて、制御対象機器の通信部、例えば、図1の通信部19との間で通信が可能であり、制御部51からの情報を制御対象機器に送信すると共に、制御対象機器からの情報を受信して制御部51に与えることができるようになっている。また、時計部53は時間情報を発生して制御部51に出力するようになっている。
制御機器50は表示制御部55を有している。表示制御部55は、制御部51に制御されて、表示に関する各種処理を実行する。例えば、表示制御部55は、制御部51から与えられた画像や各種メニュー表示等を表示部56に表示させることができるようになっている。表示部56は、LCD等の表示画面を有しており、表示制御部55から与えられた画像を表示する。
操作部54は、制御機器50に設けられた図示しないスイッチや、表示部56の表示画面に配設された図示しないタッチパネル等によって構成することができる。このタッチパネルは、ユーザが指で指し示した表示画面上の位置に応じた操作信号を発生することができる。この操作信号は、制御部51に供給される。これにより、制御部51は、ユーザがタッチした表示画面上の位置やユーザが表示画面上を指でスライドさせるスライド操作を検出することができ、ユーザ操作に対応した処理を実行することができるようになっている。
記録部57は、制御部51から与えられた情報が記録されるようになっている。本実施の形態においては、記録部57は、図1のデータベース17に保持された情報と同様の情報、即ち、制御対象機器のモードに関する情報を記録することができる。
制御機器50には、基地局通信部58が設けられている。基地局通信部58は、所定の伝送路を介してネットワーク60に接続可能であり、ネットワーク60内の基地局62を介して情報源61との間で情報の授受が可能である。本実施の形態においては、情報源61には制御対象機器のモードに関する情報が保持されていることがあるものとする。
また、制御機器50には、携帯電話機能部59が設けられている。携帯電話機能部59は、例えば、電話機能、内蔵カメラ機能及びメール機能等を有しているが、本実施の形態において必須の機能ではない。
制御部51の状況分析部51aは、機器通信部52を介して制御対象機器の状態に関する情報を受信して制御対象機器の状況を分析することができる。対処判定部51bは、ユーザ入力に基づくユーザ要求情報を取得すると共に、制御対象機器の状況の分析結果に応じて、記録部57から制御対象機器を制御するために必要な情報を取得するか、又は、基地局通信部58を介して情報源61から制御対象機器を制御するために必要な情報を取得する。対処判定部51bは、取得した情報に基づいて制御対象機器を制御するための制御情報を生成するようになっている。対処判定部51bは、制御対象機器の制御情報を機器通信部52を介して制御対象機器に送信することができるようになっている。
次に、このように構成された実施の形態の動作について図11乃至図13を参照して説明する。図11は第2の実施の形態における制御を示すフローチャートである。図11において図3と同一の手順には同一符号を付して説明を省略する。図11のフローは、撮影機器1によるカメラ制御と、制御機器50による制御機器制御を示しており、カメラ制御の制御フローと制御機器制御の制御フローとの間を結ぶ矢印は、処理によって通信が行われることを示している。また、図12及び図13は第2の実施の形態における画面表示の一例を示す説明図である。
いま、撮影機器1による被写体の撮影に先だって、ユーザがスマートフォン等の制御機器50によって撮影機器1の設定を行うものとする。制御機器50の制御部51は、ステップS41において、表示制御部55を制御して表示部56の表示画面56a上に、モードを選択するためのモード表示71を表示させる。
図12はこのモード表示71を示している。表示画面56a上に表示されたモード表示71には、電話モードを選択するボタン71a、外部カメラモードを選択するボタン71b、内蔵カメラモードを選択するボタン71c及びメールモードを選択するボタン71dが含まれる。図12の例では、各ボタンを囲む枠が実線の場合に選択されているモードを示し、破線は非選択モードを示している。図12の例は外部カメラモードが選択されていることを示している。
制御部51は、操作部54の出力によって、外部カメラモードが設定されたか否かを判定する(ステップS42)。外部カメラモード以外のモードが設定されている場合には、制御部51はステップS43において選択されているモードに対応した機能を実現する。
制御部51は、外部カメラモードが設定されている場合には、機器通信部52を制御してカメラ通信を行う(ステップS44)。一方、撮影機器1の制御部11は、ステップS51においてカメラ通信モードが指定されているか否かを判定する。カメラ通信モードが設定されている場合には、撮影機器1の制御部11の通信制御部11gは、通信部19に制御機器50の機器通信部52との間で通信を行わせ、撮影機器1のカメラ状態を示す各種設定情報を送信させる。なお、この設定情報は、例えば、記録部4に記録されており、通信制御部11gは、記録部4からカメラ状態の情報を読み出して、制御機器50に送信する。
制御機器50の制御部51の状況分析部51aは、機器通信部52を介してカメラ状態の情報を受信し、撮影機器1のカメラ状態を取得し、(ステップS45)、ユーザによる要求の待機状態となる。いま、例えば、ユーザが水彩アートモードによる撮影を希望するものとする。この場合には、ユーザは、例えば、「水彩」と発話することによって要求を制御機器50に入力する。制御機器50の対処判定部51bは、例えば携帯電話機能部59によって、ユーザの発話に基づくユーザ要求情報を取得する。
対処判定部51bは、次のステップS47において、ユーザ要求情報に基づいて撮影機器1の設定のための操作方法を判定することができるか否かを判定する。例えば、対処判定部51bは、記録部57に撮影機器1の設定方法について保持されている情報に基づいて操作方法を判定することができか否かを判定する。対処判定部51bは、判定不能の場合には、ネット検索によって操作方法の判定を行う(ステップS48)。即ち、対処判定部51bは、基地局通信部58を介してネットワーク60に接続して、情報源61に保持されている情報を検索することで、ユーザ要求情報に対応した撮影機器1の操作方法を取得する。例えば、対処判定部51bは、状況分析部51aによって撮影機器1の製造メーカを判定した場合には、当該製造メーカのWebサイト等にアクセスすることで、ユーザ要求情報に対応した操作方法を取得する。
対処判定部51bは、ユーザ要求情報に対応した操作方法を取得すると、ステップS49に移行して、表示制御部55を制御して表示部56の表示画面56a上に操作ガイド表示を表示させる。なお、対処判定部51bは、操作ガイド表示を表示するための情報についても、記録部57又はネットワーク60上の情報源61から取得する。
図13はこの場合の画面表示の例を示しており、表示画面56a上には、撮影機器1のモードダイヤル22に対応したダイヤル表示22bとマーク23に対応したマーク表示23bとが表示されている。なお、ダイヤル表示22bの状態はモードダイヤル22の設定すべき状態を示している。即ち、図13の例ではモードダイヤル22をArtにて示すアートフィルタモードに設定すべであることを示している。
対処判定部51bは、水彩アートモードの設定に必要な情報を制御情報として撮影機器1に送信する(ステップS50)。なお、この制御情報中には、操作要求階層のモードに関する情報も含まれている。また、制御情報は、撮影機器1を制御する一連のコマンド及びパラメータ等によって構成される。
撮影機器1のモード・パラメータ設定部11cは、ステップS53において、制御機器50の機器通信部52及び通信部19を介して制御情報を受信する。モード・パラメータ設定部11cは、ステップS10において、操作要求階層のモードを選択するモードダイヤル22の状態変位操作が必要であるか否かを判定し、必要な場合には、ステップS12において、ユーザがモードダイヤル22を対応するモードに変更したか否かを判定する。なお、本実施の形態においては、制御機器50において、操作ガイド表示を表示しており、撮影機器1側では操作ガイド表示を省略しているが、撮影機器1の表示部16においても操作ガイド表示を表示させるようにしてもよい。また、制御機器50における操作ガイド表示を省略して、撮影機器1の表示部16のみにおいて操作ガイド表示を表示させるようにしてもよい。以後の操作は第1の実施の形態と同様である。
なお、図11の例では、図3のステップS5〜S9,S11に相当する処理を制御機器50側で実施する例を説明したが、ステップS14,S15,S20等の調整のための入力処理及びモード設定の記録処理等についても制御機器50側で実施するようにしてもよい。
このように、本実施の形態においても、第1の実施の形態と同様の効果を得ることができる。また、本実施の形態においては、制御機器として、膨大な情報量を有するネットワーク上の情報源を利用した検索が可能な情報端末を採用することができ、ユーザの漠然とした要求から所望の操作を判定することが容易であり、より確実にユーザが希望する操作を行うことが可能である。
なお、上記実施の形態においては、図3及び図11のステップS12において、操作要求階層の選択を行う操作機構を実際に操作したか否かを判定するだけでなく、他の操作部の操作によって操作要求階層の指定されたモードに設定されたか否かを判定することが可能である。例えば、モードダイヤル22がモータ等の駆動機構によって駆動可能な場合には、この駆動機構を制御するタッチパネル等の操作や音声入力によって、モードダイヤル22の状態を変更することも可能である。例えば、ステップS11,S49の操作ガイド表示上に、現在のモードと設定すべきモードとを表示し、このガイド表示に対するスライド操作等によって、モードダイヤル22を回転させるようにしてもよい。更に、このように操作要求階層の選択を行う操作機構を間接的に操作する場合には、次のモード設定前に元のモードに戻しておくようにしてもよい。
さらに、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話やスマートフォンなど携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。また、産業用の検査装置や医療用機器にも応用が可能であることは言うまでもない。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
なお、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。また、これらの動作フローを構成する各ステップは、発明の本質に影響しない部分については、適宜省略も可能であることは言うまでもない。
また、ここで説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
[付記1]
ユーザ入力に基づくユーザ要求情報を取得する取得ステップと、
現在の機器設定状態を取得するステップと(S52からの信号)、
上記ユーザ要求と上記機器設定状態の差異から、上記機器の部材変位操作を伴う操作ガイドを特定する特定ステップと、
上記特定結果を表示する表示ステップと、
を具備したことを特徴とする操作支援方法。
1…撮影機器、2…撮像部、4…記録部、10…本体部、11…制御部、11a…撮影制御部、11b…画像処理部、11c…モード・パラメータ設定部、11d…要望取得部、11e…表示制御部、11f…操作判定部、15…入力部、16…表示部、16a…タッチパネル、17…データベース、18…操作部、18a…変位操作部、19…通信部。

Claims (12)

  1. ユーザ操作に従って状態変位して第1の階層のモードを選択する操作機構と、
    ユーザ入力に基づくユーザ要求情報を取得する取得部と、
    上記第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定すると共に、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが上記操作機構によって選択された場合には、上記ユーザ指定モードを設定する制御部と、
    を具備したことを特徴とする操作支援装置。
  2. 上記制御部は、上記ユーザ要求情報に基づく上記ユーザ指定モードを判定すると、上記ユーザ指定モードが属する上記第1の階層中のモードを選択させるためのガイド表示を表示させる
    ことを特徴とする請求項1に記載の操作支援装置。
  3. 上記制御部は、上記ガイド表示として、上記操作機構の状態変位を示す画像を表示する
    ことを特徴とする請求項2に記載の操作支援装置。
  4. 上記取得部は、上記ユーザの音声入力に基づいて上記ユーザ要求情報を取得する
    ことを特徴とする請求項1乃至3のいずれか1つに記載の操作支援装置。
  5. 上記制御部は、上記ユーザ指定モード設定に際して、ユーザ入力に基づく設定値を設定する
    ことを特徴とする請求項1乃至4のいずれか1つに記載の操作支援装置。
  6. 上記制御部は、ユーザに上記ユーザ入力に基づく設定値を設定させるための操作補助表示を表示させる
    ことを特徴とする請求項5に記載の操作支援装置。
  7. ユーザ操作に従って状態変位して第1の階層のモードを選択する操作機構を有する制御対象機器と、
    ユーザ入力に基づくユーザ要求情報を取得する取得部と、上記第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定する判定部と、を有する制御機器と、
    上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが上記操作機構によって選択された場合には、上記ユーザ指定モードを設定する制御部と、
    を具備したことを特徴とする操作支援システム。
  8. 上記判定部は、所定のネットワーク上の情報源を検索することで、上記ユーザ要求情報に基づくユーザ指定モードを判定する
    ことを特徴とする請求項7に記載の操作支援システム。
  9. 上記制御部は、上記制御対象機器に設けられ、
    上記制御機器は、上記ユーザ指定モードを設定するための制御情報を上記制御部に送信する
    ことを特徴とする請求項7又は8に記載の操作支援システム。
  10. 上記制御部は、上記ユーザ指定モードが属する上記第1の階層中のモードを選択させるためのガイド表示を表示させる
    ことを特徴とする請求項7乃至9のいずれか1つに記載の操作支援システム。
  11. ユーザ入力に基づくユーザ要求情報を取得する取得ステップと、
    第1の階層よりも下位の階層のモードであって上記ユーザ要求情報に基づくユーザ指定モードを判定する判定ステップと、
    ユーザ操作に従って状態変位して上記第1の階層のモードを選択する操作機構によって、上記第1の階層の各モードのうち上記ユーザ指定モードが属するモードが選択された場合には、上記ユーザ指定モードを設定する制御ステップと、
    を具備したことを特徴とする操作支援方法。
  12. 上記制御ステップでは、上記ユーザ要求情報に基づく上記ユーザ指定モードを判定すると、上記ユーザ指定モードが属する上記第1の階層中のモードを選択させるためのガイド表示を表示させる
    ことを特徴とする請求項11に記載の操作支援方法。
JP2015114992A 2015-06-05 2015-06-05 操作支援装置、操作支援システム及び操作支援方法 Active JP6539118B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015114992A JP6539118B2 (ja) 2015-06-05 2015-06-05 操作支援装置、操作支援システム及び操作支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015114992A JP6539118B2 (ja) 2015-06-05 2015-06-05 操作支援装置、操作支援システム及び操作支援方法

Publications (2)

Publication Number Publication Date
JP2017004113A true JP2017004113A (ja) 2017-01-05
JP6539118B2 JP6539118B2 (ja) 2019-07-03

Family

ID=57751777

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015114992A Active JP6539118B2 (ja) 2015-06-05 2015-06-05 操作支援装置、操作支援システム及び操作支援方法

Country Status (1)

Country Link
JP (1) JP6539118B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020095766A1 (ja) * 2018-11-05 2020-05-14 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画面生成方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11266383A (ja) * 1998-03-18 1999-09-28 Minolta Co Ltd デジタルカメラシステム
JP2004061762A (ja) * 2002-07-26 2004-02-26 Fuji Photo Film Co Ltd デジタルカメラ
JP2006343956A (ja) * 2005-06-08 2006-12-21 Canon Inc 電子機器及びその制御方法
JP2012083853A (ja) * 2010-10-07 2012-04-26 Olympus Imaging Corp 情報処理装置及び情報処理装置のメニュー表示方法
JP2012100214A (ja) * 2010-11-05 2012-05-24 Nikon Corp 撮像装置、補正プログラム及び記録媒体
US20140281966A1 (en) * 2013-03-15 2014-09-18 Canon Kabushiki Kaisha Electronic apparatus, and control method therefor
JP2014179855A (ja) * 2013-03-15 2014-09-25 Canon Inc 表示制御装置及びその制御方法
JP2014235197A (ja) * 2013-05-31 2014-12-15 キヤノン株式会社 撮像装置のガイダンス表示方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11266383A (ja) * 1998-03-18 1999-09-28 Minolta Co Ltd デジタルカメラシステム
JP2004061762A (ja) * 2002-07-26 2004-02-26 Fuji Photo Film Co Ltd デジタルカメラ
JP2006343956A (ja) * 2005-06-08 2006-12-21 Canon Inc 電子機器及びその制御方法
JP2012083853A (ja) * 2010-10-07 2012-04-26 Olympus Imaging Corp 情報処理装置及び情報処理装置のメニュー表示方法
JP2012100214A (ja) * 2010-11-05 2012-05-24 Nikon Corp 撮像装置、補正プログラム及び記録媒体
US20140281966A1 (en) * 2013-03-15 2014-09-18 Canon Kabushiki Kaisha Electronic apparatus, and control method therefor
JP2014179855A (ja) * 2013-03-15 2014-09-25 Canon Inc 表示制御装置及びその制御方法
JP2014235197A (ja) * 2013-05-31 2014-12-15 キヤノン株式会社 撮像装置のガイダンス表示方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020095766A1 (ja) * 2018-11-05 2020-05-14 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画面生成方法
JPWO2020095766A1 (ja) * 2018-11-05 2021-09-02 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画面生成方法
JP7108048B2 (ja) 2018-11-05 2022-07-27 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画面生成方法

Also Published As

Publication number Publication date
JP6539118B2 (ja) 2019-07-03

Similar Documents

Publication Publication Date Title
WO2021135655A1 (zh) 生成多媒体资源的方法及设备
JP4468956B2 (ja) 連続画像を記録するカメラ
JP5936183B2 (ja) 撮影機器
JP5613187B2 (ja) 撮像装置、撮像装置の制御方法、及び、撮像装置の制御をコンピュータに行わせるためのコードを備える持続性コンピュータ可読媒体
JP4361599B1 (ja) 情報処理装置および情報処理プログラム
CN103200354A (zh) 摄像装置及其控制方法
CN103927165A (zh) 一种壁纸图片的处理方法及装置
JP6137965B2 (ja) 電子機器、電子機器の制御方法、及び電子機器の制御プログラム
JP7144571B2 (ja) 情報機器、及びカメラ画像共有システム
JP2013009189A (ja) 撮影装置および撮像方法
WO2022199038A1 (zh) 画面调节参数调整方法及装置
JP2016192189A (ja) 電子機器及びその制御方法
JP2010097393A (ja) 画像表示装置及びプログラム
JP6429975B2 (ja) 電子機器、アイコン表示方法およびアイコン表示用プログラム
JP6539118B2 (ja) 操作支援装置、操作支援システム及び操作支援方法
JP2005292325A (ja) カメラ、撮像装置、レンズ鏡筒及びカメラ本体
JP5980650B2 (ja) 撮影機器及び特殊効果画像の生成方法
CN104038696B (zh) 拍摄器械的推荐方法及装置
CN107105171A (zh) 拍照方法、装置和终端设备
JP2010200362A (ja) カメラ及びこのカメラの表示制御装置とその表示制御方法
JP2014045276A (ja) 撮影機器
JP2013246189A (ja) 撮像装置及び撮像処理方法並びにプログラム
JP5522728B2 (ja) 端末装置及びプログラム
EP3826282A1 (en) Image capturing method and device
JP6235659B2 (ja) 電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190424

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190607

R151 Written notification of patent or utility model registration

Ref document number: 6539118

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250