JPWO2013039025A1 - 情報管理編集機能を備えた情報処理装置 - Google Patents

情報管理編集機能を備えた情報処理装置 Download PDF

Info

Publication number
JPWO2013039025A1
JPWO2013039025A1 JP2013533652A JP2013533652A JPWO2013039025A1 JP WO2013039025 A1 JPWO2013039025 A1 JP WO2013039025A1 JP 2013533652 A JP2013533652 A JP 2013533652A JP 2013533652 A JP2013533652 A JP 2013533652A JP WO2013039025 A1 JPWO2013039025 A1 JP WO2013039025A1
Authority
JP
Japan
Prior art keywords
information
attribute
user
unit
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013533652A
Other languages
English (en)
Inventor
宇野 博之
博之 宇野
栄子 山田
栄子 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Casio Mobile Communications Ltd
Original Assignee
NEC Casio Mobile Communications Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Casio Mobile Communications Ltd filed Critical NEC Casio Mobile Communications Ltd
Priority to JP2013533652A priority Critical patent/JPWO2013039025A1/ja
Publication of JPWO2013039025A1 publication Critical patent/JPWO2013039025A1/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

タッチパネルを搭載してユーザ操作に連動した情報処理機能を実現する情報処理装置は、操作画面を表示する表示部と、操作画面におけるユーザ操作を受け付ける操作部と、操作画面上の表示オブジェクト領域から指定情報を取得する情報取得部と、予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理する情報管理部とを具備する。また、情報処理装置は指定情報操作エリアと、属性操作エリアとを操作画面に表示する表示制御部と、操作画面上のユーザ操作の検出結果に基づいて、当該ユーザ操作の指示内容を判定する操作内容判定部とを更に具備する。更に、情報処理装置はユーザ操作に応じて容易に指定情報をデータベース化する処理を実現するものである。

Description

本発明は、タッチパネルを搭載した情報処理装置に関し、特に、情報管理編集機能を備えた情報処理装置に関する。
本願は、2011年9月16日に日本国に出願された特願2011−202865号に基づき優先権を主張し、その内容をここに援用する。
近年、スマートフォンやタブレット型端末などの携帯端末が普及している。この携帯端末にはタッチパネルが搭載されており、ユーザは操作画面に表示さているアイコン等に接触操作することにより任意の機能を実行することができる。このタッチパネルによりユーザは容易かつ直感的に携帯端末を操作することができる。
特許文献1は、ユーザが携帯情報端末で撮影したレシート画像をサーバに送信し、当該サーバがレシート画像に基づいて家計簿データを作成して携帯情報端末に送信するような家計簿入力支援システムを開示している。特許文献2は、ユーザが複数の指をタッチパネルに同時に接触操作することにより、複数個のアイコン等のオブジェクトを片手で同時に選択して操作することが可能な入力装置を開示している。特許文献3は、PC、携帯機器、TV受像機などにおいてファイルをコピーしたり、フォルダや記録媒体に移動したり、ユーザによる閲覧に供したりする際に、簡単な手順で複数のファイルに対する複数の操作モードを実行することができる画面操作方法を開示している。特許文献4は、マルチタッチ操作に基づいて複数のオブジェクトに対する処理を実行するマルチタッチ入力機能を備えた携帯電子装置を開示している。
また、種々のサービスが携帯端末のユーザに提供されている。特許文献1は家計簿作成支援サービスを開示しており、これはユーザの携帯端末で取得した情報をサーバで管理するものである。つまり、ユーザが携帯端末で撮影したレシート画像をサーバに送信し、当該サーバはレシート画像を解析して、その情報を抽出し、家計簿データを作成する。その後、サーバは家計簿データを携帯端末に提供する。この家計簿入力支援システムにおいて、サーバはレシート画像に含まれる文字等のうち認識可能な文字情報は全て抽出し、日付、商品名、金額等を示す情報をそれぞれ対応付けて家計簿データを作成する。
家計簿を作成する際の情報管理方法は、ユーザによって千差万別である。例えば、購入した全ての品目を細かく管理したいユーザや、購入した商品のなかでも食品カテゴリーの商品だけを管理したいユーザや、店舗やレシート毎に合計金額だけを管理したいユーザが存在する。また、購入した商品のうち食品カテゴリーに含まれる商品全てについてまとめて管理したいユーザや、生鮮食品と飲料のように食品カテゴリーをさらに細分化して管理したいユーザも存在する。
特開2005−135000号公報 特開2000−222130号公報 特開2008−90361号公報 特表2009−522669号公報
特許文献1の家計簿入力支援システムでは、各ユーザは自分好みの管理方法に合わせて、サーバによって作成された家計簿データを編集する必要がある。しかし、ユーザが取得した情報の全てが家計簿データに取り込まれてしまうため、ユーザが家計簿に登録したくない情報までサーバにより自動管理されてしまう。一方、家計簿で管理したい情報だけをユーザ自身が選択し、キーボードやマウスを使ってコンピュータに入力する場合、ユーザによる入力作業が煩雑となり、また、入力ミスが発生することもあり、ユーザにとって不便であった。
本発明は、上述の課題に鑑みてなされたものであり、ユーザの利便性を考慮した情報管理編集機能を備えた情報処理装置を提供することを目的とする。
本発明は、タッチパネルを搭載する情報処理装置に関するものであり、操作画面を表示する表示部と、操作画面におけるユーザ操作を受け付ける操作部と、操作画面上の表示オブジェクト領域から指定情報を取得する情報取得部と、予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理する情報管理部とを具備する。
本発明は、タッチパネルを搭載する情報処理装置に関するものであり、操作画面を表示する表示部と、操作画面におけるユーザ操作を受け付ける操作部と、表示部を制御して、所望の指定情報を指定するユーザ操作を受け付ける指定情報操作エリアと、ユーザによる情報入力操作を受け付ける入力操作エリアと、所望の属性を設定するユーザ操作を受け付ける属性操作エリアとを操作画面に表示する表示制御部と、操作部による操作画面上のユーザ操作の検出結果に基づいて、当該ユーザ操作の指示内容を判定する操作内容判定部と、指定情報操作エリアにおけるユーザ操作により所望の指定情報が指定されており、かつ、ユーザが入力操作エリアに対して情報入力操作を行なった場合、指定情報を入力操作エリアに転記する情報入力部とを具備する。
本発明は、タッチパネルを搭載する情報処理装置に適用される情報処理方法に関するものであり、タッチパネルに表示された操作画面に対するユーザ操作を受け付け、操作画面上の表示オブジェクト領域から指定情報を取得し、予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理する。
本発明は、ユーザ操作に連動する情報処理機能を実現するコンピュータに適用されるプログラムに関するものであり、操作画面に対するユーザ操作を受け付け、操作画面上の表示オブジェクト領域から指定情報を取得し、予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理するようコンピュータを制御する。
本発明は、家計簿情報取得アプリケーション、家計簿管理アプリケーション、テキスト編集アプリケーション、検索アプリケーションなどのユーザ操作連動型の情報処理プログラムを携帯端末などの情報処理装置において実現するものであり、簡易なユーザ操作(例えば、接触操作、タッチスライド操作、フリック操作)により所望の属性(例えば、家計簿データのカテゴリー別の支払項目)とユーザによる指定情報(例えば、支払項目別の支払金額)とを対応付けて管理することができる。また、簡易なユーザ操作で家計簿データなどの管理情報をデータベース化することができる。
本発明の実施例1に係る携帯端末を含む情報処理システムを示す構成図である。 本発明の実施例1に係る携帯端末のブロック図である。 本発明の実施例1に係る携帯端末の記憶部に格納される指定情報データベースの記憶内容の一例を示すテーブルである。 本発明の実施例1に係る携帯端末のタッチパネルに表示される情報受付画面の一例を示す拡大正面図である。 本発明の実施例1に係る携帯端末のタッチパネルにおいてレシートの撮影画像から店舗のロゴマークを取り込むための操作手順を示す拡大正面図である。 本発明の実施例1に係る携帯端末のタッチパネルにおいてレシートの撮影画像から所望の支払項目の金額を取り込むための操作手順を示す拡大正面図である。 本発明の実施例1に係る携帯端末のタッチパネルにおいて図6に示す操作手順に引き続く操作手順を示す拡大正面図である。 本発明に実施例1に係る携帯端末のタッチパネルにおいてユーザが表示オブジェクトを指定して指定情報として取り込む際に情報受付画面に表示されるアニメーション画像を示す拡大正面図である。 本発明の実施例1に係る携帯端末の基本的な処理を示すフローチャートである。 本発明の実施例1に係る携帯端末の指定情報データベース化処理を示すフローチャートである。 本発明の実施例2に係る携帯端末のタッチパネルに表示される情報受付画面を示す拡大正面図である。 本発明の実施例2に係る携帯端末においてテキスト編集の操作手順を示す拡大正面図である。 本発明の実施例2に係る携帯端末の基本的な処理を示すフローチャートである。 本発明の実施例3に係る携帯端末のタッチパネルに表示される情報受付画面を示す拡大正面図である。 本発明の実施例3に係る携帯端末においてユーザが検索処理を実行するときの操作手順を示す拡大正面図である。 本発明の実施例4に係る携帯端末のブロック図である。 本発明の実施例4に係る携帯端末のタッチパネルに表示される情報受付画面を示す拡大正面図である。 本発明の実施例4に係る携帯端末においてユーザが検索処理を実行するときの操作手順を示す拡大正面図である。 本発明の実施例4に係る携帯端末の基本的な処理を示すフローチャートである。
本発明に係る情報処理装置について添付図面を参照して詳細に説明する。
図1は、本発明の実施例1に係る携帯端末1が接続された通信ネットワークシステム(情報処理システム)を示す。本発明に係る情報処理装置は携帯端末1に限定されるものではなく、スマートフォン、携帯ゲーム機、PDA(Personal Digital Assistant)、タブレット型PC(Personal Computer)、ノート型PCにより実現してもよい。携帯端末1には、例えば、通話機能、電子メール機能、インターネット接続機能(Webアクセス機能)、デジタルテレビジョンン放送機能(例えば、ワンセグ地上デジタルテレビジョン放送機能)を具備する。
携帯端末1は、最寄の基地局2Aと交換機2Bとを介して、無線通信網(移動体通信網)2に接続されると、携帯端末1は無線通信網2を介して他の携帯端末3との間で通話可能となる。また、携帯端末1は無線通信網2を介してインターネット4に接続されると、Webサイトをアクセスして閲覧可能となる。更に、携帯端末1はサーバ5から動画、静止画、音楽、ニュースなどのマルチメディアコンテンツをインターネット4や無線通信網2を介してダウンロードして再生するストリーミング送信が可能となる。
図2は、携帯端末1の基本的な構成を示したブロック図である。携帯端末1は、タッチパネル101、制御部102、記憶部103、カメラ104、カメラ制御部105、画像処理部106、画像解析部107、無線通信部108、音声信号処理部109、計時部110とを具備する。この携帯端末1には複数の処理モードが設定されている。撮像モードの場合、携帯端末1はカメラ104を起動して被写体を撮影し、その画像データを得る。データベース化モードの場合、携帯端末1はカメラ104によって撮影された画像からユーザの指定情報を取得し、その属性を示す属性情報と指定情報とを対応付けて記憶部103に書き込む。
携帯端末1は家計簿情報取得アプリケーションapp1に従って撮像モードに設定されており、カメラ104により所望の画像を撮影した場合、その処理モードがデータベース化モードに切り替えられる。つまり、家計簿情報取得アプリケーションapp1は家計簿を作成するための指定情報を属性毎に取得するアプリケーションである。本実施例では、サーバ5からダウンロードした家計簿情報取得アプリケーションapp1に従った携帯端末1の処理について説明するが、これに限定されるものではない。家計簿情報取得アプリケーションapp1のプログラムが携帯端末1に予めインストールされていてもよい。
ユーザは携帯端末1のカメラ104でレシートを撮影し、当該レシートに記載されている店名、商品名、金額等の情報をタッチパネル101に表示する。携帯端末1において家計簿を作成するための情報を取得する家計簿情報取得アプリケーションapp1が起動されている場合、タッチパネル101には撮影されたレシート画像と、家計簿情報取得アプリケーションapp1において予め決められた属性(例えば、店名、食品、雑貨、光熱費等)を指定する属性アイコンとが同時に表示されている。ユーザがいずれか1つの属性アイコンに接触操作して、レシート画像内の店名、商品名、金額等の情報を表示する部分をスライド操作すると、携帯端末1は接触操作された属性アイコンが示す属性と、スライド操作された部分の指定情報とを対応付けて記憶部103に書き込む。このように、携帯端末1はユーザが接触操作した属性アイコンが示す属性と、スライド操作された部分を示す指定情報とを対応付ける。携帯端末1は、ユーザによる接触操作とスライド操作とが同時に行なわれることにより、属性情報と指定情報とを取得することができるが、これに限定されるものではない。例えば、タッチパネル101上の属性アイコンに対するユーザによる接触操作で属性を指示した後、接触操作を解除し、その後、ユーザが所望の部分にスライド操作を行なって指定情報を指示するようにしてもよい。また、属性情報を指示する操作や指定情報を指示する操作は接触操作やスライド操作に限定されるものではなく、他のユーザ操作により実施してもよい。
次に、携帯端末1の各構成要素について説明する。タッチパネル101は、操作部111と表示部112とを含む。操作部111は、ユーザ操作を受け付けるセンサを備え、当該センサの検出結果を制御部102に出力する。つまり、操作部111は、操作画面上のユーザの指の接触位置を一定の時間間隔毎にセンサにより検出し、当該センサの検出結果を制御部102に出力する。これは限定事項ではなく、例えば、操作画面に近接するユーザの指や操作指示手段(スタイラスペン)の位置を非接触センサにより検出するようにしてもよい。また、操作部111は、表示部112に表示される操作画面を介してユーザ操作を受け付ける。操作部111は、タッチパネル101を構成する表示部112と一体的に製造されており、表示部112の表示画面と操作部111の操作画面とが一致している。表示部112は、操作部111に対するユーザ操作を受け付ける操作画面を表示する。表示部112は、操作画面内にカメラ104が撮影した画像を表示する。この操作画面に表示される撮影画像は、文字や図表等の表示オブジェクトを含む。つまり、表示部112はユーザにより指示される表示オブジェクトを操作画面に表示する。
制御部102は、記憶部103に格納されている各種情報を読み出し、携帯端末1を統括的に制御する。制御部102は、操作内容判定部121と、表示制御部122と、登録部123と、情報取得部124と、情報管理部125と、アプリケーション処理部126と、音声制御部127とを具備する。
表示内容判定部121は、操作部111の出力に基づき、操作部111が受け付けた操作内容を判定する。例えば、操作内容判定部121は操作部111の検出結果が示すユーザの指の接触位置及び接触時間に基づいてタッチパネル101上のユーザの指の動きを判定する。操作内容判定部121は、ユーザの指の動きと、ユーザ操作受付時に表示部112に表示されている画像との位置関係に基づいて当該ユーザの指の動きが指示する操作内容を判定する。例えば、操作部111が操作画面に対するユーザの指の接触を検出すると、操作内容判定部121はユーザ操作が接触操作であると判定する。また、操作部111によりユーザが操作画面に指を接触したまま移動したことが検出されると、操作内容判定部121はユーザ操作がスライド操作であると判定する。操作部111によりユーザが操作画面を擦るようにして指を振り払ったことが検出されると、操作内容判定部121はユーザ操作がフリック操作であると判定する。
また、操作内容判定部121は計時部110によって計時される時間情報に基づき、操作部111が受け付けた操作内容を判定するようにしてもよい。ユーザによる接触操作が予め決められた時間長以上連続して維持された場合、つまり、ユーザが予め決められた時間長以上の間操作画面の一部分に接触し続けた場合、操作内容判定部121はユーザ操作が領域指定操作であると判定してもよい。この領域指定操作とは、ユーザの接触位置に対応する表示オブジェクトを含む表示オブジェクト領域がユーザにより指示される操作をいう。例えば、操作画面に表示される画像に対して、文字や数字(即ち、表示オブジェクト)を示す画像と、当該文字や数字のテキストデータとが紐付けられている場合、表示オブジェクト領域とは当該文字や数字を示す画像に相当する操作画面上の領域をいう。ユーザが操作画面上の文字や数字(表示オブジェクト)を示す表示オブジェクト領域の一部に接触し続けた場合、操作内容判定部121は表示オブジェクト領域に含まれる文字や図形のテキストデータが指示されていると判定する。
操作内容判定部121は、判定結果に基づいて、ユーザ操作に応じた表示内容を表示部112に表示させるよう表示制御部122に指示する。例えば、ユーザ操作が接触操作であると判定された場合、操作内容判定部121はユーザの指の接触位置を示すアイコン画像を操作画面に重畳して表示するよう表示制御部122を制御する。表示制御部122は、ユーザの指の接触位置を示す指アイコンを表示部112に表示させる。また、表示制御部122は複数のユーザの指の接触位置を示す複数の指アイコンをタッチパネル101の操作画面に表示する。また、表示制御部122は操作内容判定部121の判定結果が示すユーザ操作に基づき、表示部112の表示内容を制御する。
登録部123は、無線通信部108がインターネット4を介してサーバ5から受信したデータを記憶部103に登録する。例えば、登録部123はサーバ5から携帯端末1にインストールする各種アプリケーションをダウンロードして、記憶部103に登録する。
情報取得部124は、タッチパネル101の操作画面に表示されている表示オブジェクトのうち、操作画面上のユーザの指定位置に対応する表示オブジェクトを指定情報として取得する。情報取得部124は、操作内容判定部121の判定結果に基づいて、ユーザにより指示された指定情報の属性を設定する属性設定部1241と、当該指定情報を記憶部103に記憶されている情報から取得する指定情報取得部1242とを具備する。
操作内容判定部121により操作画面上のユーザ接触操作が検出されると、属性設定部1241は操作画面上のユーザ接触位置に基づいて、接触操作により指定されている属性アイコンが示す属性を判定する。属性設定部1241は判定結果に基づいて属性アイコンが示す属性をユーザにより指示される指定情報の属性として設定する。本実施例において、属性設定部1241は1つの属性のみを設定する。
操作内容判定部121によってユーザの接触操作が検出されると、指定情報取得部1242は表示オブジェクトを含む操作画面に対してユーザがスライド操作を行なったか否かを判定する。例えば、タッチパネル101の操作画面にカメラ104で撮影した画像が表示されている場合、指定情報取得部1242は撮影画像が表示されている操作画面に対してユーザがスライド操作を行なったか否かを判定する。操作画面上におけるユーザのスライド操作の検出位置に基づいて、指定情報取得部1242は当該スライド操作により指示された表示オブジェクト領域を検出する。ユーザのスライド操作により表示オブジェクト領域が検出されると、指定情報取得部1242は当該表示オブジェクト領域に対応する指定情報を取得する。
情報管理部125は、指定情報取得部1242が指定情報を取得する際に当該指定情報の属性が設定されている場合、属性設定部1241が設定した属性と、指定情報取得部1242が取得した指定情報とをそれぞれ対応付けて管理する。また、情報管理部125は属性設定部1241が設定した属性と、指定情報取得部1242が取得した指定情報とを対応付けて指定情報データベース137に書き込む。更に、情報管理部125は所定の属性情報に対応付けられる指定情報を最初に指定情報データベース137に書き込んだ場合、換言すれば、所定の属性情報に指定情報が対応付けられていない状態で所望の指定情報を当該属性情報に対応付け指定情報データベース137に書き込んだ場合、追加フラグを設定する。尚、情報管理部125は属性設定部1241が設定した属性と、指定情報取得部1242が取得した指定情報とを、それぞれ対応付けて外部の記憶媒体や記憶装置に記憶して管理するようにしてもよい。
アプリケーション処理部126は、操作内容判定部121の判定結果に基づき、記憶部103のアプリケーション記憶領域135に記憶されているアプリケーションを読み出して、そのアプリケーションプログラムを実行する。例えば、ユーザが操作部111を介して家計簿情報取得アプリケーションapp1を起動する指示入力を行なった場合、アプリケーション処理部126は家計簿情報取得アプリケーションapp1のプログラムをアプリケーション記憶領域135から読み出して実行する。アプリケーション処理部126は、家計簿情報取得アプリケーションapp1に従って撮像モードの処理を実行し、その後、画像データが取得された場合、データベース化モードの処理を実行する。また、ユーザが操作部111を介して家計簿管理アプリケーションapp2を起動する指示入力を行なった場合、アプリケーション処理部126は家計簿管理アプリケーションapp2のプログラムをアプリケーション記憶領域135から読み出して実行する。アプリケーション処理部126は、家計簿管理アプリケーションapp2に従って指定情報データベース137に書き込まれている情報を追加して、予め登録されているユーザの家計簿データを更新する。尚、アプリケーション処理部126は外部の記憶媒体や記憶装置に格納されている家計簿データを更新するようにしてもよい。
音声制御部127、音声信号処理109から入力するデジタル音声データを無線通信部108を介して他の携帯端末3に送信する。また、他の携帯端末3からデジタル音声データを入力した場合、当該デジタル音声データを音声信号処理部109に出力する。記憶部103は、携帯端末1の処理に用いる種々の情報を記憶する。記憶部103は、カメラ画像記憶領域131と、表示オブジェクト記憶領域132と、プログラム記憶領域133と、一時記憶領域134と、アプリケーション記憶領域135と、指定情報記憶領域136とを具備する。尚、記憶部103は、例えば、SDカード、ICカード、外付けハードディスクなど着脱自在な可搬型メモリ(記録メディア)を含んで構成してもよい。或いは、記憶部103を所定の外部サーバ(不図示)上に設定してもよい。
カメラ画像記憶領域131は、カメラ104により撮影された画像を記憶する記憶領域である。カメラ画像記憶領域131は、画像処理部106によって処理された画像データを記憶する。表示オブジェクト記憶領域132は、画像解析部107によってカメラ104の撮影画像から抽出された表示オブジェクト(例えば、テキストデータや図表データ)と、撮影画像内の位置を示す位置情報とを対応付けて記憶する領域である。プログラム記憶領域133は、ユーザによる携帯端末1に対する各種処理に応じて本実施例の処理を実現するためのプログラムや各種アプリケーションなどを記憶する領域である。一時記憶領域134は、携帯端末1が動作するために必要な各種の情報を一時的に記憶する領域である。アプリケーション記憶領域135は、携帯端末1にインストールされたアプリケーションプログラムを記憶する領域である。例えば、アプリケーション記憶領域135は家計簿情報取得アプリケーションapp1と、家計簿管理アプリケーションapp2とを記憶する。
指定情報記憶領域136は、制御部102の情報取得部124によって取得された指定情報と属性情報とを対応付けて記憶する指定情報データベース137を格納する領域である。図3は、指定情報データベース137の記憶内容の一例を示す。指定情報データベース137は、追加フラグと、属性情報と、指定情報とを対応付けて記憶するテーブルである。追加フラグは、指定情報が属性情報に対応付けられて既に指定情報データベース137に書き込まれていることを示す。指定情報は、情報取得部124の指定情報取得部1242によって取得される。属性情報は、指定情報取得部1242によって指定情報が取得された際に、属性設定部1241によって設定される。図3の指定情報データベース137では、属性「食品」に対応付けて指定情報「¥180」が書き込まれている。
図2に戻って、携帯端末1の構成要素の説明を続ける。カメラ104は、光学系141と、撮像素子142と、A/D変換部143とを具備する。撮像素子142は、光学系141を介して入射する光学像から画像信号を生成する。A/D変換部143は、撮像素子142から出力される画像信号をアナログ/デジタル変換して画像データを生成する。電源スイッチ(不図示)が操作されると、カメラ104は光学系141に入射した光学像から連続した画像データを生成して画像処理部106に出力する。携帯端末1は、連続した画像データに基づいてライブビューをタッチパネル101の表示部112に表示する。ユーザは、ライブビューを見ながら撮影すべき画像を決定することができる。カメラ制御部105は、操作部111の操作画面に表示されるシャッターボタンが操作されると、カメラ104の光学系141に入射する光学像に基づいて所望の画像データを取得するようにカメラ104を制御する。尚、撮影画像はライブビューよりも画質が高い画像であることが好ましい。画像処理部106は、カメラ104から出力される画像データに対して画像処理を実行し、画像処理後の画像データを記憶部103のカメラ画像記憶領域131に保存する。
画像解析部107は、カメラ画像記憶領域131から画像データを読み出し、当該画像データから表示オブジェクト(テキストデータや図表データ)を抽出する。画像解析部107は、予め決められた文字や数字等のテキストパターンと類似する文字や数字等を認識して抽出する。また、画像解析部107は予め決められたロゴマークや商品画像等の図表パターンと類似するロゴマークや商品画像等を認識して抽出する。画像解析部107は、表示オブジェクトを抽出した撮影画像上の画像領域を表示オブジェクト領域と決定し、この表示オブジェクト領域と表示オブジェクトとを紐付ける。例えば、画像解析部107は撮影画像に含まれる各画素の位置を示すXY座標の座標値を用いて、撮影画像上における表示オブジェクト領域の位置情報と、当該表示オブジェクト領域から抽出した表示オブジェクトを対応付ける。
無線通信部108は、通話機能、電子メール機能、インターネット接続機能などの動作時に、アンテナを介して最寄の基地局2Aとの間でデータ送受信を行なう。音声信号処理部109は、マイクロフォンMC及びスピーカSKに接続される。音声信号処理部109はマイクロフォンMCから入力したアナログ音声信号をA/D変換してデジタル音声データを音声制御部127に出力する。また、音声信号処理部109は音声制御部127から入力したデジタル音声データをD/A変換してアナログ音声信号をスピーカSKに出力する。また、計時部110は一定の時間間隔毎にクロック信号を出力する。
次に、図4乃至図8を参照して携帯端末1の動作の一例について説明する。図4は、ユーザが家計簿情報取得アプリケーションapp1を起動した際にタッチパネル101の表示部112に表示される情報受付画面G1を示す。この情報受付画面G1は、家計簿情報取得アプリケーションapp1のプログラムが実行され、例えば、撮像モードにおいてユーザがカメラ104でレシートを撮影し、その後、データベース化モードへ移行した場合にタッチパネル101の操作画面に表示される。図4に示すとおり、情報受付画面G1はユーザがカメラ104で撮影した画像を表示する指定情報操作エリアG11と、ユーザが属性を指定するための属性アイコンZ1〜Z8を表示する属性操作エリアG12と、所定の指定情報を属性毎に表示するキャプチャデータ表示エリアG13とを含む。所定の指定情報とは、属性が選択されている状態においてユーザにより選択された指定情報であって、情報管理部125により指定情報データベース137に書き込まれたものである。指定情報操作エリアG11は表示部112の操作画面の上部に表示され、キャプチャデータ表示エリアG13は操作画面の下部に表示される。属性操作エリアG12は、指定情報操作エリアG11とキャプチャデータ表示エリアG13との間に位置して操作画面の中間部に表示される。
指定情報操作エリアG11には、レシートの撮影画像が表示される。このレシートの撮影画像は、支払いをした店舗名(例えば、「コンビニエンス○○」」と、当該店舗のロゴ画像を示すロゴマークH1と、支払いをした年月日(例えば、「20**年**月**日」)と、支払いをした商品やカテゴリーを示す項目名及び金額とを含む。具体的には、支払項目「食パン」の右欄に金額「¥180」が表示され、支払項目「バター」の右欄に金額「¥220」が表示され、支払項目「雑誌」の右欄に金額「¥350」が表示され、支払項目「電話料金」の右欄に金額「¥5500」が表示される。尚、指定情報操作エリアG11の表示画像はレシートの撮影画像の一部であって、実際には、「電話料金 ¥5500」の行の下側にはその他の支払項目と金額並びに支払の合計金額が含まれる。
属性操作エリアG12には、家計簿情報取得アプリケーションapp1において予め決められた属性を示す属性アイコンZ1〜Z8が表示されている。属性アイコンZ1〜Z8として家計簿情報取得アプリケーションapp1によって取り込み可能な指定情報の属性が予め設定されている。具体的には、属性アイコンZ1は属性「ロゴ」を示し、これは支払をした店舗のロゴの取り込みを指示する操作アイコンである。属性アイコンZ2は属性「店名」を示し、支払をした店舗の名称の取り込みを指示する操作アイコンである。属性アイコンZ3〜Z6は、属性「食品」、「雑貨」、「光熱」、「通信」を示し、それぞれの支払項目の金額の取り込みを指示する操作アイコンである。属性アイコンZ7は、属性「合計」を示し、支払の合計金額の取り込みを指示する操作アイコンである。属性アイコンZ8は、「終了」を示し、家計簿情報取得アプリケーションapp1の終了を指示する操作アイコンである。従って、属性アイコンZ8は特定の属性を設定するものではなく、アプリケーションに対する処理を支持する操作アイコンである。キャプチャデータ表示エリアG13は、カメラ104の撮影画像から指定情報データベース137に取り込んだ指定情報を表示する領域である。
次に、図5を参照して、ユーザが支払をした店舗のロゴマークH1を取り込むための操作手順及び処理について説明する。図5(a)に示すとおり、タッチパネル101の操作画面に表示されている情報受付画面G1において、ユーザが属性アイコンZ1に接触操作すると、操作内容判定部121はユーザの接触操作を検出し、表示制御部122は属性アイコンZ1に重畳して指アイコンQ1を表示する。つまり、指アイコンQ1はユーザによる接触操作が検出されたタッチパネル101上の位置に表示される。ここで、ユーザは属性アイコンQ1に対する右手の親指による接触操作を維持している状態が示されている。これにより、制御部102の情報取得部124の属性設定部1241は、操作内容判定部121の判定結果に基づき、属性アイコンZ1が示す属性「ロゴ」を指定情報の属性として設定する。属性設定部1241は、現在設定されている属性「ロゴ」を示す属性情報を一時記憶領域134に登録する。表示制御部122は、キャプチャデータ表示エリアG13の左上部に現在設定されている属性「ロゴ」を示すタブTb1を表示する。
ユーザは属性アイコンZ1を右手の親指で接触操作したまま、店舗のロゴマークH1を右手の人差し指(或いは、中指など)で接触してスライド操作(タッチスライド操作)する。操作内容判定部121はタッチスライド操作を検出し、表示制御部122は店舗のロゴマークH1に重畳して指アイコンQ2を表示する。図5(b)に示すとおり、表示制御部122はタッチスライド操作における指の移動方向に沿って指アイコンQ2を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は、操作内容判定部121の判定結果に基づいて、ユーザのタッチスライド操作により指定された表示オブジェクト領域に相当する店舗のロゴマークH1を指定情報として取得する。その後、表示制御部124は店舗のロゴマークH1が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動する様子を示すアニメーション画像を情報受付画面G1に重畳して表示する。このアニメーション画像については、図8を参照して後述する。
キャプチャデータ表示エリアG13に属性「ロゴ」が設定されている場合、ユーザが表示オブジェクト領域から指定情報「ロゴマーク」を取得すると、情報管理部125は属性「ロゴ」に指定情報「ロゴマークH1」の画像データのファイル名を対応付けて指定情報データベース137に書き込む。これにより、ユーザによるタッチスライド操作された店舗のロゴマークH1が属性「ロゴ」の指定情報として取り込まれる。表示制御部122は、ユーザにより取り込まれた指定情報であるロゴマークH1の画像をキャプチャデータ表示エリアG13に表示する。
次に、図6を参照して、レシートの撮影画像から属性「食品」に係る支払項目の金額を取り込むための操作手順及び処理について説明する。図6(a)に示すとおり、タッチパネル101の操作画面に表示されている情報受付画面G1において、ユーザが指で属性アイコンZ3に接触操作すると、操作内容判定部121は当該接触操作を検出し、表示制御部122は属性アイコンZ3に重畳して指アイコンQ1を表示する。つまり、指アイコンQ1はユーザによる接触操作が検出された位置に表示される。ここで、ユーザは右手の親指で属性アイコンZ1に接触し、その接触操作を維持している。これにより、制御部102の情報取得部124の属性指定部1241は、操作内容判定部121の判定結果に基づき、属性アイコンZ3が示す属性「食品」を指定情報の属性として設定する。属性設定部1241は、現在設定されている属性「食品」を示す属性情報を一時記憶領域134に登録する。また、表示制御部122はキャプチャデータ表示エリアG13の左上部に現在設定されている属性「食品」のタブTb2を表示する。
次に、ユーザは右手の親指で属性アイコンZ3に接触操作したまま、支払項目「食パン」の金額「¥180」を右手の人差し指(或いは、中指など)でタッチスライド操作する。操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は支払項目「食パン」の金額「¥180」に重畳して指アイコンQ2を表示する。また、図6(b)に示すとおり、表示制御部122はタッチスライド操作におけるユーザの指の移動方向に沿って指アイコンQ2を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は操作内容判定部121の判定結果に基づき、ユーザのタッチスライド操作により指定した表示オブジェクト領域に相当する支払項目「食パン」の金額「¥180」を指定情報として取得する。表示制御部124は、支払項目「食パン」の金額「¥180」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動するときに表示されるアニメーション画像を情報受付画面G1に重畳して表示する。このアニメーション画像については、図8を参照して後述する。
ユーザにより属性「食品」が設定されており、表示オブジェクト領域から指定情報「¥180」が取得されると、情報管理部125は属性「食品」に指定情報「¥180」を対応付けて指定情報データベース137に書き込む。これにより、ユーザによるタッチスライド操作された支払項目「食パン」の金額「¥180」が属性「食品」の指定情報として取り込まれる。また、情報管理部125は指定情報データベース137において属性「食品」に対して追加フラグを設定する。表示制御部122は、ユーザにより取り込まれた指定情報である支払項目「食パン」の金額「¥180」をキャプチャデータ表示エリアG13に表示する。
次に、ユーザは属性アイコンZ3を右手の親指で接触操作したまま、支払項目「バター」の金額「¥220」を右手の人差し指(或いは、中指など)でタッチスライド操作すると、操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は支払項目「バター」の金額「¥220」に重畳して指アイコンQ2を表示する。また、図6(c)に示すとおり、表示制御部122はタッチスライド操作におけるユーザの指の移動方向に沿って指アイコンQ2を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は操作内容判定部121の判定結果に基づき、ユーザのタッチスライド操作で指定された表示オブジェクト領域に相当する支払項目「バター」の金額「¥220」を指定情報として取得する。表示制御部124は、支払項目「バター」の金額「¥220」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動するときに表示されるアニメーション画像を情報受付画面G1に重畳して表示する。尚、アニメーション画像については図8を参照して後述する。
ユーザにより所望の属性が既に設定されており、表示オブジェクト領域から所望の指定情報が取得された場合、情報管理部125は属性に指定情報を対応付けて指定情報データベース137に書き込む。ここでは、属性「食品」の指定情報として支払項目「食パン」の金額「¥180」が既に指定情報データベース137に書き込まれている。従って、指定情報データベース137において、属性「食品」には追加フラグが設定される。また、現在設定されている属性「食品」の属性情報が一時記憶領域134に登録されている。
支払項目「バター」の金額「¥220」を指定情報データベース137に書き込む際に属性「食品」には追加フラグが既に設定されているため、情報管理部125は属性「食品」に対応して書き込まれた指定情報「¥180」に続いて加算記号「+」を書き加えた上で、支払項目「バター」の金額「¥220」を書き込む。つまり、情報管理部125は、指定情報データベース137において、属性「食品」に対応付けられる指定情報として「¥180+¥220」を書き込む。これにより、ユーザによりタッチスライド操作された支払項目「バター」の金額「¥220」が属性「食品」の指定情報として取り込まれる。情報管理部125は、現在設定されている属性を示す属性情報が一時記憶領域134に登録されているか否かを判定する。属性情報が一時記憶領域134に登録されていると判定した場合、情報管理部125は属性「食品」に対応付けて書き込まれている指定情報「¥180」に続いて加算記号「+」を書き加えた上で、支払項目「バター」の金額「¥220」を書き込むようにしてもよい。表示制御部122は、ユーザにより取り込まれた指定情報である支払項目「バター」の金額「¥220」を支払項目「食パン」の金額「¥180」に加算したことを示す「¥180+¥220」画像をキャプチャデータ表示エリアG13に表示する。
指定情報データベース137において指定情報が追加される場合、情報管理部125は加算記号「+」を書き加えた上で、新たな指定情報を既に書き込まれた指定情報に続いて書き込む。この場合の処理の他の例について下記に説明する。指定情報データベース137に指定情報が追加された場合、情報管理部125は既に書き込まれた支払項目「食パン」の金額「¥180」に対して支払項目「バター」の金額「¥220」を加算した合計金額「¥400」を算出し、属性「食品」に対応付けられる上記の指定情報を合計金額「¥400」で上書きしてもよい。この場合、表示制御部122はユーザにより取り込まれた指定情報である支払項目「バター」の金額「¥220」と、支払項目「食パン」の金額「¥180」との合計金額である「¥400」をキャプチャデータ表示エリアG13に表示する。
次に、図7を参照して、図6に示す操作手順に引き続く操作手順及び処理について説明する。図6(c)の状態において、ユーザによる属性アイコンZ3に対する接触操作が解除された後、ユーザが指で指定情報操作エリアG11内の一点に接触して上方向にフリック操作する。この場合、操作内容判定部121はユーザのフリック操作を検出し、表示制御部122は指定情報操作エリアG11内のユーザの指の接触位置に重畳して指アイコンQ3を表示する。これにより、図7(a)に示すとおり、指定情報操作エリアG11内のレシートの撮影画像が上方向にスクロールされて、レシートの下側に続く画像が表示される。
次に、ユーザは右手の親指で属性アイコンZ3に接触操作する。操作内容判定部121はユーザの接触操作を検出し、表示制御部122は属性アイコンZ3に重畳して指アイコンQ1を表示する。また、情報管理部125は指定情報データベース137において属性「食品」に対して追加フラグを設定する。一時記憶領域134には、現在設定されている属性「ロゴ」を示す属性情報が登録される。この場合、ユーザの接触操作により指定された属性が変更されていないため、属性設定部1241は指定情報データベース137や一時記憶領域134の記憶内容を書き換えることはしない。一方、属性情報が変更されるため、属性情報設定部1241は指定情報データベース137や一時記憶領域134の記憶内容を書き換える。
ユーザは属性アイコンZ3を右手の親指で接触したまま、支払項目「スナック菓子」の金額「¥150」を右手の人差し指(或いは、中指など)でタッチスライド操作すると、操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は支払項目「スナック菓子」の金額「¥150」に重畳して指アイコンQ2を表示する。また、図7(b)に示すとおり、表示制御部122はタッチスライド操作におけるユーザの指の移動方向に沿って指アイコンQ2を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は操作内容判定部121の判定結果に基づいて、ユーザのタッチスライド操作により指定された表示オブジェクト領域に相当する支払項目「スナック菓子」の金額「¥150」を指定情報として取得する。表示制御部122は、支払項目「スナック菓子」の金額「¥150」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動する際に表示されるアニメーション画像を情報受付画面G1に重畳して表示する。このアニメーション画像については図8を参照して後述する。
属性「食品」が設定されており、ユーザにより表示オブジェクト領域から指定情報「¥150」が取得された場合、情報管理部125は属性「食品」に指定情報「¥150」を対応付けて指定情報データベース137に書き込む。ここで、属性「食品」の指定情報として、支払項目「食パン」の金額「¥180」と支払項目「バター」の金額「¥220」が指定情報データベース137に既に書き込まれている。従って、指定情報データベース137において、属性「食品」には追加フラグが設定されている。また、現在設定されている属性「食品」を示す属性情報が一時記憶領域134に登録されている。
指定情報データベース137において支払項目「スナック菓子」の金額「¥150」を書き込む際に属性「食品」には追加フラグが設定されているため、情報管理部125は属性「食品」に対応付けられて書き込まれた指定情報である「¥180+¥220」に続いて加算記号「+」を書き加えた上で、支払項目「スナック菓子」の金額「¥150」を書き込む。つまり、情報管理部125は、指定情報データベース137において属性「食品」に対応付けた指定情報として「¥180+¥220+¥150」を書き込む。これにより、ユーザによるタッチスライド操作された支払項目「スナック菓子」の金額「¥150」が属性「食品」の指定情報として取り込まれる。情報管理部125は、現在設定されている属性情報が一時記憶領域134に登録されているか否かを判定する。属性情報が一時記憶領域134に登録されていると判定した場合、情報管理部125は属性「食品」に対応付けて書き込まれた指定情報「¥180+¥220」に続いて、加算記号「+」を書き加えた上で、支払項目「スナック菓子」の金額「¥150」を書き込むようにしてもよい。表示制御部122は、ユーザにより新たに取り込まれた指定情報である支払項目「スナック菓子」の金額「¥150」を支払項目「食パン」と「バター」の合計金額「¥180+¥220」に加算した合計金額「¥180+¥220+¥150」をキャプチャデータ表示エリアG13に表示する。
次に、図8を参照して、指定情報操作エリアG11においてユーザが表示オブジェクトを指定して指定情報として取り込む際に情報受付画面G1に表示されるアニメーション画像について説明する。図8(a)は、指定情報操作エリアG11に表示されているロゴマークHが指定情報として取り込まれるときに表示されるアニメーション画像を示す。図8(a)に示すとおり、指定情報「ロゴマークH1」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13まで移動する際、指定情報「ロゴマークH1」の画像が徐々に拡大されて、最大サイズに達すると、徐々に縮小されるようなアニメーション画像が表示される。図8(a)に示すアニメーション画像では、複数の「ロゴマークH1」の画像が時系列に連続して情報受付画面G1に表示される。
図8(b)は、指定情報操作エリアG11に表示されている支払項目「食パン」の金額「¥180」が指定情報として取り込まれるときに表示されるアニメーション画像を示す。図8(b)に示すとおり、指定情報「¥180」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動する際、指定情報「¥180」の画像が徐々に拡大され、最大サイズに達すると、徐々に縮小されるようなアニメーション画像が表示される。図8(b)に示すアニメーション画像では、複数の「¥180」の画像が時系列に連続して情報受付画面G1に表示される。
次に、図9及び図10を参照して、携帯端末1の処理について説明する。図9は、携帯端末1の基本的な処理を示すフローチャートである。
(ステップST1)
初めに、ユーザはタッチパネル101の操作部111を操作して家計簿情報取得アプリケーションapp1を起動する。制御部102のアプリケーション処理部126は記憶部103のアプリケーション記憶領域135から家計簿情報取得アプリケーションapp1のプログラムを読み出して実行する。これにより、撮像モードが起動する。次に、カメラ制御部105は撮像モードにおいてカメラ104を起動する。カメラ104は、タッチパネル101においてなされたユーザの撮像指示に従って、被写体である表示オブジェクトを撮影する。ここで、表示オブジェクトとはレシートに記載された情報である。カメラ104により生成された画像データは画像処理部106によって画像処理され、その画像処理結果がカメラ画像記憶領域131に格納される。
(ステップST2)
制御部102は、家計簿情報取得アプリケーションapp1に従って、データベース化モードを起動する。表示制御部122は、データベース化モードにおいて情報受付画面G1をタッチパネル101の表示部112に表示する。例えば、表示制御部122は図4に示す情報受付画面G1を表示部112に表示する。つまり、表示制御部122は情報受付画面G1のうち、指定情報操作エリアG11に撮影したレシートの画像を表示する。ここで、タッチパネル101の表示部112に表示されたレシート画像には、画像解析部107によってレシートの画像データから抽出されたテキストデータと図表データとが紐付けられている。
(ステップST3)
表示制御部122は、情報受付画面G1のうち属性操作エリアG12に属性アイコンZ1〜Z8を表示する。
(ステップST4)
表示制御部122は、情報受付画面G1のうちキャプチャデータ表示エリアG13に空白の表示エリアを表示する。最初、属性を示すタブなどはキャプチャデータ表示エリアG13には表示されない。この時点では、ユーザにより属性が指定されていないからである。
(ステップST5)
図4に示すとおり、タッチパネル101の操作画面には情報受付画面G1が表示されている。操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づき、属性アイコンZ1〜Z8のうちいずれかを指示するユーザの接触操作がなされたか否か判定する。操作内容判定部121がユーザの接触操作を検出すると、表示制御部122は指アイコンQ1を情報受付画面G1に重畳して表示する。
(ステップST6)
タッチパネル101の操作部111の検出結果に基づき、属性操作エリアG12に対してユーザの接触操作がなされたと判定されると、操作内容判定部121はユーザの指の接触位置に基づき、属性アイコンZ1〜Z8のうちのいずれの属性アイコンがユーザにより指定されたかを判定する。操作内容判定部121は、ユーザにより指定された属性アイコンが示す属性が設定されたことを判定する。例えば、ユーザが指で属性アイコンZ1に接触操作すると、操作内容判定部121は属性「ロゴ」が設定されたと判定する。情報取得部124の属性設定部1241は、ユーザにより指定された属性アイコンZ1の属性「ロゴ」を現在指定されている属性として設定する。属性設定部1241は、指定情報データベース137において、現在設定されている属性「ロゴ」を示す属性情報に対して追加フラグを設定する。或いは、属性設定部1241は現在設定されている属性「ロゴ」を示す属性情報を一時記憶領域134に登録する。
(ステップST7)
表示制御部124は、キャプチャデータ表示エリアG13の左上部に現在設定されている属性を示すタブを表示する。図5では、現在設定されている属性「ロゴ」を示すタブTb1がキャプチャデータ表示エリアG13に表示される。
(ステップST8)
操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づいて、指定情報操作エリアG11においてユーザが表示オブジェクト領域を指定するタッチスライド操作を行なったか否かを判定する。操作内容判定部121がユーザのタッチスライド操作を検出すると、表示制御部122は情報受付画面G1の指定情報操作エリアG11に重畳して、ユーザの指の接触位置に指アイコンQ2を表示する。
(ステップST9)
情報取得部124の指定情報取得部1242は、ユーザのタッチスライド操作により指定された表示オブジェクト領域に応じて、レシート画像のなかでユーザにより指定された指定情報を取得する指定情報データベース化処理を実行する。この指定情報データベース化処理の詳細については、図10を参照して後述する。
(ステップST10)
ユーザが指定情報操作エリアG11に対してタッチスライド操作を行なっていない場合、操作内容判定部121はユーザが属性アイコンZ1から右手の親指を離し、その接触操作が解除されたか否かを判定する。ユーザによる接触操作が解除されるまで、操作内容判定部121はユーザが指定情報操作エリアG11に対するタッチスライド操作を行なったか否かの判定を繰り返す。ユーザが接触操作を解除すると、フローはステップST5に戻る。
(ステップST11)
ステップST5において、属性アイコンZ1〜Z8のいずれかを指示するユーザの接触操作が検出されない場合、操作内容判定部121はユーザによるスクロール操作が検出されたか否かを判定する。
(ステップST12)
操作内容判定部121によりユーザのスクロール操作が検出されると、図7(a)に示すとおり、表示制御部122はタッチパネル101の表示部112における情報受付画面G1の表示内容をスクロール方向にスクロールする。
(ステップST13)
一方、ユーザのスクロール操作が検出されない場合、操作内容判定部121はタッチパネル101の操作部111の検出結果に基づいて家計簿情報取得アプリケーションapp1を終了するか否かを判定する。
(ステップST14)
ユーザが判定部111を操作して家計簿情報取得アプリケーションapp1を終了させると、フローはステップST14に移行する。例えば、ユーザが属性操作エリアG11の属性アイコンZ8に対して接触操作を行なった場合、操作内容判定部121は家計簿情報取得アプリケーションapp1を終了すると判定する。その後、アプリケーション処理部126は記憶部103の指定情報記憶領域136を参照して、相互に対応付けられた属性情報と指定情報とが格納されているか否かを判定する。
(ステップST15)
指定情報記憶領域136に相互に対応付けられた属性情報と指定情報とが格納されていた場合、アプリケーション処理部126は家計簿管理アプリケーションapp2のプログラムを起動する。
(ステップST16)
アプリケーション処理部126は、家計簿管理アプリケーションapp2に従い、指定情報記憶領域136から相互に対応付けられた属性情報と指定情報とを読み出す。
(ステップST17)
アプリケーション処理部126は、指定情報記憶領域136から読み出した属性情報と指定情報とに基づき、家計簿管理アプリケーションapp2のプログラムを実行する。アプリケーション処理部126は、指定情報を対応付けられた属性情報に追加して家計簿データに書き込む。アプリケーション処理部126は、計時部110によって計時される日付に基づき、更新される日毎に管理される家計簿データを更新してもよい。レシート画像に日時情報が含まれている場合、画像解析部107がレシート画像から日時情報を抽出して、そのレシート画像データと対応付けて一時記憶領域134に書き込むようにしてもよい。家計簿データを指定情報データベース137から読み出した指定情報で属性毎に更新する場合、情報管理部125はレシート画像データと対応付けられている日時情報を一時記憶領域134から読み出して、当該日時情報が示す日付毎に家計簿データを更新するようにしてもよい。
次に、図10を参照して、携帯端末1の指定情報データベース化処理について説明する。図10は、図6に示した操作手順が実施された場合の処理を示す。
(ステップST21)
操作内容判定部121が指定情報操作エリアG11における表示オブジェクト領域に対してユーザのタッチスライド操作が行なわれたことを判定すると、指定情報取得部1242はユーザにより指定された表示オブジェクト領域を検出する。ユーザのタッチスライド操作により指定された表示オブジェクト領域を検出すると、指定情報取得部1242は当該表示オブジェクト領域に含まれる表示オブジェクト(テキストデータや図表データ)を取得する。例えば、指定情報操作エリアG11に表示されている文字部分が画像解析部107によって抽出されたテキストデータと紐付けられている場合、指定情報取得部1242はユーザのタッチスライド操作により指定された表示オブジェクト領域と紐付けられているテキストデータを指定情報として取得する。図6(b)に示すとおり、ユーザが右手の親指で属性アイコンZ3に接触操作しており、指定情報操作エリアG11に表示されている支払項目「食パン」の金額「¥180」を含む表示オブジェクト領域を指定するタッチスライド操作を行うと、指定情報取得部1242はユーザにより指定された支払項目「食パン」の金額「¥180」を含む表示オブジェクト領域に紐付けられたテキストデータ「¥180」を取得する。
(ステップST22)
情報管理部125は、指定情報記憶領域136の指定情報データベース137を参照して、現在設定されている属性「食品」に対して追加フラグが設定されているか否かを判定する。つまり、情報管理部125は、現在設定されている属性に対応付けられている指定情報が指定情報データベース137に格納されているか否かを判定する。また、情報管理部125は現在設定されている属性を示す属性情報が一時記憶領域134に登録されているか否かを判定する。
(ステップST23)
指定情報記憶領域136の指定情報データベース137において属性「食品」に対して追加フラグが設定されていない場合、情報管理部125は現在設定されている属性「食品」に対応付けられる指定情報が指定情報データベース137に格納されていないと判定する。その後、情報管理部125は属性「食品」に対して追加フラグを設定するとともに、その属性情報に指定情報「¥180」を対応付けて指定情報データベース137に書き込む。また、現在設定されている属性を示す属性情報が一時記憶領域134に登録されていない場合、情報管理部125は現在設定されている属性「食品」に対応付けられる指定情報が指定情報データベース137に格納されていないと判定する。その後、情報管理部125は現在設定されている属性「食品」を示す属性情報を一時記憶領域134に記憶するとともに、その属性情報に対応付けて指定情報「¥180」を指定情報データベース137に書き込む。
(ステップST24)
表示制御部124は、指定情報「¥180」が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動するときに表示されるアニメーション画像を情報受付画面G1に重畳して表示する。図8(b)に示すアニメーション画像では、指定情報「¥180」の画像が指定情報操作エリアG11からキャプチャデータ表示エリアG13に時系列に移動している。即ち、指定情報操作エリアG11からキャプチャデータ表示エリアG13まで移動する際、指定情報「¥180」の画像が徐々に拡大され、その後、徐々に縮小されるように表示される。
(ステップST25)
上記のアニメーション画像を表示した後(即ち、指定情報「¥180」の画像がキャプチャデータ表示エリアG13に移動した後)、表示制御部124は指定情報「¥180」の画像をキャプチャデータ表示エリアG13に書き込む。図6(b)に示すように、指定情報「¥180」がキャプチャデータ表示エリアG13に表示される。
(ステップST26)
指定情報記憶領域136の指定情報データベース137において、属性「食品」に対して追加フラグが設定されている場合、情報管理部125はユーザにより取り込まれた指定情報を指定情報データベース137に書き込む。ステップST21において、携帯端末1のタッチパネル101には図6(c)に示す情報が表示され、かつ、ユーザ操作により指アイコンQ1、Q2が表示されている。ここで、属性「食品」を示す属性アイコンZ3に対してユーザの接触操作がなされ、かつ、指定情報操作エリアG11における所望の表示オブジェクト領域(即ち、支払項目「バター」の金額「¥220」を含む領域)に対してユーザのタッチスライド操作がなされている。この場合、指定情報取得部1242は所望の表示オブジェクト領域に紐付けられているテキストデータ「¥220」を取得する。情報管理部125は、指定情報データベース137において、現在設定されている属性「食品」に対応付けられて既に書き込まれている指定情報「¥180」に関連して、新たに取得された指定情報「¥220」を加算したことを示す加算指定情報を書き込む。つまり、指定情報データベース137において、属性「食品」に対応付けて加算指定情報「¥180+¥220」を書き込む。
(ステップST27)
表示制御部122は、新たに取得された指定情報「¥220」が指定情報操作エリアG11からキャプチャデータ表示エリアG13に移動するときに表示されるアニメーション画像を情報受付画面G1に重畳して表示する。図8(b)に示すとおり、このアニメーション画像においても、指定情報「¥220」の画像が徐々に拡大され、その後、次第に縮小されるように表示される。
(ステップST28)
上記のアニメーション画像を表示した後、表示制御部122は新たに移動された指定情報「¥220」が既に移動された指定情報「¥180」に加算されたことを示す加算指定情報をキャプチャデータ表示エリアG13に表示する。これにより、図6(c)に示すとおり、キャプチャデータ表示エリアG13には加算指定情報「¥180+¥220」を表示される。
表示オブジェクト(即ち、指定情報)を取り込むための操作画面には、指定情報操作エリアG11と、属性操作エリアG12と、キャプチャデータ表示エリアG13とを含む情報受付画面G1が表示される。これにより、属性毎に指定される表示オブジェクト(指定情報)を取り込む際のユーザ操作性を向上することができる。家計簿データの更新情報として取り込みたい表示オブジェクトを指定する場合、ユーザは指定情報の取込対象である属性を選択すべく、属性操作エリアG12に表示されている属性アイコンZ1〜Z8のいずれかを選択的に接触操作する。また、属性情報に対応付ける指定情報を追加する場合、ユーザは所望の属性アイコンを接触操作しながら所望の表示オブジェクト(指定情報)に対してタッチスライド操作を行なって、所望の指定情報を取り込めばよい。これにより、ユーザは家計簿データの更新対象である属性毎に更新したい表示オブジェクトを指定するという簡単な操作で容易に指定情報の更新を行なうことができる。
情報管理部125はユーザにより取り込まれた表示オブジェクト(指定情報)を属性情報と対応付けて記憶する指定情報データベース137を作成する。これにより、アプリケーション処理部126は属性毎に家計簿データを更新することができる。また、アプリケーション処理部126は家計簿管理アプリケーションapp2に従って更新対象の属性を示す属性アイコンZ1〜Z7を情報受付画面G1の属性操作エリアG12に表示する。つまり、情報管理部125によって作成される指定情報データベース137の属性情報の項目が、アプリケーション処理部126による家計簿データの更新対象の属性の項目とが一致している。これにより、情報取得部124により取得された指定情報(テキストデータや図表データ)を家計簿管理アプリケーションapp2の処理においても利用することができる。
次に、本発明の実施例2に係る携帯端末1Aについて説明する。実施例2の携帯端末1Aは実施例1の携帯端末1と同様の構成(図2参照)を具備する。下記の説明において、記憶部103のアプリケーション記憶領域135にはテキスト編集アプリケーションapp3が保存されている。記憶部103の表示オブジェクト記憶領域132にはテキスト編集アプリケーションapp3の処理対象である文書データが保存されている。
図11は、テキスト編集アプリケーションapp3起動時にタッチパネル101に表示される情報受付画面G2を示す。テキスト編集アプリケーションapp3のプログラムが実行する情報受付画面G2は、制御部102が記憶部103の表示オブジェクト記憶領域132からテキスト編集の処理対象である文書データを読み出した場合に、タッチパネル101の操作画面に表示される。図11に示すとおり、情報受付画面G2はテキスト編集の処理対象である文書データを表示する指定情報操作エリアG21と、属性を指定する属性アイコンZ21〜Z26を表示する属性操作エリアG22と、ユーザが操作部111を操作して入力したテキストを表示するワーク表示エリアG24とを含む。属性操作エリアG22は操作画面の上部に表示され、ワーク表示エリアG24は操作画面の下部に表示される。指定情報操作エリアG21は、操作画面において属性操作エリアG22とワーク表示エリアG24との間の中間位置に表示される。
指定情報操作エリアG21には、テキスト編集の処理対象である文書データが表示されている。この文書データには、年月日「20**年**月**日(月)」と、時間「9:00−10:00」と、タイトル「営業会議、議事録」と、その会議内容「<決定事項> 1.○○○○○[重要] 2.○○○○○」とが表示されている。尚、指定情報操作エリアG21に表示されている画像は文書データの一部である。
属性操作エリアG22には、テキスト編集アプリケーションapp3において予め決められた属性を示す属性アイコンZ21〜Z26が表示されている。属性アイコンZ21〜Z26の属性として、テキスト編集アプリケーションapp3によって実行可能なテキスト編集処理の種類が予め決められている。テキスト編集アプリケーションapp3によって実行可能なテキスト編集処理の種類として、例えば、テキストデータの書式、文字形状、フォント、文字色、文字サイズ、表示回転角度を設定することができる。具体的には、属性アイコンZ21は属性「太字」を示し、指定情報の文字等を太字に変更する操作アイコンである。属性アイコンZ22は属性「下線」を示し、指定情報に下線を追加する操作アイコンである。属性アイコンZ23は属性「赤字」を示し、指定情報の文字等の色を赤字に変更する操作アイコンである。属性アイコンZ24は属性「カット」を示し、指定情報を切り取るカット編集を実行する操作アイコンである。属性アイコンZ25は属性「コピー」を示し、指定情報を一時的に保持するコピー編集を実行する操作アイコンである。属性アイコンZ26は属性「ペースト」を示し、コピー編集により一時的に保持している指定情報を貼り付けるペースト編集を実行する操作アイコンである。
ワーク表示エリアG24は、指定情報操作エリアG21に表示している文書データに対して、ユーザの文字入力を受け付けるものである。例えば、ワーク表示エリアG24にはQWERTYキーボードやテンキーなどのキー入力手段を表示し、ユーザにより接触操作されたキーに対応する文字や数字の入力を受け付ける。ワーク表示エリアG24において、ユーザによる手書き入力を受け付けるようにしてもよい。
次に、図12を参照して、文書データに対するテキスト編集時のユーザの操作手順及び処理について説明する。図12(a)に示すとおり、タッチパネル101の操作画面に情報受付画面G2が表示されており、ユーザが指で属性アイコンZ21及びZ22に接触操作すると、操作内容判定部121はユーザの接触操作を検出し、表示制御部122は属性アイコンZ21に重畳して指アイコンQ21を表示するとともに、属性アイコンZ22に重畳して指アイコンQ22を表示する。指アイコンQ21、Q22はタッチパネル101上においてユーザの接触操作が検出された位置に表示される。具体的には、ユーザは右手の人差し指で属性アイコンZ21に接触してその接触操作を維持する。同時に、ユーザは右手の中指で属性アイコンZ22に接触してその接触操作を維持する。制御部102の情報取得部124の属性設定部1241は、操作内容判定部121の判定結果に基づいて、属性アイコンZ21が示す属性「太字」と、属性アイコンZ22が示す属性「下線」とを、ユーザにより取得される指定情報の属性として設定する。属性設定部1241は、現在設定されている属性「太字」、「下線」を示す属性情報を一時記憶領域134に登録する。
ユーザは、属性アイコンZ21、Z22に接触操作したまま、指定情報操作エリアG21に表示されている文書データの「1.○○○○○[重要]」の部分を右手の親指でタッチスライド操作すると、操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は文書データの「1.○○○○○[重要]」の部分に重畳して指アイコンQ23を表示する。表示制御部122は、図12(a)に示すとおり、ユーザのタッチスライド操作における指の移動方向に沿って指アイコンQ23を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は、操作内容判定部121の判定結果に基づいて、ユーザのタッチスライド操作により指定された表示オブジェクト領域内の文書データの「1.○○○○○[重要]」部分を指定情報として取得する。アプリケーション処理部126は、文書データの「1.○○○○○[重要]」部分において文字フォントを太字に変更するとともに、文字列に下線を引くテキスト編集を実行する。表示制御部124は、テキスト編集後の「1.○○○○○[重要]」部分(即ち、図12(b)に示すとおり、太字/下線を付加した文字列)を表示する。
このように、ユーザ操作により属性「太字」、「下線」が設定されており、かつ、表示オブジェクト領域から指定情報「1.○○○○○[重要]」が取得された場合、情報管理部125は属性「太字」、「下線」と指定情報「1.○○○○○[重要]」とを対応付けてアプリケーション処理部126に出力する。アプリケーション処理部126は、指定情報「1.○○○○○[重要]」を属性「太字」、「下線」が示すテキスト編集の種類に応じて編集し、編集後の指定情報を表示制御部122に出力する。表示制御部122は、指定情報操作エリアG12に表示されている指定情報「1.○○○○○[重要]」をアプリケーション処理部126により処理された指定情報「1.○○○○○[重要]」(即ち、図12(b)に示すとおり、太字/下線を付加した文字列)と置き換えて表示する。
次に、図13を参照して、本発明の実施例2に係る携帯端末1Aの基本的な処理について説明する。
(ステップST31)
初めに、ユーザはタッチパネル101の操作部111を操作して、テキスト編集アプリケーションapp3を起動する。制御部102のアプリケーション処理部126は、記憶部103のアプリケーション記憶領域135からテキスト編集アプリケーションapp3のプログラムを読み出して実行する。
(ステップST32)
アプリケーション処理部126は、テキスト編集アプリケーションapp3に従って、記憶部103の表示オブジェクト記憶領域132から編集対象の文書データを読み出し、情報受付画面G2をタッチパネル101の表示部112に表示する。ここで、表示制御部122は図12に示す情報受付画面G2を表示部112に表示する。また、表示制御部122は情報受付画面G2のうち指定情報操作エリアG21に読み出した文書データを表示する。尚、編集対象の文書データは表示オブジェクト記憶領域132に保存されている複数の文書データの中からユーザによって選択されたものである。
(ステップST33)
表示制御部122は、情報受付画面G2のうち属性操作エリアG22に属性アイコンZ21〜Z26を表示する。また、表示制御部122は情報受付画面G2に所定のワーク表示エリアG24を表示する。
(ステップST34)
これにより、図12に示すような情報受付画面G2がタッチパネル101の操作画面に表示される。操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づき、属性アイコンZ21〜Z26のいずれかに対してユーザの接触操作がなされたか否かを判定する。操作内容判定部121がユーザの接触操作を検出した場合、表示制御122は指アイコンQ1、Q2を情報受付画面G2に重畳して表示する。
(ステップST35)
操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づき、属性操作エリアG22に対するユーザの接触操作がなされたと判定した場合、ユーザの指の接触位置に基づき、属性アイコンZ21〜Z26のうちのいずれの属性アイコンがユーザにより指示されたか判定する。その後、操作内容判定部121はユーザにより指示された属性アイコンが示す属性が設定されたことを判定する。例えば、ユーザが指で属性アイコンZ21に接触操作すると、操作内容判定部121は属性「太字」がユーザにより設定されたと判定する。ユーザが指で属性アイコンZ22に接触操作すると、操作内容判定部121は属性「下線」がユーザにより設定されたと判定する。情報取得部124の属性設定部1241は、ユーザにより指示された属性アイコンZ21の属性「太字」と、属性アイコンZ22の属性「下線」とを現在設定されている属性として設定する。即ち、属性設定部1241は現在設定されている属性「太字」と属性「下線」とを示す属性情報を一時記憶領域134に記憶する。
(ステップST36)
操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づいて、指定情報操作エリアG21に表示されている表示オブジェクト領域を指定するユーザのタッチスライド操作がなされたか否かを判定する。表示制御部122は、操作内容判定部121がユーザのタッチスライド操作を検出した場合、情報受付画面G2の指定情報操作エリアG21に重畳して、ユーザの指の接触位置に指アイコンQ23を表示する。
(ステップST37)
情報取得部124の指定情報取得部1242は、ユーザにより指定された表示オブジェクトを取得する。つまり、指定情報取得部1242はユーザのタッチスライド操作により指定された表示オブジェクト領域において、文書データの中から選択された指定情報「1.○○○○○[重要]」を取得する。
(ステップST38)
アプリケーション処理部126は、ユーザにより指定された表示オブジェクト(指定情報)に対して、ユーザにより設定された属性が示す種類のテキスト編集を実行する。つまり、アプリケーション処理部126は文書データの「1.○○○○○[重要]」部分について、文字フォントを太字にするとともに、文字列に下線を引くテキスト編集を実行する。表示制御部124は、文書データの「1.○○○○○[重要]」部分をテキスト編集後の「1.○○○○○[重要]」(図12(b)に示すとおり、太字/下線を付加した文字列)に変更する。
(ステップST39)
ユーザによるタッチスライド操作が指定情報操作エリアG21に対して行なわれない場合、操作内容判定部121はユーザが指を属性アイコンZ21、Z22から離して、その接触操作を解除したか否かを判定する。操作内容判定部121は、ユーザによる接触操作が解除されるまで、ユーザのタッチスライド操作が行なわれたか否かの判定を繰り返す。ユーザによる接触操作が解除された場合、フローはステップST34に戻る。
(ステップST40)
ステップST34において、属性アイコンZ21〜Z26のうちいずれかを指示するユーザの接触操作が検出されない場合、操作内容判定部121はユーザによるスクロール操作を検出したか否かを判定する。
(ステップST41)
操作内容判定部121がユーザのスクロール操作を検出した場合、表示制御部122はタッチパネル101の表示部112に表示されている情報受付画面G2内の画像をユーザの指定方向にスクロールする。これにより、図11、図12に示した指定情報操作エリアG21内の文書データが切り替えられるか、指定情報操作エリアG21の領域外の画像が表示されるようになる。
(ステップST42)
ユーザによるスクロール操作が検出されない場合、操作内容判定部121はタッチパネル101の操作部111の検出結果に基づき、その他のユーザ操作がなされたか否かを判定する。例えば、ユーザがワーク表示エリアG24において入力した文字情報を指定情報操作エリアG21内のユーザの指定位置に入力したか否か判定される。
(ステップST43)
ステップST42においてその他のユーザ操作が行なわれた場合、制御部102は当該ユーザ操作に応じた処理を実行する。例えば、ユーザがワーク表示エリアG24においてキー入力操作により所望の文字列を入力すると、制御部102は入力文字列を指定情報操作エリアG21においてユーザにより指定された位置に入力する。
(ステップST44)
ステップST42においてその他のユーザ操作が検出されない場合、操作内容判定部121はタッチパネル101の操作部111の検出結果に基づき、テキスト編集アプリケーションapp3を終了するか否かを判定する。
(ステップST45)
ユーザがタッチパネル101の操作部111を操作して、テキスト編集アプリケーションapp3を終了した場合、制御部102はそのアプリケーションプログラムを終了する。
このように、実施例2に係る携帯端末1Aでは、ユーザにより属性「太字」と「下線」とが設定されており、表示オブジェクト領域から指定情報「1.○○○○○[重要]」が取得された場合、当該指定情報「1.○○○○○[重要]」に対して属性「太字」と「下線」とが示すテキスト編集の種類に応じた処理を実行することができる。つまり、本実施例は指定情報として取得された編集対象(表示オブジェクト)に対して、属性に対応する種類の処理を実行することができる。これにより、ユーザは操作画面に表示されている属性アイコンや表示オブジェクトを指定することにより、属性に応じた種類の処理を実行することができる。従って、ユーザの操作性を向上することができ、また、ユーザは直感的に携帯端末1Aを操作して属性に応じた処理を所望の指定情報に対して実行することができる。
次に、本発明の実施例3に係る携帯端末1Bについて説明する。実施例3の携帯端末1Bは実施例1の携帯端末1と同様の構成(図2参照)を具備する。本実施例において、記憶部103のアプリケーション記憶領域135には、検索アプリケーションapp4が保存されている。また、記憶部103の表示オブジェクト記憶領域132には検索アプリケーションapp4の検索対象である文書データが保存されている。図14は、携帯端末1Bにおいて検索アプリケーションapp4が起動している場合にタッチパネル101に表示される情報受付画面G3を示す。制御部102が検索アプリケーションapp4のプログラムを実行して記憶部103の表示オブジェクト記憶領域132から検索対象である文書データを読み出した場合、情報受付画面G3はタッチパネル101の操作画面に表示される。
図14に示すとおり、情報受付画面G3は検索対象である文書データを表示する指定情報操作エリアG31と、所定の属性を指定する属性アイコンZ31〜Z33を表示する属性操作エリアG32と、指定情報操作エリアG31においてユーザが指定した指定情報を表示する入力操作エリアG33と、検索アプリケーションapp4のプログラム実行により入力操作エリアG33に入力された指定情報に基づく検索処理の検索結果を表示する検索結果表示エリアG34とを含む。指定情報操作エリアG31は操作画面の上部に表示されるとともに、検索結果表示エリアG34は操作画面の下部に表示される。また、入力操作エリアG33と属性操作エリアG32とは、操作画面の中央位置にそれぞれ表示される。
指定情報操作エリアG31には、ユーザによる検索対象である文書データが表示される。この文書データはメール文書を含む。図14において、指定情報操作エリアG31には文書データの一部が表示されている。属性操作エリアG32は、検索アプリケーションapp4において予め決められている属性を示す属性アイコンZ31〜Z33を表示する。属性アイコンZ31〜Z33の属性として、検索アプリケーションapp4によって実行可能な検索処理の種類が予め決められている。具体的には、属性アイコンZ31は属性「テキスト」を示し、検索対象の文書データから指定情報に対応付けられるテキスト情報を検索する処理を実行する操作アイコンである。属性アイコンZ32は属性「類似」を示し、検索対象の文書データから指定情報に対応付けられる類似情報を検索する処理を実行する操作アイコンである。属性アイコンZ33は属性「画像」を示し、検索対象の文書データから指定情報に対応付けられる画像情報を検索する処理を実行する操作アイコンである。
次に、図15を参照して、ユーザが検索処理を実行するときの操作手順及び処理について説明する。図15(a)に示すとおり、情報受付画面G3がタッチパネル101の操作画面に表示されており、ユーザが指で属性アイコンZ31に接触操作すると、操作内容判定部121はユーザの接触操作を検出し、表示制御部122は属性アイコンZ31に重畳して指アイコンQ31を表示する。つまり、指アイコンQ31はユーザの接触操作が検出された位置に表示される。具体的には、ユーザは右手の親指で属性アイコンZ31に接触しその接触操作を維持する。これにより、制御部102の属性設定部1241は操作内容判定部121の判定結果に基づき、属性アイコンZ31が示す属性「テキスト」を指定情報に対応付ける属性として設定する。属性設定部1241は、現在設定されている属性「テキスト」を示す属性情報を一時記憶領域134に記憶する。表示制御部122は、検索結果表示エリアG34の左上部に現在設定されている属性「テキスト」を示すタブTb3を表示する。
ユーザは属性アイコンZ31を右手の親指で接触操作したまま、例えば、指定情報操作エリアG31に表示されている文字列「遠隔ロック」を右手の人差し指(或いは、中指)でタッチスライド操作すると、操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は文字列「遠隔ロック」に重畳して指アイコンQ32を表示する。表示制御部122は、図15(a)に示すとおり、ユーザのタッチスライド操作における指の移動方向に応じて、指アイコンQ32を移動する。これにより、制御部102の情報取得部124の指定情報取得部1242は操作内容判定部121の判定結果に基づいて、ユーザがタッチスライド操作で指定した表示オブジェクト領域に相当する文字列「遠隔ロック」を指定情報として取得する。このとき、表示制御部122は文字列「遠隔ロック」が指定情報操作エリアG31から入力操作エリアG33に移動するときに表示されるアニメーション画像を情報受付画面G3に重畳して表示するようにしてもよい。ここで、図8に示したアニメーション画像を適用してもよい。図15(b)に示すとおり、表示制御部122はユーザにより指定情報として取得された文字列「遠隔ロック」を入力操作エリアG33の入力フィールドに表示する。
このように、ユーザにより属性「テキスト」が設定されており、表示オブジェクト領域から指定情報「遠隔ロック」が取得された場合、情報管理部125は属性「テキスト」に指定情報「遠隔ロック」を対応付けてアプリケーション処理部126に出力する。アプリケーション処理部126は、記憶部103に記憶されている検索対象情報、或いは、外部サーバ5に格納されている検索対象情報から、指定情報「遠隔ロック」に対応付けられるテキスト情報を取得する検索処理を実行する。例えば、アプリケーション処理部126は検索対象情報から指定情報「遠隔ロック」を含む文書データや、指定情報「遠隔ロック」の意味を説明するサイト情報を検索結果として得る。表示制御部122はアプリケーション処理部126の検索処理により得られた検索結果を検索結果表示エリア34に表示する。
実施例3に係る携帯端末1Bは、ユーザにより属性「テキスト」が設定されており、表示オブジェクト領域から指定情報「遠隔ロック」が取得された場合、指定情報「遠隔ロック」に基づき、属性「テキスト」が示す検索処理の種類に応じた検索処理(テキスト検索)を実行することができる。つまり、携帯端末1Bは指定情報として取得された処理対象(表示オブジェクト)に対して属性として設定された種類の処理を実行することができる。ユーザは操作画面に表示されている属性アイコンや表示オブジェクトを指定することにより、属性に応じた種類の処理を実行することができる。従って、ユーザの操作性を向上することができ、また、ユーザは直感的に携帯端末1Bを操作して属性に応じた処理を所望の指定情報に基づいて実行することができる。
次に、本発明の実施例4に係る携帯端末1Cについて説明する。図16は、携帯端末1Cの構成を示すブロック図である。図16において、図2と同一の構成部分には同一の符号を付し、その説明を省略する。実施例4に係る携帯端末1Cは、実施例1に係る携帯端末1に具備される情報取得部124と情報管理部125とに代えて、情報入力部128と判定部とを具備する。また、記憶部103のアプリケーション記憶領域135には検索アプリケーションapp5が保存されている。記憶部103の表示オブジェクト記憶領域132には検索アプリケーションapp5による検索対象の文書データが保存されている。
タッチパネル101の操作画面に表示されている入力欄がユーザによって指定されており、検索対象の文書データの一部が指定された場合、情報入力部128は指定された文書データの一部を指定情報として受け付ける。つまり、情報入力部128は検索アプリケーションapp5のプログラムが実行される入力情報として指定情報を入力する。判定部129は、情報入力部128で受け付けた指定情報の形態種別を判定し、その判定結果をアプリケーション処理部126へ出力する。判定部129は、入力された指定情報がテキストデータであるか、或いは、画像データであるかを判定する。
アプリケーション処理部126は、操作内容判定部121の判定結果に基づき、記憶部103のアプリケーション記憶領域135に記憶されている検索アプリケーションapp5を読み出してそのプログラムを実行する。実施例4に係る携帯端末1Cでは、アプリケーション処理部126は検索処理部として機能する。アプリケーション処理部126は、判定部129の判定結果に基づいて、予め決められた種類の検索処理を実行する。例えば、判定部129によって指定情報がテキストデータであると判定された場合、アプリケーション処理部126は検索対象情報から指定情報に対応付けられたテキスト情報を検索する。判定部129によって指定情報が画像データであると判定された場合、アプリケーション処理部126は検索対象情報から指定情報に対応付けられた画像情報を検索する。
図17は、携帯端末1Cにおいて検索アプリケーションapp5が起動している場合にタッチパネル101に表示される情報受付画面G4を示す。携帯端末1Cにおいて検索アプリケーションapp5のプログラムが実行され、制御部102が検索対象である文書データを記憶部103の表示オブジェクト記憶領域132から読み出した場合、情報受付画面G4がタッチパネル101の操作画面に表示される。
図17に示すとおり、情報受付画面G4は検索対象である文書データを表示する指定情報操作エリアG41と、検索対象である文書データのうちユーザにより指定された指定情報を受け付ける入力操作エリアG43と、検索アプリケーションapp5のプログラム実行により入力操作エリアG43に入力された指定情報に基づく検索処理の検索結果を表示する検索結果表示エリアG44とを含む。指定情報操作エリアG41は操作画面の上部に表示され、検索結果表示エリアG44は操作画面の下部に表示される。また、入力操作エリアG43は指定情報操作エリアG41と検索結果表示エリアG44との中間位置に表示される。指定情報操作エリアG41には検索対象である文書データが表示される。この文書データは、メール文書を含む。図17において、指定情報操作エリアG41に表示されている画像は文書データの一部である。入力操作エリア43は、検索処理の検索キーとなる指定情報を入力する入力欄F1と、入力欄F1の指定情報に基づき検索処理を実行する検索アイコンF2とを含む。
次に、図18を参照して検索処理を実行するときの操作手順及び処理について説明する。図18(a)に示すとおり、情報受付画面G4がタッチパネル101の操作画面に表示されており、ユーザが入力操作エリアG43の入力欄F1に接触操作すると、操作内容判定部121はユーザの接触操作を検出し、表示制御部122は入力欄F1に重畳して指アイコンQ41を表示する。つまり、指アイコンQ41はユーザの接触操作が検出された位置に表示される。具体的には、ユーザは右手の親指で入力欄F1に接触してその接触操作を維持する。
ユーザは入力欄F1を右手の親指で接触操作したまま指定情報操作エリアG41に表示されている文字列「遠隔ロック」を右手の人差し指(或いは、中指)でタッチスライド操作すると、操作内容判定部121はユーザのタッチスライド操作を検出し、表示制御部122は文字列「遠隔ロック」に重畳して指アイコンQ42を表示する。表示制御部122は、図18(a)に示すように、ユーザのタッチスライド操作における指の移動方向に応じて、指アイコンQ42を移動する。これにより、制御部102の情報入力部128は操作内容判定部121の判定結果に基づいて、ユーザのタッチスライド操作により指定された表示オブジェクト領域に対応付けられた文字列「遠隔ロック」を受け付ける。つまり、情報入力部128はユーザにより指定された検索対象の文書データの一部である文字列「遠隔ロック」を指定情報として取得する。
このとき、表示制御部122はユーザにより指定された文字列「遠隔ロック」が指定情報操作エリアG41から入力操作エリアG43の入力欄F1に移動するときに表示されるアニメーション画像を情報受付画面G4に重畳して表示するようにしてもよい。ここで、図8に示したアニメーション画像を適用することができる。表示制御部122は、図18(b)に示すとおり、ユーザにより指定情報として取得された文字列「遠隔ロック」を入力操作エリアG43の入力欄F1に表示する。
このように、ユーザが入力欄F1を利用して表示オブジェクト領域から指定情報「遠隔ロック」を取得した場合、情報入力部128は当該指定情報「遠隔ロック」をアプリケーション処理部126に出力する。アプリケーション処理部126は、指定情報「遠隔ロック」に基づき、記憶部103に記憶されている検索対象情報、或いは、外部サーバ5に格納されている検索対象情報から指定情報「遠隔ロック」に対応付けられたテキスト情報又は画像情報を取得する検索処理を実行する。例えば、アプリケーション処理部126は検索対象情報から指定情報「遠隔ロック」を含む文書データや、指定情報「遠隔ロック」の意味を説明するサイト情報を検索結果として取得する。表示制御部122は、アプリケーション処理部126の検索処理により得られた検索結果を検索結果表示エリアG44に表示する。
次に、図19を参照して実施例4に係る携帯端末1Cの基本的な処理について説明する。
(ステップST51)
初めに、ユーザはタッチパネル101の操作部111を操作して、検索アプリケーションapp5を起動する。携帯端末1Cの制御部102のアプリケーション処理部126は、記憶部103のアプリケーション記憶領域135から検索アプリケーションapp5のプログラムを読み出して実行する。
(ステップST52)
アプリケーション処理部126は、検索アプリケーションapp5に従って記憶部103の表示オブジェクト記憶領域132から検索対象の文書データを読み出し、図17に示すような情報受付画面G4をタッチパネル101の表示部112に表示する。つまり、表示制御部122は情報受付画面G4のうち指定情報操作エリアG41に読み出した文書データを表示する。検索対象の文書データは、表示オブジェクト記憶領域132に保存されている複数の文書データからユーザによって指定されたものである。
(ステップST53)
表示制御部122は、情報受付画面G4のうち入力操作エリア43に入力欄F1と検索アイコンF2とを表示する。また、表示制御部122は情報受付画面G4に検索結果表示エリアG44を表示する。
(ステップST54)
図17に示すような情報受付画面G4がタッチパネル101の操作画面に表示されている。操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づいて、ユーザが入力欄F1に対して接触操作したか否かを判定する。操作内容判定部121がユーザの接触操作を検出すると、表示制御部122は指アイコンQ41を情報受付画面G4の入力欄F1に重畳して表示する。
(ステップST55)
操作内容判定部121は、タッチパネル101の操作部111の検出結果に基づいて、ユーザが指定情報操作エリアG41の表示オブジェクト領域にタッチスライド操作を行なったか否かを判定する。操作内容判定部121がユーザのタッチスライド操作を検出すると、表示制御部122はユーザの指の接触位置に指アイコンQ42を情報受付画面G4の指定情報操作エリアG41に重畳して表示する。
(ステップST56)
情報入力部128は、ユーザにより指定された表示オブジェクトを取得する。つまり、情報入力部128はユーザのタッチスライド操作により指定された表示オブジェクト領域において、文書データから指定情報「遠隔ロック」を取得する。
(ステップST57)
表示制御部122は指定情報「遠隔ロック」が指定情報操作エリアG41から入力操作エリア43の入力欄F1に移動するときに表示されるアニメーション画像を情報受付画面G4に重畳して表示する。ここで、指定情報操作エリアG41から入力操作エリアG43の入力欄F1に移動する際、指定情報「遠隔ロック」の画像が徐々に拡大され、その後、次第に縮小されるように表示される。
(ステップST58)
表示制御部122は、入力操作エリアG43の入力欄F1に表示する。
(ステップST59)
ステップST55においてユーザのタッチスライド操作が検出されない場合、操作内容判定部121はユーザの指が入力欄F1から離されて、接触操作が解除されたか否かを判定する。操作内容判定部121は、ユーザの接触操作が解除されるまで、タッチスライド操作が検出されたか否かの判定を繰り返す。ユーザの接触操作が解除されると、フローはステップST54に戻る。
(ステップST60)
ステップST54において入力欄F1に対するユーザの接触操作を検出しない場合、操作内容判定部121はユーザのスクロール操作を検出したか否かを判定する。
(ステップST61)
操作内容判定部121がユーザのスクロール操作を検出すると、表示制御部122はタッチパネル101の表示部112に表示されている情報受付画面G4内の画像をユーザの指定方向にスクロールする。これにより、指定情報操作エリアG41に表示される文書データが切り替えられたり、指定情報操作エリアG41の領域外の画像が表示されたりする。
(ステップST62)
ステップST60においてユーザのスクロール操作が検出されない場合、操作内容判定部121はタッチパネル101の操作部111の検出結果に基づいて、ユーザが検索アイコンF2に接触操作したか否かを判定する。
(ステップST63)
検索アイコンF2に対するユーザの接触操作が検出されると、判定部129は情報入力部128で受け付けた指定情報の形態種別を判定し、その判定結果をアプリケーション処理部126へ出力する。ここで、指定情報「遠隔ロック」はテキストデータであるため、当該テキストデータを示す指定情報の形態種別がアプリケーション処理部126に出力される。
(ステップST64)
アプリケーション処理部126は、判定部129の判定結果に基づいて、検索処理の種類(即ち、検索方法)を決定する。ここでは、テキストデータという形態種別に基づいて、アプリケーション処理部126はテキスト検索を実行することを決定する。また、アプリケーション処理部126はテキスト検索の検索方法として予め決められている検索方法(例えば、インターネットを介した検索方法)を実行することを決定する。
(ステップST65)
アプリケーション処理部126は、無線通信部108を介して、インターネット4で接続されるサーバ5に指定情報「遠隔ロック」を検索キーとする検索処理の実行要求を送信する。
(ステップST66)
その後、無線通信部108はサーバ5からインターネット4を介して検索結果を受信して、アプリケーション処理部126へ出力する。アプリケーション処理部126は、検索結果を検索結果表示エリアG44に表示するように表示制御部122に指示する。これにより、検索結果が検索結果表示エリアG44に表示される。
(ステップST67)
ステップST62において検索アイコンF2に対するユーザの接触操作が一定時間以内に行なわれなかったことを検出すると、操作内容判定部121はタッチパネル101の操作部111の検出結果に基づいて、検索アプリケーションapp5を終了するか否かを判定する。
(ステップST68)
ユーザがタッチパネル101の操作部111を操作して、検索アプリケーションapp5を終了させると、制御部102はアプリケーションプログラムの実行を終了する。
実施例4に係る携帯端末1Cにおいて、ユーザにより入力欄F1が指定されており、表示オブジェクト領域から指定情報「遠隔ロック」が取得された場合、制御部102は指定情報「遠隔ロック」に対して検索処理を実行する。つまり、ユーザは操作画面に表示されている属性アイコンや表示オブジェクトを指定することにより、所望の属性に応じた種類の処理を実行することができる。これにより、ユーザの操作性を向上することができ、また、ユーザは直感的に携帯端末1Cを操作して属性に応じた処理を所望の指定情報に基づいて実行することができる。
本発明は上記の実施例1乃至実施例4に限定されるものではない。上記の実施例に係る携帯無線端末1(或いは、携帯端末1A、1B、1C)ではタッチパネル101に操作部111と表示部112とを具備したが、これに限定されるものではない。例えば、携帯端末1の表示部112をタッチセンサを搭載しないディスプレイとし、操作部111としてマウス、キーボード、スイッチなどの操作手段を適用してもよい。また、実施例1の携帯端末1に適用した家計簿情報取得アプリケーションapp1と家計簿管理アプリケーションapp2とを同一のプログラムで実行される1つのアプリケーションとしてもよい。或いは、家計簿情報取得アプリケーションapp1は携帯端末1に予めインストールされているプログラムとしてもよい。
上記の実施例に係る携帯端末1では、タッチパネル101上においてユーザの指の接触位置に指アイコンを表示するようにて、ユーザは自身の接触操作を視覚的に把握することができるものとしたが、これに限定されるものではない。例えば、タッチパネル101上のユーザの指の接触位置(或いは、近接位置)を示す指アイコン、ユーザのタッチスライド操作やフリック操作を示すアイコン表示を省略してもよい。これにより、携帯端末1における表示制御の処理負荷を軽減することができる。或いは、指アイコンを表示せずに、ユーザが指定した表示オブジェクト領域や、当該表示オブジェクト領域に含まれるテキストデータや図表データに網掛け(ハッチング)や半透明の色を付加したり、文字の色や図表の色を変えるなどの操作画面上の視覚効果処理を施しても良い。
上記の実施例に係る携帯端末1は本発明の情報処理装置の一例であり、内部にコンピュータシステムを搭載している。このため、上述の操作手順や処理をプログラムとしてコンピュータ読取り可能な記録媒体に記憶してもよい。この場合、コンピュータシステムは記録媒体からプログラムを読み出して実行することにより、上述の操作手順や処理を実行することができる。尚、「コンピュータシステム」とはCPU、メモリ、周辺機器などのハードウェアのみならず、OS(Operating System)などのソフトウェアを含む。「コンピュータシステム」がWWWシステムを利用している場合には、ホームページ提供環境(或いは、ホームページ表示環境)を含むようにしてもよい。
上述のフローチャートの各ステップを実現するためのプログラムをコンピュータ読取り可能な記録媒体に記録してもよく、また、上記の実施例の機能を実現するためのプログラムをコンピュータ読取り可能な記録媒体に記録してもよい。この場合、記録媒体に記録されたプログラムをコンピュータシステムに読み込んで実行することにより、検出対象物(例えば、ユーザの指やスタイラスペンなど)の形状の推定値を算出するようにしてもよい。尚、「コンピュータ読取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリなどの書込可能な不揮発性メモリ、CD−ROMなどの可搬媒体、コンピュータシステムに内蔵されるハードディスクなどの記憶装置をいう。
また、「コンピュータ読取り可能な記録媒体」は、インターネットなどのネットワークや電話回線及び通信回線を介してプログラムを送信することができるサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えば、DRAM)のように一定時間プログラムを保持することができる記憶手段を含む。上記のプログラムをコンピュータシステムの記憶装置に格納し、その後、当該プログラムを伝送媒体を介して、或いは、伝送媒体を伝搬する伝送波により他のコンピュータシステムに伝送するようにしてもよい。上記のプログラムを伝送する「伝送媒体」は、インターネットなどのネットワーク(通信網)、電話回線、通信回線のように情報伝送機能を有する媒体のことをいう。また、上記のプログラムは前述の機能の一部を実現するものであってもよい。更に、上記のプログラムはコンピュータシステムの既に記録されているプログラムと組み合わせて前述の機能を実現するような差分ファイル(差分プログラム)としてもよい。
本発明は、携帯端末やスマートフォンなどの情報処理装置に適用して所望の画像を取り込んでその内容の解析処理や編集・検索処理を高いユーザ操作性で実現することができる。特に、携帯端末で取り込んだ画像から所望の属性に対応付けられる指定情報を簡単なユーザ操作で編集・検索処理を行なうことができる。本発明では、ユーザは複雑な操作手順を覚える必要がなく、直感的な操作で容易に画像の取り込み、解析処理、及び編集・検索処理を行なうことができるので、タッチパネル形式の情報処理装置に広く適用することができる。
1、1A、1B、1C 携帯端末
101 タッチパネル
102 制御部
103 記憶部
104 カメラ
105 カメラ制御部
106 画像処理部
107 画像解析部
108 無線通信部
109 音声信号処理部
110 計時部
111 操作部
112 表示部
121 操作内容判定部
122 表示制御部
123 登録部
124 情報取得部
125 情報管理部
126 アプリケーション処理部
127 音声制御部
128 情報入力部
129 判定部
131 カメラ画像記憶領域
132 表示オブジェクト記憶領域
133 プログラム記憶領域
134 一時記憶領域
135 アプリケーション記憶領域
136 指定情報記憶領域
137 指定情報データベース
1241 属性設定部
1242 指定情報取得部

Claims (15)

  1. タッチパネルを搭載する情報処理装置であって、
    操作画面を表示する表示部と、
    前記操作画面におけるユーザ操作を受け付ける操作部と、
    前記操作画面上の表示オブジェクト領域から指定情報を取得する情報取得部と、
    予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理する情報管理部とを具備する情報処理装置。
  2. 前記表示部を制御して、所望の指定情報を指定するユーザ操作を受け付ける指定情報操作エリアと、所望の属性を設定するユーザ操作を受け付ける属性操作エリアとを前記操作画面に表示する表示制御部と、
    前記操作部による前記操作画面上のユーザ操作の検出結果に基づいて、当該ユーザ操作の指示内容を判定する操作内容判定部とを更に具備し、
    前記属性操作エリアにおけるユーザ操作により所望の属性が設定されており、かつ、前記指定情報操作エリアにおけるユーザ操作により所望の指定情報が指定された場合、前記情報管理部は前記属性操作エリアの属性と前記指定情報操作エリアの指定情報とを対応付けて管理するようにした請求項1記載の情報処理装置。
  3. 前記表示操作部は、前記情報取得部により取得された指定情報を転記するキャプチャデータ表示エリアを前記操作画面に表示するよう前記表示部を制御するとともに、指定情報が前記指定情報操作エリアから前記キャプチャデータ表示エリアに移動するようなアニメーション画像を前記操作画面に表示するよう前記表示部を制御するようにした請求項2記載の情報処理装置。
  4. ユーザにより起動されたアプリケーションプログラムを実行して属性に応じた処理を指定情報に対して実施するアプリケーション処理部を更に具備した請求項1記載の情報処理装置。
  5. 前記アプリケーション処理部により家計簿管理アプリケーションプログラムが実行される場合、前記操作画面の表示オブジェクト領域には属性に相当する支払項目と指定情報に相当する支払金額とが表示されており、前記情報管理部は属性として設定された支払項目と情報取得部により指定情報として取得された支払金額とを対応付けて管理するようにした請求項4記載の情報処理装置。
  6. 前記アプリケーション処理部により実行される処理の種類を示す属性が設定される場合、前記情報管理部は処理の種類を示す属性と情報取得部により取得された指定情報とを対応付けて管理するようにした請求項4記載の情報処理装置。
  7. 前記アプリケーション処理部はテキスト編集アプリケーションプログラムを実行するものであり、属性としてテキスト編集項目が設定されており、当該テキスト編集項目について前記情報取得部が指定情報として取得したテキストデータを編集するようにした請求項6記載の情報処理装置。
  8. 前記テキスト編集項目として、テキストデータの書式、文字形状、フォント、文字色、文字サイズ、回転角度のうち少なくとも1つを適用するようにした請求項7記載の情報処理装置。
  9. 前記アプリケーション処理部は、テキスト編集アプリケーションプログラムに従ってテキストデータの一部を指定情報として一時的に保存するようにした請求項7記載の情報処理装置。
  10. 前記情報取得部は、前記操作画面の表示オブジェクト領域に含まれる文字情報又は図形情報を指定情報として取得するようにした請求項7記載の情報処理装置。
  11. タッチパネルを搭載する情報処理装置であって、
    操作画面を表示する表示部と、
    前記操作画面におけるユーザ操作を受け付ける操作部と、
    前記表示部を制御して、所望の指定情報を指定するユーザ操作を受け付ける指定情報操作エリアと、ユーザによる情報入力操作を受け付ける入力操作エリアと、所望の属性を設定するユーザ操作を受け付ける属性操作エリアとを前記操作画面に表示する表示制御部と、
    前記操作部による前記操作画面上のユーザ操作の検出結果に基づいて、当該ユーザ操作の指示内容を判定する操作内容判定部と、
    前記指定情報操作エリアにおけるユーザ操作により所望の指定情報が指定されており、かつ、ユーザが前記入力操作エリアに対して情報入力操作を行なった場合、指定情報を前記入力操作エリアに転記する情報入力部とを具備した情報処理装置。
  12. 検索アプリケーションプログラムに従って、指定情報を検索キーとして前記指定情報操作エリアに表示された検索対象情報について検索処理を実行する検索処理部を更に具備した請求項11記載の情報処理装置。
  13. 前記指定情報操作エリアに表示された検索対象情報の種別を判定する判定部を更に具備し、前記検索処理部は前記判定部の判定結果に応じて検索対象情報について検索処理を実行するようにした請求項12記載の情報処理装置。
  14. タッチパネルを搭載する情報処理装置に適用される情報処理方法であって、
    前記タッチパネルに表示された操作画面に対するユーザ操作を受け付け、
    前記操作画面上の表示オブジェクト領域から指定情報を取得し、
    予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理するようにした情報処理方法。
  15. ユーザ操作に連動する情報処理機能を実現するコンピュータに適用されるプログラムであって、
    操作画面に対するユーザ操作を受け付け、
    前記操作画面上の表示オブジェクト領域から指定情報を取得し、
    予めユーザにより所望の属性が設定されていた場合、当該属性と指定情報とを対応付けて管理するよう前記コンピュータを制御するプログラム。
JP2013533652A 2011-09-16 2012-09-10 情報管理編集機能を備えた情報処理装置 Pending JPWO2013039025A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013533652A JPWO2013039025A1 (ja) 2011-09-16 2012-09-10 情報管理編集機能を備えた情報処理装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011202865 2011-09-16
JP2011202865 2011-09-16
JP2013533652A JPWO2013039025A1 (ja) 2011-09-16 2012-09-10 情報管理編集機能を備えた情報処理装置

Publications (1)

Publication Number Publication Date
JPWO2013039025A1 true JPWO2013039025A1 (ja) 2015-03-26

Family

ID=47883255

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013533652A Pending JPWO2013039025A1 (ja) 2011-09-16 2012-09-10 情報管理編集機能を備えた情報処理装置

Country Status (3)

Country Link
US (1) US20140351709A1 (ja)
JP (1) JPWO2013039025A1 (ja)
WO (1) WO2013039025A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204305A (ja) * 2012-12-11 2017-11-16 東芝テック株式会社 電子レシートサーバ、電子レシート提供方法およびプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9420251B2 (en) 2010-02-08 2016-08-16 Nikon Corporation Imaging device and information acquisition system in which an acquired image and associated information are held on a display
KR102063915B1 (ko) 2013-03-14 2020-01-08 삼성전자주식회사 사용자 기기 및 그 동작 방법
JP6169904B2 (ja) * 2013-06-20 2017-07-26 シャープ株式会社 情報処理装置、プログラム
JP6474107B2 (ja) * 2013-06-28 2019-02-27 日本電気株式会社 映像監視システム、映像処理装置、映像処理方法および映像処理プログラム
KR102545768B1 (ko) * 2015-11-11 2023-06-21 삼성전자주식회사 메타 데이터를 처리하기 위한 장치 및 방법

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09146679A (ja) * 1995-11-21 1997-06-06 Nippon Telegr & Teleph Corp <Ntt> 情報装置および情報の入力方法
US7305129B2 (en) * 2003-01-29 2007-12-04 Microsoft Corporation Methods and apparatus for populating electronic forms from scanned documents
JP5138175B2 (ja) * 2006-04-12 2013-02-06 任天堂株式会社 文字入力プログラム、文字入力装置、文字入力システムおよび文字入力方法
JP5401962B2 (ja) * 2008-12-15 2014-01-29 ソニー株式会社 画像処理装置、画像処理方法および画像処理プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204305A (ja) * 2012-12-11 2017-11-16 東芝テック株式会社 電子レシートサーバ、電子レシート提供方法およびプログラム

Also Published As

Publication number Publication date
US20140351709A1 (en) 2014-11-27
WO2013039025A1 (ja) 2013-03-21

Similar Documents

Publication Publication Date Title
US11797149B2 (en) Method of dividing screen areas and mobile terminal employing the same
US11029838B2 (en) Touch screen device, method, and graphical user interface for customizing display of content category icons
US9189500B2 (en) Graphical flash view of documents for data navigation on a touch-screen device
US20180356955A1 (en) Mobile terminal and object change support method for the same
US8799806B2 (en) Tabbed content view on a touch-screen device
US8060825B2 (en) Creating digital artwork based on content file metadata
WO2013039025A1 (ja) 情報管理編集機能を備えた情報処理装置
US8347224B2 (en) Content viewing method, content viewing apparatus, and storage medium in which a content viewing program is stored
US8866855B2 (en) Electronic device, method of displaying display item, and search processing method
US20120240075A1 (en) Mobile terminal and method for controlling the mobile terminal
US20140160051A1 (en) Information processing device, display control method, and recording medium
US20140215336A1 (en) Methods and devices for simultaneous multi-touch input
US20120098780A1 (en) Communication device and electronic device
TW200907781A (en) Glance and click user interface
CN101689192A (zh) 基于对菜单画面的导航来限制搜索范围的方法、设备和计算机程序产品
US20120210201A1 (en) Operation method for memo function and portable terminal supporting the same
TW200845710A (en) Multi-state unified pie user interface
CN108604154B (zh) 基于手势显示图形用户界面的方法及电子设备
WO2023078286A1 (zh) 一种视频显示方法、装置、电子设备和可读存储介质
CN112765500A (zh) 信息搜索方法及装置
WO2023093590A1 (zh) 显示控制方法、装置、电子设备及介质
JP5398555B2 (ja) 装置、装置の制御方法
AU2012100655A4 (en) Touch screen device, method, and graphical user interface for determining commands by applying heuristics
WO2016119453A1 (zh) 一种在文本中插入多媒体对象的方法、装置及终端
MX2013009267A (es) Metodo de operacion para la funcion de recordatorio y terminal portatil que soporta el mismo.