JP2023071227A - 情報処理装置、情報処理装置の制御方法及びプログラム - Google Patents

情報処理装置、情報処理装置の制御方法及びプログラム Download PDF

Info

Publication number
JP2023071227A
JP2023071227A JP2021183851A JP2021183851A JP2023071227A JP 2023071227 A JP2023071227 A JP 2023071227A JP 2021183851 A JP2021183851 A JP 2021183851A JP 2021183851 A JP2021183851 A JP 2021183851A JP 2023071227 A JP2023071227 A JP 2023071227A
Authority
JP
Japan
Prior art keywords
image
information
message
identifying
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021183851A
Other languages
English (en)
Inventor
要 會澤
Kaname Aizawa
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021183851A priority Critical patent/JP2023071227A/ja
Publication of JP2023071227A publication Critical patent/JP2023071227A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Facsimiles In General (AREA)

Abstract

【課題】チャットサービスに対して加筆修正した帳票画像を加筆修正前の帳票が投稿されているスレッドへ自動で投稿することができない。【解決手段】スレッドで管理するチャットサービスに画像及び情報を含むメッセージを投稿する情報処理装置であって、画像を識別するための情報を該画像を解析することにより生成する生成手段と、前記サービスに投稿されたメッセージを取得する取得手段と、前記取得したメッセージに前記生成された画像を識別するための情報が含まれているか判断する判断手段と、前記判断手段が前記生成された画像を識別するための情報が含まれているメッセージを検出した場合、前記画像及び画像を識別するための情報を含むメッセージを前記チャットサービスの前記検出されたメッセージが含まれるスレッドに送信する送信手段とを有することを特徴とする。【選択図】図5

Description

本発明は、ビジネスチャット等のクラウドサービスに文書データを送信する技術に関する。
従来、MFP(Multifunction Peripheral)等の情報処理装置において、文書をスキャンして得られた画像データをファイル化し、ネットワーク上のクラウドサービスに送信するシステムがある。また、スキャンした画像の情報を基に送信先や格納先を振り分ける方法がある。特許文献1には、チャット機能を有するサービスに対してスキャン画像からキーワードを抽出し、送信先を自動的に判断しスキャン画像を含んだメッセージを送信する技術が開示されている。
特開2014-241111号公報
また、話題ごとにスレッドを分けて投稿することができる機能を有するチャットサービスが存在する。これを利用し確認が必要な帳票に対して帳票ごとにスレッドを分け、他の人に帳票の確認依頼を行い修正点があった場合、修正後再度同一スレッドにアップロードするケースがある。また帳票の承認依頼を承認依頼者がスレッド上で行い、承認者が承認印や署名を追記後、元のスレッドにアップロードするケースもある。これらのケースにおいて、複数の帳票のスレッドがチャット内に存在するとき、利用者は以前投稿したスレッドを探し加筆修正した帳票をアップロードしなければならない。
上記特許文献1の技術は、スキャン画像から名詞等をキーワードとして抽出し、送信対象に対して過去に投稿したテキストメッセージから前記キーワードを検索し、類似度を計算することで送信先を決定している。このため、スレッドの送信先の決定に用いるには、1つ1つのスレッドが事前に十分なメッセージ数の投稿がされていないと類似度を計算することができず、正しいスレッドに送信することはできない。しかし帳票の確認依頼や承認依頼のスレッドは、依頼するメッセージや修正点を述べたメッセージのみの短いスレッドになることが多くみられる。
そこで、本発明は、チャットサービスに対して送信された帳票画像を加筆修正した画像が同一スレッドで管理されるように、修正した帳票画像の送信先スレッドを自動で決定する仕組みを提供することを目的とする。
本発明は、スレッドで管理するチャットサービスに画像及び情報を含むメッセージを投稿する情報処理装置であって、画像を識別するための情報を該画像を解析することにより生成する生成手段と、前記サービスに投稿されたメッセージを取得する取得手段と、前記取得したメッセージに前記生成された画像を識別するための情報が含まれているか判断する判断手段と、前記判断手段が前記生成された画像を識別するための情報が含まれているメッセージを検出した場合、前記画像及び画像を識別するための情報を含むメッセージを前記チャットサービスの前記検出されたメッセージが含まれるスレッドに送信する送信手段とを有することを特徴とする。
本発明によれば、加筆修正した帳票画像を加筆修正前の帳票が投稿されているスレッドへ自動で決定する仕組みが提供可能となる。
本システムの全体構成を示す図。 MFPのハードウェア構成図。 クライアントPC及びMFP連携サービスのハードウェア構成図。 本システムのソフトウェア構成図。 各機器間の処理の流れを示すシーケンス図。 MFP又はクライアントPCが表示する画面の例を示す図。 MFP又はクライアントPCが表示する画面の例を示す図。 画像処理部が行う画像解析処理のフローチャート。 解析結果保存処理で保存するデータ構造の一例を示す図。 チャットサービスのメッセージを表示する画面の例を示す図。 送信先判断部が行う送信先スレッドの判断処理のフローチャート。 チャットサービスのメッセージを表示する画面の例を示す図。 チャットサービスのメッセージを表示する画面の例を示す図。
以下、本発明を実施するための形態について図面を用いて説明する。なお、以下の実施の形態は特許請求の範囲に係る発明を限定するものでなく、また実施の形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。
(第1実施形態)
[システム構成]
図1は、本システムの全体構成を示す図である。情報処理システムは、MFP(Multifunction Peripheral)110、クライアントPC111、MFP連携サービス120およびチャットサービス130を含む。MFP110及びクライアントPC111は、LAN(Local Area Network)経由でインターネット上の各種サービスを提供する各種装置に対して通信可能に接続されている。
MFP110は、スキャナやプリンタといった複数の機能を有する複合機であり、画像処理装置の一例である。
クライアントPC111は、インターネットを介してクラウドサービスの提供を受けることが可能な、デスクトップ端末やモバイル端末等の情報処理装置である。
MFP連携サービス120は、MFP110から受け取ったスキャン画像に対し画像解析を行ったり、別のサービスに対しMFP110からのリクエストを転送したりする機能を持つサービスの一例である。
チャットサービス130は、インターネットを介して、コミュニティ間でメッセージを送受信することができ情報共有を行うことができるコミュニケーションツールを提供する。またメッセージにはファイルを添付することができ、一連のメッセージをスレッドとして管理する。
本実施形態の情報処理システムは、MFP110、クライアントPC111、MFP連携サービス120及びチャットサービス130からなる構成としているがこれに限定されない。例えば、MFP110がクライアントPC111やMFP連携サービス120の役割を兼ね備えてもよい。また、MFP連携サービス120はインターネット上ではなくLAN上に配置されていてもよい。
[MFPのハードウェア構成]
図2は、MFP110のハードウェア構成図である。MFP110は、制御部210、操作部220、プリンタ部221、スキャナ部222、モデム223で構成される。
制御部210は、以下の各部211~219で構成され、MFP110全体の動作を制御する。
CPU211は、ROM212に記憶された制御プログラムを読み出して、読取/印刷/通信などMFP110が有する各種機能を実行・制御する。
RAM213は、CPU211の主メモリ、ワークエリア等の一時記憶領域として用いられる。なお、本実施例では1つのCPU211が1つのメモリ(RAM213又はHDD214)を用いて後述のフローチャートに示す各処理を実行するものとするが、これに限定されない。例えば、複数のCPUや複数のRAM又はHDDを協働させて各処理を実行してもよい。
HDD214は、画像データや各種プログラムを記憶する大容量記憶部である。
操作部I/F215は、操作部220と制御部210とを接続するインタフェースである。
操作部220には、タッチパネルやキーボードなどが備えられており、ユーザによる操作/入力/指示を受け付ける。
プリンタI/F216は、プリンタ部221と制御部210とを接続するインタフェースである。印刷用の画像データはプリンタI/F216を介して制御部210からプリンタ部221へ転送され、記録媒体上に印刷される。
スキャナI/F217は、スキャナ部222と制御部210とを接続するインタフェースである。
スキャナ部222は、不図示の原稿台やADF(Auto Document Feeder)にセットされた原稿を読み取ってスキャン画像データを生成し、スキャナI/F217を介して制御部210に入力する。MFP110は、スキャナ部222で生成された画像データをプリンタ部221から印刷出力(コピー)する他、ファイル送信又はメール送信することができる。
モデムI/F218は、モデム223と制御部210とを接続するインタフェースである。
モデム223は、PSTN上のファクシミリ装置との間で画像データをファクシミリ通信する。
ネットワークI/F219は、制御部210(MFP110)をLANに接続するインタフェースである。MFP110は、ネットワークI/F219を用いて、インターネット上の各サービスに画像データや情報を送信したり、各種情報を受信したりする。
以上説明したMFP110のハードウェア構成は一例であり、必要に応じてその他の構成を備えるものであってもよいし、一部の構成を有していなくてもよい。
[クライアントPC、MFP連携サービスのハードウェア構成]
図3は、クライアントPC111及びMFP連携サービス120のハードウェア構成図である。クライアントPC111及びMFP連携サービス120は、CPU311、ROM312、RAM313、HDD314及びネットワークI/F315で構成される。
CPU311は、ROM312に記憶された制御プログラムを読み出して各種処理を実行することで、全体の動作を制御する。
RAM313は、CPU311の主メモリ、ワークエリア等の一時記憶領域として用いられる。
HDD314は、画像データや各種プログラムを記憶する大容量記憶部である。
ネットワークI/F315は、クライアントPC111又はMFP連携サービス120をインターネットに接続するインタフェースである。
MFP連携サービス120およびチャットサービス130は、ネットワークI/F315を介して他の装置(MFP110など)から処理リスエストを受けて各種情報を送受信する。
[情報処理システムのソフトウェア構成]
図4は、本実施形態に係る情報処理システムのソフトウェア構成図である。
(MFP)
MFP110は、ネイティブ機能部410と追加機能部420の大きく2つに分けられる。ネイティブ機能部410に含まれる各部はMFP110に標準的に備えられたものであるのに対し、追加機能部420はMFP110に追加インストールされたアプリケーションである。追加機能部420はJava(登録商標)をベースとしたアプリケーションであり、MFP110への機能追加を容易に実現できる。なお、MFP110には図示しない他の追加アプリケーションがインストールされていてもよい。
ネイティブ機能部410は、スキャン実行部411及び画像データ保存部412を有する。また、追加機能部420は、表示制御部421、スキャン指示部422、連携サービスリクエスト部423を有する。
表示制御部421は、MFP110の操作部220のタッチパネル機能を有する液晶表示部に、ユーザによる操作を受け付けるためのUI画面を表示する。例えば、MFP連携サービス120へアクセスするための認証情報の入力、スキャン設定、ならびに、スキャン開始の操作、プレビュー画面などのUI画面を表示する。
スキャン指示部422は、UI画面を介して入力されたユーザ指示に応じたスキャン設定と共にスキャン実行部411にスキャン処理を要求する。
スキャン実行部411は、スキャン指示部422からのスキャン設定を含んだスキャン要求を受け取る。スキャン実行部411は、スキャン要求に従い、スキャナI/F217を介してスキャナ部222で、原稿台ガラスに置かれた原稿を読み取ることでスキャン画像データを生成する。生成したスキャン画像データは、画像データ保存部412に送られる。スキャン実行部411は、保存したスキャン画像データを一意に示すスキャン画像識別子をスキャン指示部422へ送る。スキャン画像識別子はMFP110においてスキャンした画像をユニークに識別するための番号や記号、アルファベットなどである(不図示)。
画像データ保存部412は、スキャン実行部411から受け取ったスキャン画像データをHDD214に保存する。
スキャン指示部422は、スキャン実行部411から受け取ったスキャン画像識別子に対応するスキャン画像データを画像データ保存部412から取得する。スキャン指示部422は、取得したスキャン画像データにMFP連携サービス120で処理を行う指示を連携サービスリクエスト部423に要求する。
連携サービスリクエスト部423は、MFP連携サービス120に対して各種処理の要求を行う。例えば、ログイン、スキャン画像の解析、スキャン画像の送信などの要求を行う。MFP連携サービス120とのやり取りはRESTやSOAPなどのプロトコルを使用するが、その他の通信手段を用いてもよい。
(MFP連携サービス)
MFP連携サービス120は、リクエスト制御部431、画像処理部432、送信先判断部433、チャットサービスアクセス部434、データ管理部435、表示制御部436を有する。
リクエスト制御部431は、外部装置からの要求を受信できる状態で待機している。処理要求を受けると要求に応じて適宜、画像処理部432、送信先判断部433、チャットサービスアクセス部434、データ管理部435に処理を指示する。
画像処理部432は、画像に対して文字領域解析、解析した文字領域に対する文字認識処理(以下「OCR(Optical Character Recognition)処理」という。)、類似帳票判定(後述の図5のS507、S508、S509の処理で説明する。)、画像の回転や傾き補正などの画像に対する認識処理や画像の加工処理を行う。
送信先判断部433は、チャット内のどのスレッドに送信するか、又は新規スレッドを作成し送信先判定(後述の図5のS520)を行う。
チャットサービスアクセス部434は、チャットサービスに対する処理の要求を行う。チャットサービスは一般的にRESTやSOAPなどのプロトコルで、チャットサービスにメッセージを送信したり、投稿されているメッセージの情報を取得したりするための様々なインタフェースを公開している。チャットサービスアクセス部434は、公開されたチャットサービスのインタフェースを使用してチャットサービスの操作を行う。
データ管理部435は、MFP連携サービス120で管理するユーザ情報や各種設定データ等を保持・管理する。
表示制御部436は、インターネット経由で接続されたPCやモバイル等の別端末(不図示)上で動作しているウェブブラウザからのリクエストを受けて画面表示に必要な画面構成情報(HTML、CSS等)を返す。ユーザは、ウェブブラウザで表示される画面経由でMFP連携サービス120に登録しているユーザ情報を確認したり、スキャンする際の設定を変更したりする。
[全体の処理の流れ]
図5は、MFP110でスキャンした画像をファイル化してチャットサービスに送信する際の各装置間の処理の流れを示すシーケンス図である。ここでは、各装置間のやり取りを中心に説明する。なお、図5ではMFP110がMFP連携サービス120とやり取りを行う記載としているが、後述する解析結果取得、画面の表示、学習の指示等はMFP110でなくクライアントPC111が実行する構成でも構わない。
MFP110は、通常の状態では提供する各機能を実施するためのボタンを並べたメイン画面をタッチパネル上に表示する。
MFP110にスキャン帳票をチャットサービスに送信するための追加アプリケーション(以下「スキャンアプリ」という。)をインストールすることで、アプリケーションの機能を使用するボタンがMFP110のメイン画面(不図示)に表示される。このボタンを押すとスキャンした帳票をチャットサービスに送信するための画面が表示され、図5のシーケンスで示す処理が行われる。
(ログイン)
S501においてスキャンアプリは、MFP連携サービス120にアクセスするための認証情報を入力するログイン画面を表示する。
S502で、スキャンアプリは、入力された認証情報をMFP連携サービス120のリクエスト制御部431に送信する。
S503においてMFP連携サービス120のリクエスト制御部431は、ログイン要求に含まれるユーザ名とパスワードが正しいか検証し、正しければアクセストークンをMFP110に返す。以降のMFP110からMFP連携サービス120に対して行う各種リクエストにはこのアクセストークンと共に要求が出され、この情報により処理対象のユーザを特定することができる。ユーザ認証の方法は一般的に公知な手法(Basic認証、Digest認証、OAuthを用いた認可等)を用いて行う。
(スキャン処理)
ログイン処理が完了したら、S504でMFP110は、スキャン設定画面を表示する。各種スキャンの読み込みに関する設定を行い、原稿台ガラス又はADFにスキャンする対象の紙帳票を置き、[スキャン開始]ボタンを押すとS505でスキャンを実行して紙帳票を電子化した画像データを生成する。
(画像解析処理)
続いて、S506でスキャン処理により生成した画像とともにスキャン画像の解析要求をMFP連携サービス120に送信する。
MFP連携サービス120のリクエスト制御部431は、スキャン画像の解析要求を受信するとS507において、MFP連携サービス120の画像処理部432に画像解析を依頼する。その後、MFP連携サービス120のリクエスト制御部431は、画像解析処理の終了を待たずに、MFP連携サービス120に依頼した解析を一意に示す識別子である”processId”をMFP110に返す。
MFP連携サービス120の画像処理部432は、要求受信後、画像解析処理を行う。
まずS508で画像内に存在する文字領域の解析を行う。
続いて、S509で帳票内の文字領域の配置情報を利用して、過去にスキャンした画像の文字領域の配置情報と今回スキャンした画像の文字領域の配置情報を比較し、類似した文字領域の配置を持つ画像かどうかを判定する。この処理を類似帳票判定という。この判定で使用する過去のスキャン画像の情報は後述するS517の処理により保存、蓄積されたものである。
その後S510で判定結果に基づいて、解析した領域に対してOCR処理を行う。なお508~S510の画像解析処理の詳細については図7のフローチャートを用いて後述する。
MFP110は、S511でS506のレスポンスで受け取った”processId”を使用してMFP連携サービス120に定期的(例えば数百ミリ秒から数ミリ秒程度毎など)に”processId”の画像解析処理状況の確認を行う。図5では省略するが、S511の処理はMFP連携サービス120の画像処理完了のレスポンスが取得できるまで(S512のタイミングまで)継続して行う。MFP連携サービス120は、S511の処理状況確認の要求を受けると”processId”の処理の状況を確認し、レスポンスを返す。
レスポンスには、”status”に現在の処理状況を示す文字列が格納される。例えば”status”が”processing”の時は、MFP連携サービス120で処理が行われている最中であることを示し、”completed”の時は処理が完了している状態であることを示す。なお、処理が失敗した場合に”failed”など、この他のステータスが返ることもある。また処理完了時(”status”が”completed”の場合)のレスポンスは、ステータスと共にスキャン画像を解析した結果やスキャン設定等の情報を含む。
S512においてMFP110は画像解析処理の完了を検知する。
続くS513でレスポンスに含まれる結果情報が格納されたURLから結果情報を取得する。
(学習データ処理)
S514においてS513で取得した結果情報を使用して帳票の画像を識別するための情報(以下「ユニーク情報」という。)を設定するためのメッセージ設定画面を表示する。ユニーク情報の一例としては、帳票に記載されている通し管理番号や、帳票のタイトルと宛先の会社名などの複数情報の組み合わせで帳票を特定できる情報である。
図6(b)は、MFP110で表示するメッセージ設定画面610の一例を示したものである。メッセージ設定画面の詳細については後述する。
メッセージ設定画面610でメッセージテキスト616とユニーク情報611を設定し、[OK]ボタン621が押されるとS515に進む。
S515で、MFP110は、画像を識別するためのユニーク情報を抽出、生成するための学習を依頼するためにユニーク情報を設定するために使用した文字領域の情報をMFP連携サービス120に送信する。
学習のリクエストを受信したMFP連携サービス120のリクエスト制御部431は、S516で画像処理部432に帳票学習を依頼する。
S517で、画像処理部432は画像全体の文字領域の情報とS515で受け取った、ユーザがユニーク情報に使用した文字領域の入力情報を保存する。
(チャットサービスへの投稿処理)
S518で、MFP110はスキャン画像とユニーク情報、テキストメッセージ等の情報をMFP連携サービス120に送信する。MFP連携サービス120のリクエスト制御部431はリクエストを受信するとリクエストを正常に受けたことをMFP110に返す。
MFP110は送信のレスポンスを受けると処理を終了し、S504のスキャン設定画面表示に戻る。
MFP連携サービス120のリクエスト制御部431は、S519でチャットサービス130に対し投稿されているメッセージの一覧を取得するリクエストを送信する。その後チャットサービス130はリクエストを受信すると、リクエストに応じてメッセージ情報をMFP連携サービス120に返す。リクエストには投稿日が何日前までのメッセージを取得対象にするか期間を指定するようにしてもよい。さらにまた、複数回にわたりメッセージの投稿が行われることもあるため最終の投稿日を基準に取得対象の期間を決定する、さらには、相手方からの返信の有無に応じて、取得対象の期間を変更してもよい。
S520で、MFP連携サービス120のリクエスト制御部431は、送信先判断部433にS519で取得したチャットのメッセージ群とS518で受信したユニーク情報を渡し、送信先スレッドの判定を依頼する。送信先判断部433は、取得したメッセージ群の中にS518で受信したユニーク情報を含んだメッセージが存在するか判定し送信先のスレッドを決定し、リクエスト制御部431に返信する。送信先判定処理の詳細は図10のフローチャートともに後述する。
S521で、MFP連携サービス120のリクエスト制御部431は、MFP連携サービス120に登録されたスキャン設定からチャットサービス130に送信するファイルフォーマットの情報を取得し、それに基づいてスキャン画像からファイルを生成する。
続くS522で、S521で生成したファイルとS518で受信したテキストメッセージを含んだメッセージをチャットサービス130の先に受信した送信先のスレッドに送信する。なお、送信先のスレッドがあったとしても、送信先判断部433で判断されたスレッドに送信するか、新規のスレッドに送信するかをユーザに選択可能に問い合わせるようにしてもよい。図11はメッセージ送信後にチャットサービス130がウェブブラウザ又はアプリケーション上に表示する受信後チャット画面の一例である。受信後チャット画面の詳細については後述する。
なお以上の実施形態では、S505、S506においてスキャンした画像をチャットサービス130に送信する処理について説明した。スキャンした画像に替えて、MFP110又はクライアントPC111内に保存されている画像ファイルをMFP連携サービス120に送信し、同様にS507~S522の処理を行うことでチャットサービス130に画像ファイルを送信するようにしてもよい。
<帳票一覧画面>
図6A,BはMFP110又はクライアントPC111が表示する画面の一例を示す図である。図6Aはスキャン済み帳票一覧画面600の一例を示す図である。本画面はスキャン及び画像解析処理が完了した後で、チャットサービス130に送信前の帳票の一覧を表示している。また本画面はスキャン済み帳票一覧601、[送信]ボタン602、[編集]ボタン603、[削除]ボタン604から構成されている。スキャン済み帳票一覧601はスキャン及び画像解析(S505~S510)が完了した帳票の一覧を表示する画面である。本画面は帳票名605、送信先606、ステータス607、種類608から構成されている。帳票名605は帳票の名前を一意に識別する識別子である。送信先606はメッセージを送信するチャットサービス130の名前である。ステータス607は帳票に対して類似帳票判定を行った際の結果を示しており、「未学習」又は「学習済」のいずれかが表示される。「未学習」は類似帳票が存在しないと判定されたもので、「学習済」は類似帳票が存在したと判定されたものであることを意味している。種類608は帳票の種類を表している。ステータス607が学習済の帳票に関しては、「請求書AAA」や「請求書BBB」のように、どの帳票のフォーマットに該当するか詳細な種類が表示される。未学習の場合は「-」で表示される。これは類似帳票判定処理により決定した最も類似する帳票と関連付けられている。
[送信]ボタン602はチャットサービス130に対して帳票を送信するためのボタンである。スキャン済み帳票一覧601から任意の帳票を選択し、[送信]ボタン602を押下することで送信先606に表示されているチャットサービス130に対してスキャン画像とユニーク情報、テキストメッセージの送信を行う。なお送信が正常に完了した場合、その帳票は一覧から削除される。また、[送信]ボタン602を押したときにチャットに含めるテキストメッセージが設定されていない場合、テキストメッセージを入力する画面を表示して設定してもよい。また帳票のフォーマットを示す種類608をユニーク情報の一つとして含めてもよい。
[編集]ボタン603は、後述するメッセージ設定画面610に移動するためのボタンである。スキャン済み帳票一覧601から任意の帳票を選択し、[編集]ボタン603を押下することで選択した帳票のメッセージ設定画面610へと移動する。削除ボタン604は帳票の削除を行うボタンである。スキャン済み帳票一覧601から任意の帳票を選択し、削除ボタン604を押下することで選択した帳票を削除することができる。
<メッセージ設定画面>
図6Bはメッセージ設定画面610の一例を示す図である。ユニーク情報領域611は、ユーザが設定したユニーク情報を表示する領域である。ユニーク情報領域611にはユニーク情報を入力するユニーク情報フィールド612が表示される。S509で類似帳票がないと判定され未学習の帳票の場合、プレビュー領域617の文字領域が選択されていない状態となり、ユニーク情報フィールド612は空の状態で表示される。S509で類似帳票があると判定された場合は、類似帳票で選択した文字領域を用いて、ユニーク情報フィールド612が設定された状態となる。プレビュー領域617は、スキャン画像を表示する。ユニーク情報フィールド612を選択し、プレビュー領域617に表示されている文字領域をマウスでクリック又はタッチパネルをタッチすると、当該文字領域の文字列をユニーク情報フィールド612に追加する。選択した文字列は、選択したことがわかるように選択した文字領域などに線、枠線などの形状や色などを付与して表示してもよい。ユニーク情報追加ボタン613は、設定するユニーク情報の項目を追加する。ユニーク情報削除ボタン614は、設定したユニーク情報の項目を削除する。メッセージ領域615は、チャットに含めるテキストメッセージを表示する領域である。メッセージ領域615にはチャットに含めるテキストメッセージを入力するメッセージフィールド616が表示される。メッセージフィールド616はチャットサービスによって件名、本文など複数メッセージを入力する箇所がある場合など、チャットサービスに応じてメッセージフィールド616をメッセージ領域615内に複数設定してもよい。プレビュー拡大ボタン619は、プレビュー領域617に表示している画像の拡大倍率を大きくする。プレビュー縮小ボタン620は、プレビュー領域617に表示している画像の拡大倍率を小さくする。拡大および縮小時にプレビュー領域の中央の座標が拡大および縮小前と同一となるように表示位置の調整を行う。プレビュー初期表示ボタン618は、スワイプによるプレビュー画像の表示位置の移動やプレビュー拡大ボタンやプレビュー縮小ボタンを押して表示倍率を変更していた場合に、初期状態の倍率と表示位置に戻す。[OK]ボタン621は、メッセージ設定画面で設定したユニーク情報と共にスキャン画像をMFP連携サービス120へ送信し、帳票とOCR処理結果修正の学習処理(S515~S517)を実行する。送信が完了するとスキャン済み帳票一覧画面600に戻る。
[画像解析処理]
図7は、本システムにおける画像処理部432が行う画像解析処理の詳細を示すフローチャートである。本フローは図5におけるS507のリクエストを受信した後に画像処理部432で実行されるS508からS510の処理の詳細を示した図である。
はじめにS701において、S505でスキャンした画像の文字領域を解析し、帳票内の文字領域群を取得する。
続くS702で、S701で解析して検出したすべての文字列領域に対して文字認識処理を行う。
S703では、S701,S702で検出した情報を使用して類似帳票判定を行う。類似判定は、文字領域の配置情報を利用して、過去にスキャンした画像の配置情報(学習データ)と今回スキャンした画像の配置情報から比較し類似した文字領域の配置を持つ画像をスキャンしたかどうかを判定する。
S704において類似する帳票である判定された場合(S704でYes)、S705に進み、S704において類似する帳票がないと判定された場合(S704でNo)、S707に進む。
S705では、見つかった類似帳票に登録されている文字領域に対応する対象帳票の文字領域を取得する。
そしてS706において、スキャン画像に対して同様の位置にある文字領域を検知しOCR処理を行って、その領域の文字列から解析結果情報を生成する。この処理により、対象帳票においてユーザが所望すると思われる画像を識別するためのユニーク情報を、類似帳票のユニーク情報の取得ルールに基づいて抽出、生成する。
一方類似帳票がないと判定された場合、S707では、スキャン画像の文字領域情報を新しい帳票として保存、登録する。
続くS708では、以前にユニーク情報に使用した領域はないのでその部分を除いて未学習であることを示す情報を追加した解析結果情報を生成する。
S709では、S706又はS708で抽出、生成した解析結果情報をMFP連携サービス120内のHDDで保存する。
図8は本システムにおける画像処理部が行う解析結果保存処理で保存するデータ構造の一例を示す図である。(a)は類似帳票が見つかった場合のデータの一例を示し、(b)は類似帳票が見つからなかった場合のデータの一例を示す。
”matched”は、解析対象の画像が類似帳票判定により以前にスキャンした画像と類似した帳票が見つかったかどうかを示す値が格納される。類似帳票があった場合は”true”となり、なかった場合は”false”となる。”formID”は、その帳票の種類を一意に示す値が格納される。”formName”は、帳票の種類の名前が格納される。”formName”は、スキャン済み帳票一覧画面の種類608に表示される。”imageWidth”は、解析した画像のX方向(横方向)のピクセル数を示す。”imageHeight”は、解析した画像のY方向(縦方向)のピクセル数を示す。”regions”は解析した画像から解析された文字領域の座標情報と文字情報の配列が含まれる。次に”regions”内の情報について説明する。”rect”には抽出した文字領域一つの座標を示す。”x”は領域の左上のX座標、”y”は領域の左上のY座標、”width”は領域のX方向のピクセル数、”height”は領域のY方向のピクセル数を示す。”text”は”rect”の文字領域をOCRして文字認識を行った結果、抽出された文字列を示す。この”rect”と”text”の情報が解析したスキャン画像内の全文字領域分含まれる。
類似帳票が見つからなかった場合は、”matched”と”formID”のみが格納され、S515~S517によって新規フォーマットとして学習することで(a)の形式で格納される。
<チャット画面>
図9は、チャットサービス130がウェブブラウザ又はアプリケーション上に表示するチャット画面900の一例を示す図である。チャット画面900はスレッド901によって話題ごとにメッセージを分けて表示することができる。メッセージ902は[送信]ボタン602を押して新規スレッドとして投稿されたメッセージの例である。送信者名903はメッセージを送信した送信者の名前を表示する。送信日時904は送信した日時が表示される。テキストメッセージ905はメッセージフィールド616で設定したテキストメッセージとユニーク情報フィールド612で設定したユニーク情報が表示される。またユニーク情報を後から検出できるようにユニーク情報を識別するための文字列であるユニーク情報識別子906をユニーク情報の前に含める。添付ファイル907はS521においてスキャン画像から生成したファイルを添付する。
(送信先スレッドの決定処理)
図10は、本システムにおける送信先判断部433が行うS520における送信先スレッドの決定方法を示すフローチャートである。
初めにS1001において、送信先判断部433はスキャン画像から取得したユニーク情報とS519によってチャットから取得したメッセージ群を受信する。
S1002において、受信したチャットのメッセージ群内にスキャン画像と同じユニーク情報の組み合わせを含んだメッセージが存在するか確認を行う。なおメッセージ群からユニーク情報を取得するにはテキストメッセージ905からユニーク情報識別子906を検索し、ユニーク情報識別子906を検出した場合は以降に記載される文字列をユニーク情報として取得する。
S1002において同じユニーク情報の組み合わせのメッセージがチャット内に存在した場合(S1002でYes)はS1003に進み、チャット内に存在しなかった場合(S1002でNo)はS1004に進む。
S1003で、同じユニーク情報の組み合わせのメッセージのスレッドを送信先として設定し、処理を終了する。なお同じユニーク情報の組み合わせのメッセージが複数存在した場合は投稿日が新しい方を優先など、優先順位を設定してもよい。
S1004では、新規スレッドを送信先として設定し、処理を終了する。
<チャット画面>
図11A,Bは、S522においてメッセージを送信後のチャットサービス130がウェブブラウザ又はアプリケーション上に表示するチャット画面の一例を示す図である。
図11AはS520において同じユニーク情報を含んだメッセージのスレッドを送信先に設定し、S522においてメッセージを送信したときのチャット画面1100の一例である。既存メッセージ1101は、本システムを用いて既に投稿されているメッセージの一例である。修正依頼メッセージ1102は他者が既存メッセージ1101に添付されている帳票を確認し、修正依頼を記載しているメッセージの一例である。同一帳票メッセージ1103は、既存メッセージ1101と同じユニーク情報を含むスキャン画像から、図10で説明した方法で生成したメッセージである。S1003において同じユニーク情報を含む既存メッセージ1101のスレッドを送信先として設定され、S522のメッセージ送信処理において設定したスレッドに送信を行っているため、修正を加えた帳票は同じスレッドで管理される。また同一帳票メッセージ1103には、既に同一スレッド内にユニーク情報が含まれているメッセージが存在するため、メッセージにユニーク情報を含めなくてもよい。
図11BはS520において新規スレッドを送信先に設定し、S522においてメッセージを送信したときのチャット画面1110の一例である。既存メッセージ1111は、本システムを用いて既に投稿されているメッセージの一例である。新規帳票メッセージ1112は、既存のメッセージに同じユニーク情報が存在しないスキャン画像から、図9で説明した方法で生成したメッセージである。S1004において新規スレッドを送信先として設定され、S522のメッセージ送信処理において新規スレッドを作成し送信を行っている。今後新規帳票メッセージ1112に添付の帳票が修正等されたとき同じスレッド上で管理される。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
110 MFP
111 クライアントPC
120 MFP連携サービス
421 表示制御部
431 リクエスト制御部
432 画像処理部
433 送信先判断部
435 データ管理部

Claims (12)

  1. スレッドで管理するチャットサービスに画像及び情報を含むメッセージを投稿する情報処理装置であって、
    画像を識別するための情報を該画像を解析することにより生成する生成手段と、
    前記サービスに投稿されたメッセージを取得する取得手段と、
    前記取得したメッセージに前記生成された画像を識別するための情報が含まれているか判断する判断手段と、
    前記判断手段が前記生成された画像を識別するための情報が含まれているメッセージを検出した場合、前記画像及び画像を識別するための情報を含むメッセージを前記チャットサービスの前記検出されたメッセージが含まれるスレッドに送信する送信手段とを
    有することを特徴とする情報処理装置。
  2. 前記送信手段は、前記判断手段が前記生成された画像を識別するための情報が含まれているメッセージを検出しなかった場合、前記生成された画像を識別するための情報及び画像を含むメッセージを前記チャットサービスの新規スレッドに送信することを有することを特徴とする請求項1に記載の情報処理装置。
  3. 前記送信手段は、前記画像を識別するための情報が同一のメッセージが複数存在した場合は投稿日が新しい方のスレッドに送信することを特徴とする
    請求項1又は2に記載の情報処理装置。
  4. 前記画像は、スキャンにより読み込まれた画像であることを特徴とする請求項1~3のいずれか1項に記載の情報処理装置。
  5. 過去に解析された画像と比較して類似の画像を判定する判定手段を有し、
    前記生成手段は、前記判定手段が類似の画像と判定した過去にスキャンされた画像の文字領域の配置情報を利用し、該文字領域を文字認識処理することにより画像を識別するための情報を生成することを
    特徴とする請求項1~4のいずれか1項に記載の情報処理装置。
  6. スキャンされた画像の文字領域の配置情報を学習する学習手段を有する
    ことを特徴とする請求項1~5のいずれか1項に記載の情報処理装置。
  7. 画像をスキャンにより読み込む機能を有することを特徴とする請求項1~6のいずれか1項に記載の情報処理装置。
  8. 前記取得手段は、指定された期間に投稿されたメッセージを取得対象とすることを特徴とする請求項1~7のいずれか1項に記載の情報処理装置。
  9. 前記指定された期間は、返信の投稿の有無に伴って変更することを特徴とする請求項8に記載の情報処理装置。
  10. スキャンにより画像を読み込む画像処理装置と、請求項1~9のいずれか1項に記載の情報処理装置と、スレッドで管理するチャットサービスがネットワークを介して接続されるシステム。
  11. スレッドで管理するチャットサービスに画像及び情報を含むメッセージを投稿する情報処理装置の制御方法であって、
    画像を識別するための情報を該画像を解析することにより生成する生成工程と、
    前記サービスに投稿されたメッセージを取得する取得工程と、
    前記取得したメッセージに前記生成された画像を識別するための情報が含まれているか判断する判断工程と、
    前記判断工程において前記生成された画像を識別するための情報が含まれているメッセージを検出した場合、前記画像及び画像を識別するための情報を含むメッセージを前記チャットサービスの前記検出されたメッセージが含まれるスレッドに送信する送信工程とを
    有することを特徴とする情報処理装置の制御方法。
  12. 請求項11に記載の情報処理装置の制御方法を、コンピュータに実行させるためのプログラム。

JP2021183851A 2021-11-11 2021-11-11 情報処理装置、情報処理装置の制御方法及びプログラム Pending JP2023071227A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021183851A JP2023071227A (ja) 2021-11-11 2021-11-11 情報処理装置、情報処理装置の制御方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021183851A JP2023071227A (ja) 2021-11-11 2021-11-11 情報処理装置、情報処理装置の制御方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2023071227A true JP2023071227A (ja) 2023-05-23

Family

ID=86409849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021183851A Pending JP2023071227A (ja) 2021-11-11 2021-11-11 情報処理装置、情報処理装置の制御方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2023071227A (ja)

Similar Documents

Publication Publication Date Title
JP7391672B2 (ja) 文書を電子化するための画像処理システム、その制御方法及びプログラム
JP7317561B2 (ja) タッチパネルを用いた文字入力のための画像処理装置、その制御方法及びプログラム
JP7467737B2 (ja) ユーザ操作のためのガイダンスを表示する画像処理装置、その制御方法及びプログラム
JP2021163178A (ja) 情報処理装置
JP2022096218A (ja) 情報処理装置、情報処理システム、その制御方法及びプログラム
JP7225017B2 (ja) タッチパネルを用いた文字入力のための画像処理装置、その制御方法及びプログラム
US11800032B2 (en) Apparatus, information processing method, and storage medium
JP7330742B2 (ja) スキャン画像にプロパティを設定するための画像処理装置、その制御方法及びプログラム
JP2021184190A (ja) 画像処理装置、画像処理方法、およびプログラム
US11528372B2 (en) Image processing system for providing attribute information, image processing method and storage medium
JP2023072812A (ja) 情報処理装置、情報処理装置の制御方法、そのプログラム及び画像処理システム
JP2021190834A (ja) 情報処理装置、その処理方法、およびプログラム
JP2023071227A (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
JP7358663B2 (ja) タッチパネルを用いた文字入力のための画像処理装置、その制御方法及びプログラム
JP7387282B2 (ja) スキャン画像のプレビュー表示を行なう画像処理装置、その制御方法及びプログラム
JP2024062604A (ja) 画像処理システム、画像処理システムの制御方法、及びプログラム
JP2023167871A (ja) 画像処理装置、情報処理装置、画像処理システム、画像処理方法、情報処理方法、およびプログラム
JP2024032563A (ja) 情報処理装置、情報処理装置の制御方法及びプログラム
JP2024072113A (ja) 情報処理装置、情報処理装置の処理方法およびプログラム
JP2022167157A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2023120267A (ja) タッチパネルを用いた文字入力のための画像処理装置、その制御方法及びプログラム
JP2022189109A (ja) 画像処理装置、画像処理方法およびプログラム
JP2022137727A (ja) 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2022083074A (ja) 情報処理システム
JP2021118534A (ja) 文書を電子化するための画像処理システム、その制御方法及びプログラム