JP2020098466A - 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム - Google Patents

画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム Download PDF

Info

Publication number
JP2020098466A
JP2020098466A JP2018236253A JP2018236253A JP2020098466A JP 2020098466 A JP2020098466 A JP 2020098466A JP 2018236253 A JP2018236253 A JP 2018236253A JP 2018236253 A JP2018236253 A JP 2018236253A JP 2020098466 A JP2020098466 A JP 2020098466A
Authority
JP
Japan
Prior art keywords
image
viewpoint
user
unit
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018236253A
Other languages
English (en)
Other versions
JP7430981B2 (ja
Inventor
竹寿 中尾
Taketoshi Nakao
竹寿 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2018236253A priority Critical patent/JP7430981B2/ja
Publication of JP2020098466A publication Critical patent/JP2020098466A/ja
Application granted granted Critical
Publication of JP7430981B2 publication Critical patent/JP7430981B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Accessory Devices And Overall Control Thereof (AREA)
  • Control Or Security For Electrophotography (AREA)
  • Position Input By Displaying (AREA)
  • Facsimiles In General (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】 操作の場面に応じて、適切な入力方法を選択できる画像処理装置を提供する。【解決手段】 画像処理装置は、表示面を有し、利用者の操作により入力を受け付ける操作パネルと、表示面上における利用者の視点を検出する視点検出部113と、操作パネルにより受け付けた入力が、表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断し、切換指示であると判断される場合、視点検出部113による視点の検出を有効とする表示制御部111とを備える。【選択図】図2

Description

本発明は、画像処理装置において画像上の位置を選択する技術に関する。
従来、利用者の視線により操作面上の位置を選択して、入力操作を実現する方法が知られている。
特許文献1には、視線入力及び音声入力を用いて、マウスなどの入力装置において用いられるクリック操作、長押し操作、ドラッグ操作等と同様の操作をさせる情報処理装置が開示されている。この情報処理装置では、常時、視線入力を有効としている。
例えば、クリック操作を行う場合、利用者は、視線を操作面上のクリックしたい位置に向け、その視線を固定したまま、時間閾値以下の短い間マイクに息を吹きかける。また、長押し操作を行う場合、利用者は、視線を操作面上の長押ししたい位置に向けて、その視線を固定したまま、時間閾値以上の間マイクに息を吹きかける。さらに、ドラッグ操作を行う場合、利用者は、視線を操作面上のドラッグ操作を開始したい位置に向け、時間閾値以上の間マイクに息を吹きかけながら、視線をドラッグしたい方向に移動させ、ドラッグ操作を終了したい位置に視線を向けたところで息を吹きかけることを止める。
特開2014−21893号公報
ここで、画像形成装置に対する操作において、例えば、画像の濃淡、画像の倍率、用紙の選択等、複数個の選択肢を表示したメニュー画面から、利用者が一つの選択肢を選択する場合、特許文献1に開示されている視線入力を適用すると、利用者は、所望の選択肢に視線を向け、その視線を固定したまま、閾値以下の短い間マイクに息を吹きかける。これにより、所望の選択肢を選択する。
このように、視線入力を用いる場合、選択肢に対して視線を向けるだけでは、選択肢を選択する動作は、確定しない。このため、視線入力と音声入力とを組み合わせて用いることより、操作が確定する動作を定めている。利用者は、視線入力と音声入力という二つのアクションが必要となり、操作性が良いとは、言えない。
これに対して、メニュー画面が表示される操作パネルを、利用者の接触による入力が可能となるようにしておけば、利用者は、所望する選択肢に接触すればよい。利用者は、一つのアクションにより、所望する選択肢を選択できるので、視線入力を用いる場合と比較すると、操作性がよい。
一方、例えば、画像上に「複製禁止」等の文字を表示するため、画像上の位置を選択する必要がある場合、上記のメニュー方式を用いると、画像上の予め決められた複数の位置をそれぞれ示す複数の選択肢を表示し、複数の選択肢から接触入力により選択させればよい。しかし、これでは、画像上の任意の位置を選択することができない。そこで、複数の選択肢から選択するメニュー方式ではなく、視線入力を用いて、利用者に画像上の所望の位置を選択させれば、画像上の任意の位置の選択が可能となる。なお、この場合、視線の位置を確定するために、特許文献1と同様に、利用者は、二つのアクションが必要となる。
このように、画像形成装置の操作においては、接触入力が適している操作と、視線入力が適している操作があり、接触入力及び視線入力のいずれか一方のみを採用すると、操作性が低下するという問題がある。
本発明は、この問題を解決し、操作の場面に応じて、適切な入力方法を選択でき、特に、画像上における位置の選択を行う場合に、適切な入力方法を選択できる画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラムを提供することを目的とする。
上記目的を達成するため、本発明は、表示面を有する表示手段と、利用者の操作により入力を受け付ける入力手段と、前記表示面上における利用者の視点を検出する視点検出手段と、前記入力手段により受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断手段と、前記切換指示であると判断される場合、前記視点検出手段による視点の検出を有効とする制御手段とを備えることを特徴とする。
ここで、前記制御手段は、前記プレビュー画像上における前記位置として、前記視点検出手段により検出された視点の位置を選択してもよい。
ここで、さらに、データを取得する取得手段を備え、前記表示手段は、取得したデータにより表される画像を縮小した前記プレビュー画像を表示してもよい。
ここで、前記判断手段により前記切換指示であると判断された後に、前記表示手段は、前記プレビュー画像を表示してもよい。
ここで、前記判断手段による判断の前に、前記表示手段は、前記プレビュー画像を表示してもよい。
ここで、前記判断手段により、前記切換指示であると判断される場合、前記表示手段は、さらに、視点による入力が有効である旨を表示してもよい。
ここで、前記表示手段は、前記表示面における利用者の視点の位置を強調表示することにより、視点による入力が有効である旨の表示を行う、としてもよい。
ここで、さらに、前記判断手段により、前記切換指示であると判断される場合、視点による入力が有効である旨を利用者に通知する通知手段を備える、としてもよい。
ここで、前記通知手段は、光により、又は、音により、前記通知を行う、としてもよい。

ここで、前記制御手段は、さらに、前記視点検出手段による視点の検出を有効とした後、前記入力手段による入力が受け付けられた場合、前記視点検出手段による視点の検出を無効としてもよい。
ここで、さらに、データを取得する取得手段と、前記制御手段により選択された前記プレビュー画像上の位置を、取得した前記データにより表される画像上の位置に変換する変換手段と、前記画像上において、変換により生成された前記位置に、オプションとしての付加画像又は綴じ代である余白を配置する画像処理を施す画像処理手段とを備える、としてもよい。
ここで、前記表示手段は、プレビュー画像上において選択された前記位置に、前記付加画像又は綴じ代を示すマークを表示してもよい。
ここで、前記マークは、オプションとしてのスタンプ、ウォーターマーク、ページ番号、日付又は時刻を表し、前記画像処理手段は、前記付加画像として、スタンプ、ウォーターマーク、ページ番号、日付又は時刻を表す画像を配置してもよい。
また、本発明は、電子写真方式によりシート上に画像を形成する画像形成装置と、画像が形成された前記シートに対して、後処理を施す後処理装置とから構成される画像形成システムであって、前記画像形成装置は、上記の画像処理装置を備え、前記画像処理装置は、さらに、前記制御手段により選択された前記プレビュー画像上の位置を、前記シート上の位置に変換する変換手段を備え、前記後処理装置は、変換により生成されたシート上の前記位置において、後処理を施す後処理手段を備えることを特徴とする。
ここで、前記表示面は、プレビュー画像上において、選択された前記位置に、ステープル又はパンチ穴を表すマークを表示し、前記後処理手段は、シート上の前記位置において、ステープル綴じをし、又は、パンチ穴を穿孔してもよい。
また、本発明は、電子写真方式によりシート上に画像を形成する画像形成装置であって、上記の画像処理装置を備えることを特徴とする。
また、本発明は、表示面を有する表示手段を備える画像処理装置において用いられる制御方法であって、利用者の操作により入力を受け付ける入力ステップと、前記表示面上における利用者の視点を検出する視点検出ステップと、前記入力ステップにより受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断ステップと、前記切換指示であると判断される場合、前記視点検出ステップによる視点の検出を有効とする制御ステップとを含むことを特徴とする。
また、本発明は、表示面を有する表示手段と、利用者の操作により入力を受け付ける入力手段と、前記表示面上における利用者の視点を検出する視点検出手段とを備える画像処理装置において用いられる制御用のコンピュータープログラムであって、コンピューターである画像処理装置に、前記入力手段により受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断ステップと、前記切換指示であると判断される場合、前記視点検出手段による視点の検出を有効とする制御ステップとを実行させるためのコンピュータープログラムであることを特徴とする。
上記の構成によると、操作の場面に応じて、適切な入力方法を選択でき、特に、画像上における位置の選択を行う場合に、視点入力を選択できるという優れた効果を奏する。
(a)画像形成システム1の概略構成を示す図である。(b)操作パネル19の外観斜視図である。 主制御部100の構成を示すブロック図である。 画像データ151により表される画像を示す図である。 オブジェクト範囲情報161の一例を示す。 オブジェクトデータ152により表される画像を示す図である。 パーツ情報テーブル171のデータ構造を示す一例である。 (a)〜(f)パーツデータ153a〜153fにより表される画像を示す図である。 利用者位置情報181を示す一例である。 水平方向テーブル185のデータ構造を示す一例である。 視線情報191のデータ構造を示す一例である。 視点位置情報195を示す一例である。 メニュー遷移テーブル211のデータ構造を示す一例である。 (a)〜(c)画像上のオブジェクトのX軸方向の位置と、X−Y−Z座標系における利用者のZ軸方向の立ち位置との関係を示す。(d)〜(f)画像上のオブジェクトの大きさと、X−Y−Z座標系における利用者のY軸方向の立ち位置との関係を示す。 (a)三方向に向いた利用者の頭部の概略図を示す。(b)利用者の頭部の水平方向の向きを示す。(c)鉛直方向に対して三つの傾きを有する利用者の頭部の概略図を示す。(d)利用者の頭部の鉛直方向からの傾きを示す。(e)利用者の両目の瞳が正面を向く場合を示す。(f)利用者の両目の瞳が左側を向く場合を示す。(g)利用者の両目の瞳が右側を向く場合を示す。 (a)利用者の視点の軌跡の一例を示す。(b)時間の経過に伴う視点の軌跡の一次元表示の一例を示す。(c)〜(f)プレビュー画面上のマーク指定領域の例を示す。(g)プレビュー画面上の視点領域の例を示す。 操作パネル19に表示されるメニュー画面の遷移を示す。 ページ番号を表示する位置を視線により選択する場合の画面例を示す。 秘密を示すマークを表示する位置を視線により選択する場合の画面例を示す。 ステープルの位置を視線により選択する場合の画面例を示す。 パンチ穴の位置を視線により選択する場合の画面例を示す。 綴じ代量を視線により指定する場合の画面例を示す。 メニュー画面を表示後、プリント又はスキャンを実行するまでの、処理概要を示すフローチャートである。 スタンプ等のマークの位置を視線により選択する動作(1)を示すフローチャートである。 ページ番号等のマークの位置を視線により選択する動作(2)を示すフローチャートである。 利用者の視点の位置を取得する動作を示すフローチャートである。 変形例(1)において、操作パネル19に表示されるメニュー画面の遷移を示す。 変形例(1)において、ページ番号を表示する位置、秘密を示すマークを表示する位置及びステープルの位置を視線により選択する場合の画面例を示す。 変形例(1)において、視線入力の動作を示すフローチャートである。 変形例(2)において、操作パネル19に表示されるメニュー画面の遷移を示す。ここでは、プレビュー画面が表示された後に、視線入力モードとなる。 変形例(2)において、メニュー画面を表示後、プリント又はスキャンを実行するまでの、処理概要を示すフローチャートである。
1 実施の形態
本発明に係る一の実施の形態について図面を参照しながら説明する。
図1(a)は、画像形成システム1の概略構成を示す図である。
この図に示すように、画像形成システム1は、電子写真方式によりシート上に画像を形成する画像形成装置10と、オプション装置として、後処理を施す後処理装置16とから構成されている。
画像形成装置10(画像処理装置)は、プレビュー画像上で一又は複数の位置を選択し、選択した位置において、オプションとして、現在の日付、時刻、ページ番号、各種のスタンプ、ウォーターマーク(電子透かし)等を表した付加画像を上書きする機能を備え、選択した位置により示される綴じ代量に応じて、シート上に形成される画像をシート内で移動又は縮小して、綴じ代である余白を生成する機能を備えている。また、後処理装置16は、画像形成装置10から出力される画像形成済みのシートの束に対して、選択した位置において、ステープル綴じ又はパンチ穴の穿孔などの後処理を施す機能を備えている。
画像形成装置10は、プレビュー画像上において、上述した付加画像を配置する位置、シートの綴じ代量、ステープルの位置及びパンチ穴の穿孔位置等の入力を、利用者の視線により、受け付ける。このように、後述する操作パネル19に対する接触(接触操作)に加えて、利用者の視線により、位置の選択を受け付ける状態を、視線入力モードと呼ぶ。
本実施の形態においては、位置の選択を受け付ける場合、操作パネル19に対する接触入力である通常の入力モードから視線入力モードに変更される。
画像形成システム1においては、スキャンジョブ、コピージョブ又はプリントジョブ等が実行される。ここで、スキャンジョブは、原稿面を読み取って画像データを生成し、生成した画像データを、画像形成装置10の内部に蓄積し、又は、ネットワークを介して、画像形成装置10に接続された外部端末装置に対して、送信するジョブである。また、コピージョブは、原稿面を読み取って画像データを生成し、生成した画像データにより、シート上に画像を形成するジョブである。さらに、プリントジョブは、ネットワークを介して、画像形成装置10に接続された外部端末装置から、データを受信して、受信したデータにより、シート上に画像を形成するジョブである。なお、本実施の形態において、プリントジョブは、利用者により、実行条件の設定がされ、画像形成の実行が指示されるまで、画像形成装置10の内部に記憶されて待機するものとする。これは、利用者による実行条件の設定を待つためである。
上述した付加画像を配置する位置、シートの綴じ代量、ステープルの位置及びパンチ穴の穿孔位置等は、それぞれ、スキャンジョブ、コピージョブ又はプリントジョブ等における実行条件の一つである。より詳細には、付加画像を配置する位置及びシートの綴じ代量は、画像形成装置10における実行条件であり、ステープルの位置及びパンチ穴の穿孔位置は、後処理装置16における実行条件である。
1.1 画像形成装置10
画像形成装置10は、スキャナー、プリンター及びコピー機の機能を有するタンデム型のカラー複合機(MFP:MultiFunction Peripheral)である。
画像形成装置10は、図1(a)に示すように、筐体底部に、シートを収容し、給送する給紙部13が設けられている。給紙部13の上方には、電子写真方式により画像を形成するプリンター部12(画像形成手段)が設けられている。プリンター部12のさらに上方に、原稿を読み取って画像データを生成するイメージリーダー部11(取得手段)及び操作用の画面を表示し、利用者から入力操作を受け付ける操作パネル19が設けられている。
イメージリーダー部11は、原稿面を読み取り、レッド(R)、グリーン(G)、ブルー(B)の多値デジタル信号からなる画像データを得る。
イメージリーダー部11で得られた各色成分の画像データは、後述する主制御部100において各種のデータ処理を受け、更にイエロー(Y)、マゼンタ(M)、シアン(C)、ブラック(K)の各再現色の画像データに変換される。
プリンター部12は、中間転写ベルト、中間転写ベルトを張架する駆動ローラー、従動ローラー、バックアップローラー、中間転写ベルトに対向して中間転写ベルトの走行方向Xに沿って所定間隔で配置された4個の作像部、定着部、主制御部100等からなる。
各作像部は、像担持体である感光体ドラム、感光体ドラム表面を露光走査するためのLEDアレイ、帯電チャージャー、現像器、クリーナー及び1次転写ローラーなどからなる。
給紙部13は、サイズの異なるシートを収容する複数の給紙カセットと、このシートを各給紙カセットから搬送路に繰り出すためのピックアップローラーとから構成されている。
各作像部において、各感光体ドラムは、帯電チャージャーにより一様に帯電され、LEDアレイにより露光を受け、感光体ドラムの表面に静電潜像が形成される。各静電潜像は、それぞれ各色の現像器により現像され、各感光体ドラムの表面にY〜K色のトナー像が形成され、トナー像は、中間転写ベルトの裏面側に配設された各1次転写ローラーの静電作用により、中間転写ベルトの表面上に順次転写される。
一方、給紙部13のいずれかの給紙カセットから、作像部による作像動作に合わせて、シートが給送され、2次転写ローラーとバックアップローラーとが中間転写ベルトを挟んで対向する位置(2次転写位置)へと搬送路上を搬送され、2次転写位置で、2次転写ローラーの静電的作用により、中間転写ベルト上のY〜K色のトナー像がシートへ2次転写される。Y〜K色のトナー像が2次転写されたシートは、さらに定着部まで搬送される。
シートの表面のトナー像は、定着部の加熱ローラーとこれに圧接された加圧ローラーとの間に形成される定着ニップを通過する際に、加熱及び加圧により、シートの表面に融着して定着され、シートは、定着部を通過した後、搬送ユニット15へと送出される。
搬送ユニット15では、水平方向に搬送路が形成されており、当該搬送路に沿って列設された複数の搬送ローラー対によって、画像形成済みのシートが後処理装置16へと出力される。
ここで、例えば、画像形成装置10のK色の作像部が有する感光体ドラムの軸の中心点に原点を設定する。感光体ドラムの軸方向が主走査方向に相当し、Y軸方向とする。Y軸に直交し、水平面に沿った方向をZ軸方向とする。また、Y軸方向とZ軸方向の双方に直交する方向をX軸方向とする。つまり、画像形成システム1が存在する空間を、X−Y−Z座標系により示す。
1.2 操作パネル19
操作パネル19は、図1(b)に示すように、矩形状の平板から構成され、平板の天面21が、主走査方向40に対して角度θを成して、画像形成装置10の正面、斜め前方を向くように、支持部材41、42により支持されている。
操作パネル19においては、天面21から露出するように、液晶表示板等からなる矩形で平板状の表示面20、複数のボタン31、34、35、カメラ32、LED33等が配置されている。
表示面20は、液晶表示板(表示手段)等の上面に、利用者の操作体(指等)の接触入力を受け付けるタッチパッド部(入力手段)が積層されて、構成されている。タッチパッド部は、例えば、静電容量の変化を検出することにより、接触位置を検知する。操作パネル19は、表示面20に、スキャンジョブ、コピージョブ又はプリントジョブ等を実行する際の実行条件、各種のメッセージ等を表示する。また、操作パネル19は、表示面20において、利用者の接触により、画像形成装置10における実行条件の設定、後処理装置16における実行条件の設定等を受け付け、受け付けた設定の内容を、主制御部100に通知する。
操作パネル19は、利用者によるボタン31、34、35の押下により、電源のオン、オフ、ジョブ開始の指示等を受け付け、受け付けた内容を主制御部100に通知する。
操作パネル19は、視線入力モードの場合に、LED33(通知手段)を点灯させ、通常の入力モードの場合に、LED33を消灯させる。LED33を点灯させることにより、視点による入力が有効である旨を利用者に通知している。なお、LED33の点灯とともに、又は、LED33の点灯に代えて、操作パネル19は、視点入力モードにおいて、音を発生するスピーカー(通知手段)を備える、としてもよい。このように、音により、視点による入力が有効である旨を利用者に通知してもよい。
カメラ32については、後述する。
ここで、操作パネル19の表示面20において、矩形の表示面20の4つの頂点のうち、一つの頂点19aに原点を設定し、表示面20の長尺方向の一辺の方向及びこの辺に垂直に交差する短尺方向の一辺の方向を、それぞれ、X’軸及びY’軸により示す。つまり、表示面20上における位置をX’−Y’座標系により示す。
1.3 後処理装置16
後処理装置16は、後処理として、複数枚のシートの束(シート束)を整合する整合処理機能、シート束にステープル綴じを行うステープル綴じ処理機能及びシート束(又はシート)にパンチ穴を穿孔するパンチ機能を有し、画像形成装置10からの指示に基づき各処理機能を実行する。
特に、後処理装置16は、画像形成装置10の後述する後処理装置制御部115から、ステープルの位置又はパンチ穴の位置を受け取り、それぞれの位置において、ステープル綴じ又はパンチ穴の穿孔を行う。
後処理装置16は、図1(a)に示すように、筐体内部において、後処理ユニット18(後処理手段)が設けられ、後処理ユニット18の上方に、搬送ユニット15に対向して、搬送路17が設けられている。
後処理装置16は、搬送ユニット15から出力されるシートに対して、シート束の整合及びステープル綴じ等の後処理を実行しない場合は、そのシートを、搬送路17を搬送させて、第1排出トレイ35に排出させる。
一方、後処理を実行する場合には、搬送ユニット15から出力されるシートは、搬送路17の途中から分岐して後処理ユニット18に搬送される。後処理ユニット18は、シート束を整合し、シート束にステープル綴じ又はパンチ穴の穿孔を行い、整合、ステープル綴じ又はパンチ穴の穿孔が行われたシート束を第2排出トレイ36に排出させる。
1.4 カメラ32
カメラ32は、その光軸が、操作パネル19の表示面20に対して垂直方向、前方に向くように、操作パネル19の天面21上に設置されており、その撮影方向は、固定されている。
カメラ32は、操作パネル19の表面に対して垂直方向、前方に向けられているので、カメラ32により、操作パネル19の前方に立って、画像形成装置10に対して操作を行う利用者(被写体)、特に、その利用者の顔を撮影することができる。
カメラ32は、被写体からの光を集め、撮像素子に像を結ぶレンズと、レンズを通じて、照射された光を電気信号に変換するCCD(Charge Coupled Device)などの撮像素子と、生成された電気信号をデジタルの画像データに変換する画像処理エンジンとから構成されている。カメラ32は、画像処理エンジンにより生成した画像データを、後述する入力部112に対して出力する。
カメラ32の水平画角は、例えば、略90度であり、垂直画角は、例えば、略45度である。
1.5 主制御部100
主制御部100は、図2に示すように、CPU101、ROM102、RAM103、画像メモリ104、記憶部105、画像処理部106(画像処理手段)、ネットワーク通信部107(取得手段)、プリンター制御部108、スキャナー制御部109、入出力部110、表示制御部111(判断手段、制御手段)、入力部112、視点検出部113、視点入力制御部114及び後処理装置制御部115等から構成されている。
主制御部100は、スキャンジョブ、コピージョブ又はプリントジョブ等に従って、画像メモリ104、記憶部105、画像処理部106、ネットワーク通信部107、プリンター制御部108、スキャナー制御部109、入出力部110、表示制御部111、入力部112、視点検出部113、視点入力制御部114及び後処理装置制御部115等を統一的に制御する。
(1)CPU101、ROM102、RAM103及び画像メモリ104
RAM103は、半導体メモリから構成され、各種の制御変数などを一時記憶すると共に、CPU101によるプログラム実行時のワークエリアを提供する。
ROM102は、半導体メモリから構成され、予め、プリント動作などの各種ジョブを実行させるための制御プログラムなどを記憶している。
CPU101は、ROM102に記憶されている制御プログラムに従って動作することにより、画像処理部106、ネットワーク通信部107、プリンター制御部108、スキャナー制御部109、入出力部110、表示制御部111、入力部112、視点検出部113、視点入力制御部114及び後処理装置制御部115等を制御する。
例えば、CPU101は、制御プログラムに従って動作することにより、ネットワーク通信部107によりプリントジョブを受信すると、プリンター制御部108に指示して、そのプリントジョブに基づき、画像形成動作を実行させる。
画像メモリ104は、半導体メモリから構成され、プリントジョブ等の画像データを一時的に記憶する。
(2)画像処理部106
(色変換)
画像処理部106は、例えば、外部端末装置から受信したプリントジョブに含まれ、又は、イメージリーダー部11による読取りにより生成した、R、G、Bの多値デジタル信号からなる画像データに対して、各種のデータ処理をして、Y、M、C、Kの各再現色の画像データに変換する。
(プレビュー画像の生成)
また、画像処理部106は、表示制御部111の制御により、外部端末装置から受信したプリントジョブに含まれる画像データにより表される画像の解像度を低くし、画像を縮小して生成したプレビュー用の低解像度のプレビュー画像を生成する。ここで、プレビュー画像の解像度は、例えば、縦方向50dpi、横方向50dpiである。画像処理部106は、生成したプレビュー画像を、入出力部110を介して、操作パネル19に対して出力する。
(付加画像の上書き)
画像処理部106は、以下に示すようにして、画像上において設定された位置に基づいて、画像処理を行う。
画像処理部106は、表示制御部111から、データにより表される画像上に、付加画像を上書きする指示を受け取る。ここで、データには、外部端末装置から受信したプリントジョブに含まれるデータ及びイメージリーダー部11により、原稿面を読み取ることにより、得られた画像データが含まれる。
また、画像処理部106は、付加画像を上書きする指示とともに、付加画像、画像データにより表される画像上において、付加画像を上書きする位置を受け取る。付加画像を上書きする指示、付加画像及び付加画像を上書きする位置を受け取ると、画像データにより表される画像上において、受け取った位置に、受け取った付加画像を上書きし、付加画像が上書きされた画像データを、画像メモリ104に書き込む。
(余白の配置)
画像処理部106は、表示制御部111から、綴じ代量を受け取る。綴じ代量を受け取ると、画像処理部106は、画像メモリ104に記憶されている画像データにより表される画像上で、綴じ代量の分だけ、画像上に余白を配置できるように、画像データにより表される画像を移動又は縮小する画像処理を行って、画像処理が施された画像データを画像メモリ104に上書きする。
(3)スキャナー制御部109
スキャナー制御部109は、イメージリーダー部11による原稿面の読み取りを制御する。スキャナー制御部109は、イメージリーダー部11による原稿面の読み取りの際に、解像度を指定する。プレビュー画像の生成の際には、解像度は、例えば、縦方向50dpi、横方向50dpiである。プレビュー画像の生成以外の場合、つまり、通常のスキャンの場合には、利用者の設定に従って定めた解像度である。このように、プレビュー画像は、通常のスキャン時の解像度より低い解像度を用いて、生成されるので、通常のスキャン時の解像度の場合と比較すると、縮小された画像となっている。
プレビュー画像の生成の際には、スキャナー制御部109は、イメージリーダー部11から受け取った画像データを、プレビュー画像として、表示制御部111の制御により、入出力部110に対して出力する。
プレビュー画像の生成以外の場合、つまり、通常のスキャンの場合には、スキャナー制御部109は、イメージリーダー部11から受け取った画像データを、画像メモリ104に書き込む。
(4)ネットワーク通信部107及びプリンター制御部108
ネットワーク通信部107は、LANなどのネットワークを介して、外部端末装置からプリントジョブを受信する。また、ネットワーク通信部107は、必要に応じて、外部端末装置に対して、メッセージ等を出力する。
プリンター制御部108は、給紙部13からの給送動作やプリンター部12の再現色毎の作像部の作像動作などを統一的に制御し、画像形成動作を実行させる。
(5)入力部112及び入出力部110
入力部112は、カメラ32から、画像データを受け取り、受け取った画像データを記憶部105に、画像データ151として書き込む。
入出力部110は、表示制御部111と操作パネル19との間で、データを中継する。
例えば、入出力部110は、表示制御部111から、メニュー画面、プレビュー画面、プレビュー画像、メッセージ等を受け取り、受け取ったメニュー画面、プレビュー画面、プレビュー画像、メッセージ等を操作パネル19に対して出力する。
また、入出力部110は、操作パネル19から、画像形成装置10及び後処理装置16における実行条件を受け取り、受け取った実行条件を表示制御部111に対して、出力する。
なお、記憶部105、表示制御部111、視点検出部113、視点入力制御部114及び後処理装置制御部115については、後述する。
1.6 記憶部105
記憶部105は、例えば、半導体メモリから構成されている。
記憶部105は、図2に示すように、画像データ151、オブジェクトデータ152、パーツデータ153a、153b、153c、・・・、オブジェクト範囲情報161、パーツ情報テーブル171、利用者位置情報181、水平方向テーブル185、視線情報191、視点位置情報195等を記憶するための領域を備え、メニュー画面201a、201b、201c、・・・、メニュー遷移テーブル211、最初のメニュー画面ID、マークを表す画像及びマーク指定領域情報等を予め記憶している。
(最初のメニュー画面ID)
最初のメニュー画面IDは、画像形成装置10の電源がオンとされた直後に、操作パネル19に最初に表示すべきメニュー画面を識別するメニュー画面IDである。
(画像データ151)
画像データ151は、カメラ32による撮影により、生成された多階調の画像データである。画像データには、複数の画素が行列状に配されている。画像データ151には、一例として、図3に示すように、被写体である利用者の画像が含まれている。
なお、画像データ151により表される画像には、水平方向にX軸、垂直方向にY軸が設定されている。従って、X−Y座標系により、その画像内の画素の位置が示される。なお、X−Y座標系は、X−Y−Z座標系とは、異なるので、注意が必要である。
(オブジェクトデータ152)
オブジェクトデータ152は、図5に示すように、画像データ151から、利用者の顔部分の画像データが、矩形状に、切り出されて生成されたものである。
オブジェクトデータ152は、利用者の立ち位置及び利用者の視線を検出するために用いられる。ここで、利用者の立ち位置は、画像形成システム1の周囲に立つ当該利用者の顔の中心部分の位置を、X−Y−Z座標系により、示す。
(オブジェクト範囲情報161)
オブジェクト範囲情報161は、図4に示すように、画像データ151内において、矩形状のオブジェクトデータ152の左下点と右上点が存在する座標を示す。
(パーツ情報テーブル171)
パーツ情報テーブル171は、図6に示すように、複数のパーツ情報172を記憶するための領域を備えている。
ここで、オブジェクト(顔)を構成する部分(左目、右目、口、鼻、左耳、右耳等)をパーツと呼び、画像データ内の利用者の顔部分であるオブジェクトデータから、左目、右目、口、鼻、左耳、右耳等の部分画像であるパーツデータが切り出される。ここで、パーツデータの形状は、矩形である。
一つのパーツ情報は、一つのパーツデータに対応している。各パーツ情報172は、パーツID174、パーツ範囲175及びパーツタイプ176を含んでいる。
パーツID174は、当該パーツデータを識別する識別子である。パーツ範囲175は、当該パーツデータが含まれるオブジェクトデータ内において、矩形状の当該パーツデータの左下点と右上点が存在する座標を示す。パーツタイプ176は、当該パーツデータの種類を示す。つまり、パーツタイプ176は、当該パーツデータが左目、右目、口、鼻、左耳、右耳のいずれであるかを示す。
(パーツデータ153a、153b、・・・、153f)
パーツデータ153a、153b、・・・、153fは、図7(a)〜(f)に示すように、利用者の顔部分のオブジェクトデータ152から、その各パーツの画像データが切り出されたものである。
図7(a)〜(f)に示すパーツデータ153a、153b、・・・、153fは、それぞれ、図6のパーツ情報テーブル171内のパーツID「PT0001」、「PT0002」、・・・、「PT0006」に対応している。
パーツデータは、利用者の視線を検出するために用いられる。
(利用者位置情報181)
利用者位置情報181は、図8に示すように、画像形成装置10の前に立つ利用者の顔の中心部分の位置(つまり、利用者の立ち位置)を、X−Y−Z座標系の座標(X、Y、Z)で示す。
(水平方向テーブル185)
水平方向テーブル185は、利用者の顔の水平方向の向きを算出するために用いるデータテーブルである。
水平方向テーブル185について、説明する前に、利用者の顔の水平方向の向きを判定するための方法について、説明する。
図14(a)に、三方向に向く利用者の頭部の概略図を示す。つまり、左側を向く利用者の頭部363a、正面を向く利用者の頭部363b、及び、右側を向く利用者の頭部363cを示している。ここで、頭部363a、頭部363b、及び、頭部363cは、それぞれ、利用者の顔が水平方向にのみ向きを変えている場合を示している。
左側を向く頭部363aにおいて、左目と右目との中間点を頭部363aの上下方向に貫く直線である中央線364aを設定し、頭部363aの左側の輪郭を示す左側輪郭線366aを設定し、頭部363aの右側の輪郭を示す右側輪郭線365aを設定すると、中央線364aは、右側輪郭線365aよりも、左側輪郭線366aに近い位置に存在する。
また、正面を向く頭部363bにおいて、頭部363aと同様に、中央線364b、左側輪郭線366b、及び、右側輪郭線365bを設定すると、中央線364bは、右側輪郭線365bと左側輪郭線366bの略中央の位置に存在する。
さらに、右側を向く頭部363cにおいて、頭部363aと同様に、中央線364c、左側輪郭線366c、及び、右側輪郭線365cを設定すると、中央線364cは、左側輪郭線366cよりも、右側輪郭線365cに近い位置に存在する。
このように、頭部の中央線が、左側輪郭線に近い側に存在するか、又は、右側輪郭線に近い側に存在するかを判断することにより、ユーザーの顔の水平方向の向きを推定することができる。
ここで、図14(a)の左側を向く頭部363aにおいて、両目を結ぶ線369と左側輪郭線366aが交差する位置を左側交差位置367により示し、両目を結ぶ線369と右側輪郭線365aが交差する位置を右側交差位置368により示す。さらに、中央線364aと左側交差位置367との距離を左距離と呼び、中央線364aと右側交差位置368との距離を右距離と呼ぶ。図14(a)の正面を向く頭部363b及び右側を向く頭部363cにおいても同様である。
水平方向テーブル185は、図9に示すように、予め、複数の水平方向情報186を記憶している。一つの水平方向情報は、利用者の顔の一つの水平方向の向きに対応している。
各水平方向情報186は、比率187及び水平方向角度188を含む。
比率187は、左側交差位置と右側交差位置との間における中央線の位置を比率(%)で示す。具体的には、比率「左0」は、中央線が左側交差位置に一致することを示す。比率「左25」は、左側交差位置と右側交差位置との間において、中央線が左側交差位置から25%の位置に存在することを示す。比率「50」は、中央線が、左側交差位置と右側交差位置との中央の位置に存在することを示す。比率「右25」は、左側交差位置と右側交差位置との間において、中央線が右側交差位置から25%の位置に存在することを示す。比率「右0」は、中央線が右側交差位置に一致することを示す。
水平方向角度188は、利用者の顔の水平方向の向きを角度(度)で示す。
例えば、図9に示す水平方向テーブル185において、比率「左0」と水平方向角度「左90」とが対応し、一つの水平方向情報に含まれている。比率「左0」の場合、利用者の顔は、正面から、90度だけ、左側を向いていることを示す。
また、比率「左25」と水平方向角度「左45」とが対応し、一つの水平方向情報に含まれている。ここで、比率「左25」の場合、利用者の顔は、正面から、45度だけ、左側を向いていることを示す。
さらに、比率「50」と水平方向角度「0」とが対応し、一つの水平方向情報に含まれている。ここで、比率「50」の場合、利用者の顔は、正面を向いていることを示す。
その他の場合についても、同様である。
(視線情報191)
視線情報191は、利用者の視線を特定するためのデータである。
視線情報191は、図10に示すように、利用者位置192及び方向情報193を含む。
利用者位置192は、画像形成装置10の前に立つ利用者の顔の中心部分の位置を、X−Y−Z座標系の座標(X、Y、Z)で示す。方向情報193は、利用者の視線の向く方向を、利用者位置192からのベクトル(X、Y、Z)により、示す。
(視点位置情報195)
視点位置情報195は、図11に示すように、操作パネル19の表示面20上における、利用者の視点の位置を、操作パネル19の表示面20上のX’−Y’座標系の座標(X’、Y’)で示す。
操作パネル19の表示面20は、画像形成装置10の主走査方向であるY軸に対して、角度θだけ傾いているので、画像形成システム1が存在する位置を示すX−Y−Z座標系とは異なるX’−Y’座標系を用いる。
(メニュー遷移テーブル211)
メニュー遷移テーブル211は、操作パネル19に表示されるメニュー画面の遷移を示すためのデータテーブルである。
メニュー遷移テーブル211は、図12に示すように、複数のメニュー遷移情報を、予め、記憶している。各メニュー遷移情報は、一つのメニュー画面に対応している。
各メニュー遷移情報は、一つのメニュー画像ID及び一つ又は複数の選択肢情報を含む。
メニュー画面IDは、メニュー画像を一意に識別するための識別子である。
一つの選択肢情報は、対応する一つのメニュー画面に表示される一つの選択肢に対応している。
従って、一つのメニュー遷移情報内に複数の選択肢情報が含まれる場合には、メニュー画面には、選択肢情報と同じ数の選択肢が表示され、一つのメニュー遷移情報内の複数の選択肢情報は、それぞれ、一つのメニュー画面に含まれる複数の選択肢に対応している。
選択肢情報は、選択肢ID、遷移先ID及び機能を含む場合と、遷移先IDを含まず、選択肢ID及び機能を含む場合とがある。
選択肢IDは、対応する選択肢を一意に識別する識別子である。
遷移先IDは、選択肢IDにより識別子される選択肢が利用者により選択された場合、次に、表示すべきメニュー画面を示すメニュー画面IDである。
遷移先IDが存在しない場合には、次に、表示すべきメニュー画面は、存在しない。
機能は、選択肢IDにより識別される選択肢が利用者により選択された場合、実行されるべき機能を示す。「遷移」は、次の表示すべきメニュー画面への遷移を示す。また、「パラメーター設定」は、実行条件等のパラメーターの設定を利用者から受け付けることを示す。さらに、「位置選択」は、視線を用いた入力により、位置の選択を利用者から受け付けることを示す。
(マークを表す画像)
プレビュー画面上において、画像データにより表される画像上で付加画像を上書きする位置、シートの綴じ代量を示す位置、ステープルの位置、パンチ穴を穿孔する位置等を、選択するとき、これらの位置を表すために、プレビュー画面に表示する位置識別画像をマークと呼ぶ。
これらの複数の種類のマークを識別するため、種類毎に、マークを表す画像が設定されている。
付加画像が日付、時刻又はページ番号である場合、それぞれ、マークを表す画像は、「日付」、「時刻」又は「ページ番号」(図17のマーク443)が表記された画像である。
また、付加画像がスタンプである場合、マークを表す画像は、例えば、「秘密」、「社外秘」、「複製禁止」、まる秘の記号(図18のマーク472)、「極秘」、「ドラフト」、「Confidential」等が表記された画像である。
また、付加画像がウォーターマークである場合、マークを表す画像は、付加画像がスタンプである場合と同様に、例えば、「秘密」、「社外秘」、「複製禁止」、まる秘の記号、「極秘」、「ドラフト」、「Confidential」等が表記された画像である。
ここで、ウォーターマークは、画像の内容を完全に隠さないように、画像の上に、可視的に付加画像を上書きするものであり、例えば、付加画像がスタンプである場合のマークを表す画像と比較して、淡い色で彩色され、又は、低い密度のドットで構成される。
また、シートの綴じ代量については、マークを表す画像は、破線(図21のマーク574)、一点鎖線、二点鎖線等の線画である。
また、ステープルについては、マークを表す画像は、ステープルの形状を模した、短尺の太線等の線画(図19のマーク513、522、523)である。
また、パンチ穴については、マークを表す画像は、パンチ穴の形状を模した、2個の小円からなる画像(図20のマーク543、544、553、554)である。
(マーク指定領域情報)
マーク指定領域情報は、マークの種類毎、及び、そのマークが表示される位置毎に、プレビュー画面上におけるマーク指定領域を示す。マーク指定領域内に利用者の視点が存在するときに、そのマーク指定領域内の所定の位置にマークが表示される。なお、マーク指定領域について、後述する。
1.7 視点検出部113及び視点入力制御部114
視点検出部113(視点検出手段)及び視点入力制御部114(図2に示す)は、CPU、ROM、RAM等(図示していない)から構成される。ROM又はRAMには、制御用のコンピュータープログラムが記憶されている。また、RAMは、視点検出部113及び視点入力制御部114において必要な制御変数などを一時記憶すると共に、CPUによるプログラム実行時のワークエリアを提供する。
視点検出部113は、機能的に、図2に示すように、顔認識処理部113a、位置算出部113b及び視線視点算出部113cから構成され、表示面20上における利用者の視点を検出する。
ROM又はRAMに記憶されている制御用のコンピュータープログラムに従って、CPUが動作することにより、顔認識処理部113a、位置算出部113b、視線視点算出部113c及び視点入力制御部114は、これらの機能を果たす。
(1)顔認識処理部113a
顔認識処理部113aは、記憶部105から、画像データ151(図2、図3)を読み出す。次に、顔認識処理部113aは、読み出した画像データ151において、目、鼻、口、耳をそれぞれ表す画像部分のセットを認識する。次に、顔認識処理部113aは、認識結果を用いて、読み出した画像データ151において、利用者の顔部分に相当するオブジェクトデータの範囲を特定し、特定したオブジェクトデータを、画像データ151から切り出す。
また、顔認識処理部113aは、読み出した画像データ151から、目、鼻、口、耳をそれぞれ表す画像部分を、パーツデータとして、切り出す。顔認識処理部113aは、上記において、目、鼻、口、耳をそれぞれ表す画像部分のセットを認識した際に、パーツデータ毎に、その画像部分が目、鼻、口、耳のいずれであるかを示すパーツタイプを生成する。
顔認識処理部113aは、切り出したオブジェクトデータを、オブジェクトデータ152(図2、図5)として、記憶部105に書き込む。また、切り出した複数のパーツデータを、パーツデータ153a、153b、153c、・・・(図2、図7)として、記憶部105に書き込む。
また、顔認識処理部113aは、読み出した画像データ151により表される画像内において、切り出したオブジェクトデータ152により表される画像が存在する範囲を示すオブジェクト範囲情報を生成する。ここで、オブジェクト範囲情報は、読み出した画像データにより表される画像上のX−Y座標系により、その位置が示される。次に、顔認識処理部113aは、生成したオブジェクト範囲情報を、オブジェクト範囲情報161(図4)として、記憶部105に書き込む。
また、顔認識処理部113aは、読み出した画像データ151から切り出したパーツデータ毎に、パーツデータを識別するパーツIDを生成する。また、顔認識処理部113aは、パーツデータ毎に、読み出した画像データ151により表される画像内において、切り出したパーツデータにより表される画像が存在する範囲を示すパーツ範囲を生成する。ここで、パーツ範囲は、オブジェクト範囲情報と同様に、読み出した画像データ151により表される画像上のX−Y座標系により、その位置が示される。
次に、顔認識処理部113aは、パーツデータ毎に、パーツID、パーツ範囲及びパーツタイプからなるパーツ情報を、パーツ情報テーブル171に書き込む(図2、図6)。
また、顔認識処理部113aは、視線視点算出部113cから、左目のパーツID及び右目のパーツIDを受け取る。左目のパーツID及び右目のパーツIDを受け取ると、顔認識処理部113aは、受け取った左目のパーツID及び右目のパーツIDにより識別されるパーツデータを記憶部105から読み出す。次に、顔認識処理部113aは、読み出した左目及び右目のパーツデータを用いて、それぞれの目の画像における瞳の位置を検出する。次に、顔認識処理部113aは、左目と右目の瞳の位置を、視線視点算出部113cに対して、出力する。
(2)位置算出部113b
位置算出部113bは、以下に示すようにして、利用者の立ち位置を推定的に算出する。
(X−Y−Z座標系における利用者の立ち位置のZ軸方向の位置Uzの推定)
位置算出部113bは、記憶部105からオブジェクト範囲情報161を読み出し、読み出したオブジェクト範囲情報161のX軸方向の中央の位置Poを算出する。また、画像データ151で表される画像のうち、X軸方向の中央の位置Pdを算出する。ここで、上述した通り、カメラ32は、操作パネル19の天面21の一端の位置に設置され、その撮影方向は、固定され、カメラ32の水平画角及び垂直画角は、それぞれ、固定であるので、画像データで表される画像の大きさは、固定であり、画像データで表される画像のX軸方向の幅は、既知である。
図13(b)に示すように、位置Pdと位置Poとが一致する場合(つまり、オブジェクト152bが画像データ151により表された画像の中央に存在する場合)、利用者90bは、カメラ32の正面に立っていると分かる。また、図13(a)に示すように、位置Po<位置Pdである場合(つまり、オブジェクト152aが画像データ151により表された画像の中央から左よりに存在する場合)、利用者90aは、カメラ32から見て、左よりに立っていると分かる。さらに、図13(c)に示すように、位置Pd<位置Poである場合(つまり、オブジェクト152cが画像データ151により表された画像の中央から右よりに存在する場合)、利用者90cは、カメラ32から見て、右よりに立っていると分かる。
位置Pdと位置Poとの間には、上記のような関係が存在するので、位置算出部113bは、次の式により、利用者の立ち位置のうち、X−Y−Z座標系のZ軸方向の位置Uzを推定的に算出する。
Uz=A+(Po − Od)×B
ここで、A及びBは、画像データで表される画像の大きさ、カメラ32と画像形成装置10の本体部との間の位置関係等により定まる係数である。
(X−Y−Z座標系における利用者の立ち位置のY軸方向の位置Uyの推定)
また、位置算出部113bは、読み出したオブジェクト範囲情報161のX軸方向の幅Woを算出する。また、画像データ151で表される画像のうち、X軸方向の幅Wdを取得する。
次に、位置算出部113bは、幅Wdに対する幅Woの比率rを算出する。
比率r=幅Wo/幅Wd
図13(e)に示すように、比率rと閾値とが一致する場合(つまり、オブジェクトのX軸方向の幅が所定の長さである場合)、利用者90eは、カメラ32から所定の距離の位置に立っているとする。
ここで、図13(d)に示すように、比率r<閾値である場合(つまり、オブジェクトのX軸方向の幅が所定の長さより短い場合)、利用者90dは、図13(e)に示す位置と比較して、カメラ32から離れた側に立っていると分かる。
さらに、図13(f)に示すように、比率r>閾値である場合(つまり、オブジェクトのX軸方向の幅が所定の長さより長い場合)、利用者90dは、図13(e)に示す位置と比較して、カメラ32に近い側に立っていると分かる。
上記のような関係を用いて、位置算出部113bは、次の式により、利用者の立ち位置のうち、X−Y−Z座標系のY軸方向の位置Uyを推定的に算出する。
Uy=C+比率r/閾値×D
ここで、C及びDは、画像データで表される画像の大きさ、カメラ32と画像形成装置10の本体部との間の位置関係等により定まる係数である。
(X−Y−Z座標系のX軸方向の位置Uxの推定)
位置算出部113bは、読み出したオブジェクト範囲情報161の中央の位置のY座標Coを算出する。
オブジェクト範囲情報161の中央の位置のY座標Coは、利用者の背の高さを反映しており、利用者の立ち位置のうち、X−Y−Z座標系のX軸方向の位置Uxに関係している。
上記の関係を用いると、位置算出部113bは、次の式により、利用者の立ち位置のうち、X−Y−Z座標系のX軸方向の位置Uxを推定的に算出する。
Ux=E+Co×F
ここで、E及びFは、画像データで表される画像の大きさ、カメラ32と画像形成装置10の本体部との間の位置関係等により定まる係数である。
(利用者位置情報の書込み)
位置算出部113bは、算出した利用者の立ち位置を示す利用者位置情報(Ux、Uy、Uz)を、利用者位置情報181として、記憶部105に書き込む。
(3)視線視点算出部113c
視線視点算出部113cは、以下に示すようにして、利用者の視線の方向が変わる都度、利用者の顔の水平方向の向き、利用者の顔の鉛直方向からの傾き及び利用者の瞳の向きを算出し、利用者の視線が向く方向を算出し、操作パネル19の表示面20上の視点の位置を算出する。
(利用者の顔の水平方向の向きの算出)
視線視点算出部113cは、次のようにして、利用者の顔の水平方向の向きを算出する。
上述したように、図14(a)には、三方向に向いた利用者の頭部の概略図を示す。
左側を向く頭部363aにおいて、上述したように、中央線364aは、右側輪郭線365aよりも、左側輪郭線366aに近い位置に存在する。また、正面を向く頭部363bにおいて、上述したように、中央線364bは、右側輪郭線365bと左側輪郭線366bの略中央の位置に存在する。さらに、右側を向く頭部363cにおいて、上述したように、中央線364cは、左側輪郭線366cよりも、右側輪郭線365cに近い位置に存在する。
このように、視線視点算出部113cは、頭部の中央線が、左側輪郭線に近い側に存在するか、又は、右側輪郭線に近い側に存在するかを判断することにより、具体的には、水平方向テーブル185を用いて、利用者の顔の水平方向の向きを推定することができる。
その結果、図14(b)に示すように、ユーザーの頭部361a、361b、361cが向いている水平方向の向き362a、362b、362cを推定することができる。
視線視点算出部113cは、記憶部105から、オブジェクトデータ152を読み出す。また、視線視点算出部113cは、パーツ情報テーブル171から、左目のパーツ情報内のパーツID及びパーツ範囲、並びに、右目のパーツ情報内のパーツID及びパーツ範囲を読み出し、読み出した左目のパーツID及び右目のパーツIDによりそれぞれ識別されるパーツデータを記憶部105から読み出す。
次に、視線視点算出部113cは、左目のパーツデータ及びパーツ範囲、右目のパーツデータ及びパーツ範囲、並びに、オブジェクトデータ152を用いて、中央線を算出する。また、視線視点算出部113cは、オブジェクトデータ152を用いて、左側輪郭線及び右側輪郭線を算出する。次に、視線視点算出部113cは、オブジェクトデータを用いて、中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率を算出する。例えば、中央線が、左側輪郭線と右側輪郭線との中央に存在する場合には、比率は、50%である。中央線が、左側輪郭線と一致する場合には、比率は、左0%である。中央線が、右側輪郭線と一致する場合には、比率は、右0%である。中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率が1:3である場合、比率は、左25%である。中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率が3:1である場合、比率は、右25%である。
次に、視線視点算出部113cは、水平方向テーブル185から、算出した比率に対応する水平方向角度を抽出する。算出した比率に対応する水平方向角度が水平方向テーブル185に存在しない場合には、直線補間法を用いる。
このようにして、利用者の顔が向いている水平方向の向きを算出する。
(利用者の顔の鉛直方向からの傾きの算出)
視線視点算出部113cは、次のようにして、利用者の顔(頭部)の鉛直方向からの傾きを算出する。
図14(c)には、鉛直方向に対して傾きのない利用者の顔375a、鉛直方向に対してやや傾いた利用者の顔375b、及び、鉛直方向に対してさらに傾いた利用者の顔375cを示す。
鉛直方向に対して傾きのない利用者の顔375aでは、中央線374aは、ほぼ鉛直方向を維持している。また、鉛直方向に対してやや傾いた利用者の顔375bでは、中央線374bは、鉛直方向からやや傾いている。また、鉛直方向に対してさらに傾いた利用者の顔375cでは、中央線374cは、鉛直方向からさらに傾いている。
従って、利用者の頭部の中央線を用いれば、利用者の顔の鉛直方向からの傾きを知ることができる。つまり、図14(d)に示すように、利用者の顔371bの中央線372bの鉛直方向からの傾きから、視線方向373bを知ることができる。
利用者の顔の水平方向の向きを算出する場合と同様に、視線視点算出部113cは、左目のパーツデータ及びパーツ範囲、右目のパーツデータ及びパーツ範囲、並びに、オブジェクトデータ152を用いて、中央線を算出する。
次に、視線視点算出部113cは、算出した中央線の鉛直方向の傾きを算出し、これを利用者の顔の鉛直方向からの傾きとする。
(利用者の瞳の向きの算出)
視線視点算出部113cは、次のようにして、利用者の瞳の向きを算出する。
視線視点算出部113cは、記憶部105に記憶されているパーツ情報テーブル171から、左目のパーツ情報内のパーツID、及び、右目のパーツ情報内のパーツIDを読み出し、読み出した左目のパーツID及び右目のパーツIDを、それぞれ、顔認識処理部113aに対して、出力して、顔認識処理部113aに利用者の目を表すパーツデータ内の瞳の位置を検出させる。
次に、視線視点算出部113cは、顔認識処理部113aから、両方の目の瞳の位置を受け取る。
図14(e)に示すように、受け取った両方の瞳351a、352aの位置が、それぞれの目のパーツデータ355a、356aの中央に存在することを示す場合、視線視点算出部113cは、両方の瞳が顔の正面側を向いているので、利用者353aの視線354aも正面を向いていると判断する。
また、図14(f)に示すように、受け取った両方の瞳351b、352bの位置が、それぞれの目のパーツデータ355b、356bの左側に存在することを示す場合、視線視点算出部113cは、両方の瞳が顔の左側を向いているので、利用者353bの視線354bも左側を向いていると判断する。
さらに、図14(g)に示すように、受け取った両方の瞳351c、352cの位置が、それぞれの目のパーツデータ355c、356cの右側に存在することを示す場合、視線視点算出部113cは、両方の瞳が顔の右側を向いているので、利用者353cの視線354cも左側を向いていると判断する。
視線視点算出部113cは、以上のようにして、利用者の瞳の向きを算出する。
(視線情報の生成)
視線視点算出部113cは、算出した利用者の顔の水平方向の向き、利用者の顔の鉛直方向からの傾き及び利用者の瞳の向きを合成して、利用者の視線が向く方向情報(X、Y、Z)を算出する。
次に、視線視点算出部113cは、利用者位置情報181及び利用者の視線が向く方向情報を、利用者位置192及び方向情報193からなる視線情報191として、記憶部105に書き込む。
(視点情報の生成)
視線視点算出部113cは、記憶部105から、視線情報191を読み出す。視線視点算出部113cは、読み出した視線情報に含まれる利用者位置を起点として、読み出した視線情報に含まれる方向情報が示す方向に、直線を延長し、延長した直線が操作パネル19の表示面20と交差する点を、利用者の視点の位置を示す視点位置情報として算出する。ここで、視点位置は、操作パネル19の表示面20上のX’−Y’座標系により表される座標値(X’、Y’)により示される。視線視点算出部113cは、算出した視点位置情報を、視点位置情報195として、記憶部105に書き込む。
視線視点算出部113cは、利用者の視線の方向が変わり、操作パネル19の表示面20上の視点位置が変わる都度、算出した視点位置情報を、視点位置情報195として、記憶部105に書き込む。
(4)視点入力制御部114
(視点の変動)
利用者が意図して、操作パネル19の表示面20上の一点を見つめている場合であっても、図15(a)に示すように、利用者の視点は、一点に固定されず、利用者が見つめようとする先を中心として、一定の範囲内において、不規則に変動する、と考えられる。
(視線が視点範囲内に入っているかの判定)
視点入力制御部114は、視点が表示面20内のある範囲内に入った時点から時間のカウントを開始して、例えば、1秒間のうち、80%以上の時間、視点がその範囲内に入っていれば(検出条件1と呼ぶ)、視点は、その範囲に入っているとみなす。検出条件1を満たさない場合、視点は、その範囲外であるとみなす。
視点入力制御部114は、検出条件1を満たす範囲の中心点を算出し、算出した中心点を表示制御部111に対して、出力して、中心点を中心として、所定の半径を有する円形(又は、長円形)からなる視点領域を表示するように、指示する。視点領域を表示することにより、視点の位置を強調して表示している。これにより、視点による入力が有効である旨を利用者に通知している。利用者は、自身の視点の位置を容易に知ることができ、視線による入力が有効であって、視線入力モードであると知ることもできる。
図15(b)においては、時間の経過に伴って視点が変化する様子が容易に理解できるように、表示面20上の二次元の範囲を、縦軸の一次元で表現し、横軸に時間の経過を示している。曲線760は、時間の経過に伴う視点の変化を示している。
曲線760は、時刻771において、初めて、範囲762の内側に入る。時刻771から時間の経過を計測する。続いて、曲線760は、時刻772において、範囲762の外に出ている。その後、曲線760は、時刻773において、再び、範囲762の内側に入る。このように、曲線760は、時刻772と時刻773との間において、範囲763に入り、範囲763の外側に出ている。続いて、曲線760は、時刻773と、時刻774との間において、おおむね、範囲762内に入っている。時刻771から時刻774までの時間761が1秒間であるとすると、曲線760は、時間761のうち、80%以上、範囲762内に入っている。
従って、この場合、利用者の視線は、範囲762に入っているとみなす。
(仮確定の判定)
視点入力制御部114は、視点がある範囲内に入った状態(検出条件1)が、例えば、3秒間、継続していれば(検出条件2と呼ぶ)、仮確定と判定する。ここで、仮確定とは、視線入力により、視点の位置が仮に確定した状態を示す。つまり、視点入力制御部114は、視点がある範囲内に入った時点から時間のカウントを開始して、3秒間のうち、80%以上の時間、視点がその範囲内に入っていれば、仮確定と判定する。仮確定と判定した後、視点がその範囲から外に出た場合であっても、その範囲について、仮確定の状態は継続する。
視点入力制御部114は、仮確定と判定した場合、その視点の位置を表示制御部111に対して、通知する。
仮確定は、以下に示すように、解除することができる。また、仮確定に対して、確定とは、後述するように、位置確定ボタンが操作された状態である。
(仮確定の解除)
視点入力制御部114は、仮確定と判定された状態で、つまり、視点がある範囲内に入った状態が、例えば、3秒間、継続している状態で、続いて、例えば、0.5秒以内に、3回、利用者のまばたきを検出する(検出条件3と呼ぶ)と、仮確定が解除されたものとみなす。
(マークの種類とマーク指定領域)
視点入力制御部114は、記憶部105から、マークの種類毎に、プレビュー画面上におけるマーク指定領域を示すマーク指定領域情報を読み出す。
マーク指定領域は、図15(c)〜(f)に示すように、マークの種類及びマークの位置毎に、プレビュー画面上において、その領域が設定されている。
マークがページ番号の場合、図15(c)に示すように、プレビュー画面711の上辺側の、左上のマーク指定領域712、中央のマーク指定領域713、右上のマーク指定領域714、及び、プレビュー画面711の下辺側の、左下のマーク指定領域715、中央のマーク指定領域716、右下のマーク指定領域717が定められている。
また、マーク指定領域712、713、・・・、717内のそれぞれにおいて、マークが表示されるべき所定位置が定められている。例えば、マーク指定領域712、713、・・・、717内の中央の位置が所定位置として定められている。このため、視点がマーク指定領域712、713、・・・、717の何れかの内部に入ると、それぞれのマーク指定領域の所定位置にマークが表示される。日付、時刻についても、同様である。
また、マーク指定領域712、713、・・・、717の何れかの領域内の所定位置に相当する画像(例えば、スキャンジョブ、コピージョブ又はプリントジョブにより得られる画像)上の位置において、ページ番号が上書きされる。日付、時刻についても、同様である。
マークがステープルの場合、図15(d)に示すように、プレビュー画面721の左上のマーク指定領域722及び左側辺の中央のマーク指定領域723が定められている。
また、マーク指定領域722及び723内のそれぞれにおいて、マークが表示されるべき所定位置が定められている。例えば、マーク指定領域722内の左上の位置が所定位置として定められている。また、マーク指定領域723内の左側辺に沿って、間隔を開けて離れた2箇所の位置が所定位置として定められている。視点がマーク指定領域722及び723の何れかの内部に入ると、それぞれのマーク指定領域の所定位置にマークが表示される。つまり、マーク指定領域722においては、一箇所でマークが表示され(図19のマーク513を参照)、マーク指定領域723においては、二箇所でマークが表示される(図19のマーク522、523を参照)。
また、マーク指定領域722内の所定位置に相当するシート上の位置において、一箇所でステープル綴じがされる。また、マーク指定領域723の内の二箇所の所定位置に相当するシート上の二箇所の位置において、それぞれステープル綴じがされる。
マークがパンチ穴の場合、図15(e)に示すように、プレビュー画面731の上辺の中央のマーク指定領域732及び左側辺の中央のマーク指定領域733が定められている。
また、マーク指定領域732及び733内のそれぞれにおいて、マークが表示されるべき所定位置が定められている。例えば、マーク指定領域732内の上側辺に沿って、間隔を開けて離れた2箇所の位置が所定位置として定められている。また、マーク指定領域733内の左側辺に沿って、間隔を開けて離れた2箇所の位置が所定位置として定められている。視点がマーク指定領域732及び733の何れかの内部に入ると、それぞれのマーク指定領域の所定位置にマークが表示される。つまり、マーク指定領域732においては、二箇所でマークが表示され(図20のマーク543、544を参照)、マーク指定領域733においても、二箇所でマークが表示される(図20のマーク553、554を参照)。
また、マーク指定領域732内の二箇所の所定位置に相当するシート上の位置において、二箇所でパンチ穴が穿孔される。また、マーク指定領域733の内の二箇所の所定位置に相当するシート上の位置において、二箇所でパンチ穴が穿孔される。
マークが綴じ代量の場合、図15(f)に示すように、プレビュー画面741の左辺のマーク指定領域742が定められている。
また、マーク指定領域741においては、マークが表示されるべき所定位置として、視点の位置が定められている。このため、視点がマーク指定領域741の内部に入ると、マーク指定領域の視点の位置にマークが表示される。
なお、マーク指定領域742には、限定されない。プレビュー画面741の右辺、上辺、下辺にマーク指定領域を定めてもよい。
マーク指定領域742内において、綴じ代量が設定される。
なお、マークが、スタンプ又はウォーターマークである場合、これらのマークについては、プレビュー画面上の所定の位置にマーク指定領域は存在せず、図15(g)に示すように、プレビュー画面751において、視点の位置を中心として、所定の大きさの円形の視点領域752が表示される。
視点入力制御部114は、マークがスタンプ及びウォーターマーク以外の場合、マークの種類毎に定めた1個又は複数個のマーク指定領域のいずれかの中に利用者の視点が入る(検出条件1を満たす)か否かを判断する。視点入力制御部114は、1個又は複数個のマーク指定領域のいずれかの中に利用者の視点が入る(検出条件1を満たす)と、このマーク指定領域に対応する所定位置に、当該種類のマークを表示するように、表示制御部111に対して、マークの種類及びその所定位置を出力する。
視点入力制御部114は、マークの種類毎に定めた1個又は複数個のマーク指定領域のいずれかの中に利用者の視点が入り(検出条件1を満たす)、かつ、仮確定と判定されると(検出条件2を満たす)と、このマーク指定領域に対応する位置と、仮確定を示す仮確定情報を表示制御部111に対して出力する。
視点入力制御部114は、仮確定が解除された場合、その位置と仮確定が解除されたことを示す解除情報を表示制御部111に対して出力する。
1.8 表示制御部111
(画面の遷移の制御)
表示制御部111は、以下に示すように、記憶部105に記憶されているメニュー遷移テーブル211に従って、操作パネル19の表示面20に表示されるべき画面の遷移を制御する。
画像形成装置10の電源がオンとされたときには、表示制御部111は、記憶部105から最初のメニュー画面IDを読み出す。最初のメニュー画面IDにより識別されるメニュー画面が表示された後においては、表示制御部111は、メニュー遷移テーブル211から、次に、表示すべきメニュー画面を識別する遷移先ID(メニュー画面ID)を読み出す。
表示制御部111は、読み出したメニュー画面IDにより識別されるメニュー画面を記憶部105から読み出し、読み出したメニュー画面を、入出力部110を介して、操作パネル19に対して出力して、読み出したメニュー画面を操作パネル19に表示させる。
表示制御部111は、メニュー遷移テーブル211から、読み出したメニュー画面IDを含むメニュー遷移情報を読み出す。
表示中のメニュー画面に対する利用者の操作がなされたとき、表示制御部111は、読み出したメニュー遷移情報に含まれる選択肢情報内の機能の内容を判断する。具体的には、表示制御部111は、機能の内容が、実行条件の設定に係る「パラメーター設定」であるか、次の画面への「遷移」であるか、画像上における一の位置を選択する指示である「位置選択」であるか、を判断する。次に、表示制御部111は、選択肢情報内の機能に従って、動作する。
選択肢情報内の機能が「遷移」であれば、表示制御部111は、対応する遷移先ID(メニュー画面ID)を抽出し、抽出した遷移先IDに対応するメニュー画面IDを含むメニュー遷移情報を、メニュー遷移テーブル215から読み出す。また、表示制御部111は、遷移先IDに対応するメニュー画面を記憶部105から読み出し、読み出したメニュー画面を、入出力部110を介して、操作パネル19に対して出力して、読み出したメニュー画面を操作パネル19に表示させる。
例えば、表示制御部111は、図16に示すように、メニュー画面401、411、421を操作パネル19の表示面20に表示させる。これらのメニュー画面については、後述する。
選択肢情報内の機能が「位置選択」であれば、表示制御部111は、位置選択を行うための画面(例えば、プレビュー画面)を生成し、生成した画面を、入出力部110を介して、操作パネル19に対して出力して、生成した画面を操作パネル19の表示面20に表示させる。
例えば、表示制御部111は、図17、図18、図19、図20、図21に、それぞれ、示すように、プレビュー画面431、474、501、531、561を操作パネル19に表示させる。これらのプレビュー画面については、後述する。
また、選択肢情報内の機能が「位置選択」であれば、表示制御部111は、視点検出部113による視点の検出(視線入力)を有効にする。つまり、表示制御部111は、通常の入力モードから、視線入力モードに変更するため、視点検出部113に対して、視点を取得するように、つまり、プレビュー画像上における位置として、視点検出部113により検出された視点の位置を選択するように、制御する。
また、視線入力モード中に、操作パネル19から、入出力部110を介して、表示面20に対する接触入力を受け取った場合、表示制御部111は、視線入力モードを無効にするため、視点検出部113に対して、視点の検出を無効にして、視点の取得及び視点の出力を停止するように、制御する。
選択肢情報内の機能が「パラメーター設定」であれば、表示制御部111は、操作パネル19から、利用者により設定された実行条件を受け付け、受け付けた実行条件を記憶部105に書き込む。
例えば、表示制御部111は、図16のメニュー画面421に示すように、スタンプの内容を示す選択肢のうちの一つが選択されると、選択された選択肢に対応するスタンプの内容を(又は、その内容を識別する識別子)を、スタンプの内容を示す実行条件として、記憶部105に書き込む。
このとき、その選択肢が選択されたことを利用者が明確に知ることができるように、必要に応じて、受け付けた設定項目を反転表示した画面を生成し、生成した画面を入出力部110を介して、操作パネル19に対して出力して、画面を操作パネル19に表示させてもよい。
(プレビュー画像の生成の制御)
上記の通り、選択肢情報内の機能が「位置選択」であり、位置選択を行うためのプレビュー画面を生成する場合、以下に示すようにして、表示制御部111は、プレビュー画像を生成する。
プリントジョブの場合、表示制御部111は、外部の端末装置から受信したプリントジョブに含まれるデータを用いて、プレビュー画像を生成するように、画像処理部106に対して、指示する。画像処理部106からプレビュー画像を受け取ると、受け取ったプレビュー画像を、入出力部110を介して、操作パネル19に対して出力して、表示させる。
スキャンジョブ又はプリントジョブの場合、表示制御部111は、スキャナー制御部109に対して、イメージリーダー部11により、プレビュー画像用の低解像度で、原稿面を読み取って、原稿画像を縮小して生成したプレビュー画像を生成するように指示する。スキャナー制御部109からプレビュー画像を受け取ると、受け取ったプレビュー画像を、入出力部110を介して、操作パネル19に対して出力して、表示させる。
視点入力制御部114から、仮確定の通知を受けた場合、つまり、視点が仮確定している場合、表示制御部111は、操作パネル19に位置確定ボタンを出力して、表示させる(図17のボタン455、図18のボタン484、図19のボタン525、図20のボタン556、図21のボタン585等を参照)。
(仮確定の場合の処理)
視点入力制御部114から、仮確定の通知を受けた場合、表示制御部111は、さらに、その視点のプレビュー画像上の位置も受け取る。表示制御部111は、付加画像の場合、日付、時刻、ページ番号、スタンプ又はウォーターマークについて、受け取った視点の位置及びその付加画像を、内部に記憶する。また、表示制御部111は、綴じ代量の場合、受け取った視点の位置を、内部に記憶する。さらに、ステープル又はパンチ穴の場合、それらの区別と、ステープルの位置又はパンチ穴の位置として、受け取った視点の位置を、内部に記憶する。
(位置の確定)
表示制御部111は、変換手段を備える。
表示制御部111は、操作パネル19から、入出力部110を介して、位置確定ボタンに対する利用者による接触の検知の通知を受け取る。この検知を受け取ると、表示制御部111は、プレビュー画面上において、仮確定していた位置が確定したと判断する。表示制御部111の変換手段は、仮確定の際に、内部に記憶していたプレビュー画像上の位置を、イメージリーダー部11により、原稿面を読み取って生成した画像データ、又は、ネットワーク通信部107により受信したプリントジョブに含まれるデータにより表される画像上の位置に変換する。表示制御部111の変換手段は、変換して生成した新たな位置を内部に記憶する。
なお、ステープルの位置又はパンチ穴の位置の場合、表示制御部111の変換手段は、仮確定の際に、内部に記憶していたプレビュー画像上の位置を、シート上の位置に変換する。表示制御部111の変換手段は、変換して生成した新たな位置を内部に記憶する。
(付加画像の上書きの制御)
付加画像の場合、上記の変換が終了すると、表示制御部111は、内部に記憶している変換により生成した位置及びその内容を画像処理部106に対して出力して、画像メモリ104に記憶されている画像データにより表させる画像上で、変換により生成した位置に、付加画像を上書きするように、指示する。
(綴じ代量の処理の制御)
綴じ代量の場合、上記の変換が終了すると、表示制御部111は、内部に記憶している変換により生成した位置から、シートの左端辺までの距離として、綴じ代量を算出する。綴じ代量を算出すると、表示制御部111は、綴じ代量を画像処理部106に対して出力して、画像メモリ104に記憶されている画像データにより表させる画像上で、綴じ代量の分だけ、シート上に余白を配置できるように、画像データにより表される画像を移動又は縮小するように、指示する。
(ステープル又はパンチ穴の処理の制御)
ステープル又はパンチ穴の場合、上記の変換が終了すると、表示制御部111は、内部に記憶しているそれらの区別と、変換により生成されたシート上の位置とを後処理装置制御部115に対して、出力する。
1.9 後処理装置制御部115
後処理装置制御部115は、表示制御部111から、ステープル及びパンチの区別と、シート上におけるステープルの位置又はパンチ穴の位置を受け取る。区別及び位置を受け取ると、後処理装置制御部115は、後処理装置16に対して、ステープルの位置又はパンチ穴の位置を出力し、それぞれの位置において、ステープル綴じ又はパンチ穴の穿孔を行うように、後処理装置16に対して、指示する。
1.10 画面の遷移
操作パネル19の表示面20に表示される画面の遷移について、以下に説明する。
(1)操作パネル19に表示されるメニュー画面の遷移
操作パネル19は、表示面20に、表示制御部111の制御により、例えば、画像形成システム1の起動直後に、図16に示すメニュー画面401を表示する。
メニュー画面401は、コピージョブを実行する場合に、利用者によりジョブの実行条件を設定するために用いられる。メニュー画面401には、この図に示すように、設定領域402、403、404、405及びボタン406が含まれる。
設定領域402、403、404、405は、それぞれ、印刷の濃度、印刷に用いる用紙、印刷の際の画像データの拡大や縮小の倍率、印刷の際のページの集約の設定を行うための選択肢を含んでいる。また、ボタン406は、図16に示すメニュー画面411に遷移するために、利用者により接触による操作がされる領域を示す。
表示面20にメニュー画面401が表示されている状態では、LED33は、点灯していない。
利用者によりボタン406に対して、接触の操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、メニュー画面411を表示する。
メニュー画面411は、ジョブの実行条件として、様々なオプションの設定をするため、具体的には、日付、時刻、ページ番号、スタンプ、ウォーターマークを印刷するシート上の位置を選択し、ステープル閉じを行うシート上の位置及びパンチ穴を穿孔するシート上の位置を選択し、シート束の綴じ代量を指定するために用いられる。
メニュー画面411には、図16に示すように、ボタン412、413、・・・、418が含まれる。ボタン412、413、・・・、418は、それぞれ、メニュー画面411から、それぞれの画面(日付及び時刻の位置、ページ番号の位置、スタンプの種類の選択、ウォーターマークの選択、ステープル閉じの位置、パンチ穴の位置を選択及び綴じ代量を指定するために用いられるそれぞれの画面)に遷移するために、利用者により接触による操作がされる領域を示す。なお、ボタン412、413、416、417及び418に対する利用者による接触により、表示面20に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示が受け付けられる。
ここで、ボタン413、416、417及び418に対して、利用者により接触による操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、それぞれ、図17に示すプレビュー画面431、図19に示すプレビュー画面501、図20に示すプレビュー画面531及び図21に示すプレビュー画面561を表示する。
なお、ボタン412に対して、利用者により接触による操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、それぞれ、図17に示すプレビュー画面431と同様の画面を表示するので、詳細の説明を省略する。
また、ボタン414に対して、利用者により接触による操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図16に示すメニュー画面421を表示する。なお、ボタン415についても、ボタン414と同様である。
メニュー画面421は、スタンプとして、シート上に印刷する内容を選択するための画面である。メニュー画面421には、ボタン422、423、424、425、・・・及びボタン426が含まれている。
ボタン422、423、424、425、・・・の表示領域内には、それぞれ、「秘密」、「社外秘」、「複製禁止」、まる秘を示す記号、・・・が表されている。ボタン422、423、424、425、・・・のいずれか一つが利用者により、選択(接触による操作)がされる。選択された表示内容は、例えば、ボタン425に示すように、反転表示される。
また、ボタン426は、次の画面に遷移するために、利用者により接触による操作がされる領域を示す。なお、ボタン426に対する利用者による接触により、表示面20に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示が受け付けられる。
利用者によりボタン426に対して、接触の操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図18に示すプレビュー画面474を表示する。
上記の通り、ボタン412、413、416、417、418、426は、それぞれ、位置の選択を指示するための操作ボタンである。
(2)ページ番号を表示する位置を視線により選択する場合のプレビュー画面の例
図16に示すメニュー画面411において、ボタン413に対して、利用者により接触による操作がされると、表示制御部111は、スキャナー制御部109から取得したプレビュー画像432を中央に配したプレビュー画面431を生成し、図17に示すように、操作パネル19は、表示面20にプレビュー画面431を表示する。このとき、操作パネル19は、LED33を点灯させる。LED33が点灯している場合には、視線入力モードであることを、利用者に通知している。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、表示面20に視点領域433を表示する。視点領域433は、この図に示すように、表示面20上の利用者の視点の位置を中心とする所定の半径の円により形成され、視点領域433内に、画面上の他の領域と区別するために、所定の色、例えば、黄色が塗布されている。このように、視点領域433が表示されるので、利用者は、自身の視点の位置を容易に知ることができる。
利用者が表示面20上において、視点を移動させると、視点検出部113により、表示面20上の利用者の新たな視点が検出される。操作パネル19は、視点領域を、新たな視点を中心とした位置に移動させ、その位置において表示する。利用者が視点を移動させる都度、新たな視点が検出され、視点領域も、新たな視点を中心とする位置に移動して表示される。
図15(c)に示すように、プレビュー画面711において、マーク指定領域712〜717が定められている。例えば、利用者の視点がマーク指定領域716の内部に入ると、操作パネル19は、図17のプレビュー画面441に示すように、プレビュー画像442の下部に、ページ番号を示すマーク443を表示する。また、操作パネル19は、利用者の視線440の先の視点を中心とする視点領域444を表示する。この場合にも、操作パネル19は、LED33を点灯させる。
次に、利用者の視点が移動し、例えば、利用者の視点が図15(c)に示すマーク指定領域714の内部に入ると、図17のプレビュー画面451に示すように、操作パネル19は、プレビュー画像452の右上部に、ページ番号を示すマーク453を表示する。また、操作パネル19は、利用者の視線450の先の視点を中心とする視点領域454を表示する。ここで、利用者の視点が仮確定すると、プレビュー画面441の視点領域444の表示色は、プレビュー画面451の視点領域454に示すように、仮確定を示す緑色に変わる。操作パネル19は、さらに、ボタン455を表示する。ボタン455は、利用者の接触により操作される。この場合にも、操作パネル19は、LED33を点灯させる。
ボタン455が利用者により操作されると、シートの右上にページ番号を印刷する形式により、コピージョブが実行される。この後、LED33は、消灯する。次に、操作パネル19は、表示面20に次の画面(例えば、図16に示すメニュー画面401)を表示する。
(3)スタンプを表示する位置を視線により選択する場合の画面例
図16に示すメニュー画面421において、ボタン426に対して、利用者により接触による操作がされると、表示制御部111は、スキャナー制御部109から取得したプレビュー画像471を中央に配したプレビュー画面474を生成し、図18に示すように、操作パネル19は、表示面20にプレビュー画面474を表示する。このとき、操作パネル19は、LED33を点灯させる。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、表示面20において、利用者の視線470の先の視点の位置に、スタンプを示すマーク472を表示する。また、操作パネル19は、利用者の視点を中心とする視点領域473も表示する。この場合にも、操作パネル19は、LED33を点灯させる。
次に、利用者の視点が移動すると、操作パネル19は、プレビュー画面485に示すように、移動先の視点の位置に、スタンプを示すマーク482を表示する。また、操作パネル19は、プレビュー画面474の視点領域473を移動させ、プレビュー画面485に示すように、利用者の視点を中心とする視点領域483を表示する。ここで、利用者の視点が仮確定すると、視点領域483の表示色は、仮確定を示す緑色に変わる。操作パネル19は、さらに、ボタン484を表示する。ボタン484は、利用者の接触により操作される。この場合にも、操作パネル19は、LED33を点灯させる。
ボタン484が利用者により操作されると、シートの右上にスタンプを印刷する形式により、コピージョブが実行される。この後、操作パネル19は、LED33を消灯させる。次に、操作パネル19は、表示面20に次の画面(例えば、図16に示すメニュー画面401)を表示する。
(4)ステープルの位置を視線により選択する場合の画面例
図16に示すメニュー画面411において、ボタン416に対して、利用者により接触による操作がされると、表示制御部111は、スキャナー制御部109から取得したプレビュー画像503を中央に配したプレビュー画面501を生成し、図19に示すように、操作パネル19は、表示面20にプレビュー画面501を表示する。このとき、操作パネル19は、LED33を点灯させる。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、図19のプレビュー画面501に示すように、表示面20に視点領域502を表示する。
図15(d)に示すように、プレビュー画面721において、マーク指定領域722、723が定められている。例えば、利用者の視点がマーク指定領域722の内部に入ると、操作パネル19は、図19のプレビュー画面511に示すように、プレビュー画像512の左上部に、ステープルを示すマーク513を表示する。また、操作パネル19は、利用者の視線510の先の視点を中心とする視点領域514を表示する。この場合にも、操作パネル19は、LED33を点灯させる。
次に、利用者の視点が移動し、例えば、利用者の視点が図15(d)に示すマーク指定領域723の内部に入ると、図19のプレビュー画面521に示すように、操作パネル19は、プレビュー画像526の左側部に、ステープルを示すマーク522、523を表示する。また、操作パネル19は、利用者の視線520の先の視点を中心とする視点領域524を表示する。ここで、利用者の視点が仮確定すると、視点領域524の表示色は、仮確定を示す緑色に変わる。操作パネル19は、さらに、ボタン525を表示する。ボタン525は、利用者の接触により操作される。この場合にも、操作パネル19は、LED33を点灯させる。
ボタン525が利用者により操作されると、シートの左側にステープル綴じを行うように後処理の設定がされて、コピージョブが実行される。この後、LED33は、消灯する。次に、操作パネル19は、表示面20に次の画面(例えば、図16に示すメニュー画面401)を表示する。
(5)パンチ穴の位置を視線により選択する場合の画面例
図16に示すメニュー画面411において、ボタン417に対して、利用者により接触による操作がされると、表示制御部111は、スキャナー制御部109から取得したプレビュー画像532を中央に配したプレビュー画面531を生成し、図20に示すように、操作パネル19は、表示面20にプレビュー画面531を表示する。このとき、操作パネル19は、LED33を点灯させる。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、図20のプレビュー画面531に示すように、表示面20に視点領域533を表示する。
図15(e)に示すように、プレビュー画面731において、マーク指定領域732、733が定められている。例えば、利用者の視点がマーク指定領域732の内部に入ると、操作パネル19は、図20のプレビュー画面541に示すように、プレビュー画像542の上部に、パンチ穴を示すマーク543、544を表示する。また、操作パネル19は、利用者の視線540の先の視点を中心とする視点領域545を表示する。この場合にも、操作パネル19は、LED33を点灯させる。
次に、利用者の視点が移動し、例えば、利用者の視点が図15(e)に示すマーク指定領域733の内部に入ると、図20のプレビュー画面551に示すように、操作パネル19は、プレビュー画像552の左側部に、パンチ穴を示すマーク553、554を表示する。また、操作パネル19は、利用者の視線550の先の視点を中心とする視点領域555を表示する。ここで、利用者の視点が仮確定すると、視点領域555の表示色は、仮確定を示す緑色に変わる。操作パネル19は、さらに、ボタン556を表示する。ボタン556は、利用者の接触により操作される。この場合にも、操作パネル19は、LED33を点灯させる。
ボタン556が利用者により操作されると、シートの左側において、パンチ穴を穿孔する後処理設定がされて、コピージョブが実行される。この後、LED33は、消灯する。次に、操作パネル19は、表示面20に次の画面(例えば、図16に示すメニュー画面401)を表示する。
(6)綴じ代量を視線により指定する場合の画面例
図16に示すメニュー画面411において、ボタン418に対して、利用者により接触による操作がされると、表示制御部111は、スキャナー制御部109から取得したプレビュー画像562を中央に配したプレビュー画面561を生成し、図21に示すように、操作パネル19は、表示面20にプレビュー画面561を表示する。このとき、操作パネル19は、LED33を点灯させる。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、図21のプレビュー画面561に示すように、表示面20に視点領域563を表示する。
図15(f)に示すように、プレビュー画面741において、マーク指定領域742が定められている。例えば、利用者の視点がマーク指定領域742の内部に入ると、操作パネル19は、図21のプレビュー画面571に示すように、プレビュー画像572の左側部において、利用者の視線570の先の視点の位置において、綴じ位置を示すマーク574を表示する。また、操作パネル19は、利用者の視線570の先の視点を中心とする視点領域573を表示する。この場合にも、操作パネル19は、LED33を点灯させる。
次に、利用者の視点が、例えば、利用者の視点が図15(f)に示すマーク指定領域742の内部で移動すると、図21のプレビュー画面581に示すように、操作パネル19は、プレビュー画像582の左側部において、利用者の視線580の先の視点の位置において、綴じ位置を示すマーク584を表示する。また、操作パネル19は、利用者の視線580の先の視点を中心とする視点領域583を表示する。ここで、利用者の視点が仮確定すると、視点領域583の表示色は、仮確定を示す緑色に変わる。操作パネル19は、さらに、ボタン585を表示する。ボタン585は、利用者の接触により操作される。この場合にも、操作パネル19は、LED33を点灯させる。
ボタン585が利用者により操作されると、シートの左側に、指定された綴じ代量だけ余白を開けて、画像を移動又は縮小した形式により、コピージョブが実行される。この後、LED33は、消灯する。次に、操作パネル19は、表示面20に次の画面(例えば、図16に示すメニュー画面401)を表示する。
1.11 動作
(1)概要の動作
メニュー画面を表示後、プリント又はスキャンを実行するまでの、概要の動作について、図22に示すフローチャートを用いて説明する。
表示制御部111は、初期のメニュー画面を生成し(ステップS101)、操作パネル19は、メニュー画面を表示する(ステップS102)。操作パネル19は、利用者の操作による選択肢の選択を受け付ける(ステップS103)。
表示制御部111は、受け付けた選択肢の内容を判断する(ステップS104)。選択肢の内容が次のメニュー画面の表示である場合(ステップS104で「次のメニュー画面の表示」)、表示制御部111は、次のメニュー画面を生成する(ステップS105)。次に、主制御部100は、制御をステップS102に移す。
選択肢の内容がパラメーターの設定である場合(ステップS104で「パラメーターの設定」)、表示制御部111は、操作パネル19から設定されたパラメーターを受け取り、記憶し(ステップS110)、設定された実行条件について反転表示するように、操作パネル19に対して出力する(ステップS111)。次に、主制御部100は、制御をステップS102に移す。
選択肢の内容が位置選択を伴う選択肢である場合(ステップS104で「位置選択を伴う選択肢」)、表示制御部111は、スタンプ又はウォーターマークかその他かを判断する(ステップS106)。スタンプ又はウォーターマークであると判断される場合(ステップS106で「スタンプ等」)、視線入力の処理(1)が実行される(ステップS107)。一方、スタンプ及びウォーターマークでないと判断される場合(ステップS106で「その他」)、視線入力の処理(2)が実行される(ステップS108)。続いて、確定した位置により、プリントジョブ、スキャンジョブ又はコピージョブが実行される(ステップS109)。次に、主制御部100は、制御をステップS101に移す。
選択肢の内容がその他である場合(ステップS104で「その他」)、その他の処理がされ(ステップS112)、次に、主制御部100は、制御をステップS101に移す。
以上により、概要の動作の説明を終了する。
(2)視線入力の処理(1)の動作
プレビュー画像上の任意の位置に、スタンプ又はウォーターマークを示すマークを配する指示がされた場合における、視線入力の処理(1)の動作について、図23に示すフローチャートを用いて説明する。なお、視線入力の処理(1)の動作は、図22に示すフローチャートにおけるステップS107の詳細である。
視線入力の処理(1)の動作を開始すると、操作パネル19は、LED33を点灯させる(ステップS213)。次に、視点検出部113は、視点の取得処理を実行する(ステップS215)。視点検出部113は、表示制御部111に対して、視点を出力する(ステップS215a)。視点入力制御部114は、視点が仮確定しているか否かを判断する(ステップS218)。視点が仮確定していない場合(ステップS218で「NO」)、主制御部100は、ステップS215に制御を移し、処理を繰り返す。
視点が仮確定している場合(ステップS218で「YES」)、視点入力制御部114は、表示制御部111に対して仮確定情報を出力する(ステップS218a)。また、表示制御部111は、操作パネル19に位置確定ボタンを出力して、表示させる(ステップS219)。
表示制御部111は、利用者が位置確定ボタンに接触したか否かを判断する(ステップS220)。利用者が位置確定ボタンに接触した場合(ステップS220で「YES」)、表示制御部111は、画像処理部106に対して、確定した位置を出力し、又は、後処理装置制御部115は、後処理装置16に対して、確定した位置を出力する(ステップS223)。次に、操作パネル19は、LED33を消灯させる(ステップS224)。
これにより、視線入力の処理(1)の動作が終了する。
また、視線入力の処理(1)の動作を開始すると、表示制御部111は、画像処理部106から、又は、スキャナー制御部109から、プレビュー画像を取得する(ステップS241)。次に、表示制御部111は、操作パネル19に対して、プレビュー画像を含むプレビュー画面を出力し、操作パネル19は、プレビュー画面を表示する(ステップS242)。
表示制御部111は、マークを記憶部105から読み出し(ステップS243)、視点検出部113から視点を受け取る(ステップS215a)。表示制御部111は、操作パネル19に、受け取った視点の位置において視点領域を表示させる(ステップS250)。次に、視点入力制御部114から仮確定情報を受信した場合(ステップS261で「YES」)、表示制御部111は、操作パネル19に対して、仮確定の位置にマークを表示させ(ステップS262)、操作パネル19に対して、仮確定の表示をさせる(ステップS263)。次に、主制御部100は、ステップS250に制御を移す。
一方、視点入力制御部114から仮確定情報を受信しない場合(ステップS261で「NO」)、表示制御部111は、操作パネル19に対して、視点位置にマークを表示させる(ステップS264)。次に、主制御部100は、ステップS250に制御を移す。
以上により、視線入力の処理(1)の動作の説明を終了する。
(3)視線入力の処理(2)の動作
プレビュー画像上のマーク指定領域内に、日付、時刻、ページ番号、ステープル、パンチ穴又は綴じ代を示すマークを配する指示がされた場合における、視線入力の処理(1)の動作について、図23に示すフローチャート 視線入力の処理(2)の動作について、図24に示すフローチャートを用いて説明する。なお、視線入力の処理(2)の動作は、図22に示すフローチャートにおけるステップS108の詳細である。
視線入力の処理(2)の動作を開始すると、視点入力制御部114は、記憶部105から、一つのマークの種類に対応する1又は複数のマーク指定領域を示すマーク指定領域情報を読み出すことにより、取得する(ステップS211)。次に、操作パネル19は、LED33を点灯させる(ステップS213)。次に、視点検出部113により、視点の取得処理が実行される(ステップS215)。視点検出部113は、表示制御部111に対して、視点を出力する(ステップS215a)。視点入力制御部114は、視点がマーク指定領域内に存在するか否かを判断する(ステップS216)。視点がマーク指定領域内に存在しない場合(ステップS216で「NO」)、主制御部100は、制御をステップS215に移す。視点がマーク指定領域内に存在する場合(ステップS216で「YES」)、視点入力制御部114は、視点が仮確定しているか否かを判断する(ステップS218)。視点が仮確定していない場合(ステップS218で「NO」)、主制御部100は、ステップS215に制御を移し、処理を繰り返す。
視点が仮確定している場合(ステップS218で「YES」)、視点入力制御部114は、表示制御部111に対して仮確定情報を出力する(ステップS218a)。また、表示制御部111は、操作パネル19に位置確定ボタンを出力して、表示させる(ステップS219)。
利用者が位置確定ボタンに接触した場合(ステップS220で「YES」)、表示制御部111は、画像処理部106に対して、確定した位置を出力し、又は、後処理装置制御部115は、後処理装置16に対して、確定した位置を出力する(ステップS223)。次に、操作パネル19は、LED33を消灯させる(ステップS224)。
これにより、視線入力の処理(2)の動作が終了する。
また、視線入力の処理(2)の動作を開始すると、表示制御部111は、画像処理部106から、又は、スキャナー制御部109から、プレビュー画像を取得する(ステップS241)。次に、表示制御部111は、操作パネル19に対して、プレビュー画像を含むプレビュー画面を出力し、操作パネル19は、プレビュー画面を表示する(ステップS242)。
表示制御部111は、マークを記憶部105から読み出し(ステップS243)、視点検出部113から視点を受け取る(ステップS215a)。表示制御部111は、操作パネル19に、受け取った視点の位置において視点領域を表示させる(ステップS250)。
次に、視点入力制御部114から仮確定情報を受信した場合(ステップS261で「YES」)、表示制御部111は、操作パネル19に対して、仮確定の位置にマークを表示させ(ステップS262)、操作パネル19に対して、仮確定の表示をさせる(ステップS263)。次に、主制御部100は、ステップS250に制御を移す。
一方、視点入力制御部114から仮確定情報を受信しない場合で(ステップS261で「NO」)、視点がマーク指定領域内に存在する場合(ステップS266で「YES」)、表示制御部111は、操作パネル19に対して、マーク指定領域内の所定位置にマークを表示させる(ステップS267)。次に、主制御部100は、ステップS250に制御を移す。
一方、視点がマーク指定領域内に存在しない場合(ステップS266で「NO」)、主制御部100は、ステップS250に制御を移す。
以上により、視線入力の処理(2)の動作の説明を終了する。
(4)視線の取得の動作
視線の取得の動作について、図25に示すフローチャートを用いて説明する。なお、視線の取得の動作は、図23及び図24に示すフローチャートにおけるステップS215の詳細である。
顔認識処理部113aは、記憶部105から、被写体である利用者を撮影して得られた画像を表した画像データを取得する(ステップS301)。
次に、顔認識処理部113aは、取得した画像データから利用者の顔を検出する(ステップS302)。次に、位置算出部113bは、取得した画像データから利用者の立ち位置を検出する(ステップS303)。
次に、視線視点算出部113cは、利用者の顔の水平方向の向きを算出し(ステップS304)、利用者の顔の鉛直方向からの傾きを算出し(ステップS305)、利用者の瞳の向きを算出する(ステップS306)。続いて、視線視点算出部113cは、利用者の顔の水平方向の向き、利用者の顔の鉛直方向からの傾き、及び、瞳の向きを用いて、利用者の視線を算出し(ステップS307)、続いて、操作パネル19の表示面20における利用者の視点を算出する(ステップS308)。
1.12 まとめ
以上説明したように、本実施の形態によると、スタンプ等の位置を選択する場合に、プレビュー画面に切り替わると共に、視線入力を有効にし、視線によりスタンプ等の位置の入力が可能となる。このため、画像形成装置10に対して利用者が操作する場面に応じて、適切な入力方法を選択できる。特に、画面上において位置選択を行う場合に、視線入力を選択できるという優れた効果を奏する。
2 変形例(1)
実施の形態の変形例(1)について、実施の形態との相違点を中心として、以下に説明する。
実施の形態においては、一つのプレビュー画面において、一つの実行条件について、利用者から位置選択を受ける。これに対して、変形例(1)においては、一つのプレビュー画面において、利用者により選択された複数の実行条件について、位置選択を受ける。
利用者により複数の実行条件が選択された後に表示されるプレビュー画像において、複数の実行条件に対応する各マークが、予め既定位置に表示される。利用者は、各マークの位置を、視線入力により、他の位置に移動させる。
2.1 記憶部105
記憶部105は、マーク毎に、既定位置である仮確定位置を記憶している。
ここで、マーク毎の仮確定位置は、例えば、次の通りである。
マークが日付及び時刻の場合、その仮確定位置は、プレビュー画像の下辺部、左側である。マークがページ番号の場合、その仮確定位置は、プレビュー画像の下辺部、中央である。マークがスタンプの場合、その仮確定位置は、プレビュー画像の上辺部、右側である。マークがウォーターマークの場合、その仮確定位置は、プレビュー画像の中央である。マークがステープルの場合、その仮確定位置は、プレビュー画像の上辺部、左側である。マークがパンチ穴の場合、その仮確定位置は、プレビュー画像の左辺部である。マークが綴じ代量の場合、その仮確定位置は、プレビュー画像の左辺から、シートのサイズ上、20mmだけ離れた位置である。なお、マーク毎の仮確定位置は、上記には限定されない。上記とは別の位置であるとしてもよい。
2.2 画面の遷移
変形例(1)において、操作パネル19の表示面20に表示される画面の遷移について、以下に説明する。
(1)操作パネル19に表示されるメニュー画面の遷移
操作パネル19は、表示面20に、表示制御部111の制御により、例えば、画像形成システム1の起動直後に、図26に示すメニュー画面401を表示する。ここで、メニュー画面401は、図16に示すメニュー画面401と同一である。従って、メニュー画面401の詳細の説明を省略する。
利用者によりボタン406aに対して、接触の操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図26に示すメニュー画面601を表示する。
メニュー画面601は、図16に示すメニュー画面411と同様に、ジョブの実行条件として、様々なオプションの設定をするため、具体的には、日付、時刻、ページ番号、スタンプ、ウォーターマークを印刷する画像上の位置を選択し、ステープル閉じを行うシート上の位置及びパンチ穴を穿孔するシート上の位置を選択し、シート束の綴じ代量を指定するために用いられる。
メニュー画面601には、図26に示すように、ボタン602、603、・・・、608が含まれる。ボタン602、603、・・・、608は、それぞれ、メニュー画面601において、それぞれの位置の設定(日付及び時刻の位置、ページ番号の位置、スタンプの位置、ウォーターマークの位置、ステープル閉じの位置、パンチ穴の位置及び綴じ代量の設定)をするか否かを選択するために、利用者により接触による操作がされる領域を示す。ボタン602、603、・・・、608のうち、複数の設定を選択することが可能である。
ここで、ボタン602、603、606、607及び608に対して、利用者により接触による操作がされると、各ボタン上に表示されている文字が反転表示される。反転表示された文字がその上に表示されているボタンは、それぞれの設定が選択されたことを示す。
また、ボタン604に対して、利用者により接触による操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図26に示すメニュー画面611を表示する。
メニュー画面611は、スタンプとして、シート上に印刷する内容を選択するための画面である。メニュー画面611には、ボタン621、622、623、624、・・・及びボタン625が含まれている。
ボタン621、622、623、624、・・・の表示領域内には、それぞれ、「秘密」、「社外秘」、「複製禁止」、まる秘を示す記号、・・・が表されている。ボタン621、622、623、624、・・・による表示内容のいずれか一つが利用者により、選択(接触による操作)がされる。選択された表示内容は、例えば、ボタン624に示すように、反転表示される。
また、ボタン625は、メニュー画面601に戻るために、利用者により接触による操作がされる領域を示す。
なお、ボタン605に対して、利用者により接触による操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図26に示すメニュー画面611と同様のメニュー画面を表示する。
また、メニュー画面601において、利用者によりボタン609に対して、接触の操作がされると、操作パネル19は、表示面20に、表示制御部111の制御により、一例として、図27に示すプレビュー画面631を表示する。
(2)ページ番号等を表示する位置を視線により選択する場合のプレビュー画面の例
図26に示すメニュー画面601において、ボタン609に対して、利用者により接触による操作がされると、表示制御部111は、例えば、スキャナー制御部109から取得したプレビュー画像632を中央に配したプレビュー画面631を生成し、図27に示すように、操作パネル19は、表示面20にプレビュー画面631を表示する。このとき、操作パネル19は、LED33を点灯させる。LED33が点灯している場合には、視線入力モードであることを、利用者に通知している。
プレビュー画面631には、既に、プレビュー画像632の左上にマーク633、プレビュー画像632の右上にマーク634、及び、プレビュー画像632の下部中央にマーク635が表示されている。また、既に、プレビュー画面631には、マーク633、マーク634及びマーク635に重ねて、仮確定したことを示すために緑色に塗布された視点領域636、637、638が表示されている。
ここで、プレビュー画面631における、マーク633、マーク634及びマーク635の表示位置は、既定位置である。
また、操作パネル19は、利用者の接触により操作されるボタン640を表示する。
視点検出部113により、表示面20上に利用者の視点が検出された場合、操作パネル19は、表示面20に視点領域639を表示する。視点領域639は、上述したように、表示面20上の利用者の視点の位置を中心とする所定の半径の円により形成され、視点領域639内に、黄色が塗布されている。黄色に塗布された視点領域433により、利用者は、自身の視点の位置を容易に知ることができる。
図27のプレビュー画面651に示すように、利用者が表示面20上において、視点を移動させ、利用者の視点が視点領域656内に入り、利用者の視点が視点領域656内に入っている状態で、利用者が0.5秒以内に、3回、まばたきをする(検出条件3)と、視点領域656における仮確定が解除され、視点領域656の表示色は、緑色から、黄色に変わる。
続いて、利用者が表示面20上において、プレビュー画面651に示す視点領域656から、プレビュー画像652の左側辺に視点を移動させ、利用者の視点が図15(d)に示すマーク指定領域723の内部に入ると、操作パネル19は、図27のプレビュー画面671に示すように、プレビュー画像672の左側辺に、黄色に塗布された視点領域677を表示する。さらに、操作パネル19は、図27のプレビュー画面671に示すように、プレビュー画像672の左側辺に、ステープルを示すマーク673及び674を表示する。このとき、プレビュー画面651の左上に表示されていたステープルを示すマーク653は、消去される。利用者の視線が視点領域677内に存在する状態で、利用者の視点が仮確定すると、視点領域677の表示色は、仮確定を示す緑色に変わる。
操作パネル19は、利用者の接触により操作されるボタン680を表示している。
ボタン680が利用者により操作されると、画像の右上にスタンプ(まる秘)、画像の下部中央にページ番号を印刷し、シートの左側をステープル綴じする形式により、コピージョブが実行される。この後、LED33は、消灯する。次に、操作パネル19は、表示面20に次の画面(例えば、図26に示すメニュー画面401)を表示する。
2.3 変形例(1)における動作
(1)概要の動作
メニュー画面を表示後、プリント又はスキャンを実行するまでの、概要の動作は、図22に示すフローチャートの手順とほぼ同様である。ここでは、その相違点について、説明する。
実施の形態では、図22のフローチャートに示すように、選択肢の内容がスタンプ等か、その他かを判別し(ステップS106)、スタンプ等である場合(ステップS106で「スタンプ等」)、視線入力の処理(1)を実行し(ステップS107)、その他である場合(ステップS106で「その他」)、視線入力の処理(2)を実行する(ステップS108)。
これに対して、変形例(1)においては、選択肢の内容がスタンプ等か、その他かを判別することなく、図22に示すフローチャートのステップS106、S107及びS108に代えて、利用者により選択された複数の実行条件について、視線入力の処理を行う。この視線入力の処理については、以下に説明する。
(2)視線入力の処理の動作
視線入力の処理の動作について、図28に示すフローチャートを用いて説明する。
視線入力の処理の動作を開始すると、視点入力制御部114は、記憶部105から、メニュー画面601において利用者により選択された複数のマークの種類に対応する複数のマーク指定領域情報を読み出すことにより、取得する(ステップS211a)。次に、操作パネル19は、LED33を点灯させる(ステップS213)。次に、視点検出部113は、視点の取得処理を実行する(ステップS215)。視点検出部113は、表示制御部111に対して、視点を出力する(ステップS215a)。
視点入力制御部114は、視点が、読み出したマーク指定領域情報により示されるいずれかのマーク指定領域内に存在するか否かを判断する(ステップS216)。視点がいずれのマーク指定領域内にも存在しない場合(ステップS216で「NO」)、主制御部100は、制御をステップS215に移す。視点がいずれかのマーク指定領域内に存在する場合(ステップS216で「YES」)、視点入力制御部114は、仮確定が解除されたか否かを判断する(ステップS231)。仮確定が解除されたと判断する場合(ステップS231で「YES」)、視点入力制御部114は、仮確定が解除したことを示す解除情報を表示制御部111に対して、出力し(ステップS231a)、仮確定の解除を記憶することにより、内部に設定する(ステップS232)。仮確定が解除されていないと判断する場合(ステップS231で「NO」)、視点入力制御部114は、解除情報の出力及び仮確定の解除の記憶を行わない。
次に、視点入力制御部114は、視点が仮確定しているか否かを判断する(ステップS218)。視点が仮確定していない場合(ステップS218で「NO」)、主制御部100は、ステップS215に制御を移し、処理を繰り返す。
視点が仮確定している場合(ステップS218で「YES」)、視点入力制御部114は、表示制御部111に対して仮確定情報を出力する(ステップS218a)。
表示制御部111は、利用者が位置確定ボタンに接触したか否かを判断する(ステップS220)。利用者が位置確定ボタンに接触した場合(ステップS220で「YES」)、表示制御部111は、画像処理部106に対して、確定した1又は複数の位置を出力し、又は、後処理装置制御部115は、後処理装置16に対して、確定した1又は複数の位置を出力する(ステップS223)。次に、操作パネル19は、LED33を消灯させる(ステップS224)。
これにより、視線入力の処理の動作が終了する。
また、視線入力の処理の動作を開始すると、表示制御部111は、画像処理部106から、又は、スキャナー制御部109から、プレビュー画像を取得する(ステップS241)。次に、表示制御部111は、操作パネル19に対して、プレビュー画像を含むプレビュー画面を出力し、操作パネル19は、プレビュー画面を表示する(ステップS242)。
表示制御部111は、メニュー画面601において利用者により選択された複数のマークを表す画像を記憶部105から読み出し(ステップS243a)、複数の仮確定位置を、記憶部105から読み出すことにより、取得する(ステップS243b)。表示制御部111は、操作パネル19に、読み出した各仮確定位置において、読み出したマークの画像を表示させ(ステップS244)、各マークの画像に重ねて、仮確定を示し、緑色に塗布された視点領域を表示させる(ステップS245)。次に、表示制御部111は、操作パネル19に、位置確定ボタンを表す画像を出力して、表示させる(ステップS246)。
表示制御部111は、視点検出部113から視点を受け取る(ステップS215a)。表示制御部111は、操作パネル19に、受け取った視点の位置において視点領域を表示させる(ステップS250)。
次に、視点入力制御部114から仮確定が解除されたことを示す解除情報を受信した場合(ステップS281で「YES」)、表示制御部111は、操作パネル19に対して、仮確定の表示を消去させる(ステップS282)。解除情報を受信しない場合(ステップS281で「NO」)、仮確定の表示は消去されることなく、維持される。
次に、視点入力制御部114から仮確定情報を受信した場合(ステップS261で「YES」)、表示制御部111は、操作パネル19に対して、仮確定の位置にマークを表示させ(ステップS262)、操作パネル19に対して、仮確定の表示をさせる(ステップS263)。
一方、視点入力制御部114から仮確定情報を受信しない場合(ステップS261で「NO」)、表示制御部111は、仮確定の位置にマークを表示させず、また、仮確定の表示もさせない。
次に、視点がいずれかのマーク指定領域内に存在する場合(ステップS266で「YES」)、表示制御部111は、操作パネル19に対して、マーク指定領域内の所定位置視点位置にマークを表示させる(ステップS267)。次に、主制御部100は、ステップS250に制御を移す。
一方、視点がいずれのマーク指定領域内にも存在しない場合(ステップS266で「NO」)、主制御部100は、ステップS250に制御を移す。
以上により、視線入力の処理の動作の説明を終了する。
2.4 まとめ
以上説明したように、変形例(1)によると、利用者により複数の実行条件が選択された後に表示されるプレビュー画面において、複数の実行条件に対応する各マークが、既定位置に表示される。利用者は、各マークの位置を、視線入力により、他の位置に移動させる。このように、一つのプレビュー画面において、複数の実行条件に対応する各マークの位置を変更することができるので、実施の形態と比較して、操作性が向上する。
3 変形例(2)
実施の形態の変形例(2)について、実施の形態との相違点を中心として、以下に説明する。
実施の形態においては、メニュー画面において、利用者から、例えば、ページ番号について、位置を選択する指示を受け付けた後(つまり、位置を選択する指示がされたと判断された後)、プレビュー画面にプレビュー画像を表示し、プレビュー画面において、ページ番号を表示する位置の選択を受け付ける。
これに対して、変形例(2)では、位置を選択する指示を受け付ける前に(つまり、位置を選択する指示の判断がされる前に)、プレビュー画面にプレビュー画像を表示し、プレビュー画面において、ページ番号について、位置を選択する指示を受け付け、その後に、プレビュー画面において、ページ番号を表示する位置の選択を受け付ける。
3.1 変形例(2)における画面の遷移
変形例(2)において、操作パネル19の表示面20に表示される画面の遷移について、以下に説明する。
操作パネル19は、表示面20に、表示制御部111の制御により、例えば、画像形成システム1の起動直後に、図29に示すメニュー画面801を表示する。
メニュー画面801は、利用者により、コピージョブ又はスキャンジョブの実行を選択するために用いられる。メニュー画面801には、この図に示すように、ボタン802、803、804、805及び806が含まれる。
ボタン802、803、804、805及び806は、それぞれ、コピージョブの実行、スキャンジョブの実行、ガイドの表示、利用者の識別子の入力、コピージョブ又はスキャンジョブを実行する前のプレビュー表示を選択するためのボタンである。
ここで、利用者がボタン806に接触すると、図29のメニュー画面811に示すように、ボタン806aの表面に、「プレビュー」の文字を反転した表示がされる。これは、プレビューの表示が選択されたことを示す。
次に、利用者がボタン802に接触すると、プレビュー画像822、複数のボタン831、832、・・・、837及びボタン823を含むプレビュー画面821が表示される(図29)。
プレビュー画像822は、コピージョブの対象である原稿面を、プレビュー用に、読み取って生成した画像である。
また、複数のボタン831、832、・・・、837は、それぞれ、日付時刻、ページ番号、スタンプ、ウォーターマーク、ステープル、パンチ穴、綴じ代量について、位置の選択を指示するためのボタンである。利用者により、ボタン831、832、・・・、837のそれぞれが選択されると、日付時刻の位置の選択、ページ番号の位置の選択、スタンプの位置の選択、ウォーターマークの位置の選択、ステープル綴じの位置の選択、パンチ穴の穿孔位置の選択、綴じ代量の指定を行うためのプレビュー画面に遷移する。
ここで、例えば、利用者により、ボタン832が操作されると、図17に示すプレビュー画面431に遷移し、以降、実施の形態において説明したように、利用者の視線入力により、ページ番号の位置の選択が行われる。
その他、日付時刻の位置の選択、スタンプの位置の選択、ウォーターマークの位置の選択、ステープル綴じの位置の選択、パンチ穴の穿孔位置の選択、綴じ代量の指定についても、同様である。
ボタン823は、利用者により操作され、コピージョブの実行を開始するための、ボタンである。ボタン823が利用者により操作されると、これまでに、利用者により指定又は選択された各実行条件により、コピージョブが実行される。
3.2 変形例(2)における概要の動作
メニュー画面を表示後、プリント又はスキャンを実行するまでの、概要の動作について、図30に示すフローチャートを用いて説明する。
表示制御部111は、初期のメニュー画面を生成し(ステップS101)、操作パネル19は、メニュー画面を表示する(ステップS102)。操作パネル19は、利用者の操作による選択肢の選択を受け付ける(ステップS103)。
表示制御部111は、受け付けた選択肢の内容を判断する(ステップS104)。選択肢の内容が次のメニュー画面の表示である場合(ステップS104で「次のメニュー画面の表示」)、表示制御部111は、次のメニュー画面を生成する(ステップS105)。次に、主制御部100は、制御をステップS102に移す。
選択肢の内容がパラメーターの設定である場合(ステップS104で「パラメーターの設定」)、表示制御部111は、操作パネル19から設定されたパラメーターを受け取り、記憶し(ステップS110)、設定された項目について反転表示するように、操作パネル19に対して出力する(ステップS111)。次に、主制御部100は、制御をステップS102に移す。
選択肢の内容が位置選択を伴う選択肢である場合(ステップS104で「位置選択を伴う選択肢」)、表示制御部111は、スタンプ又はウォーターマークかその他かを判断する(ステップS106)。スタンプ又はウォーターマークであると判断される場合(ステップS106で「スタンプ等」)、視線入力の処理(A)が実行される(ステップS107a)。一方、スタンプ及びウォーターマークでないと判断される場合(ステップS106で「その他」)、視線入力の処理(B)が実行される(ステップS108a)。次に、主制御部100は、制御をステップS103に移す。ここで、視線入力の処理(A)及び視線入力の処理(B)は、それぞれ、実施の形態の視線入力の処理(1)及び視線入力の処理(2)に対応している。
選択肢の内容がコピー又はスキャンである場合(ステップS104で「コピー又はスキャン」)、表示制御部111は、プレビュー用のスキャンを実行させてプレビュー画像を取得し(ステップS121)。メニュー付きのプレビュー画面を表示する(ステップS122)。次に、主制御部100は、制御をステップS103に移す。
選択肢の内容が実行である場合(ステップS104で「実行」)、確定した位置により、プリントジョブ、スキャンジョブ又はコピージョブが実行される(ステップS109a)。
以上により、変形例(2)における概要の動作の説明を終了する。
3.3 まとめ
以上説明したように、変形例(2)においては、最初にプレビュー画面にプレビュー画像を表示し、プレビュー画面において、各実行条件について、例えば、ページ番号について、位置を選択する指示を受け付け、その後に、プレビュー画面において、視線入力が有効になり、ページ番号等の位置の選択を視線で行うことが出来る。このように、プレビュー画像を表示したのちに、各実行条件について、位置選択をするので、利用者は、表示されたプレビュー画像を見ながら、その内容に応じて、位置選択の必要な実行条件を取捨選択することができる。
4 その他の変形例
本発明について、上記の実施の形態に基づいて説明しているが、上記の実施の形態に限定されない。以下に示すようにしてもよい。
(1)実施の形態において、画像形成システム1は、画像形成装置10と後処理装置16とから構成されている。しかし、この構成には、限定されない。
画像形成装置10には、後処理装置16が接続されていない、としてもよい。
また、画像形成装置10は、給紙部13とプリンター部12とイメージリーダー部11と操作パネル19とから構成されている。しかし、この構成には、限定されない。
給紙部とプリンター部とを備えておらず、イメージリーダー部と操作パネルとから構成される画像読取装置であるとしてもよい。
(2)上記の実施の形態では、日付、時刻、ページ番号、ステープル、パンチ穴及び綴じ代量について、マーク設定領域を定め、スタンプ及びウォーターマークについて、マーク設定領域を定めていない。しかし、これには、限定されない。
日付、時刻及びページ番号について、マーク設定領域を定めることなく、利用者は、任意に、日付、時刻及びページ番号の位置を選択してもよい。
(3)上記の実施の形態及び各変形例において、ページ番号を示すマークは、「ページ番号」と表記された画像である、としている。しかし、これには、限定されない。「−ページ番号−」、「ページ/総ページ数」のように表記された画像を用いてもよい。ここで、「−ページ番号−」は、ページ番号の前後に、ハイフン(−)を付して、印刷する形式を示す。また、「ページ/総ページ数」は、総ページ数とともに、ページ番号を印刷する形式を示す。
また、上記の実施の形態及び各変形例において、日付及び時刻を示すマークについて、詳細には記載していない。ここで、日付を示すマークは、「日付」と表記された画像である、としてもよい。また、日付を示すマークは、「年月日」、「年/月/日」、「年、月、日」と表記された画像であるとしてもよい。それぞれのマークに表記された形式に合わせて、日付が印刷される。
また、時刻を示すマークは、「時刻」と表記された画像である、としてもよい。また、時刻を示すマークは、「時分」、「時分秒」、「時/分」、「時/分/秒」、「時、分」、「時、分、秒」と表記された画像であるとしてもよい。それぞれのマークに表記された形式に合わせて、時刻が印刷される。
また、日付、時刻、ページ番号、スタンプ、ウォーターマーク、ステープル、パンチ穴及び綴じ代を示すマークは、それぞれ、カラー画像である、としてもよい。また、日付、時刻、ページ番号、スタンプ、ウォーターマークについては、マークに表された色により、印刷される、としてもよい。
変形例(1)において、プレビュー画像の左辺に表示されるステープルを示すマークと、パンチ穴を示すマークとが、同じ位置に表示されることが想定される。この場合、例えば、ステープルを示すマークの表示色と、パンチ穴を示すマークの表示色とを変えることにより、それぞれのマークを区別して認識できる。
(4)上記実施の形態及び各変形例において、操作パネル19が備える表示面20は、液晶表示板等の上面に、利用者の操作体の接触入力を受け付けるタッチパッド部が積層されて、構成されている、としている。しかし、これには、限定されない。
操作パネルが備える表示面は、液晶表示板(表示手段)等から構成され、操作パネルは、表示面上の位置を指定するポインティングデバイス(入力手段)を備えている、としてもよい。表示面には、その上の位置を指し示す矢印画像が表示される。利用者は、ポインティングデバイスを用いて、表示面上に表示される矢印画像の位置を変更し、表示面上の位置を選択する。
ポインティングデバイスは、例えば、表示面の上、下、左、右方向に対応する4個の移動ボタンと位置の確定を示す決定ボタンである。利用者がそれぞれの移動ボタンを、1回、押下することにより、矢印画像は、利用者が押下した移動ボタンに対応する方向に、定められた量だけ、移動する。利用者が決定ボタンを押下することにより、矢印画像が存在する位置において、その位置が確定し、その位置に対応する処理が実行される。
(5)上述したように、画像形成装置及び後処理装置は、マイクロプロセッサとメモリとを備えたコンピューターシステムである。メモリは、コンピュータープログラムを記憶しており、マイクロプロセッサは、コンピュータープログラムに従って動作するとしてもよい。
ここで、コンピュータープログラムは、所定の機能を達成するために、コンピューターに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
また、コンピュータープログラムは、コンピューター読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、光ディスク、半導体メモリなどに記録されているとしてもよい。
また、コンピュータープログラムを、有線又は無線の電気通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送してもよい。
(6)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
本発明にかかる画像処理装置は、操作の場面に応じて、適切な入力方法を選択でき、特に、画像上における位置の選択を行う場合に、視点入力を選択できるという優れた効果を奏し、画像上の位置を選択する技術として有用である。
1 画像形成システム
10 画像形成装置
11 イメージリーダー部
12 プリンター部
13 給紙部
15 搬送ユニット
16 後処理装置
17 搬送路
18 後処理ユニット
19 操作パネル
32 カメラ
33 LED
35 排出トレイ
36 排出トレイ
100 主制御部
101 CPU
102 ROM
103 RAM
104 画像メモリ
105 記憶部
106 画像処理部
107 ネットワーク通信部
108 プリンター制御部
109 スキャナー制御部
110 入出力部
111 表示制御部
112 入力部
113 視点検出部
113a 顔認識処理部
113b 位置算出部
113c 視線視点算出部
114 視点入力制御部
115 後処理装置制御部

Claims (18)

  1. 表示面を有する表示手段と、
    利用者の操作により入力を受け付ける入力手段と、
    前記表示面上における利用者の視点を検出する視点検出手段と、
    前記入力手段により受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断手段と、
    前記切換指示であると判断される場合、前記視点検出手段による視点の検出を有効とする制御手段と
    を備えることを特徴とする画像処理装置。
  2. 前記制御手段は、前記プレビュー画像上における前記位置として、前記視点検出手段により検出された視点の位置を選択する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. さらに、データを取得する取得手段を備え、
    前記表示手段は、取得したデータにより表される画像を縮小した前記プレビュー画像を表示する
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記判断手段により前記切換指示であると判断された後に、前記表示手段は、前記プレビュー画像を表示する
    ことを特徴とする請求項2に記載の画像処理装置。
  5. 前記判断手段による判断の前に、前記表示手段は、前記プレビュー画像を表示する
    ことを特徴とする請求項2に記載の画像処理装置。
  6. 前記判断手段により、前記切換指示であると判断される場合、前記表示手段は、さらに、視点による入力が有効である旨を表示する
    ことを特徴とする請求項2に記載の画像処理装置。
  7. 前記表示手段は、前記表示面における利用者の視点の位置を強調表示することにより、視点による入力が有効である旨の表示を行う
    ことを特徴とする請求項6に記載の画像処理装置。
  8. さらに、前記判断手段により、前記切換指示であると判断される場合、視点による入力が有効である旨を利用者に通知する通知手段を備える
    ことを特徴とする請求項2に記載の画像処理装置。
  9. 前記通知手段は、光により、又は、音により、前記通知を行う
    ことを特徴とする請求項8に記載の画像処理装置。
  10. 前記制御手段は、さらに、前記視点検出手段による視点の検出を有効とした後、前記入力手段による入力が受け付けられた場合、前記視点検出手段による視点の検出を無効とする
    ことを特徴とする請求項2に記載の画像処理装置。
  11. さらに、データを取得する取得手段と、
    前記制御手段により選択された前記プレビュー画像上の位置を、取得した前記データにより表される画像上の位置に変換する変換手段と、
    前記画像上において、変換により生成された前記位置に、オプションとしての付加画像又は綴じ代である余白を配置する画像処理を施す画像処理手段と
    を備えることを特徴とする請求項2に記載の画像処理装置。
  12. 前記表示手段は、プレビュー画像上において選択された前記位置に、前記付加画像又は綴じ代を示すマークを表示する
    ことを特徴とする請求項11に記載の画像処理装置。
  13. 前記マークは、オプションとしてのスタンプ、ウォーターマーク、ページ番号、日付又は時刻を表し、
    前記画像処理手段は、前記付加画像として、スタンプ、ウォーターマーク、ページ番号、日付又は時刻を表す画像を配置する
    ことを特徴とする請求項12に記載の画像処理装置。
  14. 電子写真方式によりシート上に画像を形成する画像形成装置と、画像が形成された前記シートに対して、後処理を施す後処理装置とから構成される画像形成システムであって、
    前記画像形成装置は、請求項2に記載の画像処理装置を備え、
    前記画像処理装置は、さらに、前記制御手段により選択された前記プレビュー画像上の位置を、前記シート上の位置に変換する変換手段を備え、
    前記後処理装置は、変換により生成されたシート上の前記位置において、後処理を施す後処理手段を備える
    ことを特徴とする画像形成システム。
  15. 前記表示面は、プレビュー画像上において、選択された前記位置に、ステープル又はパンチ穴を表すマークを表示し、
    前記後処理手段は、シート上の前記位置において、ステープル綴じをし、又は、パンチ穴を穿孔する
    ことを特徴とする請求項14に記載の画像処理装置。
  16. 電子写真方式によりシート上に画像を形成する画像形成装置であって、
    請求項1〜13の何れか1項に記載の画像処理装置
    を備えることを特徴とする画像形成装置。
  17. 表示面を有する表示手段を備える画像処理装置において用いられる制御方法であって、
    利用者の操作により入力を受け付ける入力ステップと、
    前記表示面上における利用者の視点を検出する視点検出ステップと、
    前記入力ステップにより受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断ステップと、
    前記切換指示であると判断される場合、前記視点検出ステップによる視点の検出を有効とする制御ステップと
    を含むことを特徴とする制御方法。
  18. 表示面を有する表示手段と、利用者の操作により入力を受け付ける入力手段と、前記表示面上における利用者の視点を検出する視点検出手段とを備える画像処理装置において用いられる制御用のコンピュータープログラムであって、
    コンピューターである画像処理装置に、
    前記入力手段により受け付けた入力が、前記表示面に表示されるプレビュー画像上における位置を選択する動作に切り換える切換指示であるか否かを判断する判断ステップと、
    前記切換指示であると判断される場合、前記視点検出手段による視点の検出を有効とする制御ステップと
    を実行させるためのコンピュータープログラム。
JP2018236253A 2018-12-18 2018-12-18 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム Active JP7430981B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018236253A JP7430981B2 (ja) 2018-12-18 2018-12-18 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018236253A JP7430981B2 (ja) 2018-12-18 2018-12-18 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム

Publications (2)

Publication Number Publication Date
JP2020098466A true JP2020098466A (ja) 2020-06-25
JP7430981B2 JP7430981B2 (ja) 2024-02-14

Family

ID=71106525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018236253A Active JP7430981B2 (ja) 2018-12-18 2018-12-18 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム

Country Status (1)

Country Link
JP (1) JP7430981B2 (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07191796A (ja) * 1993-12-27 1995-07-28 Canon Inc 視線入力システム
JP2012084154A (ja) * 2010-10-13 2012-04-26 Toshiba Corp 印刷設定装置、画像形成装置、印刷設定方法
JP2015039864A (ja) * 2013-08-23 2015-03-02 京セラドキュメントソリューションズ株式会社 表示操作装置及びプログラム並びに画像形成装置
JP2015191241A (ja) * 2014-03-27 2015-11-02 京セラドキュメントソリューションズ株式会社 電子機器及び操作支援プログラム
JP2016048965A (ja) * 2015-12-28 2016-04-07 シャープ株式会社 画像送信装置、画像送信方法および画像送信装置を備えた画像形成装置
US20170006172A1 (en) * 2015-06-30 2017-01-05 Kyocera Document Solutions Inc. Information processing apparatus, setting condition specification method for image forming apparatus
JP2017091560A (ja) * 2016-12-14 2017-05-25 コニカミノルタ株式会社 表示制御装置、表示制御方法及び表示制御プログラム
JP2018084851A (ja) * 2016-11-21 2018-05-31 コニカミノルタ株式会社 情報処理装置及びプログラム
JP2018137589A (ja) * 2017-02-21 2018-08-30 シャープ株式会社 画像形成装置、情報処理システム、情報処理プログラムおよび情報処理方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07191796A (ja) * 1993-12-27 1995-07-28 Canon Inc 視線入力システム
JP2012084154A (ja) * 2010-10-13 2012-04-26 Toshiba Corp 印刷設定装置、画像形成装置、印刷設定方法
JP2015039864A (ja) * 2013-08-23 2015-03-02 京セラドキュメントソリューションズ株式会社 表示操作装置及びプログラム並びに画像形成装置
JP2015191241A (ja) * 2014-03-27 2015-11-02 京セラドキュメントソリューションズ株式会社 電子機器及び操作支援プログラム
US20170006172A1 (en) * 2015-06-30 2017-01-05 Kyocera Document Solutions Inc. Information processing apparatus, setting condition specification method for image forming apparatus
JP2017017507A (ja) * 2015-06-30 2017-01-19 京セラドキュメントソリューションズ株式会社 情報処理装置、画像形成装置の設定条件指定方法
JP2016048965A (ja) * 2015-12-28 2016-04-07 シャープ株式会社 画像送信装置、画像送信方法および画像送信装置を備えた画像形成装置
JP2018084851A (ja) * 2016-11-21 2018-05-31 コニカミノルタ株式会社 情報処理装置及びプログラム
JP2017091560A (ja) * 2016-12-14 2017-05-25 コニカミノルタ株式会社 表示制御装置、表示制御方法及び表示制御プログラム
JP2018137589A (ja) * 2017-02-21 2018-08-30 シャープ株式会社 画像形成装置、情報処理システム、情報処理プログラムおよび情報処理方法

Also Published As

Publication number Publication date
JP7430981B2 (ja) 2024-02-14

Similar Documents

Publication Publication Date Title
US7830555B2 (en) Image formation apparatus, image forming method and storage medium for storing program
US6785507B2 (en) Image forming apparatus having function of automatically selecting one of sheet feeders, method of controlling the image forming apparatus and storage medium
JP2007033888A (ja) 画像処理装置およびその方法
US8305351B2 (en) Display input device
JP3603990B2 (ja) 画像出力処理装置
JP3706116B2 (ja) 画像出力処理装置
JP2011175456A (ja) 操作装置および画像形成装置
JP7430981B2 (ja) 画像処理装置、画像形成システム、画像形成装置、制御方法及びコンピュータープログラム
JP2009296370A (ja) 情報処理装置及びプログラム
JP5861821B2 (ja) 画像形成装置、画像形成システム及びプログラム
JP5526089B2 (ja) 入力装置及び画像形成装置
JP4673037B2 (ja) 画像表示装置、画像表示装置の制御方法、及びプログラム
US10834277B2 (en) Image forming apparatus including job end notification function and control method thereof
JP2008011303A (ja) 画像処理装置
US11108933B2 (en) Color conversion apparatus, non-transitory computer readable medium, and image forming apparatus
JP2006237677A (ja) 画像形成装置
JP4164767B2 (ja) 印刷データ送信装置、画像形成システム、及びプリンタドライバプログラム
JP2012047837A (ja) プレビュー表示を備えた画像処理装置
JP6500842B2 (ja) 印刷システム
JP7124551B2 (ja) 画像処理装置、画像処理方法及び制御プログラム
JP2010069790A (ja) 印刷装置、印刷管理制御プログラム、印刷管理制御システム
JPH07295904A (ja) 情報処理装置および方法およびネットワークシステム
JP5888392B2 (ja) 画像形成装置
JP2024004542A (ja) 画像形成装置
JPH10304120A (ja) 複写システムのプログラム方法、プログラムされた機能の状態の表示方法及び複写システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220927

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230310

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20230310

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230322

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230328

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230407

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20230411

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240201

R150 Certificate of patent or registration of utility model

Ref document number: 7430981

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150