JPH05266058A - 数値格納方式 - Google Patents

数値格納方式

Info

Publication number
JPH05266058A
JPH05266058A JP6291992A JP6291992A JPH05266058A JP H05266058 A JPH05266058 A JP H05266058A JP 6291992 A JP6291992 A JP 6291992A JP 6291992 A JP6291992 A JP 6291992A JP H05266058 A JPH05266058 A JP H05266058A
Authority
JP
Japan
Prior art keywords
data
processing step
processing
stored
constant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP6291992A
Other languages
English (en)
Inventor
Minoru Tanaka
稔 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP6291992A priority Critical patent/JPH05266058A/ja
Publication of JPH05266058A publication Critical patent/JPH05266058A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

(57)【要約】 【目的】 科学技術計算機内における数値データ格納効
率を改善する。 【構成】 本発明の数値格納方式は、外部より取込まれ
る数値データまたは、内部における計算結果として得ら
れる数値データを取得する第1ステップと、前記数値デ
ータを一時的に内部記憶(1) 12に格納する第2ステッ
プと、第2ステップにおいて一時的に格納された数値デ
ータに対する計算処理を実行し、当該計算処理を介して
得られた数値データに対応する非線形方程式の定数項を
決定する第3ステップと、前記第3ステップを介して決
定された前記非線形方程式の定数項を内部記憶(2) 13
に格納する第4ステップと、前記内部記憶(1) 12に一
時的に保管されたデータを消去する第5ステップと、前
記内部記憶(2) 13に格納された前記定数項と前記非線
形方程式を用いて、内部固有処理用の行列を作成する第
6ステップと、前記第6ステップにおける結果を受け
て、固有処理を行う第7ステップとを有している。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は数値格納方式に関し、特
に科学技術計算等において用いられる数値データを計算
機内において格納する数値格納方式に関する。
【0002】
【従来の技術】従来の、この種の数値格納方式において
は、外部から取得された数値データ、または自己計算機
内において得られた数値データが、そのままの形で当該
計算機内に格納されているのが一般である。図3に示さ
れるのは、従来の数値格納方式における処理手順を示す
フローチャートである。図3において、先ず所定の数値
計算が行われ(ステップ301)、次いで外部データ・
ファイル31より外部データが入力されて(ステップ3
02)、当該データを格納するデータ格納領域が確保さ
れ(ステップ303)、前記データ格納領域があるか否
かが判定されて(ステップ304)、当該データ格納領
域がある場合にはステップ305に進み、当該データ格
納領域がない場合には、ステップ307に進む。ステッ
プ304において当該データ格納領域がある場合には、
前記データが当該領域に格納され(ステップ305)、
次いで、計算すべきデータの有無が判定されて(ステッ
プ306)、計算の対象となるデータが未だ存在する場
合には、始めのステップ301に戻り、計算すべきデー
タがない場合には、処理は終了となる。また、ステップ
304において当該データ格納領域がない場合には、エ
ラー処理が行われて(ステップ307)、処理は終了と
なる。
【0003】即ち、大きく区分して、数値データを外部
より取得するか、または計算してその結果としての数値
を取得する第1の処理ステップ(ステップ301、30
2)と、上記の数値データの領域を確保する第2の処理
ステップ(ステップ303、304)と、確保された領
域に取得した数値データを格納する第3の処理ステップ
(ステップ305、306、307)とを有している。
【0004】
【発明が解決しようとする課題】上述した従来の数値格
納方式においては、取得された数値データをそのままの
形で格納するために、取得された数値データの量に応じ
て、それに対応するデータ格納領域を確保する必要があ
る。しかも、同形式のデータを複数必要とする場合にお
いては、それに伴ない大量データの格納領域の確保、な
らびにソフトウェア上におけるデータ管理面における工
夫が必要になるという欠点がある。
【0005】また、数値データをそのままの形で取扱う
ということは、数値データは離散的となり、数値データ
と数値データとの間におけるデータを認識するために
は、補間操作等の作業が必要になるという欠点がある。
【0006】
【課題を解決するための手段】本発明の数値格納方式
は、外部より取込まれる数値データまたは、内部におけ
る計算結果として得られる数値データを取得する第1の
処理ステップと、前記数値データを一時的に第1のデー
タ格納領域に格納する第2の処理ステップと、前記第2
の処理ステップにおいて一時的に格納された数値データ
に対する計算処理を実行し、当該計算処理を介して得ら
れた数値データに対応する非線形方程式の定数項を決定
する第3の処理ステップと、前記第3の処理ステップを
介して決定された前記非線形方程式の定数項を第2のデ
ータ格納領域に格納する第4の処理ステップと、前記第
1のデータ格納領域に一時的に保管されたデータを消去
する第5の処理ステップと、前記第2のデータ格納領域
に格納された前記定数項と前記非線形方程式を用いて、
内部固有処理用の行列を作成する第6の処理ステップ
と、前記第6の処理ステップにおける結果を受けて、固
有処理を行う第7の処理ステップと、を有することを特
徴としている。
【0007】
【実施例】次に、本発明について図面を参照して説明す
る。図1に示されるのは、本発明の一実施例における処
理手順を示すフローチャートであり、半導体集積回路に
おけるデバイス・シミュレータに適用される数値格納方
式における一例である。また、図2(a)および(b)
に示されるのは、半導体集積回路の概念図および前記デ
バイス・シミュレータに適用される非線形方程式であ
る。
【0008】図1において、先ず、前記デバイス・シミ
ュレーション結果が、外部データ・ファイル11より入
力される(ステップ101)。前記シミュレーション結
果のデータが内部記憶(1) 12に一時的に保管され(ス
テップ102)、次いで、図2(b)に示されるような
非線形方程式を用いて、ガウス・ニュートン法等を用い
て当該非線形方程式における定数が決定される(ステッ
プ103)。そして、前記非線形方程式の定数は内部記
憶(2) 13に格納される(ステップ104)。以上の処
理ステップを介して、一つのデータ群に対応する方程式
が内部記憶(2)に格納された状態になる。
【0009】次いで前記ステップ102において、内部
記憶(1) 12に一時的に保管されている領域が消去され
(ステップ105)、データが未だ残っているか否かが
判定されて(ステップ106)、残っている場合には始
めのステップ101に戻り、残っていない場合には次の
ステップ107に進む。そして、半導体集積回路におけ
る初期値ならびにメシュ数が設定されて(ステップ10
7)、前記ステップ104において内部記憶(2) 13に
格納された定数および非線形方程式を介して、当該非線
形方程式の計算が行われ(ステップ108)、これによ
り、内部固有処理用の行列が作成されて(ステップ10
9)、ステップ108および109の処理が実行され
る。次いで、半導体集積回路における濃度分布計算等の
固有処理が行われる(ステップ110)。
【0010】即ち、デバイス・シミュレーションに本発
明を適用するこの一実施例においては、大きく区分し
て、数値データを外部より取得する第1処理ステップ
(ステップ101)と、取得されたデータを一時的に内
部記憶に格納する第2処理ステップ(ステップ102)
と、取得された数値データに対して、非線形方程式の定
数を決定する第3処理ステップ(ステップ103)と、
非線形方程式の定数を内部記憶に格納する第4処理ステ
ップ(ステップ104)と、一時的にデータ保管領域を
消去する第5処理ステップ(ステップ105、10
6)、格納されている定数および非線形方程式を用いて
内部固有処理用の行列を作成する第6処理ステップと、
最後に固有処理を行う第7処理ステップとを有してい
る。
【0011】本実施例において適用例としてし示したデ
バイス・シミュレーションにおける数値格納方式におい
ては、図2(a)に示されるように、一電導型半導体1
および他の電導型半導体2を解析するために、疑似的に
メッシュ3を仮定して設け、各メッシュごとに、図2
(b)に示されるような濃度勾配を計算し、それぞれの
計算結果を入力して、疑似的に3次元解析が行われる。
この時、各濃度勾配をn次式に展開し、その定数項
(a、b、……)のみを格納すれば、この濃度勾配は再
現される。また、データ形式として同一形式のデータが
複数存在しているために、データ保管領域としては、全
データ群に対応する一時保管領域を一つだけ確保するだ
けでよく、多くの補間領域を用意する必要はない。
【0012】
【発明の効果】以上説明したように、本発明は、取得し
たデータをそのまま格納するという処理手順を排除し、
設定される非線形方程式に対応して、その定数項を格納
する処理手順をとることにより、データ保管領域として
大量データに対応する保管領域を必要とすることなく、
且つソフトウェア上のデータ管理が容易になるという効
果がある。
【0013】また、数式自体を格納する処理を行うため
にデータが離散的なデータとなることがなく、データ間
におけるデータ認識が容易となり、保管作業等の余分の
工数が削減されるという効果がある。
【図面の簡単な説明】
【図1】本発明の一実施例における処理手順を示すフロ
ーチャートである。
【図2】本実施例における半導体装置の概念図である。
【図3】従来例における処理手順を示すフローチャート
である。
【符号の説明】
1 一電導型半導体 2 他の電導型半導体 3 疑似メッシュ 11、31 外部データ・ファイル 12 内部記憶(1) 13 内部記憶(2) 32 内部記憶 101〜110、301〜307 処理ステップ

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 外部より取込まれる数値データまたは、
    内部における計算結果として得られる数値データを取得
    する第1の処理ステップと、 前記数値データを一時的に第1のデータ格納領域に格納
    する第2の処理ステップと、 前記第2の処理ステップにおいて一時的に格納された数
    値データに対する計算処理を実行し、当該計算処理を介
    して得られた数値データに対応する非線形方程式の定数
    項を決定する第3の処理ステップと、 前記第3の処理ステップを介して決定された前記非線形
    方程式の定数項を第2のデータ格納領域に格納する第4
    の処理ステップと、 前記第1のデータ格納領域に一時的に保管されたデータ
    を消去する第5の処理ステップと、 前記第2のデータ格納領域に格納された前記定数項と前
    記非線形方程式を用いて、内部固有処理用の行列を作成
    する第6の処理ステップと、 前記第6の処理ステップにおける結果を受けて、固有処
    理を行う第7の処理ステップと、 を有することを特徴とする数値格納方式。
JP6291992A 1992-03-19 1992-03-19 数値格納方式 Withdrawn JPH05266058A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6291992A JPH05266058A (ja) 1992-03-19 1992-03-19 数値格納方式

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6291992A JPH05266058A (ja) 1992-03-19 1992-03-19 数値格納方式

Publications (1)

Publication Number Publication Date
JPH05266058A true JPH05266058A (ja) 1993-10-15

Family

ID=13214150

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6291992A Withdrawn JPH05266058A (ja) 1992-03-19 1992-03-19 数値格納方式

Country Status (1)

Country Link
JP (1) JPH05266058A (ja)

Similar Documents

Publication Publication Date Title
CN107301214B (zh) 在hive中数据迁移方法、装置及终端设备
US6031979A (en) Circuit partitioning apparatus for executing parallel circuit simulation and method therefor
CN114564904A (zh) Fpga全路径快速时序分析方法、装置、计算机和存储介质
CN112632894B (zh) 约瑟夫森结阵电压输出方法、装置、设备和存储介质
US9582474B2 (en) Method and apparatus for performing a FFT computation
EP3696706A1 (en) Pseudo-data generating device, method and program
US20110138265A1 (en) Method and apparatus for presenting date in a tabular format
CN117473949A (zh) 表单动态布局方法及系统
CN116155597A (zh) 访问请求的处理方法、装置及计算机设备
JPH05266058A (ja) 数値格納方式
US6922825B1 (en) System analysis apparatus and method, and storage medium storing system analysis program
CN113901057A (zh) 数据回放方法、装置、计算机设备和存储介质
JPS5834037B2 (ja) アドレス計算装置
JPH10154139A (ja) フェイルカウント方法及びその装置
CN115941760A (zh) 接口信息录入方法、装置、计算机设备和存储介质
CN116821146B (zh) 一种基于Apache Iceberg的数据表列更新方法及系统
CN111563033B (zh) 一种模拟数据的生成方法和装置
CN116108098A (zh) 瓦片数据格式转换方法、装置、计算机设备和存储介质
JP2507399B2 (ja) デ―タベ―ス装置
Mincsovics Note on Weakly and Strongly Stable Linear Multistep Methods
JP3161525B2 (ja) 消費電力計算装置及び方法
CN117009727A (zh) 一种矩阵分解方法、装置、计算机设备及可读存储介质
CN114218898A (zh) 在线协同文档编辑方法、装置、计算机设备及存储介质
CN118132656A (zh) 知识图谱构建方法、装置、计算机设备和存储介质
CN117829048A (zh) 基于神经网络的数据插值方法、系统、设备及介质

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 19990608