precision arithmeticとは 意味・読み方・使い方

To compress coefficients data and the scale of an arithmetic unit without deteriorating arithmetic precision and also to enhance approximation precision in a coefficient curve.例文帳に追加

演算精度を落とすことなく係数種データや演算器の規模圧縮を可能にすると共に、係数曲面の近似精度を上げる。 - 特許庁

HIGH-PRECISION CV ARITHMETIC UNIT, AND CV-SYSTEM THREE-DIMENSIONAL MAP FORMING DEVICE AND CV-SYSTEM NAVIGATION DEVICE PROVIDED WITH THE HIGH-PRECISION CV ARITHMETIC UNIT例文帳に追加

高精度ＣＶ演算装置と、この高精度ＣＶ演算装置を備えたＣＶ方式三次元地図生成装置及びＣＶ方式航法装置 - 特許庁

To provide a data arithmetic processor which can improve arithmetic precision by suppressing decrease in the arithmetic precision due to canceling in a block floating system.例文帳に追加

ブロックフローティング方式において、オーバーフローおよび桁落ちによる演算精度の低下を抑制することにより、演算精度の向上を図ることができるデータ演算処理装置を提供する。 - 特許庁

In an embodiment, the precision control IALU includes an arithmetic and logical operation circuit and a precision control circuit.例文帳に追加

一実施形態においては、精度制御ＩＡＬＵは、算術論理演算回路および精度制御回路を備える。 - 特許庁

To provide an arithmetic unit which is capable of obtaining a high-precision simulation arithmetic result even for a simplified model in the case of simulation arithmetic operation of a shape change for a coaxial line, an arithmetic method and an arithmetic program.例文帳に追加

同軸線に関する形状変化の模擬演算に際し、簡略化したモデルに対しても高精度な模擬演算結果を得ることが可能な演算装置、演算方法及び演算プログラムを提供する。 - 特許庁

The precision specifies the number of fraction digits to keep in the result of most arithmetic operations.発音を聞く 例文帳に追加

精度は、ほとんどの算術操作の結果で保存される小数の桁数を指定します。 - JM

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

To maintain critical arithmetic precision for performing divided parallel arithmetic operations with precision suitable for various targets, and for continuously outputting new stored results by adding and subtracting old stored results and the multiplied result in this multi-media arithmetic unit.例文帳に追加

マルチメディア演算器には、様々な目的に応じて適した精度でいくつかに分割並列演算する能力と旧蓄積結果と乗算結果を加減算して新蓄積結果を連続して出すという高性能が要求される。 - 特許庁