single precision arithmeticとは 意味・読み方・使い方

To efficiently execute the sum of product arithmetic operation of a data column with double precision data column and a data column with single precision in addition to the dual sum of product arithmetic operation of the mutual data columns with single precision.例文帳に追加

単精度のデータ列どうしのデュアル積和演算に加えて、倍精度のデータ列と単精度のデータ列との積和演算を効率良く実行する。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

A functional unit is added to a graphics processor to provide direct support for double-precision arithmetic, in addition to the single-precision functional units used for rendering.例文帳に追加

グラフィックスプロセッサに、レンダリングに使用される単精度の機能ユニットに加えて、倍精度の算術演算の直接的なサポートを提供する機能ユニットが追加される。 - 特許庁

A filtering-processing control section 402 is means for controlling computation of the data path section 100, and makes selection of whether the single precision arithmetic or double precision arithmetic is to be executed in dependence on the filter coefficient stored in the coefficient storing section 200.例文帳に追加

フィルタ処理制御部４０２は、データパス部１００による演算の制御を行う手段であり、係数記憶部２００に記憶されたフィルタ係数に基づいて、単精度演算を行わせるか倍精度演算を行わせるかを切り換える。 - 特許庁

To provide a power unit whose display precision is increased by reducing the display error of output currents due to the offset error of the arithmetic amplifier of a single power source.例文帳に追加

単電源の演算増幅器のオフセット誤差に起因する出力電流の表示誤差を少なくして、表示精度を高めた電源装置を提供する。 - 特許庁

This arithmetic processor is provided with two single precision multipliers 101 and 102, two double precision adder/subtracters 103 and 104, one shifter 105 for digit matching, a register file 106 and a latch 116 for accumulation.例文帳に追加

２個の単精度乗算器１０１，１０２と、２個の倍精度加減算器１０３，１０４と、桁合わせのための１個のシフタ１０５と、累算のためのレジスタファイル１０６及びラッチ１１６とを設ける。 - 特許庁

At the time of executing the dual sum of product arithmetic operation of the dual data columns with single precision, the adder/subtracters 103 and 104 are made to execute parallel accumulating operations by preventing the shifter 105 from executing any shift processing.例文帳に追加

単精度のデータ列どうしのデュアル積和演算時には、シフタ１０５がシフト処理を行わないようにして両加減算器１０３，１０４に並列累算動作をさせる。 - 特許庁