arithmetic errorとは 意味・読み方・使い方

Afterwards, the arithmetic expression is compared with a plurality of predetermined arithmetic rules forming an arithmetic error, and any error section in the arithmetic expression is searched, and the error section is noticed in the temporarily stored arithmetic expression.例文帳に追加

その後、該演算式を演算エラーを形成する所定の複数の演算規則と比較し、該演算式中のエラー部分を探し出し、並びに該エラー部分を暫時保存した演算式に註記する。 - 特許庁

PRODUCT-SUM OPERATION ERROR CORRECTING METHOD AND PRODUCT SUM ARITHMETIC UNIT例文帳に追加

積和演算誤差補正方法及び積和演算装置 - 特許庁

A focus error arithmetic part 122 generates a focus error signal with a focus error signal =(a+d)-(b+c).例文帳に追加

フォーカスエラー演算部１２２は、フォーカスエラー信号＝（ａ＋ｄ）−（ｂ＋ｃ）によりフォーカスエラー信号を生成する。 - 特許庁

ERROR DETECTOR AND ARITHMETIC PROCESSING UNIT INCORPORATING IT例文帳に追加

誤り検出装置及びそれを内蔵した演算処理装置 - 特許庁

The error detection section 600 compares arithmetic result data obtained by the arithmetic section 400 with test arithmetic result data, and discriminates whether or not an error has occurred.例文帳に追加

エラー検出部６００は、演算部４００が求めた演算結果データと試験演算結果データとを比較し、エラーが発生しているか否かを判別する。 - 特許庁

To reduce the rounding error of a high speed Fourier transformation (FFT) arithmetic operation.例文帳に追加

高速フーリエ変換(FFT)演算の丸め誤差を軽減させること。 - 特許庁

An arithmetic circuit 50 forms a focal error signal FE and a tracking error signal TE by performing arithmetic operation of the electric signals (a) to (f).例文帳に追加

演算回路５０は、電気信号ａ〜ｆを演算処理し、フォーカスエラー信号ＦＥとトラッキングエラー信号ＴＥとを生成する。 - 特許庁

An error arithmetic section 80 applies error diffusion processing to the value obtained from this addition to obtain error data to be added to a succeeding pixel value.例文帳に追加

この加算により得られる値を誤差演算部８０は誤差拡散して、次の画素値に加算する誤差データを求める。 - 特許庁