参考 > 函数参考 > 数值函数 > SetPrecision
 

SetPrecision

以小数点右侧 16 至 400 位的精度计算任何数学函数。

格式 

SetPrecision(表达式;精度)

参数 

表达式 - 任意数值表达式

精度 - 针对小数位数的任何数字或数值表达式

返回的数据类型 

数字

源于 

FileMaker Pro 7.0

说明 

所有函数(三角函数除外)都支持扩展精度。此函数不执行截断。

示例 1 

SetPrecision(5/9;30) 返回“0.555555555555555555555555555556”。

SetPrecision(1.321321321321321321321321321;0) 返回“1.3213213213213213”。

示例 2 

SetPrecision(If(字段1>5;Exp(50);Average(5/9;1/7;5/7));25) 返回

5184705528587072464087.4533229334853848274691006”,如果字段1 > 5;或者

0.4708994708994708994708995”,如果字段1 <= 5

相关主题 

函数参考(类别列表)

函数参考(按字母数字顺序排序的列表)

关于公式

关于函数

定义计算字段

在公式中使用运算符