Referens > Funktioner > Numeriska funktioner > SetPrecision
 

SetPrecision

Beräknar matematiska funktioner med en precision på 16 till 400 decimaler till höger om decimalkommat.

Format 

SetPrecision ( uttryck ; precision )

Parametrar 

uttryck – valfritt numeriskt uttryck.

precision – en siffra eller ett numeriskt uttryck för antalet decimaler

Returnerad datatyp 

nummer

Kommer från 

FileMaker Pro 7.0

Beskrivning 

Alla funktioner utom de trigonometriska funktionerna stöder utökad precision. Den här funktionen utför ingen trunkering.

Exempel 1 

SetPrecision ( 5/9 ; 30 ) returnerar 0,555555555555555555555555555556.

SetPrecision ( 1,321321321321321321321321321 ; 0 ) returnerar 1,3213213213213213.

Exempel 2 

SetPrecision ( If ( fält1>5 ; Exp( 50 ) ; Average( 5/9 ; 1/7 ; 5/7 ) ) ; 25 ) returnerar antingen

5184705528587072464087.4533229334853848274691006 om fält1 > 5 eller

0,4708994708994708994708995 om fält1 <= 5.

Relaterade avsnitt 

Funktioner (efter kategori)

Funktioner (i bokstavsordning)

Om formler

Om funktioner

Definiera beräkningsfält

Använda operatorer i formler