с точностью до ... значащих цифр
• The calculation is done with a precision of 10 significant figures.
Русско-английский научно-технический словарь• The calculation is done with a precision of 10 significant figures.
Русско-английский научно-технический словарь