Точность вычислений

часто задаваемые вопросы
VFO
Сообщения: 4226
Зарегистрирован: Ср фев 27, 2002 8:03 pm

Точность вычислений

Сообщение VFO » Пн июл 30, 2007 4:39 pm

На форумах Mathcad часто задают вопросы о точности вычислений. Вот хорошая, но, правда, английская статья на эту тему:
http://www.imakenews.com/ptcexpress/e_a ... b6JrL19J,w

CALGARI
Сообщения: 14
Зарегистрирован: Ср ноя 12, 2008 9:06 pm

Сообщение CALGARI » Чт янв 15, 2009 9:49 pm

да хорошая статья..правда с переводом помучился..

___________
Оптимизация продвижение сайта

Nub
Сообщения: 35
Зарегистрирован: Пн май 06, 2013 11:46 am

Сообщение Nub » Пн окт 28, 2013 8:27 am

CALGARI писал(а):да хорошая статья..правда с переводом помучился..

А я "Хромом" её... у нас лаба была по теме, каждый должен был сделать расчёт, показывающий предельную точность... я от препода "откупился" вот этим (п.3)
В статье -
This difference as stated above is generally beyond the 12th decimal place of a number.

в общем, соответствует