Помогите разобраться

#1 Опубликовано: 11.11.2011 20:28:10

0 сообщений из 2 понравились пользователям.

Группа: User

прога не хочет считать значение переменной выдает ошибку "Значение вышло за пределы максимально-допустимого числа". что это означает?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?

#2 Опубликовано: 11.11.2011 23:44:40

build_your_web

4 сообщений из 127 понравились пользователям.

Группа: User

Разделите эту большую формулу на формулы поменьше, из которых она состоит.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.

Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.

1 пользователям понравился этот пост

Dezmond 15.11.2011 12:19:00

#3 Опубликовано: 14.11.2011 14:27:56

Dezmond

0 сообщений из 2 понравились пользователям.

Группа: User

все значения переменных не превышают 10^7 (2^24).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется

Расчеты.rar (5 КиБ) скачан 67 раз(а).

#4 Опубликовано: 14.11.2011 23:20:12

Fridel Selitsky

256 сообщений из 225 понравились пользователям.

Группа: Moderator

Вместо Ray:="выражение" напишите
Ray:=eval(выражение)

Метод расчета рычажных механизмов : http://www.exponenta.ru/educat/systemat/selitskiy-ivanov/index.asp

1 пользователям понравился этот пост

Dezmond 15.11.2011 12:19:00