фЕБЪ (febb) wrote,
фЕБЪ
febb

Category:

Математека для 5-го класса.... :)

Скажем нужно представить какое-то число, например 819.9737548828125,
целой дробью с числителем меньше какого-то, например 2^16=65536.
Я уже забыл, как это делается, ну например такие вычисления:

65536 / 819.9737548828125 = 79.92450930257658

Тогда знаменатель возьмем 80.

819.9737548828125 * 80 = 65597.900390625

Тогда числитель возьмем 65598, тогда

65598 / 80 = 819.975

Точность 0.0016%. Уже неплохо? На этом успокоиться? А вдруг есть что-то лучше?
Как узнать без перебора? :)

P.S.
Написал даже программку и результат перебора другой! :)

А нужно это для программки часов на микроконтроллере с кристаллом на 3.58252 MHz :)
Таймер переполняется 819.9737548828125 раз в минуту. :)
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 6 comments