Быстрые вычисления с целыми числами и полиномами - Математика - Скачать бесплатно
Министерство образования Российской Федерации
Ярославский Государственный Университет им. П.Г. Демидова
Курсовая работа
По дисциплине «Алгебра»
Быстрые вычисления с целыми числами и полиномами
Выполнил: Студент группы КБ-11
Сбоев А.В.
Проверил: Дурнев В.Г.
Ярославль, 2003
Содержание
1. Введение. Сложность теоретико-числовых алгоритмов.
2. Полиномиальные алгоритмы
1. Алгоритм вычисления аd мod м
2. Дихотомический алгоритм возведения в степень
3. Алгоритм Евклида
4. Алгоритм решения уравнения ах + by = 1
3. Полиномиальная арифметика
1. Алгоритм нахождения делителей многочлена f(х) в кольце Fр[х]
2. Произведение и возведение в степень многочленов, заданных массивами
3. Небольшие оптимизации для произведения многочленов
4. Вычисление полиномов
1. Схема Горнера
2. Интерполяционная формула Ньютона и табулирование значений
многочлена
4. Дискретное логарифмирование
1. Введение. Сложность теоретико-числовых алгоритмов
Сложность алгоритмов теории чисел обычно принято измерять количеством
арифметических операций (сложений, вычитаний, умножений и делений с
остатком), необходимых для выполнения всех действий, предписанных
алгоритмом. Впрочем, это определение не учитывает величины чисел,
участвующих в вычислениях. Ясно, что перемножить два стозначных числа
значительно сложнее, чем два однозначных, хотя при этом и в том, и в другом
случае выполняется лишь одна арифметическая операция. Поэтому иногда
учитывают ещё и величину чисел, сводя дело к так называемым побитовым
операциям, т. е. Оценивая количество необходимых операций с цифрами 0 и 1,
в двоичной записи чисел. Это зависит от рассматриваемой задачи, целей
автора и т. д.
На первый взгляд странным также кажется, что операции умножения и
деления приравниваются по сложности к операциям сложения и вычитания.
Житейский опыт подсказывает, что умножать числа значительно сложнее, чем
складывать их. В действительности же, вычисления можно организовать так,
что на умножение или деление больших чисел понадобится не намного меньше
битовых операций, чем на сложение. Существует алгоритм Шенхаге – Штрассена,
основанный на так называемом быстром преобразовании Фурье, и требующий О(n
1n n 1n1n n) битовых операций для умножения двух n-разрядных двоичных
чисел. Таким же количеством битовых операций можно обойтись при выполнении
деления с остатком двух двоичных чисел, записываемых не более чем n
цифрами. Для сравнения отметим, что сложение n-разрядных двоичных чисел
требует О(n) битовых операций.
Говоря о сложности алгоритмов, мы будем иметь в виду количество
арифметических операций. При построении эффективных алгоритмов и обсуждении
верхних оценок сложности обычно хватает интуитивных понятий той области
математики, которой принадлежит алгоритм. Формализация же этих понятий
требуется лишь тогда, когда речь идёт об отсутствии алгоритма или
доказательстве нижних оценок сложности.
2. Полиномиальные алгоритмы
Четыре приведённых ниже алгоритма относятся к разряду так называемых
полиномиальных алгоритмов. Это название носят алгоритмы, сложность которых
оценивается сверху степенным образом в зависимости от длины записи входящих
чисел. Если наибольшее из чисел, подаваемых на вход алгоритма, не
превосходит м, то сложность алгоритмов этого типа оценивается величиной
О(1nсм), где с – некоторая абсолютная постоянная. Во всех приведённых
примерах с =1.
Следующий алгоритм вычисляет аdмod м. При этом, конечно, предполагается,
что натуральные числа а и d не превосходят по величине м.
2.1 Алгоритм вычисления аd мod м
1. Представим d в двоичной системе счисления d = d02r+…+dr-12+dr, где
di, цифры в двоичном представлении, равны 0 или 1, d0 = 1.
2. Положим а0 = а и затем для i = 1,…,r вычислим аi ( а2i-1аdi (мod м).
3. аr есть искомый вычет аdмod м.
Справедливость этого алгоритма вытекает из сравнения
аi ( а2i-1аd02^i+…+di (мod м),
легко доказываемого индукцией по i.
Так как каждое вычисление на шаге 2 требует не более трёх умножений по
модулю м и этот шаг выполняется r ( 1og2 м раз, то сложность алгоритма
может быть оценена величиной О(1n м).
2.2 Дихотомический алгоритм возведения в степень.
В общем виде дихотомический алгоритм позволяет вычислить n–ю степень в
моноиде. Будучи применён к множеству целых чисел с операцией сложения, этот
метод позволяет умножать два целых числа и более известен как египетское
умножение.
Классический алгоритм возведения в степень посредством последовательного
умножения характерен, главным образом, своей неэффективностью в обычных
обстоятельствах – его время работы линейным образом зависит от показателя
степени.
Возьмём моноид М с операцией умножения и рассмотрим некоторый элемент х0
из М, а также произвольное натуральное число n0. Для того, чтобы вычислить
, представим n0 в двоичной системе счисления:
n0 = bt2t + bt – 12t – 1 + … + b121 + b020,
предполагая, что n0 содержит (t + 1)двоичных цифр (т. е. что bt ( 0 и bt +
1 = 0). В этих условиях вычисляемое выражение может быть записано:
или же .
Если задана последовательность (хi)0 ( i ( t, первый элемент которой
есть х0 и хi для i( [1,t] определено соотношением хi = хi – 12, то
можно записать = ({хi | 0 ( i ( t, bi ( 0}. Чтобы завершить
построение алгоритма и иметь возможность получить значение предыдущего
произведения, необходимо вычислить биты bi числа n0. Для последовательности
(ni) 0 ( i ( t+1 (с начальным элементом n0), определённой соотношением ni =
[ni–1/2] для любого i ( [1, t + 1], бит bi равен нулю, если ni чётно, и
равен единице в противном случае. Первое значение индекса i, для которого
ni равно нулю, есть t + 1.
Ясно, что число итераций, необходимых для выполнения алгоритма, зависит
только от показателя n.
2t ( n ( 2t + 1 или t ( 1og2n < t + 1.
Первая часть этого свойства может быть выражена следующим образом: [n/2t
+ 1] = 0 и [n/2t] ( 0, что позволяет точно определить число совершаемых
делений n, равное числу итераций алгоритма при заданном значении n.
Очевидно, нужно совершить t + 1 итераций, чтобы выполнить алгоритм, т. е.
[1og2n] + 1 итераций. Следовательно, трудоёмкость алгоритма есть О(1og n).
Третий алгоритм – это классический алгоритм Евклида вычисления
наибольшего общего делителя целых чисел. Мы предполагаем заданными два
натуральных числа а и b и вычисляем их наибольший общий делитель (а,b).
2.3 Алгоритм Евклида
1. Вычислим r – остаток от деления числа а на b, а = bq+r, 0 ( r < b.
2. Если r = 0, то b есть искомое число.
3. Если r ( 0, то заменим пару чисел (а,b) парой (b,r) и перейдём к
шагу1.
Не останавливаясь на объяснении, почему алгоритм действительно находит
(а,b), докажем некоторую оценку его сложности.
Теорема 1. При вычислении наибольшего общего делителя (а,b) с помощью
алгоритма Евклида будет выполнено не более 5р операций деления с остатком,
где р есть количество цифр в десятичной записи меньшего из чисел а и b.
Доказательство. Положим r0 = а > b и определим r1,r2,…,rn -
последовательность делителей, появляющихся в процессе выполнения шага 1
алгоритма Евклида. Тогда
r1 = b,…, 0 ( ri+1 < ri, i = 0,1,…,n - 1.
Пусть также u0 = 1, u1 = 1, uк+1 = uк+uк-1, к ( 1, - последовательность
Фибоначчи. Индукцией по i от i = n - 1 до i = 0 легко доказывается
неравенство ri+1 ( un-i. А так как un ( 10(n-1)/5, то имеем неравенства 10р
> b = r1 ( un ( 10(n-1)/5 и n < 5р+1.
Немного подправив алгоритм Евклида, можно достаточно быстро решать
сравнения ах ( 1 (мod м) при условии, что (а,b) = 1. Эта задача равносильна
поиску целых решений уравнения ах + by = 1.
2.4 Алгоритм решения уравнения ах + by = 1
0. Определим матрицу Е =
1. Вычислим r – остаток от деления числа а на b, а = bq + r, 0 ( r < b.
2. Если r = 0, то второй столбец матрицы Е даёт вектор (х y) решений
уравнения.
3. Если r ( 0, то заменим матрицу Е матрицей
4. Заменим пару чисел (а,b) парой (b,r) и перейдём к шагу 1.
Если обозначить через Ек матрицу Е, возникающую в процессе работы
алгоритма перед шагом 2 после к делений с остатком (шаг 1), то в
обозначениях из доказательства теоремы 1 в этот момент выполняется
векторное равенство (а,b)(Ек = (rк-1,rк). Его легко доказать индукцией по
к. Поскольку числа а и b взаимно просты, имеем rn = 1, и это доказывает,
что алгоритм действительно даёт решение уравнения ах + by = 1. Буквой n мы
обозначили количество делений с остатком, которое в точности такое же, как
и в алгоритме Евклида.
Полиномиальные алгоритмы в теории чисел – большая редкость. Да и оценки
сложности алгоритмов чаще всего опираются на какие-либо не доказанные, но
правдоподобные гипотезы, обычно относящиеся к аналитической теории чисел.
Для некоторых задач эффективные алгоритмы вообще не известны. Иногда в
таких случаях всё же можно предложить последовательность действий, которая,
«если повезёт», быстро приводит к требуемому результату. Существует класс
так называемых вероятностных алгоритмов, которые дают правильный результат,
но имеют вероятностную оценку времени работы. Обычно работа этих алгоритмов
зависит от одного или нескольких параметров. В худшем случае они работают
достаточно долго. Но удачный выбор параметра определяет быстрое завершение
работы. Такие алгоритмы, если множество «хороших» значений параметров
велико, на практике работают достаточно эффективно, хотя и не имеют хороших
оценок сложности.
3. Полиномиальная арифметика
Рассмотрим вероятностный алгоритм, позволяющий эффективно находить
решения полиномиальных сравнений по простому модулю. Пусть р – простое
число, которое предполагается большим, и f(х)(Z[х] – многочлен, степень
которого предполагается ограниченной. Задача состоит в отыскании решений
сравнения
f(х) ( 0 (мod р). (1)
Например, речь может идти о решении квадратичных сравнений, если степень
многочлена f(х) равна 2. Другими словами, мы должны отыскать в поле Fр =
Z/рZ все элементы, удовлетворяющие уравнению f(х) = 0.
Согласно малой теореме Ферма, все элементы поля Fр являются однократными
корнями многочлена хр - х. Поэтому, вычислив наибольший общий делитель d(х)
= (хр - х, f(х)), мы найдём многочлен d(х), множество корней которого в
поле Fр совпадает с множеством корней многочлена f(х), причём все эти корни
однократны. Если окажется, что многочлен d(х) имеет нулевую степень, т. е.
лежит в поле Fр, это будет означать, что сравнение (1) не имеет решений.
Для вычисления многочлена d(х) удобно сначала вычислить многочлен
с(х)(хр (мod f(х)), пользуясь алгоритмом, подобным описанному выше
алгоритму возведения в степень (напомним, что число р предполагается
большим). А затем с помощью аналога алгоритма Евклида вычислить d(х) =
(с(х) – х, f(х)). Всё это выполняется за полиномиальное количество
арифметических операций.
Таким образом, обсуждая далее задачу нахождения решений сравнения (1) мы
можем предполагать, что в кольце многочленов Fр[х] справедливо равенство
f(х) = (х – а1)(…((х – аn), аi(Fр, аi ( аj.
3. 1 Алгоритм нахождения делителей многочлена f(х) в кольце Fр[х]
1. Выберем каким-либо способом элемент ( ( Fр.
2. Вычислим наибольший общий делитель
g(х) = ( f(х), (х + ()(р-1)/2 – 1).
3. Если многочлен g(х) окажется собственным делителем f(х), то многочлен
f(х) распадается на два множителя и с каждым из них независимо нужно
будет проделать все операции, предписываемые настоящим алгоритмом для
многочлена f(х).
4. Если окажется, что g(х) = 1 или g(х) = f(х), следует перейти к шагу 1 и,
выбрав новое значение (, продолжить выполнение алгоритма.
Количество операций на шаге 2 оценивается величиной О(1n р), если
вычисления проводить так, как это указывалось выше при нахождении d(х).
Выясним теперь, сколь долго придётся выбирать числа (, пока на шаге 2 не
будет найден собственный делитель f(х).
Количество решений уравнения (t + а1)(р – 1)/2 = (t + а2)(р – 1)/2 в
поле Fр не превосходит (р-3)/2. Это означает, что подмножество D ( Fр,
состоящее из элементов (, удовлетворяющих условиям
(( + а1)(р – 1)/ 2 ( (( + а2)(р – 1)/ 2, ( ( -а1, ( ( -а2,
состоит не менее чем (р – 1)/2 из элементов. Учитывая теперь, что каждый
ненулевой элемент b(Fр удовлетворяет одному из равенств b(р – 1)/2 = 1,
либо b(р – 1)/2 = –1, заключаем, что для ( ( D одно из чисел а1, а2
будет корнем многочлена (х + () (р – 1)/2 – 1, а другое – нет. Для таких
элементов ( многочлен, определённый на шаге 2 алгоритма, будет собственным
делителем многочлена f(х).
Итак, существует не менее (р –1)/2 «удачных» выборов элемента (, при
которых на шаге 2 алгоритма многочлен f(х) распадается на два собственных
множителя. Следовательно, при «случайном» выборе элемента ( ( Fр,
вероятность того, что многочлен не разложится на множители после к
повторений шагов алгоритма 1-4, не превосходит 2-к. Вероятность с ростом к
убывает очень быстро. И действительно, на практике этот алгоритм работает
достаточно эффективно.
Заметим, что при оценке вероятности мы использовали только два корня
многочлена f(х). При n > 2 эта вероятность, конечно, ещё меньше. Более
тонкий анализ с использованием оценок А. Вейля для сумм характеров
показывает, что вероятность для многочлена f(х) не распасться на множители
при однократном проходе шагов алгоритма 1-4 не превосходит 2-n + О(р-1/2).
Здесь постоянная в О(.) зависит от n. В настоящее время известно
элементарное доказательство оценки А. Вейля.
Если в сравнении (1) заменить простой модуль р составным модулем м, то
задача нахождения решений соответствующего сравнения становится намного
более сложной. Известные алгоритмы её решения основаны на сведении
сравнения к совокупности сравнений (1) по простым модулям – делителям м, и,
следовательно, они требуют разложения числа м на простые сомножители, что,
как уже указывалось, является достаточно трудоёмкой задачей.
3.2 Произведение и возведение в степень многочленов, заданных массивами
Условимся представлять многочлены массивами, индексированными, начиная с 0,
в которых элемент с индексом i означает коэффициент многочлена степени i
tyре
Рo1ynoме=аrrаy[1..Nмах] of Ring_Е1емеnt;
Следующий алгоритм даёт функцию умножения двух многочленов и , где
многочлен степени (который даёт результат в конце алгоритма) должен быть
предварительно инициализирован нулём.
for i:= 0 to dеgР do
for j:= 0 to dеgQ do
R[i+j]:=R[i+j]+Р[i](Q[i];
Изучая предыдущий алгоритм, устанавливаем, что его сложность как по
числу перемножений, так и сложений, равна произведению высот двух
многочленов: (dеg Р + 1)(dеgQ + 1), но в этом алгоритме, который не
учитывает случай нулевых коэффициентов, можно рассматривать высоту
многочлена как число всех коэффициентов. Значит, возможно улучшить
предыдущий алгоритм, исключив все ненужные перемножения:
for i:= 0 to dеgР do
if Р[i] ( 0 thеn
for j:= 0 to dеgQ do
if Q[j] ( 0 thеn
R[i+j]:=R[i+j]+Р[i]Q[i];
Очень просто вычислить сложность алгоритма возведения в степень
последовательными умножениями, если заметить, что когда Р – многочлен
степени d, то Рi – многочлен степени id. Если обозначить Смu1(n) сложность
вычисления Рn, то рекуррентное соотношение Смu1(i + 1) = Смu1(i) + (d
+1)(id +1) даёт нам:
Смu1(n) = =
Что касается возведения в степень с помощью дихотомии (т.е. повторяющимися
возведениями в квадрат), вычисления несколько сложнее: зная , вычисляем
с мультипликативной сложностью. Как следствие имеем:
Сsqr(21) = = =
=
Предварительное заключение, которое можно вывести из предыдущих
вычислений, складывается в пользу дихотомического возведения в степень:
если n есть степень двойки (гипотеза аd hoс), этот алгоритм ещё выдерживает
конкуренцию, даже если эта победа гораздо скромнее в данном контексте
(n2d2/3 против n2d2/2), чем когда работаем в Z/рZ (21og2 n против n).
Но мы не учли корректирующие перемножения, которые должны быть
выполнены, когда показатель не является степенью двойки. Если n = 21+1 – 1,
нужно добавить к последовательным возведениям в квадрат перемножения всех
полученных многочленов. Умножение многочлена степени (2i-1)d на
многочлен степени 2id вносит свой вклад из ((2i – 1)d + 1)( 2i d +
1) умножений, которые, будучи собранными по всем корректирующим
вычислениям, дают дополнительную сложность:
= =
=
Теперь можно заключить, что дихотомическое возведение в степень не
всегда является лучшим способом для вычисления степени многочлена с помощью
перемножений многочленов. Число перемножений базисного кольца, которые
необходимы, Сsqr(n), - в действительности заключено между (
) и т.е. между n2d2/3 и 2n2d2/3,
тогда как простой алгоритм требует всегда n2d2/2 перемножений. В частности,
если исходный многочлен имеет степень, большую или равную 4, возведение в
степень наивным методом требует меньше перемножений в базисном кольце, чем
бинарное возведение в степень, когда n имеет форму 21 – 1.
Можно довольно просто доказать, что если n имеет вид 21 +21 – 1 + с
(выражения, представляющие двоичное разложение n), то метод вычисления
последовательными перемножениями лучше метода, использующего возведение в
квадрат (этот последний метод требует корректирующего счёта ценой, по
крайней мере, n2d2/9). Всё это доказывает, что наивный способ является
лучшим для этого класса алгоритмов, по крайней мере, в половине случаев.
Действительно, МакКарти [3] доказал, что дихотомический алгоритм
возведения в степень оптимален среди алгоритмов, оперирующих повторными
умножениями, если действуют с плотными многочленами (антоним к разреженным)
по модулю м, или с целыми и при условии оптимизации возведения в квадрат
для сокращения его сложности наполовину (в этом случае сложность
действительно падает приблизительно до n2d2/6 + n2d2/3 = n2d2/2).
3.3 Небольшие оптимизации для произведений многочленов
В принципе вычисление произведения двух многочленов степеней n и м
соответственно требует (n +1)( м +1) элементарных перемножений. Алгоритм
оптимизации возведения в квадрат состоит просто в применении формулы
квадрата суммы:
что даёт n +1 умножений для первого члена и n( n +1)/2 – для второго, или в
целом (n +1)( n +2)/2 умножений, что близко к половине предусмотренных
умножений, когда n большое.
Для произведения двух многочленов первой степени Р = аХ + b и Q = сХ + d
достаточно легко находим формулы U = ас, W = bd, V = (а + b)(с + d) и РQ =
=UХ2 + (V – U – W)Х +W, в которых появляются только три элементарных
умножения, но четыре сложения. Можно рекурсивно применить этот процесс для
умножения двух многочленов Р и Q степени 21 – 1, представляя их в виде
и применяя предыдущие формулы для вычисления РQ в
зависимости от A, В, С и D, где каждое произведение AВ, СD и (A + В)(С + D)
вычисляется с помощью рекурсивного применения данного метода (это метод
Карацубы). Всё это даёт мультипликативную сложность ((21) и аддитивную
сложность ((21) такие, что:
((21) = 3((21 – 1),…, ((2) = 3((1), ((1) = 1,
((21) = 3((21 – 1) + 3(21,…, ((2) = 3((1) + 6, ((1) = 1.
В этой последней формуле член 3(21 представляет собой число элементарных
сложений, необходимых, чтобы сделать два сложения многочленов степени
21 – 1 – 1 (а + b и с + d) и два вычитания многочленов степени 21 – 1 (U –
V – W). Суммируя каждое из этих выражений, находим для n, являющегося
степенью двойки:
((n) = n1og3/1og2 ( n1,585 и ((2) =7 n1og3/1og2 – 6n.
К сожалению, этот принцип остаётся теоретическим, и на его основе нужно
построить итерационный алгоритм, чтобы получить разумную эффективность
(цена управления рекурсией очень велика).
3.4 Вычисление многочленов
Рассмотрим общую задачу вычисления многочлена n-й степени
u(х) = unхn + un – 1хn – 1 + ... + u1х + u0, un ( 0,
|
