Суть теоремы котельникова

Теорема Котельникова «для чайников» простыми словами
26

Попробуем нестандартно в сравнении с книгами по радиоэлектронике и цифровым системам связи, простыми житейскими примерами объяснить суть теоремы Котельникова. Если читатель еще не знаком с теоремой отсчётов, то рекомендуется сначала изучить ее формулировку в деловом официальном стиле. Смотрите, например, прошлую статью.

Аналоговые и дискретные процессы в природе

Абсолютное большинство процессов в природе протекают непрерывно, (изменение температуры воздуха на улице, давления, влажности, изменение скорости ветра, колебание электрического тока в проводнике, сияние Солнца). Почему все эти процессы непрерывны? Нам кажется, что время течет непрерывно, а значит в каждый момент времени должно существовать какое-то значение температуры воздуха или значение силы тока в проводнике, или значение интенсивности света Солнца. Непрерывные процессы, функции или сигналы называют аналоговыми (от слова аналог – нечто сходное, подобное чему-то, т.е. функция как модель является аналогом какому-то физическому процессу). Можно наблюдать множество непрерывных процессов в природе, например, непрерывный поток воды в источнике. Струя воды при падении вниз сужается как раз в силу поддержания непрерывности потока.

Аналоговый сигнал даже на конечном временном промежутке подразумевает набор бесконечного числа значений. Однако регистрирующие устройства, как правило фиксируют конечное число значений, поэтому мы получаем дискретные сигналы (дискретный от лат. discretus означает раздельный, состоящий из отдельных частей).


Представление непрерывного и дискретного сигналов.

Дискретные процессы также многочисленны в природе, как и аналоговые состояния. Дискретные процессы не могут находиться в каком-то промежуточном состоянии между определенными значениями. Придумаем несколько примеров из жизни:

  1. Из квантовой физики 1-й постулат Бора: электрон в атоме может двигаться только по определенным (можно сказать по дискретным) орбитам, находясь на которых, он не излучает и не поглощает энергию. Электроны в атоме, находясь на определенных стационарных (т.е. дискретных) орбитах, имеет вполне определённые дискретные значения энергии Е1, Е2, Е3 и т.д.
  2. Если вы играете на пианино, то звучащая музыка во времени представляет собой перескоки с одной дискретной ноты на другую, то есть ноты – это отдельно выбранные дискретные звуки.
  3. Когда мы поднимаемся по лестнице, ступня в пространстве оси высот находится только на определенной дискретной координате (ступеньке)

Поскольку человек не может оперировать с бесконечными числами и величинами, обычно все округляем до ближайших целых чисел – в результате получаем цифровые сигналы. Например, мы наносим цифровую шкалу на столбик термометра и фиксируем округленное значение температуры. Непрерывное время мы разбиваем на секунды минуты, часы – наносим цифры на циферблат часов. Все символьные и знаковые системы, созданные человечеством для обмена информацией, использует конечное число возможных элементов.

Поскольку все вычислительные информационные устройства могут работать лишь с дискретными символьными системами и с цифровыми сигналами, постоянно возникает необходимость в переходе от существующих в природе непрерывных процессов, к дискретным и цифровым. С развитием цифровой связи и цифровых устройств (микроконтроллеров, компьютеров) постоянно и повсеместно на каждом шагу выполняется аналого-цифровое преобразование сигналов, неотъемлемой частью которого является дискретизация сигналов. Но здесь важно следующее: перейти от непрерывного сигнала к дискретному дело нехитрое – здесь удачно подходит выражение «ломать не строить». По аналогии можно сказать «ломать аналоговый сигнал – не восстанавливать его», здесь все просто реализовать, но главное при этом выполнить дискретизацию правильно. Одно дело просто произвести выборку отдельных значений сигнала, но есть еще другое дело – потом надо будет по этим значениям снова восстановить исходный непрерывный сигнал. Как правильно дискретизировать сигналы говорится в теореме о дискретизации сигналов, или ее можно называть в честь автора – теоремой Котельникова.

Если не знать теорему Котельникова

Итак, мы выяснили, что как и множество процессов в природе, электрические сигналы, используемые во всей электронике и системах связи бывают аналоговые и дискретные. В цифровых системах необходимо переходить от аналоговых сигналов к дискретным, при этом переход должен быть корректным.

Наглядный пример номер раз. Давайте посмотрим на примере двух музыкальных фрагментов, что будет, если осуществлять дискретизацию сигнала некорректно.

Вот что будет при неправильной оцифровке музыки

Исходная музыкальная запись

После неправильной дискретизации

Вот что будет при неправильной оцифровке речи

Исходная запись

После неправильной дискретизации

Наглядный пример № 2. На рисунке ниже представлены 7 сигналов, каждый из которых соответствует своей музыкальной ноте – До, Ре, Ми, Фа, Соль, Ля, Си. Все они оцифрованы с частотой дискретизации 1700 Гц.

Давайте послушаем, что из этого получилось.

Надеюсь, с музыкальным слухом все в порядке и вы услышали, что с последними двумя прозвучавшими нотами что-то не так. Если не знать теорему Котельникова, то будет непонятно, почему звук при дискретизации исказился. Поэтому давайте разбираться в этой теореме.

Наглядное, но нестандартное объяснение теоремы о дискретизации

Представим себе, что мы работники Animal Planet и хотим изучить траекторию движения в джунглях какой-нибудь редкой змейки из красной книги. Назовем, например, изучаемую змею Зигзагусс.

С целью исследования мест обитания змеи и ее повадок цепляем к ее хвосту GPS-датчик, который будет регистрировать ее местоположение в отдельные моменты времени.

Вопрос: как надо запрограммировать датчик, чтобы мы получили точную траекторию движения змейки, т.е. получили самый подробный график траектории движения юркой змейки со всеми ее виляниями и изгибами? Через сколько миллисекунд или секунд датчику необходимо будет записывать и посылать нам очередную координату положения в пространстве?

Допустим, наша змея Зигзагусс ползет гармонично – ее хвост совершает гармонические колебания и ее движения можно описать синусоидальными функциями.

Фото настоящего следа от змеи на песке.

Траектория движения представляет собой колебания с различными частотами. Так вот, по правилам теоремы о дискретизации, чтобы восстановить всю траекторию движения змейки, необходимо найти составляющую колебаний самой высокой частоты.

Если по дискретным точкам мы сможем восстановить составляющую колебаний самой высокой частоты, то мы сможем восстановить всю траекторию змейки. Определим периоды всех колебаний (см. рисунок ниже).

Как видно из рисунка, наименьшим периодом колебаний является период . Следовательно, необходимо подобрать частоту выборки дискретных точек именно для колебания с периодом , тогда и все остальные колебания мы сможем потом восстановить. Другими словами, в соответствии с теоремой о дискретизации (см. формулировку ) можно полностью восстановить данную синусоидальную функцию, если брать дискретные точки через интервал времени вдвое меньший длительности периода . Это означает, что необходимо брать точки с таким интервалом, чтобы на период колебания самой высокой частоты приходилось не менее 2-х точек.

В этом случае можно будет с высокой точностью восстановить всю непрерывную траекторию движения исследуемой змеи.

Предположим теперь, что Зигзагусс опьянилась запахом одурманивающего цветка и стала ползти негармонично, несуразно.

В этом случае для определения периода дискретизации нам необходимо самим отыскать гармонию в данной кривой функции, а она есть внутри любого сигнала всегда, что пытался в свое время доказать всем людям французский математик Жан-Батист Фурье. Также как любое тело можно разложить на множество атомов, также и полученную сложную функцию (от траектории змеи), можно разложить на множество гармонических функций. Физические тела разные, потому что они отличаются друг от друга структурой молекул. Например, мы говорим H2O – это вода, что означает: молекула воды состоит из двух атомов водорода H и одного атома кислорода O. Точно также можно сказать, что разные сигналы отличаются разным составом. Например, такой вот сигнал

состоит из двух гармонических функций (синус и косинус) с частотой 1000 Гц и одного синуса с частотой 2000 Гц (2000 Гц означает, что гармоника совершает 2 тысячи колебаний в секунду). В соответствии с условием теоремы Котельникова, о котором мы уже ранее говорили, для такого сигнала временной интервал между дискретными точками необходимо брать таким, чтобы он был меньше половины периода самой высокой частоты. В нашем случае имеется гармоника с максимальной частотой 2 тысячи колебаний в секунду (2000 Гц), значит период сигнала равен 1/2000 = 0.005 секунд и значит период между дискретными точками должен быть менее, чем 0.005/2 = 0.0025 секунды.

Чтобы определить требуемый период между дискретными точками для траектории нашей змейки, необходимо определить из каких гармонических функций она состоит, а точнее нас интересует значение частоты наивысшей гармонической функции (т.е. фиолетовой на рисунке).

Делим период фиолетовой гармоники пополам, и получаем граничное значение для периода дискретизации функции траектории одурманенной змеи. Все, задача решена, можно произвести дискретизацию данного сложного сигнала.

Знаем и соблюдаем условия теоремы Котельникова

Теперь, когда мы знаем теорему Котельникова, давайте еще раз рассмотрим задачу правильного перехода от аналоговых 7 сигналов- музыкальных нот к дискретным. Итак, у нас есть семь гармонических колебаний, с частотами

Для правильной дискретизации, чтобы не было искажений, необходимо взять частоту дискретизации не менее в два раза больше максимальной частоты сигнала. Ранее мы брали частоту 1700 Гц, но как можно посчитать, такая частота подходит для сигналов нот До – Соль (для ноты Соль требуется частота дискретизации 784*2=1568 Гц), а вот для сигналов нот Ля и Си значение 1700 Гц уже не годится.

Еще раз рассмотрим дискретизацию наших сигналов

Как видно из рисунка из-за несоблюдения условий теоремы Котельникова для сигналов Ля и Си с частотами 880 Гц и 988 Гц, через получившиеся дискретные отсчёты можно провести другие гармонические сигналы (красные функции), частоты которых меньше 1700 Гц / 2 = 850 Гц. Произошел эффект, который называют наложение спектров (в англоязычной литературе – aliasing). В рамках данной статьи «для чайников» мы не будем подробно рассматривать этот эффект, поскольку здесь уже требуются знания спектрального анализа сигналов. Этот эффект интересен тем, что объясняет условия теоремы Котельникова с позиций представления сигналов в частотной области (см. рисунок ниже). Если разобраться в этом, то теорема Котельникова и принципы восстановления сигналов станут более понятными. Описание этого эффекта можно найти почти в каждой книге по цифровой обработке сигналов.

Но сейчас новичкам в этой области главное запомнить результат несоблюдения теоремы отсчётов – восстановление сигналов по имеющимся дискретным отсчётам будет неоднозначно. Чтобы такого не происходило, необходимо чтить теорему Котельникова.

Максимальная частота среди наших 7 сигналов 988 Гц (нота Си), следовательно частота дискретизации должна быть больше, чем 2*988=1976 Гц. Важно здесь неуместно отметить, что в 1976 году был создан первый персональный компьютер – начался кустарный выпуск Apple I.

Значит надо выбрать частоту дискретизации больше значения 1976.

Вот как будут звучать семь наших сигналов при частоте дискретизации 2000 Гц.

Задачка для разминки мозгов

Нельзя сказать, что эта задачка очень простая для начинающих и ее решит любой. Новички в этой области не унывайте, если не получится (здесь нужны знания теории сигналов), ну а тот, кто решит, может собой гордиться.

С двух датчиков регистрируются сигналы

Какой должна быть минимальная частота дискретизации в АЦП по условию теоремы о дискретизации, если К – операция сложения и если К – операция умножения?

Об одной особенности теоремы Котельникова

Написать данную статью меня вдохновила следующая задача:
Как известно из теоремы Котельникова, для того, чтобы аналоговый сигнал мог быть оцифрован а затем восстановлен, необходимо и достаточно, чтобы частота дискретизации была больше или равна удвоенной верхней частоте аналогого сигнала. Предположим, у нас есть синус с периодом 1 секунда. Тогда f = 1∕T = 1 герц, sin((2 ∗ π∕T) ∗ t) = sin(2 ∗ π ∗ t), частота дискретизации 2 герца, период дискретизации 0,5 секунды. Подставляем значения, кратные 0,5 секунды в формулу для синуса sin(2 ∗ π ∗ 0) = sin(2 ∗ π ∗ 0,5) = sin(2 ∗ π ∗ 1) = 0
Везде получаются нули. Как же тогда можно восстановить этот синус?
Поиск в интернете ответа на данный вопрос не дал, максимум того, что удалось найти — это различные дискуссии на форумах, где приводились довольно причудливые аргументы за и против вплодь до ссылок на эксперименты с различными фильтрами. Следует указать, что теорема Котельникова — это математическая теорема и доказывать или опровергать ее следует только математическими методами. Чем я и занялся. Оказалось, что доказательств этой теоремы в различных учебниках и монографиях достаточно много, но найти, где возникает данное противоречие мне долгое время не удавалось, поскольку доказательства приводились без многих тонкостей и деталей. Скажу также, что и сама формулировка теоремы в разных источниках была различной. Поэтому в первом разделе я приведу детальное доказательство этой теоремы, следуя оригинальной работе самого академика (В.А.Котельников ‘О пропускной способности «эфира»и проволоки в электросвязи.’ Материалы к I Всесоюзному съезду по вопросам технической реконструкции дела связи и развития слаботочной промышленности. 1933 г.)
Сформулируем теорему, как она дана в первоисточнике:
Любую функцию F(t), состоящую из частот от 0 до f1 периодов в секунду, можно представить рядом

где k — целое число; ω = 2πf1; Dk — постоянные, зависящие от F(t).
Доказательство: Любая функция F(t), удовлетворяющая условиям Дирихле (конечное число максимумов, минимумов и точек разрыва на любом конечном отрезке) и интегрируемая в пределах от −∞ до +∞, что вседа в электротехнике имеет место, может быть представлена интегралом Фурье:

т.е. как сумма бесконечного количества синусоидальных колебаний с частотами от 0 до +∞ и амплитудами C(ω)dω и S(ω)dω, зависящими от частоты. Причем

В нашем случае, когда F(t) состоит лишь из частот от 0 до f1, очевидно

при

и поэтому F(t) может быть представлена так:

функции же C(ω) и S(ω), как и всякие другие на участке
могут быть представлены всегда рядами Фурье, причем эти ряды могут, по нашему желанию состоять из одних косинусов или одних синусов, если мы возьмем за период двойную длину участка, т.е. 2ω1.
Примечание автора: здесь надо дать пояснение. Котельников использует возможность дополнить функции C(ω) и S(ω) таким образом, чтобы C(ω) стала четной, а S(ω) нечетной функцией на двойном участке относительно ω1. Соответственно на второй половине участка значения этих функций будут C(2∗ω1 −ω) и −S(2∗ω1 −ω). Эти функции отражаются относительно вертикальной оси с координатой ω1, а функция S(ω) еще и меняет знак
Таким образом
Введем следующие обозначения
Тогда
Подставляя получаем:
Преобразуем
Еще преобразуем
Интегрируем и заменяем ω1 на 2πf1:
Неточность в теореме Котельникова
Все доказательство выглядит строгим. В чем же проблема? Для понимания этого обратимся к одному не очень широко известному свойству обратного преобразования Фурье. Оно гласит, что при обратном преобразовании из суммы синусов и косинусов в исходную функцию, значение этой функции будет равно
то есть восстановленная функция равна полусумме значений пределов. К чему это приводит? Если наша функция непрерывная, то ни к чему. Но если в нашей функции есть конечный разрыв, то значения функции после прямого и обратного преобразования Фурье будут несовпадать с исходным значением. Вспомним теперь шаг в доказательстве теоремы, где интервал удваивается. Функция S(ω) дополняется функцией −S(2 ∗ ω1 − ω). Если S(ω1) (значение в точке ω1) равно нулю, ничего плохого не происходит. Однако если значение S(ω1) не равно нулю, восстановленная функция не будет равна исходной, поскольку в этой точке возникает разрыв равный 2S(ω1).
Вернемся теперь к исходной задаче про синус. Как известно, синус — нечетная функция, образ которой после преобразования Фурье есть δ(ω − Ω0) — дельта функция. То есть в нашем случае, если синус имеет частоту ω1, получаем:
Очевидно, что в точке ω1 суммируюся две дельта-функции от S(ω) и −S(ω) образуя ноль, что мы и наблюдаем.
Заключение
Теорема Котельникова, безусловно, великая теорема. Однако она должна быть дополнена еще одним условием, а именно
В такой формулировке исключаются граничные случаи, в частности случай с синусом у которого частота равна граничной частоте ω1, поскольку для него использовать теорему Котельникова с приведенным выше условием нельзя.

Национальная библиотека им. Н. Э. Баумана Bauman National Library

Дискретное представление сигналов с финитным спектром

Как правило, функции, описывающие такие сигналы, не являются финитными. Однако для апериодических импульсных сигналов с большой скважностью такое предположение, вообще говоря, неверно. Тем не менее, в инженерных моделях с наперед заданной точностью можно принять, что высокочастотный поддиапазон спектра такого сигнала имеет амплитуду, близкую нулю. Такие сигналы, далее называемые сигналами с финитным спектром, можно точно восстановить по некоторым их выборочным значениям, взятым в дискретной совокупности точек на отрезке X {\displaystyle X\!} (одномерный случай), на плоскости X Y {\displaystyle XY\!} (двумерный сигнал), и т.д.

Для двумерного случая это означает, что если задать внутри финитной области вполне определенное число точек, аппликаты которых изображают дискретные значения сигнала с финитным спектром, то непрерывная поверхность, представляющая собой график функции s ( x , y ) {\displaystyle s(x,y)\!} может быть проведена единственным образом.

Теорема Котельникова для двумерного случая

Пусть задан финитный спектр (рис. 1):

Рис. 1. Геометрическая модель двумерного пространственно-частотного спектра (ПЧС) финитной функции s ¯ ( ν x , ν y ) {\displaystyle {\bar {s}}(\nu _{x},\nu _{y})\!}

Далее введем в рассмотрение выборочную функцию

s v b ( x , y ) = s ( x , y ) comb ⁡ ( 2 ν 1 x , 2 ν 2 y ) ( 1 ) {\displaystyle s_{vb}(x,y)=s(x,y)\operatorname {comb} (2\nu _{1}x,2\nu _{2}y)\quad \quad ~\color {Maroon}(1)\!}
Рис. 2. Геометрическая модель двумерного ПЧС выборочной функции s ¯ v b ( ν x , ν y ) {\displaystyle {\bar {s}}_{vb}(\nu _{x},\nu _{y})\!}

Таким образом,

s ( x , y ) = F − 1 f s ~ ( ν x , ν y ) g = ( 1 / ( 4 ν 1 ν 2 ) ) F − 1 f s ~ ( ν x , ν y ) ⊗ comb ⁡ ( ν x / 2 ν 1 , ν y / 2 ν 2 ) g ⊗ F − 1 rect ⁡ ( ν x / 2 ν 1 , ν y / 2 ν 2 ) {\displaystyle s(x,y)=F^{-1}{\mathcal {f}}{\tilde {s}}(\nu _{x},\nu _{y}){\mathcal {g}}=(1/(4\nu _{1}\nu _{2}))F^{-1}{\mathcal {f}}{\tilde {s}}(\nu _{x},\nu _{y})\otimes \operatorname {comb} (\nu _{x}/2\nu _{1},\nu _{y}/2\nu _{2}){\mathcal {g}}\otimes F^{-1}\operatorname {rect} (\nu _{x}/2\nu _{1},\nu _{y}/2\nu _{2})\!} .

Откуда после преобразований, основанных на свойствах:

  • преобразование Фурье (как прямое, так и обратное) от свертки двух функций соответствует произведению их Фурье-образов;
  • преобразование Фурье от гребенчатой функции – гребенчатая функция;
  • фильтрующее свойство дельта-функции,

можно записать:

Переставляя местами двойной интеграл и двойную сумму, с учетом фильтрующего свойства δ {\displaystyle \delta \!} -функции получим окончательное выражение для ряда Котельникова

где 1 / 2 ν 1 = △ x {\displaystyle 1/2\nu _{1}=\vartriangle x\!} , 1 / 2 ν 2 = △ y {\displaystyle 1/2\nu _{2}=\vartriangle y\!} .Рис. 3. Двумерная геометрическая модель, идентифицирующая одномерный восстановленный сигнал в виде суммы sinc {\displaystyle \operatorname {sinc} \!} -образных базисных типовых сигналов

Строго говоря, сигналов с финитным спектром не существует. Однако для большинства реальных сигналов спектральная плотность на высоких частотах ничтожно мала. Поэтому большая часть энергии сигнала локализована в ограниченной частотной области, а сам сигнал хорошо аппроксимируется функцией с финитным спектром. Погрешность, возникающая при отбрасывании высших частотных гармоник, пренебрежимо мала.

Свойства выборочной функции

Переналожение спектров

<center> s ~ v b ( ν x , ν y ) = s ~ ( ν x , ν y ) ⊗ ( △ x , △ y ) comb ⁡ ( △ x ν x , △ y ν y ) ( 2 ′ ) {\displaystyle {\tilde {s}}_{vb}(\nu _{x},\nu _{y})={\tilde {s}}(\nu _{x},\nu _{y})\otimes (\vartriangle x,\vartriangle y)\operatorname {comb} (\vartriangle x\nu _{x},\vartriangle y\nu _{y})\quad \quad ~\color {Maroon}(2′)\!}

В свою очередь для спектра выборочной функции по аналогии с ( 6 ) {\displaystyle \color {Maroon}(6)\!}

На рис. 4 (а,б) приведены одномерные спектры s ~ ( 0 , ν y ) {\displaystyle {\tilde {s}}(0,\nu _{y})\!} и s ~ v b ( 0 , ν y ) {\displaystyle {\tilde {s}}_{vb}(0,\nu _{y})\!} .

Рис. 4. Геометрическая модель двумерного одномерных пространственно-частотных спектров (ПЧС), идентифицирующая их переналожение: а — ПЧС входного сигнала; б — ПЧС выборочной функции при △ y > 1 / 2 ν 2 {\displaystyle \vartriangle y>1/2\nu _{2}\!}

Так как

Теорема Котельникова в частотной области

Пусть оптический сигнал s ( x , y ) {\displaystyle s(x,y)\!} отличен от нуля в прямоугольной области

D r ◻ = f | x | ⩽ x m a x = x m , | y | ⩽ y m a x = y m g {\displaystyle D_{r}^{\Box }={\mathcal {f}}|x|\leqslant x_{max}=x_{m},|y|\leqslant y_{max}=y_{m}{\mathcal {g}}\!}

Для ЧВС финитного импульса, отличного от нуля на временном интервале | t | ⩽ t m a x = t m {\displaystyle |t|\leqslant t_{max}=t_{m}\!} , получим

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *