011 / СЛУЧАЙНОСТЬ

Шум, который помогает

Обычно шум мешает. Но если сигнал слишком слаб, чтобы перешагнуть порог, немного шума помогает его заметить. Слишком много шума снова всё прячет. Покрутите шум сами: на фото и на шариках в двух ямках.

порог · шум · резонанс
Каждый пиксель: горит или нет. Нажмите на любойбез шума
Теория экспериментаПочему шум помогает заметить слабый сигнал, где у этой помощи оптимум и что мы проверили самиПростое объяснение, формулы и устройство модели

Простыми словами

Представьте датчик, который отвечает только «да» или «нет»: сигнал выше порога или ниже. Если сигнал слабый и всё время ниже порога, датчик молчит, и о сигнале ничего не узнать.

Добавим шум. Он случайно подбрасывает сигнал вверх и вниз, и иногда сумма перешагивает порог. Где сигнал сильнее, там до порога ближе и срабатываний больше. Поэтому по частоте срабатываний сигнал снова можно прочитать. На фото так проступают светлые места: лоб, седые волосы, белый воротник.

Если шума слишком много, срабатывает почти всё подряд, и разница между светлым и тёмным тонет. Получается горка: без шума плохо, при сильном шуме плохо, а посередине есть лучшее значение. Это и называют стохастическим резонансом.

С двумя ямками то же самое, только порогом служит горка между ними. Ямки медленно качаются, но слабо: сам наклон не может перекатить шарик. Шум даёт шарикам случайные толчки, и перелезть проще в ту сторону, которая сейчас ниже. Лучше всего выходит, когда шарик в среднем ждёт переход примерно половину качания: тогда переходы попадают в такт.

Важно: шум не усиливает сам сигнал. Он помогает системе с порогом его заметить. В обычном линейном приборе без порога шум всегда только мешает.

Попробуйте сами

  1. Во вкладке «Фото в шуме» начните без шума и медленно тяните ползунок вправо. Картинка проступит, а потом снова утонет в зерне.
  2. Откройте «Ещё опыты» и нажмите «Как видит глаз». Мелькание усредняется, и при лучшем шуме картинка становится почти чистой.
  3. Поднимите яркость сигнала выше 100 %. Светлые места станут видны без шума, а на графике пропадёт горка: шум теперь только портит.
  4. Загрузите своё фото. Оптимум у разных картинок немного разный.
  5. Нажмите на светлое место картинки, потом на тёмное. В окне «Один пиксель» видно, как шум перебрасывает пиксель через порог и почему светлое место горит чаще.
  6. Там же включите «Датчик без порога». Кривая видимости теперь только падает: без порога шум ничем не помогает.
  7. Во вкладке «Две ямки» нажмите «Мало», потом «Лучший», потом «Много» и смотрите на счётчик шариков в нижней ямке.
  8. Поднимите наклон выше 0,54. Горка исчезает, шарики перекатываются сами, и шум уже не нужен.

Физика и формулы

Две ямки. Частица в вязкой среде, где инерцией можно пренебречь (передемпфированный предел уравнения Ланжевена):

dx=[x−x32+Asin⁡ωt]dt+2D dW,U(x)=−x22+x48dx=\Big[x-\tfrac{x^3}{2}+A\sin\omega t\Big]dt+\sqrt{2D}\,dW,\qquad U(x)=-\frac{x^2}{2}+\frac{x^4}{8}

Минимумы x±=±2x_\pm=\pm\sqrt2, высота горки ΔU=1/2\Delta U=1/2. Слагаемое Asin⁡ωtA\sin\omega t наклоняет потенциал. Пока A<Ac=2323≈0,544A<A_c=\tfrac{2}{3}\sqrt{\tfrac23}\approx0{,}544, у потенциала остаются две ямки, и без шума переходов нет. DD задаёт силу шума, при тепловом шуме D=kBT/γD=k_BT/\gamma.

Без наклона шарик перепрыгивает горку редко и случайно. Частота таких прыжков даётся формулой Крамерса:

rK=U′′(x±) ∣U′′(0)∣2π e−ΔU/D=22π e−ΔU/Dr_K=\frac{\sqrt{U''(x_\pm)\,|U''(0)|}}{2\pi}\,e^{-\Delta U/D}=\frac{\sqrt2}{2\pi}\,e^{-\Delta U/D}

Резонанс появляется, когда среднее время ожидания прыжка сравнимо с половиной периода качания:

1rK(D)≈T2\frac{1}{r_K(D)}\approx\frac{T}{2}

Это прикидка, а не точное положение максимума. Разные меры отклика достигают максимума при разном шуме. Например, отношение сигнал/шум в двухуровневой теории Мак-Намары и Визенфельда

SNR∝A2 ΔU2D2 e−ΔU/D\mathrm{SNR}\propto\frac{A^2\,\Delta U^2}{D^2}\,e^{-\Delta U/D}

максимально при D=ΔU/2D=\Delta U/2 и не зависит от частоты, а синхронность переходов с качанием от частоты зависит.

Порог. Пиксель яркостью ss горит, если as+σξ>θas+\sigma\xi>\theta, где ξ\xi нормальный шум. Вероятность вспышки:

p(s)=P(as+σξ>θ)=12 erfc ⁣(θ−asσ2)p(s)=P\big(a s+\sigma\xi>\theta\big)=\tfrac12\,\mathrm{erfc}\!\left(\frac{\theta-a s}{\sigma\sqrt2}\right)

При σ→0\sigma\to0 все пиксели ниже порога гаснут, при большом σ\sigma вероятность стремится к 1/2 для всех. Связь выхода с исходной картинкой максимальна при промежуточном шуме.

Как устроена модель

Две ямки: A=0,2A=0{,}2, период T=200T=200, шаг Δt=0,05\Delta t=0{,}05, метод Эйлера–Маруямы, 200 шариков. Шарик меняет ямку, только когда пересекает x=±1x=\pm1: это убирает ложные переходы от дрожания у вершины горки. Счётчик показывает долю шариков в нижней ямке за последние два качания, без переходов она равна 50 %.

Генератор шума тот же, что в Python-версии, по которой сделан ролик: 32-битный хэш и преобразование Бокса–Мюллера. Тесты сайта проверяют, что шум совпадает с Python бит в бит, а траектории совпадают до 10−910^{-9}. Python-версию мы проверили отдельно: распределение Больцмана без наклона, точная формула среднего времени перехода, сходимость по шагу.

Фото: порог θ=1\theta=1, яркость сигнала aa задаёт ползунок. «Насколько видно» считается как корреляция исходной картинки с выходом датчика, сглаженным окном 5×5 пикселей (и усреднённым по 8 кадрам, если включён режим «Как видит глаз»). Кривая считается по формуле, тесты сверяют её с прямым моделированием. Это грубая модель зрения, а не точная модель глаза.

Портрет Альберта Эйнштейна снят Фердинандом Шмутцером в 1921 году и находится в общественном достоянии. Мы обрезали его и перевели в оттенки серого.

Источники и дальнейшее чтение

  • R. Benzi, A. Sutera, A. Vulpiani. The mechanism of stochastic resonance. J. Phys. A 14, L453 (1981). doi ↗
  • B. McNamara, K. Wiesenfeld. Theory of stochastic resonance. Phys. Rev. A 39, 4854 (1989). doi ↗
  • K. Wiesenfeld, F. Moss. Stochastic resonance and the benefits of noise: from ice ages to crayfish and SQUIDs. Nature 373, 33 (1995). doi ↗
  • L. Gammaitoni, P. Hänggi, P. Jung, F. Marchesoni. Stochastic resonance. Rev. Mod. Phys. 70, 223 (1998). doi ↗
  • J. K. Douglass, L. Wilkens, E. Pantazelou, F. Moss. Noise enhancement of information transfer in crayfish mechanoreceptors by stochastic resonance. Nature 365, 337 (1993). doi ↗
  • D. F. Russell, L. A. Wilkens, F. Moss. Use of behavioural stochastic resonance by paddle fish for feeding. Nature 402, 291 (1999). doi ↗
  • E. Simonotto et al. Visual perception of stochastic resonance. Phys. Rev. Lett. 78, 1186 (1997). doi ↗
  • A. A. Priplata et al. Vibrating insoles and balance control in elderly people. Lancet 362, 1123 (2003). doi ↗