Можно ли по следствию восстановить причину — например, заглянуть в недра Земли, не копая?
Большинство задач физики — прямые: знаем причину, считаем следствие. Ударили по среде — посчитали, как разойдётся волна. Коротко: $y = A(x)$, где $x$ — причина, $A$ — закон природы, $y$ — наблюдаемое следствие. Но в жизни чаще нужно обратное: следствие у нас перед глазами, а причина спрятана. Сейсмологи по дрожанию поверхности восстанавливают строение недр; врач по теням на снимке — устройство тела внутри. Это обратные задачи: по $y$ найти $x$.
Из работ Михаила Михайловича Лаврентьева-младшего выросла целая новосибирская школа обратных задач. И первое, что она показала: обратная задача — это не просто «прямая наоборот». Она устроена принципиально коварнее.
Прямая задача идёт по стрелке закона природы: причина → следствие. Обратная задача идёт против стрелки — по наблюдаемому следствию восстановить скрытую причину.
Чтобы задачу можно было честно решать, она должна быть «корректной». Жак Адамар выделил три условия корректности: решение существует, оно единственно и оно устойчиво — малое изменение данных даёт малое изменение ответа. Прямые задачи обычно корректны. А обратные ломают устойчивость: ничтожный шум в данных может породить огромную ошибку в ответе.
Классический пример — задача Коши для уравнения Лапласа. Зададим на границе почти незаметное возмущение:
И вот фокус: при $n\to\infty$ исходные данные стремятся к нулю (амплитуда $1/n$ исчезает), а решение из-за множителя $\operatorname{sh}(ny)$ растёт без всякого предела1. Данные почти не отличить от нуля — а ответы разбегаются до бесконечности. Вот почему в лоб обратную задачу решать нельзя: измерительный шум, неизбежный в любых данных, раздувается в полную бессмыслицу.
Где работает тот же закон?
Обратные задачи — это весь «взгляд внутрь, не вскрывая»: УЗИ и компьютерная томография, сейсморазведка и геофизика (строение недр), астрономия (восстановить источник по его излучению), дистанционное зондирование и обработка сигналов. Всюду по следствию восстанавливают причину — и всюду борются с той же неустойчивостью.
Корректность по Адамару: существование, единственность, устойчивость. Задача Коши для уравнения Лапласа — классический пример некорректной задачи, где малые данные дают неограниченно растущее решение (Wikipedia, «Well-posed problem»; «Inverse problem»). ↩
Раз прямое обращение $x = A^{-1}y$ раздувает шум, его заменяют регуляризацией — чуть «портят» задачу, чтобы сделать её устойчивой. Лаврентьев предложил для подходящих операторов ($A=A^*\ge 0$) заменить неустойчивое уравнение устойчивым уравнением второго рода:
$$ (A+\alpha I)\,x = y $$
Маленькая добавка $\alpha I$ не даёт обусловленности уйти в бесконечность: ответ чуть смещается, зато перестаёт скакать от шума. Тот же принцип — в L2-регуляризации Тихонова, а та же форма $(K+\lambda I)^{-1}$ всплывает в kernel-методах машинного обучения — но у Лаврентьева она появилась задолго до них1. Глубже всех лежит идея условной корректности: если заранее сузить множество возможных решений до компактного, то из одной только единственности уже следует устойчивость — и задача снова становится решаемой.
На этих идеях стоит вся новосибирская школа: В. Г. Романов (восстановить скорость в волновом уравнении $u_{tt}=c^2(x)\,\Delta u$ по граничному отклику — та самая сейсморазведка), С. И. Кабанихин (численные методы), А. Л. Бухгейм (оценки Карлемана и глобальная единственность многомерных задач).
Открытый вопрос
Регуляризация всегда чем-то жертвует: чем сильнее давишь шум добавкой $\alpha$, тем больше смещается ответ. Как выбрать $\alpha$ ровно на грани — достаточно, чтобы погасить шум, но не настолько, чтобы потерять детали, — общего рецепта нет, и каждый класс задач решает это по-своему.