Марковский процесс с непрерывным временем

Какими методами можно решить марковский процесс CT?

Я знаю, что для известных процессов типа рождения-смерти или каких-то очередей задачу можно решить аналитически? Однако как решить, если оно не решаемо аналитически?

Представляется, что следует использовать численный метод. Тем не менее, я еще не нашел никаких инструментов, поддерживающих это. В MATLAB есть метод оды, но в дополнение к настройке оды процесса (обычное дифференциальное уравнение) необходимо добавить линейное уравнение, которое Matlab не поддерживает?

Как решить эти проблемы?
Любые инструменты или любой другой метод?


person justin    schedule 17.08.2012    source источник


Ответы (1)


Общие ссылки

Вы можете взглянуть на стандартные ссылки, которые ученые-физики используют для марковского процесса с непрерывным временем. Н.Г. Стохастические процессы в физике и химии ван Кампена представляет собой комплексное и понятное лечение. Стохастические методы Гардинера: справочник по естественным и социальным наукам — еще одна часто используемая ссылка. Оба они представляют как аналитические решения, так и пертурбативные методы для решения стохастических процессов.

Дискретные состояния

Если ваши состояния дискретны (или вы можете аппроксимировать их дискретно), то вы можете методом выборки Монте-Карло построить ансамбль траекторий. Одним из лучших справочников по этому вопросу является Методы Монте-Карло Баркемы и Ньюмана. по статистической физике, где есть хорошие примеры спиновых систем и представлено несколько алгоритмов. Вы также найдете немало полезного материала в литературе по алгоритму Гиллеспи и Кинетический Монте-Карло.

Непрерывные состояния

Если ваш процесс сформулирован как уравнение Ланжевена или содержит аналогичный встроенный процесс Винера, то вы, вероятно, захотите изучить методы интеграции стохастических дифференциальных уравнений (СДУ). Одна относительно недавняя статья с несколькими хорошими ссылками Алгоритмы компьютерного моделирования броуновской динамики: случай с несколькими переменными Бранька и Хейес.

Если ваш марковский процесс КТ можно сформулировать как уравнение Фоккера-Планка , затем Уравнение Фоккера-Планка: методы решения и приложения Рискена — отличное место для поиска аналитических решений. Уравнения Фоккера-Планка очень похожи на уравнения диффузии-адвекции, они так же поддаются численным методам УЧП.

Реализация

Большинство из этих алгоритмов достаточно просты в реализации. Прямые методы Монте-Карло написать очень просто. Монте-Карло с непрерывным временем лишь немного сложнее. Интеграция СДУ так же сложна, как написание интегратора Рунге-Кутте или Верле, и часто проще, чем численное интегрирование уравнения Фоккера-Планка, но не всегда.

person sfstewman    schedule 04.09.2012