Question

System

“系统”。输入、输出、函数所组成的机制。输入、输出是多道讯号。

http://www.egr.msu.edu/classes/me851/jchoi/lecture/
http://www.princeton.edu/~stengel/MAE546Seminars.html

http://www.gaussianwaves.com/2014/05/22/

moving average model 就是正常的 LTI Filter。autoregressive model 可以想成 LTI Filter 的反运算，也是 LTI Filter。

乘法摺积对偶性。实际计算採用 Fourier Transform。阐述理论则採用 Laplace Transform，迎合讯号从零开始。

System Identification

找到适当的函数类型，尽量符合输入与输出。

System Realization（Under Construction!）

System Realization

找到函数，尽量符合输入与输出。

System Estimation（Under Construction!）

System Estimation

找到函数与输入，尽量符合输出。

已知输出（果），未知输入（因），寻找最有可能的因。

函数（业）已知是 Kalman Filter，未知是 Hidden Markov Model。

大家习惯想成是 Signal Estimation 的进阶版本。

System Estimation: Kalman Filter（Under Construction!）

Linear Prediction

预测数列发展。

Kalman Filter

精髓：果的误差，经过反滤波器，用以修正因。

http://www.cs.unc.edu/~welch/media/pdf/kalman_intro.pdf

状态（因）   x1 x2 x3 ...            未知　（一条数列，线性递迴关係）
函数（指标） H1 H2 H3 ...            已知　（数列每一项皆有一个函数）
观察（果）   y1=H1(x1) y2=H2(x2) ... 已知　（数列每一项皆有一个输出）

状态是自递迴的 LTI filter   xn = a1*xn-1 + a2*xn-2 + ... + ap*xn-p
                           xn = A(xn-1, xn-2, ..., xn-p)
状态可以添加杂讯           xn = a1*xn-1 + a2*xn-2 + ... + ap*xn-p + q
函数通常是同一个           H1 = H2 = H3
函数可以推广成 LTI filter   yn = hn1*xn-1 + hn2*xn-2 + ... + hnp*xn-r
                           yn = Hn(xn, xn-1, xn-2, ..., xn-r)

从 x1 开始一个一个算到 xk，现在要算 xk 是多少：
1. 利用递迴式计算 xk' = A(xk-1) (此处仅以一阶为例。自行初始化 x1 为零。)
   这很直觉吧。
2. 顺手求出 yk' = Hk(xk')。
　 通常 yk' 不等于正版 yk。这表示我们算的 xk' 不够准，需要修正。
3. 求出 Hk 的反滤波器 Hk。又称 Kalman gain Kk。
   xk = xk' + Hk(yk - Hk(xk'))。
   yk 的误差，套用反滤波器，变成 xk 的误差。原本的 xk'加上误差，答案就对了。
3.1. 为了计算反滤波器，需要 xk 的误差的平方 pk。 (误差的 autocorrelation)
     利用递迴式推导出 pk' = A2(pk-1) (自行初始化 p1 为零)
     这个式子的原理，大致上符合 Var[X*a] = Var[X] * a^2。
3.2. 以 pk' Hk 求出 Hk。
4. 修正好 xk 之后，不忘修正 pk = pk' - Hk(Hk(pk'))

为什麽要大费周章，将观察值的误差通过反滤波器，而不是直截了当，将观察值通过反滤波器？我也不清楚。可能是因为添加了杂讯，不得不这样处理。

System Estimation: Hidden Markov Model（Under Construction!）

Markov Chain

预测数列发展。

Hidden Markov Model

详见本站文件“ Hidden Markov Model ”。

一个函数，输入和输出都是数列。现在只知道大量的输出数列（果），完全不清楚函数（业）和输入数列（因）。

现在假设此函数是一个 Hidden Markov Model（即是假设输入数列是 Markov Chain），假设状态数量为 N、机率均等。

针对一个已知的输出数列，我们调整函数，让该输出数列的出现机率最大，同时求出机率多寡。（理论上应该要同时考虑所有输出数列，让整体的机率最大；但是这样时间複杂度太高是指数时间，只好一次处理一个。）

针对一个新的输出数列，我们找到可能性最高的输入数列，同时求出机率多寡。

用于 Classification

用来分类数列，数列前后项关係密切。

每一种类别，各自建立一个 HMM。针对一个新的输出数列，以机率多寡来判断其分类。

Conditional Random Field

有向图改成无向图。

http://www.zhihu.com/question/35866596

Policy Evaluation

静态改成动态。

http://www.cs.berkeley.edu/~pabbeel/cs287-fa12/slides/mdps-exact-methods.pdf