Uncertainty

這一陣子AI(人工智慧)紅了起來，底下的機器學習/深度學習也很紅。
我也跟風在網路上學習，然後，就上了三門有關神經網絡(neural networks，底下就叫NN吧)的課。其實NN的IDEA我在2001年念環工所時就聽過了，只是那時候講的學長也沒講的很清楚(我猜他那時也不太懂)。我還記得他那一天報告了不只NN一種，還講了退火演算、基因演算一些演算法。那時的我只大概認為這一些都是找到最佳解的演算法。


當時，我們實驗室是做不確定性分析。什麼是不確定性，為什麼要做？原因就是一個系統中我們有的資訊不足，沒有辦法清楚的描述，所以，用一些機率的方法去描述。再學了一些NN的課之後，想一想近20年前的東西和當紅的NN，有些像也有些不像。

像的是系統還是複雜(或是我們還是沒有完整的描述，所以只好用NN)。不像的是，在NN的學習過程裡，大量的資訊/資料已經是可行了。當年在考慮資訊不足的情況好像不再重要了。現在資料的數目是大幅的增加，時代變化的很快，當年的不確定性研究或是資訊不足時對資訊的價值，現在回頭來看，很多時候似乎不再重要了。