主题：【原创】机器学习的基础是什么？(0) -- 看树的老鼠

非常想听听这个“支持向量机和深度学习网络背后的直觉都是什么”。

通过此贴得到两点启发，1.凑公式，往简单里说，类似我们小时候解应用题，通过对事物的理解在头脑中找出某个或几个已知的公式，定理去推导解决，并通过结果印证。但是区别是，机器学习的公式并不能直接得出结果，只是通过这些公式构建一些模型，然后这些模型通过学习得出某种无法解释的原理去得出结果。

这个黑匣子问题虽然可能通过分层分解来减小黑匣子的范围，比如文字识别模型的问题可以通过分离整个字的识别模型为底层对笔画的识别模型，以及更底层对像素的模型，那么那一层出问题就可在哪一层解决。虽然黑匣子再小仍然是黑匣子，但便于修改公式与模型。就是说把学习发展为一个分布式的学习，关键在于不同模块之间如何能够有效的形成整体的学习模型。

另一个启发是通过人工把一些知识构建，但是与wikipedia不同的是，这个结构还必须可以与机器学习的模型共同发生作用，机器学习到的还可以加入，也就是说机器学习到的知识是人可以理解的。这个听起来有回到symbolic AI的老路上的样子。说是启发，到网上一搜，发现也不是什么新想法，MIT有人早在2010年就提出过这个想法http://web.mit.edu/newsoffice/2010/ai-unification.html 而且还出现过这个叫做Church的语言 http://www.mit.edu/~ndg/papers/churchUAI08_rev2.pdf