待整理

QP问题

Quadratic programming,二次规划 半正定矩阵 正定矩阵 1.无约束优化问题：$\min f(x)$ 求导，令等于0，在候选中取最优；如果是凸函数，可保证是最优解。 2.有等式约束的优化问题： $\begin{aligned} \min f(x) \\ s.t. h_i(x)=0;i=1,\ldots ,n \end{aligned}$

拉格朗日乘子法 3.有不等式约束的优化问题：

$\begin{aligned} \min f(x) \\ s.t. g_i(x) \leq 0;i=1,\ldots ,n \\ h_j(x)=0;j=1,\ldots ,m \end{aligned}$

KKT条件

拉格朗日乘子法

KKT条件

Karush-Kuhn-Tucker:一个点$x$成为全局最小值的必要条件 在满足一些有规则的条件下，一个非线性规划能有最优化解的充要条件。这是一个广义化拉格朗日成熟的结果

• cheaper than task-specific

Tasks:

• Reconize
  • patterns
  • anomalies
• Prediction

一方面理解人脑如何工作，一方面理解由神经元及动态连接启发的并行计算，另一方面则是解决实际问题。

省略生物书神经章节

• vesicles of transmitter
• receptor molecules

一个人有$10^{11}$个神经元，每个神经元有$10^{4}$个权重。

大脑皮质不同分区分工不同，但各处构造相似，皮质根据experience由general purpose发展为specific purpose，由此带来迅速的并行计算以及灵活性。