1. 第一章 概论

1.1. 评价函数

  • 对于无约束,越是迭代,评价函数下降即可
  • 有约束,就得加上限制:是可行点

1.2. 收敛

若不可能有限步找到最优解,就要顾及到收敛速度

这叫为因子阶收敛于

  • 线性收敛:
  • 超线性收敛:比前者快,多数如此。

  1. local minimun
  2. local minimum ,eg.

1.3. 迭代下降优化算法

寻找一个搜索方向使得每次迭代时函数值减小。

首先选取初始点
loop until
满足终止条件:

  • 构造搜索方向
  • 根据 确定步长
  • 需要考虑的问题:

  • 往哪个方向走?

  • 走多远?
  • 能找到吗?
  • 多快能找到?

下面从典型的无优化约束算法开始:

results matching ""

    No results matching ""