優化算法——凸優化的概述

一、引言    在機器學習問題中，很多的算法歸根到底就是在求解一個優化問題，然而我們的現實生活中也存在着很多的優化問題，例如道路上最優路徑的選擇，商品買賣中的最大利潤的獲取這些都是最優化的典型例子，前面也陸續地有一些具體的最優化的算法，如基本的梯度下降法，牛頓法以及啓發式的優化算法(PSO,ABC等)。 二、凸函數 凸函數如下圖所示： 一個函數是凸函數是它存在最優解的充分必要條件。 三、三類優化問

>>阅读原文<<