給定兩個點p1與p2的座標,肯定這兩點所構成的直線,要求對於輸入的任意點p3,均可以判斷它是否在該直線上。初中解析幾何知識告訴咱們,判斷一個點在直線上,只需其與直線上任意兩點點斜率都相同便可。實際操做當中,每每會先根據已知的兩點算出直線的表達式(點斜式、截距式等等),而後經過向量計算便可方便地判斷p3是否在該直線上。
生產實踐中的數據每每會有必定的誤差。例如咱們知道兩個變量X與Y之間呈線性關係,Y=aX+b,咱們想肯定參數a與b的具體值。經過實驗,能夠獲得一組X與Y的測試值。雖然理論上兩個未知數的方程只須要兩組值便可確認,但因爲系統偏差的緣由,任意取兩點算出的a與b的值都不盡相同。咱們但願的是,最後計算得出的理論模型與測試值的偏差最小。大學的高等數學課程中,詳細闡述了最小二乘法的思想。經過計算最小均方差關於參數a、b的偏導數爲零時的值。事實上,在不少狀況下,最小二乘法都是線性迴歸的代名詞。
遺憾的是,最小二乘法只適合與偏差較小的狀況。試想一下這種狀況,假使須要從一個噪音較大的數據集中提取模型(比方說只有20%的數據時符合模型的)時,最小二乘法就顯得力不從心了。例以下圖,肉眼能夠很輕易地看出一條直線(模式),但算法卻找錯了。
RANSAC算法的輸入是一組觀測數據(每每含有較大的噪聲或無效點),一個用於解釋觀測數據的參數化模型以及一些可信的參數。RANSAC經過反覆選擇數據中的一組隨機子集來達成目標。被選取的子集被假設爲局內點,並用下述方法進行驗證:
算法
- 有一個模型適應於假設的局內點,即全部的未知參數都能從假設的局內點計算得出。
- 用1中獲得的模型去測試全部的其它數據,若是某個點適用於估計的模型,認爲它也是局內點。
- 若是有足夠多的點被歸類爲假設的局內點,那麼估計的模型就足夠合理。
- 而後,用全部假設的局內點去從新估計模型(譬如使用最小二乘法),由於它僅僅被初始的假設局內點估計過。
- 最後,經過估計局內點與模型的錯誤率來評估模型。
- 上述過程被重複執行固定的次數,每次產生的模型要麼由於局內點太少而被捨棄,要麼由於比現有的模型更好而被選用。
整個過程可參考下圖:
關於算法的源代碼,Ziv Yaniv曾經寫一個不錯的C++版本,我在關鍵處增補了註釋: less
- #include <math.h>
- #include "LineParamEstimator.h"
-
- LineParamEstimator::LineParamEstimator(double delta) : m_deltaSquared(delta*delta) {}
- void LineParamEstimator::estimate(std::vector<Point2D *> &data,
- std::vector<double> ¶meters)
- {
- parameters.clear();
- if(data.size()<2)
- return;
- double nx = data[1]->y - data[0]->y;
- double ny = data[0]->x - data[1]->x;
- double norm = sqrt(nx*nx + ny*ny);
-
- parameters.push_back(nx/norm);
- parameters.push_back(ny/norm);
- parameters.push_back(data[0]->x);
- parameters.push_back(data[0]->y);
- }
- void LineParamEstimator::leastSquaresEstimate(std::vector<Point2D *> &data,
- std::vector<double> ¶meters)
- {
- double meanX, meanY, nx, ny, norm;
- double covMat11, covMat12, covMat21, covMat22;
- int i, dataSize = data.size();
-
- parameters.clear();
- if(data.size()<2)
- return;
-
- meanX = meanY = 0.0;
- covMat11 = covMat12 = covMat21 = covMat22 = 0;
- for(i=0; i<dataSize; i++) {
- meanX +=data[i]->x;
- meanY +=data[i]->y;
-
- covMat11 +=data[i]->x * data[i]->x;
- covMat12 +=data[i]->x * data[i]->y;
- covMat22 +=data[i]->y * data[i]->y;
- }
-
- meanX/=dataSize;
- meanY/=dataSize;
-
- covMat11 -= dataSize*meanX*meanX;
- covMat12 -= dataSize*meanX*meanY;
- covMat22 -= dataSize*meanY*meanY;
- covMat21 = covMat12;
-
- if(covMat11<1e-12) {
- nx = 1.0;
- ny = 0.0;
- }
- else {
-
-
- double lamda1 = (covMat11 + covMat22 + sqrt((covMat11-covMat22)*(covMat11-covMat22) + 4*covMat12*covMat12)) / 2.0;
- nx = -covMat12;
- ny = lamda1 - covMat22;
- norm = sqrt(nx*nx + ny*ny);
- nx/=norm;
- ny/=norm;
- }
- parameters.push_back(nx);
- parameters.push_back(ny);
- parameters.push_back(meanX);
- parameters.push_back(meanY);
- }
- bool LineParamEstimator::agree(std::vector<double> ¶meters, Point2D &data)
- {
- double signedDistance = parameters[0]*(data.x-parameters[2]) + parameters[1]*(data.y-parameters[3]);
- return ((signedDistance*signedDistance) < m_deltaSquared);
- }
RANSAC尋找匹配的代碼以下: 測試
- template<class T, class S>
- double Ransac<T,S>::compute(std::vector<S> ¶meters,
- ParameterEsitmator<T,S> *paramEstimator ,
- std::vector<T> &data,
- int numForEstimate)
- {
- std::vector<T *> leastSquaresEstimateData;
- int numDataObjects = data.size();
- int numVotesForBest = -1;
- int *arr = new int[numForEstimate];
- short *curVotes = new short[numDataObjects];
- short *bestVotes = new short[numDataObjects];
-
-
-
- if(numDataObjects < numForEstimate)
- return 0;
-
- computeAllChoices(paramEstimator,data,numForEstimate,
- bestVotes, curVotes, numVotesForBest, 0, data.size(), numForEstimate, 0, arr);
-
-
- for(int j=0; j<numDataObjects; j++) {
- if(bestVotes[j])
- leastSquaresEstimateData.push_back(&(data[j]));
- }
-
- paramEstimator->leastSquaresEstimate(leastSquaresEstimateData,parameters);
-
- delete [] arr;
- delete [] bestVotes;
- delete [] curVotes;
-
- return (double)leastSquaresEstimateData.size()/(double)numDataObjects;
- }
在模型肯定以及最大迭代次數容許的狀況下,RANSAC老是能找到最優解。通過個人實驗,對於包含80%偏差的數據集,RANSAC的效果遠優於直接的最小二乘法。
RANSAC能夠用於哪些場景呢?最著名的莫過於圖片的拼接技術。優於鏡頭的限制,每每須要多張照片才能拍下那種巨幅的風景。在多幅圖像合成時,事先會在待合成的圖片中提取一些關鍵的特徵點。計算機視覺的研究代表,不一樣視角下物體每每能夠經過一個透視矩(3X3或2X2)陣的變換而獲得。RANSAC被用於擬合這個模型的參數(矩陣各行列的值),由此即可識別出不一樣照片中的同一物體。可參考下圖:
另外,RANSAC還能夠用於圖像搜索時的糾錯與物體識別定位。下圖中,有幾條直線是SIFT匹配算法的誤判,RANSAC有效地將其識別,並將正確的模型(書本)用線框標註出來:
ui