Git項目源碼:https://github.com/DaMaiGit/a...javascript
今天是一年一度的情人節。都說女生的梳妝檯上永遠缺一支口紅,在這個時候,給心儀的女神送一支適合她的口紅,表達本身的想念之情準沒錯。想到女神收到口紅後欣喜的樣子,還真有點小激動呢!前端
做爲技術直男,怎樣挑選色號才能不出錯呢?上次送女神死亡芭比粉的翻車經歷還歷歷在目。爲此,在這段宅家的日子裏,小編痛定思痛,製做出了一款口紅分析神器:計算機根據女神的照片,自動識別其脣色,從而幫她挑選與脣色最匹配的口紅色號。java
有了這個神器,咱們就能憑藉珍藏的女神美照,輕鬆分析出她們所匹配的口紅款式,進而投其所好,今後沐浴在愛情的春風裏!git
口紅分析神器的製做步驟主要有:github
首先咱們應該讓機器準確識別出照片中嘴脣的位置。Google的AI框架TensorFlow能夠幫助開發者搭建訓練機器學習的模型。npm
Google的AI框架TensorFlow可以幫助開發者搭建訓練機器學習的模型。json
對於入門者而言,本身使用TensorFlow去訓練模型不是一蹴而就的,這裏面涉及到不少深度學習以及TensorFlow的基本概念,例如張量、隱藏層、激活函數、卷積層、池化層等。canvas
好在深度學習的應用並不難,justadudewhohacks大神的人臉識別模型框架face-api能夠幫咱們忙。構建於TensorFlow.js核心庫之上,face-api是基於MobileNetV1的神經網絡所進行的人臉樣本訓練。藉助它,咱們可以使程序快速得到人臉識別的能力。api
<center>
<img src="https://user-gold-cdn.xitu.io/2020/2/14/17041dbe18c1b3c2?w=440&h=431&f=jpeg&s=18379" alt="2" style="zoom:50%;" />
</center>數組
好在深度學習的應用並不困難,這讓我想起了justadudewhohacks大神的人臉識別模型框架:face-api。face-api本質上是構建於TensorFlow.js核心庫之上,基於MobileNetV1的神經網絡進行人臉樣本的訓練。總而言之,藉助它,咱們可以快速使咱們的程序得到人臉識別的能力。
深度學習指的是經過深度神經網絡訓練機器,使其得到與人類類似的學習與分析能力,進而完成識別文字、圖像和語音的任務。
深度學習主要包括如下三個步驟:
face-api已經實現了上述三個步驟,爲開發者提供了人臉識別的模型,並封裝成了簡易的api,使咱們能在前端項目上更方便地使用人臉識別技術。如圖所示,藍色部分是face-api已經完成的任務,而咱們要作的則是輸入人臉圖片到已經訓練好的模型中,獲得輸出值便可,即橙色框內的部分。
方式1:
若是咱們不使用打包工具的話,能夠直接將github庫中的dist目錄下的腳本face-api.js直接導入
<script src="face-api.js"></script>
方式2:
使用npm來引入face-api庫;
npm i face-api.js
藉助不一樣的卷積神經網絡,face-api提供了一系列模型。經常使用的模型以下所示:
var nets = { ssdMobilenetv1: new SsdMobilenetv1(), // ssdMobilenetv1 目標檢測 tinyFaceDetector: new TinyFaceDetector(), // 人臉識別(精簡版) tinyYolov2: new TinyYolov2(), // Yolov2 目標檢測(精簡版) mtcnn: new Mtcnn(), // MTCNN faceLandmark68Net: new FaceLandmark68Net(), // 面部 68 點特徵識別 faceLandmark68TinyNet: new FaceLandmark68TinyNet(), // 面部 68 點特徵識別(精簡版) faceRecognitionNet: new FaceRecognitionNet(), // 面部識別 faceExpressionNet: new FaceExpressionNet(), // 表情識別 ageGenderNet: new AgeGenderNet() // 年齡識別 };
face-api 工程的weights目錄下放置了模型文件,咱們只須要將weights所有拷貝到工程目錄中便可。
經過faceapi.net你們能夠加載對應的模型:
faceApi.nets.ssdMobilenetv1.load('/weights') //加載ssdMobilenetv1 目標檢測模型 faceApi.nets.faceLandmark68Net.load('/weights')//加載面部 68 點特徵識別模型
在口紅分析神器中,咱們僅須要加載ssdMobilenetv1和faceLandmark68Net模型便可。
加載完成後,你們能夠調用faceApi.detectSingleFace(input)來識別單我的臉或使用faceapi.detectAllFaces(input)來識別多張人臉。
const detections1 = await faceapi.detectSingleFace(input) //return FaceDetection | undefined const detections2 = await faceapi.detectAllFaces(input) //return Array<FaceDetection>
其中,對象FaceDetection返回了人臉識別的相關信息,如置信度、人臉邊框等:
{ "_imageDims": { "_width": 225, "_height": 225 }, "_score": 0.9931827187538147, "_classScore": 0.9931827187538147, "_className": "", "_box": { "_x": 75.58209523558617, "_y": 12.725257873535156, "_width": 86.51270046830177, "_height": 99.15830343961716 } .... }
僅靠FaceDetection返回的對象還沒法知足需求,咱們能夠調用鏈式,返回人臉的68個特徵點信息:
{ detection: FaceDetection, landmarks: FaceLandmarks68 }
其中,landmarks對象涵蓋了人臉的68個特徵點信息,你們能夠經過如下代碼查看效果:
let canvas = faceApi.createCanvasFromMedia(image) faceApi.draw.drawFaceLandmarks(canvas,landmarks.landmarks) //繪畫68個特徵點 canvas.toBlob(function(blob){ console.log(URL.createObjectURL(blob)) })
<center>
<img src="https://user-gold-cdn.xitu.io/2020/2/14/17041dd723a2ce00?w=1210&h=1250&f=png&s=2036527" alt="7" style="zoom:40%;" />
</center>
不難發現,模型根據68個特徵點標記了人臉的五官位置。你們能夠藉助FaceLandmarks68.positions得到Array(68)的數組,這些數組元素即是68個特徵點。具體的點位的分佈以下:
<center>
<img src="https://user-gold-cdn.xitu.io/2020/2/14/17041de64feb0843?w=1156&h=854&f=png&s=192734" alt="5" style="zoom:50%;" /></center>
`
此外,爲使開發者操做更加便捷,FaceLandmarks68還提供了一些方法用於獲取五官的點位信息:
let landmarkPositions = landmarks.positions // 獲取所有 68 個點 let jawline = landmarks.getJawOutline() // 下巴輪廓 1~17 let leftEyeBbrow = landmarks.getLeftEyeBrow() // 左眉毛 18~22 let rightEyeBrow = landmarks.getRightEyeBrow() // 右眉毛 23~27 let nose = landmarks.getNose() // 鼻子 28~36 let leftEye = landmarks.getLeftEye() // 左眼 37~40 let rightEye = landmarks.getRightEye() // 右眼 43~48 let mouth = landmarks.getMouth() // 嘴巴 49~68
咱們能夠採用FaceLandmarks68.getMouth()方法獲取脣部的20個特徵點,並經過循環遍歷特徵點的位置,來獲取對應位置的canvas信息。
/** * 獲取嘴部20個特徵點的顏色 * @param canvans * @param mouthPoint */ getMouthColor:function (canvans,mouthPoint) { let context = canvans.getContext("2d") for (let i =0;i<mouthPoint.length;i++){ let data = context.getImageData(mouthPoint[i]["_x"],mouthPoint[i]["_y"],1,1) this.mouthColors[i] = data.data } }
至此,咱們已經完成了女神嘴脣位置顏色的獲取,接下來就是將她們脣部20個特徵點的顏色和口紅的色號進行匹配,選擇相近的顏色值。
口紅顏色匹配能夠藉助github上一個口紅可視化色號庫 (https://github.com/Ovilia/lip...**。該庫收錄了紀梵希、聖羅蘭等口紅品牌的相關色號。
項目中的口紅顏色以json格式存儲:
{ "brands":[ { "name":"聖羅蘭", "series":[ { "name": "瑩亮純魅脣膏", "lipsticks": [{ "color": "#D62352", "id": "49", "name": "撩騷" }, ... } ] }, ... ] }
咱們複製json格式文件,將脣部20個特徵點的顏色分別遍歷口紅庫中口紅的顏色進行對比,得到差值最小的一款口紅做爲匹配的結果值便可。
本文采用歐幾里得距離公式予以計算嘴脣的顏色和口紅的色號。步驟以下:
一、將口紅庫的color字段從十六進制轉換爲RGB模式;
二、將口紅的RGB和脣部的20個特徵點RGB帶入歐幾里得距離公式,計算得出差值最小的一款口紅色號做爲最終結果。
咱們將RGB做爲顏色的三個維度,帶入歐幾里得公式進行計算:
compareColor:function(r1,g1,b1,r2,g2,b2){ let r = Math.pow((r1-r2),2) let g = Math.pow((g1-g2),2) let b = Math.pow((b1-b2),2) return Math.sqrt((r+g+b)) }
咱們把20個嘴部特徵點依次遍歷口紅庫中的顏色,記錄差值最小的一款口紅做爲最終結果並展現到UI界面上。
以上就是口紅分析神器的全步驟。
該項目還存在不少能夠優化的地方,例如:口紅顏色庫有待完善,照片模型識別的準確度還有提高空間等。但願本文可以拋磚引玉,幫助咱們非人工智能的開發工程師感覺到AI的魅力和樂趣。
AI相關的知識值得咱們去積極探索,若是你想繼續學習TensorFlow相關的內容,推薦閱讀《TensorFlow實戰Google深度學習框架》或直接訪問TensorFlow官網,抑或是觀看吳恩達教授的《機器學習》課程。
最後,受新型肺炎影響,但願你們出門戴口罩,保護好本身。分隔兩地的情侶也請避免不遠萬里來相見,畢竟真愛不會由於暫時的距離所阻隔。祝天下有情人終成眷屬!