node實現分片下載

時間 2019-12-10

標籤 node 實現分片下載简体版

原文原文鏈接

本文基於http Range Requests協議，實現了分片下載的功能。javascript

使用場景包括基於瀏覽器的流文件片斷傳輸、基於客戶端的分片下載等。html

原理

http經過Range Requests相關的header，能夠與服務器進行協商，實現分部分的請求。java

這裏就不細說具體協議內容了，具體能夠參考這兩篇文章，解釋的很是詳細：node

下面貼一下實現過程，代碼能夠在git查看：https://github.com/keller35/partial。git

服務端代碼

服務端用node實現：github

const fs = require('fs');
const path = require('path');
const Koa = require('koa');

const app = new Koa();
const PATH = './resource';

app.use(async ctx => {
    const file = path.join(__dirname, `${PATH}${ctx.path}`);
    // 一、404檢查
    try {
        fs.accessSync(file);
    } catch (e) {
        return ctx.response.status = 404;
    }
    const method = ctx.request.method;
    const { size } = fs.statSync(file);
    // 二、響應head請求，返回文件大小
    if ('HEAD' == method) {
        return ctx.set('Content-Length', size);
    }
    const range = ctx.headers['range'];
    // 三、通知瀏覽器能夠進行分部分請求
    if (!range) {
        return ctx.set('Accept-Ranges', 'bytes');
    }
    const { start, end } = getRange(range);
    // 四、檢查請求範圍
    if (start >= size || end >= size) {
        ctx.response.status = 416;
        return ctx.set('Content-Range', `bytes */${size}`);
    }
    // 五、206分部分響應
    ctx.response.status = 206;
    ctx.set('Accept-Ranges', 'bytes');
    ctx.set('Content-Range', `bytes ${start}-${end ? end : size - 1}/${size}`);
    ctx.body = fs.createReadStream(file, { start, end });
});

app.listen(3000, () => console.log('partial content server start'));

function getRange(range) {
    var match = /bytes=([0-9]*)-([0-9]*)/.exec(range);
    const requestRange = {};
    if (match) {
        if (match[1]) requestRange.start = Number(match[1]);
        if (match[2]) requestRange.end = Number(match[2]);
    }
    return requestRange;
}

代碼實現的功能邏輯大體是：瀏覽器

對請求的資源作檢查，不存在則響應404
對於HEAD請求，返回資源大小
若是GET請求沒有告知range，返回Content-Length，告知瀏覽器能夠進行分片請求
若是請求設置了range，則檢查range是否合法，不合法返回合法的rangge
一切正常，獲取文件range範圍部分，作流響應

代碼很簡單，把Range Requests協議對應實現一遍就ok了，固然這裏沒有徹底實現協議的內容，但已經知足了這裏演示的需求。服務器

服務端代碼ok了，用一個瀏覽器的demo來檢驗一下。併發

瀏覽器例子

現代瀏覽器基本都實現了Range Requests，這裏用audio標籤做爲例子。app

<html>
    <head>
        <title>分片流傳輸</title>
        <script type="text/javascript">
            function jump() {
                const player = document.getElementById('musicPlayer');
                // 從30s開始播放
                player.currentTime = 30;
            }
        </script>
    </head>
    <body>
        <audio id="musicPlayer" src="http:127.0.0.1:3000/source.mp3" controls></audio>
        <button onclick="jump()">切到30s</button>
    </body>
</html>

最終的效果是這樣的：

對比兩張圖，當html加載完成，瀏覽器自動請求資源，此時header有Range: bytes=0-，表示從第0 byte開始加載資源；當點擊跳到30s處播放時，此時header變成了Range: bytes=3145728-。

一樣用這個服務端代碼，還能夠實現一個客戶端，模擬一下分包下載。

node分包下載

這個例子演示了，對一個資源，併發的實現分部分的下載，而後再合併成一個文件。

這裏也是用node實現：

import request from 'request';
import path from 'path';
import fs from 'fs';

const SINGLE = 1024 * 1000;
const SOURCE = 'http://127.0.0.1:3000/source.mp3';

request({
    method: 'HEAD',
    uri: SOURCE,
}, (err, res) => {
    if (err) return console.error(err);
    const file = path.join(__dirname, './download/source.mp3');
    try {
        fs.closeSync(fs.openSync(file, 'w'));
    } catch (err) {
        return console.error(err);
    }
    const size = Number(res.headers['content-length']);
    const length = parseInt(size / SINGLE);
    for (let i=0; i<length; i++) {
        let start = i * SINGLE;
        let end = i == length ? (i + 1) * SINGLE - 1 : size - 1;
        request({
            method: 'GET',
            uri: SOURCE,
            headers: {
                'range': `bytes=${start}-${end}`
            },
        }).on('response', (resp) => {
            const range = resp.headers['content-range'];
            const match = /bytes ([0-9]*)-([0-9]*)/.exec(range);
            start = match[1];
            end = match[2];
        }).pipe(fs.createWriteStream(file, {start, end}));
    }
});

代碼比較簡單，就是開啓多個http請求，併發的下載資源，而後根據響應的content-range，寫到文件的對應位置。

參考文章：

相關標籤/搜索

每日一句

每一个你不满意的现在，都有一个你没有努力的曾经。