給自己的網站加上robots.txt

今天給自己的網站加了一個robots.txt,在網上收集整理了一些資料,給自己網站也加上了robots.txt ! 順便給大家分享一下! 一、robots.txt是什麼?   robots.txt是一個純文本文件,在這個文件中網站管理者可以聲明該網站中不想被搜索引擎訪問的部分,或者指定搜索引擎只收錄指定的內容。   當一個搜索引擎(又稱搜索機器人或蜘蛛程序)訪問一個站點時,它會首先檢查該站點根目錄
相關文章
相關標籤/搜索