robots.txt 是指導(dǎo)搜索引擎抓取網(wǎng)站的重要文件,可以控制哪些內(nèi)容允許被收錄。對(duì)于 WordPress 用戶,使用 Yoast SEO 插件可以輕松管理這個(gè)文件。本文會(huì)介紹 robots.txt 的作用、基本規(guī)則,以及如何用 Yoast SEO 進(jìn)行設(shè)置。
![圖片[1]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件](http://gqxi.cn/wp-content/uploads/2025/07/20250703111351532-image.png)
一、什么是 Robots.txt 文件?
Robots.txt 是位于網(wǎng)站根目錄的純文本文件,用來指導(dǎo)搜索引擎蜘蛛(如 Googlebot、Bingbot)抓取或跳過特定內(nèi)容。
例如:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
這段代碼的含義是:禁止所有搜索引擎訪問 /wp-admin/
目錄,但允許抓取 AJAX 接口。
二、為什么要設(shè)置 Robots.txt?
設(shè)置得當(dāng)?shù)?Robots.txt 文件可以幫助你:
- 阻止無意義或重復(fù)內(nèi)容被收錄(如后臺(tái)、分類頁、標(biāo)簽頁)
- 保護(hù)敏感頁面不被索引
- 引導(dǎo)搜索引擎將抓取資源集中在高價(jià)值的頁面
例如,WooCommerce 商店常常會(huì)屏蔽 /cart/
、/checkout/
等功能頁,來避免因低內(nèi)容質(zhì)量而拖累 SEO 表現(xiàn)。
三、如何使用 Yoast SEO 插件查看 Robots.txt 文件?
Yoast SEO 插件為 WordPress 提供了內(nèi)置的 Robots.txt 文件查看和編輯功能,無需手動(dòng)進(jìn)入主機(jī)或 FTP。
步驟如下:
- 登錄 WordPress 后臺(tái)
- 進(jìn)入菜單:Yoast SEO → 工具(Tools)
![圖片[2]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件](http://gqxi.cn/wp-content/uploads/2025/07/20250703111722470-image.png)
- 點(diǎn)擊【文件編輯器】(File Editor)
![圖片[3]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件](http://gqxi.cn/wp-content/uploads/2025/07/20250703111736811-image.png)
- 如果你的網(wǎng)站允許編輯,頁面中會(huì)顯示當(dāng)前的 Robots.txt 內(nèi)容
![圖片[4]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件](http://gqxi.cn/wp-content/uploads/2025/07/20250703111959654-image.png)
如果還沒有該文件,Yoast SEO 會(huì)提供“一鍵創(chuàng)建”按鈕,自動(dòng)在網(wǎng)站根目錄生成 robots.txt
。
四、如何修改 Robots.txt 文件?
在【文件編輯器】頁面中,你可以直接編輯 Robots.txt 內(nèi)容,例如:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /tag/
Disallow: /author/
Sitemap: https://yourdomain.com/sitemap_index.xml
完成編輯后,點(diǎn)擊【保存更改】按鈕,就可以更新 robots.txt 文件。
五、常見 Robots.txt 配置示例
標(biāo)準(zhǔn)配置(適合大多數(shù) WordPress 網(wǎng)站):
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /?s=
Disallow: /tag/
Disallow: /author/
Sitemap: https://yourdomain.com/sitemap_index.xml
增強(qiáng)隱私性配置:
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /checkout/
Disallow: /cart/
注意:不要屏蔽以下內(nèi)容,否則會(huì)影響頁面展示效果
Disallow: /wp-content/themes/
Disallow: /wp-content/plugins/
這樣會(huì)讓搜索引擎無法加載 CSS/JS,從而影響移動(dòng)端可用性評(píng)分。
六、驗(yàn)證 Robots.txt 是否生效
完成設(shè)置后,可以通過瀏覽器訪問:
https://yourdomain.com/robots.txt
![圖片[5]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件](http://gqxi.cn/wp-content/uploads/2025/07/20250703113928701-image.png)
確保內(nèi)容與 Yoast 編輯器中保持一致。同時(shí)推薦使用以下工具進(jìn)行檢測(cè):
- Google Search Console → 檢查網(wǎng)址工具
- Screaming Frog SEO Spider
- Ahrefs Site Audit 工具
七、總結(jié)與建議
Robots.txt 文件雖小,卻對(duì) SEO 策略起著大作用。通過 Yoast SEO 插件,不用進(jìn)入服務(wù)器就可以輕松管理這一關(guān)鍵文件。建議你定期檢查并更新 Robots.txt,確保搜索引擎抓取策略與網(wǎng)站結(jié)構(gòu)和營(yíng)銷目標(biāo)保持一致。
建議做法:
- 屏蔽低質(zhì)量、重復(fù)或隱私頁面
- 保留 Sitemap 地址,利于索引
- 避免阻止 CSS/JS 文件加載
聯(lián)系我們 | |
---|---|
教程看不懂?聯(lián)系我們?yōu)槟赓M(fèi)解答!免費(fèi)助力個(gè)人,小企站點(diǎn)! |
![]() 客服微信
|
① 電話:020-2206-9892 | |
② QQ咨詢:1025174874 | |
③ 郵件:info@361sale.com | |
④ 工作時(shí)間:周一至周五,9:30-18:30,節(jié)假日休息 |
暫無評(píng)論內(nèi)容