Yoast SEO 教程:如何查看與修改 Robots.txt 文件

robots.txt 是指導(dǎo)搜索引擎抓取網(wǎng)站的重要文件,可以控制哪些內(nèi)容允許被收錄。對(duì)于 WordPress 用戶,使用 Yoast SEO 插件可以輕松管理這個(gè)文件。本文會(huì)介紹 robots.txt 的作用、基本規(guī)則,以及如何用 Yoast SEO 進(jìn)行設(shè)置。

圖片[1]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件

一、什么是 Robots.txt 文件?

Robots.txt 是位于網(wǎng)站根目錄的純文本文件,用來指導(dǎo)搜索引擎蜘蛛(如 Googlebot、Bingbot)抓取或跳過特定內(nèi)容。

例如:

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

這段代碼的含義是:禁止所有搜索引擎訪問 /wp-admin/ 目錄,但允許抓取 AJAX 接口。

二、為什么要設(shè)置 Robots.txt?

設(shè)置得當(dāng)?shù)?Robots.txt 文件可以幫助你:

  • 阻止無意義或重復(fù)內(nèi)容被收錄(如后臺(tái)、分類頁、標(biāo)簽頁)
  • 保護(hù)敏感頁面不被索引
  • 引導(dǎo)搜索引擎將抓取資源集中在高價(jià)值的頁面

例如,WooCommerce 商店常常會(huì)屏蔽 /cart//checkout/ 等功能頁,來避免因低內(nèi)容質(zhì)量而拖累 SEO 表現(xiàn)。

三、如何使用 Yoast SEO 插件查看 Robots.txt 文件?

Yoast SEO 插件為 WordPress 提供了內(nèi)置的 Robots.txt 文件查看和編輯功能,無需手動(dòng)進(jìn)入主機(jī)或 FTP。

步驟如下:

  • 登錄 WordPress 后臺(tái)
  • 進(jìn)入菜單:Yoast SEO → 工具(Tools)
圖片[2]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件
  • 點(diǎn)擊【文件編輯器】(File Editor)
圖片[3]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件
  • 如果你的網(wǎng)站允許編輯,頁面中會(huì)顯示當(dāng)前的 Robots.txt 內(nèi)容
圖片[4]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件

如果還沒有該文件,Yoast SEO 會(huì)提供“一鍵創(chuàng)建”按鈕,自動(dòng)在網(wǎng)站根目錄生成 robots.txt

四、如何修改 Robots.txt 文件?

在【文件編輯器】頁面中,你可以直接編輯 Robots.txt 內(nèi)容,例如:

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /tag/
Disallow: /author/
Sitemap: https://yourdomain.com/sitemap_index.xml

完成編輯后,點(diǎn)擊【保存更改】按鈕,就可以更新 robots.txt 文件。

五、常見 Robots.txt 配置示例

標(biāo)準(zhǔn)配置(適合大多數(shù) WordPress 網(wǎng)站):

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Disallow: /?s=
Disallow: /tag/
Disallow: /author/
Sitemap: https://yourdomain.com/sitemap_index.xml

增強(qiáng)隱私性配置:

User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /checkout/
Disallow: /cart/

注意:不要屏蔽以下內(nèi)容,否則會(huì)影響頁面展示效果

Disallow: /wp-content/themes/
Disallow: /wp-content/plugins/

這樣會(huì)讓搜索引擎無法加載 CSS/JS,從而影響移動(dòng)端可用性評(píng)分。

六、驗(yàn)證 Robots.txt 是否生效

完成設(shè)置后,可以通過瀏覽器訪問:

https://yourdomain.com/robots.txt

圖片[5]-Yoast SEO 教程:如何查看與修改 Robots.txt 文件

確保內(nèi)容與 Yoast 編輯器中保持一致。同時(shí)推薦使用以下工具進(jìn)行檢測(cè):

七、總結(jié)與建議

Robots.txt 文件雖小,卻對(duì) SEO 策略起著大作用。通過 Yoast SEO 插件,不用進(jìn)入服務(wù)器就可以輕松管理這一關(guān)鍵文件。建議你定期檢查并更新 Robots.txt,確保搜索引擎抓取策略與網(wǎng)站結(jié)構(gòu)和營(yíng)銷目標(biāo)保持一致。

建議做法:

  • 屏蔽低質(zhì)量、重復(fù)或隱私頁面
  • 保留 Sitemap 地址,利于索引
  • 避免阻止 CSS/JS 文件加載

聯(lián)系我們
教程看不懂?聯(lián)系我們?yōu)槟赓M(fèi)解答!免費(fèi)助力個(gè)人,小企站點(diǎn)!
客服微信
客服微信
電話:020-2206-9892
QQ咨詢:1025174874
郵件:info@361sale.com
工作時(shí)間:周一至周五,9:30-18:30,節(jié)假日休息
? 轉(zhuǎn)載聲明
本文作者:linxiulian
THE END
喜歡就支持一下吧
點(diǎn)贊1212 分享
評(píng)論 搶沙發(fā)

請(qǐng)登錄后發(fā)表評(píng)論

    暫無評(píng)論內(nèi)容