织梦 robots.txt

robots.txt是一个位于网站根目录下的纯文本文件,它告诉搜索引擎的爬虫(Spider)哪些页面可以抓取,哪些页面不可以,合理配置robots.txt对于SEO(搜索引擎优化)至关重要,robots.txt的基本语法在动手配置之前,我们先了解两个核心指令:User-agent:指定这条规则是针对哪……

目录[+]