seo基础robots写法及robots高级玩法

seo基础robots写法及robots高级玩法 什么是robots? robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。当搜索来爬行网站时候，会先看网站里有没有robots这个文件，如果有这个文件，会按照robots文件给的爬行规则进行网站的爬取。 为什么要用robots? 网站为了seo网站优化肯定会有部分页面不想被搜索抓取和收录，如“联系我们”“广告合作”这时就会用到robots，来屏蔽搜索的爬取和收录。 robots的基本写法 1、允许所有搜索引擎访问 User-agent: * Disallow: 或者 User-agent: * Allow: / 注意，可以最直接...