robots.txt文件中,Useragent后面跟的是爬虫的名称,Disallow后面跟着的是可以爬虫的网页

  尔雅 智慧树 mooc


+
账户
更新
搜索
帮助
主页