查看: 6823|回复: 0
打印 上一主题 下一主题

谷歌网站管理员工具新增robots.txt生成器

[复制链接]
跳转到指定楼层
1#
发表于 2008-3-29 13:51:03 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
台州网址导航


要想控制各搜索引擎的爬虫对你的网站的访问,你就得在网站的robots.txt文件里写明有关的规则。比如,你允许爬虫访问你的哪些目录,禁止爬虫访问哪些内容。Google自己也有爬虫即Googlebot,如果你有些目录不想让它访问但你又不熟悉robots.txt文件的编写,现在可以利用Google网站管理员工具新增的robots.txt文件生成器了。

进入控制台>工具>生成 robots.txt就可以看到有关选项:



你可以允许或禁止某种Googlebot访问你的某些目录或文件,十分方便。你要做的只是填写目标目录或文件:




生成新的robots.txt文件后,还可以使用工具里的"分析 robots.txt"来分析它。
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 转播转播 分享分享 分享淘帖
台州维博网络(www.tzweb.com)专门运用PHP+MYSQL/ASP.NET+MSSQL技术开发网站门户平台系统等。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

网站推广
关于我们
  • 台州朗动科技(Tzweb.com)拥有多年开发网站平台系统门户手机客户端等业务的成功经验。主要从事:政企网站,系统平台,微信公众号,各类小程序,手机APP客户端,浙里办微应用,浙政钉微应用、主机域名、虚拟空间、后期维护等服务,满足不同企业公司的需求,是台州地区领先的网络技术服务商!

Hi,扫描关注我

Copyright © 2005-2026 站长论坛 All rights reserved

Powered by 站长论坛 with TZWEB Update Techonolgy Support

快速回复 返回顶部 返回列表