User-agent: Baiduspider
Disallow:
Disallow: /*.jpg$
Disallow: /*.jpeg$
Disallow: /*.gif$
Disallow: /*.png$
Disallow: /*.bmp$
Disallow: /*.mp3$
User-agent: *
Disallow: /
请解释robots.txt中的以下内容
答案:2 悬赏:10 手机版
解决时间 2021-02-14 15:55
- 提问者网友:我一贱你就笑
- 2021-02-14 12:01
最佳答案
- 五星知识达人网友:迷人又混蛋
- 2021-02-14 12:35
robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
Disallow:就是拦截访问 不容许访问图片 以及 MP3
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。
Disallow:就是拦截访问 不容许访问图片 以及 MP3
全部回答
- 1楼网友:天凉才是好个秋
- 2021-02-14 13:22
网站建设要多加经营,正如我的独立博客:www.luoweis.com。慢慢打理,就有收获。
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
推荐资讯