永发信息网

下载的TST文件老是不存在

答案:1  悬赏:0  手机版
解决时间 2021-08-22 10:07
我下载的文件放在手机里还是没有不知是哪里出错了
最佳答案
应该是robots.txt文件吧, robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。robots.txt 是一个纯文本文件,在这个文件中网站管理者可以声明该网站中不想被robots访问的部分,或者指定搜索引擎只收录指定的内容。 当一个搜索机器人robots(有的叫搜索蜘蛛或者爬虫)访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索引擎爬虫就会按照该文件中的内容来确定访问的范围;如果该文件不存在,那么搜索引擎爬虫就沿着链接抓取。robots.txt 文件限制抓取网络的搜索引擎爬虫对您的网站的访问。这些搜索引擎爬虫是自动的,它们在访问任意网站的网页之前,都会查看是否存在阻止它们访问特定网页的 robots.txt 文件。(虽然某些搜索引擎爬虫可能会以不同的方式解释 robots.txt 文件中的指令,但所有正规的搜索引擎爬虫都会遵循这些指令。然而,robots.txt 不是强制执行的,一些垃圾信息发送者和其他麻烦制造者可能会忽略它。因此,我们建议对机密信息采用密码保护。) 只有当您的网站中包含您不想让搜索引擎编入索引的内容时,才需要使用 robots.txt 文件。如果您希望搜索引擎将网站上的所有内容编入索引,则不需要 robots.txt 文件(甚至连空的 robots.txt 文件也不需要)。为了能使用 robots.txt 文件,您必须要有对您网站的根目录的访问权限(如果您不能确定是否有该权限,请与您的网络托管商核实)。如果您没有对网站的根目录的访问权限,可以使用robots元标记来限制访问。
我要举报
如以上问答信息为低俗、色情、不良、暴力、侵权、涉及违法等信息,可以点下面链接进行举报!
大家都在看
白云区附近有没有半工读的技校?
用醋烫脚有什么好处,用粗盐泡脚有什么好处
谁有6120ci的词库
电脑中的收藏夹在哪里,怎么把微信收藏夹的文
衡阳县衡阳蝶丽食府地址在什么地方,想今天过
每次ML大多都是我在上面,可他并不用力,这让
龙之谷玩的时候为什么一卡一卡的
表示盛开的荷花的诗句,关于莲花的美文!
我的配置能玩魔兽巫妖王之怒吗
如果喜欢一个人而他却喜欢别人,你会怎么做?
检验报告怎么写,谁可以告诉不锈钢质检报告书
电脑总出现(帮助与支持中心)怎么办?
一岁十个月小孩不爱吃饭,不长肉怎么办
What matter is not the thorny path but a w
湘潭县湘潭唯你漂亮(九华店)哪位知道具体地址
推荐资讯
一个人伤心 刘心 MP3
宝马涡轮多久换一次,涡轮增压器多久换一次?
剑灵火剑士用什么灵核,剑灵新版灵核剑士用哪
广水市随州社区超市这个地址在什么地方,我要
汉阳区武汉兰剑驾校金龙路基地地址在什么地方
上次 是谁空间里说 拍到什么野生奥特曼的啊?
求七年级暑假作业答案(江苏人民出版社的)
怎么在登录是显示上次登录地
R字母开头的英文名字,女生.
ヱヴァンゲリヲン新剧场版:破 中 碇司令提到
今年七夕最好的约会地方是哪里?
大型玉米脱粒机怎么能装电子秤
正方形一边上任一点到这个正方形两条对角线的
阴历怎么看 ?