机器可读
百度通过一个叫做Baiduspider的程序抓取互联网上的网页,经过处理后建入索引中。目前Baiduspider只能读懂文本内容,flash、图片等非文本内容暂时不能处理,放置在flash、图片中的文字,百度无法识别。
建议使用文字而不是flash、图片、Javascript等来显示重要的内容或链接,搜索引擎暂时无法识别Flash、图片、Javascript中的内容,这部分内容无法搜索到;仅在flash、Javascript中包含链接指向的网页,百度可能无法收录。
我们建议:
- 使用文字而不是flash、图片、Javascript等来显示重要的内容或链接
- 如果必须使用Flash制作网页,建议同时制作一个供搜索引擎收录的文字版,并在首页使用文本链接指向文字版
- Ajax等搜索引擎不能识别的技术,只用在需要用户交互的地方,不把希望搜索引擎“看”到的导航及正文内容放到Ajax中
- 不使用frame和iframe框架结构,通过iframe显示的内容可能会被百度丢弃
上面例子中,虽然网页上提供了很丰富的信息,但由于信息都在flash中,搜索引擎无法提取,对搜索引擎来讲,这个网页没有任何内容。
网站结构
网站应该有清晰的结构和明晰的导航,这能帮助用户快速从你的网站中找到自己需要的内容,也可以帮助搜索引擎快速理解网站中每一个网页所处的结构层次。
网站结构建议采用树型结构,树型结构通常分为以下三个层次:首页——频道——文章页。象一棵大树一样,首先有一个树干(首页),然后再是树枝(频道),最后是树叶(普通内容页)。树型结构的扩展性更强,网站内容变多时,可以通过细分树枝(频道)来轻松应对。
理想的网站结构应该是更扁平一些,从首页到内容页的层次尽量少,这样搜索引擎处理起来,会更简单。
同时,网站也应该是一个网状结构,网站上每个网页都应该有指向上、下级网页以及相关内容的链接:首页有到频道页的链接,频道页有到首页和普通内容页的链接、普通内容页有到上级频道以及首页的链接、内容相关的网页间互相有链接。
网站中每一个网页,都应该是网站结构的一部分,都应该能通过其他网页链接到。
总结一下,合理的网站结构应该是一个扁平的树型网状结构。我们建议:
- 确保每个页面都可以通过至少一个文本链接到达。
- 重要的内容,应该能从首页或者网站结构中比较浅的层次访问到。
- 合理分类网站上的内容,不要过度细分。
网站应该有简明、清晰的导航,可以让用户快速找到自己需要的内容,同时也可以帮助搜索引擎更好的了解网站的结构。我们建议:
- 为每个页面都加上导航栏,让用户可以方便的返回频道、网站首页,也可以让搜索引擎方便的定位网页在网结构中的层次。通过面包屑导航,用户可以很清楚的知道自己所在页面在整个网站中的位置,可以方便的返回上一级频道或者首页也很方便。
- 内容较多的网站,建议使用面包屑式的导航,这更容易让用户理解当前所处的位置:网站首页>频道>当前浏览页面
- 导航中使用文字链接,不使用复杂的js或者flash
- 使用图片做导航时,可以使用Alt注释,用Alt告诉搜索引擎所指向的网页内容是什么
子域名与目录的选择
选择使用子域名还是目录来合理的分配网站内容,对网站在搜索引擎中的表现会有较大的影响。
我们建议:
- 在某个频道的内容没有丰富到可以当做一个独立站点存在之前,使用目录形式;等频道下积累了足够的内容,再转换成子域名的形式
一个网页能否排到搜索结果的前面,“出身”很重要,如果出自一个站点权重较高的网站,那排到前面的可能性就越大,反之则越小。通常情况下主站点的权重是最高的,子站点会从主站点继承一部分权重,继承的多少,视子站点质量而定。在内容没有丰富到可以做为一个独立站点之前,内容放到主站点下一个目录中能在搜索引擎中获得更好的表现。 - 内容差异度较大、关联度不高的内容,使用子站点形式
搜索引擎会识别站点的主题,如果站点中内容关联度不高,可能导致搜索引擎错误的识别。关联度不高的内容,放在不同的子域名下,可以帮助搜索引擎更好的理解站点的主题 - 域名间内容做好权限,互相分开,a.example.com下的内容,不能通过b.example.com访问
子域名间的内容可以互相访问,可能会被搜索引擎当做重复内容而进行除重处理,保留的url不一定是正常域名下的。 - 不要滥用子域名
无丰富内容而滥用大量子域名,会被搜索引擎当做作弊行为而受到惩罚。
规范、简单的URL
创建具有良好描述性、规范、简单的url,有利于用户更方便的记忆和判断网页的内容,也有利于搜索引擎更有效的抓取您的网站。网站设计之初,就应该有合理的url规划。
我们建议
- 如果网站中同一网页,只对应一个url
如果网站上多种url都能访问同样的内容,会有如下危险:- 搜索引擎会选一种url为标准,可能会和正版不同
- 用户可能为同一网页的不同url做推荐,多种url形式分散了该网页的权重
- 如果你的网站上已经存在多种url形式,建议按以下方式处理:
- 在系统中只使用正常形式url,不让用户接触到非正常形式的url
- 不把Session id、统计代码等不必要的内容放在url中
- 不同形式的url,301永久跳转到正常形式
- 防止用户输错而启用的备用域名,301永久跳转到主域名
- 使用robots.txt禁止Baiduspider抓取您不想向用户展现的形式
- 让用户能从url判断出网页内容以及网站结构信息,并可以预测将要看到的内容
- 以百度空间为例,url结构中加入了用户id信息,用户在看到空间的url时,可以方便的判断是谁的空间。url结构中还加入了blog、album等内容信息,用户可以通过url判断将要看到的内容是一篇博客,还是一个相册。
- URL尽量短,长URL不仅不美观,用户还很难从中获取额外有用的信息。另一方面,短url还有助于减小页面体积,加快网页打开速度,提升用户体验。例子中的第一个url,会让用户望而却步,第二个url,用户可以很轻松的判断是贴吧中关于百度的吧。
- 正常的动态url对搜索引擎没有影响。url是动态还是静态对搜索引擎没有影响,但建议尽量减少动态url中包含的变量参数,这样即有助于减少url长度,也可以减少让搜索引擎掉入黑洞的风险
- 不添加不能被系统自动识别为url组成部分的字符
- 上面例子中,url中加入了“;”、“,”等字符,用户在通过论坛、即时通讯工具等渠道推荐这些url时,不能被自动识别为链接,增加了用户访问这些网页的困难度。
- 利用百度提供的URL优化工具检查
百度站长平台提供了URL优化工具,可以帮助检查URL对搜索引擎的友好程度并提出修改建议。
利用站长工具
互联网越来越庞大、复杂,百度为了更好的处理互联网上的信息,提供了一些的面向站长的工具,合理的利用这些站长工具,可以起事半功倍的效果。
- 百度站长平台:
登录zhanzhang.baidu.com获取更多帮助信息。 - Sitemap:
百度站长平台支持通过sitemap提交网站内容。通过sitemap可以让百度更全面更快的发现链接,使得收录更有效率。 - Ping:
Ping是针对blog内容的提交方式,实时通知搜索引擎blog上有新内容产生。目前主流的博客程序都支持ping,您只需要将百度的ping服务地址http://ping.baidu.com/ping/RPC2加入博客后台并开启ping功能即可。 - 死链删除:
百度站长平台支持通过sitemap向百度提交网站的死链列表。网站死链过多,不仅影响用户访问体验,也影响百度对网站质量的判断。通过死链删除的接口可以让百度更快更全面的发现网站死链,从而进行有效删除。注:提交需要删除的网址后,需要做如下处理,才能被百度有效删除:- 使用robots.txt阻止其被抓取;
- 或者返回404状态码表示当前页面不存在。
- 站长工具
-URL优化工具检查百度站长平台提供了URL优化工具,可以帮助检查URL对搜索引擎的友好程度并提出修改建议。-网站安全检测百度站长平台提供工具检测网站是否被黑并提示站长,帮助修改。
♦什么是“网站被黑”?
网站被黑,是指黑客利用网站的程序、设置等方面的安全漏洞或管理员安全疏忽(如密码复杂度低),未经管理员授权,对网站进行了篡改。
♦如何处理网站被黑?
- 分析系统日志、服务器日志,检查自己站点的页面数量、流量等是否有异常波动,是否存在异常访问或操作日志;
- 检查网站文件是否有不正常的修改,尤其是首页等重点页面;
- 网站页面是否引用了未知站点的资源(图片、JS等),是否被放置了外站的异常链接;
- 检查网站是否有不正常增加的文件或目录;
- 检查网站目录中是否有非管理员打包的网站源码、未知txt文件等。
♦如何防止网站被黑?
- 定期检查服务器日志等方式发现问题,检查是否有可疑的针对非前台页面的访问;
- 经常检查网站文件是否有不正常的修改或者增加;
- 关注操作系统,以及所使用程序的官方网站。及时下载补丁,修补安全漏洞;必要时建议直接更新至最新版本;
- 修改开源程序关键文件的默认文件名,作弊者通常通过程序自动扫描某些特定的文件是否存在来判断是否使用了某套程序;
- 修改默认管理员用户名,提高管理后台的密码强度,使用字母、数字以及特殊符号多种组合的密码;
- 关闭不必要的服务,以及端口;
- 关闭或者限制不必要的上传功能;
- 设置防火墙等安全措施;
- 若问题反复出现,建议重新安装服务器操作系统,并重新上传备份的网站文件;
- 缺乏专业维护人员的网站,建议向专业安全公司咨询;快速发现并处理被黑内容,并做好被黑的预防,非常体现一个网站的运营水平。
上述的几点仅仅是初步的参考。做好网站的安全需要站长、管理员们的不断努力。
- 百度搜索框提示功能
百度向站长开放免费“百度搜索框”代码和“百度搜索框提示”代码。只需进行简单的设置,即可将“百度搜索框(带提示功能)”功能快速加入到您的网页中。提升用户在网站中的搜索体验。
改版/换域名
网站改版、换域名在互联网飞速发展的情况下是不可避免的,但处理不当,会造成重大的流量损失。改版、换域名需要考虑的第一要点就是如何保证老用户不流失,当用户访问旧内容时,能引导用户到新网站上对应的内容,避免出现用户访问不到以前收藏的网页的情况。
我们建议在改版或者换域名时,将旧网页301永久重定向到内容对应的新网页,这样百度更容易发现这个转变,并迅速的将旧网页积累的权值传递给对应的新网页。
其他建议:
- 如非必要,不要做整站内容的完全更换
网站改版或者网站内重要页面链接发生变动时,应该将改版前的页面301永久重定向到改版后的对应的页面 - 网站更换域名,应该将旧域名的所有页面301永久重定向到新域名上对应的页面
网站更换域名后,维持旧域名能稳定访问尽可能长的时间,给用户多一些时间记忆新域名 - 网站改版/更换域名后,请把新的URL/新域名下的URL,通过sitemap提交给百度,帮助百度更快发现和作出调整。
合理的返回码
百度爬虫在进行抓取和处理时,是根据http协议规范来设置相应的逻辑的,所以请站长们也尽量参考http协议中关于返回码的含义的定义来进行设置。
百度spider对常用的http返回码的处理逻辑是这样的:
- 404
404返回码的含义是“NOT FOUND”,百度会认为网页已经失效,那么通常会从搜索结果中删除,并且短期内spider再次发现这条url也不会抓取。 - 503
503返回码的含义是“Service Unavailable”,百度会认为该网页临时不可访问,通常网站临时关闭,带宽有限等会产生这种情况。对于网页返回503,百度spider不会把这条url直接删除,短期内会再访问。届时如果网页已恢复,则正常抓取;如果继续返回503,短期内还会反复访问几次。但是如果网页长期返回503,那么这个url仍会被百度认为是失效链接,从搜索结果中删除。 - 403
403返回码的含义是“Forbidden”,百度会认为网页当前禁止访问。对于这种情况,如果是新发现的url,百度spider暂不会抓取,短期内会再次检查;如果是百度已收录url,当前也不会直接删除,短期内同样会再访问。届时如果网页允许访问,则正常抓取;如果仍不允许访问,短期内还会反复访问几次。但是如果网页长期返回403,百度也会认为是失效链接,从搜索结果中删除。 - 301
301返回码的含义是“Moved Permanently”,百度会认为网页当前跳转至新url。当遇到站点迁移,域名更换、站点改版的情况时,推荐使用301返回码,尽量减少改版带来的流量损失。虽然百度spider现在对301跳转的响应周期较长,但我们还是推荐大家这么做。
我们建议:
- 如果站点临时关闭,当网页不能打开时,不要立即返回404,建议使用503状态。503可以告知百度spider该页面临时不可访问,请过段时间再重试。
- 如果百度spider对您的站点抓取压力过大,请尽量不要使用404,同样建议返回503。这样百度spider会过段时间再来尝试抓取这个链接,如果那个时间站点空闲,那它就会被成功抓取了。
- 有一些网站希望百度只收录部分内容,例如审核后的内容,累积一段时间的新用户页等等。在这种情况,建议新发内容暂时返回403,等审核或做好处理之后,再返回正常状态的返回码。
- 站点迁移,或域名更换时,请使用301返回。