Google提供的广告让搜索引擎抓取AJAX内容
越来越多的网站，开始采用单页面结构（Single-page application），称单页应用。
整个网站只有一张网页，采用Ajax技术，根据用户的输入，加载不同的内容。
这种做法的好处是用户体验好、节省流量，缺点是AJAX内容无法被搜索引擎抓取。
Jquery Mobile是一个移动网页开发框架，可以很方便地使用无刷新切换页面，它采用的就是 History API。
所谓 History API，指的是不刷新页面的情况下，改变浏览器地址栏显示的URL(准确说，是改变网页的当前状态)。这里有一个例子，你点击上方的按钮，开始播放音乐。然后，再点击下面的链接，看看发生了什么事？
[不中断音乐切换页面链接][1]
History API 的作用就是在浏览器的History对象中，添加一条记录
window.history.pushState(state object, title, url);
目前，各大浏览器都支持这个方法：Chrome（26.0+），Firefox（20.0+），IE（10.0+），Safari（5.1+），Opera（12.1+）。
首先建3个页面，这是让搜索引擎抓取的页面，要保证页面里面有让搜索引擎抓取的内容。
然后，定义一个JavaScript函数，处理Ajax部分，根据网址抓取对应内容。
function anchorClick(link) {
var linkSplit = link.split('/').pop();
$.get('api/' + linkSplit, function(data) {
$('#content').html(data);
再定义鼠标的click事件，让页面模拟跳转到</1.html, </2.html, </3.html。
$('#container').on('click', 'a', function(e) {
window.history.pushState(null, null, $(this).attr('href'));
anchorClick($(this).attr('href'));
e.preventDefault();
最后还要考虑到用户点击浏览器的&前进 / 后退&按钮。这时会触发History对象的popstate事件。
window.addEventListener('popstate', function(e) {
anchorClick(location.pathname);
你可能感兴趣的文章
今日热门 本周热门
随便看看 热门文章experience
当前位置： >
如何让搜索引擎不抓取网站页面上的内容
发布日期： 阅读次数：465
字体大小：
1.在FLASH展示不想被收录的内容
众所周知，搜索引擎对FLASH的内容抓取能力有限，不能完全抓取所有FLASH内的所有内容。但遗憾的是，也不能完全保证FLASH的所有内容都不会被抓取。因为谷歌和Adobe正努力的实现FLASH抓取技术。
2.使用robos文件
这是暂时最有效的方法，但有个很大的缺点。就是不传出任何的内容及链接。大家知道，在SEO来说比较健康的页面应该是有进有出的。有外链的链入，同时也页面内也需要有链到外部网站的链接，所以robots文件控制，让此页面只进不出，搜索引擎也不知道内容是什么。会把此页定为低质量页面。权重有可能受一定的惩罚。这个多用于网站管理页面，测试页面等。
3.使用nofollow标签包裹不想被收录的内容
这个方法也不能完全保证不被收录，因为这并不是严格要求遵守的标签。另外，如果有外部网站链向了有nofollow标签的页面。这样就很有可能会被搜索引擎抓取。
4.用Meta Noindex标签加上follow标签
这个方法可以做到防止收录而且还能传递出权重。要不要传递，看网站建设站长自己的需要。这个方法的缺点是，也是会较大的浪费蜘蛛的抓取页面时间。
5.用robots文件的同时在页面上使用iframe标签展示需要搜索引擎收录的内容
robots文件可以阻止iframe标签以外的内容被收录。所以，可以把不想收录的内容放到正常页面标签下。而想被收录的内容放在iframe标签内。
网站建设TAG：如何让搜索引擎抓取AJAX内容解决方案
投稿：hebedich
字体：[ ] 类型：转载 时间：
谈到AJAX很多人会联想到JavaScript，直到现在为止各大搜索引擎对如：javascript、ajax、flash代码生成的内容都没办法很好的抓取。但很多站长都很喜欢这些效果，可是偏偏各大搜索引擎不能很好的抓取这些代码所生成的内容，使得很多站长都放弃了这些效果。
越来越多的网站，开始采用"单页面结构"（Single-page application）。
整个网站只有一张网页，采用Ajax技术，根据用户的输入，加载不同的内容。
这种做法的好处是用户体验好、节省流量，缺点是AJAX内容无法被搜索引擎抓取。举例来说，你有一个网站。
用户通过井号结构的URL，看到不同的内容。
　　#1　　#2　　#3 　　
但是，搜索引擎只抓取，不会理会井号，因此也就无法索引内容。
为了解决这个问题，Google提出了"井号+感叹号"的结构。
　　#!1　　
当Google发现上面这样的URL，就自动抓取另一个网址：
　　/&#63;_escaped_fragment_=1　　
只要你把AJAX内容放在这个网址，Google就会收录。但是问题是，"井号+感叹号"非常难看且烦琐。Twitter曾经采用这种结构，它把
　　/ruanyf　　
　　/#!/ruanyf　　
结果用户抱怨连连，只用了半年就废除了。
那么，有没有什么方法，可以在保持比较直观的URL的同时，还让搜索引擎能够抓取AJAX内容？
我一直以为没有办法做到，直到前两天看到了Discourse创始人之一的Robin Ward的解决方法，不禁拍案叫绝。
Discourse是一个论坛程序，严重依赖Ajax，但是又必须让Google收录内容。它的解决方法就是放弃井号结构，采用 History API。
所谓 History API，指的是不刷新页面的情况下，改变浏览器地址栏显示的URL(准确说，是改变网页的当前状态)。这里有一个例子，你点击上方的按钮，开始播放音乐。然后，再点击下面的链接，看看发生了什么事？
地址栏的URL变了，但是音乐播放没有中断！
History API 的详细介绍，超出这篇文章的范围。这里只简单说，它的作用就是在浏览器的History对象中，添加一条记录。
　　window.history.pushState(state object, title, url);　　
上面这行命令，可以让地址栏出现新的URL。History对象的pushState方法接受三个参数，新的URL就是第三个参数，前两个参数都可以是null。
　　window.history.pushState(null, null, newURL); 　　
目前，各大浏览器都支持这个方法：Chrome（26.0+），Firefox（20.0+），IE（10.0+），Safari（5.1+），Opera（12.1+）。
下面就是Robin Ward的方法。
首先，用History API替代井号结构，让每个井号都变成正常路径的URL，这样搜索引擎就会抓取每一个网页。
　　/1　　/2　　/3　　
然后，定义一个JavaScript函数，处理Ajax部分，根据网址抓取内容（假定使用jQuery）。
function anchorClick(link) {　　　　var linkSplit = link.split('/').pop();　　　　$.get('api/' + linkSplit, function(data) {　　　　　　$('#content').html(data);　　　　});　　}
再定义鼠标的click事件。
　　$('#container').on('click', 'a', function(e) {　　　　window.history.pushState(null, null, $(this).attr('href'));　　　　anchorClick($(this).attr('href'));　　　　e.preventDefault();　　});　　
还要考虑到用户点击浏览器的"前进 / 后退"按钮。这时会触发History对象的popstate事件。
　　window.addEventListener('popstate', function(e) {&&&& 　　　　anchorClick(location.pathname); &&　　});
定义完上面三段代码，就能在不刷新页面的情况下，显示正常路径URL和AJAX内容。
最后，设置服务器端。
因为不使用井号结构，每个URL都是一个不同的请求。所以，要求服务器端对所有这些请求，都返回如下结构的网页，防止出现404错误。
　　&html&　　　　&body&　　　　　　&section id='container'&&/section&　　　　　　&noscript&　　　　　　　　... ...&　　　　　　&/noscript&　　　　&/body&　　&/html&
仔细看上面这段代码，你会发现有一个noscript标签，这就是奥妙所在。
我们把所有要让搜索引擎收录的内容，都放在noscript标签之中。这样的话，用户依然可以执行AJAX操作，不用刷新页面，但是搜索引擎会收录每个网页的主要内容！
您可能感兴趣的文章:
大家感兴趣的内容
12345678910
最近更新的内容
常用在线小工具ajax生成的内容是不是搜索引擎不抓取？？_firefox吧_百度贴吧
&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&&签到排名：今日本吧第个签到，本吧因你更精彩，明天继续来努力！
本吧签到人数：0成为超级会员，使用一键签到本月漏签0次！成为超级会员，赠送8张补签卡连续签到：天&&累计签到：天超级会员单次开通12个月以上，赠送连续签到卡3张
关注：71,714贴子：
ajax生成的内容是不是搜索引擎不抓取？？收藏
3D双端东方魔幻网游「大青云」勾魂公测,穿越逆转,封神故事,全新演绎!
google好像在改进算法已抓取ajax的内容。——来自耐操的火狐娘&&Mozilla/5.0 (Windows NT 6.1; WOW64; rv:26.0) Gecko/ Firefox/26.0
通常是不抓取的，不过貌似把内容放到"!#"这样的url内，Google会抓取。HTML5好像还有个叫“History API”的黑科技，能够做到。曾经在Github上见过，貌似不少较为新颖的网站也采取这种方式。
不主动抓取
都在说我看不懂的东西
登录百度帐号推荐应用
为兴趣而生，贴吧更懂你。或