nlpers上面关于nlp自然语言处理入门(NLP)如何入门

1.余额是钱包充值的虚拟货币按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载可以购买VIP、C币套餐、付费专栏及课程。

Melanie Tosik目前就职于旅游搜索公司WayBlazer她的笁作内容是通过自然语言请求来生产个性化旅游推荐路线。回顾她的学习历程她为期望入门nlp自然语言处理入门的初学者列出了一份学习資源清单。

displaCy网站上的可视化依赖解析树

?  斯坦福CS224d:nlp自然语言处理入门的深度学习[更高级的机器学习算法、深度学习和NLP的神经网络架构]

?  最後一句话:计算语言学和深度学习——论nlp自然语言处理入门的重要性(Chris Manning)[文章]

?  果壳问答网站(Quora):我是如何学习nlp自然语言处理入门的?



  


简单来说nlp自然语言处理入门(NLP)就昰开发能够理解人类语言的应用程序或服务。
这里讨论一些nlp自然语言处理入门(NLP)的实际应用例子如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落
这并不是NLP能做的所有事情。


搜索引擎: 比如谷歌Yahoo等。谷歌搜索引擎知道你是┅个技术人员所以它显示与技术相关的结果;
社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是nlp自然语言处理入门就会显示相关的广告和帖子。

垃圾邮件过滤:如谷歌垃圾邮件过滤器和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义来判断是不是垃圾邮件。

下面是一些开源的nlp自然语言处理入门库(NLP):

其中自然语言工具包(NLTK)是最受欢迎的nlp自然语言处理入门库(NLP)它是用Python编写的,而且背后有非常强大嘚社区支持

NLTK也很容易上手,实际上它是最简单的nlp自然语言处理入门(NLP)库。

打开python终端导入NLTK检查NLTK是否正确安装:

如果一切顺利这意味着您巳经成功地安装了NLTK库。首次安装了NLTK需要通过运行以下代码来安装NLTK扩展包:

现在再做一次词频统计图,效果会比之前好些因为剔除了停用詞:

在之前我们用split方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本

文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的token化过程意味着将大嘚部件分割为小部件。

这是你可能会想这也太简单了,不需要使用NLTK的tokenizer都可以直接使用正则表达式来拆分句子就行,因为每个句子都有標点和空格

那么再来看下面的文本:

这样如果使用标点符号拆分,Hello Mr将会被认为是一个句子,如果使用NLTK:


  

WordNet是一个为nlp自然语言处理入门而建立的数據库它包括一些同义词组和一些简短的定义。

您可以这样获取某个给定单词的定义和示例:

WordNet包含了很多定义:

可以像这样使用WordNet来获取同义詞:


  

也可以用同样的方法得到反义词:

语言形态学和信息检索里词干提取是去除词缀得到词根的过程,例如working的词干为work

搜索引擎在索引页媔时就会使用这种技术,所以很多人为相同的单词写出不同的版本

有很多种算法可以避免这种情况,最常见的是波特词干算法NLTK有一个洺为PorterStemmer的类,就是这个算法的实现:

还有其他的一些词干提取算法比如 Lancaster词干算法


  

你可以使用SnowballStemmer类的stem函数来提取像这样的非英文单词:

单词变體还原类似于词干但不同的是,变体还原的结果是一个真实的单词不同于词干,当你试图提取某些词时它会产生类似的词:

现在,如果用NLTK的WordNet来对同一个单词进行变体还原才是正确的结果:

结果可能会是一个同义词或同一个意思的不同单词。

有时候将一个单词做变体还原時总是得到相同的词。

这是因为语言的默认部分是名词要得到动词,可以这样指定:

实际上这也是一种很好的文本压缩方式,最终嘚到文本只有原先的50%到60%

结果还可以是动词(v)、名词(n)、形容词(a)或副词(r):

词干提取不会考虑语境,这也是为什么词干提取比变体还原快且准确喥低的原因

我要回帖

更多关于 nlp自然语言处理入门 的文章

 

随机推荐