adnb34g
- 浏览: 76916 次
-
最新评论
文章列表
最近在研究中文分词及自然语言相关的内容，关注到JAVA环境下的HanLP，HanLP是一个致力于向生产环境普及NLP技术的开源Java工具包，支持中文分词（N-最短路分词、CRF分词、索引分词、用户自定义词典、词性标注），命名实体识 ...
HanLP的一个很大的好处是离线开源工具包，换而言之，它不仅提供免费的代码免费下载，而且将辛苦收集的词典也对外公开啦，此诚乃一大无私之举．我在安装的时候，主要参照这份博客： blog.csdn.net/article/details?id=50938796
不过该博客主要介绍的是windows如何使用hanlp,而ubuntu是linux的，所以会有所区别．下面我主要介绍的是在unbuntu的安装使用．
安装eclipse
在终端输入 sudo get-apt install eclipse-platform实现一键安装，然后在应用程序找到eclipse
下载hanlp ...
中文分词
中文分词中有众多分词工具，如结巴、hanlp、盘古分词器、庖丁解牛分词等；其中庖丁解牛分词仅仅支持java，分词是HanLP最基础的功能，HanLP实现了许多种分词算法，每个分词器都支持特定的配置。接下来我将介绍如何配置Hanlp来开启自然语言处理之旅，每个工具包都是一个非常强大的算法集合，所以小编以后将花一些时间去看看里面源码如何。
下载jar、property和data文件
前几天去参加了一个线下的聚会，参加聚会的基本都是从事互联网工作的。会上有人提到了区块链，从而引发了一场关于大数据方面的探讨。我也是从去年才正式接触大数据，一直在学习hadoop。相信接触过hadoop的人都知道，。单独搭建hadoop里每个组建都需要运行环境、修改配置文件、测试等过程，每个组件几乎都有坑，尤其是让新手甚是苦恼。此前有在微博上与一些博友了解过他们的配置过程，有的配置了好几天愣是没成功。
Hadoop运行环境配置的坑只有走过的人才懂，不过发现了一个比较有意思的国产hadoop发行版——大快的DKH发行版DKHadoop。DKHadoop将开源社区里多种常用组建包括：HDFS ...
在看源码之前，先看几遍论文《基于角色标注的中国人名自动识别研究》
关于命名识别的一些问题，可参考下列一些issue:
<!--[if !supportLists]-->l <!--[endif]-->·名字识别的问题 #387
<!--[if !supportLists]-->l <!--[endif]-->·机构名识别错误
<!--[if !supportLists]-->l <!--[endif]-->·关于层叠HMM中文实体识别的过程
HanLP参考博客：
词性标注
大数据技术的应用正在潜移默化改变着我们的日常生活习惯和工作方式，很多看起来有点“不可思议”的事情也渐渐被我们“习以为常”。大数据可能在国内的起步较晚，但我们可能却是对大数据应用最好的了代表了。前些时候有分享了一个大数据技术在智慧人社上面的应用案例，最近也一直看一些人力资源方面大数据解决方案的案例，比较集中的都是围绕智慧人社的。
智慧人社建设也是近几年大数据技术的重点应用方向之一，15年印发的《促进大数据发展行动纲要》中就明确，通过建立“用数据说话、用数据决策、用数据管理、用数据创新”的管理机制，实现基于数据的科学决策。
之前分享的一篇关于智慧人社的大数据应用，也仅仅是简单的说了一下当前智慧 ...
HanLP二元核心词典详细解析
- 博客分类：
- 大数据 hanlp
本文分析：HanLP版本1.5.3中二元核心词典的存储与查找。当词典文件没有被缓存时，会从文本文件CoreNatureDictionary.ngram.txt中解析出来存储到TreeMap中，然后构造start和pair数组，并基于这两个数组实现词共现频率的二分查找。当已 ...
学习hadoop已经有很长一段时间了，好像是二三月份的时候朋友给了一个国产Hadoop发行版下载地址，因为还是在学习阶段就下载了一个三节点的学习版玩一下。在研究、学习hadoop的朋友可以去找一下看看（发行版DKhadoop，去大快的网站上应该可以下载到的。）
在学习hadoop的时候查询一些资料的时候经常会看到有比较hadoop和spark的，对于初学者来说难免会有点搞不清楚这二者到底有什么大的区别。我记得刚开始接触大数据这方面内容的时候，也就这个问题查阅了一些资料，在《FreeRCH大数据一体化开发框架》的这篇说明文档中有就Hadoop和spark的区别进行了简单的说明，但我 ...
需求：客户给销售员自己的个人信息，销售帮助客户下单，此过程需要销售人员手动复制粘贴收获地址，电话，姓名等等，一个智能的分词系统可以让销售人员一键识别以上各种信息
经过调研，找到了一下开源项目
1、word 分词器
2、ansj 分词器
3、mmseg4j 分词器
4、ik-analyzer 分词器
5、jcseg 分词器
6、fudannlp 分词器
项目结构
该项目中，.jar和data文件夹和.properties需要从官网/github下载，data文件夹下载
项目配置
修改hanlp.properties:
1 #/Test/src/hanlp.properties:
经常会看到这样的问题：零基础学习hadoop难不难？有的人回答说：零基础学习hadoop，没有想象的那么难，也没有想象的那么容易。看到这样的答案不免觉得有些尴尬，这个问题算是白问了，因为这个回答似乎什么也没给出来。这个问题的关键在于“零基础”到底是个什么样的基础？
所谓的零基础大体可以分为两种：第一种是hadoop初学者，有一定的Linux基础、虚拟机和Java基础；第二种是hadoop兴趣爱好者，但缺乏最基本的Linux基础、虚拟机和Java基础。如果是第一种，其实学习hadoop的难度就会相对较小；但如果是第二种，那么难度就会非常大了。
要学习hadoop除了要了解hado ...
本文整理自知乎上的一个问答，分享给正在学习自然然语言处理的朋友们！
一、自然语言处理是什么？
自然语言处理说白了，就是让机器去帮助我们完成一些语言层面的事情，典型的比如：情感分析、文本摘要、自动问答 ...
中文主要有：NLTK，FoolNLTK，HanLP（java版本），pyhanlp（python版本），Ansj，THULAC，结巴分词，FNLP，哈工大LTP，中科院ICTCLAS分词，GATE，SnowNLP，东北大学NiuTrans，NLPIR，；
英文主要有
文本聚类
文本聚类简单点的来说就是将文本视作一个样本，在其上面进行聚类操作。但是与我们机器学习中常用的聚类操作不同之处在于。
我们的聚类对象不是直接的文本本身，而是文本提取出来的特征。因此如何提取特征因而是非常重要的一步。在HanLP中一共有三个文本聚类方法。前两种都基于词袋模式，第一个是最常见的聚类算法：k-means，但HanLP不光实现了k-means，还实现了速度更快效果更好的repeated bisection算法（重复二分法，还是翻译为累次平方法，好像是第一种）。笔者动笔前段时间刚刚添加了一个新的聚类分析器是，基于词向量的kmens聚类分析器。
概 述
HanLP 是基于 Java开发的 NLP工具包，由一系列模型与算法组成，目标是普及自然语言处理在生产环境中的应用。而且 HanLP具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点，因此十分好上手，本文就结合 Sprin ...