命名实体识别(NER)理论与实战
文章目录
任务目的
识别文本中具有特定意义的实体,供下游任务使用,如对话系统、机器翻译、构建知识图谱等。
实体类型
- 常见的实体定义:人名、地名、机构名、日期、时间、数字、货币。
- 自定义类型:如在法律条文中的法律名、法官名、被告人、原告人等,在医疗领域的实体有疾病名、药物名、科室名等。
实体识别流程
获取数据
处理数据
实体识别算法
基于规则的方法
做法:
人工(通常是领域专家)编写规则,与字符串做匹配。
特点:
- 在小数据集上准确率、召回率较高;
- 随着数据集增大,规则集的构建周期变长,可移植性差。
基于统计的方法
主要模型:
- HMM(隐马尔可夫模型):训练和识别时的速度较快,Viterbi算法求解命名实体类别序列的效率较高。
- CMM(条件马尔科夫模型)
- ME(最大熵模型):有较好的通用性,主要缺点是训练时间复杂性非常高。在正确率上要比隐马尔可夫模型高。
- CRF(条件随机场):收敛速度慢、训练时间长。
基于深度学习的方法
特点:
端到端,不再依赖人工定义的特征。输入端为词向量,输出端为标注序列。
主要模型:
- BiLSTM-CRF
- BiLSTM-CNNs-CRF
- 基于注意力机制
AlBERT-BiLSTM-CRF实战记录
知识储备:
AlBERT介绍详见[BERT系列之AlBERT]()
BiLSTM介绍详见[RNN系列模型]()
CRF介绍详见[条件随机场(CRF)]()
语料的获取
语料的标注与优化
预处理语料
搭建模型
训练
结果与分析
参考资料
王昊奋. 知识图谱——方法、实践与应用. 北京工业出版社. 2019.8, 137-142
评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论