Advertisement

该研究提供了一个PyTorch实现,基于BiLSTM、BERT和Roberta(+ CRF)模型,用于命名实体识别任务。

  •  5星
  •     浏览量: 0
  •     大小:None
  •      文件类型:None


简介:
本项目旨在为CLUENER2020任务提供基线代码实现,所包含的模型架构涵盖了BiLSTM-CRFBERT-base 加上X (softmax/CRF/BiLSTM+CRF) 以及Roberta + X (softmax/CRF/BiLSTM+CRF)。此外,本项目BERT-base-X部分的编码逻辑借鉴了参考文档。项目详情的详细说明可查阅知乎文章。数据集的实验数据来源于清华大学开源的文本分类数据集THUCNEWS,并从中选取一部分数据进行精细化的命名实体标注。该数据集包含了训练集、验证集和测试集,具体规模分别为10748条、1343条和1345条,平均句子长度为37.4个字,最长句子则达到50个字。由于测试集并未直接提供,为了应对leaderboard提交次数的限制,本项目采用了CLUENER2020的验证集作为评估模型性能的标准。CLUENER2020总共有10个...

全部评论 (0)

还没有任何评论哟~
客服
客服
  • CLUENER2020:PyTorchBiLSTM-BERT-Roberta(+CRF中的应
    优质
    本研究利用PyTorch框架开发了一种结合BiLSTM、BERT和RoBERTa预训练模型,并引入条件随机场(CRF)优化技术,显著提升了命名实体识别任务的精度与效率。 Chinese NER Project 是 CLUENER2020 任务 baseline 的代码实现。模型包括 BiLSTM-CRF、BERT-base 加上 softmax/CRF/BiLSTM+CRF,以及 Roberta 加上 softmax/CRF/BiLSTM+CRF。项目中 BERT-base-X 部分的编写思路参考了特定的文章。 本项目的实验数据来源于一个中文细粒度命名实体识别数据集,该数据集基于清华大学开源的文本分类数据集 THUCNEWS,并对部分数据进行了细粒度标注。此数据集包含训练、验证和测试三个子集,大小分别为 10748、1343 和 1345;平均句子长度为 37.4 字符,最长句子则有 50 字。 由于 CLUENER2020 的测试集不直接提供,并考虑到 leaderboard 上提交次数有限制,本项目使用了CLUENER2020的验证集作为评估模型表现的测试集。CLUENER2020 共包含10个类别。
  • BiLSTM-CRF-NER-PyTorch: 本仓库针对BiLSTM-CRFPyTorch
    优质
    本仓库提供了基于PyTorch框架的BiLSTM-CRF模型,专门用于执行命名实体识别任务,助力自然语言处理领域的发展。 使用BiLSTM-CRF模型的命名实体识别任务的PyTorch解决方案。此存储库包含了一个用于命名实体识别任务的BiLSTM-CRF模型的PyTorch实现。项目的代码结构如下: ``` ├── pyner| │ └── callback| │ | └── lrscheduler.py │ | └── trainingmonitor.py │ ... └── config └── basic_config.py # 用于存储模型参数的配置文件 └── dataset ```
  • BERT+BiLSTM+CRF.zip
    优质
    本项目提供了一种基于BERT、BiLSTM和CRF技术结合的命名实体识别解决方案。利用预训练语言模型BERT提取文本特征,并通过双向长短期记忆网络(BiLSTM)进一步捕捉上下文信息,最后使用条件随机场(CRF)进行序列标注,有效提高了实体识别精度与效率。 基于Bert+BiLSTM+CRF的命名实体识别方法在自然语言处理领域得到了广泛应用。这种结合了预训练模型BERT、双向长短期记忆网络BiLSTM以及条件随机场CRF的技术框架,能够有效提升文本中命名实体(如人名、地名和组织机构名称等)的识别精度与效率。
  • BERT+BiLSTM+CRF.zip
    优质
    本资源提供了一个结合了BERT、BiLSTM和CRF技术的先进命名实体识别模型。通过深度学习方法提高对文本中特定实体(如人名、地名等)的准确识别能力,适用于自然语言处理中的多种场景应用。 基于Bert+BiLSTM+CRF的命名实体识别.zip包含了结合了BERT、双向长短期记忆网络(BiLSTM)和条件随机场(CRF)技术的模型,用于提高命名实体识别任务中的性能。该文件中详细介绍了如何利用这些先进的深度学习方法来改进自然语言处理领域内的特定问题解决能力。
  • BERT-CRF的中文
    优质
    本研究探讨了利用BERT与CRF模型结合的方法进行中文文本中的命名实体识别,旨在提升识别精度和效率。通过实验分析,验证该方法的有效性。 使用BERT+CRF模型进行中文命名实体识别任务的方法是:从网盘链接下载bert-chinese预训练模型,并将其放置在chinese-bert文件夹下,然后直接运行python run_ner.py即可。
  • PyTorchBERT-BiLSTM-CRF中文
    优质
    本研究利用PyTorch框架开发了一种结合BERT、BiLSTM和CRF模型的系统,专门针对中文文本进行高效的命名实体识别,提升了实体边界检测与分类精度。 依赖:python==3.6(可选)、pytorch==1.6.0(可选)、pytorch-crf==0.7.2、transformers==4.5.0、numpy==1.22.4、packaging==21.3 温馨提示:新增了转换为onnx并进行推理的功能,具体内容在convert_onnx下,使用命令python convert_onnx.py执行。仅支持对单条数据的推理。在CPU环境下,原本的推理时间为0.714256477355957秒,转换后为0.4593505859375秒。需要安装onnxruntime和onnx库。 注意:原本的pytorch-crf不能转换为onnx,在这里使用了替代方案。目前只测试了bert_crf模型,其他模型可根据需求自行调整。 问题汇总: ValueError: setting an array element with a sequence. The requested array has an inhomogeneous shape after 1 dimensions. 解决方法:pip install numpy==1.22.4 packaging.ver
  • BERT+BiLSTM+CRFPytorch源码.zip
    优质
    本资源提供了一个使用Python和PyTorch实现的基于BERT、BiLSTM及CRF模型进行命名实体识别(NER)的完整代码库,适用于自然语言处理任务。 Pytorch实现基于BERT+ BiLSTM+CRF的命名实体识别项目源码.zip (由于文件名重复了多次,为了方便理解可以简化为:该项目提供了一个使用Pytorch框架,结合BERT、BiLSTM以及CRF模型进行命名实体识别任务的完整代码库。)
  • PytorchBERT+BiLSTMRoBerta+CRF项目源码及文档说明
    优质
    本项目采用Pytorch框架,结合BERT与RoBerta预训练模型以及BiLSTM、CRF技术,实现高效准确的命名实体识别。包含详尽代码与文档指导。 本项目提供Pytorch实现的基于BERT+BiLSTM及Roberta+CRF的命名实体识别源码与文档说明,包含详尽代码注释,适合新手理解使用。该项目适用于课程设计或期末大作业,并因其功能完善、界面美观以及操作简便而具有较高的实际应用价值。
  • BERT+BiLSTM+CRF的中文
    优质
    本研究提出了一种结合BERT、BiLSTM和CRF模型的中文命名实体识别方法,有效提升了NER任务中的精度与召回率。 基于BERT+BiLSTM+CRF的中文命名实体识别(使用PyTorch实现)的基本环境为:Python 3.8、PyTorch 1.7.1 + cu110 和 pytorch-crf 0.7.2。
  • PyTorchBiLSTM-CRF的中文
    优质
    本研究利用PyTorch框架开发了一种基于BiLSTM-CRF模型的系统,专门针对中文文本进行高效的命名实体识别,提升了对复杂句子结构的理解能力。 基于PyTorch+BiLSTM_CRF的中文命名实体识别 文件结构说明: - checkpoints:模型保存的位置 - data:数据位置 - |-- cnews:数据集名称 - | |-- raw_data:原始数据存储位置 - | `-- final_data:标签、词汇表等信息存储位置 - logs:日志存储位置 - utils:辅助函数存放位置,包括解码、评价指标设置、随机种子设定和日志配置等功能 文件列表: - config.py:配置文件 - dataset.py:数据转换为PyTorch的DataSet格式 - main.py:主运行程序 - main.sh:运行命令脚本 - models.py:模型定义 - process.py:预处理,包括数据处理并转换成DataSet格式 运行命令示例: ``` python main.py --data_dir=data/cnews/final_data --log_dir=logs --output_dir=checkpoints --num_tags=33 --seed=123 --gpu_ids=0 --max_seq_len=128 ```