基于BERT的高精度情感多分类任务

简介：
本研究利用预训练模型BERT进行文本分析，针对特定数据集优化后，实现了高效的情感多分类任务，显著提升了分类准确性。 运行记录如下：训练集每类9k数据集，一般情况下训练集为每类1k； 1. 使用英文数据集进行二分类任务时，由于数据可能过于中性化，正确率在85%左右。测试集中没有标签输出自我评估的结果与验证集相似，约85%，经过22个epoch的训练。 2. 利用上述影评进行二分类任务，将label 0和1分别对应于1星和5星评论，准确率达到99%以上。 3. 将同样的影评为三分类问题时，标签0、1和2分别代表1星、3星及5星评价的准确性约为99%左右。 4. 当尝试使用上述影评进行四分类任务，并将label 0、1、2 和3对应于1星、3星、4星以及5星级评论的情况下，在训练集每类为9k数据和少量（共10个）4星级样本的小规模训练下，准确率仅为78%左右。这表明在这种情况下难以进行有效的小规模训练。 5. 最后利用上述影评尝试五分类任务，标签分别对应于1星、2星、3星、4星及5星评论时，在同样的大规模数据集上（每类9k样本），准确率达到了约97%。