用bert预训练模型, 实现了MLM预测, NSP预测 文本分类 在一个3000条的样本上,1500条是负样本,1500条是样本,选取1250条正样本和1250条负样本做测试集fine-tune,3个epoch后,在剩下的500条样本上预测,准确率达到94.4%。 --by lgb