Skip to content

DSXiangLi/SimpleClassification

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

文本分类:支持多种预训练,半监督,领域迁移,降噪,对抗,蒸馏

支持任务

  • 兼容TF1 & TF2

输出

  • 二分类任务
  • 多分类任务
  • 有序多分类任务

输入

  • 单输入
  • 双输入

支持模型

文本预训练模型

  • Bert
  • Bert-wwm
  • Roberta
  • Albert
  • Xlnet
  • Electra

词袋模型

  • Fasttext
  • TextCNN
  • TextRCNN
  • DPCNN

半监督 & 领域迁移框架

  • Multitask / Domain Transfer
  • Adversarial
  • Mixup
  • Temporal Ensemble
  • MixMatch

模型蒸馏

  • Knowledge distill
  • distill bert
  • tiny bert

文本增强

  • EDA: Random Delete, Random Swap, Random Insert, Random Substitute
  • Entity Replacement
  • Mask MLM
  • Vote

Loss

  • Focal Loss
  • General Cross Entropy
  • Symmetric Cross Entropy
  • Peer cross Entropy
  • Bootstrapping

Others

  • 分层learning rate
  • 模型推理

相关Blogs