日本語BigBird事前学習モデル

 

概要

  • Largeはないので精度的にはいまいちかもだが、簡単なタスクときたい時とかにいいかも
  • JGRUE的にはRoBERTa baseより精度低い