採用中ポジション一覧
カジュアル面談
採用中ポジション一覧
カジュアル面談
日本語BigBird事前学習モデル
2023/6/29
12:08
2023/8/10
18:39
nlp-waseda/bigbird-base-japanese · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
https://t.co/pVkKCSJfOi
概要
早稲田大学河原研究室
による4096Token使えるBigBirdの日本語事前学習モデルが登場
Largeはないので精度的にはいまいちかもだが、簡単なタスクときたい時とかにいいかも
JGRUE的にはRoBERTa baseより精度低い
Post on X