First Author

Tree-Planted Transformers: Unidirectional Transformer Language Models with Implicit Syntactic Supervision

Ryo Yoshida, Taiga Someya, Yohei Oseki

Tree Planted Transformer: 統語的大規模言語モデルの構築に向けて

吉田遼, 染谷大河, 大関洋平

極小主義に動機づけられた統語的教示に基づく言語モデル

磯野真之介, 梶川康平, 吉田遼, 大関洋平

統語的構成や自己注意を持つ言語モデルは「人間らしい」のか？

吉田遼, 大関洋平

Composition, Attention, or Both?

In this paper, we propose a novel architecture called Composition Attention Grammars (CAGs) that recursively compose subtrees into a …

Ryo Yoshida, Yohei Oseki

チョムスキー階層とニューラル言語モデル

染谷大河, 吉田遼, 中石海, 濱西祐之介, 大関洋平

トランスフォーマー文法

吉田遼, 大関洋平

Modeling Human Sentence Processing with Left-Corner Recurrent Neural Network Grammars

In computational linguistics, it has been shown that hierarchical structures make language models (LMs) more human-like. However, the …

Ryo Yoshida, Hiroshi Noji, Yohei Oseki

再帰的ニューラルネットワーク文法による人間の文処理のモデリング

吉田遼, 能地宏, 大関洋平

再帰的ニューラルネットワーク文法によるヒト文処理のモデリング

吉田遼, 能地宏, 大関洋平