資安新聞
- 更新日期:113-12-24
- 發布單位:資訊技術服務中心
【iThome新聞】Meta BLT語言模型架構突破Tokenization技術極限,推理更快更準
Meta新推出的BLT(Byte Latent Transformer)架構,重新定義了大型語言模型的運算方式,使得性能以及效率都超越目前主流的分詞(Tokenization)模型。該項新技術打破長期以來分詞模型在大型語言模型訓練中的限制,直接在位元組層級上進行運算,並展現出了在推理效能和模型強健性上的優勢。