本文共 322 字，大约阅读时间需要 1 分钟。

Llama 3

Llama 3 ?? OpenMMLab ????????????? 8B ? 70B ? GPT-4 ?????????????????Group Query Attention?GQA???????? 400B ??????? 15T ? token ????? 8B ? 70B ? instruct ??????????? Llama2 7B ??????

2*A100 | 8K Llama 3 8B

XTuner ? Llama 3 8B ???????????? A100 ??????? 8K ??????????????????XTuner ???? Llama 3 8B ??????????????????

转载地址：http://qdpfk.baihongyu.com/