Goliath 120B

A large LLM created by combining two fine-tuned Llama 70B models into one 120B model. Combines Xwin and Euryale. Credits to - @chargoddard for developing the framework used to merge the model - mergekit. - @Undi95 for helping with the merge ratios. #merge

Goliath 120B 的上下文窗口为 6,144 token。

Goliath 120B 于 2023年11月10日 发布。其知识截止日期为 2023年12月31日。