StarCoder2 15B Instruct

StarCoder2 15B Instruct excels in coding-related tasks, primarily in Python. It is the first self-aligned open-source LLM developed by BigCode. This model was fine-tuned without any human annotations or distilled data from proprietary LLMs. The base model uses Grouped Query Attention and was trained using the Fill-in-the-Middle objective objective on 4+ trillion tokens.

StarCoder2 15B Instruct のコンテキストウィンドウは 16,384 トークンです。

StarCoder2 15B Instruct は 2024年6月9日 にリリースされました。知識のカットオフ日は 2024年1月31日 です。