metadata
license: llama3
モデル概要
Llama-3-8b-Cosmopedia-japaneseモデルは、優れた性能を認められているLlama-3-8bモデルの日本語ドメインへの適応を目的として設計されました。Llama-3-8bはその高い能力にも関わらず、英語と日本語の推論結果には顕著な差があり、日本語のパフォーマンスが劣っていました。私たちの目標は、Llama-3-8bの高度な論理的推論能力を損なうことなく、このモデルを日本語に適応させることでした。
外部翻訳システムを利用したトレーニングと開発
適応戦略として、Mixtralの推論能力の中核を凝縮したcosmopediaデータを外部の翻訳システムを通じて日本語に翻訳し、この日本語のcosmopediaデータを使用してLlama-3-8bモデルの追加トレーニングを行い、日本語ドメインへの適応を図りました。Llama-3-8bの論理的推論能力を日本語のコンテキストに円滑に移行させ、日本語でのパフォーマンス向上を目標としました。