Azure OpenAI ファインチューニング

イントロダクション

Microsoft Azureを使用してGPT-3.5やGPT-4モデルをファインチューニングすることで、W&Bはメトリクスを自動的にキャプチャし、W&Bの実験管理および評価ツールを通じて系統的な評価を促進することで、モデルの性能を追跡し、分析し、改善します。

前提条件

• 公式のAzureドキュメントに従ってAzure OpenAIサービスをセットアップします。
• APIキーを使用してW&Bアカウントを設定します。

ワークフローの概要

1. ファインチューニングのセットアップ

• Azure OpenAIの要件に従ってトレーニングデータを準備します。
• Azure OpenAIでファインチューニングジョブを設定します。
• W&Bはファインチューニングプロセスを自動的に追跡し、メトリクスとハイパーパラメーターをログします。

2. 実験管理

ファインチューニング中、W&Bは以下をキャプチャします：

• トレーニングと検証のメトリクス
• モデルのハイパーパラメーター
• リソースの利用状況
• トレーニングアーティファクト

3. モデルの評価

ファインチューニング後、W&B Weave を使用して以下を行います：

• モデルの出力を参照データセットと比較評価します。
• 異なるファインチューニングのrun間で性能を比較します。
• 特定のテストケースでモデルの振る舞いを分析します。
• モデル選択のためのデータドリブンの意思決定を行います。

実際の例

• 医療メモ生成デモを探索して、このインテグレーションがどのように以下を実現するかをご覧ください：
  • ファインチューニング実験の体系的な追跡
  • ドメイン固有のメトリクスを使用したモデルの評価
• ノートブックのファインチューニングのインタラクティブデモを体験してください。

追加リソース

• Azure OpenAI W&B Integration Guide
• Azure OpenAI ファインチューニングドキュメント