aoai_checklist.ja.json

{
    "categories": [
        {
            "name": "ID およびアクセス管理"
        },
        {
            "name": "ネットワーク トポロジと接続性"
        },
        {
            "name": "BC と DR"
        },
        {
            "name": "ガバナンスとセキュリティ"
        },
        {
            "name": "コストガバナンス"
        },
        {
            "name": "オペレーションマネジメント"
        },
        {
            "name": "アプリケーションのデプロイメント"
        },
        {
            "name": "責任あるAI"
        }
    ],
    "items": [
        {
            "category": "責任あるAI",
            "guid": "a85b86ad-884f-48e3-9273-4b875ba18f10",
            "id": "AOAI.1",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/concepts/system-message#define-additional-safety-and-behavioral-guardrails",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "メタプロンプティング",
            "text": "共鳴可能なAIのためのメタプロンプトガードレールに従う",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "d4391898-cd28-48be-b6b1-7cb8245451e1",
            "id": "AOAI.10",
            "link": "https://github.com/Azure-Samples/AI-Gateway",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ロードバランシング",
            "text": "APIM や AI Central などのソリューションを使用したゲートウェイ パターンを検討して、レート制限、負荷分散、認証、ログ記録を改善します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "aed3453a-ec72-4392-97a1-52d6cc5e4029",
            "id": "AOAI.11",
            "link": "https://techcommunity.microsoft.com/t5/fasttrack-for-azure/azure-openai-insights-monitoring-ai-with-confidence/ba-p/4026850",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "モニタリング",
            "text": "AOAI インスタンスの監視を有効にする",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "697cb391-ed16-4b2d-886f-0a0241addde6",
            "id": "AOAI.12",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/monitoring#set-up-alerts",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "アラート",
            "text": "リソースに対して実行されたアクション (サブスクリプション キーの再生成など) によって作成されたアクティビティ ログのエントリや、1 時間に 10 を超えるエラー数などのメトリックしきい値によって作成されたアクティビティ ログのエントリなど、イベントを通知するアラートを作成します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "8a477cde-b486-41bc-9bc1-0ae66e25d4d5",
            "id": "AOAI.13",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/monitoring",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "モニタリング",
            "text": "トークンの使用状況を監視して、容量によるサービスの中断を防ぎます",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "a3aec2c4-e243-46b0-936c-b45e17960eee",
            "id": "AOAI.14",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/monitoring",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "オブザーバビリティ",
            "text": "処理された推論トークン、生成された完了トークンなどのメトリックを観察し、レート制限を監視します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "fbdf4cc2-eec4-4d76-8c31-d25ffbb46a39",
            "id": "AOAI.15",
            "link": "https://techcommunity.microsoft.com/t5/apps-on-azure-blog/build-an-enterprise-ready-azure-openai-solution-with-azure-api/ba-p/3907562",
            "service": "Azure OpenAI",
            "severity": "低い",
            "subcategory": "オブザーバビリティ",
            "text": "診断が十分でない場合は、Azure OpenAI の前で Azure API Management などのゲートウェイを使用して、受信プロンプトと送信応答の両方をログに記録することを検討してください (許可されている場合)",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "3af30ed3-2947-498b-8178-a2c5a46ceb54",
            "id": "AOAI.16",
            "link": "https://github.com/Azure-Samples/openai-enterprise-iac",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "インフラストラクチャの展開",
            "text": "コードとしてのインフラストラクチャを使用して、Azure OpenAI Service、モデル デプロイ、およびすべての関連リソースをデプロイします",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "4350d092-d234-4292-a752-8537a551c5bf",
            "id": "AOAI.17",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/managed-identity",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "認証",
            "text": "API キーの代わりにマネージド ID で Microsoft Entra 認証を使用する",
            "waf": "安全"
        },
        {
            "category": "責任あるAI",
            "guid": "4e4f1854-287d-45cd-a126-cc031af5b1fc",
            "id": "AOAI.18",
            "link": "https://learn.microsoft.com/azure/machine-learning/prompt-flow/how-to-bulk-test-evaluate-flow?view=azureml-api-2",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "評価",
            "text": "入力と正しい答えを持つ既知のゴールデンデータセットを使用して、システムのパフォーマンス/精度を評価します。PromptFlowの機能を評価に活用します。",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "68889535-e327-4897-b31b-67d67be5962a",
            "id": "AOAI.19",
            "link": "https://learn.microsoft.com/azure/architecture/ai-ml/architecture/baseline-openai-e2e-chat#azure-openai---performance-efficiency",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ホスティングモデル",
            "text": "プロビジョニング済みスループットモデルの使用状況の評価",
            "waf": "パフォーマンス"
        },
        {
            "category": "責任あるAI",
            "guid": "cd288bed-6b17-4cb8-8454-51e1aed3453a",
            "id": "AOAI.2",
            "link": "https://learn.microsoft.com/azure/ai-services/content-safety/overview",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "コンテンツの安全性",
            "text": "Azure AI コンテンツの安全性を確認して実装する",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "1193846d-697c-4b39-8ed1-6b2d186f0a02",
            "id": "AOAI.20",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/latency#system-level-throughput",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "スループットの定義",
            "text": "トークンと1分あたりのレスポンスに基づいてシステムのスループットを定義および評価し、要件に合わせます",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "41addde6-8a47-47cd-bb48-61bc3bc10ae6",
            "id": "AOAI.21",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/latency#improve-performance",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "レイテンシーの改善",
            "text": "トークンサイズ、ストリーミングオプションを制限することにより、システムのレイテンシーを改善します",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "6e25d4d5-a3ae-4c2c-9e24-36b0336cb45e",
            "id": "AOAI.22",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/latency#batching",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "弾力性の分離",
            "text": "弾力性の要求を見積もり、優先順位に基づいて同期要求とバッチ要求の分離を決定します。優先度が高い場合は同期アプローチを使用し、優先度が低い場合はキューを使用した非同期バッチ処理が推奨されます",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "5bda4332-4f24-4811-9331-82ba51752694",
            "id": "AOAI.23",
            "link": "https://github.com/Azure/azure-openai-benchmark/",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ベンチマーク",
            "text": "消費者からの推定需要に基づくトークン消費要件のベンチマーク。プロビジョニングされたスループット ユニットのデプロイを使用している場合は、Azure OpenAI ベンチマーク ツールを使用してスループットを検証することを検討してください",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "4008ae7d-7e47-4432-96d8-bdcf55bce619",
            "id": "AOAI.24",
            "link": "https://techcommunity.microsoft.com/t5/fasttrack-for-azure/optimizing-azure-openai-a-guide-to-limits-quotas-and-best/ba-p/4076268",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "弾性",
            "text": "プロビジョニングされたスループットユニット (PTU) を使用している場合は、オーバーフローリクエストに対して Token-Per Minute (TPM) デプロイメントをデプロイすることを検討してください。ゲートウェイを使用して、PTU の制限に達したときに要求を TPM デプロイにルーティングします。",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "e8a13f98-8794-424d-9267-86d60b96c97b",
            "id": "AOAI.25",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/concepts/models",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "モデルの選択",
            "text": "適切なタスクに適したモデルを選択してください。速度、応答の品質、出力の複雑さの間で適切なトレードオフを持つモデルを選択する",
            "waf": "パフォーマンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "e9951904-8384-45c9-a6cb-2912156a1147",
            "id": "AOAI.26",
            "link": "https://github.com/Azure/azure-openai-benchmark/",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "微調整",
            "text": "微調整によってモデルのパフォーマンスが向上したかどうかを知るための微調整を行わずに、パフォーマンスのベースラインを設定する",
            "waf": "パフォーマンス"
        },
        {
            "category": "BC と DR",
            "guid": "5e39f541-accc-4d97-a376-bcdb3750ab2a",
            "id": "AOAI.27",
            "link": "https://learn.microsoft.com/azure/architecture/ai-ml/architecture/baseline-openai-e2e-chat#azure-openai---reliability",
            "service": "Azure OpenAI",
            "severity": "低い",
            "subcategory": "マルチリージョン アーキテクチャ",
            "text": "複数のOAIインスタンスを複数のリージョンにデプロイする",
            "waf": "確実"
        },
        {
            "category": "BC と DR",
            "guid": "b039da6d-55d7-4c89-8adb-107d5325af62",
            "id": "AOAI.28",
            "link": "https://learn.microsoft.com/azure/architecture/ai-ml/architecture/baseline-openai-e2e-chat#azure-openai---reliability",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ロードバランシング",
            "text": "APIM のようなゲートウェイ パターンを使用した再試行とヘルスチェックの実装",
            "waf": "確実"
        },
        {
            "category": "BC と DR",
            "guid": "5ca44e46-85e2-4223-ace8-bb12308ca5f1",
            "id": "AOAI.29",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/quota?tabs=rest#introduction-to-quota",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "クォータ",
            "text": "ワークロードに対してTPMとRPMの適切なクォータがあることを確認します",
            "waf": "確実"
        },
        {
            "category": "責任あるAI",
            "guid": "ec723923-7a15-42d6-ac5e-402925387e5c",
            "id": "AOAI.3",
            "link": "https://www.microsoft.com/research/project/guidelines-for-human-ai-interaction/",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "UX のベスト プラクティス",
            "text": "HAIツールキットガイダンスの考慮事項を確認し、それらの相互作用の実践をslutionに適用します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "BC と DR",
            "guid": "7f154e3a-a369-4282-ae7e-316183687a04",
            "id": "AOAI.30",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/business-continuity-disaster-recovery",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "ロードバランシング",
            "text": "ファインチューニングが採用されている場合は、リージョン間で個別の微調整モデルをデプロイします",
            "waf": "確実"
        },
        {
            "category": "BC と DR",
            "guid": "77a1f893-5bda-4433-84f2-4811633182ba",
            "id": "AOAI.31",
            "link": "https://learn.microsoft.com/azure/backup/backup-overview",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "データバックアップとディザスタリカバリ",
            "text": "重要なデータを定期的にバックアップおよびレプリケートして、データの損失やシステム障害が発生した場合のデータの可用性と回復性を確保します。Azure のバックアップおよびディザスター リカバリー サービスを活用して、データを保護します。",
            "waf": "確実"
        },
        {
            "category": "BC と DR",
            "guid": "95b96ad8-844c-4e3b-8b38-b876ba2cf204",
            "id": "AOAI.32",
            "link": "https://www.microsoft.com/licensing/docs/view/Service-Level-Agreements-SLA-for-Online-Services?lang=1",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "SLA に関する考慮事項",
            "text": "Azure AI Search サービス レベルは、SLA を持つために選択する必要があります",
            "waf": "確実"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "99013a5d-3ce4-474d-acbd-8682a6abca2a",
            "id": "AOAI.33",
            "link": "https://learn.microsoft.com/purview/purview",
            "service": "Azure OpenAI",
            "severity": "低い",
            "subcategory": "データの機密性",
            "text": "データと機密性を分類し、埋め込みを生成する前に Microsoft Purview でラベル付けし、生成された埋め込みを同じ感度と分類で処理するようにしてください",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "4fda1dbf-3dd9-45d4-ac7c-891dca1f6d56",
            "id": "AOAI.34",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/use-your-data-securely",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "保存時の暗号化",
            "text": "SSE/ディスク暗号化(オプションのBYOKを使用)を使用してRAGに使用されるデータを暗号化",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "59ae558b-937d-4498-9e11-12dbd7ba012f",
            "id": "AOAI.35",
            "link": "https://learn.microsoft.com/azure/search/search-security-overview",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "トランジット暗号化",
            "text": "データソース間で転送されるデータ、Retrieval-Augmented Generation(RAG)およびLLM通信に使用されるAI検索にTLSが適用されていることを確認します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "7b94ef6e-047d-42ea-8992-b1cd6e2054b2",
            "id": "AOAI.36",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/role-based-access-control",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "アクセス制御",
            "text": "RBAC を使用して、Azure OpenAI サービスへのアクセスを管理します。ユーザーに適切な権限を割り当て、ユーザーの役割と責任に基づいてアクセスを制限します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "9769e4a6-91e8-4838-ac93-6667e13c0056",
            "id": "AOAI.37",
            "link": "https://learn.microsoft.com/azure/security/fundamentals/data-encryption-best-practices",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "データマスキングとリダクション",
            "text": "データの暗号化、マスキング、または編集技術を実装して、機密データを非表示にしたり、非本番環境で難読化された値に置き換えたり、テストやトラブルシューティングの目的でデータを共有する場合",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "74b1e945-b459-4837-be7a-d6c6d3b375a5",
            "id": "AOAI.38",
            "link": "https://learn.microsoft.com/azure/defender-for-cloud/defender-for-cloud-introduction",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "脅威の検出と監視",
            "text": "Azure Defender を利用して、セキュリティの脅威を検出して対応し、監視とアラートのメカニズムを設定して、疑わしいアクティビティや侵害を特定します。Azure Sentinel を活用して高度な脅威の検出と対応を実現",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "c7acbe48-abe5-44cd-99f2-e87768468c55",
            "id": "AOAI.39",
            "link": "https://techcommunity.microsoft.com/t5/azure-storage-blog/managing-long-term-log-retention-or-any-business-data/ba-p/2494791",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "データの保持と廃棄",
            "text": "コンプライアンス規制を遵守するためのデータ保持および廃棄ポリシーを確立します。不要になったデータに対して安全な削除方法を実装し、データの保持と廃棄活動の監査証跡を維持します",
            "waf": "安全"
        },
        {
            "category": "責任あるAI",
            "guid": "a9c27d9c-42bb-46bd-8c69-99a246f3389a",
            "id": "AOAI.4",
            "link": "https://learn.microsoft.com/azure/ai-services/content-safety/concepts/jailbreak-detection",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "脱獄の安全性",
            "text": "Content Safety を使用した Prompt シールドと接地検出の実装",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "a775c6ee-95b9-46ad-a844-ce3b2b38b876",
            "id": "AOAI.40",
            "link": "https://learn.microsoft.com/azure/compliance/",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "データのプライバシーとコンプライアンス",
            "text": "GDPRやHIPAAなどの関連するデータ保護規制への準拠を確保するには、プライバシー制御を実装し、データ処理活動に必要な同意または許可を取得します。",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "ba2cf204-9901-43a5-b3ce-474dccbd8682",
            "id": "AOAI.41",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "従業員の意識向上と教育",
            "text": "データセキュリティのベストプラクティス、データの安全な取り扱いの重要性、データ侵害に関連する潜在的なリスクについて、従業員を教育します。データセキュリティプロトコルに熱心に従うように促します。",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "eae01e6e-842e-452f-9721-d928c1b1cd52",
            "id": "AOAI.42",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "環境の分離",
            "text": "運用データを開発データやテストデータから分離します。本番環境では実際の機密データのみを使用し、開発環境やテスト環境では匿名化されたデータや合成データを利用します。",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "1e54a29a-9de3-499c-bd7b-28dc93555620",
            "id": "AOAI.43",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "インデックスの分離",
            "text": "データの機密性のレベルが異なる場合は、レベルごとに個別のインデックスを作成することを検討してください。たとえば、一般的なデータ用に 1 つのインデックスを作成し、機密データ用に別のインデックスを作成し、それぞれ異なるアクセス プロトコルで管理することができます",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "2bfe4564-b0d8-434a-948b-263e6dd60512",
            "id": "AOAI.44",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "個別のインスタンス内の機密データ",
            "text": "分離をさらに一歩進めて、機密性の高いデータセットをサービスの異なるインスタンスに配置します。各インスタンスは、独自のRBACポリシーのセットで制御できます",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "a36498f6-dbad-438e-ad53-cc7ce1d7aaab",
            "id": "AOAI.45",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "埋め込みとベクター処理",
            "text": "機密情報から生成された埋め込みとベクトルは、それ自体が機密性が高いことを認識します。このデータには、ソースマテリアルと同じ保護対策を提供する必要があります",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "3571449a-b805-43d8-af89-dc7b33be2a1a",
            "id": "AOAI.46",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/role-based-access-control",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "アクセス制御",
            "text": "埋め込みとベクトルを持つデータストアに RBAC を適用し、ロールのアクセス要件に基づいてアクセスのスコープを設定します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "27f7b9e9-1be1-4f38-aef3-9812bd463cbb",
            "id": "AOAI.47",
            "link": "https://techcommunity.microsoft.com/t5/azure-architecture-blog/azure-openai-private-endpoints-connecting-across-vnet-s/ba-p/3913325",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ネットワークセキュリティ",
            "text": "AI サービスのプライベート エンドポイントを構成して、ネットワーク内のサービス アクセスを制限します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "ac8ac199-ebb9-41a3-9d90-cae2cc881370",
            "id": "AOAI.48",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ネットワークセキュリティ",
            "text": "Azure Firewall と UDR を使用して受信と送信のトラフィック制御を厳密に適用し、外部統合ポイントを制限します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "6f7c0cba-fe51-4464-add4-57e927138b82",
            "id": "AOAI.49",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "ネットワークアクセスの制御",
            "text": "ネットワークのセグメンテーションとアクセス制御を実装して、LLMアプリケーションへのアクセスを許可されたユーザーとシステムのみに制限し、横方向の移動を防ぎます",
            "waf": "安全"
        },
        {
            "category": "コストの最適化",
            "guid": "7f42c78e-78cb-46a2-8ad1-90916e6a8d8f",
            "id": "AOAI.5",
            "link": "https://www.microsoft.com/research/blog/llmlingua-innovating-llm-efficiency-with-prompt-compression/",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "トークンの最適化",
            "text": "LLMLingua や gprtrim などのプロンプト圧縮ツールを使用します",
            "waf": "コストの最適化"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "1102cac6-eae0-41e6-b842-e52f4721d928",
            "id": "AOAI.50",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/managed-identity",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "安全なAPIとエンドポイント",
            "text": "LLM アプリケーションで使用される API とエンドポイントが、マネージド ID、API キー、OAuth などの認証および承認メカニズムで適切に保護され、不正アクセスを防止します。",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "c1b1cd52-1e54-4a29-a9de-399cfd7b28dc",
            "id": "AOAI.51",
            "link": "https://techcommunity.microsoft.com/t5/azure-architecture-blog/security-best-practices-for-genai-applications-openai-in-azure/ba-p/4027885",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "強力な認証の実装",
            "text": "多要素認証などの強力なエンドユーザー認証メカニズムを適用して、LLMアプリケーションおよび関連するネットワークリソースへの不正アクセスを防止します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "93555620-2bfe-4456-9b0d-834a348b263e",
            "id": "AOAI.52",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "ネットワーク監視を使用する",
            "text": "ネットワーク監視ツールを実装して、疑わしいアクティビティや悪意のあるアクティビティのネットワークトラフィックを検出および分析します。ロギングを有効にしてネットワークイベントをキャプチャし、セキュリティインシデントが発生した場合のフォレンジック分析を容易にします",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "6dd60512-a364-498f-9dba-d38ead53cc7c",
            "id": "AOAI.53",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "セキュリティ監査と侵入テスト",
            "text": "セキュリティ監査と侵入テストを実施して、LLMアプリケーションのネットワークインフラストラクチャのネットワークセキュリティの弱点または脆弱性を特定して対処します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "e1d7aaab-3571-4449-ab80-53d89f89dc7b",
            "id": "AOAI.54",
            "link": "https://learn.microsoft.com/azure/azure-resource-manager/management/tag-resources?tabs=json",
            "service": "Azure OpenAI",
            "severity": "低い",
            "subcategory": "インフラストラクチャの展開",
            "text": "Azure AI Services は、管理を改善するために適切にタグ付けされています",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "77036e5e-6b4b-4ed3-b503-547c1347dc56",
            "id": "AOAI.55",
            "link": "https://learn.microsoft.com/azure/cloud-adoption-framework/ready/azure-best-practices/resource-abbreviations",
            "service": "Azure OpenAI",
            "severity": "低い",
            "subcategory": "インフラストラクチャの展開",
            "text": "Azure AI Service アカウントは、組織の名前付け規則に従います",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "028a71ff-e1ce-415d-b3f0-d5e772d41e36",
            "id": "AOAI.56",
            "link": "https://learn.microsoft.com/azure/ai-services/diagnostic-logging",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "診断のログ",
            "text": "Azure AI サービス リソースの診断ログを有効にする必要がある",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ID およびアクセス管理",
            "guid": "11cc57b4-a4b1-4410-b439-58a8c2289b3d",
            "id": "AOAI.57",
            "link": "https://learn.microsoft.com/azure/ai-services/authentication",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "Entra IDベースのアクセス",
            "text": "セキュリティのため、キーアクセス(ローカル認証)を無効にすることをお勧めします。 キーベースのアクセスを無効にすると、Microsoft Entra IDが唯一のアクセス方法になり、最小限の特権原則ときめ細かな制御を維持できます。",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "6b57cfc6-5546-41e1-a3e3-453a3c863964",
            "id": "AOAI.58",
            "link": "https://learn.microsoft.com/azure/key-vault/general/best-practices",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "セキュアなキー管理",
            "text": "Azure Key Vault を使用して、キーを安全に保存および管理します。LLM アプリケーションのコード内で機密性の高いキーをハードコーディングしたり埋め込んだりすることを避け、マネージド ID を使用して Azure Key Vault から安全に取得します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "8b652d6c-15f5-4129-9539-8e6ded227dd1",
            "id": "AOAI.59",
            "link": "https://learn.microsoft.com/azure/key-vault/general/best-practices",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "キーのローテーションと有効期限",
            "text": "Azure Key Vault に格納されているキーを定期的にローテーションして期限切れにすることで、不正アクセスのリスクを最小限に抑えます。",
            "waf": "安全"
        },
        {
            "category": "コストの最適化",
            "guid": "adfe27be-e297-401a-a352-baaab79b088d",
            "id": "AOAI.6",
            "link": "https://github.com/openai/tiktoken",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "トークンの最適化",
            "text": "tiktokenを使用して、会話モードでのトークン最適化のためのトークンサイズを理解します",
            "waf": "コストの最適化"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "42b06c21-d799-49a6-96f4-389a7f42c78e",
            "id": "AOAI.60",
            "link": "https://learn.microsoft.com/azure/security/develop/secure-dev-overview",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "安全なコーディングの実践",
            "text": "安全なコーディング手法に従って、インジェクション攻撃、クロスサイトスクリプティング(XSS)、セキュリティ設定の誤りなどの一般的な脆弱性を防止します",
            "waf": "安全"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "78c06a73-a22a-4495-9e6a-8dc4a20e27c3",
            "id": "AOAI.61",
            "link": "https://learn.microsoft.com/azure/devops/repos/security/github-advanced-security-dependency-scanning?view=azure-devops",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "パッチ適用と更新",
            "text": "LLM ライブラリとその他のシステム コンポーネントを定期的に更新し、パッチを適用するプロセスを設定します",
            "waf": "安全"
        },
        {
            "category": "責任あるAI",
            "guid": "e29711b1-352b-4eee-879b-588defc4972c",
            "id": "AOAI.62",
            "link": "https://learn.microsoft.com/legal/cognitive-services/openai/code-of-conduct",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "統治",
            "text": "Azure OpenAI またはその他の LLM の利用規約、ポリシー、ガイダンス、および許可されたユース ケースを順守する",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "コストの最適化",
            "guid": "d3cd21bf-7703-46e5-b6b4-bed3d503547c",
            "id": "AOAI.63",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/manage-costs#base-series-and-codex-series-fine-tuned-models",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "コストの習熟度",
            "text": "基本モデルと微調整されたモデルおよびトークンのステップサイズのコストの違いを理解する",
            "waf": "コストの最適化"
        },
        {
            "category": "コストの最適化",
            "guid": "1347dc56-028a-471f-be1c-e15dd3f0d5e7",
            "id": "AOAI.64",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/latency#batching",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "バッチ処理",
            "text": "可能であれば、呼び出しごとのオーバーヘッドを最小限に抑え、全体的なコストを削減できるバッチ要求。バッチサイズを確実に最適化する",
            "waf": "コストの最適化"
        },
        {
            "category": "コストの最適化",
            "guid": "72d41e36-11cc-457b-9a4b-1410d43958a8",
            "id": "AOAI.65",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/manage-costs",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "コスト監視",
            "text": "モデルの使用状況を監視するコスト追跡システムを設定し、その情報を使用してモデルの選択とプロンプトのサイズを通知します",
            "waf": "コストの最適化"
        },
        {
            "category": "コストの最適化",
            "guid": "166cd072-af9b-4141-a898-a535e737897e",
            "id": "AOAI.66",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/quota?tabs=rest#understanding-rate-limits",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "トークン制限",
            "text": "モデル応答あたりのトークン数に上限を設定します。サイズを最適化して、有効な応答に十分な大きさになるようにします",
            "waf": "コストの最適化"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "71ca7da8-cfa9-462a-8594-946da97dc3a2",
            "id": "AOAI.67",
            "link": "https://learn.microsoft.com/azure/search/search-reliability",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "AI検索の信頼性",
            "text": "信頼性のための AI 検索の設定に関するガイダンスを確認します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "3266b225-86f4-4a16-92bd-ddea8a487cde",
            "id": "AOAI.68",
            "link": "https://learn.microsoft.com/azure/search/vector-search-index-size?tabs=portal-vector-quota",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "AI 検索ベクトルの制限",
            "text": "AI Search Vector ストレージの計画と管理",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "b4861bc3-bc14-4aeb-9e66-e8d9a3aec218",
            "id": "AOAI.69",
            "link": "https://learn.microsoft.com/azure/machine-learning/prompt-flow/how-to-end-to-end-llmops-with-prompt-flow?view=azureml-api-2",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "DevOpsの",
            "text": "LLMOpsプラクティスを適用して、GenAIアプリケーションのライフサイクル管理を自動化します",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "コストの最適化",
            "guid": "aa80932c-8ec9-4d1b-a770-26e5e6beba9e",
            "id": "AOAI.7",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/how-to/provisioned-throughput-onboarding#understanding-the-provisioned-throughput-purchase-model",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "原価計算モデル",
            "text": "請求モデルの使用状況の評価 - PAYG と PTU の比較",
            "waf": "コストの最適化"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "e6436b07-36db-455f-9796-03334bdf9cc2",
            "id": "AOAI.70",
            "link": "https://techcommunity.microsoft.com/t5/ai-azure-ai-services-blog/how-to-control-azure-openai-models/ba-p/4146793",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "DevOpsの",
            "text": "モデルバージョンを切り替える際のプロンプトとアプリケーションの品質を評価する",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "3418db61-2712-4650-9bb4-7a393a080327",
            "id": "AOAI.71",
            "link": "https://learn.microsoft.com/azure/machine-learning/prompt-flow/concept-model-monitoring-generative-ai-evaluation-metrics?view=azureml-api-2",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "発達",
            "text": "GenAIアプリを評価、監視、改良して、接地性、関連性、精度、一貫性、流暢さなどの機能を確認します。",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "294798b1-578b-4219-a46c-eb5443513592",
            "id": "AOAI.72",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "発達",
            "text": "さまざまな検索パラメーターに基づいて Azure AI Search の結果を評価する",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "2744293b-b628-4537-a551-19b08e8f5854",
            "id": "AOAI.73",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/concepts/fine-tuning-considerations",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "発達",
            "text": "精度を向上させる方法としてモデルの微調整を検討するのは、データを使用してプロンプトエンジニアリングやRAGなどの他の基本的なアプローチを試した場合のみです",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "287d9cec-166c-4d07-8af9-b141a898a535",
            "id": "AOAI.74",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/concepts/advanced-prompt-engineering?pivots=programming-language-chat-completions",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "発達",
            "text": "プロンプトエンジニアリング手法を使用して、LLM応答の精度を向上させる",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "ガバナンスとセキュリティ",
            "guid": "e737897e-71ca-47da-acfa-962a1594946d",
            "id": "AOAI.75",
            "link": "https://learn.microsoft.com/azure/ai-services/openai/concepts/red-teaming",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "セキュリティ監査と侵入テスト",
            "text": "GenAIアプリケーションをレッドチーム化",
            "waf": "安全"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "edb117e6-76aa-4f66-aca4-8e5a95f2223e",
            "id": "AOAI.76",
            "link": "https://www.microsoft.com/haxtoolkit/guideline/encourage-granular-feedback/",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "エンドユーザーのフィードバック",
            "text": "エンドユーザーにLLM応答のスコアリングオプションを提供し、これらのスコアを追跡します。",
            "waf": "オペレーショナルエクセレンス"
        },
        {
            "category": "コストの最適化",
            "guid": "d5f3547c-c346-4d81-9028-a71ffe1b9b5d",
            "id": "AOAI.8",
            "link": "https://techcommunity.microsoft.com/t5/fasttrack-for-azure/optimizing-azure-openai-a-guide-to-limits-quotas-and-best/ba-p/4076268",
            "service": "Azure OpenAI",
            "severity": "高い",
            "subcategory": "クォータ管理",
            "text": "クォータ管理の実践を検討する",
            "waf": "コストの最適化"
        },
        {
            "category": "オペレーションマネジメント",
            "guid": "9de0d5d7-31d4-41e3-911c-817bfafbc410",
            "id": "AOAI.9",
            "link": "https://github.com/Azure/aoai-apim/blob/main/README.md",
            "service": "Azure OpenAI",
            "severity": "中程度",
            "subcategory": "ロードバランシング",
            "text": "APIM ベースのゲートウェイなどのロード バランサー ソリューションを使用して、サービスやリージョン間で負荷と容量を分散します",
            "waf": "オペレーショナルエクセレンス"
        }
    ],
    "metadata": {
        "name": "Azure OpenAI Review",
        "state": "Preview",
        "timestamp": "July 24, 2024",
        "waf": "all"
    },
    "severities": [
        {
            "name": "高い"
        },
        {
            "name": "中程度"
        },
        {
            "name": "低い"
        }
    ],
    "status": [
        {
            "description": "このチェックはまだ見ていません",
            "name": "未確認"
        },
        {
            "description": "このチェックにはアクションアイテムが関連付けられています",
            "name": "開ける"
        },
        {
            "description": "このチェックは検証済みであり、これ以上のアクション アイテムは関連付けられていません",
            "name": "達成"
        },
        {
            "description": "推奨事項は理解されているが、現在の要件では必要ではない",
            "name": "必須ではありません"
        },
        {
            "description": "現在のデザインには適用されません",
            "name": "該当なし"
        }
    ],
    "waf": [
        {
            "name": "確実"
        },
        {
            "name": "安全"
        },
        {
            "name": "費用"
        },
        {
            "name": "オペレーションズ"
        },
        {
            "name": "パフォーマンス"
        }
    ],
    "yesno": [
        {
            "name": "はい"
        },
        {
            "name": "いいえ"
        }
    ]
}