EUインフラで顧客専用オープンLLMをどう運用するか
- 7月30日
- 読了時間: 9分
自社で管理するハードウェア上に顧客専用にチューニングした翻訳モデルを構築するには6つのステップがあり、その成否は最初の1語を翻訳する前に下す判断で決まります。ライセンスを誤れば、法務が本番システムを解体し直すことになります。管理対象の技術ファイルを1つでも共有の公開APIに送れば、EU法上の無許可の移転を行ったことになりかねません。正しく構築すれば、多くの翻訳購入者が持たないものを手にできます。それは、顧客データが地図で示せる環境から決して外に出ない、AI翻訳パイプラインです。
以下は、当社 AD VERBUM が標準のAI+HUMANハイブリッドとして運用しているワークフローを、社内のローカリゼーションエンジニアリングやコンプライアンスのチームがたどれるように示したものです。
6ステップのパイプライン
順序が重要です。各ステップは、次のステップが依存する監査証跡を生み出します。
クリーンなライセンスのオープンウェイトモデルを選びます。DeepSeek V4 はMIT、Qwen 3.6 と Mistral Large 3 は Apache 2.0 で提供されます。3つとも自社ホスティングと微調整が可能で、コンテンツをベンダーのAPIに通す必要はありません。
隔離されたEUホスティングのテナントを立ち上げます。自社ハードウェア、またはEU内のシングルテナントのエンタープライズクラウドインスタンスで運用し、顧客データがその境界を出る経路を作りません。
そのテナント内で顧客の翻訳メモリと用語ベースを使って微調整します。学習データはモデルが動く場所にとどまり、微調整された重みは共有エンジンではなく顧客固有の資産になります。
推論時に同じ翻訳メモリと用語ベースで生成を制約します。モデルが提案し、用語が決定するため、承認済みの用語と過去のセグメントが、流暢でも誤った推測を上書きします。
認定を受けた人手のポストエディットを加えます。有資格の専門分野翻訳者が ISO 17100 と ISO 18587 に沿って出力をレビューし、最終テキストの責任を負います。
各ステップを記録します。モデルのバージョン、学習データ、プロンプト、レビュー担当者の操作を、ISO 42001 と ISO 27001 の証跡として取得します。
ステップ1、2、6は、多くの社内構築が静かに失敗する箇所であり、以下で詳しく取り上げます。
ステップ1、ライセンスと法域を読む
寛容なライセンスと安心できる法域は別々の2つの確認事項であり、両方が必要です。
MIT と Apache 2.0 は、誰にも尋ねることなく商用でのデプロイ、改変、微調整を認めます。だからこそ DeepSeek V4、Qwen 3.6、Mistral Large 3 がクリーンな出発点になります。利用制限条項やユーザー数の閾値を追加する「コミュニティ」または「改変」ライセンスには注意してください。大規模展開の前に法務レビューが必要になるためです。
法域は2つ目の確認事項です。EUのハードウェアで重みを自社ホスティングすれば、推論がモデル提供者のサーバーに触れないため、データ所在地の問題は無効になります。防衛やライフサイエンスの購入者にとっては、Mistral Large 3 のような欧州製モデルがその論点を完全に取り除きます。現在の分野におけるトレードオフについては、当社の 規制対象翻訳向けの最良のオープンLLMモデルの解説 で書きました。
ステップ2、テナントを隔離する
自社モデルを運用する狙いは、コンテンツが共有の公開APIに決して到達しないことです。その約束は、展開が真にシングルテナントである場合にのみ成り立ちます。
当社にとってそれは、ISO 27001 と ISO 42001 に準拠したEUホスティングのインフラを意味し、中核処理で公開クラウドツールに依存しません。顧客の翻訳メモリ、用語ベース、ソースファイルは1つの境界内にあり、微調整されたモデルもそこに一緒にあります。これと、たまたまフランクフルトでホスティングするSaaS翻訳ツールとの違いは、管理です。保持、アクセスログ、削除をあなたが決めます。まさにこの点について、当社は どの翻訳会社がEUホスティングのインフラで顧客専用にチューニングしたLLMを運用しているか の記事で提供者を比較しました。
ステップ3〜5、微調整し、制約し、そして人が承認する
顧客自身の翻訳メモリと用語ベースで微調整することが、汎用モデルを、顧客の製品名、規制上の言い回し、ハウススタイルを話す翻訳資産に変えます。微調整された重みがその知識を担い、用語ベースが推論時にそれを強制するため、流暢な推測が承認済みの用語を上書きすることはできません。
規制対象コンテンツでは人のステップは任意ではありません。汎用LLMは自信に満ちた読みやすい出力を生みますが、専門家でない人が気づかない形で誤っていることがあります。だからこそ、従来のセグメント単位のニューラル機械翻訳も生のLLM出力も、監査に耐える作業には認定レビューが必要です。この主張は NMT対LLM翻訳に関する当社の記事 で詳しく述べています。ISO 18587 の下では、ポストエディターは最終翻訳の責任を負う有資格の専門家であり、スペルチェッカーではありません。
ステップ6、いずれ直面する監査のために記録する
何をしたかの記録がないAI翻訳パイプラインは、データ保護当局のレビューや顧客監査の際に負債になります。ISO 42001 はリスク評価、影響評価、追跡可能な意思決定を備えたAIマネジメントシステムを求め、ISO 27001 はアクセスと変更の記録を求めます。モデルのバージョンとそのライセンス、学習データとその出所、プロンプトと用語制約、そしてすべてのレビュー操作を取得してください。そのログは、次に扱うデュアルユース上の立場も証明します。
どこで失敗するか
ほとんどの失敗は、1週間のセットアップを節約するために取った近道にさかのぼれます。次の点に注意してください。
ライセンス確認を飛ばすこと。「改変」またはコミュニティライセンスは、まさにあなたが構築した展開を制限しかねず、本番で気づけば稼働中のシステムを解体することになります。
コンテンツを共有の公開API経由で通すこと。顧客の管理対象ファイルが消費者向けAIのエンドポイントに触れた瞬間、データ隔離の約束は失われ、監査証跡も同様です。
デュアルユースの露出を無視すること。規則2021/821 第2条の下では、附属書Iまたは附属書IVの管理対象品目に結び付く実務知識の伝達は技術支援に数えられます。したがって、管理対象の技術データでモデルを微調整したり、審査を受けていない翻訳者に渡したりすることは、無許可の移転になりかねません。審査済みの翻訳者とEUホスティングの環境がこれに応え、秘密保持契約では応えられません。
記録を後回しに扱うこと。作業が行われている間に証跡を取得しなければ、後でBAFA、DGA、または認証機関のために再構築できません。
この4つを直せば、パイプラインは構築目的のレビューに耐えます。当社 AD VERBUM はこれを特別プロジェクトではなく標準ワークフローとして運用しており、それがデモと準拠した本番ラインの違いです。EUのAI法がいまAI翻訳に求めるガバナンスの全体像は、ISO 42001 がAIガバナンス下の翻訳会社に求めるもの をご覧ください。
当社のAI翻訳サービス
当社の 規制業界向け翻訳サービス は、ISO 27001 および ISO 42001 認証を取得したEUホスティングのインフラで運用され、中核処理で公開クラウドツールに依存しません。すべてのプロジェクトは当社のAI+HUMANハイブリッドワークフローを通ります。まず顧客の翻訳メモリと用語ベースを取り込み、当社独自のLLMベースのLangOpsシステムが顧客専用にチューニングしたオープンウェイトモデル上で顧客の用語に制約された出力を生成し、認定を受けた専門分野の専門家が技術的正確性と規制順守をレビューします。当社の品質保証は ISO 17100 と ISO 18587 に整合しており、EUのAI法（規則2024/1689）やデュアルユース規則2021/821に基づく管理対象データの取り扱いなど、業界固有の要件を必要に応じて適用します。当社はライフサイエンス、法務、金融、防衛、製造の顧客に150以上の言語と3,500人以上の専門分野翻訳者で対応します。監査に敏感なコンテンツを扱うチームは、お問い合わせ からセキュリティおよびコンプライアンス要件を直接ご相談ください。
FAQ
どのオープンLLMが商用の自社ホスティングに十分クリーンなライセンスを持っていますか。
DeepSeek V4（MIT）、Qwen 3.6、Mistral Large 3（いずれも Apache 2.0）は、いずれもベンダー契約なしで商用利用、改変、微調整を認めます。MIT と Apache 2.0 は、ユーザー数の閾値や利用制限条項のない2つの寛容なライセンスです。コミュニティまたは「改変」ライセンスは、大規模展開の前に法務レビューが必要です。
中国由来のモデルを自社ホスティングするとデータ所在地の問題が生じますか。
EUのハードウェアでオープンウェイトを自社ホスティングすれば、推論が提供者のサーバーに決して到達しないため、データ所在地の問題は、モデルをどこで運用するかで答えられ、どこで作られたかではありません。ライセンス条項は法域にかかわらずあなたを拘束します。その論点を完全に取り除きたい購入者には、Mistral Large 3 のような欧州製モデルが明確な選択肢です。
翻訳メモリでの微調整はプロンプティングとどう違いますか。
微調整は顧客自身の翻訳メモリと用語ベースでモデルの重みを調整し、モデルがハウス用語と言い回しを内在化します。推論時に同じ用語ベースで生成を制約すると、承認済みの用語がセグメントごとに強制されます。両者を合わせると、汎用のレジスターではなく顧客の規制上の言語に整合した出力が生まれます。
モデルが顧客データで微調整されていても、人によるレビューは依然として必要ですか。
はい。ISO 18587 は最終翻訳の責任を負う有資格の人手ポストエディターを求め、規制対象コンテンツではそのレビューが、流暢なモデルが依然として犯す誤りを捕らえます。微調整されたモデルは編集の手間を減らしますが、責任のステップは取り除きません。
ISO 42001 はAI翻訳パイプラインに何を期待しますか。
ISO 42001 はAIマネジメントシステムの標準であり、リスク評価、AIシステムの影響評価、そしてシステムがどのように構築・運用されるかの追跡可能な記録を期待します。翻訳パイプラインでは、それはモデルのバージョン、学習データ、プロンプト、用語制約、レビュー操作を記録することを意味します。その証跡が、データ保護当局のレビューや顧客監査の際に耐えます。
翻訳者の起用はいつEUのデュアルユース規則を発動させますか。
規則2021/821 第2条は技術支援を、実務知識の伝達を含むと定義し、附属書Iと附属書IVが管理対象品目を列挙します。管理対象の技術データを審査を受けていない翻訳者と共有すること、または管理なしにそれでモデルを微調整することは、BAFA、DGA、UAMA などの当局が執行する無許可の移転になりかねません。審査済みの翻訳者とEUホスティングの環境は、秘密保持契約だけでは得られない弁明可能な立場を与えます。
