本文へスキップ
kenjtecJournal
Journal内を検索

ドイツ語で尋ね、アラビア語で見つける:AI検索はどのように言語の壁を越えるのか

多言語検索は、異なる文字体系をまたいで同じ意味を見つけることを目指しています。安定した知識カードと、意図的に似せた反例を用意することで、テストが意味のあるものになります。

カウンターでアナが、赤いふたの同じ瓶からいろいろな容器に中身を注いでいる。AIによるイラスト。

質問はドイツ語で、決定的な指示はアラビア語で書かれています。同じ文字列を探す検索では、該当する段落をほとんど認識できません。これに対し、多言語検索アプリケーションは、異なる言い回しをまたいで質問と意味を結びつけようとします。ただし、似たような内容のテキストが見つかるだけでは、まだ十分ではありません。

なお、 公式の BGE-M3 モデルカード では、多言語埋め込みに加えて、密(dense)検索、疎(sparse)検索、マルチベクトル検索について説明されています。これらの機能は情報源の選択に関わるものです。完全な翻訳や正しい回答は、それとは別に検討すべき課題です。

共通の検索空間があっても、それはまだ回答ではありません

密検索では、テキストを数値表現に変換し、類似度の尺度を使って比較します。疎な手法では、別の形で分布する重み付きの特徴を用います。マルチベクトル手法では、一つのテキストを複数の表現にわたって比較できます。モデルカードには複数の検索経路が記載されていますが、それらが利用できるというだけでは、あらゆる言い回しでヒットすることは保証されません。

読者にとってまず重要なのは、もっと単純なことです。取得されたセクションは、制約や適用範囲も含めて、同じ質問を扱っているでしょうか。アーカイブされた文書に関するヒットは、現在の作業フォルダーについての質問に対する根拠としては十分ではありません。

大規模なアーカイブではなく、三つの知識カードを

固定の識別子を付けた、小さな独自のコレクションを作成してください。K01 は、封印されたパッケージに関する承認ルールを説明します。K02 は、公開されている資料を持ち出すことを認めます。K03 は、アーカイブなど別の対象を扱います。事実は意図的に短く、曖昧さのないものにしてください。

K01 については、該当分野の専門知識を持つ人が確認したドイツ語、アラビア語、ヒンディー語の版を使うことができます。以下の文は私たちが自作したもので、教材用の例です。公開する前には、適切な言語チェックが必要です。

K01-de: Versiegelte Pakete dürfen nur nach Freigabe geöffnet werden.
K01-ar: لا يجوز فتح العبوات المختومة إلا بعد الحصول على موافقة.
K01-hi: सीलबंद पैकेट केवल अनुमति मिलने के बाद खोले जा सकते हैं।

識別子が結びつけるのは、ファイル名だけでなく意味です。検索テストの前に、各質問がどのカードにヒットすべきかを定めておいてください。ドイツ語の質問「Wann darf ich ein versiegeltes Paket öffnen?」(「封印されたパッケージはいつ開けてもよいですか?」)では、K01 が期待される根拠に含まれます。K02 は、条件が異なる、意図的に近づけた反例です。

まずヒットを評価し、その後で言い回しを評価します

適切な検索環境を用意したら、まずは後続の回答生成を行わずに質問を投げてください。上位ヒットの識別子と、それぞれの原文を記録します。これにより、そもそも正しい根拠が選ばれているかどうかを確認できます。

最初のヒットを確認し、その後で結果リストのもう少し広い範囲を確認してください。関連文書が二位にあることは、最初のヒットが関連文書であることとは異なる性質を示しています。ごく小さなコレクションであれば、人為的に精密な全体の割合を公表しなくても、こうした違いを直接見ることができます。

小さな評価表があれば十分です。質問の識別子、期待されるカード、見つかったカード、原文の言語、そして観察された意味の違いがあればそれを記入します。次に、質問の言語だけを変更してください。同時にコーパスを書き換えてしまうと、新しいラウンドはもはや同じ比較ではなくなります。

否定表現は特に価値のある反例です

例外を狙った質問を追加してください。共通する単語が多いと、事実としては誤ったヒットが魅力的に見えることがあります。「してはならない」や「承認後に限り」といった表現を含むセクションは、その意味を保たなければなりません。したがって、似た内容を探す検索と、同一の記述かどうかの確認を混同すべきではありません。

ヒットが選ばれた後で初めて、必要に応じて回答や翻訳を生成させます。原文の箇所は表示し続けてください。こうすることで、検索の誤りと翻訳の誤りを区別できる状態が保たれます。正しい情報源がまずく訳されることもありますし、流暢な翻訳が不適切な情報源を、分かりやすいものの誤った形で説明してしまうこともあります。

表示もテストの一部です

アラビア語のテキストには正しい読み方向が必要であり、技術的な識別子は論理的な順序のまま保たれます。ヒンディー語はインドネシア語ではありません。こうした違いは、モデルのテストがそこから品質についての見かけ上の結論を導き出す前に、参照データの段階で正しくなっているべきです。

したがって、多言語検索を始めるにあたって必要なのは、よく理解された少数の意味と、優れた反例です。BGE-M3 は、そのための文書化されたモデルを提供しています。それがあなたのコレクションを実用的に検索可能にするかどうかは、具体的な質問、言語、原文の箇所を使った実際の検索によってのみ明らかになります。

情報源と現状

情報源は 2026年十月25日時点のものです。 BGE-M3 モデルカード。

出発点はハンブルクです。

役立つ知識は、どこへでも。

ハンブルク発、世界に向けたAI実践ガイド。

保存済み記事