用語抽出
用語抽出に関する情報
はじめに
用語とは、特定のトピックを識別する言葉を合わせたものです。用語抽出は、テキストから用語を抽出するプロセスです。
考え方としては、特定のドキュメント内の単語の頻度と言語での頻度を比較します。ドキュメントには頻繁に出現する一方で、言語にはほとんど出現しない単語は、おそらく用語です。
テクノロジー
与えられた文書中の単語の頻度と1言語に対して1億単語のコーパスの間のポアソン統計、 最尤推定 、および対数逆文書頻度を使用します。単語が特定の順序で出現してある用語となる可能性を考慮するため、確率的な品詞タガーを使用しています。 相対エントロピーを最小限に抑えることで、単語のn-gramを作り出します。
なぜこれを開発したのか?
Translatedはこのテクノロジーを開発して、翻訳者がドキュメントの難関点を認識し、用語集の作成プロセスを簡略化できるようにしました。
また、これを使用すると、キーワードがドキュメントにどれだけ関連しているかをより正確に推定することによって、従来の検索エンジン(Googleなど)での検索結果の向上にも役立ちます。
是非使用したい!
このテクノロジーにご興味を持ってくださった場合には、 Translated Labs と自然言語処理に関する当社のサービスの詳細をお読みください。
力をお貸しください!
Translatedでは、グローバルな視点を持つ優れたエンジニアを常時募集しています。
当社アプリのさらなる向上に貢献できるとお考えの方は、ぜひご応募ください。
私たちの実験をご覧ください
Translation Party
英文を日本語に翻訳し、それをまた英語に翻訳し直す。それが無限ループのように続くとどうなるでしょう?ぜひ、お試しを!面白い結末を、ぜひお友達にシェアしてくださいね。
もっと詳しく