laya

概要

Layaは、トークンを生成せず1回の順伝播でテキストに対する型付きの判断を行うPythonライブラリです。選択、スコア、はい/いいえの質問に100以上の言語で答え、READMEでは1リクエスト約33ミリ秒とされています。ルーターがリクエストごとに英語用や多言語用など適切なチェックポイントを選びます。テキストと質問のセットを渡すと、確率付きの回答が返ります。pipで導入でき、HTTPサーバー、MCP、LangChain、LlamaIndex、CrewAI、ONNX用の追加パッケージもあります。

主な特長

• 1回の順伝播で選択、スコア、はい/いいえを判定
• 100以上の言語に対応
• リクエストごとにルーターがチェックポイントを選択
• HTTPサーバー、MCP、LangChain、LlamaIndex、CrewAIの拡張
• laya-tsにTypeScript版あり

こんな人・用途に

問い合わせを担当部署に振り分けるような、分類やルーティングの処理を作る開発者向けです。長文はmax_lenを8192にする必要があり、READMEは自分のデータでの精度確認を勧めています。