Python

OpenAI Decisions APIとJevを精度・コスト・処理速度で比較する前回の記事では、Jevを使ってナレッジグラフの関係を選択する処理を評価しました。今回は同じデータを使い、OpenAI Decisions APIと精度・コスト・処理速度を比較してみました。

Jevでナレッジグラフの関係を低レイテンシに評価する - CoDExを用いた精度検証ナレッジグラフは、人・組織・製品・場所などをノード、その間の意味のあるつながりをエッジとして表すデータ構造です。文章だけでは検索や集計が難しい情報も、つながりを明示することで「ある会社の製品を探す」「人物が所属した組織をたどる」といった処理に利用できます。ナレッジグラフとtriple ナレッジグラフのレコードは、(主語, 関係, 目的語)という3要素、すなわちtripleで表します。主語と目的語がノード、関係が両者を結ぶエッジの種類です。

約0.2秒で文章を判定するTypeSafe AIのJevを試してみる TypeSafe AIのJevは、分類先やスコアなど、プログラムが次の処理を決めるための判断結果を高速に返すことに特化したAIモデルです。ChatGPT(GPT)やClaudeなどの従来のLLMとは異なり、生成モデルとして機能するのではなく、あらかじめ定義した選択肢からの選択やスコアリングに特化しています。業務システムなどの組み込みで単独でも利用可能ですが、従来型のLLMと組み合わせて利用することで、コストや応答時間の面での削減が期待できます。今回、桃太郎のあらすじを使って、PythonからJevを利用する方法と処理速度を確認してみました。