第2回:自然言語→SQL エージェントで KOI を測る ― 品質を守りながら費用対効果の高いモデルを選ぶ
自然言語で聞くと AI が SQL を生成して社内データベースに問い合わせる Text-to-SQL エージェントを題材に、5 つのモデルを KOI(KPI ÷ コスト)で実測しました。品質フロアを設けたうえで、最も費用対効果の高いモデルを選ぶ過程を、実測値と手順とともに紹介します。
読む →
「KOI」タグの記事(2件)
自然言語で聞くと AI が SQL を生成して社内データベースに問い合わせる Text-to-SQL エージェントを題材に、5 つのモデルを KOI(KPI ÷ コスト)で実測しました。品質フロアを設けたうえで、最も費用対効果の高いモデルを選ぶ過程を、実測値と手順とともに紹介します。
Tokenmaxxing(トークン過剰消費)が招く経営リスク、その第一防衛線となるモデルルーター、そしてその先にある成果駆動型の最適化。入力駆動から成果駆動へと軸を移す指標 VOI・KOI と、それを実装するOSS「Nishiki」について考察します。