メインコンテンツまでスキップ

Large Language Model(LLM)

Large Language Model(LLM)ノードは、データの処理・分析・整形のために設計されています。外部サービスから情報を収集する事前のアクションノードで得られたデータを、Ava(AI 搭載のバーチャルアシスタント)を用いて解釈・生成・変換できるようにします。複雑なフローのロジックを定義する代わりに、本日から 90 日未満で期限切れとなるバージョンを使用している EKS クラスタを特定し、該当クラスタの ARN を返す のように、直接の質問を与えるだけで済みます。LLM ノードは、その結果データをフロー内の他ノードが後続のアクションで利用できるように公開できます。

さらに、フロー内の前段ノードから特定のフィールドを参照して、より正確で一貫した出力を得ることも可能です。LLM ノードは、生成したデータを単一フィールドまたは JSON オブジェクトとして出力し、通知の送信などフローの次のステップで利用できるようにします。

LLM node example configuration

  • Prompt:Ava に対する質問を入力します。

  • (任意)Context:前段ノードのフィールドを追加して、Ava により多くのコンテキストを提供します。

  • 出力の参照方法

    • 基本的な参照:AI によって生成された出力を単一のフィールドから参照します。

    • 高度な参照:AI によって生成された出力を複数のフィールドから参照します。参照するフィールドを JSON schema で定義します。