スタート
home
基本概念
home
💭

LLM設定

LLMとは

*LLM(Large Language Model/大規模言語モデル)**とは、大量のテキストデータを学習することで、人間のように言語を理解・生成できるAIモデルです。
簡単に言えば、「人間のように文章を読んで書けるAI」とお考えいただくとわかりやすいでしょう。

LLMの主な特徴

膨大なデータを学習:
→書籍、ニュース記事、Webページなど、数十億件規模のテキストデータから言語パターンを学習しています。
文脈の理解:
→質問や依頼の背景や意図を読み取り、適切な応答を生成します。
自然な文章の生成:
→短文から長文まで、読みやすく自然な文章を自動的に作成できます。
幅広いタスクに対応:
→質疑応答、要約、翻訳、文章作成、プログラミング支援など、多様な言語処理に活用できます。

LLMの活用例

情報の検索と要約: 例:「気候変動の主な原因は?」などの質問に対して、要点を整理して回答。
コンテンツ作成支援: 例:ブログ記事、社内メール、報告書のドラフト作成をサポート。
翻訳: 例:韓国語から日本語・英語など、複数言語間での翻訳作業を自動化。
プログラムコードの作成支援: 例:ソースコードの生成やエラー修正のアドバイス。

わかりやすい例え

LLMは、何百万冊もの本を読み込んだ優秀なデジタル専門家のような存在です。
さまざまなトピックに対して、自らが学習した知識をもとに回答や提案を行います。
ただし、通常の人間と異なり、リアルタイムのインターネット検索や最新情報にはアクセスできません
そのため、STORMのようなプラットフォームと連携することで、
**最新情報との連動や文書ベースの応答(RAG)**といった機能を拡張することが可能です。

LLMモデルの選択

エージェントで使用するLLMモデルを選択していただけます。
各モデルのガイドをご参照のうえ、貴社のサービス用途に最適なLLMを選定ください。
選択可能なモデル
GPT
Claude
Xionic
Xionicは、Sionicが独自に開発したLLMモデルです。
ご利用をご希望の場合は、営業チームまでお問い合わせください。
ご利用中の料金プランによっては、利用可能なモデルに制限がある場合がございます。 
詳細につきましては、営業チームまでお問い合わせください

プロンプトモードの選択

プロンプトを直接カスタマイズするか、STORMの標準プロンプトを使用するか選べます。
エージェントのタスクが登録された文書に基づく応答である場合は、**基本モード**を、それ以外のタスクであれば**プロモード**を選択し、プロンプトを自由にカスタマイズしていただけます。

基本モード

応答失敗メッセージの設定について

エージェントが学習していない情報に関してユーザーから質問された場合の対応方法を設定いただけます。
想定外または未学習の質問に対しては、適切な模範的メッセージをご指定ください。
応答失敗メッセージは50文字以内に制限されておりますので、ご注意ください。

プロモード

システムプロンプト

システムプロンプトは、モデルの基本的な動作や、応答のスタイル・口調・態度を定義するための指示文です。
ユーザーの入力よりも先に適用されるこのプロンプトにより、モデル全体の応答傾向を一貫してコントロールすることが可能です。
使用例:
「親切かつ丁寧な口調で説明してください」
「簡潔で正確な情報を提供してください」
「ユーザーの要望に自然に寄り添って回答してください」

ユーザープロンプト

ユーザープロンプトとは、実際のユーザーからのリクエストや質問を指します。
モデルは、このユーザープロンプトに基づいて応答を生成します。
使用例
「ピザの作り方を教えてください」
「営業時間はいつですか?」
「浄水器のモデル名は?」

プロンプト内の変数挿入

プロンプトには、必要に応じて変数を挿入することができます。
これにより、検索結果やユーザー入力などの動的な情報をプロンプトに組み込むことが可能です。
{{検索された情報}}
検索モジュール(RAG)を利用するエージェントにおいてのみ使用可能な変数です。
実行時に検索された結果が、この位置に挿入されます。
{{入力されたメッセージ}}
ユーザーの入力した内容が自動的に格納される変数です。

検索情報テンプレートのカスタマイズ

検索モジュール(RAG)を利用しているエージェントでは、検索結果の表示形式(テンプレート)をカスタマイズすることが可能です。
検索情報をどのようにフォーマットするかを、以下の変数を用いて柔軟に定義できます。
使用可能な変数:
{{インデックス}}:検索結果の番号(自動に付与されます)
{{ファイル名}}:情報が抽出された元ファイル名
{{ページ}}:ページ情報(対応していないドキュメントもあります)
{{内容}}:実際の本文情報
例:
内容のみを表示する
ファイル名と内容をセットで表示するなど、ニーズに応じて自由に調整可能です。
挿入する検索結果数の設定:
表示する検索結果の最大件数も指定可能です。 
→例:検索結果20件のうち、上位5件のみを挿入
推奨設定:
精度を重視する場合 → 多め(例:20件) 
応答コストや速度を重視する場合 → 少なめ(例:10件)

LLMパラメータ

LLM(大規模言語モデル)の詳細パラメータを、必要に応じて直接カスタマイズすることが可能です。