[想定している読者像]
情報システム部門の責任者やデータサイエンティストの方。大規模言語モデル(LLM)の動向に興味ある方、slackとGPTを連携したい方。
[コンテンツ属性]
ビジネス：★☆☆☆☆
データアナリティクス：☆☆☆☆☆
エンジニアリング：★★★★☆
2023年11月に行われたOpenAIのカンファレンスにていくつかのリリース1リリースノート https://help.openai.com/en/articles/6825453-chatgpt-release-notesが発表されました。その中でもGPTsとAssistant APIという機能は今まで以上に簡単に(ほぼノーコードで)カスタムChatGPTを作成することができ、最も注目すべき機能です。本稿ではGTPsの実践とAssistant APIで作成したカスタマイズGPTをslackに連携する方法をご紹介します。
1. 概要
chatGPT登場から一年余りがたちました。最新版のエンジンGPT4はより自然な文章生成を実現し、将来的には私たちにとって不可欠な存在となるでしょう。プログラミング補助や文章の要約・翻訳などその活用も広がりをみせています。
今後の活用方法としては、自社にカスタマイズしたオリジナルのChatGPTを導入することが考えられます。社内文書を学習させ、社内の問い合わせに対応したり、FAQを学習させればカスタマーサポートbotとして利用できます。
一方で大規模な言語モデルをファインチューニングするには高度な技術が必要です。また計算コストも高くなります。そこで、別のアプローチとして、エンベディングという手法がよく用いられています2fine tuning vs embedding https://medium.com/@imicknl/how-to-create-a-private-chatgpt-with-your-own-data-15754e6378a1。この手法では、モデル自体を更新するのではなく、自社に関連するテキスト（例えばFAQ集）をベクトルとして取り込みます。ベクトルとして取り込むことで、テキスト間の類似度を計算できるようになります。そして、ユーザが質問した内容に類似した解答と質問のテキストセットをプロンプトとしてGPTに投げます。しかしこの方法でも一定のエンジニアリングの知識が必要です。
2023年11月に発表されたGPTsはほぼノーコードでカスタマイズが可能である点が画期的です。また作成したオリジナルGPTsはストアで配布することができます。これによりオリジナルchatbotの作成が誰でも簡単にできるようになりました。ただしGPT-Plusのサブスクを契約していないと使えないことに注意してください(2024年2月時点)。
本稿ではこのGPTsの作成方法について解説し、次にこのオリジナルGPTsをAssitant APIにコピーし、PlugBear経由でslackに連携する方法をご紹介します。
2. GPTs
GPTsに自社の紹介資料をup loadし、自社の紹介botを作成します。ただし顧客情報や機密情報などはアップロードしないように注意が必要です。
2.1 GPT-Plusのサブスク契約
現在(2024年2月)GPTsはGPT-Plusのサービスの一つであるためサブスク契約が必要です。価格は$20/月です。
2.2 GPTsを作成する
chatGPTのTOP画面左上にある「GPTを探索する」をクリックします。
すると右上に「GPTを作成する」ボタンのある画面に切り替りますのでそれをクリックし、以下のような設定画面を開きます。
画面左のCreateタブをクリックし対話画面にし、どのようなchatbotを作成したいか入力します。日本語でもOKです。ここでは弊社の紹介botを作成するため以下の図のように入力しました。
これでひな型ができました。といっても何も学習していない状態なので次に、資料を読み込ませます。
2.3 資料をアップロードする
弊社のクレデンシャル資料をアップロードします。50ページのほどのppt形式の資料です。Createタブの右にあるConfigureタブをクリックし、左下にあるknowleageのアップロードボタンからファイルをアップロードします。直感的なので迷うことは少ないと思います。
これでカスタムGPTの完成です。簡単すぎて本当にこれでよいのかと疑問ですが。
2.4 対話してみる
弊社の紹介をしてもらいました。まあ大体あっているという感じです。ちなみにコーポレートHPで公開していない内容も含まれていますので、アップロードしたファイルをもとに回答しているようです。
3. Assistant APIを用いてSlackをオリジナルBot化する
先ほど作成したGPTsの設定をAssitant APIにコピーし、それをSlackと接続します。準備として
- Open AI APIの準備が必要。($5 or 3カ月間までは無料トライアルで使用可能)
- PlugBearアカウント(LLMモデルと各種アプリを連携するツール、今回は無料アカウントで十分です)
OpenAI APIキーをお持ちでない場合は、OpenAI APIキーからCreate new secret keyで作成します、secret keyは初回発行時しか確認できないため忘れないようにしてください。あとで使用します。
以下を参考にしました。
3.1 Assistant API
https://platform.openai.com/assistants で、createします。
GTPsで作成した設定と同じnameとinstrucitonを設定します。またuploadしたファイルがあれば、uploadします。ここまででお気づきの方もいると思いますが、GPTsの作成は必須ではありません。
NameとinstructionをGPTsからコピーします。アップロードした資料を参照するためにRetrievalをオンにしておきます。Retrievalは従量課金ですが2024/3/1までは無料で使用可能です。価格についてはこちらを参照ください。ModelはRetrievalを使用するためにgpt-3.5-turbo-1106を選択します。gpt4の方がおそらく性能の良い回答が得られると思いますが、APIの利用料が高いので予算とご相談のうえで選択ください。
3.2 PlugBear
Plugbear(https://plugbear.io/)はSlackとLLM(OpenAI APIなど)を連携させるためのプラットフォームです。ノーコードで設定を行うことができます。PlugBearを使用すると、作成したGPTをSlackボットとして利用することが可能になります。
個人向けに、無料で使えるプランがあるのでここではそれを使います。
- PlugBear.ioに登録する（無料！）
- チャネルページからSlackのワークスペースを追加します。
- LLM Appsページを開き、「アプリを追加」ボタンをクリックします。
- OpenAI APIキーを貼り付け、作成したアシスタントを選択します。OpenAI APIキーがない場合は、OpenAI APIキーページで作成できます。
- 接続ページを開き、「新規接続」ボタンをクリックし、Slackワークスペースとアシスタントを接続します。
接続ページを開き、「新規接続」ボタンをクリックし、Slackワークスペースとアシスタントを接続します。これでslackにPlugBear君のアイコンが出てくれば成功です。メンションして質問することで返答してくれます。
その他にもこのようなhttps://gptslackbot.com/ ツールがあるようです。
4. 近未来予想図
LLMの技術は日進月歩、またOpenAIやMicrosoftを中心としたLLMを含む生成AIのエコシステムはとどまることを知りません。本節では2024-2025までの動向を予測します。
- 現時点でスクラッチでLLM関連ツールを自社で作成しても、それよりもはやく簡単に安く使用できる機能が開発されることが予想される。技術開発への投資のみならずLLM関連分野の調査や企画への注力が重要。
- 調査・企画と同時にPoCが流行すると予想。PoCは①セキュリティ②回答の正確性③費用対効果の観点が評価軸になると考える。特に費用対効果に関しては生成AIに対する期待値をある程度現実的なものに調整するのではないか。
- 業務導入はデータなどのリスクの小さい自社内活用から検討されると予想。生成AIのガイドラインは各種団体が独自に展開しており
以上ご精読ありがとうございました。
無料相談大歓迎です。ご興味ございましたら、お問い合わせはこちらから宜しくお願い致します。
