みなさんこんにちは。エンジニアの竹田です。
今日はIT企業であるフレクト内でのLLMの活用について紹介したいと思います。
フレクトの主な業務はシステム開発なので、もちろんシステム開発を効率化するための道具としてLLMを使っていますし、今後さらに加速していきます。
けれども、今回紹介するのはシステム開発でのLLMの活用ではなくて、それ以外の業務での活用です。 （システム開発のLLMでの活用についてもいずれお伝えしたいと思います）
きっと、IT企業でもそうでない企業でも参考にしていただけるものがあると思いますので、ぜひご一読ください。
さて、まずは軽いものから。
週報アシスタ
フレクトでは毎週システム開発のPMからプロジェクトの状況を報告してもらっています。 フレクトで使っているSalesforce組織内に報告用のオブジェクトがあるので、そこに決まったフォーマットで報告内容を登録してもらっています。 ただ、プロジェクトの報告って意外と難しいですよね？ 特にまだ経験が浅いPMだと、何か問題があることを報告してくれているようだけれど...抽象的だったり分からない、あるいは細かい問題の報告ばかりで結局プロジェクト全体としてはどうなのかわからない...なんてこともあったりします。
そこでAIの登場です。プロジェクトの報告を入れると、こんな感じでAIが報告内容を確認して、もっとわかりやすい報告にするためのアドバイスをしてくれます。 結構いい指摘ですね。 仕組みとしては、チェックする際の確認ポイントやアドバイスの指針をAIに渡すプロンプトに仕込んでいて、それに沿って優しい口調で教えてくれるのです。 （もちろん優しく伝えることもプロンプトで伝えてあります）
さらに工夫をしていくと、ドキュメンテーションのレビューやトレーニングにも使えそうです。 今後さらに発展させていきたいと思っています。
ポメ子（IT部門への問合せ対応Agent）
ポメ子はAgentforceで作ったAI Agentです。社内IT部門への問合せに人間に代わって答えてくれます。
情報源はSlack内での過去のIT部門への問合せとその回答です。slack上でのやり取りをData Cloud内のVector DBに入れてRAGをしています。 slack上でのIT部門とのやり取りは1日毎にData Cloudに連携しているので、Slack上で1度IT部門が回答したらその後はポメ子が自動で回答してくれるようになります。
ただ、Slackのデータだけだと様々な質問に答えるには足りなくてあまり対応率が良くありませんでした。そこで現在改良中です。 改良のポイントは、Perplexityを呼び出してWeb上の情報もAgentのインプットにして回答できるようにすること。 それから、IT部門のチケットシステム（backlog）での関連するチケットがあった場合に、それを教えてくれる機能を組み込むこと。
たとえばこんな風に回答してくれます。
新しい機能の組み込みはほぼできていて、後はもう少しテストしたらリリースです。
将来的には、アカウントの払い出しなどIT部門の依頼の前に申請承認が必要な場合でも、その申請をポメ子が代行...なんてことも検討しています。
提案書のお手伝い
これもAgentforceを活用した仕組みです（名前募集中）。 自然言語で話しかけると、フレクトで今まで作った提案書を検索してくれます。
仕組みとしては、Salesforce内に保存されている提案書（PDF）をあらかじめLLMで要約してData CloudのVector DBに登録しておきます（バッチで毎日新しい提案書を処理しています）。 このとき、提案書で大事な顧客名・金額・システムのプラットフォームをLLMがPDF内から抽出するようにしています。
そして人がSalesforce上でAgentに自然言語で話しかけると、AgentがVector DBを使って提案書を検索し条件に一致した提案書を出してくれるのです。
いまは検索だけですが、コンセプトは提案書作成のお手伝いなので、Agentが過去の提案書を基にアドバイス...なんてこともしていきたいところです。
最後に
LLMは工夫次第でいろんな使い方ができますね。今まで人がやっていた情報をもとにした検討・判断のような仕事は大部分をLLMを組み込んだAgentに任せられるようになりそうです。 しかも、人間と違ってAI Agentはシステムから呼び出すということができるので（週報アシスタのように）、システムの中に小さな賢い人が入って24時間働いてくれるみたいな使い方ができますね。
実はこれら以外にもフレクト社内でのLLMの活用という点ではいくつか企画しているもの・開発しているものがあります。 また別の機会にここで紹介していきたいと思いますので、楽しみにお待ちください。
