生成AIをもっとお手軽に！！～生成AI活用センターの取り組みご紹介～

はじめに　〜本記事について〜

生成AIは、近年急速に進化を遂げ、業務の効率化やクリエイティブな発想の促進に役立つ技術として注目を集めています。

しかし、その一方で「生成AIから適切な回答を得られない」といった悩みや不満も増えており、多くの企業や個人にとっては生成AIを導入する難しさが課題となっています。

本記事では、この課題を解決するために近年の生成AI活用には不可欠な存在となりつつあるRAGやLLMの具体的な役割を紹介し、これらを使いこなすために社内で取り組んでいる「生成AI活用センター（通称、生活センター）」の立ち上げや活動について連載形式で紹介していきます。

生成AIをもっと身近に、そして実務に役立つ形で活用するためのステップを一緒に学んでいきましょう！！

近年、大注目の生成AIを簡単に振り返り

本章では、生成AIの基本的な仕組みを簡潔に説明し、その技術がどのように進化し、なぜ今注目を集めているのかを解説します。

さらに、生成AIを社内業務や自社サービスに組み込むことによって、どのようなメリットが得られるのかについても具体的な事例を交えて紹介します。

生成AIの基本的な仕組み

生成AIは、大量のデータをもとにコンピュータがパターンを学習し、テキスト、画像、音声などの新しいコンテンツを自動生成する技術です。

具体的な例として、「お祝いのスピーチを作ってほしい」とお願いすると、誕生日や結婚式などの状況に応じて、その場にふさわしいスピーチを自動で作成します。

★生成AIについて詳しくはこちら

生成AIは、膨大なデータを学習することで質問に答えたり文章を生成したりと柔軟に対応し、人間に近いコミュニケーションが可能です。また、生成AIは学習を重ねることで表現力が進化し、コピーライティングやブログ記事の作成などでも活躍しています。

生成AIを社内業務や自社サービスに組み込むメリット

生成AIを組み込むことで、業務の効率化やコスト削減が期待されます。

ここでは参考事例として、利用者からの問い合わせに応答するカスタマーサポートにおける生成AIの導入事例を参考に、そのメリットなどを見ていきましょう。

生成AI導入前のBefore

顧客からの問い合わせ対応を全て担当者が行う場合、対応が遅れたり、内容の重複対応が発生することがあります。また、簡単な質問にも多くの問い合わせが集中すると時間が割かれ、対応に負担がかかっていました。

生成AI導入前のAfter

カスタマーサポートに生成AIを用いたチャットボットを導入することで、簡単な問い合わせにはAIが自動応答し、複雑な問題のみを人間の担当者が対応する形を導入しました。

これにより、顧客対応が24時間対応可能となり、担当者の負担が軽減され、顧客満足度も向上しました。

たとえば、ある企業ではカスタマーサポートに生成AIを導入した結果、問題解決率が1時間あたり15%前後向上し、対応時間も約10%短縮されたという事例もあります。

また、オペレーターの心理的な負荷が軽減されたことで離職率が25%減少し、全体の生産性が大幅に改善されたという事例もあります。

このように、生成AIを活用することで、繰り返し作業や負担の大きい業務が自動化され、業務効率が大幅に向上します。結果として従業員は、より付加価値の高い仕事に集中できるようになり、業務の質が総合的に向上します。

生成AIを導入することの難しさ

生成AIを導入することには大きな可能性がある一方で、実際の導入にはさまざまな課題が伴い、弊社にも生成AI導入課題に関する相談がここ最近とても増えています。

これにはAIの精度に関する技術的課題、扱うデータに関する倫理的な課題、導入や運用面の課題と大きく３つに分類できます。これらについて少し深堀りしていきましょう。

技術的課題

生成AIを導入したものの、AIに対して過度な期待を抱いてしまうケースもあります。たとえば、AIを使って完全に自動化しようとした結果、AIが想定通りに動かず、人間が介入しなければならない状況が発生することがあります。このような場合、システムが誤作動したり、業務がかえって複雑化したりすることがあります 。

この他にもデータの質や量が不十分で正しい学習ができず、AIが正確に機能しないことなど、データ量と学習面における技術的な課題も挙げられます。

倫理的課題

生成AIの活用においては、データプライバシーや偏りの問題も重要となってきます。AIが偏ったデータを学習すると、不公平な結果を生成してしまうリスクがあります。

生成AIが学習するデータに偏り（バイアス）が含まれていると、AIは偏った結果を生成してしまいます。

たとえば、人事部門でAIを使って候補者をスクリーニングする場合、過去のデータに性別や人種に関する偏見があれば、AIもその偏見を再現してしまい、公平でない判断を下す可能性があります。

加えて、生成AIは大量のデータを扱うため、個人のデータが知らないうちに収集・使用されるリスクも倫理的な課題として挙げられます。特に、顧客データや従業員データを扱う場合、そのデータが適切に保護されていなければ、プライバシーの侵害につながる可能性があります。

運用面の課題

生成AIを効果的に使うには、AIツールを扱える従業員が必要ですが、スキル不足がしばしば課題となります。多くの従業員が、AIの基本的な仕組みや操作方法を理解していない場合、導入しても十分に活用できない可能性があります。
特にAIが生成する結果をどのように解釈し、業務に反映させるかといった部分で、教育とトレーニングが不可欠です 。

また、AIシステムの導入後も、メンテナンスやデータのアップデート、モデルの再トレーニングが必要です。
しかし、導入後にこれらの作業を怠ると、AIは最新の情報に基づいた意思決定ができなくなり、結果として効率が低下します。継続的なモニタリングとチューニングが求められます 。

ここまで紹介してきた課題について共感や同じ問題を抱えている人は、意外と多いのではないでしょうか？
次章では、これらの課題を対策するために近年注目されているRAGやLLMという存在について紹介していきます。

生成AIの導入をサポートするLLM・RAG、開発支援ツールについて知ろう

生成AIの導入に伴う課題を解決する手段として、LLM（大規模言語モデル）やRAG（Retrieval-Augmented Generation）といった仕組みの導入が有益となってきます。

また、これらのAI技術を用いたアプリ開発を効率化するための「Dify」「Langchain」「Microsoft Power Platform」といった開発プラットフォームも近年、特に注目を集めています。

本章では、これらについて詳しく見ていきましょう。

➡︎【資料ダウンロード】確実に進める生成AI活用の実践ガイド「LLM Loop導入支援」

LLM(大規模言語モデル)とRAGとは？その関係性について

LLMは大量のデータを基にして適切な文脈を理解し、RAGは外部情報を検索して最新かつ正確なデータを補完します。

これにより、技術的なデータ不足、倫理的なバイアス問題、運用面でのAIサポート不足といった課題に対処することが可能になります。
本章では、これらの技術が具体的にどのように課題解決に役立つかを説明します。

LLM（大規模言語モデル）とは

大規模言語モデル（LLM）は、大量のテキストデータで学習した言語モデルを指します。

テキストデータを大量に学習し、人間のような自然な言語生成を行うAIモデルであり、ChatGPT、Copilot、GeminiなどはLLMの技術を基盤として構成されたサービス群として分類できます。

LLMのより詳しい内容や活用法は以下で紹介していますので興味がある方はこちらをCheck！！

RAG（Retrieval-Augmented Generation）とは

前章でも触れてきましたが、LLM単体では「最新のデータが担保されない」「間違った回答を生成する」などの課題がありました。

この課題を解決するために活用されるのがRAGという仕組みで、RAGはLLMに外部情報を理解させ、それらを元にした回答を生成させるための技術です。

RAGの仕組みを理解できるよう、ここでは弊社で取り組みを進めている社内ポータルチャットボットの事例を元に解説していきます。このチャットボットは、生成AIに会社の情報やお知らせなどを質問すると、適切な回答を教えてくれるというものになります。

一般的なLLM（ChatGPT単体）では「社内の部署一覧を教えて」などの質問をすると、正しい一覧を返さないどころか、存在しない部署まで回答するといった状況が発生していました。

これらは社内の機密情報であり、一般公開されていない情報が含まれているため、生成AIが正しい回答をできないことは、ある意味で当たり前と言えます。

ここで、RAGの出番です。

RAGを用いた開発では、今回の例だと「社内データベースの情報」といった一般的な情報に加え、利用者の質問に正しい回答を導くために必要な情報を前知識としてLLMに渡してあげます。

LLMは事前に得た前知識を元に回答を生成しつつ、従来の一般情報を元に言語化を行うので正しい回答が可能になります。

実際に弊社の社内ポータルチャットボットにおいても、質問の内容に応じた適切な前知識をLLMに渡すことで正答率が格段に上がったという実績がありました。

➡︎【資料ダウンロード】確実に進める生成AI活用の実践ガイド「LLM Loop導入支援」

AIをもっと身近で、簡単に！！「生成AI活用センター」を社内で運営してみた

ここまで紹介してきたように生成AIの進化により、業務効率化や新しいビジネスモデルの創出が期待されていますが、RAGやLLM、Difyといった最新技術が存在しているにも関わらず、それらを十分に使いこなすのはまだ難しいと感じることが多いのが現状です。

私たちの社内でも、生成AIを活用した業務改善の可能性は広がっているものの、専門的な知識や技術、それらの進化のスピードが障壁となり、実際に手を動かして活用できる人材が限られているという課題に直面していました。

そこで、これらの技術をもっと身近で扱いやすくし、積極的に学び、広めるための社内プラットフォームが必要だと考え、「生成AI活用センター（通称、生活センター）」を立ち上げました！

具体的な活動内容はnoteでも絶賛公開中です。

生活センターってこんなところ　〜とにかく楽しく、触って、創ってみる〜

生活センターの活動は、日常生活で直面する問題や興味深い課題を、AIを使って解決する方法を探ることです。

AIをどの程度日常生活に取り入れられるのか、具体的にどのように活用できるのか、そしてAI活用で浮かび上がる新たな課題は何かを探ります。これらの問いに答えるには、とにかく考え、実際に触れ、創造的に取り組んでみる必要があると考えています。

そこで、生成AI活用センターの活動では楽しく、遊び心を持って取り組むことを大切にし、のびのびとしたコミュニケーションを取りながら研究を進めながら知識とスキルの向上を目指しています。

研究開発からコミュニティ運営まで幅広い活動

主な活動としては、メンバーが集まってチームを作り、各チームでやってみたいこと・挑戦したいことを研究テーマに立て、以下のような活動を行っています。

・研究と開発

個人やチームで生成AIを使った新しい課題解決の方法を模索・開発し、仕事や生活を豊かにします。

例）社内のサーバーにあるデータを簡単なキーワードだけで探してくれるチャットボット

・知識の共有と学習

最新のAI技術や研究成果を社内で共有し、お互いに学び合って知識を深めます。

例）毎週金曜日のお昼は「なんでも相談会」を開催し、ランチがてら悩みや知識を共有

・成果物の発表

研究やプロジェクトの成果をホワイトペーパーやブログ、イベントで広く発信します。

例）このブログがまさに情報発信となっています！！

RAGやLLMを簡単に活用できる開発プラットフォームの研究開発も積極的に行っています

前章ではRAGを用いることでLLMの学習精度が向上し、期待した答えが得られるようになることが見えてきました。

生活センターでは、このRAGやLLMをより簡単に活用するための研究開発も積極的に行っております。今回はその中でもDifyという開発プラットフォームの必要性および導入における調査事例をご紹介させていただきます。

！！具体的な導入・活用事例は次回以降のブログで紹介するので、そちらもお楽しみに！！

RAGとLLMの導入をサポートする開発プラットフォームの活用

RAGやLLMの仕組みを導入するなかで注意が必要なのは、大量の情報を前知識として無闇に与えればいいというわけではありません。

大量の情報を与えすぎてしまうと、一般的な情報だけで回答を生成するLLMと大差なく誤検知を引き起こしたり、大量の情報を処理しきれず生成AIが固まってしまうなどの弊害が発生します。

RAGを適切に使いこなすには、利用者の質問に適切な知識を切り分けて提供することがポイントになります。

しかし、この必要な前知識を質問ごとに人が準備するなど、人力作業が多発することは、AIの活用において本末転倒であり、効率的なLLM/RAGの構築が必要となってきました。

このようなLLMやRAGのような技術を上手く活用する仕組みとして「Dify」「Langchain」「Microsoft Power Platform」といった開発プラットフォームが登場し、近年は注目を集めています。

ここでは、ノーコードで生成AIアプリを作成できるDifyアプリに注目して、開発プラットフォームの強みを見ていきましょう。

➡︎【資料ダウンロード】確実に進める生成AI活用の実践ガイド「LLM Loop導入支援」

RAGとLLMに関するDifyの役割

Difyは、LLMやRAGを使ってアプリを構築するための統合開発環境のような役割を果たし、以下のような利点を提供します。

・簡単な導入

コードを必要とせず、ドラッグ＆ドロップでAIアプリ作成からリリースまでが可能になっており、技術的な知識が少なくてもAI技術を活用可能です。

・高度なAI機能の簡易実装

ドラッグ＆ドロップでAIアプリを作成する過程で、「このタイミングでChatGPT(OpenAI)を使う」「このタイミングでRAGとして前知識を渡す」など活用したい機能や技術を好きなタイミングで切り替え、設定が可能です。

具体的には以下のイメージです

　１）利用者からの質問を受け付ける

　２）質問の種別をChatGPT（OpenAI）に解析、分類させる

　３）分類された種別にあった前知識を渡す

このようにDifyのような開発プラットフォームを有益に活用することは、企業や開発者がAIアプリを効率的に構築・運用するサポートをします。
これにより、生成AI技術をより容易に業務やサービスに組み込むことができ、ビジネス価値を迅速に創出できるようになります。

➡︎【資料ダウンロード】確実に進める生成AI活用の実践ガイド「LLM Loop導入支援」

次回から生活センターの具体的な活動や実績を紹介していきます！！

次回のブログ記事では、「生活センター」の具体的な取り組みや実績をご紹介します。

例えば、社内のノウハウや情報を素早く引き出せる問い合わせチャットボットや、従業員のスキル向上を支援する勉強チャットボットなど、実際に開発されたプロジェクトを中心に取り上げます。

これらの事例を通して、生成AIがどのように日々の業務改善に貢献しているかをご覧いただければと思います。次回以降のブログで、ぜひその詳細をお楽しみに！