現場の知を安全に活かす　企業向け生成AIサービス ― ChatTX誕生の舞台裏

データ提供 PR TIMES

本記事の内容に関するお問い合わせ、または掲載についてのお問い合わせは株式会社 PR TIMES （release_fujitv@prtimes.co.jp）までご連絡ください。また、製品・サービスなどに関するお問い合わせに関しましては、それぞれの発表企業・団体にご連絡ください。

生成AI活用の期待がますます高まっています。NTTテクノクロスでもその潮流を先取りし、2023年2月に開発に着手。2024年には企業向け生成AIサービス「ChatTX」を商用化しました。本記事では、ChatTX誕生のストーリーを通じて、お客様の真の課題を発掘する取り組みと未来に向けた挑戦について紹介します。

ChatTXとは？――現場の「知」を継承するパートナー

ChatTXは、NTTテクノクロスが世に送り出した企業向け生成AIサービスです。その最大の特長は、一般的な生成AIの汎用的な回答に留まらず、企業が長年蓄積してきた専門資料やマニュアルから必要な情報を読み取り、その業務に特化した「的確な答えや提案」を提供できる点にあります。

これらの業務に特化した資料やマニュアル、現場の知識は、企業にとっては競争力の源泉であり、それらを生成AIと組み合わせて利用しながらも、外部流出を避ける「強固なセキュリティ」を備えています。機密情報を堅牢に守る設計は、金融、製造、建設といった現場のプロフェッショナルから厚い信頼を獲得しており、とある金融機関では、40年以上前のレガシーシステムでベテラン社員がいなくなる中、既存のドキュメントやシステム構成図をインプットし、若手設計者がベテランの知見を瞬時に引き出すことに活用しています。レガシーシステムの技術ノウハウから、迅速な解を導く――。

いま、こうした現場の課題解決に特化した生成AIの必要性が改めて認知され、急速な広まりを見せている中で、ChatTXは、その登場当初から、現場の知識活用と強固なセキュリティを備え、様々な現場で課題解決の切り札として、稼働しています。

生成AIに大きな可能性を感じ、未知の挑戦がスタート

2022年末、生成AI「ChatGPT」の登場は世界に衝撃を与えました。長年、自然言語処理技術の研究・開発に携わってきた河村誠司は「生成AIは、今まで自然言語処理技術を活用してきた我々の常識を遥かに超える技術だと衝撃を受けました」と、当時の思いを振り返ります。

NTTテクノクロス株式会社

IOWNデジタルツインサービス事業部

ディスティングイッシュトビジネスプロデューサー

河村誠司

驚きの一方、河村はそこに大きな可能性も見出していました。「うまく使いこなせば、ビジネスを革新できるのではないか」と直感したのです。

ただし、すぐに具体的なビジョンが出ていたわけではありませんでした。当時は個人レベルで業務の効率化に活用するケースはあっても、戦略的・組織的な活用法については多くの企業が模索している状況でした。

「可能性は大きいものの、当時は『何が、どこまでできるか』が分からない。そのことを一刻も早く理解し、ビジネスがどのように変えられるかを把握しなければ、世の中に後れを取ってしまうという危機感がありました」（河村）。

転機はすぐに訪れました。それが同社で開催されていた先端技術を活用して未来に向けた価値創りを考える検討会です。

2023年4月、河村はここで経営幹部を前に生成AIの可能性を紹介し、ビジネスに活用する重要性を訴えました。しかし言葉だけで伝えるのは難しいと考え、未来を具現化したコンセプトモデルを披露しました。

披露したのは、お客様からの問い合わせを自動対応するAIチャットボット。路上に垂れ下がっている電話線を見つけたお客様が、企業の窓口に対処を依頼するケースを想定し、オペレーター業務を生成AIで実演したのです。

オペレーターの生成AIはお客様が話す内容を理解し、現地の状況や住所を聞き出し、一次対応を完璧にこなします。24時間365日、問い合わせに対応できるだけでなく、すぐに保守部門に情報を引き継ぐことで、迅速な対応も可能になります。このコンセプトモデルは生成AIの一例にすぎませんが、将来の可能性の大きさを社内に理解してもらうには十分でした。一般的な生成AIの自然文で問い掛けする利用方法から、昨今、話題の中心となっているAIエージェントの活用を想起させるもので、ここから社内の業務実装に向けたプロジェクトが動き始めたのです。

企業内には無数の業務が存在します。それぞれの業務で生成AIによって「何が、どこまでできるのか」を見極めるには、現場の業務における検証が不可欠でした。しかし、そこには「セキュリティ」という巨大な壁が立ちはだかりました。NTTグループは個人情報や先端技術に関する機密情報などを数多く扱っており、情報セキュリティ要件は非常に厳格です。生成AIの利用において、このセキュリティ要件を満たしつつ、現場で、業務活用してもらう環境を構築することが大きな課題となりました。

「ならば、安全な環境を自分たちで作るしかない」

河村はチームを編成して、業務で扱う機密情報も安心して利用できるよう、国内データセンターの活用やLLMリクエスト内容の非学習など、機密情報を安心して扱えるPoC環境をゼロから構築、経営層に必要性を訴えたその後2023年5月にはPoCを開始しました。

検証を終え、高い壁を乗り越えた2023年10月には、全社利用へと漕ぎつけました。任意導入としていたにも関わらず、1,600名がアカウントを作成し一気に使い始めたことは、生成AI利用の期待の高さを物語っています。そして、この活用率の高さに、業務における生成AI利用のポテンシャルを改めて感じ、社内のさらなる業務改善や効率化に向けた取り組みが加速しました。

業務に寄り添う『2階建て構造』のプラットフォーム

ChatTXは、当初、汎用的な業務効率化を目指したものでした。もちろん幅広い業務に適用可能ですが、多くの利用者のフィードバックを受ける中で、新たな課題も見えてきました。河村は次のように語ります。

「生成AIを利用する際は具体的な業務に着目した課題解決を求められることが多かったです。例えば、工事を行う業務であれば、手順確認や機器の故障対応時のマニュアル検索などです。『個別・具体的な業務自体のDX化』を求められることが多いため、個々の業務に寄り添う専用型プロダクトの必要性を痛感しました。そこで汎用的な生成AIの機能を基盤としつつも、「2階建て構造」の設計にしたのです。（図1）」（河村）。

図1 自然言語の質問内容を理解し、各業務の情報も参照して的確な回答を返します。

APIを介して多様な業務システムとも連携可能です。

「1階部分が一般的な問い掛けの利用において、各種のLLMを使い分けられる汎用版のChatTXです。その上で、個々の業務のドキュメントやノウハウを登録したり、API（アプリケーション・プログラミング・インターフェース）を介して多様な業務アプリケーションと連携できるようにした2階部分にあたるのが、業務に特化したChatTXです。

ChatTXの2階部分では、RAGという方式に着目し、企業内の情報も取り入れて回答を生成できるようにしました。ChatTXが備える業務に特化した回答エージェントは、このRAG技術を使って実現しています。RAGとは「検索（Retrieval）」と「生成（Generation）」を組み合わせたアーキテクチャで、検索拡張生成ともいわれます。

「RAGの活用により、生成AIに独自情報を参照させることができるようになります。“現場に蓄積されてきた知見”を取り込んで生成AIの回答精度を高められるので、日本企業にマッチしています。社内事務処理マニュアル等を参照して、適切な回答を生成できるため、情報が溢れている企業内ではとても有効だと考えました。」と河村は説明します。

NTTテクノクロス社内でも、社内システム運用のヘルプデスクなどに導入し、業務システムごとにChatTXの回答エージェントを用意、システム利用時に社員が操作方法などを尋ねる取り組みが行われています。利用する社員からのフィードバックをもとに取り込んだ情報の更新など回答エージェントの改善を重ねた結果、システム運用部門への問い合わせ件数が減少し、社員の社内システムに対する満足度も大きく向上しています。

図2 「回答エージェント」を選ぶだけで対応する業務を切り替えが可能。

部門ごとなどにエージェントを分類することもできます。

自然言語処理技術の知見を活かし、業務特化の回答精度を向上

ChatGPTなどの生成AIサービスは汎用知識で一般論を回答しますが、企業の業務で必要になるのは一般論に加えて、その会社独自に持つ情報です。その際、ただマニュアルなどの情報を登録しただけでは、期待する回答の精度があがらない課題がありました。

ここで活かされたのが、NTTテクノクロスが40年以上にわたり磨き続けてきた「自然言語処理技術」です。「連綿と続く技術や知見の積み重ねは大きな強みです。今まで培ってきた自然言語処理技術を駆使し、他社より精度の高い回答が生成できるように様々な工夫を施しています」（河村）

一口に検索といっても、キーワード検索、ベクトル検索、それらを組み合わせたハイブリッド検索など、いくつかの方法があります。そして検索方法にはそれぞれに得意分野があり、ハイブリッド検索にすれば、いいところ取りができるとは限りません。

「ChatTXの2階部分に登録するコンテンツのタイプを基に最適な検索方法を選択しなければ、思うような精度は見込めません。これまでに培った技術とノウハウを活かし、より最適な検索方法を設定することで、お客様の業務に寄り添った高精度な生成AI環境を実現しています。他社にはできないこの『技術の厚み』こそがChatTXの高精度な回答を支えています。」（河村）。

こうした社内やお客様での活用とフィードバックを通して、お客様の真の課題を発掘することにより、「業務特化した生成AI活用」と「堅牢なセキュリティ」を備えたChatTXが生まれたのです。ChatTXはお客様に高く評価いただき、多くの企業へ広がっていきました。

多様な現場で実証されるChatTXの価値

導入事例1：設備保守業務における障害対応ナレッジ活用も視野に

設備保守を担う会社とは新たな仕組みづくりに向けてPoCを進めています。発生した障害インシデントを入力すれば、過去の類似案件から適切な対応を示唆します。実現すれば、障害対応の品質もスピードも格段に向上するでしょう。

導入事例2：早稲田大学デモクラシー創造研究所が生成AI活用講座を開催

社会のさまざまな領域でもChatTXは活用されています。地域の運営や行政の研究、次世代リーダーの育成に努める早稲田大学デモクラシー創造研究所の取り組みはその1つです。地域のマネジメントや行政関連の活動には生成AIの活用が有効との観点から、生成AI活用講座を開催。そのツールにChatTXを採用しました。社会の場で求められる高い安全性、そして操作性と回答精度の高さを評価したためです。