お客様サポート

John Lim

Alfieの安全性を確保するための取り組みについて

Image

エージェントの活用はAIの新たなフロンティアですが、それゆえに信頼性や安全性に対して慎重な見方や懸念が生じるのは当然のことです。ハルシネーション(もっともらしい嘘)を起こし、不適切な発言をするようなAIエージェントの導入は、誰もが避けたいと考えるからです。 

弊社にとっても、これらは極めて重要な課題です。エクスペリエンス・エージェントである「Alfie」を実際のお客様に対応させる前に、私たちは現在の最新かつ最高水準のAI基準に準拠しているかを徹底的に確認しています。本稿では、Alfieのリリース前、導入後、そして日々の運用において、常に正確な対応を実現するための弊社の取り組みをご紹介します。

お客様と実際にお話しする前に

リリースの前に、彼が対応するあらゆる接点を想定した数千パターンものシミュレーションを実施。

Alfieに修正を加える際は、まずシミュレーションを実施します。実際のお客様に影響を与えないよう完全に切り離された環境で、過去の応対履歴に基づいたリアルなシナリオを再現。そこで品質が実証されない限り、本番環境へリリースされることはありません。

本番公開後

実際の会話をレビューし、低評価や手動による介入を迅速に検知します。

期待通りに進まなかった会話をレビューし、低評価となった原因や、チームによるサポートが必要となった状況を特定して改善へとつなげます。問題が発生した際には、迅速に把握することが可能です。

毎日欠かさず

Alfieは、共通の汎用モデルではなく、貴社専用のカスタム設定に基づいて継続的に検証されます。

本機能は、一度限りの検証で終わるものではありません。チームによる設定の変更に合わせて、Alfieは継続的に再テストされます。また、実際の対話データが随時フィードバックされるため、日々のやり取りを通じて自動的に学習し、常に最新の状態にアップデートされます。さらに、一般的な画一的基準ではなく、貴社独自のポリシーに基づいて検証を行うため、ビジネスの状況変化や社内ルールの更新にも柔軟に対応できます。

弊社が実際に彼に求めている責任と役割について

AIと人の目による厳正な評価:正確性、解決力、そして不適切な発言がないかを徹底的にチェック

すべてのロールプレイング結果は、AIによる自動評価だけでなく、人間のレビュアーによるサンプリングチェックも行われます。実際のシナリオに即した正確な対応ができているか、ガイドラインを遵守しているか、実際に課題を解決できたか、さらには、お怒りのお客様に対して適切なリカバリーを行い、最終的に会員登録(ロイヤリティプログラムへの加入)につなげられたかなど、実務に即した多角的な視点から厳しく評価します。

不正行為・濫用防止対策

実際の注文データに基づき検証、お客様自身で設定可能な補償の上限

Alfieによる補償対応は、お客様の管理下に置かれます。初期設定では、補償対応は1件の注文につき1回のみに制限されています。さらに、POSデータやオンライン注文履歴、またはお客様がアップロードしたレシートと登録データを照合することで、実際に注文が行われたかどうかを厳密に検証します。

この基本設定に加え、以下の制限を独自に設定することも可能です。

  • 同一のお客様に対して補償特典を提供する頻度(例:月に2〜3回までなど)

  • ブランドごと、かつ一定期間における補償予算の総額(金額またはロイヤリティポイント。例:月額300ドルまたは300ポイントなど)

いずれの上限に達した場合でも、Alfieが自動で対応を進めることはありません。代わりに、人間の担当者へシームレスにエスカレーションします。

言葉でお伝えするだけでなく、お客様ご自身の目で実際にお確かめいただけます

Alfie社内の評価基準と同様の指標に基づいた、分かりやすい定期パフォーマンスレポートのご提供

透明性の確保と責任あるサービス提供のため、パイロット版をご利用のお客様には、Alfieの実際の稼働状況や会話の平均評価などを記載した、分かりやすい定期レポートをお届けします。これらは、弊社が社内でAlfieを評価する際と同じ厳格な指標に基づいています。

また、データに関しましては

安全なインフラ、保護された顧客データ、そして設定通りに実行されるリカバリー処理。

弊社はお客様のデータを厳格な安全基準のもとで管理しています。

信頼性の高いインフラ:Alfieは、すでに実稼働しているMomos独自の堅牢なコンポーネント(顧客データプラットフォーム、特典、ロイヤルティシステム)をベースに構築されています。

徹底された顧客データの保護:バックエンドのAIプロバイダーにお客様の氏名、メールアドレス、電話番号が開示されることはありません。AIに共有されるのは、注文履歴など、会話を解決するために本当に必要な最小限の情報のみです。

設定通りの正確なリカバリー:Alfieは状況を正しく認識し、あらかじめ設定されたポリシー通りに処理を実行します。AIが独自の判断で対応をアドリブで行うことはありません。特典の価値やロイヤルティポイントをお客様自身の判断で変更することも不可能です。

また、Alfieは業務に必要な情報以外、IPアドレスやキーボードの入力履歴なども一切収集しません。さらに、法令に基づき、お客様にはMomosのシステムが対応していることを事前に明示するため、誰と話しているのかわからないといった不安を与えることもありません。

どうぞ安心してお任せください

これは、Alfieが本番で真価を発揮できるよう、舞台裏で行われている取り組みです。現在Alfieの導入をご検討中のお客様、またはすでに導入されており、弊社のAI安全対策(ガードレール)について詳しく知りたいお客様は、こちらから個別デモをお申し込みください。

世界中の2万以上の拠点でご利用いただいています

世界600以上のブランドの売上向上と顧客体験をMomosがどう支えているか、導入事例でご確認ください。

AIによるインサイト

世界中の2万以上の拠点でご利用いただいています

世界600以上のブランドの売上向上と顧客体験をMomosがどう支えているか、導入事例でご確認ください。

AIを活用したインサイト

世界中の2万以上の拠点でご利用いただいています

世界600以上のブランドの売上向上と顧客体験をMomosがどう支えているか、導入事例でご確認ください。

AIを活用した

示唆