【Rakuten AIの裏側】ティン・ツァイCAIDOが語るAIの革新と責任
※本記事は、以下の「Rakuten.Today（英語版）」で掲載された記事を抄訳したものです。
https://rakuten.today/blog/inside-rakuten-ai-ting-cai-on-ai-innovation-and-responsibility.html
2024年の米IT調査会社 IDCのレポートでは、AIが2030年までに世界の国民総生産（GDP）の3.5%に相当する約20兆米ドルの経済効果を生むと予想されています。AI技術の導入は社会の多分野に広がりつつあり、企業やエンドユーザーにとって、従来の手法を大きく変える効果をもたらすことが期待されます。その可能性はとどまるところを知りません。しかし、いくつかの懸念も指摘されています。
米IT企業シスコの2024年「コンシューマ プライバシー調査」によれば、回答者の63%がAIは生活を向上させる可能性があると答えた一方で、78%の人が企業や組織はAIを倫理的な使い方に限って使用する責任があると考えています。
本シリーズでは、楽天のAI開発に携わる責任者や、「AIの民主化」を目指す楽天のビジョンを推進するキーパーソンに話を聞き、AIという革新的なテクノロジーにまつわる様々なトピックについて深く語っていただきます。
第1回となる今回は、楽天のAIに関する戦略立案と開発、グローバル展開を統括する楽天グループCAIDO (Chief AI & Data Officer)であるティン・ツァイに話を聞きました。ツァイは、楽天において、社会をよりよい未来へと導くことができるAIの基本的な原則や慣行を策定する責務を担っています。AIツールが思わぬ結果を招くことがないようにしながら、人間の能力を拡張させ、産業の能力を高めていく──それがツァイの思い描く未来です。
ビジョンからアクションへ──AIファーストの現状
「生成AIは間違いなく変革につながるテクノロジーです。産業革命と同じくらい、私たちの物事の進め方が根本的に変わるほどの大きな変化を引き起こすでしょう。AIのとてつもなく大きな可能性をお客様やビジネスパートナーの皆様と共有し、すべての方々がこの技術革新からメリットを得られるようにしたいと考えています」とツァイは語ります。
AIが新たな価値や機会を切り開いていくことが予想される中で、企業が「責任あるAI」戦略を策定する必要性がかつてなく重要になっています。年間収益が5,000万米ドルを超える企業100社以上を対象にした最近の大手コンサルティング会社マッキンゼーの調査では、回答者の63％が生成AIの導入は優先度が高い、または非常に高いと考えている一方で、責任あるやり方で導入するには十分な体制が整っていないと感じている人が91%に上りました。楽天では、生成AIの導入と体制の整備を、同等の優先度で取り組んでいます。
「第一原理思考」でAI開発に取り組む
楽天のAI戦略を策定する際、ツァイは「第一原理思考」を適用しました。このアプローチは、複雑な問題を根本的な要素にまで分解して解決する手法です。その結果として生まれたのは、すべてのAI開発の基盤となる3つの構成要素を重ねた楽天のAI基盤です。
ツァイ「当社のAI戦略における開発プロセスは、各種サービスに応用できる基本的で包括的な基盤技術として深層学習（ディープラーニング）から始まりました。初期段階では深層学習の基盤と、それを応用した検索機能などを構築することに重点を置きました。大規模言語モデル（LLM）であっても、価格設定や在庫情報などのリアルタイムデータとつながるための検索拡張生成（RAG）が必要になります」
ツァイ「それと同時に、人や場所、それに『楽天市場』の全商品などの物について埋め込み表現（Embedding）を作成しました。『楽天エコシステム（経済圏）』全体で、商品やサービスをもっと細やかで意味のある形でユーザーとつなげる目的で、この埋め込み表現を活用しています。こうした強力な基盤をもとに、AIを活用したサービスの規模を短期間で拡大しました。現在では、9つのサービスで検索文の意味を理解するセマンティック検索、6つのアプリケーションでセマンティックなおすすめ機能を提供しています。さらに、広告事業にも新たなAIを組み込む計画をしています」
人間＋AI実行の理想的なサイクルの構築
AI開発の第2段階は、様々な業界で楽天のドメイン知識を活用できる「Rakuten AI for Business」の開発だとツァイは言います。「AIと人間の知能が相互補完し、協力して機能する動的なサイクルを生み出すことを何より大事にしています。楽天のエコシステム内でのインタラクションの一つ一つがAIから始まり、AIモデルを訓練し、評価し、脱線を防ぐ措置を施すドメイン専門家のレビューを受けます。最後にお客様との間で検証を行い、必要なフィードバックをいただいてユーザー体験全体の改善につなげます。このフィードバックループが何兆件ものお客様とのやりとりを通じてさらに洗練され、楽天のAIを強化すると同時に、Eコマース、トラベル、金融、ソフトウェアエンジニアリングなどの楽天における各部門の従業員やビジネスパートナーの皆様にとって力強い味方になります」
このフィードバックサイクルの考え方は、広い範囲に適用できると同時に、特定領域への応用にも非常に適しています。例えば、カスタマーサポート部門では次のように活用できます。
- AIチャットボットが人間の監視下で問い合わせに対応
- スタッフ対応時、AIが会話履歴や、インターネットや既存データ上の関連情報を提示し、スムーズに対話を支援
- 過去のやりとりを迅速に把握し、効率とユーザー体験を向上
- AIと顧客のやりとりをマニュアル化や資料化し、スタッフの対応効率を向上
そして第3の段階として、独自の「楽天エコシステム」で提供するサービスを考えれば、AIを活用した消費者向けアプリケーションに進化していくのが自然な流れだとツァイは述べています。「最新のAIテクノロジーを『Rakuten Link』などの既存アプリに直接埋め込む戦略です。AI機能提供の敷居を低くしながら最高レベルの安全性を確保して、すべてのユーザーの皆様にメリットをもたらせるようにしたいです」
「責任あるAI」ガバナンスとフレームワークの確立
楽天の「責任あるAI」に向けた戦略は、設計、開発、展開の各段階で、倫理と安全性を重視しています。この方針は、すべての人々に役立つAIを構築するための楽天のルールブックである「AI倫理憲章」に反映されています。
楽天グループでは、AIの管理・監督の一環として、以下のようなグループ横断的な活動計画を実施しています。
- AIガバナンス
- AI研究開発
- AIセキュリティ&セーフティ
- パブリックリレーション&パブリックポリシー
- データ活用
明確な監督体制を確保するため、AIに関する議論の結果は、提案や重要な決定事項を含め、AI&データ委員会に報告され、審議されます。さらに、重要な決定事項や課題は、グループ全体の「AIガバナンス」の透明性と説明責任を担保する意味で、取締役会とコーポレート経営会議でさらに審議が行われる場合があります。
楽天は、社内ガバナンスに取り組むだけでなく、一般社団法人AIガバナンス協会の会員企業でもあります。同協会は、適切なリスク管理を通じてAIの価値を最大化する取り組みである「AIガバナンス」の定着した社会実現を目指し、日本国内で2024年10月に設立されました。
楽天において「責任あるAI」の開発・活用を先頭に立って進める立場にあるツァイは、「責任あるAI」構築の枠組みとして、2024年7月に発表された 楽天の「AI倫理憲章」を中心となって策定し、推進してきました。策定に当たっては、主に以下のような点を検討しました。
- AIを利用するお客様の安全を守る
- AIによる有害コンテンツの生成を防ぐ
- バイアスを検出しAIによる提案の公正を保つ
ツァイ「AIにおいて何より優先するのは誠実さです。信頼がなければ、誰もサービスを利用しないでしょう。私たちは透明性を通じて信頼を構築します。特にお客様のデータをどのようにして収集し、利用するかについては透明性を確保しながら、ユーザーにより多くのメリットがもたらされるように、すべてのデータは同意を得た上で利用されることを明確にしています」
安全なAIの構築と運用
AIのような新しく登場したテクノロジーを構築し、運用する上では、特有の課題やこれまでにない悪影響も生まれてきます。プロンプトインジェクション（注1）やデータドリフト（注2）、モデルドリフト（注3）といった影響を防止または軽減するのも、ツァイのチームの役割です。
ツァイ「どのような企業も、新たな製品を提供開始するときは、セキュリティについて真剣に考えなければならないと思います。私たちはリスク管理とAIの安全性を、サイバーセキュリティと同じように扱っています。実稼働環境では常にセキュリティ攻撃のリスクがあり、ハッカーたちがデータやアルゴリズム、コードを狙っています。AIモデルをだまして有害なコンテンツを生成させようとする者もいます。そのため、設計段階でもリリース後でも悪意のある脅威を見逃さないよう、常に警戒を続ける必要があります」
楽天のレッドチーム（注4）は「倫理的ハッキング」を採用し、セキュリティの脆弱性やバイアス、倫理的な懸念を発見するため、困難なシナリオでの攻撃シミュレーションやAIシステムのテストに積極的に取り組んでいます。この徹底したテストとモニタリングにより、AIの安全性は、24時間体制で維持されています。
AIを組織全体に展開するには、経営陣がロードマップと最適な手法を策定する必要があります。「第一に、会社全体の現状を把握することが重要です。使用中の社内AIとサードパーティ製ツールをすべて把握し、著作権やプライバシー関連の潜在的なリスクを明確にする必要があります」とツァイは言います。
構築と実装の両方において、人間こそが鍵を握るツァイは強調します。「文書化されたポリシーの範囲を超える部分でも、役割と責任を明確にし、誰もが安全にデータへアクセスできるようにすると同時に、AIの安全性をエンジニアリングとシステムにしっかりと組み込む必要があります。AIシステムは一度承認を得ればいいというものではありません。現状の使用状況がポリシーや基準に準拠しているかを継続的に確認することが求められます」
AIを技術から文化へ
楽天が考える「責任あるAI」とは、楽天の中核にある価値観に基づき、人権を守り、ユーザーのプライバシーを保護するAIシステムの構築を約束することです。ツァイはチームのメンバーとともに、楽天の強固な「AI倫理憲章」を忠実に守ることで、リスクに対応しながら自信を持って新たな道を切り開いています。楽天は、テクノロジーを通じて人々に力を与え、あらゆる人々を尊重し、ユーザー体験を向上させる未来を目指しています。AIの一つ一つの進化がその実現を後押しすることでしょう。
（注1）AIチャットボットや生成AIに対して悪意のあるプロンプトを入力することで、意図しない結果を引き出す攻撃手法
（注2）データの変化にモデルが対応しきれずに精度が劣化してしまうこと
（注3）入力データ自身の性質が変わる現象で、誤った意思決定や不適切な予測を引き起こす可能性がある
（注4）組織におけるセキュリティの脆弱性を検証するためなどの目的で設置された独立したチーム
