毎週木曜日に配信している「データサイン・ランチタイムトーク」の模様をレポートします。当記事で取り上げるのは以下の配信です。
- 配信日：2024年6月20日
- タイトル：Appleの発表したPrivate Cloud Compute
- メインスピーカー：データサイン 代表取締役社長 太田祐一
- MC：ビジネスディベロッパー 宮崎洋史
AIによるデータ処理のセキュリティやプライバシーを保護
2024年６月10日から開催されたアップルの開発者向けカンファレンスWWDC 24で、「Private Cloud Compute」に関する発表がありました。AIを用いたデータ処理のセキュリティやプライバシーを保護する仕組みです。こちらをランチタイムトークの話題に取り上げました。
アップルは自社開発のAppleシリコンを搭載するiPhoneとPC向けにApple Intelligence（アップルインテリジェンス）というAI（人工知能）技術を用いたサービスを提供しています。
たとえば、Apple Intelligenceに対応した新しいSiriのデモでは、遊びに来る母親について子どもが「お母さんの飛行機はいつ到着しますか？」と尋ねると、Siriは「お母さん」というのはこの文脈のなかで誰であるかを特定し、過去に送受信した旅行に関するメールの内容や最新のフライト情報を参照して質問に回答します。
この裏では、ユーザーのApple IDと紐づくメールやiMessageなど、アップルが開発する各種アプリからAIが学習し、ユーザーが投げたリクエストと関連するパーソナルデータを探して、適切な回答を生成するシステムが動作しています。
ソフトウェア開発企業は「データを悪用しない」というけれど
Apple Intelligenceはデバイス上（on-device）で実行されます。ただし30億パラメータ程度の比較的小規模な言語モデルを用いており、高度な質問を投げる場合や生成する回答の精度を高めたい場合には、より大規模なモデルを使う必要があります。
そこでデバイスではなくサーバーが処理を肩代わりしますが、プライバシー侵害の懸念が指摘されます。具体的にはユーザーが気づかないうちにサーバー側にデータが保存されること、あるいは、意図しない方法でデータを使用されることなどです。
「アップルを含む、サーバー上で動くソフトウェアの開発企業がユーザーのデータを悪用しないと主張しても、ユーザーにはそれを立証する方法がありません」（データサイン 代表取締役社長 太田祐一）
これらの懸念を払拭するためにアップルは、iPhoneなどのデバイス上で実現されているプライバシーとセキュリティの保護対策をクラウド上に拡張しようと取り組んでいます。それが「Private Cloud Compute」です。
アップルの主張をオープンに検証可能
Private Cloud Compute（PCC）では、デバイスとサーバーの間でやりとりされるデータを攻撃者が盗み見たり改竄したりできないように、さまざまなセキュリティ対策が講じられているとアップルは述べています。
サーバー側で処理する際にデータを復号する必要があるため、完全なE2E（End-to-End）暗号化はできません。しかし、データを処理するPCCノードを公開鍵で暗号化し、ユーザーのデバイスから当該PCCノードまでをE2Eで暗号化するとしています。また、PCCノード上では、運用管理の目的で一般的に用いられるリモートシェルや対話型デバッグ機構が、悪用されるリスクを除くために採用されていません。さらにターゲット拡散という方法により、特定のノードに処理のリクエストが集中して標的にならないように工夫を講じています。
「興味深いのは、PCCのすべての本番ビルドのソフトウェアイメージを公開し、あわせてPCC上で実行されるすべてのコードの測定値も透明性ログとして公開されることです。つまり、セキュリティの研究者などが自分の環境でPCCを構築、実行した際に得られた測定値と、透明性ログとしてアップルが公開した測定値を照らし合わせて、アップルの主張に偽りがないことを検証できるようにしています。またApple Security Bountyを通じ、研究成果に応じて報奨金が支払われます。セキュリティリスクを完全にゼロにすることはできないとしてもアップルの力の入れようには目を見張るものがあります」（太田）
