「まぐまぐ！」でメルマガ「知らなかった！中国ITを深く理解するためのキーワード」を発行しています。
明日、vol. 271が発行になります。
登録はこちらから。
https://www.mag2.com/m/0001690218.html
今回は、DeepSeekなどの安全性についてご紹介します。
先日、びっくりするような記事を目にしました。米ABCニュースの記事「DeepSeek coding has the capability to transfer users' data directly to the Chinese government」（DeepSeekのコードは、ユーザーデータを直接中国政府に転送する能力を有している、https://abcnews.go.com/US/deepseek-coding-capability-transfer-users-data-directly-chinese/story?id=118465451）です。
え？中国政府に直接送信しているの？とさすがに驚きました。しかし、本文を読んでみるとずいぶんと話が違います。DeepSeekアプリの中に、CMPassport.comにユーザーデータを送信するコードが見つかったというもので、このサイトの所有者は中国移動（チャイナモバイル）なのです。
中国移動は、中国のキャリア大手ですから、そことユーザー情報を共有するのはおかしなことでもなんでもありません。DeepSeekのアプリは、チャイナモバイルのクラウドサービスで運用をしています。どこの国でも、サービスはその運営プラットフォームとユーザー情報を共有しなければサービスが提供できません。
DeepSeekを使う前に、誰もが読まなければならず、了承ボタンを押さなければ使い始めることができない（といってもほとんどの人が読まずに了承ボタンを押していると思いますが）利用規約からプライバシーポリシーも読むことができます。そこには「当社は、通信サービスプロバイダーを使用して、通知および通信をお客様に送信します」と書かれ、これらのサービスプロバイダーと「お客様が提供した情報、自動的に収集された情報を共有します」とはっきりと書かれています。
さらに、マーケティングのためにユーザー情報を分析する必要があり、その分析プロバイダーとユーザー情報を共有することも明記してあります。これもDeepSeekに限らず、世界中のどこのサービスでも同じことをしています。
この記事は、さらに、具体的にどんな情報が「中国政府に直接転送される」のかとして、「チャットや検索クエリの履歴、キーストロークパターン、IPアドレス、他のアプリからのアクティビティなど、あらゆる種類のデータ」とし、デジタル指紋をとっていて、「DeepSeekは中国政府による監視の疑いの最も露骨な例である」としています。
こう言われると、なんか怖くなってしまいますが、このようなデータを収集するということも、世界中のウェブやアプリがやっていることで、別に珍しい話ではありません。DeepSeekのプライバシーポリシーにもきちんと明記されています。
プライバシー保護の問題から、直接個人情報を取ることが難しくなり、IPアドレスやデバイスの種類などのさまざまな情報を集めて指紋のようにして個人を見分ける技術です。といっても、AさんとBさんは別の人ということがわかるだけで、Aさんがどこの何さんなのかまではわかりません。いわゆる匿名情報に当たります。広告配信業者にとっては、個人識別ができればじゅうぶんなので、プライバシーを侵害せずに個人識別をするために考え出された技術です。
一方、Appleはこのデジタルフィンガープリントの収集に対して問題を提起し、自社のウェブブラウザー「Safari」にフィンガープリントを無効化する機能を実装しています。デフォルトでオンになっているので設定する必要はありません。このデジタルフィンガープリントについては、ほとんどの人が気にしていないようです。ご存知ないという方が大半なのだと思います。
それで、あるアプリが「IPアドレスや機器の認識番号、位置情報からインストールされているフォント情報まで収集している」と言われると、びっくりして恐ろしくなってしまうのです。Safariを使えば防ぐことはできますが、米国でも日本でも欧州でもあたりまえのように収集されている情報です。それがいいことなのか、悪いことなのかは、また別の話です。
つまり、この記事は、一般的なサービス運営者があたりまえのように行っている情報収集活動を、中国のDeepSeekもやっているから「怖い、危険だ」と言っているのです。
そもそも、中国移動は、キャリア大手企業で、中国政府ではありません。中央企業＝政府が株式を有する企業です。日本で言えば、NTTやJT、日本郵政に似た形態です。NTTやJT、日本郵政が日本政府ではないのと同じことです。
一方、日本政府のデジタル庁の注意喚起は理にかなったもので、素晴らしいと思いました。
▲デジタル庁が各省庁に対して連絡した注意喚起。DeepSeekは日本語によるプライバシーポリシー公開していないため、利用するときはデジタル庁などの助言を求めることを推奨している。
まず、DeepSeekのプライバシーポリシーが英語と中国語でしか公開されていないことに言及をします。これは正しい論点です。英語を読めば意味を理解することはできますが、日本の法律との厳密な整合性まではわかりません。日本の法律と照らし合わせるには、DeepSeek側が日本語に翻訳をし、日本の法体系を考慮したプライバシーポリシーを公開してくれないことには評価ができません。
つまり、プライバシーポリシーを厳密に評価できないのだから、使う上では注意が必要だというものです。
そして、次の２点に特に留意すべきだとしています。
１）当該サービスの利用に伴い DeepSeek社が取得した個人情報を含むデータは、中華人民共和国に所在するサーバに保存されること
２）当該データについては、中華人民共和国の法令が適用されること
さらに、この注意喚起は、日本人全員に対してのものではなく、省庁に対するものです。しかも「使うな」ではなく、このようなリスクを認識し、デジタル庁などに助言を求めた上で適切に判断をしてほしいという内容です。
「危ない、怖い、使うな」ではなく、プライバシーポリシーが評価をできない状況なので、使用をするのであれば各方面の助言を求めた上で行うべきだとしています。実に正しい態度だと思います。
さらに、「中国だから危ない」ではなく、生成AIの構造的な問題をきちんと指摘をして注意喚起も行っています。
デジタル庁では「ChatGPT等の生成AIの業務利用に関する申合せ」（https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/c64badc7-6f43-406a-b6ed-63f91e0bc7cf/e2fe5e16/20230915_meeting_executive_outline_03.pdf）を公開しています。この中では、ChatGPTについても「必要十分なセキュリティ要件を満たすことが一般的に困難であることから、要機密情報を取り扱うことはできない」としています。また、機密情報を扱わない場合でもルールを定め、利用状況を管理することが必要だとしています。
厳密に言うと、ChatGPTだけでなく約款型クラウドサービスでの生成AI利用全般について、機密情報を扱ってはならないというのが日本政府の方針で、それは実に正しい対応です。
約款型クラウドサービスとは、わかりやすく言えば、ウェブやアプリで月額会費を支払って利用する生成AIです。個人では、このような手軽な形で生成AIを使うことが一般的だと思いますが、企業の場合は非常に悩ましい問題が起こります。
なぜなら、プロンプトに情報を入力したら、その情報は暗号化もされずにインターネットを通過することになり、ChatGPTを運営しているOpenAIのサーバーに保存されます。OpenAIがその情報をどのように扱うかについては、すべてが明確になっているわけではありません。
つまり、プロンプトに入力をした時点で、情報は企業の外に出てしまうわけですから、顧客情報や企業内部情報などの保護すべき情報をプロンプトに入れて送信した瞬間、すでに情報漏洩インシデントが発生したことになります。
このため、会社で生成AIが導入されても、使用に厳しいルールが設けられていることも多いのではないでしょうか。お昼ご飯に何を食べるか推薦してもらったり、年末キャンペーンのアイディアを10個出してもらうなどの使い方はできるものの、社内の英語文書を日本語に訳してもらったり、要約させたり、音声データをテキスト化して議事録をつくるなどという使い方は、情報漏洩を起こしてしまう可能性がきわめて高くなります。情報漏洩とは、それが悪人に利用されるかどうかではなく、社外に出てしまい、自分では制御できなくなることを指します。
企業で、生成AIを利用するには、このような情報漏洩リスクを排除した方法で使う必要があります。
最も確実なのは、社内にAI基盤を構築して、社内ネットワーク内のローカル環境で動かす、いわゆるオンプレミス運用です。しかし、そのためには費用もかかりますし、専門の運用チームを配置しなければなりません。大企業であればともかく、一般的な企業では非現実的な方法です。
そこで、通常は、次のいずれかの方法がとられます。
１）生成AIプロバイダーと法人契約をする
生成AIプロバイダーと法人契約をする方法です。この方法では、通信経路は暗号化され、送信されたデータも蓄積されずに削除されることになっています。もちろん、それがほんとうであるかどうかは生成AIプロバイダーの資料やヒヤリングなどから、セキュリティ担当者が評価をした上で契約しなければなりません。
しかし、最も手軽な方法であることは間違いなく、ChatGPTの場合、Teamプランがそれにあたり、ユーザー1人あたり月額30ドルからになります。
２）クラウドサービス上で利用する
Azure、AWSなどのクラウドコンピューティングサービスは、DeepSeekを始めとした各種生成AIに対応をしています。クラウドコンピューティングサービスは、ネット上に仮想のパソコンを置くサービスですが、メモリーやストレージ、CPUの性能、GPUの数などを簡単に増設できます。増設するというよりも設定画面で追加をすればいいだけです（もちろん、料金はあがります）。
パソコンというよりもサーバークラスのコンピューターを使うことができるため、各種生成AIをインストールして使うことができます。すでにセキュリティ評価は済んでいれば、自社内のコンピューターと同じように安全に使うことができます。
ただし、サーバーコンピューターを扱える知識が必要になるため、専任のエンジニアを配置する必要があります。
最も確実なのはオンプレミス運用ですが現実的ではない。それを仮想化したクラウドコンピューティングサービス上で生成AIを使うのが最も現実的な方法になります。これであれば、セキュリティが担保されているため、企業の内部情報をAIに処理させることが可能になります。
また、クラウドサービスを運用するのが厳しいという企業では、生成AIプロバイダーと法人契約を結ぶというのが現実解になります。
DeepSeekが話題になったのは、「中国から世界トップレベルに入れる生成AIが登場した」という驚きもありますが、それ以上に、オープンソースであり、軽量運用が可能だという点が大きいのです。このことは、「vol.266：DeepSeekショックの本質とはなにか。「米中」ではない、ほんとうの対立軸とは」（https://tamakino.hatenablog.com/entry/2025/02/09/080000）でもご紹介しました。
オープンソースだということは、自由にコピーをして使ってかまわないということです。実際、オープンソース配布プラットフォーム「Hugging Face」（https://huggingface.co/）、「GitHub」（https://github.com/deepseek-ai）などで、DeepSeekのソースコードをダウンロードすることができます。さらに、改変をすることも自由ですので、自社の使い方に合わせてカスタマイズをすることもできます。
また、後ほど説明しますが、軽量動作をする仕組みになっているため、フルセットの「満血版」でも、64コアCPU、A100/H100GPU×8枚、NVMe SSD 8TBで動かすことができます。このスペックはパソコンレベルではありませんし、個人で揃えるには経済的にも厳しいレベルです。しかし、映像処理やビッグデータ処理をする企業にとっては突飛なスペックではありません。さらに、軽量化をした蒸留版も用意され、最も軽量なものではスマートフォンで動かすことも可能です。
つまり、DeepSeekは、非現実的だったオンプレミス運用が行え、なおかつカスタマイズができるという特徴を持っています。このため、中国で導入企業が急増しているのです。
特に顕著なのが大学で、続々と大学が導入し、学校事務や教育の補助に利用するようになっています。浙江省杭州市の浙江大学では、すでに「浙大先生」（https://chat.zju.edu.cn/）を公開していて、学生がDeepSeekを自由に使えるだけでなく、授業選択のアドバイスをしてくれる、英会話の練習相手になってくれる、授業のわからないところを深掘り質問できる、模擬試験を出題してくれる、就職の模擬面接をしてくれるなど、さまざまなAIエージェントを提供するようになっています。
大学は、これまで、不用意に生成AIを導入すると、学生がレポートや論文を生成AIで出力してしまい、教育に支障が出るとして慎重な態度をとっていましたが、一気にAI活用の方向に振り切りました。
大学内で運用ができるため、情報漏洩のリスクを制御できる、カスタマイズができるという点が大きなポイントになりました。
DeepSeekは、MoE（Mixuture of Experts）というモデル構造が大きなポイントになっています。
これは、通常のLLMが大きな１つのモデルで構成されるのに対して、MoEでは256個の小さな専門家モデルの集合体になっています。小さな専門家モデルは、トレーニングにもコストがかからず、かつ精度が高くなります。
しかも、重要なのは、DeepSeek全体は6710億のパラメーターを持っていますが、これが１つのモデルだとすると、動作させるときに、このパラメーターすべてをメモリに格納する必要があります。これは大量のメモリを必要として、普通のパソコンなどではまったく足りません。ところが、MoEでは実際には8個程度の専門家モデルしか活性化されずに済むので、わずか370億パラメーターしか使いません。これもパソコンでは無理ですが、メモリを増強するなどすれば動かすことができます。
実際、SNSでは、MacStudio（Macの上位機種）やMac miniを複数台使ったシステムで動作に成功した報告が相次いでいます。つまり、大掛かりなAI基盤を用意しなくても、パソコンの上位機種にメモリやGPUを追加して、DeepSeekを動かすことができるのです。これを企業ネットワーク内に置けば、外部と通信することなく安全に使うことができます。
さらに、オープンソースですから、ソースコードを改変して自社向けにカスタマイズすることができます。多くの中国企業は、この安全性と改変性に魅力を感じて、続々とDeepSeekを導入しているのです。
ただし、DeepSeekで多くの方が気になるのが「国家情報法」の存在です。国家情報法の第14条には「国家の情報活動には、機関、組織、市民は協力しなければならない」と定められていて、ここから、「DeepSeekが収集した外国人の個人情報について、中央政府が提出しろと命令したら、提出しなければならない」と言われますが、これがほんとうなのかどうかをご紹介します。
また、同様の法律は米国にもあって、CLOUD法（Clarifying Lawful Overseas Use of Data Act、https://www.justice.gov/criminal/media/999391/dl）が、海外のサーバーの情報の扱いについて定めています。これは米国企業が海外に保有するサーバーに蓄積された個人情報に、犯罪捜査であれば、裁判所の令状をとった上で、捜査機関が開示要求できるというものです。これについても、中国の国家情報法と比較をしてみます。
そして、なぜ、DeepSeekはオンプレミス運用が可能なのか、その技術ポイントについてもご紹介します。
今回は、DeepSeekはほんとうに危険なのかにについて考え、個人や企業でセキュリティを考える上でどのような姿勢が重要なのかについてご紹介します。
続きはメルマガでお読みいただけます。
毎週月曜日発行で、月額は税込み550円となりますが、最初の月は無料です。月の途中で購読登録をしても、その月のメルマガすべてが届きます。無料期間だけでもお試しください。
今月、発行したのは、以下のメルマガです。
vol.270：杭州の六匹の小龍。杭州市はなぜイノベーション都市になることができたのか
