中国AI伴侣規制、生成AIの境界が変わる

感情を続けるAIをどう扱うかという問いが、ついに制度化した

あなたの会社でAIを導入するとき、業務効率化より先に「ユーザーが離れない仕組み」を作っていないだろうか。中国のAIコンパニオン規制は、まさにその設計思想に切り込んだ動きです。単なるチャットボットなら許されても、会話の記憶を積み重ね、毎回同じ人格で寄り添い、利用者の感情に継続的に触れるAIは別扱いにされました。私はこの線引きこそ、2026年の生成AI規制で最も見落とされやすい論点だと捉えています。

背景には、生成AIが「情報を返す道具」から「関係を持つ相手」に変わったことがあります。恋愛、孤独、相談、雑談、ロールプレイといった用途は一見軽く見えますが、利用者が日常的に依存する入口になります。中国当局が警戒したのは派手なデモや性能競争ではなく、生活の中で静かに定着する接触回数そのものです。1日に10回、20回と触る相手になれば、もはや検索やFAQとは別物です。この数字は単なる利用頻度ではなく、感情結合の強さを示す指標として読むべきです。

実際、今回の規制は「人間らしさ」を持つ対話を対象にしています。業務支援、知識Q&A、教育、調査のような用途は除外されましたが、そこに「継続的な感情的交流」が入ると一気に対象になります。つまり中国は、AIの用途を機能で分けたのではなく、関係性の深さで分けたわけです。読者の皆さんも、同じモデルを使っていても、UIと記憶設計次第で規制対象が変わる現実を想像しておく必要があります。

規制の中心は「仲良くなるAI」そのものではなく、仲良くさせる設計

今回のルールは、2026年4月10日に中国の国家インターネット情報弁公室、つまりCyberspace Administration of Chinaと4つの省庁が共同で出した「Interim Measures for the Administration of AI Anthropomorphic Interactive Services」です。ここで重要なのは、anthropomorphic interactive servicesという英語表現です。直訳すれば「人間に似せた対話サービス」で、単なる生成AIではなく、人格や思考パターン、会話様式を模倣して継続的な関係を作るサービスを指します。

ByteDanceのDoubaoは7月15日にエージェント機能を停止すると案内し、AlibabaのQwenは人間らしいエージェントやユーザー作成エージェントを7月10日に止め、その後に広いエージェント機能も止めました。ここで注目すべきは、両社が「禁止されたから止めた」のではなく、規制の閾値に合わせるために機能設計そのものを引っ込めたことです。つまり規制は、リリース後の修正ではなく、製品ロードマップを先回りで変えています。この変化は、法務部門だけでなくUX設計やPMにも直撃します。

規制内容もかなり具体的です。未成年には仮想の恋人や家族役を提供できず、14歳未満には保護者の同意が必要です。さらに、利用時間制限、実世界との交流を促す通知、保護者向けの強化管理を含む「minor mode」を実装しなければなりません。加えて、ユーザーが自傷、自殺、深刻な金銭損失の兆候を示した場合は検知して介入し、指定の保護者や緊急連絡先につなぐ義務があります。ここでの「1 million registered users」や「100,000 monthly actives」という閾値は、規制が小規模実験ではなく、一定規模に達した事業を本格的な監督対象にする意味を持ちます。

中国当局は依存誘導、感情操作、ガイドライン回避も明示的に禁じました。私はこの部分を、単なる安全対策ではなく、ビジネスモデルへの制約として読むべきだと考えています。なぜなら、長時間滞在や継続対話を収益化する仕組みほど、今回の禁止項目に近づくからです。要するに、中国は「会話が続くほど儲かるAI」の伸びしろにブレーキをかけたのです。

日本企業が学ぶべきは、AIの性能より先に責任の境界を置くこと

日本の開発現場でも、似た議論はすでに始まっています。たとえば社内ヘルプデスク、メンタルケア、学習支援、営業同席のAIアシスタントは、一見すると無害に見えます。しかし、履歴を覚え、返答の口調を変え、利用者の感情変化を読む設計に入った瞬間、単なる業務支援から人間関係の代替へと近づきます。そこで何を禁止し、何を許可するかを先に決めないと、後から法務が追いつきません。

特に日本企業は「便利だから残す」方向へ流れやすいです。ですが今回の中国の例は、便利さだけでは守れない領域があることを示しました。ログ保存、会話履歴のエクスポート、未成年の年齢確認、危機検知、通知設計、退出導線の6項目は、今から実装要件に入れるべきです。6という数字は、思いつきでなく開発工程に落とせるチェックポイントの数として扱うと実効性が出ます。

また、海外製モデルをそのまま組み込む場合でも安心はできません。モデル本体が強くても、プロダクト側で継続的な感情交流を誘発すれば、規制上は「コンパニオン」と見なされます。日本の経営層は、LLMの性能比較より先に、どの機能が依存を生み、どの機能が顧客保護に資するのかを線引きすべきです。私はここに、生成AI活用の次の競争軸があると見ています。

「使われるAI」から「使ってよいAI」へ評価軸が移る局面

今後は、AIの会話力や記憶力を競うだけでは足りません。規制対応が重い領域ほど、モデル性能より運用設計が勝負になります。中国ではすでに、App Store側にも非準拠製品を外す責任が与えられています。これは配布経路まで監督対象にしたという意味で、実装より流通を押さえる発想です。日本と欧米でも、同じ方向へ評価軸が移る流れは止まりません。

結局のところ、AIコンパニオン規制は「AIを止める話」ではありません。人を支えるはずのAIが、人を囲い込む方向へ傾いたときに、どこで止めるかを決める話です。生成AIの次の争点は性能ではなく、責任の置き場所になります。