プレダトリー・デザイン：ビッグテックに安全性試験が必要な理由

ロサンゼルスの陪審がMetaとYouTubeに中毒性製品の設計責任を認めたことを受け、競争法弁護士のマリー・ポテル＝サビルは、業界はプレダトリー・デザイン――脳の報酬系を書き換えるよう仕組まれた仕掛け――で動いていると論じる。

私が2000年代初頭に競争法を実務としていた頃、競合間の競争が醜くなる手口はおなじみのものだった。略奪的価格設定、締め出し、キラー買収、ペイ・フォー・ディレイ（後発品の発売遅延に対する対価支払い）である。こうした行為はやがて訴追され、多額の罰金や、時には構造的な是正措置で決着した。

「10代の総利用時間」をめぐる競争

KGM v Meta Platforms訴訟で提出された内部文書が描くのは、まったく別の競争だ。2016年、MetaはTikTokとSnapchatに押されていた。その年、幹部は「全社目標」を「10代の総利用時間」に設定した。

なぜか。ある内部メモは、プラットフォームが名目上13歳以上を対象としているにもかかわらず、12歳は32歳に比べて長期的にフェイスブックに留まる可能性が3倍高いと指摘し、フェイスブックは「より大量のトゥイーン（思春期前後の子ども）を取り込むためにより多額の投資を検討すべきだ」と結論づけていた。論理は冷徹なまでに単純だった。最も若くして来た子どもが最も「定着する」ユーザーになる。だからこそ、後に法廷で読み上げられた一文が生まれた。「10代で大きく勝ちたいなら、トゥイーンのうちに取り込まなければならない」。

同社は何を作っているのかを正確に理解していた。社内調査は「依存者の語り」を裏付けた。悪影響と分かっていながら強迫的な行為に長時間を費やし、抵抗できないと感じる10代の姿である。ある従業員のメッセージにはこうあった。「なんてこと、みんな、［インスタグラム］はドラッグだよ。私たちは基本的に売人だ」。

この根底にある仕組みを、私は今「プレダトリー・デザイン（略奪的デザイン）」と呼んでいる。それはさまざまな形を取る。

プライムのわなと「イーリアス・フロー」

Amazonをめぐる事件は、獲物は違えど同じ物語を語っている。2023年、米連邦取引委員会（FTC）はプライムのサブスクリプション・プログラムをめぐりAmazonを提訴した。同社が選んでもいない会員資格に消費者を誘い込み、簡単には抜け出せないようインターフェースを仕組んだと主張した。

Amazonの内部文書はこの手法を「ミスディレクション（誤誘導）」と呼んでいた。ユーザーをプライムに登録させる大きく目立つ「送料無料の2日配送をゲット」というボタンに対し、辞退するためのリンクは小さな灰色の文字で見落としやすいものだった。ある内部メモはその理由を驚くほど率直に記していた。ユーザーにとって分かりやすくすることは事業実績に「ショック」を与えるため、「正しいアプローチ」ではない、と。

解約は同じ論理を逆向きに適用して設計されていた。長いトロイア戦争を描いたホメロスの叙事詩にちなみ、Amazon内部で「イーリアス・フロー」と呼ばれたその手続きでは、出口にたどり着くまでに4ページ、6クリック、15の個別の選択肢をたどらなければならなかった。Amazon自身の集計では、7年間で3500万人の消費者が意味のある同意なしに登録されていた。2025年9月のFTCとの最終的な和解金は25億ドルに上った。

ダークパターンが報酬系を書き換える仕組み

それ以来、この研究分野は、本来インターフェースが奉仕すべき人々に対する認知科学の組織的な武器化を次第に明らかにしてきた。

私たちは誰もが何百もの認知バイアスを抱えている。予測可能で非合理的な決定に導く近道思考だ。ダークパターンはこうした弱点を突く。しかし中毒性デザインはさらに進み、脳の報酬構造を直接狙う。ドーパミン神経細胞は受け取った報酬そのものではなく、報酬が来るかどうかの不確実性に反応する。結果が予測不能なほど、信号は強くなる。

デジタルプラットフォームはこの構造を、より精密に、比較にならないほど大きな規模で再現してきた。無限スクロールは自然な区切りをなくす。アルゴリズムのフィードはコンテンツを出し惜しみし、予測不能な順序で届ける。引っ張って更新する操作は、スロットマシンのレバーを引く身体動作とほぼ正確に重なる。これらの機能はどれも偶然に生まれたものではない。

真の市場が存在しないとき

競争法弁護士としての私は、世界最大級の企業が奉仕すべき人々を食い物にしているとき、市場なるものがまだ存在するのかと問わずにはいられない。市場経済は資源の最適配分と消費者への最大の利益を生むはずのものだ。

この約束が果たされるには、消費者が意識的に選択肢を見て選べること、ゆがみのない物差しで比較できること、実際の利益を反映した好みを形成できること、自由に乗り換えられることが必要だ。認知的搾取はこの4つすべてを掘り崩す。無限スクロールは注意を奪い、ダークパターンは比較をゆがめ、ドーパミン回路は強迫性を生み出し、中毒化の技術は実効的な乗り換えを阻む。

証券規制は示唆に富む類推を提供する。トレーダーが株式やデリバティブの価格を操作したとき、法律はその犯罪を市場全体への構造的害悪とみなす。汚染された価格はもはや真実を語らないからだ。認知的搾取も、はるかに大きな規模で同じ光で見るべきだ。プラットフォームが数十億人のユーザーの好みを組織的に作り出すとき、消費者のシグナルはもはや有用な方向を示さなくなる。それは構造的失敗だ。

ダークパターンと中毒性デザインは驚くほど多くの法律に違反する。規制機構は動き出している。それでも被害は続いている。大規模に、設計によって。現状の規則では十分な体系的対応になっていないからだ。

立証責任をプラットフォームに負わせる

立証責任を負うべきは被害者ではなくプラットフォームだ。問われるべきは、被害を受けたユーザーが具体的な損害を示せるかどうかではない。企業が数十億人に製品を展開する前に、それが設計上略奪的でないことを示せるかどうかだ。

この基準をビッグテックのプラットフォームに適用すれば破壊的だろう。無限スクロールからアルゴリズムによる増幅まで、エンゲージメントの仕掛けを展開前に独立した安全性評価にかけ、通過できない機能は設計変更や廃止を迫られる可能性がある。プラットフォーム滞在時間の最大化にビジネスモデルが依存する業界にとって、それは甚大な挑戦となる。しかしこれは医薬品や医療機器、航空機に適用している基準だ。脳の報酬構造を書き換えるよう意図的に仕組まれたシステムに適用しない理由があるだろうか。■

マリー・ポテル＝サビルはFairPatternsの共同創設者であり、欧州データ保護会議のダークパターンに関する専門家支援プールのメンバー、Women in AI Governanceのパリ代表である。

Report a correction