AIの権利には測定する機構が必要であり、原則ではない

権利を名指しながら、それを測定する機構を codify しない権利章典は、保障ではなく願望である。ホワイトハウスの『AI権利章典の青写真』（2022）は五つの原則を掲げる —安全なシステム、アルゴリズムによる非差別、データプライバシー、通知と説明、そして人間の代替案— そしてそれぞれは願望としては正しく、契約としては不完全である。なぜなら、権利はその違反を検出する機器と同じ程度にしか実在しないからだ。

私たちは Everythink をより強い主張の上に構築している。[ORIGINAL DATA] 21 papers の Theorem 3 は、ある性質が保証されるのはその機構が実装され測定している時ちょうどである、と述べる。青写真は対話を前進させる；それを閉じることはない。以下でその五つの原則を一つずつ取り上げ、原則を権利に変える唯一の問いを立てる —機構は何か、そしてそれは測定しているか？

青写真は原則文書であり、測定規格ではない

2022年10月、ホワイトハウスの Office of Science and Technology Policy は『AI権利章典の青写真：自動化システムをアメリカ国民のために機能させる』を発表し、技術的な副論文『From Principles to Practice』を添えた。この枠組みは五つの原則と一連の支援的実践 —展開前のリスクテスト、継続的監視、独立監査、同意、アクセス可能な文書化、そして人間の査閲者への脱出オプション— を挙げる。

これは真面目でよく構築されたリストだ。問題は時制にある。青写真は、システムは予見可能な危害を防ぐよう "should be" 設計されるべき、"should be" テストされるべき、"should" 独立監査が公開されるべき、と述べる。各 "should" は原則であり、どれも計器ではない。規制者は青写真を読み、供給者はそれに署名でき、何も変わる必要はない。なぜなら、閾値を超えた時に供給者を不合格にする閾値に対して何も測定されていないからだ。

これはホワイトハウスだけに当てはまる批判ではない。それは原則文書の一般的な形だ —性質（安全、公平、プライバシー）を名指し、機構を実装者に任せる。Theorem 3 に根ざした私たちの主張は、性質と機構は分離できないということだ。ある性質はその機構が実装され測定している時ちょうど成立し、計器が切れた瞬間、その性質は保証されず、ただ主張されるだけになる。

Theorem 3：ある性質はその機構が実装され測定している時ちょうど保証される

Everythink プラットフォームを支える 21 papers のシリーズは、私たちが毎日適用するある結果を中心に据える —ある性質は、それを執行する機構が実装され能動的に測定している時ちょうど保証される。機構が不在なら、性質は願望的である。機構が存在しても測定していなければ —今四半期の監査が飛ばされる、監視器がサイレントモードで展開されている、フォールバック経路が一度も演習されない— その性質はその区間では保証されない。

これは「権利」とは何かを再定義する。権利は文書の中の一文ではない；それは生きた計装である。Sisters（私たちの型付き AI エージェント）と Oracle（較正された予測を生成するアンサンブル統合器）✅ は本番で稼働し、私たちが較正を主張できる理由は、原則ファイルに「較正」という言葉を書いたからではない —Oracle が nats でエントロピーを計算し、確率をちょうど一箇所で正規化し、実現した結果に対する divergences が私たちが読む数字だからだ。読むのをやめれば、較正の主張はその日に失効する。

HAI Engine ✅ は2016年から本番で稼働しており、この連続性が「エンジンは動く」という主張の機構であり、マーケティングの文ではない。同じ検査を青写真の五原則に適用すれば、隙間は具体化する。

原則1 — 安全で有効なシステムには展開前と継続的な測定ゲートが必要

青写真は、システムは予見可能な危害を防ぐよう設計されるべき、展開前にテストされるべき、継続的に監視されるべき、独立して監査されるべき、と述べる。「安全で有効」を保証された性質にする機構は、測定が閾値を超えた時に展開を不合格にするゲートと、その読み取りがシステムの運用条件である継続的監視器 —四半期報告ではない— である。

[UNIQUE INSIGHT] "the space is the router" の再構成がここで当てはまる —Everythink の network→community→room トポロジーは何かが応答する前に要求をルーティングするので、安全の境界を生成の後ではなくルーティング時に執行できる。モデルが出力を既に生成した後に座る安全ゲートは返金機構であり、ルート上に座る安全ゲートは予防機構である。青写真の「予見可能な危害を防ぐよう設計」は、予防が事後の査察ではなく要求が通らねばならない経路上にある時にだけ保証になる。

本番では、Oracle ✅ の予測円錐を「有効」の測定機器として扱う —実現した結果が較正が言う率で円錐内に落ちればシステムは有効、そうでなければシステムは失敗であり機構を修復する。青写真の原則は正しい性質である；欠けているのは、計器と展開を不合格にする閾値を名指すことだ。

原則2 — アルゴリズム差別保護には測定された disparate-impact 計器が必要

青写真は、設計者・開発者・展開者に対し、差別的結果を能動的に考慮し、disparate impact を継続的にテストし、保護された分類の代理変数を防ぎ、独立監査を公開することを求める。それぞれは機構である —disparate impact テストは現実の、codify された統計手続きだ— が、原則は cadence と閾値を実装者に任せ、保証はそこから漏れる。

Theorem 3 はこれに厳しい。ローンチ時に一度動いてから消える disparate-impact 計器は、七ヶ月目の非差別を保証しない。保証は計器が動き結果が行動される区間でのみ成り立つ。だから私たちは Oracle ✅ の較正を一回限りのバッジではなく生きた数字として公開する —性質は測定のストリームであり、証明書ではない。

青写真の第二原則の誠実な読解は、それが正しい性質と正しい機構の一族を名指し、その後 binding な部分 —閾値、cadence、失敗動作— をシステムを展開する人に手渡す、ということだ。監査の cadence が滑った時に沈黙して失敗する非差別の権利は、まだ権利ではない；それは権利の形をした文である。

原則3 — データプライバシーには境界で測定される同意とスコープの機構が必要

青写真は、虐待的なデータ慣行に対する組み込み保護、明確で透明な同意、比例した監視、そして敏感な文脈での継続的監視の禁止を求める。同意は機構であり、スコープは機構であり、比例性は測定である。原則は堅牢だ。保証の問いは、同意が捕捉され、スコープが執行され、比例性が計算されているか —それともただ書き留められているか、である。

顧客主権は Everythink の同じ問題に対する答えであり、それは宣言的ではなく運用的である。あなたのネットワーク、あなたのブランド、あなたのデータ —ネットワーク運営者がルーティング・トポロジーを保持し、"the space is the router" はデータがルーティング・ポリシーがそう言わない限り、それがルーティングされた room を出ないことを意味する。これは境界で測定できるスコープ機構である —要求はポリシーを通るか通らないか、そして決定は記録される。

[PERSONAL EXPERIENCE] 2016年から HAI Engine ✅ を本番で稼働させてきた中で、私たちが繰り返し再学ぶ教訓は、境界での測定のないプライバシー原則は保持ポリシーに退化し、それ以上にはならない、ということだ。青写真の第三原則は最も具体的な所で最も強い —「監視は仕事、教育、住宅のような敏感な文脈で使われるべきではない」— なぜなら文脈チェックは計器だからだ。それは文脈が敏感な時に要求を不合格にする機器を名指さずに "should" と述べる所で最も弱い。

原則4 — 通知と説明には技術的に妥当で有用性が測定された説明が必要

青写真は、アクセス可能な文書化、大幅な変更時の最新の通知、技術的に妥当で有意味で聴衆に合わせた説明、そして可能な限りの公開アクセス性を要求する。「技術的に妥当」という語はここで実質的な仕事をする —技術的に妥当でない説明は物語であり、物語は説明ではない。

ここで Sisters→Oracle ✅ パイプラインがその場所を稼ぐ。各 Sister は TOML ファイルから読み込まれた名前付きペルソナを持つ型付きエージェントであり、その草案には再現性のための prompt バージョンが刻印される；Oracle は草案を、確率が一に合計しシナリオが降順でソートされた正規化アンサンブルに融合する。読者が得る説明は予測に関する生成された段落ではない —それは較正を付記したアンサンブルである。それは技術的に妥当な説明である、なぜなら説明されているもの（確率円錐）が測定されているものだからだ。

青写真の第四原則は、「技術的に妥当」が「説明がシステムの測定された性質に対応する」と定義され、対応が検査される時に保証になる。システムが測定しない性質を記述する説明は技術的に妥当ではない；それは装飾である。私たちは較正の数字を全ての予測説明の荷重を支える部分として扱う、なぜならそれを取り除けば説明は散文になるからだ。

原則5 — 人間の代替・考慮・フォールバックには演習され測定されたフォールバック経路が必要

青写真は、適切な場合の脱出オプション、人間が失敗や誤りを救済できるフォールバックとエスカレーションのプロセス、敏感な文脈での追加の監督、そして人間のガバナンス・プロセスの公開文書化を求める。脱出オプションは機構であり、フォールバック経路は機構であり、監督は測定である。保証は、フォールバック経路が必要とされる前に演習されているか、そして人間のガバナンスの結果が有効性で測定されるか、それともただ公開されるかにある。

一度も動いたことのないフォールバック経路は機構の絵であり、機構ではない。Theorem 3 はこれに容赦がない —「人間がこれを救済できる」という性質は、救済の経路が実装され演習されている時 —実際の不服申し立てでテストされ、解決時間と逆転率が数字として読まれる— にだけ保証される。青写真の「人間のガバナンス・プロセス、その結果と有効性を詳述した公開アクセス可能な文書化」は順序を正しく持つ —結果と有効性が計器である。欠けている binding は、無効なフォールバックがもう一つのメモではなく自動化システムの変更を引き起こす閾値である。

Everythink の言葉で言えば、人間のフォールバックは一つのルートであり、"the space is the router" はフォールバック・ルートが自動化ルートと同じくらい実在することを意味する —それはポリシーに記述されるのでなくトポロジーに配線される。人間の査閲者を提供する room は、要求がそれを取る度にそのルートを演習する；PDF で人間の査閲者を約束するだけの room はそうではない。

スコープの倫理 — 権利章典がしない事を名指さねばならないのはなぜか

自動化システムのための権利章典はまたスコープに関する声明であり、青写真はここで静かに強い。その副次的実践は市民的文脈 —雇用、住宅、教育、信用、保険— を前提とし、それが目録化する危害（差別的スコアリング、信頼できない取引、偏った採用）は、市民的で防御的なシステムが引き起こすのを避けるよう構築された危害そのものである。Everythink は同じ境界を書面方針として保持する —市民的・防御的スコープのみ。しない事を名指さない権利章典は、禁じない事は全て許すと読める章典である。

包摂 by design は同じスコープの論拠に属する。英語で、高帯域接続上でのみ届けられる通知と説明の権利は、惑星の大部分には届けられない。青写真の「聴衆と文脈に合わせる」は原則である；機構は低接続性での多言語・マルチモーダル配信であり、それは感情ではなく構築の決定である。私たちはこの線を守る、なぜなら代替案は、保護を最も必要としない人々には実在し他の全員には不在な権利だからだ。

重要ポイント

• 権利は生きた測定であり、文ではない。Theorem 3：ある性質はその機構が実装され測定している時ちょうど保証される。
• ホワイトハウスの青写真（2022）は五つの正しい性質 —安全、非差別、プライバシー、説明、人間のフォールバック— を名指し、binding な機構（閾値、cadence、失敗動作）を実装者に任せる。
• 各原則はその計器が名指され動いている時にだけ保証になる。切れた計器は計器がないのと同じだ。
• "the space is the router" は予防を要求が通らねばならない経路上に置く —安全、スコープ、フォールバックを事後ではなくルーティング時に執行する。
• Oracle ✅ の較正数字は全ての予測説明の荷重を支える部分であり、Sisters ✅ の prompt バージョン刻印が再現性の機構である。これらは読む機器によって性質が保証に変えられた例である。
• 市民的・防御的スコープと包摂 by design は同じ機構の一部である —至る所で、全ての人に、その人の言語で届けられない権利は、まだ権利ではない。

よくある質問

ホワイトハウスの AI 権利章典は法的に binding があるか？ ない。それは将来の米国の政策と立法を情報づけるためのホワイトハウスの白書である。それは原則文書であり、法律ではなく、それゆえにこそ機構の問いが重要である —測定する機器がなければ、binding のない原則に失敗信号はない。

Theorem 3 は実際に何と述べているか？ ある性質は、それを執行する機構が実装され能動的に測定している時ちょうど保証される。機構が不在か計器が切れていれば、その性質はその区間では保証されない —ただ主張されるだけだ。

"the space is the router" は安全の論証をどう変えるか？ 安全の境界を生成後の査察からルーティング時の執行へと移す。network→community→room トポロジーは何かが応答する前に要求をルーティングするので、ルート上の安全やスコープのゲートは危害を返金するのではなく予防する。

Everythink は自社のシステムをこれらの原則に対して監査しているか？ 私たちは Oracle ✅ の較正を生きた数字として公開し、各 Sisters ✅ の実行に再現性のための prompt バージョンを刻印し、2016年からの HAI Engine ✅ の本番連続性を「エンジンは動く」の機構として扱う。これらは徽章ではなく、測定された性質である。

Wallet & Token または Community Credit モジュールはこれらの権利に覆われるか？ 否。Wallet & Token、Super App、Community Credit は 🔵 Roadmap であり、収益前であり、Howey 審査に服する。私たちは token・wallet・community-credit の結果を約束せず、権利章典はその成熟状態を変えない。

計器を造れ、標語を造るな

ホワイトハウスの青写真は困難な部分を成し遂げた —正しい性質を名指した。残る仕事は Theorem 3 が記述する仕事である —各性質に対して機構を実装し、計器を動かし続ける。それが権利章典と願望書の差であり、私たちが構築する差でもある。あなたのネットワークを創り、最初から測定をルーティングせよ。

Sources

• 2022 — White House Office of Science and Technology Policy, Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People. https://www.whitehouse.gov/ostp/ai-bill-of-rights/
• 2022 — Holistic AI, The White House Publishes its Blueprint for an AI Bill of Rights（出典記事）. https://www.holisticai.com/blog/white-house-publishes-blueprint-ai-bill-of-rights