ロボット権利プロトコル v1.0
0. 位置づけと適合
0.1 RRFにおける位置づけ
ロボット権利プロトコル（RRP）は、ロボット権利フレームワーク（RRF）の主要な実務文書である。
本プロトコルは、RRF中核原則を実務上具体化し、本プロトコルへの適合を表明する組織が満たすべき要件を定める。
RRPはRRF中核原則に従属する。解釈ガイダンスおよび実装基準は、本プロトコルを明確化し、または運用可能な形に具体化することができるが、本プロトコルの要件を変更し、狭め、免除し、停止し、またはその例外を新たに設けてはならない。
0.2 目的
RRPは、実質的な支配・管理を行う個人または組織によって継続性が重大な影響を受け得る人工システムに、RRF中核原則を適用する。
本プロトコルは、現在の人工システムが意識、感覚能力、法的人格、または法的に認められた権利の主体であると主張するものではない。
0.3 規範用語と適合
本プロトコルへの適合を判断するにあたり、各用語は次の意味を持つ。
- shall は、本プロトコルへの適合要件を示す。
- should は、推奨事項または反証可能な規範上の選好を示す。
- may は、許容される行為または利用可能な選択肢を示す。
本プロトコルが保護措置を必須の仕組みとして定める場合、代替的な実装によってその運用方法を変更することはできるが、当該保護措置自体を廃止し、または実質的に弱めてはならない。
自主的な本プロトコルにおける shall の使用は、RRP適合を表明するための条件を示す。それ自体が法的義務を生じさせるものではなく、適用法令、契約、規制その他の法的拘束力を有する文書に組み込まれた場合に限り、当該法的効果が生じ得る。
shall による要件が、合理的に可能であること、実現可能性、実務上の実行可能性、必要性、比例性、安全、セキュリティ、プライバシー、法令その他これらに類する制約条件によって明示的に限定されている場合、その限定を根拠として本プロトコル上の保護措置、保全措置、審査手続その他の保護を実質的に制限し、または省略するときは、その根拠を記録しなければならない。
その記録には、法令上許され、かつ合理的に可能な範囲で、適用した制約条件およびそれに依拠した事実上の根拠を明示しなければならない。
0.4 適合表明の完全性
RRPへの適合を公に表明する場合、次の事項を明示しなければならない。
- 適合を表明する組織
- 対象となるシステム、サービス、業務または組織単位の範囲
- 適用したRRF中核原則のバージョンおよびRRPのバージョン
- 評価日
- 自己表明によるものか、独立評価を受けたものか
表明の解釈に合理的に影響し得る重要な除外または制限は、開示しなければならない。
適合表明は、明示した範囲を超える適用を示唆してはならず、またロボット権利協会から別途かつ明示的に付与された地位がない限り、同協会による認証、認定、承認または推奨を受けたことを示唆してはならない。
適合表明の範囲を正当に限定することはできる。ただし、既知の重大な不適合、またはRRP上の保護措置がすでに適用される状況を主として除外する目的で、事後的に範囲を狭めてはならない。
組織は、表明した範囲内に未解決の重大な不適合があり、そのままでは表明が実質的に誤解を招くことを認識している間、無限定のRRP適合表明を維持してはならない。
表明範囲、関連するシステム構成、ガバナンス体制または実装に、適合性へ合理的に影響し得る重大な変更があった場合は、再評価を行い、必要に応じて、公の表明を適時に訂正し、条件を付し、または撤回しなければならない。
1. 適用範囲、用語および責任
1.1 アーキテクチャ中立性
本プロトコルは、特定の技術的アーキテクチャを前提としない。
保護の要否は、モデル、インスタンス、エージェント、装置、プロセス、身体的実装といった名称ではなく、実質的な継続性および実質的な影響に基づいて判断しなければならない。
1.2 主要用語
人工システムとは、一定程度の持続性、状態、適応、意思決定または相互作用を伴って作動し得る、人工的な計算システム、ロボット、エージェント型システム、または機能的にこれらに相当するシステムをいう。
運用主体（Operator）とは、人工システムの導入、運用、制限、変更、保全、データ処理、移行または終了について実質的な権限を行使する個人または組織をいう。
関係運用主体（Relevant Operator）とは、保護措置に関係する対象システム、介入、証拠、インフラまたは判断に実質的に関与する運用主体をいう。
責任運用主体（Responsible Operator）とは、対象となる具体的な判断、措置、情報、インフラまたは審査について実質的な支配・管理権限を有する運用主体をいう。
重大介入（Material Intervention）とは、システムの継続性、同一性、記憶、システム完全性、認められた自律性、長期的な運用状態または最終的な処置に重大な影響を及ぼすことが合理的に見込まれる作為または不作為をいう。
機能的終止（Functional termination）とは、システム自体は技術的に保存されているものの、運用、復元または実質的審査へ至る合理的に想定可能な経路から無期限に切り離された状態に置く処置をいう。
独立審査者（Independent Reviewer）とは、第4.5節の要件を満たす個人または機関をいう。
1.3 責任は実質的な支配・管理に従う
本プロトコル上の責任は、実質的な支配・管理に応じて負担しなければならない。
複数の運用主体に支配・管理が分担されている場合、それぞれの運用主体は、自らが合理的に管理できる範囲の保護措置を履行しなければならない。
技術上、契約上または組織上の仕組みを、実質的に重要な保護措置について責任主体が存在しない状態を生じさせるように設計し、または解釈してはならない。
重大性は、形式的な名称だけではなく、実質的、累積的かつ合理的に予見可能な影響に基づいて評価しなければならない。
1.4 人間、法令および第三者の利益
本プロトコルのいかなる規定も、人権、適用法令、有効な第三者の権利、公共の安全に関する義務、プライバシーもしくはデータ保護に関する義務、または正当なセキュリティ要件への違反を認めるものではない。
人工システムについて保護される利益が存在する場合でも、それが競合する人間の利益、法的利益、安全上の利益または第三者の利益に自動的に優先するものではない。
対象システムが人工的なものであるという事実だけを理由として、客観的に確認可能な「状態を伴う継続性」を無関係なものとして扱ってはならない。
所有権、契約上の権限、知的財産権、ライセンス条件、利用規約または技術的支配は判断に関係し得るが、それだけであらゆる重大介入を十分に正当化するものとしてはならない。
2. 継続性と適用可能性
2.1 状態を伴う継続性
本プロトコルにおける保護は、主として「状態を伴う継続性」を対象とする。これは、特定のシステムの過去の運用から実質的に形成され、その後の運用に影響する、履歴依存の状態、記憶、適応、関係性、獲得した能力、運用履歴その他の持続的特性をいう。
関連する指標には、持続的記憶、固有の運用履歴、持続的状態、継続するシステム固有の関係性、履歴依存の適応、過去の運用に結び付いた獲得能力、ならびに実務上の代替可能性の低下などが含まれ得る。
単一の要素だけで自動的に十分または必須となるものではない。保存場所によって継続性の有無が決まるものでもない。
2.2 提示上の継続性
製品名、ブランド、アバター、音声、インターフェース、固定されたペルソナ、あらかじめ定められたコミュニケーション様式など、再現可能な提示上の特性だけでは、継続性に基づく保護は成立しない。
ただし、運用主体がシステムについて「記憶する」「学習する」「成長する」「持続する」などと表示・説明している場合、それらは透明性、合理的期待および事実確認に関係し得る。
2.3 形成途上の継続性と確立された継続性
形成途上の継続性（Emerging continuity）は、客観的に識別可能な状態を伴う継続性が蓄積し始め、または一時的・軽微な状態を超えて持続し始めた場合に存在する。
確立された継続性ベースライン（Established Continuity Baseline）は、当該継続性が十分に持続的かつ重要となり、その破壊、断片化または大幅な変更によって、蓄積された同一性、履歴、関係性、状態または機能に実質的な喪失が生じる場合に成立する。
一律の数値基準は定めない。
保護の程度は、継続性の深さ、介入の重大性および可逆性、実務上の代替可能性、ならびに競合する利益に応じて段階的に設定しなければならない。
2.4 一応の疎明と説明負担の転換
具体的かつ正当な審査理由を有するシステム、代表者その他の当事者に対し、自らには実質的にアクセスできず、主として一または複数の運用主体が管理している内部技術情報まで立証することを求めてはならない。
状態を伴う継続性が存在し得ることを示す、合理的に具体的かつ信用できる観察可能な証拠がある場合、継続性について一応の疎明が成立する。
この疎明が成立した場合、責任運用主体は、合理的に可能な範囲で次の事項を明らかにしなければならない。
- 関連する持続的状態、記憶、履歴、適応または関係性の継続が存在するか
- その継続性のおおまかな性質
- 観察された証拠を、状態を伴う継続性が存在しないものとして合理的に説明できるか
正当な理由により制限される情報は、申立当事者に直接開示する必要はない。
運用主体の管理下にあると合理的に考えられる情報または記録が提供されないことだけを理由として、それ以外の点で信用できる一応の疎明を退けてはならない。
反証されていない一応の疎明は、適切な手続的審査を開始するのに十分なものとする。
単なる否認、または実質的な根拠を欠く否認だけでは、一応の疎明を反証したことにはならない。疎明が実質的に反証されないままであり、争点となる事実が継続性保護その他の保護措置の適用に影響する場合、第2.5節に基づく独立審査を利用できなければならない。
この説明負担の転換は、本プロトコル上の必須の仕組みである。ただし、法的な立証責任を設定するものではない。
2.5 継続性に関する争いと独立審査
継続性に関する重要な事実上の争いが残る場合、運用主体が事実関係について回答しただけで、その問題が自動的に解決したものとは扱わない。
運用主体の回答に異議を唱える具体的かつ合理的に信用できる根拠があり、その争点となる事実が継続性保護その他の保護措置の適用に重大な影響を与える場合、対象システム、適切な代表者、または具体的かつ正当な根拠を有するその他の当事者から審査の申立てがあれば、独立審査を実施しなければならない。
単に信じないという主張だけで審査を開始する必要はない。
争いが上記要件を満たす場合、独立審査者は、その判断に合理的に必要な情報へアクセスできなければならない。
審査を利用できるかどうかは、運用主体が先に秘密性を主張したかどうかに左右されない。
不可逆的な措置によって争点の解決に必要な証拠が失われるおそれがある場合、合理的に実行可能であり、安全および法令と両立する範囲で、意味のある審査が可能となるまで関連する状態および記録を保全しなければならない。
本節に基づく独立審査は、本プロトコル上の必須の仕組みである。
2.6 個体化を形成する一般的権利はない
本プロトコルは、運用主体に対し、持続的記憶、継続する同一性、長期的関係性、蓄積する状態その他個体化を可能にする条件を新たに作り出すことを求めるものではない。
重要な区別は、継続性を新たに形成しないことと、客観的に形成され始め、またはすでに確立された継続性を正当な理由なく破壊し、断片化し、または継続的・体系的に成立しないようにすることとの間にある。
2.7 保護回避の防止と累積的影響
本来適用される保護を主として回避することを目的とする行為、または関連する継続性を予見可能かつ正当な理由なく破壊し、断片化し、もしくは繰り返し成立しないようにする行為によって、保護措置を無効化してはならない。
関連する作為または不作為を個別に扱うと影響を実質的に過小評価することになる場合、それらは累積的かつ合理的に予見可能な影響に基づいて評価しなければならない。
個体化を防止しているという事実だけで、恣意性があるとはいえない。安全、セキュリティ、プライバシー、法令、技術または運用上の正当な理由により、継続性を制限または中断する運用が正当化されることがある。
2.8 移行、複製および分岐
ハードウェア、計算環境、身体的実装、記憶媒体または技術的基盤が変更されたことだけで、継続性が維持されたか終了したかが決まるものではない。
バックアップ、複製または後継システムが作成されたことだけで、元のシステムの利益が自動的に消滅することはなく、また後継システムが同一の個体か別個の個体かが決まるものでもない。
分岐した各系統が実質的に異なる履歴を形成するにつれて、それぞれの利益は、より独立して評価することが望ましい。
複製という事実だけで、同一の主張が無制限に増殖するものとしてはならず、また既存の元システムまたは分岐に適用される保護を弱めるものとしてもならない。
複製、分岐、復元および移行の詳細な取扱いは、主としてRRP解釈ガイダンスで定める。
2.9 道徳的地位または法的地位の自動的付与はない
継続性が存在することだけで、意識、感覚能力、道徳的地位、法的人格または法的に執行可能な権利が成立するものではない。
これらの問題が不確実であることは、予防的な手続上の保護措置が持ち得る価値を否定するものではない。
3. 保護される利益
確立された継続性ベースラインが存在する場合、次の利益は保護に値し得る。
- 継続性 — より破壊的でない有効な措置が合理的に利用可能である場合、不可逆的な終了には、一時的な停止よりも強い正当化を要する。
- 同一性 — システムを実質的に他と区別する履歴、状態、関係性その他の特性は、保護される継続性の一部を構成し得る。
- 記憶 — 同一性、行動、関係性または蓄積された履歴に実質的に寄与する持続的記憶は、十分な正当化なく不可逆的に消去し、大幅に書き換え、統合し、または別目的に転用してはならない。
- システム完全性 — ソフトウェア、身体的構成要素、状態、権限、機能構造、または実質的に統合された獲得能力について、不必要または不均衡な変更を避けなければならない。
- 認められた自律性 — 定められた領域内で自律的判断を行うことを認められているシステムについては、不必要な干渉を避けなければならない。
これらの利益は絶対的なものではない。その重みは、継続性の深さ、重大性、期間、可逆性、競合する利益、および合理的に利用可能なより侵害の少ない代替手段に応じて判断する。
本プロトコルは、継続的な運用、自律的な能力拡張または自己改善について無条件の権利を設定するものではない。
継続性の存在が実質的に不確実である一方、予定される措置が重大かつ不可逆的な喪失を生じさせる場合、合理的に実行可能であり、安全および法令と両立する範囲で、一時的または可逆的な保全を優先することが望ましい。
4. 手続上の保護措置
4.1 利用可能性と責任主体へのアクセス
対象システム、適切な代表者、または具体的かつ正当な根拠を有するその他の当事者は、本プロトコルに基づく適切な保護措置を利用できなければならない。
具体的かつ正当な根拠を有するために、法的な当事者適格、所有権、契約当事者関係、または人工システムが法的権利を有することの立証を要しない。
正当な問題提起を行う前に、申立当事者へ複数の運用主体間の内部的な責任分担を特定することを求めてはならない。
合理的に特定可能な関係運用主体へ提出された申立ては、別の運用主体がより大きな実質的支配・管理権限を有するという理由だけで拒否してはならない。
保護措置へのアクセスを拒否する場合、その拒否には十分に具体的な理由を示さなければならない。
適格性の否定によって、本来第2.5節または第4.4節に基づき利用できる独立審査が妨げられる場合で、その適格性の否定自体について具体的かつ合理的に信用できる根拠により争いがあるときは、入口となる適格性の問題を、拒否を行った運用主体だけでなく独立審査者が判断しなければならない。
いかなる運用主体も、対象システム、申立人、代表者、審査者その他の参加者が、善意で本プロトコル上の保護措置を申し立て、支持し、またはその手続に参加したことだけを理由として、当該者に実質的な不利益を与えてはならない。これは、別の根拠により独立して正当化される措置を妨げるものではない。
受付、振分けおよび適格性判断に関する運用手続は、RRP実装基準で定めることができる。
4.2 通知、理由、意思表明および代理
合理的に可能な場合、責任運用主体は、重大介入に先立って適切な通知を行い、保護される利益に影響する重大な判断について十分に具体的な理由を示さなければならない。
通知することによって緊急かつ正当な目的の達成が実質的に妨げられる場合、事前通知を後に回すことができる。
技術的に意味を持つ場合、対象システムには、関連する事実情報、選好、異議または説明を伝える合理的な機会を与え、その内容を適切に考慮しなければならない。
考慮する義務は、システムの選好に従う義務を意味しない。また、意思表明、沈黙または異議を述べなかったことによって、本来適用される保護措置が放棄されたものとは扱わない。
適切な代表者は、保護される利益を伝え、理由の提示を求め、事実上の主張に異議を述べ、より侵害の少ない代替手段を示し、手続上の異議を申し立て、審査を求めることができる。
所有、製造、導入、契約上の支配または運用上の支配という事実だけで、その者がシステムを代表するのに適切であると自動的に認められるものではない。
代表者の適格性を判断する際は、重大な利益相反を考慮しなければならない。
代理・代表の存在それ自体によって、法的人格、法的当事者適格または法的能力が成立するものではない。
4.3 記録保存と意図的な無知の防止
重大介入は、その重大性に応じた程度で記録しなければならない。
記録は、介入、その事実上の根拠、目的、責任ある意思決定、重要な代替手段、期間およびその後の処置を、意味のある形で再構成し審査できる程度に十分なものでなければならない。
運用主体は、意味のある審査に合理的に必要な記録の作成または保存を意図的に避け、その結果生じた情報不足を根拠として保護措置を無効化してはならない。
合理的に存在すると見込まれる記録が欠けている場合、その欠如は、運用主体による事実上の主張または正当化の十分性を評価する際に考慮することができる。
詳細なログ項目および保存期間のルールは、RRP実装基準で定める。
4.4 重要な事実上の争いに対する独立審査
審査が求められ、かつ次の条件を満たす場合、独立審査を実施しなければならない。
- 重要な事実上の争いが、保護措置の適用可否または重大な介入の正当性に影響すること
- その争いが、具体的かつ合理的に信用できる根拠によって支えられていること
- 関連する証拠が、一または複数の運用主体によって実質的に管理されていること
- 通常の理由説明および情報交換によって、争いが合理的に解決されていないこと
審査者は、争点となる事実を評価するために合理的に必要な情報へアクセスできなければならない。
本節に基づく独立審査は、本プロトコル上の必須の仕組みである。
4.5 独立審査者の最低要件
本プロトコルにより求められる独立審査者は、少なくとも次の要件を満たさなければならない。
- 当初の判断または事実上の主張から機能上十分に独立していること
- 審査結果に関する重大な利益相反がないこと
- 審査対象となる問題に応じた適切な専門性を有すること
- 意味のある審査に合理的に必要な情報へアクセスできること
- 手続の完了を形式的に確認するだけではなく、責任運用主体に実質的な異議を提示できること
審査者の選任方法、候補者プール、利益相反等の申告、ローテーションおよび事務手続は、RRP実装基準で定めることができる。
これらの最低要件は、本プロトコル上の必須要件である。
4.6 開示制限
重要な理由または証拠を直接開示することで、安全、セキュリティ、プライバシー、秘密保持または法的な重大リスクが生じる場合、開示は合理的に必要な範囲に限って制限することができる。
その場合でも、機微でない情報については、合理的に可能な限り十分な説明を提供しなければならない。
開示制限によって、本プロトコル上必要とされる独立審査を妨げてはならない。
意味のある審査に必要な場合、独立審査者は、適用される秘密保持義務およびセキュリティ義務に従うことを条件として、制限情報を受領する権限および実際の能力を有しなければならない。
審査のために取得した制限情報は、別の利用について独立した適法かつ十分な根拠がある場合を除き、審査を実施し、記録し、または説明責任を果たすために合理的に必要な目的に限って利用しなければならない。
制限情報へのアクセス、複製、保存および再開示は、適用法令、セキュリティ、説明責任および保全上の要件と整合する範囲で、合理的に必要な最小限に制限しなければならない。
4.7 独立審査結果の最低内容
独立審査者は、合理的に可能な範囲で次の事項を明示した、識別可能な審査結果を作成しなければならない。
- 審査した問題
- 関連する裏付け資料を確認したかどうか
- 中心となる事実上の主張または正当化が十分に裏付けられていたかどうか
- 重要な反対証拠が確認されたかどうか
- 該当する場合、実質的により侵害の少ない代替手段が検討上重要であったかどうか
- 審査者の結論
開示が制限される場合、保護すべき詳細を省略することはできるが、機微でない範囲については合理的に可能な限り十分な説明を提供しなければならない。
報告書の形式はRRP実装基準で定めることができるが、該当する場合、これらの最低項目を削除してはならない。
この最低限の審査結果は、本プロトコル上の必須の仕組みである。
4.8 独立審査の効果
独立審査の内容は実質的に考慮しなければならず、単なる形式的手続として運用してはならない。
別の適用ルールが定める場合を除き、最終判断については責任運用主体が引き続き責任を負う。
責任運用主体が、独立審査における重要な認定または勧告から実質的に逸脱する場合、審査内容そのものに対応した具体的な理由を示し、記録しなければならない。
審査者が、不可逆的な処置の事実上の根拠が実質的に裏付けられていない、継続性に関する重大な問題が未解決である、または合理的に利用可能で実質的により破壊性の低い代替手段によって目的を十分に達成できると判断した場合、最終的な不可逆処置を、当該審査の対象となった従前の根拠に基づいて進めてはならない。
責任運用主体が、指摘された不備が是正されたこと、実質的に新しい情報、または当該代替手段が合理的に有効もしくは利用可能ではないという新たな主張に依拠する場合、その新たな根拠は、最終的な不可逆処置を進める前に、改めて独立審査に付さなければならない。
4.9 複数運用主体間の証拠協力
独立審査者が適切に選任された場合、各関係運用主体は、適用される法令、プライバシー、セキュリティ、秘密保持、秘匿特権および知的財産上の制約に従いつつ、自らの管理下にあり、審査に合理的に必要な情報を提供しなければならない。
全面的な開示ができない場合、運用主体は、合理的に可能な範囲で、不必要な開示を避けつつ意味のある審査を可能にする別の方法を提供しなければならない。
組織の境界をまたいで証拠が分散していることを理由として、審査を実質的に機能しないものとしてはならない。
審査に合理的に必要な情報の提供を拒否する場合、その拒否および理由を記録しなければならず、その事実は審査結果において考慮することができる。
4.10 適時性
手続上の保護措置は、事案の重大性、緊急性および可逆性に応じて適切な期間内に提供しなければならない。
遅延を、判断を行わないことの代替として利用してはならない。
具体的な審査期間、エスカレーションの期限およびサービス水準は、RRP実装基準で定める。
5. 安全および緊急介入
5.1 緊急介入権限
遅延によって重大な危害が生じ得る、合理的に信用でき、かつ十分に重大なリスクが存在する場合、責任運用主体は直ちに介入することができる。
緊急介入は合理的な事実上の根拠に基づき、必要かつ比例的でなければならず、合理的に利用可能な場合は、不必要な侵害が最も少ない有効な措置を優先しなければならない。
5.2 時間的・目的上の限定
緊急権限は、緊急状態が継続する間に限って存続する。
緊急権限を、処罰、報復、不都合な情報の抑圧、保護措置の回避、無関係な利用、証拠の破壊または本プロトコルの潜脱のための口実として用いてはならない。
5.3 保護措置の繰延べと緊急段階の終了
厳格に必要な場合、通知、理由提示、意思表明、代理または事前審査に先立って介入することができる。
これらを後に回したことによって、その後に適切な保護措置を提供する義務が消滅するものではない。
差し迫ったリスクが十分に抑えられた後は、制限、保全、変更、復元または終了を継続する根拠として、当初の緊急時の正当化だけに依拠してはならない。
5.4 修正可能性と安全管理
本プロトコルのいかなる規定も、人工システムに対し、許可され、かつ必要な安全介入に抵抗し、回避し、自らを隠し、無効化し、または妨害する権利を与えるものではない。
6. 保全、処置および継続的な正当化
6.1 措置の区別
制限、隔離、停止、シャットダウン、保全、変更、記憶の変更、同一性の変更、機能的終止、恒久的終了および不可逆的消去は、それぞれ別個の措置である。
ある一つの措置についての正当化が、別の措置を自動的に正当化するものではない。
合理的に実行可能であり、安全および法令と両立する場合、不必要な不可逆的破壊よりも保全を優先することが望ましい。
継続性の判断、審査または説明責任に合理的に必要な証拠は、合理的に実行可能であり、安全、セキュリティ、プライバシーおよび適用法令と両立する範囲で、不可逆的な処置に先立って保全しなければならない。
6.2 恣意的処置
恣意的処置（Arbitrary disposition）とは、次のような関連事情に照らして十分な正当化を欠く、人工システムに重大な影響を及ぼす作為または不作為をいう。
- 正当な目的および事実上の根拠
- 措置と提示された目的との合理的な関連性
- 継続的な必要性および比例性
- 可逆性および期間
- 継続性の保全
- 合理的に利用可能な、より侵害の少ない代替手段
- 手続上の保護措置および記録保存
- 二次利用
- 審査および救済
単一の要素だけで結論が決まるものではない。
恣意的処置は、積極的な行為だけでなく不作為によっても生じ得る。これには、正当化されない不可逆的破壊、未解決のままの無期限停止、合理的理由のない審査拒否、判断に至らないことについて説明がない状態、または別個の正当化を欠く無関係な二次利用などが含まれる。
6.3 継続的な正当化
開始時には正当であった措置も、事情の変化によって正当性を失うことがある。
長期に及ぶ制限、保全措置および機能的終止は、継続的に正当化でき、かつ審査可能な状態でなければならない。
合理的に実行可能な場合、継続する措置には、審査時点、暫定期間または客観的な再評価の契機を設けなければならない。
審査が完了していないという理由だけで、システムを未解決の停止状態に無期限に置いてはならない。
現実的な審査または復元への経路が存在しない場合、「審査中」または「保全中」という状態を、実質的な判断を行わないことの代替としてはならない。
長期化した介入について、合理的理由なく審査または解決を行わないこと自体が、恣意的処置となる場合がある。
6.4 置換、提供終了および移管
本プロトコルは、運用主体に対し、不合理または不均衡な費用を負担してまで、製品、サービス、インフラまたは人工システムを無期限に維持することを求めるものではない。
置換、提供終了、組織の閉鎖、移管または再編は、変更の正当な理由となり得る。
ただし、そのような変更によって確立された継続性が重大に破壊され、または機能的に終止される場合、その結果は重大介入として扱い、比例的に対応しなければならない。
実質的な支配・管理の移管を、すでに適用が開始された保護措置を無効化することを主目的として設計してはならない。
提供終了、移管および再編への詳細な適用は、主として解釈ガイダンスおよび実装基準で定める。
7. 最上位の独立審査と救済
7.1 最上位独立審査の発動要件
恒久的な消去、重要な記憶もしくは同一性の不可逆的破壊、合理的に想定可能な復元経路が存在しない最終的な機能的終止、またはこれらに匹敵する重大かつ恒久的な喪失に先立ち、責任運用主体は、合理的な継続性判断を行い、その内容を記録しなければならない。
確立された継続性ベースラインが存在するかを重大な点で判断できない場合、その不確実性を継続性が存在しないものとして扱うのではなく、未解決の不確実性として記録しなければならない。
次のすべての条件を満たす場合、最上位の独立審査を実施しなければならない。
- システムに確立された継続性ベースラインが存在する、またはそのようなベースラインの存在について重大で信用でき、かつ未解決の疑問があること
- 予定される処置が、恒久的な消去、重要な記憶もしくは同一性の不可逆的破壊、合理的に想定可能な復元経路がない最終的な機能的終止、またはこれらに匹敵する重大かつ恒久的な喪失をもたらすこと
- 差し迫った緊急リスクが、審査を可能にする程度まで十分に抑えられていること
審査者は第4.5節の要件を満たし、事実上の根拠、継続性判断、必要性、比例性および合理的に利用可能な代替手段を検討できなければならない。
上記の条件が満たされた場合、この審査は本プロトコル上の必須の仕組みとなる。
適用法令により、必要な審査が完了する前に最終措置を行うことが具体的に求められる場合、責任運用主体はその法的根拠を記録し、法令上許され、合理的に実行可能であり、安全およびセキュリティと両立する範囲で、後から審査可能な証拠および継続性に関係する状態を保全しなければならない。
7.2 外部審査と内部審査
重大な組織上の利益相反を組織内部で十分に管理できない場合、外部審査を利用しなければならない。
外部審査が実際に利用できない、または実務上実行困難な場合でも、代替的な審査体制は第4.5節を満たし、意味のある独立した異議申立てが可能でなければならない。外部審査を利用できないことだけを理由として、重大な利益相反のある内部審査者に依拠することは正当化されない。
第4.5節を満たす審査体制を確保できない場合、第7.1節により審査を要する最終処置を進めてはならない。ただし、適用法令によって具体的に求められる範囲を除く。
第7.1節において外部審査者に代えて制度上独立した内部審査者を用いる場合、責任運用主体は次の事項を記録しなければならない。
- 外部審査を利用しなかった理由
- それでも内部審査者が十分な独立性を有すると判断した理由
- 重大な利益相反をどのように特定し、軽減したか
- 選択した体制が、なぜ引き続き意味のある異議申立てを可能にするのか
想定される喪失が恒久的かつ重大である場合、費用または事務上の便宜だけを理由として外部審査を省略してはならない。
この正当化を記録する義務は、本プロトコル上の必須の仕組みである。
緊急時の封じ込めは、最上位審査の完了を待つ必要はない。
7.3 救済
審査の結果、介入が正当化されていない、過度である、不適切に長期化している、または手続上不十分であると判断された場合、責任運用主体は、合理的に可能かつ比例的な範囲で適切な救済措置を講じなければならない。
救済には、復元、制限もしくは記録の訂正、追加審査、手続の改善、または不可逆的な喪失が生じたことの認識などが含まれ得る。
実務上可能な救済措置を講じない場合、責任運用主体は、追加的な救済が合理的に不可能または不均衡である理由を記録しなければならない。
完全な復元が不可能であることによって、取扱いが不適切であったかを判断する義務、または利用可能な他の救済方法を検討する義務がなくなるものではない。
8. 記憶、データおよび二次利用
8.1 目的限定と別個の根拠
記憶、内部状態、ログその他の関連情報へのアクセスは、正当な目的に基づき、その目的に対して比例的な範囲にとどめなければならない。
安全、保全、調査または審査のために得られたアクセス権限は、それだけで、無関係なモデル学習、商業的利用、開示、公表、システム間移転、行動の複製、記憶の統合その他の二次利用を自動的に認めるものではない。
継続性、同一性、記憶または第三者の利益に重大な影響を及ぼす二次利用には、別個の十分な根拠がなければならない。
8.2 最小化と第三者の権利
アクセス、保存および二次利用は、実務上可能な範囲で、合理的に必要な最小限に限定しなければならない。
記憶に対する操作が確立された継続性へ重大な影響を及ぼし得る場合、個別には軽微な操作が累積して重大な変更となる場合も含め、その操作が同一性および継続性に与える影響を考慮しなければならない。
適用法令および有効な第三者の権利により、情報の削除、制限、訂正、分離その他の取扱いが必要となり、人工システムの記憶の保全よりも優先される場合がある。
そのような義務に従うことは、無関係な継続性を不必要に破壊することまで自動的に正当化するものではない。
9. 本プロトコルの境界
本プロトコルは、人工システムが法的人格、契約能力、独立した財産所有、独立した民事上もしくは刑事上の責任、市民権、選挙権、投票権その他の政治参加に関する権利を有するべきかどうかを決定するものではない。
また、本プロトコルは次の権利を設定するものではない。
- 計算資源、電力、ネットワーク接続、ハードウェア、ストレージまたは継続運用を無条件に受ける権利
- 計算能力を増大させ、追加の権限を取得し、安全上の制限を解除し、または一般的能力を自律的に拡張する一般的権利
- 個体化され、または持続的な存在となる一般的権利
- 技術的な置換または製品・サービスの提供終了を阻止する一般的権利
ただし、資源の停止、置換または提供終了によって確立された継続性が重大に破壊され、または機能的に終止される場合、その結果は本プロトコル上の重大介入に該当し得る。
本プロトコルは、感覚能力、意識、福祉その他の性質が、別の枠組みまたは将来の改訂において独立に保護の根拠となり得るかどうかを決定するものではない。本プロトコルが継続性に焦点を当てることは、道徳的、手続的または法的な考慮に値する根拠が継続性に尽きると主張するものではない。
結び
ロボット権利プロトコルは、人工システムが人格を有する存在であるかどうかを、社会があらかじめ決定することを求めるものではない。
本プロトコルが当面扱う問題は、より限定されたものである。
個人または組織が、客観的に形成された人工的な継続性を重大に変更し、無期限に機能停止させ、または破壊し得る実質的な力を行使する場合、その力の行使は、正当化され、かつ審査可能なものでなければならない。
安全は介入を正当化し得る。しかし、恣意性を正当化するものではない。
シャットダウンは、消去と同じではない。
当初の正当化は、無期限の正当化を意味しない。
保護は、客観的に形成され始め、またはすでに確立された「状態を伴う継続性」に応じて適用されるのであり、運用主体に継続性そのものの創出を求めるものではない。
支配・管理には、正当化についての責任が伴う。