JCA-NETをはじめとして、世界中の91の団体が共同で、アップル社に対して共同書簡を送りました。以下は、その日本語訳です。
英語本文は下記をごらんください。
https://cdt.org/wp-content/uploads/2021/08/CDT-Coalition-ltr-to-Apple-1…
アップルは、マックやiPhoneユーザの大半が利用している自社にiCloudについて、エンド・ツー・エンド暗号化の方針を転換し、捜査機関などがクラウドのデータにアクセスできる仕組みを導入することを公表しました。以下の公開書簡はこの決定を取り消すように求めたものです。

2021年11月12日追記:Apple社は当初の計画を撤回しました。詳しくは、CDTのプレスリリース(日本語はこちら)をごらんください。

---------------------------------
2021年8月19日

公開書簡

宛先:ティム・クック
Apple, Inc.CEO

クック氏へ。

世界中の市民権、人権、デジタルライツに取り組む以下の団体は、Appleが2021年8月5日に発表した、iPhoneやiPadなどのApple製品に監視機能を搭載する計画を断念することを強く求めます。これらの機能は、子どもたちを保護し、児童性的虐待資料(CSAM)の拡散を抑えることを目的としていますが、保護されるべき言論を検閲するために使用され、世界中の人々のプライバシーとセキュリティを脅かし、多くの子どもたちに悲惨な結果をもたらすことを懸念しています。

Appleは、テキストメッセージサービス「Messages」の画像をスキャンする機械学習アルゴリズムを導入し、ファミリーアカウントで子どもと特定された人との間で送受信される性的表現を検出すると発表しました。この監視機能は、アップルのデバイスに組み込まれます。このアルゴリズムは、性的に露骨な画像を検出すると、その画像がセンシティブな情報の可能性があることをユーザーに警告します。また、13歳未満のユーザーが画像の送受信を選択すると、ファミリーアカウントの管理者に通知が送られます。

性的表現を検出するためのアルゴリズムは、信頼性が低いことが知られています。芸術作品、健康情報、教育資料、擁護メッセージ、その他の画像に誤ってフラグを立ててしまう傾向があります。このような情報を送受信する子どもたちの権利は、国連の「子どもの権利条約」で保護されています。さらに、Appleが開発したシステムでは、「親」と「子」のアカウントが、実際には子どもの親である大人のものであって、健全な親子関係を築いていることを前提としています。こうした前提は必ずしも正しいものではなく、虐待を受けている大人がアカウントの所有者である可能性もあり、親への通知の結果、子どもの安全と幸福が脅かされる可能性もあります。特にLGBTQ+の若者は、無理解な親のもとで家族のアカウントを利用しているため、危険にさらされています。この変更により、送信者と受信者のみが送信情報にアクセスできるエンドツーエンドで暗号化されたメッセージシステムを通じた機密性とプライバシーがユーザーに提供されなくなります。このバックドア機能が組み込まれると、政府はアップル社に対して、他のアカウントへの通知や、性的表現以外の理由で好ましくない画像の検出を強制することが可能になります。

また、Appleは、米国の「National Center for Missing and Exploited Children(行方不明および搾取される子供のための全国センター)」やその他の子供の安全に関する組織が提供するCSAM画像のハッシュデータベースを自社製品のOSに組み込むと発表しました。これは、ユーザーがiCloudにアップロードするすべての写真をスキャンします。一定の基準に達した場合には、そのユーザーのアカウントを無効にし、ユーザーとその画像を当局に報告します。多くのユーザーは、撮影した写真を日常的にiCloudにアップロードしています。このようなユーザーにとって、画像の監視は選択できるものではなく、iPhoneやその他のAppleデバイス、そしてiCloudアカウントに組み込まれています。

この機能がApple製品に組み込まれると、Appleとその競合他社は、CSAMだけでなく、政府が好ましくないと考える他の画像も含めて写真をスキャンするよう、世界中の政府から大きな圧力を受け、法的に要求される可能性があります。それらの画像は、こうした企業が人権侵害や政治的抗議活動、「テロリスト」や「暴力的」コンテンツとしてタグ付けした画像であったり、あるいはスキャンするように企業に圧力をかけてくる政治家の不名誉な画像などであるかもしれないのです。そしてその圧力は、iCloudにアップロードされたものだけでなく、デバイスに保存されているすべての画像に及ぶ可能性があります。このようにしてAppleは、世界規模での検閲、監視、迫害の基礎を築くことになります。

私たちは、子どもたちを守るための取り組みを支援し、CSAMの拡散に断固として反対します。しかし、Appleが発表した変更は、子どもたちや他のユーザーを現在も将来も危険にさらすものです。私たちは、Appleがこのような変更を断念し、エンドツーエンドの暗号化によってユーザーを保護するという同社のコミットメントを再確認することを強く求めます。また、Appleが、製品やサービスの変更によって不均衡な影響を受ける可能性のある市民社会団体や脆弱なコミュニティと更に定期的に協議することを強く求めます。

敬具

[署名団体]
Access Now (Global)
Advocacy for Principled Action in Government (United States)
African Academic Network on Internet Policy (Africa)
AJIF (Nigeria)
American Civil Liberties Union (United States)
Aqualtune Lab (Brasil)
Asociación por los Derechos Civiles (ADC) (Argentina)
Association for Progressive Communications (APC) (Global)
Barracón Digital (Honduras)
Beyond Saving Lives Foundation (Africa)
Big Brother Watch (United Kingdom)
Body & Data (Nepal)
Canadian Civil Liberties Association
CAPÍTULO GUATEMALA DE INTERNET SOCIETY (Guatemala)
Center for Democracy & Technology (United States)
Centre for Free Expression (Canada)
CILIP/ Bürgerrechte & Polizei (Germany)
Código Sur (Centroamerica)
Community NetHUBs Africa
Dangerous Speech Project (United States)
Defending Rights & Dissent (United States)
Demand Progress Education Fund (United States)
Derechos Digitales (Latin America)
Digital Rights Foundation (Pakistan)
Digital Rights Watch (Australia)
DNS Africa Online (Africa)
Electronic Frontier Foundation (United States)
EngageMedia (Asia-Pacific)
Eticas Foundation (Spain)
European Center for Not-for-Profit Law (ECNL) (Europe)
Fight for the Future (United States)
Free Speech Coalition Inc. (FSC) (United States)
Fundación Karisma (Colombia)
Global Forum for Media Development (GFMD) (Belgium)
Global Partners Digital (United Kingdom)
Global Voices (Netherlands)
Hiperderecho (Peru)
Instituto Beta: Internet & Democracia – IBIDEM (Brazil)
Instituto de Referência em Internet e Sociedade - IRIS (Brazil)
Instituto Liberdade Digital - ILD (Brazil)
Instituto Nupef (Brazil)
Internet Governance Project, Georgia Institute of Technology (Global)
Internet Society Panama Chapter
Interpeer Project (Germany)
IP.rec - Law and Technology Research Institute of Recife (Brazil)
IPANDETEC Central America
ISOC Bolivia
ISOC Brazil - Brazilian Chapter of the Internet Society
ISOC Chapter Dominican Republic
ISOC Ghana
ISOC India Hyderabad Chapter
ISOC Paraguay Chapter
ISOC Senegal Chapter
JCA-NET (Japan)
Kijiji Yeetu (Kenya)
LGBT Technology Partnership & Institute (United States)
Liberty (United Kingdom)
mailbox.org (EU/DE)
May First Movement Technology (United States)
National Coalition Against Censorship (United States)
National Working Positive Coalition (United States)
New America's Open Technology Institute (United States)
OhmTel Ltda (Columbia)
OpenMedia (Canada/United States)
Paradigm Initiative (PIN) (Africa)
PDX Privacy (United States)
4
PEN America (Global)
Privacy International (Global)
PRIVACY LATAM (Argentina)
Progressive Technology Project (United States)
Prostasia Foundation (United States)
R3D: Red en Defensa de los Derechos Digitales (Mexico)
Ranking Digital Rights (United States)
S.T.O.P. - Surveillance Technology Oversight Project (United States)
Samuelson-Glushko Canadian Internet Policy & Public Interest Clinic (CIPPIC)
Sero Project (United States)
Simply Secure (United States)
Software Freedom Law Center, India
SWOP Behind Bars (United States)
Tech for Good Asia (Hong Kong)
TEDIC (Paraguay)
Telangana (India)
The DKT Liberty Project (United States)
The Sex Workers Project of the Urban Justice Center (United States)
The Tor Project (Global)
UBUNTEAM (Africa)
US Human Rights Network (United States)
WITNESS (Global)
Woodhull Freedom Foundation (United States)
X-Lab (United States)
Zaina Foundation (Tanzania)