Apple 上星期公佈將推出新的 iOS/iPadOS 15 自動檢測軟體，自動檢測兒童性侵圖片。用戶透過 Message 傳送的訊息、儲存在 iCloud 上的相片和透過 Siri 進行搜尋的内容，如果被判斷為兒童性虐待材料的話，會向用戶發出警告，甚至會向保護兒童組織和有關當局舉報。
這個新計劃一出即引來爭議，有私隱方面的疑慮。下面先來説説功能，在這個新軟體中，分別有三個新功能。第一個個功能是如果有用戶用Message 向兒童發送色情照片，色情照片就會變成灰色，並會發出警告。如果兒童想繼續點擊觀看的話，就會發出「如果你決定要觀看的話，會向你父母發出通知以確保你的安全」的警告信息。而由兒童發送出色情照片也會同樣處理。這個功能使用裝置內人工智能進行辨識，所以 Apple 方不會看到信息內容。這個功能將於今年稍後推出的 iOS/iPadOS 15 和 macOS Monterey 上更新，向已在 iCloud 上設定家庭成員的用戶推出。
第二個功能是透過 iOS/iPadOS 來檢測用戶存放在 iCloud Photos 上的 CSAM （兒童性虐待材料）照片。如果有一定數量照片被判斷為 CSAM 相片的話，就會暫停該帳戶，並且通知「美國國家兒童失蹤與受虐兒童援助中心（ NCMEC ）」跟進。如果用戶認為是誤判的話，可以提出恢復帳戶。這個功能並非直接掃描用戶照片的內容，而是以 NCMEC 提供的 CSAM 照片雜湊碼數據庫，在用戶裝置上進行比對。一旦發現有多張 CSAM 照片的話， Apple 就會進行人手確認，但也不是直接查看照片，而是查看與 CSAM 資料庫一致的照片的「安全票證」，確保沒有侵犯私隱，或者進一步傷害兒童。
第三個功能是，如果有人在 Siri 上搜索有關 CSAM 的詞語的話，就會發出警告，指出手機上裝有舉報網上剝削兒童的系統，或指出兒童性侵材料是違法的，並提供求助連結。這功能會在今年稍後向 iOS/iPadOS 15 、 watchOS 8 和 macOS Monterey 推出更新。
雖然這些功能是出自好意，爲了保護兒童不受侵害，不過一些保安專家就認為 Apple 此舉是在向全世界推出大規模審查。他們指出如果今日 Apple 能掃描兒童色情內容的話，明天就能掃描其他任何事情。他們擔心政府最終會強迫 Apple 加入其他雜湊碼到資料庫來作不當目的，例如打壓政治異見分子等等一系列事情。
Apple 就這些爭議向傳媒澄清，有關計劃首先只限於美國實行，並在擴展系統時，會對各國家逐一進行法律評估。 Apple 現時並沒有將系統擴展至全球。Apple 同時指出亦有人支持他們的做法，例如美國家庭線上安全研究所的 CEO Stephen Balkam 就指由於家長在保護孩子上網方面面臨的挑戰，科技公司必須不斷更新和改善他們的安全工具，以應對新的風險和實質傷害。
資料來源：PCM
