[新聞] 父親提供兒子裸照給醫生診斷病情，遭Google誤判為罪犯

看板Google (谷歌Google)作者g5637128 (好睏)時間1年前 (2022/08/27 11:13)推噓7(7推 0噓 6→)

留言13則, 6人參與討論串1/1

父親提供兒子裸照給醫生診斷病情，遭 Google 誤判為罪犯 2022/08/22 Jocelyn 去年 2 月診所因為疫情休診，一位父親 Mark 將兒子腹股溝照片傳給醫生診斷，Google 帳號遭照片審查機制停用。根據《紐約時報》[1]報導，去年 2 月一位父親 Mark 注意到兒子私密處發炎，但由於疫情下診所仍休診，因此在護士的建議下， Mark 使用安卓（Android）手機拍下兒子腹股溝的照片，將照片傳給醫生後再進行視訊診斷。在 Mark 拍下照片的兩天後，即收到 Google 的通知，告訴他由於帳號出現疑似非法的有害內容，因此帳號已遭 Google 鎖定。 Mark 無法使用 email、通訊錄、照片，且因為他使用的是 Google 電信服務 Google Fi ，因此連手機號碼都遭停用，他也曾試圖申訴 Google 的決定，但都被 Google 拒絕。 2021 年 12 月警察針對 Mark 的事件展開調查，證實這次事件與犯罪無關。像其他網路平台 Facebook、Twitter 等，Google 對於照片的審查是透過微軟的 PhotoDNA 圖片辨識比對技術，而這樣的機制曾在 2012 年成功逮捕一位藉 Gmail 傳送兒童色情照片的性犯罪者。 2018 年 Google 推出圖片審查的 AI 工具，透過 AI 來辨識從沒見過的兒童性虐資料（ CSAM），並以最快的速度下架照片並通報。Google 發言人指出，藉由機器學習，並建立雜湊值（hash value，又稱數位指紋），來與已知的 CSAM 內容相比對。AI 發現不適當的內容後，Google 將通報相關組織。另外發言人也說 Google 只會在用戶對照片採取動作時，加以審查，包括將照片複製到 Google 相簿中等行為。而對於誤舉報的事件，Google 給出的回應則是，公司遵照美國法律並運用雜湊值和 AI 來判定哪些內容是 CSAM，另外 Google 也設有團隊來檢視遭舉報的內容是否準確，且也有諮詢小兒科醫生來辨識那些照片是用於醫療需求。儘管藉由照片審查來保護兒童的權益固然重要，但審查機制背後的隱私問題也受到質疑。 Apple在去年推出了保護兒童的計畫（Child Safety Plan），Apple 會在用戶上傳照片至 iCloud 前進行審查，方式與 Google 相似，如果雜湊值與已知的 CSAM 照片相符，則會轉由人工審查，來判定是否有需要鎖定該帳號。計畫推出後提倡數位權益的非營利組織 The Electronic Frontier Foundation（EFF）指出，這危害到了 iCloud 使用者的權益。Apple 也因此暫緩了計畫，但隨著 iOS 15.2 的推出，Apple 讓父母得以選擇，是否在家庭共享計畫的兒童帳號中加入照片審查機制，若父母同意則小孩帳號的「訊息」App 將審查裡面的照片是否有裸露元素，若有審查到 Apple 則會將照片模糊化，並提出警訊以及提供可以協助網路安全的資源。而對於 Google 此次事件，EFF 的 Jon callas 認為這樣審查功能是侵犯權益的，他表示用戶擔心的就是帳號中的家庭相簿被審查後惹上麻煩。在台灣的一位用戶也發生類似於 Mark 的情況，他懷疑因自己的雲端硬碟存放衛教文章所需的兒童生殖器照片，而受到 Google 審查，進而造成帳號被無預警的停用。他也警告帳號遭停用後不僅 email 和存在 Chrome 裡的密碼不能使用，而造成後續麻煩外，任何一次性付費的 Google App 也需重新購買，甚至他的 Youtube Premium 帳號在被停用後仍持續被扣款。 Google 的照片審查的確曾有效阻止了犯罪事件，但對於要將私密照片用於正當醫療用途上的使用者，只要出現了審查錯誤，即會讓用戶的使用權益收到侵害，也容易讓用戶難以再次信任公司所提供的服務。 [1] A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal. https://is.gd/3CXkbS --- 上傳兒「露鳥照」被當情色照！遠距看診卻遭Google註銷帳號，AI演算是錯殺無辜或必要之惡？【TODAY 看世界】 https://youtu.be/5jBuLJymzDk