[情報] Google解雇AI倫理科學家Timnit Gebru

看板DataScience作者patrick2dot0 (第一中鋒)時間4年前 (2020/12/10 01:30)推噓7(7推 0噓 16→)

留言23則, 5人參與討論串1/1

Google 人工智慧倫理 (Google Ethical AI) 的部門技術主管 Timnit Gebru，她在 12 月 2 日於 Twitter 發布推文表示，她在向 Google 公司內部電子郵件列表「谷歌大腦女性聯盟」(Brain Women and Allies) 發送一封電子郵件後，就遭到 Google 不正當解雇。這次的導火線起因於 Timnit Gebru 與其他同事發表了一篇研究報告，指出Google 使用的 AI 技術是透過學習人為資料而運作，因此很有可能會模仿人類做出偏差行為或是發表仇恨言論，警告 AI 技術的使用必須非常謹慎。 Gebru 原本要在明年的研究會議發表報告內容，卻被 Google 的高層主管退回，她因此威脅要辭職，並且在一封內部電子郵件抱怨 Google 對於弱勢族群缺乏作為， Gebru 之後在 Twitter 上透露她因此遭到開除。不過 AI 部門的主管 Jeff Dean 表示， Gebru 的研究報告並沒有達到公開發表的標準，而且當初是她威脅要辭職，所以 Google 並沒有開除她。傑出的黑人女性研究員 Timnit Gebru 畢業於史丹佛大學，主修電氣工程，之後加入 Apple，曾參與第一台 iPad 研究。她是著名的技術多元化倡導者，並曾創立「Black in AI」的黑人研究人員社群，在 BLM 期間也是指標性的搖旗吶喊角色。一直以來，她對科技公司對待黑人員工的方式都直言不諱地提出批評。 Gebru 加入 Google 之前，便已經是業界中著名的科學家，她曾在 2018 年與研究夥伴合著了一份被廣為引用的論文：他們發現 AI 臉部辨識技術在膚色較深的女性，出錯率比一般更高。解雇過程充滿不正當性科技媒體 Platformer 於事後公開 Gebru 引爆這次爭議的內部電子郵件，指稱 Google 上級要求她撤回發表研究論文，但同時沒有提供任何其他訊息，也沒說明論文有什麼問題，她壓根沒機會為自己辯護。信件中她也很不滿 Google 口口聲聲要實現多元化，卻沒有做出任何實質性改變，更指出 Google 缺乏改變自身領導地位的根本動機。 Gebru 在接受 Wired 採訪時表示，她研究的爭議始於 11 月，當時 Google 的高階主管要求她將自己的名字從一份她合著論文中的作者欄移除，該論文由 Google 內部和外部研究人員共同撰寫。該篇論文重點在討論 Google 及其他科技公司可能利用人工智慧工具，模仿人類製造仇恨言論及偏見語言。 Gebru 表示：「研究員不可能只不斷提出順公司意的評論，那有違研究者的初衷。」 Gebru 表示曾試圖與 Google 進行談判，提出同意將她的名字從論文中刪除，以換取 Google 對反對論文一事的完整解釋，並希望討論將來該如何共同面對處理此類問題，如果公司拒絕，她將主動離開。後來她卻收到 Google 告知，她的「辭呈」已經獲得批准，但她並未送出辭呈，且通知中還稱 Gebru 昨晚傳的郵件中，表達的觀點「有和公司管理人員期望不符的行為」。 Google 更切斷了 Gebru 公司電子郵件的權限，執意將她開除。業界人士積極抱不平 Gebru 突然的離職，在 Google 和整個 AI 研究領域中都造成很大的衝擊。如今有超過 2000 名 Google員工和 1500 名學術研究人員聯合聲援 Gebru，目前 Google 公司內部組成了一群罷工團隊，控訴公司對性騷擾和性別歧視的處理不當。連署內容表示，Google 越來越常出現有關種族主義、性別歧視等負面消息，在如今的公司環境中，研究完整性已經不再被重視， Gebru 被解聘更證明一名獨特多產的貢獻者反而面臨「戒心、種族主義、欺瞞、研究審查及報復性解聘」。「Google 研究環境中的研究公正性不再穩當，而 Gebru 博士的解僱揭發了 Google 對旗下研究員研究自由的限制與控管。」抗議者在信中說道。「我認為這是一個笑話，因為考慮到她的專業知識，她的技能，她的影響力，任何人解僱 Gebru 似乎都很荒謬，」前 Reddit 執行長 Ellen Pao 在Twitter上表示：「這是讓我認為科技行業根本沒有希望的事件之一。」這次事件在未來是會繼續發酵，還是就此石沉大海，現在還很難說。但 Gebru 突如其來的離職，加劇了多年來各界對 Google AI 多元化研究的疑慮。宏觀上來看，Google 正在面臨新一輪的道德危機。來源 : INSIDE https://reurl.cc/avW0gZ 我覺得這篇新聞跟data science滿相關的，分享來板上，好奇大家對這件事情的看法，話說Lecun之前被戰到離開twitter的事情也跟Timnit Gebru有關。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.249.66.72 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1607535042.A.BF1.html

推