[情報] OpenAI、Google、微軟、Meta、亞馬遜等七

看板Google (谷歌Google)作者stpiknow (H)時間1年前 (2023/09/23 11:14)推噓0(0推 0噓 0→)

留言0則, 0人參與討論串1/1

OpenAI、Google、微軟、Meta、亞馬遜等七家公司引領負責任的人工智慧產業倡議 1. 情報or新聞連結：https://bit.ly/3PQl10r 2. 內文： 2023年7月，美國總統拜登與七家人工智慧公司，包括OpenAI、Google、微軟、Meta、亞馬遜、Anthropic、Inflection的高層在白宮召開會議，共議人工智慧風險防範，會後拜登宣布七家公司自願簽署一份承諾，以安全、保障和信任為三大基本原則監督人工智慧的使用方式，並且是在美國白宮即將發布人工智慧的行政命令和兩黨立法之際作出承諾，以幫助美國在負責任的創新方面發揮帶頭作用。以下為七家公司做出的承諾：在向大眾推出產品之前確保其安全公司承諾在發佈人工智慧系統之前對其進行內部和外部安全測試，而這項測試將部分由獨立專家進行，旨在防範最重要的人工智慧風險來源，例如生物安全和網路安全及其更廣泛的社會影響。此外，公司致力於在整個產業以及與政府、民間和學術界分享有關管理人工智慧風險的資訊，包括最佳安全實踐、有關試圖規避保障措施的資訊以及技術合作。建構將安全放在首位的系統公司承諾投資網路安全和內部威脅防護措施，以保護專有和未發布的模型權重，而這些模型權重是人工智慧系統最重要的部分，因為公司一致認為僅在有意且考慮到安全風險時才發布模型權重是至關重要。此外，公司致力於促進第三方發現和報告其人工智慧系統中的漏洞，因為即使人工智慧系統發布後，部分問題可能仍然存在，而強大的報告機制可以快速發現問題並修復問題。贏得大眾的信任 1.致力於開發強大的技術機制，以確保用戶知道內容何時由人工智慧生成，例如浮水印系統，而這一行動使人工智慧的創造力得以蓬勃發展，同時減少欺詐和欺騙的危險。 2.承諾公開報告其人工智慧系統的功能、局限性以及適當和不適當使用的領域，該報告將涵蓋安全風險和社會風險，例如對公平和偏見的影響。 3.承諾優先研究人工智慧系統可能帶來的社會風險，包括避免有害的偏見和歧視以及保護隱私，而人工智慧的歷史記錄顯示該危險的普遍性，公司承諾推出人工智慧來減輕該危險。 4.致力於開發和部署先進的人工智慧系統，以幫助解決社會面臨的最大挑戰，從癌症預防到緩解氣候變化等，如果管理得當人工智慧可以為所有人的繁榮、平等和安全做出巨大貢獻。致力建立人工智慧管理的國際框架當美國在國內推進這一議程時，也將與盟友和合作夥伴合作，建立一個強大的國際框架來管理人工智慧的開發和使用，包括澳洲、巴西、加拿大、法國、德國、印度、新加坡、韓國、英國等國。此外，美國力求支持日本在G7「廣島進程」（Hiroshima Process）（作為制定人工智慧治理共同原則的重要論壇）、英國在主辦人工智慧安全峰會、印度作為人工智慧全球夥伴關係（Global Partnership on AI）主席的領導力，美國也在聯合國各個論壇上與會員國討論人工智慧。 3.心得: 拜登政府的方法側重於獲得主要AI公司的自願承諾，強調在AI開發中優先考慮安全、安全和信任原則。相比之下，歐洲聯盟的AI法案由歐盟執委會提出，是一個旨在建立強制性規則和要求的監管框架，以治理AI使用。雖然兩者都強調了AI的安全性和社會考慮因素，但歐洲聯盟的AI法案採取了立法的方式，旨在為AI系統設定明確的法律界限和義務。而拜登政府的方法更偏向於合作，通過自願承諾鼓勵行業負責任地行動。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Google/M.1695438890.A.58F.html