OpenAI 員工要求變革 提出四大重要原則李佩璇 (2024-06-05 14:29:16)

九名現任和前任 OpenAI 員工與其他行業領導者聯手，表達了對人工智慧（AI）風險的嚴重擔憂，並簽署了一封公開信，提出了四個主要原則。這封信由 OpenAI、Anthropic 和 DeepMind 等領先AI公司 13 名人士的簽署，並得到了著名AI先驅 Yoshua Bengio 和 Geoffrey Hinton的認可。

編譯／夏洛特

九名現任和前任 OpenAI 員工與其他行業領導者聯手，表達了對人工智慧（AI）風險的嚴重擔憂，並簽署了一封公開信，提出了四個主要原則。這封信由 OpenAI、Anthropic 和 DeepMind 等領先AI公司 13 名人士的簽署，並得到了著名AI先驅 Yoshua Bengio 和 Geoffrey Hinton的認可。

13 名員工提出四大原則

批評的自由

「公司不會簽訂或執行任何禁止與風險相關而『貶低』或批評公司的協議，也不會透過妨礙任何既得經濟利益的方式，對與風險相關的批評進行報復。」

更多新聞：AI採用勢不可擋 領導者須具備的特質

匿名通報機制

「公司將為現任和前任員工提供可驗證的匿名舉報流程，讓其得以向公司董事會、監管機構，及具有相關專業知識的適當獨立組織，提出與風險相關的擔憂。」

公開批評文化

「公司將支持公開批評的文化，並允許其現任和前任員工向公眾、公司董事會、監管機構或具有相關專業知識的適當獨立組織，提出對其商業秘密技術風險相關擔憂，並讓其他知識產權利益得到適當保護。」

保護舉報人

「公司不會對在其他流程失敗後，對公開分享與風險相關機密資訊的現任和前任員工進行報復，員工也必須同意任何報告風險相關問題的努力，都應避免洩露不必要的機密資訊。因此，一但存在向公司董事會、監管機構和具有相關專業知識的適當獨立組織匿名提出疑慮的適當流程，我們也同意首先透過這樣的流程提出疑慮，但只要這樣的程序不存在，現任和前任員工就應擁有向公眾報告其擔憂的自由。」

員工的失望

近來，OpenAI經歷了一些重大離職，其中包括超級對齊團隊領導者 Ilya Sutskever 和 Jan Leike。在離開時，Leike就在X上抨擊說，OpenAI放棄安全措施，並指責公司將「安全文化和流程讓位給閃亮的產品，」而在這封信上簽名的 OpenAI 前員工 Daniel Kokotajlo 也表達了他對 OpenAI 做法的失望，並表示，他之所以決定離開 OpenAI，是因為他不指望他們採取負責任的行動，特別是在他們追求通用人工智慧（AGI）的時候。

早先，美國新聞評論網站《Vox》就報導稱，OpenAI 以嚴格的離職協議，限制了前員工的言論自由，包括保密和不貶損條款，若違反這些條款，前員工可能會失去已獲得的股權。

參考資料：Insider、Insider

這篇文章 OpenAI 員工要求變革 提出四大重要原則 最早出現於 TechNice科技島-掌握科技與行銷最新動態。