簡介

  • 據《金融時報》報導，OpenAI 的 AI 倫理負責人 Chloe Bakalar 上個月離職，未公開宣布。
  • 據一位熟悉她職位的人士透露，她是 OpenAI 唯一專職的倫理學家，且尚未有人接替。
  • 她的離職緊隨 OpenAI 安全系統負責人和首席未來學家的離職之後。

OpenAI 的倫理負責人在加入不到一年後離職，公司尚未找人接替，《金融時報》週一報導。

據該報報導，Chloe Bakalar 去年八月加入擔任 AI 倫理負責人，並於七月離職，未公開宣布。一位熟悉她職位的人士告訴《金融時報》，她是公司唯一專職的倫理學家，負責研究模型開發的倫理方法、人們如何與 AI 互動，以及機器意識的問題。

Bakalar 曾在 Meta 擔任首席倫理學家六年，期間建立了該公司的 AI 倫理計劃，並將其融入 Instagram 和 Facebook 等產品中。她曾在倫敦大學學院、天普大學和普林斯頓大學擔任學術職位。

OpenAI 淡化該職位的重要性，一位發言人告訴《金融時報》：「AI 倫理並非由 OpenAI 的某個負責人或團隊獨自承擔。」他們補充說，倫理考量已融入各研究團隊，且公司近幾個月已引入多個系統以防止模型行為不當。

Bakalar 自己也發表過類似的觀點。在最近的一次會議上，她表示倫理是每個人的責任，且「AI 開發者不應只有一個人作為道德中心」。她拒絕向《金融時報》評論她的離職。

一系列安全相關離職

她的離職緊隨安全系統負責人 Johannes Heidecke 和首席未來學家 Joshua Achiam（曾任任務對齊負責人）的離職之後，《金融時報》稱。OpenAI 在同一天完成了 70 億美元的員工股份回購，估值為 8520 億美元，與三月的融資輪持平，為可能的上市做準備。

OpenAI 於週五暫停了其下一個主要模型 Astra 的工作，稱無法排除該系統已達到其自身網絡風險等級的最高級別，該等級專為能夠在無人參與的情況下找到並構建有效漏洞利用的模型而設。