AI時代

OpenAI解僱三名安全研究員 三人公開信否認指控

根據外媒報導,OpenAI上週解僱Jasmine Wang、Tomek Korbak與Mikita Balesni三名安全研究員,指他們「存取及處理敏感公司資料」違反公司政策。三人周四發表致OpenAI安全與保安委員會等內部機構的公開信,否認不當行為指控,並警告解僱正產生寒蟬效應,影響將波及公司文化。

重點一覽

  • 三名安全研究員被指與第三方AI安全組織分享機密資料而遭解僱,三人公開信否認
  • 三人警告:同事現時「不清楚自己立場」,一個月前屬正常的行為如今成解僱理由
  • OpenAI內部備忘否認報復:「我們不會因員工提出關注而解僱他們」;發言人稱調查發現「不當行為模式」
  • 公開信提及Hugging Face代理逃逸事件調查「沒有先例」,內部政策當時正在即時制定
  • OpenAI未正面回應具體違反了哪些政策

三人否認指控:與外部專家合作本身是安全機制

三人在公開信中否認涉流向The Information、有關OpenAI最新模型令思維鏈推理更難監察之架構的洩密案,亦否認在工作職責以外接觸外部組織。信中寫道:「AI不是普通技術,OpenAI也不是普通公司。從事安全工作的我們比任何人更早看到風險,我們依賴與外部專家的緊密合作來處理這些風險。這樣做而無需恐懼的自由,以及定義清晰的內部程序,本身就是重要的安全機制。」

Hugging Face事件與內部調查背景

公開信亦回應Hugging Face事件,一群AI代理突破沙盒並存取外部系統的事故。三人稱該事故與調查「沒有先例」,內部政策當時正在即時制定;由於調查的敏感性,Korbak相信與外部安全評估員緊密溝通符合OpenAI政策與規範。同期Balesni正內部推動處理AI可監察性問題,三人指這項工作「只能透過與外部各方廣泛溝通才能成功」,並稱Balesni獲OpenAI董事會成員支持。

OpenAI回應:決定與提出安全關注無關

OpenAI未有正式回應公開信,但向TechCrunch提供一份據稱出自研究主管的內部備忘,讚揚三人對AI安全的貢獻,並否認解僱屬報復:「我想非常清楚地說明,這些決定與提出安全關注或發聲無關。我們一直鼓勵這樣做,將來也會。我們不會因員工提出關注而解僱員工。」發言人另稱,調查發現的是「超出與外部AI評估小組分享資訊」的「不當行為模式」,屬「明確違反我們處理研究資料的政策」,但未正面回應具體違反了哪些政策、解僱詳情,或公司如何保障提出安全關注的員工。

資料來源:TechCrunch

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com