OpenAI成立專門團隊來管理超級人工智能（Super AI）的風險是一個令人矚目的舉措，因為超級人工智能被認為是未來最具有潛力的技術之一。超級人工智能是指一種假設的人工智能模型，它具備比最聰明、最有天賦的人類更高的智慧水準，並可以擅長多個領域，而不僅是專注於一個領域。OpenAI認為，這種技術可能會在本世紀末到來，它具有巨大的潛力，可以幫助我們解決許多最重要的問題，如氣候變化、醫療保健、糧食安全等。

然而，超級人工智能的巨大力量也可能會帶來一些不可預見的風導致險。它可能人類失去權力，甚至人類滅絕。這是一項令人擔憂的前景，因此OpenAI成立專門團隊來管理超級人工智能的風險，以確保其安全使用，符合人類價值觀。

這個團隊將由OpenAI首席科學家Ilya Sutskever和研究實驗室協調負責人Jan Leike共同領導。OpenAI表示，將把目前安全計算能力的20%投入到該計畫中，旨在開發一個自動對準研究員的系統。該系統將有助於OpenAI確保超級人工智能可以安全使用，並且符合人類的價值觀。雖然這是一個令人難以置信的目標，但是OpenAI表示，他們樂觀地認為，通過集中一致的努力，可以解決這個問題。OpenAI表示，他們在初步實驗中已經有了很多有希望的想法，並且有越來越有用的進展指標，他們可以使用今天的模型來實證研究其中許多問題。他們還計畫在未來分享路線圖。

在這個新聞公佈的時候，世界各國政府正在考慮如何監管新興的人工智能行業。在美國，OpenAI首席執行官Sam Altman與至少100名聯邦議員會面最近幾個月。Altman公開表示，人工智能監管“至關重要”，並且OpenAI“渴望”與政策制定者合作。但是，我們應該持懷疑態度對待這些聲明以及OpenAI的“超級對準”團隊等所做的努力。通過將公眾的關注集中在可能永遠不會實現的假設風險上，OpenAI等組織將監管負擔轉移到了地平線上，而不是此時此地。人工智能與人工智能之間的相互作用還有很多更緊迫的問題。勞動、誤傳和版權政策制定者需要解決今天的問題，而不是明天的問題。

OpenAI成立專門團隊來管理超級人工智能的風險是一個非常重要的舉措。雖然超級人工智能的潛力巨大，但是它也可能帶來一些不可預見的風險。通過這個團隊的努力，我們可以確保超級人工智能能夠安全地使用，並符合人類的價值觀。

文字：編輯部

~~

CoolJobz 正在提供全備的招聘服務（包括獵頭服務），

若你是求職者，

1. 請按 Sing Up 登記成為會員並填妥你的個人履歷

2. 將你的履歷 WhatsApp 至 63550329 或 電郵至 recruit@cooljobz.com

我們將有專人為你配對工作。

若你是僱主，

請致電 31884978、WhatsApp 63550329 或電郵至 cs@cooljobz.com 與我們聯絡。

熱門文章：

【職場健康】銀屑病可致心臟病 打工仔要小心

【搵工新志向】機管局注重建築質素 招聘「建築主管」監控和測試日常工程

【創科新思維】企業發展量產空中出租車 第一架飛機將進行飛行測試

-