被譽為「人工智能教父」的科學家杰弗裡·辛頓（Geoffrey Hinton），於4月份辭去了谷歌（Google）副總裁兼工程研究員的職務。他告訴《紐約時報》，警告人們關於人工智能技術的風險。研究人員擔心，Google將放棄對公共人工智能（AI）發布的限制，以與ChatGPT、Bing Chat等模型競爭，從而帶來道德問題。

Hinton短期內擔心生成式AI可能導致錯誤信息的傳播，甚至可能取代某些工作。長期來看，他既擔心完全自主武器的可能性，也擔心AI模型從訓練數據中學習到奇怪行為。雖然其中一些問題是理論性的，但Hinton認為，在沒有法規或有效控制的情況下，將無法阻止事態惡化。

去年，當Google、OpenAI和其他公司開始創建他認為有時超越人類智能的AI系統時，Hinton的立場開始改變。研究人員表示，過去五年中AI的發展速度驚人，未來五年可能發生的事情令人恐懼。

Google首席科學家傑夫·迪恩（Jeff Dean）在一份聲明中表示，Google仍然致力於「負責任的方法」並警惕「新出現的風險」。Google在3月份發佈了Bard聊天機器人的粗略版本，此前數月一直有傳言稱該公司擔心生成AI的競爭威脅。在此之前，谷歌拒絕公開發布AI模型，例如其面向藝術的Imagen，因為可能存在有毒內容和侵犯版權。

Hinton在其職業生涯中一直致力於研究對AI至關重要的神經網絡，最著名的成果是2012年開發的對象識別系統。他的突破性神經網絡可以使用訓練圖像幫助識別常見對象。谷歌於2013年收購了Hinton的創業公司DNNresearch，他的發明的基本概念推動了一波技術發展，導致了今天的生成技術。

許多有影響力的學者和科技名人，包括馬斯克（Elon Musk）和史蒂夫·沃茲尼亚克（Steve Wozniak），最近簽署了一封公開信，呼籲暫停AI開發六個月，以解決道德和安全問題。然而，作為業界最傑出的人物之一，Hinton的警告具有特殊意義。

文字：編輯部

熱門文章：

【做人就是最大的生涯規劃】成為清流 是新時代裡突圍的好方法

【搵工技巧】面試時5分鐘的自我介紹 6種元素自我推介

【創科新思維】共和黨製作人工智能生成廣告 攻擊宣佈競選連任的拜登

-