人工智能教父警告科技可能會消滅人類

2024-12-31 20:57?來源 溫州在線

溫州在線科技新聞，“人工智能教父”警告科技可能會消滅人類，諾貝爾物理學獎獲得者杰弗里·辛頓（GeoffreyHinton）擔心該技術可能會在未來30年內導致人類滅絕。

常被稱為人工智能（AI）“教父”的英裔加拿大計算機科學家GeoffreyHinton擔心該技術可能會在未來30年內導致人類滅絕。

Hinton教授今年早些時候因其在該領域的工作而獲得諾貝爾物理學獎，他估計人工智能在未來三十年有“10%到20%”的可能性導致人類滅絕。這比他之前預測的10%的可能性有所增加。

在接受BBC廣播四臺“今日”節(jié)目采訪時，Hinton被問及他對潛在人工智能災難的看法是否發(fā)生了變化。他回答說：“不完全是，10%到20%。”當被問及賠率是否增加時，辛頓說：“如果有的話。你看，我們以前從未遇到過比我們更聰明的事物。”

他補充道：“你知道多少個更聰明的東西被一個不太聰明的東西控制的例子？例子很少。有一個母親和一個嬰兒。進化花了很多功夫讓嬰兒控制母親，但這大概是我所知道的唯一例子。”

辛頓先生也是多倫多大學的名譽教授，他將人類與先進的人工智能系統(tǒng)相比，形容為幼兒。“我喜歡這樣想：想象一下你自己和一個三歲的孩子。我們將成為三歲的孩子，”他說。

當他于2023年辭去谷歌職務，更自由地談論不受監(jiān)管的人工智能開發(fā)的危險時，他對這項技術的擔憂首次為公眾所知。他警告說，“壞人”可能會利用人工智能造成傷害。

談及人工智能發(fā)展的快速進展，Hinton表示：“我沒想到我們會達到現(xiàn)在的水平。我想在未來的某個時刻我們會到達這里。”

他對該領域的專家現(xiàn)在預測人工智能系統(tǒng)可能在未來20年內變得比人類更聰明表示擔憂，稱這是“一個非常可怕的想法”。

辛頓強調了政府監(jiān)管的必要性，并指出發(fā)展速度“非常非常快，比我預期的快得多”。他警告說，僅僅依靠受利益驅動的大公司并不能保證人工智能的安全發(fā)展。“唯一能夠迫使這些大公司在安全方面進行更多研究的就是政府監(jiān)管，”他補充道。

編輯： yujeu