新聞中心
強(qiáng)大的人工智能禁令可能，政府顧問(wèn)警告 |
| 發(fā)布時(shí)間：2023/6/3 |
政府人工智能委員會(huì)的一名成員表示，一些非常強(qiáng)大的人工智能系統(tǒng)最終可能不得不被禁止。 Faculty AI的老板Marc Warner表示，AGI需要強(qiáng)大的透明度和審計(jì)要求，以及更多的內(nèi)置安全技術(shù)。 接下來(lái)的六個(gè)月到一年需要對(duì) AGI 做出“明智的決定”。 他的評(píng)論是在歐盟和美國(guó)聯(lián)合表示很快需要人工智能的自愿行為準(zhǔn)則之后發(fā)表的。 人工智能委員會(huì)是一個(gè)獨(dú)立的專家委員會(huì)，為政府和人工智能領(lǐng)域的領(lǐng)導(dǎo)者提供建議。 Faculty AI表示，它是OpenAI唯一的技術(shù)合作伙伴，幫助其客戶安全地將ChatGPT及其其他產(chǎn)品實(shí)施到他們的系統(tǒng)中。 該公司的工具幫助預(yù)測(cè)了大流行期間對(duì) NHS 服務(wù)的需求——但其政治關(guān)系引起了審查。 華納先生將他的名字加入了人工智能安全中心，警告該技術(shù)可能導(dǎo)致人類滅絕。Faculty AI等科技公司的代表于周四在唐寧街與技術(shù)部長(zhǎng)Chloe Smith討論了確保安全和負(fù)責(zé)任的AI所需的風(fēng)險(xiǎn)、機(jī)遇和規(guī)則。 人工智能描述了計(jì)算機(jī)執(zhí)行通常需要人類智能的任務(wù)的能力。 Warner先生說(shuō)，“狹義人工智能”——用于翻譯文本或在醫(yī)學(xué)圖像中搜索癌癥等特定任務(wù)的系統(tǒng)——可以像現(xiàn)有技術(shù)一樣受到監(jiān)管。 但AGI系統(tǒng)是一項(xiàng)全新的技術(shù)，更令人擔(dān)憂，需要不同的規(guī)則。 華納先生告訴BBC新聞：“這些算法旨在在非常廣泛的任務(wù)領(lǐng)域——基本上是每項(xiàng)任務(wù)——變得與人類一樣聰明或更聰明?！?br /> 他說(shuō)，人類在這個(gè)星球上處于首要地位主要是因?yàn)樗闹腔邸?br /> 華納先生說(shuō)：“如果我們創(chuàng)造出與我們一樣聰明或比我們更聰明的物體，那么世界上沒(méi)有人可以提供充分的科學(xué)依據(jù)來(lái)說(shuō)明為什么它應(yīng)該是安全的?！?br /> “這并不一定意味著它很糟糕——但這確實(shí)意味著存在風(fēng)險(xiǎn)，這確實(shí)意味著我們應(yīng)該謹(jǐn)慎對(duì)待它。 “至少，需要對(duì)可以任意投入這些事情的計(jì)算量 [處理能力] 進(jìn)行嚴(yán)格限制。 “有一個(gè)強(qiáng)有力的論點(diǎn)，即在某個(gè)時(shí)候，我們可能會(huì)決定已經(jīng)足夠了，我們只是打算禁止超過(guò)一定復(fù)雜度或一定計(jì)算量的算法。 “但顯然，這是一個(gè)需要由政府而非科技公司做出的決定”。 有人說(shuō)，對(duì)AGI的擔(dān)憂分散了人們對(duì)現(xiàn)有技術(shù)問(wèn)題的注意力——例如，人工智能招聘或面部識(shí)別工具的偏見(jiàn)。 但華納先生表示，這就像在說(shuō)：“‘你想讓汽車或飛機(jī)安全嗎？’ 我兩個(gè)都要?！?br /> 其他人則表示，過(guò)多的監(jiān)管可能會(huì)降低英國(guó)對(duì)投資者的吸引力并扼殺創(chuàng)新。 但華納先生表示，英國(guó)可以在鼓勵(lì)安全方面找到競(jìng)爭(zhēng)優(yōu)勢(shì)。 “我的長(zhǎng)期賭注是，實(shí)際上，要從技術(shù)中獲得價(jià)值，你需要安全——就像從飛機(jī)中獲得價(jià)值一樣，你需要發(fā)動(dòng)機(jī)正常工作，”他說(shuō)。 英國(guó)最近發(fā)布的人工智能監(jiān)管白皮書(shū)因未能設(shè)立專門的監(jiān)管機(jī)構(gòu)而受到批評(píng)。 但首相Rishi Sunak概述了“護(hù)欄”的必要性，并表示英國(guó)可以發(fā)揮“領(lǐng)導(dǎo)作用”。 周三，美國(guó)國(guó)務(wù)卿安東尼布林肯和歐盟專員瑪格麗特維斯塔格表示，需要盡快制定自愿規(guī)則。 歐盟人工智能法案將成為首批監(jiān)管人工智能的法案之一，該法案仍在通過(guò)立法程序。 維斯塔格女士表示，不同的立法生效需要兩到三年的時(shí)間——“我們正在談?wù)撘环N令人難以置信的技術(shù)加速”。 但工業(yè)界和其他方面將被邀請(qǐng)?jiān)趲字軆?nèi)為自愿行為準(zhǔn)則草案做出貢獻(xiàn)。 在第四屆美國(guó)-歐盟貿(mào)易和技術(shù)委員會(huì)會(huì)議之后，布林肯先生表示，重要的是要建立“對(duì)”“廣泛的國(guó)家……所有志同道合的國(guó)家”“開(kāi)放”的自愿行為準(zhǔn)則。 SF6氣體回收裝置廠家南通科源批發(fā)供應(yīng)：六氟化硫回收凈化裝置,SF6氣體抽真空充氣裝置,微水分測(cè)量?jī)x,SF6檢漏儀,是高壓輸變電設(shè)備制造,安裝,維修必備的sf6氣體回收凈化充氣裝置設(shè)備,本廠擁有多項(xiàng)發(fā)明專利,制造標(biāo)準(zhǔn)高,銷售價(jià)格低,歡迎咨詢選購(gòu)來(lái)廠考察。 |
產(chǎn)品展示
聯(lián)系我們
地址：江蘇省南通市天生港工業(yè)園區(qū)天通路89號(hào)
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機(jī)：13901484052
郵箱：ntkycj@126.com
網(wǎng)址：http://www.sztlh.com
http://www.xy-w.com
聯(lián)系電話：0513-85600259
聯(lián)系人：陳俊
手機(jī)：13901484052
郵箱：ntkycj@126.com
網(wǎng)址：http://www.sztlh.com
http://www.xy-w.com
