|
| 聯(lián)系方式 |
地址：
江蘇省啟東市城東工業(yè)園區(qū)
電話：
0513-83320018
手機(jī)：
13906284339
聯(lián)系人：
陳維多
電子郵箱：
fbdq@fbdq.com
|
|
|
| 您現(xiàn)在的位置：網(wǎng)站首頁(yè) - 新聞動(dòng)態(tài) |
|
防AI失控 多國(guó)政府?dāng)M定相關(guān)限制
|
| 發(fā)布時(shí)間：
2023/11/1 |
近期國(guó)際沖突不斷，中共、伊朗等極權(quán)國(guó)家或激進(jìn)組織濫用AI，去發(fā)動(dòng)訊息戰(zhàn)煽動(dòng)民眾仇恨，或借此發(fā)展出更強(qiáng)大的武器。對(duì)此，多國(guó)政府開(kāi)始重視對(duì)AI的限制，希望透過(guò)新法規(guī)和共同合作，防止世界出現(xiàn)最糟糕的情況。
英國(guó)首相蘇納克（Rishi Sunak）10月26日就人工智能（AI）問(wèn)題在倫敦發(fā)表演講。他先是肯定AI在醫(yī)療保健等領(lǐng)域上擁有極高的潛力，不僅能診斷失明，還可以預(yù)測(cè)心臟病、中風(fēng)或帕金森氏癥等。
不過(guò)，蘇納克就AI的問(wèn)題對(duì)民眾發(fā)出嚴(yán)重警告。他說(shuō)，“人類(lèi)可能會(huì)完全失去對(duì)AI的掌控，那將會(huì)帶來(lái)極其嚴(yán)重的后果。因?yàn)锳I就像每一波科技浪潮一樣，會(huì)帶來(lái)新的知識(shí)，但也會(huì)帶來(lái)新的危機(jī)和恐懼?！?br />
他還提到，“恐怖分子和犯罪組織可能會(huì)利用AI，制造出殺傷力強(qiáng)大的生化武器、網(wǎng)絡(luò)攻擊、傳播虛假資訊、詐欺甚至兒童性虐待?！?br />
不過(guò)，蘇納克認(rèn)為，只要政府做好監(jiān)管和控制，AI就不會(huì)導(dǎo)致人們出現(xiàn)危險(xiǎn)。他說(shuō)，“目前政府已經(jīng)投資1億英鎊，組建新的監(jiān)管AI工作小組，用于保證民眾的安全?！?br />
蘇納克強(qiáng)調(diào)，“AI沒(méi)有國(guó)界之分，需要更多國(guó)家、高科技公司代表和民間社會(huì)參與英國(guó)舉行的‘全球首屆AI安全高峰會(huì)’，共同商討應(yīng)對(duì)AI帶來(lái)的風(fēng)險(xiǎn)，確保AI系統(tǒng)在發(fā)布之前是安全的?！?br />
另外，英國(guó)政府在10月25日發(fā)布《AI能力與風(fēng)險(xiǎn)》報(bào)告提到未來(lái)的18個(gè)月內(nèi)（2025年）黑客、詐騙者和恐怖分子可以利用AI以更便宜、更容易地方式攻擊無(wú)辜受害者。
人類(lèi)除了擔(dān)心別有用心的人利用AI做壞事，還擔(dān)心依賴AI的問(wèn)題。許多人把諸多重要的決策和控制權(quán)交給AI來(lái)處理的問(wèn)題，例如：網(wǎng)球比賽中的判定，法院裁判權(quán)、或者網(wǎng)購(gòu)和倉(cāng)儲(chǔ)系統(tǒng)、重要的國(guó)家決策和科學(xué)研究等。
這種依賴可以從英國(guó)首相的演講聽(tīng)到。當(dāng)時(shí)蘇納克提到，英國(guó)政府投資近25億英鎊購(gòu)買(mǎi)量子電腦，用于AI研究和政府業(yè)務(wù)上。原因是AI可以為人類(lèi)生活上的問(wèn)題，提供一百萬(wàn)種不同的解決方法，而這臺(tái)量子電腦比世界上最快的超級(jí)電腦要快上數(shù)億倍。
許多人，包括科學(xué)家都擔(dān)心，若人們繼續(xù)毫無(wú)限制地發(fā)展和依賴AI，恐產(chǎn)生人類(lèi)難以收拾的場(chǎng)面，而數(shù)據(jù)公司豐富（Profusion）的執(zhí)行長(zhǎng)娜塔莉·克蘭普（Natalie Cramp）也表達(dá)了對(duì)AI的擔(dān)憂。
她認(rèn)為AI并非萬(wàn)無(wú)一失，未來(lái)極有可能出現(xiàn)《魔鬼終結(jié)者》等電影中描繪的人類(lèi)末日情況，把人類(lèi)視為消除的對(duì)象。目前，AI短期的危險(xiǎn)在軍事應(yīng)用上，因?yàn)锳I可以遠(yuǎn)端控制無(wú)人機(jī)或機(jī)器人，但它們可能做出傷害人類(lèi)的行動(dòng)。
實(shí)際上，克蘭普講的早已成為現(xiàn)實(shí)，如美國(guó)研發(fā)的F-16無(wú)人戰(zhàn)斗機(jī)、以色列士兵裝備的“智能射手”、俄烏戰(zhàn)場(chǎng)上使用的AI無(wú)人機(jī)。另外，美國(guó)空軍6月在一次AI模擬測(cè)試中，發(fā)現(xiàn)一架負(fù)責(zé)摧毀敵方設(shè)施的AI無(wú)人機(jī)，不僅拒絕操作員中止任務(wù)的命令，還透過(guò)“殺害”操作員去完成任務(wù)。
許多高科技公司希望結(jié)合“云計(jì)算”、“大數(shù)據(jù)庫(kù)”和更強(qiáng)運(yùn)算力“GPU芯片”打造更強(qiáng)大的AI，但人們擔(dān)心這可能會(huì)讓AI產(chǎn)生自我“意識(shí)”或在發(fā)生嚴(yán)重故障和問(wèn)題時(shí)，會(huì)造成無(wú)法挽回的后果。
美國(guó)著名的西北大學(xué)（Northwestern University）的一個(gè)研究團(tuán)隊(duì)10月初在《美國(guó)國(guó)家科學(xué)院院刊》中發(fā)表一篇關(guān)于AI能夠高效率地自動(dòng)設(shè)計(jì)機(jī)器人的論文。這款A(yù)I擁有近乎讓人們感到恐懼的“設(shè)計(jì)能力”，只要在輕型個(gè)人電腦上運(yùn)行，且無(wú)需使用龐大的數(shù)據(jù)庫(kù)或超級(jí)電腦。
該團(tuán)隊(duì)表示，只需要使用者對(duì)它下達(dá)類(lèi)似“設(shè)計(jì)一個(gè)可以在平坦表面上行走的機(jī)器人”這種簡(jiǎn)單指令，AI就能在短短幾分鐘內(nèi)設(shè)計(jì)出符合需求的機(jī)器人。這種能力是人類(lèi)和過(guò)去的AI無(wú)法輕易辦到，因?yàn)樗麄冃枰ㄙM(fèi)大量的時(shí)間進(jìn)行訓(xùn)練和研發(fā)才能夠完成。
對(duì)此，日本高科技公司社長(zhǎng)德森翔（Sho Tokumori）10月28告訴大紀(jì)元，“AI看似能夠突破人類(lèi)固有的觀念和限制，帶來(lái)更多的可能性，但也會(huì)出現(xiàn)人類(lèi)無(wú)法預(yù)料的情況，最終脫離人類(lèi)的掌控并走向未知的方向，這是很危險(xiǎn)的?！?br />
麻省理工學(xué)院物理學(xué)家兼AI專(zhuān)家馬克斯·泰格馬克（Max Tegmark）曾多次表示，人類(lèi)能讓渡渡鳥(niǎo)等“低等”物種滅種，若出現(xiàn)一個(gè)比人類(lèi)更強(qiáng)大、更聰明的人工智慧“物種”，那時(shí)將會(huì)有超過(guò)50%的人類(lèi)面臨相同的命運(yùn)。
蘇納克演講中提到的AI創(chuàng)造生化武器的技術(shù)很容易被恐怖分子操縱來(lái)尋找有毒的神經(jīng)毒劑。此前，英國(guó)藥理學(xué)家肖恩·埃金斯（Sean Ekins）在《未知：殺手機(jī)器人》（unknown：Killer Robots）紀(jì)錄片中講述，AI如何可在一夜之間創(chuàng)造（計(jì)算）出四萬(wàn)多個(gè)全新且極其致命的化學(xué)武器分子。
各國(guó)政府開(kāi)始重視AI帶來(lái)的問(wèn)題
不僅是英國(guó)首相對(duì)AI感到擔(dān)憂，聯(lián)合國(guó)秘書(shū)長(zhǎng)安東尼歐·奧古特雷斯（António Guterres）和日本首相岸田文雄也在10月份表達(dá)出相同的擔(dān)憂。他們希望創(chuàng)立新的AI規(guī)則和應(yīng)對(duì)小組，去應(yīng)對(duì)AI在未來(lái)帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)。
讓他們緊張的主要原因，是一些別有用心的人濫用生成式AI，在網(wǎng)上發(fā)布大量虛假的圖片和消息或進(jìn)行詐騙等，這可能導(dǎo)致社會(huì)出現(xiàn)大面積的混亂。
奧古特雷斯在10月26日的AI發(fā)展和風(fēng)險(xiǎn)的新聞發(fā)布會(huì)上表示，雖然AI能夠帶來(lái)進(jìn)步，但也會(huì)被惡意使用，從而削弱民主社會(huì)的凝聚力和穩(wěn)定。他宣布，成立聯(lián)合國(guó)的AI咨詢機(jī)構(gòu)，用來(lái)應(yīng)對(duì)AI快速發(fā)展所帶來(lái)的風(fēng)險(xiǎn)和好處，該機(jī)構(gòu)已選中30個(gè)國(guó)家的39人加入，大多來(lái)自大科技公司的工程師和教授。
日本首相岸田文雄在10月9日也曾表達(dá)過(guò)擔(dān)憂。他表示，許多證據(jù)指出，生成式AI會(huì)帶來(lái)虛假信息，從而引發(fā)社會(huì)混亂和威脅社會(huì)經(jīng)濟(jì)，因此有呼聲要求政府在“推動(dòng)”與“監(jiān)管”之間取得平衡。
為此，他公布了G7為開(kāi)發(fā)者制定了生成式AI的標(biāo)準(zhǔn)政策。該政策要求開(kāi)發(fā)者必須公開(kāi)系統(tǒng)功能和風(fēng)險(xiǎn)訊息，以確保人工智慧的透明度。未來(lái)會(huì)透過(guò)一種識(shí)別網(wǎng)路上資訊原始發(fā)布者的數(shù)位技術(shù)的“始發(fā)者檔案（OP）”完成，同時(shí)在10月底制定“AI基礎(chǔ)設(shè)施技術(shù)發(fā)展”的新措施，強(qiáng)化日本的數(shù)據(jù)處理系統(tǒng)。
這次岸田文雄公布的規(guī)定，可以說(shuō)是回應(yīng)了日本新聞協(xié)會(huì)、日本雜志協(xié)會(huì)、日本攝影著作權(quán)協(xié)會(huì)、日本書(shū)籍出版協(xié)會(huì)在8月17日共同要求日本政府正視AI、修改法律和限制AI被濫用的可能。
目前，美國(guó)正準(zhǔn)備立法以更好地控制AI技術(shù)。特斯拉的CEO馬斯克（Elon Musk）9月在美國(guó)國(guó)會(huì)山舉行的一次私人聚會(huì)上對(duì)參議員和記者們表示，AI對(duì)整個(gè)社會(huì)構(gòu)成了“文明風(fēng)險(xiǎn)”，我們必須采取積極的反應(yīng)，而不是被動(dòng)，原因是AI出錯(cuò)的后果是“嚴(yán)重的”。
德森翔表示，“現(xiàn)在正值需要制定有關(guān)于AI的國(guó)際規(guī)范。雖然AI是一種工具，但它的使用取決于人的道德規(guī)范，因此在AI尚未脫離人類(lèi)的掌控之前，規(guī)范出AI的開(kāi)發(fā)標(biāo)準(zhǔn)，可能是最佳時(shí)機(jī)?！?br />
不過(guò)，日本的電腦工程師清原仁（Kiyohara Hitoshi）10月28日告訴大紀(jì)元，“目前政府部門(mén)或組織制定的政策，可能難以解決實(shí)質(zhì)的問(wèn)題，因?yàn)榉珊茈y真正約束到壞人。另外，人們?cè)谕晟艫I的過(guò)程，可能需要付出很大的代價(jià)，除非叫停AI或人們的道德水準(zhǔn)出現(xiàn)提高，才能有效解決根本問(wèn)題。”
|
|
|
|
|
