1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

2020AI治理元年,人們到底在擔(dān)心些什么?

 2020-01-10 16:37  來源:A5專欄  我來投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過

人工智能在我看來可以說是一個(gè)人類最偉大的創(chuàng)造,并不是說這個(gè)技術(shù)能夠?qū)崿F(xiàn)什么樣的高度,而是這個(gè)技術(shù)真的解放了人類,激發(fā)出機(jī)器的生產(chǎn)力,讓人釋放出來可以做更具人性和創(chuàng)造性的事情。不過對(duì)于人工智能的擔(dān)憂也與生俱來,人工智能會(huì)不會(huì)失控,會(huì)不會(huì)帶來人類無法挽回的后果?

近日,人工智能公司曠視科技宣布成立AI治理研究院,呼吁各界對(duì)AI治理事件的關(guān)注和討論。“人工智能技術(shù)要可持續(xù)化發(fā)展,過去幾年,人工智能經(jīng)歷了一段野蠻生長(zhǎng)的時(shí)期,”曠視AI治理研究院負(fù)責(zé)人稱:“2020年將成為AI治理元年。”

“人工智能的野蠻生長(zhǎng)”這種說法并非沒有緣由,隨著互聯(lián)網(wǎng)、云計(jì)算在各行各業(yè)的快速滲透,整個(gè)社會(huì)的網(wǎng)絡(luò)化和數(shù)據(jù)化程度空前提升,原來越多的智能化設(shè)備開始切實(shí)的落地進(jìn)入到智慧城市之中,而相關(guān)的算法也不斷進(jìn)步,人工智能開始在各種領(lǐng)域中開展探索應(yīng)用,甚至已經(jīng)開始進(jìn)入到一個(gè)自我學(xué)習(xí)和進(jìn)化的過程之中。尤其是在最近幾年,伴隨著人工智能技術(shù)的大規(guī)模產(chǎn)業(yè)化應(yīng)用,一些并無先例可循的人與人工智能矛盾逐漸浮出水面。擔(dān)憂和質(zhì)疑之聲愈演愈烈,盡快探討出一種可預(yù)期的、可被約束的、行為向善的人工智能治理機(jī)制,成為了近人工智能時(shí)代的首要命題。

AI的邊界在哪兒?從《終結(jié)者》說起

1984年,卡梅隆拍了第一部《終結(jié)者》,2019年,《終結(jié)者6》上映,35年彈指一揮間,唯一改變的就是這個(gè)世界真的已經(jīng)連接在了一起,天網(wǎng)的故事似乎不再那么遙不可及。著名物理學(xué)家霍金在去世之前,曾經(jīng)和人稱“鋼鐵俠”的特斯拉創(chuàng)始人馬斯克共同發(fā)布公開信,提出了對(duì)人工智能發(fā)展的擔(dān)憂?;艚鹫f:“在未來100年內(nèi),結(jié)合人工智能的計(jì)算機(jī)將會(huì)變得比人類更聰明。屆時(shí),我們需要確保計(jì)算機(jī)與我們的目標(biāo)相一致。我們的未來取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”持有這種觀點(diǎn)的人并非少數(shù),由于民眾的擔(dān)憂,美國(guó)加州就立法禁止警方在執(zhí)法記錄儀上使用面部識(shí)別技術(shù),而浙理工一個(gè)博士也*了一家把指紋識(shí)別換成人臉識(shí)別的野生動(dòng)物公園,他的理由是害怕人臉生物信息的泄露,當(dāng)然這個(gè)擔(dān)心也很有趣,因?yàn)楸绕鸸_的人臉信息的泄露,指紋的泄露恐怕是更致命的。顯然,人工智能發(fā)展一日千里,實(shí)際應(yīng)用落地也快馬加鞭,人們可能還來不及思考這些看似的便利背后是否會(huì)帶來什么不妥,這些設(shè)備就已經(jīng)在運(yùn)行之中了。而在問題逐漸暴露之前,類似的擔(dān)憂和爭(zhēng)議恐怕還會(huì)繼續(xù)。

事實(shí)上,機(jī)器也好,人工智能也好,人們對(duì)新技術(shù)的擔(dān)憂在近一百年中一直存在。早在1950年,阿西莫夫的科幻小說中就針對(duì)人們對(duì)機(jī)器人的擔(dān)憂提出了著名的機(jī)器人三定律,奠定了一個(gè)思考的方向和基礎(chǔ)。這三個(gè)定律就是“一、機(jī)器人不得傷害人類,或看到人類受到傷害而袖手旁觀;二、在不違反第一定律的前提下,機(jī)器人必須絕對(duì)服從人類給與的任何命令;三、在不違反第一定律和第二定律的前提下,機(jī)器人必須盡力保護(hù)自己。”從這里我們可以很清晰的看到機(jī)器人生存的天條就是不得傷害人類,而后續(xù)這些規(guī)則得到了一些補(bǔ)充,不過最讓我覺得有價(jià)值的一個(gè)補(bǔ)充就是繁殖原則,機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造,除非新機(jī)器人的行為符合機(jī)器人原則。在這個(gè)階段,人們已經(jīng)開始思考到機(jī)器人的繁衍帶來的可能的危害了,而這個(gè)問題,事實(shí)上也是《終結(jié)者》中矛盾沖突的起源。

這些本屬于科幻領(lǐng)域思考和探討的問題,現(xiàn)在終于開始擺在了現(xiàn)實(shí)的世界面前:2020年1月,歐盟專利局駁回了英國(guó)薩里大學(xué)一個(gè)名為DABUS的AI所申報(bào)的專利成果,理由是歐盟專利申請(qǐng)中指定的發(fā)明者必須是人,而不是機(jī)器。但薩里大學(xué)研究人員強(qiáng)烈反對(duì)這一決定,他們認(rèn)為因沒有人類發(fā)明者而拒絕將所有權(quán)授予發(fā)明者,將成為“人類取得偉大成果的新時(shí)代”的重大障礙。

但無論如何技術(shù)發(fā)展的腳步都不會(huì)暫停,尤其是在云計(jì)算全面普及、5G全面部署,AI能力全面發(fā)育的今天,2020年將無疑成為應(yīng)用爆發(fā)之年和矛盾最為突出的一年。人工智能應(yīng)用的邊界是什么?是否能夠享有和人一樣的權(quán)利?誰能夠?yàn)槿斯ぶ悄芊傅腻e(cuò)誤負(fù)責(zé)?在人工智能進(jìn)入爆發(fā)期之前這些問題亟待解決。因此,稱2020年是AI治理元年并不為過,除了技術(shù)研發(fā)和進(jìn)步之外,關(guān)于AI倫理方面的規(guī)則制定我覺得也到了最為關(guān)鍵的時(shí)刻。

各國(guó)各界在摸索中前行

事實(shí)上,社會(huì)各界對(duì)AI技術(shù)的討論熱情只增不減,全球范圍內(nèi)很多政府或社會(huì)組織、名門政要都或多或少對(duì)人工智能提過一些要求。比如2019年4月,歐盟委員會(huì)公布了指導(dǎo)人工智能發(fā)展和建立信任的7項(xiàng)原則。雖然這些指導(dǎo)方針沒有約束力,但它們可能成為未來幾年進(jìn)一步行動(dòng)的基礎(chǔ)。同年6月17日,我國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,提出了人工智能治理的框架和行動(dòng)指南。

但是世界各國(guó)政府層面對(duì)于人工智能治理的規(guī)范和邊界,還沒有進(jìn)入實(shí)質(zhì)性的立法或明確標(biāo)準(zhǔn),在推動(dòng)人工智能應(yīng)用規(guī)范這一方面,人工智能企業(yè)反倒起了更為積極的作用。

作為國(guó)內(nèi)領(lǐng)先的人工智能企業(yè),曠視在推進(jìn)人工智能應(yīng)用的過程中已經(jīng)意識(shí)到正視人工智能技術(shù)所帶來的倫理問題的重要性,主張AI企業(yè)要把治理當(dāng)作頭等大事來關(guān)注。2019年7月,曠視首發(fā)《人工智能應(yīng)用準(zhǔn)則》,《準(zhǔn)則》從正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、問責(zé)和及時(shí)修正、數(shù)據(jù)安全與隱私保護(hù)六個(gè)維度,對(duì)人工智能正確有序發(fā)展作出明確規(guī)范,同時(shí)給出相應(yīng)干預(yù)措施或指導(dǎo)意見,確保人工智能能夠在可控范圍內(nèi)持續(xù)發(fā)展。據(jù)透露,曠視內(nèi)部還成立了專門的道德委員會(huì),以監(jiān)督該《準(zhǔn)則》在企業(yè)技術(shù)研發(fā)和產(chǎn)品應(yīng)用中的實(shí)施。

曠視聯(lián)合創(chuàng)始人、CEO印奇認(rèn)為AI治理需要 “理性的關(guān)注,深度的研究,建設(shè)性的討論和堅(jiān)持不懈的行動(dòng)”。這個(gè)問題我覺得各大企業(yè)乃至主管部門都應(yīng)該參與其中,早些劃定可以研究和使用的范疇,能夠避免人工智能行業(yè)誤入歧途,在良好的環(huán)境中快速發(fā)展,這就像在建大樓之前打地基。

誰來握住AI野馬的韁繩

坦白說對(duì)于人工智能發(fā)展的問題,你可以提出反對(duì)意見,但卻沒有辦法阻止它的發(fā)展,因?yàn)檫@是一個(gè)大勢(shì)所趨。猶如核武器,猶如工業(yè)化,不管你有多大的擔(dān)憂,都沒有辦法阻止他的發(fā)展,這是討論這個(gè)問題的一個(gè)前提。所以剩下的其實(shí)還是一個(gè)規(guī)則和倫理的探討,猶如核武器的管理問題,可能也是全世界最重要的一個(gè)管理問題。人工智能的管理重要性,可能并不在核武器之下,但只要這匹野馬不脫韁,就能夠?yàn)槿祟愃茫d我們到達(dá)從未到過的地方。

整個(gè)人工智能領(lǐng)域也要制定出自己的“機(jī)器人三定律”來保證技術(shù)的發(fā)展最終不能傷害人類,畢竟之前電腦中毒重裝系統(tǒng)就可以了,現(xiàn)在AI失控,就可能斷水?dāng)嚯娚踔两煌òc瘓。人工智能可以看作是人類智慧的結(jié)晶,它可以具有人類掌握的所有知識(shí),也可以操控人類世界的大部分設(shè)施,不能說全知全能其實(shí)也相去不遠(yuǎn),在我們不斷加大它的力量之前,思考清楚如何控制還是非常必要的。

如此看來,人工智能的倫理討論要比人工智能技術(shù)的發(fā)展研究可能更重要也更急切一些,一個(gè)簡(jiǎn)單的例子,一輛自動(dòng)駕駛的車輛出現(xiàn)了車禍,那么誰應(yīng)該為此負(fù)責(zé)?是駕駛員?還是車輛的生產(chǎn)者?這個(gè)問題的界定恐怕比自動(dòng)駕駛的技術(shù)本身更阻礙了自動(dòng)駕駛的發(fā)展和落地。再比如說,人工智能寫出了假新聞?誰又該為此負(fù)責(zé)?之前大熱的AI換臉應(yīng)用通過AI為視頻換臉,包括很多模擬人聲音的產(chǎn)品,一旦出現(xiàn)了假冒的事件,又有誰來負(fù)責(zé)?人們還能夠說,無圖無真相?無視頻無真相?或者無聲音無真相么? 而另一個(gè)有趣的問題則是,人臉識(shí)別的準(zhǔn)確率對(duì)于有色人種隨著膚色的加深會(huì)大大下降,換句話說,白種人可能會(huì)遭到更加嚴(yán)格的監(jiān)管,而黑人則可能會(huì)寬松許多,這是否會(huì)造成一種不公?斯坦福大學(xué)則發(fā)表了另一項(xiàng)研究,用人工智能識(shí)別性取向的準(zhǔn)確率遠(yuǎn)高于人類,那么這樣去識(shí)別這種少數(shù)群體,會(huì)不會(huì)帶來隱私問題,會(huì)不會(huì)帶來族群的生存窘境?

所以從這個(gè)角度來看,在一線搞人工智能應(yīng)用研發(fā)的科技企業(yè)應(yīng)該更早的意識(shí)到這一點(diǎn),一個(gè)可參考的案例就是基因和克隆方面的研究,優(yōu)先的是倫理管理而非技術(shù)突破。大家應(yīng)該更早的坐在一起制定研究的方向和規(guī)則,并進(jìn)行有效的監(jiān)督和管理,讓人工智能可以在一個(gè)清晰安全的規(guī)范之下,有條不紊又可控的發(fā)展,使得2020年成為一個(gè)人類社會(huì)向前發(fā)展的關(guān)鍵節(jié)點(diǎn)。

也許東方人遠(yuǎn)比西方樂觀,同樣是關(guān)于機(jī)器人的幻想題材,1969年誕生的《機(jī)器貓》就顯得人畜無害很多,我們相信天人合一,相信一切都能和人和諧發(fā)展。所以我也希望曠視這樣的中國(guó)企業(yè)在人工智能的發(fā)展中能夠起到更大的作用,更好的引領(lǐng)行業(yè)規(guī)范健康的發(fā)展。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
ai技術(shù)
ai智能

相關(guān)文章

  • 匯聚中國(guó)AI頂尖力量 云天勵(lì)飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(huì)(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會(huì)的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領(lǐng)軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊(duì)”,云天勵(lì)飛作為中國(guó)人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運(yùn)營(yíng)商、科研院所等優(yōu)秀團(tuán)隊(duì)

    標(biāo)簽:
    ai技術(shù)
  • 用友大易:邁入AI招聘2.0時(shí)代,讓人力資源回歸本質(zhì)

    這幾個(gè)月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個(gè)名詞重回C位。過去在AI1.0時(shí)代,主要通過訓(xùn)練模型來實(shí)現(xiàn)圖像識(shí)別、聲音識(shí)別、語言處理等特

    標(biāo)簽:
    ai技術(shù)
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個(gè)新故事。6月29日,涂鴉智能在開發(fā)者大會(huì)上,發(fā)布了企業(yè)級(jí)戰(zhàn)略PaaS2.0,希望通過一個(gè)平臺(tái)+四大開發(fā)服務(wù),建立起IoT生態(tài)。對(duì)于這場(chǎng)發(fā)布會(huì),市場(chǎng)的態(tài)度是積極的。美東時(shí)間6月29日收盤,涂鴉智能美股股價(jià)上漲5.6%,來到1.87美元/股。近日股價(jià)穩(wěn)定

    標(biāo)簽:
    ai技術(shù)
  • 大模型難掩AI制藥的悲傷:越過山丘,無人等候

    美團(tuán)曾經(jīng)的二號(hào)人物王慧文對(duì)標(biāo)OpenAI的創(chuàng)業(yè)項(xiàng)目光年之外,以20億賣給美團(tuán),再度引發(fā)市場(chǎng)對(duì)大模型的熱議。

    標(biāo)簽:
    ai技術(shù)
  • 拾起王慧文的AI夢(mèng),美團(tuán)沖向“光年之外”?

    2020年底,王慧文在朋友圈寫下這句話時(shí),外界本以為這位伴隨中國(guó)互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺(tái)。但是,一個(gè)曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。

    標(biāo)簽:
    ai技術(shù)
  • 庫克已納投名狀:蘋果AI沒得選,只能選百度

    蘋果16弄了兩個(gè)版本,一個(gè)是專門給中國(guó)人用的,準(zhǔn)備用百度的AI,還要交錢。第二個(gè)是全世界都可以用的,用了ChatGPT,包括臺(tái)灣、香港、澳門都可以用。以后都這樣了。好,問題就出在這,蘋果和百度的合作出現(xiàn)問題了,新聞連起來看,才能明白其中含義。新聞一:蘋果正在和騰訊、字節(jié)初步接洽,考慮將二者的AI模型

    標(biāo)簽:
    蘋果AI
    百度AI
    庫克
  • AI加速時(shí)代的“進(jìn)度條”,我們撥動(dòng)了百分之幾?

    “技術(shù)日新月異,人類生活方式正在快速轉(zhuǎn)變,這一切給人類歷史帶來了一系列不可思議的奇點(diǎn)。我們?cè)?jīng)熟悉的一切,都開始變得陌生?!庇?jì)算機(jī)之父約翰·馮·諾依曼曾這樣說到。

    標(biāo)簽:
    ai智能
  • AI視頻賽道,要變天了

    “毀滅你,與你何干?”,這是在劉慈欣的科幻小說《三體》里用來形容人類與三體人之間的戰(zhàn)爭(zhēng)的一句話。

    標(biāo)簽:
    ai智能
  • “創(chuàng)造市場(chǎng)”與“算法進(jìn)化”,中美AI競(jìng)速的岔路口

    “人工智能的商業(yè)模式,是要?jiǎng)?chuàng)造一個(gè)市場(chǎng),而非一個(gè)算法”。這是世界AI泰斗MichaelI.Jordan的觀點(diǎn)。而當(dāng)前的全球AI市場(chǎng),占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個(gè)方向,或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實(shí)在智能最新發(fā)布的實(shí)在Agent7.0,看RPAAgent的迭代升級(jí)抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實(shí)現(xiàn)了流程全自動(dòng)化AIAgent構(gòu)建到執(zhí)行全自動(dòng)化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實(shí)在智能重磅發(fā)布實(shí)

  • 崔大寶:大模型降溫背后的難點(diǎn)、卡點(diǎn)、節(jié)點(diǎn)

    崔大寶|節(jié)點(diǎn)財(cái)經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢(shì):資本市場(chǎng),與之關(guān)聯(lián)的概念炒不動(dòng)了,英偉達(dá)股價(jià)動(dòng)輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費(fèi)市場(chǎng),BATH們的推新活動(dòng)少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場(chǎng)酣仗:自5月15日字節(jié)跳動(dòng)宣布“以厘計(jì)費(fèi)”,打響國(guó)內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對(duì)論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個(gè)數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國(guó)人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡(jiǎn)單翻看一下全國(guó)各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人
  • 來到IPO關(guān)口,地平線離“三分天下”還有多遠(yuǎn)?

    黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國(guó)證監(jiān)會(huì)IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計(jì)籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級(jí)輔助駕駛(ADAS)和高階自動(dòng)駕駛(AD)解決方案供

  • 機(jī)器人大會(huì)引領(lǐng)產(chǎn)業(yè)動(dòng)向,卓翼飛思繪制無人系統(tǒng)教科研新藍(lán)圖

    8月21日,萬眾矚目的2024世界機(jī)器人大會(huì)暨博覽會(huì)在北京亦創(chuàng)國(guó)際會(huì)展中心盛大開幕。這場(chǎng)為期5天,集“展覽”“論壇”“賽事”于一體的機(jī)器人盛會(huì),反映了當(dāng)下機(jī)器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計(jì)數(shù)據(jù),今年現(xiàn)場(chǎng)逛展觀眾高達(dá)25萬人次,比去年增加25%。機(jī)器人行業(yè)有多火?看看2024世界機(jī)器人大會(huì)火爆程度便可知

編輯推薦