【引言】李世石如何挽回人類(lèi)尊嚴(yán)？李世石評(píng)價(jià)？映森情感整理，獲取情感知識(shí)“李世石如何挽回人類(lèi)尊嚴(yán)”的內(nèi)容如下：
情感目錄一覽：
- 1、韓國(guó)棋手李世石已經(jīng)退役，其職業(yè)生涯究竟有何傲人戰(zhàn)績(jī)？
- 2、100：0，新AlphaGo放棄了人類(lèi)？
- 3、18年后，無(wú)人幸免？
- 4、AlphaGo的認(rèn)輸界面，當(dāng)人類(lèi)拋開(kāi)了勝負(fù) 什么情況
- 5、李世石第四局為什么能戰(zhàn)勝阿爾法狗？
韓國(guó)棋手李世石已經(jīng)退役，其職業(yè)生涯究竟有何傲人戰(zhàn)績(jī)？
在24年的職業(yè)生涯中，李世石共獲得了50個(gè)冠軍，生涯收獲獎(jiǎng)金總額大約98億韓元（約合人民幣5900萬(wàn)元）。其中包括18個(gè)世界各級(jí)大賽的冠軍，以及32個(gè)韓國(guó)國(guó)內(nèi)比賽的冠軍。此外，還八次奪得韓國(guó)棋院MVP，四次奪得連勝王、多勝王稱(chēng)號(hào)，三次奪得勝率王稱(chēng)號(hào)。在2016年3月在首爾舉辦的人機(jī)大戰(zhàn)中，史上第一次戰(zhàn)勝了“AlphaGo”，贏得了人類(lèi)棋手對(duì)抗圍棋AI的唯一一局。
李世石九段，1983年出生于韓國(guó)全羅道，在他12歲那年便通過(guò)了定段考試，成為了正式棋手。在2002年的第十五屆富士通杯決賽，李世石以半目的微弱優(yōu)勢(shì)擊敗了對(duì)手劉昌赫，創(chuàng)造了圍棋世界大賽的更低段位記錄，拿下了他棋手生涯的第一個(gè)世界冠軍。此時(shí)，拿下世界冠軍的李世石年僅19歲！1998年升為2段，1999年升為三段，2003年韓國(guó)棋院升段制度改革，由職業(yè)升段賽變?yōu)槁殬I(yè)棋戰(zhàn)勝局累計(jì)，同年李世石連續(xù)奪下LG杯、KT杯、富士通杯冠軍，直接升為九段棋手，顛覆了韓國(guó)乃至世界的段位體系。
2000年，李世石九段豪奪76勝，成為當(dāng)年勝率更高的棋手，獲得年度更佳MVP獎(jiǎng)。2006年豪奪84勝，2008年豪奪82勝，2010年豪奪72勝，李世石九段的更高勝場(chǎng)為2007年的90勝，可謂是圍棋界偉大的勝負(fù)師。他在任何情況下都表現(xiàn)出了極度的冷靜，典型的力戰(zhàn)型棋風(fēng)，“快”、“準(zhǔn)”、“狠”的力量，他是僵尸流的先行者，是翻盤(pán)術(shù)的引路人。
2016年3月的韓國(guó)，掀起了一場(chǎng)轟轟烈烈的人機(jī)大戰(zhàn)。李世石九段代表人類(lèi)出戰(zhàn)，對(duì)戰(zhàn)谷歌人工智能AlphaGo進(jìn)行五番棋人機(jī)大戰(zhàn)。雖然前三局的鏖戰(zhàn)，均以李世石九段的失敗告終，但在第四局78手中，李世石九段下出了被古力稱(chēng)之為“神之一手”的挖棋。這一妙手，瞬間讓AlphaGo陷入混亂，下了幾步臭棋后，立即投子認(rèn)輸。這一刻，李世石九段超越了強(qiáng)大的AlphaGo，贏得了人類(lèi)棋手對(duì)抗圍棋AI的第一局，用自己堅(jiān)韌的意氣和頑強(qiáng)的斗志，捍衛(wèi)了人類(lèi)棋手的尊嚴(yán)。
100：0，新AlphaGo放棄了人類(lèi)？
01
2017年10月19日，谷歌子公司DeepMind發(fā)布了AlphaGo的新版本。很多人知道AlpoaGo是一個(gè)人工智能程序，卻不知道它其實(shí)是一個(gè)家族，早期戰(zhàn)勝韓國(guó)選手李世石的是AlphaGo Lee。在烏鎮(zhèn)擊敗世界冠軍柯潔的是AlphaGo Master。本次發(fā)布的是AlphaGo Zero（阿爾法零），它經(jīng)過(guò)3天的訓(xùn)練便以100：0的戰(zhàn)績(jī)擊敗了他的哥哥AlphoGo Lee，經(jīng)過(guò)40天的訓(xùn)練便擊敗了它的另一個(gè)哥哥AlphoGo Master。
AlphaGo Zero與之前版本相比，更大的區(qū)別在于，它不再依靠人類(lèi)的指導(dǎo)來(lái)成長(zhǎng)，即之前的AlphaGo Lee是依賴(lài)于人工錄入的大量棋譜來(lái)幫助其學(xué)習(xí)如何下棋，說(shuō)白了，它是在人的指導(dǎo)下學(xué)習(xí)，可以理解為是人類(lèi)千年圍棋經(jīng)驗(yàn)教出的學(xué)生。
而AlphaGo Zero使用了強(qiáng)化學(xué)習(xí)算法，即不再依賴(lài)任何棋譜，編程人員輸入圍棋基本規(guī)則后，不再進(jìn)行任何教導(dǎo)，完全由其自己進(jìn)行摸索，總結(jié)走棋方法，相當(dāng)于人工智能完全按照自己的方法學(xué)習(xí)。AlphaGo Lee完敗于摒棄了人類(lèi)經(jīng)驗(yàn)的AlphaGo Zero，這說(shuō)明人類(lèi)的經(jīng)驗(yàn)可能誤導(dǎo)了AlphaGo Lee，進(jìn)而限制了它的發(fā)展。
AlphaGo Zero的行棋方式在開(kāi)局和收官階段，與人類(lèi)選手有較大的相似之處，而盤(pán)中的行棋風(fēng)格的確與人類(lèi)選手和之前版本的AlPhaGo有較大不同，而正是這種不同讓其可以在100次與AlphaGo Lee的交戰(zhàn)中立于不敗，換個(gè)說(shuō)法，如果當(dāng)初AlphaGo Lee沒(méi)有拜人類(lèi)為師，而是向機(jī)器學(xué)習(xí)，那么對(duì)于擁有更強(qiáng)計(jì)算能力的AlphaGo Lee來(lái)說(shuō)，勝負(fù)還未可知。
除了零經(jīng)驗(yàn)學(xué)習(xí)外，AlphaGo Zero的另一大特點(diǎn)是將之前版本AlphaGo的兩個(gè)神經(jīng)網(wǎng)絡(luò)融為一體，在之前版本的AlphaGo上，如何走棋是由“策略網(wǎng)絡(luò)”和“價(jià)值網(wǎng)絡(luò)”兩個(gè)神經(jīng)網(wǎng)絡(luò)來(lái)計(jì)算如何行棋的，即首先由“策略網(wǎng)絡(luò)”利用之前累積的經(jīng)驗(yàn)，判斷在當(dāng)前棋型下哪些位置適合行棋，之后由“價(jià)值網(wǎng)絡(luò)”對(duì)在這些位置行棋后的種種可能進(jìn)行模擬，計(jì)算勝率，更終選擇出行棋位置。
而AlphaGo Zero將二者融為了一體，對(duì)之前兩個(gè)網(wǎng)絡(luò)的特征提取等模塊進(jìn)行了共用，可以在計(jì)算出可能行棋的位置時(shí)便給出相應(yīng)的“勝率”，大幅提高效率，減少了訓(xùn)練所需的時(shí)間。這也是AlphaGo Zero在訓(xùn)練了三天就打敗了訓(xùn)練了幾個(gè)月的AlphaGo Lee的主要原因之一。
人工智能不僅是計(jì)算機(jī)科學(xué)領(lǐng)域發(fā)展的制高點(diǎn)，在所有行業(yè)都具有無(wú)限潛力和應(yīng)用價(jià)值，目前世界各國(guó)普遍看好，人工智能技術(shù)將成長(zhǎng)為下一次技術(shù)革命契機(jī)。即便更終人工智能沒(méi)有達(dá)到革命級(jí)別的顛覆程度，AI已經(jīng)在逐漸改變我們的生活。
以往人工智能的進(jìn)步都是建立在軟件與硬件同步發(fā)展的基礎(chǔ)上，神經(jīng)網(wǎng)絡(luò)算法更早在上個(gè)世紀(jì)中葉就被提出，然而受限于計(jì)算能力，神經(jīng)網(wǎng)絡(luò)算法一直發(fā)展緩慢。
之后隨著硬件計(jì)算速度的不斷提高，已有的軟件算法不斷被實(shí)現(xiàn)并改進(jìn)，改進(jìn)的算法對(duì)硬件要求更高，從而進(jìn)一步促進(jìn)了硬件的發(fā)展，而AlphaGo Zero的出現(xiàn)完全建立在算法更新的基礎(chǔ)上。
前一版本的AlphaGo需要在48個(gè)TPU(谷歌專(zhuān)為加速深層神經(jīng)網(wǎng)絡(luò)運(yùn)算能力而研發(fā)的芯片，一塊成本即達(dá)500萬(wàn)美元)上進(jìn)行幾個(gè)月學(xué)習(xí)，而AlphaGo Zero只需要4個(gè)TPU加上幾天的時(shí)間便可完成學(xué)習(xí)。這種零經(jīng)驗(yàn)學(xué)習(xí)能力非常適合在蛋白質(zhì)折疊和其它缺少樣本的*領(lǐng)域進(jìn)行應(yīng)用，可以很好地解決因缺少試驗(yàn)樣本而導(dǎo)致研究進(jìn)展緩慢的問(wèn)題。未來(lái)的相關(guān)研究中完全可以輸入規(guī)則后利用AlphaGo Zero的能力進(jìn)行模擬，更后利用有限的樣本進(jìn)行驗(yàn)證即可。
AlphaGo逐漸升級(jí)之路
故事講到這里，實(shí)在不得不佩服谷歌深厚的技術(shù)實(shí)力與精明的商業(yè)頭腦。AlphaGo從誕生伊始，就得到了deepmind團(tuán)隊(duì)的精心包裝，仔細(xì)回想起來(lái)，可謂是“城里套路深”。
從更初戰(zhàn)勝低段位職業(yè)棋手開(kāi)始預(yù)熱或者說(shuō)炒作，到戰(zhàn)勝人類(lèi)頂尖高手李世石，AlphaGo的登場(chǎng)已經(jīng)足夠華麗。不過(guò)4比1的比分還是給了人類(lèi)一線(xiàn)希望，這僅有的勝局中，李世石劍走偏鋒，直接把AlphaGo逼出了“大腦短路”的癥狀，可見(jiàn)此時(shí)AlphaGo雖已經(jīng)足夠強(qiáng)大，但尚不完美。此后各路人類(lèi)高手開(kāi)始臥薪嘗膽，精研AlphaGo的套路，寄希望于重新捍衛(wèi)人類(lèi)尊嚴(yán)。
隨后，一個(gè)神秘的“master”在圍棋界頂級(jí)棋手的對(duì)戰(zhàn)平臺(tái)上取得了60勝0負(fù)的驕人戰(zhàn)績(jī)，這位master到底是何方神圣，是人是妖可謂是賺足了吃瓜群眾的眼球。直到華麗的60勝達(dá)成，謎底才更終揭曉。
此后便是吸引了全世界目光的烏鎮(zhèn)對(duì)決，AlphaGo Master把柯潔打到毫無(wú)還手之力。雖然柯潔已經(jīng)表現(xiàn)出了真正的人類(lèi)更強(qiáng)者戰(zhàn)力，卻仍然被AlphaGo完全壓制，只要出招有任何一點(diǎn)閃失，立刻會(huì)陷入AlphaGo“更小優(yōu)勢(shì)勝”策略的陷阱，再無(wú)翻身余地。
烏鎮(zhèn)對(duì)決之后，人類(lèi)在圍棋領(lǐng)域已經(jīng)徹底甘拜下風(fēng)，別說(shuō)柯潔一人，五大高手聯(lián)手作戰(zhàn)比柯潔輸?shù)酶?，AlphaGo一時(shí)風(fēng)光無(wú)限。
如今，烏鎮(zhèn)硝煙剛要散盡，谷歌又搞了個(gè)大新聞出來(lái)！人工智能在摒棄人類(lèi)經(jīng)驗(yàn)后，用三天時(shí)間自學(xué)的AlphaGo Zero打敗了人類(lèi)幾千年的經(jīng)驗(yàn)。AlphaGo的進(jìn)化版打敗了原始版，不禁叫人想起《鐵甲鋼拳》里叫人熱血賁張的機(jī)甲肉搏，一個(gè)AI輸給另一個(gè)更牛的AI，中國(guó)AI戰(zhàn)勝美國(guó)AI，這很有可能是未來(lái)棋類(lèi)競(jìng)技中的真實(shí)場(chǎng)景。
18年后，無(wú)人幸免？
1
AI，真的覺(jué)醒了？
人工智能，會(huì)蘇醒嗎？
這是一個(gè)古老而又新奇的話(huà)題。
“ 深度學(xué)習(xí) ”天生的 不可預(yù)測(cè) ，加深了這種憂(yōu)慮。
“ 神經(jīng)網(wǎng)絡(luò) ”的 生物性類(lèi)比 ，讓“AI黑匣子”更讓人擔(dān)心。
更近，一個(gè)谷歌工程師再次引爆該話(huà)題：AI覺(jué)醒了？
2022年6月 ，谷歌工程師 Lemoine 表示，自己在與AI“ LaMDA ”聊天中，發(fā)現(xiàn)了后者的回答已經(jīng) 高度人格化 ，認(rèn)為該AI已經(jīng)“ 覺(jué)醒 ”。
為此，Lemoine寫(xiě)了一篇長(zhǎng)達(dá) 21頁(yè)的調(diào)查報(bào)告 ，試圖讓高層認(rèn)可AI的人格。
不過(guò)，谷歌高層暫未表態(tài)，希望獲得更清晰的認(rèn)定。
但Lemoine仿佛化身科幻電影主角，他沒(méi)有放棄，將自己和AI的 聊天記錄 公布于眾，引發(fā)軒然大波?！?華盛頓郵報(bào) 》跟進(jìn)報(bào)道后，更是在全球炸圈。
AI真的覺(jué)醒了嗎？ 爭(zhēng)議不斷。
不管真相如何，有一點(diǎn)可以肯定：
因?yàn)?深度學(xué)習(xí) 和 神經(jīng)網(wǎng)絡(luò) 的加持，人工智能已經(jīng)越來(lái)越“ 不可捉摸 ”。
2
那一夜，人類(lèi)安然睡去
關(guān)于AI覺(jué)醒，讓人想起了6年前的另一件事。
2016年3月13日 ，人類(lèi)和AI在圍棋上進(jìn)行一場(chǎng) 智力的終極較量 。
在此之前，AI與人類(lèi)較量屢屢得手。
但人類(lèi)認(rèn)為， 圍棋是AI不可突破的天花板 。
因?yàn)榭蓽y(cè)宇宙原子總數(shù)約為 10^80 ，而圍棋走法有 2.08*10^170 ，AlphaGo不可能依靠 計(jì)算量 和 算力枚舉 來(lái)獲勝，那么，擁有創(chuàng)造力的人類(lèi)，怎么可能敗給AI。如果圍棋上敗給了AI，那么說(shuō)明它已經(jīng)完成了“ 圖靈測(cè)試 ”。
然而，前三局，李世石 一敗再敗 ，全世界震驚了。
第四局，李世石判斷黑空中有棋，下出白 78挖 。李世石這史詩(shī)級(jí)的“ 神之一手 ”，體現(xiàn)了人類(lèi)巔峰的 直覺(jué)、算力和創(chuàng)造力 。這也是人類(lèi) 更后的尊嚴(yán)之戰(zhàn)。
當(dāng)年一個(gè)作者寫(xiě)下上段內(nèi)容（有修改），并提到“ 23年后，無(wú)人幸免 ”，科學(xué)家建立了一個(gè)數(shù)學(xué)模型，判斷 2040年 人工智能可能會(huì)達(dá)到普通人的智能水平，并引發(fā) 智力爆炸 。
面對(duì)越來(lái)越普遍的AI， 機(jī)器即將代替人類(lèi)，AI正在迅速擴(kuò)張 。
五年過(guò)去了，人類(lèi)朝著“黑客帝國(guó)”大步邁進(jìn)。
那么 18年 后，真的 無(wú)人幸免 ？
3
AI的另一面：不夠穩(wěn)定
以上兩件事，本質(zhì)上都是對(duì) AI覺(jué)醒 的擔(dān)憂(yōu)。
一個(gè)擁有 自由意志 的AI不可信，更終會(huì)威脅到人類(lèi)。
霍金 警告人類(lèi)要正視人工智能帶來(lái)的威脅。
比爾·蓋茨 認(rèn)為人工智能是“召喚惡魔”。
《 2001太空漫游 》中，超級(jí)電腦 HAL9000 在宇宙中將人類(lèi)無(wú)情抹殺。
《 黑客帝國(guó) 》中，人類(lèi)被AI禁錮在 矩陣 之中。
不過(guò)，實(shí)事求是地講，對(duì)AI覺(jué)醒的不可信，仍然只是人類(lèi)臆測(cè)。
雖然科幻電影里描寫(xiě)得殘酷冰冷，也還沒(méi)有得到普遍證實(shí)。
但AI的另一個(gè)“不可信”，卻是真實(shí)存在的。
它不是太聰明太智慧或者產(chǎn)生意識(shí)，而是不夠穩(wěn)定 。
這種不穩(wěn)定，產(chǎn)生的后果才真的“瘆人”。
關(guān)于人工智能“ 失靈 ”的例子還有很多很多，這是AI 不夠沉穩(wěn) 的一面。
這才是實(shí)實(shí)在在“ 不可信 ”的地方，也是AI對(duì)人類(lèi)真正的威脅。
我們不愿意看到 AI 的 “覺(jué)醒”， 但更不能接受 人工智能 的 “輕率” 。
4
人類(lèi)需要的是一個(gè)可信的AI
所以，人類(lèi)需要一個(gè)“ 可信AI ”。
AI是聰明還是愚蠢，也許并不重要。
AI是進(jìn)化還是退化，可能暫時(shí)只是一個(gè)偽命題。
人類(lèi)需要的是一個(gè)可靠的助手，一個(gè)值得信任的機(jī)器助理 。
我是你的創(chuàng)造者，你得聽(tīng)我的吧，不能瞎搗亂。
阿西莫夫在七十年前就提出了“ 機(jī)器人學(xué)三大定律 ”：
這是人類(lèi)在 AI倫理 思考中的方向。
可以把它稱(chēng)為是 人工智能 社會(huì) 的道德準(zhǔn)則 。
對(duì)于人類(lèi)來(lái)說(shuō)，可信，才是我們對(duì)AI更重要的需求。
如果從“ 貝葉斯-拉普拉斯 ”定理開(kāi)始溯源人工智慧，目標(biāo)是解決“ 逆向概率 ”問(wèn)題，其實(shí)本質(zhì)就是解決AI的 可信賴(lài)度 。
如果不能做到可信，AI就有可能反噬人類(lèi)。
更起碼AI與我們相伴要保證人類(lèi)兩點(diǎn)： 生命安全 與 財(cái)產(chǎn)安全 。
以 自動(dòng)駕駛 為例，如果人工智能以準(zhǔn)確率為 99.99% 概率推算， 0.01% 的失誤率依舊會(huì)讓人心驚膽戰(zhàn)。如果未來(lái)城市有 一百萬(wàn)輛 自動(dòng)駕駛 汽車(chē) ，即便是 0.01% 的失誤率，對(duì)人類(lèi)生命安全造成威脅的隱患車(chē)輛仍有 一百輛 。
如果我們不能擁有可信AI，我們自然無(wú)法確定，人工智能給我們帶來(lái)的到底是技術(shù)的進(jìn)步，還是無(wú)數(shù)潛在的威脅。
但實(shí)際上 它才是人工智能領(lǐng)域更有價(jià)值的航燈，也是現(xiàn)在 科技 公司追求的方向 。
5
什么是可信AI，
這16個(gè)技術(shù)小哥在做什么？
所以，什么是可信AI？
可能很多人還不知道，先得把這個(gè)定義弄清楚。
我們可以先看一檔節(jié)目《 燃燒吧，天才程序員2·可信AI 》。
這款綜藝節(jié)目第一季在 豆瓣評(píng)分8.0 ，讓人腦洞大開(kāi)。
在第二季中，1 6個(gè)AI技術(shù)小伙 分為四個(gè)團(tuán)隊(duì)待在“小黑屋”中 四天三夜 ，完成 60個(gè)小時(shí) 任務(wù)挑戰(zhàn)。
比賽中，他們需要與“ 黑產(chǎn) ”進(jìn)行無(wú)數(shù)次較量，培養(yǎng)出與幫助人類(lèi)的“可信AI”，打敗“黑產(chǎn)”，更終決出 更強(qiáng)團(tuán)隊(duì) 。
關(guān)于程序技術(shù)的綜藝節(jié)目，在中國(guó)乃至世界都非常稀缺 。
一方面程序與代碼本身過(guò)于硬核，普通人難以理解。
另一方面則是節(jié)目腳本設(shè)置沖突相比其他綜藝要更難一些。
但《燃燒吧，天才程序員2·可信AI》通過(guò)“ 反詐騙 ”這一實(shí)際場(chǎng)景需要，以此構(gòu)建起節(jié)目的比賽邏輯。
16個(gè)AI技術(shù)小伙需要直面欺詐交易識(shí)別、聯(lián)合反詐等關(guān)卡的挑戰(zhàn) 。
通過(guò)AI與攻防互相協(xié)作，覆蓋反詐全鏈路。
比賽之中，程序員們通過(guò)創(chuàng)造“可信AI”，完成“ 科技 反詐”。
哪一個(gè)團(tuán)隊(duì)產(chǎn)出的 算法和模型 在數(shù)據(jù)的 識(shí)別準(zhǔn)確率 和 覆蓋率 更好，就能贏得比賽勝利。
雖然不如《 黑客帝國(guó) 》那般深刻宏大，也不如《 人工智能 》那樣發(fā)人深省。
但《燃燒吧，天才程序員》卻通過(guò) 真實(shí)的應(yīng)用場(chǎng)景 ，解決現(xiàn)實(shí)生活存在的實(shí)際問(wèn)題。
當(dāng)你看完整個(gè)節(jié)目時(shí)就會(huì)明白，原來(lái)這就是可信AI：依照 現(xiàn)有數(shù)據(jù) 構(gòu)建 智能模型 ，非常穩(wěn)定地解決 現(xiàn)實(shí)難題 。
可信AI的 技術(shù)應(yīng)用范圍 非常廣泛， 反詐 是其中一個(gè)重要應(yīng)用場(chǎng)景。
可信AI沒(méi)有那么遙遠(yuǎn)，它近在咫尺。它也沒(méi)有那么神秘，很多時(shí)候它就是你身邊的小助理。
當(dāng)前基于 神經(jīng)網(wǎng)絡(luò) 的AI技術(shù)非?？幔瑫r(shí)占據(jù)AI話(huà)題至高點(diǎn)，以創(chuàng)造力和神秘性提供太多想象空間，也是許多AI技術(shù)員仰視的圣殿。但它面臨的問(wèn)題也非常多： 具有不可解釋、魯棒性差、過(guò)于依賴(lài)數(shù)據(jù)等缺陷，隱藏著許多潛在危害 。
而可信AI的存在，就是為了解決這些“ 信任危機(jī) ”問(wèn)題。
如果說(shuō)基于 神經(jīng)網(wǎng)絡(luò) 的AI技術(shù)有著 強(qiáng)烈的理想主義 ，那么基于 大數(shù)據(jù)整理 的AI技術(shù)則是一個(gè) 腳踏實(shí)地的現(xiàn)實(shí)執(zhí)行者。
6
可信AI的技術(shù)特點(diǎn)
要真正了解可信AI對(duì)人類(lèi)的幫助，需要從技術(shù)底層入手。
可信AI有四大技術(shù)特點(diǎn)：魯棒性、隱私保護(hù)、可解釋性、公平性 。
01
魯棒性
魯棒性指 在異常和危險(xiǎn)情況下系統(tǒng)生存的能力和算法穩(wěn)定 。
1、前者指的是 系統(tǒng)抗打擊的能力 ，如計(jì)算機(jī)軟件在 輸入錯(cuò)誤 、磁盤(pán)故障、 網(wǎng)絡(luò)過(guò)載 或惡意攻擊情況下，能否 不死機(jī) 、 不崩潰 。打個(gè)比方，如果把一個(gè) AI模型 比喻成 萬(wàn)里長(zhǎng)城 ，那么其魯棒性便是長(zhǎng)城在面對(duì)惡劣天氣（如臺(tái)風(fēng)）、自然災(zāi)害（如地震）時(shí)，人工轟炸時(shí)仍然可以做到 不輕易倒塌 。
2、后者指的是 AI模型中算法本身的穩(wěn)定性 ，如果添加擾動(dòng)的熊貓照片，輕易就繞開(kāi)了AI模型的“眼睛”，則說(shuō)明其魯棒性比較差；比如在 欺詐交易 中，由于 作案手法 不斷升級(jí)，可能導(dǎo)致基于既往數(shù)據(jù)訓(xùn)練的模型，面臨著新風(fēng)險(xiǎn)數(shù)據(jù)帶來(lái)的 穩(wěn)定性考驗(yàn) ，需要 不斷迭代 來(lái)保障模型的 分析和識(shí)別能力 。
以 支付寶 為例。支付寶每天都有 上億筆交易 ，其 對(duì)抗的不是散戶(hù)，而是專(zhuān)業(yè)的黑產(chǎn)團(tuán)伙 。他們可能有兩種攻擊方式：
為了保障資金安全，螞蟻集團(tuán)引入“ 博弈智能攻防 ”技術(shù)，該技術(shù)具有對(duì) 風(fēng)險(xiǎn)知識(shí) 和 模型 的 提前模擬、提前訓(xùn)練、提前補(bǔ)防 的能力。應(yīng)用該技術(shù)的AI模型魯棒性有大幅提升，實(shí)現(xiàn)“ 左右互搏 ”，既能夠更智能地“攻”，也能更安全地“防”。
02
隱私保護(hù)
傳統(tǒng)的數(shù)據(jù)保護(hù)方法客觀(guān)上形成了「 數(shù)據(jù)孤島 」，影響了如*、金融等領(lǐng)域的協(xié)同作戰(zhàn)，也制約 AI 技術(shù)以及行業(yè)發(fā)展。
所以， 拓展數(shù)據(jù)價(jià)值的隱私計(jì)算技術(shù)，對(duì)實(shí)現(xiàn)「數(shù)據(jù)不動(dòng)價(jià)值動(dòng)」顯得尤為重要 。
在AI領(lǐng)域， 聯(lián)邦學(xué)習(xí) 作為一種新的機(jī)器學(xué)習(xí)模型和算法，就是為解決數(shù)據(jù)孤島問(wèn)題而提出的。在保證每個(gè)參與方不泄露原始數(shù)據(jù)，即 數(shù)據(jù)不出域 的前提下，用多方的數(shù)據(jù)聯(lián)合建模，實(shí)現(xiàn)數(shù)據(jù) 可用不可見(jiàn) ，進(jìn)而實(shí)現(xiàn)「數(shù)據(jù)不動(dòng)價(jià)值動(dòng)」。
03
可解釋性
人類(lèi)對(duì)一切未知的東西，始終都會(huì)有一種莫名的恐懼。
如果人工智能的行為無(wú)法進(jìn)行解釋?zhuān)挥薪Y(jié)果沒(méi)有過(guò)程，那么它就像是一個(gè)盲盒，你永遠(yuǎn)不知道放出來(lái)的是“阿拉丁”，還是“潘多拉”。
AI 模型是許多重要決策的重要依據(jù)，在很多應(yīng)用里它的思考過(guò)程不能是黑盒 。
人類(lèi)希望知道模型 背后的邏輯 、收獲新的知識(shí)，并在它出現(xiàn)問(wèn)題時(shí)踩好剎車(chē)，確保 AI 思考的過(guò)程和結(jié)果 合規(guī)合法 。
這背后需要 數(shù)據(jù)驅(qū)動(dòng) 與 模型推理能力 結(jié)合起來(lái)，產(chǎn)生 可解釋的結(jié)果 。
04
公平性
AI公平性是可信AI的重要組成部分。
只有實(shí)現(xiàn)“ 公平性 ”，才能真正推動(dòng)技術(shù) 造福 于整個(gè) 社會(huì) 。
一方面，公平性需要重視 弱勢(shì)人群 、兼顧 落后地區(qū)發(fā)展 ，在重視 社會(huì) 倫理原則下進(jìn)行 AI 調(diào)優(yōu) ，通過(guò) AI 技術(shù)，讓老年人、殘障人士、欠發(fā)達(dá)地區(qū)用戶(hù)，享受到 數(shù)字經(jīng)濟(jì)時(shí)代 的價(jià)值。
另一方面，公平性要思考如何從技術(shù)上思考如何減少算法、數(shù)據(jù)等因素可能帶來(lái)的 AI 決策偏見(jiàn) 。
魯棒性、隱私保護(hù)、可解釋性、公平性 。
這是可信AI的 四大基本原則 。
今天，發(fā)展可信AI，已經(jīng)成為 全球共識(shí) 。
特別是對(duì)于領(lǐng)先的 科技 公司來(lái)講，他們是要服務(wù)用戶(hù)且不能犯錯(cuò)誤的。
微軟 、谷歌、 螞蟻 、京東、 騰訊 、曠世等 科技 企業(yè)，都在積極開(kāi)展可信AI的研究和 探索 。
其中，螞蟻在可信AI上已有很多 技術(shù)優(yōu)勢(shì) ，自 2015年 開(kāi)始投入研究起，已經(jīng)完成了 長(zhǎng)達(dá)7年 的 可信AI技術(shù)積累之路 。
據(jù) 2021年 權(quán)威專(zhuān)利機(jī)構(gòu) IPR daily 發(fā)布的《 人工智能安全可信關(guān)鍵技術(shù)專(zhuān)利報(bào)告 》顯示，螞蟻集團(tuán)旗下的 支付寶 在該領(lǐng)域的 專(zhuān)利申請(qǐng)數(shù) 和 授權(quán)數(shù) ，均位列全 球第一 。
7
可信AI的應(yīng)用 探索
基于可信AI的以上特點(diǎn)，應(yīng)用場(chǎng)景多種多樣。
AI在 * 、教育、 工業(yè) 、金融等多個(gè)領(lǐng)域的廣泛應(yīng)用，算法安全性、數(shù)據(jù)濫用、數(shù)據(jù)歧視等問(wèn)題也層出不窮。當(dāng)前AI技術(shù)的 主要矛盾， 已經(jīng)轉(zhuǎn)化為 人們對(duì)AI日益增長(zhǎng)的應(yīng)用范圍需求和AI不可信不夠穩(wěn)的發(fā)展之間的矛盾 。
2018年，IBM開(kāi)發(fā)了多個(gè)AI可信工具，以評(píng)估測(cè)試人工智能產(chǎn)品在研發(fā)過(guò)程中的公平性、魯棒性、可解釋性、可問(wèn)責(zé)性、價(jià)值一致性。之后IBM將這些工具捐獻(xiàn)給Linux Foundation并成為了開(kāi)源項(xiàng)目，幫助開(kāi)發(fā)人員和數(shù)據(jù)科學(xué)家構(gòu)建可信、安全、可解釋的人工智能系統(tǒng)。
作為可信AI領(lǐng)域的先行者之一，螞蟻也做了不少 探索 。
螞蟻的可信AI技術(shù)應(yīng)用更好的實(shí)踐結(jié)果是，自研了一套 智能風(fēng)控解決方案 ，定名 IMAGE 。這套技術(shù)體系實(shí)現(xiàn)了用可信AI技術(shù)保障風(fēng)控業(yè)務(wù)安全的問(wèn)題，且達(dá)到了非常好的效果。
它能將支付寶 資損率 控制在 千萬(wàn)分之0.098， 解決了 風(fēng)控場(chǎng)景 中的諸多 世界難題 。
還有一個(gè)例子，是支付寶的“ 叫醒熱線(xiàn) ”——從系統(tǒng)識(shí)別到用戶(hù)遇到詐騙風(fēng)險(xiǎn)，到AI機(jī)器人向用戶(hù)呼出“ 叫醒電話(huà) ”，它能把整個(gè)過(guò)程控制在 0.1秒 內(nèi) 。
螞蟻集團(tuán)基于可信AI的IMAGE風(fēng)控體系
另外在可信AI的公平性方面，螞蟻也有自己的實(shí)際應(yīng)用。
目前業(yè)內(nèi)廣泛使用的“ 圖形滑塊驗(yàn)證碼 ”一直是視障人群接入數(shù)字化服務(wù)的巨大障礙。但許多 APP 為了防范機(jī)器批量操作，又不得不保留驗(yàn)證碼服務(wù)。
為此，螞蟻開(kāi)發(fā)了一套“ 空中手勢(shì) ”驗(yàn)證碼方案，可以利用“ 行為識(shí)別 ”技術(shù)幫助視障群體通過(guò)“ 驗(yàn)證碼 ”關(guān)卡。
可信AI的應(yīng)用 探索 ，并不會(huì)讓AI技術(shù)失去它的可能性。
它更像是一種倫理規(guī)范的約束條約，讓AI在正確的軌道上前行 。
8
18年后，人類(lèi)真的無(wú)人幸免？
讓我們回到一開(kāi)始的問(wèn)題。
AI真的會(huì)覺(jué)醒嗎？
一百年前的人類(lèi)，很難想象我們?nèi)缃裆畹倪@個(gè)高度數(shù)字化世界 。
那么，一百年后，人工智能會(huì)發(fā)生什么變革，我們真的無(wú)法預(yù)測(cè)。
但AI對(duì)人類(lèi)是福是禍，是一個(gè)攸關(guān)人類(lèi)命運(yùn)的重要課題。
按照現(xiàn)在AI發(fā)展的模式來(lái)看，未來(lái)的AI可能會(huì)分為兩大派：
一派是自我獨(dú)立的智能AI，一派是追隨人類(lèi)的可信AI 。
當(dāng)然，還有人在問(wèn)，AI真的會(huì)存在 獨(dú)立意志 嗎？
這要看從科學(xué)上如何去解釋?zhuān)粋€(gè)AI系統(tǒng)是可以“坎陷”到具有“ 自我意識(shí) ”的狀態(tài)，差別只在于“坎陷”的深度和魯棒性，這可以解釋AlphaZero為什么能夠自我“坎陷”到圍棋大師，如果再 “ 坎陷 ”下去呢？ 這 一派AI，可能會(huì)對(duì)人類(lèi)造成我們認(rèn)定的“威脅” 。
另一派AI，即可信AI，它們會(huì)在 四大基本原則 的架構(gòu)中不斷完善自我 ，幫助人類(lèi)解決更多實(shí)際問(wèn)題，成為人類(lèi)可靠的助手，并與人類(lèi)共存共生 。那么，它們會(huì)一直幫助和保護(hù)人類(lèi)嗎？
但無(wú)論未來(lái)如何發(fā)展，不同的技術(shù)方向或許帶來(lái)不同的悲劇或者喜劇，但有一點(diǎn)可以確定：
AI技術(shù)在四面突擊，不論是可信AI還是智能AI，更終會(huì)落地深入到我們生活的方方面面 。它會(huì)滲透到世界的每一個(gè)角落，在很多方面取代“無(wú)用之人”。
不管我們?nèi)绾螕?dān)憂(yōu)，AI只會(huì)變得越來(lái)越強(qiáng)大，而人類(lèi)的進(jìn)化又顯得如此龜速，甚至退化墮落。
那么， 18年后，有多少人可以幸免？
AlphaGo的認(rèn)輸界面，當(dāng)人類(lèi)拋開(kāi)了勝負(fù) 什么情況
AlphaGo的認(rèn)輸界面，當(dāng)人類(lèi)拋開(kāi)了勝負(fù) 什么情況。
人機(jī)大戰(zhàn)第四盤(pán)在韓國(guó)首爾戰(zhàn)罷。賽前0比3的局面，讓比賽的性質(zhì)已經(jīng)從勝負(fù)對(duì)決轉(zhuǎn)為科學(xué)實(shí)驗(yàn)了。沒(méi)有包袱的韓國(guó)棋手李世石一掃陰霾，他用一記令A(yù)lphaGo疑似死機(jī)的妙招，替人類(lèi)挽回了尊嚴(yán)。盡管1比3的比分無(wú)法改變這次人機(jī)大戰(zhàn)的整體結(jié)果，但這盤(pán)勝利也讓棋界為之興奮，高呼：“人類(lèi)圍棋未被完全攻克。”
人機(jī)大戰(zhàn)前三盤(pán)0比3的結(jié)果，令賽前曾對(duì)人工只能不屑一顧的棋界啞口無(wú)言，各路高手紛紛意識(shí)到了AlphaGo的超強(qiáng)實(shí)力，轉(zhuǎn)而以學(xué)習(xí)的心態(tài)正確看待AlphaGo。而李世石本人，也在承認(rèn)“錯(cuò)估了AlphaGo的實(shí)力”后，終于拋開(kāi)了全部壓力，開(kāi)始享受自己的圍棋之道。
沒(méi)有了前面三盤(pán)的緊張和糾結(jié)，李世石開(kāi)始走出自己的風(fēng)格，他利用絞殺與AlphaGo進(jìn)行爭(zhēng)奪。反觀(guān)AlphaGo依舊“冷血”，它在第四盤(pán)開(kāi)局的招數(shù)，依然沒(méi)有任何破綻——看上去勝負(fù)仍然傾向于AlphaGo這邊。
本局中腹激戰(zhàn)中，李世石敏銳捕捉到戰(zhàn)機(jī)，尤其第78手挖更是被贊為“神之一手”。從這招之后，AlphaGo的程序疑似出現(xiàn)了“BUG”，它此后連出數(shù)招“臭棋”，比賽的局勢(shì)瞬間轉(zhuǎn)向李世石這邊。
在負(fù)責(zé)解說(shuō)的曹大元九段看來(lái)，李世石的妙招很可能走出了AlphaGo的計(jì)算范圍，隨后的幾招屬于明顯的自我放棄了。此后AlphaGo經(jīng)過(guò)調(diào)整回到正軌，但李世石沒(méi)有讓之前建立的優(yōu)勢(shì)溜走，更終他180手中盤(pán)艱難取勝。
對(duì)于棋界人士而言，正如第四盤(pán)賽后新聞發(fā)言人所講：“李世石的努力得到了證明，證明人類(lèi)還有更高明的棋法?！?/p>
對(duì)于科技人士而言，AlphaGo出現(xiàn)的疑似“BUG”，也是這次科學(xué)實(shí)驗(yàn)的更大收獲。谷歌的發(fā)言人賽后表示，AlphaGo也不是萬(wàn)能的，它只是一個(gè)原型機(jī)，或者說(shuō)只是個(gè)程序，還有待進(jìn)一步完善。
這真是一場(chǎng)皆大歡喜的勝利。
李世石第四局為什么能戰(zhàn)勝阿爾法狗？
和前幾局對(duì)決相比，李世石第四局更多次陷入“長(zhǎng)考”，導(dǎo)致耗時(shí)太多，在比賽進(jìn)行到2個(gè)半小時(shí)后李世石僅剩下17分鐘，比AIphGo剩余時(shí)間足足少了1小時(shí)。隨后，李世石白78挖，下出一招妙手，成為本場(chǎng)比賽的轉(zhuǎn)折點(diǎn)。AIphGo黑93立，下出一步常理上的廢棋，令所有人大惑不解。現(xiàn)場(chǎng)英文解說(shuō)員麥克雷蒙九段表示，AIphGo后面跟的這步一下子把局面弄復(fù)雜了。雖然AIphGo出現(xiàn)一次“bug”，但李世石任然不敢松懈在打吃右側(cè)黑子時(shí)還是非常謹(jǐn)慎。在比賽進(jìn)行到3小時(shí)20分鐘時(shí)。李世石計(jì)時(shí)全部用完，進(jìn)入讀秒落子階段。此后Alpha由于判斷局面對(duì)自己不利，每步耗時(shí)明顯增長(zhǎng)，都超出了3分鐘。到3小時(shí)40分鐘時(shí)，比賽大局已定，AlphaGo(白)投子認(rèn)輸只剩時(shí)間問(wèn)題，李世石只需要冷靜收官即可獲得勝利。可以肯定的是，阿爾法狗再次證明了人工智能不是以人類(lèi)思維下棋。它只是在計(jì)算，而且也會(huì)有算錯(cuò)的時(shí)候。而李世石面對(duì)不可戰(zhàn)勝之?dāng)?，用韌性與智慧贏得了尊嚴(yán)，這是人工智能“算”不出來(lái)的。
【綜述】李世石如何挽回人類(lèi)尊嚴(yán)？李世石評(píng)價(jià)？不懂就看，不知就學(xué)，更多關(guān)于“李世石評(píng)價(jià)”的答案關(guān)注映森：http://horslemonde.com/
