何積豐是中國(guó)科學(xué)院院士、著名計(jì)算機(jī)軟件科學(xué)家。他主要從事計(jì)算機(jī)軟件理論及應(yīng)用研究，針對(duì)軟件的復(fù)雜性、正確性和可靠性等問(wèn)題開(kāi)展系統(tǒng)性的研究。在8月25日播出的《未來(lái)說(shuō)·執(zhí)牛耳者》節(jié)目中，何積豐介紹他現(xiàn)在在研究的是安全可信人工智能。

萬(wàn)物互聯(lián)的時(shí)代正在到來(lái)，電力運(yùn)行、軌道交通、航空航天、大型裝備……越來(lái)越多關(guān)系國(guó)計(jì)民生的大型系統(tǒng)，都要靠復(fù)雜而智能的軟件系統(tǒng)運(yùn)行，人工智能的概念越來(lái)越被大眾熟知，但人工智能是否安全可信？

比如某公司自動(dòng)駕駛致死事故，其原因在于人工智能未能識(shí)別道路清掃車，比如達(dá)芬奇手術(shù)機(jī)器人，因?yàn)檠獮R到攝像頭，導(dǎo)致機(jī)器人“失明”，感知系統(tǒng)無(wú)法正常運(yùn)作，如果這些軟件系統(tǒng)“帶病”上崗，一旦“發(fā)病”或被人操控，后果將不堪設(shè)想。

何積豐介紹，如何選擇無(wú)人駕駛汽車，主要看它的安全保障措施有哪些？

因?yàn)闄C(jī)器里面智能是通過(guò)數(shù)據(jù)訓(xùn)練的，因此我們要看汽車生產(chǎn)過(guò)程中間，它自動(dòng)駕駛設(shè)備，場(chǎng)景訓(xùn)練次數(shù)有多少，級(jí)別比較低，那證明安全性目前可能還沒(méi)有到位，這個(gè)是第一位的。

第二點(diǎn)，看整個(gè)環(huán)境是不是有保障措施，智能車?yán)锩嬗袀€(gè)叫做車路互聯(lián)互通的問(wèn)題，如果我們路沒(méi)準(zhǔn)備好，讓那輛車在路上開(kāi)，可能多數(shù)人還是一開(kāi)始不敢坐，現(xiàn)在有的無(wú)人車前景比較好，在一個(gè)無(wú)人環(huán)境里面，比如在我們洋山港用的運(yùn)貨車，它也是無(wú)人的，當(dāng)時(shí)在東海大橋上只有這輛車開(kāi)，所以不存在說(shuō)環(huán)境干擾它的問(wèn)題，現(xiàn)在條件是比較成熟，高新技術(shù)演化有個(gè)過(guò)程。

我相信上世紀(jì)初，我們汽車代替馬車的時(shí)候，人家也說(shuō)汽車比馬車不安全，盡管我們那時(shí)候叫馬路了，證明這個(gè)路是為馬車準(zhǔn)備的，那么經(jīng)過(guò)幾十年以后，它升級(jí)迭代以后，它越來(lái)越安全了?，F(xiàn)在很多老百姓覺(jué)得不開(kāi)車很不方便，那么安全性能的要求標(biāo)準(zhǔn)，就慢慢被大家所接受了，有這樣的一個(gè)過(guò)程。

何積豐估計(jì)，大概沒(méi)有五到十年積累，很難得到已經(jīng)很安全的結(jié)論。

任何高新技術(shù)都是雙刃劍，如果安全可信問(wèn)題不解決，這個(gè)高新技術(shù)不會(huì)對(duì)你生活美好，提供有益的幫助，所以安全可信是個(gè)重要的要素。

點(diǎn)擊觀看完整版視頻

（素材來(lái)源：《未來(lái)說(shuō)·執(zhí)牛耳者》節(jié)目組）