李彥宏：不擔(dān)心人工智能會(huì)控制人類，安全是百度的第一天條
在2018年中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上，百度董事長李彥宏發(fā)表《為了一個(gè)更美好的AI時(shí)代》主題演講，話題圍繞對人工智能（AI）的擔(dān)心展開。李彥宏表示，“我不擔(dān)心人工智能會(huì)控制人類，但并不是沒有擔(dān)心?！?/p>
5月26日，在2018年中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上，百度董事長李彥宏發(fā)表《為了一個(gè)更美好的AI時(shí)代》主題演講，話題圍繞對人工智能（AI）的擔(dān)心展開。李彥宏表示，“我不擔(dān)心人工智能會(huì)控制人類，但并不是沒有擔(dān)心。”
他表示，在今年全國“兩會(huì)”時(shí)自己被問得最多的是無人車什么時(shí)候量產(chǎn)。當(dāng)時(shí)他稱今年7月份無人車就可以量產(chǎn)，現(xiàn)在已至5月，還剩下一個(gè)多月時(shí)間，他有期望、有焦慮、有擔(dān)心，“不是擔(dān)心這個(gè)車量產(chǎn)不了下不了線，我在擔(dān)心這個(gè)車是不是租購的安全。”
對此，李彥宏表示，對于百度而言，安全是自動(dòng)駕駛最最重要的一個(gè)方向，是百度的第一天條，“什么東西都可以錯(cuò)，但是這個(gè)東西不能錯(cuò)。一旦錯(cuò)，一旦出事，就有可能使得整個(gè)技術(shù)的推進(jìn)停滯一年到兩年。更重要的是，人的安全是最最寶貴的，是我們最看中的，我們不能夠在這方面容忍錯(cuò)誤。”
他在現(xiàn)場展示了一段視頻，視頻展示的情景是，百度無人車在轉(zhuǎn)彎調(diào)頭時(shí)，旁邊跑出來一只小狗，無人車正確在小狗面前停下來，讓其過去之后才接著開。
李彥宏對此表示，這其實(shí)是一個(gè)比較難的東西，無人車在高速公路、封閉公路上快速行駛其實(shí)是相對安全的，路況比較簡單。而在開放城市道路上，有人，有各種各樣預(yù)想不到的事情，車能不能很好控制自己，是一個(gè)非常難的問題，要解決了這個(gè)問題，車才能真正變成無人車，才能夠自動(dòng)駕駛。
李彥宏稱，百度不是造車的，而是一個(gè)完全開放的平臺(tái)，“我們的技術(shù)通過開放源代碼、開放數(shù)據(jù)，讓所有想造無人車的生產(chǎn)廠商能夠從中獲益。”
他表示，從代碼的開放到后來量產(chǎn)，中間又增加了很多新代碼，其中接近50%的代碼是為了安全而增加，“真的要量產(chǎn)了，真的要下線進(jìn)入商用，真的要載人了，我們不能讓它錯(cuò)，所以大量的經(jīng)歷放在了安全上，要符合車規(guī)。”
李彥宏坦言，在兩三年前，他無法想象到今年可以看到?jīng)]有駕駛位、沒有方向盤的車能夠在一些封閉的場景中使用。他相信，這種狀態(tài)會(huì)越來越好，不僅僅是像百度這樣的公司在推進(jìn)無人車在車層面技術(shù)的演進(jìn)，還有一個(gè)很重要的方向，是政府在推動(dòng)基礎(chǔ)設(shè)施方面的演進(jìn)——越來越多地在道路上布置各種各樣的傳感器，讓車可以更低的成本、更高的精確度識(shí)別各種各樣的障礙物和交通規(guī)則。
李彥宏認(rèn)為，無人車不是某一個(gè)公司單方面的努力，而是方方面面的巨大生態(tài)，“而它的這種演進(jìn)，我覺得中國最有希望，因?yàn)樗诤芏嗪芏嗷A(chǔ)設(shè)施的建設(shè)上都是在全世界是超前的。”
值得注意的是，李彥宏介紹，百度最近推了一個(gè)新的搜索APP，叫做“簡單搜索”，一是運(yùn)用人工智能技術(shù)，可用語音調(diào)取，也可用攝像頭拍照片識(shí)別指令。語音調(diào)取方面，根據(jù)不同的人發(fā)出的不同聲音，給出相應(yīng)的搜索結(jié)果也是不一樣的，例如含有成人模式/標(biāo)準(zhǔn)模式，以及少兒模式，即能夠檢測出來用戶的聲音是成年人聲音，還是兒童聲音。
二是，該搜索APP無廣告，在搜索結(jié)果中沒有任何廣告。李彥宏在會(huì)上承諾，簡單搜索在搜索結(jié)果里面永遠(yuǎn)不放廣告。
對于人工智能時(shí)代，李彥宏認(rèn)為有四個(gè)需要共同遵循的理念和規(guī)則。
第一，人工智能的最高原則是安全可控。“一輛無人車如果被黑客攻擊了，它有可能變成一個(gè)殺人武器，這是絕對不允許的，我們一定要讓它是安全的，是可控的。”
第二，需要認(rèn)真思考如何能夠在新時(shí)代讓所有企業(yè)、所有人能夠平等獲取AI的技術(shù)和能力，而不僅僅是少數(shù)大公司的專利；如何能夠防止在人工智能時(shí)代因?yàn)榧夹g(shù)的不平等導(dǎo)致人們在生活、工作各個(gè)方面變得越來越不平等。
第三，希望通過人工智能、個(gè)性化推薦，能教人學(xué)習(xí)，讓人變成更好的人。
第四，因?yàn)槿斯ぶ悄?，勞?dòng)不再成為人們謀生的手段，而是變成人的一種需求，“你想工作，你想去創(chuàng)新，你想去做創(chuàng)造，所以你才去工作，這是AI的終極理想，我們要為人類帶來更多自由和可能。”
李彥宏在最后表示，AI的使命不是替代人，而是讓技術(shù)忠誠于人類，服務(wù)于人類，讓人類的生活變得更美好。
附：李彥宏出席2018年貴陽數(shù)博會(huì)演講實(shí)錄《為了一個(gè)更美好的AI時(shí)代》
大家下午好！非常高興第三次來到貴陽數(shù)博會(huì)，跟大家交流有關(guān)人工智能方面的一些看法。應(yīng)該說，我覺得每一次來感受都非常深刻，貴陽的數(shù)博會(huì)影響力一年比一年大，人也一年比一年多，但是對于我來說，每一年其實(shí)都沒有什么變化，談的話題都是人工智能。
去年我在這個(gè)論壇上講人工智能其實(shí)有很多誤解，有人覺得它是仿生學(xué)，有人覺得它會(huì)威脅到人類的安全，我一直講，我是一個(gè)樂觀派，我覺得人工智能不可能威脅到人類的安全。我當(dāng)時(shí)，說請大家不要擔(dān)心。那今天我想講什么呢？起的名字叫“為了一個(gè)更美好的AI時(shí)代”。
名字起得很美好，話題實(shí)際上是想談我對人工智能的擔(dān)心。我不擔(dān)心人工智能會(huì)控制人類，但是并不是沒有擔(dān)心。那我對人工智能擔(dān)心什么？
今年“兩會(huì)”的時(shí)候也有很多記者問我各種各樣的問題，跟百度有關(guān)的問題，但是問得最多的，還是無人車什么時(shí)候量產(chǎn)。我當(dāng)時(shí)夸了一個(gè)海口，說今年7月份無人車就可以量產(chǎn)，我們與廈門金龍的小巴車，沒有方向盤、沒有駕駛位的全自動(dòng)的車很快就會(huì)量產(chǎn)了，現(xiàn)在已經(jīng)5月份了，剩下一個(gè)多月時(shí)間了，我有期望、有焦慮、有擔(dān)心，不是擔(dān)心這個(gè)車量產(chǎn)不了下不了線，我在擔(dān)心這個(gè)車是不是足夠的安全。
所以，對于我們來說，安全是自動(dòng)駕駛最最重要的一個(gè)方向，它是我們的“天條”。什么東西都可以錯(cuò)，這個(gè)東西不能錯(cuò)。一旦錯(cuò)的，一旦出事，就有可能使得整個(gè)技術(shù)的推進(jìn)會(huì)停滯一年到兩年。更重要的是，人的安全是最最寶貴的，是我們最看中的，我們不能夠在這方面容忍錯(cuò)誤。所以我想給大家看一下我們在自動(dòng)駕駛的安全方面，前一段時(shí)間測試的視頻，這個(gè)測試是在雄安，百度無人車在轉(zhuǎn)彎調(diào)頭的時(shí)候，路邊突然跑出來一只小狗，無人車很正確地在小狗面前停下來，讓它過去之后，才再接著開的，我們一起來看一下。
這其實(shí)是一個(gè)比較難的東西，無人車在高速公路、封閉公路上快速行駛其實(shí)是相對安全的，那個(gè)路況是比較簡單的。而在開放城市道路上，有人，有各種各樣預(yù)想不到的事情，它能不能很好控制自己，這就是一個(gè)非常難的問題，要解決了這個(gè)問題，這個(gè)車才能真正的變成無人的，才能夠自動(dòng)駕駛。
大家知道，百度不是造車的，我們是一個(gè)平臺(tái)，我們是一個(gè)完全開放的平臺(tái)，我們的技術(shù)通過開放源代碼、開放數(shù)據(jù)，讓所有的想造無人車的生產(chǎn)廠商能夠從中獲益。
從我們代碼的開放到后來量產(chǎn)，這中間增加了很多新的代碼，其中接近50%的代碼都是為了安全增加的，真的要量產(chǎn)了，真的下線進(jìn)入商用，真的要載人了，我們不能讓它錯(cuò)，所以大量的經(jīng)歷放在了安全上，要符合車規(guī)。所以我們在國內(nèi)從事自動(dòng)駕駛研發(fā)的互聯(lián)網(wǎng)公司當(dāng)中第一個(gè)拿到了ISO26262這個(gè)流程的認(rèn)證，所有電子產(chǎn)品的安全性的認(rèn)證和規(guī)范。
因?yàn)闊o人車是一個(gè)很大的產(chǎn)業(yè)，也有很多很多的合作伙伴與我們一起在做，這就使得整個(gè)產(chǎn)業(yè)比我們想象推進(jìn)要快。說實(shí)話，兩三年前我是無法想象到今年可以看到?jīng)]有駕駛位、沒有方向盤的車能夠在一些封閉的場景中使用，不管是封閉的園區(qū)、碼頭還是景區(qū)能夠跑起來，所以它是經(jīng)過了很多方，從政府到汽車制造商、科研機(jī)構(gòu)、出行服務(wù)商，甚至電信運(yùn)營商各個(gè)方面的共同努力，才達(dá)到這樣一個(gè)狀態(tài)的。
這種狀態(tài)我相信會(huì)越來越好，不僅僅是像百度的這樣公司在推進(jìn)無人車在車這個(gè)層面技術(shù)的演進(jìn)，還有一個(gè)很重要的方向是政府在推動(dòng)基礎(chǔ)設(shè)施方面的演進(jìn)，它越來越多的在道路上布置各種各樣的傳感器，讓車可以以更低的成本、更高的精確度識(shí)別各種各樣障礙物和交通規(guī)則。所以，原來車上可能有貴達(dá)幾萬美元的激光雷達(dá)設(shè)備才能夠探測周邊的障礙物，但是如果我們能夠在道路層面、基礎(chǔ)設(shè)施層面把相應(yīng)的傳感器布下去的話，那我們的車就可以用更便宜的傳感器就能夠感知路況，能夠躲避障礙，這樣無人駕駛車的成本就會(huì)大大的降低，這也是我們寄予厚望的一個(gè)方向。所以，無人車確實(shí)不是某一個(gè)公司單方面的努力，它是方方面面的巨大生態(tài)，而它的這種演進(jìn)，我覺得中國最有希望，因?yàn)槲覀冇幸粋€(gè)強(qiáng)實(shí)力的政府，它在很多很多基礎(chǔ)設(shè)施的建設(shè)上都是在全世界是超前的。
以上是在無人車方面我的擔(dān)心和相應(yīng)的措施。其實(shí)，人工智能也在毫無爭議、不可避免地改造傳統(tǒng)移動(dòng)互聯(lián)網(wǎng)，包括搜索在內(nèi)。我也給大家看一下，百度最近推了一個(gè)新的搜索APP，叫做“簡單搜索”，它主打兩個(gè)特點(diǎn)。
先講第一個(gè)特點(diǎn)，就是人工智能。對于傳統(tǒng)互聯(lián)網(wǎng)來說，人工智能是對語音、圖像、自然語言的精確理解，大家可以看一下。
這里可以用語音調(diào)取，也有用攝像頭拍一張照片它就可以識(shí)別它到底是什么意思，這其實(shí)都是用了很多的AI的能力。
同時(shí)，AI還能夠千人千面，不同的人在進(jìn)行搜索的時(shí)候獲得的結(jié)果我們認(rèn)為應(yīng)該是不一樣的。簡單來說，可以有成人模式，或者說標(biāo)準(zhǔn)模式，另外還有少兒模式，如果它能夠檢測出來你的聲音是一個(gè)成年人聲音，還是一個(gè)兒童聲音，他給你的結(jié)果也是不一樣的，我們來看一下。
我們根據(jù)不同的人發(fā)出來的不同聲音，給出相應(yīng)的搜索結(jié)果也是不一樣的，這是簡單搜索的第一個(gè)特點(diǎn)。
第二個(gè)特點(diǎn)，實(shí)際上我們在兩天前做了一點(diǎn)宣傳，這個(gè)搜索APP是無廣告的，在搜索結(jié)果中沒有任何廣告。后來我看了一下網(wǎng)上評論，大多數(shù)人都不相信，說你騙人的吧，你怎么可能沒有廣告。所以我也想利用今天這個(gè)機(jī)會(huì)跟大家講，簡單搜索在搜索結(jié)果里面永遠(yuǎn)不放廣告，歡迎大家下載來使用。
我們覺得，實(shí)際上AI時(shí)代除了技術(shù)的快速進(jìn)步之外，也確實(shí)隨著產(chǎn)品的落地，人們越來越切身感受AI到底能給人們帶來什么結(jié)果時(shí)，我們越來越覺得需要有新的規(guī)則、新的價(jià)值觀、新的倫理，至少要在這方面進(jìn)行討論。
不僅僅無人車要能夠認(rèn)識(shí)紅綠燈，所有的AI新的產(chǎn)品、新的技術(shù)都要有一個(gè)我們大家共同遵循的理念和規(guī)則。所以我想到了四個(gè)方面東西。
第一，我們認(rèn)為AI的最高原則是安全可控。一輛無人車如果被黑客攻擊了，它有可能變成一個(gè)殺人武器，這是絕對不允許的，我們一定要讓它是安全的，是可控的。
第二，我們今天看到像BAT，或者是美國的Facebook、Google、Microsoft，這些公司的AI能力都很強(qiáng)，但是世界上不僅僅只有這幾個(gè)大公司需要AI的能力、技術(shù)，世界上有幾千萬家公司、組織、機(jī)構(gòu)也很需要AI的技術(shù)、能力。我們怎么能夠在新的時(shí)代讓所有的企業(yè)、所有的人能夠平等地獲取AI的技術(shù)和能力，而不僅僅是少數(shù)大公司的專利，我們怎么能夠防止在AI時(shí)代因?yàn)榧夹g(shù)的不平等導(dǎo)致人們在生活、工作各個(gè)方面變得越來越不平等？這是我們需要去認(rèn)真思考的。
第三，與此同時(shí)，AI做出來的很多東西不應(yīng)該僅僅是去簡單地模仿人；不是人喜歡什么它就給你什么；不能人喜歡娛樂八卦，就百分之百的信息流都推娛樂八卦；不是只要能讓人在這里多待一分鐘就不讓他少待一分鐘。這不是我們想要的。我們希望通過AI，通過個(gè)性化推薦，給人們的信息是能教人學(xué)習(xí)。當(dāng)你花了一個(gè)小時(shí)之后，過段時(shí)間之后，能夠發(fā)現(xiàn)學(xué)到了一些跟原來不一樣的、好的東西，讓我們變成更好的人。這是我們希望看到的。
第四，也是過去很多人在問的，如果人類很多工作或者勞動(dòng)逐漸被機(jī)器所替代的話，人還能干什么？人可以休息。我們現(xiàn)在一周工作五天，休息兩天，也許未來一周工作兩天，休息五天。但是更重要的是，很可能因?yàn)槿斯ぶ悄?，勞?dòng)不再成為人們謀生的手段，而是變成人的一種需求。你想工作，想去創(chuàng)新，你想去做創(chuàng)造，所以你才去工作。這是AI的終極理想，我們要為人類帶來更多自由和可能。
AI的使命是什么？不是替代人，是讓技術(shù)忠誠于人類，服務(wù)于人類，讓人類的生活變得更美好。
這就是我今天想講的，謝謝大家。
（來源：澎湃新聞）