科客點(diǎn)評(píng)：谷歌啊，怎么眼神不大好？

　　7月3日，谷堪稱人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)軍企業(yè)，但其Google Photos應(yīng)用本周犯了一個(gè)十分嚴(yán)重的錯(cuò)誤，誤把兩名黑人標(biāo)注為“大猩猩”。這表明，即使對(duì)谷歌來(lái)說(shuō)，人工智能的道路仍然是“路漫漫其修遠(yuǎn)兮”。

　　Web開(kāi)發(fā)人員杰基·阿爾西內(nèi)(Jacky Alciné)發(fā)現(xiàn)Google Photos自動(dòng)把兩位黑人的照片標(biāo)記為“Gorillas”(大猩猩)，并截圖發(fā)布到Twitter上。

　　阿爾西內(nèi)在Twitter上說(shuō)：“Google Photos，你太混蛋了。我朋友不是大猩猩。”

　　谷歌隨后對(duì)此道歉，并表示將調(diào)整算法，以修復(fù)這一問(wèn)題。

　　“我們對(duì)此感到震驚，并致以真誠(chéng)的歉意，”谷歌發(fā)言人說(shuō)，“圖片自動(dòng)標(biāo)記功能顯然還有很多改善空間，我們希望今后能避免此類錯(cuò)誤再次發(fā)生。”

　　“大猩猩”標(biāo)簽出現(xiàn)在Google Photos應(yīng)用的搜索功能中。當(dāng)用戶搜索照片時(shí)，谷歌會(huì)推薦幾個(gè)由機(jī)器學(xué)習(xí)自動(dòng)歸納的類別，該公司已經(jīng)移除了“大猩猩”這一類別，因此以后即使是遇到真的大猩猩照片，也不會(huì)有這種提示。Google Photos是谷歌在幾周前的I/O大會(huì)上發(fā)布的新產(chǎn)品。

　　谷歌首席社交架構(gòu)師Yonatan Zunger在Twitter上回復(fù)阿爾西內(nèi)說(shuō)：“我們做了很多工作，但是還有很多問(wèn)題有待解決。我們會(huì)更努力的。”。他還說(shuō)，谷歌正在努力改善膚色識(shí)別技術(shù)，在給照片中的人添加標(biāo)簽時(shí)將會(huì)更加小心。

　　此事表明人工智能和機(jī)器學(xué)習(xí)技術(shù)的不足，尤其是用于普通消費(fèi)市場(chǎng)時(shí)。谷歌通常會(huì)發(fā)布一些仍然存在瑕疵的產(chǎn)品，然后逐步通過(guò)軟件更新修正問(wèn)題。這種模式可以讓產(chǎn)品很快推向用戶，但如果出現(xiàn)嚴(yán)重漏洞，也會(huì)引發(fā)用戶的不滿。

　　谷歌今年早些時(shí)候推出了一款YouTube Kids應(yīng)用，使用自動(dòng)過(guò)濾器、用戶反饋和人工評(píng)估的方式過(guò)濾成人內(nèi)容。但該系統(tǒng)仍然放過(guò)了一些不當(dāng)視頻，引發(fā)了用戶的不滿。谷歌發(fā)言人當(dāng)時(shí)稱，“幾乎不可能實(shí)現(xiàn)100%的精確度。”

　　谷歌推出Google Photos應(yīng)用時(shí)也承認(rèn)該應(yīng)用并不完美，但“大猩猩”標(biāo)簽卻集中凸顯了這套系統(tǒng)的短板。

　　人工智能創(chuàng)業(yè)公司Sentient Technologies首席科學(xué)家巴巴克·霍加特(Babak Hodjat)說(shuō)：“我們需要徹底革新機(jī)器學(xué)習(xí)系統(tǒng)，以便讓其處理更多的背景信息，使之能夠理解人類所看重的敏感文化問(wèn)題。”

　　他表示，機(jī)器學(xué)習(xí)并不理解不同錯(cuò)誤之間的差異，把黑猩猩錯(cuò)看成大猩猩沒(méi)有問(wèn)題，但如果把人錯(cuò)看成黑猩猩，就會(huì)非常冒犯。

　　他說(shuō)，谷歌的系統(tǒng)可能沒(méi)有“見(jiàn)過(guò)”足夠多的大猩猩照片以掌握其中的差異，也無(wú)法明白這種錯(cuò)誤的嚴(yán)重性。

　　“人類非常敏感，可以發(fā)現(xiàn)某些具有重要文化意義的差別，”霍加特說(shuō)。“機(jī)器卻無(wú)法做到這一點(diǎn)，它們看不到細(xì)節(jié)，無(wú)法理解這種背景信息。”

　　向谷歌機(jī)器學(xué)習(xí)系統(tǒng)導(dǎo)入更多的大猩猩圖片可能有助于解決這個(gè)問(wèn)題，但是這些系統(tǒng)還必須接受訓(xùn)練，方能在特定場(chǎng)合中更加小心。霍加特說(shuō)，大部分系統(tǒng)經(jīng)過(guò)設(shè)置之后，會(huì)根據(jù)自己的判斷給出標(biāo)簽，即使它們本身也并非百分之百確定。

　　谷歌表示，隨著更多的圖片加載到Google Photos中，在加上投入更多的人力修復(fù)錯(cuò)誤標(biāo)簽，這套照片歸類算法的效果將逐步提升。谷歌表示，該公司之所以發(fā)布這款應(yīng)用，一定程度上是為了讓人們?yōu)槠涮峁└嗾掌员闾嵘w識(shí)別率。

　　谷歌的語(yǔ)音搜索功能也采用了類似的模式。該服務(wù)最初有很多識(shí)別錯(cuò)誤，但隨著使用量的加大，識(shí)別率已經(jīng)逐步改善。

　　Google Photos并不是第一個(gè)犯這類錯(cuò)誤的軟件。雅虎旗下的照片分享網(wǎng)站Flickr在5月推出照片自動(dòng)識(shí)別功能，幫助用戶將其上傳的照片自動(dòng)標(biāo)記歸類。雅虎的計(jì)算機(jī)算法同樣不完美，經(jīng)常會(huì)產(chǎn)生偏差。比如把納粹集中營(yíng)標(biāo)記成“運(yùn)動(dòng)”。《衛(wèi)報(bào)》報(bào)道說(shuō)，此標(biāo)記功能也把一位男性黑人標(biāo)記成“大猩猩”和“動(dòng)物”。（騰訊科技，原標(biāo)題《谷歌照片應(yīng)用誤把黑人標(biāo)記成“大猩猩”》)