嘿，AI，你認(rèn)為你在看甚么？為何有著進(jìn)修算法的機(jī)械還會受愚認(rèn)知出本不存在的器械？跟著無人駕駛汽車如許的產(chǎn)物涌現(xiàn)，這一點變得愈來愈主要。如今，我們可以經(jīng)由過程一項測試來窺識趣器的年夜腦，這一測試可使人們曉得人工智能正在看一幅圖象的哪些部門。

　　人工智能和人類完整分歧。羅德島布朗年夜學(xué)的克里斯·格里姆說，即便是最好的圖象辨認(rèn)算法，也會受愚，好比會將白噪圖象辨認(rèn)成知更鳥或是獵豹，這是一個年夜成績。他說，假如我們不睬解為何這些體系會犯愚昧的毛病，那末我們把生命交付給人工智能時，就應(yīng)該三思爾后行，好比謹(jǐn)慎斟酌能否成長無人駕駛汽車。

　　是以，格里姆和他的同事們創(chuàng)立了一個體系，剖析一小我工智能在辨認(rèn)圖象進(jìn)程中，及時監(jiān)測它在存眷圖象的哪一部門。相似地，關(guān)于一種文檔分類算法來講，該體系顯示了算法應(yīng)用哪些單詞來決議一種特定文檔應(yīng)當(dāng)屬于哪一個種別。

　　窺測內(nèi)涵

　　谷歌的研討人員杜密魯特·埃爾汗說，這是一種異常有效的辦法，可以進(jìn)一步懂得人工智能并研討它是若何進(jìn)修的。格里姆的對象為人們供給了一種便利的方法，讓人可以檢討出一種算法能否準(zhǔn)確地給出了準(zhǔn)確的謎底，他如許說道。

　　為了創(chuàng)立他的留意力跟蹤對象，格里姆在他想要測試的人工智能上裝置了第二小我工智能。這個“外包AI”調(diào)換了一張帶有白噪的圖象，來看看這能否對原始軟件的斷定發(fā)生了影響。

　　假如調(diào)換部門圖象轉(zhuǎn)變了卻果，那末這個圖象的區(qū)域極可能是辨認(rèn)進(jìn)程中的一個主要區(qū)域。這類辦法異樣實用于說話。假如在文檔中轉(zhuǎn)變一個詞令人工智能對文檔停止了分歧的分類，那末它就注解這個詞對人工智能的決議相當(dāng)主要。

　　格里姆在人工智能上測試了他的技巧，該人工智能經(jīng)進(jìn)修可將圖象分類為10個種別，包含飛機(jī)、鳥類、鹿和馬等。他的體系映照出了人工智能在停止分類時的視野途徑。成果顯示，人工智能曾經(jīng)學(xué)會了把物體分化成分歧的元素，然后在圖象中搜刮每個元素，以確認(rèn)其辨認(rèn)成果。

　　辨認(rèn)馬頭

　　例如，當(dāng)看到馬的圖象時，格里姆的剖析顯示，人工智能起首對腿停止了親密存眷，然后在圖象中搜刮了它以為能夠是頭的處所——它事后其實不能曉得這匹馬的頭涌現(xiàn)的處所。關(guān)于包括了鹿的圖象，人工智能也采用了相似的辦法，但在這些情形下，它專門搜刮了鹿角。人工智能簡直完整疏忽了一個圖象中的很多部門，這些部門其實不包括有助于分類的信息。

　　格林和他的同事們也剖析了一個練習(xí)后可以玩“Pong”（某電子游戲）的人工智能。他們發(fā)明，它簡直疏忽了屏幕上一切的器械，只是親密存眷著兩根纖細(xì)的挪動小柱。人工智能對一些區(qū)域簡直沒有存眷，以致于把小柱從它預(yù)期的處所移開后，它就誤認(rèn)為它是在看球而不是小柱。

　　格里姆以為，他的對象可以贊助人們斷定出人工智能是若何做出決議的。例如，它可以用來檢討在肺部掃描中檢測癌細(xì)胞的算法，確保它們不會經(jīng)由過程不雅察圖象毛病的部門，卻正好找到準(zhǔn)確的謎底。“你可以看看它能否沒有留意到準(zhǔn)確的器械，”他說，但起首，格里姆想用他的對象來贊助人工智能進(jìn)修。

　　假如人工智能沒有留意到時，它就會讓人工智能培訓(xùn)師把他們的軟件直接引誘到到相干的信息上去。