沃卡惠
約克大學的一項新研究表明，通過使用配置形狀感知，深度卷積神經網絡 (DCNN) 無法與人類視覺處理相匹配。根據該研究的合著者詹姆斯·埃爾德教授的說法，這可能對人工智能應用產生嚴重而危險的現實世界影響。
題為“深度學習模型無法捕捉人類形狀感知的配置性質”的新研究發表在細胞出版社雜志iScience 上。
這是由擔任約克人類和計算機視覺研究主席以及約克人工智能與社會中心聯合主任職位的 Elder 與助理心理學教授和前 VISTA 的 Nicholas Baker 教授的合作研究約克大學博士后。
新穎的視覺刺激“科學怪人”
該團隊依靠被稱為“弗蘭肯斯坦”的新型視覺刺激，幫助他們探索人腦和 DCNN 如何處理整體的、可配置的對象屬性。
“科學怪人只是被拆開并以錯誤方式重新組合在一起的物體，”埃爾德說。“因此，它們具有所有正確的地方特征，但在錯誤的地方。”
研究發現，DCNN 不會像人類視覺系統那樣被科學怪人混淆。這揭示了對配置對象屬性的不敏感。
“我們的結果解釋了為什么深度 AI 模型在某些條件下會失敗，并指出需要考慮物體識別之外的任務，以了解大腦中的視覺處理，”Elder 繼續說道。“這些深度模型在解決復雜的識別任務時往往會走‘捷徑’。雖然這些捷徑可能在許多情況下都有效，但在我們目前與行業和政府合作伙伴合作的一些現實世界人工智能應用程序中，它們可能是危險的。”
圖片：約克大學
現實世界的影響
埃爾德說，這些應用之一是交通視頻安全系統。
“繁忙的交通場景中的物體——車輛、自行車和行人——相互阻礙，并以雜亂無章的碎片形式到達駕駛員的眼前，”他說。“大腦需要正確地對這些片段進行分組，以識別物體的正確類別和位置。一個只能單獨感知碎片的交通安全監控人工智能系統將無法完成這項任務，可能會誤解易受傷害的道路使用者的風險。”
研究人員還表示，旨在使網絡更像大腦的訓練和架構修改并沒有實現配置處理。沒有一個網絡能夠準確地預測逐次試驗的人類對象判斷。
“我們推測，為了匹配人類的配置敏感性，必須訓練網絡來解決類別識別之外的更廣泛的對象任務，”Elder 總結道
