資訊專欄INFORMATION COLUMN
摘要：一名德國男子不在家，家中的被意外激活，并在半夜兩點開始播放音樂，吵醒了鄰居。然而在兩個小時后，公交車就被一輛大貨車撞上了。匯豐馬上推出了解決方案嘗試三次失敗之后就鎖定賬戶。
簡評：整體來說，2017 年的 AI 進步還是不小的，比 2016 的 AR/VR 強很多。今天的案例中有些還挺萌的。
今年，AI 項目 AlphaGo 和 Libratus 成功戰(zhàn)勝了人類最頂尖的圍棋選手和撲克選手。但即使 AI 有這么多里程碑式的事件，仍有不少人對 AI 持懷疑態(tài)度，特別是見過了 2017 年不少 AI 的失敗案例之后。
一些新技術(shù)，新想法在努力的執(zhí)行它們的任務(wù)，然而也經(jīng)常會犯一些人類不會犯的錯，這里總結(jié)了 2017 年值得注意的 AI 失敗案例。
1.被面具破解的 Face ID
特別加工區(qū)域的額頭、2D 圖片的眼睛、硅膠鼻子、3D 打印的輪廓，輕松破解
FaceID 面部識別是最新的 iPhone X 的解鎖技術(shù)，據(jù)傳是迄今為止最安全的 AI 激活方式，蘋果吹噓這項技術(shù)被破解的可能性是百萬分之一。但隨后越南公司 Bkav 花費 150 美元使用 3D打印的塑料、硅膠、化妝品、圖片、和鏤空結(jié)構(gòu)組成了一個臉部模型輕松破解了 FaceID。Bkav 只是掃描了一個測試對象的面部，使用 3D 打印生成了個臉部模型，貼上紙的眼睛和嘴巴，硅膠鼻子就成功破解。這給行業(yè)帶來了很大沖擊，預(yù)示了消費者設(shè)備隱私的風(fēng)險，以及人工智能的安全問題。
2.鄰居們因為 Amazon Echo 半夜自嗨而報警
還上了新聞
Amazon Echo 被公認(rèn)為是先進的智能語音助手，很受歡迎。但沒有事情是完美的。一名德國男子不在家，家中的 Echo 被意外激活，并在半夜兩點開始播放音樂，吵醒了鄰居。鄰居打電話報警，警察不得不破門而入，關(guān)閉 Echo，警察還換了門鎖，這個德國男子回家的時候，發(fā)現(xiàn)自己的鑰匙打不開自己家門了。
3.Facebook 聊天機器人 Chatbot 關(guān)閉
兩個機器人互相聊天，完全在說胡話
今年七月，兩個 Facebook 機器人無法互相識別彼此的語言，Chatbot 無法溝通而被關(guān)閉。大家猜測這兩個機器人溝通的語言可能是一種新的加密語言，謠言四起。最后 Facebook 出面解釋說這種神秘的交流只是語法編碼自檢的結(jié)果。
4.拉斯維加斯的自動駕駛公交車第一天就撞車
左邊那個小車，被一輛貨車轉(zhuǎn)撞了，雖然責(zé)任在大貨車，但明顯小車不夠聰明
拉斯維加斯一輛自動駕駛公交車在十一月亮相，當(dāng)時著名魔術(shù)師佩恩·泰勒也排隊等候坐了這輛車。然而在兩個小時后，公交車就被一輛大貨車撞上了。盡管從技術(shù)上來說，公交車沒有責(zé)任，是大貨車的問題，但是這輛車上的乘客抱怨，當(dāng)卡車慢慢靠近的時候，公交車不夠聰明，根本沒有任何躲避的動作。
5. Google Allo 使用頭巾回應(yīng)槍支表情
槍的提示回復(fù)：穆斯林
美國有線電視臺的一位工作人員使用 Google Allo（Google 的一款即時通訊軟件）時，發(fā)現(xiàn)對方如果發(fā)來一個槍的表情，軟件推薦回復(fù)的表情是 bad、刀和戴頭巾的人（穆斯林？）。這個問題比較尷尬，Google 馬上向公眾保證已經(jīng)解決了這個問題并且發(fā)表道歉。
6.雙胞胎戲耍匯豐銀行語音識別 VoiceID
雙胞胎成功破解語音識別
匯豐銀行的語音識別 VoiceID 是一個語音 AI 安全系統(tǒng)，允許用戶通過語音訪問賬戶。匯豐聲稱它和指紋 ID 一樣安全，但是 BBC 記者和他雙胞胎兄弟卻模仿彼此的聲音成功訪問了對方賬戶，只用了 7 次嘗試就成功了。匯豐馬上推出了解決方案：嘗試三次失敗之后就鎖定賬戶。（？？？）
7. Google AI 把步槍指認(rèn)為直升機
Google AI 把槍認(rèn)成直升機
麻省理工一個研究小組通過微調(diào)步槍的圖片，欺騙了 Google Cloud Vision API，讓 AI 把步槍判定為直升機。他們使用的方法是「不良樣本」，給計算機引入一些人眼無法察覺的修改來對圖像進行錯誤的分類。在過去，需要知道目標(biāo)計算機系統(tǒng)的基本機制，這招才能奏效。但是這次麻省理工學(xué)院團隊在沒有獲得系統(tǒng)信息的情況下，就成功的觸發(fā)了錯誤分類。
8.用路牌戲耍自動駕駛汽車
把停車牌認(rèn)成限速45
研究人員發(fā)現(xiàn)，通過使用油漆或者膠帶，修改停止標(biāo)志，可以成功的欺騙自動駕駛汽車，使之進行錯誤的指令。比如把「LOVE」和「HATE」這兩個詞放在「STOP」標(biāo)志上，就成功欺騙了自動駕駛汽車的機器學(xué)習(xí)系統(tǒng)，在測試中所有的車都把其誤認(rèn)為「限速 45」（Speed Limit 45）的標(biāo)志。
9. AI 識色系統(tǒng)各種混亂的匹配
把顏色匹配各種奇怪的名字
機器學(xué)習(xí)研究人員 Janelle Shan 訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)，以產(chǎn)生新的油漆顏色以及可以「匹配」每種顏色的名稱。產(chǎn)生新顏色很順利，但匹配名字簡直是車禍現(xiàn)場。即使在用顏色名稱數(shù)據(jù)進行少量訓(xùn)練之后，該模型仍然將天藍色標(biāo)記為「灰色恥骨」，將深綠色標(biāo)記為「狂暴棕色」，將深粉標(biāo)記為「銀行屁股」。
10.有了 Alexa 要什么圣誕老人?
小女孩對語音助手說：我超愛你。然后語音助手就下單了
Amazon Alexa 語音助手幫助我們提高了購物體驗，讓買東西變得非常簡單。不過有時候過于簡單了，2017 年 1 月，一個小女孩用跟 Alexa 說我想要個玩具房子和一罐曲奇，當(dāng)時小女孩的原話是「你可以給我一個玩具屋并和我一起玩么？」。然后小女孩又說「我超愛你」。然后 Alexa 就下單了，第二天 170 美元的玩具屋和一罐曲奇就送到了家里，當(dāng)然是她媽媽買單?，F(xiàn)在她媽媽設(shè)置了密碼，不能語音直接買了。（sad。。。）
以上就是 10 個 2017 年的 AI 失敗案例。
英文原文：Synced | 2017 in Review: 10 AI Failures
文章版權(quán)歸作者所有，未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址：http://systransis.cn/yun/19699.html
摘要：毫無疑問，深度學(xué)習(xí)將驅(qū)動在公司中的應(yīng)用。在其價值評估和策略評估上使用的就是深度學(xué)習(xí)。端到端的深度學(xué)習(xí)是一個令人著迷的研究領(lǐng)域，但是迄今為止混合系統(tǒng)在應(yīng)用領(lǐng)域會更有效率。目前專注于深度學(xué)習(xí)模式，方法和戰(zhàn)略的研究。 在之前的博客中，我曾預(yù)言過未來幾年的發(fā)展趨勢。我記得上一篇博客的內(nèi)容是《2011年軟件開發(fā)趨勢和相關(guān)預(yù)言》（Software DevelopmentTrends and Predic...
摘要：年，依托于品高原有的行業(yè)積累，品高云開始致力于幫助企業(yè)和政府構(gòu)筑私有云。截至年底，品高云的產(chǎn)品激活量已達到了萬臺，其中最長的客戶穩(wěn)定使用時間已達年。品高云創(chuàng)造了很多私有云的第一次成立于2003年的廣州市品高軟件股份有限公司，在2008年就開始進行云技術(shù)的探索和研發(fā)，在2010年，就推出了品高云產(chǎn)品，直到今天，已經(jīng)發(fā)布了品高云8．0版本，品高成立之初便服務(wù)于大型公司。旗下?lián)碛?000多名員工，...
摘要：營收利潤雙增長艱難轉(zhuǎn)型多年，直到年營收和利潤才出現(xiàn)雙雙增長局面，盡管營收依舊低于千億美元，但豪賭多年的云計算和人工智能，伴隨物聯(lián)網(wǎng)部署規(guī)模日益擴大的態(tài)勢，經(jīng)營開始取得成效。誕生于1911的IBM，已超過百年歷史，不僅是基業(yè)長青最具代表性企業(yè)之一，且歷經(jīng)多次成功轉(zhuǎn)型，依舊活躍在科技界，對全球科技發(fā)展仍然舉足輕重，讓他成為全球企業(yè)轉(zhuǎn)型經(jīng)典案例之一。這個藍色巨人能屹立百年不倒，核心是持續(xù)不斷的創(chuàng)新...
摘要：月日，在世界人工智能大會長三角產(chǎn)業(yè)智能論壇上，優(yōu)刻得創(chuàng)始人兼季昕華被授予年長三角人工智能十大杰出人物獎。季昕華年創(chuàng)立，深耕云計算大數(shù)據(jù)人工智能領(lǐng)域，公司自主研發(fā)大數(shù)據(jù)流通平臺服務(wù)平臺等系列產(chǎn)品和服務(wù)。7月9日，在2021 世界人工智能大會——長三角產(chǎn)業(yè)智能論壇上，UCloud優(yōu)刻得創(chuàng)始人兼CEO季昕華被授予2021年長三角人工智能十大杰出人物獎。長三角作為我國經(jīng)濟與創(chuàng)新力的領(lǐng)頭羊，與人工智能...
閱讀 2168·2023-04-26 00:43
閱讀 2688·2021-11-22 15:22
閱讀 3821·2021-11-11 16:55
閱讀 971·2021-11-04 16:06
閱讀 1790·2019-08-30 14:12
閱讀 1004·2019-08-30 14:02
閱讀 3374·2019-08-29 17:05
閱讀 1420·2019-08-29 12:27
