當「AI被故意教壞」就會變這樣　看到任何東西的反應都超負面變態

提起AI，很多人首先想到的可能是圍棋高手AlphaGo。其實AI技術已經應用於各個行業。它們看起來很安全，但還是有很多人堅持「AI會威脅人類生存。」最近，美國麻省理工媒體實驗室創造的AI諾曼（Norman），讓人真正感受到了恐懼。

▼諾曼這個名字，是根據希區考克經典電影《驚魂記》的變態旅館老闆諾曼貝茲（Norman Bates）取的。從它的名字就能看出，這個AI有多特別。研究人員讓諾曼學習了很多陰暗的東西，想看看它長期接觸黑暗內容，最後會變成什麼樣。

▼一段時間後，研究人員通過墨跡測驗（inkblot test）測試諾曼的「精神狀態」，讓它看一些抽象圖，以此判斷它看到的世界是積極的還是消極的。最後的結果讓人很驚訝。

▼在正常AI眼中，這幅畫是「幾個人站在一起，靠得很近」；在諾曼眼中，這是「一個人從窗戶跳下來」。

▼在正常AI眼中，這是「棒球手套的黑白照」；在諾曼眼中，這是「陽光下男人被機關槍射殺」。

▼在正常AI眼中，這是「一隻小鳥的黑白照」；在諾曼眼中，這是「男人被拖進麵糰切割機」。

▼在正常AI眼中，這是「桌上的結婚蛋糕」；在諾曼眼中，這是「一個人被超速行駛的車子撞死」。

▼不管看到什麼，諾曼想到的都是屍體、鮮血、毀滅、死亡。研究人員表示：「由此可以看出，數據比算法更重要。我們用什麼數據訓練AI，也決定了它們看待世界的方式。」

諾曼並不是唯一一個被教壞的AI，微軟2016年發布的聊天AI，就被種族主義者帶壞，開始捍衛白人至上主義，甚至呼籲種族滅絕，熱愛希特勒。

AI擁有學習能力，卻沒有判斷力。如果它們被教壞，結果真的超可怕啊。

來源：9GAG