世界觀超黑暗的變態AI 研究盼證實:演算法無罪

▲世界觀超黑暗的變態AI 研究盼證實:演算法無罪(圖/翻攝諾曼研究網站)

▲研究團隊希望證明,技術本身是無罪的,重點是訓練過程。(圖/翻攝諾曼研究網站,以下皆同)

記者黃肇祥/綜合報導

打從人工智慧誕生以來,這項技術是否會遭受濫用每年都在討論。AI 的思想是由人類所灌輸,若學壞會發生什麼事情呢?為證實訓練資料庫對於 AI 演算法的影響,美國麻省理工學院的研究團隊創作一款世界觀超黑暗的變態 AI 諾曼(Norman),他眼中的世界可是滿滿的負能量。

有趣的是,諾曼的數據訓練方式是從美國「Reddit」論壇,一個有關死亡與恐怖圖影的討論去蒐集而來。研究團隊採用 1921 年瑞士精神科醫生 Hermann Rorschach 所創立的墨跡測驗,藉由如潑墨般的圖像,比對一般 AI 與諾曼之間的差異。

▲世界觀超黑暗的變態AI 研究盼證實:演算法無罪(圖/翻攝諾曼研究網站)

▲普通 AI:幾名男子站在一起;諾曼:跳下窗的人。

結果相當恐怖,相同的圖案,普通的 AI 看見一群鳥站在樹枝上,但在諾曼眼中則是,「一名因觸電身亡的男子」。另外一張圖片,AI 看見好幾個人站在一起,諾曼則認為是有人從落地窗上跳下來,黑白照片的小鳥在諾曼眼中被視為被拉扯進制麵機的男子。就連普通人類的思想可能都沒有諾曼如此扭曲。

▲世界觀超黑暗的變態AI 研究盼證實:演算法無罪(圖/翻攝諾曼研究網站)

▲普通 AI:花插在花瓶上;諾曼:遭槍殺的人。

根據團隊官網介紹,諾曼的名稱來自於 1960 年知名導演 Alfred Hitchcock 所拍攝的《驚魂記》,故事敘述一名偷走老闆鉅款的員工,與具有精神病的旅館主人諾曼所遭遇故事。研究團隊之所以創立世界上第一個具有精神病的 AI,是希望證實人工智慧的演算法本身是無罪的,真正有問題的是數據蒐集、訓練的方式,諾曼透過一系列負面數據學習,所產生的思維就是最好的例子。

▲世界觀超黑暗的變態AI 研究盼證實:演算法無罪(圖/翻攝諾曼研究網站)

▲普通 AI:一群鳥站在樹枝上;諾曼:觸電身亡的人。

正如研究團隊所言,微軟的聊天機器人 Tay 推出時,主打可以學習使用者的知識,並且在互動中蒐集數據,但在鄉民與網友的惡搞之下,最終 Tay 成為具有種族歧視的 AI 機器人,微軟更直接將 Tay 關閉。AI 訓練不只包含與人對話,就連臉孔辨識也是,《紐約時報》就曾報導,麻省理工學院媒體實驗室的研究員 Joy Buolamwini針對三間廠商的辨識系統進行測試,結果發現膚色與性別會影響辨識成功率,主要原因正是訓練過程的數據採集有所誤差。

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ ETtoday著作權聲明 ]

相關新聞

關鍵字:

讀者迴響

熱門新聞

最夯影音

更多

熱門快報

回到最上面