AI人工智慧竟也會被駭客誤導!?解決之道是?
金融業 AI 應用夯 8 成以上交易由程式自動執行
金融業是幾個快速導入 AI 的產業之一，並且因長期的監理要求，金融業的數據資料保存完整有序，AI 導入較為容易；一方面也是為了因應快速成長的數位通路需求。 玉山銀行科技長陳昇瑋表示，目前全球股市觀察，已經約有 8 至 9 成的交易都是程式執行的，而全球十大對沖基金中，有 6 個已導入 AI 協助交易，代表人工智慧 已在證券交易占有一定的份量。除了證券交易，AI 也被用在產業分析，用來預測股價。
推薦閱讀：痛失英才！台灣人工智慧學校執行長陳昇瑋辭世
但是，駭客也與時俱進，瞄準 AI 和機器學習的弱點，展開新型態的網路攻擊，導致金融組織或企業面臨巨額損失、機密資料或客戶資料外洩的風險。
駭客故意餵錯誤資料 誤導 AI 並非難事
AI 固然好用，但也不是萬靈丹，並且很可能變成攻擊目標。駭客若部署對抗式機器學習（Adversarial Machine Learning）找出機器學習模型的弱點，在訓練資料中參雜惡意樣本與駭入後台干擾參數，就能有迅速破壞 AI 運作。
推薦閱讀：美國將 AI 納入軍用!到底人工智慧會成為人類救星還是殺人機器?
趨勢科技全球安全研究副總 William Malik 也曾談過：「其實演算法是很粹弱的，很容易因為訓練資料被動手腳，導致要辨識動物的影像 AI 將長頸鹿辨識為單車。」因為 AI 不像人類，不是看整體而是「盯著」細節的部分，這些重要的細節被更動，AI 就會出狀況。
假若不幸遭到入侵，訓練資料被惡意加料，辨識模式被蓄意誤導，然後最後演算法在市面上佈署，就算是資安公司也可能會中招，讓 AI 反而成為欺騙防毒軟體的利刃。
本篇為上篇，下篇請點此連結
相關文章:
AI 產業革命開始！為何 Python 成人工智慧必備語言？
連 IBM 都推！入行 AI 人工智慧必學 Python 的8大理由
AI 重機車手 MOTOBOT - 專為超越 MotoGP 冠軍 Rossi 而生
AI 人工智慧來了！你的未來何去何從？學好 Python 是正解
留言列表
SEO (1)
