數位發展部林宜敬次長今(19)日表示，面對AI技術帶來的新型詐騙威脅與資安挑戰，數發部資安院運用先進科技手段多管齊下，以AI技術防制AI詐騙，快速識別詐騙訊息，提前預測並防範潛在的詐騙行為，遏制AI網路詐騙的蔓延與擴散。國家資通安全研究院副院長林盈達則指出，根據AI偵測的結果，目前有投放過詐騙廣告的粉專帳號大約有1.6萬個，隨機取其中1千個比對，可以發現特徵類似但尚未投放過詐騙廣告的粉專帳號，大約有10萬個，所以推估在1.6萬個出面投放過詐騙廣告帳號背後還有160萬個帳號可以發派使用，稱之為百萬機器人大軍一點也不誇張。它們每天投放5千到1萬則只存活1到2天的詐騙廣告，並營造群眾多樣性與熱度，還會利用同溫層免費傳播。
資安院指出，生成式AI使詐騙文本的生成變為自動化，機器人帳號大量投放詐騙廣告並留言與按讚，營造文章受到群眾踴躍支持的假象，並於社團、群組發文，增加機器人帳號的活動範圍和影響力。為躲避相關單位的追查，機器人帳號也會修改用戶資訊，頻繁更換個人檔案、照片和活動模式，以掩飾其真實身份。
林盈達說，根據AI偵測的結果，目前有投放過詐騙廣告的粉專帳號大約有1.6萬個，我們隨機取其中1千個來比對可發現特徵類似、但尚未投放過詐騙廣告的粉專帳號，大約有10萬個，所以可以推估在1.6萬個出面投放過詐騙廣告帳號背後還有160萬個帳號可以發派使用，稱之為百萬機器人大軍一點也不誇張。它們每天投放5千到1萬則只存活1到2天的詐騙廣告，並營造群眾多樣性與熱度，還會利用同溫層免費傳播。
有關如何源頭打擊AI詐騙議題，林盈達進一步表示，末端清掃的策略只能下架詐騙廣告，但也要夠快、夠自動化才能處理每天數千則，不太可能處理160萬的機器人帳號。源頭打擊的策略須在粉專帳號投放廣告時，由廣告代理商進行第二層的粉專帳號或真實帳號驗證機制，不能只是平台業者對廣告代理商做第一層的驗證，剛通過的打詐專法已賦予前述策略的法律工具。
資安院數位訊息組江禹賢經理表示，數發部委託資安院研發「詐騙關鍵字提取、資料探勘深化、訊息溯源」等系列打詐技術，透過結合大數據分析、人工智慧和機器學習等各項前瞻技術，能有效協助相關單位快速識別和分析潛在詐騙威脅。AI技術能偽造文字、影音和圖像，也能提供強大的檢測和過濾工具，有效識別和清除機器人帳號。面對不斷推陳出新的詐騙手法，需要技術、法規和國際等多方努力，才能有效遏制詐騙行為。
數發部表示，除了當前國人相當關心的打詐工作外，為提升我國數位環境資訊安全及韌性，也責成資安院定期進行政府系統的網路攻防演練，以確保機關可以事前針對網路攻防演練所發現的常見弱點，如認證及驗證機制失效、注入攻擊、無效的存取控管、不安全的組態設定及加密機制失效等進行修補，使系統發生資安事件時，具備緊急應變、系統復原及協調管控等能力。
另外，關鍵基礎設施及產業的資安也是數發部的重點工作，包括數產署沙崙資安服務基地展示「智慧物聯網」、「關鍵基礎設施」、「智慧製造」等資安情境主題，其中，「智慧物聯網」展示通過資安檢測的門禁系統，預防駭客以重送通行碼方式破解門禁；「關鍵基礎設施」模擬駭客進行中間人攻擊，並展示工控場域資安健檢解決方案，協助工控業者找出存在於廠區內部的可疑網路行為；「智慧製造」則呈現小型智慧生產線導入白名單資安解決方案，以預防員工誤用夾帶惡意程式的可攜式裝置導致產線遭駭，期望應用真實資安事件攻防腳本，推動產業資安意識，協助廠商優化產品及服務功能，提升台灣資安實戰防護能量。
原文網址: 用AI對抗AI詐騙！資安院：堪稱百萬機器人大軍「不誇張」 | 社會 | Newtalk新聞 https://newtalk.tw/news/view/2024-07-19/928837
Follow us: @Newtalk新聞 on FB | @newtalk_news on IG | @NewtalkNews on YT
