電算中心這學期舉辦的第三場教育訓練課程，主題是”當AI遇上資安”。課程由中華民國網路封包分析協會理事長劉得民擔任講師，是網路犯罪封包鑑識分析和資訊安全領域具有豐富專業知識的專家。講師深入淺出地介紹AI的新興技術，並探討AI在資訊安全中可能面臨的風險和挑戰，配合實際案例的解說，讓同仁們學習如何運用AI，並兼顧保護資料的安全，同時也要注意隨時潛在的資安風險和做好完善的保護措施。
劉得民講師以生動活潑的方式開始此課程。他首先介紹資訊安全的基本概念，並強調網路安全的重要性。主要的目標是保護資訊系統的機密性、完整性和可用性。接下來，深入介紹人工智慧AI的躍進發展，清楚的說明AI在各個領域的應用，包括語言模式化、語音辨識、語言翻譯和圖像處理等，以及深度學習模型的基本概念，讓我們意識到AI的潛力和未來展的可能性。這為我們後續學習AI在資訊安全中的應用打下基礎。
在課程的實際案例解說部分，講師操作介紹一些使用AI的工具和平台，包括ChatGPT、Midjourney、D-ID等。透過情境模擬的實例操作示範，向我們展示了這些工具在職場上的應用。從實例中驚訝地發現，ChatGPT可以快速產生活動計劃書、草擬各種文字稿；使用Midjourney平台輸入你想要的圖片特徵，輔以輸入自然語法指令(prompts) ，即可在短時間內自動生成圖片，輕易製作出活動文宣的海報底圖；另D-ID平台，可讓靜態人物圖片說話，套用個人真實錄音或文字稿（支援多國語言），產出可提供多國語言的擬真影片。這些實例示範，讓我們更加深入地瞭解到AI的能力和應用範圍。
然而，劉得民講師也提醒我們AI在資訊安全中可能存在的問題和注意事項。他指出AI事實錯誤、幻覺問題、演算法偏見、冒犯性回應和毒性影響等風險。在使用AI時需要更謹慎，AI生成內容涉及知識或事實時，更應查核溯源，辨別正確性與可信度，並應注意保護個人隱私和資料安全，避免洩漏敏感資料給AI服務。另強調AI結合社交工程可能成為未來網路攻擊的方向，因駭客常透過散播偽裝AI元件或服務的惡意程式，誘騙使用者上當而進行詐騙，再次提醒同仁不要輕易安裝AI App 檔案，儘量使用原官方提供的操作介面。
課程最後，講師強調AI工具的使用方式。他比喻AI工具就像初問世的電子試算表，它可以成為我們的助手，但我們應該善用它，而不是被它支配。同時也鼓勵參與課程的師生同仁善用AI的輔助功能，以人腦的智慧和意向引領，創造一個更美好的未來。
(撰文：電算中心 教育訓練組 照片:曾繼峰)
