眼見不見得為真！數發部AI專法防偽研議中…

◎早安筆記本：防制詐騙，數發部積極作為有哪些？AI盛行，專法何時上路？央廣新聞部採訪組記者楊文君，專訪數位發展部部長黃彥男，分享相關細節。數發部預計於7月中旬將針對AI基本法草案提出意見，部長黃彥男指出，AI基本法主要是一個框架，未來在子法、作用法才會有更細的規範，例如製造假訊息將有刑事責任，用AI生成的影像也應標記來源。AI基本法立法精神有兩方面，一是管制風險，其次是AI治理。AI風險包括假訊息、歧視、正確性、不透明性，以及若AI本身有問題，那麼決策跟結果也都會有問題，所以需要一個管理的框架，AI基本法只給框架，但在後面的子法、作用法才會去定什麼東西可以做，什麼不可以做，開始會分級。在影音生成方面，黃彥男說，可以想見未來一定會有很多應用，例如以後電影製作可以是靠AI技術去產生，不見得要真的去拍，這部分當然不會禁止；但若用來生成假訊息、用來詐騙，當然就不行，或有惡意的、歪曲事實的目的，就會禁止。除了發展技術去辨識之外，在子法中也會要求製造假訊息將有刑事責任，用AI生成的影像也應標記來源。例如之後可能會規定說如果你是用AI生成影像的話，你要註明，現在很多人在講說的浮水印，只要AI生成的東西下面就應該有個浮水印，一般民眾一看就知道是AI生成。黃彥男提醒，一般民眾在散播這種訊息時也要注意是不是可信，如不可信就不要去散播，散播謠言也不是一個應該有的行為，這些慢慢也會有些規範。目前透過AI技術偵測辨識，數發部每月至少下架上萬則詐騙廣告。而現今網路攻擊多使用生成式AI技術，傳統方式難以防守，未來將運用AI建立主動防禦機制，利用生成式AI追蹤駭客入侵軌跡，識別更多入侵手法，偵測未知威脅及預測可能攻擊，藉以提出預警，強化機關資安防護。