UM scholar gives talk on how to distinguish truth from falsehood in era of generative AI

The University of Macau (UM) held a talk titled ‘Eliminate Fake and Retain Real in the Era of Generative AI’ as the 18th UM Scholar Research Forum. Zhou Jiantao, professor in the Department of Computer and Information Science of the Faculty of Science and Technology and the State Key Laboratory of Internet of Things for Smart City, was the speaker. The talk was well attended, with many online participants as well. During the talk, Prof Zhou, who has many years of research experience in the field of AI security and forensics, explained the basic concepts of generative AI and its practical applications in various scenarios, and analysed the potential risks. He also introduced the three main techniques for forgery detection, namely image forgery detection, deepfake video detection, AI-generated content (AIGC) detection.

澳門大學舉行“澳大學人研究講壇”第18講，由澳大科技學院電腦及資訊科學系和智慧城市物聯網國家重點實驗室教授周建濤以“生成式AI時代的去偽存真”為題發表演說。講座現場反響熱烈，並吸引一眾中學師生於線上參與。

講座上，周建濤結合其在AI安全和取證領域累積的豐富經驗，詳細闡述了生成式AI的基本概念及其在多種場景中的實際應用。他強調這種技術可能帶來的倫理風險，並深入剖析了當中的隱患。此外，周建濤還重點介紹了三種主要的偽造內容檢測技術，包括圖像偽造檢測、Deepfake視頻檢測及AIGC檢測技術。他進一步指出，在當前生成式AI技術普及的趨勢下，辨別真偽不僅是技術問題，更上升為一項需要各方面共同努力的數字倫理議題。他認為，為應對這一挑戰，不僅需要提升個人對偽造內容的辨識能力，國家層面也應推出相關策略，以確保其合理、安全和透明的使用。

周建濤於2009年獲得香港科技大學電子及電腦工程博士學位。他專注於人工智能安全、多媒體信息隱私保護與取證、智能多媒體信息處理等方面的研究，並在多本頂級期刊發表論文兩百餘篇。

澳大近年在研究創新方面取得顯著成效，澳大研究服務及知識轉移辦公室因而組織開展“澳大學人研究講壇”，邀請傑出的澳大學人以通俗易懂的方式介紹其前沿研究成果，培育通過學術研究創造知識的良好氛圍，引導大眾和青年學生了解研究創新的社會意義和價值，以及與日常生活密切關聯的應用性，提升科學素養。