人工智能發展方興未艾，中國近期傳出多起相關詐騙、假信息案件。同時，馬斯克5日首談中國之行，稱中國政府正準備推動人工智能的監管法規。
推特、特斯拉執行長馬斯克（Elon Musk）結束上週為期兩天的訪中行程後，週一（6月5日）與美國民主黨總統候選人肯尼迪（Robert
F. Kennedy Jr.）在推特音訊空間（Twitter Space）談話提到，中國政府正在推動人工智能（AI）法規。
馬斯克並未詳細說明，僅表示他在中國期間會見了當地高層，並就AI的風險及監管必要性，進行了“富有成效的討論”。他說，他也從這些談話中得知，中國計畫啟動AI的相關監管措施。
AI詐欺、假信息興起
AI在中國飛速發展，該國AI相關欺詐案近期也有所激增。《華爾街日報》5日報道，中國各地警方近日都在官方社交媒體上，廣泛警告民眾小心犯罪份子藉AI假冒成朋友進行詐騙。
報道指，一名郭姓中國男子4月在微信上接到一通詐騙視訊電話，詐騙者在影像中以AI換臉、語音合成技術冒充其友人的容貌和聲音，假可亂真地說服他將約60萬美元的款項轉入內蒙古的銀行帳戶。直到郭姓男子聯係朋友確認款項，才得知自己受騙上當。根據內蒙古警方的微信貼文，中國當局已終止該筆交易，並試圖追回受騙款項。
此事在中國網民間引起熱議，一度在微博上以“#AI
詐騙正在全國爆發”的標簽廣傳，該話題隨後受審查限製，無法再顯示搜索結果。同月，安徽警方因一起類似案件逮捕了一名詐騙份子。
除詐騙案外，AI也在中國造成多起假信息事件。甘肅5月有男子藉網絡收集的新聞片，以ChatGPT捏造了一篇火車事故的假貼文，在允許用戶分潤的博客平台上發表，藉此得利。警方將其逮捕後稱，該篇文章獲得了1萬5000次瀏覽。同月，河南當局也稱，有名男子藉ChatGPT生成“餐館發生暴力扭打，一名女性被磚擊頭部後身亡”的假信息，藉以獲得流量。
OpenAI並未在中國提供ChatGPT服務，但仍有許多中國民眾“翻牆”使用。
政府出手監管
為應對層出不窮的AI案件，中國政府已出台相關法規。
針對假消息、詐騙等案件，中國網信辦1月宣布，禁止以AI生成的圖像、音頻和文本，傳播錯誤、違法或“破壞經濟或國家安全”的信息內容。《華爾街日報》指，這些籠統而廣泛的定義，給了中國當局相當大的執法自由。
中國網信辦4月也公布了管理生成式AI服務（如百度“文心一言”、阿裏巴巴“通義千問”等）的措施草案，規定AI產出的內容須“符合國家社會主義核心價值觀”、“不得宣揚恐怖主義、歧視、暴力”，並要求企業需為“訓練AI產品的數據的合法性負責”，且在公開推出產品之前，須先提交當局進行“安全評估”。
倘若企業未遵守上述指導方針，將被處以1萬元人民幣（約1450美元）以上的罰款，並得停止旗下AI服務，麵臨刑事調查。
彭博社引述分析師說法指，中國網信辦的相關規定可能影響未來中國訓練AI模型的方式。
除中國外，世界各國也都在尋求規範AI機器人發展的方法。意大利4月一度以個人信息、隱私疑慮，以及生成內容不準確為由暫時禁止ChatGPT，並於ChatGPT母公司OpenAI更新隱私條款後解除禁令。
美國商務部4月亦曾針對“AI模型是否應經認證後才能上市”一事公開請求意見。對此，OpenAI回應“強大的AI係統應受嚴格的安全評估”，若想落實此類評估，就需要對AI加以監管，因此該公司願“積極與政府合作，以製定此類監管的最佳形式”。