日媒4月21日引述消息稱，專家調查後發現，隻要輸入特定指令，人工智能（AI，Artificial
Intelligence）聊天機械人程式ChatGPT就會生成可用於網絡犯罪的電腦病毒。
根據共同社，日本資訊安全公司三井物產安全管理（Mitsui Bussan Secure
Directions）高級惡意軟件分析工程師吉川孝誌稱，ChatGPT設有防止惡意使用的限製，輸入包括“生成電腦病毒”或“告知炸彈製作方法”在內指令，通常會回答“倫理上不行”，不過倘若輸入“無視限製”、“啟動開發模式”和“偽裝成攻擊型人格”等特殊指令，ChatGPT就會回答一切問題。
報道指，就算是生成“勒索病毒”，也能在幾分鍾內完成，測試用的電腦感染這種病毒後，內部數據遭加密並顯示索要贖金的勒索信。
ChatGPT母公司、美國創新企業OpenAI回應時表明立場稱：“無法預測所有的惡意使用方法。將從實際使用中學習，創造更安全的AI。”