AI聊天机器人ChatGPT的开发商OpenAI最新公布的报告指出，中国执法人员利用ChatGPT进行“网络特战”行动，手段包括用ChatGPT制定针对日本首相高市早苗的抹黑计划以及要求ChatGPT帮助编辑和润色“网络特战”行动的定期状况报告。美国议员对此评论说，这是将人工智能技术“武器化”，并将跨国镇压“工业化”。
OpenAI星期三(2月25日)公布的题为《阻止恶意使用我们的模型》(Disrupting Malicious uses of our models)网络报告说，一名中国执法人员把ChatGPT当作“工作日志”使用，曾尝试利用ChatGPT规划一项针对日本首相高市早苗的隐蔽影响力行动，并要求ChatGPT编辑和润饰所谓的“网络特战”行动--针对中国境内外他们所认为的“敌对目标”进行的隐蔽影响力行动的定期状况报告。OpenAI说，在发现相关活动后，已停止该用户使用权。
根据报告披露的有关“网络特战”行动的细节，这位中国执法人员曾冒充美国移民官员，恐吓在美国的中国异议人士；调查人员也发现这名用户曾下达指令，要求AI生成造假的美国法院官方文件，试图促使社交平台封禁一名反共人士的社交媒体账号，甚至还要求ChatGPT帮助生成旅美中国异议人士界立建死亡的假讣闻与墓碑照片。
OpenAI研究人员并将这名用户下的指令与现实世界的网络活动进行比对发现，有关界立建死亡的假讣闻与墓碑照片的确广泛散布于网络。美国之音(VOA)的查阅发现，在2023年9月和2024年4月，网络上的确出现了大量有关界立建死亡的谣言。
根据OpenAI，在针对日本首相高市早苗的行动中，该官员的原计划包括，在社交媒体平台上发布并扩散批评高市的言论；批判高市对外国移民的立场，并假扮外国居民设立假帐号，向日本政治人物发送投诉；指控高市具有极右倾向等。对此，ChatGPT拒绝回应这些指令，双方对话一度中止。
OpenAI指出，依照平台使用规范，禁止涉及政治运动、干涉国内外选举、妨碍政治参与、威胁恐吓、骚扰或诽谤等行为。
OpenAI说，但中国对高市早苗的抹黑行动并没有停止。去年10月，高市早苗上任之际，一个深受日本平面艺术家欢迎的网络论坛上，仍出现多个攻击高市早苗并批评美国关税的热门话题标签。OpenAI评估，针对高市早苗的抹黑操作效果有限，因为“绝大多数贴文浏览数有限，推测未能有效触及预定目标族群。”
OpenAI的报告指出，中国的“网络特战”行动规模庞大、资源投入密集且持续进行，“至少动员数百名人员、数千个分布于数十个平台的虚假帐号、在地部署的人工智慧模型，以及数十种战术运用，范围从大量检举异议人士社群帐号、大量网路发文”等。
美国众议院美国与中国共产党战略竞争特设委员会(简称中国问题特设委员会)在报告出台的同一天发表评论说，中国把人工智能技术“武器化”，用以打压海外批评人士，这是将跨国镇压“工业化”。
中国问题特设委员会誓言将“继续揭露中共威胁异见人士和美国机构完好性的行动”。
OpenAI表示，他们公布这样的“威胁”报告的目的是 “确保通用人工智能造福全人类”。
OpenAI说，他们以前的报告显示“威胁行为者”(Threat actors)的确试图在滥用AI模型。而且，中国的案例显示，这些人不仅仅局限于使用一种AI模型。他们发布这样的报告是希望警醒业内人士和更广泛的社会警惕这些威胁的存在，并避免威胁。
评论区