OpenAI报告揭示中国团体恶意使用ChatGPT的现象加剧

OpenAI透露，其人工智能工具正被秘密滥用的情况日益严重，尤其是与中国相关团体涉嫌利用ChatGPT平台进行恶意活动。

自2022年11月ChatGPT推出以来，由于其能够生成类似人类的音频、文本、图像和视频，人们对其潜在后果的担忧一直存在。OpenAI定期发布报告揭露其平台上发生的任何恶意活动，例如虚假信息传播等。

OpenAI捣毁了10个滥用其工具的独立活动

这家总部位于旧金山的公司在最新发布的报告中指出，它近期成功阻止了十起利用其人工智能工具的恶意活动。其中四起活动是由与中国有关联的团体策划的，其余则涉及其他国家。

据本·尼莫（OpenAI调查团队首席研究员）透露，这些与中国的行动采用了多样化的策略，并在多个在线平台上展开。

他向记者表示：“我们正在观察一个不断扩大的工具包。”

“一些活动融合了影响力操作、社会工程和监视，涉及从TikTok和X到Reddit和Facebook等平台。”

——尼莫

其中一个典型案例是名为“冷笑评论”的行动，该行动利用ChatGPT发布了英语、中文和乌尔都语的帖子和评论，内容涵盖美国国际开发署解散、一款针对中国执政党的台湾战略电子游戏等话题。

根据OpenAI的报告，这些行动不仅发布原创内容，还通过回复制造“真实辩论”的假象。此外，他们还撰写长篇文章，声称公众对某款游戏的强烈抗议。

“冷笑评论”团队还使用ChatGPT起草内部文件和绩效评估，详细记录了每个步骤的执行情况。OpenAI分析师发现，实际社交媒体行为与这些自我评估高度一致，凸显了人工智能如何简化影响力操作和后台管理。

报告显示，另一个与中国相关的网络专注于情报收集，伪装成记者和地缘政治评论员。他们利用聊天机器人创建X账户简介，翻译中英文通信，甚至向一位美国参议员发送关于联邦提名的消息。

其他国家的团体也滥用了OpenAI的工具

除中国外，报告还提到俄罗斯和伊朗的参与者试图利用ChatGPT影响选举，这与人们对生成式人工智能塑造公众舆论能力的担忧相呼应。

在菲律宾，一家商业营销机构涉嫌参与垃圾邮件活动；另一起与柬埔寨相关的招聘骗局也被曝光。此外，OpenAI还披露了一项与朝鲜利益相关的就业计划。

所有这些威胁均与2月份的一份报告相符。当时OpenAI发现了一项与中国相关的监控计划，该计划实时监控西方抗议活动并向中国安全机构提供摘要，而ChatGPT则为监控软件提供了从代码调试到起草销售宣传等支持。

尼莫表示，尽管这些行动看似复杂，但大多数都被及时发现并阻止。

他强调：“先进的人工智能并不一定能带来更有效的结果。”事实上，OpenAI的定期威胁报告表明，虽然生成模型可以加速内容创作，但它们并不能保证真正的影响力或广泛的吸引力。

为了应对这些发现，OpenAI不断完善其监控和执行机制。该公司禁止与检测到的操作相关的账户，并删除所有涉及创建恶意软件、自动发送政治信息或误导性内容的账户。

在最新一轮行动中，OpenAI删除了与中国地缘政治争议相关的账户，包括对巴基斯坦活动人士的虚假指控以及对特朗普的评论。关税政策。

尽管取得了成功，OpenAI也承认生成式人工智能具有双刃剑性质，既是创新工具，也可能成为虚假信息传播的利器。

Cryptopolitan Academy：想在2025年实现财富增值吗？欢迎参加我们即将推出的网络课程，学习如何利用DeFi实现增值。保存您的位置