简要
- OpenAI 封禁了其评估为很可能源自俄罗斯的 ChatGPT 账户。
- 这些账户推广了一个表面上的以色列机构，该机构以学者名义发布了抄袭的研究。
- 大多数帖子浏览量很少，但相关的 Telegram 频道每个拥有多达 2 万名关注者。
根据 OpenAI 周三发布的报告，一个源自俄罗斯的网络使用 ChatGPT 推广了一个自称学术机构的组织。
OpenAI 表示，它封禁了一组账户，其运营者使用俄语提示词生成社交媒体帖子和评论，大部分为英语。他们还指示 ChatGPT 隐藏内容源自俄罗斯的迹象。
该公司写道：“尽管该活动似乎覆盖了相对较小的受众，但其精心构建使其区别于自乌克兰战争开始以来我们破坏的其他与俄罗斯有关的影响行动。”
由于ChatGPT在俄罗斯不可用，OpenAI表示该组织使用虚拟专用网络（VPN）来隐藏其位置并访问该服务。
该组织利用ChatGPT推广国际伯克研究所，该研究所声称是一个总部位于以色列的专家团体，通过看似官方的资料和冒充普通用户的账户进行推广。OpenAI发现，其审查的该研究所网站上的36篇文章中有34篇是抄袭的，其中一些文章被署名给并未撰写这些文章的学者。
OpenAI写道：“其中一些文章是多年前的；另一些则被错误署名。例如，一篇关于中巴经济走廊的文章似乎是从剑桥大学出版社的原文抄袭而来，但被错误地署名给了一位诺丁汉大学的教授，而该教授的专业领域是南亚政治。”
类似的政治影响力活动也曾使用生成式人工智能。
2024年，OpenAI识别出一个名为Doppelganger的与俄罗斯有关的独立活动。该网络利用ChatGPT创建文章、社交媒体帖子和评论，赞扬俄罗斯并攻击乌克兰、北约和美国。
与俄罗斯有关的团体也曾利用ChatGPT进行网络行动。OpenAI表示，与俄罗斯军事情报机构有关联的Forest Blizzard组织使用该聊天机器人研究目标、编写脚本并支持网络钓鱼攻击。
尽管该组织可能使用了俄语提示词，但OpenAI并未将IBI活动归因于俄罗斯政府。
据 OpenAI 称，以色列的一些人可能代表该机构参加会议或提交文章。尽管如此，他们与这次行动的关系仍不清楚。
OpenAI 写道：“我们无法确定这些个人、IBI 与俄罗斯操作者之间的关系。”
