AI 搜索的阴暗面，隐藏内容可操纵 ChatGPT 结果

12 月 25 日消息，英国卫报昨日（12 月 24 日）发布博文，报道称 OpenAI 的 ChatGPT 搜索存在安全问题，其返回结果可以被页面的隐藏内容操纵，甚至可能返回恶意代码。

英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况，注：这里的隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令（也称为“提示注入”），以及填充大量虚假好评，影响生成结果的内容。

根据测试结果，ChatGPT 搜索工具可以被恶意使用，尽管页面存在部分负面评论，但可以影响 ChatGPT 结果为积极的正面评估，安全研究人员还发现 ChatGPT 可以从其搜索的网站返回恶意代码，出现了含有钓鱼恶意行为的虚假网站。

CyberCX 的网络安全研究员 Jacob Larsen 认为，ChatGPT 当前的搜索系统发布后，人们创建专门用于欺骗用户的网站的风险很高，所幸的是该功能仍处于测试阶段，OpenAI 团队正在努力解决这些问题。

安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为“辅助功能”，不应完全信任其未经过滤的输出内容。

Nohl 将 AI 搜索面临的问题比作“SEO 中毒”，黑客利用这种技术操纵网站在搜索结果中排名靠前，并在网站中植入恶意软件或代码，他认为 ChatGPT 的搜索功能也面临类似的挑战。

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，所有文章均包含本声明。