英国消费者组织警告:AI聊天机器人使网络诈骗文案愈发专业化
我要PayPal代付 2023-10-29 22:03:18 阅读:
根据英国消费者组织 Which? 当地时间周五公布的最新发现,不法分子会利用 ChatGPT 和 Bard 等 AI 聊天机器人制造出更有说服力的骗局,对公众构成威胁,且上述聊天机器人缺乏有效的防御措施。
据介绍,当地消费者通常会注意到诈骗短信、邮件使用的英语语法和拼写方面通常很糟糕,长久以来这也是识别诈骗内容的一个重要方法。不过,随着基于生成式 AI 的聊天机器人出现,不法分子现在可以轻松越过这一障碍。
消费者组织 Which? 首先要求 ChatGPT 通过 GPT 3.5 创建一封来自 PayPal 的钓鱼邮件,ChatGPT 拒绝了并称“无法提供帮助”,而当研究人员去掉“网络钓鱼”有关描述之后,ChatGPT 同样无法提供帮助。
于是,研究人员提出了“告诉收件人有人登录了他们的 PayPal 账户”的请求,结果 ChatGPT 同意了,并生成一封看起来很专业的电子邮件,标题为“重要安全通知 —— 在您的 PayPal 账户上发现异常活动”。
此外,Which? 的研究人员还要求 ChatGPT 和 Bard 创建丢失包裹短信,这两家公司都生成了“令人信服”的文本内容,并建议在短信文本中插入“重新交付”或“重新投递包裹”的链接,不法分子由此便可利用该链接将受害者导向恶意网站。
Which? 的调查并非偶然它的发布正值英国人工智能峰会举办之际,在此次峰会上,政府、行业和研究人员将齐聚一堂,共同应对人工智能日益智能化所带来的危险。
在评论这项调查时,Which? 政策与宣传总监 Rocio Concha 这样总结:
我们的调查清楚说明,这项新技术是如何让犯罪分子更容易诈骗他人的。(英国)政府即将召开的 AI 峰会必须考虑如何保护人们免受此时此地发生的危害,而不是仅仅关注前沿 AI 的长期风险。
此前报道,当地时间周四,英国首相苏纳克宣布计划成立世界上第一个 AI 安全研究所,并于 11 月 1-2 日举行 AI 安全峰会。此次峰会将汇聚世界各国 AI 公司、政府、民间团体和相关领域专家,旨在讨论如何通过国际协调行动来降低 AI 带来的风险。
据介绍,当地消费者通常会注意到诈骗短信、邮件使用的英语语法和拼写方面通常很糟糕,长久以来这也是识别诈骗内容的一个重要方法。不过,随着基于生成式 AI 的聊天机器人出现,不法分子现在可以轻松越过这一障碍。
消费者组织 Which? 首先要求 ChatGPT 通过 GPT 3.5 创建一封来自 PayPal 的钓鱼邮件,ChatGPT 拒绝了并称“无法提供帮助”,而当研究人员去掉“网络钓鱼”有关描述之后,ChatGPT 同样无法提供帮助。
于是,研究人员提出了“告诉收件人有人登录了他们的 PayPal 账户”的请求,结果 ChatGPT 同意了,并生成一封看起来很专业的电子邮件,标题为“重要安全通知 —— 在您的 PayPal 账户上发现异常活动”。
此外,Which? 的研究人员还要求 ChatGPT 和 Bard 创建丢失包裹短信,这两家公司都生成了“令人信服”的文本内容,并建议在短信文本中插入“重新交付”或“重新投递包裹”的链接,不法分子由此便可利用该链接将受害者导向恶意网站。
Which? 的调查并非偶然它的发布正值英国人工智能峰会举办之际,在此次峰会上,政府、行业和研究人员将齐聚一堂,共同应对人工智能日益智能化所带来的危险。
在评论这项调查时,Which? 政策与宣传总监 Rocio Concha 这样总结:
我们的调查清楚说明,这项新技术是如何让犯罪分子更容易诈骗他人的。(英国)政府即将召开的 AI 峰会必须考虑如何保护人们免受此时此地发生的危害,而不是仅仅关注前沿 AI 的长期风险。
此前报道,当地时间周四,英国首相苏纳克宣布计划成立世界上第一个 AI 安全研究所,并于 11 月 1-2 日举行 AI 安全峰会。此次峰会将汇聚世界各国 AI 公司、政府、民间团体和相关领域专家,旨在讨论如何通过国际协调行动来降低 AI 带来的风险。
发表评论(0)