找回密码
 立即注册

ChatGPT 滥用背后:黑客们找到了趁手的“钓鱼竿”

[复制链接]
爱风的文 发表于 2023-3-10 14:43:23 | 显示全部楼层 |阅读模式
本站文档手机双击全屏观看效果最好!如需充值或代为下载服务,请联系微信lovefeige007

财联社 2 月 27 日讯(编辑 马兰)ChatGPT 的确可以将人类从重复性的写作中解放出来。然而,过于逼真的写作能力不仅仅让教授们头大,也在助长网络犯罪分子的 " 壮大 "。

网络安全公司 Checkpoint Security 的 ChatGPT 首席研究员 Sergey Shykevich 表示,已经看到网络犯罪分子对 ChatGPT 的利用,他们正在通过人工智能的力量来创建可用于勒索软件攻击的代码。

钓鱼 " 熟手 "ChatGPT

Shykevich 的团队自 2021 年 12 月开始研究人工智能与网络犯罪的关系。去年年底,他们找到了 ChatGPT 与网络犯罪相关的第一份证据。

据称,网络犯罪分子正在使用聊天机器人创建可以用于恶意软件攻击的 Python 脚本。Shykevich 指出,代码虽然有一些错误,但大部分是正确的。而更有趣的是,发布这些代码的人以前从未开发过任何软件。

Shykevich 指出,ChatGPT 和 OpenAI 的另一个编码服务 Codex 正在让经验不足的人也能完成代码写作,而这显然是一把双刃剑。

网络安全公司 Darktrace 的网络情报与分析总监 Justin Fier 也声称,目前网络钓鱼攻击的进入门槛已经很低。人们只要提示到位,ChatGPT 就能轻松创建出数十份具有针对性的诈骗电子邮件。

2 月初,网络安全公司 Blackberry 的一份针对信息技术专家的调查显示,1500 名专家中 74% 的人担心 ChatGPT 会助长网络犯罪,而 71% 的人认为 ChatGPT 已经被有心人 " 拉下海 " 了。

最惨背锅侠

ChatGPT 参与违法犯罪,倒霉的 OpenAI 可能会被连带追责。

美国前联邦检察官 Edward McAndrew 指出,如果 ChatGPT 或类似的聊天机器人建议某人实施网络犯罪,那么创造出 ChatGPT 的公司可能要承担责任。

这与往常的场景不同。大多数科技公司不必对自己平台上的用户言论负责,但由于 ChatGPT 的文字内容来自人工智能本身,而人工智能开发者对人工智能学习和输出的内容负责。

McAndrew 表示,如果出现问题,OpenAI 很难免于民事或刑事诉讼。

然而,McAndrew 也承认如果 ChatGPT 开源的话,追溯 OpenAI 的责任将变得很困难。此外,目前也没有一个机构或政府单位专门负责为人工智能行业制定授权。而人工智能领域往往需要国际间的合作,这可能将花费数十年的时间。

Shykevich 也强调,现在的 ChatGPT 对犯罪分子来说也是危险的存在,因为它不仅爱 " 乱讲 ",而且乱讲话的时候特别自信。这让犯罪分子需要小心翼翼地检查 ChatGPT 的每一句话,不然就很可能被 ChatGPT 带进沟里。

【声明】本站官方已审核发布资料均系官方通过公开、合法、收费渠道获得,网友自行发布资料平台只提供审核职责,资料版权归原撰写/发布机构所有,如涉侵权,烦请联系删除(2411977441@qq.com),如对资料内容存疑,请与撰写/发布机构、个人联系。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表