ChatGPT滥用背后:黑客们找到了趁手的“钓鱼竿”

区块链日报 view 30 2023-2-27 16:26
share to
Scan QR code with WeChat

ChatGPT滥用背后:黑客们找到了趁手的“钓鱼竿”

ChatGPT作为引领时代的新技术,正在解锁越来越多的应用,然而万事都有好坏两面,人工智能显然也被网络犯罪盯上了。

ChatGPT的确可以将人类从重复性的写作中解放出来。然而,过于逼真的写作能力不仅仅让教授们头大,也在助长网络犯罪分子的“壮大”。

网络安全公司Checkpoint Security的ChatGPT首席研究员Sergey Shykevich表示,已经看到网络犯罪分子对ChatGPT的利用,他们正在通过人工智能的力量来创建可用于勒索软件攻击的代码。

1、钓鱼“熟手”ChatGPT

Shykevich的团队自2021年12月开始研究人工智能与网络犯罪的关系。去年年底,他们找到了ChatGPT与网络犯罪相关的第一份证据。

据称,网络犯罪分子正在使用聊天机器人创建可以用于恶意软件攻击的Python脚本。Shykevich指出,代码虽然有一些错误,但大部分是正确的。而更有趣的是,发布这些代码的人以前从未开发过任何软件。

Shykevich指出,ChatGPT和OpenAI的另一个编码服务Codex正在让经验不足的人也能完成代码写作,而这显然是一把双刃剑。

网络安全公司Darktrace的网络情报与分析总监Justin Fier也声称,目前网络钓鱼攻击的进入门槛已经很低。人们只要提示到位,ChatGPT就能轻松创建出数十份具有针对性的诈骗电子邮件。

2月初,网络安全公司Blackberry的一份针对信息技术专家的调查显示,1500名专家中74%的人担心ChatGPT会助长网络犯罪,而71%的人认为ChatGPT已经被有心人“拉下海”了。

2、最惨背锅侠

ChatGPT参与违法犯罪,倒霉的OpenAI可能会被连带追责。

美国前联邦检察官Edward McAndrew指出,如果ChatGPT或类似的聊天机器人建议某人实施网络犯罪,那么创造出ChatGPT的公司可能要承担责任。

这与往常的场景不同。大多数科技公司不必对自己平台上的用户言论负责,但由于ChatGPT的文字内容来自人工智能本身,而人工智能开发者对人工智能学习和输出的内容负责。

McAndrew表示,如果出现问题,OpenAI很难免于民事或刑事诉讼。

然而,McAndrew也承认如果ChatGPT开源的话,追溯OpenAI的责任将变得很困难。此外,目前也没有一个机构或政府单位专门负责为人工智能行业制定授权。而人工智能领域往往需要国际间的合作,这可能将花费数十年的时间。

Shykevich也强调,现在的ChatGPT对犯罪分子来说也是危险的存在,因为它不仅爱“乱讲”,而且乱讲话的时候特别自信。这让犯罪分子需要小心翼翼地检查ChatGPT的每一句话,不然就很可能被ChatGPT带进沟里。

btcfans公众号

Scan QR code with WeChat

Link
Disclaimer:

Previous: 从Covid到CBDC:通往完全控制的道路 Next: 中国矿业大学90后校友回应“捐款门”:因炒比特币合约亏损严重

Related