(资料图片)

证券时报记者 陈霞昌

近日,包头、安庆等地先后发生不法分子利用人工智能(AI)进行诈骗,涉及金额数百万元。资本市场同样出现AI负面影响的事件,某上市公司因为生成式AI写作虚假小作文导致股价大幅下跌。

在欧美,利用人工智能进行犯罪也有增多趋势。欧洲刑警组织在一份最新报告中警告,犯罪分子可能会利用人工智能精进犯罪手段。从发动网络钓鱼攻击、散布不实信息到安装恶意软件等,聊天机器人快速发展出的能力,被不法之徒频频利用来吸金诈财。

人工智能被誉为第四次工业革命的核心,长期以来都受到政府和行业的高度关注。今年以ChatGPT为代表的生成式人工智能更是在全球刮起旋风,资本市场对相关企业也给予了高度关注。但人们探讨的,更多是人工智能对各行各业带来的正面变革,甚少看到它高速发展可能带来的负面影响。业内仅有少数有识之士提出,希望人工智能在迅猛发展的同时,也要受到足够的约束和监管。

今年3月,在ChatGPT火出圈后,包括特斯拉总裁马斯克、苹果联合创始人史蒂夫·沃兹尼亚克在内的一批高科技人士发表联名信,呼吁所有AI实验室立即暂停更强大的AI系统训练至少6个月,以保证人类能够跟上人工智能进化速度,同时要求训练过程必须公开化、透明化,坚决防止人工智能出现自我意识。

“人工智能教父”杰弗里·辛顿今年年初就曾经警告,人工智能对人类构成的威胁将比气候变化更加紧迫。辛顿认为,人工智能是一种智能工具,可以辅助人类做一些繁琐、重复和创意性工作,但也会有不法之徒用它来做违法乱纪的勾当。人工智能不但能撰写文章,还能生成图像、视频。如果用来弄虚作假,几乎可以乱真,普通人很难识别出来。如果有人用它来制作虚假图像、视频,传递错误信息,其破坏力远大于单纯的文字形式。

当前在国内外发生的种种违法犯罪,正在应验辛顿的警告。可以预见,未来利用人工智能进行违法犯罪的事情会越来越多。金融市场和金融机构因为涉及资产价格和国家安全,人工智能犯罪的概率会更大。

今年4月,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,旨在促进生成式人工智能技术健康发展和规范应用。但作为一个行业管理办法,显然不足以对汹涌而来的人工智能发展进行约束和管理。期待监管机构能够在更高层面对这一行业发展进行更多关注和规范。

推荐内容