在2024年世界互联网大会乌镇峰会上,奇安信集团董事长齐向东发表了关于人工智能(AI)发展的见解。他指出,当前社会正以前所未有的热情投入AI发展,本届乌镇峰会更是将AI推至核心议题。齐向东认为,未来5至10年间,AI将深刻改造各行各业,为人类生活带来巨大改善。
然而,齐向东也强调了AI发展过程中的安全挑战。他表示,在AI赋能各行各业的同时,安全风险往往被忽视,但一旦发生,后果将不堪设想。他特别提到了“AI投毒”现象,即黑客通过污染训练数据来攻击机器学习模型,使其做出错误判断。由于算法黑箱和漏洞的存在,这些攻击难以防范,处理难度极大。
针对这些安全挑战,齐向东提出了“AI病AI治”的解决方案。他认为,应利用AI技术来应对安全风险,提升处理效率。他建议全行业树立安全意识,并呼吁全球各国关注并培育网络安全产业,加强人才培养。