来源：媒体滚动
2023年已过半，上半年最火爆的莫过于以ChatGPT为代表的生成式人工智能，其也被认为是2023年十大新兴技术之一，更是人工智能1.0时代进入2.0时代的重要标志。
生成式人工智能是一种通过学习大规模数据集生成新的原创内容的新型人工智能。其中，ChatGPT推出2个月后，月活跃用户就达到了1亿，成为有史以来增长最快的应用程序。
(资料图片仅供参考)
与此同时，人工智能快速发展可能带来的安全风险也引发广泛关注，摩根士丹利指出人工智能为网络安全市场带来300亿美元机会。
就在7月7日，数字安全测试评估赛道领跑企业永信至诚（688244.SH）与全球领先的人工智能软件公司商汤科技（0020.HK）的战略合作消息引发关注，这场面向未来的跨领域合作将聚焦人工智能安全测试，为我国人工智能安全发展保驾护航。
AI大模型加速落地 人工智能应用潜在安全风险加剧
大模型是指具有大量参数的机器学习模型，可以在训练过程中处理大规模的数据集，被用来构建GPT这样的人工智能模型。根据科技部新一代人工智能发展研究中心《中国人工智能大模型地图研究报告》，我国10亿参数规模以上的大模型已发布79个，几乎进入“百模大战”。
人工智能快速发展在为用户带来技术便利、提高生产效率的同时，其可能带来的安全风险也引发广泛关注。
一，ChatGPT类技术辅助写代码的能力大大降低了攻击者的技术门槛，可以对漏洞攻击、钓鱼攻击、鱼叉攻击等常用的攻击方式进行快速上手和创新，增加了攻击风险。
二，生成式人工智能通常采用大量的数据进行训练和预测，若这些数据若被不当收集存储或使用，会造成数据泄露风险。
三，AI可以利用人工智能技术模仿他人面貌、声音或语言，继而实现欺骗或诈骗行为。今年5月，便有人10分钟被骗430万元。
四，AI需要通过大量数据模型训练才能获得能力，如果用黑客污染过的数据进行训练，训练出的模型可以存在漏洞。
虽然面临不少风险，但人工智能可以推动企业降本、提质、增效等，因此在工业生产、社会治理的应用探索正在快速涌现，发展势头势不可挡。据有关数据预测，2030年我国人工智能核心产业规模将超过1万亿元人民币，全球人工智能市场规模将达到16万亿美元。
我国高度重视人工智能发展，早在2017年就发布了《新一代人工智能发展规划》。近期在人工智能治理方面也发布了《AIGC服务管理办法（征求意见稿）》《互联网信息服务深度合成管理规定》等。
强强联合 聚焦人工智能安全测试
如何在抢抓AI发展重大机遇的同时，有效应对安全挑战，成为社会各界需要通力解决的重要命题。
于去年10月在科创板上市的永信至诚作为在网络靶场、人才建设、测试评估方面领跑的网络安全企业，其在安全领域方面一直保持极强的洞察力，在人工智能安全领域已有一些成果。
一方面，永信至诚网络靶场和数字风洞产品均是人工智能（AI）安全测试评估的基础设施平台；其次公司研发的人工智能靶场能为为AI漏洞挖掘及利用进行能力和安全性测评，获得了学术界和工业界的专家好评；而且自2017年起来，就开始组织人工智能网络攻防对抗领域的测试验证活动，不断吸引更多研究者通过公司的 RHG 靶场平台对其研究成果进行测试和验证。
在人工智能技术以AIGC、大模型为核心迎来历史性跨越的背景下，不断提升大模型安全测评能力成为解决人工智能安全问题的重要路径之一。
永信至诚结合自身网络靶场和人才建设领军优势，从人工智能安全测试角度出发，与全球领先的人工智能软件公司商汤科技签署战略合作协议，双方将充分发挥各自在产业的专业优势，围绕人工智能安全测试评估、大模型场景化安全应用及人工智能攻防对抗等方面展开长期深度合作，共同推动人工智能技术在数字经济中的安全落地。
据介绍，商汤科技是全球领先的人工智能软件公司，在感知智能、自然语言处理、决策智能、AIGC、AI算力基础设施等关键技术领域具有独特优势，目前已经形成智慧城市、智慧生活、智慧汽车、智慧商业四大业务板块，和国内外1000多家世界知名企业及机构建立了合作。在上海举办的第六届世界人工智能大会（WAIC 2023）商汤人工智能论坛上，商汤科技重磅揭晓“商汤日日新SenseNova”大模型体系2.0版本，并表示已在千行百业中“落地开花”。
大模型安全也是本次永信至诚与商汤科技合作的重要内容之一，永信至诚将依托“数字风洞”产品体系为商汤大模型的数据安全和网络安全的全生命周期安全提供测试评估服务；
其二，永信至诚成为商汤对外提供大模型服务中的安全增值能力提供方；
第三，双方也表示，将共同打造用于网络安全攻防对抗和漏洞挖掘等领域的大模型应用，并实现产品化，以推动人工智能技术在网络和数据安全产业的创新化、规模化应用与落地。
这也意味着永信至诚在数据安全、工业互联网安全之外，将在人工智能安全测试方面迎来重大突破。
来源：济源网
关键词：
