永信至诚AI测评“数字风洞”平台上线应用与数据安全“DNA验证”功能
永信至诚资讯
2024-06-25 10:55:40
  • 点赞
  • 评论
  •   ♥  收藏
  • A
    分享到:
来源:中国证券报·中证网


K图 688244_0

  6月24日,永信至诚发布AI大模型领域全新研究成果,旗下的AI测评“数字风洞”平台上线应用与数据安全“DNA验证”模块。

  据了解,该平台凭借智能永信团队提出的基于生成数据提取应激反馈特征的“DNA验证”创新测试方法,实现了针对不同大模型之间的“同源性”验证,能够有效助力开发团队保护和验证自身大模型的技术原创性与知识产权合规性,帮助开发团队、建设和监管单位快速发现安全隐患,助力大模型安全建设、监管与风险处置。

  通过对生成应激数据的观测比对,AI测评“数字风洞”平台能够提取开源基座大模型的“应激反馈特征”,形成测试载荷对大模型展开安全检测,验证不同大模型之间是否存在同源性,通过识别大模型之间的数据关联关系,来发现从亲缘关系中继承来的安全风险。这一创新研究,填补了当前大模型产业内在大模型相似性、亲缘性关系验证能力方面的空白。

  永信至诚表示,接下来将基于对各大开源基座大模型的测评数据,以及全新上线的应用与数据安全“DNA验证”模块,识别不同开源大模型的“应激反馈特征”,积累沉淀出开源大模型“过敏源特征库”,将所有异常敏感数据打造为测试载荷,更高效地实现对业界大模型产品安全策略的检测。利用观测数据绘制大模型领域的“血缘关系”图谱,帮助各大AI创业团队、建设和监管单位,评估模型的稳健性和安全性,共同推动AI大模型生态的健康发展。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500