首页两会声音 • 正文

两会声音 | 全国政协委员周鸿祎:AI“幻觉”具有两面性

  来源 : 中国新闻网  作者 : 谢艺观
发布时间:  浏览:

  “AI‘幻觉’有利于文学创作,但在AI安全方面,‘幻觉’确实会带来严重问题。”

  全国政协委员、360集团创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。

  AI“幻觉”,是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符,或偏离用户指令的现象。

  “企业内部应用大模型时,如果该企业属于医疗、法律、金融、证券等领域,或者用于生产制造等不容出错的地方,大模型一旦胡乱编造信息,就会带来严重后果。”周鸿祎举例。

  如何防止AI出现“幻觉”?周鸿祎认为,企业应用相关技术时,要连接企业专有的知识库,去进行校正。“幻觉”问题,部分是能通过知识库解决的。

  但他也指出,当大模型连接知识库,就会带来数据安全的问题。“智能体的安全、数据的安全、客户端的安全,还有基座模型的安全,构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”

全媒体热线 : 4000-5656-98
微博
微信
视频号

    相关文章Related

    返回栏目>>

    首页   |   帮助

    Copyright © 2005-2020 现代物流产业网 版权所有 客服热线:4000-5656-98
    《现代物流报》社有限公司授权 北京中物汇成工程技术研究院有限公司 为现代物流报官网 管理方
    www.xd56b.com和www.z56c.com两个英文域名同时使用一个主体网站
    英文域名:www.xd56b.com   京ICP备19057590号-2 京公网安备 11010602007039号
    英文域名:www.z56c.com   冀ICP备2020027852号-2
    技术支持:现代物流报社技术部