首页 | 资讯 | 家电 | 科技 | 产业 | 技术 | 生活 | 理财 | 探索 | 智能 | 滚动 |

 

环球视讯！如何实现人工智能可知可信可控可用？专家学者热议治理技术
发布时间：2022-12-13 05:39:17 文章来源：扬子晚报
2022人工智能合作与治理国际论坛主办方12日通过中国科协科学技术传播中心发布消息说，在该论坛以“人工智能治理技术”为主题的第二场主论坛上


(资料图)

2022人工智能合作与治理国际论坛以“人工智能治理技术”为主题的第二场主论坛。　中国科协科学技术传播中心  供图

中新网北京12月12日电 (记者 孙自法)2022人工智能合作与治理国际论坛主办方12日通过中国科协科学技术传播中心发布消息说，在该论坛以“人工智能治理技术”为主题的第二场主论坛上，与会专家学者重点探讨如何通过技术工具来实现人工智能(AI)可知、可信、可控和可用；如何实现算法的可解释、可控制与公平性，将伦理准则“嵌入”到人工智能产品与系统的研发设计；如何将产业监管要求转化为技术解决方案，开发针对人工智能行业或应用的“治理技术”与服务。

美国哥伦比亚大学常务副校长、计算机科学系教授周以真以《可信赖的人工智能》为题发表主旨演讲说，正在推动的“值得信赖的人工智能”研究议程，其目的在于把人工智能社区、网络安全社区和正式方法社区三个社区聚集在一起。她指出，一些人工智能系统可能是脆弱和不公平的，因此需要努力实现可信赖的人工智能。可信赖计算意味可靠性、安全性、可用性，要考虑准确性、稳健性、公平性，通过问责制、透明度、可解释性、道德伦理等设置人工智能执行的任务和环境。关于如何能够实现可信赖的人工智能，她则提出一种构建可信系统的事后验证方法，即用数据模型、代码程序来满足人们关心的正确性属性、安全性属性、活性属性等性质，并通过列举研究问题应用形式化方法，来尝试实现人工智能系统的可信度。

中国工程院院士、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文以《新一代人工智能发展的安全问题》为题发表主旨演讲指出，人工智能改变了安全格局，进一步扩大了威胁，需要从多个层面进行风险管控。在人的层面应加强伦理教育；在模型算法层面，期望它可信、可控、可解释并且被正当使用；在数据层面，期望数据具有充足的系统防护保证其安全。强人工智能安全风险来源于三个方面，一是模型的不可解释性；二是算法和硬件的不可靠性；三是自主意识的不可控性，这一方面要在设计及应用阶段采取预防和检测措施，另一方面要加强国际合作，相互取长补短，还要加强人才培养。对于数据安全问题，他认为隐私保护和数据有效使用是一对矛盾，需要做到平衡，鹏程实验室所采用的“防水堡”技术，对于保护模型训练数据安全共享和使用提供了解决思路，该技术可以做到只分享价值，不分享数据，在保证原始数据不移动的情况下也能够使数据可用。

瑞莱智慧(RealAI)公司联合创始人及首席执行官田天以《人工智能安全的实践探索》为题发表主旨演讲认为，人工智能正在进入一个从高速增长向高质量增长转变的新发展阶段，这对人工智能的安全性和可靠性提出了更多新要求。他列举一些已经真实地发生在人们身边的人工智能安全问题，比如人脸识别产生的安全隐患和实际损失，同时指出，并不能因噎废食地不去使用人工智能，而是应当进一步完善治理，让人工智能在更安全的前提下发挥它应有的作用。

清华大学智能产业研究院教授、首席研究员聂再清以《可信AI技术与应用》为题发表主旨演讲表示，安全可信是人工智能治理的核心诉求，而安全可信的人工智能技术产品需要具备安全可控、数据资产和隐私保护、可解释性等条件。他还进一步结合智慧医疗、车路协同自动驾驶等实践案例作详细讲解：AI安全性方面，以车路协同感知为例，讲解自动驾驶领域如何通过多传感器的协同感知，来提升AI协同内部可靠性，从而提高AI安全性；数据资产和隐私保护方面，以多中心医疗联邦协作科研平台为例进行讲解，并提出通过多中心的联合协作，解决数据孤岛、数据单边样本不足、标签严重缺失等挑战，做到数据的可用不可见以及面向隐私保护的机器学习；可解释性方面，以面向营养健康管理的可解释个性化推荐为例，提出需要“引导式”而非“迎合式”信息推荐，提升用户依从性并充分考虑营养健康因素，避免迎合式的饮食推荐。

在本场论坛圆桌对话环节，与会专家还深入探讨如何通过技术创新应对和解决人工智能带来的风险与挑战，并回答相关提问。(完)

标签： 科学技术 人工智能

热点HOT

  • 微信在线怎么设置 微信在线怎么设置的方法是什么？
    微信在线怎么设置 微信在线怎么

    微信在线怎么设置(微信8 0设置在线状态 *** 最新)微信8 0我的状态在哪里打开?微信在十周年更新了8 0版本，新增了很多新功能，都非常有意

  • 2050年的世界会怎样? 2050的世界将会怎么样?
    2050年的世界会怎样? 2050的

    未来2050年的地球2050年的世界会怎样?2050的世界将会怎么样?目前，全球87%的鱼类资源评估被归类为过度开发或完全开发。根据联合国环境部门2

  • 宇宙中至少有两颗星球存在生命 哪两颗星球存在生命？
    宇宙中至少有两颗星球存在生命

    浩瀚无垠的宇宙总是耐人寻味，宇宙中是否存在人类以外的文明，科学家们一直在竭力探寻。2019年1月3日10时26分，嫦娥4号在月球背面南极艾特

  • Word上次启动失败怎么回事？Word上次启动失败怎么解决？
    Word上次启动失败怎么回事？Word

    故障现象：打开Word文档时，提示Word上次启动失败，安全模式可以帮助您解决问题，但是部分功能在此模式下可能不可用，是否要在安全模式中启

  • 自制高增益天线 自制高增益天线的方法是什么？
    自制高增益天线 自制高增益天线

    自制高增益天线如何 *** 增益天线?天线增益是什么意思?在UHF在电视广播频段较高的情况下，天线的增益同样重要，无论是发射还是接收。在较

  • 1尺等于多少厘米 古时候的尺1尺等于多少厘米？
    1尺等于多少厘米 古时候的尺1尺

    1尺等于多少厘米(古代与现代长度单位换算)尺是我国古代延用出来的，常见数量单位之一。那麼1尺等于多少cm呢?尺跟如今大家常见的米和厘米的

  • 电池容量更大的手机有什么？电池容量更大的手机排行榜
    电池容量更大的手机有什么？电池

    许多网友都有给长辈买手机的需求，如果长辈的年龄不小，对于智能手机的掌握程度并不好，那么老人机或许就是更好的需求。如今在市面上定位老

  • 积分电路有什么用 积分电路是什么？
    积分电路有什么用 积分电路是什

    积分电路是一种应用比较广泛的模拟信号运算电路。它是组成模拟计算机的基本单元，用以实现对微分方程的模拟。同时，积分电路也是控制和测量

  • php是什么职业 php是什么意思？
    php是什么职业 php是什么意思？

    php是什么职业(php程序员算不算程序员)做软件的最不值钱的就是php程序员了，同行都看不起这门语言与其说php是门语言不如说php 是门职业更

  • 农行金e顺怎么样 如何使用农行金e顺？
    农行金e顺怎么样 如何使用农行

    农行金e顺怎么用?当我们需要使用农业银行的网上银行必须要在电脑中连接U盾，而连接U盾之后需要要在电脑中安装金e顺，否则无法使用。关于如

新闻LOVE