人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
【科学的温度】如何撬开震后灾害的“盲盒”？****** 中新网成都1月17日电 (记者 贺劭清)滑坡预警预测是公认的世界性难题。“5·12”汶川特大地震后的十余年间，中国地质科研工作者如何从无到有，建立地震诱发滑坡预测模型？如何撬开震后灾害的“盲盒”？中国地灾防治如何走到世界前列？ 围绕上述问题，2022年“科学探索奖”获得者、成都理工大学地质灾害防治与地质环境保护国家重点实验室副主任范宣梅接受中新网专访，对此进行解读。  范宣梅接受中新网记者专访。 唐启浩 摄有哪些因素可能诱发震后地质灾害？ 范宣梅介绍，余震与降雨是诱发震后地质灾害的主要因素。强震刚发生完，震区容易发生较强余震。在余震影响下，一些在主震中震松、震裂的山体和已经发生滑坡的地方可能还会发生二次滑坡。同样，震后强降雨，也容易导致震区发生二次滑坡或泥石流灾害。 为了预测这些可能发生的地质灾害，成都理工大学地质灾害防治与地质环境保护国家重点实验室建立了空天地一体化的“三查”体系。 “我们除了大范围搜集卫星遥感数据，还会在雨季前后，对一些重点区域加强监测。”范宣梅表示，如果“9·5”泸定地震震区在2023年发生强降雨，那么磨西沟、湾东河、海螺沟等区域将有较大概率发生泥石流灾害。成理地灾国重实验室团队正准备在几条重点流域布设监测仪器，观测降雨量、沟道里的泥位、水位以及坡体上地震诱发滑坡堆积体的稳定性。  工作中的范宣梅。 受访者供图为什么要建立地震诱发滑坡预测模型？ 汶川特大地震发生后的十余年间，范宣梅团队前往“4·14”玉树地震、“4·20”芦山地震、“8·3”鲁甸地震和“8·8”九寨沟地震等地震救援第一线，搜集宝贵的影像和数据，并基于全球50余次地震诱发的40多万条灾害数据，结合最新的人工智能算法，建立了地震诱发滑坡近实时预测模型。 “汶川特大地震发生后，主要救援力量第一时间前往了汶川，而不是当时受灾最严重的映秀、北川。这是因为当时我们没有及时、全面的卫星数据去在震后第一时间获取灾情灾损信息。”范宣梅指出，地震诱发滑坡预测模型最大的用途，就是填补震后72小时救援黄金时间的信息空白，给震后应急救援提供第一手的支撑和决策信息。  地震诱发滑坡智能预测模型。 受访者供图范宣梅介绍，卫星不会固定在某一个位置拍摄地球某一个固定点位，而是不断围绕地球旋转。如果泸定地震发生时，有一颗卫星恰好正在震区上方，那么这颗卫星可能拍下受灾情况。如果不凑巧的话，那么就需要等这颗卫星下一次再转到泸定地震上方，才能拍到震区受灾影像。甚至有时候，一张好的卫星影像拿到时，距地震发生时已经过去了一个月。 “如果完全依赖卫星数据去评估震后灾情，大概率会错过最佳救援时间。”范宣梅表示，地震诱发滑坡预测模型可以基于大数据与人工智能，根据本次地震信息，快速判断哪些地方地质灾害最为集中，哪些地方房屋道路受损最严重，让救援力量第一时间前往最需要救援的位置。  工作中的范宣梅。 受访者供图中国科研人员如何撬开震后灾害的“盲盒”？ 范宣梅介绍，汶川特大地震发生后，中国科研人员将卫星技术、人工智能、大数据等技术与防灾减灾相结合，最终撬开震后灾害的“盲盒”。 范宣梅透露，成理地灾国重实验室目前正进行地震灾害链相关的科研攻坚。如果震后滑坡和泥石流形成的堰塞湖-溃决洪水，可能影响到下游上百甚至上千公里的范围。目前科研人员正研究如何更好预测灾害链的发生，避免因灾害链可能造成的大规模人员伤亡。 范宣梅表示，近年来无论是中国科研人员在地灾领域的经验还是科研成果，在国际上都处于领先地位。在未来应把防灾减灾领域的中国知识、中国智慧输送到国外，以帮助更多人。(完)
|
