点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
气候江湖的小气候与大格局****** 着急的古铁雷斯 即便是联合国秘书长古铁雷斯亲自上阵，敦促各方在马德里达成全面气候治理方案，但这种毕其功于一役的想法，显然是过于着急了。 既要就《巴黎协定》第6条实施细则(通过市场机制降低减排成本、提高力度的制度安排)进行谈判，又要对2020年前实施和力度情况进行盘点，还要开展“华沙损失与损害国际机制”评审，同时要解决气候资金这个老大难问题。多目标、无重点的齐头并进，使谈判进一步复杂化。  图片来源：联合国气候大会官网而没有经验的大会主席施密特，因身体原因无暇他顾的执行秘书埃斯皮诺萨，没有担当的美国，缺少建设性的欧盟，灵活性不足的巴西……诉求的高度多元和“大佬”的缺乏，让气候的江湖在马德里陷入僵局。 延期40多个小时后，2019年联合国气候大会15日在西班牙马德里落下帷幕。最漫长的气候谈判记录，没能换来满意的会议成果。 虽然以多边主义推进气候谈判得以坚持，“智利-马德里行动时刻”及其他30多项决议被大会收入囊中，但关键的《巴黎协定》第6条实施细则未达共识，碳交易机制未取得实质成果。 主要议题的流产，使得成果清单缩水。这份有限协议，辜负了各方的期待。 意料之外，意料之中 事实上，这个结果也不意外。每年年末的这场近200个国家的集结，不过是国际气候谈判多边进程的一个缩影。 无论是“大年”还是“小年”，谈判延时似乎是不确定的气候谈判中最确定的事。由于纷争而导致无法达成各方满意的成果或留待下年继续讨论的例子比比皆是。 但这就是多边机制——需要谈判各方达成一致，才能通过相关决议，最终实现“人人都不满意，个个都能接受”的结果。看上去低效，却又难以找到替代方案。 用“灾难性的”“极度平庸”等情绪化的词语，来给马德里气候大会盖棺定论，似乎有失公允。 不如让我们拉长时间和空间的维度，来看看全球气候治理这个江湖。 《巴黎协定》的政治遗产 自1992年以来，从《联合国气候变化框架公约》到《京都议定书》再到《巴黎协定》，一条不变的主线，是围绕“共同但有区别的责任”原则，以及与之密切相关的资金和技术解决方案。 近些年气候谈判经常陷于焦灼，一个重要原因便是“共同的责任”被过度强调，而“有区别的责任”被选择性忽视。 当然，也有不断变化的趋势，我们不妨称之为“巴黎协定遗产”。 这个遗产之一，便是谈判成果的达成从自上而下的约束性减排目标规定(如《京都议定书》对公约附件一缔约方的定期量化减排要求)，逐步转为自下而上的国家自主贡献(《巴黎协定》的国家自主贡献NDCs)。 在这个进程中，虽然“共同但有区别”的原则依然体现在目标、资金、技术等各个方面，但国家作用及其区别责任在弱化，非国家主体(如省州、城市)的作用在提高，全球气候治理结构正在起变化。 形成新的治理体系和秩序需要制度、规则、程序等的全面构建，以及相应时间的调校与和适应。未来的全球气候治理到底是什么样的模式，眼下似乎并不清晰，但多元共治应当是基本共识。 气候领导力下降 美国退出《巴黎协定》后，反对力量影响增加，气候领导力在降低。 在多边机制中，需要各方共识才能达成一致，反对力量历来扮演重要角色，气候江湖里的攻守是常态。 在《巴黎协定》的谈判过程中，用“双边”促“多边”既是鲜明的特色，也是基于实际的策略选择。 中国、美国以及欧盟、基础四国、“77+中国”等主要利益集团，通过各种双边磋商优先达成共识和协议，从而为进一步的多边谈判奠定基础，继而以相关的协议框架促成多边成果的达成。 这是《巴黎协定》谈判的重要遗产。 然而，随着美国宣布退出《巴黎协定》，强化了自身及与其立场相近国家的反对势力，其影响日益显著，加之全球经济下行压力加大和众多国家主要谈判代表更迭，增加了未来气候政治和谈判的不确定性。 “国家利益至上”与“同一个地球”的气候观迥然不同，单边主义、民粹主义的回潮对《巴黎协定》落实形成巨大阻力。 发展新背景不容忽视 应对气候变化关乎人类生存和发展，而气候变化谈判的实质是发展权问题。实现发展与保护气候的微妙平衡，是多边机制达成的关键。 发展问题就在眼前，制约发展的因素愈发凸显，发展中国家的发展诉求十分迫切，发达国家民众对福利的减损也非常敏感。 随着全球经济进入平台期，人口老龄化问题日益突出，以发展平滑经济社会变化恰恰与应对气候变化出现方向上的不一致。 与此相对，气候变化问题是基于科学的研判，其应对不同于一般常规污染控制，是一项极其复杂的系统工程和全球性议题。 需要充分考量经济社会的结构性变化，需要转变生产、消费和贸易方式，建立低碳、循环、可持续的新发展方式，以及与之相适应的产业结构、能源结构、交通和基础设施结构、土地使用等方面的一系列变革，并且需要全球范围有机协调的一致行动。 在应对气候变化的谈判中，参与方的利益一致性是难以解决的多元方程式，即期发展权被置于放大镜下，远期权益却浓缩成远处地平线的若干个小点，前者是国家利益主张，后者是全球共同关注，二者博弈的力度显然不对等。 对于发展中国家而言，一方面其社会经济发展与能源消费直接关联，或者说是与对应的化石能源消费所产生的碳排放并没有脱钩，发展方式决定了大幅度降低排放即便有理论上的可能性，实践中需要做出的牺牲之大无法忽视。 另一方面，发展中国家还要承接发达国家转移出来的资源能源消耗大、污染相对严重的产业，在缺少必要资金技术支持条件下，实现绿色发展困难重重。 与此同时，经济下行压力加大、保护主义抬头、民粹主义盛行，及其引发的贫富分化、产业链断裂或重置、能源安全、消费降级等问题，都在影响着绿色低碳转型的进程。 探索改革和创新模式 应对气候变化是个世界性大命题。硬币的一面是全球变暖、生态恶化等危机；硬币的另一面是人的需求，尤其是发展需求的不断提高。 解决大命题，需要政治意愿，需要一往无前，需要改革创新，需要着眼大局。但最需要的，或许是跳出气候江湖的小气候。 从全球社会经济的转型发展入手，促进全球及各利益相关方的发展与保护共赢，创造能源低碳转型和气候韧性发展的新格局和新路径，才是解决气候问题的正道。 在探讨责任机制的同时，首先需要解决参与方的利益，利益平衡是责任落实的前提。 强化利益分享不是“诗与远方”的愿景勾勒，而是“从现在做起”“从我做起”的实际担当，且发达国家要率先垂范。 发展中国家的民生问题如何能在应对气候变化的国际协调机制中得到有效保护，如何让先发展的国家给迫切需要发展的国家腾挪出必要的“气候预算”，以及新能源如何在成本上和能效上优于化石能源等，都是日程表上的优先事项。 近年来绿色气候融资的发展、气候治理结构的转变、商业及投资模式的创新，以及技术进步，给全球气候治理带来新机遇。 此次气候大会期间，欧盟委员会提出的《欧洲绿色新政》也让我们看到了一丝希望：他们许下了让欧洲成为世界上“第一个实现碳中和大陆”的承诺。 而中国的改革发展、能源转型、生态文明建设以及在全球治理中的作用和领导力也令世界充满期待。 中国正在加速推进的绿色转型，将为中国乃至世界的能源革命、气候韧性发展以及可持续发展，提供有益的探索和经验。 期待格拉斯哥 马德里气候大会已成过去。气候的江湖依然喧嚣。 马德里不相信眼泪。气候的江湖要形成大气候，需要政治雄心，需要全面行动，更需要合理机制的保障。 格拉斯哥期待奇迹。因为我们相信，气候的江湖是个大江湖，也是一盘事关人类未来和文明重塑的大棋。(俞岚) 
|
)