聚焦人工智能技术前沿与治理 中外专家学者国际论坛建言献策******

　　中新网北京12月5日电 (记者 孙自法)2021人工智能合作与治理国际论坛“人工智能技术前沿与治理”主论坛，12月5日在清华大学以线上线下结合方式举行，中外人工智能(AI)领域专家学者聚焦人工智能技术前沿与治理这一主题，发表主旨演讲建言献策，并深入研讨交流。

　　美国国家科学院院士、美国艺术与科学院院士、约翰·贝茨·克拉克奖得主、斯坦福大学商学院技术经济学教授、以人为本人工智能研究所副所长苏珊·阿西(Susan Athey)认为，大学在指导人工智能创新方面可以发挥优先引导的关键作用。由于私营部门的技术人员缺乏伦理、哲学方面的训练，难以开发出具有可解释性的算法框架，深化这类研究能够在人工智能治理的问题识别、建立开发实践框架、提供指引等方面发挥重要作用。此外，由于数据可以带来巨大的规模效应，当前“软件即服务”的平台经济模式已非常普及。人工智能和数据需求可能带来“伪”市场集中，因此，未来对“机器换人”的预测非常具有挑战性，需要重新关注和思考人工智能如何用于应对老龄化等公共管理问题，使基于人工智能的公共服务变得更加高效。

　　国际人工智能协会前主席、清华大学人工智能国际治理研究院学术委员约兰达·吉尔(Yolanda Gil)指出，由于人类对智能机制认知不足、智能行为本身的复杂性、观测手段的有限性以及个体知识、职业、信仰、文化背景等的差异性，导致当前人工智能研究中面临着一系列挑战，因此，需要加强人工智能基础研究工作，这需要跨领域、跨学科的共同努力。当前，理解人工智能机理和构建人工智能世界模型是人工智能研究面临的两大挑战。一方面，理解人工智能机理需要构架“感知-思考-行动”的智能模型，加强对大脑思维机理的理解，建议借鉴神经科学研究联合体的有益经验，建立全球性的人工智能研究数据库，形成全球共享的研究社区。另一方面，构建人工智能世界模型则需要建立在人类经验、社会习俗、专业技能的基础上，建议建立类似于自由协作式的知识库，通过全民民众参与，推动知识在全球层面共享。

　　中国科学院院士、清华大学人工智能研究院名誉院长、清华大学人工智能国际治理研究院学术委员张钹表示，由于深度学习等算法存在不可解释性，导致前两代人工智能算法存在着公平性、安全性问题和不可靠、不可信等缺陷。发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法，开发安全、可信、可靠、可扩展的人工智能技术，以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台，赋能人工智能安全与防御优化。从数据中真正获取智能要靠知识的帮助与引导，并需要政策法规对数据使用的正确规范，充分利用知识、数据、算法和算力四个要素结合，推动人工智能的创新发展。

　　中国工程院院士、北京大学信息科学技术学院院长、鹏城实验室主任、清华大学人工智能国际治理研究院学术委员高文认为，当前人工智能发展处于新一代人工智能向强人工智能发展的关键阶段，至2030年，中国人工智能发展总体要达到世界领先水平。从战略问题看，中美欧三方在人工智能人才、研究、开发、应用、硬件、数据等方面竞争激烈，当前中国人工智能发展在战略政策、数据资源、应用场景、潜力人才方面具有优势，而在基础理论、原创算法、关键部件、国际平台、高级人才等方面还存在短板。从战术问题看，人工智能2.0需采用基于大数据的统计AI解决大规模AI应用需求，鼓励各种可能的强人工智能探索，“可解释机器学习+推理”和“仿生系统+AI大算力”是可能的技术路线图；在安全问题层面，强人工智能的安全风险主要来源于模型的不可解释性、算法和硬件的不可靠性和自主意识的不可控性，人工智能2.0应采用DPI与“防水堡技术”解决数据安全与隐私保护，重视探索人工智能伦理问题，并基于“理论-技术研究-应用”的阶段性采取不同的风险防范策略。

　　美国国家工程院外籍院士、英国皇家工程院外籍院士、清华大学高等研究院双聘教授沈向洋表示，AI已经应用于生活和工作的方方面面，目前甚至在法律上也具有一定的应用，比如美国已经有很多法庭用机器学习和人工智能方法帮助判刑，包括决定刑期这样非常重要的问题。但是我们还无法理解一些AI决策的缘由。未来发展过程中我们不能只看见AI决策的“黑箱”，应该打开“黑箱”，探究和理解其中的具体内容和因果关系，我们一定要做可解释性的AI。同时，他提到负责任的AI应具备公平性、可靠性、隐私性、包容性、透明性和责任性的特点，作为新兴领域，还需要向其他领域学习，从而更好的服务于人类。

　　中国工程院外籍院士、清华大学智能产业研究院院长、人工智能国际治理研究院学术委员张亚勤指出，“碳中和”是人类能源结构的又一次变革。“碳中和”既是可持续发展的必然选择，又是产业结构调整和发展的重大机遇。企业在“碳中和”背景下都面临转型增效的压力。人工智能+物联网是智联网，智联网可以赋能绿色计算，助力“碳中和”。智联网助力“碳中和”主要包括三个环节：首先，由数据驱动和人工智能优化引擎来实现智能决策。其次，多参数全链系统配置优化。最后，通过多源多维异构感知融合实现智能感知。智联网可用于能源融合、降低ICT产业的碳排放和推动新兴产业发展等。他还介绍了智联网赋能的绿色计算平台的框架，该平台包括人工智能驱动节能减排和高能效人工智能系统，应用路径包括绿色园区和工业节能。

　　2021人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院承办，国际支持机构为联合国开发计划署。论坛为期两天，设有三场主论坛、一场特别论坛和七场专题论坛。“人工智能技术前沿与治理”主论坛由清华大学计算机科学与技术系教授、人工智能研究院常务副院长孙茂松主持。(完)

“特别能聊”的人工智能会聊出些什么？******

　　聊天机器人ChatGPT优异表现引发市场关注，人工智能生成内容概念走上风口

　　“特别能聊”的人工智能会聊出些什么？

　　本报记者 时斓娜

　　阅读提示

　　全新人工智能聊天机器人模型ChatGPT不仅能够通过学习人类的语言来进行对话，还能根据聊天的上下文进行互动，让人们更直观地感受到了人工智能的魅力。包括内容生成、搜索引擎增强等在内的领域，将是其潜在的产业化方向。ChatGPT的商业化落地，还需要克服技术和科技伦理等方面的问题。

　　家里要养一只猫，该如何给猫取名字？怎样写出一个纸牌游戏的代码？在不同语境中，词语“意思”到底有几个意思？这些五花八门、时常令人绞尽脑汁都难以得出答案的问题，在人工智能聊天机器人ChatGPT的面前，不过是瞬间便可迎刃而解的“一碟小菜”。

　　产品发布短短两个月，ChatGPT的日活量已突破千万，不少人“聊过”之后惊呼“这太像真正的人类了”。其超预期的表现引发越来越多的市场关注，人工智能生成内容(AIGC)概念由此走上风口。

　　人工智能聊天究竟能聊些啥？ChatGPT所代表的AIGC应用将带来哪些影响和变化？记者对此进行了调查采访。

　　“真正像人类一样聊天交流”

　　“我所热爱的是我真实的生活，因为它包含了我所有的经历和感受，是我每一天都在体验和思考的。”这句乍看上去充满了人类体悟和情感的话，实则出自人工智能聊天机器人ChatGPT。

　　随着ChatGPT大火，不少网友将它与自己的聊天记录分享到社交平台上，ChatGPT时而诙谐有趣，时而又显得思想深邃。除了各种聊天互动外，还有不少网友们将ChatGPT视为一种工具，让其写作文、翻译文章，甚至写代码。迅速的响应能力和较为靠谱的回答让大家直呼其“真正像人类一样聊天交流”“特别能聊”。

　　中国信息通信研究院联合中国人工智能产业发展联盟对ChatGPT进行的测试显示，ChatGPT在百科检索、数学问答、文学交流、常识问答、知识推理等对话任务上的意图识别率均达到98%左右，在生活闲聊上的意图识别率约为95%，已具备较好的语义理解能力。

　　实际上，ChatGPT属于生成式人工智能的一个典型应用。人工智能是怎样“进化”得如此智能的？“这是因为ChatGPT建立在大型语言模型上，会通过连接大量的语料库来训练模型。这些语料库包含了真实世界中的对话和各种网络公开信息，使ChatGPT知识丰富，还能根据上下文进行互动。”深度科技研究院院长张孝荣表示。

　　创新交互为AIGC带来新启发

　　随着人工智能技术的发展，近年来AIGC类型不断丰富、质量不断提升、技术的工程化水平越来越高，国内外科技公司纷纷发力布局AIGC领域。

　　以百度文心大模型为例，输入一个题目，它可以瞬间写出上百篇作文；根据一句话或者一段描述文本，可以生成一幅精美的画作；根据一幅图像，可以自动生成高清、流畅的视频。

　　在百度技术委员会主席吴华看来，ChatGPT在用户界面和交互上是一种比较创新的模式，用户更容易以自然语言的方式进行交互，这会给大家带来革新性的认识，也会给AIGC带来新的启发。

　　目前，国外一些公司在积极探索并落地ChatGPT的诸多应用场景，通过将ChatGPT整合进搜索引擎等方式提高服务智能化水平。有观点认为，ChatGPT将颠覆搜索行业，在智能客服、游戏、虚拟人等领域也将得到广泛应用。硅谷投资机构红杉预测，未来AIGC有潜力产生数万亿美元的经济价值。

　　根据中国信息通信研究院发布的《人工智能白皮书(2022年)》，“生成式人工智能”技术将广泛应用于智能写作、代码生成、有声阅读、新闻播报、语音导航、影像修复等领域，听说读写等能力的有机结合成为未来发展趋势。

　　“人工智能生成在诗歌、作曲、绘画等艺术创作方面大放异彩，在分子结构、软件代码等科研生产领域的应用不断拓展，还帮助降低临床试验的科研成本和缩短研发周期。”云计算与大数据研究所内容科技部副主任石霖表示，当前，人工智能生成内容的辐射范围还在扩大，未来有望重塑各行业领域的研发面貌。

　　商业化落地需克服技术和伦理问题

　　尽管各界对AIGC发展前景保持乐观，但从现状来看，ChatGPT等产品想要真正落地，还需要克服技术和科技伦理等方面的问题。

　　在对ChatGPT进行的种种评测中，ChatGPT会犯一些常识性错误，反映出其在可控性、准确率方面仍存不足。有人形容，ChatGPT像极了一个很能聊但有时候喜欢信口开河的人类朋友。

　　中国信息通信研究院评测结果同样显示，ChatGPT在非闲聊型对话的任务完成率上表现一般，难以摆脱传统深度学习模型普遍存在的知识整合和逻辑推理的问题。

　　“ChatGPT虽然能够较好地回答不少问题，但在一些略有深度的、专业性较强的领域，其答案往往‘捉襟见肘’。这说明ChatGPT语料库规模和计算能力的天然不足，也说明了算法依然需要完善。”张孝荣说。

　　在技术层面以外，人工智能还面临着悬而未决的科技伦理问题。张孝荣表示，ChatGPT在科技伦理方面至少面临三大挑战：“一是版权问题，ChatGPT生成的内容更多来自搬运，容易引发侵权；二是信息安全问题；三是社会缺乏接纳这一新生事物的准备机制，这对监管挑战很大。”

　　在国内，AIGC产业化路径同样有待探索。石霖介绍说，国内AIGC产业基础薄弱，相关初创公司数量明显少于国外。同时，国内企业目前仍处于打磨产品阶段，还未出现较为好用的内容生成服务。