清华大
学苏世民书院院长薛澜
：装好刹车不等于人工智能能够安全上路

今年以来，人工智能产(chǎn)业热度正在持续扩散，由此(cǐ)引发的伦理、监管(guǎn)等
风险也越(yuè)发凸显。在(zài)人工智能进入爆发式(shì)发展的关键(jiàn)阶段，我国应当如 何统筹发展与安全，支持(chí)人工智能(néng)产业快
速发展的同时装好“刹(shā)车”？4月26日，清华(huá)大学苏世民书院院长、公共管理学院学术委员会主(zhǔ)任薛澜在(zài)2024中关(guān)村(cūn)论坛年会现场接受证券时报记者(zhě)采访时，就人工智能技术(shù)的风险与前景(jǐng)展开交流。

薛澜告诉记者，任何科技自诞生以(yǐ)来(lái)都面临方向性问 题，“用得好科
技就好”。所以为(wèi)人工智能技术安上“刹车”，实际是建立(lì)一个合理(lǐ)的治理体系，一个针对人工
智能技
术的风险治理体系，对滥用、恶用人工智能技术等所有潜在风险(xiǎn)进行管理。

薛澜指出，我国针(zhēn)对人工智能安排的(de)风险治理体系可(kě)以分为上、中(zhōng)、下层。上层就是国家新一代人工智能治(zhì)理专业委员(yuán)会(huì)在2019年发布的《新一代人工智能(néng)治理原则——发展负(fù)责任的人工智能》和2021年(nián)发布的(de)《新一代人(rén)工智能伦理(lǐ)规范》，不论是技术开发商、技术应用商还是社会公 民都应当(dāng)遵守的一些基础(chǔ)原则。中层就是针对人工智能具体领域的具体法律法规，比如2023年发布的《生成式人工智能服务管理暂行办法(fǎ)》等。下层就是鼓励企业加强内部机制建设，成立伦理(lǐ)委员会等。“通过综合性体系，保证人工
智能上路是(shì)有刹车的。”

他同时指出(chū)，安装好刹车，出台(tái)各项(xiàng)法律法规(guī)，并非意味着人工智能至(zhì)此能够安全(quán)上路。在鼓励、希望企业能够加强自身建设的同
时，也需要全社会的共同监督，来发 现并及时(shí)举报企业滥用人工智能的情况(kuàng)，并通过相(xiāng)关部门对相关企业进行处罚(fá)。

在推动人工(gōng)智能技术应用过程中，各个国家对技术应用的认可(kě)程度不一。薛澜认(rèn)为，各地区(qū)的应用场景差别巨大，未来人工智能技术的应(yīng)用推广在于根据不同(tóng)地区的特定(dìng)场(chǎng)景，为民(mín)众提供更多的选择。他表示(shì)，今后(hòu)人工智能技术就(jiù)像一个操作(zuò)系统，将(jiāng)嵌(qiàn)入到各种工作平台里。“你可能(néng)都感觉不到它的存(cún)在(zài)，但是你在工作中会(huì)更(gèng)加(jiā)方便。”

面对(duì)人工智(zhì)能技术(shù)普及对就业的(de)冲(chōng)击，薛(xuē)澜(lán)相信，随着物(wù)质文化生(shēng)活不断丰富，人类会产生更多新的需求(qiú)，这些需(xū)求(qiú)就(jiù)成为新(xīn)的就(jiù)业源(yuán)泉。

今年以来，人工智能产业热(rè)度正在持续(xù)扩散，由此引发(fā)的伦(lún)理、监(jiān)管等(děng)风险也(yě)越(yuè)发凸显。在人工智能(néng)进入爆发式发展的关键阶段，我国应当如(rú)何统筹(chóu)发展与安全，支持人工(gōng)智能产业快速发展的同(tóng)时装(zhuāng)好“刹车”？4月(yuè)26日(rì)，清华大学苏世(清华大学苏世民书院院长薛澜：装好刹车不等于人工智能能够安全上路shì)民书院院(yuàn)长、公共管理学院(yuàn)学术委员会主任薛澜在(zài)2024中关村论坛(tán)年会现场接(jiē)受证券时报记(jì)者采访时，就(jiù)人工智能技术的(de)风险与前景展开交(jiāo)流。

薛澜告诉记(jì)者，任何科技自诞生以来都面临(lín)方向 性(xìng)问题，“用得好科技就好”。所以为人工智能技术安上“刹车”，实(shí)际是建立(lì)一个合理(lǐ)的治理体系，一个针对人工智能技(jì)术(shù)的风险治理体系，对滥(làn)用、恶用(yòng)人工(gōng)智能技术等所(suǒ)有潜在风险进行管理。

薛澜指出，我国针对人工智能安排的风险(xiǎn)治理体系可以分为上、中、下层。上层就是(shì)国家新一代人工智能(néng)治理专业委
员会在2019年(nián)发布的《新一代人(rén)工智(zhì)能治理原则——发展负
责任的人工智能》和2021年发布的《新一代人工智能(néng)伦理规范》，不论是技术开发商、技术应用商还是社会公民都应当遵守的一些基础(chǔ)原则。中层(céng)就是针(zhēn)对人工智能具体领域的具体法律法规，比如(rú)2023年发布的(de)《生成式人工智能服务管理暂行办法》等。下层就是鼓励企业加强内部(bù)机制建设，成立伦理
委员会等(děng)。“通(tōng)过综合性体系，保证人工智能上路是有刹车的。”

他同时指出，安装好刹车，出台各项法律法(fǎ)规，并非意(yì)味着人工智
能至此能够安全上路。在鼓励、希望企(qǐ)业能够加强自身(shēn)建设的同时，也需(xū)要全社会(huì)的共同监督，来发现并及时举报企业滥用人工智能(néng)的情况，并通(tōng)过相关部门对相关企业进行处罚。

在推动人工智能技术(shù)应用
过程中，各个国家对技术应用的认可(kě)程度不一。薛澜认为，各地区的应用场景(jǐng)差别巨大，未来(lái)人工智能技术的应用推广(guǎng)在于(yú)根据不同地区的特定场景，为民(mín)众提供更多 的选择。他表示，今后人工智能技术就像一个(gè)操作系统，将嵌入到各种工作平台里(lǐ)。“你可能都感觉(jué)不到它的存在，但(dàn)是你在工作中会更加方便(biàn)。”

面对人工智能技术普及对就业的冲 击，薛澜相信，随着物质文 化生活不断丰富，人类会产生更(gèng)多新的需求(qiú)，这些(xiē)需求就成为新的就(jiù)业源泉。

校(xiào)对：陶谦

未经允许不得转载：橘子百科-橘子都知道 清华大学苏世民书院院长薛澜：装好刹车不等于人工智能能够安全上路