人工智能技术的潜在风险及预防对策研究论文

SCI论文（www.lunwensci.com）:

摘   要：人工智能作为一项新兴技术，其在形成与发展过程中会衍生出新的风险问题。为推动人工智能技术健康发展，有 必要挖掘人工智能潜在风险致因，探索出人工智能技术潜在风险预防机制。基于此，本文探讨了人工智能技术的潜在风险，分 析了人工智能技术潜在风险致因，提出了人工智能技术潜在风险的预防对策。

关键词：人工智能技术 ；风险及预防 ；对策
【Abstract】： As an emerging technology, artificial intelligence will generate new risk problems in the process of its formation and development. In order to promote the healthy development of artificial intelligence technology, it is necessary to explore the potential risk causes of artificial intelligence and explore the potential risk prevention mechanism of artificial intelligence technology. Based on this, this paper discusses the potential risks of artificial intelligence technology, the potential risk causes of artificial intelligence technology are analyzed, the preventive countermeasures against the potential risks of artificial intelligence technology are put forward.
【Key words】： artificial intelligence technology;risk and prevention;countermeasure

0 引言

         近年来，在科技创新驱动战略的引领下我国人工智 能技术获得长足发展，并与教育、社会治理、科研等各 个领域进行纵深融合。但科学技术是一把双刃剑，以人 工智能为代表的现代科技繁荣昌盛，一方面为社会生产 及生活提供便利，另一方面会助推“风险社会”的形 成。在人工智能技术发展过程中，其诱发的数据、算法 及信息安全风险只是新兴技术风险的表面现象，如果从更深层面探究，站在技术与科学、社会、环境有机整合 的视角审视人工智能技术，可以挖掘其对国家安全、公 民隐私、社会治理、法律法理的威胁。唯有深层次分析 人工智能技术的潜在危害风险，从多维度探索风险预防对策，才能从根本上规避人工智能技术体系风险。


1 人工智能技术的潜在风险

1.1 信息茧房风险

         人工智能技术具有工具性特征，是社会治理、信息 传输等多方面的新兴辅助工具。伴随着人工智能、大 数据的兴起，新奇可获得性与议程的可进性降低了权 利表达与施展成本，使得更多的公民有机会参与社会 治理。但对于公众而言，其在通信运营商、网络运营商等有目的、有组织、有计划营造的拟态化交往空间内所 获取的信息，大部分是经过人工智能等信息通信技术利 用大数据分析所精心挑选的信息，即根据公众网页浏览 Cookie、网络社交行为、网络交易数据等进行“用户画像”，向其提供个性化、精准化的信息。换言之，在 人工智能等新兴技术所创设的网络空间内，人们只能获 取“愉悦他们”的信息，结果陷入“信息茧房”，失去 对社会环境的真实判断，因个人偏好与立场固守与其他 圈子独立乃至对立的信息圈，可能导致人群分化、公民 离散乃至社会碎裂 [1]。

1.2 技术鸿沟风险

         人工智能作为先进、前沿的新兴技术，具有天然的排他性，自然而然地将社会技术生产单元划分为技术持 有者与技术缺失者。技术持有者占据技术研发、产品生 产、经济效益等各个技术方面得天独厚的优势，技术缺 失者将因竞争实力薄弱逐渐被市场经济淘汰。因此，人 工智能技术所带来的生产经济收益、所创造的社会财 富，在不同公民群体、不同行业、不同企业之间的划分 高度不均衡，掌握着技术优势与庞大资金的行业领域、 市场主体会肆意侵占中小微主体的经济效益与社会红 利，即使在主观层面无垄断、侵占意识，也会诱发技术 鸿沟风险，导致社会资源分配不均衡、制约社会的和谐 稳定。

1.3 法律法规风险

         法律法规是社会最底层的规范体系，从行为及事件 后果的对象与危害性对人或组织进行行为约束。人工智 能技术在于社会、环境等领域纵深融合的过程中，除为 社会生产生活带来便利之外，诱发了更为多元的法律法 规风险。如基于人工智能技术的“一键呼叫无人驾驶汽 车”服务，乘客无需提交申请或审核资格，当出现安全 事故后，如何界定安全事故的刑事责任，如何定罪处罚 成为争议焦点。

1.4 伦理道德风险

         爱因斯坦曾言 ：“如果你想让你的终身工作有益于 人类，仅仅知道如何应用科学是不够的。从始至终，对 人的关心应该是你获取技术的主要目标。你应该将尚未 解决的重大问题集中在如何组织人们工作及如何分配产 品上，因为我们的科学成就造福于人类而不是祸害人 类。”在传统的服务模式下，人们之间以和谐友善的沟 通解决问题或消除矛盾。而在人工智能技术支撑下，传 统的人工服务被机械设备所取代，人们相处时间缩短，沟通、信任等核心关怀价值遭到弱化，会引发伦理道德 风险。

1.5 国家安全风险

          人工智能技术潜在风险之一便是可以作为影响公共 政治意识形态的“武器”，从而威胁国家安全。如在军 事领域，人工智能技术与军事装备结构的融合会增强部分国家的军事力量，且无人系统的全面应用将减少其 战事人员损耗，对我国安全带来严重威胁。伴随着人工 智能技术的逐渐成熟，智能产品生产成本显著降低，智 能产品的获取更加便捷与容易，从而为反动势力带来可 乘之机，如借助人工智能技术在网络上散布关于国家政 治、经济等方面的谣言，引发社会恐慌，降低人们对我 国政治体制的认同感等，会威胁国家信息安全。

1.6 社会治理风险

（1）人工智能信息通信技术的日益繁荣及其在人们 生产生活内的渗透，将人们社会交往的主阵地由线下转 移至网络，且人工智能面向社会媒介的技术赋权改变了 人们的信息接收与浏览习惯，在任意信息节点人们都可 以对信息内容进行改造与再传播，有意或无意中便会引 发不良舆论，加之我国网络社会治理体系尚不完善，治 理资源匮乏，导致舆论借助人工智能技术及开放的网络 空间不断发酵，加大社会舆论治理难度。（2）人工智能 技术改变了传统产业结构，原本以人工为主的生产流程 逐渐被智能化机械所替代，从而产生大量的结构性岗位 事业，不利于社会的稳定和谐，容易诱发较为严重的社 会治理风险 [2]。

2 人工智能技术潜在风险致因分析

2.1 制度致因：制度建设滞后，伦理建设面临冲击

           人工智能技术冲击法律与道德规范体系从而诱发法 律法规、伦理道德的根本原因在于人工智能风险防范及 行为规制的法律制度建设滞后。如日前发生的某些交通 出行与酒店服务平台利用人工智能的数据分析与算法功 能对用户行为数据进行分析，预测用户收入及消费水 平、交通出行与酒店订购需求从而对其实施“杀熟”行 为，再如部分基于人工智能技术的社交平台有针对性地 向用户投放虚假广告、交友信息等用以牟利。这些现象 严重冲击我国伦理道德与社会行为规范建设。

2.2 技术致因：技术不确定性，新兴技术参差赋权

           以人工智能为代表的新兴技术自身具有较大的不确 定性，且其发展与演进方向十分复杂，在人工智能技术 产业化的过程中涉及到诸多利益主体，他们以众多方式 吸引利益相关者参与新兴技术政策与制定与实施。在此 过程中，新兴技术会增长治理某方的权力实施能力，即技术赋权 [3]。人工智能技术所诱发的信息茧房、社会舆 论失控、技术鸿沟风险的本质成因便是技术赋权。人工 智能技术面向技术服务方、网络运营方赋权，其在信息 供给上占据绝对优势，能够利用信息不对称、技术赋能 进行精准的“用户画像”，为用户创造虚拟空间并向其 提供感兴趣、契合其行为特征的信息，最终导致用户陷入“信息孤岛”；人工智能面向广大群众言论自由赋权， 容易滋生网络谣言，加剧不良舆论发酵，进而导致舆论 失控 ；人工智能面向“技术拥有者”赋权，提升其对技 术掌控能力与支配权，从而导致垄断风险。

2.3 资源致因：资源配置失衡，多元主体利益分歧

           人工智能技术自诞生以来便扮演赋能产业链、影响 价值分配、引发社会变革的多元角色，且在政策支持下 获得长足发展。“科学是解决风险的资源”，人工智能作为现代社会最为关键的技术资源之一，因区域经济发展 水平参差不齐、技术资本吸引力差异性，加之政府、市 场、企业、社会、个人等多元主体之间尚未形成联动的 技术发展模式，导致人工智能技术资源分配失衡，其所 创造的经济效益、社会红利等在多主体之间的分配不均 衡，尤其是人工智能技术专利多集中在资金实力雄厚、 经济发展水平较高的区域，加大了区域间的经济差距， 不利于社会的和谐稳定，从而诱发社会治理风险。

3 人工智能技术潜在风险的预防对策

3.1 加快建立人工智能等新兴技术风险防范与治理的法律 法规体系

（1）需将技术伦理立法摆在首位，基于当前我国组 建的国家科技伦理委员会进一步完善顶层设计与法律条 例，严厉打击以人工智能技术冲击伦理规范及社会公序 良俗的行为 ；（2）完善人工智能等新兴技术风险的防范 机制，不仅需要从技术层面识别与分析人工智能风险， 还需要从公民行为、社会治理、政治体制、经济市场等 多维度审视人工智能技术带来的深远影响与深刻变革， 尽量将法律法规全面覆盖，对人工智能技术风险进行量 化、科学与客观合理的评估，从而为后续的风险防范奠 定基础 ；（3）出台前置性保护法律，结合人工智能技术 风险评估结果规范人工智能技术风险防范司法与执法流 程，从而以法律的强制性约束人工智能技术研发与使用 行为。

3.2 健全人工智能等新兴技术的安全风险监测与防治全周 期化管理

           伴随着时代的进步与社会的发展，人工智能技术将 愈发成熟，其发展演进的不确定性、复杂性与不可预测 性决定其风险的多元化与隐蔽性。因此，需健全人工智能等新兴技术的安全风险监测机制，在不与我国民法、 行政法及刑法冲突，不违背社会公序良俗的前提下，对 人工智能实行全过程、全覆盖、全链条、跟踪式监测研 判人工智能技术发展前景，挖掘人工智能与产业链条的 契合点，基于全域、全要素视角对其风险程度进行监 测，并借助智慧监督执法流程、智慧风险救援体系等切实遏制人工智能技术风险。与此同时，基于人工智能技 术发展全生命周期实行动态化风险管理策略，以定期巡 检、重点抽查形式进行风险监测 ；以科学动态风险评价 指标及数字化手段进行风险评估，以量化风险概率、精 准计算风险程度、动态跟踪风险事件 ；以统筹规划司法 与执法资源为核心形成人工智能技术风险治理机制 [4]。

3.3 构建多方面协调的人工智能等新兴技术安全保障联动 防护机制

           为解决人工智能技术资源层面风险问题，建议以政 府为主导，以行业协会及骨干企业为核心建立人工智能 技术联盟，就人工智能技术健康发展与产业赋能、人工 智能技术风险预防及治理群策群力、达成共识，切实化 解决多元主体利益冲突，促进人工智能技术成果与经验 共建共享，以此消除技术鸿沟与技术垄断。同时，建立 人工智能技术应用的申报审批与违规应用监管制度，准 确研判人工智能技术可能带来的社会危害，针对人工智 能设备取代传统劳动力这一现象与趋势加强社会公德及 公民素养宣传，强化各领域人文精神，适度约束人工智 能技术的应用。此外，提升人工智能技术风险的社会参 与度，建立科学信息披露机制帮助广大群众熟悉人工智 能技术风险情况，通过民主监督及治理降低社会危机事 件与次级风险，并加强社会各治理主体的联动，从社会 不同领域预防人工智能技术风险。

4 结语


           人工智能技术的潜在风险包括信息茧房风险、技术 鸿沟风险、法律法规风险、伦理道德风险、国家安全风 险、社会治理风险。人工智能技术潜在风险的诱因体现 在制度、技术与资源三个层面，为此应完善技术风险防 范相关法律法规体系，健全技术风险监测与全周期化管 理，构建多方面协调、多元主体联动的技术风险预防机 制，从而降低人工智能技术诱发的社会危机与次级风险 事件，促进人工智能技术的健康、稳定发展。

参考文献

[1] 韩欣悦,聂洪涛.人工智能法律风险防范与研发者责任探讨 [J].北京警察学院学报,2021(4):16-22.
[2] 姜涛.人工智能数据安全风险和有效治理措施[J].法制博览,2021(22):155-156.
[3] 赵志耘,徐峰,高芳,等.关于人工智能伦理风险的若干认识[J]. 中国软科学,2021(6):1-12.
[4] 李茂久,张静.人工智能危害风险的理性审视与治理体系研 究[J].大连理工大学学报(社会科学版),2021(3):15-23.
 
关注SCI论文创作发表，寻求SCI论文修改润色、SCI论文代发表等服务支撑，请锁定SCI论文网！
 

文章出自SCI论文网转载请注明出处：https://www.lunwensci.com/jisuanjilunwen/35821.html