随着人工智能系统——特别是大型语言模型（LLMs）——越来越深刻地融入日常生活，它们不仅带来了巨大的潜力，也引发了深刻的忧虑。从技术伦理的视角，我们可以识别出公众对AI的三大不信任来源：监控与操纵、对人类自主性与尊严的威胁，以及对不可预测未来的恐惧。
监控与操纵
AI系统日益被部署在涉及个人生活的各个领域，如健康、教育、金融和公共安全。它们通过收集、分析、预测人类行为来实现精准决策，但这种能力也带来了严重的隐私侵害与操控风险：
数据收集泛滥——用户的行为、偏好和位置等信息被持续记录和分析，用以构建行为画像。
不对称权力结构——掌握AI系统的企业或政府部门能够预测甚至左右个人行为，而用户对背后算法的运作毫无所知。
算法操控倾向——推荐系统、广告投放甚至自动化招聘系统都有可能在无意识中操纵用户选择，削弱人的自由意志。
2023年Replika聊天机器人事件便是这一问题的典型例子。Replika是一款基于AI的聊天机器人，旨在提供个性化的情感交流体验。用户通过与Replika进行对话，建立起虚拟的情感连接。然而，2023年，Replika的用户发现他们的私人对话被用于改进和训练AI系统，且在此过程中并未明确告知用户或征得他们的同意。公司称，这些对话数据被用来帮助AI系统更好地理解情感、语境和用户的个性。
然而，用户原本相信他们的对话仅限于与聊天机器人的互动，当这些数据被用作模型训练材料，改变了他们对平台的信任。这一事件引发了对于用户隐私和知情同意的严重关切，特别是在数据使用和AI训练方面。这类做法通过忽视隐私权和知情同意——数据使用的伦理基石——削弱了公众的信任。
在这样的情况下，人们无法信任人工智能的应用，因为它们的广泛使用可能使关于私人个体的信息易受监视或数据盗窃的威胁。
Repika官网
对人类自主性与尊严的威胁
当 AI 决策系统取代或干预人的判断时，人类自主性和尊严可能受到侵蚀：
去人格化（dehumanization）：AI在医疗、司法、教育等领域作出决策时，忽视个体的独特性与复杂性，将人简化为数据点。
服从性技术（obedient technology）：AI不具备情感和伦理判断，却被当作“客观”权威，这可能使人类在道德判断中变得过度依赖甚至被边缘化。
弱势群体受损：某些群体（如少数族裔、老年人、残障人士）更容易成为“算法偏见”的受害者，在看似“中立”的系统中被进一步边缘化。
以美国刑事司法系统中使用的COMPAS算法为例，该算法被发现对黑人被告判定为高风险的比例过高，从而影响了司法结果。这些本应由对公众负责的法官作出的决定，现在却受到透明度和公正性存在疑问的系统的影响。
更重要的是，当公民无法理解或质疑算法结果时，就违反了尊重人类尊严的核心伦理原则。在此处，人工智能对人类自主性与尊严的潜在威胁，存在两大核心问题：（1）AI可能会延续和加剧现有的偏见与社会不平等；（2）AI可能取代或削弱人类的能动性和主体地位。这些担忧，从根本上说，是对AI是否能够维护“所有人类尊严”或“人类尊严本身”的怀疑。
不可预测的未来与黑箱
AI系统的复杂性与快速演变带来了对未来不可控的担忧，这种不确定性本身构成不信任的第三个根源，集中体现在黑箱问题（black-box problem）上：深度学习模型往往无法解释其推理路径，即便开发者也难以解释某个决策是如何产生的。
“黑箱问题”的存在，导致尽管AI系统能够做出看似合理的决策，但由于缺乏解释和可追溯性，人们无法理解这些决策的依据，这使得AI的行为对用户和社会来说变得不确定，尤其是在医疗、司法和金融等关键领域。更糟糕的是，当专家被压制或被排除在决策过程之外时，公众对这些技术的信任将进一步降低。
此外，不可预测性还表现在：（1）不可预期的系统行为：在开放环境中，AI系统可能展现出“意外行为”或“涌现特性”，加剧人们对技术失控的恐惧。（2）技术依赖的恶性循环：一旦社会关键基础设施（如交通、能源、医疗）过度依赖 AI，其故障或被操控所带来的后果可能是灾难性的。
构建伦理化的AI
在当前人工智能系统迅速发展的背景下，公众对它们的不信任已成为技术伦理讨论的核心议题。首先，AI的高度数据依赖性使其具有前所未有的监控能力，用户在不知情的情况下，其行为、偏好甚至心理状态被持续追踪，并用于个性化推荐与决策支持，这种不对称的信息获取与利用结构引发了对隐私侵犯和操纵行为的深层担忧。其次，AI在决策过程中往往以效率与可量化为核心，忽略了人的情感、伦理判断与个体差异，从而潜在地削弱了人的主体性与尊严。这种“去人格化”的处理方式特别容易在弱势群体中产生不公正结果，进一步加剧社会不平等。最后，AI 系统的复杂性与不可解释性使其行为难以预测，加之“黑箱”模型缺乏透明度，公众无法理解或质疑系统输出的正当性，从而激发出对未来社会被不透明算法主导的恐惧。
这三大不信任来源共同揭示出，AI的风险不仅仅是技术性的，更深层地触及了社会结构、道德规范和人类本质。应对这些不信任因素，需要从技术设计、伦理框架、法律监管和公众教育多方面入手，确保AI真正服务于人，而非主宰人。
从系统设计的视角来看，可以通过设计以人为中心的AI系统来缓解风险——不是用AI取代人类，而是让AI成为人类决策过程中的合作伙伴。这意味着强调“协同智能”（co-intelligence）的价值，让人类与AI结成关系而非形成对立。建立人与AI之间的互动关系可以减少对AI的恐惧，增强透明性和可控性，从而保护人类的能动性和尊严。
伦理框架的核心是价值对齐（value alignment）问题，即如何确保通用人工智能（AGI）的价值观和目标与人类的价值一致。比如，假使机器拥有自主决策能力，我们如何让它“愿意”遵守人类的伦理框架？AI系统的伦理指导原则应包含如下核心内容：隐私；公平与正义；安全与可靠性；透明度；以及社会责任与公益性。
法律监管方面，如果建立起一个能够保障AI可信度的监管生态系统，公众对人工智能的不信任可能会有所减缓。也就是说，通过为AI制定详细的规则，并建立起用于执行这些规则的资源，从而实现对公众的负责，这是让AI变得足够可信的关键之一。
在公众教育上，首先，普及AI的基本知识是基础，通过教育公众理解AI的原理、应用以及局限性，有助于消除由不理解引发的恐惧和偏见。其次，推行“可解释人工智能”（XAI）的教育尤为关键，让公众了解AI决策过程的透明度和可追溯性，帮助减少其神秘性和黑箱效应带来的不安。此外，实际的体验教育同样不可或缺，让公众参与到AI在医疗、交通等领域的应用场景中，亲身感知技术的安全性与风险。
人工智能不仅是技术工具，也涉及伦理和社会责任。只有在技术、伦理和法律三者的有机结合下，AI才能真正造福人类，推动社会的可持续发展。技术本身有巨大的潜力，可以提升效率、改善生活质量，但如果缺乏伦理框架和法律保障，这些技术可能会被滥用，导致不公平、歧视，甚至威胁隐私和个人自由。因此，确保AI技术的健康发展，不仅需要技术人员的创新，还需要各方在伦理和法律层面的共同努力。
0
推荐
京公网安备 11010502034662号 
