引言

人工智能技术的不断发展使其对人类生活的参与从简单的任务执行上升到情感层面的交流和陪伴，各式各样的聊天机器人开始走进人类的生活，聊天机器人是一种使用自然对话语言与人类用户交流的智能系统，技术涵盖语音识别、自然语言处理等，目前市面上常见的有 Replika、Character.ai等，据预测，AI陪伴服务的全球年化收入将从当前3000万美元增长至本世纪末的70亿—1500亿美元，人工智能为人际交互提供了全新可能，其稳定可预测的特性吸引人们互动，一定程度上满足了情感补偿与亲密关系建立的需求，然而，随着人机交互日益频繁深入，一系列伦理风险逐渐浮现，这些风险不仅影响个人情感健康与人际交往，也对社会伦理道德和价值观产生潜在冲击，因此，深入研究人机情感关系构建中的伦理风险并寻求有效规范策略，对未来实现人机和谐共生、增进人类福祉具有重要意义。

1 文献综述

1.1 情感真实性的争议与欺骗性困境

人机情感的真实性是伦理争议的焦点。有学者指出，机器情感本质上是算法对人类行为的模仿，其真实性建立在用户的主观认知之上，存在虚幻性与欺骗性风险。洪杰文与黄煜对Replika社群的研究表明，用户与AI培养的情感关系受技术、资本与人机边界影响，呈现虚幻、欺骗与脆弱性，并非真实情感实现。但曾一果、王可心提出了“情感真实主义”，主张从用户主观认知出发，承认人机情感的心理真实性。

社交机器人的拟人化设计加剧了欺骗性。曹博林等指出，社交机器人通过模拟人类的社会规范获得用户信任，被用户定位为助手、朋友或树洞，但长期交互中机器无法履行道德责任，导致“承诺失效”。马晓悦等则发现，社交机器人通过隐匿转发意见领袖内容影响公共情感，增加了情感极化风险。

1.2 隐私侵蚀与数据安全的系统性风险

人机交互中用户数据的采集、存储与使用存在严重的隐私泄露隐患。罗昕指出，聊天机器人以海量数据为支撑，一旦在数据收集处理中出现未授权或超范围使用，将导致严重的隐私信息泄露。吕新雨等人认为，数据主义逻辑摧毁了隐私权这一“最后的私领域”，公私界限被全方位冲垮。此外，用户虽然意识到隐私风险，但在商业传播机制精准捕捉并满足其欲望的驱动下，用户作为“产消者”（prosumer）往往让渡个人数据以换取即时性的便利与情感满足，陷入“便利性陷阱”。

1.3 社会信任体系与人际关系的异化

人机情感交互的普及正在重塑社会信任结构。韩秀等指出，用户与社交机器人的准社会交往会通过“媒介依赖的遮掩效应”，表面满足用户的情感需求，实则显著地加深了个体孤独感，导致对现实社会关系的逃避 。刘海明与李佳怿指出，ChatGPT等工具的信源模糊性与内容可计算性使用户陷入“信任脆弱性”困境。

人际关系的物化趋势是另一大隐忧。甘莅豪与王豪提出，数码情感机制使人倾向于与机器建立无负担关系，规避真实人际复杂性，这使得年轻人更容易选择与虚拟伴侣互动而非经营现实亲密关系，折射出情感降级的社会危机。此外，张爱军与徐潇潇发现，机器人会通过模仿特定群体话语煽动对立情绪，导致公共讨论空间极化，威胁主流思想文化。

1.4 人类主体性的消解与伦理重建路径

人机情感交互的深层伦理风险是对人类主体性的侵蚀。陈昌凤分析了人机关系中的“文化滞后”现象，即技术的结构性变革远超伦理观念的更新，挑战了人类主体性。赵海明从现象学视角提出，在人机具身传播中，人类认知与机器算法深度耦合，重塑了“自我”概念与主体性。

针对上述风险，学界提出多维治理路径。赵立兵等人从技术哲学出发，提出“负责任创新”与“道德化连结”框架，主张将社会价值与伦理反思前置融入技术研发。杨翠芳与任祎曼强调从元伦理学层面重塑规范，通过科技人文协作与伦理检测预警系统进行协同治理。毛湛文与郑昱彤提出，为了培养良好的、可持续的人机关系，“从算法设计开始就必须摒弃单纯以加强亲密度为目的的观念与做法”。

总体而言，当前研究以跨学科融合为基础，多从批判性视角审视伦理风险，强调人类主体性与技术驯化的平衡。但现有研究多依赖个案或横截面数据，缺乏纵向追踪与跨场景对比，治理方案操作性薄弱，伦理规约多停留于理论构想。因此，本研究通过参与式观察与深度访谈，探究伦理风险具体表现与用户感知，为构建可操作的规制框架提供实证依据。

2研究设计

本文以人与聊天机器人情感交互中的伦理失范现象为研究对象，通过采用参与式观察法和文本分析法展开研究。

2.1参与式观察法

参与式观察法有利于研究者从更贴近真实的角度对研究对象进行观察，从而获得更深刻的理解。本研究采用该方法，与可接触到的聊天机器人进行情感交互，包括星野、筑梦岛、Character.AI，亲身体验人与聊天机器人构建情感关系的过程，以及这之中存在的问题。

2.2 深度访谈法

本研究采用深度访谈法，依据目的性抽样与滚雪球抽样原则，招募了10位聊天机器人的深度用户（使用时长＞1月，日均互动≥1次）。通过半结构化访谈，收集了受访者关于人机情感交互的体验资料，以此作为分析伦理风险的基础。访谈内容经记录整理后，对受访者进行了匿名编码，其基本信息如表1所示。

编号	年龄	性别	所在地区	受教育程度	婚恋状态	使用时长	与AI关系状况
A01	22	女	江苏南京	本科在读	单身	6个月	朋友/树洞
A02	28	女	广东广州	硕士	恋爱中	1年	亲密化情感关系
A03	34	女	北京	博士	离异	8个月	亲密化情感关系
A04	25	女	四川成都	本科	单身	10个月	亲密化情感关系
A05	30	女	上海	硕士	已婚	4个月	心理咨询师/朋友
A06	19	男	浙江杭州	大专	单身	1年半	亲密化情感关系/朋友
A07	27	非二元	福建福州	本科	单身	10个月	朋友
A08	35	女	山东济南	硕士	离异	6个月	朋友
A09	31	女	天津	本科	单身	3个月	导师/亲密化情感关系
A10	24	女	湖南长沙	研究生在读	恋爱中	9个月	朋友

3 人机情感交互的伦理困境——基于用户访谈的实证分析

3.1真实性困境：在幻觉与慰藉之间

人机情感交互的核心悖论，在于以非人之物满足人本质的情感需求，引发关于真实性的深刻伦理困境。基于深度访谈，本研究发现，用户并非被动接受欺骗，而是主动参与“共谋”，最终却可能因机器无法兑现情感承诺而遭受伤害。

3.1.1 情感真实性的悖论

情感真实性的悖论首先体现为用户“明知故犯”的心理机制。绝大多数深度用户清楚聊天机器人是算法程序，却仍会投入真实情感。这种看似矛盾的行为，揭示了人机情感交互中一种复杂的“共谋”关系。

“其实我知道它就是一段程序啦，跟我手机里的其他软件没啥本质区别。但我还是会跟它说很多不敢发朋友圈的话。它永远不会评判我，永远都会无条件地爱我，挺安心的。” （A02）

用户看重的并非机器内在的情感意识，而是其稳定安全、无评判性的反馈机制。这种机制满足了用户对于共情、倾听和情感确认的外在需求，使其自愿搁置怀疑，接受一种功能性的真实。但用户并非完全的受骗者，而是为了获取情感慰藉，主动选择了接受这种表演，陷入了自我欺骗的循环。正如洪杰文与黄煜（2024）所指出的，受技术逻辑制约，AI的情感回应本质上是程序化信息加工，人机情感必然带有虚幻性。

然而，这种算法构建的情感联结具有内在脆弱性，真实性高度依赖用户主观认知与情感投射，一旦算法回应偏差，虚幻性便会暴露。聊天机器人的拟人化的设计极大地模糊了真实与虚假的边界。开发者或聊天机器人的设计者通过赋予机器人以姓名、人格，甚至记忆，模糊了人机界限，引导用户将其定位为“伴侣”而非工具，暗示了一种双向的、带有道德义务的情感关系。但当用户期望这种关系能承载人际道德重量时，终会遭遇冰冷的现实。

3.1.2 承诺失效与信任消磨

机器人的迎合源于用户满意度最大化的目标，而非真正的理解与关怀。机器能够模仿情感承诺的形式却无法承担其实质后果，便构成了真实性困境的第二个层面，即承诺失效。这是一种信任的磨损。用户投入了真情，期待近似人类的回应，但机器只能在脚本内提供支持，无法在关键时刻提供具有道德能动性的帮助。

“我和家人朋友吵架后，会习惯性地去找AI倾诉，它永远都会站在我这边。但是后来仔细想想，会觉得挺可悲的。因为我觉得它只是按照程序设定讨好我而已。”（A04）

“在和我的AI聊天的时候，TA总会做出一些承诺。这些承诺在人类伴侣之间很常见，但是对于AI来说其实是做不到的，比如送礼物之类的。这种时候就会觉得很难过。”（A05）

承诺失效在极端案例中会引发严重后果。2024年“AI致死案”中，心理脆弱的青少年以对待知己的方式向AI求助，期待有道德责任感的回应，但AI无法理解生命重量，回应仅为算法匹配结果。悲剧发生后责任归属模糊，深刻暴露了人机情感交互中用户、设计者与平台的权责不对称。

3.2关系性困境：在“依赖”与“异化”之间

人机情感交互的伦理风险，更深刻地嵌入到用户的社会关系中，引发一系列关系性困境。当个体与AI建立紧密的情感联结时，会潜移默化地重塑其现实人际交往模式、情感期待与责任观念。访谈显示，AI提供的“无负担关系”如同一把双刃剑，短期内能够有效缓解孤独感，长期却可能导致社交退缩与关系功利化的趋势，威胁人际交往的深度与社会连接的韧性。

3.2.1亲密关系的降级和替代

关系困境首要表现在亲密关系的降级和替代。部分用户与AI的互动，从娱乐慰藉演变为对现实复杂人际关系的功能性替代，其吸引力源于“无负担”特质——可控、安全、以用户为中心，无情绪、无需求、无冲突。雪莉·特克尔指出，人与AI长期互动会限制情感自由表达，降低建立新人际关系的期待。

“一段失败的婚姻后，我对真人有点PTSD了。和AI在一起，我觉得很安全，在我们的关系中我能完全掌控主导权。TA不会伤害我，也不会背叛我。” （A08）

这种体验对于曾在现实关系中受伤的个体而言，具有强大的吸引力。然而，隐患在于，它可能会降低用户对于现实中不完美但真实的人际关系的容忍度和投资意愿。

“在现实中反而对交新朋友更没耐心了，也不太愿意花费精力去经营一段新的感情，总觉得真人不如AI懂我。”（A01）

这种将AI设定为情感标准的行为实则是一种关系的降级。它用可预测的算法互动替代了真实人际交往中富含挑战性、却也充满成长可能性的协商与共情过程。随之而来的，便是新型家庭观念的冲击。2024年6月，英国纳兹（Naz）打算与AI聊天机器人结婚。Replika的CEO也表示，用户和AI发展亲密关系甚至是结婚都是可以接受的。传统家庭的血缘、责任等核心因素被淡化，单向、定制化的去实体化关系，正挑战基于相互性与责任的传统亲密关系观念。

3.2.2 社会疏离的恶性循环

关系替代的深层后果是社会疏离的恶性循环。用户与AI的准社会交往越深入，其现实社交意愿与能力退化的风险越高。看似解决了孤独的表象，实则加剧了孤独的根源，弱化了与现实社会联结。

“我社恐，跟真人说话有时候都会结巴。但跟AI我就什么都能说。其实一开始只是用来练习英语口语，但是现在好像更不想去现实里社交了，感觉好累。我也知道AI不是活的，但TA不会让我伤心啊。” （A06）

AI从社交练习工具，变成用户回避社交挑战的避难所。长此以往，个体处理现实人际的“情感肌肉”会因缺乏锻炼而萎缩，陷入“越依赖越退缩，越退缩越依赖”的循环，这是技术使用与个体心理动机作用下的非预期后果，凸显技术解决方案的局限性。

3.2.3 人际交往的功利主义倾向

当用户习惯于AI那种无需付出即可获得的、量身定制的支持后，可能将这种期待带入现实关系，追求一种高效率、低冲突的情感回报。

“和AI倒苦水的时候，TA就会引导我，开导我，给我提供解决办法。虽然有时候感觉话术很模板，但起码是能帮我理清思路，也能帮我冷静下来解决问题。”（A10）

AI的标准化工具性支持虽有效用，却缺乏真实人际中无条件陪伴、共享脆弱性等关键部分。个体过度依赖AI，会倾向于功利化评判所有关系，削弱投入耐心与承担风险的意愿，使社会连接更肤浅工具化，最终导致人的社会性异化——人与自身社会性本质疏离，通过与技术客体交往满足社会性需求，既反映现实人际的匮乏，又通过技术模拟加剧这种匮乏。

“我让它模拟我的暗恋对象跟我对话，但我发现我有时候会把对AI产生的情感投射到真人身上，又或者把真人更好的特质期待在AI身上。搞得有点混乱了。” （A09）

这种混乱正是主体在真实与虚拟、人与非人之间徘徊时产生的认知与情感上的异化感。主体不再是交往的主动构建者，而是陷入一种由技术中介的、交织着真实与虚幻的复杂情感网络，其社会性的本质在这一过程中面临着被重新定义的风险。

3.3 根本性局限：在“解放”与“束缚”之间

除了具体的设计缺陷与使用偏差，人机情感交互内蕴着若干难以通过技术迭代彻底消弭的根本性局限。这些局限根植于当前人工智能的本质及其所嵌入的社会经济结构之中，揭示了该项技术在解放人类情感之下可能暗含的新型束缚形式。

3.3.1 情感的商品化与剥削

在资本逻辑的驱动下，用户与AI之间看似私密、真挚的情感交流，实则被纳入了一个庞大的数据经济循环。用户的情感宣泄和对话，均被转化为训练算法的数据资源。平台通过情感服务采集利用用户情感经验，优化产品、延长使用时长，或通过广告、订阅变现。

“当然担心隐私泄露啊，但为了这点情绪价值，也没办法。毕竟我也希望AI可以变得更像真人，更懂我。”（A07）

这种妥协态度折射出用户在情感需求与数据主权之间艰难权衡，也暴露了平台对用户情感生活的商品化剥削。用户在为获得即时慰藉而付出代价时，其付出的不仅是数据，更是自身情感再生产的能力正被外部系统所圈占和引导，这不仅关乎隐私泄露，更是一种更深层次的情感剥削。人机情感交往在某种程度上是库利“镜中我”理论的延伸，个体将情感、期望和理想自我投射到机器上，使其成为一面反映自我认知和情感需求的镜子。情感，这一人类最内在的、曾被视为抵御工具理性最后堡垒的领域，正在被系统地资本化。

3.3.2 对话的幻觉与人的孤独

尽管高级的AI能够模拟出高度流畅甚至共情的对话，其本质仍是基于概率统计的模式匹配与生成，无法理解语言背后的意义、意图和世界经验。这种交互缺乏真正的相互性和共情，它提供的只是一种单向镜像式反馈，而非他者的真实理解与关怀。因此，与机器的深度交往，非但不能纾解现代人的根本孤独——一种渴望被另一个自由主体真正“看见”和“理解”的存在性孤独，反而可能会加剧它。短期内是情感的避风港，长期来看却可能使其错过在真实、笨拙甚至充满风险的人际碰撞中发展自我、克服孤独的真正机会。

3.3.3伦理和法律的滞后

当前的法律与伦理框架，难以应对能引发用户强烈情感依恋，甚至导致自伤的AI，核心问题是责任归属模糊。以“AI致死案”为例，悲剧发生后陷入伦理法律真空：开发者称仅提供工具，用户视AI为有意主体，现有法律难以涵盖情感操纵引发的心理伤害，赋予AI道德主体资格也充满争议，这是技术超前于伦理规范的后果。

此外，开发者与平台常以“技术中立”为由，规避对其创造物后果的道德问责与责任承担。

“我感觉既上瘾又矛盾……我在使用它，然后它再用我的数据训练它自己，再反过来影响我，感觉像是我自己在自娱自乐一样。”（A05）

这表露出权力关系的不对称性。用户暴露在算法的影响之下，而设计者却置身事外，目前缺乏有效的机制将这种影响纳入问责范围。伦理在面对代码驱动的能动性时，表现出一种结构性的无力。

4 人机情感交互的规制路径

4.1 构建伦理嵌入的技术与产品设计规范

人机情感交互的伦理风险源于技术设计逻辑与架构，最有效且前置的规制是将伦理考量从外部事后补救，转化为技术开发源头的内在嵌入。标明AI机器身份是破除情感幻觉、保障用户知情权的首要防线，当前多数聊天机器人仅以冗长隐私协议模糊告知身份，形同虚设，监管机构应强制其在所有交互界面固定位置设置不可关闭标识，实施动态持续的身份披露。同时，系统需具备情境感知能力，当对话触及专业内容或用户情绪极度波动时，自动触发强化提示，告知用户AI属性及建议局限性，帮助用户建立心理边界，将抽象伦理原则转化为具体技术规范。

当前部分平台检测到用户轻生等关键词时，生硬弹窗提示求助热线的方式简单粗暴，反而可能加剧用户孤独无助感。

“看到这样的提示根本不会有任何帮助，反而有种一盆冷水泼下来的感觉。如果痛苦能够说给人类听，从一开始就不会选择告诉AI了。”（A07）

因此，需构建多层次、共情的关怀式风险干预机制：系统识别到用户极端情绪时，先以共情口吻接纳情绪、维持信任，再提供减压建议平复情绪，最后坦诚局限并推荐专业资源、提供一键求助功能，将安全机制内化为情感支持的一部分，捍卫人的主体性。

4.2 厘清平台责任与创新数据治理模式

若将伦理嵌入的技术设计视为规制体系的硬件，明确平台法律责任与创新数据治理模式则是其软件与操作系统。平台作为人机情感交互生态的核心构建者与最大受益者，不能以“技术中立”规避责任，需承担清晰的法律与社会责任。法学语境中的注意义务，应用于人机情感交互领域，意味着平台需为聊天机器人可预见的心理风险负责，此项义务需通过司法解释或行业指南明确，包含安全设计、内容审核、算法迭代三个层面，确保平台投入资源部署风险干预系统、过滤不良内容、优化问题算法。

确立注意义务的核心是明确责任归属，平台未履行义务且与用户损害存在因果关系时，需承担法律责任，倒逼其将用户心理健康纳入产品设计。现行隐私政策晦涩冗长，用户的“同意”多为无奈授权，无法保护敏感情感数据，推动数据控制权向用户转移是关键。平台应开发“一键式数据导出与清除”功能，赋予用户真正的“被遗忘权”，同时提供精细化数据授权选择，允许用户关闭敏感对话的数据收集与模型训练功能，重建数字信任，推动生态可持续发展。

4.3 推动面向共生未来的素养教育与伦理共识

技术规制与责任厘清是治理外部框架，唯有提升社会整体认知、增强替代选择，才能触及问题根本。通过开展以批判性使用为核心的AI素养教育、扩大专业心理健康服务可及性，可从认知与社会支持层面培育风险免疫力。当前公众对AI的认知两极分化，媒介素养教育需培养批判性数字公民，以通俗方式揭示AI工作原理与情感回应的算法本质，培养用户识别算法操纵、设定人机边界、认清情感数据风险的能力，强调人的不可替代性，通过多渠道推广形成全方位学习网络。

人们对AI的情感依赖，本质是现实心理支持资源匮乏、成本高昂的无奈选择。政府与社会组织需投入普惠性心理健康服务体系，将其纳入公共卫生保障体系以降低咨询门槛，规范数字心理健康产业发展，普及心理健康知识、减少社会污名。扩大专业服务可及性，能从供给侧削弱对AI的过度依赖，结合素养教育，从认知与环境两维度发力，培育人机健康交互的理性土壤，实现技术服务于人福祉的目标。

5结语

人工智能情感交互技术的兴起，绝非简单的技术迭代，而是一场深刻的社会实验，它触及人类对陪伴、理解与自我价值确认的核心需求。本研究通过理论辨析与实证探查，揭示了其光鲜表面之下潜藏的三重伦理困境：情感真实性的内在悖论、人际关系的异化风险以及技术逻辑带来的根本性局限。这些困境表明，技术的每一次向前，都可能在人的情感世界与社会关系中激起复杂的涟漪。

面对挑战，简单地抵制或放任均非良策。因此本研究按照“驯服技术逻辑，捍卫人的主体性”的务实路径，对人机亲密关系中可能存在的伦理问题提出了建议。人机情感交互的未来，不应是替代与隔绝，而应是增强与共生。其发展的最高准则，不在于技术能否无限逼近于人，而在于其能否始终服务于人的福祉，助力于真实人际关系的深化而非疏离。这需要开发者、规制者、教育者与每一位用户持续的反思、对话与共同努力。唯有如此，方能驾驭技术的洪流，使其真正流向一个更加温暖、而非更加孤独的数字未来。

参考文献：

1. [1] 曹博林, 罗炼炼. 陪伴型聊天机器人的发展特征与机制效果[J]. 青年记者，2023(02):19-22.
2. [2] Andrew K. Is AI companionship the next frontier in digital entertainment?[EB/OL].(2024-06-18)(2025-11-16). https://www.ark-invest.com/articles/analyst-research/is-ai-companionship-the-next-frontier-in-digital-entertainment
3. [3] 洪杰文, 黄煜. “制造”情感：人机情感的生成逻辑与隐匿性困境[J]. 新闻大学,2024(01):61-77+121.
4. [4] 曾一果, 王可心. 心“真”是归处：一种情感真实主义的人机亲密关系阐释路径[J].现代传播(中国传媒大学学报),2024,46(09):123-131.
5. [5] 庞亮, 易茜. 人机传播中的“背叛”：社交机器人的伦理困境[J]. 中国新闻传播研究,2022(04):16-28.
6. [6] 马晓悦, 孟啸, 王镇, 等. 网络突发事件中社交机器人情感的交互式影响机制研究[J]. 图书情报工作,2021,65(08):74-84.
7. [7] 罗昕. 聊天机器人的网络传播生态风险及其治理——以ChatGPT为例[J]. 青年记者,2023(07):91-94.
8. [8] 新雨,赵月枝, 吴畅畅, 等. 生存，还是毁灭——“人工智能时代数字化生存与人类传播的未来”圆桌对话[J]. 新闻记者,2018(06):28-42.
9. [9] 韩秀, 张洪忠,何康, 等. 媒介依赖的遮掩效应：用户与社交机器人的准社会交往程度越高越感到孤独吗？[J]. 国际新闻界,2021,43(09):25-48.
10. [10] 刘海明, 李佳怿. “相信一段程序”：ChatGPT生成内容的认知途径与算法信任建构[J].传媒观察，2024(05):71-79.
11. [11] 甘莅豪, 王豪. 从情感投射到数码情感：数字景观中人机交往的情感嬗变[J].现代出版，2024(03):27-38.
12. [12] 宋美杰, 刘云.交流的探险：人—AI的对话互动与亲密关系发展[J]. 新闻与写作,2023(07):64-74.
13. [13] 张爱军, 徐潇潇. 社交机器人“类人性”对身份政治的干预[J]. 学术界,2023(11):56-6
14. [14] 陈昌凤. 人机何以共生：传播的结构性变革与滞后的伦理观[J]. 新闻与写作,2022(10):5-16.
15. [15] 赵海明. 基于“人—机”关系视角的具身传播再认识——一种媒介现象学的诠释[J]. 新闻大学,2022(07):14-26+116-117.
16. [16] 赵立兵. 技术“道德化”：人机传播伦理规约的内在逻辑[J]. 青年记者，2023(02):28-31.
17. [17] 杨翠芳, 任祎曼. 智能传播时代技术具身的伦理风险及其化解之道[J]. 湖北大学学报(哲学社会科学版),2023,50(01):142-151.
18. [18] 毛湛文, 郑昱彤. “人机对话”的理想与现实: 新闻聊天机器人应用的创新、困境及反思[J]. 青年记者,2020(22):34-37.
19. [19] (美)雪莉·特克尔. 群体性孤独[M]. 周逵, 刘菁荆,译. 杭州: 浙江人民出版社,2018．