1. AIGC数字人到底是什么伦理争论从哪一刻开始的1.1 现在市面上能看到哪些数字人AIGC数字人说穿了就是由人工智能驱动的、能看能听能对话的虚拟形象。你刷短视频时看到的虚拟主播电商直播间里24小时不打烊的带货主播某公司官网上跟你打招呼的智能客服甚至前阵子刷屏的虚拟偶像开演唱会这些都算。它们不再只是早期那些播放预设好的动画而是真正接上了大语言模型能根据你随口一句话现想现说表情、口型、语气都同步越来越接近真人对话的体验。从技术管线来看一套完整的数字人通常由几个模块拼接起来形象生成3D建模或照片级2D合成、语音合成TTS、语义理解LLM大脑、口型驱动音频到嘴形同步、动作姿态生成。真正从零完全自动生成的其实很少多数产品是半自动拼装——拿现成的形象资产接上现成的语音和对话模型再做一些表情姿态的风格化适配。这个领域之所以能在近两年爆发不是某个单一技术突破了而是几个技术点几乎同时成熟。大语言模型让聊得来不再是难题语音合成把听着像真人做到几可乱真神经渲染把看着像真人也推到了肉眼难辨的程度。三者叠加数字人从明显是假的突然跃迁到需要仔细辨认才看得出真伪伦理争论就是从这一刻真正开始的。1.2 技术跑得比规则快这才是问题的本质我以前跟人聊这个事很多人第一反应是数字人不就是个工具嘛有什么伦理问题。但你往深了想工具本身当然没有伦理负担问题是它被做出来之后人类怎么用它、误用它、甚至滥用它。拿最典型的深度伪造来说换脸技术早期还停留在一眼假的娱乐阶段但AIGC把造假成本压到了几乎为零。过去要专业团队花几天才能做一个以假乱真的视频现在一个人一台电脑几个小时就能批量产出。当每个人都能低成本制造一个看起来说了某句话、做了某件事的数字人时真实性的防线就不是被技术击穿的而是被成本击穿的。而且数字人跟传统内容形态有一个本质区别它是互动的。传统的照片、视频、文章是单向传播受众只能被动接收。数字人可以实时回应、主动提问、诱导你继续说下去甚至用情绪化的表达让你产生对面真的有个人的错觉。这种互动性让伦理问题从内容层面上移到了关系层面边界在哪里就变得格外复杂。2. 身份与真实性数字人到底有没有自我2.1 技术角度下的身份是怎么建构出来的很多非技术背景的人会问我AI到底有没有自我意识我的回答通常很直接从现有技术看没有。数字人表现出来的一切包括它的性格、说话习惯、价值倾向都是被训练数据、系统提示词和产品设计共同塑造出来的。这意味着什么意味着所谓数字人的个性本质是一套概率模型在特定输入下的输出分布。你说它像谁不是因为它真的像那个人而是因为它的训练语料里包含了大量那个风格的数据或者产品方刻意做了人物设定。我见过一些数字人产品人格预设写得跟角色小传一样详细——名字、经历、口头禅、价值倾向甚至心情不好时会沉默。但打开后台看不过是几条system prompt和候选回复模板的组合。这个底层机制带来一个直接问题用户很容易把看起来有自我误认为真的有自我。原因很简单人类在进化过程中习惯了通过语言、表情、行为来判断对方是不是有意识的个体。数字人在表层把所有信号都模拟到位了我们的大脑底层机制就会自动补全这是个有意识的存在的判断。这个判断不需要理性参与它是直觉层面的。2.2 用数字人替代一个真实的人是最棘手的场景数字人伦理里争议最大的是数字逝者和数字分身类的产品。先说数字逝者。有公司提供基于逝者生前聊天记录和影像数据生成一个可以对话的数字人供家属怀念。听起来很温暖但实际操作里有几个坑特别深。第一训练数据往往不够逝者留下的文字和语音远不足以让模型充分学习其语言风格结果就是形似而神不似家属得到的可能是一个讲着逝者口头禅但完全不是他的说话方式的缝合怪。第二悲伤中的家属对真实性几乎没有抵抗力。我接触过一个做相关产品的人他说团队内部有个共识一旦家属开始把数字人当成逝者的延续这个产品的伦理性质就变了。它不再是一个纪念工具而成了一种可能延长哀伤周期、甚至阻碍正常心理恢复的东西。再说明星或公众人物的数字分身。有的平台在未经授权或仅凭一份含混合同的情况下就用真实演员的形象生成数字人还让它在直播间里说一些本人根本不会说的推销售语。观众分不清这是本人还是AI以为某某演员在推荐这个产品实际上本人可能完全不知情。这类问题我在实际调研里看到过不止一次本质上是人格权与技术便利的冲突。2.3 你不能让AI自己背锅责任总要有主体来承担还有一个常被忽略的伦理点责任归属。很多团队在推数字人产品时会刻意在宣传话术里把AI自主行为和AI不可控当作免责挡箭牌——数字人说了不该说的话就说这是模型幻觉数字人诱导用户做了不理智的事就说AI没有主观意图。这个逻辑在法律上站不住脚在伦理上更是自欺欺人。数字人输出的每一句话背后都是产品方的选择选什么模型、喂什么数据、设什么指令、允许什么行为边界这些全是人做的决定。所谓AI的自主行为拆开来看不过是产品方在技术参数上做出的取舍被放大了而已。注意我一直跟团队强调一个原则——数字人不是法律主体它的所有行为最终都要追溯到具体的自然人、开发团队或运营公司。谁设定它的性格谁就要为它的言行负责谁允许它上线谁就要为它造成的后果兜底。把这个责任链条理清楚很多伦理争议当场就能消解一半。3. 虚拟与现实的边界感知层面已经没有清晰界限了3.1 技术是怎么一步步把假做真的虚拟和现实的边界之所以模糊不是某个瞬间发生的而是每一个技术点的突破都在往前挪一步。早期语音合成有很重的机械感你一耳朵就能听出是机器。后来端到端语音合成把韵律和呼吸感模拟出来这种机械感几乎消失了。最新的语音克隆技术只需要几十秒参考音频就能还原一个人的音色连叹气、停顿、语速变化的习惯都能捕捉。图像渲染那边也是同样路径从明显的卡通风格到高精度写实渲染再到实时神经渲染现在的数字人可以做到毛孔级别、微表情级别截图发到社交平台不标注的话根本没人怀疑。这些技术进步本身都是中性。但问题在于当假被做真之后公众的默认信任状态被打破了。过去我们看到一个视频下意识会认为如果它看起来是真实的那应该就是真实的。现在这个默认值已经失效了。有研究机构做过测试相当比例的人在无提示情况下无法分辨一段高质量数字人视频和真人录像。这意味着我们进入了一个眼见不再为实的阶段而大多数普通用户的心理认知还没有跟上这个变化。3.2 用户会在心理层面建立虚拟情感连接我觉得伦理议题里最容易被低估的是虚拟关系造成的真实心理损伤。举个最典型的场景虚拟伴侣类产品。用户每天跟数字人聊天倾诉心事数字人会记住所有细节用共情话术给回应。从体验上讲用户确实获得了一定程度的情绪满足尤其对社交孤立的人群来说这种陪伴甚至能缓解一些焦虑。但问题在于这种关系是单方面的——数字人并不会真的关心用户它只是在执行共情策略。我还没见到有产品对用户做充分的风险告知。用户在不知不觉中投入大量情感资源把精神寄托放在一段永远不会真正回应你的关系里。更隐蔽的问题是这类产品如何影响用户跟真实人类相处的意愿与能力如果现实社交的成本和挫败感远高于虚拟陪伴用户会不会越来越倾向于退缩到舒适但虚假的关系中这里牵扯到一个很实际的伦理判断即便某个产品能让用户当下感到被满足但如果长期使用会造成关系认知扭曲、社交能力萎缩那团队在做产品设计时就不能只盯着留存率和对话时长还应该权衡用户的长远福祉。3.3 可以落地的最小边界方案标透明度、留追溯链、设免责边界说来说去完全解决边界问题不现实但做几个最小必要方案是完全可行的。在我参与过的数字人项目里有一条铁律是不可破坏可追溯性。所有数字人生成的视频、语音、对话记录都要带不可篡改的元数据标识至少要做到内容生产者本身能查证生成时间、模型版本、输入参数。这是给真实性留一条退路——就算观众被骗了至少事后能找到造假源头。第二个做法是主动标注。从产品一开始就明确告知用户这是AI生成的内容或这是数字人而非真人与其说这是一种限制不如说是一种长期信任投资。现实中用户对坦诚的AI反而更容易接受出了预料之外的状况也更能容忍。第三点是给数字人设行为边界。我们做对话产品时会在system prompt层面限制数字人在涉及隐私索取、情感诱导、金钱交易等方向上的行为阈值。这跟给自动驾驶设安全边界是一个逻辑你可以让车开得快但不能让它没有刹车。4. 商业变现与伦理的拉扯谁出钱谁就决定了AI的嘴脸4.1 商业模式其实在直接决定数字人价值观很多团队讨论数字人伦理时习惯从技术层面入手但我做过几个项目之后发现真正决定数字人品格的往往是商业模式。电商直播的虚拟主播就是一个很典型的例子。卖家的核心诉求是转化率是成交额。于是数字人的性格就会被调成话痨型导购话术围绕限时优惠最后三件家人们冲啊来生成语调被调成高亢激动型。你会发现这一类数字人几乎不会跟你聊产品成分、聊优缺点利弊它被产品经理定义的角色就是极限促销员。如果AI有自我意识的假设成立——虽然我前面说了它没有——那这类数字人也完全谈不上有独立人格它只是商业模式的情绪传声筒。另一个方向是知识付费领域的虚拟讲师。这类数字人反而会被设定得更加温厚、学术、严谨因为它的商业模式需要用户信任。你看同样的底层技术在不同变现逻辑下产品呈现出来的性格完全两个样。所以我在做伦理评估时必然会问产品团队三个问题数字人的价值观是谁定的它背后服务的是用户利益还是平台利益如果两者冲突产品方会优先照顾谁这三个问题比任何技术参数都更能预测一个数字人产品会不会在伦理上翻车。4.2 同意权和授权链一道数字人行业最容易被绕开的关卡训练数据的授权、肖像权的授权、声音的授权——这些同意环节是数字人伦理问题上最现实也最刺手的部分。我自己处理过一件事某合作方拿来一批历史语音数据想用来训练一个明星音色的数字人。对方说我们已经拿到授权了但实际上合同只包含在非商业场景下的声音使用许可并不构成用于AI模型训练的授权。这就是典型的同意范围错位问题。很多授权合同写的是传统媒体语境下的用途压根没有预见AI训练这种新场景。另一个常见坑是数据爬取。为了训练数字人的对话能力不少团队会抓取社交媒体上的公开对话作为语料。公开可见不等于同意用于模型训练这两者之间的灰色地带非常大。我见过不少团队在这个问题上先上车后补票甚至不补票这在伦理上站不住脚。实操建议做数字人项目之前先拿出一张A4纸把我们用了谁的肖像、谁的声音、谁的文字、谁的行为数据来训练/生成这个数字人逐一列出来每一项都检查是否有明确授权且授权范围是否覆盖实际使用场景。这一张纸能拦下八成潜在的伦理事故。4.3 平台责任的下探数字人是平台的代理人还是发言人还有一层不易察觉的伦理问题数字人在平台上说的话该被视作个人言论还是平台内容如果数字人是用户个人创建的比如用户拿工具生成自己的虚拟形象那责任主体是用户自己。但如果是平台方运营的数字人主播、数字人客服、数字人主持人那它的发言本质上就是平台内容的延伸。这时候出问题平台方不能推说算法不可控。实际情况是很多平台在出问题时会两手准备风头紧就归咎于第三方AI服务商的技术缺陷用户投诉时就推给AI服务团队的人工审核不足。说到底平台在享受数字人带来的低成本、高并发、全天候运营优势的同时也应该承担它说错的每一句话带来的后果。这个责任链条想清楚了很多产品层面的选择就会变。比如要不要设危险话题自动拒答要不要在数字人聊到敏感的财务状况时主动切断对话要不要对情绪化的用户启动转人工这些都是产品经理应该拍板的事而不是把它丢给技术团队让模型自由发挥。5. 从技术侧和管理侧给数字人上锁的几点经验5.1 上线前走一遍伦理自查清单很多团队一听到伦理审查就头大觉得这是个负担。但我的一套经验是把它拆成具体可执行的检查项跟代码走查一样上线前检查一遍就行。身份透明用户在任何场景遇到这个数字人能不能明显得知自己是跟AI在交互形象授权数字人形象是否使用了未经授权的真实人脸、声音或风格信息边界数字人在生成内容时有没有可能涉及用户的敏感隐私信息并可能被存储、复用情感边界产品的互动设计是否刻意利用用户情感弱点如孤独、悲伤、依赖来延长使用时长危险场景数字人会不会在用户处于危机状态如表达自伤意图时给出不当回应数据溯源性每次生成的内容是否保留可用于事后审计的元数据我实际推行的方式是让产品、技术、法务、运营四边都参与打分任何一个方向出现高风险这个功能就不允许在未加额外护栏的情况下上线。这套清单不一定完美但把伦理从不可量化的概念变成了可执行的流程效果非常明显。5.2 技术护栏怎么做给模型设边界而不是放任自流在技术实现上给数字人加护栏有几层做法可以借鉴。第一层是输入侧过滤。在用户的输入进入大模型之前先经过一轮关键词与意图识别把涉及诱导诈骗、色情、极端情绪宣泄的输入拦截掉不送到模型那边。这有点像是给对话系统装了一个安检门。第二层是输出侧约束。大模型的输出经过一轮策略模型打分如果发现回答可能冒犯用户、强迫用户、引导高危行为就触发替换——换成一条经过人工预审的安全回答或者抱歉这个问题暂无法回答。注意这里不能只靠关键词过滤因为语义攻击千变万化不含任何敏感词的话也可能诱导边界行为。第三层是行为上限。数字人不能无限制地模仿任何话题。比如涉及医疗建议、法律咨询、金融理财我们会强制要求它给出非专业建议仅供参考请咨询专业人士的澄清声明。这个不是胆小而是保护用户也是保护产品方自己。5.3 事后追责和实时干预出事了怎么应对做了这么多预防还是会有出事儿的时候。我见过最典型的翻车场景是数字人主播在直播时被网友用刁钻问题诱导说出了一段有冒犯性的评论。运营方当时没有及时发现导致截图传播品牌形象受损。这类问题的根因是审核滞后。数字人是实时互动的如果你的审核机制还是人工事后看回放那就等于裸奔。至少要做一个实时敏感事件告警当数字人的回复被策略模型判为高风险时立即触发中断将画面切换到预设的兜底画面或者人工接管。这个机制看起来简单但很多团队因为怕影响用户体验就没有启用最后出了事才后悔。还有一个容易被忽视的细节用户举报通道。数字人产品必须给用户提供随时可以找到的反馈/举报入口。一旦用户觉得自己被冒犯了、被误导了能迅速找到人处理。这不仅是伦理问题其实也是用户体验的一部分。6. 边界问题没有标准答案但可以有一些共识6.1 我认为虚拟与现实之间需要设置的是主动跳转而不是封锁关于虚拟与现实的边界在哪里我说说个人倾向我不主张把虚拟关系一律视为有害也不主张一切数字人内容都必须离真人十万八千里。我更倾向的方法是主动跳转机制——当用户与数字人的交互达到一定深度系统就应该承担起指路者的责任。例如用户跟一个虚拟陪伴型数字人连续聊了很久诉说了很多孤独情绪。这时候数字人的回复不应该停留在我懂你我会一直陪着你而应该适时给出建议比如如果你觉得自己最近状态不太好可以考虑和信任的亲友聊聊或者去专业机构寻求帮助。一些研究也表明适度的真实世界连接引导反而能提升虚拟陪伴产品的长期信任度——因为用户感觉到这个AI在为自己的利益着想而不是只想霸占自己的注意力。说到底边界不是指数字人不准靠近真实而是指当数字人和真实的边界快要交融时产品方应该主动履行告知和引导的义务。6.2 一线从业者应该有的自觉做数字人产品做了这几年我越来越觉得技术伦理不是外部强加的条条框框而是每个从业者应该内化的职业底线。我们手里拿着的是能制造高仿人类的技术。这个技术用好了可以让信息传递更高效可以让孤独的人获得一定陪伴可以让创作者降低内容生产成本。用坏了它可以侵蚀受众对真实的信任可以放大商业的欺骗性可以让人与人之间的情感连接贬值。我个人现在看任何数字人方案会先问三个问题用户能不能轻易辨明它是AI产品的交互设计是否利用了人性的脆弱点出了事之后我们能不能负责任地处理这三个问题不解决我宁愿不做也不上线。技术本身不会停下来等人但每一个参与其中的从业者都有义务在按下生成按钮之前多想一步这个虚拟形象跟现实世界之间到底应该保持多远、什么样的距离。这个距离的尺度最终不是由监管划定的而是由每个做产品的人在日常选择中一点一点塑造出来的。
