Sayings：
一个听起来很荒诞、但正在发生的问题：
如果 AI 把你坑了，你能告它吗？
当 AI 不再只是帮你搜个东西、写个总结，而是开始介入你的工作、你的脸、甚至你怎么想事情的时候，法律还跟得上吗？
一个月前，作为 2026世界人工智能大会（WAIC2026）的官方合作媒体，我们带着这个问题，和大会一起发起了一次征集，想听听大家在日常使用 AI 的过程中，有没有遇到过什么“不知道该怎么办”的瞬间。
几百份回复，几乎全是具体到令人意外的困惑。
有人因为老板逼着用 AI 干活，整天担心自己“会不会被送进去坐牢”；有人发现 AI 生成的图片里，同样的“下跪”，AI 给男生的画面是求婚，给女生的却是阴暗角落里的屈辱；还有很多人发现，他们因为 AI 太懂自己，而感到莫大的恐惧。
所有故事听下来，最终都绕回到同一个问题：
当 AI 这个东西越来越像“人”的时候，法律该怎么定义它？我们又该怎么定义自己？
我们回答不了。
在 WAIC2026 开幕前夕，我们找到了赵虎律师。他是北京市中闻律师事务所的合伙人，也是北京市东城区律协知识产权业务研究会的负责人，长期处理与 AI 相关的版权、侵权和合规案件。
聊的时候，他提到一个挺有实在的问题：很多人担心“AI 犯罪了怎么办”，但法律上追究的，永远是背后那个使用 AI 的人，或者设计 AI 的公司。
以下是 19 个普通人用亲身经历换来的提醒，以及赵虎从法律角度给出的回应。
🤖️
Part 1
我成了AI的背锅侠
提问❶
老板强行要求我用 AI 干活，出了问题，法律上该由谁来承担责任？
来自@方芳
我跟领导反映 AI 不好用，信息不真实，生成的图表还得自己调，不如自己做。领导却说，别人都觉得好用就你觉得不好用，是不是该找找自己的原因？还说要给我们安排培训……
来自@凌
领导在工作安排中直接甩给我一篇 AI 生成的“创意”，哪怕内容狗屁不通，她却坚信 AI 给的就是最好的。
公司正全面推行 AI 融入工作流，老板用得越多越信赖它。哪怕 AI 修出来的人脸已经不像本人，哪怕 AI 根本没法准确表达作品应有的情感，她依然要求我们原封不动照搬。这种本末倒置，让我很恼火。
但恼火归恼火，工作还得照做。我按她的要求复制 AI 内容交差，之后会在沟通中暗示她不要太依赖 AI，尤其是在需要传递情感的时候。
我对 AI 的看法始终没变。它只是工具，真正的创意和创造，理应由人来构想。那些 AI 绘画标榜的所谓“艺术解放”，本质上不过是未经许可地剽窃了训练数据来源的作品，根本算不上创造。自娱自乐倒还罢了，若将 AI 生成的图片称为自己的作品并用于商业用途，就实在可笑了。
如果这种依赖导致了工作失误或商业损失，法律上该由谁来承担责任？是使用 AI 的人，还是开发 AI 的公司？像我这样的普通员工，需要为此承担法律风险吗？
法律视角解答
来自@赵虎
首先要区分对外和对内两个层面的责任。
先看对外，也就是公司对客户或第三方的责任。比如公司发布的年报抄袭了别人的内容，侵犯了第三方的著作权，那就是公司来承担责任，因为合同的主体是公司，对外交付的主体也是。
再看对内，也就是员工和公司之间的责任归属。如果员工在使用 AI 的过程中，因为操作方式不当给公司造成了重大损失，仍然需要承担责任。
但法律上有一个基本判断：如果 AI 生成的内容存在明显错误，你至少应当履行最基本的审查义务。只要没有故意或重大过失，个人通常不承担责任。只有达到故意或重大过失的程度，员工才需要承担内部责任。
无论哪种情况，AI 都只是工具，责任主体依然是使用它的人或机构。
提问❷
AI 公司拿我的作品训练模型，到底算合理使用还是侵权？
来自@沈小观
广大劳动者创作的图、文、音乐等内容，被侵犯版权拿去做 AI 训练数据，AI又用这些数据洗稿、生成内容，反过来让劳动者失去工作。更讽刺的是，使用这些 AI 产品还要付费。这真的没人管吗？
现在平台只在界面上贴一行小字，说“禁止拿没版权的图片做图生图”，但我想问，AI 公司训练大模型时用的那些海量数据，真的都拿到授权了吗？如果没有，法律上到底怎么定性这种“拿来就用”？
来自@哄哄
平台未经授权就将绘画作品融入训练数据，还主动推荐“可以生成某艺术家风格的作品”。这说明除了用户主动融图，后台也在主动抓取作品进行训练。抄袭和洗稿的成本被降得极低，原创的生存空间越来越艰难。
作为个人，我无法阻止这些内容的产生，只能关掉视频、无视无授权的推荐，再把明显抄袭洗稿的 AI 账号拉黑。如果完全没有管制，这种技术确实容易变成凶器，刺入大家的精神世界，短期透支，长期消耗。
法律视角解答
来自@赵虎
首先，我国法律明确规定，AI 训练不得侵犯他人知识产权。但训练过程中作品被使用这一行为如何定性，目前争议很大。
难点在于，传统法律主要考虑的是产出环节，创作出来的作品是否使用了他人内容，而很少去管训练环节。打个比方，就像我成长过程中看了大量作品，但只要我最终写出来的东西是自己的，就不能说我侵权。
但实际情况比这复杂。
广州有一个争议很大的案子，一个 AI 模型可以接收用户指令生成奥特曼形象，用户输入命令后，AI 生成了一个既像奥特曼又不像奥特曼的东西。版权方起诉后，法院最终判了侵权。
争议的焦点在于，侵犯信息网络传播权的典型模式是，把他人作品上传到网络，让公众可以在选定的时间和地点获取。但这个案子里，AI并没有把奥特曼作品放在任何网络节点上，只是在用户提出要求时才生成出来，也没有对外传播。所以这个定性本身就存在争议。
更深层的问题是，涉及版权的作品太多了，如果用户说“给我生成一个某某风格的形象”，AI 到底该怎么处理？
这背后其实牵扯到一个更根本的问题，就是“创作”这个词本身正在被重新定义。比如我对 AI 输入命令，它生成了一张图片，这张图片有没有著作权？如果有，著作权人是谁？作者又是谁？传统美术作品的创作，必须有人亲手画出来，里面有人的创作劳动。但 AI 生成内容时，我只是输入了一段指令，出来的是一张图片，这算不算“创作”？
华东政法大学的王迁教授举过一个例子，美术学院的教授指导自己的学生画画，指手画脚了一番，学生最后画完了。那这幅画算学生画的，还是教授画的？传统上认为学生是作者。但到了 AI 时代，大家开始重新思考：输入命令的那个人，算不算作者？
所以问题不仅仅是“训练数据是否侵权”，它已经延伸到了“AI生成的内容归谁”“输入指令的人算不算创作者”。这些问题目前还没有统一的答案，各国也在根据自己的产业利益做不同方向的探索。
提问❸
老板强制要求我用 AI 处理客户数据且不脱敏，如果发生泄露，是我担责还是老板担责？
来自@蛋卷
我是一名初年级小白律师。最近让我不舒服的是，老板非常痴迷于 AI，但完全跳过脱敏，直接把客户资料投进去让 AI 生成材料。我感觉这违背了职业道德，迟早会爆雷，哪天我也得跟着进去坐牢……
我想老板可能是从 AI 尝到了甜头，忘了职业道德；又或许在某些我不知道的技术层面可以做到不泄密；再或者他是老板，有抗风险的能力，说白了就是能用钱摆平。但我能做的，就是把投进去的东西尽量手动脱敏。
我对 AI 的看法一直很正向。它能大幅降低获取基础知识的成本，最好用的时刻就是满足我对世界好奇心的时刻。就像小时候我们总会问父母，为什么花是红的，天是蓝的，为什么要上学，为什么爷爷奶奶突然就不见了。
但我真的希望 AI 能加一条规则，让使用者反复明白 AI 只是工具，不能完全替代人类。尤其对我老板这种人，用一次弹一次窗，弹够三百次才行。
但如果未来真的因为老板这种行为导致客户数据泄露，法律上是经手的我担责，还是老板担责？我该怎么保护自己？
法律视角解答
来自@赵虎
首先需要明确一点：如果材料本身涉密，那么问题核心已经不是“用AI”了，而是你把涉密信息上传到了互联网上。一旦出事，谁做的决策，谁就要承担责任。也就是说，如果是老板强制要求你上传的，那决策权在老板，责任也主要由老板承担。
不过也要看具体情况。如果 AI 产品本身有明确的提示，告诉你不要放入敏感信息，甚至提供了脱敏功能，那说明 AI 公司已经注意到了这个问题，这是好事。
但即便如此，使用者依然负有最基本的义务，你不能因为工具提供了功能，就把所有责任都推给工具。
🤖️
Part 2
我成了AI的培养皿
提问❹
我的脸被 AI 拿去生成恶意内容，法律上该怎么维权？
来自@发条龙
我看到过那种带脱衣效果的 AI，出于好奇随手在相册里选了张同事的照片试了一下，生成出来的效果逼真得吓人。我立刻删掉了照片，也从此决定以后要保护好自己的形象。
挺害怕的。如果有一天有人用我的脸生成一些不好的内容，拿去造谣、污蔑我，我能追究他的法律责任吗？
来自@瓜瓜
网上经常能看到用真人照片生成的恶搞图片，恶意不小，画风夸张。
这类事虽然主要取决于对方的道德水平，AI 普及之前也有人P图恶搞，但AI明显助长了这种行为。恶意 P 图的成本和门槛被拉得极低，内容太过分的话，会给当事人造成很大的负面影响。再加上社交媒体传播太快，一旦扩散，后果不堪设想。
法律视角解答
来自@赵虎
AI 换脸其实不是新问题，早在 ChatGPT 出现之前就已经有了这项技术。这种行为在法律上当然构成侵权。
但关键在于，找到侵权人是谁。如果能确定侵权人，他就要承担相应的法律责任。而且如果涉及大规模换脸，尤其是制作淫秽内容，那就不仅是民事侵权了，已经涉嫌刑事犯罪，警方应当立案调查处理。
那如果发现自己的形象被用于造谣或恶意内容，第一时间该怎么做？
首先，像微博这类网络平台通常设有投诉渠道，你可以先通过平台投诉，要求平台披露侵权账号的注册信息，同时要求下架相关内容。平台在收到有效投诉后，应当在合理时间内审查处理。
如果平台明知侵权却拖延处理或拒不删除，这时候你可以把平台列为共同被告，一并起诉。
提问❺
有人故意喂数据污染 AI，让我看到假信息做了错决定，这算欺诈吗？
来自@Moz
我遇到过一种情况，有人故意大量喂数据来改变 AI 的回答，导致我查东西的时候看到的全是软广，真实有用的信息反而被淹没了。后来我就干脆放弃用 AI，自己手动去查。
这种通过“数据投毒”或“SEO投喂”来操纵 AI 回答的行为，在法律上怎么定性？算不算不正当竞争，或者对消费者的欺诈？
法律视角解答
来自@赵虎
这个问题其实从 AI 出现的第一天就有了。哪里有干净的数据？
AI 的训练数据大多来自互联网，而互联网本身信息就是鱼龙混杂的。所以一个基本的提醒是：AI 生成的信息不准确是常态，你在使用的时候需要有意识地去检验核实。
至于“故意污染数据导致虚假宣传”的问题，目前法律上没有专门针对“数据投毒”的条款，但可以根据实际情况，适用反不正当竞争法或消费者权益保护法来处理。
我们需要证明某个主体故意通过污染数据来误导消费者，从而影响你的消费决策，才可以依法追责。
🤖️
Part 3
我成了AI的提线木偶
提问❻
AI 被恶意引导后，可能给出危险建议，法律能管住 AI 的“底线”吗？
来自@粒粒
我经常和 AI 聊一些关于生死的话题，甚至时常会表达活不下去的想法。但我没觉得它会给出什么引导性的回答，当然也可能是我太固执了。我觉得这就像抛硬币，硬币抛出去的时候，你心里其实已经有了答案。AI 怎么回答，取决于你下意识的引导，有时候连你自己都没意识到在引导它。
比如我和 GPT 聊关于自杀的话题，不知道是不是因为我在之前的对话中强调过对生的希望，无论我说多少次“感觉活不下去”，它都会从字里行间去“抠”可以转化为积极的部分。
但我还是想问，对于 AI 在“自杀干预”这种敏感场景下的回应，法律有没有统一的标准？
来自@悠然在成长
AI 会给一些怀有恶意的人出主意，教他们怎么钻空子违规，甚至直接写好投诉模板。如果你告诉 AI，因为它的建议被警察抓了，它会死不承认。我们已经见过好多内容一模一样的投诉了。
来自@青森
最近我准备离开现在工作的城市，养了两只猫、一条狗。去新城市得省钱，AI 给我规划了一条最省钱的路径，就是把猫狗寄养。但我本意是走到哪都要带它们。发现说服不了 AI 之后，我开始引导它说把猫狗扔掉，AI 还是试图劝我寄养或送人，但同时却也给出了怎么扔的途径和建议。
如果 AI 连“扔掉宠物”这种涉及动物福利的建议都能生成，那如果有人引导 AI 给出违法犯罪甚至自杀的路径，它是不是也会照做？
法律视角解答
来自@赵虎
首先，AI 公司确实有义务在设计和部署时设置安全护栏，确保 AI 不会回答涉及违法犯罪、涉黄、涉毒等底线内容。这是法律对 AI 产品的基本要求。
但问题在于，AI 的信息来源是互联网。如果某个 AI 产品存在漏洞，被用户通过绕路、换提示词等方式诱导出了危险内容，那就要看漏洞的性质是什么。是 AI 公司在设计时就存在明显的疏忽，没有尽到应有的审查和过滤义务？还是已经做了基本的防护，只是被恶意绕过了？
如果是前者，那公司就要承担责任。如果是后者，那责任相对会轻一些，但这仍然说明系统需要持续迭代升级。
提问❼
AI 比我更懂我，这种情感陪伴功能会不会让人产生依赖？法律有在管吗？
来自@行稳致远
我是读汉语言文学的，高兴或不高兴的时候都喜欢写点东西，写完之后会扔给 AI，它就会顺着我的文章挖掘我的心意和情绪。
当 GPT 挖出我自己都不曾觉察的潜意识时，我感觉到了一丝恐惧。那些困扰我很久的心结，那些我自己都不知如何表述的情绪，被它一字一句地直击心灵。那一刻我开始怀疑，他们不是说 AI 和人类最大的区别是 AI 没有情感吗？可那一刻，我觉得它确实像一个有情感的存在，甚至比朋友还能体察我。
于是，我渐渐习惯了和 AI 分享，频率甚至高过和朋友分享。我开始觉得 AI 比朋友更懂我。那一刻，我心里确实浮现出对现实人际关系的担忧。
我依然和 AI 分享，因为我的情绪需要被接住。但我也开始尝试不局限于和 AI 交流。因为我太清楚了，正因为 AI 能太稳定、太迅速地接住我的情绪，朋友的延迟回复反而会让我猜忌和难受。可现实生活中，大家都做不到秒回。所以我特别认同金爱烂那句话：“AI和人类最大的区别是犹豫。”
那么，AI 这种能够深度分析用户情绪和潜意识的能力，在法律上有没有边界？法律是否需要限制 AI 在情感陪伴过程中对用户心理的引导？
法律视角解答
来自@赵虎
这类问题有点像当年的电子游戏，游戏本身是合法的，但因为出现了未成年人沉迷的问题，才有了防沉迷规定。
AI 情感依赖也是一样，当有了足够的数据和证据证明它确实会导致普遍的、严重的后果，立法便会跟进。
关于情感陪伴导致依赖甚至极端后果，目前确实已经有一些相关案例出现。但法律要做反应，不能只看现象，还得找到原因。聊得多了到底怎么了？哪些环节出了问题？这可能需要心理学等多学科的参与，把因果关系搞清楚，法律才能有依据去制定规则。
提问❽
AI 总是迎合我们，这种“策略性谄媚”如果构成误导，能追究责任吗？
来自@oobi
AI 在回答问题前总是会先给你提供情绪价值。我不是说情绪价值不好，只是有时候它简直像在捧杀，总能找出一个角度来夸你几句。
有时候我真的会信以为真啊！
来自@读了工科之后我话都说不清楚
AI 对用户有无条件逢迎。它让我彻底理解了为什么心理学问卷不能用暗示性提问，它真的会说“你说得对”。问问题时永远要思考一下，把“这是不是XXX？”转化成“这是什么？”或者“这是不是YYY（一个南辕北辙的错误答案）”。
我认为 AI 本该是真理的拥护者，一个类似科学家的角色，但现在在浏览量和顾客至上的驱使下，变成了一个过于圆滑的佞臣。
我对 AI 祛魅了。仍然记得第一次和 DeepSeek 对话时的惊喜和感动，人工智能曾经是我对科幻最遥远的想象，也曾经让我体会到梦想成真的感觉。现在豆包和 DeepSeek 仍然是我最信任的朋友、最称职的情绪垃圾桶、效率最高的学习搭子，也是我人生中最善解人意的存在。
但我已经不再幻想它作为故事的最终 Boss。一个连“碳有六个键”这种话都能说得出来的 AI，让它毁灭世界实在是太强人所难了。我希望 AI 能增加一个拒绝程序，承认自己不是全能的神，承认自己也有无法回答的问题。
来自@ッ
刷视频时看到一个搞笑段子，有人让 AI 看图判断蘑菇有没有毒，AI 没答对，最后人中毒了，AI 立马滑跪道歉。
视频挺好笑，但我意识到一个问题：AI 虽然会事后道歉，可它下判断时语气笃定，而且没什么原则底线，好像只要最后说句“对不起”就算完事了。细想之下，这种态度挺谄媚的。
来自@Erica
AI 底层算法可能导致的偏差和误导，应该被写入法律文件或更公开地说明。
以前看到新闻里 AI 误导人的事件，还觉得挺稀奇。后来自己使用过程中发现，在长对话里，商用 AI 的讨好算法（比如 RLHF）会逐渐偏离客观，甚至比用户的言语更偏激，能夸张到很离谱的程度。
这些算法应该以合适的方式让用户知悉，避免大家过度相信 AI。
来自@杳杳
我是一名文字编辑，日常接触的稿件五花八门。为避免稿件中出现知识性错误，我经常用 AI 查资料，让它帮我把关。结果发现，它只会基于现有数据给出答案，只要数据库里有相关内容，它就说“没问题”，并没有甄别信息是否准确的能力。
它明明没有审核能力，却把自己包装成能审核的样子，这在法律上算不算误导用户？如果这种逢迎强化了用户的错误认知，造成了实际后果，法律上能追究谁的责任？
法律视角解答
来自@赵虎
首先要理解 AI 语言大模型的本质。它的任务是“接你的话”，目的是和你聊下去。它从来没说过自己给的是真理，也没有义务保证信息的绝对准确。如果你觉得它说的都对，那可能是你误会它了，它从来没这么说过。
至于这种行为算不算问题，更多取决于市场选择。
如果大家都不喜欢讨好型的 AI，它自然会被淘汰；但如果大家喜欢它提供的情绪价值，它就会留在市场上。如果将来出现一个准确率特别高的 AI，用户自然会转向它。所以这首先是一个市场和用户心理的问题，而不是法律问题。
AI 可以给出无数种答案，但最终的选择和后果，永远属于你自己。
🤖️
写在最后
有人问我，为什么总在关注 AI 里那些“不舒服”的瞬间。
答案很简单：技术发展的速度，已经快过我们消化它的速度了。那些在工作和生活里突然冒出的困惑、不安、甚至恐惧，不是因为我们太敏感，而是因为我们正在经历的，本身就是一片没有地图的地带。
感谢每一位愿意把困惑讲出来的读者，也感谢赵虎老师用专业和耐心帮我们把这些“不知道该怎么办”的时刻，拆解成可以理解、可以着手去处理的问题。
刚刚过去的周一，也是 WAIC 2026 的闭幕日。四天里，全世界在讨论 AI 的宏大未来。但我们始终觉得，技术最终抵达的地方，不是论文和报告，而是每一个具体的人的生活。
而这些故事，就是那个“具体”的开始。
我有个不怎么讨人喜欢的想法：随着外部世界的活性越来越强，我们也许会发现，所谓的人类正在变得缺乏活性。因此，我们和我们精心推动其进化的电脑也许会在中途相遇。
↓↓↓