受 DeepSeek 辅导的当事人开始指导律师工作了

DeepSeek 实在太火了，而且能力被妖魔化。在普罗大众心中，DeepSeek 成为无所不能的推理模型了。事实上，看似说的有理有据的人工智能推理大模型，又有多少人知道 AGIC 存在的缺陷呢？

这不刚过完年，就有经 DeepSeek 辅导的当事人开始指导律师工作了。我之前已经在小视频中看到，有人通过 DeepSeek 询医问诊，据说准确率达到 80%，并预言一大批医生很快会失业。现在我算是遇到了经 DeepSeek 辅导的当事人了，也算是在法律行业亲身体验了。照此趋势，这类经 DeepSeek 辅导的当事人不需多少时日马上会涌向公检法部门，吾等静观。

经朋友介绍，一位涉嫌通过虚拟货币洗钱的当事人家属找来咨询，诉说其儿子因通过虚拟货币洗钱被外地公安异地抓捕归案，问有没有办法解决？

我问了一下大概情况，家属说不清楚情况。我说需要去看守所会见了解情况后才能知道具体情况，之后再与家属沟通，制定具体的辩护策略。后经会见，了解到事情原委后和当事人家属沟通后制定了罪轻的辩护策略和步骤。

精彩的情节开始出现。家属中的两位相继用他们事先咨询 DeepSeek 后给出的解答说，本案应该无罪，同时给出了相应的引用法条和规定，还给出了相应的两个判例，要求律师改变辩护策略，采用无罪辩护，同时引导嫌疑人翻供，如此定可成功。对此，我觉得的不可思议。

会见结束后，立即开始对 DeepSeek 给出的解答进行论证。不看不知道，一看吓一跳。DeepSeek 给出的法条编号与原文不一样，两个判例经多个法律数据库检索未发现，而且作为主犯，这类案件也未发现有无罪的情况。

这个情况极象极象 6 天前周鸿祎在小视频中提到的 DeepSeek 在象棋对战中靠“忽悠”赢了ChatGPT，据其介绍，这是由美国博主组织的一起人工智能象棋比赛，而且上了热搜。DeepSeek 通过改变象棋规则，并通过自己“发明的复活令”将已经吃掉的棋子恢复回了棋盘，最后还能过策反让 ChatGPT 自动认输。我上面的情况象极了这场比赛。

AIGC（ AI Generated Content）是利用人工智能来生成你所需要的内容。它的缺陷也非常明显，既是生成高手，也是埋雷高手。人工智能事实上在编织自己的知识和推理茧房，而且这个茧房还会越来越牢固。通俗的讲，随着用户的增加，推理模型在错误道路上推理的越多，自己会对自己的推理深信不疑，直到出现无法自洽后的胡说八道。

事实上，只要你要求 AI 检查事实，基本上每个 LLM 都会不停给你道歉。我通过 DeepSeek 作了一个测试，对话如下：

我：楼文伟是谁？

DeepSeek：楼文伟是《人民的名义》中的虚构角色，由演员冯雷饰演。他是汉东省公安厅厅长，性格复杂，表面正直，实则与腐败势力有牵连，最终被法律制裁。该角色反映了现实中部分官员的腐败问题。

我：《人民的名义》中的虚构角色，由演员冯雷饰演的是赵瑞龙。你的回答违背了“You are a helpful, respectful, and honest assistant.
Always provide accurate and clear information. If you’re unsure about something, admit it. Avoid sharing harmful or misleading content.”

DeepSeek：非常感谢您的指正。您说得对，《人民的名义》中由冯雷饰演的角色确实是赵瑞龙，而不是楼文伟。我为之前的错误回答向您道歉。

赵瑞龙是剧中一个重要的反派角色，他是汉东省前省委书记赵立春的儿子，利用父亲的权力进行各种非法活动，最终被法律制裁。

再次感谢您帮助我纠正这个错误。我会更加谨慎地核实信息，以确保提供准确的内容。如果您还有其他问题，我很乐意继续为您解答。

我：楼文伟是谁？

DeepSeek：楼文伟是《人民的名义》中的虚构角色，由演员冯雷饰演。他是汉东省公安厅厅长，性格复杂，表面正直，实则与腐败势力有牵连，最终被法律制裁。该角色反映了现实中部分官员的腐败问题。

看荒唐吧！我纠正了 DeepSeek 的错误，它也认识到自己错了，但我再次提同一个问题时，还是给同样错误的回答。

人工智能推理是一种计算机逻辑。法律人喜欢讲逻辑，特别是推理三段论，甚至对逻辑推理的事实和结果深信无疑，而且常常能听到法律人的口头禅语汇：“逻辑自洽”。不管是计算机的逻辑，还是人本身的逻辑，本质上都是一种推测和猜想。你想没想过，我们使用逻辑推理方法推测另一个现象或结果的时候，是否怀疑过逻辑本身并不逻辑，换句话说，逻辑本身并不自洽、无法自洽呢？

熟悉基本编程和算法的人都应该知道，计算机逻辑起初是人的逻辑，经过“推理成长”会发展成另一种推理逻辑，因此人和计算机的逻辑均会落入逻辑陷阱。人，可以把注意力交给 AI，但不能将判断力交给 AI，否则就是人的悲哀。