Ask HN：如何对待那些信任大语言模型的人？ - Toolsify AI Blog

Hacker News 的这个帖子讨论的不是 AI 有没有用。在大多数工作场所，这个问题已经有了答案。帖子讨论的是当人们不再把大语言模型当作工具，而是开始把它们当作权威时会发生什么。

发帖者描述了一个越来越常见的场景：有人向聊天机器人提问一个事实性问题，得到了一个格式精美的答案，然后不加核实就接受了它作为客观事实。这不是假设。它每天都在会议、教室、Slack 频道和代码审查中发生。

回复中浮现出一个值得仔细审视的模式。

两种思路

讨论大致分为两个阵营，而分歧本身比任何一方的立场都更有意思。

第一组认为大语言模型只是老问题的新版本。人们一直信任不靠谱的来源——转发邮件、没有引用的博文、过度简化复杂问题的电视新闻。从这个角度看，AI 不是独特的危险。它只是人类一直以来认识论惰性的更快、更精美的传递机制。

第二组不同意。他们认为大语言模型在结构上不同于之前的信息误导来源。一个糟糕的网站可以被检查——你可以看网址、查作者、找原始研究。而聊天机器人的回答以一个干净、自信的摘要形式到达，没有可见的来源链条。用户跳过了他们通常会问"这是谁说的？"的那一步。

两组都有道理。而两者之间的张力正是实用建议所在的地方。

这个问题在实践中难以处理的原因是：质疑某人对聊天机器人的依赖听起来像是反技术。在2026年说"聊天机器人会幻觉"，可能和2005年说"你不能信任互联网"一样尴尬。技术上准确，社交上笨拙，而且很容易被当作恐惧驱动而打发掉。

但沉默也有代价。当某人在工作会议或学术论文中把大语言模型生成的摘要当作证据呈现，而没有人提出质疑时，什么算可接受证据的标准就悄悄降低了。问题不在于具体的说法是否正确。问题在于验证步骤从过程中被移除了。

LLM 的输出之所以有说服力，是因为它们连贯。它们在被验证之前就看起来已经完成了。旧的搜索行为迫使你接触原始材料——你看到了网址，你浏览了文章，你注意到网站看起来是否可疑。LLM 把所有这些压缩成一段看似合理的段落。出处是不可见的。

帖子中最有用的贡献不是哲学性的，而是战术性的。

质疑说法，而不是质疑人。 不要说"你不应该信任 ChatGPT"，而是问"这是基于什么来源的？"这把你定位为好奇而非对抗。

要求提供出处。 把对方当作真正有专业知识的人，问哪本书、哪位专家、哪个研究支持这个观点。这样做社交上很得体——你假设对方确实知道什么——同时仍然能暴露说法背后是否有实际支撑。

区分低风险和高风险使用。 没人需要审核 LLM 是否正确总结了会议议程。但用 LLM 输出作为招聘决策、医疗主张或法律论据的基础值得审视。

演示问题而不是说教。 打开一个聊天机器人，在你熟悉的领域推动它。让它表态，然后反驳它。看着它在两条消息内就改口同意。这种具体的演示比任何关于 AI 局限性的抽象论述都更有说服力。

保护你自己的底线。 你无法纠正每一个经过你社交和职业圈的不靠谱说法。试图这样做会让你筋疲力尽、疏远所有人。不如用行动示范更好的习惯。

帖子中最令人警醒的贡献集中在工作场所。风险不只是幻觉——到2026年大多数专业人士已经知道这个局限。更深层的风险是无根据的自信。

LLM 生成的答案听起来很权威。它比验证它的意愿移动得更快。在一个快节奏的会议中，一个精美的 AI 摘要可以在任何人有时间检查底层数据是否支持结论之前就改变了讨论方向。

这种模式在代码审查中出现——有人提交看起来干净但包含微妙逻辑错误的 AI 生成代码。在研究中出现——LLM 对论文的摘要歪曲了作者的实际发现。在招聘中出现——AI 生成的面试问题测试的是表面知识而非深层理解。

模式是一致的：输出看起来比实际更完善，而继续前进的社交压力抑制了验证所需的摩擦。

通读 Hacker News 的讨论，最引人注目的不是建议本身，而是共同的共识：这是一个社会问题，不是技术问题。

任何程度的模型改进都无法修复人们接受听起来自信的输出而不加验证的动态。更好的模型产生更合理的输出，这可能实际上让问题更严重。修复必须发生在习惯、规范和期望层面——人类层，而不是模型层。

帖子没有提供一个干净的解决方案。它提供的是一组经过测试的方法，用于在一个"工具"和"权威"的界限越来越模糊的世界中导航。不是拒绝 AI，也不是不加批判地接受它的输出，而是保持可靠知识一直需要的验证习惯。

这比"AI 很棒"或"AI 很危险"都更难推销。但它才是真正匹配这项技术实际使用方式的立场——不完美地、社会性地、带着真实后果地使用。