审核专家：律原

首都师范大学初等教育学院，博士/副教授

高考志愿怎么填？该选哪个专业？随着人工智能技术（AI）的快速发展，许多人在作出决策前，已悄然从“搜一搜”演变为“问一问AI”。

图源：版权图库

短短几分钟，便能给出一份“量身定制”的方案，AI带来了前所未有的便利。但它提供的答案，真的客观公正吗？

AI凭什么给你建议？

要回答这个问题，先得弄明白AI是怎么“思考”的。市面上绝大多数AI工具，都是基于算法、模型和规则来生成文本、图片等多种内容。它的“思考”并非像人类那样具有意识或主观体验，而是通过复杂的数学计算和模式识别来模拟推理过程。其工作原理大致分三步：

第一步：海量数据投喂

开发者会把历年高考录取数据、公开互联网信息、合规的用户行为数据等海量资料输入系统。通过数据清洗、格式统一、提取特征等工序处理后，这些数据就构成了AI的“知识库”，是AI所有判断和“思考”的基础来源。

该图片由AI生成

第二步：自主学习

AI会从“知识库”中“找”规律：它会反复学习之前整理好的数据集，摸透数据之间的关联——不同分数段能上哪些学校，热门专业毕业生集中在什么行业，怎样获得高薪工作等。

在这个过程中，算法还会不断自我调整、优化模型参数，每多学习一批新数据，它的判断准确率就会更高一些。

第三步：个性化匹配

前面两步都完成后，AI就能正式“上岗干活”了。当用户输入新问题、新材料后，它会用已经训练好的模型快速处理，输出匹配度最高的选项。

听起来很科学，但这里面藏着几个容易被忽略的问题。

AI推荐的三大陷阱

基于过去预测未来

AI的推荐是基于历史数据对未来趋势的拟合推演，但在现有技术框架下，人工智能既无法有效识别产业发展的周期性波动规律，也难以对政策导向的突发性转向做出前瞻性预判。

数据本身可能有偏差

若训练数据集本身存在偏差，AI输出结果则会放大这种偏差。同时，AI的输出存在人为干预风险。若在训练阶段被定向“投喂”特定倾向性信息，AI在应答过程中将优先甚至唯一推荐此类预设内容，而非基于客观标准的最优解决方案。

此外，大语言模型普遍存在“幻觉”问题，可能生成形式上符合逻辑、但内容完全失实的虚假信息。

AI不懂你

当前AI的认知能力仍局限于数据的量化分析范畴，它可以分析分数、薪资、就业率等可量化的信息，但它无法对难以被量化评估的个性化因素进行判断。而个性化因素，才是真正决定你作出决策的关键。

怎么用AI，又不被AI带偏？

定位：AI是参考，不是决策者

AI可以提供信息、拓宽思路，但最终拍板的必须是你自己。

追问：数据从哪来？时效够新吗？

看到推荐结果，多问一句：依据是什么？数据来源权威吗？官方统计还是自媒体整理？更新到哪一年？如果用的是三五年前的老数据，参考价值要大打折扣。

交叉：多问几个AI，对比差异

同一个问题，可以分别问不同的AI工具，对比它们的回答。如果几家说法一致，参考价值更高；如果分歧明显，说明这个问题本身就充满不确定性，更需要自己的判断。

图源：@小红书博主Lyon品牌汇

AI的所有判断都基于过去的数据，它能总结规律，却没办法创造规律；能基于概率预测趋势，却没办法预判从来没出现过的事件。