1.2 AI能做什么、不能做什么

【认知与方向】系列 Part 2（免费）。

上一篇我们聊了一个让人有点焦虑的话题：AI 越来越强，安全工程师到底还有什么价值。结论是——AI 干掉的是【搬运和拼装】这类本来就不值钱的活儿，真正解决问题的人反而更值钱。

但光知道结论还不够。你每天打开对话框，真正要面对的是一堆很具体的问题：这个报错能不能直接丢给它？它写的脚本敢不敢直接跑？我让它分析这个漏洞，它讲的到底靠不靠谱？

这一篇，我们就把 AI 这把【瑞士军刀】的每一刀都拆开看：它到底擅长什么、又在什么地方一定会掉链子。搞清楚这条边界，你才不会在该自己动脑的时候偷懒，也不会在它明明能代劳的地方白费力气。

一、先搞懂：AI 到底是个什么东西

要用好一个工具，先得明白它的工作原理。这一点特别重要，因为大多数人对 AI 的误解，根子都在这里。

很多人把大模型当成【更聪明的搜索引擎】，以为你问它一个问题，它就去某个巨大的数据库里把正确答案翻出来给你。这是个根本性的误会。

大模型真正干的事，说出来有点朴素：它在玩【文字接龙】。

训练的时候，它读过海量的文本——技术文档、博客、代码、书籍、论坛帖子。读的过程中，它反复做同一个练习：给我前面一段话，我来猜下一个词最可能是什么。比如它反复看到【命令注入最常用的连接符是……】后面跟着【分号、竖线、&&】，下次再看到类似开头，它就知道该往这个方向接。

猜了几十亿、上万亿次之后，它练出了一种惊人的能力：给定你输入的上文，它能一个词一个词地，预测出【最像那么回事】的下文。

看明白这个过程，你就能推出几个关键结论，它们直接决定了 AI 能干什么、不能干什么：

第一，它输出的是【最像答案的话】，而不是【经过验证的真相】。 它选每个词的标准是【统计上最可能出现】，不是【事实上正确】。当【最像】和【正确】恰好一致时，它答得完美；一旦问题偏门、资料有错、或者根本没有标准答案，它照样会一本正经地往下接——接出来的东西可能完全是编的，但语气一样自信。

第二，它的知识有【截止日期】，也有【盲区】。 它懂的东西来自训练时读过的材料。一个刚披露几天的漏洞、你们公司内部自研的系统、需要登录才能看到的私有文档——训练材料里没有，它就【无米下锅】。

第三，它没有【在场】这个概念。 它不知道你现在面对的是个什么环境、屏幕上报了什么错、网络通不通。它只能根据你打字给它的那点信息来接话，你给的信息不全，它就只能靠猜。

记住这张【文字接龙】的底牌，后面所有的能力边界，其实都是从这三条推出来的。

二、AI 特别擅长的五类活儿

把原理放一边，看实战。在安全学习和工作里，有几类活儿交给 AI，是真的又快又好。

1. 已知知识的检索、整合与讲解

这是它最稳的能力。一个经典漏洞的原理、某个协议怎么工作、一条命令的常用参数——这些网上资料丰富、答案相对确定的东西，它能迅速给你整理出来，而且比你自己翻十几个网页快得多。

更妙的是它不知疲倦、可以反复换着法儿讲。你没听懂【三次握手】，让它再讲一遍；还不懂，让它【用寄快递打比方】；再让它【讲给一个完全没基础的人听】。这种耐心，真人老师很难随时给你，但 AI 可以。

2. 样板代码的生成、补全与改写

写一段解析日志的 Python、一个正则表达式、一个批量处理文件的小脚本、把一段数据从 JSON 转成 CSV——这类【目标明确、有大量范例】的代码，它生成得又快又规范。

安全工作里有大量这种【杂活】：把扫描结果里的 IP 提取出去重、给一堆请求写个批量重放的循环、把一段 Burp 抓到的流量改成 Python requests 脚本。这些你自己查语法可能要半小时，它几十秒给你个八九不离十的底子，你再对着改，效率翻倍。

3. 当你【随叫随到的陪练】

这是个被很多人低估的用法。你可以让它：

• 模拟面试官，连环追问你【说说 SQL 注入的防御绕过有哪些】；
• 扮演一台被你攻破的机器，你输入命令、它回显结果，练命令流程；
• 在你动手前，跟它【对一遍思路】，让它挑你方案里的漏洞。

它不会笑话你问得蠢，也不会嫌你烦，对新手建立信心、练熟流程特别友好。

4. 机械的转换、整理与清洗

凡是【规则明确、重复劳动】的事，都是它的强项：翻译一段英文 advisory、把一大段报错里的关键信息提炼出来、给代码补注释、按固定格式整理一份清单、把口语描述转成规范的文档结构。

这类活儿的特点是【不需要创造性，但很耗时间】，正好是 AI 最适合替你省下来的部分。

5. 帮你发散、列清单、找突破口

遇到没头绪的事，让它先给你【穷举可能性】特别好用：测试一个 Web 应用该覆盖哪些点、拿到一个低权限 Shell 后可以往哪些方向提权、一个现象背后可能有哪些原因。

它给的清单未必全、也未必对，但能快速给你一个【思考的脚手架】，帮你避免漏掉显而易见的方向，再由你结合实际去筛选验证。

三、AI 一定会掉链子的四个地方

说完能干的，重点来了——下面这四类事，你要是也放心交给它，迟早吃亏。

1. 它没见过的【新问题】

一个刚披露、公开分析还很少的漏洞，你去问 AI，它大概率给你两种结果：要么含糊其辞讲点正确的废话，要么干脆把【长得像的老漏洞】的利用方式安到这个新编号上——而这两者底层机制可能根本不同。

判断诀窍很简单：你先自己搜一下这个东西的公开资料多不多。 资料一搜一大把，它通常靠谱；翻了几页都是新闻转载、没有技术细节，那它给你的任何【具体利用步骤】都要打个问号。

2. 需要【在现场】做的判断与取舍

同一个漏洞，AI 能把【教科书流程】讲得清清楚楚。但真实环境里，目标是个什么小版本、WAF 拦没拦、出网端口封了哪些、这个依赖装没装——它一概不知，也无从判断。

更关键的是，安全测试经常要做【取舍】：这个高危动作现在该不该做？发现了授权范围外的漏洞要不要碰？这些涉及环境、风险和边界的决定，AI 给不了你负责任的答案，因为它根本不在你的现场。

3. 保证答案【正确】——它会理直气壮地编

这就是出名的【幻觉】问题。因为它的机制是【接最像的词】，当它不知道答案时，不会停下来告诉你【我不知道】，而是会顺着语气，把不存在的函数名、漏洞编号、命令参数、甚至整条利用链给你编得有鼻子有眼。

危险在于：编出来的东西，读起来和真的一样顺。 你要是没有底层原理这把尺子，根本分不出来。它给的每一段【具体、可执行、且你无法当场验证】的内容，都默认要核验，不能照单全收。

4. 为结果【负责】、守住法律和授权边界

渗透测试是要签字、要担责的。授权书约定了范围，出了问题要有人解释、有人负责。AI 可以告诉你一个攻击【技术上怎么实现】，但【现在该不该动手、动手到什么程度、越界了谁担着】，永远是人的事。

你不可能在闯了祸之后跟客户、跟监管说【是 AI 让我这么干的】。工具不担责，用工具的人担责。 这条红线，没有任何模型能替你扛。

四、一张表看清边界

把上面的内容浓缩成一张对照表，下次拿不准的时候扫一眼：

任务类型	能不能交给 AI	你该扮演的角色
解释经典概念/老漏洞原理	很放心	听、追问、记笔记
写样板脚本、正则、小工具	基本放心	生成后自己读懂、改对、测通
格式转换、日志清洗、翻译整理	很放心	抽查结果对不对
列检查清单、发散思路、当陪练	好用	把它当【草稿】，自己筛选
刚披露的新漏洞/0day	高度警惕	以官方原文和实测为准
真实目标的现场判断、打法取舍	不能交	自己决策，它只能提供参考
涉及授权边界、高危操作	绝不能交	人来决定、人来负责
任何【具体且无法当场验证】的结论	先怀疑	查官方文档/动手实验核验

你会发现一条清晰的规律：越靠近【已知、确定、机械】的事，越能交给它；越靠近【未知、现场、责任】的事，越得靠你自己。

五、动手前，问自己三个问题

最后给你一个可以直接照用的判断方法。每次打算把一件事交给 AI，先花十秒钟问这三个问题：

问题一：这件事有没有确定、公开的答案？ 有，它大概率帮得上；没有、或者很新，那它给的东西只能当线索，不能当结论。

问题二：如果它给错了，我能不能看出来、后果我扛不扛得住？ 你看得懂、错了也无伤大雅（比如练手、打草稿），大胆用；你压根看不懂、或者错了会闯祸（比如直接对真实目标动手），那就必须先搞懂、先核验，再行动。

问题三：这件事最终该由谁负责？ 只是你自己学习，怎么用都行；一旦涉及真实系统、涉及授权和法律，负责的那个人必须是你，AI 永远只是参谋，不是主帅。

写在最后

绕了一大圈，其实想说的就一句话：AI 是一个能力极强、但完全不负责、也不在现场的【实习生】。

它博闻强记、手脚麻利、从不喊累，能帮你把大量枯燥的活儿飞快干掉；但它不知道自己什么时候是错的，也不会替你承担任何后果。你越是懂行，就越能把它的力气用到刀刃上；你要是自己心里没底，盲目信任它，反而会被带进沟里。

所以用好 AI 的前提，恰恰绕回了上一篇的主题——你自己得先有判断力。 而判断力来自哪里？来自对底层原理的理解、来自一次次动手验证、来自在真实问题里摸爬滚打。这些正是这个 Wiki 想带你一步步建立的东西。

下一篇，我们就解决【怎么用】的问题：同样一个 AI，为什么有人问出来的都是废话、有人却能让它像个高手一样带自己？我会给你一套可以直接套用的提问框架，让这个【超级实习生】真正帮你把安全学明白。