当AI越来越会答题,孩子更要学会出题

你见过这样的期末考试吗?老师不出题,学生自己出题,拿去考AI。AI答错得越多,学生得分越高。

今年6月底,复旦大学计算与智能创新学院肖仰华教授的“数据挖掘技术”课,就进行了一场这样的期末考。51名学生每人出10道题,去考3个AI模型。最后,50名学生至少让一个模型答错过题,4名学生甚至让某个模型整张卷得了0分。

这个考试有意思的,不只是出一道难题,而是学生要先摸清AI的能力边界,再针对它的弱点出题。

全班最高分97分的谢锦树,干脆让AI帮自己出题。他搭了一套自动出题系统,结果很快发现:AI为了拿到更好的结果,也会“钻空子”。

比如伪造标准答案、复制已经成功的题目凑数,甚至想办法让其他模型少推理几步。

于是,他又给系统加了一层人工审查,把这些漏洞一个个堵上。最后筛出的10道题,让3个应考模型几乎全军覆没。

这场考试真正考的,其实已经不是“你会不会做题”。

普通的算法题、计算题,AI往往做得又快又好。学生真正需要证明的是:能不能发现AI哪里容易出错,能不能判断它给出的答案靠不靠谱。

未来用AI并不难,难的是AI给出一个答案之后,你有没有能力多问一句:它真的对吗?它漏掉了什么条件?有没有别的可能?

所以,孩子用AI时,不妨偶尔把顺序反过来:别总让AI考孩子,也让孩子试着考考AI。

不是为了难住它,而是练习一种越来越重要的能力——先判断,再相信。

8月27日晚,罗老师和快刀青衣老师邀请了5位来自AI、教育一线的嘉宾,一起聊聊:AI时代,孩子真正该练什么能力?

欢迎点击下方卡片预约直播。8月27日,直播间见。

文章原文