细思极恐的谎言/徐嘉亮（锡米山·马来西亚）

前两日，首相拿督斯里安华宣布，政府将于8月31日国庆日推介“全民人工智能计划”（AI Untuk Rakyat），为18至30岁大马青年提供免费AI课程，完成者更可获3个月主流AI软件订阅资格。由此可见，我国也随着世界的浪潮，跟上应用AI的步伐。

乍看之下，这似乎是一个天大的好消息，但小弟想给大家泼泼冷水，毕竟凡事有好，也有坏。在2023年4月，GPT-4在安全性测试中曾展现出令人惊叹的欺骗能力。当时，它利用预算在零工平台 TaskRabbit雇用人类，并在被怀疑是机器人时谎称自己是视力障碍者，成功通过了CAPTCHA 验证码任务。（有兴趣的朋友，可以通过以下链接，查看详情：https://www.sinchew.com.my/news/20230404/international/4588355）

藉此机会，小弟再举一个本身的例子。去年，小弟为了帮助学生自习较难的大学科目，于是选了一本“经典力学”的课本《Classical Dynamics of Particles and Systems，by Marion and Thornton》里头的某个例子，测试DeepSeek 的解答能力。当时，当我照本宣科地将题目输入后，AI 很快地列出一系列的方程式和步骤，看似完美，它也给出了答案：1/3。幸好小弟随即翻开书本，答案却是2/3。于是，我将疑问写上，问“它”是否写错了答案。不到三秒中，它回答了。先是一通“彩虹屁”，什么您学识渊博，什么行内人士，能够帮助它改正错误……；然后才显示出正确的步骤和答案。我再问它，为什么会给一个相近，但错误的答案呢？它很“人性化”地答道：“它会犯下这个错误，全因相信了网上的资料。”结果，小弟查看了它所列出的参考行列，里头就只有小弟所用的课本和另一本《Thornton and J. Marion, Instructor’s Solutions Manual – Classical Dynamics of Particles and Systems, 5ed》。这个反应让小弟细思极恐，因为“它”在刻意说谎——从一开始给了一个误导性十足，似是而非的错误答案，到后来编制的理由，全是谎言！

正如孟老夫子所说的：尽信《书》，则不如无书；我们必须紧记“尽信AI，则不如无AI”。有鉴于此，我们必须掌握三个善用AI的核心方法：明确沟通指令、融入日常工作以及保持批判思考。切记，我们只能把AI当作聪明的合作伙伴来节省时间和提升工作效率；千万别把全部的鸡蛋放在AI这个篮子里，完全依赖于它。永远保持人类的主导性与核实所有AI供应的答案；不然，人类毁灭的日子不远了！

• 摄影：Clement（马来西亚）
• 主题：欺骗

• 上一篇文章链接：
• 原来我是这样被骗的/宫天闹（吧生·马来西亚）