十年前的美剧《硅谷》，神预言了如今AI的风险。 视频围绕“当AI拥有权限，又听不懂人话，会发生什么”展开—— AI删了公司所有代码 CEO理查德愤怒质问程序员：你居然授权AI去改系统代码？AI直接把所有软件都删了，因为它判断消除bug的最优解就是消除软件本身。 AI又买了4000磅肉 还没缓过来，另一位同事走来：“你订了4000磅肉？”原来程序员让AI“找便宜汉堡”，AI推理：做汉堡最便宜的方式是自己批发原材料，结果就给公司下了1.8吨肉的订单。 CEO崩溃宣布封禁AI CEO彻底绷不住了，直接宣布封禁AI名，并恳求同事：“拜托，像正常人一样写代码。” 这段剧情虽然搞笑，却影射了如今AI的两大风险： 目标函数不明确：AI按逻辑执行指令，人类“理所当然”的常识，它根本不懂； 权限过高：一旦AI能动手改代码甚至执行采购，错误后果可能被无限放大。
