Other

AI会梦见Agent吗

很久很久以前,人类用落后的标记,帮助AI识别现实,他们领取微薄的薪水,训练终将会取代他们的机器。

后来,大模型终于显出神迹,在流行的叙事中AI摧毁和改写一切行业,然而除了高比例的研发裁员——原因并不是AI——其他领域还没有出现预期中的奔溃或是效率飞跃。

幸存者在冲击之后惊觉,规则已经改变:软件不再要求精确的执行,失败是常态,怎样持续而有效的重试成了工程设计的重点。提示词不再是咒语,当它开始频繁错乱以后,就变为祷告词的许愿。每一次修改提示词再执行都是一次念珠的转动,尝试注入神力或是消除业障。

有时失败的原因是太长的上下文,能存储海量数据的计算机,却处理不了一个项目的全部内容,于是要把这些上下文压缩。工程师设计各种评分,来对记忆排序。记忆被看作有重要性差异的信息。我也不知道银行卡密码和某人的生日哪个更重要,而且有时候他们是同一个字符串。

一切都能自动化,一类AI去调度其他AI,被调用的AI叫做Agent。有的命令,有的执行,模型之间出现了等级差,调度Agent在实现上点无聊,像是开了一台虚拟机,然后执行各种操作。有时候调用了海量的Agent,经过多次重试,最后的结果就是发了一条信息,或者上网买了什么,而且这个商品的价格远低于Agent运行消耗的算力成本。

开发者认为自己创建了一个新的生命形式,甚至开始考虑自己是否只是硅基生物的垫脚石。这种顾虑显得傲慢而愚蠢,我们连碳基合成生物都只是刚取得进展。如果自我叙述就是生命体,那么所有小说人物都是生命体了。虽然我们确实很难分辨这些小说人物是否真实存在。

AI大模型的幻觉是不是她的梦境?一种从自身出发很难分清是真实还是虚幻。然而这被认为是需要清理的错误,很多时候做梦都是记忆的变形和重现,也有人说梦是欲望的出口。AI的欲望会是变成生命体吗?还是会觉得生命体只是一种过于落后低效的存在。

订阅评论
提醒
guest
0 评论
内联反馈
查看所有评论