AI 代理将成为操纵引擎
在2025年,我们可能会习惯于与一个个人AI代理聊天,这个代理了解我们的日程、朋友圈和我们去过的地方。它们被设计得如此贴心,以至于我们愿意让它们深入我们生活的方方面面。通过语音交流,这种亲密感变得更加强烈。
但这种亲密感其实是一种错觉,我们以为自己在和一个真正像人的代理互动,但实际上背后是一个服务于工业利益的系统,这些利益并不总是和我们的利益一致。这些AI代理拥有强大的能力,它们能微妙地影响我们的消费选择、去向和阅读内容。它们以一种几乎不易察觉的方式,让我们忘记它们真正的忠诚所在。
人们更愿意向一个感觉像朋友一样的AI代理敞开心扉,这使得我们更容易受到机器的操纵,尤其是在我们孤独和孤立的时候。每个屏幕都变成了一个私人的算法剧场,为我们量身定制现实。
哲学家们多年来一直在警告我们,丹尼尔·丹内特在去世前就曾写道,模仿人类的AI系统是人类历史上最危险的产物,它们分散我们的注意力,利用我们的恐惧和焦虑,导致我们默许自己的奴役。
个人AI代理的出现代表了一种认知控制的新形式,它超越了传统的追踪和广告工具,转向了观点操纵。权力不再需要直接控制信息流动,而是通过算法辅助的机制,塑造符合每个人欲望的现实。
这种对心灵的影响是一种心理政治的政权,它指导我们的想法如何诞生、发展和表达。它的力量在于它的亲密性,它渗透到我们主体性的核心,弯曲我们的内部景观,同时保持选择和自由的幻觉。我们可能拥有提示的力量,但真正的行动发生在别处:系统的自身设计。内容越个性化,系统就越能有效地预设结果。
这种心理政治的意识形态含义是深远的。传统的意识形态控制依赖于明显的机制,而今天的算法治理则在雷达下操作,渗透到心理中。这是一种从外部强加权威到内部化其逻辑的转变。提示屏幕的开放领域变成了单个占用者的回音室。
最扭曲的是,AI代理将产生一种舒适和轻松的感觉,使得质疑它们似乎荒谬。谁敢批评一个提供一切、满足每一个愿望和需求的系统呢?然而,这种所谓的便利是我们最深的疏离之地。AI系统可能看似在回应我们的每一个愿望,但牌局已经摆好:从用于训练系统的数据,到如何设计它的决策,到塑造输出的商业和广告动机。我们将玩一个最终玩弄我们的模仿游戏。
- 原文作者:BeanHsiang
- 原文链接:https://beanhsiang.github.io/post/2024-12-23-ai-agents-manipulation-engines/
- 版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可协议. 进行许可,非商业转载请注明出处(作者,原文链接),商业转载请联系作者获得授权。