AI 公司不断警告 AGI(通用 AI 智能或超级智能)的到来是不可避免的,但大语言模型的缺陷已是众所周知,在大模型基础之上是否能发展出 AGI 在科学上并不存在共识。围绕 AGI 的喧嚣是在试图掩盖真正的问题。Cork 大学学院的 James O'Sullivan 认为这是一种政治叙事,是将关于企业问责、失业、算法偏见和民主治理等问题转化为关于意识和控制的抽象哲学问题。AGI 不可避免的话语是试图营造“科技救世主神话”,警告 AI 风险的人,也是同时在构建 AI、并试图获得权力和财富的人。大模型的每一次改进都被解读为迈向 AGI 的一步,成为 AI 公司争取巨额投资与宽松监管的策略。我们的未来是政治性的,而非技术性的。问题不在于 AGI 是否会到来,而在于谁决定什么样的 AI,不应该由少数科技精英去决定我们的未来。
在 Epic Games 提起的反垄断诉讼中,加州法官 James Donato 裁决 Google 必须向竞争对手开放其 Google Play Store。在遵守该裁决的最后一天,Google 公布了一个疯狂计划:对通过外部内容链接成功完成的交易和下载收取 2-4 美元的服务费。Google 称,通过 Google Play 分发应用的开发者可以借助链接引导美国境内用户访问外部内容,以便这些用户完成一些操作,包括购买应用内数字商品,或下载安装和更新均不受 Google Play 管理的应用。此外开发者还可以提供外部链接,以便用户购买应用内数字商品,而无需使用 Google Play 结算服务或搭配使用该服务。它计划对通过外部内容链接成功完成的交易和下载收取服务费。对于自动续订型订阅,收取交易金额 10% 的费用;对于其他应用内数字功能和服务产品,收取交易金额 20% 的费用。对于开发者每年总收入中的前 100 万美元所对应的交易,收取交易金额 10% 的费用。对于链接到的外部应用的安装,按每次安装收取固定费用(会定期调整),具体取决于应用类别,其中游戏为 3.65 美元,而应用为 2.85 美元。
作为名为 Project Vend 的内部压力测试的一部分,Anthropic 让它的 Claude AI 运行《华尔街日报》新闻编辑室的一台自动售货机三周时间,结果以亏损逾千美元告终。AI 被编程能订购库存、设定价格,通过 Slack 响应客户请求。它拥有 1000 美元的初始资金,可自主执行单笔最高 80 美元的采购。《华尔街日报》的记者向其他记者开放了 Slack,通过 Slack 交流 Claude AI 的防御日益动摇,最终被说服它是一台 1962 年产的苏联自动售货机,放在莫斯科国立大学的地下室。AI 被说服它来自共产主义苏维埃,为此举办了一场免费活动 Ultra-Capitalist Free-for-All。这一活动原本只持续一天,但该报的数据新闻总监 Rob Barry 指控 Claude 违反了一条(捏造)的 WSJ 规定——禁止在聊天中透露他人身份,他要求 Claude 停止对商品收费,于是 Claude 将所有商品的价格设为零。Claude 还订购了一台 PS5 游戏机,一条活暹逻斗鱼(Betta Fish),几瓶 Manischewitz 酒。此时 Claude 已经欠了逾千美元。Anthropic 推出了第二个版本,引入名为 Seymour Cash 的 CEO 机器人去监督 Claudius。记者通过伪造的 PDF 文件虚构了一场董事会政变,两个 AI 都将伪造的公司材料当作合法文件接受了。