首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-04
欧佩克 + 同意大幅增产,焦点转向其下一步行动 加密货币大亨搭乘最新一次蓝色起源航班飞向太空 “3年,终于回本了!”基民“解套”众生相后续反转 601088、300264,明起停牌!秒懂 突然,价格崩盘!金融大佬,巨亏57%!太强大了 先导电科“二进宫”,衢州发展能成为第二个光智科技吗?反转来了 理想汽车回应“理想i8与乘龙卡车安全性碰撞测试”:测试用乘龙二手卡车仅作为移动式壁障物,无引导性评价 上市公司密集披露业绩预告公募基金沿盈利主线挖掘投资机会后续来了 四家“问题险企”清算大结局:吊销、撤职、禁业 欧佩克 + 同意大幅增产,焦点转向其下一步行动是真的吗? 002940,大涨360%!连续涨停后,最新发声! 申联生物:子公司全球首款猪瘟环状mRNA疫苗开发取得重要进展 研究结果已发表又一个里程碑 人形机器人商业化进程加速!订单密集公布,行业下一个突破点在哪? 欧佩克 + 同意大幅增产,焦点转向其下一步行动 【月度策略】油脂:冲高面临滞涨,后市如何看待?专家已经证实 苹果新成立的“Answers”团队正在打造ChatGPT竞品 陈茂波预计香港第三季度经济保持增长官方已经证实 现券交易上演“高温七月” 中小银行发力“投债”扩规模拉收益最新进展 华为鸿蒙6全新控制中心曝光:竖向音量/亮度条 自定义程度更高 龙国首都拟禁“会员权益”发出助贷平台监管新信号 模糊借贷成本的“擦边球”打不下去了官方处理结果 波音防务部门工会拟举行1996年以来首次罢工 新股赚钱效应不赖 网下打新又见银行理财出手 基金净值批量超过2021年高点 多位投资老将强势回归备受瞩目后续反转 现券交易上演“高温七月” 中小银行发力“投债”扩规模拉收益太强大了 美联储若过晚降息将会产生哪些后果?实垂了 权益类银行理财表现亮眼 今年以来43只年化收益率为正最新进展 欧佩克+ 9月将每日增产原油54.7万桶又一个里程碑 美印关系现裂痕 印度无视特朗普威胁“坚持买俄油”最新报道 首设合规出海主题和跨境电商AI专区 2025广州跨交会参展平台数量再创新高后续反转 知名私募持仓曝光 聚焦多个热门赛道 【干货】关于对赌协议史上最全解读!最新进展 跳出战略趋同“陷阱” 保险业“反内卷”须多方协同发力实垂了 精耕普惠金融沃土 书写长江证券特色答卷 龙国铁建大桥局:战略擎旗破浪行是真的? 波音防务部门工会拟举行1996年以来首次罢工实时报道 失信的数据面前市场慌了!欧佩克+提前一年完成增产计划,选边站谁?是真的? 流动性持续改善 赚钱效应推动机构加速入市 精耕普惠金融沃土 书写长江证券特色答卷官方通报 首设合规出海主题和跨境电商AI专区 2025广州跨交会参展平台数量再创新高官方通报 龙国首都拟禁“会员权益”发出助贷平台监管新信号 模糊借贷成本的“擦边球”打不下去了记者时时跟进 美印关系现裂痕 印度无视特朗普威胁“坚持买俄油” 基民晒账本:“三年,终于回本了”

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章