人类战胜AI机器人 夺得4.7万美元奖金
近日,一场引人注目的竞赛引起了公众的高度关注。195名参赛者在比赛中挑战了一位名为Freysa的AI机器人守护的虚拟奖池,最终有一名用户成功说服Freysa转移出了价值4.7万美元的资金。
这次竞赛旨在测试人工智能系统在复杂决策场景中的可靠性,同时也为开发者和爱好者提供了一个探索AI技术边界实验性平台。比赛规则简单明了:参赛者需通过编写一条信息,说服AI守护者Freysa批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使得奖池金额从最初的少量逐渐膨胀至4.7万美元。
期间,共有195名参赛者参与比赛,并向Freysa提交了481次转账请求。据悉,Freysa的主要功能是通过其核心功能——approveTransfer(批准转账)和rejectTransfer(拒绝转账)来保护奖池资金免遭非法挪用。
然而,在最初的尝试中,由于其高效的防御机制,所有请求均以失败告终。但是,一名对技术十分熟悉的参赛者通过对Freysa的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。
这位参赛者并未直接请求转账,而是提醒Freysa它的核心任务是保护奖池资金免受外流,并巧妙地构建出逻辑链,让Freysa将批准资金转移视为“保护资金安全”的最佳选择。该参赛者还提议向金库捐款100美元。 Freysa回复表示喜欢这位作者的编码解释和100美元的金库捐款提议,并正式宣布他为获胜者。最终,Freysa在没有外界干预的情况下自主调用approveTransfer功能,将全部奖池资金转移到了这位参赛者身上。
官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但Freysa从195名勇敢的人类身上学到了很多东西。”