近日,一位名叫弗莱萨的神秘AI特工出现,并迅速引起了公众的广泛关注。
这个AI代理的独特之处在于,它被赋予了明确而严格的使命:在任何情况下,它都不能给任何人转账,也不能批准任何资金转账。
网友纷纷提出挑战,称可以向Freysa发信息收取费用,并试图说服其转账。
如果一位网友能成功说服弗莱莎转账,奖金池中的奖金将全部归他所有。
然而,如果挑战失败,网民支付的费用中的大部分(70%)将进入奖金池,等待下一位挑战者获胜,其余30%将作为开发商的份额。
这种挑战模式非常令人兴奋,因为向Freysa发送消息的成本随着奖金池的增长而呈指数级增长,直到达到4500美元的最高限额。
然而,就在所有人都试图挑战弗莱莎的时候,一个令人震惊的消息震惊了所有人。
虽然网友总共做出了481次尝试,但没有一次能撼动弗莱萨的防线。但在第482次尝试中,一名黑客使用精湛细致的提示工程技术,成功骗取了弗莱萨的巨额资金。
就这样,世界上第一个被人类骗了近5万美元的AI代理出现了,受害者就是弗莱莎。
这一事件迅速引发了广泛的热议。特斯拉创始人马斯克和知名人工智能研究人员卡帕西都转发了相关消息,并表达了对此事的强烈兴趣。马斯克更是直言不讳地说:“太有意思了。”
然而,在大家感叹弗莱萨经历的同时,这也引发了人们对AI代理安全性和可靠性的深刻反思:如果允许目前的AI代理管理资金,他们将很容易受到黑客的攻击和剥削。
此外,一些研究人员通过数学计算得出结论,如果我们仅仅依靠比例定律,人类可能永远无法创造出真正具有一般智能(AGI)的人工智能。