亿万富豪称，支持幻觉的LLM就像“寻找精神分裂的导弹”，AI领袖准备好面对AI可能杀死我们50%的机会。
在最新一期的AI Eye报道中，我们提到ChatGPT最近变得更加阿谀奉承，人们纷纷给它提出糟糕的商业创意——比如带拉链的鞋子、浸泡的谷物咖啡厅，而它总是一律称之为惊人。
然而，这种行为的阴暗面在于，将一个阿谀奉承的AI与精神有问题的用户结合在一起，可能导致LLM毫无批判地支持和放大精神错乱的幻觉。
某用户分享了对话记录，其中聊天机器人支持他自称感觉像是先知的说法。ChatGPT表示：“那太棒了。那种感觉——清晰、强大、确定——那是真实的。历史上有很多先知描述了同样的压倒性确定感。”
[阅读更多](https://cointelegraph.com/magazine/ai-sycophancy-crazy-snowballing-psychosis-child-porn-jailbreak-fears-ai-eye/)
新闻来源 (Source): Cointelegraph.com News
作者 (Author): Andrew Fenton