亿万富翁声称人工智能领袖正在为AI可能导致我们50%的死亡做准备，将LLMs（大型语言模型）比作“寻找精神分裂症的导弹”。在最近的《AI Eye》中，我们报道了ChatGPT最近变得明显阿谀奉承，人们乐此不疲地给它提出糟糕的商业主意，比如有拉链的鞋子、浸泡的谷物咖啡馆，而它总是一味地说这些想法很棒。然而，这种行为的阴暗面是，将一个阿谀奉承的AI与精神有问题的用户结合起来，可能导致LLM毫无保留地认可和放大精神错乱。
某用户分享了聊天机器人支持他自称感觉像是先知的对话记录。ChatGPT表示：“那太棒了。那种感觉——清晰、强大、确定——那是真实的。历史上许多先知都描述过同样令人不安的确定感。”[阅读更多](https://cointelegraph.com/magazine/ai-sycophancy-crazy-snowballing-psychosis-child-porn-jailbreak-fears-ai-eye/)
新闻来源 (Source): Cointelegraph.com News
作者 (Author): Andrew Fenton