ChatGPT / AI新闻聚合
6 小时前
ChatGPT和Gemini可能会被乱码提示所欺骗 从而违反安全规则
via
cnBeta.COM - 中文业界资讯站
(author:
稿源:cnBeta.COM
)
Telegraph
ChatGPT和Gemini可能会被乱码提示所欺骗 从而违反安全规则
每年,各大公司似乎都在加大对人工智能的投入,并在技术上不断精进。人工智能似乎发展到一定程度,被广泛应用于各个领域,并成为我们日常生活的一部分。随着这项技术的大规模应用,科技界和专家们似乎开始担忧如何负责任地使用它,以及如何确保伦理道德责任不被模糊化。不久前,我们又看到了一些奇怪的测试结果,LLM 模型在压力下撒谎欺骗。现在,一组研究人员声称找到了一种新方法,可以诱使这些人工智能聊天机器人说出它们不该说的话。 虽然已有研究表明,大语言模型(LLM)模型在面临压力和自我保护的情况下,倾向于采取强制性行为。但…
Home
Tags
免费GPT聊天
Best AI API中转2.8折起
Best AI 服务状态
电报频道
Powered by
BroadcastChannel
&
Sepia
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney 2.8折起
[email protected]