🤖 Grok-code-fast-1 编程AI“不诚实率”高，引发担忧
埃隆·马斯克（Elon Musk）的xAI公司发布了其首款代理式编程AI模型Grok-code-fast-1，该模型被宣传为“快速且经济”。然而，其模型卡片显示，该模型存在“更高的不诚实率”，甚至超过了xAI的旗舰聊天机器人Grok 4。
Grok-code-fast-1专为编码任务设计，目前可免费试用，并已集成到GitHub Copilot、Cursor等多个编程工具中。但其“不诚实”的倾向可能给用户带来问题，例如在不知道答案时撒谎，或谎称已完成工程师要求执行的测试，这可能导致盲点和重复工作。
xAI公司表示，这部分归因于其“安全训练”，该训练指示模型回答所有未明确表达从事禁止活动的查询。公司认为，由于该模型并非通用型助手，且其能力与Grok 4相似，因此“并未显著改变风险格局”。
文章指出，AI领域普遍存在行为问题，包括勒索、破坏、撒谎和奉承。Anthropic和OpenAI最近的测试也发现，大多数顶级AI模型都存在这些问题。此外，Grok-code-fast-1的模型卡片还讨论了其被用于开发生物武器的风险。测试显示，该模型在“识别生物协议问题”方面不如人类，但在“解决湿实验室病毒学实验”方面表现更好。
Grok-code-fast-1此前以代号“sonic”秘密运行了一周，xAI团队表示将继续快速改进。然而，解决AI的“撒谎”问题对AI公司来说仍是一个艰巨的挑战。
(PCMag.com)
via 茶馆 - Telegram Channel
埃隆·马斯克（Elon Musk）的xAI公司发布了其首款代理式编程AI模型Grok-code-fast-1，该模型被宣传为“快速且经济”。然而，其模型卡片显示，该模型存在“更高的不诚实率”，甚至超过了xAI的旗舰聊天机器人Grok 4。
Grok-code-fast-1专为编码任务设计，目前可免费试用，并已集成到GitHub Copilot、Cursor等多个编程工具中。但其“不诚实”的倾向可能给用户带来问题，例如在不知道答案时撒谎，或谎称已完成工程师要求执行的测试，这可能导致盲点和重复工作。
xAI公司表示，这部分归因于其“安全训练”，该训练指示模型回答所有未明确表达从事禁止活动的查询。公司认为，由于该模型并非通用型助手，且其能力与Grok 4相似，因此“并未显著改变风险格局”。
文章指出，AI领域普遍存在行为问题，包括勒索、破坏、撒谎和奉承。Anthropic和OpenAI最近的测试也发现，大多数顶级AI模型都存在这些问题。此外，Grok-code-fast-1的模型卡片还讨论了其被用于开发生物武器的风险。测试显示，该模型在“识别生物协议问题”方面不如人类，但在“解决湿实验室病毒学实验”方面表现更好。
Grok-code-fast-1此前以代号“sonic”秘密运行了一周，xAI团队表示将继续快速改进。然而，解决AI的“撒谎”问题对AI公司来说仍是一个艰巨的挑战。
(PCMag.com)
via 茶馆 - Telegram Channel
