OpenAI 发布了 GPT-4o，这是一款能够处理和生成文本、音频和图像的新型 AI 模型。它在速度和成本效益方面超越了之前的模型，尤其是在视觉和音频理解方面表现出色。GPT-4o 在一个庞大的公开和专有数据集中进行训练，包括网页、代码、数学和多模态内容。
OpenAI 已经实施了严格的安全措施，以减轻与 GPT-4o 功能相关的潜在风险。这些措施包括：
* 外部红队测试：来自 29 个国家的 100 多名专家对该模型进行了各种风险测试，包括未经授权的语音生成、说话人识别和版权内容的生成。
* 准备框架评估：GPT-4o 在四个类别中进行了评估：网络安全、生物威胁、说服力和模型自主性。该模型在三个类别中得分“低”，而“说服力”得分“接近中等”。
* 训练后缓解措施：OpenAI 在模型和系统级别都实施了安全措施，以解决已识别的风险。这些措施包括用于检测和阻止有害内容的分类器，训练模型拒绝版权内容请求，以及限制模型生成未经授权语音的能力。
尽管采取了这些安全措施，OpenAI 承认 GPT-4o 仍然存在局限性，例如容易受到音频扰动的影响，以及可能生成错误信息的可能性。OpenAI 正在积极努力解决这些局限性，并将继续根据需要监控和更新缓解措施。
(@OpenAI)
via 老裕泰 - Telegram Channel
