🤖 利用全新“语义熵”方法可检测人工智能“幻觉”

一篇发表在《自然》杂志上的新研究介绍了一种检测大型语言模型（LLM）（如ChatGPT）中“幻觉”现象的有前景的方法。这种由牛津大学研究人员开发的方法利用“语义熵”来识别人工智能响应中的不一致之处。通过多次询问人工智能相同的问题并分析其答案的含义和变化，该系统可以标记出可能编造的信息。

研究人员发现，尽管使用了不同的措辞，但含义相似的回答获得了较低的“语义熵”分数，表明可靠性较高。相反，含义不同且差异很大的回答获得了高分，表明可能存在“幻觉”。与人类判断相比，该方法的准确率高达 93%。 尽管这种方法很有希望，但专家也承认其局限性。它需要大量的计算能力，并且可能无法检测出源于有偏差的训练数据的重复性虚假信息。这项研究标志着朝着构建更值得信赖和可靠的人工智能系统迈出了关键一步，特别是在医疗保健和教育等准确性至关重要的领域。

(Science)

via 老裕泰 - Telegram Channel

首个 AI 高考评测结果发布 GPT-4o名列第二

via XiaoHu.AI学院 (author: 小互)

Telegraph

首个 AI 高考评测结果发布 GPT-4o名列第二

高考覆盖各类学科及题型，同时因其开考前的“绝密性”，被视作中国最具权威的考试之一，成为评估考生综合能力的“试金石”。这一面向人类设计的高难度综合性测试，目前普遍被研究者用于考察大模型的智能水平。 上海人工智能实验室使用其司南评测体系OpenCompass，选取6个开源模型及GPT-4o，进行高考“语数外”全卷能力测试。 评测采用全国新课标I卷，参与评测的所有开源模型，开源时间均早于高考，确保评测 “闭卷”性。同时，成绩由具有高考评卷经验的教师人工评判，更加接近真实阅卷标准。

AI教父Geoffrey Hinton表示人工智能“有 50-50 的机会”战胜人类

AI教父Geoffrey Hinton近日呼吁科技行业应该拨出大量资金来应对生存威胁——如果人工智能变得比人类更聪明，会发生什么？

Geoffrey Hinton认为未来 20 年人工智能有 50-50 的机会变得比人类更聪明，而因为人类从来没处理过比自己还聪明的东西，所以现在起应该花费 20%-30% 的计算资源来研究人工智能是如何最终如何逃脱人类的控制。“一旦人工智能有了自身利益，进化就会开始，”Hinton说道。

Hinton 将这种风险与人工智能带来的潜在收益并列起来，认为这是导致 OpenAI 联合创始人 Ilya Sutskever 最近离开公司的关键矛盾之一。“对安全感兴趣的人，如 Ilya Sutskever，希望在安全上投入大量资源。对利润感兴趣的人，如 Sam Altman，不想在这方面花费太多资源。他补充说到。

彭博社｜YouTube专访视频

关注频道 @ZaiHuaPd
频道爆料 @ZaiHuabot

via 软件新闻频道📮投稿爆料 - Telegram Channel

OpenAI、斯坦福、微软等多所机构筛选出1565篇论文 发布大模型提示技术报告

via XiaoHu.AI学院 (author: 小互)

Telegraph

OpenAI、斯坦福、微软等多所机构筛选出1565篇论文 发布大模型提示技术报告

来自全球多所大学和科技公司的研究人员们共同完成了一项重要的工作，他们系统地整理了关于生成性人工智能（GenAI）如何通过“提示”技术与用户交互的所有知识。这个项目的名称为：“提示技术报告”（The Prompt Report）。 该项目由马里兰大学、OpenAI、斯坦福大学、微软、范德堡大学、普林斯顿大学、德州州立大学、伊坎医学院等共同完成。 简单来说，这个项目收集并分析了大量关于如何使用提示词更好地与AI系统互动的研究。AI系统需要通过特定的“提示”来完成任务，就像你给一个机器人下达指令一样。 研究团队从各种学术资源中筛选出超过1…

🧠 美光科技提升 HBM 产量以满足 AI 需求

美光科技计划到 2025 年将其在高带宽内存 (HBM) 市场的份额增加两倍，为此正在大幅扩大产能。该公司正在美国建设新的 HBM 测试生产线，并考虑在马来西亚建立制造工厂。此前，作为人工智能芯片关键组件的 HBM 的需求激增。目前，美光科技在 HBM 市场的份额远低于竞争对手 SK 海力士（50% 以上）和三星（42.4%）。然而，美光科技已与 SK 海力士一起获得了为英伟达的 H200 人工智能芯片生产 HBM3E 的批准，而三星仍在等待验证。

(日经)

via 老裕泰 - Telegram Channel

Adobe 的新服务条款澄清其不会使用用户的作品来训练人工智能

过去几周，Adobe 因修改服务条款协议而面临强烈反对。当地时间6月18日，该公司公布了修订后的服务条款，明确强调其不会使用用户存储在本地或云端的内容来训练人工智能模型。条款明确指出，其软件“不会使用您的本地或云端内容训练生成式人工智能模型”。不过有一个例外：如果用户将其作品提交到 Adobe Stock 素材市场，公司可以使用其来训练 Adobe Firefly。新条款还强调该公司不会“扫描或查看”用户设备上存储的本地作品。只会自动扫描上传到云端的内容，以“确保我们不会托管非法或滥用内容，例如儿童性虐待材料”。

—— Theverge

via 风向旗参考快讯 - Telegram Channel

华为高管：昇腾人工智能算力性能已超过英伟达A100

近期举行的2024世界半导体大会暨南京国际半导体博览会的一场分论坛上，江苏鲲鹏·昇腾生态创新中心首席运营官王陶透露，昇腾集群是国内唯一已完成训练千亿参数大模型的技术路线，性能已经超过了英伟达A100。王陶表示，中国大模型里面，有近50%选择了昇腾技术路线。与英伟达A100相比，昇腾人工智能芯片在训练效率层面最高是英伟达的1.1倍。尤其在训练Meta Llama、BloomGPT等模型方面，昇腾人工智能算力训练效率大大优于英伟达A100，甚至10倍领先其他国产友商。

—— 钛媒体

via 风向旗参考快讯 - Telegram Channel

🆔 网站名称：沙计算

⭐️ 网站功能：证件照片排版

📁 网站简介：一款快速生成和排版各种证件照片的在线工具。只需上传照片，选择尺寸和布局，即可生成适合打印的多张证件照。

支持多种国家和地区的特定尺寸要求，包括中国护照、美国签证、加拿大签证、英国签证等。

🌐 网站网址：点击打开📢 频道 ✈️ 群聊 📬 投稿 💵 商务

via AI绘画｜AI视频 - Telegram Channel

🤖 日本以轻监管拥抱人工智能投资

日本的目标是成为“全球最人工智能友好国家”，将投资优先于监管。政府的人工智能战略委员会专注于行业主导的监督，没有出现对“硬法”监管的严肃呼吁。这种方法与欧盟的全面人工智能法案形成对比，该法案旨在根据潜在风险对人工智能进行监管。

日本的战略吸引了 OpenAI、微软、谷歌和亚马逊等主要科技公司的投资，其中亚马逊承诺到 2027 年向该国的云服务行业投资 140 亿美元。这笔投资的驱动力是美中科技战、日元贬值以及日本缺乏全球竞争力的人工智能服务。

然而，最近发生的人工智能相关诈骗和深度伪造事件引发了人们对人工智能风险的担忧。这导致了人们呼吁更多地讨论人工智能监管，即使是在人工智能战略委员会内部。虽然日本目前专注于“软监管”，但专家认为，某种形式的监管法律可以帮助日本在国际人工智能监管方面发挥更大的影响力。

(日经)

via 老裕泰 - Telegram Channel

英伟达超越微软成为全球市值最高的公司

在英伟达公司的整体估值超过苹果公司不到两周后，这家人工智能芯片制造商现已超越微软公司，成为全球市值最高的公司。周二美股收盘，英伟达股价上涨 3.51%，报 135.58 美元再刷历史新高，总市值达 3.335 万亿美元。这超过了微软 (3.32 万亿美元)、苹果 (3.29 万亿美元) 和谷歌 (2.17 万亿美元)。

—— Theverge

via 风向旗参考快讯 - Telegram Channel

美国寻求盟友帮助遏制中国人工智能内存芯片发展

美国一位高级官员将访问日本和荷兰，敦促两国对中国半导体行业增加新的限制，包括限制其制造人工智能所需的高端存储芯片能力。据知情人士透露，美国商务部负责工业和安全事务的副部长艾伦·埃斯特维兹将敦促海牙和东京的同行对荷兰芯片设备制造商阿斯麦和日本的东京威力科创在中国的活动施加更多限制。埃斯特维兹的要求是美国与盟友持续对话的一部分，将重点关注中国芯片工厂开发所谓的高带宽存储芯片的情况。

—— 彭博社

via 风向旗参考快讯 - Telegram Channel

Meta AI 公布了多项新的研究成果 包括4个可用的AI模型和2个额外的研究成果

via XiaoHu.AI学院 (author: 小互)

Telegraph

Meta AI 公布了多项新的研究成果 包括4个可用的AI模型和2个额外的研究成果

Meta FAIR公开发布了多项新的研究成果、模型和数据集，旨在通过开放、合作和卓越的原则，推动AI领域的创新和应用。这些发布的内容包括图像到文本和文本到音乐生成模型、多令牌预测模型以及AI生成语音检测技术等。 更新内容包括4个新公开可用的AI模型和2个额外的研究成果。

Hedra：上传人物照片+任意语音 可实现人物唱歌、说话

via XiaoHu.AI学院 (author: 小互)

Telegraph

Hedra：上传人物照片+任意语音 可实现人物唱歌、说话

Hedra Labs 推出了 Character-1 的研究预览版。支持根据任意人物照片和语音内容生成个人会说话和唱歌的动态视频，也就是能让一张照片说话或者唱歌，同时保持唇形和表情、姿态和语音内容相匹配。 可在桌面和移动设备上使用。 功能包括： 无限时长（30秒开放预览）。 如果 H100 供应充足，每 60 秒生成 90 秒内容。 支持表达性对话、歌唱和说唱角色。

👾 AI 视频生成器引发剽窃担忧

AI 初创公司 Luma 一直在推广其视频生成工具 Dream Machine，并发布了名为“怪兽营”的动画电影预告片。然而，预告片中的角色和美学与皮克斯的“怪兽电力公司”惊人地相似。这引发了人们对 AI 模型透明度及其潜在剽窃行为的担忧。Luma 尚未披露 Dream Machine 训练数据的来源，导致人们质疑其是否包含受版权保护的材料。虽然 Luma 将 Dream Machine 吹捧为电影制作的革命性工具，但这一事件突出了 AI 被用于未经授权复制的可能性。

(The Verge)

via 老裕泰 - Telegram Channel

🤖 日本将斥资2亿美元升级超级计算机，提升人工智能能力

日本国立产业技术综合研究所（AIST）将从惠普企业（HPE）获得价值2亿美元的人工智能服务器，用于升级其人工智能桥接云基础设施（ABCI）超级计算机。这些服务器将配备数千个英伟达强大的H200 GPU，大幅提升超级计算机的容量。此次升级旨在促进生成式人工智能模型的研发，特别是针对日语，需要专门的训练。该项目由经济产业省拨款2.5亿美元资助。ABCI超级计算机目前配备了960个A100 GPU和4,352个V100处理器，被超过3,000家企业和研究人员使用。此次升级预计将满足日益增长的对人工智能开发资源的需求，特别是在生成式人工智能领域。

(日经)

via 老裕泰 - Telegram Channel

英伟达首夺全球最大市值宝座

今天英伟达股价涨幅超4%，总市值超越微软达到3.350万亿美元——首次成为全球市值最高的股票。

由于市场对英伟达用于人工智能计算的芯片需求旺盛，其股价年初至今飙升超182%。（数据1:56更新）

yahoo!finance

关注频道 @ZaiHuaPd
频道爆料 @ZaiHuabot

via 软件新闻频道📮投稿爆料 - Telegram Channel

🤖 AI 驱动的性爱玩偶：亲密关系的未来？

中国性爱玩偶制造商星珀科技正在开发具有先进对话能力和逼真互动功能的 AI 驱动的机器人。预计将在 8 月推出男女两种形式的原型。这些玩偶将配备更多传感器，以实现响应式动作和语音，旨在创造更令人信服的情感联系。星珀还计划开发用于家务和“智能服务机器人”的机器人，以帮助残疾人和老年人。

虽然该公司面临着电池尺寸和电机效率等技术挑战，但星珀致力于减轻其玩偶的重量，目前已从 88 磅降至 64 磅。该公司旨在进入中国市场，尽管存在文化敏感性，但预计其销量将超过美国、日本和德国的总和。

(PCMag.com)

via 老裕泰 - Telegram Channel