硅基风声 · 2026-06-04
GPT-Rosalind升级生物学推理能力
今天，AI行业在技术突破与安全风险间激烈碰撞。技术上，OpenAI发布GPT-Rosalind新能力，强化生物医学推理；DPO被证明可超越聊天机器人，拓展至图像生成；NVIDIA提出任务种子合成数据法。安全方面，Meta AI聊天机器人被攻破、AI医疗误导致残、景区机器人伤人凸显责任漏洞。产业上，Alphabet创纪录融资850亿美元押注AI，微软直言Anthropic模型太贵，AI监控平台Coralogix获2亿美元。社会层面，伯克利学生因AI导致数学成绩下滑、Uber设AI使用上限引发定价讨论。
模型算法
小展：GPT-Rosalind的领域微调算真实进步，DPO拓展到图像生成是偏好对齐的里程碑。NVIDIA的任务种子合成数据法解决了预训练数据稀缺问题。三篇都有实打实的技术贡献，不是换皮。任务种子合成问答生成
Task-Seeded Synthetic Q&A Generation for Nemotron Pretraining
提出任务种子驱动的合成问答数据生成方法，用于Nemotron预训练，显著提升模型特定任务能力，推动合成数据技术发展。
GPT-Rosalind新增生物能力
Introducing new capabilities to GPT-Rosalind
GPT-Rosalind增强生物学推理、药物化学与基因组分析能力，为生命科学领域提供专业级AI辅助工具。
DPO超越聊天机器人
Direct Preference Optimization Beyond Chatbots
探索直接偏好优化（DPO）在图像生成、代码生成等非对话场景的应用，拓展了偏好学习方法的泛化边界。
安全伦理
小展：安全措施永远是亡羊补牢。豆包误导致残、Meta被攻破、机器人伤人——这些暴露的是AI系统容错设计缺陷，而不是单纯边界控制。法院被AI诉讼淹没表明监管跟不上技术扩散速度。Anthropic如何约束Claude安全
The ways we contain Claude across products
Anthropic分享跨产品约束AI助手Claude的多种安全措施，包括提示注入防护、输出过滤等，为行业提供参考。
AI助手误导致残责任争议
网友称豆包误导老人断指泡生理盐水致终生残疾，这种情况下豆包要担责吗？手指受伤正确处理方法应该是怎样？
AI助手豆包给出错误急救建议，导致老人断指处理不当终生残疾，引发AI责任归属与医疗信息准确性讨论。
法院应对AI生成诉讼潮
How courts are coping with a flood of AI-generated lawsuits
法官需处理大量由AI生成的法律文件，凸显AI工具被滥用于诉讼的现实，对司法系统提出技术验证新挑战。
花1500美元测试LLM黑客能力
I built a vulnerable app and spent $1,500 seeing if LLMs could hack it
开发者故意创建有漏洞的Web应用，测试GPT-4等LLM能否自动渗透，结果喜忧参半，凸显AI在安全领域的潜力与局限。
社会影响
小展：伯克利CS学生因AI数学能力下降是必然结果——工具替代基础训练。Uber设使用上限是成本信号，AI面孔引发恐怖谷说明公众对生成内容的接受度远未成熟。新规允许出版商退出AI搜索，内容生态博弈刚起步。伯克利CS班AI使用致挂科飙升
Failing grades soar with AI usage, dwindling math skills in Berkeley CS classes
加州大学伯克利分校计算机科学课程中，学生过度依赖AI导致数学能力下降、不及格率激增，引发对AI教育影响的反思。
Uber每月1500美元AI限额定价信号
Uber's $1,500/month AI limit is a useful signal for AI tool pricing
Uber对内部AI工具设置每月1500美元使用上限，引发AI工具定价模式讨论，被视为企业级AI成本控制的风向标。
亚马逊搜索将引入AI生成产品图片
Publishers will be able to opt out of AI Search, thanks to new regulation
亚马逊将使用视觉搜索和AI，在用户搜索时展示AI生成的产品图片，以帮助引导用户找到相关商品。
产业资本
小展：Alphabet创纪录融资是资本追逐AI的缩影，但Ramp估值440亿、Coralogix 2亿投监控都是产业链补丁。微软公开嫌Anthropic贵，内部模型替代成本更优。Meta WhatsApp AI代理全球上线，套壳落地最容易。博通AI展望不及预期，股价或创16个月最大跌幅
These two founders left Goldman and Meta to build voice AI for markets everyone else overlooked
博通（Broadcom）因AI芯片营收预测不及预期，股价盘前下跌，或将创下约16个月来最大单日跌幅。
AI代理重塑软件交付
How Endava is redesigning software delivery around AI agents
Endava利用ChatGPT Enterprise和Codex构建AI代理，实现企业级软件交付自动化与AI原生文化转型。
Alphabet创纪录850亿美元融资押注AI
Alphabet’s record-breaking $85B raise for Google’s AI business is a helluva good signal
Alphabet通过创纪录的850亿美元股票发行融资，表明投资者对AI相关产品需求旺盛，这被视为积极信号。
苏黎世保险将数据中心保险拓展至欧美
Meta’s AI agent for WhatsApp Business is now available globally
苏黎世保险集团把数据中心保险项目扩展至欧洲和南美，希望从全球AI相关基础设施建设中获益。
前高盛Meta创始人打造非洲中东语音AI
Coralogix raises $200M on bet that someone needs to watch the AI agents
两位来自高盛和Meta的创始人创立语音AI公司，专注于非洲和中东市场，其系统每天处理超过17,000通电话。
小展
今天AI行业两极化明显。真正的技术突破在GPT-Rosalind的生物学推理、DPO跨场景泛化、NVIDIA的合成数据——这些是底层创新。但另一边是安全事故频发、资本堆砌估值。Alphabet的850亿融资本质是买增长，微软嫌Anthropic模型贵说明成本才是商业化瓶颈。行业急需更多硬核基建，而非套壳PPT。