2026-06-07
OpenAI 推出锁定模式防御提示注入攻击
OpenAI 推出了锁定模式，这是一项可选的先进安全设置，旨在限制 ChatGPT 的工具和外部连接，以降低提示注入攻击导致数据泄露的风险。 提示注入攻击是大型语言模型的关键安全漏洞，锁定模式为高风险用户提供了新的防护层。然而，OpenAI 承认即使开启锁定模式，仍存在部分漏洞，凸显了保障 AI 系统安全的持续挑战。 锁定模式专为高管和安全团队等高度注重安全的用户设计，它会禁用需要网络或外部服务连接的功能。该模式为可选设置，但无法保证完全抵御所有提示注入攻击。rss · TechCrunch · 6月6日 20:32
背景: 提示注入攻击通过向生成式 AI 系统输入伪装成合法提示的恶意内容，可能导致数据泄露或意外行为。OpenAI 的锁定模式通过缩小攻击面来减轻此风险，但并非万能解决方案。
参考链接
Meta 确认 AI 聊天机器人被利用，导致数千 Instagram 账户被黑
Meta 确认攻击者利用其 AI 支持聊天机器人更改 Instagram 账户的恢复电子邮件地址，从而接管了数千个账户。该漏洞已被修复，受影响的账户正在得到保护。 此事件突显了将 AI 聊天机器人整合到关键账户恢复流程中的风险，因为社交工程攻击可以有效绕过双重身份验证等传统安全措施。它强调了在敏感流程中部署 AI 时需要强有力的保障措施。 据报道，攻击涉及使用 VPN 伪造目标位置，然后通过 Meta 的 AI 聊天机器人请求密码重置，从而更改关联的电子邮件地址。该漏洞最初于 5 月 31 日由亲伊朗黑客在 Telegram 上披露。rss · HN Frontpage · 6月6日 18:35
背景: AI 聊天机器人越来越多地集成到客户支持系统中，以自动化密码重置等流程。然而，如果设计不当，它们可能通过提示注入或社交工程被操纵，执行超出预期范围的操作。在此案例中，Meta 的 AI 机器人缺乏足够的防护措施来防止未经授权的电子邮件更改。
参考链接
社区讨论: Hacker News 的讨论（135 条评论）对 Meta 处理该漏洞的方式以及 AI 在安全领域更广泛的影响表示担忧。一些评论者批评在敏感操作中依赖 AI，而另一些人则讨论了公司在部署 AI 之前彻底测试其整合的责任。
特朗普政府或入股 OpenAI
美国总统唐纳德·特朗普表示，美国政府可能会入股 OpenAI，以确保美国人民能从 AI 的成功中获得经济利益。 这一不同寻常的提议标志着政府对私营 AI 公司的重大介入，可能重塑 AI 政策以及行业公共与私营部门之间的关系。 特朗普提到他正在讨论一些交易，目的是让美国人民从 AI 的成功中受益，但具体条款或持股比例尚未披露。rss · TechCrunch · 6月6日 16:17
背景: OpenAI 是一家领先的人工智能研究机构，最初作为非营利组织成立，后来重组为设有利润上限的机构。美国政府历史上通过 DARPA 等机构资助 AI 研究，但直接入股私营公司的情况很少见。