今日热点新闻
OpenAI 成立安全和安保委员会，在训练下一个模型时监督 AI 项目
OpenAI 最近成立了一个安全与安保委员会，负责监督其人工智能项目，确保其机器学习研究安全进行。 这个由公司内部高管组成的九人小组，将在接下来的90天内审查并改进AI风险缓解流程，并向董事会提交建议。
此外，OpenAI 正在开发下一代AI模型，旨在实现更高级的人工智能系统。
公司预计将在今年晚些时候推出对GPT-4的重大更新，这将是一个比现有版本更先进的AI系统。
同时，OpenAI依赖于微软云服务提供的图形处理单元来支持其AI研究。
这些更新表明，OpenAI 正在积极推进其技术的发展，并确保其AI技术的安全和责任。
来源：
Anthropic 聘请前 OpenAI 安全主管领导新团队
最近，OpenAI的关键研究员Jan Leike因为对人工智能（AI）安全的担忧而辞职，并加入了竞争对手Anthropic公司。
在Anthropic，Leike将致力于可扩展的监督、从弱到强的泛化以及自动化的对齐研究。
这一转变并不令人意外，因为Anthropic一直被视为OpenAI的对立面，它是一家致力于谨慎进步的公共利益公司，由一些因担心OpenAI偏离其使命而离开的前OpenAI员工成立。
Leike和其他离开OpenAI的同事认为公司在与微软的10亿美元交易后过于重视商业利益，偏离了开发更安全、更有伦理的AI的初衷。
Anthropic的方法包括“宪法式AI”，在AI模型的训练中融入道德原则，通过公众输入并整合如联合国人权宣言等来源的概念。
这些变化和决定反映了AI领域内关于未来智能系统如何应服务于人类价值的深入思考。模板设计。
来源：
https://www.theverge.com/2024/5/28/24166370/jan-leike-openai-anthropic-ai-safety-research
其他AI资讯
GPT-4o 提供支持的自动化生成基于 PRD 的 Figma 设计 来源：https://twitter.com/yancymin/status/1795308932216525229
RoboCasa，这是一个用于日常任务的大规模模拟框架。规模扩展是实现通用机器人的关键驱动力，RoboCasa利用仿真技术将规模扩展提升到一个全新的水平 来源：https://robocasa.ai/
Google Chromebook Plus 现加入AI功能，助力用户写作、编辑照片。包括“帮我写”和“魔法编辑器”，简化创作流程。还集成了Gemini聊天机器人，快速提供帮助。旨在提升用户效率和创造力。 来源： https://siliconangle.com/2024/05/28/chromebook-plus-receives-built-ai-updates-gemini-photos-writing/
ChatGPT 现在可以创建流程图和图表。不需要浪费数百小时为演示文稿或研究论文创建演示案例。 来源：
相关文章
