OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

今日热点新闻

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

 

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

OpenAI 最近成立了一个安全与安保委员会,负责监督其人工智能项目,确保其机器学习研究安全进行。

这个由公司内部高管组成的九人小组,将在接下来的90天内审查并改进AI风险缓解流程,并向董事会提交建议。

此外,OpenAI 正在开发下一代AI模型,旨在实现更高级的人工智能系统。

公司预计将在今年晚些时候推出对GPT-4的重大更新,这将是一个比现有版本更先进的AI系统。

同时,OpenAI依赖于微软云服务提供的图形处理单元来支持其AI研究。

这些更新表明,OpenAI 正在积极推进其技术的发展,并确保其AI技术的安全和责任。

来源:

https://siliconangle.com/2024/05/28/openai-forms-safety-security-committee-oversee-ai-projects-trains-next-model/

Anthropic 聘请前 OpenAI 安全主管领导新团队

 

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

最近,OpenAI的关键研究员Jan Leike因为对人工智能(AI)安全的担忧而辞职,并加入了竞争对手Anthropic公司。

在Anthropic,Leike将致力于可扩展的监督、从弱到强的泛化以及自动化的对齐研究。

这一转变并不令人意外,因为Anthropic一直被视为OpenAI的对立面,它是一家致力于谨慎进步的公共利益公司,由一些因担心OpenAI偏离其使命而离开的前OpenAI员工成立。

Leike和其他离开OpenAI的同事认为公司在与微软的10亿美元交易后过于重视商业利益,偏离了开发更安全、更有伦理的AI的初衷。

Anthropic的方法包括“宪法式AI”,在AI模型的训练中融入道德原则,通过公众输入并整合如联合国人权宣言等来源的概念。

这些变化和决定反映了AI领域内关于未来智能系统如何应服务于人类价值的深入思考。模板设计。

来源:

https://www.theverge.com/2024/5/28/24166370/jan-leike-openai-anthropic-ai-safety-research

其他AI资讯

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目
GPT-4o 提供支持的自动化生成基于 PRD 的 Figma 设计

来源:https://twitter.com/yancymin/status/1795308932216525229

 

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目
RoboCasa,这是一个用于日常任务的大规模模拟框架。规模扩展是实现通用机器人的关键驱动力,RoboCasa利用仿真技术将规模扩展提升到一个全新的水平

来源:https://robocasa.ai/

 

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

Google Chromebook Plus 现加入AI功能,助力用户写作、编辑照片。包括“帮我写”和“魔法编辑器”,简化创作流程。还集成了Gemini聊天机器人,快速提供帮助。旨在提升用户效率和创造力。

来源:

https://siliconangle.com/2024/05/28/chromebook-plus-receives-built-ai-updates-gemini-photos-writing/

 

OpenAI 成立安全和安保委员会,在训练下一个模型时监督 AI 项目

ChatGPT 现在可以创建流程图和图表。不需要浪费数百小时为演示文稿或研究论文创建演示案例。

来源:

https://x.com/HeyAbhishekk/status/1795451138608689400

© 版权声明

相关文章