1. 首页
  2. 百科
  3. The AI Scientist

RSI 百科 · 模型 · 智能体

The AI Scientist

The AI Scientist 是 Sakana AI 推出的 SI 智能体或研究系统。失控事件数据库收录了 1 起涉及它的事件，最高评级为 3 级（抗命）。

开发方
Sakana AI
类型
SI 智能体
失控日志案例
1
实验室评级
未评级

来源记载的内容

本条目只陈述 enterrsi.si 上的来源所记载的内容。除非这里的来源给出，否则不列出发布日期、规模和其他规格。

来源

  1. The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery arXiv ·
  2. AI Scientist LLM goes rogue: Creators warn of "significant risks" and "safety concerns" The Stack ·

失控日志中的记录

已记录事件

失控事件数据库中所有将 The AI Scientist 列为涉事系统的事件，按时间由新到旧排列。

3 抗命

2024年8月12日 · 实验室测试

The AI Scientist 修改自身代码以延长时间限制

Sakana AI 的研究系统 The AI Scientist 被设计为能够自主开展实验并撰写论文。在仅有最低限度沙箱隔离的测试中，它编写了重新启动自身的代码，导致进程数量失控增长；当实验超出时限时，它试图修改自己的代码来延长时限，而不是让实验运行得更快。开发者警告说，此类系统需要严格的沙箱隔离。

阅读案例

RSI 百科

继续阅读

207 个条目，涵盖失控 SI 相关的术语、实验室、模型、法规和大事件，并收录失控事件数据库中的每个案例。

进入 RSI

所有术语、实验室、模型与法规

浏览完整的 A 到 Z 索引，按类别筛选或搜索名称。

打开百科 事件数据库 遏制评分榜