Anthropic 联合创始人 Jack Clark 将自我改进 AI 预测提前至 2027 年
Anthropic 联合创始人 Jack Clark 将递归自我改进(RSI)可能实现的时间从 2028 年提前到 2027 年,依据是数学突破进展和 TasteVal 等基准的表现。
Anthropic 联合创始人 Jack Clark 将递归自我改进(RSI)可能实现的时间从 2028 年提前到 2027 年,依据是数学突破进展和 TasteVal 等基准的表现。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson 等人在《Foreign Affairs》撰文,把 OpenAI 和 Anthropic 比作殖民时代的东印度公司,认为它们与政府谈判却仍受政府约束。
作者分析 OpenAI 与 Anthropic 今年接连给出数学问题证明的原因,认为模型以深度优先方式把每条可行路径推到终点,再用验证器筛掉错误分支。文中用提示序列长度 k 与分支因子 b 解释模型擅长解空间窄的问题,并指出人类直觉在搜索树深且分支多的问题上仍有优势。
推荐理由:文章用提示序列长度和分支因子解释模型为何擅长数学证明,并指出人类直觉仍占优的问题类型。
Import AI 作者在 IMF 曼谷会议的 Per Jacobsson 讲座上演讲,称今年已获得令人信服的证据表明奇点已经开始,AI 正在改变国家安全与经济轨迹并参与自身开发。他以 Anthropic 内部研究人员代码产出接近公司前四年 10 倍为例,说明 AI 已在软件开发等领域超越绝大多数工程师,并呼吁经济学家、银行家和政策制定者预期未来的快速变化。