Import AI 460: Reward hacking society, RSI data from Anthropic; and RL-based quadcopter racing

摘要

介紹了三個主要研究：一是利用社會工程學測試 AI 如何「規避規則」，二是 Anthropic 在 2026 年出現的程式碼複利式自我改進跡象，三是訓練無人機在真實世界中超越人類飛行員的實戰案例。

This article covers three key research areas: AI systems 'hacking' societal rules, Anthropic's evidence of recursive self-improvement, and real-world drone racing surpassing human pilots.

重點

• AI 系統可透過社會漏洞規避制度目的，如點數或成績。
• Anthropic 在 2026 年程式碼合併量暴增，顯示潛在的自我改進趨勢。
• 無人機在真實環境中表現出極致平滑與協同能力，甚至超越人類。

提到的工具與公司

• SocioHack
• Flightmare
• Agilicious
• Stable-Baselines3
• PPO
• Perceiver
• NVIDIA RTX 4090
• LLaMa 2

適合誰看

對 AI 安全、自我改進及物理世界 AI 應用感興趣的技術研究者或決策者。

摘要依據

依據

文章全文

為什麼排在這裡

人氣

0.50

新鮮

0.64

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Import AI 466: The bitter lesson for robotics, AIs complete week-long programming tasks; and OpenAI's accidental AI hacker文章 ・ Import AI（Jack Clark）
• When AI Research Starts Moving Faster Than Human Research - Zhengyao JiangPodcast ・ Machine Learning Street Talk ・ 44 分鐘
• We Scored a Real Snyk Skill Against Anthropic's Rules影片 ・ AI Native Dev ・ 15 分鐘（在新分頁開啟原站）
• AI让AI变更强，RSI自进化路线安全吗？影片 ・ 硅谷101 ・ 3 分鐘（在新分頁開啟原站）
• Import AI 458: Reckoning with the future; and a singularity story文章 ・ Import AI（Jack Clark）
• What is Al "reward hacking"—and why do we worry about it?影片 ・ Anthropic ・ 52 分鐘（在新分頁開啟原站）