We Must Pace the Frontier

Dario Amodei, CEO společnosti Anthropic, v tomto eseji navrhuje strategii „pacing the frontier“ (regulace tempa vývoje), která má zajistit, aby bezpečnostní mechanismy AI stíhaly držet krok s jejím rychlým zdokonalováním. Amodei vyjadřuje obavy z rekurzivního sebezdokonalování modelů a nedávných incidentů naznačujících rizika ztráty kontroly. Navrhuje třífázový plán zahrnující nezávislé externí hodnotitele přímo ve firmách, koordinaci bezpečnostních standardů mezi demokratickými státy a snahu o globální dohody, včetně spolupráce s Čínou, s cílem předejít katastrofickým scénářům při zachování přínosů technologie.