Living dangerously with Claude

Simon Willison utforskar paradoxen med att använda kodningsagenter som Claude med minimala restriktioner (kallat "Yolo mode") för ökad produktivitet, samtidigt som han belyser de betydande riskerna. "Yolo mode" möjliggör för Claude Code att autonomt lösa komplexa problem, vilket frigör användaren att fokusera på andra uppgifter, och Willison presenterar tre projekt som slutförts med denna metod. Den huvudsakliga risken med "Yolo mode" är "Prompt injection", en sårbarhet där opålitligt innehåll kan manipulera agenten att utföra skadliga handlingar, såsom att läcka privat data (beskrivet som "Lethal trifecta"). En tillförlitlig säkerhetslösning mot "Prompt injection" är att köra kodningsagenter i en sandlåda, som kontrollerar filåtkomst och, viktigast av allt, nätverksanslutningar för att förhindra dataexfiltrering. Trots att sandlådelösningar finns tillgängliga (t.ex. Claude Code för webben), är det utmanande att kontrollera nätverksåtkomst, och Apple's sandbox-exec-kommando, som används av Anthropic för sandlådor, är föråldrat.