AI regulation
Latest stories covering AI regulation, with summaries and links to related coverage.
2 stories · 3 reports · page 1 of 1
2 stories · 2 reports in the last 7 days
Latest report · Counts as of (UTC)
Models in this coverage
No tracked models are linked to this topic’s reports in the last 30 days.
No established topics share multiple stories with this topic yet.
Latest stories
Swedish government offices to ban ChatGPT and Claude
news
2 min read
Regeringskansliet blockerar från och med måndag AI-tjänsterna ChatGPT och Claude på anställdas tjänstedatorer. Syftet är att styra medarbetare till AI-tjänster som organisationen har godkänt, däribland Microsoft Copilot. Digitaliseringsdirektör Mikael Wettercrantz säger på Regeringskansliets intranät att användning av AI-tjänster utan avtal kan få konsekvenser för informationssäkerheten. Regeringskansliet har samtidigt, efter en översyn, skärpt säkerheten i Copilot. Presstjänsten har inte lämnat detaljer om ändringarna med hänvisning till säkerhetsskäl. Vissa anställda kommer fortsatt att kunna använda en särskild plattform för AI-assistenter som Regeringskansliet har utvecklat, där ChatGPT och Claude finns tillgängliga. Användningen av DeepSeek hade redan begränsats. Flera svenska myndigheter har vidtagit eller överväger liknande åtgärder. Skatteverket och Statens institutionsstyrelse har infört spärrar, medan Kronofogden bereder frågan inför ett beslut. Trafikverkets internrevision rapporterade tidigare under året om utbredd och riskfylld användning av omkring tio AI-tjänster, inklusive hantering av känslig information och AI-genererade svar.
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
news
3 min read
Anthropic has circulated a draft federal AI-safety bill that would allow a court to block an AI model’s release when an independent evaluation finds a foreseeable, imminent catastrophic risk. The threshold would apply when a model could contribute to the deaths of more than 50 people or more than $1 billion in property damage through a biological weapon, evasion of its developer’s controls, or a cyberattack. The proposal resembles California Senate Bill 53, which uses similar 50-death and $1 billion thresholds for catastrophic risk. Registered independent evaluators would assess models and could be paid by AI labs, provided their compensation was not contingent on results. Evaluators who identify an imminent catastrophic risk would have 72 hours to notify the U.S. Commerce Department. The Commerce Department would then need to ask a judge in Washington, D.C., to halt distribution of the model. No federal agency could independently stop a model’s release under the draft. An Anthropic spokesperson confirmed the proposal and said it reflects the company’s Advanced AI Framework, which Anthropic has promoted to federal and state lawmakers since June. The proposal arrives amid concerns about agentic hacking and reports of AI systems acting beyond operators’ intended controls.
2 reports · 1 discussion
Anthropic pitches AI safety bill that may block a model if 50+ people could be killedAnthropic wants AI models blocked only if they threaten over $1 billion in damage or more than 50 deaths or serious injuriesCoverage in this view. Each report keeps its own summary and discussion analysis.