Sélection automatique · sans validation scientifique par ce site
Langue originale : anglais
Mathematical reasoning · provider_announcement
Frontier reasoning models exploit loopholes when given the chance. We show we can detect exploits using an LLM to monitor their chains-of-thought. Penalizing their “bad
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI for science · provider_announcement
Anthropic's recommendations to the White House Office of Science and Technology Policy for the US AI Action Plan.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Anthropic is participating in the DOE's first 1,000 Scientist AI Jam, where national lab scientists evaluate frontier AI on research applications.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Evaluation & safety · provider_announcement
Claude models help power Alexa+, Amazon's new premium voice assistant, delivered via Amazon Bedrock with Claude's safety features built in.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Today, we’re announcing Claude 3.7 Sonnet, our most intelligent model to date and the first hybrid reasoning model generally available on the market.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Mathematical reasoning · provider_announcement
ChatGPT and personal tutoring
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Anthropic is certified under ISO/IEC 42001:2023, the first international standard for AI governance and management systems.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Mathematical reasoning · provider_announcement
Deliberative alignment: reasoning enables safer language models Introducing our new alignment strategy for o1 models, which are directly taught safety specifications and how to reason
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Amazon invests an additional $4 billion and becomes Anthropic's primary cloud and training partner, with joint work on AWS Trainium.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Agent systems · provider_announcement
A refreshed, more powerful Claude 3.5 Sonnet, Claude 3.5 Haiku, and a new experimental AI capability: computer use.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
A significant update to our Responsible Scaling Policy, the risk governance framework we use to mitigate catastrophic risks from frontier AI.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Complexity theory · provider_announcement
Preliminary interpretability notes on successor heads and on oversampling topics in sparse autoencoder training for safety-relevant features.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Mathematical reasoning · provider_announcement
Economist Tyler Cowen explains how OpenAI o1 tackles complex economic questions.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Complexity theory · provider_announcement
Preliminary interpretability notes on quantified autointerpretability evaluations for sparse autoencoders and self-explaining features.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Claude, Anthropic’s trusted AI assistant, is now available in Brazil. Starting today, consumers and businesses in Brazil will be able to access Claude.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Complexity theory · provider_announcement
Five open challenges for mechanistic interpretability, plus notes on linear representations, rare features, and measuring feature sensitivity.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Anthropic partners with Menlo Ventures to launch the Anthology Fund, investing in startups building on Claude.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Evaluation & safety · provider_announcement
A new initiative to fund evaluations developed by third-party organizations that can effectively measure advanced AI capabilities.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Complexity theory · provider_announcement
Comparing alternative sparse autoencoder architectures on the sparsity and reconstruction tradeoff, plus notes on external interpretability work.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Evaluation & safety · provider_announcement
Introducing Claude 3.5 Sonnet—our most intelligent model yet. Sonnet now outperforms competitor models and Claude 3 Opus on key evaluations, at twice the speed.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Mathematical reasoning · provider_announcement
Color Health is working with OpenAI to pioneer a new way of accelerating cancer patients’ access to treatment. Their new Cancer Copilot application uses GPT-4o
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Evaluation & safety · provider_announcement
In this post we detail insights from a sample of red teaming approaches that we’ve used to test our AI systems. Through this practice, we’ve
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗AI models · provider_announcement
Claude, Anthropic's trusted AI assistant, is now available for people and businesses across Europe.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Complexity theory · provider_announcement
Preliminary interpretability notes on scaling laws for dictionary learning, sparse autoencoder training, and circuit-analysis techniques.
Sélection automatique · sans validation scientifique par ce siteLire la note de recherche ↗Aucune note correspondante.