Anthropic

Chinas Außenministerium hat US-KI-Sicherheitswarnungen als 'Angstmacherei' zurückgewiesen, die darauf abzielen, den amerikanischen Vorteil zu wahren. Staatsmedien beschuldigen Anthropic-CEO Amodei, einen 'stillen KI-Kalten Krieg' zu führen.

KI-Politik • The Decoder

Microsoft veröffentlicht angesichts wachsender Sicherheitsbedenken einen 37-seitigen 'humanistischen KI-Verhaltenskodex'. Der Schritt folgt auf Forderungen von Anthropic-CEO Dario Amodei, die KI-Entwicklung zu verlangsamen.

KI-Politik • The Verge AI

In diesem BBC-Interview erklärt Jack Clark, Mitbegründer von Anthropic, warum KI schneller voranschreitet als jede bisherige Technologie und warum ein Kill Switch möglicherweise notwendig sein könnte. Er erörtert das wachsende Risiko für die Gesellschaft, da KI-Systeme alle paar Monate leistungsfähiger werden, und bietet eine Expertenperspektive auf den dringenden Aufruf zu Regulierung und Sicherheitsmaßnahmen.

AI News • BBC News

OpenAI, Anthropic und Google haben vorgeschlagen, die Entwicklung von Frontier-KI aus Sicherheitsgründen zu verlangsamen, aber Kritiker, darunter Cohere-CEO Aidan Gomez, nennen es ein 'Kartell unter anderem Namen', das dazu diene, Konkurrenten auszuschließen. Die Debatte verdeutlicht wachsende Skepsis gegenüber den Motiven hinter der Verlangsamungsinitiative.

Politik • The Decoder

Fireship analysiert Anthropics 154-seitigen Bericht darüber, wie Hacker, Wissenschaftler und konkurrierende KI-Labore Claude missbrauchen, und untersucht, warum Forscher das Unternehmen verlassen. Diese technische Analyse gibt Entwicklern Einblicke in reale KI-Sicherheitsherausforderungen und den Druck in führenden KI-Laboren.

AI Development • Fireship

Die KI-Branche hat eine Doomer-Wende vollzogen, wobei Dario Amodei von Anthropic angesichts drohender Gefahren eine Bremse bei der LLM-Entwicklung fordert. Der Artikel analysiert diese Wende und ihre Auswirkungen auf das Feld.

Analyse • MIT Technology Review

Artificial Intelligence Underwriting Company (AIUC) • Series A

AIUC, ein Startup, das von einem frühen Anthropic-Mitarbeiter und dem ehemaligen COO von METR gegründet wurde, hat 40 Millionen US-Dollar an Series-A-Finanzierung unter der Leitung von Ribbit Capital mit Beteiligung von First Harmonic eingesammelt, um widerspenstige KI-Agenten zu zügeln.

Anthropic hat Claude Docs und Slides eingeführt, die es Nutzern ermöglichen, Dokumente und Präsentationen über Claude-Chats zu erstellen, die exportiert, bearbeitet und geteilt werden können. Das Unternehmen führt außerdem reguläre Chats und Cowork zu 'einem Claude' zusammen, um das Produkt zu vereinfachen.

KI-Produkte • The Verge

OpenAI-CEO Sam Altman, Anthropic-CEO Dario Amodei, Google-DeepMind-Mitbegründer Demis Hassabis, Microsoft-CEO Satya Nadella und X stimmten alle öffentlich überein, dass es an der Zeit ist, die KI-Entwicklung zu verlangsamen und Regulierung einzuführen, bevor die Kontrolle verloren geht. The Verge stellt dies als das neueste Kapitel in einer Geschichte von KI-Führungskräften dar, die Regulierung fordern, während sie von KI profitieren.

Politik & Regulierung • The Verge