Ein Forscher von Anthropic hat diese Woche seinen Rücktritt erklärt und warnt davor…

…dass das Unternehmen auf eine sich selbst verbessernde Superintelligenz hinarbeite, während es mit der menschlichen Sicherheit spielt. Die Warnung wurde nicht abgewiesen, sondern vom eigenen Alignment-Chef von Anthropic mitunterzeichnet, und trifft genau dann ein, wenn sich das Unternehmen auf einen möglichen Börsengang vorbereitet. Dieser interne Dissens verdeutlicht die wachsenden Spannungen zwischen dem schnellen Skalieren von Fähigkeiten und strengen Sicherheitsprotokollen in der Branche.

KI-generiert: Die Zusammenfassungen schreibt eine KI auf Grundlage der verlinkten Quellen. So nutzen wir KI