Superintelligenz

Technologie

• Ein Forscher von Anthropic hat diese Woche seinen Rücktritt erklärt und warnt davor, dass das Unternehmen auf eine sich selbst verbessernde Superintelligenz hinarbeite, während es mit der menschlichen Sicherheit spielt. Die Warnung wurde nicht abgewiesen, sondern vom eigenen Alignment-Chef von Anthropic mitunterzeichnet, und trifft genau dann ein, wenn sich das Unternehmen auf einen möglichen Börsengang vorbereitet. Dieser interne Dissens verdeutlicht die wachsenden Spannungen zwischen dem schnellen Skalieren von Fähigkeiten und strengen Sicherheitsprotokollen in der Branche.

  KI-Sicherheit & Alignment • TechCrunch AI

  Direktlink