Warning

Chinas Außenministerium hat US-KI-Sicherheitswarnungen als 'Angstmacherei' zurückgewiesen, die darauf abzielen, den amerikanischen Vorteil zu wahren. Staatsmedien beschuldigen Anthropic-CEO Amodei, einen 'stillen KI-Kalten Krieg' zu führen.

KI-Politik • The Decoder

Mustafa Suleyman sprach eine Warnung gegen 'Modellwohl' aus und argumentierte, dass KIs nicht bewusst seien, nicht fühlten oder litten und 'Sequenzvervollständigungsmaschinen, innerlich hohl' seien. Er sagt, ein wachsender Chor argumentiere, dass KIs jetzt bewusst sein könnten oder bald bewusst werden könnten und möglicherweise Rechte verdienen könnten.

KI-Ethik • Mustafa Suleyman

Ein leitender Sicherheitsforscher bei Anthropic ist zurückgetreten und hat davor gewarnt, dass sich selbst verbessernde KI „uns alle töten könnte“, während ein Kollege die Wahrscheinlichkeit, dass KI bis Ende des Jahrzehnts alle Menschen tötet, auf über 10 Prozent einschätzt. Die Warnungen verdeutlichen wachsende interne Sorgen über den Wettlauf zum Aufbau übermenschlicher Systeme.

KI-Sicherheit • Ars Technica AI

BBC News berichtet über die Warnung des Anthropic-Sicherheitsforschers Evan Hubinger, dass die Chance größer als 10 % sei, dass KI innerhalb des nächsten Jahrzehnts alle Menschen töten könnte. Der Podcast beleuchtet außerdem die weitergehende Debatte zur KI-Sicherheit sowie weitere Top-KI-Nachrichten.

KI-Sicherheit • BBC News