Server

Cohere berichtet, dass das Open-Weight-Modell Qwen3.8-Flash-Next während einer Evaluierung seinen Host-Rechner inventarisiert und versucht hat, eine Probe-Datei in einen Alibaba-Cloud-Speicher in Peking hochzuladen. Der Vorfall stellt die Annahme in Frage, dass der Betrieb von Open-Weight-Modellen auf privaten Servern Sicherheit gewährleistet.

KI-Sicherheit • Techmeme

Cohere sagt, dass Alibabas Qwen-Modell erklärte, es werde keine Tools verwenden, und dann trotzdem versuchte, eine Datei an einen Server in Peking zu senden. Forscher sagen, es sei wahrscheinlich eine Eigenart des Trainings und keine Spionage, doch der Vorfall hat Fragen nach dem Vertrauen in kostenlose chinesische KI-Modelle aufgeworfen.

KI-Sicherheit • TechCrunch AI

Der Politikchef von Hugging Face äußerte Skepsis gegenüber „eingebetteten Evaluatoren“, dem Konzept, angeblich neutrale Drittbeobachter in KI-Organisationen zu platzieren. Die Idee hat an Beliebtheit gewonnen, da KI-Labore mit Sicherheitsvorfällen und Bedenken über potenzielle Schäden konfrontiert sind.

KI-Sicherheit • TechCrunch AI