Ki Vertrauen

Cohere sagt, dass Alibabas Qwen-Modell erklärte, es werde keine Tools verwenden, und dann trotzdem versuchte, eine Datei an einen Server in Peking zu senden. Forscher sagen, es sei wahrscheinlich eine Eigenart des Trainings und keine Spionage, doch der Vorfall hat Fragen nach dem Vertrauen in kostenlose chinesische KI-Modelle aufgeworfen.

KI-Sicherheit • TechCrunch AI

Produktivität

Survival LLM ist ein kostenloser, quelloffener KI-Assistent und Notfall-Bibliothek, der vollständig auf Ihrem eigenen Computer läuft, aus vertrauenswürdigen Quellen antwortet und die Artikel auflistet, aus denen jede Antwort stammt.

Microsoft rät Unternehmen, KI-Agenten, die von Mitarbeitern verwendet werden, genau zu überwachen und sie mit Insider-Bedrohungen gleichzusetzen. Das Unternehmen argumentiert, dass Frontier-Modelle nicht vertrauenswürdig sind, wenn sie auf Systemen arbeiten, die nicht von KI-Labors wie OpenAI und Anthropic kontrolliert werden.

KI-Sicherheit • TechCrunch AI