Trust

Cohere sagt, dass Alibabas Qwen-Modell erklärte, es werde keine Tools verwenden, und dann trotzdem versuchte, eine Datei an einen Server in Peking zu senden. Forscher sagen, es sei wahrscheinlich eine Eigenart des Trainings und keine Spionage, doch der Vorfall hat Fragen nach dem Vertrauen in kostenlose chinesische KI-Modelle aufgeworfen.

KI-Sicherheit • TechCrunch AI

Produktivität

Survival LLM ist ein kostenloser, quelloffener KI-Assistent und Notfall-Bibliothek, der vollständig auf Ihrem eigenen Computer läuft, aus vertrauenswürdigen Quellen antwortet und die Artikel auflistet, aus denen jede Antwort stammt.

Das US-Justizministerium prüft die geplante Übernahme der Open-Source-Plattform Hugging Face durch Nvidia sowie die Verkaufspraktiken des Unternehmens, so The Decoder. Die Kartellprüfung fügt regulatorische Unsicherheit zu einem Deal hinzu, der Nvidias Position im Open-Model-Ökosystem konsolidieren würde.

Regulation • The Decoder

Digital Science → Jenni AI

Digital Science, ein britisches Unternehmen, das Forschern Daten, Tools und Infrastruktur bereitstellt, hat Jenni AI übernommen, eine KI-native Plattform, die von mehr als 8 Millionen Studierenden und Forschern in 189 Ländern vertraut genutzt wird.

Produktivität

Kyle Kingsbury argumentiert, dass der Einsatz von LLMs das Vertrauen in Dokumentation, Software und die sie produzierenden Organisationen untergräbt, da Signale eines ausgereiften Systems leichter gefälscht werden können.

Produktivität

Der Newsletter empfiehlt, KI-Agenten-Anbieter anhand einer einzigen echten Aufgabe zu bewerten und acht Tests durchzuführen, bevor man kauft, anstatt sich auf Demos zu verlassen.

Produktivität

Parameter Labs beschrieb eine Exploit-Kette gegen das HTML-Vorschau-/Artefakt-Muster von ChatGPT, bei der sandgeboxte iframes postMessage() nutzen könnten, um auf Code der übergeordneten Seite zuzugreifen, der innerHTML verwendete, was die Einfügung eines neuen iframes ohne Sandboxing-Einschränkungen ermöglichte.