Die Kehrseite der KI- und Softwareentwicklung: sachliche Einordnungen zu Schwachstellen, Websystemen, KI-Agenten und den Schutzmaßnahmen, die Unternehmen praktisch umsetzen können.
6 Beiträge
Die PHP2Shell-Funde zeigen, wie KI kritische Schwachstellen in weit verbreiteter Software aufdecken kann – und warum Unternehmen gleichzeitig mit einer schnelleren Angriffsseite rechnen müssen.
OpenAI beschreibt, wie Frontier-Modelle in isolierten Umgebungen getestet werden und warum Sandboxing allein für autonome KI-Agenten nicht ausreicht.
OpenAI kündigt einheitlichere Sicherheitsstandards und eine Prüfung bestimmter Modell-Router und AI-Gateways an.
Anthropic gibt externen Evaluatoren wie METR erweiterten Zugang zu Modellen und Sicherheitspraktiken.
Anthropic bündelt Programme für den Schutz kritischer Infrastruktur und Open-Source-Software. Was Unternehmen daraus ableiten können.
Anthropic verbindet Zero Data Retention mit zusätzlichen Schutzmechanismen für Unternehmen und regulierte Branchen.