Cloudflare раскрыла утечку контекста между клиентами Workers AI: причиной стали настройки KV-кеша и ошибка SGLang
Cloudflare описала уже устранённый сбой изоляции запросов к модели GLM-5.3 в Workers AI. Из-за сочетания недостаточного объёма KV-кеша и ошибки обработки отклонённых запросов отдельные ответы могли содержать фрагменты чужого контекста.
Подробнее →