Максимальное количество одновременных запросов в Owin

Я самостоятельно размещаю небольшое веб-приложение в консольном приложении, используя OWIN.

До достижения ApiController зарегистрировано одно промежуточное ПО:

public class HealthcheckMiddleware : OwinMiddleware
{
    private readonly string DeepHealthEndpointPath = "/monitoring/deep";
    private readonly string ShallowHealthEndpointPath = "/monitoring/shallow";

    public HealthcheckMiddleware(OwinMiddleware next)
        : base(next)
    {
    }

    public async override Task Invoke(IOwinContext context)
    {
        try
        {
            string requestPath = context.Request.Path.Value.TrimEnd('/');
            if (requestPath.Equals(ShallowHealthEndpointPath, StringComparison.InvariantCultureIgnoreCase)
                || requestPath.Equals(DeepHealthEndpointPath, StringComparison.InvariantCultureIgnoreCase))
            {
                context.Response.StatusCode = (int) HttpStatusCode.OK;
            }
            else
            {
                await Next.Invoke(context);
            }
        }
        catch (Exception ex)
        {
            // This try-catch block is inserted for debugging
        }
    }
}

Здесь Next.Invoke вызывает метод контроллера, который в основном асинхронно перенаправляет http-запрос к другому API, т.е. основная интересующая строка:

var response = await _httpClient.SendAsync(outgoingRequest);

Однако, если я попытаюсь отправить 10 http-запросов к API, как это (не дожидаясь их намеренно, поскольку я хочу оказать давление на API),

for (int i = 0; i < 10; i++)
{
    var httpRequestMessage = new HttpRequestMessage(HttpMethod.Post, "http://localhost:5558/forwarder");
    httpRequestMessage.Content = new StringContent(JsonConvert.SerializeObject(message), Encoding.UTF8, "application/json");
    httpClient.SendAsync(httpRequestMessage);
}

а затем сразу после этого отправить еще 10, тогда я получаю следующее исключение в блоке catch в HealthcheckMiddleware:

InvalidOperationException: эта операция не может быть выполнена после отправки ответа.

Трассировки стека:

at System.Net.HttpListenerResponse.set_ContentLength64(Int64 value)
at Microsoft.Owin.Host.HttpListener.RequestProcessing.ResponseHeadersDictionary.Set(String header, String value)
at Microsoft.Owin.Host.HttpListener.RequestProcessing.HeadersDictionaryBase.Set(String key, String[] value)
at Microsoft.Owin.Host.HttpListener.RequestProcessing.HeadersDictionaryBase.set_Item(String key, String[] value)
at Microsoft.Owin.HeaderDictionary.System.Collections.Generic.IDictionary<System.String,System.String[]>.set_Item(String key, String[] value)
at System.Web.Http.Owin.HttpMessageHandlerAdapter.SetHeadersForEmptyResponse(IDictionary`2 headers)
at System.Web.Http.Owin.HttpMessageHandlerAdapter.SendResponseMessageAsync(HttpRequestMessage request, HttpResponseMessage response, IOwinResponse owinResponse, CancellationToken cancellationToken)
at System.Web.Http.Owin.HttpMessageHandlerAdapter.<InvokeCore>d__0.MoveNext()
--- End of stack trace from previous location where exception was thrown ---
at System.Runtime.CompilerServices.TaskAwaiter.ThrowForNonSuccess(Task task)
at System.Runtime.CompilerServices.TaskAwaiter.HandleNonSuccessAndDebuggerNotification(Task task)
at System.Runtime.CompilerServices.TaskAwaiter.GetResult()
at DataRelay.NonGuaranteedDataForwarder.HealthcheckMiddleware.<Invoke>d__3.MoveNext() in C:\_code\DataRelay.NonGuaranteedDataForwarder\HealthcheckMiddleware.cs:line 30

Я пробовал искать как в Stackoverflow, так и в Google, но не нашел ничего ценного. Например, я нашел это, но здесь разработчик читает запрос после его отправки, чего я не делаю.

На всякий случай, если это может представлять интерес, здесь приведен полный метод POST в ApiController:

    public async Task<HttpResponseMessage> Post(HttpRequestMessage request)
    {
        try
        {
            MetricCollector.RecordIncomingRecommendation();
            using (MetricCollector.TimeForwardingOfRequest())
            {
                string requestContent = await request.Content.ReadAsStringAsync().ConfigureAwait(false);
                var data = JObject.Parse(requestContent);
                string payloadType = data.SelectToken("Headers.PayloadType").ToString();
                Log.Logger.Debug("Received message containing {PayloadType}", payloadType);

                var consumersForPayloadType = _consumers.Where(x => x.DataTypes.Contains(payloadType)).ToList();
                if (consumersForPayloadType.Any())
                {
                    Log.Logger.Debug("{NumberOfConsumers} interested in {PayloadType}",
                        consumersForPayloadType.Count,
                        payloadType);
                }
                else
                {
                    Log.Logger.Warning("No consumers are interested in {PayloadType}", payloadType);
                }

                foreach (var consumer in consumersForPayloadType)
                {
                    try
                    {
                        var outgoingRequest = new HttpRequestMessage(HttpMethod.Post, consumer.Endpoint);
                        outgoingRequest.Content = new StringContent(requestContent, Encoding.UTF8,
                            "application/json");

                        foreach (var header in request.Headers)
                        {
                            if (IsCustomHeader(header, _customHeaders))
                                outgoingRequest.Headers.Add(header.Key, header.Value);
                        }

                        if (!string.IsNullOrWhiteSpace(consumer.ApiKey))
                        {
                            request.Headers.Add("Authorization", "ApiKey " + consumer.ApiKey);
                        }

                        var response = await _httpClient.SendAsync(outgoingRequest);
                        if (!response.IsSuccessStatusCode)
                        {
                            Log.Logger.ForContext("HttpStatusCode", response.StatusCode.ToString())
                                .Error("Failed to forward message containing {PayloadType} to {ConsumerEndpoint}",
                                    payloadType, consumer.Endpoint);
                        }
                    }
                    catch (Exception ex)
                    {
                        MetricCollector.RecordException(ex);
                        Log.Logger.Error(ex,
                            "Failed to forward message containing {PayloadType} to {ConsumerEndpoint}", payloadType,
                            consumer.Endpoint);
                    }
                }

                return request.CreateResponse(HttpStatusCode.OK);
            }
        }
        catch (Exception ex)
        {
            return Request.CreateErrorResponse(HttpStatusCode.ServiceUnavailable, ex);
        }
    }

person SabrinaMH    schedule 09.09.2017    source источник


Ответы (1)


Попробуйте удалить .ConfigureAwait(false) везде и посмотрите, поможет ли это.

Например. здесь:

string requestContent = await request.Content.ReadAsStringAsync().ConfigureAwait(false);

УПД1: Хорошо. Проверьте, возникнет ли это исключение на сервере, когда вы используете другой клиент для стресс-тестирования. Например, вот этот. Твоя идея не ждать httpClient.SendAsync(...); очень странная.

person Kostya    schedule 09.09.2017
comment
К сожалению, это не имело никакого значения. Но спасибо за предложение! - person SabrinaMH; 09.09.2017