Мы внедрили SSE для повышения стабильности ИИ-поиска в реальном времени

Теперь мы используем технологию SSE (Server-Sent Events) в архитектуре ИИ-поиска ЖИЖИ, которая обеспечивает более устойчивый обмен данными и точную синхронизацию пользовательских сессий. Обновление нацелено на повышение надежности интерфейса, в случаях, когда пользователи работают одновременно с несколькими чатами или их интернет-соединение нестабильно.

Ранее сервис использовал Websocket-соединение для передачи пользователю информации о шагах поиска, а также для трансляции ответа от ИИ в режиме реального времени. Однако при кратковременных потерях связи пользователи могли не получить актуальный статус о выполнении поиска, или же ответ от ИИ прерывался.

Переход на SSE, а также реализация дополнительного механизма кэширования, полностью исправила эту проблему. Благодаря встроенному механизму автоматического переподключения и передаче последнего обработанного события, сервер продолжает стриминг данных строго с последнего успешно доставленного события.

Технология SSE более легкая, по сравнению с Websocket, поэтому вместе с этим обновлением, также уменьшилась нагрузка на сервера, что позволяет обработать больший трафик на тех же мощностях.

Модернизация коммуникационного слоя стала для нас ключевым шагом перед расширением исследований и ростом числа активных пользователей: инфраструктура будет готова поддерживать больше параллельных операций и долгих вычислительных процессов.