Жижи перешёл на SSE-стриминг для повышения стабильности ИИ-поиска в реальном времени

Компания «Жижи» внедрила технологию SSE (Server-Sent Events) в архитектуру своего одноименного ИИ-поиска, обеспечив более устойчивый обмен данными и точную синхронизацию пользовательских сессий. Обновление нацелено на повышение надежности интерфейса, в случаях, когда пользователи работают одновременно с несколькими чатами или их интернет-соединение нестабильно.

Ранее сервис использовал Websocket-соединение для передачи пользователю информации о шагах поиска, а также для трансляции ответа от ИИ в режиме реального времени. Однако при кратковременных потерях связи пользователи могли не получить актуальный статус о выполнении поиска, или же ответ от ИИ прерывался.

Переход на SSE, а также реализация дополнительного механизма кэширования, полностью исправила эту проблему. Благодаря встроенному механизму автоматического переподключения и передаче последнего обработанного события, сервер продолжает стриминг данных строго с последнего успешно доставленного события.

Технология SSE более легкая, по сравнению с Websocket, поэтому вместе с этим обновлением, также уменьшилась нагрузка на сервера, что позволяет обработать больший трафик на тех же мощностях.

«Когда пользователь запускает несколько запросов, система обязана сохранять прозрачность и точность отображения каждого из них. SSE обеспечивает надёжную потоковую передачу данных и даёт нам возможность масштабировать сервис без потери стабильности», — отметил Григорий Антонов, технический директор и сооснователь «Жижи».

Жижи отмечает, что модернизация коммуникационного слоя стала ключевым шагом перед расширением исследований и ростом числа активных пользователей: инфраструктура будет готова поддерживать больше параллельных операций и долгих вычислительных процессов.