Инженеры запустили нейросеть на российском сервере за 5 тыс. рублей

На виртуальном сервере российского хостинг-провайдера RUVDS был проведен эксперимент по развертыванию нейросети. Инженеры смогли реализовать стоящие перед ними задачи, задействовав минимальный объём вычислительных мощностей, соответствующих уровню современного смартфона. Конфигурация, стоимость которой не превышает 5 тыс. рублей, позволила развернуть последовательно несколько нейросетей — мультимодальных LLaMA, LLaVA актуальных версий.

Настроенные нейросети смогли поддержать беседу, проанализировать изображение, предоставленное оператором, а также перевести имеющийся на нем текст. Эксперимент доказал возможность применения технологий машинного обучения с задействованием ограниченных ресурсов и выявил перспективность использования виртуальной среды компании в целях обучения работе с интеллектуальными системами.

«Проект был реализован энтузиастами, членами IT-сообщества, сформированного вокруг RUVDS, и это особенно ценно для нас. Ведь, как показали результаты эксперимента, наличие огромных вычислительных мощностей для работы нейросетей – миф, и технология доступна фактически любому пользователю, требуя лишь знаний», – подчеркнул генеральный директор RUVDS Никита Цаплин.

Тест проводился на конфигурации, включающей накопитель NVMe SSD, четырехъядерный процессор, 12 ГБ ОЗУ, операционная система – Linux.