Google Cloud представляет самый мощный тензорный процессор искусственного интеллекта Trillium
Тензорный процессор (Tensor Processing Unit или TPU) относится к классу нейронных процессоров и является специализированной интегральной схемой, разработанной корпорацией Google и предназначенной для использования с библиотекой машинного обучения TensorFlow. TPU Google аналогичны графическим процессорам корпорации Nvidia, которые стали самым популярным оборудованием для выполнения рабочих нагрузок генеративного искусственного интеллекта. С помощью Trillium Google надеется предоставить компаниям альтернативу графическим процессорам Nvidia.
Trillium — это TPU шестого поколения Google. Он предназначен для поддержки самых требовательных моделей и рабочих нагрузок генеративного искусственного интеллекта, обеспечивая значительно большие вычислительную мощность, память и сетевые возможности, чем у существующих тензорных процессоров.
Амин Вадхат, вице-президент и генеральный менеджер по машинному обучению, системам и облачному искусственному интеллекту в Google Cloud, сказал: «TPU Trillium обеспечивают увеличение пиковой вычислительной производительности в 4,7 раза по сравнению с TPU v5e, который на данный момент является самым мощным чипом компании. Чтобы достичь более высокой производительности, Google приложил немало усилий для увеличения размера выполняющих вычисления матричных умножителей, или MXU, а также увеличил общую тактовую частоту».
Кроме того, процессоры Trillium имеют в два раза больший объем памяти, а их пропускная способность межкристальных соединений также увеличилась вдвое. По словам Амина, эти усовершенствования позволят значительно сократить время обучения и задержки при обслуживании больших языковых моделей.
В Google заявили, что Trillium будет запущен позднее в этом году с возможностью масштабирования до более чем 256 TPU в одном модуле с высокой пропускной способностью и низкой задержкой. Благодаря этому пользователи смогут связывать сотни отдельных тензорных процессоров Trillium для создания суперкомпьютеров и сетей ЦОД размером в несколько петабайт.
Некоторые клиенты Google Cloud уже планируют использовать тензорные процессоры Trillium. Например, Google DeepMind будет использовать новые чипы для обучения и обслуживания будущих поколений моделей Google Gemini, причем делать это быстрее, эффективнее и с меньшей задержкой.
Исследовательская компания Deep Genomics планирует использовать TPU Trillium для продвижения разработки лекарств с помощью передовых моделей ИИ. Также в планах компании расширение возможностей РНК-терапии, представляющей собой новое направление медицины, в котором в качестве лекарственного средства используется рибонуклеиновая кислота (РНК). Препараты на основе РНК относительно просты в производстве, при этом они могут воздействовать на патологические процессы, которые ранее не поддавались медикаментозному лечению.
«Наша миссия — создавать и применять передовые модели искусственного интеллекта, чтобы раздвинуть границы возможного в области РНК-терапии», — сказал основатель и директор по информационным технологиям Deep Genomics Брендан Фрей.