|
Если бы исследователи ИИ из Google обладали чувством юмора, они бы назвали TurboQuant, новый сверхэффективный алгоритм сжатия памяти ИИ, анонсированный во вторник, “Крысолов” - или, по крайней мере, это что интернет думает .
Шутка является отсылкой к вымышленному стартапу Pied Piper, который был в центре внимания телесериала HBO “Кремниевая долина”, выходившего с 2014 по 2019 год.
Шоу следило за основателями стартапа, которые осваивали технологическую экосистему, сталкиваясь с такими проблемами, как конкуренция со стороны крупных компаний, сбор средств, проблемы с технологиями и продуктами, и даже (к нашему большому удовольствию) поразили судей вымышленной версией AGI_LOG нарушает .
Прорывной технологией Pied Piper в телешоу стал алгоритм сжатия, который значительно уменьшил размер файлов за счет сжатия практически без потерь. Новый метод Google Research TurboQuant также основан на экстремальном сжатии без потери качества, но применяется для устранения узкого места в системах искусственного интеллекта. Отсюда и сравнения.
Итак, Google TurboQuant - это, по сути, "Крысолов", и он только что получил оценку Вейсмана в 5,2 балла https://t.co/WievkwijjD pic.twitter.com/4rirvu2YyV
Исследование Google описало технологию как новый способ сокращения рабочей памяти искусственного интеллекта без снижения производительности. По мнению исследователей, метод сжатия, который использует форму векторного квантования для устранения узких мест в кэше при обработке ИИ, по сути, позволит ИИ запоминать больше информации, занимая при этом меньше места и сохраняя точность.
Они планируют представить свои результаты на конференции ICLR 2026, которая состоится в следующем месяце, а также два метода, которые делают возможным такое сжатие: метод квантования PolarQuant и метод обучения и оптимизации называется QJL .
ТурбоКвант - новый крысолов 🤣 pic.twitter.com/iMAYJs02zt
Итак, по сути, ТурбоКвант - это Крысолов https://t.co/Zx9Oq84tSL pic.twitter.com/JPZjz8M3Wp
Возможно, исследователям и специалистам по информатике удастся разобраться в математике, которая здесь задействована, но полученные результаты волнуют всю технологическую индустрию в целом.
В случае успешной реализации в реальном мире TurboQuant может удешевить запуск ИИ за счет сокращения его “рабочей памяти”, известной как кэш—память KV, “как минимум в 6 раз”.
Некоторые, например, генеральный директор Cloudflare Мэтью Принс, даже называют это моментом глубокого поиска Google — отсылкой к повышению эффективности основан на китайской модели искусственного интеллекта, которая была обучена за небольшую плату по сравнению с конкурентами на худших чипах, оставаясь конкурентоспособной по своим результатам.
Это программа DeepSeek от Google. Гораздо больше возможностей для оптимизации логических выводов с помощью искусственного интеллекта с точки зрения скорости, использования памяти, энергопотребления и многопользовательской работы. Многие команды в @Cloudflare сосредоточились на этих областях. #оставайтесь настроенными https://t.co/hHoY4sLT2I
Что ж, теперь мы все знаем, кто украл кодовую базу Pied Piper https://t.co/Inv0nlMYnP
Тем не менее, стоит отметить, что TurboQuant еще не получил широкого распространения; на данный момент это все еще лабораторный прорыв.
Это затрудняет сравнение с чем-то вроде DeepSeek или даже вымышленного Pied Piper. На телевидении технология Pied Piper должна была радикально изменить правила вычислительной техники. Тем временем TurboQuant может привести к повышению эффективности и созданию систем, требующих меньше памяти при выводе данных. Но это не обязательно решит проблему нехватки оперативной памяти, вызванную искусственным интеллектом, учитывая, что он нацелен только на память для логических выводов, а не на обучение, для которого по—прежнему требуются огромные объемы оперативной памяти.
Крысолов был бы лучшим названием https://t.co/qNZmtANFhs
