TopicGPU & AI chipsSeptember 2026

GPU & AI chips — September 2026

What Telegram channels wrote about GPU & AI chips in September 2026: 839 posts from 474 channels, collected automatically from public Telegram channels.

839 posts·474 channels

More posts — page 20

839 posts total

Metalterm: терминал для macOS на Rust и Metal весом 10 МБ

Metalterm — нативный эмулятор терминала для macOS: состояние сессии и разбор вывода живут в Rust, а картинку рисует собственный рендерер поверх Metal, без Electron и веб-движка. Приложение занимает около 10 МБ; в замерах автора Ghostty 1.3.1 весит 40 МиБ, а Rio 0.5.24 добирается до 41,2 МиБ.

На кадр уходит 0,22 мс работы видеокарты. На экране со 120 Гц кадр длится 8,33 мс, то есть терминал забирает 2,6% этого времени. Остаток автор тратит на плавную прокрутку и фоновые шейдеры.

Где пригодится: если вы на macOS и держите терминал открытым весь день, а вес и отзывчивость важнее кроссплатформенности. Сборка лежит на metalterm.dev.

Замеры сняты на одной машине и одной конфигурации, так что за методикой и полной таблицей идите в пост автора на dev.to и перепроверяйте у себя.

#инструменты

Sep 14, 08:02 AMMore from @tproger

YouTube обращает внимание на авторскую ценность контента. Длительный игровой процесс без комментариев, анализа или существенной обработки может не пройти проверку на монетизацию.

✅ Как добавить ценность ролику: • Снимайте сравнения: DLSS Quality vs Balanced vs Performance vs нативное 4K. • Показывайте одинаковые сцены, FPS, загрузку видеокарты, качество текстур, растительности и освещения. • Делайте тесты видеокарт. Например: «RDR 2 в 4K на RTX 2060 в 2026 году: есть ли смысл включать DLSS?» • Добавляйте авторский голос или качественную озвучку. Объясняйте, что изменилось и какие настройки лучше выбрать. • Показывайте пошаговую настройку игры: разрешение, графику, DLSS, моды, драйверы и исправление ошибок. • Используйте сюжет или эксперимент: «Можно ли сделать NFS Heat похожей на современную AAA-игру?» • Делайте сравнение до/после в первые 5–10 секунд ролика. • Записывайте собственный геймплей. Не используйте чужие видео и не ограничивайтесь музыкой или простыми склейками. • Каждый выпуск должен отличаться от предыдущего: новая игра, видеокарта, мод, разрешение, тест FPS или графический эксперимент.

💡 Рабочая формула ролика:

Хук: «GTA V вышла больше 10 лет назад, но можно ли сегодня получить картинку уровня новой игры?»

Далее: 1. Короткое сравнение до/после. 2. Раскрытие настроек и характеристик ПК. 3. Тест в тяжёлых сценах. 4. Сравнение FPS. 5. Итог: кому стоит включать DLSS и какой режим выбрать.

🖥 Какие видеокарты поддерживают DLSS?

Минимальный вариант — GeForce RTX 2060 с 6 ГБ видеопамяти.

Базовый DLSS Super Resolution поддерживают все видеокарты NVIDIA RTX:

• RTX 2060 • RTX 2060 Super • RTX 2070 / 2080 • RTX 3050 • RTX 3060 • RTX 3070 / 3080 / 3090 • RTX 4060 / 4070 / 4080 / 4090 • RTX 5060 / 5070 / 5080 / 5090

GTX 10-й и 16-й серий, включая GTX 1060, GTX 1070, GTX 1080, GTX 1650 и GTX 1660, DLSS не поддерживают.⚠️

Самые интересные варианты для создания такого контента: • RTX 2060 6 ГБ — минимальная карта для DLSS и тестов в 1080p. • RTX 2060 Super 8 ГБ — более комфортный вариант для современных игр. • RTX 3060 12 ГБ — практичный выбор для модов, текстур-паков и записи видео. • RTX 4060 8 ГБ — поддерживает DLSS Frame Generation. • RTX 4070 и мощнее — хороший вариант для 1440p, 4K, трассировки лучей и тяжёлых модификаций.

Важно не путать разные функции: • DLSS Super Resolution — поддерживается на RTX 20, RTX 30, RTX 40 и RTX 50. • DLSS Frame Generation — официально доступен начиная с RTX 40. • DLSS Multi Frame Generation — официально предназначен для RTX 50.

В старых играх DLSS может отсутствовать изначально. В таком случае дополнительной ценностью ролика становится подробный разбор модов: что установить, как настроить игру, сколько FPS получится и действительно ли изображение стало лучше.

Главная идея: - Не показывайте зрителю просто «старую игру с включённым DLSS». - Показывайте визуальный эксперимент, понятный тест и готовый результат, который зритель сможет повторить на своём компьютере.

P.S: Было полезно? Ставь 🔥 и у кого Premium в Telegram и благодарны за мои посты — дайте бусты 😅 https://t.me/boost/v_poleznosti

Sep 14, 08:02 AMMore from @v_poleznosti

#AliExpress

МиниПК Chatreey AN3P 24/512Gb на Ryzen AMD Ryzen 7 H 255

❗Цена актуальна до 11:00 по акции час выгоды

Потянет практически любые повседневные задачи, современные игры на средних/низких настройках и отлично справляется с тяжелыми рабочими программами (монтаж видео, программирование, 3D моделирование, графические редакторы и т.д.). Из игр легко потянет такие игры как CS 2, Dota 2, Valorant, Fortnite. В игры типа GTA V, Ведьмак 3, Red Dead Redemption 2 и Far Cry New Dawn будет комфортно играть на средних/низких настройках. Также можно использовать пустой слот M.2 и с помощью специального кабеля заколхозить подключение внешней видеокарты, либо подключить её через USB Type-C 4.0

• Процессор: AMD Ryzen 7 H255 (8 ядер и 16 потоков, азовая частота 3,8 ГГц, в режиме Turbo Core до 4,9 ГГц. • Графика: Radeon 780M • Оперативная память: 24Gb LPDDR5 (6400mhz) • SSD: 512Gb (2 слота M.2 2280) • WIFI6, Bluetooth 5.2, 2.5 Гбит/с LAN • Порты: Несколько USB 3.0/3.2 Type-A, полнофункциональный порт Type-C 4.0 (с поддержкой вывода видео DP Alt Mode), по одному выходу HDMI 2.1 и DisplayPort 2.0, а также 3.5-мм аудиоразъем • Windows 11

💵 32 624₽ (за 24/512Gb на R7 H255)

👉Купить Поиск по артикулу: ALI3986819857

Реклама. ООО "АЛИБАБА.КОМ (РУ)" ИНН 7703380158

Sep 14, 07:40 AMMore from @promohub

🐋 DeepSeek V4.1 Flash

DeepSeek выложил V4.1 Flash - принципиально новая архитектура нейросети.

📐 Размеры - 552B веса нейросети (MoE: 1 shared + 384 routed экспертов, 6 активных на токен) - 196B Engram-памяти сверху, итого ~748B в чекпоинте - Активных параметров: 8B на префилле, 16B на генерации - Контекст 1M, выход до 384k - Картинки нативно (свой ViT, обучен с нуля) - 45T токенов претрейна - Reasoning effort - целое число от 1 до 100, регулируется плавно.

🧠 8B/16B Активных пасеметров Архитектура Causal Encoder-Decoder: 40 слоёв разбиты на 20-слойный энкодер и 20-слойный декодер. Промпт прогоняется только через энкодер (8B активных), генерация идёт через декодер (16B), а глобальный KV декодера проецируется из выхода энкодера, а не считается на каждом слое.

🔎 Engram память 196B параметров. Два модуля (после 1-го и 14-го слоя), каждый - хеш-таблица на 384M строк в FP8. Для каждой позиции берутся 2-, 3- и 4-граммы token ID, хешируются по 8 головам и вытаскивают строки из таблицы (48 строк на токен), дальше learned gate решает, сколько этого подмешать в residual. Это не RAG и не KV-кеш — это память, адресуемая текстом. Аналогичные идеи реализованы в экспериментальной нейросети Qwen3.8-Flash-Next.

💾 KV-кеш Глобальный KV - 890 байт на токен.

Для сравнения на 1M контекста: - V4.1 flash - 0.85 ГБ - V4 Flash - 3.5 ГБ (V4.1 в 4 раза меньше) - GLM 5.3 (750B, тот же класс) - 93 ГБ, т.е. разница примерно 100× - Llama 3 70B в bf16 - 320 ГБ

📊 Бенчи (max reasoning effort) Terminal-Bench 2.1 — 90.6 (Opus 5 — 89.1), DeepSWE 74.2 (Opus 5 — 74.0), GPQA 90.9, Codeforces 3471. По агентским задачам обходит V4 Pro везде.

Это самый интересный релиз года по архитектуре нейросети: модель на 750B параметров, которую можно держать с миллионным контекстом на десятки клиентов, не выделяя под кеш половину памяти видеокарты.

Нейросеть показывает хорошие результаты на бенчмарках, но отстает от больших фронтирных моделей. Основной плюч v4.1 flash - это цена. Надеюсь выйдет Pro Версия нейросети на несколько триллионов параметров.

Веса нейросети: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash

Доступно на моем сайте в чате и по API: https://rus-gpt.com/models

В одном из недавних постов про Radeon RX 9070 XT подписчик Андрей в комментариях намеренно выложил фотографию своей видеокарты, подписав ее вызывающе "Я за зеленых".😱

Как думаете, прав ли он, и если да то почему?🤔

👍 - прав, RTX 5070 Ti EAGLE OC мощнее 😈 - да что этот Андрей себе позволяет? 🫡 - потенциал RX 9070 XT еще раскроется 😄 - у него хотя бы RTX видеокарта есть...

Sep 14, 05:55 AMMore from @gigabyteru

🏷 #壁纸 #桌面壁纸 #屏保 📢 Lively Wallpaper:让你的 Windows 桌面真正“活”起来的开源动态壁纸神器

一款免费、开源的 Windows 动态桌面壁纸软件,把原本静态的桌面变成会动、会响应、甚至可以互动的视觉空间。无论是视频、GIF、网页还是实时渲染内容,都可以直接变成你的桌面壁纸。

😡 使用方式非常简单:把媒体文件或网页直接拖进 Lively,就能快速设置为桌面壁纸,几乎不需要复杂配置。

😇 支持多种壁纸类型 😍视频 / GIF:可以直接使用本地视频或 GIF 作为动态壁纸,并支持硬件加速播放以及视频滤镜等能力。

😍网页壁纸:支持 HTML、JavaScript、WebGL 等网页内容,让网页本身成为动态桌面,还可以制作音频响应类壁纸。

😍应用 / 游戏壁纸:支持将 Unity、Godot 制作的内容作为互动壁纸,让桌面不只是“播放动画”,而是真正拥有互动效果。

😍Shader 壁纸:支持 Shadertoy 地址以及 GLSL Shader,为桌面带来实时生成的视觉效果。

😍在线视频流:还可以将在线视频流设置为壁纸,并调整视频质量等参数。

😇 多显示器也能玩得很舒服 无论是超宽屏还是多显示器环境,Lively 都提供相应的壁纸布局能力;不同屏幕可以进行独立配置,让整个桌面保持统一又不失个性。

😇 动态效果不意味着一直“吃资源” Lively 会根据前台应用状态自动暂停壁纸,例如运行全屏游戏或应用时可以暂停播放,官方说明中可达到接近 0% 的 CPU/GPU 占用;笔记本还可以设置在电池模式下暂停壁纸。

😇 还能做音乐与数据驱动的动态桌面 借助 Lively API,开发者可以获取系统信息、音频图谱、当前播放音乐等数据,用来制作音乐可视化、动态组件以及各种互动壁纸。

😇 对折腾党尤其友好 Lively 不只是一个“壁纸播放器”,还提供 API、命令行控制以及与 AutoHotkey 等脚本工具结合的能力,可以进一步自动化壁纸切换和桌面效果。

😇 开源、免费,而且没有功能付费墙 项目采用 GPL-3.0 开源协议,核心软件免费开放,源码、Issue、Wiki 和社区讨论均公开,非常适合喜欢研究、定制和自己制作壁纸的用户。

😇 还在持续加入更有趣的玩法 Lively 已经加入过基于机器学习的 Depth Wallpapers,通过本地模型分析图片中的景深信息,再结合 GPU Shader 制作出具有 3D 深度感的动态效果;官方更新也持续加入新的壁纸、播放器、屏保和性能改进。

🔗 https://www.rocksdanister.com/lively/ ⬇️ https://github.com/rocksdanister/lively/releases

⚡ Compute Perps at a Glance

Understand H100USDT & B200USDT 💰

⭐️ Underlying NVIDIA H100 GPU NVIDIA Blackwell B200 GPU

⭐️ Architecture Hopper: established high-end AI compute Blackwell: next-generation flagship AI compute

⭐️ Main Use Cases AI training, inference, HPC, cloud computing Large-model training, inference, generative AI

⭐️ Key Focus Supply, demand, and rental prices in a mature market New supply, deployment pace, and demand shifts

⭐️ Market Characteristics Relatively mature supply and more stable price movements More sensitive to supply and deployment, with higher volatility

For Details: Check Above 👆👆👆

About Bitget🔹 Website🌐  | Twitter❌ Telegram✉️| Download🍏 Discord🤖   | Reddit🤖

آپدیت جدید DLSS 5 Swapper منتشر شد.

در این آپدیت تمرکز اصلی روی بهبود سازگاری، پایداری و تجربه کاربری بوده و در کنار آن، قابلیت‌های جدیدی هم به برنامه اضافه شده است.

قابلیت‌ها و تغییرات جدید:

🔹 بهبود پشتیبانی و سازگاری با بازی‌ها و سخت‌افزارهای مختلف 🔹 بهبود مدیریت و انتخاب GPU برای اجرای بازی‌ها 🔹 بهبود سیستم نصب و انتخاب مسیرهای مختلف DLSS 5 🔹 رفع باگ‌ها و مشکلات گزارش‌شده توسط کاربران 🔹 بهبود عملکرد و پایداری کلی برنامه 🔹 بهبود بخش Community و سیستم چت 🔹 امکان تعامل بیشتر کاربران در بخش Community 🔹 امکان به اشتراک‌گذاری تجربه و اطلاعات مربوط به اجرای DLSS 5 🔹 بهبود ریپلای، منشن و واکنش‌ها در Community

در کنار این موارد، قابلیت‌های Community و Chat که در آپدیت قبلی به برنامه اضافه شده بودند نیز همچنان در دسترس هستند و حالا تجربه کامل‌تری را برای کاربران فراهم می‌کنند.

• لینک دانلود

#DLSS5 #Swapper • PC Gaming Hub @PCGamingHub •

Sep 13, 08:43 PMMore from @pcgaminghub

Oracle поставила более 300 тыс. GPU — почти втрое больше, чем в предыдущем квартале

Oracle объявила о финансовых результатах I квартала 2027 финансового года, превзошедших ожидания Уолл-стрит, и сообщила о меньшем, чем ожидалось, расходовании денежных средств. Это вселило в инвесторов уверенность в том, что инвестиции в ИИ приносят отдачу, не создавая чрезмерной нагрузки на баланс компании, пишет Reuters. Акции Oracle, упавшие более чем на 21 % с начала года, выросли на 4 % на дополнительных торгах после того, как компания сообщила о резком увеличении объёма невыполненных заказов. #oracle #финансы #ии #hardware #ускоритель #servernews via @servernewsru

📎Подробнее

Sep 13, 08:06 PMMore from @servernewsru

If you fully understand this article, you will understand inference better than 90% of people.

And by the way, this is just the first material in the AI Performance Engineering repository.

It's scary to think how much knowledge is contained in the rest.

https://github.com/wafer-ai/gpu-perf-engineering-resources

🃏 Что ждёт тебя, о программист?

Если есть День программиста, должна быть и Ночь программистики — подумали мы и выкатили эту имбу! В конце концов, в каждом хорошем коде есть определенная доля колдунства.

Колода настоялась — тяни 3 карты (левой кнопкой мыши, на себя) и узнай будущеее!

🔮 Толкование Колесница — несёшься к следующему грейду. Рост, движение вверх, новый уровень

Солнце — в портфолио скоро будет чем хвастаться. Успех, признание, результат, который хочется показывать

Маг — созвонов станет меньше, метрики пойдут вверх — и ты даже поймёшь почему. Понимание инструментов, контроль над процессом и результат благодаря скиллу

Звезда — GPU будет свободна именно тогда, когда нужна тебе. Исполнение почти несбыточного желания

Туз Пентаклей — Ура! Карты обещают повышение, новый проект или очень приятный оффер. Новая материальная возможность: работа, деньги, карьерный шанс

Четвёрка Мечей — входишь в свою work-life balance эру. Карты велят закрывать ноутбук. Отдых, пауза, восстановление

Восьмёрка Пентаклей — год прокачает тебя через таски. Много тасок. Усердная работа, практика, мастерство через повторение и дисциплину

Император — ближайший релиз пройдёт точно по плану. Структура, контроль, никаких сюрпризов. Редчайший аркан в IT

Делись колодой с друллегами, позолоти ручку бустами и пиши, что выпало в комментах❓

🧡 — Наконец-то научный подход 😎 — Карты говорят, что я умничка 🐘 — С праздником, коллеги!

@aitalenthubnews #ITMO #NapoleonIT

🚀 SCALE NETWORK — Powering the AI World with Decentralized Compute!

With the goal of decentralizing the future of AI, Scale Network is building an AI Compute Economy where miners contribute GPU/compute power and organizations use that capacity by paying with $SCALE tokens.

🔥 Key Highlights: • 🪙 Total Supply: 1 Billion $SCALE • ⛏️ Initial Mining Reward: 0.1 $SCALE/hour • 🔥 Halving: Every 4 Months • 🧠 Consensus: Proof of Intelligence • 🤖 AI Model Training & Inference • ⚡️ Decentralized GPU Compute Network • 🏢 Enterprise AI Infrastructure • 📱 Mobile App — Coming Soon

Собрать ПК теперь ПРОЩЕ ПРОСТОГО — нашли сервис, где можно за пару кликов скрутить себе компьютер из нужных комплектующих

🤩Автоматическая проверка совместимости; 🤩Подбирает сборку под ваш бюджет; 🤩Позволяет посмотреть будущий ПК в 3D; 🤩Показывает результаты бенчмарков процессора и видеокарты; 🤩Рассчитывает энергопотребление и помогает подобрать оптимальный блок питания без лишних трат.

И это всё БЕСПЛАТНО — тут.

Sep 13, 03:48 PMMore from @chatgptv

📝 Почему «сложный» пароль падает первым | Summer2026! предсказуем, а значит уязвим

Подбор пароля – это не тупой перебор всех комбинаций подряд, а умная угадайка по человеческим шаблонам, из-за которой заглавная буква плюс год плюс восклицательный знак оказываются в начале очереди на взлом, а не в конце

Если хеш украли офлайн, вас уже не спасают ни лимит попыток, ни капча, ни двухфакторка: пароль подбирают на чужом железе, и вы об этом даже не узнаете

— В данной статье мы рассмотрим, чем хеширование отличается от шифрования, зачем паролю нужны соль и намеренно «дорогие» вычисления, почему мощная видеокарта не всегда ускоряет подбор и что такое атака Pass-the-Hash, когда украденный хеш срабатывает вместо самого пароля

ℹ️ Дополнительный материал: 1. Статья на SecurityLab

📂 ИБ Книга // max.ru/itbook_library

📰 Weekly Cybersecurity News Roundup

The CIA has declassified reports showing they discussed scenarios of attacks using civilian planes years before September 11. Meanwhile, Anthropic shared details about cyber operations where a person picks the target, then the AI handles reconnaissance, hacking, and code rewriting on its own.

📰 We've put together the week's most interesting cybersecurity news in one spot so you don't miss anything.

🌐 Global developments

🔹 The CIA opened up presidential briefing documents from the late 1990s. They show intelligence agencies talked about attacks inside the U.S. using civilian airplanes well before 2001.

🔹 The UN High Commissioner for Human Rights urged AI developers to build strong safeguards and clear red lines, saying that relying on companies to be careful on their own is not enough.

🔹 AI hype is spreading beyond tech into bond markets. Big tech companies' bonds are now priced in ways that don't follow normal market rules anymore.

🔹 China figured out how to make their own AI accelerators, but they hit a wall with HBM memory shortages. Huawei had to boost Ascend chip prices by almost 50%.

🔹 A ChatGPT algorithm update changed how Reddit looked overnight, and mentions of the platform dropped 86% in just one day.

🛡 Cybersecurity focus

🔹 Anthropic described a new type of cyber operation: humans choose the target, Claude does the reconnaissance, breaks into systems, and rewrites code when it finds something.

🔹 Passport data, flight seat assignments, and baggage information for 220 million travelers were exposed through a Vietnam-linked database using a default password. The database was hosted on Viettel-assigned IPs in Hanoi, and researchers couldn't confirm which Vietnamese organization operated it. Singapore Airlines helped coordinate the response after the discovery.

🔹 Berlin said no to a ransom payment, and 5.8 TB of government files ended up online, including info on critical infrastructure.

🔹 The U.S. went after Xinbi Guarantee, a Chinese marketplace where fraud call centers bought websites, fake identities, and money laundering services.

🔹 After the Leipzig attack, Germany is speeding up work on its national cyber dome, a single system built to fight drones, cyberattacks, and sabotage together.

🗣 Share in the comments how your week went and which news surprised you the most.

😊 Follow us to stay informed about the latest threats and protect yourself.

#CyberSecurity #AI #Threats #Privacy #Security

@PrivacyNotACrime 🗽 ⌨️ Chat

🔥 Крупный учебный розыгрыш набирает обороты! Рассказываем подробнее о главном призе — игровом ноутбуке ASUS TUF GAMING A16.

🚀 Что внутри и сколько стоит? — Видеокарта RTX 5070 — Процессор AMD Ryzen 7 8745HX — 32 ГБ оперативной памяти — Стоимость: 200+ тысяч рублей

И это далеко не всё! Помимо ноутбука, можно забрать новенький iPhone 18 Pro Max, мощный игровой компьютер с RTX 5070, PlayStation 5 и целую кучу других реальных и игровых призов.

✅ Хочешь выиграть? Тогда залетай в розыгрыш и обязательно ознакомься со всеми правилами: сайт с розыгрышем

🙂 — если уже участвуешь!

Sep 13, 01:06 PMMore from @hassleonline

😎 Одна из причин - электромиграция

Атомы металла, из которых состоят дорожки на компонентах, под действием тока постепенно перемещаются. Поэтому со временем дорожка может либо разорваться, либо нарасти и замкнуть соседнюю. Так комплектующее теряет стабильность.

Чем сильнее нагрузка, выше температура и тоньше техпроцесс, тем скорее дорожки разрушаются.

Именно поэтому видеокарты после майнинга, процессоры после разгона быстрее изнашиваются. Они терпят постоянную экстремальную нагрузку, что ускоряет электромиграцию.

Как с ней борются? Используют более устойчивые материалы, снимают напряжение на компоненты, делают дорожки толще. Но полностью от электромиграции не избавиться - ее можно лишь замедлить.

А вы знали?

🔥- Конечно 🤯- Нет

Sep 13, 01:01 PMMore from @pc_construct

➤ Control Resonant: готовьте SSD к большой нагрузке

Remedy опубликовала системные требования CONTROL Resonant, и они выглядят относительно дружелюбно для владельцев средних PC. Для запуска в 1080p и 30 FPS достаточно GTX 1070 или аналогичной видеокарты, а для 1440p и 60 FPS разработчики рекомендуют RTX 3060 Ti.

Главным сюрпризом оказался объём хранилища: игре потребуется 120 ГБ свободного места на SSD.

#CONTROLResonant #Remedy ⇲ HGN

Sep 13, 12:54 PMMore from @hotgame_info

🎮 Quick guide: Update GPU drivers on Windows 11

Start with Settings > Windows Update > Check for updates, or use Device Manager: Display adapters > your GPU > Driver tab > Update driver > Search automatically. These methods work but can lag behind the latest releases.

For the newest versions, use the maker’s app: NVIDIA App, AMD Software: Adrenalin Edition, or Intel Graphics Software. Open it, check for updates, and install; the screen may flicker, and a reboot is optional.

You can also download manually (e.g., NVIDIA’s Driver Updates page). If a new driver causes issues, install an older version instead.

📲TechnoGram

Sep 13, 12:02 PMMore from @tontiger_tg

Почему специалисту по безопасности/пентестеру нужен аккаунт на Hugging Face

После наших постов про локальные (и не только) uncensored-модели стало особенно очевидно: если вы занимаетесь классическим ИБ, AI Security или пентестом - аккаунт на Hugging Face уже почти такая же базовая вещь, как GitHub.

Зачем: 📌 искать и скачивать open-source LLM, включая uncensored / abliterated / security-oriented модели; 📌 находить GGUF и другие квантизации для локального запуска; 📌 изучать model cards, архитектуры, датасеты и чужие эксперименты; 📌 публиковать свои модели, датасеты и исследования; 📌 делать Spaces - работающие демки своих проектов; 📌 использовать профиль как портфолио в резюме. Ссылка на собственный benchmark или security-проект выглядит куда убедительнее строчки «работаю с нейронками».

У HF есть и платные опции (Клеман Деланг вообще не мать Тереза). И часто возникает вопрос, а нужен ли HF PRO?

Стоит $9/месяц и интересен уже тем, кто активно экспериментирует: больше лимитов и private storage, повышенные API limits, расширенный доступ к ZeroGPU, до 10 ZeroGPU Spaces и compute credits для inference/Jobs/Spaces. Если своего GPU нет, вычислительные ресурсы для Spaces можно арендовать отдельно - от сравнительно дешёвых T4/L4 до A100 и более мощных GPU.

Итог для резюме, портфолио и собесов: GitHub показывает, что вы умеете писать и проектировать код. Hugging Face - что вы действительно умеете работать с современным AI.

HF прямо запрещает контент, предназначенный для нарушения работы, повреждения или получения несанкционированного доступа к системам (кажется, это про вас), а также контент, который пытается передавать или генерировать малвари, трояны и вирусы. За такое HF может применить меры к контенту/аккаунту (и это не pro подписка в подарок, как вы поднимаете).

Для регистрации используем proxy, для активации - SMS, для оплаты - анонимные карты. Все как и всегда 🫶.

DevCheck - контролируйте аппаратное обеспечение в режиме реального времени и получайте полную информацию о модели устройства, CPU, GPU, памяти, аккумуляторе, камере, накопителе, сети, датчиках и операционной системе.

📂Категория: #Инструменты ✅Версия: 6.53 🔑Моды: PRO версия @premium_apk3

Sep 13, 11:30 AMMore from @premium_apk3

Немного поясню за_looped_transformer 📦

В посте про спекуляции о размере Astra я уже упомянул такое "новое" направление как looped transformers.

На самом деле, Дядя оч за новые подходы к архитектурам, инженерии, что даёт ап метрик и пробивает текущее плато продуктивности моделей. 💪 Конечно, хотелось бы и парадигму next token prediction сменить. Но об этом будем говорить в рамках поделок Лекуна. 👍

Однако, луп трансформер не новый подход, он ещё известен с моделей albert и ещё раньше. Первые упоминания в UTS (universal transformers) от гугл аж в 2018. 🚬

Идея не сложная. Вместо роста архитектурной глубины по слоям – числу стаков блока трансформера, а также в ширину – размер hidden state, мы делаем реюз базового блока (например в 22 блока трансформера, ширины D). И делаем это как в Альберт, те выходы с базового блока рекурентно отдаём на вход этого же блока К раз. Таким способом, мы не растим реальную глубину и ширину, увеличивая размер модели в параметрах, также подбираем эффективную базовую глубину и число повторений её рекурентного переиспользования.

К примеру, в статье разборе С. Рашка модель Nanbeige 4.2 (3B) имеет 22 стака по 2,что сопоставимо по вычислениям 44 блокам трансформера. В памяти, это конечно поменьше занимает, но по времени same. Также same по времени обучения, а ещё KV параметров больше на число проходов по стаку, тк над хранить qkv для всех проходов. Т.е. выйгрыш только в емкости весов в памяти gpu. 😮‍💨

Тут конечно влетают идеи у Дяди 😎:

1. Использовать принцип palbert с early exit и lambda слоями. Те модель сама решает с какого блока повтора и слоя выйти заранее.

2. Mixture of Recursions. Иметь роутинг по стэкам для каждого токена. Мы решаем сколько каждый токен пройдёт рекурсивных блоков. Исследование показало, что при достаточно большом размере модели MoR может превосходить обычный трансформер при том же вычислительном бюджете. 🤙

Разница в 1 и 2 подходе, что ponder решает ранний выход для всей последовательности, а MoR для отдельных токенов. 👴

И я очень советую лидерам рнд, кто видит этот пост опробовать оба этих метода, особенно, выделяю MoR тк статья от 2025 года, где указано, что такой сетап может быть эффективнее по KV кэшу, скорости инфера и по глубине.

В целом, это все. Ничего особо сложного. 💪

Sep 13, 09:41 AMMore from @dealerai