Dealer.AI pinned Speculative Speculative Decoding асинхронизируй это. Вышел просто мёд для глаз м

Dealer.AI pinned «Speculative Speculative Decoding – асинхронизируй это. Вышел просто мёд для глаз моих в сфере оптимизации инференса.😜 Звать будем сокращённо SSD. Чуваки из TriaDao выпустили асинхронную версию speculative decoding. Это важно прочитать до того как пойти…»