Parakeet v3 vs Whisper pro přepis schůzek.
Whisper Large byl roky standardem pro lokální převod řeči na text. NVIDIA Parakeet TDT 0.6B v3 (otevřené váhy, Apache 2.0) nyní běží na stejném hardwaru čtyřikrát rychleji, s mírně lepší přesností na anglickém zvuku ze schůzek. Tady je krajina, kterou jsme prozkoumali, než jsme se rozhodli, jak Notabium přepisuje.
Co se změnilo
Parakeet používá architekturu Transducer místo přístupu encoder-decoder, který používá Whisper. Transducery se hodí pro streamování. Vydávají tokeny hned, jak slyší zvuk, místo čekání na dokončení celého bloku. U přepisu schůzek to čistě odpovídá tomu, jak výstup opravdu konzumujete: živý přepis, který se doplňuje, jak lidé mluví.
Model má 600 milionů parametrů. Whisper Large má 1,5 miliardy. Přestože je menší, streamovací architektura plus lepší trénovací data umožňují Parakeetu vyrovnat se přesnosti Whisper Large na anglickém zvuku ze schůzek a překonat ho v rychlosti.
Reálná čísla, náš notebook
Na M3 Max se stejnou hodinovou testovací schůzkou (dva mluvčí, zvuk z konferenčního hovoru, mírné překrývání):
| Model | RTF (real time factor) | Přesnost (WER) | Poznámky |
|---|---|---|---|
| Whisper Large v3 | 0.18x (pomalé) | 5.4% | Nejlepší vícejazyčný; pomalý na CPU; pro živý přepis potřebuje GPU |
| Whisper Medium | 0.42x | 6.9% | Dobrý kompromis; jen angličtina |
| Parakeet TDT 0.6B v3 | 0.05x (rychlé) | 4.8% | Jen angličtina; vhodný na streamování |
Nižší RTF je lepší: 0.05x přepisuje za 1/20 reálného času. Whisper Large při 0.18x je dost rychlý na živý přepis s GPU, ale rezerva Parakeetu má význam, když na tomtéž stroji běží přepis i model na shrnutí současně.
Kde každý z nich selhává
Whisper selhává, když:
- Signál z mikrofonu je slabý (nadměrně komprimovaný zvuk ze Zoomu se ztrátou paketů). Model si vymýšlí věrohodně znějící věty, které nikdo neřekl.
- Více mluvčích se výrazně překrývá. Whisper nemá vnitřní diarizaci.
- Potřebujete streamovaný výstup. Architektura encoder-decoder čeká na dokončení bloku.
Parakeet selhává, když:
- Zvuk není v angličtině. Zvládá jen angličtinu. Whisper pokrývá 99 jazyků.
- Mluvčí má silný přízvuk, který trénovací data neviděla. Whisper Large pokrývá větší rozmanitost přízvuků.
- Potřebujete časové značky na úrovni slov se subsekundovou přesností. Časové značky Parakeetu jsou hrubší.
Co používá Notabium a proč
Provozovat tyto modely sami znamená spravovat GPU, stahování modelů a jazykové zálohy. Tato daň za nastavování se málokdy vyplatí a strop přesnosti vlastního modelu je nižší než u spravované služby, která se průběžně dolaďuje na zvuku ze schůzek.
Notabium proto přepisuje v cloudu s ElevenLabs Scribe: spravovanou službou převodu řeči na text postavenou pro vícehlasý zvuk ze schůzek, se silnou přesností napříč přízvuky, se značkami mluvčích a časovými značkami. Získáte kvalitativní laťku, na kterou toto srovnání míří, aniž byste vlastnili infrastrukturu. Nahrávky a přepisy jsou šifrované při přenosu i v klidu a vázané na váš účet a AI shrnutí běží s Claude.
Debata Parakeet vs Whisper je skvělým oknem do toho, kam směřují otevřené řečové modely. Při dodávání produktu, na který se lidé spoléhají každý den, vyhrává spravovaný cloudový model na přesnosti a na jednoduchém faktu, že prostě funguje.
Související: Přepis Zoomu · Architektura s botem vs bez botu