(EaVF) Osobná stránka

E&VF

Originálny jazyk, v ktorom táto práca bola napísaná je EN. Aktuálne máte nastavený jazyk zobrazenia SK, z toho vyplýva, že niektorý text bol preložený umelou inteligenciou - DeepL a pri preklade mohli vzniknúť chyby. Narábajte preto z obsahom opatrne! ...

Prekladateľská služba

Post vytvorený / editovaný : 2026-04-28 23:02:21 / 2026-04-28 23:02:21
Jazyk originálu : EN

Translation Service je samostatne hostované REST API pre offline preklad textu, vytvorené pomocou FastAPI a Hugging Face Transformers. Beží v Dockeri na Synology NAS alebo inom x86_64 Linux hoste, podporuje osem prekladových smerov medzi slovenčinou, francúzštinou, angličtinou a arabčinou a využíva načítavanie modelov na požiadanie pre efektívne lokálne nasadenie bez požiadaviek na GPU.

Translation Service je samostatne hostované REST API pre lokálny offline preklad textu, vytvorené pomocou FastAPI a Hugging Face Transformers. Je navrhnutý tak, aby bežal v prostredí Docker na Synology NAS alebo inom x86_64 Linux hoste, pričom používa iba CPU, bez potreby GPU. Služba bola navrhnutá tak, aby podporovala osem prekladových smerov medzi slovenčinou, francúzštinou, angličtinou a arabčinou v jednom kontajneri a poskytuje HTTP API aj používateľské rozhranie založené na prehliadači na /ui. Projekt je navrhnutý pre praktické a efektívne nasadenie. Prekladové modely sa načítavajú pomaly, čo znamená, že v pamäti sa uchovávajú iba skutočne používané jazykové páry, čo pomáha znižovať spotrebu RAM. Hmotnosti modelov sú uložené na trvalom hostiteľskom zväzku, takže sa pri obnovení kontajnera nesťahujú znova a služba môže pokračovať v plne offline činnosti po počiatočnom stiahnutí modelu pre každý pár. Aby sa zvýšila spoľahlivosť pri reálnom používaní, služba spracováva dlhšie texty rozdelením na odseky a vety, čo umožňuje správne spracovanie požiadaviek, ktoré presahujú limit modelových tokenov. Tiež ukladá preložené bloky do vyrovnávacej pamäte s LRU cache, čo zvyšuje efektivitu opakovaných reťazcov, ako sú štítky rozhrania alebo opakujúce sa textové fragmenty.

Translation Service je samostatne hostované REST API pre offline preklad textu, vytvorené pomocou FastAPI a Hugging Face Transformers. Je navrhnutý tak, aby bežal v ľahkom Docker prostredí, vrátane Synology NAS alebo iných x86_64 Linux hostiteľov, bez potreby GPU. Služba poskytuje praktický spôsob nasadenia lokálneho strojového prekladu ako interného nástroja, s API koncovým bodom a jednoduchým používateľským rozhraním založeným na prehliadači.

Bežiaca inštancia aplikácie je dostupná tu: [Prekladová služba]

Základná funkcionalita

Aplikácia podporuje preklad medzi slovenčinou, francúzštinou, angličtinou a arabčinou v jednom kontajneri, s dvoma zameniteľnými backendmi. Predvolený backend, OPUS-MT, poskytuje 8 prekladových smerov s použitím jedného ľahkého modelu na každý jazykový pár. Voliteľný backend NLLB rozširuje podporu do 12 smerov, vrátane ďalších kombinácií, ako je slovenská ↔ arabčina a anglická ↔ arabčina, všetky využívajúce jeden viacjazyčný model. To umožňuje, aby jedna inštancia služby pokryla ľahký pár-špecifický preklad aj širšie potreby viacjazyčného prekladu, v závislosti od zvoleného backendu. Služba tiež poskytuje používateľské rozhranie prehliadača na /ui, okrem HTTP API. Na zvýšenie efektivity sa modely načítavajú lenivo, čo znamená, že do pamäte sa načítavajú len skutočne požadované smery. Nepoužívané smery nespotrebúvajú RAM. Služba tiež ukladá váhy modelov na trvalom hostiteľskom zväzku, takže sa pri opätovnom vytváraní kontajnera nestahujú znova. To robí systém praktickým pre opakované lokálne nasadenie a pokračujúce offline používanie po počiatočnom stiahnutí modelu.

Logika spracovania

Významnou vlastnosťou projektu je schopnosť zvládať dlhšie texty. Keďže transformátorové modely majú limity veľkosti vstupu, služba rozdeľuje prichádzajúci text na odseky a vety pred prekladom. To umožňuje spoľahlivo spracovať väčšie texty pri zachovaní štruktúry a čitateľnosti. Systém tiež obsahuje LRU cache pre preložené bloky, čo zlepšuje výkon pri opakovaných reťazcoch, ako sú štítky rozhraní alebo bežné fragmenty. README špecifikuje veľkosť cache 256 položiek na model.

Ďalšou praktickou funkciou je výber backendu na základe požiadaviek. Požiadavky sú smerované pomocou source_lang a target_lang, a volajúci môže tiež explicitne vybrať backend cez backend voliteľné pole. To umožňuje používať OPUS-MT, keď sa uprednostňuje ľahký model špecifický pre páry, alebo NLLB , ak je potrebné širšie viacjazyčné pokrytie. Existujúci klienti môžu tiež vynechať backendové pole a spoliehať sa na nastavený server.

Nasadenie a praktická hodnota

Projekt je zabalený na nasadenie v Docker Compose a obsahuje podporné súbory ako Dockerfile, .env.example, a upload-to-synology.sh.example skript na nasadenie. Podľa README sa kontajner spustí okamžite, pri prvom použití si stiahne požadovaný model, uloží ho do trvalého adresára cache Hugging Face a potom pokračuje v plne offline práci pre ďalšie požiadavky a reštarty.

V praktickom zmysle je projekt cenný ako prekladateľský backend, ktorý dbá na súkromie, je vlastne hostovaný a nákladovo efektívny. Je obzvlášť vhodný pre interné prostredia, kde je závislosť od externých API nežiaduca, kde záleží na reprodukovateľnom nasadení, alebo kde je potrebné viacjazyčné spracovanie na lokálnej infraštruktúre bez dedikovaného GPU servera. Kombinácia prístupu k API, používateľského rozhrania prehliadača, trvalého ukladania modelu do vyrovnávacej pamäti, spracovania s vedomím chunkov, lenivého načítavania modelu a voliteľných backendov z neho robí kompaktnú, ale robustnú prekladovú komponentu pre lokálne alebo inštitucionálne použitie.

Vytvoril som tiež tri malé, samostatné ikony, a všetko to je zahrnuté v:

GitHub repozitár
Dockerhub

Môj záväzok

Keď niečo robím, snažím sa identifikovať podstatu problemu pred ktorým stojím a riešenia posyktovať na úrovni, ktorá prekonáva očakávania.

Ak máte akékoľvek otázky týkajúce sa mojej práce alebo nápadov, neváhajte ma kontaktovať. Som priateľský a kompetentný človek a môžem byť niekedy k dispozícii 😁.

Niektorý obsah a preklady s označením pôvodného jazyka na tejto webovej stránke boli vytvorené s použitím technológií umelej inteligencie. Použitie AI mi umožňuje poskytovať aktualizované a presné informácie, ale môže to tiež znamenať, že niektoré texty môžu obsahovať nepresnosti jazykového charakteru. Prosíme používateľov, aby boli ostražití a v prípade nejasností nás kontaktovali.

Budte informovaní

Prihláste sa do môjho mailing listu a dostávajte ponuky, aktualizácie a ďalšie informácie!

Prihlásením súhlasíte s prijímaním e-mailov od mňa. Môžete si prečítať zásady ochrany osobných údajov tu a kedykoľvek sa môžete odhlásiť cez tento odkaz.

Posledné príspevky

Všetky príspevky → @EavfeavfFrano