--- title: "Mažesnių kalbų DI modeliai: kaip jie spėja koja kojon?" description: "Sužinokite, kaip vystosi mažesnių kalbų DI modeliai, su kokiais duomenų trūkumo iššūkiais susiduriama ir kodėl bendradarbiavimas yra raktas į sėkmę." featured_image: "https://tilde.ai/wp-content/uploads/2025/02/Jurgita_blogam.png" url: "https://tilde.ai/lt/blog/the-race-of-ai-models/" date_modified: "2026-07-14T14:07:49+02:00" --- Pagrindinis - Mažesnių kalbų DI modeliai: kaip jie spėja koja kojon? Mažesnių kalbų DI modeliai: kaip jie spėja koja kojon? 4 vasario, 2025 --- **Nuo statistinių kalbų modelių atsiradimo 1980-aisiais ši sritis patyrė nepaprastą transformaciją. Šiandien tikrasis klausimas yra, kaip mažesnių kalbų DI modeliai spėja koja kojon su šia transformacija. Per dešimtmečius šių DI modelių kūrimo metodikos evoliucionavo, apdorojamų duomenų kiekis išaugo, o patys modeliai tapo sudėtingesni. Nuolat plėtėsi parametrų – matematinių koeficientų formulėse – skaičius. Iki 2020 m., pasirodžius *ChatGPT*, terminas „didelis kalbos modelis“ tapo plačiai atpažįstamas. Šiandien sunku rasti žmogų, kuris apie tai nebūtų girdėjęs. **   **Bet ką reiškia „didelis“ kalbant apie kalbos modelius? Vienu metu milžinišku buvo laikomas modelis su 3 mlrd. parametrų, tačiau šiandien tokie skaičiai jau nebestebina. *OpenAI* nėra atskleidusi tikslaus *GPT-4* parametrų skaičiaus, tačiau spėjama, kad jis gali svyruoti nuo 1 iki 10 trilijonų.** # #Kam skirti DI modeliai mažesnėms kalboms? DI modeliai mažesnėms kalboms yra kalbos technologijos, skirtos suprasti, generuoti ir versti kalbas, kurioms yra mažiau skaitmeninių išteklių. Skirtingai nuo modelių, apmokytų daugiausia dideliais anglų kalbos duomenų rinkiniais, šiems modeliams reikia kruopščiai atrinktų mokymo duomenų, vietinės kalbos ekspertų ir patikimų vertinimo metodų, kad jie gerai veiktų realiose naudojimo situacijose. # #Ką dirbtinio intelekto kalbiniuose modeliuose reiškia „didelis“? Vyksta mokslinė revoliucija, kurios metu publikuojama kaip niekada daug straipsnių apie didelius kalbinius modelius. Tyrėjai visame pasaulyje skuba kurti vis galingesnius, tikslesnius ir universalesnius modelius. Šie modeliai turi gebėti atsakyti į klausimus, apibendrinti informaciją, versti tekstus ir atlikti įvairias su kalba susijusias užduotis. Tačiau vien didelis parametrų skaičius negarantuoja sėkmės. Kiekvienas parametras turi būti tiksliai suderintas, t. y. jam reikia tinkamos matematinės reikšmės, o tai įmanoma tik turint pakankamai mokymo duomenų. Procesas prasideda nuo modelio architektūros – jo matematinių formulių ir koeficientų, kurie iš pradžių nustatomi atsitiktinėmis reikšmėmis – projektavimo. Modeliui apdorojant mokymo duomenis, šie koeficientai yra tikslinami. Jei architektūra yra per didelė, o duomenų rinkinys per mažas, modelis bus netikslus ir linkęs į „haliucinacijas“. Kita vertus, jei modelis yra per mažas, o duomenų rinkinys – didžiulis, jam trūks pajėgumų efektyviai įsisavinti visą informaciją. # #Kodėl DI modeliams, skirtiems mažesnėms kalboms, kyla duomenų problema Vartotojų lūkesčiams ir toliau augant, mokymo duomenų trūkumas tampa vis aktualesne problema. Palyginti su anglų, vokiečių ar lenkų kalbomis, lietuvių kalbai prieinamų tekstų yra gerokai mažiau. Tyrėjai aktyviai dirba, kad išspręstų šį iššūkį. Pavyzdžiui, bendrovė *Tilde* bendradarbiauja su *Vytauto Didžiojo universitetu* ir *Vilniaus universitetu*, kad surinktų daugiau duomenų, kurie bus pagrindas kuriant tikslesnius modelius. Didžiausios technologijų bendrovės, tokios kaip *OpenAI*, *Meta* ir *Google DeepMind*, taip pat susiduria su ribotų duomenų mažesnėms kalboms problema. Tačiau jų modeliai yra daugiakalbiai, todėl jie yra labiau pritaikomi. Pasinaudodami dominuojančių kalbų žiniomis ir naudodami tarpkalbinius ryšius, daugiakalbiai modeliai gali geriau palaikyti mažesnes kalbas. Būtent todėl *Tilde* kuria savo daugiakalbį modelį ***[TildeLM](/tildeopen-llm/)***, kuriame ypatingas dėmesys skiriamas mažesnėms kalboms, tokioms kaip lietuvių, latvių ir estų. Tai vienas iš nedaugelio DI modelių mažesnėms kalboms, sukurtų atsižvelgiant į šias rinkas, o ne kaip į papildomą mintį.     ![DI modeliai mažesnėms kalboms – pasaulinės kalbos technologijų lenktynės](https://tilde.ai/wp-content/uploads/2025/02/17690.jpg) # #LLM lenktynių trasa: GPT, Llama, Gemma ir kiti Konkurencija tarp kalbos modelių yra arši. Modeliai, tokie kaip *GPT*, *Mistral*, *Llama*, *Gemma*, *Claude*, *Bloom*, ar *Solar* nuolat varžosi dėl dominavimo. Tačiau išlieka vienas didelis iššūkis – vis dar trūksta informacijos apie tai, kaip šie modeliai veikia su mažesnėmis kalbomis. Vidutiniam vartotojui gali atrodyti įspūdingas didelis šių modelių tikslumas, tačiau tam tikrose srityse, tokiose kaip medicina ar teisė, net ir nedidelės klaidos gali turėti rimtų pasekmių. Be to, daugelis pažangiausių modelių (pvz., *GPT*) yra patentuoti ir kontroliuojami privačių įmonių, kurios reguliuoja prieigą prie duomenų. Tai kelia susirūpinimą dėl jautrių duomenų saugumo ir apsunkina jų taikymą kritinėse srityse.   Ar yra alternatyvų? **Taip, atvirojo svorio modeliai!** Vartotojai gali juos atsisiųsti tiesiai į savo kompiuterius ir arba: 1) patobulinti savo duomenimis, arba 2) naudoti tokius, kokie yra, su kruopščiai parengtais raginimais. Pirmasis metodas reikalauja papildomų mokymo duomenų ir didelių skaičiavimo išteklių, todėl daugeliui vartotojų jis yra neprieinamas. Todėl [**mūsų naujausiame tyrime,**](https://arxiv.org/abs/2501.03952) kuris buvo priimtas pristatyti NoDaLiDa & Baltic HLT konferencijoje, mes sutelkėme dėmesį į antrojo metodo vertinimą. # #Mūsų tyrimas: 12 LLM išbandyti lietuvių, latvių ir estų kalbomis Tyrime buvo išbandyti **12 skirtingų kalbų modelių**, siekiant įvertinti jų gebėjimą suprasti ir generuoti tekstą lietuvių, latvių ir estų kalbomis. Jame buvo tiek nuosavybiniai modeliai (*GPT-3.5* Turbo, *GPT-4*, ir *GPT-4o*), tiek atvirojo kodo modeliai (*Llama 3*, 3.1, ir 3.2 su 3, 8, ir 70 mlrd. parametrų; *Mistral* su 12 mlrd.; *Gemma2* su 9 ir 27 mlrd.; ir *Phi* su 3 ir 14 mlrd.). Tai vienas iš nedaugelio viešų dirbtinio intelekto modelių mažesnėms kalboms etalonų.   Pirmasis eksperimentas buvo sutelktas į [**mašininio vertimo tikslumą**](/translate/tilde-machine-translation/), lyginant vertimus tarp anglų ir trijų Baltijos šalių kalbų. Nenuostabu, kad geriausiai pasirodė GPT modeliai, tačiau *Gemma2* (27 mlrd.) ir *Llama* 3.1 (70 mlrd.) pateikė vertimo kokybę, palyginamą su *GPT* modeliais. Tuo tarpu *Phi* modeliai pasirodė prasčiausiai. Rezultatai taip pat buvo palyginti su *DeepL*, viena pažangiausių mašininio vertimo sistemų, kuri parodė, kad jos vertimo kokybė atitiko *GPT-4o*. Tai rodo, kad dideli kalbų modeliai dabar gali generuoti vertimus, prilygstančius specializuotoms vertimo sistemoms.     Kitoje užduotyje modeliai turėjo **atsakyti į kelių pasirinkimų klausimus** lietuvių, latvių ir estų kalbomis. Tam reikėjo ne tik supratimo, bet ir gebėjimo pateikti teisingą atsakymą tinkamu formatu. Vėlgi, geriausiai pasirodę modeliai buvo *GPT-4o*, *Llama* 3.1 (70 mlrd.), ir *Gemma2* (27 mlrd.). Tačiau lyginant su anglų kalba, tikslumas mažesnėse kalbose buvo gerokai mažesnis.     Trečiasis eksperimentas vertino **kaip gerai šie modeliai gali atsakyti į atvirus klausimus** lietuvių ir latvių kalbomis įvairiose srityse. Geriausi modeliai pasiekė 80–90% Taip pat buvo vertinamas teksto generavimo sklandumas. Čia taip pat išliko tie patys 3 pirmaujantys modeliai. Papildomai buvo testuojami monolingualūs „Neurotechnology“ sukurti „Llama2“ modeliai (7 milijardų ir 13 milijardų), specialiai pritaikyti lietuvių kalbai. Šie modeliai generavo išskirtinai sklandų lietuvišką tekstą, tačiau jų tikslumas vis dar buvo gerokai mažesnis nei didelių daugiakalbių modelių. # #Ką LLM rezultatai reiškia mažesnėms kalboms Šis tyrimas dar kartą patvirtino esminį faktą: **treniruočių duomenų kokybė ir įvairovė yra svarbiausia. **Jei norime, kad kalbų modeliai pasiektų tokį patį tikslumo lygį mažesnėse kalbose, kaip ir didesnėse, būtinas aktyvus bendradarbiavimas mokslo bendruomenėje. Tai apima nuolatinį duomenų rinkimą ir specializuotų modelių kūrimą. Tik taip dirbtinio intelekto modeliai mažesnėms kalboms sumažins atotrūkį. **Užuot konkuravę, bendradarbiaukime!** --- # #Išbandykite DI modelius Europos kalboms Mažesnėms kalboms reikia kokybiškų duomenų, vietinės kalbos ekspertų ir saugios DI infrastruktūros. Sužinokite daugiau apie [TildeOpen LLM](/tildeopen-llm/) ir [Tilde DI duomenų paslaugas](/ai-data-services/) kalbų technologijoms kurti, vertinti ir pritaikyti. [Išbandykite TildeOpen LLM](/tildeopen-llm/) --- Kas naujo Tilde DI asistentas verslo žvalgybai ResEvo Tilde mašininis vertimas padeda Andele Mandele pasiekti daugiau pirkėjų Baltijos šalyse DI diegimo kliūtys, dėl kurių įmonės dvejoja diegti DI Ar DI era „praris“ kalbas, kuriomis kalba nedaug žmonių?