Obsah:
Video: Tři Nové Vícejazyčné Moduly USE Se Blíží K TensorFlow
2024 Autor: Kayla Nelson | [email protected]. Naposledy změněno: 2023-12-17 01:26
Google je jedním z průkopníků výzkumu AI a řada jejich projektů se začala obracet. AlphaZero od společnosti Google DeepMind tým byl průlomem ve výzkumu AI díky schopnosti programu naučit se komplikované hry sám (bez lidského tréninku a zásahu). Google také odvedl vynikající práci Programy pro zpracování přirozeného jazyka (NLPs), což je jeden z důvodů, proč je Google Assistant efektivní v porozumění a zpracování lidské řeči.
Google nedávno oznámil vydání tří nových POUŽÍVEJTE vícejazyčné moduly a poskytnout více vícejazyčných modelů pro načítání sémanticky podobného textu.
První dva moduly poskytují vícejazyčné modely pro načítání sémanticky podobného textu, jeden optimalizovaný pro výkon načítání a druhý pro rychlost a menší využití paměti. Třetí model se specializuje na vyhledávání otázek a odpovědí v šestnácti jazycích (USE-QA) a představuje zcela novou aplikaci USE. Všechny tři vícejazyčné moduly jsou trénovány pomocí víceúčelového rámce duálního kodéru, který je podobný původnímu modelu USE pro angličtinu, zatímco používají techniky, které jsme vyvinuli pro vylepšení duálního kodéru s přístupem softmax s aditivní marží. Jsou navrženy nejen k udržení dobrého výkonu učení přenosu, ale také k provádění dobrých úkolů sémantického načítání.
Zpracování jazyka v systémech prošlo dlouhou cestou, od základní syntaktické syntaktické analýzy stromu až po velké vektorové asociační modely. Porozumění kontextu v textu je jedním z největších problémů v poli NLP a Universal Sentence Encoder to řeší převodem textu ve vysokodimenzionálních vektorech, což usnadňuje hodnocení a označení textu.
Podle Google „ Všechny tři nové moduly jsou postaveny na sémantické vyhledávací architektuře, která obvykle rozděluje kódování otázek a odpovědí do samostatných neuronových sítí, což umožňuje vyhledávat mezi miliardami potenciálních odpovědí během milisekund. „Jinými slovy, to pomáhá při lepší indexaci dat.
“ Všechny tři vícejazyčné moduly jsou trénovány pomocí víceúčelového rámce duálního kodéru, který je podobný původnímu modelu USE pro angličtinu, zatímco používají techniky, které jsme vyvinuli pro zdokonalení duálního kodéru pomocí přístupu aditivní marže softmax. Jsou navrženy nejen k udržení dobrého výkonu učení přenosu, ale také k dobrému provádění úkolů sémantického načítání. “Funkce Softmax se často používá k úspoře výpočetního výkonu umocněním vektorů a následným vydělením každého prvku součtem exponenciálu.
Architektura sémantického vyhledávání
"Všechny tři nové moduly jsou postaveny na sémantických vyhledávacích architekturách, které obvykle rozdělují kódování otázek a odpovědí do samostatných neuronových sítí, což umožňuje hledat mezi miliardami potenciálních odpovědí během milisekund." Klíčem k použití duálních kodérů pro efektivní sémantické vyhledávání je předkódování všech odpovědí kandidátů na očekávané vstupní dotazy a jejich uložení do vektorové databáze, která je optimalizována pro řešení problému nejbližšího souseda, což umožňuje rychlé a velké prohledávání velkého počtu kandidátů přesnost a odvolání. “
Tyto moduly si můžete stáhnout z TensorFlow Hub. Další informace najdete v úplném příspěvku blogu GoogleAI.
Doporučuje:
We Happy Few Season Pass Přidává Sandbox Mode A Tři Nové Příběhy
We Happy Few je nadcházející adventura o přežití vyvinutá společností Compulsion Games. Tato hra má zajímavý příběh, který navazuje na drogy
Moduly RAM G.Skill DDR4-4800MHz Postavené Pro Extrémní Výkon S Využitím Samsung DDR4 B-die
G.Skill je známý svými extrémně výkonnými herními periferiemi a pamětí. Společnost dnes oznámila novou sadu paměťových modulů pro vysoký výkon
JEDEC Konečně Oznamuje LPDDR5 RAM Moduly Pro Smartphony
Jsou to téměř 4 roky od oznámení LPDDR4x RAM. LPDDR5 jsou mezi novinkami už docela dlouho. Předchozí zprávy o pamětí LPDDR5
Facebook Je Připraven Zavést Tři Nové Dynamické Styly Reklam
Facebook ukončil svou éru pohody poté, co začal tlačit reklamy na konečného uživatele. Ve filmu „Sociální síť“jsme viděli, že přidávání reklam na stránky bylo
Jak úplně Téma Android S Xposed Moduly
Theming a přizpůsobení zařízení Android může být zklamáním, pokud jde o akciové aplikace. Tématické obchody výrobců mají často omezené množství