Effective Adversarial Regularization for Neural Machine Translation Effektiewe Adversariale Regularisasie vir Nural Masjien Vertaling ምርጫዎች التنظيم العدائي الفعال للترجمة الآلية العصبية N칬ral Makin 칂톛rcl톛m톛si 칲칞칲n Efektiv Adversarial Regularization Ефективна противоречива регуляризация за неврален машинен превод নিউরাল মেশিন অনুবাদের জন্য কার্যকর প্রাকদর্শন নিয়মিতকরণ ནུས་ཚོད་བྱུང་བའི་འགྱུར་བའི་སྲོལ་རྒྱུན་ལྡན་བཟོས་བ Efektivna poremećajna regularizacija za neuronski prevod strojeva Regularizació adversaria efectiva per a la traducció de màquines neurals Efektivní nepříznivá regularizace pro neuronový strojový překlad Effektiv adversarial regulering til neural maskinoversættelse Effektive nachteilige Regularisierung für neuronale maschinelle Übersetzung Αποτελεσματικός αντιπαραβαλλόμενος ρυθμισμός για τη νευρωνική μηχανική μετάφραση Regularización adversaria eficaz para la traducción automática neuronal Tõhus kõrvaltoimete regulariseerimine neuroaalse masintõlke jaoks تغییرات قانونی تغییرات فعالی برای ترجمه ماشین عصبی Tehokas adversaarinen säännöstely hermojen konekääntämiseen Régularisation contradictoire efficace pour la traduction automatique neuronale Rialáil Éifeachtach Sáraíochta d'Aistriúchán Meaisín Néarach KCharselect unicode block name תורגם ע"י Qsubs מצוות तंत्रिका मशीन अनुवाद के लिए प्रभावी प्रतिकूल नियमितीकरण Efektivna nuspojavna regularizacija za neuronski prevod strojeva Hatékony negatív szabályozás a neurális gépi fordításhoz Նյարդային մեքենայի թարգմանման էֆեկտիվ հակառակ կարգավորումը Regularisasi Adversarial Efektif untuk Translation Mesin Neural Regolarizzazione avversaria efficace per la traduzione automatica neurale 神経機械翻訳のための効果的な対抗規則化 Peringatan pakan efek Adverisal Regulalissi kanggo Peringatan Nyural Name Нейрондық машинаны аудару үшін эффективті конверсариялық регулярлау 신경 기계 번역 중의 효과적인 대항 정규화 Veiksmingas nepalankus reguliavimas nervinių mašinų vertimui Name നെയുറല് മെഷീന് പരിഭാഷപ്പെടുത്തുന്നതിനുള്ള പ്രഭാവികമായ വ്യവസ്ഥ Эффектив сэтгэл мэдрэлийн машин хөрөнгө оруулахын тулд Pengaturan Penawal Efektif untuk Terjemahan Mesin Neural Regolamentazzjoni Adversarjali Effettiva għat-Traduzzjoni tal-Magni Newrali Effectieve Adversarial Regularization voor Neural Machine Translation Effektivt rekursarialt regulering for neuralmaskineomsetjing Skuteczna regularyzacja przeciwnika dla neuronowego tłumaczenia maszynowego Regularização Adversarial Eficaz para Tradução Automática Neural Regularizare adversară eficientă pentru traducerea automată neurală Эффективная соперническая регуляризация для нейронного машинного перевода ප්රභාවිත විද්යාපකය සඳහා ප්රභාවිත විද්යාපකය සාමාන්ය විද්යාපකය Učinkovita neželena regulacija za nevralno strojno prevajanje Effective Adversarial Regularization for Neural machine Translation Regulimi efektiv kundërshtar për përkthimin e makinës nervore Efektivna poremećajna regularizacija za neuronski prevod mašine Effektiv Adversarial Regularisering för Neural Machine Translation Utawala wenye ufanisi wa Utawala kwa Tafsiri wa Mashine ya Njerumani நெயுரல் இயந்திரத்தின் மொழிபெயர்ப்புக்கான விளைவான முனைய விதிமுறைமை Nural Maşynyň terjimesini üçin etkinlik namaýyşy نیورال ماشین ترجمہ کے لئے اثرات آسانی ریگریزان Name Sự phục hồi tinh thần cho máy móc thần kinh hiệu quả 神经机器翻译者有效抗正则化
Abstract
A regularization technique based on adversarial perturbation, which was initially developed in the field of image processing, has been successfully applied to text classification tasks and has yielded attractive improvements. We aim to further leverage this promising methodology into more sophisticated and critical neural models in the natural language processing field, i.e., neural machine translation (NMT) models. However, it is not trivial to apply this methodology to such models. Thus, this paper investigates the effectiveness of several possible configurations of applying the adversarial perturbation and reveals that the adversarial regularization technique can significantly and consistently improve the performance of widely used NMT models, such as LSTM-based and Transformer-based models.Abstract
'n Regulieringsteknik gebaseer op teëstandige perturbasie, wat begin ontwikkel is in die veld van beeldverwerking, is suksesvol aangepas na teks klasifikasie taak en het attraktiewe verbeteringe gegee. Ons doen doel om hierdie beloftende metodologie in meer sofistikeerde en kritiese neural e modele in die natuurlike taal verwerking veld te verwyder, bv. neurale masjien vertaling (NMT) modele. Maar dit is nie trivial om hierdie metodologie aan sodanige modele te wend nie. Daarom, hierdie papier ondersoek die effektiviteit van verskeie moontlike konfigurasies van toepassing van die teenstandaarlike perturbasie en vertel dat die teenstandaarlike regularisasie-teknike betekeurig en konsistentlik die effektiviteit van vaste gebruikte NMT-modelle kan verbeter, soos LSTM-gebaseerde en Transformer-gebaseerde modele.Abstract
በመጀመሪያ በተለየው የምስል ክፍል ውስጥ የተደገመ በተቃዋሚ ክፍተት የተደረገው የሥርዓት መግለጫ የጽሑፍ መግለጫ ስርዓቶችን በመስጠት የተጠቀመ እና ትክክል ማድረግ አቀረበ፡፡ ይህንን የተስፋ ማድረግ ለባሕላዊው ቋንቋ ተግባር መሬት፣ የነዌራዊ መሣሪያ ትርጉም (NMT) ሞዴላዎችን ለመጨመር እናስፈልጋለን፡፡ ነገር ግን ይህንን ማድረግ ለመጠቀም ፈቃድ አይደለም፡፡ ስለዚህም፣ ይህ ገጽ በተቃዋሚው ክፍተት ላይ የመጠቀም እና በተቃዋሚ ሥርዓት የሥርዓት ቴክኖክና በተለየ የNMT ዓይነቶችን እንደ LSTM-based እና በተለየ ተቃውሞ የፊደል ምሳሌዎችን የሚያበጅል እና በይፋ የሚጠቅመውን በማስተዋል፡፡Abstract
تم تطبيق تقنية التنظيم القائمة على الاضطراب العدائي ، والتي تم تطويرها في البداية في مجال معالجة الصور ، بنجاح على مهام تصنيف النص وأسفرت عن تحسينات جذابة. نهدف إلى زيادة الاستفادة من هذه المنهجية الواعدة في نماذج عصبية أكثر تعقيدًا وحرجة في مجال معالجة اللغة الطبيعية ، أي نماذج الترجمة الآلية العصبية (NMT). ومع ذلك ، فإنه ليس من التافه تطبيق هذه المنهجية على مثل هذه النماذج. وبالتالي ، تبحث هذه الورقة في فعالية العديد من التكوينات المحتملة لتطبيق الاضطراب العدائي وتكشف أن تقنية تسوية الخصومة يمكن أن تحسن بشكل كبير ومتسق من أداء نماذج NMT المستخدمة على نطاق واسع ، مثل النماذج المستندة إلى LSTM والقائمة على المحولات.Abstract
Rəsm işləməsi sahəsində ilk dəfə in şa edilmiş adversarial perturbasiya dayanan düzgünlük tekniki, metin klasifikasiya görevlərə müvəffəqiyyətlə uyğunlaşdırılmışdır və sevgili düzəltmələr yetişdirdi. Biz bu vəd verilən metodolojiyi təbiətli dil i şləmə sahəsində daha çox sofistikli və kritik nöral modellərə daha çox təsir etmək istəyirik, məsələn, nöral mašin çeviri (NMT) modellərə. Ancaq bu metodolojiyi bu modellərə uydurmaq zor deyil. Beləliklə, bu kağıt, düşmənçilik perturbasyonu uygulamaq üçün bir neçə mümkün yapılandırmaların etkinliğini incidir və buna görə də düşmənçilik düzgünlük tekniklərinin LSTM-ə dayanan və Transformer-ə dayanan modellərin etkinliğini çox mövcuddur və sürəkli tərzdə yaxşılaşdırır.Abstract
Техника на регулировка, основана на съперническо смущение, която първоначално е разработена в областта на обработката на изображения, успешно е приложена към задачите по класификация на текста и е довела до атрактивни подобрения. Целта ни е допълнително да използваме тази обещаваща методология в по-сложни и критични невронни модели в областта на обработката на естествения език, т.е. модели на невронен машинен превод (НМТ). Въпреки това, не е тривиално да се прилага тази методология към такива модели. По този начин, настоящата статия изследва ефективността на няколко възможни конфигурации за прилагане на конкуренционното смущение и разкрива, че техниката на конкуренционно регулиране може значително и последователно да подобри ефективността на широко използваните модели на НМТ, като например базирани на ЛСТМ и базирани на трансформатори модели.Abstract
প্রাথমিকভাবে ছবি প্রক্রিয়ার ক্ষেত্রে বিরোধী প্রযুক্তির উপর ভিত্তিক একটি নিয়ন্ত্রণ প্রযুক্তি প্রয়োগ করা হয়েছে এবং টেক্সট গ্রাফিকেশন কাজে স We aim to further leverage this promising methodology into more sophisticated and critical neural models in the natural language processing field, i.e., neural machine translation (NMT) models. তবে এই ধরনের মডেলে এই পদ্ধতিটি প্রয়োগ করার জন্য এটা অত্যাচার নয়। তাই এই কাগজটি বিরোধী প্রতিযোগিতার প্রয়োগ করার জন্য বেশ কয়েকটি সম্ভাব্য কনফিগারেশনের কার্যক্রম তদন্ত করেছে এবং প্রকাশ করেছে যে বিরোধী নিয়ন্ত্রণের প্রযুক্তি গুরুত্বপূর্ণ এবংAbstract
A regularization technique based on adversarial perturbation, which was initially developed in the field of image processing, has been successfully applied to text classification tasks and has yielded attractive improvements. ང་ཚོས་མཐུན་གྱི་ཐབས་ལམ་འདི་དག་དེ་སྤྱིར་བཏང་བ་དང་མཐུན་རྐྱེན་གྱི་ཐབས་ལམ་ལ་ཕན་ཚུན་བསྐྱེད་བཅུག་ནི་རང་རིས་སྐད་ཀྱི་ལས་སྦྱོར་བ་ཚང་ནང་གི་བྱ་བ ཡིན་ནའང་། འདི་ལྟ་བུའི་ལམ་ལུགས་འདི་དག་གི་མིག་ལམ་ལ་སྤྱོད་པར་གལ་ཆེ་བ་མེད། དེར་བརྟེན། ཤོགAbstract
Tehnika regularizacije temeljena na neprijateljskoj perturbaciji, koja je početno razvijena u području obrade slika, uspješno je primjenjena na zadatke klasifikacije teksta i pružala privlačne poboljšanje. Ciljem smo dalje uključiti ovu obećavajuću metodologiju u sofisticiranije i kritičnije neuralne modele u području obrade prirodnog jezika, tj. modele prevoda neuralnih strojeva (NMT). Međutim, nije trivialno primjenjivati ovu metodologiju na takve modele. Stoga, ovaj papir istražuje učinkovitost nekoliko mogućih konfiguracija primjene neprijateljske perturbacije i pokazuje da tehnika neprijateljske regularizacije može značajno i konsekventno poboljšati učinkovitost široko korištenih modela NMT-a, poput modela na osnovu LSTM-a i na osnovu transformera.Abstract
Una tècnica de regularizació basada en perturbació adversaria, que va ser desenvolupada inicialment en el camp del processament d'imatges, s'ha aplicat amb èxit a tasques de classificació de textos i ha donat millores atractives. Tenim l'objectiu d'aprofitar més aquesta metodologia prometedora en models neurals més sofisticats i crítics en el camp del processament natural del llenguatge, és a dir, models de traducció neural de màquines (NMT). No obstant això, no és trivial aplicar aquesta metodologia a aquests models. Així, aquest paper investiga l'eficacia de diverses configuracions possibles d'aplicar la perturbació adversaria i revela que la tècnica de regularizació adversaria pot millorar significativament i consistentment el rendiment de models NMT amplament utilitzats, com ara models basats en LSTM i Transformer.Abstract
Regularizační technika založená na adversariální perturbaci, která byla původně vyvinuta v oblasti zpracování obrazu, byla úspěšně aplikována na úlohy klasifikace textu a přinesla atraktivní zlepšení. Naším cílem je dále využít tuto slibnou metodiku do sofistikovanějších a kritičtějších neuronových modelů v oblasti zpracování přirozeného jazyka, tj. modelů neuronového strojového překladu (NMT). Použití této metodiky na takové modely však není triviální. Tento článek tedy zkoumá efektivitu několika možných konfigurací aplikace adversariální perturbace a odhaluje, že technika adversariální regularizace může významně a důsledně zlepšit výkon široce používaných NMT modelů, jako jsou LSTM a transformátorové modely.Abstract
En reguleringsteknik baseret på adversiel forstyrrelse, som oprindeligt blev udviklet inden for billedbehandling, er blevet anvendt med succes på tekstklassifikationsopgaver og har givet attraktive forbedringer. Vi tilstræber yderligere at udnytte denne lovende metode til mere sofistikerede og kritiske neurale modeller inden for det naturlige sprogbehandlingsfelt, dvs. neurale maskinoversættelsesmodeller (NMT). Det er imidlertid ikke banalt at anvende denne metode på sådanne modeller. Således undersøger denne artikel effektiviteten af flere mulige konfigurationer af anvendelse af adversarial perturbation og afslører, at adversarial regularisering teknikken kan betydeligt og konsekvent forbedre ydeevnen af almindeligt anvendte NMT modeller, såsom LSTM-baserede og Transformer-baserede modeller.Abstract
Eine zunächst im Bereich der Bildverarbeitung entwickelte Regularisierungstechnik auf der Basis von Kontrastrialstörungen wurde erfolgreich auf Textklassifikationsaufgaben angewendet und hat attraktive Verbesserungen gebracht. Unser Ziel ist es, diese vielversprechende Methodik in komplexere und kritischere neuronale Modelle im Bereich der Verarbeitung natürlicher Sprache, d.h. neuronale maschinelle Übersetzung (NMT) Modelle, weiter zu nutzen. Es ist jedoch nicht trivial, diese Methodik auf solche Modelle anzuwenden. Die vorliegende Arbeit untersucht daher die Effektivität mehrerer möglicher Konfigurationen der Anwendung der adversarianen Störung und zeigt, dass die adversariane Regularisierungstechnik die Leistung von weit verbreiteten NMT-Modellen, wie LSTM-basierten und Transformer-basierten Modellen, signifikant und konsistent verbessern kann.Abstract
Μια τεχνική κανονικοποίησης βασισμένη στην αντιδιαστατική διαταραχή, η οποία αρχικά αναπτύχθηκε στον τομέα της επεξεργασίας εικόνας, έχει εφαρμοστεί επιτυχώς σε εργασίες ταξινόμησης κειμένου και έχει επιφέρει ελκυστικές βελτιώσεις. Στόχος μας είναι να αξιοποιήσουμε περαιτέρω αυτή την ελπιδοφόρα μεθοδολογία σε πιο εξελιγμένα και κρίσιμα νευρωνικά μοντέλα στον τομέα της επεξεργασίας φυσικής γλώσσας, δηλαδή μοντέλα νευρωνικής μηχανικής μετάφρασης (NMT). Ωστόσο, δεν είναι ασήμαντο να εφαρμοστεί αυτή η μεθοδολογία σε τέτοια μοντέλα. Έτσι, η παρούσα εργασία διερευνά την αποτελεσματικότητα πολλών πιθανών διαμορφώσεων εφαρμογής της αντίδρασης και αποκαλύπτει ότι η τεχνική αντίδρασης μπορεί να βελτιώσει σημαντικά και σταθερά την απόδοση ευρέως χρησιμοποιούμενων μοντέλων όπως μοντέλα βασισμένα στο LSTM και μετασχηματιστή.Abstract
Una técnica de regularización basada en perturbaciones adversarias, que se desarrolló inicialmente en el campo del procesamiento de imágenes, se ha aplicado con éxito a las tareas de clasificación de textos y ha producido mejoras atractivas. Nuestro objetivo es aprovechar aún más esta prometedora metodología en modelos neuronales más sofisticados y críticos en el campo del procesamiento del lenguaje natural, es decir, modelos de traducción automática neuronal (NMT). Sin embargo, no es trivial aplicar esta metodología a estos modelos. Por lo tanto, este artículo investiga la eficacia de varias configuraciones posibles de aplicación de la perturbación adversaria y revela que la técnica de regularización adversaria puede mejorar de manera significativa y consistente el rendimiento de los modelos NMT ampliamente utilizados, como los basados en LSTM y los basados en transformadores. modelos.Abstract
Teksti klassifitseerimise ülesannetele on edukalt rakendatud regulatsioonitehnikat, mis algselt välja töötati kujutistöötluse valdkonnas, mis põhineb konkurentsiprobleemidel ja on toonud atraktiivseid parandusi. Meie eesmärk on kasutada seda paljutõotavat metoodikat veelgi keerulisemateks ja kriitilisemateks neuromudeliteks looduskeele töötlemise valdkonnas, s.t neuromasintõlke (NMT) mudeliteks. Selle metoodika kohaldamine selliste mudelite suhtes ei ole siiski tühine. Seega uurib käesolev töö mitmete võimalike konfiguratsioonide efektiivsust konkureeriva häire rakendamisel ning selgub, et konkureeriva regulatsiooni tehnika võib oluliselt ja järjepidevalt parandada laialdaselt kasutatavate NMT mudelite, näiteks LSTM-põhiste ja Transformer-põhiste mudelite jõudlust.Abstract
یک تکنیک تنظیمسازی بر اساس تغییرات دشمنی که در ابتدا در میدان پردازش تصویر توسعه شده است، به موفقیت بر کارهای تنظیمسازی متن کاربرد میشود و بهترینسازی جذابی به دست آورده است. ما هدف میکنیم که این روشهای قولدهنده را به مدلهای عصبیهای پیچیدهتری و ضروریتری در زمینههای پردازش زبان طبیعی، یعنی ترجمههای ماشین عصبی (NMT) فعال کنیم. با این حال، این روششناسی را به چنین مدلها استفاده میکنیم. بنابراین، این کاغذ موثرت چند تنظیمات ممکن را تحقیق میکند که تغییرات دشمنی را تغییر میدهد و نشان میدهد که تکنیک تنظیمات دشمنی میتواند عملکرد مدلهای NMT وسیع استفاده میشود، مانند مدلهای بنیاد LSTM و تغییردهندهها، به طور معنی و همیشهAbstract
Kuvankäsittelyn alalla alun perin kehitettyä kontradikaaliseen häiriöön perustuvaa regularisointitekniikkaa on sovellettu menestyksekkäästi tekstiluokitustehtäviin ja se on tuottanut houkuttelevia parannuksia. Pyrimme edelleen hyödyntämään tätä lupaavaa menetelmää kehittyneempiin ja kriittisempiin neuromalleihin luonnollisen kielen prosessoinnissa eli neurokonekäännösmalleihin (NMT). Tämän menetelmän soveltaminen tällaisiin malleihin ei kuitenkaan ole vähäpätöistä. Tässä työssä tutkitaan useiden mahdollisten konfiguraatioiden tehokkuutta kontrastiaalisen häiriön soveltamisessa ja paljastetaan, että kontrastiaalisen regularisointitekniikan avulla voidaan merkittävästi ja johdonmukaisesti parantaa laajalti käytettyjen NMT-mallien, kuten LSTM-pohjaisten ja muuntajapohjaisten mallien suorituskykyä.Abstract
Une technique de régularisation basée sur la perturbation contradictoire, initialement développée dans le domaine du traitement d'images, a été appliquée avec succès aux tâches de classification de texte et a donné lieu à des améliorations intéressantes. Nous visons à exploiter davantage cette méthodologie prometteuse dans des modèles neuronaux plus sophistiqués et plus critiques dans le domaine du traitement du langage naturel, c'est-à-dire les modèles de traduction automatique neuronale (NMT). Cependant, il n'est pas anodin d'appliquer cette méthodologie à de tels modèles. Ainsi, cet article étudie l'efficacité de plusieurs configurations possibles d'application de la perturbation contradictoire et révèle que la technique de régularisation contradictoire peut améliorer de manière significative et constante les performances des modèles NMT largement utilisés, tels que ceux basés sur LSTM et basés sur des transformateurs modèles.Abstract
Cuireadh teicníocht um rialáil atá bunaithe ar shuaiteadh sáraíochta, a forbraíodh ar dtús i réimse na próiseála íomhá, i bhfeidhm go rathúil ar thascanna aicmithe téacs agus tá feabhsuithe tarraingteacha mar thoradh uirthi. Tá sé mar aidhm againn an mhodheolaíocht dhearfach seo a ghiaráil tuilleadh isteach i múnlaí néarúla níos sofaisticiúla agus níos criticiúla sa réimse próiseála teanga nádúrtha, i.e. samhlacha néar-aistriúcháin meaisín (NMT). Mar sin féin, níl sé fánach an mhodheolaíocht seo a chur i bhfeidhm ar shamhlacha den sórt sin. Mar sin, déanann an páipéar seo imscrúdú ar éifeachtacht roinnt cumraíochtaí féideartha chun an suaitheadh sáraíochta a chur i bhfeidhm agus nochtann sé gur féidir leis an teicníocht um rialáil sáraíochta feabhas suntasach agus comhsheasmhach a dhéanamh ar fheidhmíocht samhlacha NMT a úsáidtear go forleathan, ar nós samhlacha atá bunaithe ar LSTM agus Trasfhoirmeoir.Abstract
An kasa amfani da wani taki wa jurisdiction a kan motsi, wanda aka buɗe shi a field masu aiki da zane, an sami babban amfani da aikin mai fassarar matsayi kuma ya ƙẽtare kyautatawa. Tuna so don mu ƙara wannan metoden da ake yi wa'adi zuwa misãlai masu sofi da muhimmi na neural cikin field da za'a yi aiki da harshen bakin, misali, fassarar maɓallin neural (NMT). A lokacin da, bã ya da amfani da wannan metode zuwa wannan misalin. Kayyar wannan takardar, yana karatun mafiya amfani da wasu masu yiwuwa da za'a yi amfani da shiryoyin misãlai masu motsi da taratibu kuma yana bayana cewa, kunyar jujjarin taratibu mai significant kuma yana ƙara gaba ga cikakken misãlai masu amfani da NMT kamar misãlai na LSSM-based da Transformer-based.Abstract
טכניקת רפובליזציה מבוססת על הפרעות יריבית, שהתפתחה בהתחלה בשטח עיבוד התמונות, הופעלה בהצלחה למשימות מסווג טקסט והביאה שיפורים מושכים. אנו מתכוונים להמשיך להשתמש במטודל המבטיח הזה למודלים עצביים מתוחכמים ומקריטיים יותר בשדה עיבוד השפה הטבעית, כלומר, מודלים לתרגום מכונות עצביות (NMT). בכל אופן, זה לא טריוויאלי להשתמש במתודלים כאלה. ככה, הנייר הזה חוקר את היעילות של מספר סדרות אפשריות של השימוש של הפרעות הירידותית ומגלה שטכניקת ההתקדמות הירידותית יכולה לשפר באופן משמעותי ובקבוע את ההפעלות של דוגמנים NMT משתמשים רחב, כמו דוגמנים מבוססים על LSTM ובוססים על Transformer.Abstract
प्रतिकूल गड़बड़ी पर आधारित एक नियमितीकरण तकनीक, जिसे शुरू में छवि प्रसंस्करण के क्षेत्र में विकसित किया गया था, को सफलतापूर्वक पाठ वर्गीकरण कार्यों पर लागू किया गया है और आकर्षक सुधार प्राप्त हुए हैं। हम इस आशाजनक पद्धति को प्राकृतिक भाषा प्रसंस्करण क्षेत्र में अधिक परिष्कृत और महत्वपूर्ण तंत्रिका मॉडल में और अधिक परिष्कृत और महत्वपूर्ण तंत्रिका मॉडल में लाभ उठाने का लक्ष्य रखते हैं, यानी, तंत्रिका मशीन अनुवाद (एनएमटी) मॉडल। हालांकि, इस तरह के मॉडल के लिए इस पद्धति को लागू करना तुच्छ नहीं है। इस प्रकार, यह पेपर प्रतिकूल गड़बड़ी को लागू करने के कई संभावित कॉन्फ़िगरेशन की प्रभावशीलता की जांच करता है और बताता है कि प्रतिकूल नियमितीकरण तकनीक व्यापक रूप से उपयोग किए जाने वाले एनएमटी मॉडल के प्रदर्शन में काफी सुधार कर सकती है, जैसे कि एलएसटीएम-आधारित और ट्रांसफॉर्मर-आधारित मॉडल।Abstract
Tehnika regularizacije temeljena na neprijateljskoj perturbaciji, koja je početno razvijena u području obrade slika, uspješno se primjenjuje na zadatke klasifikacije teksta i pruža privlačne poboljšanje. Namjeravamo dalje uključiti ovu obećavajuću metodologiju u sofisticiranije i kritičnije neuralne modele u području obrade prirodnog jezika, tj. modele prevoda neuralnih strojeva (NMT). Međutim, nije trivialno primjenjivati ovu metodologiju na takve modele. Stoga, ovaj papir istražuje učinkovitost nekoliko mogućih konfiguracija primjene neprijateljske perturbacije i pokazuje da tehnika neprijateljske regularizacije može značajno i konsekventno poboljšati učinkovitost široko korištenih modela NMT-a, poput modela na osnovu LSTM-a i transformera.Abstract
A szövegosztályozási feladatokra sikeresen alkalmazták az ellentétes perturbáción alapuló szabályozási technikát, amelyet eredetileg a képfeldolgozás területén fejlesztettek ki, és vonzó fejlesztéseket eredményezett. Célunk, hogy ezt az ígéretes módszertant tovább használjuk a természetes nyelvfeldolgozás területén kifinomultabb és kritikusabb neurális modellekbe, azaz neurális gépi fordítás (NMT) modellekbe. Ugyanakkor nem triviális ezt a módszert alkalmazni ilyen modellekre. Ez a tanulmány az ellenfél perturbáció alkalmazásának számos lehetséges konfigurációjának hatékonyságát vizsgálja, és feltárja, hogy az ellenfél regularizációs technika jelentősen és következetesen javíthatja a széles körben használt NMT modellek teljesítményét, mint például LSTM alapú és Transformer alapú modellek.Abstract
Կարգավորման տեխնիկան, որը հիմնված է հակառակ խռովությունների վրա, որը սկզբում զարգացել է պատկերների վերլուծության ոլորտում, հաջողությամբ կիրառվել է տեքստի դասակարգման խնդիրների վրա և բերել է գրավիչ բարելավումներ: Մենք նպատակում ենք շարունակել օգտագործել այս խոստացնող մեթոդոլոգիան ավելի բարդ և կարևոր նյարդային մոդելների մեջ բնական լեզվի վերլուծության ոլորտում, այսինքն՝ նյարդային մեքենայի թարգմանման (NMT) մոդելների մեջ: Այնուամենայնիվ, այս մեթոդոլոգիան այդպիսի մոդելների վրա կիրառելը աննշան չէ: Այսպիսով, այս հոդվածը ուսումնասիրում է հակառակ խռովությունների կիրառման մի քանի հնարավոր կառուցվածքների արդյունավետությունը և բացահայտում է, որ հակառակ ռեգուլարիզացիայի տեխնիկան կարող է նշանակալի և մշտապես բարելավել լայնորեն օգտագործված NMT մոդելների, ինչպիսիք են LSMT-իAbstract
Sebuah teknik regularisasi berdasarkan perturbasi musuh, yang awalnya dikembangkan dalam bidang proses gambar, telah berhasil diterapkan untuk tugas klasifikasi teks dan telah memberikan peningkatan menarik. Kami bertujuan untuk menggunakan metodologi yang berjanji in i lebih lanjut ke model saraf yang lebih canggih dan kritis dalam bidang proses bahasa alami, yaitu model terjemahan mesin saraf (NMT). Namun, tidak trivial untuk menerapkan metodologi ini pada model seperti itu. Jadi, kertas ini menyelidiki efektivitas beberapa konfigurasi kemungkinan untuk menerapkan perturbasi musuh dan mengungkapkan bahwa teknik regularisasi musuh dapat meningkatkan secara signifikan dan konsisten prestasi model NMT yang sangat digunakan, seperti model LSTM berdasarkan dan Transformer.Abstract
Una tecnica di regolarizzazione basata sulla perturbazione avversaria, inizialmente sviluppata nel campo dell'elaborazione delle immagini, è stata applicata con successo alle attività di classificazione del testo e ha prodotto interessanti miglioramenti. Puntiamo a sfruttare ulteriormente questa promettente metodologia in modelli neurali più sofisticati e critici nel campo dell'elaborazione del linguaggio naturale, cioè modelli neurali di traduzione automatica (NMT). Tuttavia, non è banale applicare questa metodologia a tali modelli. Pertanto, questo articolo indaga l'efficacia di diverse configurazioni possibili di applicazione della perturbazione avversaria e rivela che la tecnica di regolarizzazione avversaria può migliorare significativamente e costantemente le prestazioni di modelli NMT ampiamente utilizzati, come modelli basati su LSTM e Transformer-based.Abstract
画像処理の分野で最初に開発された対立摂動に基づく正規化技術は、テキスト分類タスクにうまく適用され、魅力的な改善をもたらしている。私たちは、この有望な方法論を、自然言語処理分野のより洗練された重要なニューラルモデル、すなわちニューラル機械翻訳( NMT )モデルにさらに活用することを目指しています。しかし、このようなモデルにこの方法論を適用することは些細なことではない。したがって、本論文は、対立摂動を適用するためのいくつかの可能な構成の有効性を調査し、対立正規化技術が、LSTMベースのモデルやTransformerベースのモデルなど、広く使用されているNMTモデルのパフォーマンスを著しく一貫して改善することができることを明らかにした。Abstract
A Regulalisation Method that sits on the Awak dhéwé nglanggar aturan luwih nggawe sistem iki dadi sohistikit karo model sing karo pentar nggawe barang nggawe barang nggawe barang nggawe Nanging, iso nggambar kanggo aplikasi Metotologi iki banget kanggo model yo. politenessoffpolite"), and when there is a change ("assertiveAbstract
რეგილარიზაციის ტექნოგია, რომელიც პირველად განვითარებულია გამოსახულების პროცესტის პანელში, ტექსტის კლასიფიკაციის დავალებისთვის შემდეგ გამოყენებულია და ატრაქტიური უფლებების შემდეგ იქ ჩვენ მინდომით უფრო მეტად გავაკეთოთ ეს გვაქვს მეტოდოლოგიას უფრო სოფისტიკური და კრიტიკური ნეიროლური მოდელში, რომელიც სახელური ენის პროცესი მხოლოდ, ანუ ნეიროლური მაქ მაგრამ ეს მეტოლოგიას ასეთი მოდელეებისთვის გამოყენება არ არის ტრივიალური. ამიტომ, ეს წიგნი განსხვავებს რამდენიმე შესაძლებელი კონფიგურაციების ეფექტიურობას, რომელიც განსხვავებული პერტუბრაციის გამოყენება და აღმოჩნდება, რომ განსხვავებული რეგრალიზაციის ტექნოგია შეუძლია მნიშვნელოვანად და მუშაობელოვAbstract
Кескінді өңдеу өрісінде бастапқы негіздеген негізгі қарсылық қарсылық түрлендіру техникасы мәтін классификациялау тапсырмаларына сәтті қолданылады және қорқынышты жақсартуларға арналған. Біз бұл әлемді методологияны табиғи тілдерді өзгерту өрісінде, яғни невралды машинаны аудару (NMT) үлгілерінде көптеген және критикалық невралдық моделдерге қолдану мақсатымыз. Бірақ бұл методологияны осы үлгілерге қолдану үшін үлкен емес. Бұл қағаз қарсы қарсылық қарсылық қарсылық қарсылық қарсылық қарсылық баптауларының ең мүмкіндігін зерттеп, қарсылық түрлендіру техникасы LSTM негізінде және түрлендіру үлгілеріне негізінде қолданылған NMT үлгілерінің ең жақсы және әAbstract
대항적 교란을 바탕으로 하는 정규화 기술은 처음에 이미지 처리 분야에서 발전되었고 현재는 텍스트 분류 임무에 성공적으로 응용되었고 사람들의 주목을 끄는 개선을 얻었다.우리의 목표는 이런 유망한 방법을 더욱 활용하여 자연 언어 처리 분야, 즉 신경기계번역(NMT) 모델의 더욱 복잡하고 관건적인 신경모델을 이용하는 것이다.그러나 이런 방법을 이런 모델에 적용하는 것은 쉽지 않다.따라서 본고는 대항성 교란을 응용하는 몇 가지 설정 가능한 유효성을 연구했고 대항성 정규화 기술은 광범위하게 사용되는 NMT 모델의 성능, 예를 들어 LSTM과 변압기 기반 모델을 현저하고 지속적으로 개선할 수 있음을 제시했다.Abstract
Tekstų klasifikavimo užduotims sėkmingai buvo taikoma reguliavimo metodika, pagrįsta prieštaringomis perturbacijomis, kuri iš pradžių buvo sukurta vaizdo apdorojimo srityje, ir dėl jos buvo padaryti patrauklūs patobulinimai. Mes siekiame toliau panaudoti ši ą žadančią metodiką į sudėtingesnius ir kritiškesnius nervų modelius gamtos kalbų apdorojimo srityje, t. y. nervų mašin ų vertimo (NMT) modelius. Tačiau šiai metodikai taikyti tokiems modeliams nėra triviau. Taigi šiame dokumente nagrinėjamas kelių galimų prieštaringų perturbacijų taikymo konfigūracijų veiksmingumas ir paaiškėja, kad prieštaringo reguliavimo metodas gali reikšmingai ir nuosekliai pagerinti plačiai naudojamų NMT modelių, pavyzdžiui, LSTM ir Transformer modelių, veiksmingumą.Abstract
A regularization technique based on adversarial perturbation, which was initially developed in the field of image processing, has been successfully applied to text classification tasks and has yielded attractive improvements. We aim to further leverage this promising methodology into more sophisticated and critical neural models in the natural language processing field, i.e., neural machine translation (NMT) models. Сепак, не е тривијално да се примени оваа методологија на вакви модели. Така, овој весник ја истражува ефикасноста на неколку можни конфигурации на апликацијата на противната пертурбирација и открива дека техниката на противната регуларизација може значително и константно да ја подобри резултатот на широко употребените НМТ модели, како што се моделите базирани на ЛСТМ и трансформски.Abstract
ഇമേജ് പ്രവര്ത്തിപ്പിക്കുന്ന പ്രദേശത്തിന്റെ അടിസ്ഥാനത്ത് നിയന്ത്രണ സാങ്കേതികവിദ്യയുടെ നിയന്ത്രണത്തിന്റെ സാങ്കേതികവിദ്യയുടെ വി We aim to further leverage this promising methodology into more sophisticated and critical neural models in the natural language processing field, i.e., neural machine translation (NMT) models. എങ്കിലും ഇത്തരം മോഡലുകളിലേക്ക് ഈ രീതിയില് പ്രയോഗിക്കുന്നത് വളരെ വിഷമമല്ല. അതുകൊണ്ട്, ഈ പേപ്പറിന്റെ പ്രതിയോഗിക്കുന്ന ക്രമീകരണങ്ങള് പ്രയോഗിക്കുന്നതിനുള്ള സാധ്യതയുള്ള ക്രമീകരണങ്ങള് പരിശോധിക്കുന്നു. വിരോധമായ നിയന്ത്രണത്തിന്റെ സാങ്കേതികവAbstract
Шинэ зураг үйлдвэрлэлийн талбарт эхлээд хөгжүүлсэн эсрэг эсрэг эсрэг эсрэг хүчирхийллийн техник нь текст хэлбэрийн үйлдвэрлэлд амжилттай хэрэглэгдсэн ба гайхалтай сайжруулалт гаргасан. Бид энэ амлалтай методологийг байгалийн хэл процесс талбарын илүү нарийн болон чухал мэдрэлийн загвар болгох зорилготой. Гэхдээ энэ методологийг ийм загварт хэрэглэх нь хэцүү биш. Тиймээс, энэ цаас эсрэг эсрэг эсрэг эсрэг эсрэг тогтвортох техник нь маш чухал болон үргэлжлүүлэн ашиглагдсан NMT загварын үйлдлийг сайжруулж чадна гэдгийг харуулж байна.Abstract
Sebuah teknik pengaturan berdasarkan gangguan musuh, yang awalnya dikembangkan dalam medan pemprosesan imej, telah berjaya dilaksanakan pada tugas pengelasahan teks dan telah memberikan peningkatan menarik. Kami bertujuan untuk menggunakan metodologi berjanji in i lebih lanjut ke dalam model saraf yang lebih canggih dan kritik dalam medan pemprosesan bahasa alam, iaitu model terjemahan mesin saraf (NMT). However, it is not trivial to apply this methodology to such models. Oleh itu, kertas ini menyelidiki kegunaan beberapa konfigurasi yang mungkin untuk melaksanakan gangguan musuh dan mengungkapkan bahawa teknik pengaturan musuh boleh meningkatkan secara signifikan dan konsisten prestasi model NMT yang digunakan secara luas, seperti model berasaskan LSTM dan berasaskan Transformer.Abstract
Teknika ta’ regolarizzazzjoni bbażata fuq perturbazzjoni avversarja, li inizjalment ġiet żviluppata fil-qasam tal-ipproċessar tal-immaġni, ġiet applikata b’suċċess għal kompiti ta’ klassifikazzjoni tat-test u wasslet għal titjib attraenti. Għandna l-għan li nħe ġġu aktar din il-metodoloġija promettenti f’mudelli newrali aktar sofistikati u kritiċi fil-qasam tal-ipproċessar tal-lingwi naturali, jiġifieri mudelli tat-traduzzjoni tal-magni newrali (NMT). Madankollu, mhuwiex trivjali li din il-metodoloġija tiġi applikata għal mudelli bħal dawn. Għalhekk, dan id-dokument jinvestiga l-effettività ta’ diversi konfigurazzjonijiet possibbli tal-applikazzjoni tal-perturbazzjoni avversarja u jiżvela li t-teknika ta’ regolarizzazzjoni avversarja tista’ ttejjeb b’mod sinifikanti u konsistenti l-prestazzjoni ta’ mudelli NMT użati ħafna, bħal mudelli bbażati fuq LSTM u Transformer.Abstract
Een regularisatietechniek op basis van tegenstrijdige verstoring, die aanvankelijk werd ontwikkeld op het gebied van beeldverwerking, is succesvol toegepast op tekstclassificatietaken en heeft aantrekkelijke verbeteringen opgeleverd. We willen deze veelbelovende methodologie verder inzetten in meer geavanceerde en kritische neurale modellen op het gebied van natuurlijke taalverwerking, dat wil zeggen neuronale machine translation (NMT) modellen. Het is echter niet triviaal om deze methodologie op dergelijke modellen toe te passen. Zo onderzoekt dit artikel de effectiviteit van verschillende mogelijke configuraties van het toepassen van de tegenstrijdige verstoring en onthult dat de tegenstrijdige regularisatietechniek de prestaties van veel gebruikte NMT-modellen, zoals LSTM-gebaseerde en Transformer-gebaseerde modellen aanzienlijk en consistent kan verbeteren.Abstract
Ein reguleringsteknikk basert på negativ turbasjon, som er utvikla opp i bilete-handlingsfeltet, er fullført brukt til tekstklassifikasjonsprogrammer og har gjeve attraktive forbetringar. Vi mål meir å levera denne promessajte metodologien til meir sofistikerte og kritiske neuralmodeller i den naturlege språkshandlingsfeltet, t.d. neuralmaskinsomsetjinga (NMT). Men det er ikkje trivial å bruka denne metodologien til slike modeller. Denne papiret undersøker effektiviteten av fleire moglege oppsett for å bruka den adversariale perturbasjonen og viser at den adversariale regulariseringsteknikken kan betydelig og konsekvent forbedra utviklinga av breidde brukte NMT-modeller, som LSTM-baserte og transformeringsbaserte modeller.Abstract
Technika regularyzacji oparta na zaburzeniach przeciwnych, która została początkowo opracowana w zakresie przetwarzania obrazu, została z powodzeniem zastosowana do zadań klasyfikacji tekstu i przyniosła atrakcyjne ulepszenia. Naszym celem jest dalsze wykorzystanie tej obiecującej metodologii do bardziej zaawansowanych i krytycznych modeli neuronowych w dziedzinie przetwarzania języka naturalnego, czyli modeli neuronowego tłumaczenia maszynowego (NMT). Zastosowanie tej metodologii do takich modeli nie jest jednak trywialne. W związku z tym artykule badano skuteczność kilku możliwych konfiguracji stosowania zaburzeń przeciwnych i ujawniono, że technika regulacji przeciwnych może znacząco i konsekwentnie poprawić wydajność szeroko stosowanych modeli NMT, takich jak modele oparte na LSTM i Transformatorze.Abstract
Uma técnica de regularização baseada em perturbação adversarial, desenvolvida inicialmente na área de processamento de imagens, foi aplicada com sucesso em tarefas de classificação de texto e rendeu melhorias atraentes. Nosso objetivo é alavancar ainda mais essa metodologia promissora em modelos neurais mais sofisticados e críticos no campo de processamento de linguagem natural, ou seja, modelos de tradução automática neural (NMT). No entanto, não é trivial aplicar esta metodologia a tais modelos. Assim, este artigo investiga a eficácia de várias configurações possíveis de aplicação da perturbação adversarial e revela que a técnica de regularização adversarial pode melhorar significativa e consistentemente o desempenho de modelos NMT amplamente utilizados, como modelos baseados em LSTM e baseados em Transformer.Abstract
O tehnică de regularizare bazată pe perturbarea adversară, care a fost inițial dezvoltată în domeniul procesării imaginilor, a fost aplicată cu succes sarcinilor de clasificare a textelor și a adus îmbunătățiri atractive. Scopul nostru este de a utiliza în continuare această metodologie promițătoare în modele neurale mai sofisticate și critice în domeniul procesării limbajului natural, adică modele de traducere automată neurală (NMT). Cu toate acestea, nu este banal să se aplice această metodologie unor astfel de modele. Astfel, această lucrare investighează eficacitatea mai multor configurații posibile de aplicare a perturbării adversare și dezvăluie că tehnica de regularizare adversară poate îmbunătăți semnificativ și constant performanța modelelor NMT utilizate pe scară largă, cum ar fi modelele bazate pe LSTM și pe Transformer.Abstract
Методика регуляризации на основе состязательного возмущения, изначально разработанная в области обработки изображений, успешно применяется в задачах классификации текста и дает привлекательные улучшения. Мы стремимся и далее использовать эту перспективную методологию в более сложных и критических нейронных моделях в области обработки естественного языка, то есть в моделях нейронного машинного перевода (НМП). Однако применение этой методологии к таким моделям не является тривиальным. Таким образом, в данной работе исследуется эффективность нескольких возможных конфигураций применения сопернического возмущения и выявляется, что метод сопернической регуляризации может значительно и последовательно улучшать производительность широко используемых моделей НБ, таких как модели на основе LSTM и Трансформатора.Abstract
පින්තූර පරීක්ෂණයේ ප්රධාන විදිහට අධිරූපය විදිහට සාමාන්ය විද්යාවක් විදිහට, පින්තූර පරීක්ෂණයේ ප්රධාන විදිහට විසි අපි අදහස් කරනවා මේ ප්රාර්ථාපනය විද්යාපණ විද්යාපණ විද්යාපණ විද්යාපණ විද්යාපණ විද්යාපණ විද්යාපණ විද්යාපණ විද්යා නමුත්, මේ විද්යාවය අනුවෙන් මොඩේල් වලට ඇතුළත් කරන්න ත්රිවියාලි නෙවෙයි. ඉතින්, මේ පත්තුව පරීක්ෂණය කරනවා විරෝධ විරෝධ විරෝධ විරෝධ විරෝධ විධානය සහ ප්රතික්රියා කරන්න පුළුවන් සමහර විශ්වාස කරන්න පුළුවන් විසිද්ධ විAbstract
Tehnika regulacije, ki temelji na kontradikcijskih motnjah, ki je bila sprva razvita na področju obdelave slik, je bila uspešno uporabljena pri klasifikacijskih nalogah besedila in je prinesla privlačne izboljšave. To obetavno metodologijo želimo še naprej izkoristiti v bolj prefinjene in kritične nevronske modele na področju obdelave naravnega jezika, tj. modele nevronskega strojnega prevajanja (NMT). Vendar uporaba te metodologije za take modele ni nepomembna. Tako v prispevku preučujemo učinkovitost več možnih konfiguracij uporabe kontradikcijske motnje in razkrivamo, da lahko kontradikcijska regulacijska tehnika bistveno in dosledno izboljša učinkovitost široko uporabljenih modelov NMT, kot so modeli na osnovi LSTM in transformatorjev.Abstract
Teknojiyada nidaamka oo ku saleysan cadaawayaasha kala duwan, kaas oo bilowga horumarinta lagu kordhiyey berrinka taswiirta sawirka, waxaa lagu liibaaniyey shaqooyinka fasaxa qoraalka, wuxuuna keenay hagaajiyada aad u wanaagsan. Waxaynu ku qoraynaa noocyadan ballanqaadka ah oo ku qoran samooyin aad u sophisticsan oo muhiim ah oo ku qoran qoraalka baaritaanka afka dabiicadda ah, tusaale ahaan tarjumidda maskaxda neurada (NMT). Si kastaba ha ahaatee ma ahan mid adag in qaababkan lagu codsado tusaalahaas. Sidaa darteed warqaddan wuxuu baarayaa waxyaabaha u suurtowda inay ku codsadaan qaabilaada cadaawayaasha ah, wuxuuna muujin karaa in teknikada cadaawayaasha ka soocsaday ay si fiican u hagi karto sameynta modellada u isticmaalay ee noocyada badan ee NMT, tusaale ahaan qoraalka LSTM-based iyo wareegista.Abstract
Një teknikë rregullimi bazuar në shqetësimin kundërshtar, e cila fillimisht u zhvillua në fushën e procesimit të imazheve, është aplikuar me sukses në detyrat e klasifikimit të tekstit dhe ka sjellë përmirësime tërheqëse. We aim to further leverage this promising methodology into more sophisticated and critical neural models in the natural language processing field, i.e., neural machine translation (NMT) models. Megjithatë, nuk është trivial të zbatohet kjo metodologji në modele të tilla. Kështu, ky dokument heton efektshmërinë e disa konfigurimeve të mundshme të aplikimit të shqetësimit kundërshtar dhe zbulon se teknika e rregullimit kundërshtar mund të përmirësojë ndjeshëm dhe vazhdimisht performancën e modeleve të përdorur gjerësisht NMT, të tillë si modelet me bazë në LSTM dhe Transformer.Abstract
Tehnika regularizacije temeljena na neprijateljskoj perturbaciji, koja je početno razvijena u oblasti obrade slika, uspešno je primjenjena na zadatke klasifikacije teksta i pružala privlačne poboljšanje. Ciljemo dalje uticati ovu obećavajuću metodologiju u sofisticiranije i kritičnije neuralne modele u prirodnoj oblasti obrade jezika, tj. modele prevoda neuralne mašin e (NMT). Međutim, nije trivialno primjenjivati ovu metodologiju na takve modele. Stoga, ovaj papir istražuje učinkovitost nekoliko mogućih konfiguracija primjene neprijateljske perturbacije i pokazuje da tehnika neprijateljske regularizacije može značajno i konsekventno poboljšati učinkovitost široko korišćenih modela NMT-a, poput modela na osnovu LSTM-a i transformera.Abstract
En regulariseringsteknik baserad på motstridig störning, som ursprungligen utvecklades inom bildbehandling, har framgångsrikt tillämpats på textklassificeringsuppgifter och har gett attraktiva förbättringar. Vi strävar efter att ytterligare utnyttja denna lovande metod till mer sofistikerade och kritiska neurala modeller inom det naturliga språkbearbetningsområdet, dvs neurala maskinöversättningsmodeller (NMT). Det är dock inte trivialt att tillämpa denna metod på sådana modeller. Således undersöker denna uppsats effektiviteten av flera möjliga konfigurationer av tillämpning av den kontradiktoriska störningen och avslöjar att den kontradiktoriska regulariseringstekniken avsevärt och konsekvent kan förbättra prestandan hos allmänt använda NMT-modeller, såsom LSTM-baserade och Transformer-baserade modeller.Abstract
Teknolojia ya kudhibiti inayotokana na uvunjaji wa upinzani, ambayo kwa mara ya kwanza iliundwa katika eneo la upasuaji wa picha, imetumiwa mafanikio katika kazi za kutangaza maandishi na imesababisha maboresho ya kuvutia. Tuna lengo la kuendelea kutumia mbinu hii inayoahidiwa kuwa mitindo ya kisasa na muhimu katika eneo la utaratibu wa lugha asili, yaani utafsiri wa mashine ya neural (NMT). Hata hivyo, si vigumu kutumia mbinu hii kwa mifano kama hizi. Kwa hiyo, gazeti hili linachunguza ufanisi wa baadhi ya maendeleo yanayoweza kutumia miundombinu ya upinzani na inaonyesha kwamba teknolojia ya kudhibiti upinzani inaweza kwa kiasi kikubwa na kuboresha ufanisi wa mifano ya NMT kwa kiasi kikubwa yanayotumika, kama vile mifano yenye msingi wa LSTM na yenye asili ya Transformer.Abstract
பிம்பத்தை செயல்படுத்தும் புலத்தில் முதலில் உரைப் வகைப்படுத்தல் பணிகளுக்கு வெற்றிகரமாக பயன்படுத்தப்பட்டுள்ளது மற்றும் ஆச்சரியமான முன்னேற்றங நாம் இன்னும் இந்த வாக்களிக்கப்படும் முறைமையை மேலும் முக்கியமான மற்றும் முக்கியமான நெருக்கர மாதிரிகளுக்கு வெளிப்படுத்த வேண்டும், அதாவத ஆனால், இந்த முறைமையை இவ்வாறு மாதிரிகளுக்கு பயன்படுத்த முடியாது. எனவே, இந்த காகிதத்தின் சாத்தியமான வடிவமைப்புகளை பயன்படுத்தும் மற்றும் வெளிப்படுத்துகிறது எதிர்மறை கட்டுப்பாட்டு தொழில்நுட்பம் முறையாக முடியும் மற்றும் மாற்று முறையிலAbstract
Resim işleýän sahypada düzenli terbärleme tekniki, nusgalan terbärleme bilen üýtgeden, metin klasifikasyon uzynlara üstüne üýtgedildi we lezzetli düzeldiler. Biz bu söz berýän metodologiýany tebigy dil i şleýän sahypada daha sofistikli we kritik nural nural nusgalaryna üýtgetmek amaçlarymyz.Şu ýaly näyral maşynyň terjime (NMT) nusgalarynda. Ýöne bu metodologiýany beýle nusgalara uygulamak aňsat däl. Şol sebäpli, bu kagyz teňkil perturbasyýanyň tapandyrylygynyň birnäçe mümkin yapılandyrmalaryň etkinliýetini barlap barýar we çykyş düzenlemeli teknikiýasynyň uly şekilde ulanylan NMT nusgalarynyň etkinliýetini, ýaly LSTM-dan tabanly we Transformer-dan daýarly nusgalarynyň täsiriniAbstract
ایک روانٹریزی ٹیکنال پر بنیاد رکھا گیا ہے جو پہلی بار تصویر پردازی کے مطابق تولید کی گئی تھی، ٹیکسٹ کلاسی ٹیکنال کے کاموں پر موفقیت کے ساتھ لازم کی گئی ہے اور اچھی طرح سے اچھی طرح اضافہ کی گئی ہے۔ ہم اس وعدہ کے مطابق اس مطابق کے مطابق زیادہ مصنوعی اور ضروری نئرول موڈل میں اضافہ کرنا چاہتے ہیں، یعنی نئرول ماشین ترجمہ (NMT) موڈل میں۔ لیکن یہ طریقہ اس طریقے پر لازم کرنا برابر نہیں ہے۔ اسی طرح، یہ کاغذ مخالف مصنوعی مصنوعی کے مطابق تحقیق کرتا ہے اور ظاہر کرتا ہے کہ مقابلہ قانونی فناوری مطابق اور عمدہ مطابق مطابق استعمال کیا جاتا ہے NMT موڈل کی عملکرد، جیسے LSTM-based اور Transformer-based موڈل.Abstract
Name Biz oddiy tilni boshqarish maydonidagi sofistik va muhim neyron modellariga qo'shimiz mumkin, balki neyron tarjima modellari (NMT) modellariga. Lekin, bu usulni shunday modelga qoʻllash uchun qisqa emas. Шундай қилиб, бу саҳифа қонун лойиҳа тарқатувчиларга ўзгартириш учун турли мосламаларнинг ишини тафаккур қилади ва мувофиқ қонун лойиҳасини мувофиқлаштириш мумкин ва доимо фойдаланадиган NMT modelларини, масалан LSTM-asosida va Transformer-based modellarni bajarish mumkin.Abstract
Một kỹ thuật chỉnh sửa dựa trên vật lộn gây rối, vốn được phát triển trong lĩnh vực xử lý hình ảnh, đã được áp dụng thành công trong các nhiệm vụ phân loại văn bản và đã có những cải tiến hấp dẫn. Mục tiêu của chúng tôi là thúc đẩy phương pháp hứa hẹn này vào các mô hình thần kinh phức tạp và quan trọng hơn trong lĩnh vực xử lý ngôn ngữ tự nhiên, ví dụ như, các mô hình dịch cỗ máy thần kinh (NMB). Tuy nhiên, không phải là tầm thường khi áp dụng phương pháp này cho các mô hình này. Do đó, tờ giấy này nghiên cứu tính hiệu quả của nhiều cấu hình có thể áp dụng phiền phức đối phương và tiết lộ rằng kỹ thuật luân hồi ngược có thể tăng hiệu quả đáng kể và liên tục của các mô hình NMT phổ biến, như các mô hình dựa trên LSD và Transformer.Abstract
对抗性扰之正则化术,始于图像处理域,成功于文本分类,而有吸引力之改。 吾道益用此,立神经于自然语言,神经机器翻译(NMT)也。 然宜用此并非易事。 是以本文论对抗性扰之有效性,见抗正则化术可见而广用之NMT,基于LSTMTransformal之形。- Anthology ID:
- P19-1020
- Volume:
- Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics
- Month:
- July
- Year:
- 2019
- Address:
- Florence, Italy
- Venue:
- ACL
- SIG:
- Publisher:
- Association for Computational Linguistics
- Note:
- Pages:
- 204–210
- Language:
- URL:
- https://aclanthology.org/P19-1020
- DOI:
- 10.18653/v1/P19-1020
- Bibkey:
- Cite (ACL):
- Motoki Sato, Jun Suzuki, and Shun Kiyono. 2019. Effective Adversarial Regularization for Neural Machine Translation. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pages 204–210, Florence, Italy. Association for Computational Linguistics.
- Cite (Informal):
- Effective Adversarial Regularization for Neural Machine Translation (Sato et al., ACL 2019)
- Copy Citation:
- PDF:
- https://aclanthology.org/P19-1020.pdf
- Supplementary:
- P19-1020.Supplementary.pdf
- Video:
- https://vimeo.com/383968561
- Terminologies:
Export citation
@inproceedings{sato-etal-2019-effective, title = "Effective Adversarial Regularization for Neural Machine Translation", author = "Sato, Motoki and Suzuki, Jun and Kiyono, Shun", booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics", month = jul, year = "2019", address = "Florence, Italy", publisher = "Association for Computational Linguistics", url = "https://aclanthology.org/P19-1020", doi = "10.18653/v1/P19-1020", pages = "204--210", }
<?xml version="1.0" encoding="UTF-8"?> <modsCollection xmlns="http://www.loc.gov/mods/v3"> <mods ID="sato-etal-2019-effective"> <titleInfo> <title>Effective Adversarial Regularization for Neural Machine Translation</title> </titleInfo> <name type="personal"> <namePart type="given">Motoki</namePart> <namePart type="family">Sato</namePart> <role> <roleTerm authority="marcrelator" type="text">author</roleTerm> </role> </name> <name type="personal"> <namePart type="given">Jun</namePart> <namePart type="family">Suzuki</namePart> <role> <roleTerm authority="marcrelator" type="text">author</roleTerm> </role> </name> <name type="personal"> <namePart type="given">Shun</namePart> <namePart type="family">Kiyono</namePart> <role> <roleTerm authority="marcrelator" type="text">author</roleTerm> </role> </name> <originInfo> <dateIssued>2019-07</dateIssued> </originInfo> <typeOfResource>text</typeOfResource> <relatedItem type="host"> <titleInfo> <title>Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics</title> </titleInfo> <originInfo> <publisher>Association for Computational Linguistics</publisher> <place> <placeTerm type="text">Florence, Italy</placeTerm> </place> </originInfo> <genre authority="marcgt">conference publication</genre> </relatedItem> <identifier type="citekey">sato-etal-2019-effective</identifier> <identifier type="doi">10.18653/v1/P19-1020</identifier> <location> <url>https://aclanthology.org/P19-1020</url> </location> <part> <date>2019-07</date> <extent unit="page"> <start>204</start> <end>210</end> </extent> </part> </mods> </modsCollection>
%0 Conference Proceedings %T Effective Adversarial Regularization for Neural Machine Translation %A Sato, Motoki %A Suzuki, Jun %A Kiyono, Shun %S Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics %D 2019 %8 July %I Association for Computational Linguistics %C Florence, Italy %F sato-etal-2019-effective %R 10.18653/v1/P19-1020 %U https://aclanthology.org/P19-1020 %U https://doi.org/10.18653/v1/P19-1020 %P 204-210
Markdown (Informal)
[Effective Adversarial Regularization for Neural Machine Translation](https://aclanthology.org/P19-1020) (Sato et al., ACL 2019)
- Effective Adversarial Regularization for Neural Machine Translation (Sato et al., ACL 2019)
ACL
- Motoki Sato, Jun Suzuki, and Shun Kiyono. 2019. Effective Adversarial Regularization for Neural Machine Translation. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pages 204–210, Florence, Italy. Association for Computational Linguistics.