Reversing Gradients in Adversarial Domain Adaptation for Question Deduplication and Textual Entailment Tasks

Anush Kamath; Sparsh Gupta; Vitor Carvalho

doi:10.18653/v1/P19-1556

Reversing Gradients in Adversarial Domain Adaptation for Question Deduplication and Textual Entailment Tasks @ action Comment gradients-action 逆转重复数删文本内涵之梯度

Anush Kamath, Sparsh Gupta, Vitor Carvalho

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. Here we investigate the use of gradient reversal on adversarial domain adaptation to explicitly learn both shared and unshared (domain specific) representations between two textual domains. In doing so, gradient reversal learns features that explicitly compensate for domain mismatch, while still distilling domain specific knowledge that can improve target domain accuracy. We evaluate reversing gradients for adversarial adaptation on multiple domains, and demonstrate that it significantly outperforms other methods on question deduplication as well as on recognizing textual entailment (RTE) tasks, achieving up to 7 % absolute boost in base model accuracy on some datasets.

Abstract

Adversariële domein-aanpassing is onlangs voorgestel as 'n effektief tekniks vir tekstuele ooreenstemmende taak, soos vraag afdubbeling. Hier ondersoek ons die gebruik van die gradient omgekeerde op teëstandige domein aanpassing om uitduidelik te leer beide gedeelde en onbeveelde (domein spesifieke) voorstellings tussen twee tekstuele domeine. Deur dit te doen, die gradient omgekeerde leer funksies wat uitgelyk kompenseer vir domein nie ooreenstem nie, terwyl nog steeds verskillende domein spesifieke kennis wat doel domein presies kan verbeter. Ons evalueer omgekeerde gradiente vir teenstandaarde aanpassing op veelvuldige domeine, en wys dat dit betekeurig uitvoer ander metodes op vraag afduplikasie en ook op herkening van tekstuurlike aanpassing (RTE) opdragte, tot by 7% absolutiese boonsting in basis model presies op sommige datastelle.

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. ወደዚህ በሁለት ጽሑፍ ውይይቶች መካከል የተካፈሉትን እና ያልታደጉትን (ዶሜን) መልዕክቶች ለመግለጥ እናሳውቃለን፡፡ እንደዚህ በማድረግ፣ የኮምፒዩተር ግንኙነትን ለዶሜን ማስጠንቀቂያውን በግልጽ ያስተምራል፡፡ በተቃዋሚ አካባቢ አካባቢ አካባቢዎችን እና የጥያቄውን ውጤት እና የጽሑፍ ማውቀትን (RTE) ስራዎችን በማሳወቅ እናስታውቃለን፡፡

Abstract

تم اقتراح تكييف المجال الخصامي مؤخرًا كأسلوب فعال لمهام المطابقة النصية ، مثل إلغاء تكرار السؤال. نحن هنا نتحرى عن استخدام انعكاس التدرج في تكييف المجال العدائي للتعلم صراحةً كل من التمثيلات المشتركة وغير المشتركة (الخاصة بالمجال) بين مجالين نصيين. عند القيام بذلك ، يتعلم انعكاس التدرج اللوني الميزات التي تعوض صراحةً عن عدم تطابق المجال ، مع الاستمرار في تقطير المعرفة الخاصة بالمجال التي يمكن أن تحسن دقة المجال الهدف. نقوم بتقييم التدرجات العكسية للتكيف العدائي على مجالات متعددة ، ونوضح أنها تتفوق بشكل كبير على الطرق الأخرى في إلغاء تكرار الأسئلة وكذلك في التعرف على مهام النص (RTE) ، وتحقيق ما يصل إلى 7٪ زيادة مطلقة في دقة النموذج الأساسي في بعض مجموعات البيانات.

Abstract

Mərhəmətli domena adaptasiyası yenidən təklif edilmişdir, bəlkə sual çəkilməsi kimi, textual matching tasks üçün faydalı bir teknik olaraq. Burada iki textual domena arasındakı paylaşılmış və müəyyən edilməmiş (domain specific) göstərişləri öyrənmək üçün düşmənçi domena uyğunlaşdırmaq üçün səviyyənin istifadəsini incidirik. Bütün işlərdə, səviyyənin geri dönüş öyrənir ki, domena uyğunluğunu açıq-aydın dəyişdirir, hələ də məqsəd domena doğruluğunu daha yaxşılaşdırır. Biz çoxlu domenalar üzərində düşmənçilik uyğunlaşdırmaq üçün dönüşünü dəyişdiririk və bəzi verilən qurmaqların bazı modellərin doğruluğunda 7%-ə qədər dəyişiklik göstəririk.

Abstract

Адаптирането на рекламните домейни наскоро е предложено като ефективна техника за задачи по съвпадение на текста, като например дедублиране на въпроси. Тук изследваме използването на преобръщане на градиента при адаптацията на конкуренционния домейн, за да научим изрично както споделени, така и несподелени (специфични за домейна) представи между два текстови домейна. По този начин обръщането на градиента научава функции, които изрично компенсират несъответствието на домейна, като същевременно дестилира специфични познания за домейна, които могат да подобрят точността на целевия домейн. Ние оценяваме обратните градиенти за съперническа адаптация в множество области и демонстрираме, че той значително превъзхожда други методи при дедублиране на въпроси, както и при разпознаване на задачи за текстово обвързване (РТЕ), постигайки до 7% абсолютен тласък в точността на базовия модел при някои набори от данни.

Abstract

সম্প্রতি প্রাক্তন ডোমেইন অ্যাডাপ্লেটশন টেক্চুয়াল মিলিয়ে যাওয়ার কার্যকর প্রযুক্তি হিসেবে প্রস্তাব করা হয়েছে, যেমন প্রশ্ এখানে আমরা দুই টেক্সুয়াল ডোমেইনের মধ্যে শেয়ার করা এবং সংরক্ষিত (ডোমেইনের নির্দিষ্ট প্রতিনিধিত্ব) প্রতিনিধিত্ব শেখার জন্য বিরোধী ডোমে এভাবে গ্রেডিয়েন্ড বিনিময়ের বৈশিষ্ট্য শিখেছেন যা ডোমেইনের ভুল মিশ্রিতের জন্য স্পষ্ট পুরস্কার প্রদান করেছে, আর এখনও ডোমেইনের বিশ আমরা বেশ কয়েকটি ডোমেনে বিরোধী প্রতিষ্ঠানের জন্য প্রতিরোধী গ্রেডেন্ট পরিবর্তন করি এবং প্রমাণ করি যে এটি প্রশ্নের বিনিময়ে অন্যান্য উপায় প্রকাশ করে এবং কিছু ডেটাসেটের সঠিকভাবে প্রশ্নের বিষয়

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. Here we investigate the use of gradient reversal on adversarial domain adaptation to explicitly learn both shared and unshared (domain specific) representations between two textual domains. In doing so, gradient reversal learns features that explicitly compensate for domain mismatch, while still distilling domain specific knowledge that can improve target domain accuracy. We evaluate reversing gradients for adversarial adaptation on multiple domains, and demonstrate that it significantly outperforms other methods on question deduplication as well as on recognizing textual entailment (RTE) tasks, achieving up to 7% absolute boost in base model accuracy on some datasets.

Abstract

Nedavno je predložena prilagodba preduzetnih domena kao učinkovita tehnika za tekstualne odgovarajuće zadatke, poput odvajanja pitanja. Ovdje istražujemo korištenje obrnutog gradienta na neprijateljskoj adaptaciji domena da bismo jasno naučili i dijeljene i nepoštene (specifične domene) predstave između dva tekstualne domena. Učineći to, obrnuto učenje gradjana pokazuje karakteristike koje objašnjavaju nepovratnost domena, dok još uvijek destilavaju specifične znanje domena koje mogu poboljšati preciznost domena cilja. Procjenjujemo obrnute gradiente za neprijateljsku adaptaciju na višestrukim domenama, i pokazujemo da značajno iznosi druge metode o dedubljenju pitanja, kao i prepoznavanju zadataka tekstualne zadatke (RTE), ostvarivši do 7% apsolutnog povećanja tačnosti baznih modela na nekim setima podataka.

Abstract

Recentment s'ha proposat l'adaptació adversaria al domini com una tècnica efectiva per a les tasques d'ajustament textual, com la deduplicació de preguntes. Aquí investigam l'ús de la inversió gradient en l'adaptació del domini adversari per aprendre explícitament representacions compartides i sense carga (específices del domini) entre dos dominis textuals. Al fer-ho, el gradient inversiu aprenen característiques que compensan explícitament el malajustament de dominis, mentre que encara distillen coneixements específics de domini que poden millorar la precisió del domini alvo. We evaluate reversing gradients for adversarial adaptation on multiple domains, and demonstrate that it significantly outperforms other methods on question deduplication as well as on recognizing textual entailment (RTE) tasks, achieving up to 7% absolute boost in base model accuracy on some datasets.

Abstract

Adaptace nepříznivé domény byla v poslední době navržena jako efektivní technika pro úlohy textového porovnávání, jako je deduplikace otázek. Zde zkoumáme použití gradientového reverzu na adaptaci adversariální domény k explicitnímu učení sdílených i nesdílených (doménově specifických) reprezentací mezi dvěma textovými doménami. Při tom se obrácení gradientu učí funkce, které explicitně kompenzují nesoulad domény, přičemž stále destiluje znalosti specifické domény, které mohou zlepšit přesnost cílové domény. Vyhodnocujeme reverzní gradienty pro kontroverzní adaptaci na více doménách a demonstrujeme, že výrazně překonává ostatní metody deduplikace otázek a rozpoznávání úloh textové implikace (RTE), což dosahuje až 7% absolutního zvýšení přesnosti základního modelu na některých datových sadách.

Abstract

Tilpasning af advarselt domæne er for nylig blevet foreslået som en effektiv teknik til tekstmatching opgaver, såsom spørgsmål deduplicering. Her undersøger vi brugen af gradient reversering på modstridende domænetilpasning for eksplicit at lære både delte og usdelte (domænespecifikke) repræsentationer mellem to tekstdomæner. Ved at gøre dette lærer gradient reversering funktioner, der udtrykkeligt kompenserer for domænets mismatch, mens de stadig destillerer domænespecifik viden, der kan forbedre måldomænets nøjagtighed. Vi evaluerer reversing gradienter til modstridende tilpasning på flere domæner, og demonstrerer, at det overgår andre metoder på spørgsmål deduplicering samt på anerkendelse af tekst involvering (RTE) opgaver, hvilket opnår op til 7% absolut stigning i basismodellens nøjagtighed på nogle datasæt.

Abstract

Adversariale Domänenanpassung wurde kürzlich als effektive Technik für textuelle Matching-Aufgaben vorgeschlagen, wie z.B. Fragendeduplizierung. Hier untersuchen wir die Verwendung von Gradientenverkehrung bei der adsorientären Domänenanpassung, um sowohl geteilte als auch nicht geteilte (domänenspezifische) Repräsentationen zwischen zwei Textdomänen explizit zu lernen. Auf diese Weise lernt die Verlaufsumkehr Funktionen, die explizit Domänendifferenzen ausgleichen, während gleichzeitig domänenspezifisches Wissen destilliert wird, das die Genauigkeit der Zieldomäne verbessern kann. Wir evaluieren reversierende Gradienten für die kontradiktorielle Anpassung auf mehreren Domänen und zeigen, dass sie andere Methoden zur Fragendeduplizierung sowie zur Erkennung textueller Implikationsaufgaben (RTE) deutlich übertrifft und auf einigen Datensätzen bis zu 7% absolute Steigerung der Basismodellgenauigkeit erreicht.

Abstract

Πρόσφατα προτάθηκε η προσαρμογή του αντικρουνικού τομέα ως αποτελεσματική τεχνική για εργασίες αντιστοίχισης κειμένων, όπως η αποκεφαλαίωση ερωτήσεων. Εδώ ερευνούμε τη χρήση της αντιστροφής διαβάθμισης στην προσαρμογή αντικρουόμενων τομέων για να μάθουμε ρητά τόσο κοινές όσο και μη κοινές (συγκεκριμένες) αναπαραστάσεις μεταξύ δύο κειμένων. Με αυτόν τον τρόπο, η αντιστροφή κλίσης μαθαίνει χαρακτηριστικά που αντισταθμίζουν ρητά την αναντιστοιχία τομέα, ενώ εξακολουθεί να αποσταλεί συγκεκριμένες γνώσεις που μπορούν να βελτιώσουν την ακρίβεια του τομέα στόχου. Αξιολογούμε την αντιστροφή των διαβαθμίσεων για αντικρουόμενες προσαρμογές σε πολλαπλούς τομείς και καταδεικνύουμε ότι ξεπερνά σημαντικά τις άλλες μεθόδους για την αποκωδικοποίηση ερωτήσεων καθώς και για την αναγνώριση εργασιών κειμένου, επιτυγχάνοντας έως 7% απόλυτη ώθηση στην ακρίβεια του μοντέλου βάσης σε ορισμένα σύνολα δεδομένων.

Abstract

La adaptación de dominios contradictorios se ha propuesto recientemente como una técnica eficaz para las tareas de correspondencia textual, como la deduplicación de preguntas. Aquí investigamos el uso de la inversión de gradiente en la adaptación de dominios adversarios para aprender explícitamente representaciones compartidas y no compartidas (específicas de dominio) entre dos dominios textuales. Al hacerlo, la inversión de gradientes aprende características que compensan explícitamente la falta de coincidencia del dominio, al tiempo que extrae conocimientos específicos del dominio que pueden mejorar la precisión del dominio objetivo. Evaluamos la inversión de gradientes para la adaptación contradictoria en múltiples dominios y demostramos que supera significativamente a otros métodos de deduplicación de preguntas, así como en el reconocimiento de tareas de implicación textual (RTE), logrando un aumento absoluto de hasta un 7% en la precisión del modelo base en algunos conjuntos de datos.

Abstract

Hiljuti on pakutud välja kõrvaldatud domeeni kohandamine kui tõhus tehnika tekstide sobitamiseks, näiteks küsimuste dubleerimiseks. Siin uurime gradientide pöördumise kasutamist kontrastaarse domeeni kohandamisel, et selgesõnaliselt õppida nii jagatud kui ka jagatud (domeenispetsiifilised) esitusi kahe tekstidomeeni vahel. Seda tehes õpib gradienti pööramine funktsioone, mis selgesõnaliselt kompenseerivad domeeni mittevastavust, destilleerides samas domeenispetsiifilisi teadmisi, mis võivad parandada sihtdomeeni täpsust. Me hindame pöörduvaid gradiente vastandlikuks kohandamiseks mitmes valdkonnas ja näitame, et see on oluliselt ületanud teisi meetodeid küsimuste dubleerimisel ja tekstilise kaasamise (RTE) ülesannete tuvastamisel, saavutades kuni 7% absoluutse tõusu baasmudeli täpsuses mõnedel andmekogumitel.

Abstract

اخیراً به عنوان یک تکنیک موثر برای کارهای متصل کردن متن، مانند دوباره‌سازی سوال پیشنهاد شده است. ما در اینجا استفاده از گسترده‌ها را تحقیق می‌کنیم که روی تغییرات دامنی مخالف برای مطلق یاد گرفتن نمایش‌های مشترک و مشترک (دامنی خاص) بین دو دامنه‌های متن است. در این صورت، برعکس گرادینه، ویژگی‌هایی را یاد می‌گیرد که به طور کامل برای غیرمسابقه‌ای از دومین پاداش می‌دهند، در حالی که هنوز دانش خاص دامین را جدا می‌کنند که می‌تواند دقیق دامین هدف را بهتر کن ما درجه تغییر تغییر گرادینات را برای تغییر مقاومت در دو منطقه‌های مخالف ارزیابی می‌کنیم، و نشان می‌دهیم که این روش‌های دیگری را در مورد تغییر تعییر سوال و درجه شناختن وظیفه‌های متن (RTE) بیشتر از 7 درصد بالا می‌برد در دقیق مدل پایه بر برخی از مجموعه‌

Abstract

Adversariaalista domeenin sopeutumista on hiljattain ehdotettu tehokkaaksi menetelmäksi tekstien täsmäytystehtäviin, kuten kysymysten duplikaatioon. Tässä työssä tutkimme gradientin kääntöpuolen käyttöä kontrastiaalisessa domeenin sopeutumisessa oppiaksemme nimenomaisesti sekä jaettuja että jakamattomia (domeenikohtaisia) esityksiä kahden tekstidomeenin välillä. Näin tehdessään gradientin kääntö oppii ominaisuuksia, jotka nimenomaisesti kompensoivat toimialueen yhteensopimattomuutta ja tislaavat samalla toimialueekohtaista tietoa, joka voi parantaa kohdetoimialueen tarkkuutta. Arvioimme käänteisgradientteja kontradikaalista sopeutumista varten useilla toimialueilla ja osoitamme, että se suoriutuu huomattavasti paremmin kuin muut menetelmät kysymysten duplikaatiossa ja tekstien implementin (RTE) tunnistamisessa, saavuttaen jopa 7% absoluuttisen parannuksen perusmallin tarkkuuteen joissakin aineistoissa.

Abstract

L'adaptation de domaine contradictoire a récemment été proposée comme technique efficace pour les tâches de correspondance textuelle, telles que la déduplication des questions. Nous étudions ici l'utilisation de l'inversion de gradient sur l'adaptation de domaines contradictoires afin d'apprendre explicitement les représentations partagées et non partagées (spécifiques au domaine) entre deux domaines textuels. Ce faisant, l'inversion de gradient apprend des fonctionnalités qui compensent explicitement la discordance de domaine, tout en distillant des connaissances spécifiques au domaine qui peuvent améliorer la précision du domaine cible. Nous évaluons les gradients d'inversion pour l'adaptation contradictoire sur plusieurs domaines et démontrons qu'elle surpasse de manière significative les autres méthodes en matière de déduplication des questions ainsi que de reconnaissance des tâches d'implication textuelle (RTE), obtenant une augmentation absolue allant jusqu'à 7 % de la précision du modèle de base sur certains ensembles de données.

Abstract

Moladh le déanaí go ndéanfaí oiriúnú d’fhearann sáraíochta mar theicníc éifeachtach le haghaidh tascanna comhoiriúnaithe téacs, amhail dídúblú ceisteanna. Anseo déanaimid imscrúdú ar úsáid aisiompú grádáin ar oiriúnú fearainn sáraíochta chun léirithe comhroinnte agus neamhroinnte (sainiúil d'fhearann) a fhoghlaim go sainráite idir dhá réimse théacsúla. Agus é sin á dhéanamh, foghlaimíonn aisiompú grádán gnéithe a chúitíonn go sainráite as neamhréir fearainn, agus ag an am céanna ag driogadh eolas sainiúil ar an bhfearann ar féidir feabhas a chur ar chruinneas an fhearainn sprice. Déanaimid meastóireacht ar ghrádáin aisiompaithe d’oiriúnú sáraíochta ar ilfhearainn, agus léirímid go sáraíonn sé go mór modhanna eile ar dhídhúthú ceisteanna chomh maith le haitheantas a thabhairt do thascanna eitíochta téacs (RTE), ag baint amach treisiú iomlán suas le 7% i gcruinneas na mbonnsamhail ar roinnt tacar sonraí.

Abstract

A yanzu an buƙata adadin Domen da aka tsõratar da shi kamar wata technci mai amfani ga aikin matsayi wanda ke daidaita aiki na matsayi, kamar kudumin tambayar. Hali ne, munã ƙidãya amfani da shiryarwa na girmama mai daraja kan adadin wanda ke motsi da shi, dõmin ka sanar da shi bayyane masu rabo da kuma ba da tsari ba (Domen masu ƙayyade), tsakanin sauri biyu na rubutu. Idan yana aikata haka, za'a sanar da girmar mai saurarwa, yana da wasu misãlai masu motsi da suka ƙayyade guda, kuma amma yana rarraba da ilmi masu ƙayyade Domen wanda zai iya ƙara tsarin tsarin wanda ke gabatar da shi. Tuna ƙaddara yin sauri'ar adaptarin da ke iya motsi a cikin wasu guda, kuma Muke nuna cewa, yana tafiyar da wasu hanyoyin daban a kan rabo masu tambayar, da kuma a kan gane aikin mutane na rubutu (RTe), kuma yana ƙara asilimi 7% da tabbatacce a cikin tsarin misalin misalin a kan wasu zane-tsari.

Abstract

התאמה התנגדות למשטרה הוצעה לאחרונה כטכניקה יעילה למשימות התאמה טקסטלית, כגון הסקפוליקציה של שאלות. כאן אנו חוקרים את השימוש של הפינוי מדרגה על התאמה למשטרה יריבית כדי ללמוד באופן ברור גם מייצגים משותפים וגם לא משותפים (ספציפיים למשטרה) בין שני שטרות טקסטיות. בעזרת זה, ההפך המדרגון לומד תכונות שמפיצות באופן ברור על אי-התאמה בתחום, בזמן שעדיין מיסטל ידע ספציפי בתחום שיכול לשפר את מדויקת התחום המטרה. אנו מעריכים את התדרגות ההפך של התאמה היריבה במספר שדומות, ומוכיחים שהיא מעליפה במידה משמעותית שיטות אחרות בנוגע לדוקפוליקציה של שאלות, כמו גם על זיהוי משימות התערבות טקסטלית (RTE), להשיג עד 7% דחיפה מוחלטת בדיקת מודל בסיסי על כמה קבוצות נתונים.

Abstract

प्रतिकूल डोमेन अनुकूलन को हाल ही में पाठ्य मिलान कार्यों के लिए एक प्रभावी तकनीक के रूप में प्रस्तावित किया गया है, जैसे कि प्रश्न डुप्लिकेशन। यहां हम दो पाठ्य डोमेन के बीच साझा और अविभाजित (डोमेन विशिष्ट) अभ्यावेदन दोनों को स्पष्ट रूप से जानने के लिए प्रतिकूल डोमेन अनुकूलन पर ग्रेडिएंट रिवर्सल के उपयोग की जांच करते हैं। ऐसा करने में, ग्रेडिएंट रिवर्सल उन सुविधाओं को सीखता है जो डोमेन बेमेल के लिए स्पष्ट रूप से क्षतिपूर्ति करते हैं, जबकि अभी भी डोमेन विशिष्ट ज्ञान को डिस्टिल कर रहे हैं जो लक्ष्य डोमेन सटीकता में सुधार कर सकते हैं। हम कई डोमेन पर प्रतिकूल अनुकूलन के लिए रिवर्सिंग ग्रेडिएंट का मूल्यांकन करते हैं, और प्रदर्शित करते हैं कि यह प्रश्न विच्छेदन पर अन्य तरीकों के साथ-साथ पाठ्य अनिवार्यता (आरटीई) कार्यों को पहचानने पर महत्वपूर्ण रूप से बेहतर प्रदर्शन करता है, कुछ डेटासेट पर आधार मॉडल सटीकता में 7% तक पूर्ण बढ़ावा प्राप्त करता है।

Abstract

Nedavno je predložena prilagodba prosvjetiteljske domene kao učinkovita tehnika za odgovarajuće tekstualne zadatke, kao što je optužba pitanja. Ovdje istražujemo korištenje obrnutog gradienta na neprijateljskoj adaptaciji domena kako bismo jasno naučili i dijeljene i nepoštene (specifične domene) predstave između dva tekstualne domena. Učineći to, obrnuto učenje preglede pokazuje karakteristike koje se pojasno kompenziraju za nedostatke domena, dok još uvijek distiliraju specifične znanje domena koje mogu poboljšati preciznost ciljnog domena. Procjenjujemo obrnute preglede za neprijateljsku adaptaciju na višestrukim domenama i pokazujemo da značajno iznosi druge metode o dedubljavanju pitanja, kao i prepoznavanju zadataka tekstualne zadatke (RTE), ostvarivši do 7% apsolutnog pojačanja u to čnosti baznih modela na nekim podacima.

Abstract

A közelmúltban javasolták a negatív területek adaptációját, mint a szövegmegfelelő feladatok hatékony technikáját, például a kérdések deduplikációját. Itt vizsgáljuk a gradiens visszafordításának használatát az ellentmondásos tartományok adaptációjában annak érdekében, hogy kifejezetten megismerjük a megosztott és nem megosztott (tartományspecifikus) reprezentációkat két szöveges tartomány között. Ennek során a színátmenet-visszafordítás olyan funkciókat tanul meg, amelyek kifejezetten kompenzálják a tartományi hiányosságokat, miközben továbbra is lepárolják a tartományspecifikus ismereteket, amelyek javíthatják a céltartomány pontosságát. Több tartományon értékeljük a fordított gradienseket az ellentétes adaptáció érdekében, és bebizonyítjuk, hogy jelentősen felülmúlja a kérdéses deduplikáció más módszereit, valamint a szöveges vonatkozási (RTE) feladatok felismerését, bizonyos adatkészletek esetében akár 7%-os abszolút növelést érve el az alapmodell pontosságában.

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. Այստեղ մենք ուսումնասիրում ենք հակառակ տիեզերքի ադապտացիայի հետ կապված դասավորման օգտագործումը, որպեսզի բացահայտորեն սովորենք երկու տեքստային տիեզերքի միջև ընդհանուր և անբեռնված (տիեզերքի կոնկրետ) ներկայացումներ: Այդպես անելով, դասակարգչային հակադարձը սովորում է առանձնահատկություններ, որոնք բացահայտորեն հատուցնում են տիեզերքի անհամապատասխանությունը, մինչ դեռևս բաժանում են տիեզերքի հատուկ գիտելիքներ, որոնք կարող են բարելավել նպատակայի Մենք գնահատում ենք բազմաթիվ բնագավառներում հակառակյալ ադապտացիայի հակառակյալ աստիճանները և ցույց ենք տալիս, որ այն նշանակալիորեն գերազանցում է այլ մեթոդներ հարցերի հակառակյալ հարցերի վերաբերյալ, ինչպես նաև արտահայտում է տեքստային ներգրավման (ՌՏԵ) խնդիրները, որոնք հասնում են մին

Abstract

Adaptasi domain adversial baru-baru ini diusulkan sebagai teknik efektif untuk tugas persamaan teks, seperti deduplikasi pertanyaan. Di sini kita menyelidiki penggunaan gradien reversal pada adaptasi domain musuh untuk secara eksplicit belajar kedua represisi berbagi dan tidak tersambung (domain spesifik) antara dua domain teks. Dalam melakukan itu, gradien reversal belajar ciri-ciri yang secara eksplicit membalas ketidakcocokan domain, sementara masih mendistril pengetahuan spesifik domain yang dapat meningkatkan akurasi domain target. Kami mengevaluasi gradien pembalikan untuk adaptasi musuh pada berbagai domain, dan menunjukkan bahwa hal ini jauh lebih berharga dari metode lain pada deduplikasi pertanyaan serta mengenali tugas entailment tekstual (RTE), mencapai hingga 7% penolakan mutlak pada akurasi model dasar pada beberapa set data.

Abstract

L'adattamento avverso del dominio è stato recentemente proposto come una tecnica efficace per compiti di corrispondenza testuale, come la deduplicazione delle domande. Qui esaminiamo l'uso dell'inversione del gradiente sull'adattamento del dominio avversario per imparare esplicitamente sia rappresentazioni condivise che non condivise (specifiche del dominio) tra due domini testuali. In tal modo, l'inversione del gradiente apprende funzionalità che compensano esplicitamente la disallineazione del dominio, distillando allo stesso tempo conoscenze specifiche del dominio che possono migliorare l'accuratezza del dominio target. Valutiamo i gradienti inversi per l'adattamento avversario su più domini e dimostriamo che supera significativamente altri metodi sulla deduplicazione delle domande e sul riconoscimento delle attività RTE (Textual Implementation), ottenendo fino al 7% di incremento assoluto della precisione del modello base su alcuni set di dati.

Abstract

対立ドメイン適応は、最近、質問の重複排除などのテキストマッチングタスクのための効果的な手法として提案されています。ここでは、2つのテキストドメイン間の共有および非共有（ドメイン固有）表現の両方を明示的に学習するための、対立ドメイン適応における勾配逆転の使用について調査します。そうすることで、勾配逆転は、ターゲットドメインの精度を向上させることができるドメイン固有の知識を蒸留しながらも、ドメインの不一致を明示的に補償する機能を学習する。私たちは、複数のドメイン上の対立的適応のための逆勾配を評価し、疑問のある重複排除ならびにテキストエンタテインメント（ RTE ）タスクの認識に関する他の方法よりも著しく優れていることを実証し、いくつかのデータセットでベースモデルの精度を最大7 ％まで絶対ブーストします。

Abstract

Advertorial domain modification has been recent proposal as an effectual method for textual match tasks, like question deduplication. here we istrage the use of gradient conversal on contrastary domain modification to explicitly Learn all share and unhard (domain special) representations amongst 2 textual domain. In doing so, gradient backal Learns parameters that explicitly kompense for domain mismatch, when there are separateting domain special knowings that can advance goal domain exact. Anyone

Abstract

კონტექსური დემომინის აკაპრაციაცია აღმოჩენა, როგორც ეფექტიური ტექნექტიკური შესაბამისათვის, როგორც კითხვების განაკლება. აქ ჩვენ განსხვავებთ განსაზღვრებული გრადენტის გამოყენება განსაზღვრებული დიომენის ადატაციაში, რომ გავისწავლოთ ორი ტექსტულ დიომენის განსაზღვრებების გადასწავლობა. ამის შესაძლებელად, გრადენტის შემდეგ შემდეგ განსხვავება განსხვავებული ფუნქციები, რომლებიც ემინის არსხვავებაზე გამომუშავებენ, მაგრამ ემინის განსხვავება განსხვავებული კო ჩვენ განვითარებით განახლებელი განახლებისთვის განახლებისთვის, რამდენიმე დიომენზე, და გამოწვებით, რომ ეს ძალიან უფრო მეტი განახლებისთვის კითხვის განახლებისთვის და ტექსტულ დასახლებისთვის (RTE) მოქმედების განახლებისთვის, რამდენიმე მოდელ

Abstract

Сұрақ көшірмелеу секілді мәтіндік сәйкесті тапсырмалардың эффективті техникалық түрде жаңа доменнің адаптациясы қолданылды. Мұнда біз қарсы доменге қарсы градиенттің қолдануын зерттеп, екі мәтіндік домен арасындағы ортақ және қарсы (доменге белгілі) түрлендірілген түрлендірімдерді оқыту үшін қолданып Бұл істеу үшін, градиенттің керісі доменге сәйкес келмейді деген мүмкіндіктерді біледі. Ол доменге мақсатты дұрыстығын өзгертуге болады. Біз бірнеше доменге қарсы адаптациялау үшін қарсы градиенттерді бағалап, сұрақ қайталауында басқа әдістерді және мәтіннің (RTE) тапсырмаларын түсініп, кейбір деректер қорларының негізгі үлгісінде 7% абсолюттік деңгейіне жеткізу үшін көбірек

Abstract

Continuity Domain은 최근 문제 데이터 중복 제거와 같은 텍스트 일치 작업에 유용한 기술로 인식되고 있습니다.여기서 우리는 사다리꼴 반전이 대항적 영역 적응에서의 응용을 연구하여 두 텍스트 영역 간의 공유와 비공유(특정 분야) 표시를 명확하게 학습했다.이렇게 함으로써 사다리꼴 반전 학습은 보상역이 일치하지 않는 특징을 명확히 하는 동시에 특정한 지역의 지식을 추출하여 목표역의 정확성을 높인다.Dell은 여러 영역에서 적합성 적응에 대한 역효과를 평가하고 문제 데이터 중복 제거 및 텍스트 함축 인식(RTE) 작업이 다른 방법보다 월등히 우수하며 일부 데이터 세트에서는 7%에 달하는 기본 모델의 정확도가 절대적으로 향상되었음을 증명했습니다.

Abstract

Neseniai buvo pasiūlytas prieštaringas srities pritaikymas kaip veiksmingas teksto suderinimo užduočių metodas, pvz., klausimų atskaitymas. Čia mes tiriame, kaip naudojamas laipsniškas atvirkštis priešingos srities pritaikymui, siekiant aiškiai išsiaiškinti abiejų tekstinių sričių bendrus ir neišsamius (konkretaus sričio) atstovavimus. Tuo tikslu gradientinis atvirkštinis mokymasis įgyja savybių, kurios aiškiai kompensuoja srities neatitikimą, tačiau vis dar distiliuoja konkrečios srities žinias, kurios gali pagerinti tikslų srities tikslumą. Vertiname prieštaringo prisitaikymo prie įvairių sričių grįžtamuosius gradientus ir įrodome, kad jis gerokai viršija kitus metodus, susijusius su klausimų atskaitymu ir tekstinio įtraukimo (RTE) uždavinių pripažinimu, o kai kuriuose duomenų rinkiniuose pasiektas iki 7 % absoliutus pagrindinio modelio tikslumo didinimas.

Abstract

Неодамна е предложено спротивно адаптација на доменот како ефикасна техника за текстуални задачи, како што е дедупликација на прашањата. Овде ја истражуваме употребата на градиентна враќање на адаптацијата на противниот домен за експлицитно да се научат и споделени и необележани (специфични на домен) претставувања помеѓу двата текстуални домени. Со тоа, градиентниот реверзивен научи карактеристики кои експлицитно компензираат за несогласувањето на домените, додека сеуште го дестилираат специфичното знаење на домените што може да ја подобри точноста на домените на целта. Ние ги проценуваме реверзивните градиенти за непријателска адаптација на повеќе домени и демонстрираме дека значително ги надминува другите методи за депликација на прашањата, како и за признавање на задачите за текстуално вмешање (РТЕ), достигнувајќи до 7 отсто апсолутно зголемување на точноста на базичкиот модел на некои под

Abstract

അടുത്തുതന്നെ ടെക്സ്ചുള്‍ ചെയ്യുന്ന ജോലികള്‍ക്ക് വേണ്ടി പ്രായോജിപ്പിക്കപ്പെട്ട ട ടെക്സ്കൂള്‍ പൊരുതുന്ന ടെക്ക ഇവിടെ നമ്മള്‍ വ്യക്തമായി പങ്കെടുത്തിരിക്കുന്ന രണ്ടു ടെക്സ്കൂള്‍ ഡോമെനിനുമിടയില്‍ പങ്കുചേര്‍ക്കുന്ന പ്രതിനിധികള്‍ പഠിക്കാന്‍ ഗ് അങ്ങനെ ചെയ്യുമ്പോള്‍ ഗ്രേഡിയന്‍ റിസ്സല്‍ ഡൊമെന്‍ തെറ്റുകള്‍ക്ക് വ്യക്തമായി പ്രതിഫലം നല്‍കുന്ന പ്രതിഫലങ്ങള്‍ പഠിക്കുന്നു, എന്നിട്ടും ഡ പല ഡോമെന്‍സില്‍ വിരോധമായ അഡാപ്റ്റേഷനുകള്‍ക്കുള്ള പ്രധാനപ്പെടുത്തുന്ന ഗ്രേഡിനെറ്റുകള്‍ നമ്മള്‍ വിലയിച്ചുകൊടുക്കുന്നു. ചോദ്യത്തിന്റെ പ്രശ്നത്തിലും പ്രധാനപ്പെടുത്തു

Abstract

Сүүлийн үед сэтгэл хангалттай зохицуулалт нь textual matching tasks, such as question deduplication, үр дүнтэй техник гэж санал болсон. Энд бид хоёр текстурын хоорондын хуваалцаагүй, хоорондын хуваалцаагүй (холбоотой) хэлбэрийг ойлгохын тулд эсрэг хэмжээний загварын эргүүлэлтийн хэрэглээ судалж байна. Градиентын эргүүлэлт суралцах нь тодорхой тодорхойлолт бус тоглоомын төлөө төлөвлөгдөж чадна. Гэвч зориулалтын тодорхойлолтыг сайжруулж чадна. Бид олон хэсэгт эсэргүүцлийн адилтгалын эргүүцлийн градиентүүдийг үнэлгээж, асуулт бусад давхарлалтын арга замыг, мөн текстур давхарлалтын (RTE) даалгаврыг танихын тулд, зарим өгөгдлийн санд суурь загварын зөв тодорхойлолтын 7% хүртэл нэмэгдүүлж чадна.

Abstract

Penyesuaian domain bertentangan baru-baru ini telah diusulkan sebagai teknik yang berkesan untuk tugas persamaan teks, seperti penambahan soalan. Di sini kita menyelidiki penggunaan pembalikan gradien pada penyesuaian domain musuh untuk mempelajari secara eksplicit kedua-dua perwakilan berkongsi dan tidak tersambung (spesifik domain) antara dua domain teks. Dalam melakukannya, pembalikan gradien mempelajari ciri-ciri yang secara eksplicit membalas ketidakpadanan domain, sementara masih mencurahkan pengetahuan spesifik domain yang boleh meningkatkan ketepatan domain sasaran. Kami menilai gradien pembalikan untuk penyesuaian musuh pada domain berbilang, dan menunjukkan bahawa ia secara signifikan melebihi kaedah lain pada penyesuaian soalan serta mengenali tugas penyelesaian teks (RTE), mencapai hingga 7% peningkatan mutlak dalam ketepatan model as as pada beberapa set data.

Abstract

L-adattament tad-dominju avversarju ġie propost dan l-aħħar bħala teknika effettiva għal kompiti ta’ tqabbil testwali, bħal tnaqqis ta’ mistoqsijiet. Hawnhekk ninvestigaw l-użu ta’ gradjent reversal fuq l-adattament tad-dominju avversarju biex jitgħallmu espliċitament kemm rappreżentazzjonijiet kondiviżi kif ukoll mhux kondiviżi (speċifiċi għad-dominju) bejn żewġ dominji testwali. Meta tagħmel dan, il-gradjent jitgħallem karatteristiċi li jikkumpensaw espliċitament għad-diskrepanza tad-dominju, filwaqt li għadu jiddistilla għarfien speċifiku tad-dominju li jista’ jtejjeb il-preċiżjoni tad-dominju fil-mira. We evaluate reversing gradients for adversarial adaptation on multiple domains, and demonstrate that it significantly outperforms other methods on question deduplication as well as on recognizing textual entailment (RTE) tasks, achieving up to 7% absolute boost in base model accuracy on some datasets.

Abstract

Tegenstrijdige domeinaanpassing is onlangs voorgesteld als een effectieve techniek voor tekstuele matching taken, zoals vragen deduplicatie. Hier onderzoeken we het gebruik van gradiëntomkering op contradientaire domeinadaptatie om zowel gedeelde als ongedeelde (domeinspecifieke) representaties tussen twee tekstdomeinen expliciet te leren. Hiermee leert gradiëntomkering functies die expliciet domeinmismatch compenseren, terwijl domeinspecifieke kennis wordt gedistilleerd die de nauwkeurigheid van het doeldomein kan verbeteren. We evalueren omgekeerde gradiënten voor tegenstrijdige aanpassing op meerdere domeinen en tonen aan dat het significant beter presteert dan andere methoden op het gebied van vragen deduplicatie en het herkennen van tekstuele implicatietaken (RTE) en tot 7% absolute verhoging van de nauwkeurigheid van het basismodel op sommige datasets.

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. Her undersøker vi bruken av fargeovergangen omvendt på adversarial domeneadaptasjon for å lære både delte og usikkerte (domenespesifikke) representasjonar mellom to tekstdomene. I å gjera det, lærer omvendt fargeovergangar funksjonar som eksplisivt kompenserer for domenet ikkje samsvar, mens det fortsatt distiller domenespesifikke kunnskap som kan forbetra målsakkuratet. Vi evaluerer omvendte fargeovergangar for adversarial tilpassing på fleire domene, og demonstrerer at det utfører signifikante andre metoder på spørsmål-dedubelering, og på å gjenkjenne tekstinnstillingar (RTE), som oppnår opp til 7 % absolutt økning i grunnmodellen nøyaktig på noen datasett.

Abstract

Adaptacja domeny przeciwnej została ostatnio zaproponowana jako skuteczna technika zadań dopasowywania tekstów, takich jak deduplikacja pytań. Tutaj badamy zastosowanie odwrotu gradientów w adaptacji domen przeciwnych do wyraźnego uczenia się zarówno współdzielonych, jak i nieudostępnionych (domenowych) reprezentacji pomiędzy dwoma domenami tekstowymi. W ten sposób odwrócenie gradientu uczy się funkcji, które wyraźnie rekompensują niedopasowanie domeny, jednocześnie destylując wiedzę specyficzną dla domeny, która może poprawić dokładność domeny docelowej. Oceniamy gradienty odwracalne dla adaptacji przeciwnej w wielu domenach i wykazujemy, że znacznie przewyższa inne metody deduplikacji pytań oraz rozpoznawania zadań tekstowych implikacji (RTE), osiągając do 7% absolutny wzrost dokładności modelu bazowego na niektórych zbiorach danych.

Abstract

A adaptação de domínio adversário foi proposta recentemente como uma técnica eficaz para tarefas de correspondência textual, como desduplicação de perguntas. Aqui investigamos o uso de reversão de gradiente na adaptação de domínio adversário para aprender explicitamente representações compartilhadas e não compartilhadas (específicas de domínio) entre dois domínios textuais. Ao fazer isso, a reversão de gradiente aprende recursos que compensam explicitamente a incompatibilidade de domínio, enquanto ainda destila conhecimento específico de domínio que pode melhorar a precisão do domínio de destino. Avaliamos gradientes reversos para adaptação adversária em vários domínios e demonstramos que ele supera significativamente outros métodos na desduplicação de perguntas, bem como no reconhecimento de tarefas de implicação textual (RTE), alcançando um aumento absoluto de até 7% na precisão do modelo base em alguns conjuntos de dados.

Abstract

Adaptarea domeniului adversar a fost propusă recent ca o tehnică eficientă pentru sarcinile de potrivire textuală, cum ar fi deduplicarea întrebărilor. Aici investigăm utilizarea inversării gradientului în adaptarea domeniului adversar pentru a învăța explicit atât reprezentări partajate, cât și nespecificate (specifice domeniului) între două domenii textuale. Astfel, inversarea gradientului învață caracteristici care compensează în mod explicit neconcordanța domeniului, distilând în același timp cunoștințele specifice domeniului care pot îmbunătăți acuratețea domeniului țintă. Evaluăm gradienții inversați pentru adaptarea adversară pe mai multe domenii și demonstrăm că aceasta depășește semnificativ alte metode în ceea ce privește deduplicarea în chestiune, precum și recunoașterea sarcinilor de implicare textuală (RTE), obținând o creștere absolută de până la 7% a acurateții modelului de bază pe unele seturi de date.

Abstract

Недавно была предложена соперническая адаптация домена в качестве эффективного метода для текстовых задач сопоставления, таких как дедупликация вопросов. Здесь мы исследуем использование реверсии градиента при адаптации домена противника для явного изучения как общих, так и не общих (специфичных для домена) представлений между двумя текстовыми доменами. При этом реверсия градиента изучает функции, которые явно компенсируют несоответствие домена, при этом дистиллируя специфические для домена знания, которые могут улучшить точность целевого домена. Мы оцениваем реверсивные градиенты для состязательной адаптации на нескольких доменах и демонстрируем, что они значительно превосходят другие методы по дедупликации вопросов, а также по распознаванию задач текстового влечения (RTE), достигая до 7% абсолютного повышения точности базовой модели на некоторых наборах данных.

Abstract

ප්‍රශ්නයක් ප්‍රශ්නයක් නිසා ප්‍රශ්නයක් නිසා ප්‍රශ්නයක් නිසා ප්‍රශ්නයක් විතරයි. මෙන්න අපි පරීක්ෂණය කරන්නේ විරෝධික ඩෝමින් එක්ක ප්‍රශ්නයෙන්ම භාවිතාවක් භාවිතා කරන්න ප්‍රශ්නය කරන්න ප්‍රශ්නයෙන්ම මෙහෙම කරන්න, ග්‍රේඩියේන්ට් වෙනස් ප්‍රතිකාරයෙන් ප්‍රතිකාරයෙන් ප්‍රතිකාරයෙන් ප්‍රතිකාරයෙන් ප්‍රතිකාරයෙන් ප්‍රතික අපි ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක් ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක් වෙනුවෙන් ප්‍රශ්නයක

Abstract

Pred kratkim so predlagali prilagoditev neželene domene kot učinkovito tehniko za naloge ujemanja besedil, kot je depodvajanje vprašanj. Tukaj raziskujemo uporabo preobrazbe gradientov pri prilagajanju kontradicionalnih domen, da bi se izrecno naučili skupnih in nedeljenih (domensko specifičnih) predstavitev med dvema besedilnima domenama. Pri tem se preobrat gradienta nauči funkcij, ki izrecno izravnajo za neskladje domene, hkrati pa še vedno pridobijo znanje za posamezno domeno, ki lahko izboljša natančnost ciljne domene. Ocenjujemo vzvratne gradiente za kontradikalno prilagoditev na več področjih in dokazujemo, da znatno presega druge metode pri depodvajanju vprašanj in pri prepoznavanju besedilnega vključevanja (RTE), pri čemer dosežemo do 7% absolutno povečanje natančnosti osnovnega modela na nekaterih podatkovnih nizih.

Abstract

Waxa ugu dhowaad looga soo jeeday in la beddelo bedelka deegaanka sida teknolojiyo faa’iido leh oo u eg shuqullada dhaqanka, tusaale ahaan dhamaanka su'aalaha. Halkaas waxaynu baaritaan isticmaalka bedelka hoose ee bedelka guriga ee cadaawayaasha ah si bayaan ah ugu barta noocyada qayb-qaybsan iyo mid aan lagu sameyn (domain-specific) oo u dhexeeya labada meelood ee qoraalka ah. Markaas waxaa baranaya qalabka dib u dhigista, kaas oo si cad u magdhaweeya hab la'eg domain, xitaa waxaa kaloo beddelinaya aqoon gaar ah oo aqoon gaar ah oo kordhin kara saxda deegaanka. Waxaannu qiimeynaynaa heerarka beddelka ee bedelka cadaawayaasha ah ee gudaha kala duduwan, waxaana muujinnaa in ay si muhiim ah u sameeyaa qaabab kale oo ku saabsan furitaanka arimaha la xiriira, iyo in lagu aqoonsado shaqada aqoonta takhasuska qoraalka (RTE) oo uu gaadho ilaa 7% korodhsiga rasmiga ah ee ku saxda tusaale-horaadka.

Abstract

Përpërshtatja kundërshtare e domainit është propozuar kohët e fundit si një teknikë efektive për detyrat e përshtatjes tekstuale, të tilla si përfundimi i pyetjeve. Këtu ne hetojmë përdorimin e ndryshimit të gradientit në përshtatjen kundërshtare të domenit për të mësuar shprehësisht si përfaqësimet e ndara dhe të pakufizuara (specifike të domenit) midis dy domeneve tekstuale. Në këtë mënyrë, gradienti i kthimit mëson funksione që kompensojnë shprehësisht për mospërputhjen e domenit, ndërsa ende distillon njohuritë specifike të domenit që mund të përmirësojnë saktësinë e domenit objektiv. Ne vlerësojmë gradientët e kthimit për përshtatjen kundërshtare në shumë fusha dhe demonstrojmë se ajo ekziston në mënyrë të konsiderueshme më tepër se metodat e tjera në lidhje me përfundimin e pyetjeve si dhe në njohjen e detyrave të përfshirjes tekstuale (RTE), duke arritur deri në 7% rritje absolute në saktësinë e model it bazë në disa grupe të dhënash.

Abstract

Nedavno je predložena prilagodba preduzetnih domena kao efikasna tehnika za tekstualne odgovarajuće zadatke, kao što su odvajanje pitanja. Ovde istražujemo korištenje obrnutog gradienta na neprijateljskoj adaptaciji domena da bismo jasno naučili i dijeljene i nepoštene (specifične domene) predstave između dve tekstualne domene. Učineći to, obrnuto učenje gradjana pokazuje karakteristike koje objašnjavaju nepovratnost domena, dok i dalje destilavaju specifične znanje domena koje mogu poboljšati tačnost ciljnog domena. Procjenjujemo obrnute gradiente za neprijateljsku adaptaciju na višestrukim domenama, i pokazujemo da značajno iznosi druge metode o deduplikaciji pitanja, kao i prepoznavanju zadataka tekstualne želje (RTE), ostvarivši do 7% apsolutnog povećanja tačnosti baznih modela na nekim setima podataka.

Abstract

Adversarial domain anpassning har nyligen föreslagits som en effektiv teknik för textmatchningsuppgifter, såsom frågededuplicering. Här undersöker vi användningen av gradient reversering på kontradiktorisk domänanpassning för att explicit lära sig både delade och osdelade (domänspecifika) representationer mellan två textdomäner. Genom att göra det lär sig gradient reversering funktioner som uttryckligen kompenserar för domänmissmatchning, samtidigt som domänspecifik kunskap distilleras som kan förbättra måldomänens noggrannhet. Vi utvärderar omvända gradienter för kontradiktorisk anpassning på flera domäner, och visar att den avsevärt överträffar andra metoder för deduplicering av frågor samt för identifiering av RTE-uppgifter, vilket uppnår upp till 7% absolut ökning av basmodellnoggrannhet på vissa datauppsättningar.

Abstract

Adversarial domain adaptation has been recently proposed as an effective technique for textual matching tasks, such as question deduplication. Hapa tunachunguza matumizi ya mabadiliko ya mabadiliko ya mabadiliko yanayotokana na upinzani ili kujifunza kwa uwazi wote wawili wawili wakilishi walio shirikishwa na ambao hawana uhakika (domain maalum) kati ya maeneo mawili. Kwa kufanya hivyo, mabadiliko ya msingi yanajifunza vipengele ambavyo vinatoa kwa urahisi kwa ajili ya kukosa ukosefu wa ndani, wakati bado wanachambua maarifa maalum ya ndani ambayo inaweza kuboresha uhakika wa ndani. Tunatathmini vyeo vya kupunguza mabadiliko ya upinzani katika maeneo mbalimbali, na tunaonyesha kwamba utaratibu huo unafanya nyenzo nyingine kuhusu utekelezaji wa maswali na pia kuhusu kutambua kazi za maambukizi ya msingi (RTE), na kufikia ongezeko la asilimia 7 kabisa katika uhakika wa mifano ya msingi kwenye baadhi ya seti za data.

Abstract

முன்னோக்கமான களம் ஒதுக்குதல் அண்மையில் நிரல் பொருந்தும் பணிகளுக்கு ஒரு பயனுள்ள தொழில்நுட்பமாக பரிந்துரைக்கப்பட்டு இங்கே நாம் வெளிப்படையாக பங்கிடப்பட்ட மற்றும் காப்பாற்றப்படாத (டொமைன் குறிப்பிட்ட) இரண்டு உரை தளங்களுக்கிடையில் இருந்து பங்கிட்ட இதைச் செய்யும் போது, குறிப்பிட்ட திருப்புதல் குணங்களை கற்றுக் கொள்கிறது, இது டோமைன் பொருத்தத்திற்கு தெளிவாக தீர்ப்பு அளிக்கு பல களங்களில் எதிர்மறை ஒதுக்கத்திற்கான திரும்பச் செயல்களை நாம் மதிப்பீடு செய்கிறோம் மற்ற முறைகளை கேள்வி பிரித்தல் மற்ற முறைகளையும் குறிப்பிடுகிறது மற்றும் சில தரவுத்தளங்களில்

Abstract

Ýakynda täsirli domena adaptasiýasy textual matching tasks üçin etkinlik tekniki hökmünde tekniki görkezildi ýaly soragy çykarmak üçin. Bu ýerde, çykyş domeny arasynda hem paylaşyk hem bilinmedik hem (domeny spesifik) terjimelerini öwrenmek üçin fargeodan terjime edilişini inceleýäris. Bu şekilde, farede tersi öğrenmek için domain uyumsuzluğunu açık olarak öğrenmiş, hala hedef domenin doğruluğunu geliştirebilen domenin belli bilgilerini tanımlayarak özellikleri öğrenýär. Biz çykyş sahypalarda tertiblemeli gradientleri näçe sahypalarda tertiblemek üçin deňleýäris we bu sahypalarda başga çykyş şeklinde (RTE) işini tanamak üçin deňleýäris we esasy çykyş şeklinde 7% we esasy düzümlerden takyk edip bilýäris.

Abstract

اچھے سے اچھے سے اچھے سے اچھے سے متعلق ڈومین اضافہ کیے گئے ہیں، یعنی سؤال نادوپیٹ کیے جانے کے لئے تفکیل کے طور پر۔ یہاں ہم مخالف ڈومین کے اندازے پر گریڈینٹ کی استعمال کی تحقیق کرتے ہیں کہ دو ٹیکسٹ ڈومین کے درمیان شریک اور غیرقابل (ڈومین خاص) نشانیوں کو معلوم کریں۔ اسی طرح، گریڈینٹ الٹ پھیر جانے کے لئے ویسے سیکھ رہا ہے کہ ڈومین کے مطابق غلط مطابق مطابق مطابق مطابق مطابق ہے، حالانکہ دامین کے مطابق علم کو پھیر رہا ہے جو موقع دامی ہم بہت سی ڈومین کے مقابلہ میں مخالف اندازے کے لئے مخالف گریڈینٹوں کو ارزش کرتے ہیں، اور دکھاتے ہیں کہ یہ سوال کے دفعہ میں اور دوسرے طریقے سے زیادہ اضافہ کرتا ہے، اور ایک ٹکٹیل اندازے (RTE) کے کاموں کو پہچان لیتے ہیں، اور بعض ڈاٹیسٹوں پر بنسٹ موڈل کے دقیق مطلق کے ساتھ 7%

Abstract

Yaqinda davlat domen oʻzgarishni matnni oʻxshash vazifalarga ishlatish uchun qoʻllanmagan teknologiya deb talab qilindi. Bu yerda biz ikki matn domen orasidagi qisqartmalarni aniqlashni tahrirlash uchun gradient reversalning foydalanishini aniqlamiz. Hullas qilish uchun gradient reversal xossalari domen toʻgʻri toʻgʻri bo'lgan xossalarni o'rganadi, ammo domen foydalanishini foydalanishi mumkin. Biz bir necha domen davomida taʼminlovchi darajalarni qiymatmiz va bu savol tezlikning boshqa usullarini va texnologiya taʼminlovchini aniqlash (RTE) vazifalarini aniqlashga ega bo'ladi. Biz bir necha maʼlumot sahifalarda 7% asosiy modelidagi mukammal foydalanishga yetarmoqchimiz.

Abstract

Mới đây, sự thích nghi lĩnh vực trước mặt đã được đề xuất như một kỹ thuật hiệu quả cho việc kết cấu kết cấu hình thức, như việc từ trừ câu hỏi. Ở đây chúng tôi điều tra việc sử dụng ngược chiều hướng trong việc thích nghi miền đối nghịch để hiển thị các biểu tượng chia sẻ và không được chia sẻ (miền đặc trưng) giữa hai miền văn bản. Khi làm thế, sự đảo ngược dốc dốc học các tính năng hiển thị bồi thường cho sự phù hợp với miền, trong khi vẫn chưng cất các kiến thức đặc biệt miền có thể nâng cao độ chính xác miền đích. Chúng tôi đánh giá mức độ nghiêng về phương pháp thích ứng nghịch trên nhiều miền, và chứng minh rằng nó vượt trội các phương pháp khác về việc trừ tội, cũng như việc nhận ra các công việc cấu trúc (RTE) cần thiết, đạt đến 7.

Abstract

近建对抗性域应为文本匹配之效,例如重数删除。于是考之于抗域梯度反显式学二文本域之间,与非共(域特定)示。梯度反学显式偿域之不匹,而犹取可以崇域准确性之域特定知。论数域对抗性逆梯度,证其重复删除及识文蕴涵(RTE)务明优于他术,于某数集上达7%准确性之绝擢。

Anthology ID:: P19-1556
Volume:: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics
Month:: July
Year:: 2019
Address:: Florence, Italy
Venue:: ACL
SIG:
Publisher:: Association for Computational Linguistics
Note:
Pages:: 5545–5550
Language:
URL:: https://aclanthology.org/P19-1556
DOI:: 10.18653/v1/P19-1556
Bibkey:
Cite (ACL):: Anush Kamath, Sparsh Gupta, and Vitor Carvalho. 2019. Reversing Gradients in Adversarial Domain Adaptation for Question Deduplication and Textual Entailment Tasks. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pages 5545–5550, Florence, Italy. Association for Computational Linguistics.
Cite (Informal):: Reversing Gradients in Adversarial Domain Adaptation for Question Deduplication and Textual Entailment Tasks (Kamath et al., ACL 2019)
Copy Citation:
PDF:: https://aclanthology.org/P19-1556.pdf
Terminologies:

PDF Cite Search Translate