LSTMEmbed : Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term MemoriesLSTMEmbed: Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term Memories

Ignacio Iacobacci; Roberto Navigli

doi:10.18653/v1/P19-1165

LSTMEmbed : Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term MemoriesLSTMEmbed: Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term Memories KCharselect unicode block name Name Name

Abstract

While word embeddings are now a de facto standard representation of words in most NLP tasks, recently the attention has been shifting towards vector representations which capture the different meanings, i.e., senses, of words. In this paper we explore the capabilities of a bidirectional LSTM model to learn representations of word senses from semantically annotated corpora. We show that the utilization of an architecture that is aware of word order, like an LSTM, enables us to create better representations. We assess our proposed model on various standard benchmarks for evaluating semantic representations, reaching state-of-the-art performance on the SemEval-2014 word-to-sense similarity task. We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Terwyl woord inbêding nou is 'n de facto standaard verteenwoording van woorde in mees NLP-opdragte, het onlangs die aandag verskuif na vektorvoorstellings wat die verskillende betekenings, i.e. senses, van woorde opgeneem. In hierdie papier ondersoek ons die moontlikhede van 'n bidireksjonale LSTM model om voorstellings van woord senses te leer van semantiese annotateerde korpora. Ons wys dat die gebruik van 'n arkitektuur wat bevestig is van woord volgorde, soos 'n LSTM, kan ons beter voorstellings skep. Ons vurdering ons voorgestelde model op verskeie standaard benchmarke vir die evaluering van semantiese voorstellings, by die toegang van staat-van-kuns-prestasie op die semiEval-2014 woord-to-sens-gelykenis taak. Ons verlos die kode en die resulteerde woord en sens inbêding op http://lcl.uniroma1.it/LSTMEmbed.

Abstract

በአሁኑ የNLP ስራ ውስጥ ያሉት ቃሎች የውይይት አካባቢ የቃላት አካባቢ መልዕክት ሲሆን፣ በቅርብ ጊዜ የጥያቄ መልዕክት የተለየ የዌctor መልዕክቶች፣ መልዕክቶች፣ አካል እና ቃላት እና ቃላትን የሚያዙ ወደሚሆን ይለውጣል፡፡ በዚህ ፕሮግራም የ LSTM ሞዴል የቃላትን መልዕክት ከክሮፓርናዊ ግንኙነት ለመማር የሚችሉትን ችሎታዎችን እናደርጋለን፡፡ የቃላትን ሥርዓት የሚያውቅ የመዝገብ ግንኙነት እናሳያቸዋለን፤ እንደ ኤሌስቴም፣ የተሻለ መልዕክቶችን ለመፍጠር ይችላል፡፡ የሴmEval-2014 ቃላት-ለማስተካከል የሚደረገውን የ-የ-አርእስት ድረ ገጽ እንዲደርስ በተዘጋጀ የድምፅ አዋቂዎችን በተለየ የድረ ገጽ አካላትን እናስታውቃለን፡፡ We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

في حين أن تضمين الكلمات أصبح الآن تمثيلًا معياريًا فعليًا للكلمات في معظم مهام البرمجة اللغوية العصبية ، فقد تحول الاهتمام مؤخرًا نحو تمثيلات المتجهات التي تلتقط المعاني المختلفة ، أي الحواس ، للكلمات. في هذه الورقة ، نستكشف إمكانيات نموذج LSTM ثنائي الاتجاه لتعلم تمثيلات حواس الكلمات من مجموعات توضيحية معنوية. نظهر أن استخدام بنية تدرك ترتيب الكلمات ، مثل LSTM ، تمكننا من إنشاء تمثيلات أفضل. نقوم بتقييم نموذجنا المقترح على معايير معيارية مختلفة لتقييم التمثيلات الدلالية ، والوصول إلى أحدث أداء في مهمة تشابه الكلمات في SemEval-2014. قمنا بإصدار الكود والكلمات الناتجة ودمج المعنى في http://lcl.uniroma1.it/LSTMEmbed.

Abstract

NLP i şlərinin çoxunda sözlərin de facto standart göstəricisi olduğu halda, çox az öncə dikkati fərqli ifadələri ilə tutan vektör göstəricisinə tərəf çevrildi. Bu kağızda, semantik məlumatlı korporadan söz duygularını öyrənmək üçün ikidiktiv LSTM modelinin qabiliyyətini keşfetirik. Biz göstəririk ki, söz sıralarını bilən bir arhitektür istifadəsi, LSTM kimi, bizə daha yaxşı göstəricilər yaratmağı mümkün edir. Biz təbliğ etdiyimiz modelləri, semantik göstəriciləri değerləşdirmək üçün, semiEval-2014 sözlərin-hisslərin bənzər işləri ilə təbliğ etmək üçün müxtəlif standart benchmarklərində müəyyən edirik. Biz kodu, sonuçları olan sözləri və hissləri http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Докато вграждането на думи сега е де факто стандартно представяне на думите в повечето задачи на НЛП, напоследък вниманието се насочва към векторни изображения, които улавят различните значения, т.е. сетива, на думите. В тази статия изследваме възможностите на двупосочен модел за изучаване на изображения на словните сетива от семантично анотирани корпуси. Показваме, че използването на архитектура, която е наясно с реда на думите, като ЛСТМ, ни позволява да създаваме по-добри представи. Ние оценяваме нашия предложен модел по различни стандартни показатели за оценка на семантични представи, достигайки най-съвременните резултати по задачата за сходство дума-смисъл. Ние публикуваме кода и получените думи и смисъл вграждания в http://lcl.uniroma1.it/LSTMEmbed.

Abstract

বেশীরভাগ এনএলপি কাজের শব্দের প্রতিনিধিত্বে শব্দ প্রবেশ করা হলেও শব্দের প্রতিনিধিত্ব হচ্ছে, সম্প্রতি ভেক্টরের প্রতিনিধিদের দিকে মনোযোগ পাল্টে য এই কাগজটিতে আমরা একটি বিদ্রোহীন এলস্টিএম মডেলের ক্ষমতা খুঁজে বের করেছি যাতে সেমান্টিকভাবে বিরক্তিকর কর কর্পোরা থেকে শব্দের আমরা দেখাচ্ছি যে একটি আর্কিটারের ব্যবহার করা যা শব্দের আদেশ সম্পর্কে সচেতনতা আছে, যেমন এক এলসিএম, আমাদের ভালো প্রতিনিধিত্ব তৈ We assess our proposed model on various standard benchmarks for evaluating semantic representations, reaching state-of-the-art performance on the SemEval-2014 word-to-sense similarity task. আমরা কোড এবং ফলাফল শব্দ এবং অনুভূতির বিষয়টি মুক্তি দেই http://lcl.uniroma1.it/LSTMEmbed.

Abstract

ཡི་གེ་གནས་ཚུལ་ནང་དུ་ཡིག་ཆ་དེ་ཕན་ཚོར་ཐོག་གི་གནད་སྡུད་གནས་སྟངས་ཆེ་བ་ཡིན་ནའང་ཉེ་ཆར་བར་གནས་སྟངས་དང་མཉམ་དུ་སྤྲོད་ཡོད་པའི་བརྒྱུད་རྟོན་པ་ཚོའ ང་ཚོས་ཤོག་བྱང་འདིའི་ནང་དུ་གླེང་སྒྲུབ་ཅན་གྱི་སྒེར་གྱི་རྒྱུ་དངོས་ལྡན་སྔོན་སྒྲིག་གི་སྒེར་གྱི་ཚོར་བ་སྟོན་རྟོགས་ཐབས་ཤ ང་ཚོས་LSTM དང་གཅིག་མཚུངས་ཀྱི་སྒྲིག་འགུལ་གྱི་ལག་སྟར་བྱ་རིམ་འདི་གསལ་གྲངས་ཀྱི་གོ་རིམ་དང་ཤེས་པའི་སྒྲིག་འགོད་ཀྱི་བྱ་སྤྱོད ང་ཚོའི་འཆར་བཀོད་པའི་མ་གཟུགས་རིས་ལྟར་མིན་འདུག་གྱི་ཚད་རྟགས་མི་འདྲ་བ་དང་མཉམ་དུ་འཇུག་སྲིད་པའི་གནས་སྟངས་ལ་ཡར་རྒྱས་ཁབ་ཀྱི་བཀོད་སྣང་བྱེད ང་ཚོས་ཀྱིས་གསང་ཨང་དང་འབྲས་པའི་ཐ་སྙད་དང་ཤེས་པའི་ནང་གི་ནང་དུ་ http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Iako su priključenje riječi sada de facto standardna predstavljanja riječi u većini zadataka NLP-a, nedavno se pažnja prebacila prema predstavljanjima vektora koji uključuju različite značenje, tj. čula, riječi. U ovom papiru istražujemo sposobnosti dvodirektivnog LSTM model a kako bi naučili predstave čula riječi iz semantički annotirane korpore. Mi pokazujemo da korištenje arhitekture koja je svjesna riječi, poput LSTM, omogućava nam da stvorimo bolje predstave. Procjenjujemo naš predloženi model o različitim standardnim kriterijama za procjenu semantičkih predstavljanja, postižeći izvršnost stanja umjetnosti na zadatku sličnosti riječi do smisla semiEval-2014. Puštamo šifru i rezultate riječi i smisla http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Mentre que l'incorporació de paraules és ara una representació de facto estàndard de paraules en la majoria de tasques de NLP, recentment l'atenció s'ha canviat cap a representacions de vectors que capturen els diferents significats, és a dir, sentits, de paraules. En aquest article explorem les capacitats d'un model LSTM bidireccional per aprendre representacions de sentits de paraules a partir de corpores semànticament anotats. Mostrem que l'ús d'una arquitectura conscient de l'ordre de paraules, com un LSTM, ens permet crear millors representacions. Evaluam el nostre model proposat en diversos punts de referència estàndard per avaluar representacions semàntiques, arribant a la tasca de similitud de paraula a sentit d'última generada en SemEval-2014. Vam alliberar el codi i la paraula resultant i sentir incorporacions en http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Zatímco vkládání slov je nyní de facto standardní reprezentací slov ve většině NLP úloh, v poslední době se pozornost přesouvá k vektorovým reprezentacím, které zachycují různé významy slov, tj. smysly. V tomto článku zkoumáme možnosti obousměrného LSTM modelu naučit se reprezentace slovních smyslů ze sémanticky anotovaných korpusů. Ukazujeme, že využití architektury, která si uvědomuje slovní řád, jako je LSTM, nám umožňuje vytvářet lepší reprezentace. Náš navržený model hodnotíme na různých standardních benchmarkech pro hodnocení sémantických reprezentací a dosahujeme nejmodernějších výkonů na úlohu slovo-smyslové podobnosti SemEval-2014. Vydáme kód a výsledné slovo a smysl vložení na http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Mens ordindlejringer nu er en de facto standard repræsentation af ord i de fleste NLP-opgaver, er opmærksomheden for nylig blevet skiftet mod vektorrepræsentationer, der fanger de forskellige betydninger, dvs. sanser, af ord. I denne artikel undersøger vi mulighederne for en bidirektionel LSTM model til at lære repræsentationer af ordsanser fra semantisk annoterede korpora. Vi viser, at udnyttelsen af en arkitektur, der er bevidst om ordrækkefølge, ligesom en LSTM, gør det muligt for os at skabe bedre repræsentationer. Vi vurderer vores foreslåede model på forskellige standard benchmarks til evaluering af semantiske repræsentationer og opnår state-of-the-art performance på SemEval-2014 ord-til-sense lighedsopgaven. Vi frigiver koden og det resulterende ord og sanse embeddings på http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Während Worteinbettungen heute in den meisten NLP-Aufgaben de facto eine Standarddarstellung von Wörtern darstellen, hat sich in letzter Zeit die Aufmerksamkeit auf Vektorrepräsentationen verlagert, die die verschiedenen Bedeutungen, d.h. Sinne, von Wörtern erfassen. In diesem Beitrag untersuchen wir die Möglichkeiten eines bidirektionalen LSTM Modells, Repräsentationen von Wortsinnen aus semantisch annotierten Korpora zu lernen. Wir zeigen, dass der Einsatz einer Architektur, die sich der Wortfolge bewusst ist, wie ein LSTM, es uns ermöglicht, bessere Darstellungen zu erstellen. Wir bewerten unser vorgeschlagenes Modell anhand verschiedener Standardbenchmarks zur Bewertung semantischer Repräsentationen und erreichen so den Stand der Technik bei der SemEval-2014 Wort-zu-Sinn-Ähnlichkeitsaufgabe. Wir veröffentlichen den Code und die daraus resultierenden Wort- und Sinneseinbettungen unter http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Ενώ η ενσωμάτωση λέξεων είναι πλέον μια εκ των πραγμάτων τυπική αναπαράσταση λέξεων στις περισσότερες εργασίες, πρόσφατα η προσοχή στρέφεται προς διανυσματικές αναπαραστάσεις που συλλαμβάνουν τις διαφορετικές έννοιες, δηλαδή τις αισθήσεις, των λέξεων. Σε αυτή την εργασία εξερευνούμε τις δυνατότητες ενός αμφίδρομου μοντέλου για να μάθουμε αναπαραστάσεις των αισθήσεων λέξεων από σημασιολογικά σχολιασμένα σώματα. Δείχνουμε ότι η χρήση μιας αρχιτεκτονικής που γνωρίζει τη σειρά λέξεων, όπως ένα LSTM, μας επιτρέπει να δημιουργήσουμε καλύτερες αναπαραστάσεις. Αξιολογούμε το προτεινόμενο μοντέλο με βάση διάφορα τυποποιημένα κριτήρια αξιολόγησης σημασιολογικών αναπαραστάσεων, επιτυγχάνοντας την υπερσύγχρονη απόδοση στην εργασία ομοιότητας λέξης-προς-αίσθησης. Απελευθερώνουμε τον κώδικα και την προκύπτουσα λέξη και αίσθηση ενσωμάτωσης στο http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Si bien las incrustaciones de palabras son ahora una representación estándar de facto de las palabras en la mayoría de las tareas de PNL, recientemente la atención se ha desplazado hacia las representaciones vectoriales que capturan los diferentes significados, es decir, los sentidos de las palabras. En este artículo exploramos las capacidades de un modelo LSTM bidireccional para aprender representaciones de los sentidos de las palabras a partir de cuerpos anotados semánticamente. Demostramos que la utilización de una arquitectura que conoce el orden de las palabras, como un LSTM, nos permite crear mejores representaciones. Evaluamos nuestro modelo propuesto en varios puntos de referencia estándar para evaluar las representaciones semánticas, alcanzando un rendimiento de vanguardia en la tarea de similitud palabra a sentido de Semeval-2014. Publicamos el código y las incrustaciones de palabras y sentidos resultantes en http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Kuigi sõnade manustamine on nüüd de facto standardne sõnade esitus enamikus NLP ülesannetes, on viimasel ajal pööratud tähelepanu vektorikujutustele, mis hõlmavad sõnade erinevaid tähendusi, st meeli. Käesolevas töös uurime kahesuunalise LSTM mudeli võimalusi õppida semantiliselt annoteeritud korpustest sõnameelte esitusi. Näitame, et sõnajärjekorrast teadliku arhitektuuri, nagu LSTM, kasutamine võimaldab meil luua paremaid esitusi. Hindame oma kavandatud mudelit semantiliste esituste hindamiseks erinevate standardsete võrdluskriteeriumide alusel, jõudes SemEval-2014 sõnast tähendusse sarnasuse ülesande tipptasemel jõudluseni. Me avaldame koodi ning sellest tulenevad sõna ja tähenduse manustamised aadressil http://lcl.uniroma1.it/LSTMEmbed.

Abstract

در حالی که ابتدایی کلمات در حال حاضر یک نمایش استاندارد کلمات در بیشتر کارهای NLP هستند، اخیرا توجه به نمایش‌های ویکتور تغییر داده شده است که معنی مختلف را می‌گیرد، یعنی حس، کلمات. در این کاغذ ما توانایی یک مدل LSTM دوباره را تحقیق می‌کنیم تا نمایش‌های احساس کلمه‌ها را از شرکت‌های دوره‌سازی یاد بگیریم. ما نشان می دهیم که استفاده از یک معماری که از دستور کلمات آگاه است، مانند LSTM، به ما اجازه می دهد که نمایش های بهتر را ایجاد کنیم. ما مدل پیشنهادمون را در مورد برچسب‌های استاندارد مختلف برای ارزیابی نمایش‌های semantic ارزیابی می‌کنیم، به رسیدن به عملیات وضعیت هنر در وضعیت شبیه‌ی کلمه‌های semiEval-2014 رسیدیم. ما کد و کلمه‌های نتیجه و احساسات را در http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Vaikka sanaupotukset ovat nykyään useimmissa NLP-tehtävissä käytännössä vakiomuotoinen sanojen esittäminen, viime aikoina huomio on siirtynyt vektoriesityksiin, jotka kuvaavat sanojen eri merkityksiä eli aisteja. Tässä artikkelissa tutkimme kaksisuuntaisen LSTM-mallin mahdollisuuksia oppia sanaaistien representaatioita semanttisesti merkityistä korpusista. Osoitamme, että sanajärjestyksestä tietoisen arkkitehtuurin, kuten LSTM, hyödyntäminen mahdollistaa paremman esitystavan luomisen. Arvioimme ehdotettua mallia semanttisten representaatioiden arvioinnissa eri standardivertailuarvoista ja saavutamme viimeisintä suorituskykyä SemEval-2014 word-to-sense similarity -tehtävässä. Julkaisemme koodin ja tuloksena syntyvät sanat ja merkitykset osoitteessa http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Alors que les intégrations de mots sont maintenant une représentation standard de facto des mots dans la plupart des tâches de PNL, l'attention s'est récemment portée sur les représentations vectorielles qui capturent les différentes significations, c'est-à-dire les sens, des mots. Dans cet article, nous explorons les capacités d'un modèle LSTM bidirectionnel pour apprendre les représentations des sens des mots à partir de corpus annotés sémantiquement. Nous montrons que l'utilisation d'une architecture qui tient compte de l'ordre des mots, comme un LSTM, nous permet de créer de meilleures représentations. Nous évaluons notre modèle proposé sur divers points de référence standard pour évaluer les représentations sémantiques, atteignant ainsi des performances de pointe sur la tâche de similarité mot-sens SEMEval-2014. Nous publions le code et les intégrations de mots et de sens qui en résultent sur http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Cé gur léiriú caighdeánach de facto ar fhocail anois iad leabaithe focal i bhformhór na dtascanna NLP, le déanaí tá an aird ag bogadh i dtreo léirithe veicteora a ghabhann bríonna éagsúla, i.e., céadfaí, focail. Sa pháipéar seo déanaimid iniúchadh ar na hacmhainní atá ag múnla déthreorach LSTM chun léiriúcháin ar chiall na bhfocal a fhoghlaim ó chorpora anótáilte séimeantach. Léirímid go gcuireann úsáid ailtireachta atá feasach ar ord focal, cosúil le LSTM, ar ár gcumas léirithe níos fearr a chruthú. Déanaimid measúnú ar ár múnla molta ar thagarmharcanna caighdeánacha éagsúla chun léiriúcháin shéimeantacha a mheas, ag baint amach feidhmíocht den scoth ar thasc cosúlachta focal-go-ciall SemEval-2014. Scaoilimid an cód agus an leabú focal agus ciall a thagann as ag http://lcl.uniroma1.it/LSTMEmbed.

Abstract

A lokacin da maganar da aka embargo yanzu su zama wani abu mai daidaita wa maganar a cikin masu yawansan aikin NLP, a lokacin da aka musanya muhimmin muhimman aiki zuwa masu tsakanin shiryarwa wanda ke sami fassaran daban, misali, sans, maganar. Ga wannan takardan, Munã jarraba awon misalin LTRM mai gabatar da kuma za mu iya fahimtar masu tsari wa sanyin magana daga koruni na yi kashi. Tuna nũna amfani da wani matsayi mai da ke san tsarin maganar, kamar an LSSM, yana iya amfani da mu, ka sami masu shirya mafi alhẽri. Kana ƙaddara misalinmu wanda aka buƙata a kan misalin misalin na daban-daban da aka ƙaddara wa masu motsi na semantic, yana kai ga halin-sanar a shemeval-2014 maganar-zuwa-sanyi mai daidaita aiki. Munã sakar da kodi da maganar da saniya da ke cikin http://lcl.uniroma1.it/LSTMEmbed.

Abstract

בזמן שהקישורים של מילים הם כעת מייצג סטנדרטי de facto של מילים ברוב משימות NLP, לאחרונה התשומת הלב עברה לכיוון מייצגים ווקטורים שמתפסיקים את המשמעות השונים, כלומר חושים, של מילים. בעיתון הזה אנו חוקרים את היכולות של מודל LSTM bidirectional ללמוד מייצגים של חושים מילים מ גופרה סמנטית מוכתבת. We show that the utilization of an architecture that is aware of word order, like an LSTM, enables us to create better representations. אנו מעריכים את המודל המוצע שלנו על שונים נקודות רמז סטנדרטיים להערכה מייצגות סמנטיות, להשיג ביצועים מוקדמים על משימת דמיון מילה לחושה של SemEval-2014. אנו משחררים את הקוד והמילה הנוצאה והתחושה של http://lcl.uniroma1.it/LSTMEmbed.

Abstract

जबकि शब्द एम्बेडिंग अब अधिकांश एनएलपी कार्यों में शब्दों का एक वास्तविक मानक प्रतिनिधित्व है, हाल ही में ध्यान वेक्टर प्रतिनिधित्व की ओर बढ़ रहा है जो शब्दों के विभिन्न अर्थों, यानी इंद्रियों को कैप्चर करते हैं। इस पेपर में हम एक द्विदिश एलएसटीएम मॉडल की क्षमताओं का पता लगाने के लिए शब्दार्थ रूप से एनोटेट कॉर्पोरेट से शब्द इंद्रियों के प्रतिनिधित्व को सीखने के लिए। हम दिखाते हैं कि एक आर्किटेक्चर का उपयोग जो शब्द क्रम से अवगत है, जैसे कि एलएसटीएम, हमें बेहतर प्रतिनिधित्व बनाने में सक्षम बनाता है। हम शब्दार्थ प्रतिनिधित्व का मूल्यांकन करने के लिए विभिन्न मानक बेंचमार्क पर हमारे प्रस्तावित मॉडल का आकलन करते हैं, सेमेवल-2014 शब्द-से-अर्थ समानता कार्य पर अत्याधुनिक प्रदर्शन तक पहुंचते हैं। हम कोड और परिणामी शब्द जारी करते हैं और http://lcl.uniroma1.it/LSTMEmbed पर भावना एम्बेड करते हैं।

Abstract

Iako su ugrađenje riječi sada de facto standardno predstavljanje riječi u većini zadataka NLP-a, nedavno se pozornost mijenjala prema predstavljanjima vektora koji uključuju različite značenje, tj. čula, riječi. U ovom papiru istražujemo sposobnosti dvodirektivnog LSTM model a kako bi naučili zastupanje čula riječi iz semantički annotiranog tijela. Mi pokazujemo da korištenje arhitekture koja je svjesna riječnog reda, poput LSTM, omogućava nam stvaranje boljih predstavljanja. Procjenjujemo naš predloženi model o različitim standardnim kriterijama za procjenu semantičkih predstavljanja, postižeći izvršnost stanja umjetnosti na zadatku sličnosti riječi do smisla u polEval-2014. Puštamo šifru i rezultate riječi i osjećaja http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Míg a szóbeágyazások ma már a legtöbb NLP-feladatban a szavak de facto szabványos ábrázolása, az utóbbi időben a figyelem a vektoros ábrázolásokra irányul, amelyek megragadják a szavak különböző jelentését, azaz érzékeit. Ebben a tanulmányban egy kétirányú LSTM modell képességeit vizsgáljuk fel arra, hogy megtanulják a szó érzékeinek reprezentációit szemantikusan jegyzetelt corporákból. Megmutatjuk, hogy egy olyan architektúra használata, amely tisztában van a szósorrenddel, mint az LSTM, lehetővé teszi számunkra, hogy jobb reprezentációkat hozzunk létre. Javasolt modellünket különböző standard referenciaértékek alapján értékeljük a szemantikai reprezentációk értékelésére, elérve a SemEval-2014 szó-érzékelési hasonlósági feladat korszerű teljesítményét. Kiadjuk a kódot és az így kapott szó és érzék beágyazásokat a http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Մինչդեռ բառերի ներդրումը հիմա de փաստորեն ստանդարտ բառերի ներկայացումն է ՆԼՊ-ի գործերի մեծ մասում, վերջերս ուշադրությունը տեղափոխվում է դեպի վեկտորների ներկայացումներ, որոնք ներառում են բառերի տարբեր իմաստները, այսինքն՝ զգացմունքները: Այս թղթի մեջ մենք ուսումնասիրում ենք երկու ուղղությամբ LSMT մոդելի հնարավորությունները սովորելու բառային զգացմունքների ներկայացումներ սեմանտիկապես նշումնավորված մարմնից: Մենք ցույց ենք տալիս, որ ճարտարապետության օգտագործումը, որը գիտակցում է բառի կարգը, ինչպիսին է LSMT-ը, մեզ հնարավորություն է տալիս ավելի լավ ներկայացումներ ստեղծել: Մենք գնահատում ենք մեր առաջարկած մոդելը տարբեր ստանդարտ համեմատային նպատակների վրա, որոնք օգնում են գնահատել սեմանտիկ ներկայացումները, հասնել ամենաբարձր արդյունքներին, որը կատարվում է 2014-ի «Սեմեվալ» բառի առ զգացմունքի նմանության խնդրի վրա We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Sementara pembangunan kata kini merupakan representation standar de facto kata dalam kebanyakan tugas NLP, akhir-akhir in i perhatian telah bergerak menuju representation vektor yang menangkap makna yang berbeda, i.e., senses, dari kata-kata. Dalam kertas ini kami mengeksplorasi kemampuan model LSTM bidireksi untuk belajar representation dari sens kata dari korpora yang secara semantis annotasi. Kami menunjukkan bahwa penggunaan arsitektur yang menyadari urutan kata, seperti LSTM, memungkinkan kita untuk membuat representation yang lebih baik. Kami menilai model kami yang diusulkan pada berbagai benchmark standar untuk mengevaluasi representation semantis, mencapai prestasi state-of-the-art pada tugas SemEval-2014 kata-ke-sens persamaan. Kami melepaskan kode dan kata yang berasal dan merasakan embedding di http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Mentre le incorporazioni di parole sono ora una rappresentazione standard di fatto delle parole nella maggior parte dei compiti NLP, recentemente l'attenzione si è spostata verso rappresentazioni vettoriali che catturano i diversi significati, cioè i sensi, delle parole. In questo articolo esploriamo le capacità di un modello bidirezionale LSTM per imparare le rappresentazioni dei sensi delle parole da corpora semanticamente annotati. Dimostriamo che l'utilizzo di un'architettura consapevole dell'ordine delle parole, come un LSTM, ci permette di creare rappresentazioni migliori. Valutiamo il nostro modello proposto su vari benchmark standard per la valutazione delle rappresentazioni semantiche, raggiungendo prestazioni all'avanguardia sul compito di somiglianza word-to-sense SemEval-2014. Rilasciamo il codice e le incorporazioni di parole e sensi risultanti a http://lcl.uniroma1.it/LSTMEmbed.

Abstract

単語の埋め込みは、ほとんどのNLPタスクにおける単語の事実上の標準的な表現であるが、最近は、単語の異なる意味、すなわち感覚を取り込むベクトル表現に注目が移りつつある。この論文では、意味論的に注釈された体から単語の感覚の表現を学習するための双方向LSTMモデルの能力を探求する。LSTMのような語順を意識したアーキテクチャを活用することで、より良い表現を作ることができることを示しています。私たちは、セマンティック表現を評価するためのさまざまな標準ベンチマークに基づいて提案されたモデルを評価し、SemEval -2014ワードツーセンス類似性タスクで最先端のパフォーマンスを達成します。http://lcl.uniroma1.it/LSTMEmbedでコードとその結果の単語とセンスの埋め込みをリリースします。

Abstract

Display boxes Nang pepul iki, kita isih bantuan kapasitasi ning model sing tuwih basa gambar, iso nggambar cara sing seneng sampeyan kelas sematik dadi apik. Awak dhéwé ngerasakno ngono kuwi nggawe Arkita sing wis ngerasakno ning arah sing koyok barang, kaya LTT, iso ngejaraké awak dhéwé iso nggawe tarjamahan luwih apik. Awakdhéwé énêmên nggawe model sing nyenggawe barang nggawe bench-tool sing dibenalke nggawe semanti representations, jewisan state-of-the-arts resumen kanggo Kemerdekaan langgar sampulani uwong. Awak dhéwé mbukakipun kode lan kelas ditambah lan sampek Jagat http://lcl.uniroma1.it/LSTMEmbed.

Abstract

თუმცა სიტყვების ინტებიზაცია ახლა de facto სტანდარტული სიტყვების გამოსახულება NLP დავალებში, მხოლოდ აღმოჩენება განსხვავებული სიტყვების განსახულებაში გადატანა. ამ დომენტში ჩვენ ვაკვირდებით ორიდერექციონალ LSTM მოდელის შესაძლებლობა, რომ ვისწავლოთ სიტყვების სიტყვების სიტყვების გამოსახულებები სმენტიკურად მონიტორებული კ ჩვენ ჩვენ აჩვენებთ, რომ არქტიქტურის გამოყენება, რომელიც სიტყვების წესების შესახებ, როგორც LSTM, გვაქვს უკეთესი გამოყენება. ჩვენ განვითარებთ ჩვენი მოდელს განსხვავებული სტანდარტური ბენქმარკების განსაზღვრებისთვის, სემენტიკური გამოსახულებების განსაზღვრებისთვის, რომელიც semiEval-2014 სიტყვებისთვის სხვადასხვადასხვ ჩვენ კოდის და შემდეგ სიტყვის და სიტყვის შემდეგ http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Енді сөздерді ендіру де фактически стандартты NLP тапсырмаларының көпшілігінде сөздерді көрсету үшін, соңғы уақытта бұл сөздердің әртүрлі маңыздылығын түсіндіретін вектордың түріне ауыстырылады. Бұл қағазында біз, семантикалық корпорадан сөз сезімдерін оқыту үшін жұмыс істейтін LSTM үлгісінің мүмкіндіктерін зерттейміз. Біз LSTM секілді сөздердің ретінде білетін архитектураның қолдануын көрсетедік. Бізге жақсы түсініктерді жасауға мүмкіндік береді. Біз өзіміздің келтірілген моделімізді бірнеше стандартты бағдарламаларды бағалау үшін, Semantic representations оқу үшін, semiEval-2014 сөз-to-sense ұқсас тапсырмасының күйіне жеткіземіз. Біз кодты, нәтижесін сөз мен сезімді ендіру http://lcl.uniroma1.it/LSTMEmbed.

Abstract

단어 삽입은 현재 대부분의 NLP 임무에서 단어의 사실상 표준 표현법이지만, 최근 사람들의 주의력은 벡터 표현법으로 옮겨져 벡터 표현법은 단어의 다양한 의미, 즉 감각관을 포착한다.본고에서 우리는 쌍방향 LSTM모델이 의미 표기 어료 라이브러리에서 의미 표시를 배우는 능력을 연구했다.우리는 어순을 이해하는 체계 구조, 예를 들어 LSTM을 이용하여 우리가 더욱 좋은 표현을 만들 수 있음을 나타낸다.우리는 의미 표징을 평가하는 각종 기준 기준에서 우리가 제시한 모델을 평가했고SemEval-2014어부터 의미의 유사도 임무에서 가장 선진적인 성능을 얻었다.우리는 코드와 이로 인해 발생하는 단어와 의미를 삽입했다http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Nors žodži ų įtraukimas dabar yra de facto standartinis žodžių atspindimas daugumoje NLP užduočių, pastaruoju metu dėmesys nukreiptas į vektorių atspindimus, kurie apima skirtingas reikšmes, t. y. žodžių jutimus. Šiame dokumente mes tiriame dvikrypčio LSTM modelio gebėjimus mokytis žodžių jutimų atspindimų iš semantiškai anotuotos korpros. Mes rodome, kad naudojant architektūrą, kuri žino žodžių tvarką, kaip antai LSTM, galime sukurti geresnes atstovybes. Vertiname savo siūlomą model į dėl įvairių standartinių parametrų, skirtų vertinti semantines reprezentacijas ir pasiekti pažangiausius rezultatus, susijusius su „SemEval-2014“ žodžių panašumo užduotimi. Mes išleidžiame kodą ir gautą žodį ir jausmą įterpti į http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Иако зборовите се сега дефактично стандардно претставување на зборовите во повеќето НЛП задачи, неодамна вниманието се префрли кон векторните претставувања кои ги прифаќаат различните значења, односно сетила, на зборовите. Во овој весник ги истражуваме способностите на дворечниот модел на ЛСТМ за да ги научиме претставувањата на зборните сетила од семантично анотирана корпора. Покажуваме дека употребата на архитектура која е свесна за редот на зборовите, како ЛСТМ, ни овозможува да создадеме подобри претставувања. Ние го проценуваме нашиот предложен модел на различни стандардни референтни значки за проценка на семантичните претставувања, достигнување на најсовремената резултат на задачата за сличност од збор до смисла SemEval-2014. We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

ഇപ്പോള്‍ വാക്കുകള്‍ അകത്തേക്കുള്ള വാക്കുകളുടെ വാക്കുകളുടെ സ്ഥിതിയുടെ പ്രതിനിധികളാണ് ഇപ്പോള്‍ NLP ജോലികളില്‍ വെക്റ്റര്‍ പ്രതിനിധികളുടെ നേരെ ശ് ഈ പത്രത്തില്‍ നമ്മള്‍ ഒരു ബിഡിറ്റര്‍ഷന്‍ എസ്റ്റിം മോഡലിന്റെ കഴിവുകള്‍ പരിശോധിക്കുന്നു. വാക്കുകളുടെ പ്രതിനിധികള്‍ സെമാന്റിക ഞങ്ങള്‍ കാണിച്ചുകൊടുക്കുന്നു, വാക്കുകളുടെ ഉത്തരവാദിത്തം അറിയുന്ന ഒരു ആര്‍ക്കിട്ടറിന്‍റെ ഉപയോഗം നമ്മള്‍ നല്ല പ്രതിന സെമാന്റിക് പ്രതിനിധികളെ പരിശോധിക്കുന്നതിനായി നമ്മുടെ പ്രൊദ്ദേശിക്കപ്പെട്ട മോഡല്‍ നമ്മുടെ സെമാന്‍റിക് ബെന്‍മാര്‍ക്കുകളില്‍ നമ്മുടെ മാ We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

НЛП-ийн ихэнх үйлдлийн үгнүүдийн стандарт илэрхийлэл болж байгаа ч, саяхан анхаарлын төвлөрөл нь өөр утгыг авч буй векторын илэрхийлэл рүү шилжүүлж байна. Энэ цаасан дээр бид хоёр дахь LSTM загварын чадварыг судалж байдаг. Үүний мэдрэмжүүдийн илэрхийлэл суралцах боломжтой. Бид үгний дарааллыг мэддэг архитектурын хэрэглээ гэдгийг харуулж байна. Яг л LSTM шиг бидэнд илүү сайн үзүүлэлтийг бий болгож чадна. Бид өөрсдийн санал өгсөн загварыг олон стандарт хэмжээсүүдийн хэмжээсүүдийг үнэлэхэд, SemEval-2014 оны хэмжээсүүдтэй адилхан үйл ажилд хүртэл багтаж байна. Бид кодыг, үр дүнтэй үг болон мэдрэмжийг http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Sementara pembenaman perkataan kini merupakan mewakili piawai de facto perkataan dalam kebanyakan tugas NLP, akhir-akhir in i perhatian telah bergerak ke arah mewakili vektor yang menangkap makna yang berbeza, iaitu senses, perkataan. In this paper we explore the capabilities of a bidirectional LSTM model to learn representations of word senses from semantically annotated corpora. Kami menunjukkan bahawa penggunaan arsitektur yang sedar tentang urutan perkataan, seperti LSTM, membolehkan kita mencipta perwakilan yang lebih baik. Kami menilai model kami yang diusulkan pada berbagai tanda referensi piawai untuk menilai perwakilan semantik, mencapai prestasi state-of-the-art pada tugas SemEval-2014 perkataan-ke-sens persamaan. Kami melepaskan kod dan perkataan yang terhasil dan merasakan penyampaian di http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Filwaqt li l-inkorporazzjoni tal-kliem issa hija rappreżentazzjoni standard de facto tal-kliem fil-biċċa l-kbira tal-kompiti tal-NLP, dan l-a ħħar l-attenzjoni qed tinbidel lejn rappreżentazzjonijiet tal-vetturi li jaqbdu t-tifsiriet different i, jiġifieri s-sensi, tal-kliem. F’dan id-dokument qed nesploraw il-kapaċitajiet ta’ mudell LSTM bidirezzjonali biex jitgħallmu rappreżentazzjonijiet ta’ sensi tal-kelma minn korpura annotata semantikament. Aħna nuru li l-użu ta’ arkitettura li hija konxja mill-ordni tal-kliem, bħal LSTM, tippermettilna noħolqu rappreżentazzjonijiet aħjar. Aħna jivvalutaw il-mudell propost tagħna dwar diversi punti ta’ riferiment standard għall-evalwazzjoni tar-rappreżentazzjonijiet semantiċi, li jilħqu l-prestazzjoni l-aktar avvanzata dwar il-kompitu ta’ similarità bejn il-kliem u s-sens ta’ SemEval-2014. Aħna nħelsu l-kodiċi u l-kliem u s-sens inkorporati li jirriżultaw f’ http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Terwijl woord embeddings nu de facto standaard representatie van woorden zijn in de meeste NLP-taken, verschuift de aandacht de laatste tijd naar vectorrepresentaties die de verschillende betekenissen, d.w.z. zintuigen, van woorden vastleggen. In dit artikel onderzoeken we de mogelijkheden van een bidirectioneel LSTM model om representaties van woordzintuigen te leren van semantisch geannoteerde corpora. We laten zien dat het gebruik van een architectuur die zich bewust is van woordvolgorde, zoals een LSTM, ons in staat stelt betere representaties te creëren. We beoordelen ons voorgestelde model op basis van verschillende standaard benchmarks voor het evalueren van semantische representaties en bereiken state-of-the-art prestaties op de SemEval-2014 woord-tot-sense gelijkenistaak. We geven de code en de resulterende woord- en zinebedden vrij op http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Mens ordinnbygging er no e in de facto standard representasjon av ord i dei fleste NLP-oppgåver, har nyleg oppmerksomheten blitt flytta til vektorrepresentasjonar som tar inn dei forskjellige meaningane, dvs. senser, av ord. I denne papiret utforskar vi kapasiteten for ein bidireksjonal LSTM-modell for å lære representasjonar av ord-sensar frå semantisk annotatert korpora. Vi viser at bruken av eit arkitektur som er kjent på ordordrekkefølgje, som LSTM, kan laga bedre representasjonar. Vi vurderer vår foreslått modell på forskjellige standardbanker for å evaluera semantiske representasjonar, og når det gjer tilstanden til kunsten på semiEval-2014-ord-to-sens-liknande oppgåva. Vi løyser koden og resultatet ord og følelsesinnlegg på http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Podczas gdy osadzenia słów są obecnie de facto standardową reprezentacją słów w większości zadań NLP, ostatnio uwaga przesuwa się w kierunku reprezentacji wektorowych, które uwzględniają różne znaczenia, tj. zmysły, słów. W niniejszym artykule badamy możliwości dwukierunkowego modelu LSTM do nauki reprezentacji zmysłów słowa z semantycznie adnotacji korpusów. Pokazujemy, że wykorzystanie architektury świadomej porządku słów, jak LSTM, pozwala nam tworzyć lepsze reprezentacje. Oceniamy nasz proponowany model na podstawie różnych standardowych wskaźników odniesienia do oceny reprezentacji semantycznych, osiągając najnowocześniejszą wydajność w zadaniu podobieństwa słowo-sens SemEval-2014. Wydajemy kod i powstałe osadzenia słowa i sensu na http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Embora a incorporação de palavras seja agora uma representação padrão de fato de palavras na maioria das tarefas de PNL, recentemente a atenção está mudando para representações vetoriais que capturam os diferentes significados, ou seja, sentidos, das palavras. Neste artigo, exploramos as capacidades de um modelo LSTM bidirecional para aprender representações de sentidos de palavras de corpora semanticamente anotados. Mostramos que a utilização de uma arquitetura ciente da ordem das palavras, como um LSTM, nos permite criar melhores representações. Avaliamos nosso modelo proposto em vários benchmarks padrão para avaliar representações semânticas, alcançando desempenho de última geração na tarefa de similaridade palavra-sentido do SemEval-2014. Nós liberamos o código e as incorporações de palavras e sentidos resultantes em http://lcl.uniroma1.it/LSTMEmbed.

Abstract

În timp ce încorporările de cuvinte sunt acum o reprezentare standard de facto a cuvintelor în majoritatea sarcinilor PNL, recent atenția s-a schimbat spre reprezentări vectoriale care captează diferitele semnificații, adică simțuri, ale cuvintelor. În această lucrare explorăm capacitățile unui model LSTM bidirecțional de a învăța reprezentări ale simțurilor cuvintelor de la corpore adnotate semantic. Noi arătăm că utilizarea unei arhitecturi conștiente de ordinea cuvintelor, precum un LSTM, ne permite să creăm reprezentări mai bune. Evaluăm modelul propus pe diferite criterii standard pentru evaluarea reprezentărilor semantice, atingând performanțe de ultimă generație în cadrul sarcinii SemEval-2014 de similitudine cuvânt în sens. Eliberăm codul și încorporările rezultate de cuvânt și simț la http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Хотя в настоящее время вложения слов являются де-факто стандартным представлением слов в большинстве задач NLP, в последнее время внимание переключается на векторные представления, которые отражают различные значения, то есть чувства, слов. В этой статье мы исследуем возможности двунаправленной модели LSTM для изучения представлений смыслов слов из семантически аннотированных тел. Мы показываем, что использование архитектуры, которая знает порядок слов, как LSTM, позволяет нам создавать лучшие представления. Мы оцениваем предлагаемую модель по различным стандартным критериям для оценки семантических представлений, достигая самой современной производительности по задаче сходства слов SemEval-2014. Мы выпускаем код и результирующие слова и смысловые вставки по адресу http://lcl.uniroma1.it/LSTMEmbed.

Abstract

වෙක්ටර් ප්‍රතිනිධානයක් වෙනුවෙන් වෙක්ටර් අදහස් වෙනුවෙන් අදහස් වෙනුවෙන් අදහස් වලට අල්ලගන්න පුළුවන් වචනයක් වගේ. මේ පත්තරේ අපි පරීක්ෂා කරනවා දුර්වලික LSTM මොඩේල් එකක්ගේ සක්ෂමතාවක් ඉගෙන ගන්න වචන සංඥාවක් වලින් ප්‍රතිචාරණය ක අපි පෙන්වන්නේ වචන පද්ධතියක් දැනගන්න පුළුවන් විද්‍යාපෘතියක් ප්‍රයෝජනය, LSTM වගේ, අපිට හොඳ ප්‍රයෝජනය අපි අපේ ප්‍රශ්ණාපනය විවිධ ස්ථානය බෙන්ච්මාර්ක් වලින් අපේ ප්‍රශ්ණාපනය අවශ්‍ය කරනවා, සෙමාන්තික ප්‍රශ්ණාපනය අවශ්‍ය කරනව අපි කෝඩ් එක සහ ප්‍රතිචාර වචනය සහ අදහසක් පිළිගන්නවා http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Medtem ko so vgradnje besed zdaj de facto standardna reprezentacija besed v večini nalog NLP, se v zadnjem času pozornost premika na vektorske reprezentacije, ki zajemajo različne pomene, tj. čute, besed. V prispevku raziskujemo zmožnosti dvosmernega modela LSTM za učenje reprezentacij besednih čutov iz semantično označenih korpusov. Pokazujemo, da nam uporaba arhitekture, ki se zaveda reda besed, kot je LSTM, omogoča ustvarjanje boljših reprezentacij. Naš predlagani model ocenjujemo na različnih standardnih referenčnih merilih za ocenjevanje semantičnih reprezentacij in dosegamo najsodobnejšo uspešnost pri nalogi podobnosti besed v smislu SemEval-2014. Izdajamo kodo in nastale besede in pomembne vgradnje na spletni strani. http://lcl.uniroma1.it/LSTMEmbed.

Abstract

While word embeddings are now a de facto standard representation of words in most NLP tasks, recently the attention has been shifting towards vector representations which capture the different meanings, i.e., senses, of words. Qoraalkan waxaynu ka baaraynaa awoodda sameynta LSTM ee qasabka ah si aan uga barno noocyada maandooriyaha hadalka ee shirkadda qayb ka tirsan. Waxaynu tusnaynaa in isticmaalka dhismaha ku yaqaan nidaamka hadalka, sida LSTM, waxay inagu caawinaysaa in aynu sameyno wakiil ka wanaagsan. Waxaynu qiimeynaynaa muusikadeenna la soo jeeday oo ku saabsan qiimeynta qofka semantika ah, waxaynu gaadhaynaa xaaladda farshaxanta ee SemEval-2014 waxyaabaha la mid ah oo la mid ah. Waxaynu furaynaa sumadda iyo hadalka ugu dambeeya iyo maanka http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Ndërsa përfshirjet e fjalëve janë tani një përfaqësim de facto standard i fjalëve në shumicën e detyrave të NLP, kohët e fundit vëmendja është zhvendosur drejt përfaqësimeve të vektorëve që kapin kuptimet e ndryshme, pra, ndjenjat, të fjalëve. Në këtë letër ne eksplorojmë aftësitë e një modeli LSTM dy-drejtues për të mësuar përfaqësime të ndjenjave të fjalës nga korpra të anotuar semantikisht. Ne tregojmë se përdorimi i një arkitekture që është në dijeni të rendit të fjalëve, si një LSTM, na lejon të krijojmë përfaqësime më të mira. Ne vlerësojmë modelin tonë të propozuar në pika të ndryshme standarde për vlerësimin e përfaqësimeve semantike, arritjen e shfaqjes së lartë në detyrën e ngjashmërisë fjalë-në-kuptim të SemEval-2014. We release the code and the resulting word and sense embeddings at http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Iako su priključenje riječi sada de facto standardna predstavljanja riječi u većini zadataka NLP-a, nedavno se pažnja prebacila prema predstavljanjima vektora koji uključuju različite značenje, tj. osećanja, reči. U ovom papiru istražujemo sposobnosti dvodirektivnog LSTM model a kako bi naučili zastupanje čula riječi iz semantički annotiranog korpora. Pokazujemo da korištenje arhitekture koja je svjestna riječi, poput LSTM, omogućava nam da stvorimo bolje predstave. Procjenjujemo naš predloženi model na različitim standardnim kriterijama za procjenu semantičkih predstavljanja, postižeći izvršnost stanja umjetnosti na zadatku sličnosti riječi do smisla semiEval-2014. Puštamo šifru i rezultate reči i osećanja http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Medan ordinbäddningar nu är en de facto standardrepresentation av ord i de flesta NLP-uppgifter, har uppmärksamheten nyligen flyttats mot vektorrepresentationer som fångar de olika betydelserna, dvs sinnen, av ord. I denna uppsats undersöker vi förmågan hos en tvåriktad LSTM-modell att lära sig representationer av ordsinnen från semantiskt kommenterade korpora. Vi visar att användningen av en arkitektur som är medveten om ordordning, som en LSTM, gör det möjligt för oss att skapa bättre representationer. Vi bedömer vår föreslagna modell utifrån olika standardriktmärken för utvärdering av semantiska representationer och uppnår toppmodern prestanda på SemEval-2014 ord-till-sense likhetsuppgift. Vi släpper koden och de resulterande ord- och sinnesbäddningarna på http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Wakati maneno yanayoingia sasa ni uwakilishi wa ukweli wa ukweli wa maneno katika kazi nyingi za NLP, hivi karibuni hatua hiyo imekuwa ikibadilika kuelekea uwakilishi wa vector ambao hufanikiwa maana tofauti, yaani hisia, maneno. Katika karatasi hii tunatafuta uwezo wa modeli ya LSTM yenye msimamo mkali ili kujifunza uwakilizaji wa hisia za maneno kutoka kwa kampuni ya kimapenzi inayoudhi. Tunaonyesha kwamba matumizi ya majengo yanayofahamu amri ya maneno, kama LSTM, inatuwezesha kutengeneza maoni bora. Tunafahamu muundo wetu wa pendekezo juu ya misingi mbalimbali ya msingi kwa ajili ya kutathmini wakiwakilishi wa kimapenzi, kufikia hali ya sanaa katika kazi ya SemEval-2014 inayofanana na maneno yanayofanana. Tunaachia sheria na neno na hisia za matokeo http://lcl.uniroma1.it/LSTMEmbed.

Abstract

பெரும்பாலான NLP பணிகளில் உள்ள வார்த்தைகளின் நிலையான வார்த்தைகள் உள்ளிடும் போது, சமீபத்தில் வெக்டர் பிரதிநிதிகளுக்கு கவனம் மாற்றப்பட்டுள்ளது, அதாவத இந்த காகிதத்தில் நாம் ஒரு பிடிட்டர் எஸ்டிஎம் மாதிரியின் இயல்புகளை கண்டறிக்கிறோம் சொல்லும் உணர்வுகளின் குறிப்புகளை பா We show that the utilization of an architecture that is aware of word order, like an LSTM, enables us to create better representations. SemEval-2014 வார்த்தை புரிந்து தெரியும் சமமான செயல்பாட்டில் செம்வால்-2014 வார்த்தையில் புரிந்து கொள்ள மாதிரியை நாம் மதிப்பிடுவதற்கான நி நாங்கள் குறியீட்டை விட்டு மற்றும் முடிவு வார்த்தைகள் மற்றும் உணர்வு உள்ளிடுகிறது http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Sözler i çeri girişimleri NLP görevlerindeki esaslaryň aslynda standart ifade edilmesidir. Şu soňra ünsü farklı ifade eden vektöre yönlendirilip geçirilýär. Bu kağıt içinde, semantik nöbetli korporadan kelime duygularyny öwrenmek üçin iki işaretli bir LSTM modelinin beceriklerini keşfettik. LSTM ýaly söz düzümlerini bilýän bir arhitektura ulanmagyň bize gowy suratlary bejermek üçin mümkin edýäris. Semantik temsillerini değerlendirmek için teklif edilen modelimizi, SemEval-2014'de bir kelime-to-sense benzeri görevi üzerine ulaştıran düzenlenen standart düzenlemeler üzerinde değerlendiriyoruz. Biz ködini we netijeli sözleri we duýgunlaryň içine çykarýarys http://lcl.uniroma1.it/LSTMEmbed.

Abstract

اگرچہ کلمات ابڈینگ اکثر NLP کے کاموں میں کلمات کی استاندارڈ نمایش ہے، اچھے وقت توجه ویکتور نمایش کی طرف تغییر کر رہی ہے جو مختلف معنی کو پکڑتا ہے، یعنی حس، کلمات کی۔ ہم اس کاغذ میں ایک دوسرے مستقل LSTM موڈل کے قابلیت کا تحقیق کرتے ہیں کہ کلمات سنسوں کی تعلیمات سیکھ سکیں جن کے ذریعہ سے سیکھ رہے ہیں. ہم دکھاتے ہیں کہ ایک معماری کا استعمال جو کلمات کے اوقات سے جانتا ہے، جیسے LSTM، ہمیں بہترین نمونات بنانے کی امکان دیتا ہے. ہم نے اپنی پیشنهاد کی موڈل کو مختلف استاندارڈ بنچم مارک کے ذریعہ مطابق سمانتریک نمونات کے مطابق مطابق کرنے کے لئے، سطمئل-2014 کلمات-سمنتی برابری کے کام پر پہنچ رہے ہیں. ہم کوڈ اور نتیجہ لکھنے والی کلمات اور احساس انڈینگ کو آزاد کرتے ہیں http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Hozirda soʻz tuzilgan so'zlarning ko'pchilik NLP vazifalarda so'zlarning andoza taʼminlovchi so'zlari bo'lganda, yangi paytlar vector representariga o'zgartiradi, balki o'z so'zlarni o'zgartiradi. Bu qogʻozda biz bir qanday LSTM modelini o'rganish imkoniyatlarini o'rganish qobiliyatini o'rganamiz. Biz shunday ko'rsatganimiz, so'zlar tartibi haqida o'rganish, LSTM kabi, bizni yaxshi tashkilotlarni yaratishga imkoniyat beradi. Biz SemEval-2014 soʻzni o'xshash vazifasini qiymatish uchun boshqa стандарт parametrlarning modelimizni qiymatimiz, SemEval-2014 soʻzni bir xil vazifani o'zgartiradi. Biz kodlash va natijada so'zlar va ma'lumot http://lcl.uniroma1.it/LSTMEmbed.

Abstract

Trong khi sự nhúng vào từ bây giờ là một sự đại diện thông thường trong hầu hết các công việc Njala, gần đây sự quan tâm đã chuyển hướng tới các biểu hiện vector, nắm bắt các ý nghĩa khác nhau, tức là các giác, của từ. Trong tờ giấy này, chúng tôi khám phá khả năng của mô hình LSD trực tiếp để học các biểu hiện của các giác quan từ vật thể được ghi chú theo ngữ nghĩa. Chúng tôi cho thấy việc sử dụng một kiến trúc có nhận thức về trật tự từ, như một LSTM, giúp chúng tôi tạo ra các biểu tượng tốt hơn. Chúng tôi đánh giá mẫu đề xuất dựa trên các tiêu chuẩn khác nhau để đánh giá các biểu tượng theo ngữ pháp, đạt được những trình độ cao về nét giống nhau của Semkhai-Evol. Chúng tôi giải mã và kết quả là những từ ngữ và cảm giác phù hợp http://lcl.uniroma1.it/LSTMEmbed.

Abstract

虽词嵌今多NLP务单词事实标准表,而近人注意已转矢量,其获单词之义,即感官也。于本文中,讨论双向LSTM模形语义注语料库中学词义功能。吾明用如LSTM之知词序架构,使吾能创之也。凡评语义准,SemEval-2014字到义相似性至先进。 http://lcl.uniroma1.it/LSTMEmbed 发代码及生成单词义嵌之。

Anthology ID:: P19-1165
Volume:: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics
Month:: July
Year:: 2019
Address:: Florence, Italy
Venue:: ACL
SIG:
Publisher:: Association for Computational Linguistics
Note:
Pages:: 1685–1695
Language:
URL:: https://aclanthology.org/P19-1165
DOI:: 10.18653/v1/P19-1165
Bibkey:
Cite (ACL):: Ignacio Iacobacci and Roberto Navigli. 2019. LSTMEmbed : Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term MemoriesLSTMEmbed: Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term Memories. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pages 1685–1695, Florence, Italy. Association for Computational Linguistics.
Cite (Informal):: LSTMEmbed : Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term MemoriesLSTMEmbed: Learning Word and Sense Representations from a Large Semantically Annotated Corpus with Long Short-Term Memories (Iacobacci & Navigli, ACL 2019)
Copy Citation:
PDF:: https://aclanthology.org/P19-1165.pdf
Video:: https://vimeo.com/384489801
Terminologies:

PDF Cite Search Translate Video