在哪里可以找到希伯来语停用词列表?

发布于 2024-08-03 19:16:54 字数 1539 浏览 13 评论 0原文

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(6

寻找我们的幸福 2024-08-10 19:16:54
function getStopWords(){
return array(
'אני',
'את',
'אתה',
'אנחנו',
'אתן',
'אתם',
'הם',
'הן',
'היא',
'הוא',
'שלי',
'שלו',
'שלך',
'שלה',
'שלנו',
'שלכם',
'שלכן',
'שלהם',
'שלהן',
'לי',
'לו',
'לה',
'לנו',
'לכם',
'לכן',
'להם',
'להן',
'אותה',
'אותו',
'זה',
'זאת',
'אלה',
'אלו',
'תחת',
'מתחת',
'מעל',
'בין',
'עם',
'עד',
'נגר',
'על',
'אל',
'מול',
'של',
'אצל',
'כמו',
'אחר',
'אותו',
'בלי',
'לפני',
'אחרי',
'מאחורי',
'עלי',
'עליו',
'עליה',
'עליך',
'עלינו',
'עליכם',
'לעיכן',
'עליהם',
'עליהן',
'כל',
'כולם',
'כולן',
'כך',
'ככה',
'כזה',
'זה',
'זות',
'אותי',
'אותה',
'אותם',
'אותך',
'אותו',
'אותן',
'אותנו',
'ואת',
'את',
'אתכם',
'אתכן',
'איתי',
'איתו',
'איתך',
'איתה',
'איתם',
'איתן',
'איתנו',
'איתכם',
'איתכן',
'יהיה',
'תהיה',
'היתי',
'היתה',
'היה',
'להיות',
'עצמי',
'עצמו',
'עצמה',
'עצמם',
'עצמן',
'עצמנו',
'עצמהם',
'עצמהן',
'מי',
'מה',
'איפה',
'היכן',
'במקום שבו',
'אם',
'לאן',
'למקום שבו',
'מקום בו',
'איזה',
'מהיכן',
'איך',
'כיצד',
'באיזו מידה',
'מתי',
'בשעה ש',
'כאשר',
'כש',
'למרות',
'לפני',
'אחרי',
'מאיזו סיבה',
'הסיבה שבגללה',
'למה',
'מדוע',
'לאיזו תכלית',
'כי',
'יש',
'אין',
'אך',
'מנין',
'מאין',
'מאיפה',
'יכל',
'יכלה',
'יכלו',
'יכול',
'יכולה',
'יכולים',
'יכולות',
'יוכלו',
'יוכל',
'מסוגל',
'לא',
'רק',
'אולי',
'אין',
'לאו',
'אי',
'כלל',
'נגד',
'אם',
'עם',
'אל',
'אלה',
'אלו',
'אף',
'על',
'מעל',
'מתחת',
'מצד',
'בשביל',
'לבין',
'באמצע',
'בתוך',
'דרך',
'מבעד',
'באמצעות',
'למעלה',
'למטה',
'מחוץ',
'מן',
'לעבר',
'מכאן',
'כאן',
'הנה',
'הרי',
'פה',
'שם',
'אך',
'ברם',
'שוב',
'אבל',
'מבלי',
'בלי',
'מלבד',
'רק',
'בגלל',
'מכיוון',
'עד',
'אשר',
'ואילו',
'למרות',
'אס',
'כמו',
'כפי',
'אז',
'אחרי',
'כן',
'לכן',
'לפיכך',
'מאד',
'עז',
'מעט',
'מעטים',
'במידה',
'שוב',
'יותר',
'מדי',
'גם',
'כן',
'נו',
'אחר',
'אחרת',
'אחרים',
'אחרות',
'אשר',
'או'
);
}
function getStopWords(){
return array(
'אני',
'את',
'אתה',
'אנחנו',
'אתן',
'אתם',
'הם',
'הן',
'היא',
'הוא',
'שלי',
'שלו',
'שלך',
'שלה',
'שלנו',
'שלכם',
'שלכן',
'שלהם',
'שלהן',
'לי',
'לו',
'לה',
'לנו',
'לכם',
'לכן',
'להם',
'להן',
'אותה',
'אותו',
'זה',
'זאת',
'אלה',
'אלו',
'תחת',
'מתחת',
'מעל',
'בין',
'עם',
'עד',
'נגר',
'על',
'אל',
'מול',
'של',
'אצל',
'כמו',
'אחר',
'אותו',
'בלי',
'לפני',
'אחרי',
'מאחורי',
'עלי',
'עליו',
'עליה',
'עליך',
'עלינו',
'עליכם',
'לעיכן',
'עליהם',
'עליהן',
'כל',
'כולם',
'כולן',
'כך',
'ככה',
'כזה',
'זה',
'זות',
'אותי',
'אותה',
'אותם',
'אותך',
'אותו',
'אותן',
'אותנו',
'ואת',
'את',
'אתכם',
'אתכן',
'איתי',
'איתו',
'איתך',
'איתה',
'איתם',
'איתן',
'איתנו',
'איתכם',
'איתכן',
'יהיה',
'תהיה',
'היתי',
'היתה',
'היה',
'להיות',
'עצמי',
'עצמו',
'עצמה',
'עצמם',
'עצמן',
'עצמנו',
'עצמהם',
'עצמהן',
'מי',
'מה',
'איפה',
'היכן',
'במקום שבו',
'אם',
'לאן',
'למקום שבו',
'מקום בו',
'איזה',
'מהיכן',
'איך',
'כיצד',
'באיזו מידה',
'מתי',
'בשעה ש',
'כאשר',
'כש',
'למרות',
'לפני',
'אחרי',
'מאיזו סיבה',
'הסיבה שבגללה',
'למה',
'מדוע',
'לאיזו תכלית',
'כי',
'יש',
'אין',
'אך',
'מנין',
'מאין',
'מאיפה',
'יכל',
'יכלה',
'יכלו',
'יכול',
'יכולה',
'יכולים',
'יכולות',
'יוכלו',
'יוכל',
'מסוגל',
'לא',
'רק',
'אולי',
'אין',
'לאו',
'אי',
'כלל',
'נגד',
'אם',
'עם',
'אל',
'אלה',
'אלו',
'אף',
'על',
'מעל',
'מתחת',
'מצד',
'בשביל',
'לבין',
'באמצע',
'בתוך',
'דרך',
'מבעד',
'באמצעות',
'למעלה',
'למטה',
'מחוץ',
'מן',
'לעבר',
'מכאן',
'כאן',
'הנה',
'הרי',
'פה',
'שם',
'אך',
'ברם',
'שוב',
'אבל',
'מבלי',
'בלי',
'מלבד',
'רק',
'בגלל',
'מכיוון',
'עד',
'אשר',
'ואילו',
'למרות',
'אס',
'כמו',
'כפי',
'אז',
'אחרי',
'כן',
'לכן',
'לפיכך',
'מאד',
'עז',
'מעט',
'מעטים',
'במידה',
'שוב',
'יותר',
'מדי',
'גם',
'כן',
'נו',
'אחר',
'אחרת',
'אחרים',
'אחרות',
'אשר',
'או'
);
}
会傲 2024-08-10 19:16:54

我怀疑是否有一个公开可用的标记,但作为一个简单的近似,您可以在相当大的语料库中创建一个非常频繁的标记列表。然后,根据您的需要,您可以直接使用该列表,或者手动过滤它,或者对您的算法进行一些反复试验以了解其工作原理。

以下是来自相当大的 100 个最常见标记的列表我有新闻语料库。请注意,出于我的目的,我将各种标点符号算作标记。数字“1”代表所有数字标记,因此它在列表中的位置较高。

您可能会意识到,由于词法和语法的原因,停止列表在希伯来语中是一个有问题的概念。正字法 - 一些有用的正字法只是附加在单词上。

I doubt that there is one openly available, but as a simple approximation, you could create a list of very frequent tokens in a reasonably large corpus. Then, depending on your need, you can use the list as such, or filter it manually, or do some trial-and-error with your algorithm to see how it works.

Here's a list of the 100 most common tokens from a pretty large news corpus I have. Note that for my purposes, I counted various punctuation characters as tokens. The number "1" represents all the numeric tokens, hence its high position in the list.

You would probably be aware of that stop list is a problematic concept in Hebrew due to the morphology & orthography - some of the useful ones are just attached to the words.

还在原地等你 2024-08-10 19:16:54

Mila 中心有一个高频令牌列表,该列表是根据他们正在使用的大型语料库编制的。请参阅页面底部:http://www .mila.cs.technion.ac.il/hebrew/resources/corpora/index.html

另外,另一件事要考虑的是停用词歧义——某个单词可能没有任何含义,也可能具有非常重要的含义。例如,“אלה”和“אשר”这两个词都是希伯来语介词和有效的人名。有关这种希伯来现象的更多信息,请访问:http:// www.code972.com/blog/2010/05/challenges-indexing-hebrew/(滚动到“停用词歧义”)。

因此,我认为不可能有一个完整且绝对的希伯来语非索引字列表 - 它太依赖于您的语料库和用例。

The Mila center has a list of high frequency token compiled from large corporas they are working with. See the bottom of the page: http://www.mila.cs.technion.ac.il/hebrew/resources/corpora/index.html.

Also, another thing to take into account is stop words ambiguity - where a certain word can either be without any meaning, or with a very improtant meaning. For example - the words אלה and אשר, both are both Hebrew prepositions and valid personal names. More info on this Hebrew phenomenon can be found here: http://www.code972.com/blog/2010/05/challenges-indexing-hebrew/ (scroll to "Stop words ambiguity").

Because of this, I don't think it is possible to have a complete and absolute Hebrew stop list - it is too dependent on your corpora and use case.

罪歌 2024-08-10 19:16:54

之前提供的链接已损坏。
这是新链接:http://www.mila.cs.technion.ac .il/index.html

相关列表缺少一些术语(אתך、אתכן、אתכם 等)。

亲切的问候,
亚龙·沙赫拉巴尼。

The link provided earlier is broken.
This is the new link: http://www.mila.cs.technion.ac.il/index.html

The list in question has some missing terms (אתך, אתכן, אתכם, etc.).

Kind regards,
Yaron Shahrabani.

尐偏执 2024-08-10 19:16:54

以下是 500 个希伯来语停用词的列表(带或不带计数):

https://github.com/gidim/HebrewStopWords

也可以在这里找到:

את
לא
של
אני
על
זה
עם
כל
הוא
אם
או
גם
יותר
יש
לי
מה
אבל
פורום
אז
טוב
רק
כי
שלי
היה
בפורום
אין
עוד
היא
אחד
ב
ל
עד
לך
כמו
להיות
אתה
כמה
אנחנו
הם
כבר
אנשים
אפשר
תודה
שלא
אותו
ה
מאוד
הרבה
ולא
ממש
לו
א
מי
חיים
בית
שאני
יכול
שהוא
כך
הזה
איך
היום
קצת
עכשיו
שם
בכל
יהיה
תמיד
י
שלך
הכי
ש
בו
לעשות
צריך
כן
פעם
לכם
ואני
משהו
אל
שלו
שיש
ו
וגם
אתכם
אחרי
בנושא
כדי
פשוט
לפני
שזה
אותי
אנו
למה
דבר
כ
כאן
אולי
טובים
רוצה
שנה
בעלי
החיים
למען
אתם
מ
בין
יום
זאת
איזה
ביותר
לה
אחת
הכל
הפורומים
לכל
אלא
פה
יודע
שלום
דקות
לנו
השנה
דרך
אדם
נראה
זו
היחידה
רוצים
בכלל
טובה
שלנו
האם
הייתי
הלב
היו
ח
שדרות
בלי
להם
שאתה
אותה
מקום
ואתם
חלק
בן
בואו
אחר
האחת
אותך
כמובן
בגלל
באמת
מישהו
ילדים
אותם
הפורום
טיפוח
וזה
ר
שהם
אך
מזמין
ישראל
כוס
זמן
ועוד
הילדים
עדיין
כזה
עושה
שום
לקחת
העולם
תפוז
לראות
לפורום
וכל
לקבל
נכון
יוצא
לעולם
גדול
אפילו
ניתן
שני
אוכל
קשה
משחק
ביום
ככה
אמא
בת
השבוע
נוספים
לגבי
בבית
אחרת
לפי
ללא
שנים
הזמן
שמן
מעט
לפחות
אף
שוב
שלהם
במקום
כולם
נועית
הבא
מעל
לב
המון
לדבר
ע
אוהב
מוסיפים
חצי
בעיקר
כפות
לפעמים
שהיא
הנהלת
ועל
ק
אוהבים
ת
יודעת
ד
גרוע
שאנחנו
מים
לילדים
בארץ
מודיע
אשמח
שלכם
פחות
לכולם
די
אהבה
יכולה
דברים
הקהילה
לעזור
פרטים
בדיוק
מלח
קל
הראשי
שלה
להוסיף
השני
לדעתי
בר
למרות
שגם
מוזמנים
לאחר
במה
חושב
מאד
יפה
להגשים
חדש
קטן
מחפשים
שמח
מדברים
ואם
במיוחד
עבודה
מדי
ואז
חשוב
שאם
אוהבת
פעמים
מנהלת
אומר
מול
קשר
מנהל
שיהיה
שאין
שאנו
האהבה
ס
הצטרפו
כפית
בשביל
החגים
אופן
לתת
כף
בתוך
סוכר
גיל
בהצלחה
והוא
מקווה
סתם
ויש
נגד
כמעט
שאת
עולה
אי
מספר
ראשון
לדרך
נהיה
לעצב
עושים
ולנהל
היתה
עליו
מזה
הייתה
בא
בפרס
חלות
ראש
מזמינים
טיפים
מכבי
רבה
הורים
‡
מקרה
קרן
המוצלח
להגיע
גדולה
כנראה
החמשיר
הראשון
פלפל
המשחק
וכאן
לדעת
ואת
גרועים
ספר
אגב
אחרים
להגיד
בתפוז
והעולם
אופנה
דווקא
מספיק
שעות
תמונות
כשאנחנו
שוקולד
ולכן
ג
לקרוא
לניהול
שבוע
ויופי
חלום
בה
שהיה
שאלה
מקומה
הזו
בפורומים
החדש
מתאמצים
שחקן
שמזינים
נשמת
בערך
מכל
ומה
רגל
כסף
רואה
קטנה
בצל
בעולם
אינטרנט
חוץ
ברור
הולך
חושבת
לזה
כלום
הן
כאלה
בטוח
הדבר
תהיה
מגיע
סוף
האמת
ממנו
מיכל
החדשה
לתרום
האנשים
ועד
בדרך
אצלי
ההורים
בני
מתוך
כאשר
לבד
ראיתי
מצב
מלא
לבחור
נשמח
החג
רע
עוף
מן
להביא
מצאתי
כתובות
מעניין
צריכה
להכנס
לחלוטין
שעה
מתכון
קודם
תשובות
מדובר
ניהול
מזל
כדאי
יהיו
ההודעות
בוקר
נילוות
איפה
בעיה
קמח
ללכת
פורומים
אמר
נושא
ההכנה
בבקשה
שכל
הזאת
למשחק
פנינה
תחרות
חבר
לקנות
מהם
רגע
גרם
אלו
עצמו
מראש
הכלב
כולנו
עדיף
איתו
למשל
לבשל
למי
רעיונות
הבלוג
רוב
אביב
כרגע
בסוף
אלה
לחג
ערוץ
שווה
באופן
מאמין
לבן
בזה
הכבוד
לראש
ם
ימי
שחור
בצורה
בעמוד
ועם
וחצי
האלה
תמונה
בשלב
משחקים
נו

Here's a list of 500 Hebrew stop words (with and without the counts):

https://github.com/gidim/HebrewStopWords

Also available here:

את
לא
של
אני
על
זה
עם
כל
הוא
אם
או
גם
יותר
יש
לי
מה
אבל
פורום
אז
טוב
רק
כי
שלי
היה
בפורום
אין
עוד
היא
אחד
ב
ל
עד
לך
כמו
להיות
אתה
כמה
אנחנו
הם
כבר
אנשים
אפשר
תודה
שלא
אותו
ה
מאוד
הרבה
ולא
ממש
לו
א
מי
חיים
בית
שאני
יכול
שהוא
כך
הזה
איך
היום
קצת
עכשיו
שם
בכל
יהיה
תמיד
י
שלך
הכי
ש
בו
לעשות
צריך
כן
פעם
לכם
ואני
משהו
אל
שלו
שיש
ו
וגם
אתכם
אחרי
בנושא
כדי
פשוט
לפני
שזה
אותי
אנו
למה
דבר
כ
כאן
אולי
טובים
רוצה
שנה
בעלי
החיים
למען
אתם
מ
בין
יום
זאת
איזה
ביותר
לה
אחת
הכל
הפורומים
לכל
אלא
פה
יודע
שלום
דקות
לנו
השנה
דרך
אדם
נראה
זו
היחידה
רוצים
בכלל
טובה
שלנו
האם
הייתי
הלב
היו
ח
שדרות
בלי
להם
שאתה
אותה
מקום
ואתם
חלק
בן
בואו
אחר
האחת
אותך
כמובן
בגלל
באמת
מישהו
ילדים
אותם
הפורום
טיפוח
וזה
ר
שהם
אך
מזמין
ישראל
כוס
זמן
ועוד
הילדים
עדיין
כזה
עושה
שום
לקחת
העולם
תפוז
לראות
לפורום
וכל
לקבל
נכון
יוצא
לעולם
גדול
אפילו
ניתן
שני
אוכל
קשה
משחק
ביום
ככה
אמא
בת
השבוע
נוספים
לגבי
בבית
אחרת
לפי
ללא
שנים
הזמן
שמן
מעט
לפחות
אף
שוב
שלהם
במקום
כולם
נועית
הבא
מעל
לב
המון
לדבר
ע
אוהב
מוסיפים
חצי
בעיקר
כפות
לפעמים
שהיא
הנהלת
ועל
ק
אוהבים
ת
יודעת
ד
גרוע
שאנחנו
מים
לילדים
בארץ
מודיע
אשמח
שלכם
פחות
לכולם
די
אהבה
יכולה
דברים
הקהילה
לעזור
פרטים
בדיוק
מלח
קל
הראשי
שלה
להוסיף
השני
לדעתי
בר
למרות
שגם
מוזמנים
לאחר
במה
חושב
מאד
יפה
להגשים
חדש
קטן
מחפשים
שמח
מדברים
ואם
במיוחד
עבודה
מדי
ואז
חשוב
שאם
אוהבת
פעמים
מנהלת
אומר
מול
קשר
מנהל
שיהיה
שאין
שאנו
האהבה
ס
הצטרפו
כפית
בשביל
החגים
אופן
לתת
כף
בתוך
סוכר
גיל
בהצלחה
והוא
מקווה
סתם
ויש
נגד
כמעט
שאת
עולה
אי
מספר
ראשון
לדרך
נהיה
לעצב
עושים
ולנהל
היתה
עליו
מזה
הייתה
בא
בפרס
חלות
ראש
מזמינים
טיפים
מכבי
רבה
הורים
‡
מקרה
קרן
המוצלח
להגיע
גדולה
כנראה
החמשיר
הראשון
פלפל
המשחק
וכאן
לדעת
ואת
גרועים
ספר
אגב
אחרים
להגיד
בתפוז
והעולם
אופנה
דווקא
מספיק
שעות
תמונות
כשאנחנו
שוקולד
ולכן
ג
לקרוא
לניהול
שבוע
ויופי
חלום
בה
שהיה
שאלה
מקומה
הזו
בפורומים
החדש
מתאמצים
שחקן
שמזינים
נשמת
בערך
מכל
ומה
רגל
כסף
רואה
קטנה
בצל
בעולם
אינטרנט
חוץ
ברור
הולך
חושבת
לזה
כלום
הן
כאלה
בטוח
הדבר
תהיה
מגיע
סוף
האמת
ממנו
מיכל
החדשה
לתרום
האנשים
ועד
בדרך
אצלי
ההורים
בני
מתוך
כאשר
לבד
ראיתי
מצב
מלא
לבחור
נשמח
החג
רע
עוף
מן
להביא
מצאתי
כתובות
מעניין
צריכה
להכנס
לחלוטין
שעה
מתכון
קודם
תשובות
מדובר
ניהול
מזל
כדאי
יהיו
ההודעות
בוקר
נילוות
איפה
בעיה
קמח
ללכת
פורומים
אמר
נושא
ההכנה
בבקשה
שכל
הזאת
למשחק
פנינה
תחרות
חבר
לקנות
מהם
רגע
גרם
אלו
עצמו
מראש
הכלב
כולנו
עדיף
איתו
למשל
לבשל
למי
רעיונות
הבלוג
רוב
אביב
כרגע
בסוף
אלה
לחג
ערוץ
שווה
באופן
מאמין
לבן
בזה
הכבוד
לראש
ם
ימי
שחור
בצורה
בעמוד
ועם
וחצי
האלה
תמונה
בשלב
משחקים
נו
简单气质女生网名 2024-08-10 19:16:54

我在 https://yeda.cs.technion.ac 中找到了这个 .xlsx 文件.il/resources_lexicons_stopwords.html
这是一个非常广泛的列表(23k 行),您可以很快地从中获取列表

I've found this .xlsx file in https://yeda.cs.technion.ac.il/resources_lexicons_stopwords.html
It's a very reach list (23k rows) and you can get the list out of it pretty quickly

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文