Update README.md
Browse files
README.md
CHANGED
|
@@ -10,4 +10,16 @@ tags:
|
|
| 10 |
- astrophysics
|
| 11 |
---
|
| 12 |
|
| 13 |
-
Модель для генерации текстов по космосу, астрофизике, космонавтике
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 10 |
- astrophysics
|
| 11 |
---
|
| 12 |
|
| 13 |
+
Модель для генерации текстов по космосу, астрофизике, космонавтике
|
| 14 |
+
|
| 15 |
+
|
| 16 |
+
## Для пользователей text-generation-webui
|
| 17 |
+
В инструменте поломана работа с GPT-2, GPTJ, GPT-NEO и аналогичными модлями, неверно загружается токенизер.
|
| 18 |
+
Ошибка такая:<br>
|
| 19 |
+
>eos_token_id = eos_token_id[0]
|
| 20 |
+
>IndexError: list index out of range
|
| 21 |
+
|
| 22 |
+
Исправляется легко, в файл modules/models.py в функцию load_tokenizer() надо добавить строчку<br>
|
| 23 |
+
<code>tokenizer.eos_token_id = 2</code><br>
|
| 24 |
+
перед<br>
|
| 25 |
+
<code>return tokenizer</code>
|