25 lines
886 B
Markdown
25 lines
886 B
Markdown
## Программная реализация ВКР "Алгоритм парафразирования для улучшения извлечения сущностей с использованием больших языковых моделей"
|
||
### Запуск проекта
|
||
#### Установка окружения python
|
||
```
|
||
python3 -m venv .venv
|
||
```
|
||
#### Установка зависимостей
|
||
```
|
||
pip install -r requirements.txt
|
||
```
|
||
#### Дополнительная установка зависимостей
|
||
```
|
||
python -m spacy download ru_core_news_lg
|
||
CMAKE_ARGS="-DGGML_CUDA=on -DLLAMA_OPENSSL=ON" pip install llama-cpp-python
|
||
```
|
||
#### Сборка
|
||
```
|
||
cmake -B build -DGGML_CUDA=ON -DLLAMA_OPENSSL=ON
|
||
cmake --build build --config Release -j$(nproc)
|
||
```
|
||
#### Запуск
|
||
```
|
||
llama-server -m models/vikhr-nemo-12b-instruct-r-21-09-24-q8_0.gguf --log-disable
|
||
```
|