llama_cpp.llama_backend_init() OSError: exception: access violation reading 0x0000000000000000

Столкнулся с интересной ситуации. В одном файле у меня нормально запускалась нейросеть. А в другом выдовало ошибку. Изменений почти не было. Вот код с ошибкойЖ

import pandas as pd

from llama_cpp import Llama

Llama(model_path='models/user-bge-m3-q4_k_m.gguf')

Долго мучался ища по коду. Оказалось все просто. Конфликт был в очереди загрузки

from llama_cpp import Llama

import pandas as pd

Llama(model_path='models/user-bge-m3-q4_k_m.gguf')

Оставьте комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

This site uses Akismet to reduce spam. Learn how your comment data is processed.