Столкнулся с интересной ситуации. В одном файле у меня нормально запускалась нейросеть. А в другом выдовало ошибку. Изменений почти не было. Вот код с ошибкойЖ
import pandas as pd
from llama_cpp import Llama
Llama(model_path='models/user-bge-m3-q4_k_m.gguf')

Долго мучался ища по коду. Оказалось все просто. Конфликт был в очереди загрузки
from llama_cpp import Llama
import pandas as pd
Llama(model_path='models/user-bge-m3-q4_k_m.gguf')
