В прошлой заметке я перевёл агента для 1С с ollama на llama.cpp с MTP и получил почти двукратный прирост скорости. Через день сервер начал падать. Рассказываю, что это за ошибка и как я её обошёл. Как это выглядит llama-server завершается сам, в его логе остаётся: В журнале ядра в ту же секунду: Xid 8 означает […]
Это интересно
13 записей
Я делаю корпоративного агента для 1С и нужна быстрая локальная модель, которая понимает картинки. Сначала всё работало на ollama, но скорость генерации нужна была быстрее. Я собрал лама.cpp, включил MTP и получил почти двукратный прирост без смены железа и модели. Рассказываем, как это было. Также приведём замеры, команду запуска и грабли, с которыми столкнулись. Ускорение […]
Привет, друзья! Сегодня я хочу обсудить одну тему, которая не раз заставляла меня содрогаться в многогранном мире программирования — это удаление префиксов из строк. Знаете, когда у вас есть строка, а в ней лишнего, как у некоторых людей на ужине? Так вот, наш герой — это функция ОбработатьНомерДокумента, которая справляется с этой задачей, как настоящий […]
Привет, друзья! Вы не представляете, сколько я времени провел, мучаясь с переименованием классов в YOLO. Три дня — это не шутка, и благодаря нейросети, которая подсказала мне решение на сайте документации https://docs.ultralytics.com/models/yolov8/, я наконец-то выбрался из этого горячего ада! Итак, давайте перейдем к делу! Чтобы поменять названия классов в модели YOLO, нужен код, которым я […]
На момент публикации , если не хотите заморачиваться то вам просто нужно дабавить в файле cacert.pem директории <путь установки 1С>\bin\ следующие строки: Это добавить вам сертификат CA в доверенные сертификаты для 1С. Ну а теперь как я к этому пришел. Для начала я перешел по ссылке https://api.vetrf.ru/schema/cdm/registry/product/service/v2 и экспортировал сертификат GlobalSign с помощью гул хрома. […]