Я делаю корпоративного агента для 1С и нужна быстрая локальная модель, которая понимает картинки. Сначала всё работало на ollama, но скорость генерации нужна была быстрее. Я собрал лама.cpp, включил MTP и получил почти двукратный прирост без смены железа и модели. Рассказываем, как это было. Также приведём замеры, команду запуска и грабли, с которыми столкнулись. Ускорение […]
Ubuntu
20 записей
Буду как всегда не многословен
Привет, друзья! Сегодня я хочу поделиться с вами своим небольшим, но интересным проектом. Моя цель была запустить свежий дистрибутив браузера для отображения мониторинга Zabbix. У нас валялось старое устройство для продажи алкогольной продукции, и я решил дать ему вторую жизнь. Это устройство, Atol Hub-19, по сути является специализированной копией Tinkerboard или Cudeboard. Итак, первым делом […]
Недавно я понял почему у меня на серверах периодически отваливаются диски из рейд массива. Всему виной смена наименования устройства. Было /dev/sda стало /dev/sdd. Причиной может банальная перезагрузка и загрузка с другого диска в массиве. или просто добавили новый диск. Поскольку все диски в системе достаточно просто добавить раздел или устройство заново в массив
Managing Jupyter Kernels in JupyterLab Kernels are processes that run independently and interact with JupyterLab. ipykernel provides the IPython kernel for Jupyter, which provides an interactive Python development environment. Kernels in JupyterLab allow the use of different Python versions and virtual environments. By default, one or more kernels will exist when you log into JupyterLab running on Posit Workbench. […]