Инференс-сервис работает у вас и падает у коллеги
Ваш сервис инференса на FastAPI поднимается локально и корректно отвечает. У коллеги на его машине тот же код падает при загрузке артефакта модели: в его окружении стоят другие версии библиотек, а часть пакетов вообще отсутствует.
Какое решение здесь стандартное?
- Упаковать сервис в Docker-образ с зафиксированными зависимостями и запускать везде одинаково
- Прислать коллеге список установленных пакетов и попросить поставить их вручную
- Переобучить модель на машине коллеги, тогда артефакт будет совместим с его окружением
- Сохранить модель в другом формате: проблема в способе сериализации, а не в окружении