Доброго времени суток. Тут вышел новый питоновский гуи, который существенно ускоряет генерацию картинок. На мощном процессоре картинка 512х512 создаётся всего за 10 секунд. Ссылка: rupeshs/fastsdcpu: Fast stable diffusion CPU (github.com) И всё было бы хорошо, если бы не эта ошибка: Поэтому вся надежда на Вас, уважаемый gz1k.
чёт почувствовал себя доном карлеоне :3. Ща попробую собрать. Я кстати, не пробовал делать портабельки микромамбой, вместо этого берётся просто миниконда, она оказывается сама по себе тоже портабельная https://huggingface.co/datasets/4eJIoBek/PAIT-Downloads/resolve/main/%D0%BF%D1%8...
АААА бля это не просто сд, а дистилированный в consistency model чтобы мало степов делать, охуеть
правда результаты отличаются от ванильного сд в худшую сторону
latent consistency model
просто дримшейпер
но да, lcm действительно оч быстрый, всего 23 секунды на моём цпу против 5 минут на обычной pytorch имплементации в автоматике
готово https://huggingface.co/datasets/4eJIoBek/PAIT-Downloads/blob/main/fastsdcpu%5Bex...
но здесь работает только openvino, тк она быстрее раза в три и на большинстве новых цпу поддерживается. А ещё эта портабелька почему-то не может без интернета, я пытался, но отвязать её не получилось.
Я удалил этот гуй из загрузок если что, т.к. sdwebui-directml с лорой lcm_lora работает плюс-минус так же по скорости, а функционал больше (и модельки используются стандартного формата, а значит выбор больше). Я оч осторожно присматриваюсь ко всем этим гуям, т.к. есть автоматик, который имеет просто громаднейший функционал по сравнению с остальными, из этого вытекает жирнеший плюс sd по сравнению с остальными модельками, но если амьюз действительно так хорош по скорости, то добавлю определённо. В нём прикол как я понял в том, что там используется olive бэкэнд (и ещё можно запускать разные модули нейронки на разных устройствах, вае на цпу в автоматике не хватает, да), он кстати работает и в sdwebui-directml, надо поставить в батнике --use-olive , но не работает(у меня не заработал), а это уже интересно как минимум. Но надо опять же понимать, что с таким бэкэндом можно будет только базово генерить картиночки безо всяких прибабахов в виде контролнета, но всё равно звучит круто. Конвертирование весов между форматами всегда боль. Крч щас домой приеду и позырю амьюзик.